撮像装置ならびにその動作制御方法およびそのプログラム
【課題】3次元画像モデルの構築に必要な画像データを効率よく取得する。
【解決手段】着目画像に現れておりかつ他の画像に現れていないオクルージョン領域が求められる。ディジタル・スチル・カメラ1による撮像によって得られる動画S4中に,上記着目画像のオクルージョン領域と対応する画像領域が現れていると,そのオクルージョン対応領域ROC42が動画S4中に表示される。3次元画像モデルの構築に不足している画像を動画を通して観察(視認)することができる。
【解決手段】着目画像に現れておりかつ他の画像に現れていないオクルージョン領域が求められる。ディジタル・スチル・カメラ1による撮像によって得られる動画S4中に,上記着目画像のオクルージョン領域と対応する画像領域が現れていると,そのオクルージョン対応領域ROC42が動画S4中に表示される。3次元画像モデルの構築に不足している画像を動画を通して観察(視認)することができる。
【発明の詳細な説明】
【技術分野】
【0001】
この発明は,撮像装置,その動作制御方法およびそのプログラムに関する。
【背景技術】
【0002】
対象物の3次元画像を構築するためは,互いに異なる撮像位置(視点)から上記対象物を撮像して得られる複数の画像に共通する画像領域が含まれていることが必要である。
【0003】
特許文献1には,GPSセンサおよび方位センサを用いることによって3次元画像の構築のための撮影位置および方向を算出することが記載されている。GPSセンサおよび方位センサという比較的高価なセンサが必要とされる。
【0004】
特許文献2には,カメラを直線レール上で移動させつつ対象物を複数回撮影することで視差画像列を生成することが記載されている。3次元画像モデルの構築に必要な新たな画像を撮像すべき位置等の情報を撮影者に提供するものではない。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2008-154027号公報
【特許文献2】特開2006-154800号公報
【発明の概要】
【0006】
3次元画像の構築に不足している画像を表示画面上に表示される動画を通して観察(視認)することができるようにし,3次元画像の構築に必要な画像データを効率よく取得できるようにすることを目的とする。
【0007】
第1の発明による撮像装置は,対象物を撮像し,撮像によって得られる画像データを出力する撮像手段,上記撮像手段から一定周期で出力される画角決定用の動画データによって表される動画を表示画面上に表示するように表示装置を制御する動画表示制御手段,上記撮像手段によって異なる視点から撮像され,かつ少なくとも一部分が共通する複数の画像のそれぞれについて,他の画像に現れていないオクルージョン領域を検出するオクルージョン領域検出手段,上記複数の画像のうちの一つを着目画像として,上記オクルージョン領域検出手段によって検出された上記着目画像中のオクルージョン領域に対応する画像領域を,上記動画から検出するオクルージョン対応領域検出手段,および上記オクルージョン対応領域検出手段によって検出されたオクルージョン対応領域を上記動画中に表示するように表示装置を制御するオクルージョン対応領域表示制御手段を備える。
【0008】
第1の発明による撮像装置の動作制御方法は,撮像手段が,対象物を撮像して撮像によって得られる画像データを出力し,動画表示制御手段が,上記撮像手段から一定周期で出力される画角決定用の動画データによって表される動画を表示画面上に表示するように表示装置を制御し,オクルージョン領域検出手段が,上記撮像手段によって異なる視点から撮像され,かつ少なくとも一部分が共通する複数の画像のそれぞれについて,他の画像に現れていないオクルージョン領域を検出し,オクルージョン対応領域検出手段が,上記複数の画像のうちの一つを着目画像とし,上記オクルージョン領域検出手段によって検出された上記着目画像中のオクルージョン領域に対応する画像領域を上記動画から検出し,オクルージョン対応領域表示制御手段が,上記オクルージョン対応領域検出手段によって検出されたオクルージョン対応領域を上記動画中に表示するように表示装置を制御する。
【0009】
第1の発明によると,異なる視点(撮像位置)から撮像されて得られる複数の画像のうちの一つである着目画像についてのオクルージョン領域(着目画像に現れており,かつ他の画像に現れていない画像領域)に対応する画像領域が動画(スルー画)中に存在すると,その画像領域(オクルージョン対応領域)が動画中に表示される。特定色の半透明画像を動画に重合わせて表示することによって上記オクルージョン対応領域を表示してもよい,枠により囲むことによって上記動画中のオクルージョン対応領域を表示していもよい。オクルージョン対応領域が現れている動画が撮影(画像データとして記録)されることによって,それまで上記着目画像についてオクルージョン領域とされていた画像領域が,オクルージョン領域でなくなる(着目画像に現れており,かつ他の画像にも現れている画像領域になる)。オクルージョン対応領域が現れている動画は対象物の3次元画像の構築に不足している画像であると言える。第1の発明によると,動画中に表されるオクルージョン対応領域によって上記対象物の3次元画像の構築に不足している画像を動画を通して観察(視認)することができる。対象物の3次元画像の構築に必要な画像データを効率よく取得することができる。
【0010】
一実施態様では,上記撮像装置は上記複数の画像のうちのいずれか一つを上記着目画像として決定する着目画像決定手段を備え,上記オクルージョン領域検出手段は,上記着目画像決定手段によって決定された着目画像についてのオクルージョン領域を検出するものである。決定された着目画像についてのオクルージョン領域が検出され,そのオクルージョン領域に対応するオクルージョン対応領域が,動画中から検出される。
【0011】
好ましくは,上記着目画像決定手段は,先に撮像された画像から後に撮像された画像の順番に,上記複数の画像のそれぞれを順次上記着目画像として決定するものである。複数の画像のそれぞれについて,順次,オクルージョン領域が検出され,かつそのオクルージョン領域に対応するオクルージョン対応領域が動画中から検出される。
【0012】
一実施態様では,上記着目画像決定手段は,上記オクルージョン領域検出手段によって上記着目画像中のオクルージョン領域が検出されなかった場合に,上記着目画像とされている画像の次に撮像された画像を,上記着目画像とするものである。異なる視点から撮像される複数の画像のそれぞれについて,順次,上記オクルージョン領域を無くすことができる。
【0013】
上記オクルージョン領域検出手段は,上記撮像手段によって一の視点から撮像された画像のみが存在し(撮影が行われてメモリ・カードに記録されている状態),視点を異ならせて撮像される他の画像が存在しない場合には,上記一の視点から撮像された画像の全領域をオクルージョン領域とするものであってもよい。
【0014】
上記オクルージョン領域検出手段は,一実施態様では,上記着目画像とそれ以外の画像のそれぞれとを用いて検出される複数のオクルージョン領域の論理積領域を,上記着目画像についてのオクルージョン領域とする。
【0015】
オクルージョン対応領域が大きければ大きいほど,その動画は着目画像のオクルージョン領域を削減するのに有効な画像(対象物の3次元画像の構築に有効な画像)を表す。好ましくは,上記オクルージョン対応領域検出手段によって検出されたオクルージョン対応領域の大きさに応じて算出される評価情報を,上記動画中に表示するように上記表示装置を制御する評価情報表示制御手段を備える。評価情報は,画像(たとえば,バー表示)であっても,数値であってもよい。評価情報によって動画中のオクルージョン対応領域の大きさが分かりやすく表示される。着目画像のオクルージョン領域を効率よく削減することができる撮影位置を,評価情報によって撮影者に分かりやすく示すことができる。
【0016】
第2の発明による撮像装置は,所定の回り方向に沿う位置移動をしながら被写体を撮像し,一周撮像を終えると所定の高さ方向に高さ位置を移動させて,再びその高さ位置で上記回り方向に沿う位置移動をしながら上記被写体を撮像するものであり,上記被写体を撮像することによって得られる複数の被写体像を表す画像データを出力する撮像手段,上記撮像手段から一定周期で出力される画角決定用の動画データによって表される動画を表示装置の表示画面上に表示する動画表示制御手段,上記回り方向に沿う一周撮像が完了したかどうかを判断する一周撮像完了判断手段,および上記一周撮像完了手段によって一周撮像が完了していないと判断された場合には上記所定の回り方向と逆方向に位置移動させた前駒画像の一部を上記動画上に半透明表示し,一周撮像が完了したと判断された場合には上記所定の高さ方向と逆方向に位置移動させた一周始め画像の一部を上記動画上に半透明表示するアシスト画像表示手段を備えている。
【0017】
第2の発明による撮像装置の動作制御方法は,所定の回り方向に沿う位置移動をしながら被写体を撮像し,一周撮像を終えると所定の高さ方向に高さ位置を移動させて,再びその高さ位置で上記回り方向に沿う位置移動をしながら上記被写体を撮像する撮像装置の動作制御方法であり,撮像手段が,上記被写体を撮像することによって得られる複数の被写体像を表す画像データを出力し,動画表示制御手段が,上記撮像手段から一定周期で出力される画角決定用の動画データによって表される動画を表示装置の表示画面上に表示し,一周撮像完了判断手段が,上記回り方向に沿う一周撮像が完了したかどうかを判断し,アシスト画像表示手段が,上記一周撮像完了手段によって一周撮像が完了していないと判断された場合には上記所定の回り方向と逆方向に位置移動させた前駒画像の一部を上記動画上に半透明表示し,一周撮像が完了したと判断された場合には上記所定の高さ方向と逆方向に位置移動させた一周始め画像の一部を上記動画上に半透明表示する。
【0018】
第2の発明によると,一周撮像が完了していない場合には,所定の回り方向と逆方向(所定の回り方向が右回りであれば左方向,左回りであれば右方向を意味する)に位置移動された前駒画像の一部が,アシスト画像として動画(スルー画)上に半透明表示される。半透明表示されるアシスト画像を用いて所定の回り方向に沿う次回撮像を行うべき位置を決定することができる。一周撮影が完了したと判断されると,所定の高さ方向と逆方向(所定の高さ方向が上方向であれば下方向,下方向であれば上方向を意味する)に位置移動された一周始め画像(一周撮像の最初の撮像により得られた画像)の一部が,アシスト画像として上記動画上に半透明表示される。半透明表示されるアシスト画像を用いて高さ方向に沿う次回撮像を行うべき位置(次の周回撮像の最初の撮像位置)を決定することができる。回り方向および高さ方向に撮像位置(視点)を異ならせながら,被写体の全体を漏れなく撮像することができるので,対象物の3次元画像の構築に有効な画像データを効率よく取得することができる。
【0019】
たとえば,上記一周始め画像と一致する動画が撮像されたときに一周撮像の完了が判断される。
【0020】
好ましくは,上記撮像装置は,上記一周撮像完了判断手段によって一周撮像の完了が判断された場合に,一周撮像が完了したことを表す一周撮像完了アシスト情報を上記動画上に表示する一周撮像完了アシスト情報表示制御手段を備える。一周撮像が完了したことが表示されるので無駄な撮像が行われてしまうことが防止される。
【0021】
他の実施態様では,被写体までの距離または画角が変動したかどうかを判断する変動判断手段,および上記変動判断手段によって上記距離または画角が変動したことが判断された場合に,上記変動を解消する方向への撮像位置の移動を促すアシスト情報を上記動画上に表示する変動アシスト情報表示制御手段がさらに備えられる。ほぼ同じ距離から被写体を複数回撮像することによって得られる,画角がほぼ一致した複数の画像データを取得することができる。
【0022】
この発明は,上記撮像装置の動作制御方法を実施するためのコンピュータ・プログラムも提供している。そのようなプログラムを格納した記録媒体(CD−ROM等)を提供するようにしてもよい。
【図面の簡単な説明】
【0023】
【図1】4つの異なる位置から対象物を撮影している様子を示す。
【図2】(A)〜(D)は撮像位置を異らせて得られた4つの被写体像を示す。
【図3】オクルージョン領域の削減の様子を示す。
【図4】ディジタル・スチル・カメラの電気的構成を示すブロックである。
【図5】オクルージョン削減処理を含むディジタル・スチル・カメラの動作手順を示すフローチャートである。
【図6】オクルージョン削減処理を含むディジタル・スチル・カメラの動作手順を示すフローチャートである。
【図7】動画(スルー画)の一例を示す。
【図8】動画の一例を示す。
【図9】(A),(B)は,それぞれ被写体像と,そのオクルージョン領域を示す。
【図10】動画の一例を示す。
【図11】(A),(B)は被写体像を示す。
【図12】2つの被写体像からオクルージョン領域が算出される様子を示す。
【図13】2つのオクルージョン領域の論理積領域が算出される様子を示す。
【図14】動画の一例を示す。
【図15】動画の一例を示す。
【図16】(A),(B)は,オクルージョン対応領域の大きさに応じたバー表示を伴う動画を示す。
【図17】変形例におけるディジタル・スチル・カメラの動作手順を示すフローチャートである。
【図18】異なる位置から対象物を撮影している様子を示す。
【図19】第2実施例のディジタル・スチル・カメラの動作手順を示すフローチャートである。
【図20】第2実施例のディジタル・スチル・カメラの動作手順を示すフローチャートである。
【図21】被写体像の一例を示す。
【図22】動画の一例を示す。
【図23】動画の一例を示す。
【図24】動画の一例を示す。
【図25】動画の一例を示す。
【図26】動画の一例を示す。
【実施例】
【0024】
(第1実施例)
この実施例では,ディジタル・スチル・カメラ1が用いられて対象物が様々な位置から撮像される。図1は互いに異なる4つの撮像位置(視点)I〜IVのそれぞれから,ディジタル・スチル・カメラ1によって2つの対象物OB1,OB2を撮像している様子を示している。図2(A)〜(D)は,図1に示す撮像位置I〜IVのそれぞれから撮像されて取得された画像データによって表される被写体像g1〜g4をそれぞれ示している。
【0025】
対象物OB1,OB2はいずれも立方体でありそれぞれ6つの面を有している。図1において,対象物OB1の6面(正面,左側面,背面,右側面,上面および底面)がアルファベット符号A〜Fによって示されている。同様に,対象物OB2の6面がアルファベット符号a〜fによって示されている。
【0026】
図2(A)〜(D)に示す被写体像g1〜g4には,対象物OB1,OB2を表す対象画像ob1,ob2および背景Hを表す背景画像hが含まれている。図2(A)〜(D)において,対象画像ob1,ob2には,図1に示す対象物OB1,OB2の特定面を示す上記アルファベット符号と同一符号が示されている。また,図2(A)〜(D)では,分かりやすくするために,対象画像ob1,ob2のそれぞれにおいて異なる面には異なる模様が,同一面には同一模様が描かれている。
【0027】
被写体像g1〜g4はいずれも互いに異なる視点から対象物OB1,OB2を撮像することで得られたものである。このため,たとえば,第1撮影位置Iからの撮像によって得られた被写体像g1(図2(A))に現れているが,第2撮影位置IIからの撮影によって得られた被写体像g2(図2(B))には現れていない画像部分がある。逆に,被写体像g2に現れているが被写体像g1に現れていない画像部分もある。
【0028】
第1実施例では,異なる視点からの撮像によって得られる複数の画像のうちの一つが着目画像とされ,この着目画像に現れている画像領域と同一の画像領域が上記着目画像と異なる他の画像において現れることになるように,ディジタル・スチル・カメラ1のユーザに対して撮影のアシストを行うものである。
【0029】
着目画像に現れておりかつ他の画像(着目画像以外の画像(参照画像))に現れていない画像領域を,以下,オクルージョン領域OCと呼ぶ。ディジタル・スチル・カメラ1の位置を異ならせて複数の画像を得ることによって,着目画像のオクルージョン領域を削減しかつ無くすことができる。
【0030】
図3は,第1撮像位置Iからの撮像によって得られた被写体像g1(図2(A))を着目画像としたときの,上記オクルージョン領域の削減の様子を示している。図3の上段に着目画像g1のオクルージョン領域(一点鎖線ハッチングで示す)が削減される様子が示されている。図3の下段は,オクルージョン領域の削減に用いられる他の被写体像g2およびg3を示す。
【0031】
着目画像g1のみが撮像されており,被写体像g2,g3がまだ撮像されていない状態では,着目画像g1の全領域がオクルージョン領域OC10とされる(図3上段の左に示す着目画像g1)。
【0032】
第2撮影位置IIからの撮像によって得られた被写体像g2は,着目画像g1に対応する画像領域を含む。すなわち,対象画像ob1の正面Aを表す画像領域(以下,正面領域Aという,他の領域も同じ表現とする),上面領域E,対象画像ob2の正面領域a,上面領域e,および背景領域hは,着目画像g1に現れておりかつ被写体像g2にも現れている。他方,着目画像g1中の対象画像ob1の左側面領域Bおよび対象画像ob2の左側面領域bは,着目画像g1に現れているが,被写体像g2に現れていない。着目画像g1に現れておりかつ被写体像g2にも現れている画像領域はオクルージョン領域ではなくなり,したがってオクルージョン領域OC10から削除される。被写体像g2の撮像によって,着目画像g1中の対象画像ob1の左側面領域Bおよび対象画像ob2の左側面領域bのみが,着目画像g1の新たなオクルージョン領域OC12となる(図3上段の中央に示す着目画像g1)。
【0033】
第3撮影位置IIIからの撮像によって得られた被写体像g3には,対象画像ob1の左側面領域Bおよび対象画像ob2の左側面領域bが現れている。被写体像g3の撮像によって,オクルージョン領域OC12もオクルージョン領域でなくなる。このようにして,被写体像像g2,g3が撮像されることで,着目画像g1のオクルージョン領域がなくなる(図3上段の右に示す着目画像g1)。
【0034】
後述するように,着目画像と対比される画像(上述の説明では被写体像g2,g3)のそれぞれも着目画像とされ,上述の処理が繰返される。撮像位置(視点)を異ならせて撮像された複数の画像について,オクルージョン領域が存在しないようになる。
【0035】
オクルージョン領域の上述した削減処理(消滅処理)は,たとえば,ディジタル・スチル・カメラ1を用いて実行される。図4はディジタル・スチル・カメラ1の電気的構成を示すブロック図である。
【0036】
ディジタル・スチル・カメラ1の全体的な動作はCPU2によって統括される。
【0037】
ディジタル・スチル・カメラ1は固体撮像素子(CCD,CMOSなど)15を備え,固体撮像素子15の前方に撮像レンズ11,絞り12,赤外線カット・フィルタ13および光学的ロウパス・フィルタ(OLPF)14が設けられている。
【0038】
ディジタル・スチル・カメラ1は操作器3を備えている。操作器3には電源ボタン,モード設定ダイアル,二段ストローク・タイプのシャッタ・レリーズ・ボタンなどが含まれる。操作器3から出力される操作信号はCPU2に入力する。モード設定ダイアルによって設定されるモードには撮影モード,再生モードなどがある。撮影モードの中にはさらに通常撮影モード,多視点撮影モードなどがある。
【0039】
またディジタル・スチル・カメラ1には,ストロボ撮像のための発光装置4および発光装置4から出射される出射光の反射光を受光するための受光装置5が設けられている。
【0040】
ディジタル・スチル・カメラ1の電源がオンされ,撮影モードが設定されると,被写体像を表す光線束が,撮像レンズ11,絞り12,赤外線カット・フィルタ13および光学的ロウパス・フィルタ14を介して固体撮像素子15の受光面に入射する。固体撮像素子15の受光面上に被写体像が結像し,被写体像を表すアナログ映像信号が固体撮像素子15から出力する。固体撮像素子15によって一定周期で被写体が撮像され,一定周期で被写体像を表すアナログ映像信号が1フレーム分ずつ出力される。
【0041】
固体撮像素子15から出力された被写体像を表すアナログ映像信号はアナログ信号処理装置16に入力する。アナログ信号処理装置16は相関二重サンプリング回路,信号増幅器などを含み,ここで相関二重サンプリング,信号増幅などが行われる。アナログ信号処理装置16から出力されたアナログ映像信号はアナログ/ディジタル変換回路17に入力し,ここでディジタル画像データに変換される。ディジタル画像データはデータバス32を介してメモリ制御回路21に与えられる。メモリ制御回路21の制御のもと,ディジタル画像データはメイン・メモリ22に一時的に記録される。
【0042】
ディジタル画像データはメイン・メモリ22から読出され,データバス31または32を介してディジタル信号処理回路23に入力する。ディジタル信号処理回路23では白バランス調整,ガンマ補正などの所定のディジタル信号処理が行われる。ディジタル信号処理回路23においてディジタル信号処理が行われたデータは表示制御回路28に与えられる。表示制御回路28によって表示装置29が制御されることにより表示画面上に被写体像(動画)(スルー画)が表示される。
【0043】
シャッタ・レリーズ・ボタンの第一段階の押下があると,レンズ駆動回路6によってレンズ11が駆動されて焦点合わせが行われる。メイン・メモリ22から読出される画像データに基づいてディジタル信号処理回路23において輝度データが得られ,輝度データは積算回路25に入力して積算される。積算値を表すデータはCPU2に与えられて露出量が算出される。算出された露出量となるように絞り12の開口が絞り駆動回路7によって制御され,固体撮像素子15のシャッタ速度が撮像素子駆動回路8によって制御される。
【0044】
シャッタ・レリーズ・ボタンの第二段階の押下があると,アナログ/ディジタル変換回路17から出力された画像データはメイン・メモリ22に記録される。メイン・メモリ22から読み出された画像データに対し,上述のようにディジタル信号処理回路23において所定のディジタル信号処理が行われる。ディジタル信号処理回路23から出力された画像データは圧縮伸張処理回路24においてデータ圧縮される。圧縮された画像データが外部メモリ制御回路26の制御によってメモリ・カード27に記録される。
【0045】
操作器3において再生モードが設定されると,メモリ・カード27に記録されている圧縮画像データが読出される。読出された圧縮画像データは圧縮伸張処理回路24において伸張された後,表示制御回路28に与えられる。表示装置29の表示画面上に再生画像が表示される。
【0046】
図5および図6は,上述したオクルージョン領域の削減処理を含むディジタル・スチル・カメラ1の動作を示すフローチャートであり,上述したモード設定ダイアルによって,多視点撮影モードが設定されたときのディジタル・スチル・カメラ1の動作を示している。以下に説明するディジタル・スチル・カメラ1の処理は,基本的にはCPU2またはディジタル信号処理回路23によって実行される。もちろん,以下に説明するディジタル・スチル・カメラ1による処理を実行する専用のハードウェア,たとえば,オクルージョン領域を検出するオクルージョン検出装置,オクルージョン対応領域を検出するオクルージョン対応領域検出装置等を,ディジタル・スチル・カメラ1に別途設けるようにしてもよい。このことは他の実施例でも同様である。
【0047】
ディジタル・スチル・カメラ1は,上述のように固体撮像素子15を含み,固体撮像素子15からは一定周期で被写体像を表すアナログ映像信号が1フレーム分ずつ出力される。アナログ映像信号はディジタルの画像データに変換され,一定周期の撮像によって得られる画像データによって表される画像が,表示装置29の表示画面上に連続表示される(画角決定用の動画の表示)。
【0048】
図7は,ディジタル・スチル・カメラ1を背面から示すもので,撮像位置I(図1参照)にディジタル・スチル・カメラ1が位置しているときに表示装置29の表示画面に表示される動画S1の例を示している。
【0049】
表示装置29の表示画面上には,第1撮像位置Iからの撮像によって得られる動画S1(図2(A)に示す被写体像g1と同じとしている)が表示されるとともに,動画S1に重合わされてオクルージョン対応領域ROC10(二点鎖線ハッチングで示す)が表示される。オクルージョン対応領域ROCとは,後述するように,着目画像中のオクルージョン領域に現れておりかつ動画にも現れている上記動画中の画像領域をいう。画像データの取得(撮影)が未だ行われていない状態は着目画像が存在しない状態である。この状態の動画についてはその全体がオクルージョン対応領域ROCとして扱われ,したがって最初(1駒目)の撮影の前の状態において表示される動画S1の全体はオクルージョン対応領域ROC10として扱われる。オクルージョン対応領域ROC10はたとえば特定色(たとえば赤色)の半透明画像によって,動画に重合わされて表示画面上に可視的に表示される。
【0050】
図5に戻って,最初の撮影であるかどうか(一駒目画像が未だ得られていない状態かどうか)が判断される(ステップ41)。たとえば,メイン・メモリ22に記憶される撮影済みフラグがオンされているかどうかによって最初の撮影であるかどうかが判断される。撮影済みフラグがオフであれば最初の撮影と判断され,撮影済みフラグがオンであれば最初の撮影ではないと判断される(ステップ41でYES またはNO)。
【0051】
シャッタ・レリーズ・ボタンが押下されると最初の撮影が行われる(ステップ42)。上述の撮影済みフラグがオンされる。たとえば,図2(A)に示す被写体像g1を表す画像データが1駒目画像としてメモリ・カード27に記憶される。
【0052】
1駒目画像g1の撮影が行われると,メイン・メモリ22に2つのカウンタiおよびnが用意される。カウンタiは着目画像として扱われるべき画像の駒番号のカウンタであり,カウンタnは撮影駒総数を表すカウンタである。最初の撮影が行われると,カウンタi,nにそれぞれ1が代入される。1駒目画像g1が着目画像iとなる(i=1)。撮影画像総数は1である(n=1)(ステップ43,44,45)。
【0053】
1駒目画像g1が着目画像iとされると,初期状態として1駒目画像g1についてはその全領域がオクルージョン領域とされる(ステップ46)。1駒目画像g1のみが得られている状態では対比されるべき他の画像が存在しないからである。たとえば,1駒目画像g1のすべての画素についてオクルージョン画素であることを表すオクルージョン・フラグが立てられる。これにより,1駒目画像g1の全領域がオクルージョン領域OC10であることが示される。
【0054】
表示装置29の表示画面に1駒目画像g1を表示させてもよいし,1駒目画像g1に重ね合わせて,オクルージョン領域OC10を示す画像(所定の色の半透明画像)を表示してもよい(図3上段の左に示す被写体像g1を参照)。この場合には,図7に示す動画S1およびオクルージョン対応領域ROC10と同様の表示が,表示装置29の表示画面上に表示される。
【0055】
1駒目画像g1の撮影から所定時間が経過すると,またはシャッタ・レリーズ・ボタンが半押しされると,1駒目画像g1の表示に代えて,動画(スルー画)が表示画面上に再び表示される。
【0056】
ディジタル・スチル・カメラ1が移動させられ,移動後の撮像位置において動画が撮像されると,着目画像iのオクルージョン領域OCに現れており,かつ動画中にも対応して現われている画像領域(対応領域)が求められ,求められた対応領域が動画に重合わされて表示される(ステップ52,53)。
【0057】
図8は,第2撮像位置II(図1参照)から撮像されているときの動画S2(図2(B)の被写体像g2と同じとしている)を示すもので,動画S2に重合わされて,着目画像i,ここでは1駒目画像g1のオクルージョン領域OC10(図7参照)中に現れており,かつ動画S2中にも対応して現れている画像領域が表示されている様子を示している。着目画像iのオクルージョン領域中に現れており,かつ動画中にも対応して現れている画像領域が,上述したオクルージョン対応領域ROCである。図8においてオクルージョン対応領域ROC21が二点鎖線ハッチングによって示されている。
【0058】
着目画像iが1駒目画像(被写体像g1)(図2(A))でありその全領域がオクルージョン領域OC10であるとする。また,第2撮像位置IIから撮像されている動画S2が図2(B)の被写体像g2と同じであるとする。この場合,図2(A)と図2(B)を対比して,背景領域h,対象画像ob1の上面領域E,対象画像b2の正面領域aおよび上面領域eは,着目画像iのオクルージョン領域OC10(被写体像g1の全体)中に現れており,かつ動画S2にも現れている。図8を参照して,背景領域h,対象画像ob1の上面領域E,対象画像ob2の正面領域aおよび上面領域eが新たなオクルージョン対応領域ROC21とされる。着目画像i中のオクルージョン領域OC10と動画S2とを比較して,動画S2を構成する画素に対応する画素が着目画像中i中のオクルージョン領域OC10にも存在する,そのような画素で表される領域がオクルージョン対応領域ROC21とされる。
【0059】
対象画像ob1の正面領域Aには,着目画像i(被写体像g1)(図2(A))に現れていず,かつ動画S2(被写体像g2)(図2(B))に現れている領域が存在する。この領域(以下,非対応領域という)が,図8において符号N1で示す枠で囲まれて示されている。対象画像ob1の正面領域Aについては,非対応領域N1を除く領域がオクルージョン対応領域ROC21とされる。非対応領域N1は,動画S2において撮像された対象物OB1の正面Aの色のままで表示される。
【0060】
オクルージョン対応領域ROCは,着目画像i中のオクルージョン領域と動画とに共通して現れている画像領域を,上記動画中に示すものである。オクルージョン対応領域ROCが大きいほど,そのときの動画は,着目画像iのオクルージョン領域OCに対応する画像領域を多く含むことが示される。着目画像iのオクルージョン領域OCに対応する画像領域を多く含む画像を撮影することできれば,着目画像iのオクルージョン領域OCの削減効果が高くなる(図3参照)。
【0061】
ユーザは,表示装置29の表示画面中に表示される画角決定用の動画を見ながら,オクルージョン対応領域ROC21が大きく表示される撮像位置から2駒目の画像の取得を試みることになる。
【0062】
シャッタ・レリーズ・ボタンが押下されると撮影が行われ,画像データがメモリ・カード27に記憶される(ステップ54)。撮影総駒数nがインクリメントされる(ステップ55)。n=2になる。
【0063】
着目画像iとn駒目画像(上述のステップ54において撮影された画像)とが用いられて,着目画像iのオクルージョン領域のうち,n駒目画像に現れている画像領域が求められて残りのオクルージョン領域が求められる(ステップ56)。また,n駒目画像のオクルージョン領域が着目画像iを用いて求められる(ステップ57)。
【0064】
図2(A)に示す被写体像g1が着目画像i(1駒目画像)であり,図2(B)に示す被写体像g2が2駒目画像である場合を例にして,ステップ56,57の処理を説明する。
【0065】
図9(A)は,1駒目画像g1のオクルージョン領域OC10(被写体像g1の全体)のうち,2駒目画像像g2にも現れている画像領域を除く,残りのオクルージョン領域OC12を,1駒目画像g1中に明示して示すものである。
【0066】
1駒目画像g1のオクルージョン領域OC10に含まれる画像領域のうち,対象画像ob1の左側面領域Bおよび対象画像ob2の左側面領域b以外の領域は,2駒目画像g2中に現れている。図9(A)を参照して,1駒目画像g1のオクルージョン領域OC10に現れており,かつ2駒目画像像g2にも現れている画像領域は,上記オクルージョン領域OC10から除かれる。この結果,対象画像ob1の左側面領域Bおよび対象画像ob2の左側面領域bが,1駒目画像g1の残りオクルージョン領域OC12として把握される(ステップ56)。
【0067】
図9(B)は,2駒目画像g2のオクルージョン領域を示すもので,1駒目画像g1との関係で求められたオクルージョン領域OC21が,2駒目画像g2中に明示して示されている。
【0068】
2駒目画像g2中の対象画像ob1の正面領域Aの一部が,2駒目画像g2に現れている画像領域のうち1駒目画像g1に現れていない画像領域である。図9(B)を参照して,2駒目画像g2中の対象画像ob1の正面領域Aの一部が,2駒目画像g2のオクルージョン領域OC21として求められる(ステップ57)。
【0069】
ステップ57において求められる,1駒目画像g1と2駒目画像g2を用いることで求められる2駒目画像g2についてのオクルージョン領域OC21(図9(B))は,二駒目画像g2が着目画像とされたときの処理において用いられる(詳しくは,後述する)。
【0070】
図6に戻って,着目画像iとn駒目画像とを用いた上述の処理を終えると,着目画像iのオクルージョン領域の更新処理が行われる(ステップ58)。オクルージョン領域の更新処理では,着目画像iについてのそれまでのオクルージョン領域が,ステップ56において求められた残りオクルージョン領域に置換する処理が行われる。すなわち,1駒目画像g1の全領域とされていたオクルージョン領域OC10(図7)が,図9(A)に示すオクルージョン領域OC12に置換えられる。
【0071】
図5に戻って,着目画像i,ここでは1駒目画像g1にオクルージョン領域があるかどうかが判断される(ステップ41でNO,ステップ47)。1駒目画像g1にはオクルージョン領域OC12が存在するので(図9(A)),再び,1駒目画像g1と画角決定用の動画(スルー画)との対応領域(オクルージョン対応領域)が求められる。求められたオクルージョン対応領域が,上記動画に重合わされて表示される(ステップ47でYES ,ステップ52,53)。
【0072】
図10は,ディジタル・スチル・カメラ1が第2撮像位置IIから第3撮像位置III(図1参照)に移動させられて,第3撮像位置IIIから撮像されているときの動画S3(図2(C)の被写体像g3と同じ)を示すもので,動画S3に重合わされて,着目画像i,ここでは1駒目画像g1の現在のオクルージョン領域OC12(図9(A))に現れており,かつ動画S3中にも対応して現れているオクルージョン対応領域ROC31が表示されている様子を示している。着目画像i(1駒目画像g1)の現在のオクルージョン領域OC12は,対象画像ob1の左側面領域Bと対象画像ob2の左側面領域bである(図9(A))。対象画像ob1の左側面領域Bと対象画像ob2の左側面領域bは動画S3中に現れている。動画S3では,対象画像ob1の左側面領域Bと対象画像ob2の左側面領域bがオクルージョン対応領域ROC31として表示される。
【0073】
シャッタ・レリーズ・ボタンが押下されて撮影が行われると,撮影総駒数nがインクリメントされる(ステップ54,55)。ここでは,n=3となる。
【0074】
上述したように,着目画像iとn駒目画像とが用いられて,着目画像i中のオクルージョン領域のうちn駒目画像にも現れている画像領域が求められて,残りのオクルージョン領域が求められる(ステップ56)。また,n駒目画像のオクルージョン領域が,着目画像iを用いて求められる(ステップ57)。ここでは,1駒目画像(図2(A)の被写体像g1)と3駒目画像(図2(C)の被写体像g3)とが用いられる。
【0075】
図9(A)を参照して,1駒目画像g1の現在のオクルージョン領域OC12は対象画像ob1の左側面領域Bおよび対象画像ob2の左側面領域bである。ここで,3駒目画像(被写体像g3)(図2(C))には,対象画像ob1の左側面領域Bおよび対象画像ob2の左側面領域bが現れている。したがって,3駒目画像g3の撮影によって,図11(A)に示すように,1駒目画像g1には残りオクルージョン領域が存在しなくなる(ステップ56)。
【0076】
図2(A)および図2(C)を参照して,3駒目画像g3のすべての画像領域は,1駒目画像g1に現れている。このため,1駒目画像g1を用いると,3駒目画像g3にオクルージョン領域はない。図11(B)に示すように,ステップ57において3駒目画像g3についてのオクルージョン領域は無いと判断される。
【0077】
着目画像iのオクルージョン領域の更新処理(ステップ58)において,着目画像iについてのそれまでのオクルージョン領域が,ステップ56において求められた残りオクルージョン領域と置換される。1駒目画像g1のオクルージョン領域OC12(図9(A))がすべて無くなったことが把握される(図11(A))。
【0078】
着目画像iにオクルージョン領域があるかどうかの判断において,1駒目画像g1にオクルージョン領域がないことが判断されると(ステップ47でNO),カウンタiがインクリメントされて,2駒目画像,ここでは,被写体像g2(図2(B))を着目画像とする処理に進む(ステップ48,i=2)。
【0079】
1駒目画像g1に対する上述した処理において,1駒目画像g1,2駒目画像g2および3駒目画像g3が撮影されている。2駒目画像g2を着目画像とする処理では,はじめに,これまでの処理によって既に得られている画像を用いた処理が行われる。
【0080】
着目画像i,ここでは2駒目画像g2と,i+1〜n駒目画像,ここでは3駒目画像g3(i+1=3,n=3となる)を用いて,着目画像i(2駒目画像g2)のオクルージョン領域が求められる(ステップ50)。
【0081】
図12は,2駒目画像g2(着目画像i)と3駒目画像g3とを用いて,2駒目画像g2のオクルージョン領域OC23を求める様子を示している。
【0082】
2駒目画像g2に現れている画像領域のうち,対象画像ob1の正面領域Aと,対象画像ob2の正面領域aは,3駒目画像g3に現れていない。2駒目画像g2中の対象画像ob1の正面領域Aと対象画像ob2の正面領域aが,2駒目画像g2と3駒目画像g3とを比較することによって求められる,2駒目画像g2のオクルージョン領域OC23とされる。4駒目,5駒目等の画像が撮影されているとすれば,2駒目画像g2とそれらの画像とを比較して得られる2駒目画像g2のオクルージョン領域も,ステップ50において求められる。
【0083】
ステップ50において求められたオクルージョン領域OC23と,対象画像iについて既に求められているオクルージョン領域との論理積がとられ,オクルージョン領域が更新される(ステップ51)。対象画像i,ここでは2駒目画像g2については,上述した1駒目画像g1における処理において,1駒目画像g1との間で,2駒目画像g2のオクルージョン領域OC21が求められている(図9(B))。ステップ50において求められたオクルージョン領域OC23と,既に算出されているオクルージョン領域OC21との論理積がとられる。ステップ50において2駒目画像g2のオクルージョン領域が複数求められていれば,それらのオクルージョン領域OCについても論理積がとられる。
【0084】
図13は,2駒目画像g2のオクルージョン領域OC23と,2駒目画像g2のオクルージョン領域OC21との論理積をとる様子を示している。
【0085】
2駒目画像g2についての2つのオクルージョン領域OC23,21の論理積をとることによって,2つのオクルージョン領域OC23,OC21の両方に共通に現れているオクルージョン領域OC213が,2駒目画像g2についての残りオクルージョン領域となる。2駒目画像g2についてのオクルージョン領域が,オクルージョン領域OC213に更新される(ステップ51)。
【0086】
着目画像iのオクルージョン領域と,動画との対応領域(オクルージョン対応領域)が求められ,求められたオクルージョン対応領域が表示される(ステップ52)。図14は,上述したオクルージョン領域OC213を有する2駒目画像g2が着目画像iであるときに,第4撮像位置IV(図1参照)から撮像されている動画S4(図2(D)の被写体像g4と同じ)を示すものある。動画S4に重合わされて,着目画像i,ここでは2駒目画像g2のオクルージョン領域OC213(図13参照)に現れておりかつ動画S4にも現れている画像領域(オクルージョン対応領域ROC42)が表示される(ステップ53)。
【0087】
第4撮像位置IVからの撮影が行われて4駒目画像g4が取得されると,カウンタnがインクリメントされ(n=4となる),着目画像i(ここでは,2駒目画像g2)中のオクルージョン領域OC213が無くなる(ステップ54,55,56,58,ステップ47でNO)。カウンタiがインクリメントされ(i=3となる),3駒目画像g3を着目画像とする処理に進む(ステップ48)。
【0088】
このようにして,撮影されたすべての画像のそれぞれが着目画像とされて,着目画像のオクルージョン領域が次第に削減されて消去される(図3参照)。
【0089】
撮影された画像のすべてについてオクルージョン領域がない状態になると,カウンタiとカウンタnの数が等しくなる(i=n)。これにより,上述した一連の処理が終了する(ステップ49でYES)。
【0090】
オクルージョン領域のない着目画像は,着目画像に現れている画像領域のすべてが,着目画像の撮像位置と異なる撮像位置から取得された他の画像にも現れていることを意味する。対応する画像領域が,互いに撮像位置(視点)が異なる少なくとも2つの画像に含まれている状態となる。そのような複数の画像からは3次元画像の生成を行いやすい。
【0091】
上述したように,ディジタル・スチル・カメラ1の表示装置29の表示画面に表示される画角決定用の動画中には,着目画像iのオクルージョン領域OCを削減することができる画像領域がオクルージョン対応領域ROCとして明示的に表示される。表示されるオクルージョン対応領域ROCが大きいほど,着目画像iのオクルージョン領域OCの削減ないし消去に有効であり,3次元画像に必要な画像(3次元画像に不足している画像)と言える。オクルージョン対応領域ROCによって3次元画像の構築に好ましい撮像方向がユーザにアシストされる。現在の撮像方向が妥当である(または妥当でない)ことを,動画中に表されるオクルージョン対応領域ROCによって容易に認識することができる。
【0092】
ディジタル・スチル・カメラ1を用いた異なる撮像位置からの複数回の対象物OB1,OB2の撮影において(図1参照),ディジタル・スチル・カメラ1と対象物OB1,OB2との間の距離はほぼ同じであるのが好ましい。ディジタル・スチル・カメラ1と対象物OB1,OB2との間の距離に大きな変動があった場合(たとえば,前駒画像の撮影時に計測された撮影距離から所定距離だけ異なる撮影距離が計測された場合)に,図15に示すように,「カメラを近づけて下さい!」(または「遠ざけて下さい!」)といった距離に関するアシスト情報m1を動画S5に重合わせて表示するようにしてもよい。ディジタル・スチル・カメラ1と対象物OB1,OB2との間の距離(距離変動)は,ディジタル・スチル・カメラ1が備える測距装置(図示略)によって判断してもよいし,被写体像中の対象画像ob1,ob2の大きさに基づいて判断してもよい。
【0093】
図16(A),(B)および図17は変形例を示している。
【0094】
図16(A),(B)は,いずれもディジタル・スチル・カメラ1を背面から示すものである。
【0095】
上述したように,ディジタル・スチル・カメラ1の表示画面には,画角決定用の動画(スルー画)が表示されるとともに,着目画像iのオクルージョン領域OCに対応する動画中の対応領域(オクルージョン対応領域)ROCが求められて,上記動画に重合わされて表示される。この変形例では,動画中のオクルージョン対応領域ROCの面積(大きさ)が求められ,求められた面積に応じた長さを持つ表示バーB1が動画に重合わされて表示される。図16(A),(B)には,オクルージョン領域ROCの面積に応じた長さを持つ表示バーB1が,動画S6,S7に重合わされて表示されている様子がそれぞれ示されている。ディジタル・スチル・カメラ1の位置を異ならせることによってオクルージョン対応領域ROCの面積が変動すると,それに合わせて表示バーB1の長さが変動する。オクルージョン対応領域ROCの面積が大きいほど,長さの長い表示バー1が表示される。オクルージョン対応領域ROCの面積が小さくなると,表示バーB1の長さは短くなる。表示バーB1の長さによってオクルージョン対応領域ROCの大きさを簡単に認識することができ,ディジタル・スチル・カメラ1の位置(視点)を,オクルージョン領域の削減により好ましい位置に調整することができる。
【0096】
図17は,表示バーB1を表示する場合のディジタル・スチル・カメラ1の処理を示すフローチャートであり,図6に示すフローチャートと対応する。図6に示すフローチャートと同一処理には同一符号を付し,重複説明を避ける。
【0097】
はじめに,オクルージョン対応領域表示面積を格納するためのメモリ領域がメイン・メモリ22に設けられ,ここに初期値(0)が格納される(ステップ61)。
【0098】
上述したように,着目画像iのオクルージョン領域OCと動画とが用いられてオクルージョン対応領域ROCが求められる(ステップ52)。
【0099】
求められたオクルージョン対応領域ROCの面積(画素数または面積率でもよい)が算出されて上記メモリ領域に格納される。メモリ領域に格納されたオクルージョン対応領域ROCの面積に応じた表示バーB1の長さが算出される(ステップ62)。算出された長さを持つ表示バーB1が,動画S5,S6に重合わされて表示画面上に表示される(ステップ63,図16(A),図16(B))。
【0100】
撮影操作(シャッタ・レリーズ・ボタンの押下)があるまで(ステップ64でYES ,ステップ54),動画の表示,オクルージョン対応領域ROCの表示および表示バーB1の表示が繰返される(ステップ64でNO)。
【0101】
表示バーB1の表示に代えてまたは加えて,算出された面積の面積率(動画の1フレームの全画素数に対するオクルージョン対応領域ROCを構成する画素数の割合)を表す数値を,上記動画に重合わせて表示してもよい。
【0102】
(第2実施例)
図18から図26は,第2実施例を示している。
【0103】
第2実施例は,異なる視点から対象物を撮影するためにディジタル・スチル・カメラ1を移動させるときに,その移動方向および移動距離についてのアシスト情報の表示を行うものである。
【0104】
図18は,ディジタル・スチル・カメラ1を用いて対象物(瓶)OB3を様々な位置p(1)〜p(m)から撮像している様子を示している。
【0105】
第2実施例では,ディジタル・スチル・カメラ1を移動させるべき2つの移動方向および移動量があらかじめ設定される。移動量はあらかじめ定められ,2つの移動方向はたとえば操作器3を用いて設定される。設定される2つの移動方向の一つ(第1移動方向)は,対象物OB3を右回り(反時計回り)または左回り(時計回り)のいずれの回り方向で撮影するか(ディジタル・スチル・カメラ1を移動させるか)を規定する。他の一つの移動方向(第2移動方向)は上記第1移動方向に直交する方向であり,第1移動方向(右回りまたは左回り)の一周分の対象物OB3の撮影を終えた後,上方向または下方向のいずれにディジタル・スチル・カメラ1を移動させるかを規定する。第2移動方向の移動の後,再度,第1移動方向にディジタル・スチル・カメラ1を移動させながら複数回の撮影が行われる。図18に示すように,たとえば,ディジタル・スチル・カメラ1が右回りに移動させられて,1駒目,2駒目・・・N駒目の対象物OB3の複数回の撮影が行われる。一周分の撮影が完了するとディジタル・スチル・カメラ1が上方向に移動させられ,その高さ位置で再びN+1駒目から始まる2周目の右回りの撮影が行われる。M駒目の撮影によって視認することができる対象物OB3の全体の撮影の完了が判断されると,ディジタル・スチル・カメラ1による処理が終了する。
【0106】
以下の説明では,上記第1移動方向を右回り方向とし,上記第2移動方向を上方向として説明する。
【0107】
図19および図20は,第2実施例のディジタル・スチル・カメラ1の処理を示すフローチャートである。
【0108】
はじめに,操作器3が用いられてディジタル・スチル・カメラ1を移動させるべき互いに異なる2つの方向(第1移動方向および第2移動方向)が設定される(ステップ71)。ここでは,上述のように,第1移動方向として右回り方向が設定され,第2移動方向として上方向が設定された場合を説明する。
【0109】
最初の撮影(1駒目の撮影)かどうかが判断される(ステップ72)。
【0110】
最初の撮影である場合,特段の処理は行われず,ディジタル・スチル・カメラ1の表示装置29に動画によって表示されている対象画像ob3を含む画像データが,シャッタ・レリーズ・ボタンの押下に応じてメモリ・カード27に記録される(ステップ83)。
【0111】
図21はディジタル・スチル・カメラ1を背面から示すもので,撮像位置p(1)から撮像によって得られた1駒目画像n1が,表示装置29の表示画面上に表示されている様子を示している。1駒目画像n1および後述する他の画像は,対象物OB3を表す対象画像ob3を含む。
【0112】
各周回の最初の撮像によって得られる画像は,周始め画像としてメイン・メモリ22に記憶される。1駒目画像n1は1周目の最初の撮像によって得られた画像であるから,周始め画像としてメイン・メモリ22に記録される(ステップ84)。
【0113】
メイン・メモリ22に一周始めフラグが設定される。初期状態では一周始めフラグはオフされる(ステップ85)。後述するように,一周始めフラグは一周分の撮影が完了したときにオンされる。一周始めフラグを用いた処理の詳細は後述する。
【0114】
撮影完了操作が無ければ(ステップ93でNO),次の駒(2駒目)の処理に進む(ステップ72でNO)。ディジタル・スチル・スチル1が第1移動方向,ここでは右回り方向に移動させられる。図18を参照して撮像位置がp(1)からp(2)となる。
【0115】
一周始めフラグがオンされているかどうかが判断される(ステップ73)。1駒目画像n1のみが取得されているとき,上述のように一周始めフラグはオフされている(ステップ85)。この場合,ディジタル・スチル・カメラ1の現移動方向は第1移動方向(右回り方向)であると判断される(ステップ73でNO,ステップ75)。
【0116】
判断された現移動方向にしたがって位置移動(位置ずらし)が行われた前駒画像が,アシスト画像として,画角決定用の動画(スルー画)上に半透明表示される(ステップ76)。
【0117】
図22は,撮像位置p(2)から2駒目画像n2が取得される前に,表示画面上に表示される動画Sn2を示している。
【0118】
動画Sn2に重合わされて,前駒画像,ここでは1駒目画像n1(図21参照)が左方向に位置移動された状態で半透明表示される。半透明表示される位置移動された前駒画像n1がアシスト画像An1である。
【0119】
移動方向が右回りである場合,アシスト画像は,前駒画像を左向きに所定移動量(たとえば,前駒画像の横幅の1/3程度の移動量)だけ位置を移動させ,それを半透明表示としたものである。移動方向が左回りであれば,アシスト画像の位置移動方向は右向きとなる。図22に示すように,アシスト画像としての第1駒目画像An1は動画Sn2中において左方向に位置がずらされて半透明表示される。第1駒目画像n1の一部(第1駒画像の右端から2/3程度)が動画Sn2中に半透明表示される。
【0120】
動画の位置とアシスト画像の位置とが一致しているかどうかが判断される(ステップ77)。ここでは,動画Sn2の位置が,アシスト画像An1(位置移動後の1駒目画像n1)の位置と一致しているかどうかが判断されることになる。たとえば,半透明表示されているアシスト画像(1駒目画像n1の一部)から得られる複数の特徴点と,動画から得られる上記特徴点に対応する対応点の位置に基づいて,上記動画の位置がアシスト画像の位置と一致しているかどうかが判断される。もちろん,アシスト画像と動画に共通して現れている主要被写体像(たとえば,対象画像ob3)の位置に応じて,動画の位置とアシスト画像の位置の一致を判断してもよい。動画の位置とアシスト画像の位置が一致するかどうかの判断は,前駒画像の一部が動画中に現れており,かつ設定された移動方向および所定移動量に合致する移動後の撮像位置(すなわち,次回撮像位置)からの撮像が行われているかを判断するものである。
【0121】
動画Sn2の位置とアシスト画像An1(位置移動後の前駒画像n1)の位置とが一致していない場合,画角および位置を合わせるアシスト情報が表示画面上に表示される(ステップ78でNO,ステップ79)。
【0122】
図22を参照して,たとえば,アシスト画像An1が左に,動画Sn2が右にずれて表示されている場合,右向矢印r1および「カメラの位置を合わせて下さい」の文字列m2が,アシスト情報として表示されている。動画Sn2の位置ずれの方向および大きさは,上述のように,アシスト画像から得られる複数の特徴点の位置と,動画から得られる上記特徴点に対応する対応点の位置(すなわち,移動ベクトル)から求められる。右向矢印r1にしたがう右方向にディジタル・スチル・カメラ1を移動させると,動画Sn2中の対象画像ob3は相対的に左方向に移動する。アシスト情報(右向矢印r1)にしたがう向きにディジタル・スチル・カメラ1を移動させることによって,動画Sn2の位置とアシスト画像An1の位置が一致するようになる。
【0123】
第1実施例で説明したように,ディジタル・スチル・カメラ1と対象物OB3との間の距離に大きな変動があったことが検出された場合には,「カメラを近づけて下さい!」(または「遠ざけて下さい!」)といった距離(画角)に関するアシスト情報m1が,動画Sn2に重合わせて表示される(図15参照)。
【0124】
動画Sn2の位置とアシスト画像An1の位置が一致すると判断されると(ステップ78でYES),図23に示すように,アシスト情報r1,m2が表示画面から消える。そのときに表示画面上に表示されている動画と,メモリ・カード27に記憶されている取得済みの画像データによって表される撮影済み画像のそれぞれが比較されて,表示されている動画が撮影済みであるかどうかが判断される(ステップ80,81)。
【0125】
1駒目画像n1(図21)のみが撮影済みであり,1駒目画像の撮像位置p(1)と異なる撮像位置p(2)からの撮像によって動画Sn2(図23)が撮像されている場合,動画Sn2は撮影済みでない(未撮影)と判断される(ステップ81でNO)。一周始めフラグがオフされていることを条件にして,対象物OB3の2度目の撮影が行われる(ステップ82でNO,ステップ86)。2駒目画像n2がメモリ・カード27に記憶される。また,一周始めフラグがオンされている場合にはオフされる(ステップ87)。
【0126】
同様にして,対象物OB3の周囲を右回りに移動しながら複数回の撮影が続けられる(図18参照)。
【0127】
図24は,1周目の右回りのN回の撮影が行われ,ほぼ最初の撮像位置p(N)に戻ってきたときに表示される動画SnNを示している。
【0128】
対象物OB3を中心にして右回りに移動しつつ,ディジタル・スチル・カメラ1がほぼ一周すると,そのときの動画SnNは撮影済み画像(一駒目画像n1)とほぼ一致する。動画SnNは既に撮影ずみであると判断される(ステップ80,ステップ81でYES )。
【0129】
動画SnNと,上述したメイン・メモリ22に記憶されている周始め画像,ここでは1駒目画像n1とが一致するかどうかが判断される(ステップ88)。動画SnNと周始め画像(一駒目画像n1)とが一致すると判断されると,一周撮影完了をユーザに示すアシスト情報m3が表示画面上に表示される(図24,ステップ89でYES ,ステップ90)。
【0130】
一周撮影完了が判断されると,上述した一周始めフラグがオンされる(ステップ91)。一周始めフラグがオンされている場合,次のN+1駒目に対する処理では,現移動方向は第2移動方向,すわなち,上方向であることが認識される(ステップ73でYES ,ステップ74)。
【0131】
図25は現移動方向が上方向であると判断されたときの動画Sn(N+1)を示している。
【0132】
判断された現移動方向が第2移動方向,ここでは上方向と判断されると,前駒画像ではなく,周始め画像(1駒目画像n1)がアシスト画像として動画中に表される(ステップ76)。ここでは,現移動方向が上方向であるから,アシスト画像としての周始め画像AnNは,周始め画像を下向きに所定移動量(たとえば,撮影画像の縦幅の1/3程度)だけ移動させたものとなる。また,ディジタル・スチル・カメラ1の移動方向に関するアシスト情報として上向矢印r2が表示画面上に現れる。
【0133】
上方向に移動させられた後の最初の一駒目の撮影の前の時点では,上述のように,一周始めフラグがオンされている。この場合には,上方向に移動させられて最初の撮影によって得られる画像(二周目の始めの画像である)が,二周目の周始め画像として新たにメイン・メモリ22に記憶される(ステップ82でYES ,ステップ83,84)。二周目の撮影(右回りに移動しながらの複数回の撮影)に進む。
【0134】
右回りの複数回の撮影,上方向の移動,さらなる右回りの複数回の撮影が繰返されると,対象物OB3の底面を除くすべてが撮影される。一周撮影が完了していないにもかかわらず動画SnMがすでに撮影済みである場合,視認することができる対象物OB3のすべての領域の撮影を終えたことを意味する。この場合,撮影不要である旨をユーザに示すアシスト情報m4が表示画面上に表示され,一連の処理が終了する(ステップ81でYES ,ステップ88,ステップ89でNO,ステップ92,図26)。
【0135】
アシスト画像An1,An2・・が表示画面上に半透明表示されるので,次に撮影を行うべき位置および移動距離を撮影者は容易に把握することができる。また,ディジタル・スチル・カメラ1を移動させるべき方向を示す矢印A1,A2も表示され,かつ移動を促すアシスト情報m2も表示されるので,移動方向について撮影者に対して分かりやすくアシストが行われる。一周撮影完了時にその旨を表すアシスト情報m2が表示され,さらに全領域の撮影を終えたことを表すアシスト情報m3も表示されるので,無駄な撮影を回避することができる。
【0136】
上述した第2実施例では,対象物OB3を中心にしてその回りをディジタル・スチル・カメラ1を移動させならがら複数回撮影する例を説明したが,もちろん,ディジタル・スチル・カメラ1を中心してその周囲の景色等を撮影する場合であっても,第2実施例は適用することができる。
【符号の説明】
【0137】
1 ディジタル・スチル・カメラ
2 CPU
3 操作器
15 固体撮像素子
22 メイン・メモリ
23 ディジタル信号処理回路
27 メモリ・カード
28 表示制御回路
29 表示装置
【技術分野】
【0001】
この発明は,撮像装置,その動作制御方法およびそのプログラムに関する。
【背景技術】
【0002】
対象物の3次元画像を構築するためは,互いに異なる撮像位置(視点)から上記対象物を撮像して得られる複数の画像に共通する画像領域が含まれていることが必要である。
【0003】
特許文献1には,GPSセンサおよび方位センサを用いることによって3次元画像の構築のための撮影位置および方向を算出することが記載されている。GPSセンサおよび方位センサという比較的高価なセンサが必要とされる。
【0004】
特許文献2には,カメラを直線レール上で移動させつつ対象物を複数回撮影することで視差画像列を生成することが記載されている。3次元画像モデルの構築に必要な新たな画像を撮像すべき位置等の情報を撮影者に提供するものではない。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2008-154027号公報
【特許文献2】特開2006-154800号公報
【発明の概要】
【0006】
3次元画像の構築に不足している画像を表示画面上に表示される動画を通して観察(視認)することができるようにし,3次元画像の構築に必要な画像データを効率よく取得できるようにすることを目的とする。
【0007】
第1の発明による撮像装置は,対象物を撮像し,撮像によって得られる画像データを出力する撮像手段,上記撮像手段から一定周期で出力される画角決定用の動画データによって表される動画を表示画面上に表示するように表示装置を制御する動画表示制御手段,上記撮像手段によって異なる視点から撮像され,かつ少なくとも一部分が共通する複数の画像のそれぞれについて,他の画像に現れていないオクルージョン領域を検出するオクルージョン領域検出手段,上記複数の画像のうちの一つを着目画像として,上記オクルージョン領域検出手段によって検出された上記着目画像中のオクルージョン領域に対応する画像領域を,上記動画から検出するオクルージョン対応領域検出手段,および上記オクルージョン対応領域検出手段によって検出されたオクルージョン対応領域を上記動画中に表示するように表示装置を制御するオクルージョン対応領域表示制御手段を備える。
【0008】
第1の発明による撮像装置の動作制御方法は,撮像手段が,対象物を撮像して撮像によって得られる画像データを出力し,動画表示制御手段が,上記撮像手段から一定周期で出力される画角決定用の動画データによって表される動画を表示画面上に表示するように表示装置を制御し,オクルージョン領域検出手段が,上記撮像手段によって異なる視点から撮像され,かつ少なくとも一部分が共通する複数の画像のそれぞれについて,他の画像に現れていないオクルージョン領域を検出し,オクルージョン対応領域検出手段が,上記複数の画像のうちの一つを着目画像とし,上記オクルージョン領域検出手段によって検出された上記着目画像中のオクルージョン領域に対応する画像領域を上記動画から検出し,オクルージョン対応領域表示制御手段が,上記オクルージョン対応領域検出手段によって検出されたオクルージョン対応領域を上記動画中に表示するように表示装置を制御する。
【0009】
第1の発明によると,異なる視点(撮像位置)から撮像されて得られる複数の画像のうちの一つである着目画像についてのオクルージョン領域(着目画像に現れており,かつ他の画像に現れていない画像領域)に対応する画像領域が動画(スルー画)中に存在すると,その画像領域(オクルージョン対応領域)が動画中に表示される。特定色の半透明画像を動画に重合わせて表示することによって上記オクルージョン対応領域を表示してもよい,枠により囲むことによって上記動画中のオクルージョン対応領域を表示していもよい。オクルージョン対応領域が現れている動画が撮影(画像データとして記録)されることによって,それまで上記着目画像についてオクルージョン領域とされていた画像領域が,オクルージョン領域でなくなる(着目画像に現れており,かつ他の画像にも現れている画像領域になる)。オクルージョン対応領域が現れている動画は対象物の3次元画像の構築に不足している画像であると言える。第1の発明によると,動画中に表されるオクルージョン対応領域によって上記対象物の3次元画像の構築に不足している画像を動画を通して観察(視認)することができる。対象物の3次元画像の構築に必要な画像データを効率よく取得することができる。
【0010】
一実施態様では,上記撮像装置は上記複数の画像のうちのいずれか一つを上記着目画像として決定する着目画像決定手段を備え,上記オクルージョン領域検出手段は,上記着目画像決定手段によって決定された着目画像についてのオクルージョン領域を検出するものである。決定された着目画像についてのオクルージョン領域が検出され,そのオクルージョン領域に対応するオクルージョン対応領域が,動画中から検出される。
【0011】
好ましくは,上記着目画像決定手段は,先に撮像された画像から後に撮像された画像の順番に,上記複数の画像のそれぞれを順次上記着目画像として決定するものである。複数の画像のそれぞれについて,順次,オクルージョン領域が検出され,かつそのオクルージョン領域に対応するオクルージョン対応領域が動画中から検出される。
【0012】
一実施態様では,上記着目画像決定手段は,上記オクルージョン領域検出手段によって上記着目画像中のオクルージョン領域が検出されなかった場合に,上記着目画像とされている画像の次に撮像された画像を,上記着目画像とするものである。異なる視点から撮像される複数の画像のそれぞれについて,順次,上記オクルージョン領域を無くすことができる。
【0013】
上記オクルージョン領域検出手段は,上記撮像手段によって一の視点から撮像された画像のみが存在し(撮影が行われてメモリ・カードに記録されている状態),視点を異ならせて撮像される他の画像が存在しない場合には,上記一の視点から撮像された画像の全領域をオクルージョン領域とするものであってもよい。
【0014】
上記オクルージョン領域検出手段は,一実施態様では,上記着目画像とそれ以外の画像のそれぞれとを用いて検出される複数のオクルージョン領域の論理積領域を,上記着目画像についてのオクルージョン領域とする。
【0015】
オクルージョン対応領域が大きければ大きいほど,その動画は着目画像のオクルージョン領域を削減するのに有効な画像(対象物の3次元画像の構築に有効な画像)を表す。好ましくは,上記オクルージョン対応領域検出手段によって検出されたオクルージョン対応領域の大きさに応じて算出される評価情報を,上記動画中に表示するように上記表示装置を制御する評価情報表示制御手段を備える。評価情報は,画像(たとえば,バー表示)であっても,数値であってもよい。評価情報によって動画中のオクルージョン対応領域の大きさが分かりやすく表示される。着目画像のオクルージョン領域を効率よく削減することができる撮影位置を,評価情報によって撮影者に分かりやすく示すことができる。
【0016】
第2の発明による撮像装置は,所定の回り方向に沿う位置移動をしながら被写体を撮像し,一周撮像を終えると所定の高さ方向に高さ位置を移動させて,再びその高さ位置で上記回り方向に沿う位置移動をしながら上記被写体を撮像するものであり,上記被写体を撮像することによって得られる複数の被写体像を表す画像データを出力する撮像手段,上記撮像手段から一定周期で出力される画角決定用の動画データによって表される動画を表示装置の表示画面上に表示する動画表示制御手段,上記回り方向に沿う一周撮像が完了したかどうかを判断する一周撮像完了判断手段,および上記一周撮像完了手段によって一周撮像が完了していないと判断された場合には上記所定の回り方向と逆方向に位置移動させた前駒画像の一部を上記動画上に半透明表示し,一周撮像が完了したと判断された場合には上記所定の高さ方向と逆方向に位置移動させた一周始め画像の一部を上記動画上に半透明表示するアシスト画像表示手段を備えている。
【0017】
第2の発明による撮像装置の動作制御方法は,所定の回り方向に沿う位置移動をしながら被写体を撮像し,一周撮像を終えると所定の高さ方向に高さ位置を移動させて,再びその高さ位置で上記回り方向に沿う位置移動をしながら上記被写体を撮像する撮像装置の動作制御方法であり,撮像手段が,上記被写体を撮像することによって得られる複数の被写体像を表す画像データを出力し,動画表示制御手段が,上記撮像手段から一定周期で出力される画角決定用の動画データによって表される動画を表示装置の表示画面上に表示し,一周撮像完了判断手段が,上記回り方向に沿う一周撮像が完了したかどうかを判断し,アシスト画像表示手段が,上記一周撮像完了手段によって一周撮像が完了していないと判断された場合には上記所定の回り方向と逆方向に位置移動させた前駒画像の一部を上記動画上に半透明表示し,一周撮像が完了したと判断された場合には上記所定の高さ方向と逆方向に位置移動させた一周始め画像の一部を上記動画上に半透明表示する。
【0018】
第2の発明によると,一周撮像が完了していない場合には,所定の回り方向と逆方向(所定の回り方向が右回りであれば左方向,左回りであれば右方向を意味する)に位置移動された前駒画像の一部が,アシスト画像として動画(スルー画)上に半透明表示される。半透明表示されるアシスト画像を用いて所定の回り方向に沿う次回撮像を行うべき位置を決定することができる。一周撮影が完了したと判断されると,所定の高さ方向と逆方向(所定の高さ方向が上方向であれば下方向,下方向であれば上方向を意味する)に位置移動された一周始め画像(一周撮像の最初の撮像により得られた画像)の一部が,アシスト画像として上記動画上に半透明表示される。半透明表示されるアシスト画像を用いて高さ方向に沿う次回撮像を行うべき位置(次の周回撮像の最初の撮像位置)を決定することができる。回り方向および高さ方向に撮像位置(視点)を異ならせながら,被写体の全体を漏れなく撮像することができるので,対象物の3次元画像の構築に有効な画像データを効率よく取得することができる。
【0019】
たとえば,上記一周始め画像と一致する動画が撮像されたときに一周撮像の完了が判断される。
【0020】
好ましくは,上記撮像装置は,上記一周撮像完了判断手段によって一周撮像の完了が判断された場合に,一周撮像が完了したことを表す一周撮像完了アシスト情報を上記動画上に表示する一周撮像完了アシスト情報表示制御手段を備える。一周撮像が完了したことが表示されるので無駄な撮像が行われてしまうことが防止される。
【0021】
他の実施態様では,被写体までの距離または画角が変動したかどうかを判断する変動判断手段,および上記変動判断手段によって上記距離または画角が変動したことが判断された場合に,上記変動を解消する方向への撮像位置の移動を促すアシスト情報を上記動画上に表示する変動アシスト情報表示制御手段がさらに備えられる。ほぼ同じ距離から被写体を複数回撮像することによって得られる,画角がほぼ一致した複数の画像データを取得することができる。
【0022】
この発明は,上記撮像装置の動作制御方法を実施するためのコンピュータ・プログラムも提供している。そのようなプログラムを格納した記録媒体(CD−ROM等)を提供するようにしてもよい。
【図面の簡単な説明】
【0023】
【図1】4つの異なる位置から対象物を撮影している様子を示す。
【図2】(A)〜(D)は撮像位置を異らせて得られた4つの被写体像を示す。
【図3】オクルージョン領域の削減の様子を示す。
【図4】ディジタル・スチル・カメラの電気的構成を示すブロックである。
【図5】オクルージョン削減処理を含むディジタル・スチル・カメラの動作手順を示すフローチャートである。
【図6】オクルージョン削減処理を含むディジタル・スチル・カメラの動作手順を示すフローチャートである。
【図7】動画(スルー画)の一例を示す。
【図8】動画の一例を示す。
【図9】(A),(B)は,それぞれ被写体像と,そのオクルージョン領域を示す。
【図10】動画の一例を示す。
【図11】(A),(B)は被写体像を示す。
【図12】2つの被写体像からオクルージョン領域が算出される様子を示す。
【図13】2つのオクルージョン領域の論理積領域が算出される様子を示す。
【図14】動画の一例を示す。
【図15】動画の一例を示す。
【図16】(A),(B)は,オクルージョン対応領域の大きさに応じたバー表示を伴う動画を示す。
【図17】変形例におけるディジタル・スチル・カメラの動作手順を示すフローチャートである。
【図18】異なる位置から対象物を撮影している様子を示す。
【図19】第2実施例のディジタル・スチル・カメラの動作手順を示すフローチャートである。
【図20】第2実施例のディジタル・スチル・カメラの動作手順を示すフローチャートである。
【図21】被写体像の一例を示す。
【図22】動画の一例を示す。
【図23】動画の一例を示す。
【図24】動画の一例を示す。
【図25】動画の一例を示す。
【図26】動画の一例を示す。
【実施例】
【0024】
(第1実施例)
この実施例では,ディジタル・スチル・カメラ1が用いられて対象物が様々な位置から撮像される。図1は互いに異なる4つの撮像位置(視点)I〜IVのそれぞれから,ディジタル・スチル・カメラ1によって2つの対象物OB1,OB2を撮像している様子を示している。図2(A)〜(D)は,図1に示す撮像位置I〜IVのそれぞれから撮像されて取得された画像データによって表される被写体像g1〜g4をそれぞれ示している。
【0025】
対象物OB1,OB2はいずれも立方体でありそれぞれ6つの面を有している。図1において,対象物OB1の6面(正面,左側面,背面,右側面,上面および底面)がアルファベット符号A〜Fによって示されている。同様に,対象物OB2の6面がアルファベット符号a〜fによって示されている。
【0026】
図2(A)〜(D)に示す被写体像g1〜g4には,対象物OB1,OB2を表す対象画像ob1,ob2および背景Hを表す背景画像hが含まれている。図2(A)〜(D)において,対象画像ob1,ob2には,図1に示す対象物OB1,OB2の特定面を示す上記アルファベット符号と同一符号が示されている。また,図2(A)〜(D)では,分かりやすくするために,対象画像ob1,ob2のそれぞれにおいて異なる面には異なる模様が,同一面には同一模様が描かれている。
【0027】
被写体像g1〜g4はいずれも互いに異なる視点から対象物OB1,OB2を撮像することで得られたものである。このため,たとえば,第1撮影位置Iからの撮像によって得られた被写体像g1(図2(A))に現れているが,第2撮影位置IIからの撮影によって得られた被写体像g2(図2(B))には現れていない画像部分がある。逆に,被写体像g2に現れているが被写体像g1に現れていない画像部分もある。
【0028】
第1実施例では,異なる視点からの撮像によって得られる複数の画像のうちの一つが着目画像とされ,この着目画像に現れている画像領域と同一の画像領域が上記着目画像と異なる他の画像において現れることになるように,ディジタル・スチル・カメラ1のユーザに対して撮影のアシストを行うものである。
【0029】
着目画像に現れておりかつ他の画像(着目画像以外の画像(参照画像))に現れていない画像領域を,以下,オクルージョン領域OCと呼ぶ。ディジタル・スチル・カメラ1の位置を異ならせて複数の画像を得ることによって,着目画像のオクルージョン領域を削減しかつ無くすことができる。
【0030】
図3は,第1撮像位置Iからの撮像によって得られた被写体像g1(図2(A))を着目画像としたときの,上記オクルージョン領域の削減の様子を示している。図3の上段に着目画像g1のオクルージョン領域(一点鎖線ハッチングで示す)が削減される様子が示されている。図3の下段は,オクルージョン領域の削減に用いられる他の被写体像g2およびg3を示す。
【0031】
着目画像g1のみが撮像されており,被写体像g2,g3がまだ撮像されていない状態では,着目画像g1の全領域がオクルージョン領域OC10とされる(図3上段の左に示す着目画像g1)。
【0032】
第2撮影位置IIからの撮像によって得られた被写体像g2は,着目画像g1に対応する画像領域を含む。すなわち,対象画像ob1の正面Aを表す画像領域(以下,正面領域Aという,他の領域も同じ表現とする),上面領域E,対象画像ob2の正面領域a,上面領域e,および背景領域hは,着目画像g1に現れておりかつ被写体像g2にも現れている。他方,着目画像g1中の対象画像ob1の左側面領域Bおよび対象画像ob2の左側面領域bは,着目画像g1に現れているが,被写体像g2に現れていない。着目画像g1に現れておりかつ被写体像g2にも現れている画像領域はオクルージョン領域ではなくなり,したがってオクルージョン領域OC10から削除される。被写体像g2の撮像によって,着目画像g1中の対象画像ob1の左側面領域Bおよび対象画像ob2の左側面領域bのみが,着目画像g1の新たなオクルージョン領域OC12となる(図3上段の中央に示す着目画像g1)。
【0033】
第3撮影位置IIIからの撮像によって得られた被写体像g3には,対象画像ob1の左側面領域Bおよび対象画像ob2の左側面領域bが現れている。被写体像g3の撮像によって,オクルージョン領域OC12もオクルージョン領域でなくなる。このようにして,被写体像像g2,g3が撮像されることで,着目画像g1のオクルージョン領域がなくなる(図3上段の右に示す着目画像g1)。
【0034】
後述するように,着目画像と対比される画像(上述の説明では被写体像g2,g3)のそれぞれも着目画像とされ,上述の処理が繰返される。撮像位置(視点)を異ならせて撮像された複数の画像について,オクルージョン領域が存在しないようになる。
【0035】
オクルージョン領域の上述した削減処理(消滅処理)は,たとえば,ディジタル・スチル・カメラ1を用いて実行される。図4はディジタル・スチル・カメラ1の電気的構成を示すブロック図である。
【0036】
ディジタル・スチル・カメラ1の全体的な動作はCPU2によって統括される。
【0037】
ディジタル・スチル・カメラ1は固体撮像素子(CCD,CMOSなど)15を備え,固体撮像素子15の前方に撮像レンズ11,絞り12,赤外線カット・フィルタ13および光学的ロウパス・フィルタ(OLPF)14が設けられている。
【0038】
ディジタル・スチル・カメラ1は操作器3を備えている。操作器3には電源ボタン,モード設定ダイアル,二段ストローク・タイプのシャッタ・レリーズ・ボタンなどが含まれる。操作器3から出力される操作信号はCPU2に入力する。モード設定ダイアルによって設定されるモードには撮影モード,再生モードなどがある。撮影モードの中にはさらに通常撮影モード,多視点撮影モードなどがある。
【0039】
またディジタル・スチル・カメラ1には,ストロボ撮像のための発光装置4および発光装置4から出射される出射光の反射光を受光するための受光装置5が設けられている。
【0040】
ディジタル・スチル・カメラ1の電源がオンされ,撮影モードが設定されると,被写体像を表す光線束が,撮像レンズ11,絞り12,赤外線カット・フィルタ13および光学的ロウパス・フィルタ14を介して固体撮像素子15の受光面に入射する。固体撮像素子15の受光面上に被写体像が結像し,被写体像を表すアナログ映像信号が固体撮像素子15から出力する。固体撮像素子15によって一定周期で被写体が撮像され,一定周期で被写体像を表すアナログ映像信号が1フレーム分ずつ出力される。
【0041】
固体撮像素子15から出力された被写体像を表すアナログ映像信号はアナログ信号処理装置16に入力する。アナログ信号処理装置16は相関二重サンプリング回路,信号増幅器などを含み,ここで相関二重サンプリング,信号増幅などが行われる。アナログ信号処理装置16から出力されたアナログ映像信号はアナログ/ディジタル変換回路17に入力し,ここでディジタル画像データに変換される。ディジタル画像データはデータバス32を介してメモリ制御回路21に与えられる。メモリ制御回路21の制御のもと,ディジタル画像データはメイン・メモリ22に一時的に記録される。
【0042】
ディジタル画像データはメイン・メモリ22から読出され,データバス31または32を介してディジタル信号処理回路23に入力する。ディジタル信号処理回路23では白バランス調整,ガンマ補正などの所定のディジタル信号処理が行われる。ディジタル信号処理回路23においてディジタル信号処理が行われたデータは表示制御回路28に与えられる。表示制御回路28によって表示装置29が制御されることにより表示画面上に被写体像(動画)(スルー画)が表示される。
【0043】
シャッタ・レリーズ・ボタンの第一段階の押下があると,レンズ駆動回路6によってレンズ11が駆動されて焦点合わせが行われる。メイン・メモリ22から読出される画像データに基づいてディジタル信号処理回路23において輝度データが得られ,輝度データは積算回路25に入力して積算される。積算値を表すデータはCPU2に与えられて露出量が算出される。算出された露出量となるように絞り12の開口が絞り駆動回路7によって制御され,固体撮像素子15のシャッタ速度が撮像素子駆動回路8によって制御される。
【0044】
シャッタ・レリーズ・ボタンの第二段階の押下があると,アナログ/ディジタル変換回路17から出力された画像データはメイン・メモリ22に記録される。メイン・メモリ22から読み出された画像データに対し,上述のようにディジタル信号処理回路23において所定のディジタル信号処理が行われる。ディジタル信号処理回路23から出力された画像データは圧縮伸張処理回路24においてデータ圧縮される。圧縮された画像データが外部メモリ制御回路26の制御によってメモリ・カード27に記録される。
【0045】
操作器3において再生モードが設定されると,メモリ・カード27に記録されている圧縮画像データが読出される。読出された圧縮画像データは圧縮伸張処理回路24において伸張された後,表示制御回路28に与えられる。表示装置29の表示画面上に再生画像が表示される。
【0046】
図5および図6は,上述したオクルージョン領域の削減処理を含むディジタル・スチル・カメラ1の動作を示すフローチャートであり,上述したモード設定ダイアルによって,多視点撮影モードが設定されたときのディジタル・スチル・カメラ1の動作を示している。以下に説明するディジタル・スチル・カメラ1の処理は,基本的にはCPU2またはディジタル信号処理回路23によって実行される。もちろん,以下に説明するディジタル・スチル・カメラ1による処理を実行する専用のハードウェア,たとえば,オクルージョン領域を検出するオクルージョン検出装置,オクルージョン対応領域を検出するオクルージョン対応領域検出装置等を,ディジタル・スチル・カメラ1に別途設けるようにしてもよい。このことは他の実施例でも同様である。
【0047】
ディジタル・スチル・カメラ1は,上述のように固体撮像素子15を含み,固体撮像素子15からは一定周期で被写体像を表すアナログ映像信号が1フレーム分ずつ出力される。アナログ映像信号はディジタルの画像データに変換され,一定周期の撮像によって得られる画像データによって表される画像が,表示装置29の表示画面上に連続表示される(画角決定用の動画の表示)。
【0048】
図7は,ディジタル・スチル・カメラ1を背面から示すもので,撮像位置I(図1参照)にディジタル・スチル・カメラ1が位置しているときに表示装置29の表示画面に表示される動画S1の例を示している。
【0049】
表示装置29の表示画面上には,第1撮像位置Iからの撮像によって得られる動画S1(図2(A)に示す被写体像g1と同じとしている)が表示されるとともに,動画S1に重合わされてオクルージョン対応領域ROC10(二点鎖線ハッチングで示す)が表示される。オクルージョン対応領域ROCとは,後述するように,着目画像中のオクルージョン領域に現れておりかつ動画にも現れている上記動画中の画像領域をいう。画像データの取得(撮影)が未だ行われていない状態は着目画像が存在しない状態である。この状態の動画についてはその全体がオクルージョン対応領域ROCとして扱われ,したがって最初(1駒目)の撮影の前の状態において表示される動画S1の全体はオクルージョン対応領域ROC10として扱われる。オクルージョン対応領域ROC10はたとえば特定色(たとえば赤色)の半透明画像によって,動画に重合わされて表示画面上に可視的に表示される。
【0050】
図5に戻って,最初の撮影であるかどうか(一駒目画像が未だ得られていない状態かどうか)が判断される(ステップ41)。たとえば,メイン・メモリ22に記憶される撮影済みフラグがオンされているかどうかによって最初の撮影であるかどうかが判断される。撮影済みフラグがオフであれば最初の撮影と判断され,撮影済みフラグがオンであれば最初の撮影ではないと判断される(ステップ41でYES またはNO)。
【0051】
シャッタ・レリーズ・ボタンが押下されると最初の撮影が行われる(ステップ42)。上述の撮影済みフラグがオンされる。たとえば,図2(A)に示す被写体像g1を表す画像データが1駒目画像としてメモリ・カード27に記憶される。
【0052】
1駒目画像g1の撮影が行われると,メイン・メモリ22に2つのカウンタiおよびnが用意される。カウンタiは着目画像として扱われるべき画像の駒番号のカウンタであり,カウンタnは撮影駒総数を表すカウンタである。最初の撮影が行われると,カウンタi,nにそれぞれ1が代入される。1駒目画像g1が着目画像iとなる(i=1)。撮影画像総数は1である(n=1)(ステップ43,44,45)。
【0053】
1駒目画像g1が着目画像iとされると,初期状態として1駒目画像g1についてはその全領域がオクルージョン領域とされる(ステップ46)。1駒目画像g1のみが得られている状態では対比されるべき他の画像が存在しないからである。たとえば,1駒目画像g1のすべての画素についてオクルージョン画素であることを表すオクルージョン・フラグが立てられる。これにより,1駒目画像g1の全領域がオクルージョン領域OC10であることが示される。
【0054】
表示装置29の表示画面に1駒目画像g1を表示させてもよいし,1駒目画像g1に重ね合わせて,オクルージョン領域OC10を示す画像(所定の色の半透明画像)を表示してもよい(図3上段の左に示す被写体像g1を参照)。この場合には,図7に示す動画S1およびオクルージョン対応領域ROC10と同様の表示が,表示装置29の表示画面上に表示される。
【0055】
1駒目画像g1の撮影から所定時間が経過すると,またはシャッタ・レリーズ・ボタンが半押しされると,1駒目画像g1の表示に代えて,動画(スルー画)が表示画面上に再び表示される。
【0056】
ディジタル・スチル・カメラ1が移動させられ,移動後の撮像位置において動画が撮像されると,着目画像iのオクルージョン領域OCに現れており,かつ動画中にも対応して現われている画像領域(対応領域)が求められ,求められた対応領域が動画に重合わされて表示される(ステップ52,53)。
【0057】
図8は,第2撮像位置II(図1参照)から撮像されているときの動画S2(図2(B)の被写体像g2と同じとしている)を示すもので,動画S2に重合わされて,着目画像i,ここでは1駒目画像g1のオクルージョン領域OC10(図7参照)中に現れており,かつ動画S2中にも対応して現れている画像領域が表示されている様子を示している。着目画像iのオクルージョン領域中に現れており,かつ動画中にも対応して現れている画像領域が,上述したオクルージョン対応領域ROCである。図8においてオクルージョン対応領域ROC21が二点鎖線ハッチングによって示されている。
【0058】
着目画像iが1駒目画像(被写体像g1)(図2(A))でありその全領域がオクルージョン領域OC10であるとする。また,第2撮像位置IIから撮像されている動画S2が図2(B)の被写体像g2と同じであるとする。この場合,図2(A)と図2(B)を対比して,背景領域h,対象画像ob1の上面領域E,対象画像b2の正面領域aおよび上面領域eは,着目画像iのオクルージョン領域OC10(被写体像g1の全体)中に現れており,かつ動画S2にも現れている。図8を参照して,背景領域h,対象画像ob1の上面領域E,対象画像ob2の正面領域aおよび上面領域eが新たなオクルージョン対応領域ROC21とされる。着目画像i中のオクルージョン領域OC10と動画S2とを比較して,動画S2を構成する画素に対応する画素が着目画像中i中のオクルージョン領域OC10にも存在する,そのような画素で表される領域がオクルージョン対応領域ROC21とされる。
【0059】
対象画像ob1の正面領域Aには,着目画像i(被写体像g1)(図2(A))に現れていず,かつ動画S2(被写体像g2)(図2(B))に現れている領域が存在する。この領域(以下,非対応領域という)が,図8において符号N1で示す枠で囲まれて示されている。対象画像ob1の正面領域Aについては,非対応領域N1を除く領域がオクルージョン対応領域ROC21とされる。非対応領域N1は,動画S2において撮像された対象物OB1の正面Aの色のままで表示される。
【0060】
オクルージョン対応領域ROCは,着目画像i中のオクルージョン領域と動画とに共通して現れている画像領域を,上記動画中に示すものである。オクルージョン対応領域ROCが大きいほど,そのときの動画は,着目画像iのオクルージョン領域OCに対応する画像領域を多く含むことが示される。着目画像iのオクルージョン領域OCに対応する画像領域を多く含む画像を撮影することできれば,着目画像iのオクルージョン領域OCの削減効果が高くなる(図3参照)。
【0061】
ユーザは,表示装置29の表示画面中に表示される画角決定用の動画を見ながら,オクルージョン対応領域ROC21が大きく表示される撮像位置から2駒目の画像の取得を試みることになる。
【0062】
シャッタ・レリーズ・ボタンが押下されると撮影が行われ,画像データがメモリ・カード27に記憶される(ステップ54)。撮影総駒数nがインクリメントされる(ステップ55)。n=2になる。
【0063】
着目画像iとn駒目画像(上述のステップ54において撮影された画像)とが用いられて,着目画像iのオクルージョン領域のうち,n駒目画像に現れている画像領域が求められて残りのオクルージョン領域が求められる(ステップ56)。また,n駒目画像のオクルージョン領域が着目画像iを用いて求められる(ステップ57)。
【0064】
図2(A)に示す被写体像g1が着目画像i(1駒目画像)であり,図2(B)に示す被写体像g2が2駒目画像である場合を例にして,ステップ56,57の処理を説明する。
【0065】
図9(A)は,1駒目画像g1のオクルージョン領域OC10(被写体像g1の全体)のうち,2駒目画像像g2にも現れている画像領域を除く,残りのオクルージョン領域OC12を,1駒目画像g1中に明示して示すものである。
【0066】
1駒目画像g1のオクルージョン領域OC10に含まれる画像領域のうち,対象画像ob1の左側面領域Bおよび対象画像ob2の左側面領域b以外の領域は,2駒目画像g2中に現れている。図9(A)を参照して,1駒目画像g1のオクルージョン領域OC10に現れており,かつ2駒目画像像g2にも現れている画像領域は,上記オクルージョン領域OC10から除かれる。この結果,対象画像ob1の左側面領域Bおよび対象画像ob2の左側面領域bが,1駒目画像g1の残りオクルージョン領域OC12として把握される(ステップ56)。
【0067】
図9(B)は,2駒目画像g2のオクルージョン領域を示すもので,1駒目画像g1との関係で求められたオクルージョン領域OC21が,2駒目画像g2中に明示して示されている。
【0068】
2駒目画像g2中の対象画像ob1の正面領域Aの一部が,2駒目画像g2に現れている画像領域のうち1駒目画像g1に現れていない画像領域である。図9(B)を参照して,2駒目画像g2中の対象画像ob1の正面領域Aの一部が,2駒目画像g2のオクルージョン領域OC21として求められる(ステップ57)。
【0069】
ステップ57において求められる,1駒目画像g1と2駒目画像g2を用いることで求められる2駒目画像g2についてのオクルージョン領域OC21(図9(B))は,二駒目画像g2が着目画像とされたときの処理において用いられる(詳しくは,後述する)。
【0070】
図6に戻って,着目画像iとn駒目画像とを用いた上述の処理を終えると,着目画像iのオクルージョン領域の更新処理が行われる(ステップ58)。オクルージョン領域の更新処理では,着目画像iについてのそれまでのオクルージョン領域が,ステップ56において求められた残りオクルージョン領域に置換する処理が行われる。すなわち,1駒目画像g1の全領域とされていたオクルージョン領域OC10(図7)が,図9(A)に示すオクルージョン領域OC12に置換えられる。
【0071】
図5に戻って,着目画像i,ここでは1駒目画像g1にオクルージョン領域があるかどうかが判断される(ステップ41でNO,ステップ47)。1駒目画像g1にはオクルージョン領域OC12が存在するので(図9(A)),再び,1駒目画像g1と画角決定用の動画(スルー画)との対応領域(オクルージョン対応領域)が求められる。求められたオクルージョン対応領域が,上記動画に重合わされて表示される(ステップ47でYES ,ステップ52,53)。
【0072】
図10は,ディジタル・スチル・カメラ1が第2撮像位置IIから第3撮像位置III(図1参照)に移動させられて,第3撮像位置IIIから撮像されているときの動画S3(図2(C)の被写体像g3と同じ)を示すもので,動画S3に重合わされて,着目画像i,ここでは1駒目画像g1の現在のオクルージョン領域OC12(図9(A))に現れており,かつ動画S3中にも対応して現れているオクルージョン対応領域ROC31が表示されている様子を示している。着目画像i(1駒目画像g1)の現在のオクルージョン領域OC12は,対象画像ob1の左側面領域Bと対象画像ob2の左側面領域bである(図9(A))。対象画像ob1の左側面領域Bと対象画像ob2の左側面領域bは動画S3中に現れている。動画S3では,対象画像ob1の左側面領域Bと対象画像ob2の左側面領域bがオクルージョン対応領域ROC31として表示される。
【0073】
シャッタ・レリーズ・ボタンが押下されて撮影が行われると,撮影総駒数nがインクリメントされる(ステップ54,55)。ここでは,n=3となる。
【0074】
上述したように,着目画像iとn駒目画像とが用いられて,着目画像i中のオクルージョン領域のうちn駒目画像にも現れている画像領域が求められて,残りのオクルージョン領域が求められる(ステップ56)。また,n駒目画像のオクルージョン領域が,着目画像iを用いて求められる(ステップ57)。ここでは,1駒目画像(図2(A)の被写体像g1)と3駒目画像(図2(C)の被写体像g3)とが用いられる。
【0075】
図9(A)を参照して,1駒目画像g1の現在のオクルージョン領域OC12は対象画像ob1の左側面領域Bおよび対象画像ob2の左側面領域bである。ここで,3駒目画像(被写体像g3)(図2(C))には,対象画像ob1の左側面領域Bおよび対象画像ob2の左側面領域bが現れている。したがって,3駒目画像g3の撮影によって,図11(A)に示すように,1駒目画像g1には残りオクルージョン領域が存在しなくなる(ステップ56)。
【0076】
図2(A)および図2(C)を参照して,3駒目画像g3のすべての画像領域は,1駒目画像g1に現れている。このため,1駒目画像g1を用いると,3駒目画像g3にオクルージョン領域はない。図11(B)に示すように,ステップ57において3駒目画像g3についてのオクルージョン領域は無いと判断される。
【0077】
着目画像iのオクルージョン領域の更新処理(ステップ58)において,着目画像iについてのそれまでのオクルージョン領域が,ステップ56において求められた残りオクルージョン領域と置換される。1駒目画像g1のオクルージョン領域OC12(図9(A))がすべて無くなったことが把握される(図11(A))。
【0078】
着目画像iにオクルージョン領域があるかどうかの判断において,1駒目画像g1にオクルージョン領域がないことが判断されると(ステップ47でNO),カウンタiがインクリメントされて,2駒目画像,ここでは,被写体像g2(図2(B))を着目画像とする処理に進む(ステップ48,i=2)。
【0079】
1駒目画像g1に対する上述した処理において,1駒目画像g1,2駒目画像g2および3駒目画像g3が撮影されている。2駒目画像g2を着目画像とする処理では,はじめに,これまでの処理によって既に得られている画像を用いた処理が行われる。
【0080】
着目画像i,ここでは2駒目画像g2と,i+1〜n駒目画像,ここでは3駒目画像g3(i+1=3,n=3となる)を用いて,着目画像i(2駒目画像g2)のオクルージョン領域が求められる(ステップ50)。
【0081】
図12は,2駒目画像g2(着目画像i)と3駒目画像g3とを用いて,2駒目画像g2のオクルージョン領域OC23を求める様子を示している。
【0082】
2駒目画像g2に現れている画像領域のうち,対象画像ob1の正面領域Aと,対象画像ob2の正面領域aは,3駒目画像g3に現れていない。2駒目画像g2中の対象画像ob1の正面領域Aと対象画像ob2の正面領域aが,2駒目画像g2と3駒目画像g3とを比較することによって求められる,2駒目画像g2のオクルージョン領域OC23とされる。4駒目,5駒目等の画像が撮影されているとすれば,2駒目画像g2とそれらの画像とを比較して得られる2駒目画像g2のオクルージョン領域も,ステップ50において求められる。
【0083】
ステップ50において求められたオクルージョン領域OC23と,対象画像iについて既に求められているオクルージョン領域との論理積がとられ,オクルージョン領域が更新される(ステップ51)。対象画像i,ここでは2駒目画像g2については,上述した1駒目画像g1における処理において,1駒目画像g1との間で,2駒目画像g2のオクルージョン領域OC21が求められている(図9(B))。ステップ50において求められたオクルージョン領域OC23と,既に算出されているオクルージョン領域OC21との論理積がとられる。ステップ50において2駒目画像g2のオクルージョン領域が複数求められていれば,それらのオクルージョン領域OCについても論理積がとられる。
【0084】
図13は,2駒目画像g2のオクルージョン領域OC23と,2駒目画像g2のオクルージョン領域OC21との論理積をとる様子を示している。
【0085】
2駒目画像g2についての2つのオクルージョン領域OC23,21の論理積をとることによって,2つのオクルージョン領域OC23,OC21の両方に共通に現れているオクルージョン領域OC213が,2駒目画像g2についての残りオクルージョン領域となる。2駒目画像g2についてのオクルージョン領域が,オクルージョン領域OC213に更新される(ステップ51)。
【0086】
着目画像iのオクルージョン領域と,動画との対応領域(オクルージョン対応領域)が求められ,求められたオクルージョン対応領域が表示される(ステップ52)。図14は,上述したオクルージョン領域OC213を有する2駒目画像g2が着目画像iであるときに,第4撮像位置IV(図1参照)から撮像されている動画S4(図2(D)の被写体像g4と同じ)を示すものある。動画S4に重合わされて,着目画像i,ここでは2駒目画像g2のオクルージョン領域OC213(図13参照)に現れておりかつ動画S4にも現れている画像領域(オクルージョン対応領域ROC42)が表示される(ステップ53)。
【0087】
第4撮像位置IVからの撮影が行われて4駒目画像g4が取得されると,カウンタnがインクリメントされ(n=4となる),着目画像i(ここでは,2駒目画像g2)中のオクルージョン領域OC213が無くなる(ステップ54,55,56,58,ステップ47でNO)。カウンタiがインクリメントされ(i=3となる),3駒目画像g3を着目画像とする処理に進む(ステップ48)。
【0088】
このようにして,撮影されたすべての画像のそれぞれが着目画像とされて,着目画像のオクルージョン領域が次第に削減されて消去される(図3参照)。
【0089】
撮影された画像のすべてについてオクルージョン領域がない状態になると,カウンタiとカウンタnの数が等しくなる(i=n)。これにより,上述した一連の処理が終了する(ステップ49でYES)。
【0090】
オクルージョン領域のない着目画像は,着目画像に現れている画像領域のすべてが,着目画像の撮像位置と異なる撮像位置から取得された他の画像にも現れていることを意味する。対応する画像領域が,互いに撮像位置(視点)が異なる少なくとも2つの画像に含まれている状態となる。そのような複数の画像からは3次元画像の生成を行いやすい。
【0091】
上述したように,ディジタル・スチル・カメラ1の表示装置29の表示画面に表示される画角決定用の動画中には,着目画像iのオクルージョン領域OCを削減することができる画像領域がオクルージョン対応領域ROCとして明示的に表示される。表示されるオクルージョン対応領域ROCが大きいほど,着目画像iのオクルージョン領域OCの削減ないし消去に有効であり,3次元画像に必要な画像(3次元画像に不足している画像)と言える。オクルージョン対応領域ROCによって3次元画像の構築に好ましい撮像方向がユーザにアシストされる。現在の撮像方向が妥当である(または妥当でない)ことを,動画中に表されるオクルージョン対応領域ROCによって容易に認識することができる。
【0092】
ディジタル・スチル・カメラ1を用いた異なる撮像位置からの複数回の対象物OB1,OB2の撮影において(図1参照),ディジタル・スチル・カメラ1と対象物OB1,OB2との間の距離はほぼ同じであるのが好ましい。ディジタル・スチル・カメラ1と対象物OB1,OB2との間の距離に大きな変動があった場合(たとえば,前駒画像の撮影時に計測された撮影距離から所定距離だけ異なる撮影距離が計測された場合)に,図15に示すように,「カメラを近づけて下さい!」(または「遠ざけて下さい!」)といった距離に関するアシスト情報m1を動画S5に重合わせて表示するようにしてもよい。ディジタル・スチル・カメラ1と対象物OB1,OB2との間の距離(距離変動)は,ディジタル・スチル・カメラ1が備える測距装置(図示略)によって判断してもよいし,被写体像中の対象画像ob1,ob2の大きさに基づいて判断してもよい。
【0093】
図16(A),(B)および図17は変形例を示している。
【0094】
図16(A),(B)は,いずれもディジタル・スチル・カメラ1を背面から示すものである。
【0095】
上述したように,ディジタル・スチル・カメラ1の表示画面には,画角決定用の動画(スルー画)が表示されるとともに,着目画像iのオクルージョン領域OCに対応する動画中の対応領域(オクルージョン対応領域)ROCが求められて,上記動画に重合わされて表示される。この変形例では,動画中のオクルージョン対応領域ROCの面積(大きさ)が求められ,求められた面積に応じた長さを持つ表示バーB1が動画に重合わされて表示される。図16(A),(B)には,オクルージョン領域ROCの面積に応じた長さを持つ表示バーB1が,動画S6,S7に重合わされて表示されている様子がそれぞれ示されている。ディジタル・スチル・カメラ1の位置を異ならせることによってオクルージョン対応領域ROCの面積が変動すると,それに合わせて表示バーB1の長さが変動する。オクルージョン対応領域ROCの面積が大きいほど,長さの長い表示バー1が表示される。オクルージョン対応領域ROCの面積が小さくなると,表示バーB1の長さは短くなる。表示バーB1の長さによってオクルージョン対応領域ROCの大きさを簡単に認識することができ,ディジタル・スチル・カメラ1の位置(視点)を,オクルージョン領域の削減により好ましい位置に調整することができる。
【0096】
図17は,表示バーB1を表示する場合のディジタル・スチル・カメラ1の処理を示すフローチャートであり,図6に示すフローチャートと対応する。図6に示すフローチャートと同一処理には同一符号を付し,重複説明を避ける。
【0097】
はじめに,オクルージョン対応領域表示面積を格納するためのメモリ領域がメイン・メモリ22に設けられ,ここに初期値(0)が格納される(ステップ61)。
【0098】
上述したように,着目画像iのオクルージョン領域OCと動画とが用いられてオクルージョン対応領域ROCが求められる(ステップ52)。
【0099】
求められたオクルージョン対応領域ROCの面積(画素数または面積率でもよい)が算出されて上記メモリ領域に格納される。メモリ領域に格納されたオクルージョン対応領域ROCの面積に応じた表示バーB1の長さが算出される(ステップ62)。算出された長さを持つ表示バーB1が,動画S5,S6に重合わされて表示画面上に表示される(ステップ63,図16(A),図16(B))。
【0100】
撮影操作(シャッタ・レリーズ・ボタンの押下)があるまで(ステップ64でYES ,ステップ54),動画の表示,オクルージョン対応領域ROCの表示および表示バーB1の表示が繰返される(ステップ64でNO)。
【0101】
表示バーB1の表示に代えてまたは加えて,算出された面積の面積率(動画の1フレームの全画素数に対するオクルージョン対応領域ROCを構成する画素数の割合)を表す数値を,上記動画に重合わせて表示してもよい。
【0102】
(第2実施例)
図18から図26は,第2実施例を示している。
【0103】
第2実施例は,異なる視点から対象物を撮影するためにディジタル・スチル・カメラ1を移動させるときに,その移動方向および移動距離についてのアシスト情報の表示を行うものである。
【0104】
図18は,ディジタル・スチル・カメラ1を用いて対象物(瓶)OB3を様々な位置p(1)〜p(m)から撮像している様子を示している。
【0105】
第2実施例では,ディジタル・スチル・カメラ1を移動させるべき2つの移動方向および移動量があらかじめ設定される。移動量はあらかじめ定められ,2つの移動方向はたとえば操作器3を用いて設定される。設定される2つの移動方向の一つ(第1移動方向)は,対象物OB3を右回り(反時計回り)または左回り(時計回り)のいずれの回り方向で撮影するか(ディジタル・スチル・カメラ1を移動させるか)を規定する。他の一つの移動方向(第2移動方向)は上記第1移動方向に直交する方向であり,第1移動方向(右回りまたは左回り)の一周分の対象物OB3の撮影を終えた後,上方向または下方向のいずれにディジタル・スチル・カメラ1を移動させるかを規定する。第2移動方向の移動の後,再度,第1移動方向にディジタル・スチル・カメラ1を移動させながら複数回の撮影が行われる。図18に示すように,たとえば,ディジタル・スチル・カメラ1が右回りに移動させられて,1駒目,2駒目・・・N駒目の対象物OB3の複数回の撮影が行われる。一周分の撮影が完了するとディジタル・スチル・カメラ1が上方向に移動させられ,その高さ位置で再びN+1駒目から始まる2周目の右回りの撮影が行われる。M駒目の撮影によって視認することができる対象物OB3の全体の撮影の完了が判断されると,ディジタル・スチル・カメラ1による処理が終了する。
【0106】
以下の説明では,上記第1移動方向を右回り方向とし,上記第2移動方向を上方向として説明する。
【0107】
図19および図20は,第2実施例のディジタル・スチル・カメラ1の処理を示すフローチャートである。
【0108】
はじめに,操作器3が用いられてディジタル・スチル・カメラ1を移動させるべき互いに異なる2つの方向(第1移動方向および第2移動方向)が設定される(ステップ71)。ここでは,上述のように,第1移動方向として右回り方向が設定され,第2移動方向として上方向が設定された場合を説明する。
【0109】
最初の撮影(1駒目の撮影)かどうかが判断される(ステップ72)。
【0110】
最初の撮影である場合,特段の処理は行われず,ディジタル・スチル・カメラ1の表示装置29に動画によって表示されている対象画像ob3を含む画像データが,シャッタ・レリーズ・ボタンの押下に応じてメモリ・カード27に記録される(ステップ83)。
【0111】
図21はディジタル・スチル・カメラ1を背面から示すもので,撮像位置p(1)から撮像によって得られた1駒目画像n1が,表示装置29の表示画面上に表示されている様子を示している。1駒目画像n1および後述する他の画像は,対象物OB3を表す対象画像ob3を含む。
【0112】
各周回の最初の撮像によって得られる画像は,周始め画像としてメイン・メモリ22に記憶される。1駒目画像n1は1周目の最初の撮像によって得られた画像であるから,周始め画像としてメイン・メモリ22に記録される(ステップ84)。
【0113】
メイン・メモリ22に一周始めフラグが設定される。初期状態では一周始めフラグはオフされる(ステップ85)。後述するように,一周始めフラグは一周分の撮影が完了したときにオンされる。一周始めフラグを用いた処理の詳細は後述する。
【0114】
撮影完了操作が無ければ(ステップ93でNO),次の駒(2駒目)の処理に進む(ステップ72でNO)。ディジタル・スチル・スチル1が第1移動方向,ここでは右回り方向に移動させられる。図18を参照して撮像位置がp(1)からp(2)となる。
【0115】
一周始めフラグがオンされているかどうかが判断される(ステップ73)。1駒目画像n1のみが取得されているとき,上述のように一周始めフラグはオフされている(ステップ85)。この場合,ディジタル・スチル・カメラ1の現移動方向は第1移動方向(右回り方向)であると判断される(ステップ73でNO,ステップ75)。
【0116】
判断された現移動方向にしたがって位置移動(位置ずらし)が行われた前駒画像が,アシスト画像として,画角決定用の動画(スルー画)上に半透明表示される(ステップ76)。
【0117】
図22は,撮像位置p(2)から2駒目画像n2が取得される前に,表示画面上に表示される動画Sn2を示している。
【0118】
動画Sn2に重合わされて,前駒画像,ここでは1駒目画像n1(図21参照)が左方向に位置移動された状態で半透明表示される。半透明表示される位置移動された前駒画像n1がアシスト画像An1である。
【0119】
移動方向が右回りである場合,アシスト画像は,前駒画像を左向きに所定移動量(たとえば,前駒画像の横幅の1/3程度の移動量)だけ位置を移動させ,それを半透明表示としたものである。移動方向が左回りであれば,アシスト画像の位置移動方向は右向きとなる。図22に示すように,アシスト画像としての第1駒目画像An1は動画Sn2中において左方向に位置がずらされて半透明表示される。第1駒目画像n1の一部(第1駒画像の右端から2/3程度)が動画Sn2中に半透明表示される。
【0120】
動画の位置とアシスト画像の位置とが一致しているかどうかが判断される(ステップ77)。ここでは,動画Sn2の位置が,アシスト画像An1(位置移動後の1駒目画像n1)の位置と一致しているかどうかが判断されることになる。たとえば,半透明表示されているアシスト画像(1駒目画像n1の一部)から得られる複数の特徴点と,動画から得られる上記特徴点に対応する対応点の位置に基づいて,上記動画の位置がアシスト画像の位置と一致しているかどうかが判断される。もちろん,アシスト画像と動画に共通して現れている主要被写体像(たとえば,対象画像ob3)の位置に応じて,動画の位置とアシスト画像の位置の一致を判断してもよい。動画の位置とアシスト画像の位置が一致するかどうかの判断は,前駒画像の一部が動画中に現れており,かつ設定された移動方向および所定移動量に合致する移動後の撮像位置(すなわち,次回撮像位置)からの撮像が行われているかを判断するものである。
【0121】
動画Sn2の位置とアシスト画像An1(位置移動後の前駒画像n1)の位置とが一致していない場合,画角および位置を合わせるアシスト情報が表示画面上に表示される(ステップ78でNO,ステップ79)。
【0122】
図22を参照して,たとえば,アシスト画像An1が左に,動画Sn2が右にずれて表示されている場合,右向矢印r1および「カメラの位置を合わせて下さい」の文字列m2が,アシスト情報として表示されている。動画Sn2の位置ずれの方向および大きさは,上述のように,アシスト画像から得られる複数の特徴点の位置と,動画から得られる上記特徴点に対応する対応点の位置(すなわち,移動ベクトル)から求められる。右向矢印r1にしたがう右方向にディジタル・スチル・カメラ1を移動させると,動画Sn2中の対象画像ob3は相対的に左方向に移動する。アシスト情報(右向矢印r1)にしたがう向きにディジタル・スチル・カメラ1を移動させることによって,動画Sn2の位置とアシスト画像An1の位置が一致するようになる。
【0123】
第1実施例で説明したように,ディジタル・スチル・カメラ1と対象物OB3との間の距離に大きな変動があったことが検出された場合には,「カメラを近づけて下さい!」(または「遠ざけて下さい!」)といった距離(画角)に関するアシスト情報m1が,動画Sn2に重合わせて表示される(図15参照)。
【0124】
動画Sn2の位置とアシスト画像An1の位置が一致すると判断されると(ステップ78でYES),図23に示すように,アシスト情報r1,m2が表示画面から消える。そのときに表示画面上に表示されている動画と,メモリ・カード27に記憶されている取得済みの画像データによって表される撮影済み画像のそれぞれが比較されて,表示されている動画が撮影済みであるかどうかが判断される(ステップ80,81)。
【0125】
1駒目画像n1(図21)のみが撮影済みであり,1駒目画像の撮像位置p(1)と異なる撮像位置p(2)からの撮像によって動画Sn2(図23)が撮像されている場合,動画Sn2は撮影済みでない(未撮影)と判断される(ステップ81でNO)。一周始めフラグがオフされていることを条件にして,対象物OB3の2度目の撮影が行われる(ステップ82でNO,ステップ86)。2駒目画像n2がメモリ・カード27に記憶される。また,一周始めフラグがオンされている場合にはオフされる(ステップ87)。
【0126】
同様にして,対象物OB3の周囲を右回りに移動しながら複数回の撮影が続けられる(図18参照)。
【0127】
図24は,1周目の右回りのN回の撮影が行われ,ほぼ最初の撮像位置p(N)に戻ってきたときに表示される動画SnNを示している。
【0128】
対象物OB3を中心にして右回りに移動しつつ,ディジタル・スチル・カメラ1がほぼ一周すると,そのときの動画SnNは撮影済み画像(一駒目画像n1)とほぼ一致する。動画SnNは既に撮影ずみであると判断される(ステップ80,ステップ81でYES )。
【0129】
動画SnNと,上述したメイン・メモリ22に記憶されている周始め画像,ここでは1駒目画像n1とが一致するかどうかが判断される(ステップ88)。動画SnNと周始め画像(一駒目画像n1)とが一致すると判断されると,一周撮影完了をユーザに示すアシスト情報m3が表示画面上に表示される(図24,ステップ89でYES ,ステップ90)。
【0130】
一周撮影完了が判断されると,上述した一周始めフラグがオンされる(ステップ91)。一周始めフラグがオンされている場合,次のN+1駒目に対する処理では,現移動方向は第2移動方向,すわなち,上方向であることが認識される(ステップ73でYES ,ステップ74)。
【0131】
図25は現移動方向が上方向であると判断されたときの動画Sn(N+1)を示している。
【0132】
判断された現移動方向が第2移動方向,ここでは上方向と判断されると,前駒画像ではなく,周始め画像(1駒目画像n1)がアシスト画像として動画中に表される(ステップ76)。ここでは,現移動方向が上方向であるから,アシスト画像としての周始め画像AnNは,周始め画像を下向きに所定移動量(たとえば,撮影画像の縦幅の1/3程度)だけ移動させたものとなる。また,ディジタル・スチル・カメラ1の移動方向に関するアシスト情報として上向矢印r2が表示画面上に現れる。
【0133】
上方向に移動させられた後の最初の一駒目の撮影の前の時点では,上述のように,一周始めフラグがオンされている。この場合には,上方向に移動させられて最初の撮影によって得られる画像(二周目の始めの画像である)が,二周目の周始め画像として新たにメイン・メモリ22に記憶される(ステップ82でYES ,ステップ83,84)。二周目の撮影(右回りに移動しながらの複数回の撮影)に進む。
【0134】
右回りの複数回の撮影,上方向の移動,さらなる右回りの複数回の撮影が繰返されると,対象物OB3の底面を除くすべてが撮影される。一周撮影が完了していないにもかかわらず動画SnMがすでに撮影済みである場合,視認することができる対象物OB3のすべての領域の撮影を終えたことを意味する。この場合,撮影不要である旨をユーザに示すアシスト情報m4が表示画面上に表示され,一連の処理が終了する(ステップ81でYES ,ステップ88,ステップ89でNO,ステップ92,図26)。
【0135】
アシスト画像An1,An2・・が表示画面上に半透明表示されるので,次に撮影を行うべき位置および移動距離を撮影者は容易に把握することができる。また,ディジタル・スチル・カメラ1を移動させるべき方向を示す矢印A1,A2も表示され,かつ移動を促すアシスト情報m2も表示されるので,移動方向について撮影者に対して分かりやすくアシストが行われる。一周撮影完了時にその旨を表すアシスト情報m2が表示され,さらに全領域の撮影を終えたことを表すアシスト情報m3も表示されるので,無駄な撮影を回避することができる。
【0136】
上述した第2実施例では,対象物OB3を中心にしてその回りをディジタル・スチル・カメラ1を移動させならがら複数回撮影する例を説明したが,もちろん,ディジタル・スチル・カメラ1を中心してその周囲の景色等を撮影する場合であっても,第2実施例は適用することができる。
【符号の説明】
【0137】
1 ディジタル・スチル・カメラ
2 CPU
3 操作器
15 固体撮像素子
22 メイン・メモリ
23 ディジタル信号処理回路
27 メモリ・カード
28 表示制御回路
29 表示装置
【特許請求の範囲】
【請求項1】
対象物を撮像し,撮像によって得られる画像データを出力する撮像手段,
上記撮像手段から一定周期で出力される画角決定用の動画データによって表される動画を表示装置の表示画面上に表示する動画表示制御手段,
上記撮像手段によって異なる視点から撮像され,かつ少なくとも一部分が共通する複数の画像のそれぞれについて,他の画像に現れていないオクルージョン領域を検出するオクルージョン領域検出手段,
上記複数の画像のうちの一つを着目画像として,上記オクルージョン領域検出手段によって検出された上記着目画像中のオクルージョン領域に対応する画像領域を,上記動画から検出するオクルージョン対応領域検出手段,および
上記オクルージョン対応領域検出手段によって検出されたオクルージョン対応領域を,上記動画中に表示するオクルージョン対応領域表示制御手段,
を備える撮像装置。
【請求項2】
上記複数の画像のうちのいずれか一つを上記着目画像に決定する着目画像決定手段を備え,
上記オクルージョン領域検出手段は,
上記着目画像決定手段によって決定された着目画像についてのオクルージョン領域を検出するものである,
請求項1に記載の撮像装置。
【請求項3】
上記着目画像決定手段は,
先に撮像された画像から後に撮像された画像の順番に,上記複数の画像のそれぞれを順次上記着目画像として決定するものである,
請求項2に記載の撮像装置。
【請求項4】
上記着目画像決定手段は,
上記オクルージョン領域検出手段によって上記着目画像中のオクルージョン領域が検出されなかった場合に,上記着目画像とされている画像の次に撮像された画像を,上記着目画像とするものである,
請求項3に記載の撮像装置。
【請求項5】
上記オクルージョン領域検出手段は,
上記撮像手段によって一の視点から撮像された画像のみが存在し,視点を異ならせて撮像される他の画像が存在しない場合には,上記一の視点から撮像された画像の全領域をオクルージョン領域とするものである,
請求項1に記載の撮像装置。
【請求項6】
上記オクルージョン領域検出手段は,
上記着目画像とそれ以外の画像のそれぞれとを用いて検出される複数のオクルージョン領域の論理積領域を,上記着目画像についてのオクルージョン領域とするものである,
請求項1から5のいずれか一項に記載の撮像装置。
【請求項7】
上記オクルージョン対応領域検出手段によって検出されたオクルージョン対応領域の大きさに応じて算出される評価情報を,上記動画中に表示するように上記表示装置を制御する評価情報表示制御手段を備える,
請求項1から6のいずれか一項に記載の撮像装置。
【請求項8】
所定の回り方向に沿う位置移動をしながら被写体を撮像し,一周撮像を終えると所定の高さ方向に高さ位置を移動させて,再びその高さ位置で上記回り方向に沿う位置移動をしながら上記被写体を撮像する撮像装置において,
上記被写体を撮像することによって得られる複数の被写体像を表す画像データを出力する撮像手段,
上記撮像手段から一定周期で出力される画角決定用の動画データによって表される動画を表示装置の表示画面上に表示する動画表示制御手段,
上記回り方向に沿う一周撮像が完了したかどうかを判断する一周撮像完了判断手段,および
上記一周撮像完了手段によって一周撮像が完了していないと判断された場合には上記所定の回り方向と逆方向に位置移動させた前駒画像の一部を上記動画上に半透明表示し,一周撮像が完了したと判断された場合には上記所定の高さ方向と逆方向に位置移動させた一周始め画像の一部を上記動画上に半透明表示するアシスト画像表示手段,
を備えた撮像装置。
【請求項9】
上記一周撮像完了判断手段は,上記一周始め画像と一致する動画が撮像されたときに一周撮像の完了を判断するものである,
請求項8に記載の撮像装置。
【請求項10】
上記一周撮像完了判断手段によって一周撮像の完了が判断された場合に,一周撮像が完了したことを表す一周撮像完了アシスト情報を上記動画上に表示する一周撮像完了アシスト情報表示制御手段を備える,
請求項8または9に記載の撮像装置。
【請求項11】
被写体までの距離または画角が変動したかどうかを判断する変動判断手段,および
上記変動判断手段によって上記距離または画角が変動したことが判断された場合に,上記変動を解消する方向への撮像位置の移動を促すアシスト情報を上記動画上に表示する変動アシスト情報表示制御手段,
を備える請求項8から10のいずれか一項に記載の撮像装置。
【請求項12】
撮像手段が,対象物を撮像して撮像によって得られる画像データを出力し,
動画表示制御手段が,上記撮像手段から一定周期で出力される画角決定用の動画データによって表される動画を表示画面上に表示するように表示装置を制御し,
オクルージョン領域検出手段は,上記撮像手段によって異なる視点から撮像され,かつ少なくとも一部分が共通する複数の画像のそれぞれについて,他の画像に現れていないオクルージョン領域を検出し,
オクルージョン対応領域検出手段が,上記複数の画像のうちの一つを着目画像とし,上記オクルージョン領域検出手段によって検出された上記着目画像中のオクルージョン領域に対応する画像領域を,上記動画から検出し,
オクルージョン対応領域表示制御手段が,上記オクルージョン対応領域検出手段によって検出されたオクルージョン対応領域を,上記動画中に表示するように表示装置を制御する,
撮像装置の動作制御方法。
【請求項13】
所定の回り方向に沿う位置移動をしながら被写体を撮像し,一周撮像を終えると所定の高さ方向に高さ位置を移動させて,再びその高さ位置で上記回り方向に沿う位置移動をしながら上記被写体を撮像する撮像装置の動作制御方法において,
撮像手段が,上記被写体を撮像することによって得られる複数の被写体像を表す画像データを出力し,
動画表示制御手段が,上記撮像手段から一定周期で出力される画角決定用の動画データによって表される動画を表示装置の表示画面上に表示し,
一周撮像完了判断手段が,上記回り方向に沿う一周撮像が完了したかどうかを判断し,
アシスト画像表示手段が,上記一周撮像完了手段によって一周撮像が完了していないと判断された場合には上記所定の回り方向と逆方向に位置移動させた前駒画像の一部を上記動画上に半透明表示し,一周撮像が完了したと判断された場合には上記所定の高さ方向と逆方向に位置移動させた一周始め画像の一部を上記動画上に半透明表示する,
撮像装置の動作制御方法。
【請求項14】
対象物を撮像し,撮像によって得られる画像データを出力する撮像手段,および上記撮像手段から一定周期で出力される画角決定用の動画データによって表される動画を表示装置の表示画面上に表示する動画表示制御手段を備える撮像装置のコンピュータを制御するプログラムであって,
上記撮像手段によって異なる視点から撮像され,かつ少なくとも一部分が共通する複数の画像のそれぞれについて,他の画像に現れていないオクルージョン領域を検出させ,
上記複数の画像のうちの一つを着目画像として,検出された上記着目画像中のオクルージョン領域に対応する画像領域を上記動画から検出させ,
検出された上記オクルージョン対応領域を上記動画中に表示させるように,撮像装置のコンピュータを制御する,プログラム。
【請求項15】
所定の回り方向に沿う位置移動をしながら被写体を撮像し,一周撮像を終えると所定の高さ方向に高さ位置を移動させて,再びその高さ位置で上記回り方向に沿う位置移動をしながら上記被写体を撮像する撮像装置のコンピュータを制御するプログラムであって,
上記撮像装置は,上記被写体を撮像することによって得られる複数の被写体像を表す画像データを出力する撮像手段,および上記撮像手段から一定周期で出力される画角決定用の動画データによって表される動画を表示装置の表示画面上に表示する動画表示制御手段を備えたものであり,
上記回り方向に沿う一周撮像が完了したかどうかを判断させ,
一周撮像が完了していないと判断された場合には上記所定の回り方向と逆方向に位置移動させた前駒画像の一部を上記動画上に半透明表示し,一周撮像が完了したと判断された場合には上記所定の高さ方向と逆方向に位置移動させた一周始め画像の一部を上記動画上に半透明表示させるように,上記撮像装置のコンピュータを制御するプログラム。
【請求項1】
対象物を撮像し,撮像によって得られる画像データを出力する撮像手段,
上記撮像手段から一定周期で出力される画角決定用の動画データによって表される動画を表示装置の表示画面上に表示する動画表示制御手段,
上記撮像手段によって異なる視点から撮像され,かつ少なくとも一部分が共通する複数の画像のそれぞれについて,他の画像に現れていないオクルージョン領域を検出するオクルージョン領域検出手段,
上記複数の画像のうちの一つを着目画像として,上記オクルージョン領域検出手段によって検出された上記着目画像中のオクルージョン領域に対応する画像領域を,上記動画から検出するオクルージョン対応領域検出手段,および
上記オクルージョン対応領域検出手段によって検出されたオクルージョン対応領域を,上記動画中に表示するオクルージョン対応領域表示制御手段,
を備える撮像装置。
【請求項2】
上記複数の画像のうちのいずれか一つを上記着目画像に決定する着目画像決定手段を備え,
上記オクルージョン領域検出手段は,
上記着目画像決定手段によって決定された着目画像についてのオクルージョン領域を検出するものである,
請求項1に記載の撮像装置。
【請求項3】
上記着目画像決定手段は,
先に撮像された画像から後に撮像された画像の順番に,上記複数の画像のそれぞれを順次上記着目画像として決定するものである,
請求項2に記載の撮像装置。
【請求項4】
上記着目画像決定手段は,
上記オクルージョン領域検出手段によって上記着目画像中のオクルージョン領域が検出されなかった場合に,上記着目画像とされている画像の次に撮像された画像を,上記着目画像とするものである,
請求項3に記載の撮像装置。
【請求項5】
上記オクルージョン領域検出手段は,
上記撮像手段によって一の視点から撮像された画像のみが存在し,視点を異ならせて撮像される他の画像が存在しない場合には,上記一の視点から撮像された画像の全領域をオクルージョン領域とするものである,
請求項1に記載の撮像装置。
【請求項6】
上記オクルージョン領域検出手段は,
上記着目画像とそれ以外の画像のそれぞれとを用いて検出される複数のオクルージョン領域の論理積領域を,上記着目画像についてのオクルージョン領域とするものである,
請求項1から5のいずれか一項に記載の撮像装置。
【請求項7】
上記オクルージョン対応領域検出手段によって検出されたオクルージョン対応領域の大きさに応じて算出される評価情報を,上記動画中に表示するように上記表示装置を制御する評価情報表示制御手段を備える,
請求項1から6のいずれか一項に記載の撮像装置。
【請求項8】
所定の回り方向に沿う位置移動をしながら被写体を撮像し,一周撮像を終えると所定の高さ方向に高さ位置を移動させて,再びその高さ位置で上記回り方向に沿う位置移動をしながら上記被写体を撮像する撮像装置において,
上記被写体を撮像することによって得られる複数の被写体像を表す画像データを出力する撮像手段,
上記撮像手段から一定周期で出力される画角決定用の動画データによって表される動画を表示装置の表示画面上に表示する動画表示制御手段,
上記回り方向に沿う一周撮像が完了したかどうかを判断する一周撮像完了判断手段,および
上記一周撮像完了手段によって一周撮像が完了していないと判断された場合には上記所定の回り方向と逆方向に位置移動させた前駒画像の一部を上記動画上に半透明表示し,一周撮像が完了したと判断された場合には上記所定の高さ方向と逆方向に位置移動させた一周始め画像の一部を上記動画上に半透明表示するアシスト画像表示手段,
を備えた撮像装置。
【請求項9】
上記一周撮像完了判断手段は,上記一周始め画像と一致する動画が撮像されたときに一周撮像の完了を判断するものである,
請求項8に記載の撮像装置。
【請求項10】
上記一周撮像完了判断手段によって一周撮像の完了が判断された場合に,一周撮像が完了したことを表す一周撮像完了アシスト情報を上記動画上に表示する一周撮像完了アシスト情報表示制御手段を備える,
請求項8または9に記載の撮像装置。
【請求項11】
被写体までの距離または画角が変動したかどうかを判断する変動判断手段,および
上記変動判断手段によって上記距離または画角が変動したことが判断された場合に,上記変動を解消する方向への撮像位置の移動を促すアシスト情報を上記動画上に表示する変動アシスト情報表示制御手段,
を備える請求項8から10のいずれか一項に記載の撮像装置。
【請求項12】
撮像手段が,対象物を撮像して撮像によって得られる画像データを出力し,
動画表示制御手段が,上記撮像手段から一定周期で出力される画角決定用の動画データによって表される動画を表示画面上に表示するように表示装置を制御し,
オクルージョン領域検出手段は,上記撮像手段によって異なる視点から撮像され,かつ少なくとも一部分が共通する複数の画像のそれぞれについて,他の画像に現れていないオクルージョン領域を検出し,
オクルージョン対応領域検出手段が,上記複数の画像のうちの一つを着目画像とし,上記オクルージョン領域検出手段によって検出された上記着目画像中のオクルージョン領域に対応する画像領域を,上記動画から検出し,
オクルージョン対応領域表示制御手段が,上記オクルージョン対応領域検出手段によって検出されたオクルージョン対応領域を,上記動画中に表示するように表示装置を制御する,
撮像装置の動作制御方法。
【請求項13】
所定の回り方向に沿う位置移動をしながら被写体を撮像し,一周撮像を終えると所定の高さ方向に高さ位置を移動させて,再びその高さ位置で上記回り方向に沿う位置移動をしながら上記被写体を撮像する撮像装置の動作制御方法において,
撮像手段が,上記被写体を撮像することによって得られる複数の被写体像を表す画像データを出力し,
動画表示制御手段が,上記撮像手段から一定周期で出力される画角決定用の動画データによって表される動画を表示装置の表示画面上に表示し,
一周撮像完了判断手段が,上記回り方向に沿う一周撮像が完了したかどうかを判断し,
アシスト画像表示手段が,上記一周撮像完了手段によって一周撮像が完了していないと判断された場合には上記所定の回り方向と逆方向に位置移動させた前駒画像の一部を上記動画上に半透明表示し,一周撮像が完了したと判断された場合には上記所定の高さ方向と逆方向に位置移動させた一周始め画像の一部を上記動画上に半透明表示する,
撮像装置の動作制御方法。
【請求項14】
対象物を撮像し,撮像によって得られる画像データを出力する撮像手段,および上記撮像手段から一定周期で出力される画角決定用の動画データによって表される動画を表示装置の表示画面上に表示する動画表示制御手段を備える撮像装置のコンピュータを制御するプログラムであって,
上記撮像手段によって異なる視点から撮像され,かつ少なくとも一部分が共通する複数の画像のそれぞれについて,他の画像に現れていないオクルージョン領域を検出させ,
上記複数の画像のうちの一つを着目画像として,検出された上記着目画像中のオクルージョン領域に対応する画像領域を上記動画から検出させ,
検出された上記オクルージョン対応領域を上記動画中に表示させるように,撮像装置のコンピュータを制御する,プログラム。
【請求項15】
所定の回り方向に沿う位置移動をしながら被写体を撮像し,一周撮像を終えると所定の高さ方向に高さ位置を移動させて,再びその高さ位置で上記回り方向に沿う位置移動をしながら上記被写体を撮像する撮像装置のコンピュータを制御するプログラムであって,
上記撮像装置は,上記被写体を撮像することによって得られる複数の被写体像を表す画像データを出力する撮像手段,および上記撮像手段から一定周期で出力される画角決定用の動画データによって表される動画を表示装置の表示画面上に表示する動画表示制御手段を備えたものであり,
上記回り方向に沿う一周撮像が完了したかどうかを判断させ,
一周撮像が完了していないと判断された場合には上記所定の回り方向と逆方向に位置移動させた前駒画像の一部を上記動画上に半透明表示し,一周撮像が完了したと判断された場合には上記所定の高さ方向と逆方向に位置移動させた一周始め画像の一部を上記動画上に半透明表示させるように,上記撮像装置のコンピュータを制御するプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【公開番号】特開2012−15674(P2012−15674A)
【公開日】平成24年1月19日(2012.1.19)
【国際特許分類】
【出願番号】特願2010−148534(P2010−148534)
【出願日】平成22年6月30日(2010.6.30)
【出願人】(306037311)富士フイルム株式会社 (25,513)
【Fターム(参考)】
【公開日】平成24年1月19日(2012.1.19)
【国際特許分類】
【出願日】平成22年6月30日(2010.6.30)
【出願人】(306037311)富士フイルム株式会社 (25,513)
【Fターム(参考)】
[ Back to top ]