説明

三次元測定装置及び三次元測定方法

【課題】画角を変更する操作に応じた三次元画像を取得可能にする。
【解決手段】被写体を撮像する撮像手段を備えてなる三次元測定装置において、三次元画像データを取得し、取得した三次元画像データを、三次元画像データで表わされる三次元画像の少なくとも一部ob1の奥行き方向の位置及び/又は大きさが変化するように、前記撮像手段の画角変換操作部材の操作T、Wもしくは該操作部材の操作T、Wに対応する操作に基づいて処理する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、三次元画像データを生成する三次元測定装置及び三次元測定方法に関するものである。
【背景技術】
【0002】
近年、異なる視点から同一の被写体を撮像することにより取得した複数の画像データか三次元画像データを生成する三次元測定装置が提案されており、三次元画像データの生成方法としては、例えば、取得された複数の画像データにおいて共通して写っている点、いわゆる対応点を特定し、三角測量の原理に従って対応点までの距離を算出することにより、被写体の三次元形状を推測するステレオマッチング法を用いる方法が知られている。
【0003】
一方、仮想空間上において、立体形状を表わす三次元画像の位置や大きさを変更したり、合成したりする三次元CAD(3D−Computer-Aided Design)ソフトウェアは既に知られている。
【0004】
また予め容易された三次元形状を表わす三次元画像と、カメラ撮影により得られる実写画像とを合成する様々な装置が提案されており、このような装置としてはカメラの位置、カメラの向き、及びカメラの視野の広さが実際のカメラとは異なる仮想カメラの情報を出力することにより、実際のカメラと被写体との位置関係とは異なる位置関係を満たす合成画像を得るようにした画像合成装置がある(特許文献1)。
【特許文献1】特開2001−285715号公報
【発明の開示】
【発明が解決しようとする課題】
【0005】
しかしながら、特許文献1に記載された画像処理装置は、カメラ撮影により得られる二次元画像データと三次元形状を表わす三次元画像データとを合成するものであり、二次元画像を三次元空間中のどこの位置に配置するかを決定するものであって、三次元画像のみを操作するものはなかった。
【0006】
また上記ステレオマッチング法によって算出された距離データは、略実際の距離の値が求められおり、カメラの光学ズームや電子ズーム等の操作による被写体の遠近感は反映されていなかった。
【0007】
本発明はかかる事情に鑑みてなされたものであり、画角を変更する操作に応じた三次元画像を取得可能な三次元測定装置及び三次元測定方法を提供することを目的とするものである。
【課題を解決するための手段】
【0008】
本発明の三次元測定装置は、被写体を撮像する撮像手段と、
該撮像手段で撮像して得た被写体の三次元画像データを含む、1つ以上の三次元画像データを取得可能な三次元画像データ取得手段と、
該三次元画像データ取得手段で取得された三次元画像データを、該三次元画像データで表わされる三次元画像の少なくとも一部の奥行き方向の位置及び/又は大きさが変化するように、前記撮像手段の画角変換操作部材の操作もしくは該操作部材の操作に対応する操作に基づいて処理する画像データ処理手段とを備えたことを特徴とするものである。
【0009】
ここで本発明において「三次元画像データ」とは、被写体のX,Y,Z方向の座標データであり、座標X,Yはその画素の位置を表す位置情報、座標Zは奥行き情報である。また「三次元画像」は、表示する表示手段が二次元表示のものである場合には、三次元画像データで表わされる被写体の形状すなわち三次元モデルを二次元の平面に投影したものを意味し、例えばワイヤーフレームや、サーフェース等で表わすことができる。また画像を表示する表示手段が画像を立体視可能なものである場合には、立体視される立体視画像を意味する。
【0010】
また本発明の三次元画像データ取得手段が取得する三次元画像データは、「撮像手段で撮像して得た被写体の三次元画像データ」を含む場合もあるし、含まない場合もある。また「三次元画像データで表わされる三次元画像」は、実際に表示された画像であってもよいし、表示したと仮定した場合の仮想的なものであってもよい。また「三次元画像データ」は表示のためにバッファ等の一時的にデータを記憶するメモリ領域等に一時的に形成されるデータであっても、ハードディスクや光磁気ディスク等のストレージ等に(特に操作しなければ)恒久的に保存されるデータであってもよい。つまり例えばバッファ上の表示画像だけを変化させながら最適な「奥行き方向の位置及び/又は大きさ」を決定し、確定したときにストレージ上のデータに変更分を反映させるようにしてもよい。
【0011】
なお本発明の三次元測定装置においては、前記画像データ処理手段が、前記三次元画像データ取得手段で取得された複数の三次元画像データで表わされる複数の三次元画像のうち、少なくとも一つの三次元画像の少なくとも一部が他の三次元画像に対して、前記複数の三次元画像が合成されたときの奥行き方向の位置及び/又は大きさが相対的に変化するように前記処理するものであってもよい。
【0012】
この場合、前記画像データ処理手段が、前記複数の三次元画像が合成された合成三次元画像に対して前記処理を行ってもよい。
【0013】
本発明の三次元測定装置においては、前記画角変換操作部材が、前記撮像手段の画角を光学的に変換させる光学ズーミング操作部材とすることができる。
【0014】
本発明の三次元測定装置においては、前記画角変換操作部材が、前記撮像手段の画角を電子的に変換させるものとすることができる。
【0015】
本発明の三次元測定装置においては、前記撮像手段の画角範囲の被写体のスルー画像を表示する表示手段をさらに備え、
前記画像データ処理手段が、前記スルー画像に前記三次元画像を合成して表示すると共に前記処理を行うことができる。
【0016】
また本発明の三次元測定装置においては、前記撮像手段の画角範囲の被写体のスルー画像を表示する表示手段をさらに備え、
前記画像データ処理手段が、前記スルー画像に表示された前記画角範囲の変化に連動して前記処理を行うことができる。
【0017】
ここで本発明において「スルー画像」とは、撮像手段の固定撮像素子から所定間隔毎に読み出された画像データがデジタル信号処理されて出力されるものであり、連続性のある画像つまり動画を意味する。
【0018】
本発明の三次元測定装置においては、前記画像データ処理手段が、前記撮像手段の画角変換操作部材の操作により変更される前記撮像手段の画角の変化量に対応し前記三次元画像の少なくとも一部の奥行き方向の位置及び/又は大きさが変化するように前記処理するものであってもよい。
【0019】
また本発明の三次元測定方法は、被写体を撮像する撮像手段を備えてなる三次元測定装置を使用した三次元測定方法において、
三次元画像データを取得し、
該取得した三次元画像データを、該三次元画像データで表わされる三次元画像の少なくとも一部の奥行き方向の位置及び/又は大きさが変化するように、前記撮像手段の画角変換操作部材の操作もしくは該操作部材の操作に対応する操作に基づいて処理することを特徴とする。
【0020】
なお本発明の三次元測定方法においては、前記撮像手段で異なる視点から被写体を複数撮像し、
前記異なる視点から撮像して得た複数の画像データから前記被写体の三次元画像データを取得してもよい。
【0021】
本発明の三次元測定方法においては、前記三次元画像データを1つ以上入力し、
該入力された1つ以上の三次元画像データから1つの三次元画像データを取得してもよい。
【0022】
また本発明の三次元測定方法は、前記三次元画像データを複数取得し、
該取得した複数の三次元画像データで表わされる複数の三次元画像のうち、少なくとも一つの三次元画像の少なくとも一部が他の三次元画像に対して、前記複数の三次元画像が合成されたときの奥行き方向の位置及び/又は大きさが相対的に変化するように前記処理することができる。
【0023】
なおこの場合、本発明の三次元測定方法では、異なる被写体に対してそれぞれ、
前記撮像手段で異なる視点から前記被写体を複数撮像し、
前記異なる視点から撮像して得た複数の画像データから前記被写体の三次元画像データを取得して、
各々が前記異なる被写体の複数の三次元画像データを取得してもよい。
【0024】
また本発明の三次元測定方法では、前記三次元画像データを複数入力し、
該入力された複数の三次元画像データから前記複数の三次元画像データを取得してもよい。
【0025】
また本発明の三次元測定方法では、前記三次元画像データを複数入力すると共に、
前記撮像手段で異なる視点から被写体を複数撮像し、
前記異なる視点から撮像して得た複数の画像データから前記被写体の三次元画像データを取得して、
該取得した画像データと前記入力された複数の三次元画像データから前記複数の三次元画像データを取得してもよい。
【発明の効果】
【0026】
本発明の三次元測定装置及び三次元測定方法によれば、取得した三次元画像データを、この三次元画像データで表わされる三次元画像の少なくとも一部の奥行き方向の位置及び/又は大きさが変化するように、撮像手段の画角変換操作部材の操作もしくは画角変換操作部材の操作に対応する操作に基づいて処理するので、撮像手段の画角を変更する操作に応じて三次元画像の奥行き方向の位置及び/又は大きさを変化させることができて、撮像手段の画角を変更する感覚で画角を変更する操作に応じた三次元画像を取得することができる。
【発明を実施するための最良の形態】
【0027】
以下、本発明にかかる三次元測定装置の一実施形態としてのステレオカメラ1について、図面を参照して詳細に説明する。図1は本実施形態のステレオカメラ1の概観斜視図である。
【0028】
本実施形態のステレオカメラ1は、図1に示す如く、前面に2つの撮像部21A,21Bのレンズ10A,10Bを備え、上面に被写体の撮像を指示するシャッタボタン2と被写体に向けて発光するフラッシュ3とを備えている。また背面には、ズームテレボタン4aとズームワイドボタン4bとで構成されたズームボタン(画角変換操作部材)4と、モニタ20と、上下左右ボタン5とを備え、側面には例えばUSBコネクタ等の入出力コネクタ6が備えられている。
【0029】
ここで図2に図1のステレオカメラ1の内部構成を示す概略ブロック図、図3に撮像部21A,21Bの構成を示す図をそれぞれ示す。
【0030】
ステレオカメラ1は、図2に示す如く、2つの撮像部(撮像手段)21A,21B、撮像制御部22、信号処理部23、圧縮/伸長処理部24、フレームメモリ25、メディア制御部26、内部メモリ27、表示制御部28、モニタ20、及び操作部36を備えている。
【0031】
撮像部21A,21Bは、図3に示す如く、レンズ10A,10B、絞り11A,11B、シャッタ12A,12B、CCD13A,13B、アナログフロントエンド(AFE)14A,14BおよびA/D変換部15A,15Bをそれぞれ備えている。
【0032】
レンズ10A,10Bは、被写体に焦点を合わせるためのフォーカスレンズ、ズーム機能を実現するためのズームレンズ等の複数の機能別レンズにより構成され、不図示のレンズ駆動部によりその位置が調整される。なお本実施形態において焦点位置は固定されているものとする。
【0033】
絞り11A,11Bは、不図示の絞り駆動部により、AE処理により得られる絞り値データに基づいて絞り径の調整が行われる。なお本実施形態において絞り値データは固定されているものとする。
【0034】
シャッタ12A,12Bはメカニカルシャッタであり、不図示のシャッタ駆動部により、AE処理により得られるシャッタスピードに応じて駆動される。なお本実施形態においてシャッタスピードは固定されているものとする。
【0035】
CCD13A,13Bは、多数の受光素子を2次元的に配列した光電面を有しており、被写体光がこの光電面に結像して光電変換されてアナログ撮像信号が取得される。また、CCD13A,13Bの前面にはR,G,B各色のフィルタが規則的に配列されたカラーフィルタが配設されている。
【0036】
AFE14A,14Bは、CCD13A,13Bから出力されるアナログ撮像信号に対して、アナログ撮像信号のノイズを除去する処理、およびアナログ撮像信号のゲインを調節する処理(以下アナログ処理とする)を施す。
【0037】
A/D変換部15A,15Bは、AFE14A,14Bによりアナログ処理が施されたアナログ撮像信号をデジタル信号に変換する。なお、撮像部21Aにより取得される二次元画像データにより表される画像を左目用画像(基準画像)、撮像部21Bにより取得される二次元画像データにより表される画像を右目用画像(参照画像)とし、左目用画像と右目用画像の二次元画像データをステレオ画像データという。このように2つの撮像部21A,21Bは構成されている。
【0038】
また図2に示す撮像制御部22は、シャッタボタン2が押下後に撮像部21A,21Bの撮像の制御を行う。なお本実施形態においては、焦点位置、絞り値データおよびシャッタスピードは固定されているが、AF処理およびAE処理を行って、撮影の都度、焦点位置、絞り値データおよびシャッタスピードを設定するようにしてもよい。
【0039】
信号処理部23は、撮像部21A,21Bが取得したデジタルの画像データに対して、画像データの感度分布のばらつきおよび光学系の歪みを補正する補正処理や2つの画像を並行化するために、アフィン変換等を用いて、画像の回転や平行移動等の幾何学的な変換
処理等を施す。さらにこれらの処理後の画像に対してホワイトバランスを調整する処理、階調補正、シャープネス補正、および色補正等の画像処理を施す。
【0040】
圧縮/伸長処理部24は、信号処理部23によって各種処理が施された画像データ及び/又は後述する画像データ処理部33によって各種処理が施された画像データに対して、例えば、JPEG等の圧縮形式で圧縮処理を施し、必要に応じて画像ファイルを生成する。この画像ファイルは、ステレオ画像データ、三次元画像データ、合成三次元画像の三次元画像データ等により構成される。なお三次元画像データとは、被写体のX,Y,Z方向の座標値のデータであり、座標X,Yはその画素の位置を表す位置情報、座標Zは奥行き情報である。またこの画像ファイルには、Exifフォーマット等に基づいて、撮影日時やステレオ画像の配置位置を表す情報等の付帯情報が記述されたヘッダが付与される。
【0041】
フレームメモリ25は、撮像部21A,21Bが取得したステレオ画像データに対して、前述の信号処理部23が行う処理を含む各種処理を行う際に使用する作業用メモリである。
【0042】
メディア制御部26は、記録メディア29にアクセスして距離画像の画像ファイルの書き込みと読み込みの制御を行う。
【0043】
内部メモリ27は、ステレオカメラ1において設定される各種定数、およびCPU34が実行するプログラム等を記憶する。また各種画像データ等を記憶することもできる。
【0044】
表示制御部28は、内部メモリ27に格納された画像データをモニタ20に表示させたり、記録メディア29に記録されている画像をモニタ20に表示させたり、フレームメモリ25に格納された画像データをスルー画像としてモニタ20に表示させるためのものである。ここでスルー画像とは、撮像部21A,21BのCCD13A、13Bから所定間隔毎に読み出された画像データがデジタル信号処理されて出力されるものであり、連続性のある画像つまり動画を意味する。
【0045】
モニタ20は、表示制御部28を介して二次元画像又は三次元画像を表示するものであり、操作部36によって設定操作される各種設定メニュー等も表示する。二次元画像の表示は、三次元画像データで表わされる被写体の形状すなわち三次元モデルを二次元の平面に投影して表示する公知の技術(平行投影や透視投影の処理を示す。財団法人 画像情報教育振興協会(CG-ARTS協会)発行のコンピュータグラフィックス2−3章32ページ〜を参照)を使用することができ、例えばワイヤーフレームや、サーフェース等で表わすことができる。三次元画像の表示は、三次元画像データに基づいて行われ、上述した奥行き情報を画素値で表現した濃淡画像により表示することもできる。
【0046】
またモニタ20は、画像ファイルにステレオ画像データが含まれている場合には、例えば左目用画像と右目用画像をそれぞれ画像の縦方向に細長く切り取って交互に並べて表示し、同様に縦方向に刻まれたスリットを通して観察者に見せるようにすることで、観察者の左目には左目用画像を、右目には右目用画像をそれぞれ届ける、視差バリア(パララックスバリア)方式や、上記スリットの代わりにレンチキュラレンズを使用したレンチキュラ方式を使用することにより画像を立体視可能にされたものであってもよい。
【0047】
なお、2つの表示画面、あるいは1つの表示画面の左右に左目用画像と右目用画像を表示したものを左右の眼で見る方式でもよい。その他、空間分割方式であってもよい。
【0048】
また時系列的に光路を変更させる、例えば特許第3930021号公報に記載された、いわゆるスキャンバックライト方式を使用してもよいし、画像分離メガネを使用し、左右の画像を交互に表示することにより、画像を立体視する時分割方式を使用してもよい。
【0049】
操作部36は、上述したシャッタボタン2、ズームボタン4、上下左右ボタン5等の各種操作ボタンにより構成されていて、上下左右ボタン5はモニタ20に表示された各種設定メユー等の設定時にカーソルを移動させたり、選択したりする。
【0050】
ズームボタン4は、ズームを指示するものであり、ズームテレボタン4aを押下することにより望遠側へのズームを指示し、ズームワイドボタン4bを押下することにより広角側へのズームを指示する。そしてステレオカメラ1による撮影時にズームテレボタン4a又はズームワイドボタン4bを操作することにより、撮像部21A,21Bのレンズ10A,10Bのズームレンズの焦点距離を変化させる。つまり撮像部21A,21Bの画角を光学的に変換させる光学ズーミング操作部材として機能する。
【0051】
またモニタ20への画像再生時に、ズームテレボタン4a又はズームワイドボタン4bを操作することにより、再生中の画像を拡大又は縮小する。つまり撮像部21A,21Bの画角を電子的に変換させる画角変換操作部材としても機能する。
【0052】
さらにステレオカメラ1は、図2に示す如く、被写体検出部30、ステレオ演算部31、三次元画像データ取得部32、画像データ処理部33、CPU34、入出力部35を備える。
【0053】
被写体検出部30は、撮像部21A,21Bが撮影により取得した左目用画像及び右目用画像(信号処理前であっても処理後であってもよい)から、例えば図5Aに示すような直方体ob1や図9に示すような円柱ob2、直方体ob3、ob4等の所定被写体を含む所定被写体領域を検出する。なお所定被写体の検出方法は、例えば特開2001−184512号公報等に記載の公知の技術を使用することができる。
【0054】
ステレオ演算部31は、左目用画像と右目用画像すなわちステレオ画像データから被写体各部までの距離を算出して、被写体のX,Y,Z方向の座標値のデータで構成される三次元画像データを取得するものである。このとき座標X,Yはその画素の位置を表す位置情報、座標Zは奥行き情報である。
【0055】
三次元画像データの取得には、公知のステレオマッチング法を使用することができて、ステレオ画像においてエッジやセグメント等、共通して写っている点、いわゆる対応点を相関演算によって特定し、この対応点の位置情報から視差を求め、この視差に基づいて三角測量の原理に従って対応点までの距離すなわち被写体各部までの距離を算出する。
【0056】
このとき対応点の検出は、左目用画像から複数の画素で構成された画素ブロックWaを算出し、算出された画素ブロックWaを右目用画像中で走査して濃淡等の形状パターンの一致度評価値(相関度)を計算して、右目用画像において画素ブロックWaと対応するブロックWbを検出する、いわゆる領域ベースマッチング(area-based matching)といわれる方法や、先に左目用画像と右目用画像からそれぞれエッジやセグメント等の特徴点を見つけ出し、左目用画像と右目用画像におけるこの特徴点の相関度から対応点を検出する、いわゆる特徴ベースマッチング(feature-based matching)といわれる方法等を使用することができる。一致度評価値(相関度)の計算は、例えば各画素の差の絶対値を合計する、または各画素の差を2乗したものを合計するなど、公知の技術を使用することができる。
【0057】
三次元画像データ取得部32は、撮像部21A,21Bで撮影して得たステレオ画像データに基づいて上記ステレオ演算部31が取得した三次元画像データやメディア制御部26を介して記録メディア29から読み出された三次元画像データ、内部メモリ27に記憶された三次元画像データ、後述の入出力部35から入力された三次元画像データを取得可能であり、1つ以上の三次元画像データを取得するものである。なお取得する三次元画像データが複数の場合には、撮像部21A,21Bで複数回撮影を行い、複数のステレオ画像データで複数取得された三次元画像データを取得してもよいし、記録メディア29から読み出された複数の三次元画像データを取得してもよいし、内部メモリ27に記憶された複数の三次元画像データを取得してもよいし、入出力部35から入力された複数の三次元画像データを取得してもよいし、これらを混合して取得してもよい。
【0058】
画像データ処理部33は、上記三次元画像データ取得部32により取得された三次元画像データを、三次元画像データで表わされる三次元画像の少なくとも一部の奥行き方向(Z方向)の位置及び/又は大きさを変化するものである。なおこの画像データ処理部33による処理方法については後で詳細に説明する。
【0059】
CPU34は、シャッタボタン2を含む操作部36からの信号に応じてステレオカメラ1の各部を制御する。
【0060】
入出力部35は、音声の入力や出力、上述した入出力コネクタ6からの各種データの入出力、図示しない無線LANや有線ケーブル等による各種データの入出力を行う。
【0061】
データバス37は、ステレオカメラ1を構成する各部およびCPU34に接続されており、ステレオカメラ1における各種データおよび各種情報のやり取りを行う。本実施形態のステレオカメラ1は上記のように構成されている。
【0062】
次にステレオカメラ1による三次元測定方法の一連の処理について説明する。図4はステレオカメラ1による一連の三次元測定処理のフローチャート、図5Aはステレオカメラ1の撮影状況を示す斜視図、図5Bはステレオカメラと三次元画像との位置関係を示す図の一例、図5Cはステレオカメラと三次元画像との位置関係を示す図の別の例である。なお図4では、シャッタボタン2が全押しされて撮影の指示が行われた以降の処理について説明する。
【0063】
上記構成のステレオカメラ1は、シャッタボタン2が全押しされることにより撮像制御部22がCPU34を介して処理を開始し、撮像部21A,21BがCPU34からの指示により、図5Aに示す如く、直方体ob1を所定被写体とした被写体を撮影してデジタルのステレオ画像データを取得して(ステップS1)、取得したステレオ画像データに対して信号処理部23が上述した各種信号処理を施す(ステップS2)。
【0064】
次に被写体検出部30が、上記信号処理が施されたステレオ画像データつまり左目用画像及び右目用画像から直方体ob1領域を検出して(ステップS3)、ステレオ演算部31が上述したようにステレオ画像データについてステレオ演算を行い(ステップS4)、被写体各部までの距離を算出し、三次元画像データ取得部32が被写体各部すなわち撮影画像のX,Y,Z方向の座標値のデータで構成される三次元画像データを取得する(ステップS5)。このとき後述する画像データ処理部33が三次元画像の一部である直方体ob1のみの奥行き方向及び/又は大きさを変化させる場合には、取得する三次元画像データは上記検出された直方体ob1領域(所定被写体領域)の座標値データのみであってもよい。
【0065】
なお撮影時の撮像部21Aのレンズ10Aの主点の位置を原点0とし、三次元画像データ取得部32により取得された直方体ob1の重心までの奥行き方向の距離を距離L1としてこの位置を初期位置Cとする。
【0066】
そして三次元画像データを取得すると表示制御部28が、図5Aに示す如く、モニタ20に三次元画像データで表わされる三次元画像P1を表示する(ステップS6)。なお本実施形態ではモニタ20は二次元画像を表示するものとし、三次元画像データで表わされる被写体の形状を図5Aに示すようにワイヤーフレームで表示する。なお本実施形態においてはこのワイヤーフレームにて表示された画像を以下、三次元画像という。そして三次元画像P1はスルー画像に重ねて表示してもよい。このときスルー画像又は三次元画像P1を半透明で表示したり、ワイヤーフレームを点線にて表示させたりしてもよい。
【0067】
次にCPU34は、ズームボタン4が押下つまり操作されたか否かを判別し(ステップS7)、押下されていない場合(ステップS7;NO)には、ユーザがモニタ20に表示されている三次元画像を所望していると判断して、表示制御部28が取得した三次元画像データで表わされる三次元画像を引き続きモニタ20に表示し、かつメディア制御部26が記録メディア29に三次元画像データを記録する(ステップS8)。三次元画像データはCPU34を介して内部メモリ27に記録してもよい。
【0068】
一方ステップS7にて、ズームボタンが押下された場合(ステップS7;YES)には、ユーザが表示された三次元画像を所望していないと判断して、画像データ処理部33が取得された三次元画像データで表わされる三次元画像P1の直方体ob1の奥行き方向の位置及び/又は大きさが変化するように、ズームボタン4の操作に基づいて前記三次元画像データを処理する(ステップS9)。ここで、図6Aに奥行き方向の位置を変化させる画像データ処理1のフローチャートを示す。
【0069】
画像データ処理部33による画像データ処理1は、図6Aに示す如く、先ずズームボタン4の操作量を検出する(ステップS11)。そしてズームボタン4の操作により変化した画角量の比例倍を直方体ob1の三次元画像データの奥行値(座標Z)に掛算する(ステップS12)。
【0070】
これはズームボタン4が撮影部21Aの画角を光学的に変換させる光学ズーミング操作部材として機能するときには、例えば図5Bに示す如く、ズームボタン4が押下される前の初期位置Cのときに、CCD13Aから読み出された画像データP中の所定の被写体obの画素領域が100ピクセルであり、ズームテレボタン(T)4aが押下された後にCCD13Aから読み出された画像データPt中の所定の被写体obの画素領域が150ピクセルであるときには、画角変化量が1.5倍となるため、三次元画像データの直方体ob1の奥行方向の値つまり座標Zに1/1.5を掛算して、直方体0b1を画像データ上、ステレオカメラ1側に近づける方向(図5B中、右側)の位置Ctへ移動する。
【0071】
このときCCD13Aから読み出された画像データP、画像データPt中の所定の被写体obは、レンズ10Aがまだ直方体ob1に向いているときには、直方体ob1であってもよいし、別の被写体に向いているときには別の被写体であってもよい。つまり撮像部21Aの画角の変化量が算出可能であればいずれの被写体であってもよい。
【0072】
一方、ズームワイドボタン(W)4bが押下された後にCCD13Aから読み出された画像データPwにおける所定の被写体obの画素領域が75ピクセルであるときには、画角変化量が0.75倍となるため、三次元画像データの直方体ob1の奥行方向の値つまり座標Zに1/0.75を掛算して、直方体0b1を画像データ上、ステレオカメラ1側に遠ざける方向(図5B中、左側)の位置Cwへ移動する。
【0073】
またズームボタン4が撮影部21Aの画角を電子的に変換させるものである場合には、CCD13Aから読み出された画像データPにおける所定の被写体obの画素領域に対する、拡大された画像データPt又は縮小された画像データPwにおける所定の被写体obの画素領域の変化量を算出して画角変化量を検出することにより、上記と同様にして直方体0b1を画像データ上で移動させる。
【0074】
なおこのときモニタ20にスルー画像が表示されていて、ズームボタン4の操作によりスルー画像の画角が変化する場合には、スルー画像の画角変化量を検出することにより上記と同様にして直方体0b1を画像データ上で移動させてもよい。このスルー画像の画角変化量は、スルー画像における所定の被写体obの画素領域の変化量を算出することにより検出できる。なおズームボタン4の操作によりスルー画像の画角が変化するときには、モニタ20に三次元画像P1(図5A参照)を表示していなくてもよいし、表示していてもよい。
【0075】
そして次にステップS12にて上記のように演算された座標Zの値に三次元画像データを変更して(ステップS13)、画像データ処理1を終了する。このようにズームボタン4の操作に基づいて上記画像データ処理1を行うことにより、変更された三次元画像データで表わされる三次元画像は、図5Bの上図に示す如く、ズームボタン4が操作されていない三次元画像P1(真ん中図)と比較して、ズームテレボタン4aが操作された時には直方体ob1が手前側に位置した三次元画像P1t(右図)となり、ズームワイドボタン4bが操作された時には直方体ob1が奥側に位置した三次元画像P1w(左図)となって、ステレオカメラ1の撮影部21Aの画角を変更する感覚で三次元画像の奥行き方向の位置を変更することができる。
【0076】
次に三次元画像データの大きさを変化させる画像データ処理2について説明する。図6Bは画像データ処理2のフローチャートである。なお図6Bは便宜上、図6Aのフローチャートと同じ処理については同じステップ番号で示して説明を省略し、異なる箇所についてのみ詳細に説明する。
【0077】
画像データ処理部33による画像データ処理2は、図6Bに示す如く、ステップ11にてズームボタン4の操作量を検出すると(ステップS11)、次に直方体ob1の三次元画像データのX,Y,Z方向の座標値からそれぞれ直方体ob1の重心にある座標系のX',Y',Z'軸方向に座標変換することにより、直方体ob1について自身の重心からの座標値(x',y',z')を算出する(ステップS14)。そしてズームボタン4の操作により変化した画角量の比例倍を直方体ob1の座標値(x',y',z')に掛算する(ステップS15)。
【0078】
これはズームボタン4が撮影部21Aの画角を光学的に変換させる光学ズーミング操作部材として機能するときには、例えば図5Cに示す如く、ズームボタン4が押下される前に、CCD13Aから読み出された画像データP中の所定の被写体obの画素領域が100ピクセルであり、ズームテレボタン(T)4aが押下された後にCCD13Aから読み出された画像データPt中の所定の被写体obの画素領域が150ピクセルであるときには、画角変化量が1.5倍となるため、三次元画像データの直方体ob1の座標値(x',y',z')に1.5を掛算して、直方体0b1を画像データ上、重心を中心として拡大する。
【0079】
一方、ズームワイドボタン(W)4bが押下された後にCCD13Aから読み出された画像データPwにおける所定の被写体obの画素領域が75ピクセルであるときには、画角変化量が0.75倍となるため、三次元画像データの直方体ob1の座標値(x',y',z')に0.75を掛算して、直方体0b1を画像データ上、重心を中心として縮小する。
【0080】
またズームボタン4が撮影部21Aの画角を電子的に変換させるものである場合には、CCD13Aから読み出された画像データPにおける所定の被写体obの画素領域に対する、拡大された画像データPt又は縮小された画像データPwにおける所定の被写体obの画素領域の変化量を算出して画角変化量を検出することにより、上記と同様にして直方体0b1を画像データ上で拡大又は縮小する。
【0081】
なおこのときモニタ20にスルー画像が表示されていて、ズームボタン4の操作によりスルー画像の画角が変化する場合には、スルー画像の画角変化量を検出することにより上記と同様にして直方体0b1を画像データ上で拡大又は縮小してもよい。このスルー画像の画角変化量は、スルー画像における所定の被写体obの画素領域の変化量を算出することにより検出できる。なおズームボタン4の操作によりスルー画像の画角が変化するときには、モニタ20に三次元画像P1(図5A参照)を表示していなくてもよいし、表示していてもよい。
【0082】
そして次にステップS12にて上記のように演算された直方体ob1の重心座標系の三次元画像データ(x',y',z')をカメラ座標系(レンズ主点もしくは焦点に座標原点を持つ)に座標変換をして(ステップS16)、画像データ処理2を終了する。
【0083】
このようにズームボタン4の操作に基づいて上記画像データ処理2を行うことにより、変更された三次元画像データで表わされる三次元画像は、図5Cの上図に示す如く、ズームボタン4が操作されていない三次元画像P1(真ん中図)と比較して、ズームテレボタン4aが操作された時には重心の位置を変更することなく直方体ob1を拡大した三次元画像P1t(右図)となり、ズームワイドボタン4bが操作された時には重心の位置を変更することなく直方体ob1を縮小した三次元画像P1w(左図)となって、ステレオカメラ1の撮影部21Aの画角を変更する感覚で三次元画像の大きさを変更することができる。
【0084】
なお本実施形態では三次元画像の一部である直方体ob1の重心を中心にして拡大又は縮小を行ったが本発明はこれに限られるものではなく、三次元画像の中央を中心として拡大又は縮小してもよい。
【0085】
次に三次元画像データの奥行き方向の位置を変化させる別の画像データ処理3について説明する。図6Cは画像データ処理3のフローチャートである。なお画像データ処理3では、上記実施形態の画像データ処理1、2とは異なりズームボタン4ではなく別のボタンの操作に基づいて処理を行う。本実施形態では図1の上下左右ボタン5を使用する例について以下説明するが、例えば新たに位置変更用ボタンを設けてもよい。なお本実施形態の画像データ処理3を行う場合には図4のステップ7はズームボタン4ではなく上下左右ボタン5が押下されたか否かを判別するものとする。
【0086】
画像データ処理部33による画像データ処理3は、図6Cに示す如く、まず上下左右ボタン5の操作量を検出し(ステップS21)、モードを判別する(ステップS22)。そしてモードがAである場合(ステップS22;A)には、下記表1に示す画角変化量テーブルから画角変化量を選択する(ステップS23)。
【表1】

【0087】
上記表1に示す画角変化量テーブルは、上下左右ボタン5の↑ボタン又は↓ボタンが押下された回数つまり操作回数と、↑ボタンと同じ操作回数だけズームテレボタン4aが押下されたときのレンズ10Aのズームレンズの駆動、又は画像データの拡大、あるいはスルー画像の拡大による画角の変化量との対応表であり、例えば↑ボタンが5回押下されたときには、ズームテレボタン4aが5回押下されたときのレンズ10Aのズームレンズの駆動、又は画像データの拡大、あるいはスルー画像の拡大による画角の変化量に相当する1.5倍が画角変化量となり、↓ボタンが5回押下されたときには、ズームワイドボタン4bが5回押下されたときのレンズ10Aのズームレンズの駆動、又は画像データの縮小、あるいはスルー画像の縮小による画角の変化量に相当する0.5倍が画角変化量となる。
【0088】
そして図6Cに示す如く、ステップS23にて画角変化量を選択すると(ステップS23)、選択した画角変化量の比例倍つまり選択した画角変化量が1.5倍である場合には三次元画像データの直方体ob1の奥行方向の値つまり座標Zに1/1.5を掛算して(ステップS24)、直方体0b1を画像データ上、ステレオカメラ1側に近づける方向(図5B参照)の位置Ctへ移動する。
【0089】
一方、選択した画角変化量が0.5倍である場合には三次元画像データの直方体ob1の奥行方向の値つまり座標Zに1/0.5を掛算して(ステップS24)、直方体0b1を画像データ上、ステレオカメラ1側から遠ざける方向(図5B参照)の位置Cwへ移動する。そして次にステップS24にて上記のように演算された座標Zの値に三次元画像データを変更する(ステップS25)。
【0090】
このように上下左右ボタン5の操作に基づいて表1の画角変化量テーブルから選択した画角変化量に基づいて上記のように三次元画像データを変更することにより、実際には光学ズームや電子ズーム、スルー画像の拡大又は縮小が行われなくても、上下左右ボタン5が操作されていない三次元画像P1(図5B真ん中図参照)と比較して、↑ボタンが操作された時には直方体ob1が手前側に位置した三次元画像P1t(図5B右図参照)となり、↓ボタンが操作された時には直方体ob1が奥側に位置した三次元画像P1w(図5B左図参照)となって、撮影部21Aの画角を変更する感覚でズームボタン4の操作により変更されるべき画角変化量と同等の画角変化量に基づいて三次元画像の奥行き方向の位置を変更することができる。
【0091】
一方図6CのステップS22にてモードがBと判別された場合(ステップS22;B)には、三次元画像データの直方体ob1の奥行方向の値つまり座標Zに所定値を加減算する(ステップS26)。
【0092】
これは例えば下記表2に示す如く、上下左右ボタン5の↑ボタンが1回操作される毎に座標Zに10mmを加算して、直方体0b1を画像データ上、ステレオカメラ1側に近づける方向(図5B参照)の位置Ctへ移動し、↓ボタンが1回操作される毎に座標Zに10mmを減算して、直方体0b1を画像データ上、ステレオカメラ1側から遠ざける方向(図5B参照)の位置Cwへ移動する。
【表2】

【0093】
そして次にステップS26にて上記のように演算された座標Zの値に三次元画像データを変更する(ステップS25)。そしてステップS25にて三次元画像データが変更されると(ステップS25)、画像データ処理3を終了する。
【0094】
次に三次元画像データの大きさを変化させる別の画像データ処理4について説明する。図6Dは画像データ処理4のフローチャートである。なお画像データ処理4では、上記実施形態の画像データ処理1、2とは異なりズームボタン4ではなく別のボタンの操作に基づいて処理を行う。本実施形態では図1の上下左右ボタン5を使用する例について以下説明するが、例えば新たに大きさ変更用ボタンを設けてもよい。なお本実施形態の画像データ処理4を行う場合には図4のステップ7はズームボタン4ではなく上下左右ボタン5が押下されたか否かを判別するものとする。また図6Dは便宜上、図6Cのフローチャートと同様の処理は同じステップ番号で示して説明を省略する。
【0095】
画像データ処理部33による画像データ処理4は、図6Dに示す如く、まず上下左右ボタン5の操作量を検出し(ステップS21)、次に直方体ob1の三次元画像データのX,Y,Z方向の座標値からそれぞれ直方体ob1の重心にある座標系X’,Y’,Z’軸方向に座標変換することにより、直方体ob1について自身の重心からの座標値(x',y',z')を算出する(ステップS27)。
【0096】
そしてステップS23にて画角変化量を選択すると(ステップS23)、選択した画角変化量の比例倍つまり選択した画角変化量が1.5倍である場合には三次元画像データの直方体ob1の座標値(x',y',z')に1.5を掛算して(ステップS28)、直方体0b1を画像データ上、重心を中心として拡大する。
【0097】
一方、選択した画角変化量が0.5倍である場合には三次元画像データの直方体ob1の座標値(x',y',z')に0.5を掛算して(ステップS28)、直方体0b1を画像データ上、重心を中心として縮小する。そして次にステップS28にて上記のように演算された三次元画像データ(直方体ob1の重心に原点を持つ座標系の座標値データ)の座標値(0.5*x', 0.5*y', 0.5*z')をカメラ座標系に座標変換(例えば回転移動と平行移動)をする(ステップS30)。
【0098】
このように上下左右ボタン5の操作に基づいて表1の画角変化量テーブルから選択した画角変化量に基づいて上記のように三次元画像データを変更することにより、実際には光学ズームや電子ズーム、スルー画像の拡大又は縮小が行われなくても、上下左右ボタン5が操作されていない三次元画像P1(図5C真ん中図参照)と比較して、↑ボタンが操作された時には重心の位置を変更することなく直方体ob1を拡大した三次元画像P1t(図5C右図参照)となり、↓ボタンが操作された時には重心の位置を変更することなく直方体ob1を縮小した三次元画像P1w(図5C左図参照)となって、撮影部21Aの画角を変更する感覚でズームボタン4の操作により変更されるべき画角変化量と同等の画角変化量に基づいて三次元画像の大きさを変更することができる。
【0099】
一方図6DのステップS22にてモードがBと判別された場合(ステップS22;B)には、三次元画像データの直方体ob1の座標値(x',y',z')に所定の比を掛算する(ステップS29)。
【0100】
これは例えば下記表3に示す如く、上下左右ボタン5の↑ボタンが1回操作される毎に座標値(x',y',z')に2%つまり1.02を掛算して、直方体0b1を画像データ上、重心を中心として拡大し(図5C参照)、↓ボタンが1回操作される毎に座標値(x',y',z')に−0.2%つまり0.98を掛算して、直方体0b1を画像データ上、重心を中心として縮小する(図5C参照)。
【表3】

【0101】
そして次にステップS29にて上記のように演算された三次元画像データ(直方体ob1の重心に原点を持つ座標系の座標値データ)の座標値(1.02*x', 1.02*y', 1.02*z')をカメラ座標系に座標変換(例えば回転移動と平行移動)をする(ステップS30)。そしてステップS30にて三次元画像データが変更されると(ステップS30)、画像データ処理4を終了する。
【0102】
なお本実施形態では三次元画像の一部である直方体ob1の重心を中心にして拡大又は縮小を行ったが本発明はこれに限られるものではなく、三次元画像の中央を中心として拡大又は縮小してもよい。
【0103】
上述のようにし、図4に示す如く、画像データ処理部33は三次元画像データを処理する(ステップS9)。なお本実施形態では画像データ処理部33は三次元画像の奥行き方向の位置と三次元画像の大きさとを別々に処理するものとしたが、前記奥行き方向の位置と前記大きさの両方を処理してもよい。
【0104】
そして次にステップ9にて三次元画像データが処理されると(ステップS9)、CPU34はステップS6へ処理を移行し、表示制御部28が処理された三次元画像データで表わされる三次元画像(図5B、Cの上図参照)P1をモニタ20に表示して(ステップS6)、ユーザがズームボタン4を押下しなくなるまで、すなわち表示された三次元画像を所望するまでステップS7以降の処理を繰り返し行う。
【0105】
そしてステップ7にてズームボタン4が押下されなくなると(ステップS7;NO)、表示制御部28が処理された三次元画像データで表わされる三次元画像を表示し、かつメディア制御部26が記録メディア29に三次元画像データを記録する(ステップS8)。三次元画像データはCPU34を介して内部メモリ27に記録してもよい。本実施形態のステレオカメラ1による三次元測定処理は上述のようにして行う。
【0106】
本実施形態のステレオカメラ1及びステレオカメラ1による三次元測定方法によれば、取得した三次元画像データを、この三次元画像データで表わされる三次元画像の少なくとも一部の奥行き方向の位置及び/又は大きさが変化するように、撮影部21Aのズームボタンの操作もしくはズームボタンの操作に対応する例えば上下左右ボタン5の操作に基づいて処理するので、撮像部21Aの画角を変更する操作に応じて三次元画像の奥行き方向の位置及び/又は大きさを変化させることができて、撮影部21Aの画角を変更する感覚で画角を変更する操作に応じた三次元画像を取得することができる。
【0107】
なお本実施形態のステレオカメラ1では、三次元画像の一部である直方体ob1の奥行き方向及び/又は大きさを変化させるものとしたが、本発明はこれに限られるものではなく、三次元画像全体の奥行き方向及び/または大きさを変化させてもよい。この場合三次元画像データのすべてのXYZ方向の座標値について、上記掛算や加減算を行う。こうすることにより他の三次元画像と合成した合成三次元画像にて他の三次元画像と相対的に奥行き位置や大きさが変更された合成三次元画像を取得することができる。
【0108】
次に本発明にかかる第二の実施形態のステレオカメラ1−2について、以下図面を参照して詳細に説明する。図7は本実施形態のステレオカメラ1−2の内部構成を示す概略ブロック図、図8は図7のステレオカメラ1−2による一連の三次元測定処理のフローチャート、図9はステレオカメラ1−2の撮影状況を示す斜視図、図10はステレオカメラ1−2と三次元画像との位置関係を示す図の一例、図11はステレオカメラ1−2と三次元画像との位置関係を示す図の別の一例である。なお図7は便宜上、図2のブロック図と同様の箇所は同符号で示して説明を省略する。
【0109】
本実施形態のステレオカメラ1−2は、図7に示す如く、上記実施形態のステレオカメラ1の構成にさらに合成処理部38を備えたものであり、合成処理部38は三次元画像データ取得部32で取得された複数の三次元画像データを合成することにより合成三次元画像データを生成する。
【0110】
次に上記のように構成されたステレオカメラ1−2による三次元測定方法の一連の処理について説明する。なお図8では、シャッタボタン2が全押しされて撮影の指示が行われた以降の処理について説明する。
【0111】
本実施形態のステレオカメラ1−2による三次元測定処理は、図8に示す如く、まずCPU34が現在の撮影が一回目の撮影であるか否かを判別し(ステップS30)、一回目の撮影である場合(ステップS30;YES)には、シャッタボタン2が全押しされることにより撮像制御部22がCPU34を介して処理を開始し、撮像部21A,21BがCPU34からの指示により、図9上図に示す如く、円柱ob2を所定被写体とした被写体の一回目の撮影を行いデジタルのステレオ画像データを取得する(ステップS31)。
【0112】
ここで図8のステップS32〜S36は図4のステップS2〜S6の処理と同様であるため、説明は省略するが、ステップS33にて被写体検出部30が検出する所定被写体は円柱ob2とする。なお三次元画像データ取得部32により取得された円柱ob2の重心までの奥行き方向の距離を距離L1としてこの位置を初期位置Cとする。
【0113】
そしステップS35にて取得した三次元画像データで表わされる三次元画像P2が、図9上図に示す如く、モニタ20に表示されると、次に撮像制御部22がCPU34を介して二回目の撮影を行う(ステップS37)。二回目の撮影は、例えば図9下図に示す如く、レンズ10Aの主点から上記距離L1よりも小さい距離L2離れた位置の直方体ob3と上記距離L1よりも大きい距離L3離れた位置の直方体ob4を所定被写体とした被写体を撮影する。
【0114】
ここで図8のステップS38〜S41は図4のステップS2〜ステップS5の処理と同様であるため、説明は省略するが、ステップS39にて被写体検出部30が検出する所定被写体は直方体ob3及び直方体ob4とする。
【0115】
そして次にステップS41にて取得した三次元画像データで表わされる三次元画像P3をモニタ20に表示する。このとき三次元画像P3は、図9下図に示す如く、ステップS36にて表示された一回目の撮影の三次元画像P2に重ねて表示する。なお重ねて表示する際に、一回目の撮影の三次元画像P2を半透明にして表示してもよいし、三次元画像P2のワイヤーフレームを点線にて表示してもよい。
【0116】
一方ステップS30にて、一回目の撮影ではないと判別された場合(ステップS30;NO)には、すでに取得されてモニタ20に表示された三次元画像があると判断し、撮像制御部22がCPU34を介して二回目の撮影を行い(ステップS37)、以降の処理を行う。
【0117】
そして上記のように三次元画像P2と三次元画像P3とが重ねて表示されると(ステップS42)、次にCPU34はズームボタン4が押下つまり操作されたか否かを判別し(ステップS43)、押下されていない場合(ステップS43;NO)には、ユーザが重ねてモニタ20に表示された三次元画像P2、P3を所望していると判断して、合成処理部38が三次元画像P2及びP3の画像データを合成することにより合成三次元画像データを生成する(ステップS44)。
【0118】
そして表示制御部28が生成された合成三次元画像データで表わされる合成三次元画像をモニタ20に表示し、かつメディア制御部26が記録メディア29に合成三次元画像データを記録する(ステップS45)。合成三次元画像データはCPU34を介して内部メモリ27に記録してもよい。
【0119】
一方ステップS43にて、ズームボタンが押下された場合(ステップS43;YES)には、ユーザが表示された三次元画像を所望していないと判断して、画像データ処理部33がステップS41にて取得された三次元画像データで表わされる三次元画像P3の直方体ob3及び/又は直方体ob4の奥行き方向の位置及び/又は大きさが変化するように、ズームボタン4の操作に基づいて前記三次元画像データを処理する(ステップS46)。
【0120】
このときモニタ20には三次元画像P2と三次元画像P3と共にスルー画像を表示してもよいし、スルー画像のみを表示してもよい。また三次元画像P2、三次元画像P3、スルー画像のうちの、1つ又は2つを半透明で表示したり、ワイヤーフレームを点線にて表示したりしてもよい。
【0121】
なおこの画像データ処理部33による三次元画像データの処理は、上記実施形態で図6A〜Dを参照して説明した処理と同様の処理であるため、ここでの詳細な説明は省略する。また本実施形態においては、二回目に撮影して取得した三次元画像データを前記処理するものとしたが、本発明はこれに限られるものではなく、一回目に撮影して取得した三次元画像データを前記処理してもよいし、ユーザが操作部36を操作することにより前記処理する三次元画像データを選択するようにしてもよい。
【0122】
そしてステップS46にて図6Aの画像データ処理1又は図6Cの画像データ処理3が行われた場合には、図10に示す如く、画角変化量が1.5倍のときには、三次元画像データの直方体ob3、ob4の奥行方向の値つまり座標Zにそれぞれ1/1.5を掛算して、直方体ob3、ob4を画像データ上、ステレオカメラ1側に近づける方向(図5B中、右側)の位置Ctへ移動する。これは演算後の座標Zの値によるが、例えば図10の真ん中上図に示すように直方体ob4が円柱ob2よりも奥側に位置していたのが、右上図に示すように直方体ob3と直方体ob4の両方が円柱ob3よりも手前側に位置するように移動する。
【0123】
一方、画角変化量が0.75倍のときには、三次元画像データの直方体ob3、ob4の奥行方向の値つまり座標Zにそれぞれ1/0.75を掛算して、直方体ob3、ob4を画像データ上、ステレオカメラ1側に遠ざける方向(図5B中、左側)の位置Cwへ移動する。これは演算後の座標値Zの値によるが、例えば図10の真ん中上図に示すように直方体ob4が円柱ob2よりも手前側に位置していたのが、左上図に示すように直方体ob3と直方体ob4の両方が円柱ob3よりも奥側に位置するように移動する。
【0124】
なお上記移動により例えば直方体ob3及び/又は直方体ob4が円柱ob2と重なって位置してしまう、すなわち干渉してしまう場合には、モニタ20にエラーを表示したり警告音を発したりすることができる。また、エラーを表示せずに干渉した状態のまま重ねて表示させておいてもよい。
【0125】
また本実施形態では、直方体ob3と直方体ob4の両方の奥行き方向の画像データを処理したが、本発明はこれに限られるものではなく、どちらか一方のみの画像データを処理してもよいし、ユーザが操作部36を操作することにより前記処理する所定被写体(直方体ob3、直方体ob4)を選択するようにしてもよい。
【0126】
一方ステップS46にて図6Bの画像データ処理2又は図6Dの画像データ処理4が行われた場合には、図11に示す如く、画角変化量が1.5倍のときには、三次元画像データの直方体ob3、ob4の各々の座標値(x',y',z')にそれぞれ1.5を掛算して、直方体ob3、ob4を画像データ上、重心を中心として拡大する。これは図11の真ん中上図に示す直方体ob3、ob4と円柱ob2との大きさの関係と比較して、右上図に示すように直方体ob3と直方体ob4の両方が円柱ob3に対して相対的に大きくなるように拡大される。
【0127】
一方、画角変化量が0.75倍のときには、三次元画像データの直方体ob3、ob4の各々の座標値(x',y',z')にそれぞれ0.75を掛算して、直方体0b1を画像データ上、重心を中心として縮小する。これは図11の真ん中上図に示す直方体ob3、ob4と円柱ob2との大きさの関係と比較して、左上図に示すように直方体ob3と直方体ob4の両方が円柱ob3に対して相対的に小さくなるように縮小される。
【0128】
そして上記のように演算された三次元画像データ(直方体ob3、ob4の重心に原点を持つ座標系の座標値データ(x'ob3,y'ob3,z'ob3)と(x'ob4,y'ob4,z'ob4))の座標値(0.75*x'ob3, 0.75*y'ob3, 0.75*z'ob3)と(0.75*x'ob4, 0.75*y'ob4, 0.75*z'ob4)をカメラ座標系に座標変換(例えば回転移動と平行移動)をする。
【0129】
なお上記移動により例えば直方体ob3及び/又は直方体ob4が円柱ob2と重なって位置してしまう、すなわち干渉してしまう場合には、モニタ20にエラーを表示したり警告音を発したりすることができる。また、エラーを表示せずに干渉した状態のまま重ねて表示させておいてもよい。
【0130】
また本実施形態では、直方体ob3と直方体ob4の両方の大きさが拡大又は縮小するように画像データを処理したが、本発明はこれに限られるものではなく、どちらか一方のみの画像データを処理してもよいし、ユーザが操作部36を操作することにより前記処理する所定被写体(直方体ob3、直方体ob4)を選択するようにしてもよい。
【0131】
また本実施形態では三次元画像の一部である直方体ob3及び直方体ob4の重心を中心にして拡大又は縮小を行ったが本発明はこれに限られるものではなく、三次元画像P3の中央を中心として拡大又は縮小してもよい。
【0132】
そして画像データ処理部33による前記処理が終了すると(ステップS46)、CPU34はステップS42へ処理を移行し、ステップ46にて処理された三次元画像データで表わされる三次元画像P3を三次元画像P2と重ねて再表示し(ステップS42)、ユーザがズームボタン4を押下しなくなるまで、すなわち表示された合成三次元画像を所望するまでステップS43以降の処理を繰り返し行う。
【0133】
そしてステップ43にてズームボタン4が押下されなくなると(ステップS43;NO)、表示制御部28が処理された三次元画像データで表わされる合成三次元画像を表示し、かつメディア制御部26が記録メディア29に合成三次元画像データを記録する(ステップS8)。合成三次元画像データはCPU34を介して内部メモリ27に記録してもよい。本実施形態のステレオカメラ1−2による三次元測定処理は上述のようにして行う。
【0134】
本実施形態のステレオカメラ1−2及びステレオカメラ1−2による三次元測定方法によれば、取得した複数の三次元画像データを、この複数の三次元画像データで表わされる複数の三次元画像のうち、少なくとも一つの三次元画像の少なくとも一部の奥行き方向の位置及び/又は大きさが変化するように、撮影部21Aのズームボタンの操作もしくはズームボタンの操作に対応する例えば上下左右ボタン5の操作に基づいて処理するので、撮像部21Aの画角を変更する操作に応じて、複数の三次元画像の少なくとも一部の奥行き方向の位置及び/又は大きさを他の三次元画像に対して変化させることができて、撮影部21Aの画角を変更する感覚で画角を変更する操作に応じた合成三次元画像を取得することができる。
【0135】
なお本実施形態のステレオカメラ1−2では、三次元画像の一部である直方体ob3及び/又は直方体ob4の奥行き方向及び/又は大きさを変化させるものとしたが、本発明はこれに限られるものではなく、三次元画像P3の全体の奥行き方向及び/又は大きさを変化させてもよい。こうすることにより他の三次元画像と合成した合成三次元画像にて他の三次元画像と相対的に奥行き位置や大きさが変更された合成三次元画像を取得することができる。
【0136】
また本実施形態のステレオカメラ1−2では、二回の撮影を行ったが、本発明はこれに限られるものではなく、三回以上の撮影を行ってもよい。この場合、画像データ処理部33が、最後の撮影により取得された三次元画像データの画像データを処理してもよいし、ユーザが操作部36を操作することにより何回目の撮影により取得された三次元画像データを処理するのか選択可能にしてもよい。
【0137】
また本実施形態のステレオカメラ1−2では、画像データ処理部33が合成されるまえの三次元画像データについて画像データの処理を行ったが、本発明はこれに限られるものではなく、合成処理部38が先に複数の三次元画像データを合成して合成三次元画像を生成し、この生成された合成三次元画像の少なくとも一部、例えば図9右下図の円柱ob2、直方体ob3、ob4のうちの1つ以上の奥行き方向及び/又は大きさを変化させてもよい。この場合、図8のステップS44の処理をステップS41とステップS42の間で行う。
【0138】
また上記実施形態のステレオカメラ1、1−2では、三次元画像データ取得部32が撮影部21A、21Bにより被写体を撮影して得た三次元画像データを取得し、この取得した三次元画像データについて画像データ処理部33が画像データの処理を行ったが、本発明はこれに限られるものではない。
【0139】
ステレオカメラ1を使用するときには、図4のステップS1〜ステップS4の処理を行わずに、ステップS5にて三次元画像データ取得部32が内部メモリ27又は記録メディア29に記録された三次元画像データを取得してもよい。
【0140】
またステレオカメラ1−2を使用するときには、図8のステップS31〜ステップS34及び/又はステップS37〜ステップS40の処理を行わずに、ステップS35及び/又はステップS41にて三次元画像データ取得部32が内部メモリ27又は記録メディア29に記録された三次元画像データを取得してもよい。
【0141】
また上記実施形態のステレオカメラ1、1−2では、2つの撮像部21A、21Bを設け、これら撮影部21A、21Bにより取得された基準画像と参照画像の2つの画像を用いて三次元画像データを生成しているが、3つ以上の撮像部を設け、2つ以上の参照画像を用いて三次元画像データを生成する場合にも本発明を適用することができる。
【0142】
また上記実施形態では、三次元測定装置としてステレオカメラ1、1−2を例にして説明しているが、本発明はこれに限られるものではなく、例えば1つの撮像部とレーザ照射手段とを備えて三次元形状を計測する特開2005−098978号公報に記載の三次元測定装置等にも本発明を適用することができる。
【0143】
ここで本発明にかかる第三の実施形態の三次元測定装置1−3について以下図面を参照して説明する。図12は第三の実施形態の三次元測定装置1−3の概略構成斜視図である。
【0144】
本実施形態の三次元測定装置1−3は、図12に示す如く、例えば所定被写体として直方体ob1を含む被写体を撮像する撮像部(撮像手段)21Aと、モニタ(表示手段)120、キーボード136及びマウス136’(操作手段)を備えてなるPC(パーソナルコンピュータ)100とを備えている。
【0145】
そしてPC100のキーボード136やマウス136’を操作して撮像部21Aを制御し、前記被写体を異なる視点から少なくとも2回撮影することにより基準画像と参照画像を取得して、上述した実施形態と同様にステレオ演算を行うことにより三次元画像を取得する。
【0146】
そして、PC100のキーボード136やマウス136’を操作することにより撮影部21Aの画角を変化させ、この画角の変化に基づいて上記実施形態と同様に三次元画像データを画像データ処理する。このときモニタ120には取得した三次元画像と共にスルー画像を表示してもよい。また実際には撮影部21Aの画角が変化していない場合であっても前記画像データ処理を行うことができる。
【0147】
こうすることにより撮像部21Aの画角を変化させる例えばズームボタンに対応するキーボード136やマウスの操作に基づいて前記画像データ処理つまり三次元画像の奥行き方向の位置及び/又は大きさを変化させることができて、撮影部21Aの画角を変更する感覚で画角を変更する操作に応じた三次元画像を取得することができる。
【0148】
なお本発明の三次元測定装置及び三次元測定方法は、上述した実施形態に限られるものではなく、本発明の趣旨を逸脱しない範囲において適宜設計変更可能である。
【図面の簡単な説明】
【0149】
【図1】本発明の三次元測定装置の一実施形態としてのステレオカメラの斜視図
【図2】図1のステレオカメラの内部構成を示す概略ブロック図
【図3】撮像部の構成を示す図
【図4】図2のステレオカメラによる一連の三次元測定処理のフローチャート
【図5A】図2のステレオカメラの撮影状況を示す斜視図
【図5B】図2のステレオカメラと三次元画像との位置関係を示す図の一例
【図5C】図2のステレオカメラと三次元画像との位置関係を示す図の別の例
【図6A】第一の実施形態の画像データ処理のフローチャート
【図6B】第二の実施形態の画像データ処理のフローチャート
【図6C】第三の実施形態の画像データ処理のフローチャート
【図6D】第四の実施形態の画像データ処理のフローチャート
【図7】第二の実施形態のステレオカメラ1−2の内部構成を示す概略ブロック図
【図8】図7のステレオカメラによる一連の三次元測定処理のフローチャート
【図9】図7のステレオカメラの撮影状況を示す斜視図
【図10】図7のステレオカメラと三次元画像との位置関係を示す図の一例
【図11】図7のステレオカメラと三次元画像との位置関係を示す図の別の例
【図12】本発明にかかる三次元測定装置の斜視図
【符号の説明】
【0150】
1、1−2 ステレオカメラ(三次元測定装置)
1−3 三次元測定装置
20、120 モニタ(表示手段)
21A,21B 撮像部(撮像手段)
30 被写体検出部
31 ステレオ演算部
32 三次元画像データ取得部(三次元画像データ取得手段)
33 画像データ処理部(画像データ処理手段)
38 合成処理部
4 ズームボタン(画角変換操作部材)

【特許請求の範囲】
【請求項1】
被写体を撮像する撮像手段と、
該撮像手段で撮像して得た被写体の三次元画像データを含む、1つ以上の三次元画像データを取得可能な三次元画像データ取得手段と、
該三次元画像データ取得手段で取得された三次元画像データを、該三次元画像データで表わされる三次元画像の少なくとも一部の奥行き方向の位置及び/又は大きさが変化するように、前記撮像手段の画角変換操作部材の操作もしくは該操作部材の操作に対応する操作に基づいて処理する画像データ処理手段とを備えたことを特徴とする三次元測定装置。
【請求項2】
前記画像データ処理手段が、前記三次元画像データ取得手段で取得された複数の三次元画像データで表わされる複数の三次元画像のうち、少なくとも一つの三次元画像の少なくとも一部が他の三次元画像に対して、前記複数の三次元画像が合成されたときの奥行き方向の位置及び/又は大きさが相対的に変化するように前記処理するものであることを特徴とする請求項1に記載の三次元測定装置。
【請求項3】
前記画像データ処理手段が、前記複数の三次元画像が合成された合成三次元画像に対して前記処理を行うことを特徴とする請求項2に記載の三次元測定装置。
【請求項4】
前記画角変換操作部材が、前記撮像手段の画角を光学的に変換させる光学ズーミング操作部材であることを特徴とする請求項1〜3いずれか1項に記載の三次元測定装置。
【請求項5】
前記画角変換操作部材が、前記撮像手段の画角を電子的に変換させるものであることを特徴とする請求項1〜3いずれか1項に記載の三次元測定装置。
【請求項6】
前記撮像手段の画角範囲の被写体のスルー画像を表示する表示手段をさらに備え、
前記画像データ処理手段が、前記スルー画像に前記三次元画像を合成して表示すると共に前記処理を行うことを特徴とする請求項1〜5いずれか1項に記載の三次元測定装置。
【請求項7】
前記撮像手段の画角範囲の被写体のスルー画像を表示する表示手段をさらに備え、
前記画像データ処理手段が、前記スルー画像に表示された前記画角範囲の変化に連動して前記処理を行うことを特徴とする請求項1〜5いずれか1項に記載の三次元測定装置。
【請求項8】
前記画像データ処理手段が、前記撮像手段の画角変換操作部材の操作により変更される前記撮像手段の画角の変化量に対応し前記三次元画像の少なくとも一部の奥行き方向の位置及び/又は大きさが変化するように前記処理することを特徴とする請求項1〜6いずれか1項に記載の三次元測定装置。
【請求項9】
被写体を撮像する撮像手段を備えてなる三次元測定装置を使用した三次元測定方法において、
三次元画像データを取得し、
該取得した三次元画像データを、該三次元画像データで表わされる三次元画像の少なくとも一部の奥行き方向の位置及び/又は大きさが変化するように、前記撮像手段の画角変換操作部材の操作もしくは該操作部材の操作に対応する操作に基づいて処理することを特徴とする三次元測定方法。
【請求項10】
前記三次元画像データを複数取得し、
該取得した複数の三次元画像データで表わされる複数の三次元画像のうち、少なくとも一つの三次元画像の少なくとも一部が他の三次元画像に対して、前記複数の三次元画像が合成されたときの奥行き方向の位置及び/又は大きさが相対的に変化するように前記処理することを特徴とする請求項9に記載の三次元測定方法。
【請求項11】
前記撮像手段で異なる視点から被写体を複数撮像し、
前記異なる視点から撮像して得た複数の画像データから前記被写体の三次元画像データを取得することを特徴とする請求項9に記載の三次元測定方法。
【請求項12】
前記三次元画像データを1つ以上入力し、
該入力された1つ以上の三次元画像データから1つの三次元画像データを取得することを特徴とする請求項9に記載の三次元測定方法。
【請求項13】
異なる被写体に対してそれぞれ、
前記撮像手段で異なる視点から前記被写体を複数撮像し、
前記異なる視点から撮像して得た複数の画像データから前記被写体の三次元画像データを取得して、
各々が前記異なる被写体の複数の三次元画像データを取得することを特徴とする請求項10に記載の三次元測定方法。
【請求項14】
前記三次元画像データを複数入力し、
該入力された複数の三次元画像データから前記複数の三次元画像データを取得することを特徴とする請求項10に記載の三次元測定方法。
【請求項15】
前記三次元画像データを複数入力すると共に、
前記撮像手段で異なる視点から被写体を複数撮像し、
前記異なる視点から撮像して得た複数の画像データから前記被写体の三次元画像データを取得して、
該取得した画像データと前記入力された複数の三次元画像データから前記複数の三次元画像データを取得することを特徴とする請求項10に記載の三次元測定方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5A】
image rotate

【図5B】
image rotate

【図5C】
image rotate

【図6A】
image rotate

【図6B】
image rotate

【図6C】
image rotate

【図6D】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate


【公開番号】特開2009−258005(P2009−258005A)
【公開日】平成21年11月5日(2009.11.5)
【国際特許分類】
【出願番号】特願2008−109142(P2008−109142)
【出願日】平成20年4月18日(2008.4.18)
【出願人】(306037311)富士フイルム株式会社 (25,513)
【Fターム(参考)】