画像変換装置、カメラ、画像変換方法およびプログラム
【課題】画像を筒状に連結できる、あるいは、広範囲(最大360度まで)を同時に観察できるというパノラマ画像の特徴を維持したまま、パノラマ画像を部分的に拡大または縮小することのできる画像変換装置、カメラ、画像変換方法およびプログラムを提供すること。
【解決手段】パノラマ画像を入力する画像入力部(12)と、パノラマ画像の連続する領域で拡大率が連続的に変化するように、パノラマ画像のうち所望の領域の拡大率を異ならせて前記パノラマ画像を伸縮する画像伸縮部(13)とを具備する。
【解決手段】パノラマ画像を入力する画像入力部(12)と、パノラマ画像の連続する領域で拡大率が連続的に変化するように、パノラマ画像のうち所望の領域の拡大率を異ならせて前記パノラマ画像を伸縮する画像伸縮部(13)とを具備する。
【発明の詳細な説明】
【技術分野】
【0001】
この発明は、パノラマ画像の画像変換を行う画像変換装置、カメラ、画像変換方法およびプログラムに関する。
【背景技術】
【0002】
以前より、撮影方向を東西南北に360°回転させながら連続的な撮影を行わせるとともに、これらの撮影画像を合成することで、周囲一回り分の画像が連なったパノラマ画像を生成するデジタルスチルカメラがある。また、複数のレンズで周囲360°の範囲の撮影を行い、或いは、超広角レンズを用いて上方から周囲360°の範囲の撮影を行って、周囲一回り分の画像が連なったパノラマ画像を生成する技術も知られている。
【0003】
また、本願発明に関連する従来技術として、特許文献1,2には、パノラマ画像中の任意の箇所を指定することで、パノラマ画像とは別に指定箇所の拡大画像を表示出力する装置が開示されている。また、特許文献3には、レンズの方向を水平方向と上下方向とに振りながら撮影して得られた複数の撮影画像を水平方向と上下方向につないでパノラマ画像を作成する技術が開示されている。特許文献4には、複数の撮影地点で撮影したパノラマ画像を地図画像の鳥瞰表示上に吹き出し表示として表示出力させるとともに、この鳥瞰表示のズームインおよびズームアウトの操作を可能とした装置が開示されている。また、特許文献5には、広角レンズを用いて撮影した横長の画像に対して、部分的に拡大率を変化させて画像を伸張させる技術が開示されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2003−092750号公報
【特許文献2】特開2005−148265号公報
【特許文献3】特開2007−159047号公報
【特許文献4】特開2007−110675号公報
【特許文献5】特許第4279643号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
周囲一回り分の画像を含んだパノラマ画像であっても、注目部分を拡大して表示したいという要求が、撮影者や観賞者に生じることがある。また、360°のパノラマ画像は、帯状の画像を筒状に連結して連続する画像を生成できるという特徴を有し、鑑賞者は平面的なパノラマ画像であっても頭の中で画像を筒状に連結してイメージすることがある。そのため、注目部分を拡大した場合でも、画像を筒状に連結できるという特徴は維持させたいという要求が一般に生じる。
【0006】
また、広範囲(360°)を監視するような場合、全体を見ながら且つ同時に部分的に拡大して観察したい要望が生じる。
【0007】
従来、このような要求を満たすようなパノラマ画像の拡大機能は存在しなかった。
【0008】
この発明の目的は、パノラマ画像を筒状に連結できる、あるいは、広範囲(最大360°まで)を同時に観察できるというパノラマ画像の特徴を維持したまま、パノラマ画像を部分的に拡大または縮小することのできる画像変換装置、カメラ、画像変換方法およびプログラムを提供することにある。
【課題を解決するための手段】
【0009】
本発明に係る画像変換装置は、パノラマ画像を入力する画像入力部と、前記パノラマ画像の連続する領域で拡大率が連続的に変化するように、前記パノラマ画像のうちの所望の領域の拡大率を異ならせて当該パノラマ画像を伸縮する画像伸縮部とを具備する構成を採る。
【発明の効果】
【0010】
本発明に従うと、画像伸縮部によりパノラマ画像を部分的に拡大または縮小することができる。さらに、画像伸縮部は、パノラマ画像の眺望方向が連続する範囲で拡大率が不連続にならないように画像を伸縮するので、画像を筒状に連結できる、あるいは、広範囲(最大360°まで)を同時に観察できるというパノラマ画像の特徴を維持することができる。
【図面の簡単な説明】
【0011】
【図1】本発明の実施形態のカメラの構成を示すブロック図
【図2】標準投影処理の準備段階について説明する3次元マッピング空間の図
【図3】図2の筒状面に投影されたパノラマ画像を示す図
【図4】標準投影処理の第1例を説明する3次元マッピング空間の図
【図5】図4の標準投影処理後のパノラマ画像を示す図
【図6】標準投影処理の第2例を説明する3次元マッピング空間の図
【図7】図6の標準投影処理後のパノラマ画像を示す図
【図8】標準投影処理の第3例を説明する3次元マッピング空間の図
【図9】図8の標準投影処理後のパノラマ画像を示す図
【図10】標準投影処理の第4例を説明する3次元マッピング空間の図
【図11】図10の標準投影処理後のパノラマ画像を示す図
【図12】標準投影処理の第5例を説明する3次元マッピング空間の図
【図13】図11の標準投影処理後のパノラマ画像を示す図
【図14】パノラマ画像のズーム投影処理を説明する3次元マッピング空間の図
【図15】ズーム投影処理に使用する第1筒状面(原画像面)と第2筒状面(投影面)の相対距離を示す図
【図16】図16Aはズーム投影処理前のパノラマ画像を示す図、図16Bはズーム投影処理後のパノラマ画像を示す図
【図17】ズーム投影処理後のパノラマ画像から表示データを生成する第1加工ステップ〜第3加工ステップの説明図
【図18】パノラマ画像の第1〜第3の表示例を示す画像図
【図19】ズーム投影処理の第1変形例を説明する3次元マッピング空間の図
【図20】図19のズーム投影処理後のパノラマ画像を示す図
【図21】ズーム投影処理の第2変形例を説明する3次元マッピング空間の図
【図22】図21のズーム投影処理後のパノラマ画像を示す図
【図23】ズーム投影処理の第3変形例を説明する3次元マッピング空間の図
【図24】図24Aは図23のズーム投影処理前のパノラマ画像を示す図、図24Bは図23のズーム投影処理後のパノラマ画像を示す図
【図25】ズーム投影用の第1筒状面と第2筒状面との相対配置の変化例(a−1)〜(a−6)と、各相対配置に対応したズーム投影後のパノラマ画像(b−1)〜(b−6)を示す図
【図26】拡大方向を指定する方法の第1例〜第3例を説明する図
【図27】パノラマ画像に各眺望方向の拡大率を表わすスケール表示を付加した表示例を示す画像図
【図28】パノラマ画像を複数段構成にした第1〜第3の表示例を示す概念図
【図29】被写体追跡機能用に時系列的に取得された複数のパノラマ画像を示す図
【図30】被写体追跡機能を併用したズーム投影処理後の時系列複数のパノラマ画像を示す図
【図31】被写体追跡機能を併用させた場合の時系列複数のパノラマ画像の表示例を示す画像図
【図32】パノラマ画像を伸縮する処理の変形例を説明するもので、図32Aは伸縮処理前のパノラマ画像を示す図、図32Bは各眺望方向の拡大率を示すグラフ
【図33】パノラマ画像の縦方向の伸縮処理を説明する概念図
【図34】縦方向の伸縮処理後のパノラマ画像を示す図
【図35】図35Aは横方向の伸縮処理前のパノラマ画像を示す図、図35Bは各眺望方向の拡大率を示すグラフ
【図36】パノラマ画像の横方向の伸縮処理を説明する概念図
【図37】縦横方向の伸縮処理後のパノラマ画像を示す図
【発明を実施するための形態】
【0012】
以下、本発明の実施の形態を図面に基づいて説明する。
【0013】
図1は、本発明の実施形態のカメラの構成を示すブロック図である。
【0014】
本実施形態のカメラは、図1に示すように、撮影によりパノラマ画像を得る撮影部11と、パノラマ画像に対して後述の標準投影処理を行う標準投影部12と、画像伸縮部としてのズーム投影部13と、操作ボタンを介して外部から操作入力を受け付ける入力受付部14と、操作入力に基づきズーム投影処理の各種設定を行うズーム投影設定部15と、表示データを生成して画像データを出力する画像出力部16と、画像出力部16から表示データを入力して表示出力を行うディスプレイ17等を備えている。
【0015】
撮影部11は、例えば、魚眼レンズやミラーを用いた全周囲カメラを用いて得られた全周囲画像をパノラマ展開して原画像となるパノラマ画像を得る構成を採用してもよい。または、複数の方向を向いた複数のレンズと、これら複数のレンズにより結像された光学像を電気信号に変換する撮像素子とを有し、これら複数のレンズを用いて全周囲360°の範囲の撮影が可能なように構成されている。さらに、この撮影部11は、複数のレンズを用いて撮影された複数の画像データを連結させて、360°全周囲の画像が連なったパノラマ画像の画像データを生成する。撮影部11は、このようなパノラマ画像の画像データを標準投影部12へ出力する。なお、撮影部11として、方位センサまたはジャイロセンサを搭載し、ユーザに全周囲360°の各方向を向くように回転させながら連続撮影を行わせて、この連続撮影により得られた複数の画像データを連結させて上記のようなパノラマ画像を得る構成を採用してもよい。その他、360°のパノラマ画像を得る様々な公知の構成を採用してもよい。
【0016】
ズーム投影設定部15は、入力受付部14を介して入力されたユーザからの操作指令に基づいて、パノラマ画像の各眺望方向のうち拡大する方向と、拡大率との設定を行う。そして、この拡大する方向と拡大率とを示すデータをズーム投影部13へ供給する。
【0017】
ズーム投影設定部15は、例えば、次のような処理により、拡大する眺望方向の入力をユーザに行わせる。すなわち、先ず、ディスプレイ17にズーム投影前のパノラマ画像と、拡大方向を指示させるポインタ画像とを重ねて表示出力させる。そして、入力受付部14を介した操作入力に基づいてポインタ画像を移動させ、かつ、入力受付部14を介した拡大方向の決定の操作入力に基づいて、この操作入力の時点でポインタ画像が指し示す眺望方向を拡大する方向として決定する。また、拡大率の入力は、例えば1倍、2倍、5倍など複数種類の拡大率の中から入力受付部14を介してユーザに選択させて決定する。或いは、連続的な拡大率の中からユーザに選択させて決定するようにしてもよい。
【0018】
標準投影部12は、撮影部11からパノラマ画像の画像データを入力し(画像入力部)、ズーム投影設定部15からの入力内容に応じてこのパノラマ画像の視点の高さや視界の向きを変更する標準投影処理を行って、処理後のパノラマ画像の画像データをズーム投影部13へ出力する。この標準投影処理については後に詳述する。
【0019】
ズーム投影部13は、パノラマ画像の全周囲の各方向(以下、眺望方向と呼ぶ)の画像が連続的に連結できるというパノラマ画像の特徴を維持しつつ、ズーム投影設定部15からの入力内容に応じて一部の範囲を拡大または縮小するズーム投影処理を行って、処理後のパノラマ画像の画像データを画像出力部16へ出力する。この投影処理については後に詳述する。
【0020】
画像出力部16は、ズーム投影部13から円筒状につながるパノラマ画像の画像データを入力するとともに、このパノラマ画像を任意の位置で切断して平面状に配置する画像処理を行って表示データを生成する。そして、この表示データをディスプレイ17へ出力して表示出力させる。
【0021】
[標準投影処理]
図2には、標準投影部12により実行される標準投影処理の準備段階について説明する3次元マッピング空間の図を、図3には、図2の筒状面に投影されたパノラマ画像を表わした図を示す。
【0022】
標準投影処理は、撮影部11により得られたパノラマ画像に対して、拡大率をほぼ変更せずに、視点の高さやパノラマ画像の水平面の傾きを変更するための処理である。ここで、水平面とは、重力方向に垂直な面のことではなく、パノラマ画像の周囲一回りの各眺望方向をベクトルで表わしたときに、このベクトルの軌跡により表わされる平面のことを示している。
【0023】
標準投影部12は、標準投影処理の開始時に、図2に示すように、仮想的な3次元マッピング空間に投影元の筒状面40(円柱40Aの側面)を構築する。そして、この筒状面40に撮影部11から供給されるパノラマ画像70を連続的にマッピングする。パノラマ画像70は筒状面40の面上でパノラマ画像70の全周囲の画像がつながるようにマッピングされる。
【0024】
ここで、パノラマ画像70の中央の水平線L1は、筒状面40の中心点Oの高さにマッピングされる。標準投影処理では、変更後の視点の高さとなる視点VPが例えばユーザにより中心軸45の任意の高さに指定される。パノラマ画像70の帯状部分VPaが視点VPの高さに対応した画像部分となる。また、標準投影処理では、着目したい(表示の中央にしたい)点、すなわち、パノラマ画像70上の任意の箇所に1つまたは複数の点P1〜P4が例えばユーザにより指定され、その着目点を画像の中央になるように変換する(結果的には水平面の傾きが変更されることになる)。
【0025】
図4には、標準投影処理の第1例を説明する3次元マッピング空間の図を、図5には、図4の標準投影処理後のパノラマ画像を表わした図を示す。この第1例の標準投影処理は、パノラマ画像70上の1つの点P1のみが指定された場合のものである。
【0026】
この場合、標準投影部12は、図4に示すように、仮想的な3次元マッピング空間の中に、投影元の筒状面40と同一径(円柱40Aの径)で、中心点Oが互いに重なり、かつ、線分O−P1が中心軸55aに垂直になるように、投影先の筒状面50a(円柱50Aaの側面)を構築する。このとき、視点が指定されている場合は、中心Oの位置は視点VPの位置とする。
【0027】
このような筒状面50aの構築を行ったら、標準投影部12は、投影元の筒状面40から投影先の筒状面50aへパノラマ画像70を投影する処理を行う。この投影処理では、中心点Oを投影視点として、筒状面40の各画素を筒状面50aへ投影することで行われる。或いは、中心軸55aを投影中心として各画素が縦方向に広がらないように投影させるようにしてもよい。
【0028】
このような標準投影処理により、図5に示すように、元のパノラマ画像70上で指定された点P1が中央の水平線L2に重なったパノラマ画像80aが生成される。また、点P1の方向とこの逆の方向とで視線が互い違いに昇降するように水平面が傾いたパノラマ画像80aが生成される。
【0029】
なお、投影後のパノラマ画像80aは、全周囲の各眺望方向のうち何れかの方向の上端または下端の画像が欠けたものになるが、全眺望方向にわたって画像の上端部と下端部をトリミングすることで、帯状のパノラマ画像80aを生成してズーム投影部13へ送ることができる。
【0030】
図6には、標準投影処理の第2例を説明する3次元マッピング空間の図を、図7には、図6の標準投影処理後のパノラマ画像を表わした図を示す。この第2例の標準投影処理は、パノラマ画像70上の2つの点P1,P2が指定された場合のものである。
【0031】
この場合、標準投影部12は、仮想的な3次元マッピング空間の中に、投影元の筒状面40と同一径で、中心点Oが互いに重なり、かつ、三角形O−P1−P2が円柱50Abの底面と平行になるように、投影先の筒状面50b(円柱50Abの側面)を構築する。そして、上述のようにパノラマ画像70を筒状面40から筒状面50bへ投影する。視点VPが指定されていない場合には中心点Oを視点VPの位置とする。
【0032】
このような標準投影処理によれば、図7に示すように、元のパノラマ画像70上で指定された点P1,P2が中央の水平線L2bに重なったパノラマ画像80bが生成される。また、点P1,P2の方向が画像80bの中央になるため、これらの逆の方向では視線が互い違いに昇降し水平面が傾いたパノラマ画像80bが生成される。
【0033】
図8には、標準投影処理の第3例を説明する3次元マッピング空間の図を、図9には、図8の標準投影処理後のパノラマ画像を表わした図を示す。この第3例の標準投影処理は、パノラマ画像70上の2つの点P1,P2と視点VPとが指定された場合のものである。
【0034】
この場合、標準投影部12は、仮想的な3次元マッピング空間の中に、投影元の筒状面40と同一径で、三角形P1−P2−VPが円柱50Acの底面と平行になり、かつ、視点VPが新たな中心点となるように、投影先の筒状面50c(円柱50Acの側面)を構築する。そして、上述のようにパノラマ画像70を筒状面40から筒状面50cへ投影する。
【0035】
このような標準投影処理によれば、図9に示すように、元のパノラマ画像70上で指定された点P1,P2が中央の水平線L2cに重なり、中央の水平線L2cの画像が視点VPから見た画像としてパノラマ画像80cが生成される。
【0036】
図10には、標準投影処理の第4例を説明する3次元マッピング空間の図を、図11には、図10の標準投影処理後のパノラマ画像を表わした図を示す。この第4例の標準投影処理は、パノラマ画像70上の3つの点P1,P2,P3が指定された場合のものである。
【0037】
この場合、標準投影部12は、仮想的な3次元マッピング空間の中に、投影元の筒状面40と同一径で、三角形P1−P2−P3が円柱50Adの底面と平行になり、かつ、新たな中心点が三角形P1−P2−P3と重なるように、投影先の筒状面50d(円柱50Adの側面)を構築する。そして、上述のようにパノラマ画像70を筒状面40から筒状面50dへ投影する。
【0038】
このような標準投影処理によれば、図11に示すように、元のパノラマ画像70上で指定された点P1,P2,P3が中央の水平線L2dに重なったパノラマ画像80dが生成される。
【0039】
図12には、標準投影処理の第5例を説明する3次元マッピング空間の図を、図13には、図12の標準投影処理後のパノラマ画像を表わした図を示す。この第5例の標準投影処理は、パノラマ画像70上の3個より多い点P1〜P4が指定された場合のものである。
【0040】
この場合、標準投影部12は、仮想的な3次元マッピング空間の中に、投影元の筒状面40と同一径で、指定された各点P1〜P4との距離が総合的に短くなる特定の平面(水平線L2eを含む面)が円柱50Aeの底面と平行であり、かつ、新たな中心点が上記特定の平面と重なるように、投影先の筒状面50e(円柱50Aeの側面)を構築する。上記の特定の平面は、例えば、最小二乗法により各指定点P1〜P4との距離の二乗和が最小になるように求めることができる。そして、上述のようにパノラマ画像70を筒状面40から筒状面50eへ投影する。
【0041】
このような標準投影処理によれば、図13に示すように、元のパノラマ画像70上で指定された各点P1〜P4が中央の水平線L2eに総合的に近くなるパノラマ画像80eが生成される。
【0042】
そして、上述のように標準投影処理により生成されたパノラマ画像80a〜80eがズーム投影部13へ送られて、次に説明するズーム投影処理が行われるようになっている。
【0043】
[ズーム投影処理]
図14には、パノラマ画像のズーム投影処理を説明する3次元マッピング空間の図を示す。図15は、ズーム投影処理で使用される第1筒状面と第2筒状面の相対距離を表わす図である。第1筒状面には、標準投影部から出力された視点高さや傾きなどの位置合わせが行われた画像がマッピングされており、第2筒状面が投影面となる。図16Aには、標準投影部から得られたズーム投影処理前のパノラマ画像を表わす図を、図16Bには、ズーム投影処理後のパノラマ画像を表わす図を示す。
【0044】
ズーム投影処理は、次のようにズーム投影部13によって実行される。すなわち、ズーム投影部13は、先ず、図14に示すように、3次元マッピング空間において、第1筒状面20(円柱20Aの側面)と、第2筒状面30(円柱30Aの側面)とを構築する。これらの第1筒状面20と第2筒状面30とは、互いの中心軸(円柱20A,30Aの中心軸)が平行であり、縦方向の長さが第1筒状面20より第2筒状面30が長くなるように構築される。また、縦方向に見て第2筒状面30の上端と下端との間に第1筒状面20の全てが含まれるように配置される。また、水平方向(円柱20A,30Aの上面または下面に沿った方向)に見て第1筒状面20の中心軸25が第2筒状面30の中心から変位し且つ第2筒状面30の円筒内に含まれるように配置される。
【0045】
3次元マッピング空間は、メモリ上に構築される仮想的な3次元空間である。第1筒状面20と第2筒状面30との変位方向および変位量は、ズーム投影設定部15から供給される拡大方向と拡大率のデータに基づいて決定される。
【0046】
上記のように第1筒状面20と第2筒状面30とを構築したら、次に、ズーム投影部13は、標準投影部12から供給されるパノラマ画像80(図16A参照)を第1筒状面20へマッピングする。ここで、パノラマ画像80は第1筒状面20の面上でパノラマ画像80の360°全周囲の画像がつながるようにマッピングされる。
【0047】
次に、ズーム投影部13は、第1筒状面20の中心点O(円柱20Aの中心軸25の中心点O)を投影視点として、第1筒状面20の面上の各画素を第2筒状面30へ投影マッピングする処理を行う。例えば、図14の直線aに重なる一列の画素22を直線bに重なる一列の画素32へ拡大して投影する。また、図14の直線dに重なる一列の画素21を直線cに重なる一列の画素31に縮小して投影する。その他の範囲の画素も同様に連続的に投影する。そして、第2筒状面30へ投影された画像を伸縮されたパノラマ画像90(図16B参照)として得る。
【0048】
このようなズーム投影処理により、図16Bに示すように、360°全周囲の各眺望方向の画像が含まれるとともに、一部の方向の画像が拡大され、この逆の方向の画像が縮小され、かつ、連続的な範囲で拡大率が非連続にならないように伸縮されたパノラマ画像90が得られる。図16Bにおいて、パノラマ画像90の左端と右端とが切断された図となっているが、第2筒状面30へ投影された段階では、この左端と右端とがつながった状態になっており、それゆえ、この切断された部分の一方と他方とで拡大率は同一になっている。
【0049】
パノラマ画像90の各部の拡大率は、第1筒状面20と第2筒状面30との変位方向および変位量によって決定される。例えば、図14と図15に示すように、直線a,bに重なる部分の画像は拡大率“距離Ob/距離Oa”となり、直線c,dに重なる部分の画像は拡大率“距離Oc/距離Od”となる。ズーム投影部13は、ズーム投影設定部15から入力された拡大方向と拡大率のデータに応じて、第1筒状面20と第2筒状面30との変位方向および変位量を変更して、指定された拡大方向および拡大率で伸縮されたパノラマ画像90を生成するように構成されている。拡大方向で指定された点と中心点Oが最も遠くなる方向に変位させ、変位量は上記拡大率で決定する。
【0050】
なお、ズーム投影の方法は様々に変更可能である。例えば、第1筒状面20と第2筒状面30とを半径を異ならせて構築し、かつ、中心軸が重なるように配置するとともに、投影視点を中心から変位させてズーム投影処理を行うようにしてもよい。このようなズーム投影処理によっても、パノラマ画像を周囲一回りの各眺望方向ごとに連続的な拡大率で伸縮させることができる。
【0051】
[表示データ生成処理]
図17A〜図17Cには、ズーム投影処理後のパノラマ画像から表示データを生成する第1加工ステップ〜第3加工ステップの説明図を示す。
【0052】
表示データ生成処理は、ズーム投影処理後のパノラマ画像90のデータを用いて画像出力部16により実行される。表示データ生成処理において画像出力部16は、先ず、図17Aに示すように、パノラマ画像90を長手方向に複数に等分する切断処理を行う。例えば、図中の一点鎖線の箇所でパノラマ画像90を切断して、画像断片A,Cと断片Bとに二等分する。次に、画像出力部16は、図17Bに示すように、上記の断片A〜Cをディスプレイ17の表示枠17Aに対応させて例えば複数段(例えば2段)に配置する処理を行う。続いて、表示枠17Aの上下に外れる部分、ならびに、上段に配置された断片Bと下段に配置された断片A,Cとが重なった部分をトリミングして、図17Cに示すように、パノラマ画像90が二段構成にされて表示枠17Aに収まった画像の表示データを生成する。ここで、パノラマ画像90の切断箇所92の一方と他方とは拡大率が同一であり、画像をそのまま連続的につなぎ合わせることが可能になっている。もう一方の切断箇所93についても同様である。なお、表示枠17Aから外れた部分をトリミングする際に、パノラマ画像90の長手方向の一部の範囲がトリミングされた場合でも、無視できる程度に僅かな範囲であれば、頭の中でパノラマ画像を筒状に連結できるという作用を維持することができる。
【0053】
図18は、パノラマ画像の第1〜第3の表示例を示す画像図である。上記のように画像出力部16により生成された表示データがディスプレイ17に出力されることで、図18A〜図18Cのような表示画像がディスプレイ17に出力される。図18Aは、ズーム投影の倍率を1倍(ズームなし)としたときの表示画像の一例、図18Bは対象物95の方向を中心に倍率2倍としたときの表示画像の一例、図18Cは対象物95の方向を中心に倍率5倍としたときの表示画像の一例である。入力受付部14から拡大方向または拡大率の選択を切り替えることで、図18A〜図18Cの表示画像が切り替わるようになっている。
【0054】
なお、図17Aで示すパノラマ画像は、実際にはズーム投影部13の投影面(第2筒状面30)上にマッピングされたデータの端同士が繋がっている。これを切り出す際に、360°分全てをパノラマ画像データとして使用する必要はなく、略360°分の領域を用いるようにしてもよい。
【0055】
[ズーム投影処理の変形例]
図19には、ズーム投影処理の第1変形例を説明する3次元マッピング空間の図を、図20には、このズーム投影処理後のパノラマ画像の図を示す。
【0056】
第1変形例のズーム投影処理においても、ズーム投影前のパノラマ画像がマッピングされる第1筒状面20と、このパノラマ画像がズーム投影される第2筒状面30とが、上述したズーム投影処理のものと同様に構築される(図14参照)。第1変形例では、図19に示すように、投影視点O1を第1筒状面20の上端の高さに設定して投影処理を行うようにしている。
【0057】
このようなズーム投影処理によれば、図20に示すように、ズーム投影処理後のパノラマ画像90aは、360°の全眺望方向にわたって上端が直線状になり、拡大部分が下方に膨れ、縮小部分が上方に縮むような形状にすることができる。このようなズーム投影処理においても、連続的な範囲で拡大率が非連続にならないパノラマ画像90aを得ることができる。
【0058】
図21には、ズーム投影処理の第2変形例を説明する3次元マッピング空間の図を、図22には、このズーム投影処理後のパノラマ画像の図を示す。
【0059】
第2変形例のズーム投影処理においても、ズーム投影前のパノラマ画像がマッピングされる第1筒状面20と、このパノラマ画像がズーム投影される第2筒状面30とが、図14のものと同様に構築される。第2変形例では、図21に示すように、投影視点O2を第1筒状面20の下端の高さに設定して投影処理を行うようにしている。
【0060】
このようなズーム投影処理によれば、図22に示すように、ズーム投影処理後のパノラマ画像90bは、360°の全眺望方向にわたって下端が直線状になり、拡大部分が上方に膨れ、縮小部分が下方に縮むような形状にすることができる。このようなズーム投影処理においても、連続的な範囲で拡大率が非連続にならないパノラマ画像90bを得ることができる。
【0061】
図23には、ズーム投影処理の第3変形例を説明する3次元マッピング空間の図を、図24Aと図24Bには、このズーム投影処理の前と後のパノラマ画像の図を、それぞれ示す。
【0062】
第3変形例のズーム投影処理においては、ズーム投影部13は、次のように第1筒状面20aと、第2筒状面30aとを構築する。すなわち、ズーム投影前のパノラマ画像がマッピングされる第1筒状面20aを縦方向に長く、パノラマ画像がズーム投影される第2筒状面30aを縦方向に短くなるように構築する。また、特に制限はされないが、第1筒状面20aと第2筒状面30aとが同一径(円柱20Aa,30Aaの径が同一)になるように構築する。さらに、縦方向にみて第2筒状面30aが第1筒状面20aの上端と下端の間に位置し、水平方向にみて第1筒状面20aの中心軸25が第2筒状面30aの内側に位置するように、両者を配置する。
【0063】
このような構築を行ったら、ズーム投影部13は、360°全周囲の画像が連なったパノラマ画像80hを第1筒状面20aの全周を埋めるようにマッピングする。このパノラマ画像80hは、図24Aに示すように、縦方向に幅広(画素数が多い)の画像が適用される。次いで、ズーム投影部13は、第1筒状面20aの中心点Oを投影視点として、第1筒状面20aのパノラマ画像80hを第2筒状面30aへ投影する。ここで、投影前のパノラマ画像80hが縦方向に幅広であることから、このパノラマ画像80hの上側や下側の一部範囲が切り落とされて第1筒状面20aの全域に投影される。したがって、図24Bに示すように、投影後のパノラマ画像90hは、縦方向の幅が一定長であり、拡大した部分がズームインしたように視界が狭く絞られた画像となり、縮小した部分がズームアウトしたように広い範囲を見渡した画像となる。このようなマッピングを行うことにより、投影後のパノラマ画像90hはズームの大小にかかわらず、同じ幅(上下方向)にすることができ、それにより、表示後の印象を変えることができる。
【0064】
図25には、第1筒状面20aと第2筒状面30aの相対配置とズーム投影後のパノラマ画像90hとの関係を表わした図を示す。同図(a−1)〜(a−6)は上記相対配置の第1例〜第6例を示す平面図、(b−1)〜(b−6)は第1例〜第6例の相対配置に対応したパノラマ画像の図である。
【0065】
第3変形例のズーム投影処理においても、図25(a−1)〜(a−6)に示すように、第2筒状面30を第1筒状面20aの中心から変位させる方向を様々に変化させることで、図25(b−1)〜(b−6)に示すように、パノラマ画像の様々な方向を拡大したり縮小したりすることができる。
【0066】
図26A〜図26Cには、拡大方向を指定する方法の第1例〜第3例を説明する平面図を示す。第3変形例のズーム投影処理においても、入力受付部14を介して拡大方向と拡大率とを入力することで、これらの入力に応じたズーム投影処理を行わせることができる。例えば、図26Aに示す例は、第1筒状面20aにマッピングされたパノラマ画像80hの任意の点P1と、拡大率(図26の矢印の長さにより表わす)とが入力受付部14を介して入力された例である。この場合、同図に示すように、指定された点P1がある方向に拡大率に応じた量だけ第2筒状面30aが変位されてズーム投影処理が行われる。それにより、点P1の方向が拡大されたパノラマ画像90hを得ることができる。
【0067】
図26Bに示す例は、第1筒状面20aにマッピングされたパノラマ画像80hの任意の2つの点P1,P2と、各方向の拡大率とが入力受付部14を介して入力された例である。この場合、同図に示すように、2方向の入力に基づく2つのベクトルv1,v2が合成された方向および長さで、第2筒状面30aが変位されてズーム投影処理が行われる。それにより、指定された2方向がそれぞれ拡大されたパノラマ画像90hを得ることができる。上記のベクトルv1,v2は、指定された点P1,P2の方向および指定された各拡大率に応じた長さを表わすように定義される。
【0068】
図26Cに示す例は、図26Bの場合と同様に、パノラマ画像80hの任意の2つの点P1,P2と、各方向の拡大率とが入力受付部14を介して入力された場合の別の例である。この例では、第2筒状面30aの横断面の形状を円形に制限せずに、第2筒状面30aが指定された拡大方向にのみ中心点Oから遠い方へ膨らむようにしたものである。但し、第2筒状面30aの全周の長さは変化しないように制限している。このように第2筒状面30aを構成してズーム投影処理が行われることで、指定された複数の拡大方向がそれぞれ局所的に拡大されたパノラマ画像90hを得ることができる。ここでは、第2筒状面30aの全周の長さは変化しないように制限した例を示したが、全周の長さが変化する場合では、パノラマ画面の水平方向の長さがn倍(n=2,3,4・・)になるように規格化する一方、表示の際にパノラマ画像を1/nの長さずつ分割して画面上に並べて出力すればよい。(図28参照)
【0069】
[パノラマ画像表示の変形例]
図27には、パノラマ画像に各眺望方向の拡大率を表わすスケール表示を付加した表示例を示す。
【0070】
パノラマ画像90hの複数の方向が局所的に拡大されている場合には、図27に示すように、パノラマ画像90hの各眺望方向の拡大率を表わすスケール表示(拡大率表示画像)98を付加して表示出力するとよい。このスケール表示98によりどの部分が拡大されどの部分が縮小されているのか閲覧者に直感的に理解させることができる。
【0071】
このスケール表示98は、目盛りの表示によって各眺望方向の拡大率を表わすようにしたものであり、目盛りの間隔をその箇所の拡大率に比例するようにしている。このスケール表示98は、ズーム投影前のパノラマ画像に等間隔の目盛り画像を付加しておき、この目盛り画像ごとパノラマ画像をズーム投影することで作成することができる。なお、スケール表示は、例えば色のグラデーション(赤に近いほど拡大率が高く、青に近いほど拡大率が低いなど)や、色の濃さにより拡大率を表わすように構成してもよい。
【0072】
図28A〜図28Cには、パノラマ画像の第1〜第3の表示例を表わした概念図を示す。先に、図17を参照して説明したように、パノラマ画像は横長の画像になる。そのため、横方向の長さがほぼ均等になるようにパノラマ画像を縦方向の切込み線で複数に切断して、これらを複数段に並べて表示するようにしてもよい。図28A〜図28Cにおいて、360°全周囲の画像が連なったパノラマ画像が、2つの画像ブロック101,102、あるいは、3つ以上の画像ブロック111〜113に分割されて、複数段に表示されている。各段の画像ブロック101,102,111〜113において、その左端と右端は、図中の点線矢印で対応づけられた他の画像ブロック101,102,111〜113の左端または右端に画像が連続するようになっている。このような複数段の表示により、ディスプレイ17の表示枠17Aを有効に使用することができる。
【0073】
また、パノラマ画像の切断位置を少しずつ横方向にずらして連続表示を行うことで、図28A〜図28Cに示すように、複数段構成のパノラマ画像の表示を横方向に周回移動(ローリングと呼ぶ)させることも可能である。図28Aの例は、2段の画像ブロック101,102を同一のローリング方向に周回移動させた表示例である。図28Bの例は、2段目の画像ブロック102を左右反転或いは上下左右反転させることで、1段目と2段目とでローリング方向を逆転させて周回移動させた表示例である。このように左右反転した画像ブロック102を含めることで、各画像ブロック101,102の左端と右端の画像の連続先が互いに近い配置となる。このため、鑑賞者がパノラマ画像を筒状に連結するイメージを行いやすくなる。図28Cの例は、2段目の画像ブロック112を左右反転または上下左右反転させることで、1段目と2段目、および、2段目と3段目とでローリング方向を逆転させて周回移動させた表示例である。このような3段構成の表示でも同様に周回移動させた表示が可能である。
【0074】
この変形例において、画像出力部16は、ズーム投影部13から供給されるパノラマ画像に対して、上記のように画像を切断する処理と、切断した画像ブロック101,102,111〜113を複数段に配置して表示データを生成するように構成される。それにより、図28のようなパノラマ画像の表示出力が可能となる。
【0075】
[被写体追跡機能とパノラマ画像の伸縮機能との協働例]
図29〜図31には、被写体追跡機能とパノラマ画像の伸縮機能とを協働させた動作例を説明する図を示す。図29A,図29Bは、この被写体追跡機能用に周期的(時刻t1,t2)に取得された複数のパノラマ画像120a,120bを示す図である。図30A,図30Bは、上記被写体追跡機能を併用したズーム投影処理後の複数のパノラマ画像121a,121bを示す図、図31A,図31Bは、上記被写体追跡機能を併用した場合における複数のパノラマ画像の表示例122a,122bを示す画像図である。
【0076】
被写体追跡機能は、撮影画像に写っている特定の対象物(例えば人物など)を追跡対象物として指定することで、他の撮影画像の中から指定された追跡対象物を検索してその位置を検出する機能である。追跡対象物の検索は、演算処理装置に追跡対象物の色や形状をパターン認識させ、演算処理装置によって検索対象の撮影画像の各部分と追跡対象物のパターンとの比較を行わせることで実現可能である。そして、一致と判別された部分の画像位置が追跡対象物の位置として出力される。
【0077】
この実施形態では、ズーム投影部13に、上記の被写体追跡機能の構成が付加され、入力受付部14を介して、1つの撮影画像に含まれる任意の対象物を追跡対象物として指定することが可能になっている。上記の被写体追跡機能は必ずしもズーム投影部13にある必要はなく、撮影部11の出力する撮像画像を受け取り、画像中の追跡対象物の位置を入力受付部14に入力する方法でも実現できる。
【0078】
ズーム投影部13は、撮影部11により周期的に得られた複数のパノラマ画像120a,120bを入力したら、指定された追跡対象物(この実施形態では人物像G)の検索を行って、その位置を検出する。そして、位置が検出されたら、その位置がほぼ中央になるようにパノラマ画像120a,120bを周回移動させる。そして、中央が拡大されるようにズーム投影の処理を行って、図30A,図30Bのようにパノラマ画像121a,121bを生成する。そして、これらの画像データを画像出力部16へ出力する。
【0079】
画像出力部16は、パノラマ画像121a,121bを分割して二段構成にした表示データを生成してディスプレイ17へ出力する。それにより、図31A,図31Bのように追跡対象の人物像Gが上段中央で拡大された二段構成のパノラマ画像の表示例122a,122bが得られる。
【0080】
このような被写体追跡処理とパノラマ画像の拡大処理とを、連続的に撮影された多数のパノラマ画像に対して連続的に行っていくことで、移動する追跡対象物がほぼ一定の位置に表示され、背景が追跡対象物の移動に伴って移り動くような画像表示を行うことができる。
【0081】
[パノラマ画像の伸縮処理の変形例]
上記の実施形態では、ズーム投影処理によって、パノラマ画像を360°全周囲で拡大率が不連続にならないように伸縮する例を示してきた。しかしながら、パノラマ画像をこのように伸縮する方法はズーム投影処理に限られるものではない。例えば、次のような演算処理装置による画像変換処理によっても実現することができる。
【0082】
図32〜図37には、パノラマ画像の伸縮処理の変形例を説明する図を示す。図32Aは伸縮処理前のパノラマ画像を示す図、図32Bは各眺望方向の拡大率を示すグラフ、図33は、この変形例において縦方向の伸縮処理を説明する概念図、図34は、この縦方向の伸縮処理後のパノラマ画像を示す図である。
【0083】
この変形例では、先ず、図32A、図32Bに示すように、撮影部11により得られたパノラマ画像130に対して、眺望方向ごとの拡大率が指定される。拡大率は、眺望方向が連続する範囲で非連続にならないように設定される。パノラマ画像130の左端と右端は同一の眺望方向を示しているので、左端の拡大率と右端の拡大率は同一値になるように設定される。このような眺望方向ごとの拡大率のデータは、例えば、ズーム投影設定部15に関数データ或いはテーブルデータとして記憶させておき、ユーザによる拡大方向および拡大率の指定に基づいてズーム投影設定部15が適宜選択する。
【0084】
上記のような拡大率の指定がなされたら、演算処理装置は、図33に示すように、パノラマ画像130の1列の画素列131a〜131cごとに、指定された拡大率で縦方向に引き伸ばし、或いは、凝縮して新たな画素とする画像変換処理を行う。この引き伸ばし又は凝縮の処理により、縦方向の画素数が規定数を超えた場合には、超えた部分をトリミングし、規定数を下回った場合には、例えば所定色の画素を付加して補う。
【0085】
このような縦方向の伸縮処理により、図34に示すように、元のパノラマ画像130が指定された拡大率で縦方向に伸縮されたパノラマ画像132が得られる。
【0086】
図35Aは横方向の伸縮処理前のパノラマ画像を示す図、図35Bは各地要望方向の拡大率を示すグラフ、図36は横方向の伸縮処理を説明する概念図、図37は縦横方向の伸縮処理後のパノラマ画像を示す図である。
【0087】
上記のように縦方向の伸縮処理を行ったら、続いて、演算処理装置は、このパノラマ画像132を横方向に伸縮する画像変換処理を実行する。この横方向の伸縮処理においても、図35Bに示すように、縦方向の伸縮処理で用いられた眺望方向ごとの拡大率が使用される。
【0088】
横方向の伸縮処理では、図36に示すように、演算処理装置は、パノラマ画像132の全画素列133a〜133a,133b〜133bに対して、指定された拡大率に応じて画素列133a〜133aを横方向に凝縮して新たな画素列134a〜134aにする画像変換処理、ならびに、指定された拡大率に応じて画素列133b〜133bを広げて新たな画素列134b〜134bにする画像変換処理を行う。なお、ここでは縦方向、横方向順番に拡大縮小したが、縦方向横方向同時に拡大縮小してもよい。
【0089】
このような横方向の伸縮処理により、図37に示すように、縦方向にのみ伸縮されていたパノラマ画像132に基づいて、指定された拡大率で横方向にも伸縮されたパノラマ画像135を得ることができる。このような伸縮処理においても、眺望方向が連続する範囲で連続的な拡大率で縦横に伸縮されたパノラマ画像135を得ることができる。また、パノラマ画像135が切断された左端と右端の伸縮率も同一となる。
【0090】
以上のように、上述した実施形態のカメラ、ならびに、その画像変換装置(ズーム投影部13、入力受付部14、ズーム投影設定部15、画像出力部16)によれば、周囲一回りの各眺望方向の撮影画像が含まれるパノラマ画像に対して、眺望方向ごとに拡大率を異ならせてパノラマ画像の全体を連続的に伸縮させることができる。さらに、眺望方向が連続する範囲で、拡大率が非連続にされることがない。従って、このパノラマ画像を伸縮する機能により、パノラマ画像中の注目したい箇所を拡大して表示させることができる。また、鑑賞者は伸縮されたパノラマ画像を容易に頭の中で筒状に連結して全周囲の景観をイメージすることができる。
【0091】
また、上記実施形態のカメラ、ならびに、その画像変換構成によれば、筒状面から別の筒状面へパノラマ画像を投影するズーム投影部13の処理によって、自然で滑らかに伸縮させたパノラマ画像を容易に生成できるようになっている。
【0092】
なお、上記実施形態では、撮影部11とディスプレイ17とを含んだカメラの構成を示したが、ズーム投影部13、入力受付部14、ズーム投影設定部15および画像出力部16を画像変換装置として別体に設けてもよい。
【0093】
また、上記実施形態では、標準投影部で見たい領域が画面の中心付近に位置するようにしたうえでズーム投影部を用いて見たい領域を拡大処理するようにしているが、標準投影部による処理を行わずズーム投影部の処理のみで見たい領域を拡大処理するようにしてもよい。
【0094】
また、上記実施形態では、標準投影部、ズーム投影部を用いて2段階で投影を行ったが、標準投影部とズーム投影部の両方を一度に実現可能な投影面を用いてもよい。具体的には、例えば、図14中の円柱20Aを視線の高さに応じて上下させ、水平方向の傾きに応じて円柱20Aを傾けることで一度に位置合わせとズームの両方を実現することができる。
【0095】
また、上記実施形態で示した、標準投影部12、ズーム投影部13、ズーム投影設定部15、画像出力部16の各構成は、ハードウェアにより構成しても良いし、コンピュータがプログラムを実行することで実現されるソフトウェアとして構成しても良い。
【産業上の利用可能性】
【0096】
本発明は、スチルカメラおよびビデオカメラなど画像の入力装置や画像処理装置に好適に適用することができる。
【符号の説明】
【0097】
11 撮影部
13 ズーム投影部
14 入力受付部
15 ズーム投影設定部
16 画像出力部
17 ディスプレイ
20,20a 第1筒状面
30,30a 第2筒状面
70,80,80h,90,90a,90b,90h,130,132,135 パノラマ画像
98 スケール表示(拡大率表示画像)
【技術分野】
【0001】
この発明は、パノラマ画像の画像変換を行う画像変換装置、カメラ、画像変換方法およびプログラムに関する。
【背景技術】
【0002】
以前より、撮影方向を東西南北に360°回転させながら連続的な撮影を行わせるとともに、これらの撮影画像を合成することで、周囲一回り分の画像が連なったパノラマ画像を生成するデジタルスチルカメラがある。また、複数のレンズで周囲360°の範囲の撮影を行い、或いは、超広角レンズを用いて上方から周囲360°の範囲の撮影を行って、周囲一回り分の画像が連なったパノラマ画像を生成する技術も知られている。
【0003】
また、本願発明に関連する従来技術として、特許文献1,2には、パノラマ画像中の任意の箇所を指定することで、パノラマ画像とは別に指定箇所の拡大画像を表示出力する装置が開示されている。また、特許文献3には、レンズの方向を水平方向と上下方向とに振りながら撮影して得られた複数の撮影画像を水平方向と上下方向につないでパノラマ画像を作成する技術が開示されている。特許文献4には、複数の撮影地点で撮影したパノラマ画像を地図画像の鳥瞰表示上に吹き出し表示として表示出力させるとともに、この鳥瞰表示のズームインおよびズームアウトの操作を可能とした装置が開示されている。また、特許文献5には、広角レンズを用いて撮影した横長の画像に対して、部分的に拡大率を変化させて画像を伸張させる技術が開示されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2003−092750号公報
【特許文献2】特開2005−148265号公報
【特許文献3】特開2007−159047号公報
【特許文献4】特開2007−110675号公報
【特許文献5】特許第4279643号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
周囲一回り分の画像を含んだパノラマ画像であっても、注目部分を拡大して表示したいという要求が、撮影者や観賞者に生じることがある。また、360°のパノラマ画像は、帯状の画像を筒状に連結して連続する画像を生成できるという特徴を有し、鑑賞者は平面的なパノラマ画像であっても頭の中で画像を筒状に連結してイメージすることがある。そのため、注目部分を拡大した場合でも、画像を筒状に連結できるという特徴は維持させたいという要求が一般に生じる。
【0006】
また、広範囲(360°)を監視するような場合、全体を見ながら且つ同時に部分的に拡大して観察したい要望が生じる。
【0007】
従来、このような要求を満たすようなパノラマ画像の拡大機能は存在しなかった。
【0008】
この発明の目的は、パノラマ画像を筒状に連結できる、あるいは、広範囲(最大360°まで)を同時に観察できるというパノラマ画像の特徴を維持したまま、パノラマ画像を部分的に拡大または縮小することのできる画像変換装置、カメラ、画像変換方法およびプログラムを提供することにある。
【課題を解決するための手段】
【0009】
本発明に係る画像変換装置は、パノラマ画像を入力する画像入力部と、前記パノラマ画像の連続する領域で拡大率が連続的に変化するように、前記パノラマ画像のうちの所望の領域の拡大率を異ならせて当該パノラマ画像を伸縮する画像伸縮部とを具備する構成を採る。
【発明の効果】
【0010】
本発明に従うと、画像伸縮部によりパノラマ画像を部分的に拡大または縮小することができる。さらに、画像伸縮部は、パノラマ画像の眺望方向が連続する範囲で拡大率が不連続にならないように画像を伸縮するので、画像を筒状に連結できる、あるいは、広範囲(最大360°まで)を同時に観察できるというパノラマ画像の特徴を維持することができる。
【図面の簡単な説明】
【0011】
【図1】本発明の実施形態のカメラの構成を示すブロック図
【図2】標準投影処理の準備段階について説明する3次元マッピング空間の図
【図3】図2の筒状面に投影されたパノラマ画像を示す図
【図4】標準投影処理の第1例を説明する3次元マッピング空間の図
【図5】図4の標準投影処理後のパノラマ画像を示す図
【図6】標準投影処理の第2例を説明する3次元マッピング空間の図
【図7】図6の標準投影処理後のパノラマ画像を示す図
【図8】標準投影処理の第3例を説明する3次元マッピング空間の図
【図9】図8の標準投影処理後のパノラマ画像を示す図
【図10】標準投影処理の第4例を説明する3次元マッピング空間の図
【図11】図10の標準投影処理後のパノラマ画像を示す図
【図12】標準投影処理の第5例を説明する3次元マッピング空間の図
【図13】図11の標準投影処理後のパノラマ画像を示す図
【図14】パノラマ画像のズーム投影処理を説明する3次元マッピング空間の図
【図15】ズーム投影処理に使用する第1筒状面(原画像面)と第2筒状面(投影面)の相対距離を示す図
【図16】図16Aはズーム投影処理前のパノラマ画像を示す図、図16Bはズーム投影処理後のパノラマ画像を示す図
【図17】ズーム投影処理後のパノラマ画像から表示データを生成する第1加工ステップ〜第3加工ステップの説明図
【図18】パノラマ画像の第1〜第3の表示例を示す画像図
【図19】ズーム投影処理の第1変形例を説明する3次元マッピング空間の図
【図20】図19のズーム投影処理後のパノラマ画像を示す図
【図21】ズーム投影処理の第2変形例を説明する3次元マッピング空間の図
【図22】図21のズーム投影処理後のパノラマ画像を示す図
【図23】ズーム投影処理の第3変形例を説明する3次元マッピング空間の図
【図24】図24Aは図23のズーム投影処理前のパノラマ画像を示す図、図24Bは図23のズーム投影処理後のパノラマ画像を示す図
【図25】ズーム投影用の第1筒状面と第2筒状面との相対配置の変化例(a−1)〜(a−6)と、各相対配置に対応したズーム投影後のパノラマ画像(b−1)〜(b−6)を示す図
【図26】拡大方向を指定する方法の第1例〜第3例を説明する図
【図27】パノラマ画像に各眺望方向の拡大率を表わすスケール表示を付加した表示例を示す画像図
【図28】パノラマ画像を複数段構成にした第1〜第3の表示例を示す概念図
【図29】被写体追跡機能用に時系列的に取得された複数のパノラマ画像を示す図
【図30】被写体追跡機能を併用したズーム投影処理後の時系列複数のパノラマ画像を示す図
【図31】被写体追跡機能を併用させた場合の時系列複数のパノラマ画像の表示例を示す画像図
【図32】パノラマ画像を伸縮する処理の変形例を説明するもので、図32Aは伸縮処理前のパノラマ画像を示す図、図32Bは各眺望方向の拡大率を示すグラフ
【図33】パノラマ画像の縦方向の伸縮処理を説明する概念図
【図34】縦方向の伸縮処理後のパノラマ画像を示す図
【図35】図35Aは横方向の伸縮処理前のパノラマ画像を示す図、図35Bは各眺望方向の拡大率を示すグラフ
【図36】パノラマ画像の横方向の伸縮処理を説明する概念図
【図37】縦横方向の伸縮処理後のパノラマ画像を示す図
【発明を実施するための形態】
【0012】
以下、本発明の実施の形態を図面に基づいて説明する。
【0013】
図1は、本発明の実施形態のカメラの構成を示すブロック図である。
【0014】
本実施形態のカメラは、図1に示すように、撮影によりパノラマ画像を得る撮影部11と、パノラマ画像に対して後述の標準投影処理を行う標準投影部12と、画像伸縮部としてのズーム投影部13と、操作ボタンを介して外部から操作入力を受け付ける入力受付部14と、操作入力に基づきズーム投影処理の各種設定を行うズーム投影設定部15と、表示データを生成して画像データを出力する画像出力部16と、画像出力部16から表示データを入力して表示出力を行うディスプレイ17等を備えている。
【0015】
撮影部11は、例えば、魚眼レンズやミラーを用いた全周囲カメラを用いて得られた全周囲画像をパノラマ展開して原画像となるパノラマ画像を得る構成を採用してもよい。または、複数の方向を向いた複数のレンズと、これら複数のレンズにより結像された光学像を電気信号に変換する撮像素子とを有し、これら複数のレンズを用いて全周囲360°の範囲の撮影が可能なように構成されている。さらに、この撮影部11は、複数のレンズを用いて撮影された複数の画像データを連結させて、360°全周囲の画像が連なったパノラマ画像の画像データを生成する。撮影部11は、このようなパノラマ画像の画像データを標準投影部12へ出力する。なお、撮影部11として、方位センサまたはジャイロセンサを搭載し、ユーザに全周囲360°の各方向を向くように回転させながら連続撮影を行わせて、この連続撮影により得られた複数の画像データを連結させて上記のようなパノラマ画像を得る構成を採用してもよい。その他、360°のパノラマ画像を得る様々な公知の構成を採用してもよい。
【0016】
ズーム投影設定部15は、入力受付部14を介して入力されたユーザからの操作指令に基づいて、パノラマ画像の各眺望方向のうち拡大する方向と、拡大率との設定を行う。そして、この拡大する方向と拡大率とを示すデータをズーム投影部13へ供給する。
【0017】
ズーム投影設定部15は、例えば、次のような処理により、拡大する眺望方向の入力をユーザに行わせる。すなわち、先ず、ディスプレイ17にズーム投影前のパノラマ画像と、拡大方向を指示させるポインタ画像とを重ねて表示出力させる。そして、入力受付部14を介した操作入力に基づいてポインタ画像を移動させ、かつ、入力受付部14を介した拡大方向の決定の操作入力に基づいて、この操作入力の時点でポインタ画像が指し示す眺望方向を拡大する方向として決定する。また、拡大率の入力は、例えば1倍、2倍、5倍など複数種類の拡大率の中から入力受付部14を介してユーザに選択させて決定する。或いは、連続的な拡大率の中からユーザに選択させて決定するようにしてもよい。
【0018】
標準投影部12は、撮影部11からパノラマ画像の画像データを入力し(画像入力部)、ズーム投影設定部15からの入力内容に応じてこのパノラマ画像の視点の高さや視界の向きを変更する標準投影処理を行って、処理後のパノラマ画像の画像データをズーム投影部13へ出力する。この標準投影処理については後に詳述する。
【0019】
ズーム投影部13は、パノラマ画像の全周囲の各方向(以下、眺望方向と呼ぶ)の画像が連続的に連結できるというパノラマ画像の特徴を維持しつつ、ズーム投影設定部15からの入力内容に応じて一部の範囲を拡大または縮小するズーム投影処理を行って、処理後のパノラマ画像の画像データを画像出力部16へ出力する。この投影処理については後に詳述する。
【0020】
画像出力部16は、ズーム投影部13から円筒状につながるパノラマ画像の画像データを入力するとともに、このパノラマ画像を任意の位置で切断して平面状に配置する画像処理を行って表示データを生成する。そして、この表示データをディスプレイ17へ出力して表示出力させる。
【0021】
[標準投影処理]
図2には、標準投影部12により実行される標準投影処理の準備段階について説明する3次元マッピング空間の図を、図3には、図2の筒状面に投影されたパノラマ画像を表わした図を示す。
【0022】
標準投影処理は、撮影部11により得られたパノラマ画像に対して、拡大率をほぼ変更せずに、視点の高さやパノラマ画像の水平面の傾きを変更するための処理である。ここで、水平面とは、重力方向に垂直な面のことではなく、パノラマ画像の周囲一回りの各眺望方向をベクトルで表わしたときに、このベクトルの軌跡により表わされる平面のことを示している。
【0023】
標準投影部12は、標準投影処理の開始時に、図2に示すように、仮想的な3次元マッピング空間に投影元の筒状面40(円柱40Aの側面)を構築する。そして、この筒状面40に撮影部11から供給されるパノラマ画像70を連続的にマッピングする。パノラマ画像70は筒状面40の面上でパノラマ画像70の全周囲の画像がつながるようにマッピングされる。
【0024】
ここで、パノラマ画像70の中央の水平線L1は、筒状面40の中心点Oの高さにマッピングされる。標準投影処理では、変更後の視点の高さとなる視点VPが例えばユーザにより中心軸45の任意の高さに指定される。パノラマ画像70の帯状部分VPaが視点VPの高さに対応した画像部分となる。また、標準投影処理では、着目したい(表示の中央にしたい)点、すなわち、パノラマ画像70上の任意の箇所に1つまたは複数の点P1〜P4が例えばユーザにより指定され、その着目点を画像の中央になるように変換する(結果的には水平面の傾きが変更されることになる)。
【0025】
図4には、標準投影処理の第1例を説明する3次元マッピング空間の図を、図5には、図4の標準投影処理後のパノラマ画像を表わした図を示す。この第1例の標準投影処理は、パノラマ画像70上の1つの点P1のみが指定された場合のものである。
【0026】
この場合、標準投影部12は、図4に示すように、仮想的な3次元マッピング空間の中に、投影元の筒状面40と同一径(円柱40Aの径)で、中心点Oが互いに重なり、かつ、線分O−P1が中心軸55aに垂直になるように、投影先の筒状面50a(円柱50Aaの側面)を構築する。このとき、視点が指定されている場合は、中心Oの位置は視点VPの位置とする。
【0027】
このような筒状面50aの構築を行ったら、標準投影部12は、投影元の筒状面40から投影先の筒状面50aへパノラマ画像70を投影する処理を行う。この投影処理では、中心点Oを投影視点として、筒状面40の各画素を筒状面50aへ投影することで行われる。或いは、中心軸55aを投影中心として各画素が縦方向に広がらないように投影させるようにしてもよい。
【0028】
このような標準投影処理により、図5に示すように、元のパノラマ画像70上で指定された点P1が中央の水平線L2に重なったパノラマ画像80aが生成される。また、点P1の方向とこの逆の方向とで視線が互い違いに昇降するように水平面が傾いたパノラマ画像80aが生成される。
【0029】
なお、投影後のパノラマ画像80aは、全周囲の各眺望方向のうち何れかの方向の上端または下端の画像が欠けたものになるが、全眺望方向にわたって画像の上端部と下端部をトリミングすることで、帯状のパノラマ画像80aを生成してズーム投影部13へ送ることができる。
【0030】
図6には、標準投影処理の第2例を説明する3次元マッピング空間の図を、図7には、図6の標準投影処理後のパノラマ画像を表わした図を示す。この第2例の標準投影処理は、パノラマ画像70上の2つの点P1,P2が指定された場合のものである。
【0031】
この場合、標準投影部12は、仮想的な3次元マッピング空間の中に、投影元の筒状面40と同一径で、中心点Oが互いに重なり、かつ、三角形O−P1−P2が円柱50Abの底面と平行になるように、投影先の筒状面50b(円柱50Abの側面)を構築する。そして、上述のようにパノラマ画像70を筒状面40から筒状面50bへ投影する。視点VPが指定されていない場合には中心点Oを視点VPの位置とする。
【0032】
このような標準投影処理によれば、図7に示すように、元のパノラマ画像70上で指定された点P1,P2が中央の水平線L2bに重なったパノラマ画像80bが生成される。また、点P1,P2の方向が画像80bの中央になるため、これらの逆の方向では視線が互い違いに昇降し水平面が傾いたパノラマ画像80bが生成される。
【0033】
図8には、標準投影処理の第3例を説明する3次元マッピング空間の図を、図9には、図8の標準投影処理後のパノラマ画像を表わした図を示す。この第3例の標準投影処理は、パノラマ画像70上の2つの点P1,P2と視点VPとが指定された場合のものである。
【0034】
この場合、標準投影部12は、仮想的な3次元マッピング空間の中に、投影元の筒状面40と同一径で、三角形P1−P2−VPが円柱50Acの底面と平行になり、かつ、視点VPが新たな中心点となるように、投影先の筒状面50c(円柱50Acの側面)を構築する。そして、上述のようにパノラマ画像70を筒状面40から筒状面50cへ投影する。
【0035】
このような標準投影処理によれば、図9に示すように、元のパノラマ画像70上で指定された点P1,P2が中央の水平線L2cに重なり、中央の水平線L2cの画像が視点VPから見た画像としてパノラマ画像80cが生成される。
【0036】
図10には、標準投影処理の第4例を説明する3次元マッピング空間の図を、図11には、図10の標準投影処理後のパノラマ画像を表わした図を示す。この第4例の標準投影処理は、パノラマ画像70上の3つの点P1,P2,P3が指定された場合のものである。
【0037】
この場合、標準投影部12は、仮想的な3次元マッピング空間の中に、投影元の筒状面40と同一径で、三角形P1−P2−P3が円柱50Adの底面と平行になり、かつ、新たな中心点が三角形P1−P2−P3と重なるように、投影先の筒状面50d(円柱50Adの側面)を構築する。そして、上述のようにパノラマ画像70を筒状面40から筒状面50dへ投影する。
【0038】
このような標準投影処理によれば、図11に示すように、元のパノラマ画像70上で指定された点P1,P2,P3が中央の水平線L2dに重なったパノラマ画像80dが生成される。
【0039】
図12には、標準投影処理の第5例を説明する3次元マッピング空間の図を、図13には、図12の標準投影処理後のパノラマ画像を表わした図を示す。この第5例の標準投影処理は、パノラマ画像70上の3個より多い点P1〜P4が指定された場合のものである。
【0040】
この場合、標準投影部12は、仮想的な3次元マッピング空間の中に、投影元の筒状面40と同一径で、指定された各点P1〜P4との距離が総合的に短くなる特定の平面(水平線L2eを含む面)が円柱50Aeの底面と平行であり、かつ、新たな中心点が上記特定の平面と重なるように、投影先の筒状面50e(円柱50Aeの側面)を構築する。上記の特定の平面は、例えば、最小二乗法により各指定点P1〜P4との距離の二乗和が最小になるように求めることができる。そして、上述のようにパノラマ画像70を筒状面40から筒状面50eへ投影する。
【0041】
このような標準投影処理によれば、図13に示すように、元のパノラマ画像70上で指定された各点P1〜P4が中央の水平線L2eに総合的に近くなるパノラマ画像80eが生成される。
【0042】
そして、上述のように標準投影処理により生成されたパノラマ画像80a〜80eがズーム投影部13へ送られて、次に説明するズーム投影処理が行われるようになっている。
【0043】
[ズーム投影処理]
図14には、パノラマ画像のズーム投影処理を説明する3次元マッピング空間の図を示す。図15は、ズーム投影処理で使用される第1筒状面と第2筒状面の相対距離を表わす図である。第1筒状面には、標準投影部から出力された視点高さや傾きなどの位置合わせが行われた画像がマッピングされており、第2筒状面が投影面となる。図16Aには、標準投影部から得られたズーム投影処理前のパノラマ画像を表わす図を、図16Bには、ズーム投影処理後のパノラマ画像を表わす図を示す。
【0044】
ズーム投影処理は、次のようにズーム投影部13によって実行される。すなわち、ズーム投影部13は、先ず、図14に示すように、3次元マッピング空間において、第1筒状面20(円柱20Aの側面)と、第2筒状面30(円柱30Aの側面)とを構築する。これらの第1筒状面20と第2筒状面30とは、互いの中心軸(円柱20A,30Aの中心軸)が平行であり、縦方向の長さが第1筒状面20より第2筒状面30が長くなるように構築される。また、縦方向に見て第2筒状面30の上端と下端との間に第1筒状面20の全てが含まれるように配置される。また、水平方向(円柱20A,30Aの上面または下面に沿った方向)に見て第1筒状面20の中心軸25が第2筒状面30の中心から変位し且つ第2筒状面30の円筒内に含まれるように配置される。
【0045】
3次元マッピング空間は、メモリ上に構築される仮想的な3次元空間である。第1筒状面20と第2筒状面30との変位方向および変位量は、ズーム投影設定部15から供給される拡大方向と拡大率のデータに基づいて決定される。
【0046】
上記のように第1筒状面20と第2筒状面30とを構築したら、次に、ズーム投影部13は、標準投影部12から供給されるパノラマ画像80(図16A参照)を第1筒状面20へマッピングする。ここで、パノラマ画像80は第1筒状面20の面上でパノラマ画像80の360°全周囲の画像がつながるようにマッピングされる。
【0047】
次に、ズーム投影部13は、第1筒状面20の中心点O(円柱20Aの中心軸25の中心点O)を投影視点として、第1筒状面20の面上の各画素を第2筒状面30へ投影マッピングする処理を行う。例えば、図14の直線aに重なる一列の画素22を直線bに重なる一列の画素32へ拡大して投影する。また、図14の直線dに重なる一列の画素21を直線cに重なる一列の画素31に縮小して投影する。その他の範囲の画素も同様に連続的に投影する。そして、第2筒状面30へ投影された画像を伸縮されたパノラマ画像90(図16B参照)として得る。
【0048】
このようなズーム投影処理により、図16Bに示すように、360°全周囲の各眺望方向の画像が含まれるとともに、一部の方向の画像が拡大され、この逆の方向の画像が縮小され、かつ、連続的な範囲で拡大率が非連続にならないように伸縮されたパノラマ画像90が得られる。図16Bにおいて、パノラマ画像90の左端と右端とが切断された図となっているが、第2筒状面30へ投影された段階では、この左端と右端とがつながった状態になっており、それゆえ、この切断された部分の一方と他方とで拡大率は同一になっている。
【0049】
パノラマ画像90の各部の拡大率は、第1筒状面20と第2筒状面30との変位方向および変位量によって決定される。例えば、図14と図15に示すように、直線a,bに重なる部分の画像は拡大率“距離Ob/距離Oa”となり、直線c,dに重なる部分の画像は拡大率“距離Oc/距離Od”となる。ズーム投影部13は、ズーム投影設定部15から入力された拡大方向と拡大率のデータに応じて、第1筒状面20と第2筒状面30との変位方向および変位量を変更して、指定された拡大方向および拡大率で伸縮されたパノラマ画像90を生成するように構成されている。拡大方向で指定された点と中心点Oが最も遠くなる方向に変位させ、変位量は上記拡大率で決定する。
【0050】
なお、ズーム投影の方法は様々に変更可能である。例えば、第1筒状面20と第2筒状面30とを半径を異ならせて構築し、かつ、中心軸が重なるように配置するとともに、投影視点を中心から変位させてズーム投影処理を行うようにしてもよい。このようなズーム投影処理によっても、パノラマ画像を周囲一回りの各眺望方向ごとに連続的な拡大率で伸縮させることができる。
【0051】
[表示データ生成処理]
図17A〜図17Cには、ズーム投影処理後のパノラマ画像から表示データを生成する第1加工ステップ〜第3加工ステップの説明図を示す。
【0052】
表示データ生成処理は、ズーム投影処理後のパノラマ画像90のデータを用いて画像出力部16により実行される。表示データ生成処理において画像出力部16は、先ず、図17Aに示すように、パノラマ画像90を長手方向に複数に等分する切断処理を行う。例えば、図中の一点鎖線の箇所でパノラマ画像90を切断して、画像断片A,Cと断片Bとに二等分する。次に、画像出力部16は、図17Bに示すように、上記の断片A〜Cをディスプレイ17の表示枠17Aに対応させて例えば複数段(例えば2段)に配置する処理を行う。続いて、表示枠17Aの上下に外れる部分、ならびに、上段に配置された断片Bと下段に配置された断片A,Cとが重なった部分をトリミングして、図17Cに示すように、パノラマ画像90が二段構成にされて表示枠17Aに収まった画像の表示データを生成する。ここで、パノラマ画像90の切断箇所92の一方と他方とは拡大率が同一であり、画像をそのまま連続的につなぎ合わせることが可能になっている。もう一方の切断箇所93についても同様である。なお、表示枠17Aから外れた部分をトリミングする際に、パノラマ画像90の長手方向の一部の範囲がトリミングされた場合でも、無視できる程度に僅かな範囲であれば、頭の中でパノラマ画像を筒状に連結できるという作用を維持することができる。
【0053】
図18は、パノラマ画像の第1〜第3の表示例を示す画像図である。上記のように画像出力部16により生成された表示データがディスプレイ17に出力されることで、図18A〜図18Cのような表示画像がディスプレイ17に出力される。図18Aは、ズーム投影の倍率を1倍(ズームなし)としたときの表示画像の一例、図18Bは対象物95の方向を中心に倍率2倍としたときの表示画像の一例、図18Cは対象物95の方向を中心に倍率5倍としたときの表示画像の一例である。入力受付部14から拡大方向または拡大率の選択を切り替えることで、図18A〜図18Cの表示画像が切り替わるようになっている。
【0054】
なお、図17Aで示すパノラマ画像は、実際にはズーム投影部13の投影面(第2筒状面30)上にマッピングされたデータの端同士が繋がっている。これを切り出す際に、360°分全てをパノラマ画像データとして使用する必要はなく、略360°分の領域を用いるようにしてもよい。
【0055】
[ズーム投影処理の変形例]
図19には、ズーム投影処理の第1変形例を説明する3次元マッピング空間の図を、図20には、このズーム投影処理後のパノラマ画像の図を示す。
【0056】
第1変形例のズーム投影処理においても、ズーム投影前のパノラマ画像がマッピングされる第1筒状面20と、このパノラマ画像がズーム投影される第2筒状面30とが、上述したズーム投影処理のものと同様に構築される(図14参照)。第1変形例では、図19に示すように、投影視点O1を第1筒状面20の上端の高さに設定して投影処理を行うようにしている。
【0057】
このようなズーム投影処理によれば、図20に示すように、ズーム投影処理後のパノラマ画像90aは、360°の全眺望方向にわたって上端が直線状になり、拡大部分が下方に膨れ、縮小部分が上方に縮むような形状にすることができる。このようなズーム投影処理においても、連続的な範囲で拡大率が非連続にならないパノラマ画像90aを得ることができる。
【0058】
図21には、ズーム投影処理の第2変形例を説明する3次元マッピング空間の図を、図22には、このズーム投影処理後のパノラマ画像の図を示す。
【0059】
第2変形例のズーム投影処理においても、ズーム投影前のパノラマ画像がマッピングされる第1筒状面20と、このパノラマ画像がズーム投影される第2筒状面30とが、図14のものと同様に構築される。第2変形例では、図21に示すように、投影視点O2を第1筒状面20の下端の高さに設定して投影処理を行うようにしている。
【0060】
このようなズーム投影処理によれば、図22に示すように、ズーム投影処理後のパノラマ画像90bは、360°の全眺望方向にわたって下端が直線状になり、拡大部分が上方に膨れ、縮小部分が下方に縮むような形状にすることができる。このようなズーム投影処理においても、連続的な範囲で拡大率が非連続にならないパノラマ画像90bを得ることができる。
【0061】
図23には、ズーム投影処理の第3変形例を説明する3次元マッピング空間の図を、図24Aと図24Bには、このズーム投影処理の前と後のパノラマ画像の図を、それぞれ示す。
【0062】
第3変形例のズーム投影処理においては、ズーム投影部13は、次のように第1筒状面20aと、第2筒状面30aとを構築する。すなわち、ズーム投影前のパノラマ画像がマッピングされる第1筒状面20aを縦方向に長く、パノラマ画像がズーム投影される第2筒状面30aを縦方向に短くなるように構築する。また、特に制限はされないが、第1筒状面20aと第2筒状面30aとが同一径(円柱20Aa,30Aaの径が同一)になるように構築する。さらに、縦方向にみて第2筒状面30aが第1筒状面20aの上端と下端の間に位置し、水平方向にみて第1筒状面20aの中心軸25が第2筒状面30aの内側に位置するように、両者を配置する。
【0063】
このような構築を行ったら、ズーム投影部13は、360°全周囲の画像が連なったパノラマ画像80hを第1筒状面20aの全周を埋めるようにマッピングする。このパノラマ画像80hは、図24Aに示すように、縦方向に幅広(画素数が多い)の画像が適用される。次いで、ズーム投影部13は、第1筒状面20aの中心点Oを投影視点として、第1筒状面20aのパノラマ画像80hを第2筒状面30aへ投影する。ここで、投影前のパノラマ画像80hが縦方向に幅広であることから、このパノラマ画像80hの上側や下側の一部範囲が切り落とされて第1筒状面20aの全域に投影される。したがって、図24Bに示すように、投影後のパノラマ画像90hは、縦方向の幅が一定長であり、拡大した部分がズームインしたように視界が狭く絞られた画像となり、縮小した部分がズームアウトしたように広い範囲を見渡した画像となる。このようなマッピングを行うことにより、投影後のパノラマ画像90hはズームの大小にかかわらず、同じ幅(上下方向)にすることができ、それにより、表示後の印象を変えることができる。
【0064】
図25には、第1筒状面20aと第2筒状面30aの相対配置とズーム投影後のパノラマ画像90hとの関係を表わした図を示す。同図(a−1)〜(a−6)は上記相対配置の第1例〜第6例を示す平面図、(b−1)〜(b−6)は第1例〜第6例の相対配置に対応したパノラマ画像の図である。
【0065】
第3変形例のズーム投影処理においても、図25(a−1)〜(a−6)に示すように、第2筒状面30を第1筒状面20aの中心から変位させる方向を様々に変化させることで、図25(b−1)〜(b−6)に示すように、パノラマ画像の様々な方向を拡大したり縮小したりすることができる。
【0066】
図26A〜図26Cには、拡大方向を指定する方法の第1例〜第3例を説明する平面図を示す。第3変形例のズーム投影処理においても、入力受付部14を介して拡大方向と拡大率とを入力することで、これらの入力に応じたズーム投影処理を行わせることができる。例えば、図26Aに示す例は、第1筒状面20aにマッピングされたパノラマ画像80hの任意の点P1と、拡大率(図26の矢印の長さにより表わす)とが入力受付部14を介して入力された例である。この場合、同図に示すように、指定された点P1がある方向に拡大率に応じた量だけ第2筒状面30aが変位されてズーム投影処理が行われる。それにより、点P1の方向が拡大されたパノラマ画像90hを得ることができる。
【0067】
図26Bに示す例は、第1筒状面20aにマッピングされたパノラマ画像80hの任意の2つの点P1,P2と、各方向の拡大率とが入力受付部14を介して入力された例である。この場合、同図に示すように、2方向の入力に基づく2つのベクトルv1,v2が合成された方向および長さで、第2筒状面30aが変位されてズーム投影処理が行われる。それにより、指定された2方向がそれぞれ拡大されたパノラマ画像90hを得ることができる。上記のベクトルv1,v2は、指定された点P1,P2の方向および指定された各拡大率に応じた長さを表わすように定義される。
【0068】
図26Cに示す例は、図26Bの場合と同様に、パノラマ画像80hの任意の2つの点P1,P2と、各方向の拡大率とが入力受付部14を介して入力された場合の別の例である。この例では、第2筒状面30aの横断面の形状を円形に制限せずに、第2筒状面30aが指定された拡大方向にのみ中心点Oから遠い方へ膨らむようにしたものである。但し、第2筒状面30aの全周の長さは変化しないように制限している。このように第2筒状面30aを構成してズーム投影処理が行われることで、指定された複数の拡大方向がそれぞれ局所的に拡大されたパノラマ画像90hを得ることができる。ここでは、第2筒状面30aの全周の長さは変化しないように制限した例を示したが、全周の長さが変化する場合では、パノラマ画面の水平方向の長さがn倍(n=2,3,4・・)になるように規格化する一方、表示の際にパノラマ画像を1/nの長さずつ分割して画面上に並べて出力すればよい。(図28参照)
【0069】
[パノラマ画像表示の変形例]
図27には、パノラマ画像に各眺望方向の拡大率を表わすスケール表示を付加した表示例を示す。
【0070】
パノラマ画像90hの複数の方向が局所的に拡大されている場合には、図27に示すように、パノラマ画像90hの各眺望方向の拡大率を表わすスケール表示(拡大率表示画像)98を付加して表示出力するとよい。このスケール表示98によりどの部分が拡大されどの部分が縮小されているのか閲覧者に直感的に理解させることができる。
【0071】
このスケール表示98は、目盛りの表示によって各眺望方向の拡大率を表わすようにしたものであり、目盛りの間隔をその箇所の拡大率に比例するようにしている。このスケール表示98は、ズーム投影前のパノラマ画像に等間隔の目盛り画像を付加しておき、この目盛り画像ごとパノラマ画像をズーム投影することで作成することができる。なお、スケール表示は、例えば色のグラデーション(赤に近いほど拡大率が高く、青に近いほど拡大率が低いなど)や、色の濃さにより拡大率を表わすように構成してもよい。
【0072】
図28A〜図28Cには、パノラマ画像の第1〜第3の表示例を表わした概念図を示す。先に、図17を参照して説明したように、パノラマ画像は横長の画像になる。そのため、横方向の長さがほぼ均等になるようにパノラマ画像を縦方向の切込み線で複数に切断して、これらを複数段に並べて表示するようにしてもよい。図28A〜図28Cにおいて、360°全周囲の画像が連なったパノラマ画像が、2つの画像ブロック101,102、あるいは、3つ以上の画像ブロック111〜113に分割されて、複数段に表示されている。各段の画像ブロック101,102,111〜113において、その左端と右端は、図中の点線矢印で対応づけられた他の画像ブロック101,102,111〜113の左端または右端に画像が連続するようになっている。このような複数段の表示により、ディスプレイ17の表示枠17Aを有効に使用することができる。
【0073】
また、パノラマ画像の切断位置を少しずつ横方向にずらして連続表示を行うことで、図28A〜図28Cに示すように、複数段構成のパノラマ画像の表示を横方向に周回移動(ローリングと呼ぶ)させることも可能である。図28Aの例は、2段の画像ブロック101,102を同一のローリング方向に周回移動させた表示例である。図28Bの例は、2段目の画像ブロック102を左右反転或いは上下左右反転させることで、1段目と2段目とでローリング方向を逆転させて周回移動させた表示例である。このように左右反転した画像ブロック102を含めることで、各画像ブロック101,102の左端と右端の画像の連続先が互いに近い配置となる。このため、鑑賞者がパノラマ画像を筒状に連結するイメージを行いやすくなる。図28Cの例は、2段目の画像ブロック112を左右反転または上下左右反転させることで、1段目と2段目、および、2段目と3段目とでローリング方向を逆転させて周回移動させた表示例である。このような3段構成の表示でも同様に周回移動させた表示が可能である。
【0074】
この変形例において、画像出力部16は、ズーム投影部13から供給されるパノラマ画像に対して、上記のように画像を切断する処理と、切断した画像ブロック101,102,111〜113を複数段に配置して表示データを生成するように構成される。それにより、図28のようなパノラマ画像の表示出力が可能となる。
【0075】
[被写体追跡機能とパノラマ画像の伸縮機能との協働例]
図29〜図31には、被写体追跡機能とパノラマ画像の伸縮機能とを協働させた動作例を説明する図を示す。図29A,図29Bは、この被写体追跡機能用に周期的(時刻t1,t2)に取得された複数のパノラマ画像120a,120bを示す図である。図30A,図30Bは、上記被写体追跡機能を併用したズーム投影処理後の複数のパノラマ画像121a,121bを示す図、図31A,図31Bは、上記被写体追跡機能を併用した場合における複数のパノラマ画像の表示例122a,122bを示す画像図である。
【0076】
被写体追跡機能は、撮影画像に写っている特定の対象物(例えば人物など)を追跡対象物として指定することで、他の撮影画像の中から指定された追跡対象物を検索してその位置を検出する機能である。追跡対象物の検索は、演算処理装置に追跡対象物の色や形状をパターン認識させ、演算処理装置によって検索対象の撮影画像の各部分と追跡対象物のパターンとの比較を行わせることで実現可能である。そして、一致と判別された部分の画像位置が追跡対象物の位置として出力される。
【0077】
この実施形態では、ズーム投影部13に、上記の被写体追跡機能の構成が付加され、入力受付部14を介して、1つの撮影画像に含まれる任意の対象物を追跡対象物として指定することが可能になっている。上記の被写体追跡機能は必ずしもズーム投影部13にある必要はなく、撮影部11の出力する撮像画像を受け取り、画像中の追跡対象物の位置を入力受付部14に入力する方法でも実現できる。
【0078】
ズーム投影部13は、撮影部11により周期的に得られた複数のパノラマ画像120a,120bを入力したら、指定された追跡対象物(この実施形態では人物像G)の検索を行って、その位置を検出する。そして、位置が検出されたら、その位置がほぼ中央になるようにパノラマ画像120a,120bを周回移動させる。そして、中央が拡大されるようにズーム投影の処理を行って、図30A,図30Bのようにパノラマ画像121a,121bを生成する。そして、これらの画像データを画像出力部16へ出力する。
【0079】
画像出力部16は、パノラマ画像121a,121bを分割して二段構成にした表示データを生成してディスプレイ17へ出力する。それにより、図31A,図31Bのように追跡対象の人物像Gが上段中央で拡大された二段構成のパノラマ画像の表示例122a,122bが得られる。
【0080】
このような被写体追跡処理とパノラマ画像の拡大処理とを、連続的に撮影された多数のパノラマ画像に対して連続的に行っていくことで、移動する追跡対象物がほぼ一定の位置に表示され、背景が追跡対象物の移動に伴って移り動くような画像表示を行うことができる。
【0081】
[パノラマ画像の伸縮処理の変形例]
上記の実施形態では、ズーム投影処理によって、パノラマ画像を360°全周囲で拡大率が不連続にならないように伸縮する例を示してきた。しかしながら、パノラマ画像をこのように伸縮する方法はズーム投影処理に限られるものではない。例えば、次のような演算処理装置による画像変換処理によっても実現することができる。
【0082】
図32〜図37には、パノラマ画像の伸縮処理の変形例を説明する図を示す。図32Aは伸縮処理前のパノラマ画像を示す図、図32Bは各眺望方向の拡大率を示すグラフ、図33は、この変形例において縦方向の伸縮処理を説明する概念図、図34は、この縦方向の伸縮処理後のパノラマ画像を示す図である。
【0083】
この変形例では、先ず、図32A、図32Bに示すように、撮影部11により得られたパノラマ画像130に対して、眺望方向ごとの拡大率が指定される。拡大率は、眺望方向が連続する範囲で非連続にならないように設定される。パノラマ画像130の左端と右端は同一の眺望方向を示しているので、左端の拡大率と右端の拡大率は同一値になるように設定される。このような眺望方向ごとの拡大率のデータは、例えば、ズーム投影設定部15に関数データ或いはテーブルデータとして記憶させておき、ユーザによる拡大方向および拡大率の指定に基づいてズーム投影設定部15が適宜選択する。
【0084】
上記のような拡大率の指定がなされたら、演算処理装置は、図33に示すように、パノラマ画像130の1列の画素列131a〜131cごとに、指定された拡大率で縦方向に引き伸ばし、或いは、凝縮して新たな画素とする画像変換処理を行う。この引き伸ばし又は凝縮の処理により、縦方向の画素数が規定数を超えた場合には、超えた部分をトリミングし、規定数を下回った場合には、例えば所定色の画素を付加して補う。
【0085】
このような縦方向の伸縮処理により、図34に示すように、元のパノラマ画像130が指定された拡大率で縦方向に伸縮されたパノラマ画像132が得られる。
【0086】
図35Aは横方向の伸縮処理前のパノラマ画像を示す図、図35Bは各地要望方向の拡大率を示すグラフ、図36は横方向の伸縮処理を説明する概念図、図37は縦横方向の伸縮処理後のパノラマ画像を示す図である。
【0087】
上記のように縦方向の伸縮処理を行ったら、続いて、演算処理装置は、このパノラマ画像132を横方向に伸縮する画像変換処理を実行する。この横方向の伸縮処理においても、図35Bに示すように、縦方向の伸縮処理で用いられた眺望方向ごとの拡大率が使用される。
【0088】
横方向の伸縮処理では、図36に示すように、演算処理装置は、パノラマ画像132の全画素列133a〜133a,133b〜133bに対して、指定された拡大率に応じて画素列133a〜133aを横方向に凝縮して新たな画素列134a〜134aにする画像変換処理、ならびに、指定された拡大率に応じて画素列133b〜133bを広げて新たな画素列134b〜134bにする画像変換処理を行う。なお、ここでは縦方向、横方向順番に拡大縮小したが、縦方向横方向同時に拡大縮小してもよい。
【0089】
このような横方向の伸縮処理により、図37に示すように、縦方向にのみ伸縮されていたパノラマ画像132に基づいて、指定された拡大率で横方向にも伸縮されたパノラマ画像135を得ることができる。このような伸縮処理においても、眺望方向が連続する範囲で連続的な拡大率で縦横に伸縮されたパノラマ画像135を得ることができる。また、パノラマ画像135が切断された左端と右端の伸縮率も同一となる。
【0090】
以上のように、上述した実施形態のカメラ、ならびに、その画像変換装置(ズーム投影部13、入力受付部14、ズーム投影設定部15、画像出力部16)によれば、周囲一回りの各眺望方向の撮影画像が含まれるパノラマ画像に対して、眺望方向ごとに拡大率を異ならせてパノラマ画像の全体を連続的に伸縮させることができる。さらに、眺望方向が連続する範囲で、拡大率が非連続にされることがない。従って、このパノラマ画像を伸縮する機能により、パノラマ画像中の注目したい箇所を拡大して表示させることができる。また、鑑賞者は伸縮されたパノラマ画像を容易に頭の中で筒状に連結して全周囲の景観をイメージすることができる。
【0091】
また、上記実施形態のカメラ、ならびに、その画像変換構成によれば、筒状面から別の筒状面へパノラマ画像を投影するズーム投影部13の処理によって、自然で滑らかに伸縮させたパノラマ画像を容易に生成できるようになっている。
【0092】
なお、上記実施形態では、撮影部11とディスプレイ17とを含んだカメラの構成を示したが、ズーム投影部13、入力受付部14、ズーム投影設定部15および画像出力部16を画像変換装置として別体に設けてもよい。
【0093】
また、上記実施形態では、標準投影部で見たい領域が画面の中心付近に位置するようにしたうえでズーム投影部を用いて見たい領域を拡大処理するようにしているが、標準投影部による処理を行わずズーム投影部の処理のみで見たい領域を拡大処理するようにしてもよい。
【0094】
また、上記実施形態では、標準投影部、ズーム投影部を用いて2段階で投影を行ったが、標準投影部とズーム投影部の両方を一度に実現可能な投影面を用いてもよい。具体的には、例えば、図14中の円柱20Aを視線の高さに応じて上下させ、水平方向の傾きに応じて円柱20Aを傾けることで一度に位置合わせとズームの両方を実現することができる。
【0095】
また、上記実施形態で示した、標準投影部12、ズーム投影部13、ズーム投影設定部15、画像出力部16の各構成は、ハードウェアにより構成しても良いし、コンピュータがプログラムを実行することで実現されるソフトウェアとして構成しても良い。
【産業上の利用可能性】
【0096】
本発明は、スチルカメラおよびビデオカメラなど画像の入力装置や画像処理装置に好適に適用することができる。
【符号の説明】
【0097】
11 撮影部
13 ズーム投影部
14 入力受付部
15 ズーム投影設定部
16 画像出力部
17 ディスプレイ
20,20a 第1筒状面
30,30a 第2筒状面
70,80,80h,90,90a,90b,90h,130,132,135 パノラマ画像
98 スケール表示(拡大率表示画像)
【特許請求の範囲】
【請求項1】
パノラマ画像を入力する画像入力部と、
前記パノラマ画像の連続する領域で拡大率が連続的に変化するように、前記パノラマ画像のうち所望の領域の拡大率を異ならせて当該パノラマ画像を伸縮する画像伸縮部と、
を具備する画像変換装置。
【請求項2】
前記画像伸縮部により伸縮された前記パノラマ画像を表示出力するための表示データを生成する表示データ生成部、
をさらに具備し、
前記表示データ生成部は、前記パノラマ画像を任意の箇所で切断した画像の表示データを生成し、
前記パノラマ画像の前記切断された箇所の一方の側と他方の側とで拡大率が同一にされている、
請求項1記載の画像変換装置。
【請求項3】
前記画像伸縮部は、前記パノラマ画像を三次元マッピング空間内で第1の筒状面にマッピングした後、当該マッピングされたパノラマ画像を前記第1の筒状面と重なる第2の筒状面に投影させる処理を行って、前記パノラマ画像を拡大または縮小する、
請求項2記載の画像変換装置。
【請求項4】
前記表示データ生成部は、
前記パノラマ画像の眺望方向ごとの拡大率を表わす拡大率表示画像を付加した画像の前記表示データを生成する、
請求項2又は3に記載の画像変換装置。
【請求項5】
前記パノラマ画像の伸縮させる眺望方向を示す情報を入力する情報入力部を備え、
前記画像伸縮部は、前記情報入力部により入力された前記情報に基づいて前記第1の筒状面または前記第2の筒状面の形状または相対的な配置を変化させる、
請求項3記載の画像変換装置。
【請求項6】
被写体を結像するレンズおよび当該レンズにより結像された光学像を電気信号に変換する撮像素子を有し、パノラマ画像を得る撮影部と、
前記撮影部から前記パノラマ画像を入力して伸縮する処理を行う請求項1〜5の何れか一項に記載の画像変換装置と、
前記画像変換装置により伸縮された前記パノラマ画像の表示データを入力して画像表示を行う表示部と、
を具備するカメラ。
【請求項7】
パノラマ画像を入力する画像入力ステップと、
前記パノラマ画像の連続する領域で拡大率が連続的に変化するように、前記パノラマ画像のうち所望の領域の拡大率を異ならせて当該パノラマ画像を伸縮する画像伸縮ステップと、
を含む画像変換方法。
【請求項8】
コンピュータに、
パノラマ画像を入力する画像入力機能と、
前記パノラマ画像の連続する領域で拡大率が連続的に変化するように、前記パノラマ画像のうち所望の領域の拡大率を異ならせて当該パノラマ画像を伸縮する画像伸縮機能と、
を実現させるプログラム。
【請求項1】
パノラマ画像を入力する画像入力部と、
前記パノラマ画像の連続する領域で拡大率が連続的に変化するように、前記パノラマ画像のうち所望の領域の拡大率を異ならせて当該パノラマ画像を伸縮する画像伸縮部と、
を具備する画像変換装置。
【請求項2】
前記画像伸縮部により伸縮された前記パノラマ画像を表示出力するための表示データを生成する表示データ生成部、
をさらに具備し、
前記表示データ生成部は、前記パノラマ画像を任意の箇所で切断した画像の表示データを生成し、
前記パノラマ画像の前記切断された箇所の一方の側と他方の側とで拡大率が同一にされている、
請求項1記載の画像変換装置。
【請求項3】
前記画像伸縮部は、前記パノラマ画像を三次元マッピング空間内で第1の筒状面にマッピングした後、当該マッピングされたパノラマ画像を前記第1の筒状面と重なる第2の筒状面に投影させる処理を行って、前記パノラマ画像を拡大または縮小する、
請求項2記載の画像変換装置。
【請求項4】
前記表示データ生成部は、
前記パノラマ画像の眺望方向ごとの拡大率を表わす拡大率表示画像を付加した画像の前記表示データを生成する、
請求項2又は3に記載の画像変換装置。
【請求項5】
前記パノラマ画像の伸縮させる眺望方向を示す情報を入力する情報入力部を備え、
前記画像伸縮部は、前記情報入力部により入力された前記情報に基づいて前記第1の筒状面または前記第2の筒状面の形状または相対的な配置を変化させる、
請求項3記載の画像変換装置。
【請求項6】
被写体を結像するレンズおよび当該レンズにより結像された光学像を電気信号に変換する撮像素子を有し、パノラマ画像を得る撮影部と、
前記撮影部から前記パノラマ画像を入力して伸縮する処理を行う請求項1〜5の何れか一項に記載の画像変換装置と、
前記画像変換装置により伸縮された前記パノラマ画像の表示データを入力して画像表示を行う表示部と、
を具備するカメラ。
【請求項7】
パノラマ画像を入力する画像入力ステップと、
前記パノラマ画像の連続する領域で拡大率が連続的に変化するように、前記パノラマ画像のうち所望の領域の拡大率を異ならせて当該パノラマ画像を伸縮する画像伸縮ステップと、
を含む画像変換方法。
【請求項8】
コンピュータに、
パノラマ画像を入力する画像入力機能と、
前記パノラマ画像の連続する領域で拡大率が連続的に変化するように、前記パノラマ画像のうち所望の領域の拡大率を異ならせて当該パノラマ画像を伸縮する画像伸縮機能と、
を実現させるプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図30】
【図31】
【図32】
【図33】
【図34】
【図35】
【図36】
【図37】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図30】
【図31】
【図32】
【図33】
【図34】
【図35】
【図36】
【図37】
【公開番号】特開2013−12893(P2013−12893A)
【公開日】平成25年1月17日(2013.1.17)
【国際特許分類】
【出願番号】特願2011−144116(P2011−144116)
【出願日】平成23年6月29日(2011.6.29)
【特許番号】特許第5020398号(P5020398)
【特許公報発行日】平成24年9月5日(2012.9.5)
【出願人】(000005821)パナソニック株式会社 (73,050)
【Fターム(参考)】
【公開日】平成25年1月17日(2013.1.17)
【国際特許分類】
【出願日】平成23年6月29日(2011.6.29)
【特許番号】特許第5020398号(P5020398)
【特許公報発行日】平成24年9月5日(2012.9.5)
【出願人】(000005821)パナソニック株式会社 (73,050)
【Fターム(参考)】
[ Back to top ]