画像変換装置、画像生成システム、画像変換方法及び画像生成方法
【課題】 球面画像を保存しやすい画像に変換可能な画像変換装置、画像生成システム、画像変換方法及び画像生成方法を提供する。
【解決手段】 画像変換装置30は、離散球面に撮影画像が投影された球面画像40を生成する球面画像生成部32と球面画像を長方形画像70に変換する画像変換部33とを備える。離散球面が有する画素は測地ドーム50の頂点51に対応する。長方形画像が有する各四角形画素の画素値は、測地ドームの一経線上の各頂点を基点とし、複数の基点が第1の方向に並べられ各基点と同一緯度の頂点が各基点に対して第1の方向に直交する第2の方向に並べられた中間配列構造60から、測地ドームの第1及び第2の極に対応する頂点を削除して中間配列構造の所定の頂点を移動させることで中間配列構造の複数の頂点が四角形状に並べられた2次元配列構造において、各四角形画素の位置の頂点に対応する球面画像の画素の画素値である。
【解決手段】 画像変換装置30は、離散球面に撮影画像が投影された球面画像40を生成する球面画像生成部32と球面画像を長方形画像70に変換する画像変換部33とを備える。離散球面が有する画素は測地ドーム50の頂点51に対応する。長方形画像が有する各四角形画素の画素値は、測地ドームの一経線上の各頂点を基点とし、複数の基点が第1の方向に並べられ各基点と同一緯度の頂点が各基点に対して第1の方向に直交する第2の方向に並べられた中間配列構造60から、測地ドームの第1及び第2の極に対応する頂点を削除して中間配列構造の所定の頂点を移動させることで中間配列構造の複数の頂点が四角形状に並べられた2次元配列構造において、各四角形画素の位置の頂点に対応する球面画像の画素の画素値である。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像変換装置、画像生成システム、画像変換方法及び画像生成方法に関するものである。
【背景技術】
【0002】
ある視点を中心として周囲の画像を取得することで、全天周の画像を得ることができる。この場合、複数の画像で全天周が分割されて取得されているが、これらを一つの画像として表示するものとして、球面画像が知られている(特許文献1参照)。球面画像は、球面上に画像が投影されたものである。コンピュータなどによって球面画像を表す場合には、連続した球面を測地ドーム分割法で分割して構成される測地ドームを用いて球面画像を離散化して表す(非特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2005−56295号公報
【非特許文献】
【0004】
【非特許文献1】諸岡健一、外2名、「3次元物体自動モデリングのための視点空間表現と視点計画計算法」、電気情報通信学会論文誌 D−II、2001年1月、Vol.J84−D−II No.1 pp.64−74
【発明の概要】
【発明が解決しようとする課題】
【0005】
離散化された球面に対応する測地ドーム120のデータ構造の表現方法としては、図23に示すように、測地ドーム120を平面展開したものが知られている。図23は、従来の測地ドームの展開図の一例を示す図面である。
【0006】
しかしながら、このようなデータ構造を使用した場合には、例えば、図23の破線で囲んだ領域Aに示す平行四辺形を指定する指標uと、平行四辺形内の各画素を2次元的に指定する2つの指標v,wを要し、3次元的な表現方法を採用することになる。そのため、データ保存等が煩雑になる場合があった。
【0007】
本発明は、上記の問題点を解決するためになされたものであり、球面画像をより保存しやすい画像に変換可能な画像変換装置、画像生成システム、画像変換方法及び画像生成方法を提供することを目的とする。
【課題を解決するための手段】
【0008】
上記課題を解決するため、本発明に係る画像変換装置は、複数の画素で離散的に表された離散球面に、複数の撮影画像が投影された球面画像を生成する球面画像生成部と、球面画像を長方形画像に変換する画像変換部と、を備え、離散球面を表す複数の画素は、球面を測地ドーム法で分割した測地ドームの各頂点に対応し、長方形画像は、複数の四角形画素を有し、各四角形画素の画素値は、測地ドームの一経線上の複数の頂点をそれぞれ基点として、複数の基点が第1の方向に並べられ各基点と同一緯度の頂点が各基点に対して第1の方向に直交する第2の方向に並べられた中間配列構造から、測地ドームの第1及び第2の極に対応する頂点を削除すると共に中間配列構造の所定の頂点を第1及び第2の方向に移動させることによって中間配列構造が有する複数の頂点が四角形状に並べられた2次元配列構造において、各四角形画素の位置の頂点に対応する球面画像の画素の画素値である、ことを特徴とする。
【0009】
本発明に係る画像変換方法は、複数の撮影画像を、球面を測地ドーム法で分割して形成される測地ドームの各頂点に対応する画素で表した離散球面に投影することによって球面画像を生成するステップと、測地ドームの一経線上の複数の頂点をそれぞれ基点として、複数の基点が第1の方向に並べられ各基点と同一緯度の頂点が各基点に対して第1の方向に直交する第2の方向に並べられてなる中間配列構造を生成するステップと、中間配列構造に含まれる測地ドームの第1及び第2の極に対応する頂点以外の頂点のうち所定の頂点を第1及び第2の方向に移動させることによって、測地ドームの第1及び第2の極に対応する頂点以外の頂点が四角形状に並べられた2次元配列構造を生成するステップと、2次元配列構造を構成する各頂点を四角形画素として、各四角形画素の位置の頂点に対応する球面画像の画素の画素値を割り当てて長方形画像を生成するステップと、を備えることを特徴とする。
【0010】
このような画像変換装置及び画像変換方法では、複数の撮影画像を一つの画像とした球面画像を長方形画像に変換している。この場合、長方形画像を保存すればよいので、画像データの保存が容易である。また、長方形画像として保存することにより、JPEG等の圧縮方法を容易に適用することができる。
【0011】
上記画像変換装置においては、中間配列構造は、第1及び第2の方向をそれぞれ行方向及び列方向としたとき、第i行(iは、0以上3・2L以下の整数)の列数Niが、式(1)で表される配列構造を有しており、2次元配列構造は、中間配列構造の第(2L+1+1)行から第(RL−1)行までの領域をシフト領域として、シフト領域内の各頂点を第(5×2L)列側に向けて列シフトさせた後、シフト領域を、第(2L+1+1)行が第0行に一致するように行シフトさせると共に、中間配列構造における第0行及び第RL行に対応する頂点を削除して構成されている、ことが好適である。或いは、本発明に係る画像変換方法においては、中間配列構造は、第1及び第2の方向をそれぞれ行方向及び列方向としたとき、第i行(iは、0以上3・2L以下の整数)の列数Niが、式(1)で表される構造を有しており、2次元配列構造を生成するステップでは、中間配列構造の第(2L+1+1)行から第(RL−1)行までの領域をシフト領域として、シフト領域内の各頂点を第(5×2L)列側に向けて列シフトさせた後、シフト領域を第(2L+1+1)行が第0行に一致するように行シフトさせると共に、中間配列構造における第0行及び第RL行に対応する頂点を削除して2次元配列構造を生成する、ことが好適である。
【数1】
【0012】
このように、中間配列構造が有する頂点を移動させることによって、長方形画像を容易に作成することができる。
【0013】
また、本発明に係る画像生成システムは、複数の撮影画像を取得する画像取得手段と、画像取得手段によって取得された複数の撮影画像が、複数の画素で離散的に表された離散球面に投影された球面画像を生成する球面画像生成部と、球面画像を長方形画像に変換する画像変換部と、を備え、離散球面を表す複数の画素は、球面を測地ドーム法で分割した測地ドームの各頂点に対応し、長方形画像は、複数の四角形画素を有し、各四角形画素の画素値は、測地ドームの一経線上の複数の頂点をそれぞれ基点として、複数の基点が第1の方向に並べられ各基点と同一緯度の頂点が各基点に対して第1の方向に直交する第2の方向に並べられた中間配列構造から、測地ドームの第1及び第2の極に対応する頂点を削除すると共に中間配列構造の所定の頂点を第1及び第2の方向に移動させることによって中間配列構造が有する複数の頂点が四角形状に並べられた2次元配列構造において、各四角形画素の位置の頂点に対応する球面画像の画素の画素値である、ことを特徴とする。
【0014】
また、本発明に係る撮像方法は、複数の撮影画像を取得するステップと、取得された複数の撮影画像を、球面を測地ドーム法で分割した測地ドームの各頂点に対応する画素とした離散球面に投影することによって球面画像を生成するステップと、測地ドームの一経線上の複数の頂点をそれぞれ基点として、複数の基点が第1の方向に並べられ各基点と同一緯度の頂点が各基点に対して第1の方向に直交する第2の方向に並べられてなる中間配列構造を生成するステップと、中間配列構造に含まれる測地ドームの第1及び第2の極に対応する頂点以外の頂点のうち所定の頂点を第1及び第2の方向に移動させることによって、測地ドームの第1及び第2の極に対応する頂点以外の頂点が四角形状に並べられた2次元配列構造を生成するステップと、2次元配列構造を構成する各頂点を四角形画素として、各四角形画素の位置の頂点に対応する球面画像の画素の画素値を割り当てて長方形画像を生成するステップと、を備えることを特徴とする。
【0015】
このような撮像システム及び撮像方法によれば、複数の撮影画像を一つの画像とした球面画像を長方形画像に変換している。この場合、長方形画像を保存すればよいので、画像データの保存が容易である。また、長方形画像として保存することにより、JPEG等の圧縮方法を容易に適用することができる。
【0016】
また、本発明に係る画像変換装置では、測地ドーム法による分割回数がL回の長方形画像を分割回数が(L−1)回の長方形画像に変換して縮小画像を生成する縮小画像生成部を更に備えることが好適である。同様に、本発明に係る画像変換方法では、測地ドーム法による分割回数がL回の長方形画像を分割回数が(L−1)回の長方形画像に変換して縮小画像を生成する縮小画像生成ステップを更に備えることが好適である。これにより、生成した長方形画像を縮小した縮小画像を生成することができる。
【0017】
この場合、測地ドーム法による分割回数がL回の中間配列構造において第i行の第j列(jは、0以上Ni以下の整数)の位置を(iL,jL)と表し、分割回数がL回の中間配列構造に対応する長方形画像において、中間配列構造の(iL,jL)に対応する四角形画素をSL(iL,jL)と表したとき、上記縮小画像生成部は(又は上記縮小画像生成ステップでは)、縮小画像としての長方形画像における四角形画素であるSL−1(iL−1,jL−1)の画素値を、分割回数がL回である長方形画像における四角形画素であるSL(2iL−1,2jL−1)の画素値に対応させることによって、縮小画像を生成することができる。
【0018】
或いは、測地ドーム法による分割回数がL回の中間配列構造において第i行の第j列(jは、0以上Ni以下の整数)の位置を(iL,jL)と表し、分割回数がL回の中間配列構造に対応する長方形画像において、中間配列構造の(iL,jL)に対応する四角形画素をSL(iL,jL)と表したとき、上記縮小画像生成部は(又は上記縮小画像生成ステップでは)、縮小画像中の四角形画素であるSL−1(iL−1,jL−1)の画素値をVL−1とし、分割回数がL回である長方形画像中の四角形画素であるSL(2iL−1,2jL−1)の画素値をVLとしたとき、式(2)に基づいて、VL−1を算出してもよい。
【数2】
(式(2)中、Mは、分割回数がL回である測地ドームにおいて、対応する中間配列構造の(2iL−1,2jL−1)の位置に対応する頂点に隣接する隣接頂点の個数であり、VmLは、各前記隣接頂点の画素値である。)
【0019】
また、本発明に係る画像変換装置は、測地ドーム法による分割回数がL回の長方形画像を分割回数が(L+1)回の長方形画像に変換して拡大画像を生成する拡大画像生成部を更に備えることが好ましい。同様に、本発明に係る画像変換方法は、測地ドーム法による分割回数がL回の長方形画像を分割回数が(L+1)回の長方形画像に変換して拡大画像を生成する拡大画像生成ステップを更に備えることが好ましい。これにより、生成した長方形画像を拡大した拡大画像を生成することができる。
【0020】
この場合、測地ドーム法による分割回数がL回の中間配列構造において第i行の第j列(jは、0以上Ni以下の整数)の位置を(iL,jL)と表し、分割回数がL回の中間配列構造に対応する長方形画像において、中間配列構造の(iL,jL)に対応する画素をSL(iL,jL)と表したとき、上記拡大画像生成部は(又は拡大画像生成ステップでは)、拡大画像としての長方形画像における四角形画素が、分割回数がL回である測地ドームの頂点に対応する場合、拡大画像としての長方形画像における四角形画素であるSL+1(iL+1,jL+1)の画素値を、分割回数がL回である長方形画像におけるSL(2iL,2jL)の画素値とし、拡大画像としての長方形画像における四角形画素が、分割回数がL回である測地ドームの頂点のうち隣接する2つの頂点の間に生成された新たな頂点に対応する場合、拡大画像としての長方形画像における四角形画素であるSL+1(iL+1,jL+1)の画素値をVnewL+1とし、VnewL+1を、分割回数がL回である測地ドームの頂点のうち隣接する2つの頂点に対応する画素値の平均値とする、ことが好適である。
【0021】
或いは、測地ドーム法による分割回数がL回の中間配列構造において第i行の第j列(jは、0以上Ni以下の整数)の位置を(iL,jL)と表し、分割回数がL回の中間配列構造に対応する長方形画像において、中間配列構造の(iL,jL)に対応する四角形画素をSL(iL,jL)と表したとき、上記拡大画像生成部は(又は拡大画像生成ステップでは)、拡大画像としての長方形画像における四角形画素が、分割回数がL回である測地ドームの頂点に対応する場合、拡大画像としての長方形画像における四角形画素であるSL+1(iL+1,jL+1)の画素値を、分割回数がL回である長方形画像におけるSL(2iL,2jL)の画素値とし、拡大画像としての長方形画像における四角形画素が、(L+1)回分割の測地ドームにおいて、分割回数がL回である測地ドームの頂点のうち隣接する2つの頂点の間に生成された新たな頂点に対応する場合、拡大画像としての長方形画像における四角形画素であるSL+1(iL+1,jL+1)の画素値をVnewL+1とし、VnewL+1を、式(3)により算出することも好ましい。
【数3】
(式(3)中、Vn1L及びVn2Lは、分割回数がL回である測地ドームの頂点のうち隣接する2つの頂点の画素値であり、Vt1L及びVt2Lは、分割回数がL回である測地ドームの頂点のうち、隣接する2つの頂点のいずれにも隣接する2つの頂点の画素値である。)
【0022】
更に、本発明に係る画像変換装置では、長方形画像に対応する測地ドームとしての球面画像から透視画像を生成する透視画像生成部を更に備え、透視画像生成部は、生成すべき透視画像の画素配列構造を生成し、画素配列構造内の画素pに対応する球面画像上の点をmとし、点mの座標を(θ,φ)(θは、測地ドームの第1及び第2の極を結ぶ線をzs軸とし、zs軸上の第1及び第2の極の間の中点を原点とし、zs軸に直交する2つの軸をxs軸及びys軸として有するxsyszs座標系においてzs軸に対する角度であり、φはxs軸に対する角度である)とした場合に、画素pの画素値を、測地ドームにおいて、点mを囲む3つの頂点の画素値に基づいて算出することによって、透視画像を生成することが好適である。同様に、本発明に係る画像変換方法では、長方形画像に対応する測地ドームとしての球面画像から透視画像を生成する透視画像生成ステップを更に備え、透視画像生成ステップでは、生成すべき透視画像の画素配列構造を生成し、画素配列構造内の画素pに対応する球面画像上の点をmとし、点mの座標を(θ,φ)(θは、測地ドームの第1及び第2の極を結ぶ線をzs軸とし、zs軸上の第1及び第2の極の間の中点を原点とし、zs軸に直交する2つの軸をxs軸及びys軸として有するxsyszs座標系においてzs軸に対する角度であり、φはxs軸に対する角度である)とした場合に、画素pの画素値を、測地ドームにおいて、点mを囲む3つの頂点の画素値に基づいて算出することによって、透視画像を生成することが好適である。
【0023】
この場合、透視画像生成部(又は透視画像生成ステップ)は、点mの画素値をVmとし、長方形画像に対応する測地ドームにおいて点mを囲む3つの頂点の画素値をVtk(kは、1,2,3)としたとき、Vmを式(4)に基づいて算出することができる。
【数4】
(式(4)中、係数a,b,cは、θk及びφkを3つの上記頂点の各々のzs軸及びxs軸に対する角度としたとき、3つの頂点に対する、
Vtk=aθk+bφk+c
で規定される実数である。)
【0024】
また、本発明に係る画像変換装置では、長方形画像に対応する測地ドームとしての球面画像から透視画像を生成する透視画像生成部を更に備え、透視画像生成部は、生成すべき透視画像の画素配列を生成し、画素配列内の画素pに対応する球面画像上の点をmとした場合に、画素pの画素値を、点mに最も近い、長方形画像に対応する測地ドームの頂点の画素値とすることによって、透視画像を生成することが好適である。同様に、本発明に係る画像変換方法では、長方形画像に対応する測地ドームとしての球面画像から透視画像を生成する透視画像生成ステップを更に備え、透視画像生成ステップでは、生成すべき透視画像の画素配列を生成し、画素配列内の画素pに対応する球面画像上の点をmとした場合に、画素pの画素値を、点mに最も近い、長方形画像に対応する測地ドームの頂点の画素値とすることによって、透視画像を生成することもできる。
【発明の効果】
【0025】
本発明によれば、球面画像をより保存しやすい画像に変換することができる。
【図面の簡単な説明】
【0026】
【図1】本発明に係る撮像システムの一実施形態の構成を概略的に示す図面である。
【図2】図2(a)及び図2(b)は、撮像装置で取得される一対の撮影画像のそれぞれの一例を示す図面である。
【図3】撮像画像と球面画像との対応関係を示す図面である。
【図4】離散球面を用いた球面画像の模式図である。
【図5】図5(a)〜図5(c)は、0分割レベル〜2分割レベルの測地ドームを示す図面である。
【図6】長方形画像の模式図である。
【図7】図7(a)〜図7(c)は、それぞれ図5(a)〜図5(c)に示した測地ドームを展開した中間配列構造を示す図面である。
【図8】中間配列構造のグループ分けを示す図面である。
【図9】図9(a)〜図9(d)は、中間配列構造から2次元配列構造を生成する工程を示す図面である。
【図10】撮像システムの画像生成方法の一例のフローチャートである。
【図11】長方形画像の一例を示す図面である。
【図12】図11に示した長方形画像を生成するための撮影画像を取得する撮影装置の一例を示す図面である。
【図13】図12に示した撮影装置で取得した撮像画像の一例である。
【図14】本発明に係る画像生成システムの第2の実施形態の構成を概略的に示す図面である。
【図15】球面画像と透視画像との対応関係を示す模式図である。
【図16】図15に示した投影点mを有する球面画像に対応する測地ドームの一例の模式図である。
【図17】(a)は、拡大・縮小画像生成部において、縮小画像の第1の画素値割当方法を用いて図11に示した長方形画像を縮小した画像を示す図面である。(b)は、(a)に示した縮小画像としての長方形画像の球面画像の一例を示す図面である。
【図18】(a)は、拡大・縮小画像生成部において、縮小画像の第2の画素値割当方法を用いて図11に示した長方形画像を縮小した画像を示す図面である。(b)は、(a)に示した縮小画像としての長方形画像の球面画像の一例を示す図面である。
【図19】(a)〜(e)は、拡大・縮小画像生成部において、第2の画素値割当方法を採用して画像を順次縮小した場合の画像を示す図面である。
【図20】(a)は、拡大・縮小画像生成部において、新規生成画素の第1の画素値割当方法を用いて図11に示した長方形画像を拡大した画像を示す図面である。(b)は、(a)に示した拡大画像としての長方形画像の球面画像の一例を示す図面である。
【図21】(a)は、拡大・縮小画像生成部において、新規生成画素の第2の画素値割当方法を用いて図11に示した長方形画像を拡大した画像を示す図面である。(b)は、(a)に示した拡大画像としての長方形画像の球面画像の一例を示す図面である。
【図22】(a)は、画素値の割当て方法として透視画像用の第1の画素値割当て方法を採用した場合の透視画像を示す図面である。(b)は、画素値の割当て方法として、透視画像用の第2の画素値割当て方法を採用した場合の透視画像を示す図である。
【図23】従来の測地ドームの展開図の一例を示す図面である。
【発明を実施するための形態】
【0027】
以下、図を参照して本発明の実施形態について説明する。以下の説明においては、同一の要素には同一の符号を用いることとし重複する説明は省略する。
【0028】
図1は、本発明に係る画像変換装置の一実施形態を含む撮像システムの概略構成を示す図面である。撮像システム10は、撮像装置(画像取得手段)20と、画像変換装置30とを備える。
【0029】
撮像装置20は、全天周の画像を取得するために、2つのカメラ21,21を備える。各カメラ21,21は、広角レンズである魚眼レンズを備えており、魚眼レンズ21Aによって結像された像を撮像素子21Bによって検出する。魚眼レンズ21Aの画角の例は85°であるが、180°以上であればよい。撮像素子21Bの例はCCDである。2つのカメラ21,21は、図1に模式的に示すように背面合わせで設けられている。これにより、2つのカメラ21,21は、実質的に同一の視点から互いに反対方向を撮影し、全天周における半球分の画像を取得する。
【0030】
図1に示すように、撮像装置20は、2つのカメラ21,21で取得された画像の画像データを画像変換装置30に出力する。
【0031】
図2(a)及び図2(b)は、2つのカメラ21,21で撮影された撮影画像22,22の一例をそれぞれ示す図面である。各カメラ21は魚眼レンズ21Aを利用しているため、図2に示すように、各撮影画像22中の結像領域22aは円形となる。結像領域22aの周縁部は、各撮影画像22でオーバーラップしたオーバーラップ領域22bを有する。本実施形態では、円形の結像領域22aのうちオーバーラップ領域22bを除いた領域を有効画像領域22cと称する。
【0032】
図1に戻って画像変換装置30の構成を説明する。画像変換装置30は、機能的な構成要素として、画像入力部31と、球面画像生成部32と、画像変換部33と、画像出力部34とを備える。図1では、画像変換装置30の構成を機能ブロックとして示している。画像変換装置30は、ハードウェアとして、演算処理を行うCPU及び所定のデータを記憶する記憶部等を備え、画像入力部31、球面画像生成部32、画像変換部33及び画像出力部34の各機能を実現する。画像変換装置30の例は、コンピュータ装置である。
【0033】
画像入力部31は、カメラ21で取得された撮影画像22の画像データの入力をカメラ21から受け付ける。画像入力部31は、無線及び有線通信の少なくとも一方を介してデータを受け取ってもよいし、又は記録媒体(DVDやSDカード等)からデータを受け取ってもよい。
【0034】
球面画像生成部32は、画像入力部31で受け付けられた撮影画像22の画像データを、球面画像の球面画像データに変換する。球面画像は、一対の撮影画像22を仮想単位球面S(図3参照)上に投影した画像である。一対の撮影画像22,22は、それぞれ全天周の半分の領域を撮影しているため、各撮影画像22を用いることで、全天周を表示する球面画像を生成することができる。球面画像生成部32は、各撮影画像22による半球分の画像を、カメラ21,21の相対位置及びオーバーラップ領域22bを利用して合成して一つの球面画像を生成する。
【0035】
図3は、撮影画像22と球面画像との対応関係を説明する図面である。図3では、単位球面Sの半球分を示している。カメラ21が有する魚眼レンズ21Aの光軸をZ軸とし、魚眼レンズ21Aの主点Oを通りZ軸に直交する平面をXY平面とする。Z軸上において、主点Oから魚眼レンズ21Aの焦点距離fだけ離れた点cは、Z軸と直交する撮影画像22の中心点に対応する。この中心点cを通り、Z軸と直交する平面をxy平面とする。撮影画像22は、魚眼レンズ21Aにより、実空間の点Pをxy平面に射影してできる画像である。
【0036】
天頂角をθA、方位角をφAとすると、実空間の点Pから投影される球面画像上の点pの位置座標は、撮影画像22上の点paの座標(x,y)を用いて式(5)のように表される。
【数5】
上記式(5)は、魚眼レンズ21Aの射影方式を等距離射影方式(すなわち、r=fθA)とした場合のものである。しかし、魚眼レンズ21Aの射影方式は他の射影方式、例えば、立体射影、等立体角射影及び正射影を採用してもよい。
【0037】
上記球面画像の点pと、撮影画像22の点paとの対応関係から、撮影画像22に基づいて球面画像を生成することができる。
【0038】
撮影画像22が投影される球面Sは、理論的には、図3に示すように連続的である。しかし、コンピュータ等でデータ処理する場合には、離散的表現を用いる。本実施形態では、球面の離散的表現の一つとして、図4に示すように正六角形状の画素(以下、正六角形画素)42を用いたデータ構造を採用する。図4は球面画像の一例を示す模式図である。正六角形画素42を利用して表した離散的な球面画像40は、SCVT(Sperical Centroidal Voronoi Tessellation)画像として知られている(例えば、Q. Du,M.Bunzburger, and L. Ju, “Constrained centroidal Voronoi tessellations ongeneralsurface,” SIAM J. Sci. Comput., 24(5), 2003, pp1499-1506参照)。本実施形態において、球面画像40は、離散的に表現した球面(以下、離散球面と称す)41を用いたSCVT画像に対応する。
【0039】
正六角形画素42を利用した離散球面41は、理論的な連続した球面Sを、測地ドーム法によりL回(Lは0以上の整数)分割した測地ドーム50の双対多面体である。本実施形態では、上述した球又は測地ドームにおける位置を説明する際に、緯度及び経度といった地球座標系を使用する。
【0040】
図5(a)〜図5(c)は、測地ドーム法における各分割レベルの測地ドーム50を示す図面である。図5(a)〜図5(c)では、球面41を地球座標系で表現した場合の北極(第1の極)側から見た場合の図面である。図5(a)は、0回分割レベル(L=0)の測地ドーム50を示しており、正二十面体に対応する。図5(b)は、1回分割レベル(L=1)の測地ドーム50を示している。図5(c)は、2回分割レベル(L=2)の場合を示している。図5(a)〜図5(c)に示される中括弧内に示された各数字は、説明の便宜のため示した測地ドーム50の頂点51の頂点番号を示している。また、図5(a)〜図5(c)では、各測地ドーム50を分割レベルに応じて、測地ドーム50Lとして示している。
【0041】
測地ドーム50の各頂点51を一つの画素で表した場合、各頂点51を表す画素と、離散球面41の正六角形画素42とは双対である。この場合、測地ドーム50の中心に対する各頂点51を表す画素の方向と、離散球面41の中心から正六角形画素42の中心への方向、すなわち、正六角形画素42の主方向とは一致する。
【0042】
測地ドーム50を生成するための分割回数は、式(6)を満たすLとして決定する。
【数6】
【0043】
式(6)中、Ngは、有効画像領域22cの画素数である。有効画像領域22cは、魚眼レンズ21Aの結像特性と、撮像素子21Bの撮像面との関係に基づいて予め算出してメモリ等に入力しておけばよい。例えば、有効画像領域22cの画素数が254,628(=127,314×2)画素である場合、L=8を採用することが好ましい。この場合、測地ドーム50の頂点51の数は、655,360個であり、正六角形画素42の数も655,360個である。
【0044】
正六角形画素42と有効画像領域22cの画素とが一対一に対応しない場合には、有効画像領域22cの画素に対応しない正六角形画素42には、正六角形画素42と対応する有効画像領域22c内の画素を利用して補間した画素値を割り当てる。
【0045】
画像変換部33は、球面画像40を長方形画像に変換する。図6〜図8を参照して、画像変換部33で生成される長方形画像と、球面画像40との対応関係を説明する。
【0046】
図6は、画像変換部33で生成される長方形画像60を示す図面である。図6は、L=2の場合の測地ドーム50に基づいた長方形画像60に対応し、長方形画像60における各四角形画素61内の数字は、図5(c)の各頂点51の頂点番号である。
【0047】
L回分割レベルの測地ドーム50に基づいた長方形画像60は、nr(=2L+1)×nc(=5・2L)で配列された四角形画素61を、図6に示すように、球面画像40と双対な測地ドーム50の各頂点51を対応させ、対応する各頂点51の画素値を割り当てたものである。
【0048】
画像変換部33は、球面画像40を長方形画像60に変換するために、中間配列構造生成部33Aと、2次元配列構造生成部33Bと、画素値割当て部33Cとを含む。
【0049】
中間配列構造生成部33Aは、測地ドーム50を2次元に展開した中間配列構造70を生成する。図7(a)〜図7(c)は、図5(a)〜図5(c)に示した各測地ドーム50に対応する中間配列構造70をそれぞれ示す図面である。図7(a)〜図7(c)では、L回分割レベルの測地ドーム50に対応する中間配列構造70を中間配列構造70Lとして示している。
【0050】
図7(a)〜図7(c)に示すように、中間配列構造70は、測地ドーム50のある経線を基準線として展開したものである。すなわち、中間配列構造70は、基準線上の各頂点51がi方向(第1の方向)に配置され、基準線上の各頂点51を基点として、各基点と同じ緯度上の複数の頂点51が、i方向に直交するj方向(第2の方向)に配置され構造を有する。図7(a)〜図7(c)において、各頂点51は四角形状のセル(以下、頂点セルと称す)71として示しており、各頂点セル71内の数字は、対応する各頂点51の頂点番号である。以下では、中間配列構造70の各頂点セル71(又は頂点51)の位置を(i,j)で表す。
【0051】
L回分割時の測地ドーム50に対応する中間配列構造70は、(3・2L+1)個の行を含む。第i行目の頂点セル71の数をNi個とすると、Niは次式のように表される。
【数7】
ただし、RL=3・2Lである。
【0052】
中間配列構造70は、測地ドーム50を展開したものであるから、L回分割レベルの測地ドーム50に基づく中間配列構造70内の頂点セル71n(nは、頂点セル71に対応する頂点番号)の位置(i,j)は、K(ただし、K<L)回分割レベルの測地ドーム50に基づく中間配列構造70内の頂点セル71nの位置(iK,jK)を用いて次のように表される。
i=2(L−K)iK,j=2(L−K)jK
【0053】
中間配列構造70において、測地ドーム50の北極点及び南極(第2の極)点に対応する頂点セル71以外の領域は、図8に例示すように、3つのグループGA,GB,GCに分けることができる。図8は、複数の頂点セル71のグループ分けの一例として図7(c)の中間配列構造70を用いた場合を示している。グループGAは、0<i≦2Lの領域であり、グループGBは、2L<i≦2L+1の領域であり、グループGCは、2L+1<i≦RLの領域である。
【0054】
測地ドーム50の各頂点51に隣接する頂点51の中間配列構造70中の位置について、
(a)0分割レベルで現れる各頂点51を基準の頂点51Bとした場合、
(b)グループGAに属する各頂点51を基準の頂点51Bとした場合、
(c)グループGCに属する各頂点51を基準の頂点51Bとした場合、
(d)グループGBに属する各頂点51を基準の頂点51Bとした場合について、
基準とする各頂点51Bに隣接する頂点51の位置を説明する。
【0055】
以下の説明において、演算子「%」は「剰余」の計算を意味する。また、「Ju」及び「Jd」は次の関係を満たす。
Ju=Ni+1/5*{j/(Ni/5)}+j%(Ni/5)
Jd=Ni−1/5*{j/(Ni/5)}+j%(Ni/5)
【0056】
(a)の場合について説明する。
測地ドーム50の北極点に対しては、基準となる頂点51B(北極点)に隣接する頂点51に対応する頂点セル71の位置は次の5つである。
【0057】
(1,0)、(1,1)、(1,2)、(1,3)、(1,4)
【0058】
測地ドーム50の南極点に対しては、基準となる頂点51B(南極点)に隣接する頂点51に対応する頂点セル71の位置は次の5つである。
(RL−1,0)、(RL―1,1)、(RL―1,2)、
(RL−1,3)、(RL―1,4)
【0059】
0分割レベルの北極点及び南極点以外の各頂点51に対しては、基準となる頂点51Bの頂点セル71の位置がi=2L且つj%2L=0を満たす場合、頂点51Bに隣接する頂点51の頂点セル71の位置は、次の5つの位置である。
(i―1,Ni―1/5*(j/(Ni/5))、(i,(j−1+Ni)%Ni)、
(i,j+1)、(i+1,(j−1+Ni+1)%Ni+1)、(i+1,j)
【0060】
また、基準となる頂点51Bの頂点セル71の位置がi=2L+1且つj%2L=0を満たす場合には、頂点51Bに隣接する頂点51の頂点セル71の位置は、次の5つの位置である。
(i―1,j)、(i−1,j+1)、(i,(j−1+Ni)%Ni)、
(i,j+1)、(i+1,Ni+1/5*(j/(Ni/5)))
【0061】
(b)の場合について説明する。
0分割レベルの測地ドーム50に属する一つの頂点51と北極点とをつなぐ測地線上の頂点51に対しては、基準となる頂点51Bの頂点セル71の位置がj%(Ni/5)=0を満たす場合には、頂点51Bに隣接する頂点51の頂点セル71の位置は、次の6つである。
(i−1,Ju)、(i,(j−1+Ni)%Ni)、
(i,j+1)、(i+1,(Jd−1+Ni+1)%Ni+1)、
(i+1,Jd)、(i+1,Jd+1)
【0062】
頂点51Bの頂点セル71の位置がi=2Lで且つj%2Lが0でない場合には、頂点51Bに隣接する頂点51の位置は、次の6つである。
(i−1,Ju)、(i−1,(Ju−1+Ni−1)%Ni−1)、
(i,(j−1+Ni)%Ni)、(i,(j+1)%Ni)、
(i+1,j)、(i+1,(j−1+Ni+1)%Ni+1)
【0063】
グループGAに属しており上述した条件を満たす頂点51以外の頂点51に対しては、基準となる各頂点51Bに隣接する頂点51の頂点セル71の位置は、次の6つである。
(i−1,Ju)、(i−1,(Ju−1+Ni−1)%Ni−1)、
(i,(j−1+Ni)%Ni)、(i,(j+1)%Ni)、
(i+1,Jd)、(i+1,(Jd+1)%Ni+1)
【0064】
(c)の場合について説明する。
0分割レベルの測地ドーム50に属する一つの頂点51と南極点とをつなぐ測地線上の頂点51に対しては、基準となる頂点51Bの頂点セル71の位置がj%(Ni/5)=0を満たす場合、頂点51Bに隣接する頂点51の頂点セル71の位置は、次の6つである。
(i−1,(Ju−1+Ni−1)%Ni−1)、(i−1,Ju)、
(i−1,Ju+1)、(i,(j−1+Ni)%Ni)、
(i,j+1)、(i+1,Jd)
【0065】
グループGCに属しており上記条件を満たす頂点51以外の頂点51に対して、基準となる各頂点51Bに隣接する頂点51の頂点セル71の位置は、次の6つである。
(i−1,(Ju+1)%Ni−1)、(i−1,Ju)、
(i,(j−1+Ni)%Ni)、(i,j+1)、
(i+1,Jd)、(i+1,(Jd−1+Ni+1)%Ni+1)、
【0066】
(d)の場合について説明する。
グループGBに属する各頂点51を基準の頂点51Bとした場合、基準となる各頂点51Bに隣接する頂点51の頂点セル71の位置は次の通りである。
(i−1,(j+1)%Ni−1)、(i−1,j)、
(i,(j−1+Ni)%Ni)、(i,(j+1)%Ni)、
(i+1,j)、(i+1,(j−1+Ni+1)%Ni+1)
【0067】
図9は、2次配列構造の生成工程を示す図面である。2次元配列構造生成部33Bは、中間配列構造70の頂点セル71を行シフト及び列シフトさせて長方形状の2次元配列構造72に変換する。
【0068】
図9(a)に示すように、中間配列構造70における第RL行目の頂点セル71を第0行目の頂点セル71の隣にシフトさせると共に、グループGCの各行の頂点セル71を、第(5・2L)列側に列シフトさせる。続いて、図9(b)に示すように、グループGcの各頂点セル71を、グループGA側に行シフトさせて、図9(c)に示す配列構造を得る。そして、図9(d)に示すように、北極点及び南極点に対応する頂点セル71を消去して2L+1行(5・2L)列の矩形状の2次元配列構造72を生成する。
【0069】
画素値割当て部33Cは、2次元配列構造72の各頂点セル71を一つの四角形画素61とし、各四角形画素61に、対応する頂点51の画素値を割り当てることで、図4に示した長方形画像60を生成する。ここで、頂点51の画素値とは、測地ドーム50の各頂点51に対応する球面画像40の画素の画素値である。
【0070】
上述したように、長方形画像60のデータ構造となる2次元配列構造72は、中間配列構造70の所定の頂点セル71、すなわち、2L+1+1≦i≦RL−1(シフト領域)を満たす各行の頂点セル71が行シフト及び列シフトされたものである。従って、長方形画像60が有する各四角形画素61の位置を、図9(d)又は図4に示したように、ic軸及びjc軸をとり、(ic,jc)で表すと、(ic,jc)と(i,j)との対応関係は次の通りである。
ic<2L−1且つjc>5icである場合、
i=ic+2L+1、j=jc+1
その他の場合、
i=ic+1、j=jc−5ic
【0071】
画素値割当て部33Cは、(ic,jc)と(i,j)との上記対応関係及び頂点セル71と頂点51との対応関係に基づいて、各四角形画素61に対応する頂点51の画素値を割り当てる。
【0072】
画像出力部34は、画像変換部33で生成された長方形画像60又は球面画像生成部32で生成された球面画像40を表示装置、ネットワーク又は外部記憶媒体等に出力する。
【0073】
図10を参照して、画像生成システム10及び画像変換装置30の動作について説明する。
【0074】
撮像装置20の各カメラ21,21で撮影を行い、一対の撮影画像22を取得する(撮影画像取得ステップS10)。これにより、全天周の画像を取得する。
【0075】
画像入力部31が、カメラ21,21で撮影された一対の撮影画像22,22の画像データを受け付ける(画像入力ステップS11)と、球面画像生成部32が、入力された画像データを球面画像40の画像データに変換して、球面画像40を生成する(球面画像生成ステップS12)。球面画像40を表す離散球面41の正六角形画素42の数は、式(6)に基づいて予め設定しておいてもよいし、球面画像40を生成する際に、球面画像生成部32が式(6)に基づいて算出してもよい。
【0076】
次に、画像変換部33が、球面画像40を長方形画像60に変換する(画像変換ステップS13)。具体的には、中間配列構造生成部33Aが、球面画像40を表すための球面41に双対な測地ドーム50に基づいて中間配列構造70を生成する(中間配列構造生成ステップS13A)。次に、2次元配列構造生成部33Bが、中間配列構造70を2次元配列構造72に変換する(2次元配列構造生成ステップS13B)。続いて、画素値割当て部33Cが、2次元配列構造72を構成する頂点セル71に、対応する頂点51の画素値を割り当てて、長方形画像60を生成する(画素値割当てステップS13C)。
【0077】
そして、画像出力部34が、長方形画像60を表示装置又はネットワークなどに出力する(画像出力ステップS14)。
【0078】
画像変換装置30が有する画像入力部31、球面画像生成部32、画像変換部33及び画像出力部34の各機能は、コンピュータが画像変換プログラムを実行することによって実現することができる。画像変換プログラムは、画像変換装置30の記憶部に予め記憶されていてもよいし、コンピュータ読み取り可能記録媒体に記録されていてもよい。画像変換プログラムは、処理を総括するメインモジュールと、コンピュータに、上記の画像入力ステップS11と、球面画像生成ステップS12と、画像変換ステップS13と、画像出力ステップS14とを実行させるためのモジュールを備えるものとすることができる。
【0079】
図11は、実際の撮影画像に基づいた四角形画像の一例を示す図面である。図12は、図11に示した長方形画像60の元になる撮影画像22,22を取得する撮像装置20を示す図面である。図13は、図12に示した撮像装置20で撮影した一対の撮影画像22,22を示す図面である。図12に示した撮像装置20は、2つのカメラ21,21を互いに背中合わせで配置したものである。カメラ21,21は、魚眼レンズ21Aを搭載したオリンパス株式会社製CAMEDIA(登録商標)C-900 ZOOMである。一対の撮影画像22,22の総画素数は、4,915,200画素であり、有効画像領域22cの総画素数は、約1,775,437画素である。よって、長方形画像60の画素数は、式(6)より、9分割レベルの測地ドーム50の頂点51の数に対応し、2,621,440画素である。
【0080】
図11に示すように長方形画像60のみを表示した場合には、撮影画像22,22又は球面画像40を想起することは困難である。しかしながら、中間配列構造70と、長方形画像60を構成する2次元配列構造72との対応関係及び中間配列構造70における隣接する頂点51の位置関係等を用いることにより、球面画像40を復元することが可能である。
【0081】
長方形画像60の画素数は2,621,440画素といったように100万画素程度あるため、上記長方形画像60の生成方法で説明したように、北極点及び南極点に対応する2つの頂点セル41の画素値を削除したとしても、表示画像の質は実質的に変わらない。また、長方形画像60から球面画像40を復元する場合には、北極点及び南極点の画素値を、その周囲の画素に割り当てられた画素値から補間するようにしてもよい。
【0082】
次に、本実施形態で説明した画像変換装置及び撮像システム並びに画像変換方法及び撮像方法の作用効果について、一対の撮影画像22,22をそのまま保存する場合と比較して説明する。
【0083】
2つのカメラ21,21は、全天周の半分をそれぞれ撮影しているため、各カメラ21で取得された一対の撮影画像22,22は、ある視点を中心とした全天周画像を表す。ただし、各撮影画像22は、図2に示したように、有効画像領域22c以外に、オーバーラップ領域22b及び余剰領域22dを有するため、これらをデータ保存すると、有効画像領域22c以外の領域に対してもデータ領域を確保する必要がある。また、一対の撮影画像22,22をそのままデータ保存すると、例えば、これらを球面画像に変換するためには、カメラ21で使用した魚眼レンズ21Aの焦点距離f等といったカメラパラメータ等も一緒に保存する必要が生じてしまう。
【0084】
これに対して、本実施形態では、有効画像領域22c内の画像をオーバーラップ領域22bの画像を利用して、一対の撮影画像22,22を球面画像40に変換している。よって、球面画像40の画像データを利用すれば、各撮影画像22において、有効画像領域22c以外の領域に対してデータ保存する必要がない。また、球面画像40を一度生成することにより、カメラ21で使用した魚眼レンズ21Aの焦点距離f等といったカメラパラメータを保存する必要がない。このように、撮影画像22,22を球面画像40に変換することで、データの保存を省略することができる。
【0085】
更に、球面画像40の球面画像データを、長方形画像60の画像データに変換しているため、データ保存が容易である。また、球面画像40の画像データを長方形画像60の画像データに変換していることで、JPEGなど、これまで2次元画像に対して適用可能は圧縮形式を好適に利用することができる。そして、この長方形画像60は、球面画像40を介して生成しているので、長方形画像60を保存することで、前述したような撮影画像22における実質的に必要でない領域のデータやカメラパラメータ等の保存する必要も省略できる。従って、一対の撮影画像22,22の場合より、全天周の画像をよりコンパクトに保存することが可能である。
【0086】
以上、本発明の第1の実施形態を説明したが、本発明は上記実施形態に限定されない。例えば、2次元配列構造72の生成において、グループGCに属しており、
2L+1+1≦i≦RL−1
を満たす領域をシフト領域として、シフト領域内の各頂点セル71を行シフト及び列シフトさせたが、グループGA内に属しており、
1≦i≦2L
を満たす領域を、シフト領域として実施形態の場合と同様にシフトさせて四角形状の2次元配列構造72を生成してもよい。
【0087】
また、撮影手段の一例として、一対のカメラ21,21を背中合わせで配置したものとした。しかし、例えば、一台のカメラ21を回転させながら異なる方向を撮影するようにしてもよいし、2台以上のカメラ21を用いて全天周の画像を取得してもよい。そして、カメラ21は魚眼レンズ21Aを有するとしたが広角レンズであってもよい。更に、上述したように、一台のカメラ21を回転させることで又は複数のカメラ21で全天周の画像を取得する場合には、広角レンズよりも狭い画角を有するレンズでもよい。
【0088】
画像変換装置30の画像変換部33は、中間配列構造生成部33A、2次元配列構造生成部33B及び画素値割当て部33Cを備えるとしたがこれに限定されない。離散球面41に双対な測地ドーム50の頂点51と頂点セル71との対応関係並びに頂点セル71と四角形画素61との対応関係を画像変換式又は例えばルックアップテーブルとして予めメモリ等に記憶しておくことで、画像変換部33は、四角形画素61の位置を指定することで四角形画素61に画素値を割り当てることができる。
【0089】
上述した画像変換式又はルックアップテーブルを用いた場合、画像変換部33は次のようにして球面画像40を長方形画像60に変換することができる。すなわち、式(3)で決まる分割回数Lに基づいて、nr(=2L+1)行nc(=5・2L)列の平面領域を長方形画像60の画像領域として設定する。この画像領域が、図9(d)に示した2次元配列構造72に対応する。そして、画像変換部33は、長方形画像60の各四角形画素61に対応する球面画像40の画素位置を上述した画像変換式又はルックアップテーブルに基づいて算出して、四角形画素61に所定の画素値を割り当てて長方形画像60を生成する。
【0090】
また、上記実施形態では、画像変換部33は、2次元配列構造72を生成して、各頂点に対応する四角形画素に画素値を割り当てるとしたが、中間配列構造70の生成したときに、頂点セル71に対応する画素値を割り当ててもよい。
【0091】
(第2の実施形態)
次に、図14は、本発明に係る画像生成システムの第2の実施形態の構成を概略的に示す図面である。画像生成システム80は、撮像装置(画像取得手段)20と、画像変換装置90とを備えている。撮像装置20は、第1の実施形態のものと同様であるため、説明を省略する。画像変換装置90は、指示入力部91と、指示判定部92と、拡大・縮小画像生成部93と、透視画像生成部94とを更に備える点で、第1の実施形態の画像変換装置30と相違する。この相違点を中心にして画像変換装置90について説明する。
【0092】
なお、本実施形態でも第1の実施形態の場合と同様に、分割レベルがL(すなわち、分割回数がL回)である測地ドーム50を測地ドーム50Lとも称し、対応する中間配列構造70や長方形画像60についても同様に分割レベルを付した表記方法を採用することもある。
【0093】
指示入力部91は、画像変換装置90の操作者による各種指示の入力を受け付けるものである。指示入力部91の例は、液晶表示パネルなどのタッチパネル形式のものからの指示を受け付けてもよいし、キーボードからの指示を受け付けてもよい。指示入力部91が受け付ける指示の例は、例えば、画像の拡大又は縮小に関する指示や、透視画像の生成指示などである。
【0094】
指示判定部92は、指示入力部91で入力された指示の内容を判定し、指示内容に対応した構成要素にその指示を入力する。例えば、指示判定部92は、指示入力部91で入力された指示が画像の拡大又は縮小に関する指示である場合、その旨を拡大・縮小画像生成部93に入力する。また、指示判定部92は、指示入力部91で入力された指示が透視画像の生成に関する指示である場合、その旨を透視画像生成部94に入力する。
【0095】
拡大・縮小画像生成部93は、中間配列構造生成部93Aと、2次元構造生成部93Bと、画素値割当て部93Cとを有する。
【0096】
拡大・縮小画像生成部93は、指示入力部91で画像の縮小指示が入力された場合、中間配列構造生成部93Aと、2次元構造生成部93Bと、画素値割当て部93Cとにより、画像変換部33で生成された長方形画像60を縮小した縮小画像を生成する。この場合、拡大・縮小画像生成部93は、縮小画像生成部として機能する。
【0097】
また、拡大・縮小画像生成部93は、指示入力部91で画像の拡大指示が入力された場合、中間配列構造生成部93Aと、2次元構造生成部93Bと、画素値割当て部93Cとにより、画像変換部33で生成された長方形画像60を拡大した拡大画像を生成する。この場合、拡大・縮小画像生成部93は、拡大画像生成部として機能する。
【0098】
まず、拡大・縮小画像生成部93が縮小画像生成部として機能する場合について、縮小画像の生成方法について説明する。
【0099】
拡大・縮小画像生成部93は、測地ドーム法において分割回数がL回である測地ドーム50Lに対応する長方形画像60を、分割回数が(L−1)回の場合の画素数に対応する長方形画像に変換することによって、縮小画像を生成する。縮小画像は、測地ドーム法における分割回数を1回分減らしているので、L回分割の場合の長方形画像60Lより画素数が少ない。よって、縮小画像の生成は、長方形画像60をダウンサンプリングしたものに対応する。
【0100】
中間配列構造生成部93Aは、画像変換部33の中間配列構造生成部33Aと同様にして、測地ドーム法における分割回数が(L−1)回の場合の中間配列構造70L−1を生成する。そして、2次元構造生成部93Bは、中間配列構造生成部93Aで生成された中間配列構造70L−1から、画像変換部33の2次元構造生成部33Bと同様にして、縮小画像としての長方形画像60L−1の画素配列構造を生成する。この画素配列構造は、縮小画像としての長方形画像60L−1を構成する四角形画素61の配列構造であり、第1の実施形態における二次元配列構造72L−1に対応する。
【0101】
ここで、説明のために、測地ドーム法による分割回数がL回である場合の中間配列構造70Lにおいて第i行の第j列(jは、0以上Ni以下の整数)にある頂点セル71(又は対応する頂点)の位置を(iL,jL)と表す。また、分割回数がL回である場合の中間配列構造70Lに対応する長方形画像60Lにおいて、中間配列構造70Lの(iL,jL)の位置の頂点セル71に対応する四角形画素61LをSL(iL,jL)と表す。この場合、iL=2iL−1,jL=2L−1が成立する。
【0102】
画素値割当て部93Cは、以下の2つの画素値割当方法の何れかにより縮小画像中の画素、換言すれば、縮小画像となるべき長方形画像60L−1となる画素配列構造内の四角形画素61L−1であるSL−1(iL−1,jL−1)に画素値を割り当てる。
【0103】
(縮小画像生成における第1の画素割当方法)
この方法では、画素値割当て部93Cは、iL=2iL−1,jL=2L−1の関係に基づいて、SL−1(iL−1,jL−1)に、分割回数がL回である長方形画像60L中の画素であるSL(2iL−1,2jL−1)の画素値を割り当てる。
【0104】
(縮小画像生成における第2の画素割当方法)
この方法では、画素値割当て部93Cは、四角形画像61L−1であるSL−1(iL−1,jL−1)の画素値をVL−1とし、分割回数がL回である長方形画像60L中の四角形画素61LであるSL(2iL−1,2jL−1)の画素値をVLとしたとき、式(8)に基づいて、VL−1を算出する。
【数8】
式(8)中、Mは、L回分割に対応する測地ドーム50Lにおいて、対応する中間配列構造70Lの(2iL−1,2jL−1)の位置の頂点セル71の対応頂点に隣接する隣接頂点の個数であり、VmLは、各隣接頂点の画素値である。よって、式(8)では、分割回数が(L−1)回である測地ドーム50L−1内の各頂点番号に対応する画素の画素値を、分割回数がL回である測地ドーム50Lにおける対応する頂点に隣接する頂点の画素値の影響を考慮して算出していることになる。
【0105】
なお、中間配列構造70Lにおける位置(2iL−1,2jL−1)で指定される頂点セル71の対応頂点に隣接する隣接頂点の画素値は、第1の実施形態において(a)〜(d)に場合分けして説明した頂点51Bに隣接する頂点51の位置の算出方法に基づいて算出された頂点セル71に対応する長方形画像60Lの四角形画素61の画素値とすればよい。
【0106】
L=2の場合について具体的に説明する。ダウンサンプリング前の長方形画像602に対応する測地ドーム502及び中間配列構造702は、図5(c)及び図7(c)に示すものであり、測地ドーム法による(L−1)回分割に対応する測地ドーム501及び中間配列構造701は、図5(b)及び図7(b)に示すものである。図5(b)に示す頂点5114に対応する画素値を算出する場合を例にして説明すると、画素値割当て部93Cは、頂点5114に対応する画素値を図5(c)における頂点5144,5149,5157,5156,5155,5148に対応する画素値の影響を考慮して算出する。
【0107】
なお、図5(a)〜図5(c)から理解されるように、L=0場合の12個の頂点51では、頂点51の周囲の隣接頂点の個数は5個であり、L=1以上の場合に新しく生成される頂点51に対する隣接頂点の数は6個である。
【0108】
次に、拡大・縮小画像生成部93が拡大画像生成部として機能する場合について、拡大画像の生成方法について説明する。
【0109】
拡大・縮小画像生成部93は、測地ドーム法において分割回数がL回である測地ドームに対応する長方形画像60Lを、分割回数が(L+1)回の場合の画素数に対応する長方形画像に変換することによって、拡大画像を生成する。拡大画像は、測地ドーム法における分割回数を1回分増やしているので、L回分割の場合の長方形画像60Lより画素数が多い。よって、拡大画像の生成は、長方形画像60Lをアップサンプリングしたものに対応する。
【0110】
中間配列構造生成部93Aは、画像変換部33の中間配列構造生成部33Aと同様にして、測地ドーム法における分割回数が(L+1)回の場合の中間配列構造70L+1を生成する。そして、2次元構造生成部93Bは、中間配列構造生成部93Aで生成された中間配列構造70L+1から、画像変換部33の2次元構造生成部33Bと同様にして、拡大画像としての長方形画像60L+1の四角形画素61の画像配列構造を生成する。この画素配列構造は、縮小画像としての長方形画像60Lを構成する四角形画素61の配列構造であり、第1の実施形態における二次元配列構造72Lに対応する。
【0111】
ここで、縮小画像の場合の説明と同様に、測地ドーム法による分割回数がL回である場合の中間配列構造70Lにおいて第i行の第j列(jは、0以上Ni以下の整数)の位置を(iL,jL)と表す。また、分割回数がL回である場合の中間配列構造70Lに対応する長方形画像60Lにおいて、中間配列構造70Lの(iL,jL)の位置の頂点セル71に対応する四角形画素61LをSL(iL,jL)と表す。この場合、iL+1=2iL,jL+1=2Lが成立する。
【0112】
拡大画像における四角形画素61が、L回分割の測地ドーム50Lの頂点に一対一で対応する場合、拡大画像となるべきが画素配列構造の四角形画素61であるSL+1(iL+1,jL+1)の画素値を、分割回数がL回である長方形画像60LにおけるSL(2iL,2jL)の画素値とする。
【0113】
また、拡大画像における四角形画素61が、(L+1)回分割の測地ドーム50L+1において、L回分割の測地ドーム50Lの頂点51のうち隣接する2つの頂点51の間に生成された新たな頂点51に対応する場合、新たな頂点51に対応する四角形画素61の画素値は、次の2つの画素値割当方法のいずれかの方法で割り当てることができる。
【0114】
(新規生成画素の第1の画素割当方法)
この方法では、新規生成された頂点51に対応する四角形画素61の画素値を、その頂点51に隣接する2つの頂点51,51に対応する四角形画素61の画素値の平均値として算出する。すなわち、新規生成画素である四角形画素61の画素値をVnewL+1とし、隣接する2つの頂点51,51に対応する四角形画素61の画素値を、Vn1L及びVn2Lとすると、式(9)に基づいてVnewL+1を算出する。
【数9】
【0115】
L=1の場合について具体的に説明する。アップサンプリング前の長方形画像601に対応する測地ドーム501及び中間配列構造701は、図5(b)及び図7(b)に示すものであり、測地ドーム法による(L+1)回分割に対応する測地ドーム502及び中間配列構造702は、図5(c)及び図7(c)に示すものである。
【0116】
図5(c)に示す測地ドーム502が有する頂点51のうち、図5(b)に示す測地ドーム501と同じの頂点番号を有する頂点5114に対応する画素配列構造の四角形画素61には、頂点5114に画素値を割り当てる。一方、測地ドーム502において新たに生成された頂点5156に対応する四角形画素61の画素値を算出する際、測地ドーム501の頂点5114,513に対応する画素値の平均値として算出する。ここでは、測地ドーム502の頂点5114及び頂点5156について説明したが、他の頂点51に対しても同様である。
【0117】
なお、拡大画像を生成する場合においても、中間配列構造70における位置(2iL,2jL)で指定される頂点セル71の対応頂点に隣接する隣接頂点の画素値は、第1の実施形態において(a)〜(d)に場合分けして説明した頂点51Bに隣接する頂点51の位置の算出方法に基づいて算出された頂点セル71に対応する長方形画像60Lの四角形画素61の画素値とすればよい。これは、後述する第2の画素値割当て方法の場合も同様である。
【0118】
(新規生成画素の第2の画素値割当方法)
この方法では、新規生成された頂点51に対応する四角形画素61の画素値を、VnewL+1とした場合、VnewL+1を、式(10)により算出する。
【数10】
式(10)中、Vn1L及びVn2Lは、L回分割の測地ドーム50Lの頂点51のうち、新規生成頂点51に隣接する2つの頂点51,51の画素値であり、Vt1L及びVt2Lは、L回分割の測地ドーム50Lの頂点51のうち、新規生成頂点51に隣接する2つの頂点51,51のいずれにも隣接する2つの頂点51,51の画素値である。
【0119】
L=1の場合について具体的に説明する。前述したように、アップサンプリング前の長方形画像601に対応する測地ドーム501及び中間配列構造701は、図5(b)及び図7(b)に示すものであり、測地ドーム法による(L+1)回分割に対応する測地ドーム502及び中間配列構造702は、図5(c)及び図7(c)に示すものである。
【0120】
図5(c)に示す測地ドーム502が有する頂点51において、図5(b)に示す測地ドーム501と同じ頂点番号を有する頂点5114に対応する長方形画像602の四角形画素61には、頂点5114の画素値を割り当てる。
【0121】
また、図5(b)及び図5(c)を比較すれば、例えば、頂点5114及び頂点513との間に頂点5156が生成されており、頂点5156は、L回分割時に現れている頂点51である頂点5114及び頂点513との間に位置する。この場合、頂点5156に対して、頂点5114及び頂点513が上記隣接する2つの頂点51,51に対応する。そして、頂点5119及び頂点5118が、上記頂点5114及び頂点513のいずれにも隣接する頂点51である。この場合、頂点5156は、L回分割時の測地ドーム501において頂点5114、頂点513、頂点5119及び頂点5118で形成される四角形内に位置している。式(10)は、この4つ頂点5114,513,5119,5118の画素値を考慮して新規生成の頂点51に対応する四角形画素61の画素値を決定していることになる。
【0122】
具体的には、式(10)において、Vn1L及びVn2Lは、頂点5114及び頂点513の画素値であり、Vt1L及びVt2Lは頂点5119及び頂点5118の画素値である。ここでは、頂点5156の画素値を算出する場合について説明したが、測地ドーム502において新たに生成される頂点51については同様である。
【0123】
透視画像生成部94は、長方形画像60から透視画像を生成する。長方形画像60は、測地ドーム50の別表現でもあり、長方形画像60の四角形画素61と、測地ドーム50における頂点51の位置との対応関係をルックアップテーブルとして格納しておけば、長方形画像60から容易に測地ドーム50又はその測地ドーム50と双対な球面画像40を生成できる。よって、説明の都合上、球面画像40から透視画像を生成する場合について説明する。
【0124】
透視画像生成部94は、フレーム形成部94Aと、画素値割当部94Bとを有する。図15を利用して、透視画像生成部94による透視画像の生成方法について説明する。図15では、球面画像40と透視画像との対応関係を示している。
【0125】
フレーム形成部94Aは、図15に示すように、透視画像110となる複数の画素101が矩形状に配列されて構成される画像フレーム100を形成する。
【0126】
画素値割当て部94Bは、画像フレーム100の各画素101を球面画像40上に投影し、対応する投影点の画素値を画像フレーム101の画素に割り当てることで、透視画像100を生成する。ここでは、画像フレーム100の画素pの投影点を投影点mと称する。
【0127】
画素値割当部94Bは、投影点mが測地ドーム50の頂点51に対応する場合には、その頂点51の画素値を画素pに割り当てる。
【0128】
画素値割当部94Bは、投影点mが測地ドーム50の頂点41に対応しない場合、例えば、図16に示すように、投影点mが3つの頂点5114,5113,5118で形成される三角形内に位置する場合、次の何れかの方法により投影点m、すなわち、画素pに画素値を割り当てる。図16は、図15に示した投影点mを有する球面画像40に対応する測地ドーム50の一例の模式図である。
【0129】
(透視画像用の第1の画素値割当方法)
画素値割当て部94Bは、投影点mに最も近い頂点51(以下、最近接頂点と称す)の画素値を画素pの画素値として割り当てる。最近接頂点51は、例えば、球面画像40を表示するための3次元座標系(図15に示すxsyszs座標系)において投影点mの位置ベクトルと、各頂点51の位置ベクトルの内積をとり、最も内積値の大きい頂点を最近接頂点とすることで探索できる。
【0130】
図15に示すxsyszs座標系において、zs軸は、球面画像40を地球とみなした場合、すなわち、地球座標系表現における北極点(第1の極)と南極点(第2の極)とを通る軸であり、zs軸上の北極点と南極点との中点を原点とした3次元座標系である。
【0131】
(透視画像用の第2の画素値割当方法)
画素値割当て部94Bは、投影点mを囲む3つの頂点51,51,51の画素値を用いて、投影点mの画素値を算出し、画素pに割り当てる。具体的に説明する。
【0132】
球面画像40を表すためのxsyszs座標系おいて、球面画像40に対応する測地ドーム50上の任意の点kに対するzs軸及びxs軸からの偏角をそれぞれθk及びφkとする。すなわち、測地ドーム50上の点を球面座標で表す。この場合、投影点mの画素値Vmを次式で表すとする。
【数11】
式(11)において、θm、φmは投影点mに対する偏角θ、φであり、係数a,b,cは、以下の3つの式に基づいて算出される値である。
【数12】
式(12a)、式(12b)及び式(12c)において、(θt1,φt1)、(θt2,φt2)及び(θt3,φt3)は、それぞれ投影点mを囲む3つの頂点51,51,51の位置の偏角θ及び偏角φであり、それら3つの頂点51,51,51の位置を示す球座標である。また、Vt1、Vt2及びVt3は、(θt1,φt1)、(θt2,φt2)及び(θt3,φt3)の位置の頂点51の画素値である。
【0133】
上記画像変換装置90では、図10に示した画像変換方法において、ステップS13の後に、指示入力部91から所定の指示を受け付けると、判定部92が指示内容を判定して、指示内容に応じた処理を実行する。
【0134】
例えば、指示内容がステップS13で生成した長方形画像60から縮小画像を生成する場合には、拡大・縮小画像生成部93が前述した方法により縮小画像を生成する。この際、拡大・縮小画像生成部93は、予め設定されている縮小画像用の第1及び第2の画素値割当て方法に基づいて縮小画像を生成する。
【0135】
また、指示内容がステップS13で生成した長方形画像60から拡大画像を生成する場合には、拡大・縮小画像生成部93が前述した方法により拡大画像を生成する。この際、拡大・縮小画像生成部93は、予め設定されている新規生成画素の第1及び第2の画素値割当て方法に基づいて拡大画像を生成する。
【0136】
更に、長方形画像60から透視画像100を生成する旨である場合には、透視画像生成部94が前述した方法により透視画像100を生成する。この際、透視画像生成部94は、予め設定されている透視画像100用の第1及び第2の画素値割当て方法に基づいて透視画像100を生成する。なお、透視画像生成部94が透視画像100を生成するための長方形画像60は、拡大・縮小画像生成部93で生成された縮小画像又は拡大画像としての長方形画像60であってもよいし、画像変換部33で生成され拡大又は縮小されていない長方形画像60であってもよい。これらは、指示入力部91で入力され判定部92で判定された指示内容に基づいて実行することができる。
【0137】
そして、画像変換装置90では、ステップ13の後に、上述した一つ又は複数の処理を実行した後に、ステップ14を実行し、画像を出力することができる。
【0138】
以上説明した画像変換装置90は、拡大・縮小画像生成部93を更に備えることで、画像変換部33で生成せた長方形画像60を拡大又は縮小し、新たな長方形画像60とすることができる。長方形画像60は、球面画像40に対応するので、画像変換装置90は、球面画像40を拡大又は縮小することができることになる。この点について、実験例を参照して説明する。
【0139】
図17(a)は、拡大・縮小画像生成部93において、上記(縮小画像の第1の画素値割当方法)を用いて長方形画像60を縮小した画像である。図17(b)は、図17(a)に示した縮小画像としての長方形画像60の球面画像の一例である。また、図18(a)は、拡大・縮小画像生成部93において、上記(縮小画像第2の画素値割当方法)を用いて長方形画像60を縮小した画像である。図18(b)は、図18(a)に示した縮小画像としての長方形画像60の球面画像の一例である。縮小前の長方形画像60は、測地ドーム法での分割回数Lを7回とした点以外は、図11に示した長方形画像60を形成する場合と同様にして形成した。縮小前の長方形画像60の画素数は、640×256=163,840画素である。
【0140】
拡大・縮小画像生成部93を利用することで、図17(a),(b)及び図18(a),(b)に示す縮小した長方形画像60を得ることができる。なお、図17(a)及び図18(a)に示す長方形画像60の画素数は、320×128画素である。
【0141】
図17(a)と図18(a)及び図17(a)と図18(b)とをそれぞれ対比すると、第2の画素値割当方法を採用した方が、より画素値の変化が画像を得られることがわかる。
【0142】
また、拡大・縮小画像生成部93による縮小画像の生成を反復することで、図19(a)〜図19(e)に示すように階層的に画像の大きさの異なる複数の長方形画像60を生成することも可能である。図19(a)〜図19(e)は、拡大・縮小画像生成部93において、第2の画素値割当方法を採用して画像を順次縮小した場合の図である。
【0143】
図20(a)は、拡大・縮小画像生成部93において、上記(新規生成画素の第1の画素値割当方法)を用いて長方形画像60を拡大した画像である。図20(b)は、図20(a)に示した拡大画像としての長方形画像60の球面画像の一例である。また、図21(a)は、拡大・縮小画像生成部93において、上記(新規生成画素の第2の画素値割当方法)を用いて長方形画像60を拡大した画像である。図21(b)は、図21(a)に示した拡大画像としての長方形画像60の球面画像の一例である。拡大前の長方形画像60は、測地ドーム法での分割回数Lを7回とした点以外は、図11に示した長方形画像60を形成する場合と同様にして形成した。拡大前の長方形画像60の画素数は、640×256=163,840画素である。
【0144】
拡大・縮小画像生成部93を利用することで、図20(a),(b)及び図21(a),(b)に示すように、長方形画像60を拡大した長方形画像60を得ることができる。なお、図20(a)及び図21(a)に示す長方形画像60の画素数は、1280×512画素である。
【0145】
図20(a)と図21(a)及び図20(b)と図21(b)とをそれぞれ対比すると、第2の画素割当方法を採用した方が、より画素値の変化がなめらかな画像を得られることがわかる。
【0146】
更に、画像変換装置90は、透視画像生成部94を備えているので、生成した長方形画像60を透視画像として画像出力部34に出力することができる。その結果、画像変換装置90の操作者は、透視画像を表示装置などでみることが可能である。これは、拡大・縮小画像生成部93によって、拡大・縮小された長方形画像60に対しても同様である。この点について、実験例を参照して説明する。図22(a)及び図22(b)は、透視画像生成部94により生成した図11に示した長方形画像60の一部の透視画像である。図22(a)は、画素値の割当て方法を透視画像用の第1の画素値割当て方法を採用した場合の図であり、図22(b)は、画素値の割当て方法として、透視画像用の第2の画素値割当て方法を採用した場合の図である。図22(a)及び図22(b)に示すように、透視画像生成部94により、透視画像100を生成できることがわかる。そして、図22(a)と図22(b)を対比すると、第2の画素割当方法を採用した方が、より画素値の変化がなめらかな画像を得られることがわかる。
【0147】
次に、コンピュータグラフィックス分野における環境マップとの関係に基づいて、画像変換装置90及び画像変換方法の作用効果について説明する。
【0148】
バーチャルリアリティ環境の構築においては、いわゆる環境マップが広く使用されている。このような環境マップは、3次元環境でのある位置(点)から周囲を観測した全天周画像に対応する。そして、周囲の環境が球面に投影された球面画像は環境マップに対応する。画像変換装置90では、球面画像を長方形画像60に変換しており、この際、第1の実施形態で説明したように、SCVT(Sperical Centroidal Voronoi Tessellation)画像である環境マップとしての離散的な球面画像40を元に長方形画像60を生成している。よって、長方形画像60は全天周画像としての環境マップである。また、長方形画像60はSCVT画像と対応しているので、以下では、環境マップである長方形画像60をSCVTマップとも称す。
【0149】
コンピュータグラフィックス分野では、従来、球状環境マップやキュービック環境マップが知られている。球状環境マップは、周囲を2次元画像に写し込んだものであり、例えば、ミラーボールをある所定の方向から正投影のカメラで写した場合の画像に対応する。また、キュービック環境マップは、ある点をその中心とする立方体を想定し、中心点から立方体の各面への投影画像を各面にマッピングしたものである。
【0150】
ここで、このような環境マップにおいて、視点から任意の方向をみた場合における画素の最大立体角と最小立体角の比をサンプリングレートとする。
【0151】
球状環境マップ及びキュービック環境マップでは、3次元環境を2次元に移し込んでいるため、画素も一様にはなりにくい。一方、長方形画像60に対応するSCVT画像では球面画像を離散化して表しているので画素の大きさがほぼ一様でサンプリングレートがより小さくなる。また、球面環境マップでは、特異点を含むことが知られている。一方、SCVTマップでは、このような特異点は存在しない。
【0152】
更に、画像変換装置90及びそれを利用した画像変換方法では、長方形画像60(SCVT画像)を拡大・縮小画像変換部93を用いて、拡大・縮小することができるので、バーチャルリアリティ環境において、環境として表示される画像の拡大・縮小に対応することができる。
【0153】
また、画像変換装置90及びそれを利用した画像変換方法では、SCVT画像を長方形画像60として表しているので、第1の実施形態で説明したように、データ保存が容易である。また、JPEGなど、これまで2次元画像に対して適用可能は圧縮形式を好適に利用することができる。そして、長方形画像60は、SCVT画像としての球面画像40を介して生成しているので、長方形画像60を保存することで、撮影画像22における実質的に必要でない領域のデータやカメラパラメータ等の保存する必要も省略できる。従って、一対の撮影画像22,22の場合より、全天周の画像をよりコンパクトに保存することが可能である。
【0154】
以上、第2の実施形態について説明したが、本発明は、上記実施形態にも限定されず、第1の実施形態で例示したような変形も、本実施形形態において可能である。更に、図14に示した実施形態では、画像変換装置90は、拡大・縮小画像生成部93を有するとして、拡大画像及び縮小画像の両方を形成可能としている。しかしながら、上述した拡大画像のみを生成する機能を有する拡大画像生成部のみを備えていてもよいし、上述した縮小画像のみを生成する機能を有する縮小画像生成部のみを備えていてもよい。更に、拡大・縮小画像生成部93の代わりに、拡大画像生成部及び縮小画像生成部を有する構成とすることもできる。また、拡大又は縮小画像を有さずに、透視画像を生成する透視画像生成部のみ、第1の実施形態の構成に対して更に備える構成とすることもできる。
【0155】
また、図14に示した実施形態では、指示入力部及び判定部は、拡大・縮小画像生成部や透視画像生成部といった構成要素に対する指示の入力及び指示の判定をする機能を有するものとして説明した。しかしながら、指示入力部は、例えば、球面画像生成部、画像変換部及び出力部に対する操作者の入力を受け付け、判定部は、指示入力部で入力された指示を判定し、指示内容に応じた構成要素に指示を入力するようにしてもよい。この点は、第1の実施形態においても同様である。
【産業上の利用可能性】
【0156】
本発明は、全天周画像が必要とされる移動ロボット、監視カメラ、レスキュー道具等に適用可能である。また、本発明は、コンピュータグラフィックスにおける環境マップなどに適用可能である。
【符号の説明】
【0157】
10…画像生成システム、20…撮像装置(画像取得手段)、22…撮影画像、30…画像変換装置、32…球面画像生成部、33…画像変換部、40…球面画像、41…離散球面、42…正六角形画素(測地ドームの頂点に対応する画素)、50…測地ドーム、51…測地ドームの頂点、60…長方形画像、61…四角形画素、70…中間配列構造、72…2次元配列構造、80…画像生成システム、90…画像変換装置、93…拡大・縮小画像生成部(縮小画像生成部、拡大画像生成部)、94…透視画像生成部。
【技術分野】
【0001】
本発明は、画像変換装置、画像生成システム、画像変換方法及び画像生成方法に関するものである。
【背景技術】
【0002】
ある視点を中心として周囲の画像を取得することで、全天周の画像を得ることができる。この場合、複数の画像で全天周が分割されて取得されているが、これらを一つの画像として表示するものとして、球面画像が知られている(特許文献1参照)。球面画像は、球面上に画像が投影されたものである。コンピュータなどによって球面画像を表す場合には、連続した球面を測地ドーム分割法で分割して構成される測地ドームを用いて球面画像を離散化して表す(非特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2005−56295号公報
【非特許文献】
【0004】
【非特許文献1】諸岡健一、外2名、「3次元物体自動モデリングのための視点空間表現と視点計画計算法」、電気情報通信学会論文誌 D−II、2001年1月、Vol.J84−D−II No.1 pp.64−74
【発明の概要】
【発明が解決しようとする課題】
【0005】
離散化された球面に対応する測地ドーム120のデータ構造の表現方法としては、図23に示すように、測地ドーム120を平面展開したものが知られている。図23は、従来の測地ドームの展開図の一例を示す図面である。
【0006】
しかしながら、このようなデータ構造を使用した場合には、例えば、図23の破線で囲んだ領域Aに示す平行四辺形を指定する指標uと、平行四辺形内の各画素を2次元的に指定する2つの指標v,wを要し、3次元的な表現方法を採用することになる。そのため、データ保存等が煩雑になる場合があった。
【0007】
本発明は、上記の問題点を解決するためになされたものであり、球面画像をより保存しやすい画像に変換可能な画像変換装置、画像生成システム、画像変換方法及び画像生成方法を提供することを目的とする。
【課題を解決するための手段】
【0008】
上記課題を解決するため、本発明に係る画像変換装置は、複数の画素で離散的に表された離散球面に、複数の撮影画像が投影された球面画像を生成する球面画像生成部と、球面画像を長方形画像に変換する画像変換部と、を備え、離散球面を表す複数の画素は、球面を測地ドーム法で分割した測地ドームの各頂点に対応し、長方形画像は、複数の四角形画素を有し、各四角形画素の画素値は、測地ドームの一経線上の複数の頂点をそれぞれ基点として、複数の基点が第1の方向に並べられ各基点と同一緯度の頂点が各基点に対して第1の方向に直交する第2の方向に並べられた中間配列構造から、測地ドームの第1及び第2の極に対応する頂点を削除すると共に中間配列構造の所定の頂点を第1及び第2の方向に移動させることによって中間配列構造が有する複数の頂点が四角形状に並べられた2次元配列構造において、各四角形画素の位置の頂点に対応する球面画像の画素の画素値である、ことを特徴とする。
【0009】
本発明に係る画像変換方法は、複数の撮影画像を、球面を測地ドーム法で分割して形成される測地ドームの各頂点に対応する画素で表した離散球面に投影することによって球面画像を生成するステップと、測地ドームの一経線上の複数の頂点をそれぞれ基点として、複数の基点が第1の方向に並べられ各基点と同一緯度の頂点が各基点に対して第1の方向に直交する第2の方向に並べられてなる中間配列構造を生成するステップと、中間配列構造に含まれる測地ドームの第1及び第2の極に対応する頂点以外の頂点のうち所定の頂点を第1及び第2の方向に移動させることによって、測地ドームの第1及び第2の極に対応する頂点以外の頂点が四角形状に並べられた2次元配列構造を生成するステップと、2次元配列構造を構成する各頂点を四角形画素として、各四角形画素の位置の頂点に対応する球面画像の画素の画素値を割り当てて長方形画像を生成するステップと、を備えることを特徴とする。
【0010】
このような画像変換装置及び画像変換方法では、複数の撮影画像を一つの画像とした球面画像を長方形画像に変換している。この場合、長方形画像を保存すればよいので、画像データの保存が容易である。また、長方形画像として保存することにより、JPEG等の圧縮方法を容易に適用することができる。
【0011】
上記画像変換装置においては、中間配列構造は、第1及び第2の方向をそれぞれ行方向及び列方向としたとき、第i行(iは、0以上3・2L以下の整数)の列数Niが、式(1)で表される配列構造を有しており、2次元配列構造は、中間配列構造の第(2L+1+1)行から第(RL−1)行までの領域をシフト領域として、シフト領域内の各頂点を第(5×2L)列側に向けて列シフトさせた後、シフト領域を、第(2L+1+1)行が第0行に一致するように行シフトさせると共に、中間配列構造における第0行及び第RL行に対応する頂点を削除して構成されている、ことが好適である。或いは、本発明に係る画像変換方法においては、中間配列構造は、第1及び第2の方向をそれぞれ行方向及び列方向としたとき、第i行(iは、0以上3・2L以下の整数)の列数Niが、式(1)で表される構造を有しており、2次元配列構造を生成するステップでは、中間配列構造の第(2L+1+1)行から第(RL−1)行までの領域をシフト領域として、シフト領域内の各頂点を第(5×2L)列側に向けて列シフトさせた後、シフト領域を第(2L+1+1)行が第0行に一致するように行シフトさせると共に、中間配列構造における第0行及び第RL行に対応する頂点を削除して2次元配列構造を生成する、ことが好適である。
【数1】
【0012】
このように、中間配列構造が有する頂点を移動させることによって、長方形画像を容易に作成することができる。
【0013】
また、本発明に係る画像生成システムは、複数の撮影画像を取得する画像取得手段と、画像取得手段によって取得された複数の撮影画像が、複数の画素で離散的に表された離散球面に投影された球面画像を生成する球面画像生成部と、球面画像を長方形画像に変換する画像変換部と、を備え、離散球面を表す複数の画素は、球面を測地ドーム法で分割した測地ドームの各頂点に対応し、長方形画像は、複数の四角形画素を有し、各四角形画素の画素値は、測地ドームの一経線上の複数の頂点をそれぞれ基点として、複数の基点が第1の方向に並べられ各基点と同一緯度の頂点が各基点に対して第1の方向に直交する第2の方向に並べられた中間配列構造から、測地ドームの第1及び第2の極に対応する頂点を削除すると共に中間配列構造の所定の頂点を第1及び第2の方向に移動させることによって中間配列構造が有する複数の頂点が四角形状に並べられた2次元配列構造において、各四角形画素の位置の頂点に対応する球面画像の画素の画素値である、ことを特徴とする。
【0014】
また、本発明に係る撮像方法は、複数の撮影画像を取得するステップと、取得された複数の撮影画像を、球面を測地ドーム法で分割した測地ドームの各頂点に対応する画素とした離散球面に投影することによって球面画像を生成するステップと、測地ドームの一経線上の複数の頂点をそれぞれ基点として、複数の基点が第1の方向に並べられ各基点と同一緯度の頂点が各基点に対して第1の方向に直交する第2の方向に並べられてなる中間配列構造を生成するステップと、中間配列構造に含まれる測地ドームの第1及び第2の極に対応する頂点以外の頂点のうち所定の頂点を第1及び第2の方向に移動させることによって、測地ドームの第1及び第2の極に対応する頂点以外の頂点が四角形状に並べられた2次元配列構造を生成するステップと、2次元配列構造を構成する各頂点を四角形画素として、各四角形画素の位置の頂点に対応する球面画像の画素の画素値を割り当てて長方形画像を生成するステップと、を備えることを特徴とする。
【0015】
このような撮像システム及び撮像方法によれば、複数の撮影画像を一つの画像とした球面画像を長方形画像に変換している。この場合、長方形画像を保存すればよいので、画像データの保存が容易である。また、長方形画像として保存することにより、JPEG等の圧縮方法を容易に適用することができる。
【0016】
また、本発明に係る画像変換装置では、測地ドーム法による分割回数がL回の長方形画像を分割回数が(L−1)回の長方形画像に変換して縮小画像を生成する縮小画像生成部を更に備えることが好適である。同様に、本発明に係る画像変換方法では、測地ドーム法による分割回数がL回の長方形画像を分割回数が(L−1)回の長方形画像に変換して縮小画像を生成する縮小画像生成ステップを更に備えることが好適である。これにより、生成した長方形画像を縮小した縮小画像を生成することができる。
【0017】
この場合、測地ドーム法による分割回数がL回の中間配列構造において第i行の第j列(jは、0以上Ni以下の整数)の位置を(iL,jL)と表し、分割回数がL回の中間配列構造に対応する長方形画像において、中間配列構造の(iL,jL)に対応する四角形画素をSL(iL,jL)と表したとき、上記縮小画像生成部は(又は上記縮小画像生成ステップでは)、縮小画像としての長方形画像における四角形画素であるSL−1(iL−1,jL−1)の画素値を、分割回数がL回である長方形画像における四角形画素であるSL(2iL−1,2jL−1)の画素値に対応させることによって、縮小画像を生成することができる。
【0018】
或いは、測地ドーム法による分割回数がL回の中間配列構造において第i行の第j列(jは、0以上Ni以下の整数)の位置を(iL,jL)と表し、分割回数がL回の中間配列構造に対応する長方形画像において、中間配列構造の(iL,jL)に対応する四角形画素をSL(iL,jL)と表したとき、上記縮小画像生成部は(又は上記縮小画像生成ステップでは)、縮小画像中の四角形画素であるSL−1(iL−1,jL−1)の画素値をVL−1とし、分割回数がL回である長方形画像中の四角形画素であるSL(2iL−1,2jL−1)の画素値をVLとしたとき、式(2)に基づいて、VL−1を算出してもよい。
【数2】
(式(2)中、Mは、分割回数がL回である測地ドームにおいて、対応する中間配列構造の(2iL−1,2jL−1)の位置に対応する頂点に隣接する隣接頂点の個数であり、VmLは、各前記隣接頂点の画素値である。)
【0019】
また、本発明に係る画像変換装置は、測地ドーム法による分割回数がL回の長方形画像を分割回数が(L+1)回の長方形画像に変換して拡大画像を生成する拡大画像生成部を更に備えることが好ましい。同様に、本発明に係る画像変換方法は、測地ドーム法による分割回数がL回の長方形画像を分割回数が(L+1)回の長方形画像に変換して拡大画像を生成する拡大画像生成ステップを更に備えることが好ましい。これにより、生成した長方形画像を拡大した拡大画像を生成することができる。
【0020】
この場合、測地ドーム法による分割回数がL回の中間配列構造において第i行の第j列(jは、0以上Ni以下の整数)の位置を(iL,jL)と表し、分割回数がL回の中間配列構造に対応する長方形画像において、中間配列構造の(iL,jL)に対応する画素をSL(iL,jL)と表したとき、上記拡大画像生成部は(又は拡大画像生成ステップでは)、拡大画像としての長方形画像における四角形画素が、分割回数がL回である測地ドームの頂点に対応する場合、拡大画像としての長方形画像における四角形画素であるSL+1(iL+1,jL+1)の画素値を、分割回数がL回である長方形画像におけるSL(2iL,2jL)の画素値とし、拡大画像としての長方形画像における四角形画素が、分割回数がL回である測地ドームの頂点のうち隣接する2つの頂点の間に生成された新たな頂点に対応する場合、拡大画像としての長方形画像における四角形画素であるSL+1(iL+1,jL+1)の画素値をVnewL+1とし、VnewL+1を、分割回数がL回である測地ドームの頂点のうち隣接する2つの頂点に対応する画素値の平均値とする、ことが好適である。
【0021】
或いは、測地ドーム法による分割回数がL回の中間配列構造において第i行の第j列(jは、0以上Ni以下の整数)の位置を(iL,jL)と表し、分割回数がL回の中間配列構造に対応する長方形画像において、中間配列構造の(iL,jL)に対応する四角形画素をSL(iL,jL)と表したとき、上記拡大画像生成部は(又は拡大画像生成ステップでは)、拡大画像としての長方形画像における四角形画素が、分割回数がL回である測地ドームの頂点に対応する場合、拡大画像としての長方形画像における四角形画素であるSL+1(iL+1,jL+1)の画素値を、分割回数がL回である長方形画像におけるSL(2iL,2jL)の画素値とし、拡大画像としての長方形画像における四角形画素が、(L+1)回分割の測地ドームにおいて、分割回数がL回である測地ドームの頂点のうち隣接する2つの頂点の間に生成された新たな頂点に対応する場合、拡大画像としての長方形画像における四角形画素であるSL+1(iL+1,jL+1)の画素値をVnewL+1とし、VnewL+1を、式(3)により算出することも好ましい。
【数3】
(式(3)中、Vn1L及びVn2Lは、分割回数がL回である測地ドームの頂点のうち隣接する2つの頂点の画素値であり、Vt1L及びVt2Lは、分割回数がL回である測地ドームの頂点のうち、隣接する2つの頂点のいずれにも隣接する2つの頂点の画素値である。)
【0022】
更に、本発明に係る画像変換装置では、長方形画像に対応する測地ドームとしての球面画像から透視画像を生成する透視画像生成部を更に備え、透視画像生成部は、生成すべき透視画像の画素配列構造を生成し、画素配列構造内の画素pに対応する球面画像上の点をmとし、点mの座標を(θ,φ)(θは、測地ドームの第1及び第2の極を結ぶ線をzs軸とし、zs軸上の第1及び第2の極の間の中点を原点とし、zs軸に直交する2つの軸をxs軸及びys軸として有するxsyszs座標系においてzs軸に対する角度であり、φはxs軸に対する角度である)とした場合に、画素pの画素値を、測地ドームにおいて、点mを囲む3つの頂点の画素値に基づいて算出することによって、透視画像を生成することが好適である。同様に、本発明に係る画像変換方法では、長方形画像に対応する測地ドームとしての球面画像から透視画像を生成する透視画像生成ステップを更に備え、透視画像生成ステップでは、生成すべき透視画像の画素配列構造を生成し、画素配列構造内の画素pに対応する球面画像上の点をmとし、点mの座標を(θ,φ)(θは、測地ドームの第1及び第2の極を結ぶ線をzs軸とし、zs軸上の第1及び第2の極の間の中点を原点とし、zs軸に直交する2つの軸をxs軸及びys軸として有するxsyszs座標系においてzs軸に対する角度であり、φはxs軸に対する角度である)とした場合に、画素pの画素値を、測地ドームにおいて、点mを囲む3つの頂点の画素値に基づいて算出することによって、透視画像を生成することが好適である。
【0023】
この場合、透視画像生成部(又は透視画像生成ステップ)は、点mの画素値をVmとし、長方形画像に対応する測地ドームにおいて点mを囲む3つの頂点の画素値をVtk(kは、1,2,3)としたとき、Vmを式(4)に基づいて算出することができる。
【数4】
(式(4)中、係数a,b,cは、θk及びφkを3つの上記頂点の各々のzs軸及びxs軸に対する角度としたとき、3つの頂点に対する、
Vtk=aθk+bφk+c
で規定される実数である。)
【0024】
また、本発明に係る画像変換装置では、長方形画像に対応する測地ドームとしての球面画像から透視画像を生成する透視画像生成部を更に備え、透視画像生成部は、生成すべき透視画像の画素配列を生成し、画素配列内の画素pに対応する球面画像上の点をmとした場合に、画素pの画素値を、点mに最も近い、長方形画像に対応する測地ドームの頂点の画素値とすることによって、透視画像を生成することが好適である。同様に、本発明に係る画像変換方法では、長方形画像に対応する測地ドームとしての球面画像から透視画像を生成する透視画像生成ステップを更に備え、透視画像生成ステップでは、生成すべき透視画像の画素配列を生成し、画素配列内の画素pに対応する球面画像上の点をmとした場合に、画素pの画素値を、点mに最も近い、長方形画像に対応する測地ドームの頂点の画素値とすることによって、透視画像を生成することもできる。
【発明の効果】
【0025】
本発明によれば、球面画像をより保存しやすい画像に変換することができる。
【図面の簡単な説明】
【0026】
【図1】本発明に係る撮像システムの一実施形態の構成を概略的に示す図面である。
【図2】図2(a)及び図2(b)は、撮像装置で取得される一対の撮影画像のそれぞれの一例を示す図面である。
【図3】撮像画像と球面画像との対応関係を示す図面である。
【図4】離散球面を用いた球面画像の模式図である。
【図5】図5(a)〜図5(c)は、0分割レベル〜2分割レベルの測地ドームを示す図面である。
【図6】長方形画像の模式図である。
【図7】図7(a)〜図7(c)は、それぞれ図5(a)〜図5(c)に示した測地ドームを展開した中間配列構造を示す図面である。
【図8】中間配列構造のグループ分けを示す図面である。
【図9】図9(a)〜図9(d)は、中間配列構造から2次元配列構造を生成する工程を示す図面である。
【図10】撮像システムの画像生成方法の一例のフローチャートである。
【図11】長方形画像の一例を示す図面である。
【図12】図11に示した長方形画像を生成するための撮影画像を取得する撮影装置の一例を示す図面である。
【図13】図12に示した撮影装置で取得した撮像画像の一例である。
【図14】本発明に係る画像生成システムの第2の実施形態の構成を概略的に示す図面である。
【図15】球面画像と透視画像との対応関係を示す模式図である。
【図16】図15に示した投影点mを有する球面画像に対応する測地ドームの一例の模式図である。
【図17】(a)は、拡大・縮小画像生成部において、縮小画像の第1の画素値割当方法を用いて図11に示した長方形画像を縮小した画像を示す図面である。(b)は、(a)に示した縮小画像としての長方形画像の球面画像の一例を示す図面である。
【図18】(a)は、拡大・縮小画像生成部において、縮小画像の第2の画素値割当方法を用いて図11に示した長方形画像を縮小した画像を示す図面である。(b)は、(a)に示した縮小画像としての長方形画像の球面画像の一例を示す図面である。
【図19】(a)〜(e)は、拡大・縮小画像生成部において、第2の画素値割当方法を採用して画像を順次縮小した場合の画像を示す図面である。
【図20】(a)は、拡大・縮小画像生成部において、新規生成画素の第1の画素値割当方法を用いて図11に示した長方形画像を拡大した画像を示す図面である。(b)は、(a)に示した拡大画像としての長方形画像の球面画像の一例を示す図面である。
【図21】(a)は、拡大・縮小画像生成部において、新規生成画素の第2の画素値割当方法を用いて図11に示した長方形画像を拡大した画像を示す図面である。(b)は、(a)に示した拡大画像としての長方形画像の球面画像の一例を示す図面である。
【図22】(a)は、画素値の割当て方法として透視画像用の第1の画素値割当て方法を採用した場合の透視画像を示す図面である。(b)は、画素値の割当て方法として、透視画像用の第2の画素値割当て方法を採用した場合の透視画像を示す図である。
【図23】従来の測地ドームの展開図の一例を示す図面である。
【発明を実施するための形態】
【0027】
以下、図を参照して本発明の実施形態について説明する。以下の説明においては、同一の要素には同一の符号を用いることとし重複する説明は省略する。
【0028】
図1は、本発明に係る画像変換装置の一実施形態を含む撮像システムの概略構成を示す図面である。撮像システム10は、撮像装置(画像取得手段)20と、画像変換装置30とを備える。
【0029】
撮像装置20は、全天周の画像を取得するために、2つのカメラ21,21を備える。各カメラ21,21は、広角レンズである魚眼レンズを備えており、魚眼レンズ21Aによって結像された像を撮像素子21Bによって検出する。魚眼レンズ21Aの画角の例は85°であるが、180°以上であればよい。撮像素子21Bの例はCCDである。2つのカメラ21,21は、図1に模式的に示すように背面合わせで設けられている。これにより、2つのカメラ21,21は、実質的に同一の視点から互いに反対方向を撮影し、全天周における半球分の画像を取得する。
【0030】
図1に示すように、撮像装置20は、2つのカメラ21,21で取得された画像の画像データを画像変換装置30に出力する。
【0031】
図2(a)及び図2(b)は、2つのカメラ21,21で撮影された撮影画像22,22の一例をそれぞれ示す図面である。各カメラ21は魚眼レンズ21Aを利用しているため、図2に示すように、各撮影画像22中の結像領域22aは円形となる。結像領域22aの周縁部は、各撮影画像22でオーバーラップしたオーバーラップ領域22bを有する。本実施形態では、円形の結像領域22aのうちオーバーラップ領域22bを除いた領域を有効画像領域22cと称する。
【0032】
図1に戻って画像変換装置30の構成を説明する。画像変換装置30は、機能的な構成要素として、画像入力部31と、球面画像生成部32と、画像変換部33と、画像出力部34とを備える。図1では、画像変換装置30の構成を機能ブロックとして示している。画像変換装置30は、ハードウェアとして、演算処理を行うCPU及び所定のデータを記憶する記憶部等を備え、画像入力部31、球面画像生成部32、画像変換部33及び画像出力部34の各機能を実現する。画像変換装置30の例は、コンピュータ装置である。
【0033】
画像入力部31は、カメラ21で取得された撮影画像22の画像データの入力をカメラ21から受け付ける。画像入力部31は、無線及び有線通信の少なくとも一方を介してデータを受け取ってもよいし、又は記録媒体(DVDやSDカード等)からデータを受け取ってもよい。
【0034】
球面画像生成部32は、画像入力部31で受け付けられた撮影画像22の画像データを、球面画像の球面画像データに変換する。球面画像は、一対の撮影画像22を仮想単位球面S(図3参照)上に投影した画像である。一対の撮影画像22,22は、それぞれ全天周の半分の領域を撮影しているため、各撮影画像22を用いることで、全天周を表示する球面画像を生成することができる。球面画像生成部32は、各撮影画像22による半球分の画像を、カメラ21,21の相対位置及びオーバーラップ領域22bを利用して合成して一つの球面画像を生成する。
【0035】
図3は、撮影画像22と球面画像との対応関係を説明する図面である。図3では、単位球面Sの半球分を示している。カメラ21が有する魚眼レンズ21Aの光軸をZ軸とし、魚眼レンズ21Aの主点Oを通りZ軸に直交する平面をXY平面とする。Z軸上において、主点Oから魚眼レンズ21Aの焦点距離fだけ離れた点cは、Z軸と直交する撮影画像22の中心点に対応する。この中心点cを通り、Z軸と直交する平面をxy平面とする。撮影画像22は、魚眼レンズ21Aにより、実空間の点Pをxy平面に射影してできる画像である。
【0036】
天頂角をθA、方位角をφAとすると、実空間の点Pから投影される球面画像上の点pの位置座標は、撮影画像22上の点paの座標(x,y)を用いて式(5)のように表される。
【数5】
上記式(5)は、魚眼レンズ21Aの射影方式を等距離射影方式(すなわち、r=fθA)とした場合のものである。しかし、魚眼レンズ21Aの射影方式は他の射影方式、例えば、立体射影、等立体角射影及び正射影を採用してもよい。
【0037】
上記球面画像の点pと、撮影画像22の点paとの対応関係から、撮影画像22に基づいて球面画像を生成することができる。
【0038】
撮影画像22が投影される球面Sは、理論的には、図3に示すように連続的である。しかし、コンピュータ等でデータ処理する場合には、離散的表現を用いる。本実施形態では、球面の離散的表現の一つとして、図4に示すように正六角形状の画素(以下、正六角形画素)42を用いたデータ構造を採用する。図4は球面画像の一例を示す模式図である。正六角形画素42を利用して表した離散的な球面画像40は、SCVT(Sperical Centroidal Voronoi Tessellation)画像として知られている(例えば、Q. Du,M.Bunzburger, and L. Ju, “Constrained centroidal Voronoi tessellations ongeneralsurface,” SIAM J. Sci. Comput., 24(5), 2003, pp1499-1506参照)。本実施形態において、球面画像40は、離散的に表現した球面(以下、離散球面と称す)41を用いたSCVT画像に対応する。
【0039】
正六角形画素42を利用した離散球面41は、理論的な連続した球面Sを、測地ドーム法によりL回(Lは0以上の整数)分割した測地ドーム50の双対多面体である。本実施形態では、上述した球又は測地ドームにおける位置を説明する際に、緯度及び経度といった地球座標系を使用する。
【0040】
図5(a)〜図5(c)は、測地ドーム法における各分割レベルの測地ドーム50を示す図面である。図5(a)〜図5(c)では、球面41を地球座標系で表現した場合の北極(第1の極)側から見た場合の図面である。図5(a)は、0回分割レベル(L=0)の測地ドーム50を示しており、正二十面体に対応する。図5(b)は、1回分割レベル(L=1)の測地ドーム50を示している。図5(c)は、2回分割レベル(L=2)の場合を示している。図5(a)〜図5(c)に示される中括弧内に示された各数字は、説明の便宜のため示した測地ドーム50の頂点51の頂点番号を示している。また、図5(a)〜図5(c)では、各測地ドーム50を分割レベルに応じて、測地ドーム50Lとして示している。
【0041】
測地ドーム50の各頂点51を一つの画素で表した場合、各頂点51を表す画素と、離散球面41の正六角形画素42とは双対である。この場合、測地ドーム50の中心に対する各頂点51を表す画素の方向と、離散球面41の中心から正六角形画素42の中心への方向、すなわち、正六角形画素42の主方向とは一致する。
【0042】
測地ドーム50を生成するための分割回数は、式(6)を満たすLとして決定する。
【数6】
【0043】
式(6)中、Ngは、有効画像領域22cの画素数である。有効画像領域22cは、魚眼レンズ21Aの結像特性と、撮像素子21Bの撮像面との関係に基づいて予め算出してメモリ等に入力しておけばよい。例えば、有効画像領域22cの画素数が254,628(=127,314×2)画素である場合、L=8を採用することが好ましい。この場合、測地ドーム50の頂点51の数は、655,360個であり、正六角形画素42の数も655,360個である。
【0044】
正六角形画素42と有効画像領域22cの画素とが一対一に対応しない場合には、有効画像領域22cの画素に対応しない正六角形画素42には、正六角形画素42と対応する有効画像領域22c内の画素を利用して補間した画素値を割り当てる。
【0045】
画像変換部33は、球面画像40を長方形画像に変換する。図6〜図8を参照して、画像変換部33で生成される長方形画像と、球面画像40との対応関係を説明する。
【0046】
図6は、画像変換部33で生成される長方形画像60を示す図面である。図6は、L=2の場合の測地ドーム50に基づいた長方形画像60に対応し、長方形画像60における各四角形画素61内の数字は、図5(c)の各頂点51の頂点番号である。
【0047】
L回分割レベルの測地ドーム50に基づいた長方形画像60は、nr(=2L+1)×nc(=5・2L)で配列された四角形画素61を、図6に示すように、球面画像40と双対な測地ドーム50の各頂点51を対応させ、対応する各頂点51の画素値を割り当てたものである。
【0048】
画像変換部33は、球面画像40を長方形画像60に変換するために、中間配列構造生成部33Aと、2次元配列構造生成部33Bと、画素値割当て部33Cとを含む。
【0049】
中間配列構造生成部33Aは、測地ドーム50を2次元に展開した中間配列構造70を生成する。図7(a)〜図7(c)は、図5(a)〜図5(c)に示した各測地ドーム50に対応する中間配列構造70をそれぞれ示す図面である。図7(a)〜図7(c)では、L回分割レベルの測地ドーム50に対応する中間配列構造70を中間配列構造70Lとして示している。
【0050】
図7(a)〜図7(c)に示すように、中間配列構造70は、測地ドーム50のある経線を基準線として展開したものである。すなわち、中間配列構造70は、基準線上の各頂点51がi方向(第1の方向)に配置され、基準線上の各頂点51を基点として、各基点と同じ緯度上の複数の頂点51が、i方向に直交するj方向(第2の方向)に配置され構造を有する。図7(a)〜図7(c)において、各頂点51は四角形状のセル(以下、頂点セルと称す)71として示しており、各頂点セル71内の数字は、対応する各頂点51の頂点番号である。以下では、中間配列構造70の各頂点セル71(又は頂点51)の位置を(i,j)で表す。
【0051】
L回分割時の測地ドーム50に対応する中間配列構造70は、(3・2L+1)個の行を含む。第i行目の頂点セル71の数をNi個とすると、Niは次式のように表される。
【数7】
ただし、RL=3・2Lである。
【0052】
中間配列構造70は、測地ドーム50を展開したものであるから、L回分割レベルの測地ドーム50に基づく中間配列構造70内の頂点セル71n(nは、頂点セル71に対応する頂点番号)の位置(i,j)は、K(ただし、K<L)回分割レベルの測地ドーム50に基づく中間配列構造70内の頂点セル71nの位置(iK,jK)を用いて次のように表される。
i=2(L−K)iK,j=2(L−K)jK
【0053】
中間配列構造70において、測地ドーム50の北極点及び南極(第2の極)点に対応する頂点セル71以外の領域は、図8に例示すように、3つのグループGA,GB,GCに分けることができる。図8は、複数の頂点セル71のグループ分けの一例として図7(c)の中間配列構造70を用いた場合を示している。グループGAは、0<i≦2Lの領域であり、グループGBは、2L<i≦2L+1の領域であり、グループGCは、2L+1<i≦RLの領域である。
【0054】
測地ドーム50の各頂点51に隣接する頂点51の中間配列構造70中の位置について、
(a)0分割レベルで現れる各頂点51を基準の頂点51Bとした場合、
(b)グループGAに属する各頂点51を基準の頂点51Bとした場合、
(c)グループGCに属する各頂点51を基準の頂点51Bとした場合、
(d)グループGBに属する各頂点51を基準の頂点51Bとした場合について、
基準とする各頂点51Bに隣接する頂点51の位置を説明する。
【0055】
以下の説明において、演算子「%」は「剰余」の計算を意味する。また、「Ju」及び「Jd」は次の関係を満たす。
Ju=Ni+1/5*{j/(Ni/5)}+j%(Ni/5)
Jd=Ni−1/5*{j/(Ni/5)}+j%(Ni/5)
【0056】
(a)の場合について説明する。
測地ドーム50の北極点に対しては、基準となる頂点51B(北極点)に隣接する頂点51に対応する頂点セル71の位置は次の5つである。
【0057】
(1,0)、(1,1)、(1,2)、(1,3)、(1,4)
【0058】
測地ドーム50の南極点に対しては、基準となる頂点51B(南極点)に隣接する頂点51に対応する頂点セル71の位置は次の5つである。
(RL−1,0)、(RL―1,1)、(RL―1,2)、
(RL−1,3)、(RL―1,4)
【0059】
0分割レベルの北極点及び南極点以外の各頂点51に対しては、基準となる頂点51Bの頂点セル71の位置がi=2L且つj%2L=0を満たす場合、頂点51Bに隣接する頂点51の頂点セル71の位置は、次の5つの位置である。
(i―1,Ni―1/5*(j/(Ni/5))、(i,(j−1+Ni)%Ni)、
(i,j+1)、(i+1,(j−1+Ni+1)%Ni+1)、(i+1,j)
【0060】
また、基準となる頂点51Bの頂点セル71の位置がi=2L+1且つj%2L=0を満たす場合には、頂点51Bに隣接する頂点51の頂点セル71の位置は、次の5つの位置である。
(i―1,j)、(i−1,j+1)、(i,(j−1+Ni)%Ni)、
(i,j+1)、(i+1,Ni+1/5*(j/(Ni/5)))
【0061】
(b)の場合について説明する。
0分割レベルの測地ドーム50に属する一つの頂点51と北極点とをつなぐ測地線上の頂点51に対しては、基準となる頂点51Bの頂点セル71の位置がj%(Ni/5)=0を満たす場合には、頂点51Bに隣接する頂点51の頂点セル71の位置は、次の6つである。
(i−1,Ju)、(i,(j−1+Ni)%Ni)、
(i,j+1)、(i+1,(Jd−1+Ni+1)%Ni+1)、
(i+1,Jd)、(i+1,Jd+1)
【0062】
頂点51Bの頂点セル71の位置がi=2Lで且つj%2Lが0でない場合には、頂点51Bに隣接する頂点51の位置は、次の6つである。
(i−1,Ju)、(i−1,(Ju−1+Ni−1)%Ni−1)、
(i,(j−1+Ni)%Ni)、(i,(j+1)%Ni)、
(i+1,j)、(i+1,(j−1+Ni+1)%Ni+1)
【0063】
グループGAに属しており上述した条件を満たす頂点51以外の頂点51に対しては、基準となる各頂点51Bに隣接する頂点51の頂点セル71の位置は、次の6つである。
(i−1,Ju)、(i−1,(Ju−1+Ni−1)%Ni−1)、
(i,(j−1+Ni)%Ni)、(i,(j+1)%Ni)、
(i+1,Jd)、(i+1,(Jd+1)%Ni+1)
【0064】
(c)の場合について説明する。
0分割レベルの測地ドーム50に属する一つの頂点51と南極点とをつなぐ測地線上の頂点51に対しては、基準となる頂点51Bの頂点セル71の位置がj%(Ni/5)=0を満たす場合、頂点51Bに隣接する頂点51の頂点セル71の位置は、次の6つである。
(i−1,(Ju−1+Ni−1)%Ni−1)、(i−1,Ju)、
(i−1,Ju+1)、(i,(j−1+Ni)%Ni)、
(i,j+1)、(i+1,Jd)
【0065】
グループGCに属しており上記条件を満たす頂点51以外の頂点51に対して、基準となる各頂点51Bに隣接する頂点51の頂点セル71の位置は、次の6つである。
(i−1,(Ju+1)%Ni−1)、(i−1,Ju)、
(i,(j−1+Ni)%Ni)、(i,j+1)、
(i+1,Jd)、(i+1,(Jd−1+Ni+1)%Ni+1)、
【0066】
(d)の場合について説明する。
グループGBに属する各頂点51を基準の頂点51Bとした場合、基準となる各頂点51Bに隣接する頂点51の頂点セル71の位置は次の通りである。
(i−1,(j+1)%Ni−1)、(i−1,j)、
(i,(j−1+Ni)%Ni)、(i,(j+1)%Ni)、
(i+1,j)、(i+1,(j−1+Ni+1)%Ni+1)
【0067】
図9は、2次配列構造の生成工程を示す図面である。2次元配列構造生成部33Bは、中間配列構造70の頂点セル71を行シフト及び列シフトさせて長方形状の2次元配列構造72に変換する。
【0068】
図9(a)に示すように、中間配列構造70における第RL行目の頂点セル71を第0行目の頂点セル71の隣にシフトさせると共に、グループGCの各行の頂点セル71を、第(5・2L)列側に列シフトさせる。続いて、図9(b)に示すように、グループGcの各頂点セル71を、グループGA側に行シフトさせて、図9(c)に示す配列構造を得る。そして、図9(d)に示すように、北極点及び南極点に対応する頂点セル71を消去して2L+1行(5・2L)列の矩形状の2次元配列構造72を生成する。
【0069】
画素値割当て部33Cは、2次元配列構造72の各頂点セル71を一つの四角形画素61とし、各四角形画素61に、対応する頂点51の画素値を割り当てることで、図4に示した長方形画像60を生成する。ここで、頂点51の画素値とは、測地ドーム50の各頂点51に対応する球面画像40の画素の画素値である。
【0070】
上述したように、長方形画像60のデータ構造となる2次元配列構造72は、中間配列構造70の所定の頂点セル71、すなわち、2L+1+1≦i≦RL−1(シフト領域)を満たす各行の頂点セル71が行シフト及び列シフトされたものである。従って、長方形画像60が有する各四角形画素61の位置を、図9(d)又は図4に示したように、ic軸及びjc軸をとり、(ic,jc)で表すと、(ic,jc)と(i,j)との対応関係は次の通りである。
ic<2L−1且つjc>5icである場合、
i=ic+2L+1、j=jc+1
その他の場合、
i=ic+1、j=jc−5ic
【0071】
画素値割当て部33Cは、(ic,jc)と(i,j)との上記対応関係及び頂点セル71と頂点51との対応関係に基づいて、各四角形画素61に対応する頂点51の画素値を割り当てる。
【0072】
画像出力部34は、画像変換部33で生成された長方形画像60又は球面画像生成部32で生成された球面画像40を表示装置、ネットワーク又は外部記憶媒体等に出力する。
【0073】
図10を参照して、画像生成システム10及び画像変換装置30の動作について説明する。
【0074】
撮像装置20の各カメラ21,21で撮影を行い、一対の撮影画像22を取得する(撮影画像取得ステップS10)。これにより、全天周の画像を取得する。
【0075】
画像入力部31が、カメラ21,21で撮影された一対の撮影画像22,22の画像データを受け付ける(画像入力ステップS11)と、球面画像生成部32が、入力された画像データを球面画像40の画像データに変換して、球面画像40を生成する(球面画像生成ステップS12)。球面画像40を表す離散球面41の正六角形画素42の数は、式(6)に基づいて予め設定しておいてもよいし、球面画像40を生成する際に、球面画像生成部32が式(6)に基づいて算出してもよい。
【0076】
次に、画像変換部33が、球面画像40を長方形画像60に変換する(画像変換ステップS13)。具体的には、中間配列構造生成部33Aが、球面画像40を表すための球面41に双対な測地ドーム50に基づいて中間配列構造70を生成する(中間配列構造生成ステップS13A)。次に、2次元配列構造生成部33Bが、中間配列構造70を2次元配列構造72に変換する(2次元配列構造生成ステップS13B)。続いて、画素値割当て部33Cが、2次元配列構造72を構成する頂点セル71に、対応する頂点51の画素値を割り当てて、長方形画像60を生成する(画素値割当てステップS13C)。
【0077】
そして、画像出力部34が、長方形画像60を表示装置又はネットワークなどに出力する(画像出力ステップS14)。
【0078】
画像変換装置30が有する画像入力部31、球面画像生成部32、画像変換部33及び画像出力部34の各機能は、コンピュータが画像変換プログラムを実行することによって実現することができる。画像変換プログラムは、画像変換装置30の記憶部に予め記憶されていてもよいし、コンピュータ読み取り可能記録媒体に記録されていてもよい。画像変換プログラムは、処理を総括するメインモジュールと、コンピュータに、上記の画像入力ステップS11と、球面画像生成ステップS12と、画像変換ステップS13と、画像出力ステップS14とを実行させるためのモジュールを備えるものとすることができる。
【0079】
図11は、実際の撮影画像に基づいた四角形画像の一例を示す図面である。図12は、図11に示した長方形画像60の元になる撮影画像22,22を取得する撮像装置20を示す図面である。図13は、図12に示した撮像装置20で撮影した一対の撮影画像22,22を示す図面である。図12に示した撮像装置20は、2つのカメラ21,21を互いに背中合わせで配置したものである。カメラ21,21は、魚眼レンズ21Aを搭載したオリンパス株式会社製CAMEDIA(登録商標)C-900 ZOOMである。一対の撮影画像22,22の総画素数は、4,915,200画素であり、有効画像領域22cの総画素数は、約1,775,437画素である。よって、長方形画像60の画素数は、式(6)より、9分割レベルの測地ドーム50の頂点51の数に対応し、2,621,440画素である。
【0080】
図11に示すように長方形画像60のみを表示した場合には、撮影画像22,22又は球面画像40を想起することは困難である。しかしながら、中間配列構造70と、長方形画像60を構成する2次元配列構造72との対応関係及び中間配列構造70における隣接する頂点51の位置関係等を用いることにより、球面画像40を復元することが可能である。
【0081】
長方形画像60の画素数は2,621,440画素といったように100万画素程度あるため、上記長方形画像60の生成方法で説明したように、北極点及び南極点に対応する2つの頂点セル41の画素値を削除したとしても、表示画像の質は実質的に変わらない。また、長方形画像60から球面画像40を復元する場合には、北極点及び南極点の画素値を、その周囲の画素に割り当てられた画素値から補間するようにしてもよい。
【0082】
次に、本実施形態で説明した画像変換装置及び撮像システム並びに画像変換方法及び撮像方法の作用効果について、一対の撮影画像22,22をそのまま保存する場合と比較して説明する。
【0083】
2つのカメラ21,21は、全天周の半分をそれぞれ撮影しているため、各カメラ21で取得された一対の撮影画像22,22は、ある視点を中心とした全天周画像を表す。ただし、各撮影画像22は、図2に示したように、有効画像領域22c以外に、オーバーラップ領域22b及び余剰領域22dを有するため、これらをデータ保存すると、有効画像領域22c以外の領域に対してもデータ領域を確保する必要がある。また、一対の撮影画像22,22をそのままデータ保存すると、例えば、これらを球面画像に変換するためには、カメラ21で使用した魚眼レンズ21Aの焦点距離f等といったカメラパラメータ等も一緒に保存する必要が生じてしまう。
【0084】
これに対して、本実施形態では、有効画像領域22c内の画像をオーバーラップ領域22bの画像を利用して、一対の撮影画像22,22を球面画像40に変換している。よって、球面画像40の画像データを利用すれば、各撮影画像22において、有効画像領域22c以外の領域に対してデータ保存する必要がない。また、球面画像40を一度生成することにより、カメラ21で使用した魚眼レンズ21Aの焦点距離f等といったカメラパラメータを保存する必要がない。このように、撮影画像22,22を球面画像40に変換することで、データの保存を省略することができる。
【0085】
更に、球面画像40の球面画像データを、長方形画像60の画像データに変換しているため、データ保存が容易である。また、球面画像40の画像データを長方形画像60の画像データに変換していることで、JPEGなど、これまで2次元画像に対して適用可能は圧縮形式を好適に利用することができる。そして、この長方形画像60は、球面画像40を介して生成しているので、長方形画像60を保存することで、前述したような撮影画像22における実質的に必要でない領域のデータやカメラパラメータ等の保存する必要も省略できる。従って、一対の撮影画像22,22の場合より、全天周の画像をよりコンパクトに保存することが可能である。
【0086】
以上、本発明の第1の実施形態を説明したが、本発明は上記実施形態に限定されない。例えば、2次元配列構造72の生成において、グループGCに属しており、
2L+1+1≦i≦RL−1
を満たす領域をシフト領域として、シフト領域内の各頂点セル71を行シフト及び列シフトさせたが、グループGA内に属しており、
1≦i≦2L
を満たす領域を、シフト領域として実施形態の場合と同様にシフトさせて四角形状の2次元配列構造72を生成してもよい。
【0087】
また、撮影手段の一例として、一対のカメラ21,21を背中合わせで配置したものとした。しかし、例えば、一台のカメラ21を回転させながら異なる方向を撮影するようにしてもよいし、2台以上のカメラ21を用いて全天周の画像を取得してもよい。そして、カメラ21は魚眼レンズ21Aを有するとしたが広角レンズであってもよい。更に、上述したように、一台のカメラ21を回転させることで又は複数のカメラ21で全天周の画像を取得する場合には、広角レンズよりも狭い画角を有するレンズでもよい。
【0088】
画像変換装置30の画像変換部33は、中間配列構造生成部33A、2次元配列構造生成部33B及び画素値割当て部33Cを備えるとしたがこれに限定されない。離散球面41に双対な測地ドーム50の頂点51と頂点セル71との対応関係並びに頂点セル71と四角形画素61との対応関係を画像変換式又は例えばルックアップテーブルとして予めメモリ等に記憶しておくことで、画像変換部33は、四角形画素61の位置を指定することで四角形画素61に画素値を割り当てることができる。
【0089】
上述した画像変換式又はルックアップテーブルを用いた場合、画像変換部33は次のようにして球面画像40を長方形画像60に変換することができる。すなわち、式(3)で決まる分割回数Lに基づいて、nr(=2L+1)行nc(=5・2L)列の平面領域を長方形画像60の画像領域として設定する。この画像領域が、図9(d)に示した2次元配列構造72に対応する。そして、画像変換部33は、長方形画像60の各四角形画素61に対応する球面画像40の画素位置を上述した画像変換式又はルックアップテーブルに基づいて算出して、四角形画素61に所定の画素値を割り当てて長方形画像60を生成する。
【0090】
また、上記実施形態では、画像変換部33は、2次元配列構造72を生成して、各頂点に対応する四角形画素に画素値を割り当てるとしたが、中間配列構造70の生成したときに、頂点セル71に対応する画素値を割り当ててもよい。
【0091】
(第2の実施形態)
次に、図14は、本発明に係る画像生成システムの第2の実施形態の構成を概略的に示す図面である。画像生成システム80は、撮像装置(画像取得手段)20と、画像変換装置90とを備えている。撮像装置20は、第1の実施形態のものと同様であるため、説明を省略する。画像変換装置90は、指示入力部91と、指示判定部92と、拡大・縮小画像生成部93と、透視画像生成部94とを更に備える点で、第1の実施形態の画像変換装置30と相違する。この相違点を中心にして画像変換装置90について説明する。
【0092】
なお、本実施形態でも第1の実施形態の場合と同様に、分割レベルがL(すなわち、分割回数がL回)である測地ドーム50を測地ドーム50Lとも称し、対応する中間配列構造70や長方形画像60についても同様に分割レベルを付した表記方法を採用することもある。
【0093】
指示入力部91は、画像変換装置90の操作者による各種指示の入力を受け付けるものである。指示入力部91の例は、液晶表示パネルなどのタッチパネル形式のものからの指示を受け付けてもよいし、キーボードからの指示を受け付けてもよい。指示入力部91が受け付ける指示の例は、例えば、画像の拡大又は縮小に関する指示や、透視画像の生成指示などである。
【0094】
指示判定部92は、指示入力部91で入力された指示の内容を判定し、指示内容に対応した構成要素にその指示を入力する。例えば、指示判定部92は、指示入力部91で入力された指示が画像の拡大又は縮小に関する指示である場合、その旨を拡大・縮小画像生成部93に入力する。また、指示判定部92は、指示入力部91で入力された指示が透視画像の生成に関する指示である場合、その旨を透視画像生成部94に入力する。
【0095】
拡大・縮小画像生成部93は、中間配列構造生成部93Aと、2次元構造生成部93Bと、画素値割当て部93Cとを有する。
【0096】
拡大・縮小画像生成部93は、指示入力部91で画像の縮小指示が入力された場合、中間配列構造生成部93Aと、2次元構造生成部93Bと、画素値割当て部93Cとにより、画像変換部33で生成された長方形画像60を縮小した縮小画像を生成する。この場合、拡大・縮小画像生成部93は、縮小画像生成部として機能する。
【0097】
また、拡大・縮小画像生成部93は、指示入力部91で画像の拡大指示が入力された場合、中間配列構造生成部93Aと、2次元構造生成部93Bと、画素値割当て部93Cとにより、画像変換部33で生成された長方形画像60を拡大した拡大画像を生成する。この場合、拡大・縮小画像生成部93は、拡大画像生成部として機能する。
【0098】
まず、拡大・縮小画像生成部93が縮小画像生成部として機能する場合について、縮小画像の生成方法について説明する。
【0099】
拡大・縮小画像生成部93は、測地ドーム法において分割回数がL回である測地ドーム50Lに対応する長方形画像60を、分割回数が(L−1)回の場合の画素数に対応する長方形画像に変換することによって、縮小画像を生成する。縮小画像は、測地ドーム法における分割回数を1回分減らしているので、L回分割の場合の長方形画像60Lより画素数が少ない。よって、縮小画像の生成は、長方形画像60をダウンサンプリングしたものに対応する。
【0100】
中間配列構造生成部93Aは、画像変換部33の中間配列構造生成部33Aと同様にして、測地ドーム法における分割回数が(L−1)回の場合の中間配列構造70L−1を生成する。そして、2次元構造生成部93Bは、中間配列構造生成部93Aで生成された中間配列構造70L−1から、画像変換部33の2次元構造生成部33Bと同様にして、縮小画像としての長方形画像60L−1の画素配列構造を生成する。この画素配列構造は、縮小画像としての長方形画像60L−1を構成する四角形画素61の配列構造であり、第1の実施形態における二次元配列構造72L−1に対応する。
【0101】
ここで、説明のために、測地ドーム法による分割回数がL回である場合の中間配列構造70Lにおいて第i行の第j列(jは、0以上Ni以下の整数)にある頂点セル71(又は対応する頂点)の位置を(iL,jL)と表す。また、分割回数がL回である場合の中間配列構造70Lに対応する長方形画像60Lにおいて、中間配列構造70Lの(iL,jL)の位置の頂点セル71に対応する四角形画素61LをSL(iL,jL)と表す。この場合、iL=2iL−1,jL=2L−1が成立する。
【0102】
画素値割当て部93Cは、以下の2つの画素値割当方法の何れかにより縮小画像中の画素、換言すれば、縮小画像となるべき長方形画像60L−1となる画素配列構造内の四角形画素61L−1であるSL−1(iL−1,jL−1)に画素値を割り当てる。
【0103】
(縮小画像生成における第1の画素割当方法)
この方法では、画素値割当て部93Cは、iL=2iL−1,jL=2L−1の関係に基づいて、SL−1(iL−1,jL−1)に、分割回数がL回である長方形画像60L中の画素であるSL(2iL−1,2jL−1)の画素値を割り当てる。
【0104】
(縮小画像生成における第2の画素割当方法)
この方法では、画素値割当て部93Cは、四角形画像61L−1であるSL−1(iL−1,jL−1)の画素値をVL−1とし、分割回数がL回である長方形画像60L中の四角形画素61LであるSL(2iL−1,2jL−1)の画素値をVLとしたとき、式(8)に基づいて、VL−1を算出する。
【数8】
式(8)中、Mは、L回分割に対応する測地ドーム50Lにおいて、対応する中間配列構造70Lの(2iL−1,2jL−1)の位置の頂点セル71の対応頂点に隣接する隣接頂点の個数であり、VmLは、各隣接頂点の画素値である。よって、式(8)では、分割回数が(L−1)回である測地ドーム50L−1内の各頂点番号に対応する画素の画素値を、分割回数がL回である測地ドーム50Lにおける対応する頂点に隣接する頂点の画素値の影響を考慮して算出していることになる。
【0105】
なお、中間配列構造70Lにおける位置(2iL−1,2jL−1)で指定される頂点セル71の対応頂点に隣接する隣接頂点の画素値は、第1の実施形態において(a)〜(d)に場合分けして説明した頂点51Bに隣接する頂点51の位置の算出方法に基づいて算出された頂点セル71に対応する長方形画像60Lの四角形画素61の画素値とすればよい。
【0106】
L=2の場合について具体的に説明する。ダウンサンプリング前の長方形画像602に対応する測地ドーム502及び中間配列構造702は、図5(c)及び図7(c)に示すものであり、測地ドーム法による(L−1)回分割に対応する測地ドーム501及び中間配列構造701は、図5(b)及び図7(b)に示すものである。図5(b)に示す頂点5114に対応する画素値を算出する場合を例にして説明すると、画素値割当て部93Cは、頂点5114に対応する画素値を図5(c)における頂点5144,5149,5157,5156,5155,5148に対応する画素値の影響を考慮して算出する。
【0107】
なお、図5(a)〜図5(c)から理解されるように、L=0場合の12個の頂点51では、頂点51の周囲の隣接頂点の個数は5個であり、L=1以上の場合に新しく生成される頂点51に対する隣接頂点の数は6個である。
【0108】
次に、拡大・縮小画像生成部93が拡大画像生成部として機能する場合について、拡大画像の生成方法について説明する。
【0109】
拡大・縮小画像生成部93は、測地ドーム法において分割回数がL回である測地ドームに対応する長方形画像60Lを、分割回数が(L+1)回の場合の画素数に対応する長方形画像に変換することによって、拡大画像を生成する。拡大画像は、測地ドーム法における分割回数を1回分増やしているので、L回分割の場合の長方形画像60Lより画素数が多い。よって、拡大画像の生成は、長方形画像60Lをアップサンプリングしたものに対応する。
【0110】
中間配列構造生成部93Aは、画像変換部33の中間配列構造生成部33Aと同様にして、測地ドーム法における分割回数が(L+1)回の場合の中間配列構造70L+1を生成する。そして、2次元構造生成部93Bは、中間配列構造生成部93Aで生成された中間配列構造70L+1から、画像変換部33の2次元構造生成部33Bと同様にして、拡大画像としての長方形画像60L+1の四角形画素61の画像配列構造を生成する。この画素配列構造は、縮小画像としての長方形画像60Lを構成する四角形画素61の配列構造であり、第1の実施形態における二次元配列構造72Lに対応する。
【0111】
ここで、縮小画像の場合の説明と同様に、測地ドーム法による分割回数がL回である場合の中間配列構造70Lにおいて第i行の第j列(jは、0以上Ni以下の整数)の位置を(iL,jL)と表す。また、分割回数がL回である場合の中間配列構造70Lに対応する長方形画像60Lにおいて、中間配列構造70Lの(iL,jL)の位置の頂点セル71に対応する四角形画素61LをSL(iL,jL)と表す。この場合、iL+1=2iL,jL+1=2Lが成立する。
【0112】
拡大画像における四角形画素61が、L回分割の測地ドーム50Lの頂点に一対一で対応する場合、拡大画像となるべきが画素配列構造の四角形画素61であるSL+1(iL+1,jL+1)の画素値を、分割回数がL回である長方形画像60LにおけるSL(2iL,2jL)の画素値とする。
【0113】
また、拡大画像における四角形画素61が、(L+1)回分割の測地ドーム50L+1において、L回分割の測地ドーム50Lの頂点51のうち隣接する2つの頂点51の間に生成された新たな頂点51に対応する場合、新たな頂点51に対応する四角形画素61の画素値は、次の2つの画素値割当方法のいずれかの方法で割り当てることができる。
【0114】
(新規生成画素の第1の画素割当方法)
この方法では、新規生成された頂点51に対応する四角形画素61の画素値を、その頂点51に隣接する2つの頂点51,51に対応する四角形画素61の画素値の平均値として算出する。すなわち、新規生成画素である四角形画素61の画素値をVnewL+1とし、隣接する2つの頂点51,51に対応する四角形画素61の画素値を、Vn1L及びVn2Lとすると、式(9)に基づいてVnewL+1を算出する。
【数9】
【0115】
L=1の場合について具体的に説明する。アップサンプリング前の長方形画像601に対応する測地ドーム501及び中間配列構造701は、図5(b)及び図7(b)に示すものであり、測地ドーム法による(L+1)回分割に対応する測地ドーム502及び中間配列構造702は、図5(c)及び図7(c)に示すものである。
【0116】
図5(c)に示す測地ドーム502が有する頂点51のうち、図5(b)に示す測地ドーム501と同じの頂点番号を有する頂点5114に対応する画素配列構造の四角形画素61には、頂点5114に画素値を割り当てる。一方、測地ドーム502において新たに生成された頂点5156に対応する四角形画素61の画素値を算出する際、測地ドーム501の頂点5114,513に対応する画素値の平均値として算出する。ここでは、測地ドーム502の頂点5114及び頂点5156について説明したが、他の頂点51に対しても同様である。
【0117】
なお、拡大画像を生成する場合においても、中間配列構造70における位置(2iL,2jL)で指定される頂点セル71の対応頂点に隣接する隣接頂点の画素値は、第1の実施形態において(a)〜(d)に場合分けして説明した頂点51Bに隣接する頂点51の位置の算出方法に基づいて算出された頂点セル71に対応する長方形画像60Lの四角形画素61の画素値とすればよい。これは、後述する第2の画素値割当て方法の場合も同様である。
【0118】
(新規生成画素の第2の画素値割当方法)
この方法では、新規生成された頂点51に対応する四角形画素61の画素値を、VnewL+1とした場合、VnewL+1を、式(10)により算出する。
【数10】
式(10)中、Vn1L及びVn2Lは、L回分割の測地ドーム50Lの頂点51のうち、新規生成頂点51に隣接する2つの頂点51,51の画素値であり、Vt1L及びVt2Lは、L回分割の測地ドーム50Lの頂点51のうち、新規生成頂点51に隣接する2つの頂点51,51のいずれにも隣接する2つの頂点51,51の画素値である。
【0119】
L=1の場合について具体的に説明する。前述したように、アップサンプリング前の長方形画像601に対応する測地ドーム501及び中間配列構造701は、図5(b)及び図7(b)に示すものであり、測地ドーム法による(L+1)回分割に対応する測地ドーム502及び中間配列構造702は、図5(c)及び図7(c)に示すものである。
【0120】
図5(c)に示す測地ドーム502が有する頂点51において、図5(b)に示す測地ドーム501と同じ頂点番号を有する頂点5114に対応する長方形画像602の四角形画素61には、頂点5114の画素値を割り当てる。
【0121】
また、図5(b)及び図5(c)を比較すれば、例えば、頂点5114及び頂点513との間に頂点5156が生成されており、頂点5156は、L回分割時に現れている頂点51である頂点5114及び頂点513との間に位置する。この場合、頂点5156に対して、頂点5114及び頂点513が上記隣接する2つの頂点51,51に対応する。そして、頂点5119及び頂点5118が、上記頂点5114及び頂点513のいずれにも隣接する頂点51である。この場合、頂点5156は、L回分割時の測地ドーム501において頂点5114、頂点513、頂点5119及び頂点5118で形成される四角形内に位置している。式(10)は、この4つ頂点5114,513,5119,5118の画素値を考慮して新規生成の頂点51に対応する四角形画素61の画素値を決定していることになる。
【0122】
具体的には、式(10)において、Vn1L及びVn2Lは、頂点5114及び頂点513の画素値であり、Vt1L及びVt2Lは頂点5119及び頂点5118の画素値である。ここでは、頂点5156の画素値を算出する場合について説明したが、測地ドーム502において新たに生成される頂点51については同様である。
【0123】
透視画像生成部94は、長方形画像60から透視画像を生成する。長方形画像60は、測地ドーム50の別表現でもあり、長方形画像60の四角形画素61と、測地ドーム50における頂点51の位置との対応関係をルックアップテーブルとして格納しておけば、長方形画像60から容易に測地ドーム50又はその測地ドーム50と双対な球面画像40を生成できる。よって、説明の都合上、球面画像40から透視画像を生成する場合について説明する。
【0124】
透視画像生成部94は、フレーム形成部94Aと、画素値割当部94Bとを有する。図15を利用して、透視画像生成部94による透視画像の生成方法について説明する。図15では、球面画像40と透視画像との対応関係を示している。
【0125】
フレーム形成部94Aは、図15に示すように、透視画像110となる複数の画素101が矩形状に配列されて構成される画像フレーム100を形成する。
【0126】
画素値割当て部94Bは、画像フレーム100の各画素101を球面画像40上に投影し、対応する投影点の画素値を画像フレーム101の画素に割り当てることで、透視画像100を生成する。ここでは、画像フレーム100の画素pの投影点を投影点mと称する。
【0127】
画素値割当部94Bは、投影点mが測地ドーム50の頂点51に対応する場合には、その頂点51の画素値を画素pに割り当てる。
【0128】
画素値割当部94Bは、投影点mが測地ドーム50の頂点41に対応しない場合、例えば、図16に示すように、投影点mが3つの頂点5114,5113,5118で形成される三角形内に位置する場合、次の何れかの方法により投影点m、すなわち、画素pに画素値を割り当てる。図16は、図15に示した投影点mを有する球面画像40に対応する測地ドーム50の一例の模式図である。
【0129】
(透視画像用の第1の画素値割当方法)
画素値割当て部94Bは、投影点mに最も近い頂点51(以下、最近接頂点と称す)の画素値を画素pの画素値として割り当てる。最近接頂点51は、例えば、球面画像40を表示するための3次元座標系(図15に示すxsyszs座標系)において投影点mの位置ベクトルと、各頂点51の位置ベクトルの内積をとり、最も内積値の大きい頂点を最近接頂点とすることで探索できる。
【0130】
図15に示すxsyszs座標系において、zs軸は、球面画像40を地球とみなした場合、すなわち、地球座標系表現における北極点(第1の極)と南極点(第2の極)とを通る軸であり、zs軸上の北極点と南極点との中点を原点とした3次元座標系である。
【0131】
(透視画像用の第2の画素値割当方法)
画素値割当て部94Bは、投影点mを囲む3つの頂点51,51,51の画素値を用いて、投影点mの画素値を算出し、画素pに割り当てる。具体的に説明する。
【0132】
球面画像40を表すためのxsyszs座標系おいて、球面画像40に対応する測地ドーム50上の任意の点kに対するzs軸及びxs軸からの偏角をそれぞれθk及びφkとする。すなわち、測地ドーム50上の点を球面座標で表す。この場合、投影点mの画素値Vmを次式で表すとする。
【数11】
式(11)において、θm、φmは投影点mに対する偏角θ、φであり、係数a,b,cは、以下の3つの式に基づいて算出される値である。
【数12】
式(12a)、式(12b)及び式(12c)において、(θt1,φt1)、(θt2,φt2)及び(θt3,φt3)は、それぞれ投影点mを囲む3つの頂点51,51,51の位置の偏角θ及び偏角φであり、それら3つの頂点51,51,51の位置を示す球座標である。また、Vt1、Vt2及びVt3は、(θt1,φt1)、(θt2,φt2)及び(θt3,φt3)の位置の頂点51の画素値である。
【0133】
上記画像変換装置90では、図10に示した画像変換方法において、ステップS13の後に、指示入力部91から所定の指示を受け付けると、判定部92が指示内容を判定して、指示内容に応じた処理を実行する。
【0134】
例えば、指示内容がステップS13で生成した長方形画像60から縮小画像を生成する場合には、拡大・縮小画像生成部93が前述した方法により縮小画像を生成する。この際、拡大・縮小画像生成部93は、予め設定されている縮小画像用の第1及び第2の画素値割当て方法に基づいて縮小画像を生成する。
【0135】
また、指示内容がステップS13で生成した長方形画像60から拡大画像を生成する場合には、拡大・縮小画像生成部93が前述した方法により拡大画像を生成する。この際、拡大・縮小画像生成部93は、予め設定されている新規生成画素の第1及び第2の画素値割当て方法に基づいて拡大画像を生成する。
【0136】
更に、長方形画像60から透視画像100を生成する旨である場合には、透視画像生成部94が前述した方法により透視画像100を生成する。この際、透視画像生成部94は、予め設定されている透視画像100用の第1及び第2の画素値割当て方法に基づいて透視画像100を生成する。なお、透視画像生成部94が透視画像100を生成するための長方形画像60は、拡大・縮小画像生成部93で生成された縮小画像又は拡大画像としての長方形画像60であってもよいし、画像変換部33で生成され拡大又は縮小されていない長方形画像60であってもよい。これらは、指示入力部91で入力され判定部92で判定された指示内容に基づいて実行することができる。
【0137】
そして、画像変換装置90では、ステップ13の後に、上述した一つ又は複数の処理を実行した後に、ステップ14を実行し、画像を出力することができる。
【0138】
以上説明した画像変換装置90は、拡大・縮小画像生成部93を更に備えることで、画像変換部33で生成せた長方形画像60を拡大又は縮小し、新たな長方形画像60とすることができる。長方形画像60は、球面画像40に対応するので、画像変換装置90は、球面画像40を拡大又は縮小することができることになる。この点について、実験例を参照して説明する。
【0139】
図17(a)は、拡大・縮小画像生成部93において、上記(縮小画像の第1の画素値割当方法)を用いて長方形画像60を縮小した画像である。図17(b)は、図17(a)に示した縮小画像としての長方形画像60の球面画像の一例である。また、図18(a)は、拡大・縮小画像生成部93において、上記(縮小画像第2の画素値割当方法)を用いて長方形画像60を縮小した画像である。図18(b)は、図18(a)に示した縮小画像としての長方形画像60の球面画像の一例である。縮小前の長方形画像60は、測地ドーム法での分割回数Lを7回とした点以外は、図11に示した長方形画像60を形成する場合と同様にして形成した。縮小前の長方形画像60の画素数は、640×256=163,840画素である。
【0140】
拡大・縮小画像生成部93を利用することで、図17(a),(b)及び図18(a),(b)に示す縮小した長方形画像60を得ることができる。なお、図17(a)及び図18(a)に示す長方形画像60の画素数は、320×128画素である。
【0141】
図17(a)と図18(a)及び図17(a)と図18(b)とをそれぞれ対比すると、第2の画素値割当方法を採用した方が、より画素値の変化が画像を得られることがわかる。
【0142】
また、拡大・縮小画像生成部93による縮小画像の生成を反復することで、図19(a)〜図19(e)に示すように階層的に画像の大きさの異なる複数の長方形画像60を生成することも可能である。図19(a)〜図19(e)は、拡大・縮小画像生成部93において、第2の画素値割当方法を採用して画像を順次縮小した場合の図である。
【0143】
図20(a)は、拡大・縮小画像生成部93において、上記(新規生成画素の第1の画素値割当方法)を用いて長方形画像60を拡大した画像である。図20(b)は、図20(a)に示した拡大画像としての長方形画像60の球面画像の一例である。また、図21(a)は、拡大・縮小画像生成部93において、上記(新規生成画素の第2の画素値割当方法)を用いて長方形画像60を拡大した画像である。図21(b)は、図21(a)に示した拡大画像としての長方形画像60の球面画像の一例である。拡大前の長方形画像60は、測地ドーム法での分割回数Lを7回とした点以外は、図11に示した長方形画像60を形成する場合と同様にして形成した。拡大前の長方形画像60の画素数は、640×256=163,840画素である。
【0144】
拡大・縮小画像生成部93を利用することで、図20(a),(b)及び図21(a),(b)に示すように、長方形画像60を拡大した長方形画像60を得ることができる。なお、図20(a)及び図21(a)に示す長方形画像60の画素数は、1280×512画素である。
【0145】
図20(a)と図21(a)及び図20(b)と図21(b)とをそれぞれ対比すると、第2の画素割当方法を採用した方が、より画素値の変化がなめらかな画像を得られることがわかる。
【0146】
更に、画像変換装置90は、透視画像生成部94を備えているので、生成した長方形画像60を透視画像として画像出力部34に出力することができる。その結果、画像変換装置90の操作者は、透視画像を表示装置などでみることが可能である。これは、拡大・縮小画像生成部93によって、拡大・縮小された長方形画像60に対しても同様である。この点について、実験例を参照して説明する。図22(a)及び図22(b)は、透視画像生成部94により生成した図11に示した長方形画像60の一部の透視画像である。図22(a)は、画素値の割当て方法を透視画像用の第1の画素値割当て方法を採用した場合の図であり、図22(b)は、画素値の割当て方法として、透視画像用の第2の画素値割当て方法を採用した場合の図である。図22(a)及び図22(b)に示すように、透視画像生成部94により、透視画像100を生成できることがわかる。そして、図22(a)と図22(b)を対比すると、第2の画素割当方法を採用した方が、より画素値の変化がなめらかな画像を得られることがわかる。
【0147】
次に、コンピュータグラフィックス分野における環境マップとの関係に基づいて、画像変換装置90及び画像変換方法の作用効果について説明する。
【0148】
バーチャルリアリティ環境の構築においては、いわゆる環境マップが広く使用されている。このような環境マップは、3次元環境でのある位置(点)から周囲を観測した全天周画像に対応する。そして、周囲の環境が球面に投影された球面画像は環境マップに対応する。画像変換装置90では、球面画像を長方形画像60に変換しており、この際、第1の実施形態で説明したように、SCVT(Sperical Centroidal Voronoi Tessellation)画像である環境マップとしての離散的な球面画像40を元に長方形画像60を生成している。よって、長方形画像60は全天周画像としての環境マップである。また、長方形画像60はSCVT画像と対応しているので、以下では、環境マップである長方形画像60をSCVTマップとも称す。
【0149】
コンピュータグラフィックス分野では、従来、球状環境マップやキュービック環境マップが知られている。球状環境マップは、周囲を2次元画像に写し込んだものであり、例えば、ミラーボールをある所定の方向から正投影のカメラで写した場合の画像に対応する。また、キュービック環境マップは、ある点をその中心とする立方体を想定し、中心点から立方体の各面への投影画像を各面にマッピングしたものである。
【0150】
ここで、このような環境マップにおいて、視点から任意の方向をみた場合における画素の最大立体角と最小立体角の比をサンプリングレートとする。
【0151】
球状環境マップ及びキュービック環境マップでは、3次元環境を2次元に移し込んでいるため、画素も一様にはなりにくい。一方、長方形画像60に対応するSCVT画像では球面画像を離散化して表しているので画素の大きさがほぼ一様でサンプリングレートがより小さくなる。また、球面環境マップでは、特異点を含むことが知られている。一方、SCVTマップでは、このような特異点は存在しない。
【0152】
更に、画像変換装置90及びそれを利用した画像変換方法では、長方形画像60(SCVT画像)を拡大・縮小画像変換部93を用いて、拡大・縮小することができるので、バーチャルリアリティ環境において、環境として表示される画像の拡大・縮小に対応することができる。
【0153】
また、画像変換装置90及びそれを利用した画像変換方法では、SCVT画像を長方形画像60として表しているので、第1の実施形態で説明したように、データ保存が容易である。また、JPEGなど、これまで2次元画像に対して適用可能は圧縮形式を好適に利用することができる。そして、長方形画像60は、SCVT画像としての球面画像40を介して生成しているので、長方形画像60を保存することで、撮影画像22における実質的に必要でない領域のデータやカメラパラメータ等の保存する必要も省略できる。従って、一対の撮影画像22,22の場合より、全天周の画像をよりコンパクトに保存することが可能である。
【0154】
以上、第2の実施形態について説明したが、本発明は、上記実施形態にも限定されず、第1の実施形態で例示したような変形も、本実施形形態において可能である。更に、図14に示した実施形態では、画像変換装置90は、拡大・縮小画像生成部93を有するとして、拡大画像及び縮小画像の両方を形成可能としている。しかしながら、上述した拡大画像のみを生成する機能を有する拡大画像生成部のみを備えていてもよいし、上述した縮小画像のみを生成する機能を有する縮小画像生成部のみを備えていてもよい。更に、拡大・縮小画像生成部93の代わりに、拡大画像生成部及び縮小画像生成部を有する構成とすることもできる。また、拡大又は縮小画像を有さずに、透視画像を生成する透視画像生成部のみ、第1の実施形態の構成に対して更に備える構成とすることもできる。
【0155】
また、図14に示した実施形態では、指示入力部及び判定部は、拡大・縮小画像生成部や透視画像生成部といった構成要素に対する指示の入力及び指示の判定をする機能を有するものとして説明した。しかしながら、指示入力部は、例えば、球面画像生成部、画像変換部及び出力部に対する操作者の入力を受け付け、判定部は、指示入力部で入力された指示を判定し、指示内容に応じた構成要素に指示を入力するようにしてもよい。この点は、第1の実施形態においても同様である。
【産業上の利用可能性】
【0156】
本発明は、全天周画像が必要とされる移動ロボット、監視カメラ、レスキュー道具等に適用可能である。また、本発明は、コンピュータグラフィックスにおける環境マップなどに適用可能である。
【符号の説明】
【0157】
10…画像生成システム、20…撮像装置(画像取得手段)、22…撮影画像、30…画像変換装置、32…球面画像生成部、33…画像変換部、40…球面画像、41…離散球面、42…正六角形画素(測地ドームの頂点に対応する画素)、50…測地ドーム、51…測地ドームの頂点、60…長方形画像、61…四角形画素、70…中間配列構造、72…2次元配列構造、80…画像生成システム、90…画像変換装置、93…拡大・縮小画像生成部(縮小画像生成部、拡大画像生成部)、94…透視画像生成部。
【特許請求の範囲】
【請求項1】
複数の画素で離散的に表された離散球面に、複数の撮影画像が投影された球面画像を生成する球面画像生成部と、
前記球面画像を長方形画像に変換する画像変換部と、
を備え、
前記離散球面を表す複数の前記画素は、球面を測地ドーム法で分割した測地ドームの各頂点に対応し、
前記長方形画像は、複数の四角形画素を有し、
各前記四角形画素の画素値は、前記測地ドームの一経線上の複数の頂点をそれぞれ基点として、複数の前記基点が第1の方向に並べられ各前記基点と同一緯度の頂点が各前記基点に対して前記第1の方向に直交する第2の方向に並べられた中間配列構造から、前記測地ドームの第1及び第2の極に対応する頂点を削除すると共に前記中間配列構造の所定の頂点を前記第1及び第2の方向に移動させることによって前記中間配列構造が有する複数の前記頂点が四角形状に並べられた2次元配列構造において、各前記四角形画素の位置の前記頂点に対応する前記球面画像の画素の画素値である、
ことを特徴とする画像変換装置。
【請求項2】
前記中間配列構造は、前記第1及び第2の方向をそれぞれ行方向及び列方向としたとき、第i行(iは0以上3・2L以下の整数であり、Lは、測地ドーム法による球面の分割回数)の列数Niが、式(1)で表される配列構造を有しており、
前記2次元配列構造は、前記中間配列構造の第(2L+1+1)行から第(RL−1)行までの領域をシフト領域として、前記シフト領域内の各頂点を第(5×2L)列側に向けて列シフトさせた後、前記シフト領域を、第(2L+1+1)行が第0行に一致するように行シフトさせると共に、前記中間配列構造における第0行及び前記第RL行に対応する頂点を削除して構成されている、
ことを特徴とする請求項1記載の画像変換装置。
【数1】
【請求項3】
複数の撮影画像を取得する画像取得手段と、
前記画像取得手段によって取得された複数の撮影画像が、複数の画素で離散的に表された離散球面に投影された球面画像を生成する球面画像生成部と、
前記球面画像を長方形画像に変換する画像変換部と、
を備え、
前記離散球面を表す複数の前記画素は、球面を測地ドーム法で分割した測地ドームの各頂点に対応し、
前記長方形画像は、複数の四角形画素を有し、
各前記四角形画素の画素値は、前記測地ドームの一経線上の複数の頂点をそれぞれ基点として、複数の前記基点が第1の方向に並べられ各前記基点と同一緯度の頂点が各前記基点に対して前記第1の方向に直交する第2の方向に並べられた中間配列構造から、前記測地ドームの第1及び第2の極に対応する頂点を削除すると共に前記中間配列構造の所定の頂点を前記第1及び第2の方向に移動させることによって前記中間配列構造が有する複数の前記頂点が四角形状に並べられた2次元配列構造において、各前記四角形画素の位置の前記頂点に対応する前記球面画像の画素の画素値である、
ることを特徴とする画像生成システム。
【請求項4】
複数の撮影画像を、球面を測地ドーム法で分割して形成される測地ドームの各頂点に対応する画素で表した離散球面に投影することによって球面画像を生成するステップと、
前記測地ドームの一経線上の複数の頂点をそれぞれ基点として、複数の前記基点が第1の方向に並べられ各前記基点と同一緯度の頂点が各前記基点に対して前記第1の方向に直交する第2の方向に並べられてなる中間配列構造を生成するステップと、
前記中間配列構造に含まれる前記測地ドームの第1及び第2の極に対応する頂点以外の頂点のうち所定の頂点を前記第1及び第2の方向に移動させることによって、前記測地ドームの第1及び第2の極に対応する頂点以外の頂点が四角形状に並べられた2次元配列構造を生成するステップと、
前記2次元配列構造を構成する各前記頂点を四角形画素として、各前記四角形画素の位置の前記頂点に対応する前記球面画像の画素の画素値を割り当てて長方形画像を生成するステップと、
を備えることを特徴とする画像変換方法。
【請求項5】
前記中間配列構造は、前記第1及び第2の方向をそれぞれ行方向及び列方向としたとき、第i行(iは、0以上3・2L以下の整数)の列数Niが、式(2)で表される構造を有しており、
前記2次元配列構造を生成するステップでは、前記中間配列構造の第(2L+1+1)行から第(RL−1)行までの領域をシフト領域として、前記シフト領域内の各頂点を第(5×2L)列側に向けて列シフトさせた後、前記シフト領域を第(2L+1+1)行が第0行に一致するように行シフトさせると共に、前記中間配列構造における第0行及び前記第RL行に対応する頂点を削除して前記2次元配列構造を生成する、
ことを特徴とする請求項5記載の画像変換方法。
【数2】
【請求項6】
複数の撮影画像を取得するステップと、
取得された複数の前記撮影画像を、球面を測地ドーム法で分割した測地ドームの各頂点に対応する画素とした離散球面に投影することによって球面画像を生成するステップと、 前記測地ドームの一経線上の複数の頂点をそれぞれ基点として、複数の前記基点が第1の方向に並べられ各前記基点と同一緯度の頂点が各前記基点に対して前記第1の方向に直交する第2の方向に並べられてなる中間配列構造を生成するステップと、
前記中間配列構造に含まれる前記測地ドームの前記第1及び第2の極に対応する頂点以外の頂点のうち所定の頂点を前記第1及び第2の方向に移動させることによって、前記測地ドームの第1及び第2の極に対応する頂点以外の頂点が四角形状に並べられた2次元配列構造を生成するステップと、
前記2次元配列構造を構成する各前記頂点を四角形画素として、各前記四角形画素の位置の前記頂点に対応する前記球面画像の画素の画素値を割り当てて長方形画像を生成するステップと、
を備えることを特徴とする画像生成方法。
【請求項7】
前記測地ドーム法による分割回数がL回の前記長方形画像を前記分割回数が(L−1)回の長方形画像に変換して縮小画像を生成する縮小画像生成部を更に備えることを特徴とする請求項2記載の画像変換装置。
【請求項8】
前記測地ドーム法による分割回数がL回の前記長方形画像を前記分割回数が(L+1)回の長方形画像に変換して拡大画像を生成する拡大画像生成部を更に備えることを特徴とする請求項2又は7記載の画像変換装置。
【請求項9】
前記長方形画像から透視画像を生成する透視画像生成部を更に備え、
前記透視画像生成部は、生成すべき前記透視画像の画素配列構造を生成し、前記長方形画像に対応する前記球面画像上における点であって前記画素配列構造内の画素pに対応する点をmとし、点mの座標を(θ,φ)(θは、前記測地ドームの第1及び第2の極を結ぶ線をzs軸とし、zs軸上の前記第1及び第2の極の間の中点を原点とし、zs軸に直交する2つの軸をxs軸及びys軸として有するxsyszs座標系において前記zs軸に対する角度であり、φはxs軸に対する角度である)とした場合に、前記画素pの画素値を、前記測地ドームにおいて、前記点mを囲む3つの頂点の画素値に基づいて算出することによって、前記透視画像を生成することを特徴とする請求項1,2,7,8の何れか一項に記載の画像変換装置。
【請求項10】
前記測地ドーム法による分割回数がL回の前記長方形画像を前記分割回数が(L−1)回の長方形画像に変換して縮小画像を生成するステップを更に備えることを特徴とする請求項5記載の画像変換方法。
【請求項11】
前記測地ドーム法による分割回数がL回の前記長方形画像を前記分割回数が(L+1)回の長方形画像に変換して拡大画像を生成するステップを更に備えることを特徴とする請求項5記載の画像変換方法。
【請求項12】
前記長方形画像から透視画像を生成するステップを更に備え、
前記透視画像を生成するステップでは、生成すべき前記透視画像の画素配列構造を生成し、前記長方形画像に対応する前記球面画像上における点であって前記画素配列構造内の画素pに対応する点をmとし、点mの座標を(θm,φm)(θmは、前記測地ドームの第1及び第2の極を結ぶ線をzs軸とし、zs軸上の前記第1及び第2の極の間の中点を原点とし、zs軸に直交する2つの軸をxs軸及びys軸として有するxsyszs座標系において、原点に対する点mの方向と前記zs軸となす角度であり、φmは、原点に対する点mの方向に対するxs軸となす角度である)とした場合に、前記画素pの画素値を、前記測地ドームにおいて、前記点mを囲む3つの頂点の画素値に基づいて算出することによって、前記透視画像を生成することを特徴とする請求項4,5,10,11の何れか一項に記載の画像変換方法。
【請求項1】
複数の画素で離散的に表された離散球面に、複数の撮影画像が投影された球面画像を生成する球面画像生成部と、
前記球面画像を長方形画像に変換する画像変換部と、
を備え、
前記離散球面を表す複数の前記画素は、球面を測地ドーム法で分割した測地ドームの各頂点に対応し、
前記長方形画像は、複数の四角形画素を有し、
各前記四角形画素の画素値は、前記測地ドームの一経線上の複数の頂点をそれぞれ基点として、複数の前記基点が第1の方向に並べられ各前記基点と同一緯度の頂点が各前記基点に対して前記第1の方向に直交する第2の方向に並べられた中間配列構造から、前記測地ドームの第1及び第2の極に対応する頂点を削除すると共に前記中間配列構造の所定の頂点を前記第1及び第2の方向に移動させることによって前記中間配列構造が有する複数の前記頂点が四角形状に並べられた2次元配列構造において、各前記四角形画素の位置の前記頂点に対応する前記球面画像の画素の画素値である、
ことを特徴とする画像変換装置。
【請求項2】
前記中間配列構造は、前記第1及び第2の方向をそれぞれ行方向及び列方向としたとき、第i行(iは0以上3・2L以下の整数であり、Lは、測地ドーム法による球面の分割回数)の列数Niが、式(1)で表される配列構造を有しており、
前記2次元配列構造は、前記中間配列構造の第(2L+1+1)行から第(RL−1)行までの領域をシフト領域として、前記シフト領域内の各頂点を第(5×2L)列側に向けて列シフトさせた後、前記シフト領域を、第(2L+1+1)行が第0行に一致するように行シフトさせると共に、前記中間配列構造における第0行及び前記第RL行に対応する頂点を削除して構成されている、
ことを特徴とする請求項1記載の画像変換装置。
【数1】
【請求項3】
複数の撮影画像を取得する画像取得手段と、
前記画像取得手段によって取得された複数の撮影画像が、複数の画素で離散的に表された離散球面に投影された球面画像を生成する球面画像生成部と、
前記球面画像を長方形画像に変換する画像変換部と、
を備え、
前記離散球面を表す複数の前記画素は、球面を測地ドーム法で分割した測地ドームの各頂点に対応し、
前記長方形画像は、複数の四角形画素を有し、
各前記四角形画素の画素値は、前記測地ドームの一経線上の複数の頂点をそれぞれ基点として、複数の前記基点が第1の方向に並べられ各前記基点と同一緯度の頂点が各前記基点に対して前記第1の方向に直交する第2の方向に並べられた中間配列構造から、前記測地ドームの第1及び第2の極に対応する頂点を削除すると共に前記中間配列構造の所定の頂点を前記第1及び第2の方向に移動させることによって前記中間配列構造が有する複数の前記頂点が四角形状に並べられた2次元配列構造において、各前記四角形画素の位置の前記頂点に対応する前記球面画像の画素の画素値である、
ることを特徴とする画像生成システム。
【請求項4】
複数の撮影画像を、球面を測地ドーム法で分割して形成される測地ドームの各頂点に対応する画素で表した離散球面に投影することによって球面画像を生成するステップと、
前記測地ドームの一経線上の複数の頂点をそれぞれ基点として、複数の前記基点が第1の方向に並べられ各前記基点と同一緯度の頂点が各前記基点に対して前記第1の方向に直交する第2の方向に並べられてなる中間配列構造を生成するステップと、
前記中間配列構造に含まれる前記測地ドームの第1及び第2の極に対応する頂点以外の頂点のうち所定の頂点を前記第1及び第2の方向に移動させることによって、前記測地ドームの第1及び第2の極に対応する頂点以外の頂点が四角形状に並べられた2次元配列構造を生成するステップと、
前記2次元配列構造を構成する各前記頂点を四角形画素として、各前記四角形画素の位置の前記頂点に対応する前記球面画像の画素の画素値を割り当てて長方形画像を生成するステップと、
を備えることを特徴とする画像変換方法。
【請求項5】
前記中間配列構造は、前記第1及び第2の方向をそれぞれ行方向及び列方向としたとき、第i行(iは、0以上3・2L以下の整数)の列数Niが、式(2)で表される構造を有しており、
前記2次元配列構造を生成するステップでは、前記中間配列構造の第(2L+1+1)行から第(RL−1)行までの領域をシフト領域として、前記シフト領域内の各頂点を第(5×2L)列側に向けて列シフトさせた後、前記シフト領域を第(2L+1+1)行が第0行に一致するように行シフトさせると共に、前記中間配列構造における第0行及び前記第RL行に対応する頂点を削除して前記2次元配列構造を生成する、
ことを特徴とする請求項5記載の画像変換方法。
【数2】
【請求項6】
複数の撮影画像を取得するステップと、
取得された複数の前記撮影画像を、球面を測地ドーム法で分割した測地ドームの各頂点に対応する画素とした離散球面に投影することによって球面画像を生成するステップと、 前記測地ドームの一経線上の複数の頂点をそれぞれ基点として、複数の前記基点が第1の方向に並べられ各前記基点と同一緯度の頂点が各前記基点に対して前記第1の方向に直交する第2の方向に並べられてなる中間配列構造を生成するステップと、
前記中間配列構造に含まれる前記測地ドームの前記第1及び第2の極に対応する頂点以外の頂点のうち所定の頂点を前記第1及び第2の方向に移動させることによって、前記測地ドームの第1及び第2の極に対応する頂点以外の頂点が四角形状に並べられた2次元配列構造を生成するステップと、
前記2次元配列構造を構成する各前記頂点を四角形画素として、各前記四角形画素の位置の前記頂点に対応する前記球面画像の画素の画素値を割り当てて長方形画像を生成するステップと、
を備えることを特徴とする画像生成方法。
【請求項7】
前記測地ドーム法による分割回数がL回の前記長方形画像を前記分割回数が(L−1)回の長方形画像に変換して縮小画像を生成する縮小画像生成部を更に備えることを特徴とする請求項2記載の画像変換装置。
【請求項8】
前記測地ドーム法による分割回数がL回の前記長方形画像を前記分割回数が(L+1)回の長方形画像に変換して拡大画像を生成する拡大画像生成部を更に備えることを特徴とする請求項2又は7記載の画像変換装置。
【請求項9】
前記長方形画像から透視画像を生成する透視画像生成部を更に備え、
前記透視画像生成部は、生成すべき前記透視画像の画素配列構造を生成し、前記長方形画像に対応する前記球面画像上における点であって前記画素配列構造内の画素pに対応する点をmとし、点mの座標を(θ,φ)(θは、前記測地ドームの第1及び第2の極を結ぶ線をzs軸とし、zs軸上の前記第1及び第2の極の間の中点を原点とし、zs軸に直交する2つの軸をxs軸及びys軸として有するxsyszs座標系において前記zs軸に対する角度であり、φはxs軸に対する角度である)とした場合に、前記画素pの画素値を、前記測地ドームにおいて、前記点mを囲む3つの頂点の画素値に基づいて算出することによって、前記透視画像を生成することを特徴とする請求項1,2,7,8の何れか一項に記載の画像変換装置。
【請求項10】
前記測地ドーム法による分割回数がL回の前記長方形画像を前記分割回数が(L−1)回の長方形画像に変換して縮小画像を生成するステップを更に備えることを特徴とする請求項5記載の画像変換方法。
【請求項11】
前記測地ドーム法による分割回数がL回の前記長方形画像を前記分割回数が(L+1)回の長方形画像に変換して拡大画像を生成するステップを更に備えることを特徴とする請求項5記載の画像変換方法。
【請求項12】
前記長方形画像から透視画像を生成するステップを更に備え、
前記透視画像を生成するステップでは、生成すべき前記透視画像の画素配列構造を生成し、前記長方形画像に対応する前記球面画像上における点であって前記画素配列構造内の画素pに対応する点をmとし、点mの座標を(θm,φm)(θmは、前記測地ドームの第1及び第2の極を結ぶ線をzs軸とし、zs軸上の前記第1及び第2の極の間の中点を原点とし、zs軸に直交する2つの軸をxs軸及びys軸として有するxsyszs座標系において、原点に対する点mの方向と前記zs軸となす角度であり、φmは、原点に対する点mの方向に対するxs軸となす角度である)とした場合に、前記画素pの画素値を、前記測地ドームにおいて、前記点mを囲む3つの頂点の画素値に基づいて算出することによって、前記透視画像を生成することを特徴とする請求項4,5,10,11の何れか一項に記載の画像変換方法。
【図1】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図14】
【図15】
【図16】
【図23】
【図2】
【図11】
【図12】
【図13】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図14】
【図15】
【図16】
【図23】
【図2】
【図11】
【図12】
【図13】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【公開番号】特開2011−210232(P2011−210232A)
【公開日】平成23年10月20日(2011.10.20)
【国際特許分類】
【出願番号】特願2011−15655(P2011−15655)
【出願日】平成23年1月27日(2011.1.27)
【出願人】(504150461)国立大学法人鳥取大学 (271)
【Fターム(参考)】
【公開日】平成23年10月20日(2011.10.20)
【国際特許分類】
【出願日】平成23年1月27日(2011.1.27)
【出願人】(504150461)国立大学法人鳥取大学 (271)
【Fターム(参考)】
[ Back to top ]