撮影方法、撮影機、撮影装置、3次元画像形成方法、全方位3次元画像形成方法、投影装置、通信システム、表示装置、遠隔操作方法、及び監視方法
【課題】カメラ自身が写りこんでいる部分をステレオ画像の組合せ処理により取り除くことができ、よってカメラによる死角が生じず、低コストでありながら、広範囲な3次元画像をリアルタイムで撮影することができる撮影方法、撮影機、撮影装置、3次元画像形成方法、全方位3次元画像形成方法、並びにかかる技術を用いた投影装置、通信システム、表示装置、遠隔操作方法、及び監視方法を提供する。
【解決手段】カメラC1〜C3で、同期して撮影すると、カメラC1で撮影する領域と、カメラC2で撮影する領域とが一部重なることとなる。かかる場合、カメラC1から得られた画像を左目用の画像とし、カメラC2から得られた画像を右目用の画像とすれば、重複した撮影領域(第1の撮影領域)では3次元画像を撮影できることとなる。
【解決手段】カメラC1〜C3で、同期して撮影すると、カメラC1で撮影する領域と、カメラC2で撮影する領域とが一部重なることとなる。かかる場合、カメラC1から得られた画像を左目用の画像とし、カメラC2から得られた画像を右目用の画像とすれば、重複した撮影領域(第1の撮影領域)では3次元画像を撮影できることとなる。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮影方法、撮影機、撮影装置、3次元画像形成方法、全方位3次元画像形成方法、投影装置、通信システム、表示装置、遠隔操作方法、及び監視方法に関する。
【背景技術】
【0002】
従来のステレオ画像の撮影方法は、一般的に、2台のカメラを一定の距離を離して、同一水平面に配置し、被写体に撮影方向を向けて撮影するものである。また、その周辺の被写体や背景の撮影も一緒に行うなら、カメラを載せた雲台毎、水平面内で回転させて複数枚の撮影をおこなって、得られた画像をつなぎ合わせて合成し、望みの画像を形成することが一般的である。又、カメラの光軸を撮影対象物に向けるのが常識である。
【0003】
ここで、周辺の被写体や背景を撮影(あるいはパノラマ撮影)する場合に、複数枚の撮影を行うために、各撮影に時差が起こり、移動する被写体や変化する被写体は、かかる時差のために歪んで撮影されるなどして正確な画像が得られなかった。従って、例えば監視、観察等の利用には不適切であった。また、全方位の画像を撮影するために、球面鏡、円錐鏡、双曲面鏡、角錐鏡、放物面鏡などのミラー用いて撮影する方法もあるが、それらの方法では、ミラーの部分が死角となり、完全な半球や全球の画像が取得できないという問題がある。特に、全方位画像撮影装置では、カメラ本体が画像に写りこむことで死角となってしまう。更に、ミラーを用いる方法の多くは、同一鉛直軸上の2つのカメラによりステレオ視を行う際に、ステレオ対の方向が水平で無いために、全方位の見回しをステレオで途切れなく行うことができないという問題がある。これに対し、ミラーを用いずにリアルタイムで3次元画像を撮影するものとして、特許文献1,2に示すような全方位撮影装置が知られている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特許第3827912号明細書
【特許文献2】特開2010−256534号公報
【発明の開示】
【発明が解決しようとする課題】
【0005】
より具体的には、特許文献1に示すステレオ画像撮影装置は、12個のステレオカメラユニットを12面体に取り付け、ユニット内のカメラ間隔を保ちながら、他のユニットの視野を妨げないように最適に組み合わせることで、全方向のカラー画像と3次元情報とをリアルタイムで取得できるものである。しかるに、特許文献1のステレオ画像撮影装置では、カメラ自身が写り込むことがなく、全周囲に加え、頭頂方向の画像もリアルタイムで撮影できるが、12個のステレオカメラユニットが必要になるため、コスト高を招くという問題がある。更に、各カメラユニットの基線方向がバラバラなので、連続的な全方位のステレオ映像を見ることができない。
【0006】
次に、特許文献2の図7に示す全方位撮像装置は、半径方向外側に向けた16台のカメラを2つずつ対にして用いることで、カメラ自身が写りこむことがなく、8枚の3次元画像をリアルタイムで取得するものである。しかしながら、特許文献2の技術でも16台のカメラが必要になり、また天頂方向の画像を撮影することは困難である。
【0007】
本発明は、かかる問題点に鑑みてなされたものであり、各カメラの画像において、カメラ自身が写りこんでいる部分をステレオ画像の組合せ処理により取り除くことができ、よってカメラによる死角が生じず、低コストでありながら、広範囲な3次元画像をリアルタイムで撮影することができる撮影方法、撮影機、撮影装置、3次元画像形成方法、全方位3次元画像形成方法、並びにかかる技術を用いた投影装置、通信システム、表示装置、遠隔操作方法、及び監視方法を提供することを目的とする。
【課題を解決するための手段】
【0008】
請求項1に記載の撮影方法は、広角レンズ又は超広角レンズを有する少なくとも3台のカメラを、同一平面の同一円周上に配設し、前記円周上の前記少なくとも3台のカメラの間のそれぞれの円弧の長さが等しくなるように配置して、且、前記平面に垂直で同一の撮影方向に前記少なくとも3台のカメラを配置し、同期して撮影することを特徴とする。
【0009】
本発明の原理を、図1を参照して説明する。尚、本発明にて単に「画像」というときは、「映像」も含むことがあるものとする。図1において、広角レンズL1〜L3(又は超広角レンズ)をそれぞれ有する3台のカメラC1〜C3を、同一平面の同一円周上に配設している。又、3台のカメラC1〜C3のうち隣接するもの(その光軸)同士の間における円弧の長さが等しくなっている。尚、カメラC1〜C3の形状が同じである場合、同一仮想平面(ここでは水平面HP)の同一円周上に、各撮像面(撮像素子の受光面或いは銀塩フィルム面)の中心が位置するとともに、隣接するもの撮像面の中心間における円弧の長さが等しくなっているようにすると好ましい。
【0010】
更に、仮想平面に垂直で同一の撮影方向に3台のカメラC1〜C3を配置している。これは、カメラC1〜C3の光軸X1〜X3が互いに平行であることを意味する。
【0011】
かかる状態に配置したカメラC1〜C3で、同期して撮影すると、カメラC1で撮影する領域と、カメラC2で撮影する領域とが一部重なることとなる。かかる場合、カメラC1から得られた画像を左目用の画像とし、カメラC2から得られた画像を右目用の画像とすれば、重複した撮影領域(第1の撮影領域)では3次元画像(ステレオ画像ともいう)を撮影できることとなる。又、カメラC2で撮影する領域と、カメラC3で撮影する領域とが一部重なるから、カメラC2から得られた画像を左目画像とし、カメラC3から得られた画像を右目用の画像とすれば、重複した撮影領域(第1の撮影領域とは異なる第2の撮影領域)では3次元画像を撮影できることとなる。更に、カメラC3で撮影する領域と、カメラC1で撮影する領域とが一部重なるから、カメラC3から得られた画像を左目画像とし、カメラC1から得られた画像を右目用の画像とすれば、重複した撮影領域(第1及び第2の撮影領域とは異なる第3の撮影領域)では3次元画像を撮影できることとなる。又、得られた3次元画像に基づき、被写体までの距離などの情報を求めることができる。
【0012】
かかる場合、カメラの光軸X1〜X3が仮想平面に垂直であるが、カメラC1〜C3は広角レンズL1〜L3を有しているので、その画角の範囲内で、光軸方向のみならず、全周の画像をリアルタイムに撮影できる。本発明によれば、同じカメラで撮影した画像を、右目用の画像及び左目用の画像として用いることで、少ない数のカメラを用いて全周の3次元画像をリアルタイムで撮影できることとなる。尚、広角レンズL1〜L3により撮影した画像には歪みが生じるが、これは画像処理等により平面画像に変換可能である。
【0013】
請求項2に記載の撮影方法は、それぞれの特性が同一の前記少なくとも3台のカメラを用い、前記平面を水平面とし、前記撮影方向を天に向けて前記撮影を実行することを特徴とする。これにより、天頂方向を含む広範囲の被写体を撮影できる。
【0014】
請求項3に記載の撮影方法は、前記広角レンズ又は超広角レンズが、60度以上の画角を有することを特徴とする。これにより、広範囲の被写体を撮影できる。
【0015】
請求項4に記載の撮影方法は、前記広角レンズ又は超広角レンズが魚眼レンズであることを特徴とする。これにより、更に広範囲の被写体を撮影できる。
【0016】
請求項5に記載の撮影方法は、前記カメラが4台であることを特徴とする。カメラの数は、3台だけでなく、4台でも良いし、更に多くしても良い。
【0017】
請求項6に記載の撮影方法は、前記カメラがデジタルカメラであることを特徴とする。これにより得られた画像に対し画像処理を容易に行える。
【0018】
請求項7に記載の撮影方法は、前記カメラが、ムービーカメラであることを特徴とする。本発明は、特に移動又は変化する被写体をリアルタイムで撮影するのに好適である。
【0019】
請求項8に記載の撮影方法は、前記カメラが、複数のマイクロフォンとそれぞれの前記マイクロフォンが集音した音を録音するディバイスを配置したことを特徴とする。例えば、図1のカメラC1〜C3に各々マイクロフォンを搭載して、集音することも可能である。これにより、ステレオで録音した音を再生するのに好都合である。
【0020】
請求項9に記載の撮影機は、広角レンズ又は超広角レンズを有する少なくとも3台のカメラを、同一平面上の同一円周上に配設し、前記円周上の前記少なくとも3台のカメラの間のそれぞれの円弧の長さが等しくなるように配置して、且、前記平面に垂直で同一の撮影方向に前記少なくとも3台のカメラを配置し、同期撮影機構を備えたことを特徴とする。
【0021】
図1を参照して説明したように、本発明の撮影機によれば、同じカメラで撮影した画像を、右目用の画像及び左目用の画像として用いることで、少ない数のカメラを用いて全周の3次元画像をリアルタイムで撮影できる。
【0022】
請求項10に記載の撮影機は、それぞれの前記少なくとも3台のカメラの特性が同一であることを特徴とする。これにより、均一な3次元画像を得ることができる。
【0023】
請求項11に記載の撮影機は、前記広角レンズ又は超広角レンズが魚眼レンズであることを特徴とする。これにより、更に広範囲の被写体を撮影できる。
【0024】
請求項12に記載の撮影機は、前記カメラが4台であることを特徴とする。カメラの数は、3台だけでなく、4台でも良いし、更に多くしても良い。
【0025】
請求項13に記載の撮影機は、前記カメラがデジタルカメラであることを特徴とする。これにより得られた画像に対し画像処理を容易に行える。
【0026】
請求項14に記載の撮影機は、前記少なくとも3台のカメラがそれぞれデジタルムービーカメラであり、それぞれの前記カメラが録音ディバイスを有することを特徴とする。本発明は、特に移動又は変化する被写体と音をリアルタイムで撮影するのに好適である。
【0027】
請求項15に記載の撮影装置は、第一の広角レンズ又は超広角レンズを有する第一の少なくとも3台のカメラを、第一の同一平面上の第一の同一円周上に配設し、前記第一の円周上の前記第一の少なくとも3台のカメラの間のそれぞれの第一の円弧の長さが等しくなるように配置して、且、前記第一の平面に垂直で第一の同一の撮影方向に前記第一の少なくとも3台のカメラを配置し、第一の同期撮影機構を備えた第一の撮影機と第二の広角レンズ又は超広角レンズを有する第二の少なくとも3台のカメラを、第二の同一平面上の第二の同一円周上に配設し、前記第二の円周上の前記第二の少なくとも3台のカメラの間のそれぞれの第二の円弧の長さが等しくなるように配置して、且、前記第二の平面に垂直で第二の同一の撮影方向に前記第二の少なくとも3台のカメラを配置し、第二の同期撮影機構を備えた第二の撮影機とを前記第一の撮影方向と前記第二の撮影方向を逆方向になるように、背中合わせに配置したことを特徴とする。
【0028】
本発明の原理を、図2を参照して説明する。図2において、第1の撮影機として、広角レンズL1〜L3(又は超広角レンズ)をそれぞれ有する3台のカメラC1〜C3を、不図示の第1の同期撮影機構に連結した状態で、同一平面(第1平面)の同一円周上に配設している。又、3台のカメラC1〜C3のうち隣接するもの同士の間における円弧の長さが等しくなっている。更に、第2の撮影機として、広角レンズL4〜L6(又は超広角レンズ)をそれぞれ有する3台のカメラC4〜C6を、不図示の第2の同期撮影機構に連結した状態で、且つ各々カメラC1〜C3に背面合わせの状態で、同一平面(第1平面に近接して平行な第2平面)の同一円周上に配設している。よって、3台のカメラC4〜C6のうち隣接するもの同士の間における円弧の長さが等しくなっている。
【0029】
更に、第1平面に垂直で同一の撮影方向に3台のカメラC1〜C3を配置している。これは、カメラC1〜C3の光軸X1〜X3が互いに平行であることを意味する。又、第2平面に垂直で同一の撮影方向に3台のカメラC4〜C6を配置している。これは、カメラC4〜C6の光軸X4〜X6が互いに平行であることを意味する。但し、3台のカメラC1〜C3の撮影方向は真上であり、逆に3台のカメラC4〜C6の撮影方向は真下である。
【0030】
かかる状態に配置したカメラC1〜C3で、同期して撮影すると、カメラC1で撮影する領域と、カメラC2で撮影する領域とが一部重なることとなる。かかる場合、カメラC1から得られた画像を左目用の画像とし、カメラC2から得られた画像を右目用の画像とすれば、重複した撮影領域(第1の撮影領域)では3次元画像を撮影できることとなる。又、カメラC2で撮影する領域と、カメラC3で撮影する領域とが一部重なるから、カメラC2から得られた画像を左目画像とし、カメラC3から得られた画像を右目用の画像とすれば、重複した撮影領域(第1の撮影領域とは異なる第2の撮影領域)では3次元画像を撮影できることとなる。更に、カメラC3で撮影する領域と、カメラC1で撮影する領域とが一部重なるから、カメラC3から得られた画像を左目画像とし、カメラC1から得られた画像を右目用の画像とすれば、重複した撮影領域(第1及び第2の撮影領域とは異なる第3の撮影領域)では3次元画像を撮影できることとなる。又、得られた3次元画像に基づき、被写体までの距離などの情報を求めることができる。
【0031】
更に、カメラC4〜C6で、同期して撮影すると、カメラC4で撮影する領域と、カメラC5で撮影する領域とが一部重なることとなる。かかる場合、カメラC4から得られた画像を左目用の画像とし、カメラC5から得られた画像を右目用の画像とすれば、重複した撮影領域(第4の撮影領域)では3次元画像を撮影できることとなる。又、カメラC5で撮影する領域と、カメラC6で撮影する領域とが一部重なるから、カメラC5から得られた画像を左目画像とし、カメラC6から得られた画像を右目用の画像とすれば、重複した撮影領域(第4の撮影領域とは異なる第5の撮影領域)では3次元画像を撮影できることとなる。更に、カメラC6で撮影する領域と、カメラC4で撮影する領域とが一部重なるから、カメラC6から得られた画像を左目画像とし、カメラC4から得られた画像を右目用の画像とすれば、重複した撮影領域(第4及び第5の撮影領域とは異なる第6の撮影領域)では3次元画像を撮影できることとなる。又、得られた3次元画像に基づき、被写体までの距離などの情報を求めることができる。
【0032】
つまり本発明によれば、同じカメラで撮影した画像を、右目用の画像及び左目用の画像として用いることで、少ない数のカメラを用いて、前後左右に加え上下の、即ち全方位の3次元画像をリアルタイムで撮影できることとなる。尚、広角レンズL1〜L6により撮影した画像には歪みが生じるが、これは画像処理等により平面画像に変換可能である。
【0033】
請求項16に記載の撮影装置は、前記第一の少なくとも3台のカメラと前記第二の少なくとも3台のカメラの撮影軸が、前記第一のカメラの内の1台と、前記第二のカメラの内の1台のそれぞれの対で同一であることを特徴とする。即ち、図2で示す光軸X1とX4,X2とX5,X3とX6が一致していると好ましい。
【0034】
請求項17に記載の撮影装置は、前記第一の少なくとも3台のカメラと前記第二の少なくとも3台のカメラは、デジタルカメラであり、全部のカメラの合計が8台であることを特徴とする。カメラの数は、これに限られない。
【0035】
請求項18に記載の撮影装置は、前記広角レンズ又は超広角レンズが魚眼レンズであることを特徴とする。これにより、更に広範囲の被写体を撮影できる。
【0036】
請求項19に記載の撮影装置は、前記第一の少なくとも3台のカメラと前記第二の少なくとも3台のカメラが、デジタルカメラであることを特徴とする。これにより得られた画像に対し画像処理を容易に行える。
【0037】
請求項20に記載の撮影装置は、前記第一の少なくとも3台のカメラと前記第二の少なくとも3台のカメラが、ムービーカメラであることを特徴とする。本発明は、特に移動又は変化する被写体をリアルタイムで撮影するのに好適である。
【0038】
請求項21に記載の3次元画像形成方法は、
広角レンズ又は超広角レンズを備えた3個以上のカメラを同一円周上で、それぞれのカメラを仮想で結ぶ円弧の長さが同じであり、前記円周面に垂直で、光軸が同一方向になるように、且つ互いの撮影範囲が重なるように配置して、同時に撮影を行うステップと
第1の領域で撮影範囲が重なった2つのカメラのうち左目側のカメラから得られた画像を用いて、前記第1の領域における左目用の画像を形成すると共に、右目側のカメラから得られた画像を用いて、前記第1の領域における右目用の画像を形成するステップと、
前記第1の領域とは異なるが隣接する第2の領域で撮影範囲が重なった2つのカメラのうちの一方であって、前記第1の領域を撮影する2つのカメラのうち前記左目側のカメラとは異なるカメラから得られた画像を用いて、前記2の領域における左目用の画像を形成するステップを含むことを特徴とする。
【0039】
図1を参照し、カメラC1〜C3を用いて同時に撮影を行った後、第1の領域で撮影範囲が重なった2つのカメラC1、C2のうち、左目側のカメラC1から得られた画像を用いて、第1の領域における左目用の画像を形成すると共に、右目側のカメラC2から得られた画像を用いて、第1の領域における右目用の画像を形成する。これにより第1の撮影領域の3次元画像を形成できる。次に、第1の撮影領域とは異なるが隣接する第2の領域で撮影範囲が重なった2つのカメラC2、C3のうち、左目側のカメラC2から得られた画像を用いて、第2の領域における左目用の画像を形成すると共に、右目側のカメラC3から得られた画像を用いて、第2の領域における右目用の画像を形成する。これにより第2の撮影領域の3次元画像を形成できる。更に、第1、2の撮影領域とは異なるが隣接する第3の領域で撮影範囲が重なった2つのカメラC3、C1のうち、左目側のカメラC3から得られた画像を用いて、第3の領域における左目用の画像を形成すると共に、右目側のカメラC1から得られた画像を用いて、第3の領域における右目用の画像を形成する。これにより第3の撮影領域の3次元画像を形成できる。以上により、カメラ周囲における全周の3次元画像を得ることができる。
【0040】
請求項22に記載の3次元画像形成方法は、前記カメラがデジタルカメラであり、1つのデジタルカメラから出力された画像信号を用いて、異なる撮影領域の右目用の画像と左目用の画像とを形成することを特徴とする。これにより、得られた画像の画像処理が容易になる。
【0041】
請求項23に記載の3次元画像形成方法は、前記カメラはムービーカメラであり、1つのムービーカメラから出力された画像信号を用いて、異なる撮影領域の右目用の映像と左目用の映像とを形成することを特徴とする。本発明は、特に移動又は変化する被写体の撮影に有効である。
【0042】
請求項24に記載の3次元画像形成方法は、前記カメラが、所定点を中心とする円周上に配置されて、前記広角レンズの光軸を平行としていることを特徴とする。
【0043】
請求項25に記載の3次元画像形成方法は、撮影範囲が重なった同一の領域を同時に撮影したときに、左目用の画像を形成するための前記カメラと、右目用の画像を形成するための前記カメラは、前記所定点を挟んだ対角上に位置することを特徴とする。例えば、2n個(nは2以上の整数)のカメラを用いて撮影する場合に対応する。
【0044】
請求項26に記載の3次元画像形成方法は、前記広角レンズが魚眼レンズであることを特徴とする。
【0045】
請求項27に記載の3次元画像形成方法は、前記カメラから得られた画像が、円柱面に投影されるように画像処理された後、周方向に連結されることを特徴とする。
【0046】
図1において、例えば左目側のカメラC1から得られた画像を用いて、第1の領域における左目用の画像を形成すると共に、右目側のカメラC2から得られた画像を用いて、第1の領域における右目用の画像を形成することで、重なった第1の撮影領域の3次元画像IM1を形成する。又、左目側のカメラC2から得られた画像を用いて、第2の領域における左目用の画像を形成すると共に、右目側のカメラC3から得られた画像を用いて、第2の領域における右目用の画像を形成することで、重なった第2の撮影領域の3次元画像IM2を形成する。更に、左目側のカメラC3から得られた画像を用いて、第3の領域における左目用の画像を形成すると共に、右目側のカメラC1から得られた画像を用いて、第3の領域における右目用の画像を形成することで、重なった第3の撮影領域の3次元画像IM3を形成する。しかるに、これらの3次元画像IM1〜IM3は、広角レンズを通して得られた画像であるため歪んで見える。そこで、かかる3次元画像IM1〜IM3を円柱面に投影した後、以下のように展開する画像処理を行うことで、モザイク画像である3次元画像IM1’〜IM3’を得る。即ち、広角レンズ(又は魚眼レンズ)で被写体を撮影した画像(撮像素子の受光面上)を円で示す図3(a)を元に、カメラ(円の中心にある)から等距離の円周を三等分したとき、それぞれの円周部分が、図3(b)の長方形の下辺を三等分したそれぞれに対応するモザイク状になるように画像変換する。長方形の縦は、円の半径rで、横は、全方位360°の角度に対応する。長方形の上辺は、円の中央(天頂)の一点に対応し、その一点を360°に展開したものである。これをモザイク画像という。
【0047】
同様に、カメラC2,C3から得られた3次元画像IM2を円柱面に投影するように画像処理すれば、矩形状の3次元画像IM2’を得ることができ、更にカメラC3,C1から得られた3次元画像IM3を円柱面に投影するように画像処理すれば、矩形状の3次元画像IM3’を得ることができるから、これらを連続的につなぎ合わせることで、360度のパノラマ3次元画像を得ることができる。
【0048】
請求項28に記載の全方位3次元画像形成方法は、請求項1乃至8に記載の撮影方法で、撮影して得られる3個以上(N個、但しNは、正の整数)の360度の全方位画像の一部または全部を円筒内に投影して得られる画像に画像変換し、前記円筒内の一周をN個に等分して、N個のモザイク(短冊状)に分割してモザイク画像(短冊状画像集合画像)とし、内一個は、特定方位を中心とする部分画像であり、ひとつのカメラ(第一のカメラとする)で得られた画像のひとつのモザイク(第一のモザイクとする)を選択して片目用のモザイク画像部分とし、前記第一のカメラから最も遠いカメラ(2個ある場合は、円周上の距離が特定の回転方向で近い方か遠い方のいずれかを選択する選択基準で選択し、以降前記選択基準を変更しない。)(第二のカメラとする)の前記第一のモザイクと中心方位が同じ画像のモザイクを選択し(第二のモザイクとする)他眼用のモザイク画像部分とする工程を含み、前記中心方位は、前記第一のカメラと前記第二のカメラを結ぶ直線に垂直であって、前記同一円周を含む面上にあることを特徴とする。
【0049】
図4(a)は、水平である仮想平面に4つのカメラC1〜C4を90度ずつ等配した撮影装置を天頂から見た図であり、上方を北とする。ここで、紙面垂直方向に光軸を向けたカメラC1〜C4で撮影した360度の全方位画像の全部(一部でも良い)を円筒内に投影して得られる画像に画像変換し、かかる円筒内の一周を4個に等分して、4個のモザイク(短冊状)MZ1〜MZ4に分割してモザイク画像(短冊状画像集合画像)とした状態を、図4(b)に示す。ここで、モザイクMZ1の中央方位が、例えば北とすると、選択された第一のカメラC4と第二のカメラC2とで、モザイクMZ1の3次元画像を得ることができ、この場合、天頂からみて左側にあるカメラC4の画像データにより左目用の画像又は映像を生成することが出来、天頂からみて右側にあるカメラC2の画像データにより右目用の画像又は映像を生成することが出来る。このとき、カメラC4の撮影するモザイクMZ1は、カメラC2の撮影するモザイクMZ1と中心方位が同じであり、即ち中心方位は、カメラC4とカメラC2を結ぶ直線に垂直であって、同一円周を含む面上にある(尚、図4(a)ではカメラC1〜C4の乗る内側円と、視野を示す外側円との距離が近いので、カメラの画角が折れ線となって示されているが、実際はほぼ直線となる)。つまり、中央方位が北であるモザイクMZ1の3次元画像は、カメラC4とC2の画像データのみから得られ、カメラC1,C3の画像データは用いない。又、中央方位が東であるモザイクMZ2の3次元画像は、選択された第一のカメラC1と第二のカメラC3とで得ることができ、この場合、天頂からみて左側にあるカメラC1の画像データにより左目用の画像又は映像を生成することが出来、天頂からみて右側にあるカメラC3の画像データにより右目用の画像又は映像を生成することが出来る。つまり、中央方位が東であるモザイクMZ2の3次元画像は、カメラC1とC3の画像データのみから得られ、カメラC2,C4の画像データは用いない。更に、中央方位が南であるモザイクMZ3の3次元画像は、選択された第一のカメラC2と第二のカメラC4とで得ることができ、この場合、天頂からみて左側にあるカメラC2の画像データにより左目用の画像又は映像を生成することが出来、天頂からみて右側にあるカメラC4の画像データにより右目用の画像又は映像を生成することが出来る。つまり、中央方位が南であるモザイクMZ3の3次元画像は、カメラC2とC4の画像データのみから得られ、カメラC1,C3の画像データは用いない。又、中央方位が西であるモザイクMZ4の3次元画像は、選択された第一のカメラC3と第二のカメラC1とで得ることができ、この場合、天頂からみて左側にあるカメラC3の画像データにより左目用の画像又は映像を生成することが出来、天頂からみて右側にあるカメラC1の画像データにより右目用の画像又は映像を生成することが出来る。つまり、中央方位が西であるモザイクMZ4の3次元画像は、カメラC3とC1の画像データのみから得られ、カメラC2,C4の画像データは用いない。尚、特定方位は、北でなくても良い。更に、カメラの個数が奇数である場合、円周上の距離が特定の回転方向(時計回りでなく、反時計回りでも良いが、一度選択されると選択方向が固定される)で近い方か遠い方のいずれかを選択し、以下同様とする(図1の例は、第一のカメラに対し時計回りに近い方を第二のカメラを選択した例であり、図2の例は、鉛直上向きの装置においては、第一のカメラに対し時計回りに近い方を第二のカメラを選択した例であり、鉛直下向きの装置においては、第一のカメラに対し反時計回りに近い方を第二のカメラを選択した例である)。
【0050】
請求項29に記載の全方位3次元画像形成方法は、前記第一のカメラと前記第二のカメラに関して、天頂から見たときに左側にあるカメラの画像を左眼用とし、右側にあるカメラの画像を右目用とし、それぞれのモザイク画像部分を選択する工程を各カメラについて実行して、それぞれのカメラに対応する左目用と右目用のモザイク画像部分を選択し、繰り返して得られる各モザイク画像部分を集合させて左目用のモザイク画像と右目用のモザイク画像を作成する工程を含むことを特徴とする。
【0051】
図4を参照して、カメラC1〜C4により得られた左目用と右目用のモザイク画像MZ1〜MZ4について、それぞれ3次元画像を生成する工程を実行した後、これらを接合する工程を実行することで全方位の3次元画像を得ることができる。
【0052】
請求項30に記載の投影装置は、請求項21乃至29のいずれかに記載の3次元画像形成方法により形成された左目用の画像と右目用の画像とを同時に投影することを特徴とする。
【0053】
例えば図1に示すカメラC1〜C3を、投影装置に置き換えることで、それぞれカメラC1〜C3で得られた画像を、半球HSに投影することで、全方位の3次元画像を投影することができる。尚、かかる画像を半球HSに投影するような場合、画像処理にて撮影直後のモザイク処理前の画像に戻す必要がある。また、ステレオ画像に用いられない部分が投影されると支障が生じるので、該部分をマスクで遮蔽する等の手段で、投影されないようにする必要がある。図1の場合は、撮影画像中心から装置中心へ向かって左右60度(全体で120度)の画像部分を覆うことが必要である。更に、例えば、図4のように、4台のカメラC1〜C4をプロジェクタに置き換えて球面内に投影するときは、各カメラごとに4分割した円の画像のうちの対向する2か所の画像を用いるが、それ以外の2か所の画像は用いないので、それをマスクすることが必要である。具体的には、カメラC2に関するものでは、モザイク画像MZ1、MZ3に対応する画像は使用するが、モザイク画像MZ2、MZ4に対応する画像は使用しないので、この2か所の画像が投影されないように覆い隠すことになる。他の画像についても、同様の工夫をする。
【0054】
請求項31に記載の投影装置は、前記投影装置は、左目用の画像と右目用の画像とを曲面のスクリーンに投影することを特徴とする。図1の半球HSが曲面のスクリーンに相当する。但し、スクリーンは半球に限られない。
【0055】
請求項32に記載の投影装置は、前記曲面のスクリーンとは、半球の内面であることを特徴とする。
【0056】
請求項33に記載の投影装置は、前記スクリーンに表示される画像の位置を計測する計測手段を有することを特徴とする。スクリーンに表示される画像は3次元画像であるため、公知のステレオ測距法により画像中の被写体までの距離を測定できる。従って、計測手段とは、公知のステレオ測距法を実現できる画像処理等を実行できるものであれば足りる。
【0057】
請求項34に記載の通信システムは、請求項9乃至20に記載の撮影機または撮影装置と、請求項30乃至33のいずれかに記載の投影装置とを有することを特徴とする。
【0058】
請求項35に記載の表示装置は、請求項21乃至29のいずれかに記載の3次元画像形成方法により形成された左目用の画像と右目用の画像とを同時に表示することを特徴とする。
【0059】
請求項36に記載の表示装置は、前記画像を表示するパネルは、観察者の周囲に360度にわたって配置されていることを特徴とする。
【0060】
請求項37に記載の表示装置は、請求項21乃至29のいずれかに記載の3次元画像形成方法により形成された左目用の画像と右目用の画像とを別個に表示する一対の表示部を有することを特徴とする。
【0061】
請求項38に記載の表示装置は、前記一対の表示部を観察者の左目と右目に各々あてがうようにして、該観察者が着用する眼鏡型の表示装置であり、前記表示装置の方向を検出する検出手段を有し、前記検出手段の検出した方向に応じて、前記表示部に表示する画像を切り換えることを特徴とする。
【0062】
請求項39に記載の通信システムは、請求項9乃至20に記載の撮影装置と、請求項36乃至38のいずれかに記載の表示装置とを有することを特徴とする。
【0063】
請求項40に記載の遠隔操作方法は、請求項34又は39に記載の通信システムを有し、前記撮影装置を作動装置に取り付けて、前記作動装置から離れた場所で前記表示装置に表示された画像を見ながら、観察者が前記作動装置を操作するようになっていることを特徴とする。
【発明の効果】
【0064】
以上述べた本発明によれば、東西南北360度の方向に切れ目無く、立体像が得られる。これが、しかも、同期した一度の撮影で得られた画像を用いるので時差が生じず、さらに、天および/または地に向けて撮影したときに、これらの効果が大きく、これらの効果が得られる撮影方法と、それができる撮影機、撮影装置を実現すると共に、カメラ自身が画像上に現れることのない画像を簡単に作成できる。
【0065】
本発明によれば、例えば魚眼レンズで、天頂に向けて一度撮影するだけで、パノラマ画像が得られる。従来のように被写体に光軸を向けるのではなく、天頂に向ける点が従来技術とは大きく異なる。つまり被写体は周辺画像の一部に映ることになる。
【0066】
本発明によれば、東西南北、上下左右360度の方向に延在する立体像を簡単に得ることができる。又、光軸方向に限らず、いずれの方向の被写体の3次元情報(位置)も取得できる。
【0067】
本発明は、応用範囲が広範囲であり、例えば地図、ゲーム等々に適用可能である。ディスプレーの仕方で色々可能性があり、例えば、乗り物(車、船、飛行機等々)の訓練のために、方向を検出するヘッドマウントディスプレー(HMD)上に、その方向の立体像を表示し、顔を向ける毎に立体像を切り換えることができる。また、例えば、プラネタリウムでは、半球の内面に3次元画像を表示することができる。
【0068】
本発明は静止画でも動画でも適用可能であり、以上の効果が動画でも得られる。更に、全方位ステレオ動画の生成に複雑な後処理を必要としないので、撮影とほぼ同時に再生が可能である。加えて、通信装置との組み合わせにより遠隔地での同時再生が可能であるから、TV会議や、危険な場所にある装置の遠隔操作等に用いることができる。
【0069】
尚、本明細書中、超広角レンズとは、広角レンズより広い画角を持つレンズをいう。広角レンズとは少なくとも60度の画角を持つものをいう。デジタルカメラとは、被写体像を電気信号に変換する固体撮像素子を有するカメラをいう。「等距離」、「同一円周上」、「同一の特性」、「等しい長さの円弧」とは、実質的に等しいか同一であればよい。又、「同期撮影」とは、例えば同時に撮影することをいうが、僅かなタイムラグがあっても良い。以上のズレは、画像処理等の補正で正すことができる。
【0070】
対となる位置の2台のカメラは、特殊カメラで、両面感光体の両側に撮影レンズを持っているものでも良いし、別々のカメラを対にして、背中合わせにしてもよい。ふたつの感光体の位置の差が撮影で抜ける位置になるし、魚眼レンズでも180度の画角でない限り、抜ける位置ができる。
【0071】
カメラとしては、デジタルカメラの他、銀塩カメラを用いることができる。また動画とは、例えば複数の静止画を連続的に切り換えるものをいう。又、本発明の撮影方法で得られた右目用の画像と、左目用の画像とは、従来のディスプレイで利用可能である。
【図面の簡単な説明】
【0072】
【図1】一例にかかる本発明の原理を説明するための図である。
【図2】別な例にかかる本発明の原理を説明するための図である。
【図3】画像処理の例を示す図である。
【図4】別な例にかかる本発明の原理を説明するための図であり、(a)ではカメラC4,C2のみ強調して示している。
【図5】第1の実施の形態にかかる撮影装置の概略図である。
【図6】第1の実施の形態にかかる撮影装置の録画・録音手順を示す図である。
【図7】第1の実施の形態にかかる撮影装置の後処理を示す図である。
【図8】第1の実施の形態にかかる再生装置の概略図である。
【図9】第1の実施の形態にかかる再生装置の再生処理を示す図である。
【図10】第2の実施の形態の概略図である。
【図11】第2の実施の形態の録画・再生処理を示す図である。
【図12】第2の実施の形態にかかる後処理を示す図である。
【図13】第2の実施の形態にかかる再生処理を示す図である。
【図14】第3の実施の形態の概略図である。
【図15】第3の実施の形態にかかる処理を示す図である。
【図16】第4の実施の形態にかかる後処理を示す図である。
【発明を実施するための形態】
【0073】
(第1の実施の形態)
以下、本発明にかかる第1の実施の形態について、図面を参照して説明する。ここでは、本発明の撮影方法、撮影機、撮影装置、3次元画像形成方法、全方位3次元画像形成方法、投影装置、表示装置について述べる。まず、図5に示す、4台のムービーカメラと4台のマイクロフォンを用いた半球ステレオ撮影装置、及び図8に示す、半球状スクリーンと魚眼レンズ付プロジェクタを用いた再生装置を説明する。また、その応用として、臨場感の高い劇場鑑賞映像製作目的とした撮影を舞台直下座席からの撮影・再生を行う装置を説明する。
【0074】
図1において、支持台BSは、フレームなどの剛体に設置される円盤部BS1と、円盤部BS1から等間隔で水平方向に放射状に延在する4本の支持柱BS2と、支持柱BS2の先端で支持されたリング部BS3とを有している。リング部BS3は、気泡管を用いた水準器にて高精度に水平に設置されると好ましい。
【0075】
リング部BS3上には、4つのムービーカメラMC1〜MC4が周方向に等間隔で固定されている。不図示の固体撮像素子に加え、ムービーカメラMC1〜MC4は、それぞれ画角が180〜190°である円周魚眼レンズFL1〜FL4(超広角レンズでも良い)と、高指向性のマイクロフォンMP1〜MP4を備えている。魚眼レンズFL1〜FL4の光軸は、リング部BS3の軸線に平行に設置されている。尚、ここでは、ローカル座標系として、円盤部BS1及びリング部BS3の中心を原点Oとし、原点OからムービーカメラMC1の光軸に向かう方向をY軸の正方向とし、原点OからムービーカメラMC2の光軸に向かう方向をX軸の正方向とする。また方向角θはY軸の正方向を0°として、時計回りの方向の角度にとる。原点Oから各ムービーカメラの光軸までの距離は5cmである。
【0076】
ムービーカメラMC1〜MC4は、4chカメラ同期制御インターフェースCI/Fにそれぞれ接続されており、マイクロフォンMP2〜MP4は、4chマイクミキサーインタフェースMI/Fにそれぞれ接続されている。処理装置PRCは、4chカメラ同期制御インターフェースCI/Fと、4chマイクミキサーインタフェースMI/Fに接続され、内部にプログラム格納ROMを有すると共に、外部記憶装置HDに接続されている。
【0077】
ムービーカメラMC1〜MC4は、HDTV(2M画素)以上の30fpsでカラー画像が記録できるものであり、画像が十分な転送フレームレートを確保するためにカメラ側で圧縮処理により半分程度のデータサイズにするものであると好ましい。又、キャリブレーションにより、光学的な補正を行うことができ、同期撮影機構を兼ねる処理装置PRCからの外部トリガーにより、他のムービーカメラと同期撮影が可能となっている。尚、データの転送にはカメラリンクI/Fを用いると好ましい。ムービーカメラMC1〜MC4の水平面上の設置の向きは、ローカル座標系の原点OからX軸に合わせている。
【0078】
高指向性のマイクロフォンMP1〜MP4は、それぞれ指向性の高いマイクロフォンであり、原点OからみてムービーカメラMC1〜MC4の外側に設置されている。つまり、撮影装置の中心からみて指向性の高い方向を半径方向外側に向けている。
【0079】
4chカメラ同期制御インタフェースCI/Fは、カメラリンクI/Fで接続されたムービーカメラMC1〜MC4を制御する機能を有する。より具体的には、処理装置PRCの命令で撮影トリガーを出力してムービーカメラMC1〜MC4の同期撮影を行う。処理装置PRCとは、PCI−Expressなどのシステムバスで接続される。
【0080】
4chマイクミキサーインターフェースMI/Fは、高指向性マイクロフォンMP1〜MP4の音声データを4chの音声データとして処理する機能を有する。処理装置PRCとは、PCI−Expressなどのシステムバスで接続される。
【0081】
処理装置PRCは、CPU・メモリ・外部記憶装置・ディスプレイ・及びプログラムROMからなる処理装置であって、例えばPCを用いることができる。処理装置PRCは、ムービーカメラ・マイクロフォンの動作を制御するプログラムをROMから読出して、画像処理を実行すると共に、制御プログラムU/I、撮影・記録された画像・音声データ、及び処理された画像・音声データをディスプレイで表示・操作するディスプレイ(不図示)を備える。
【0082】
外部記憶装置HDは、処理装置PRCで制御され記録されたムービーカメラ・マイクロフォンの画像・音声データ、及び処理済データを記録するハードディスクドライブ又はソリッドステートドライブ装置であり、十分な書き込み処理レートのためにハードウェアRAIDのI/Fで接続されている。又、RAIDレベル0(ストライピング)により高速な書き込みを行うことができる。
【0083】
本実施の形態の撮影方法を、図6を参照して説明する。図6は、録画・録音の手順を示すブロック図である。まず、不図示のスイッチのオン操作により、録画・録音開始の同期トリガー信号を送信すると、処理装置PRCにてプログラムを起動して録画・録音を開始する。より具体的には、プログラムから制御される4chカメラ同期制御インタフェースCI/Fと4chマイクミキサーインタフェースMI/Fから録画・録音開始のトリガー信号を各ムービーカメラ・マイクに送信する。
【0084】
ムービーカメラMC1〜MC4は、トリガー信号を受信すると撮影を開始する。画像はローリングシャッター方式の30fpsで撮影される。取得された画像は、円周魚眼レンズの効果で、天頂を中心とする円極座標の画像となる。撮影された各フレーム画像はムービーカメラのハードウェアでリアルタイムに画像圧縮処理が行われて約半分のデータサイズになる。
【0085】
圧縮された画像は、カメラリンクI/Fでリアルタイムに4chカメラ同期制御インタフェースCI/Fに転送される。転送された画像は、4chカメラ同期制御インタフェースCI/Fに於いて、他のカメラからの画像とフレーム番号等による同期情報を付加した後に、更にカメラリンクI/Fによりリアルタイムに処理装置PRCに転送される。撮影停止のトリガーが受信されるまでリアルタイムで処理の実行を繰り返す。
【0086】
高指向性マイクロフォンMP1〜MP4は、4chマイクミキサーインターフェースMI/Fからトリガーを受信して録音を開始する。処理装置PRCにおいて、リアルタイムに4つのマイクの音声データを4chの音声データに合成する。録音停止のトリガーが受信されるまでリアルタイムで処理の実行を繰り返す。
【0087】
ムービーカメラMC1〜MC4の動画像データは、処理装置PRCから、ハードウェアRAIDで接続された外部記憶装置HDにリアルタイムで格納される。又、処理装置PRCで4chに合成された音声データは、リアルタイムに外部記憶装置HDに格納される
【0088】
図7は、処理装置PRCで行われる後処理を示すブロック図である。処理装置PRCは、ムービーカメラMC1〜MC4の外部記憶装置HDから録画データをフレーム単位で読み出し、後処理プログラムにより画像処理を実行する。まず、画像の光学キャリブレーションを行う、より具体的には、予め測定されているムービーカメラMC1〜MC4の光学キャリブレーションデータをプログラム格納ROMから読み出して、各フレーム画像に対してキャリブレーション処理を行い、PS(Position of Symmetry)及びRadial Distortionを補正する。キャリブレーション済の画像データはメモリーバッファに格納される。
【0089】
又、処理装置PRCは、画像の投影変換処理(円極座標から円筒座標)を行う、より具体的には、処理装置PRCは、メモリーバッファからキャリブレーション済みフレーム画像データを読み出す。そして、ムービーカメラの天頂を中心とする円極座標系の画像データをキャリブレーションで補正されたPSを軸として円筒座標系に投影変換処理を行う。ここで、投影する円筒は、ムービーカメラMC1〜MC4のPSを中心として鉛直方向に処理前の画像と同程度以上の解像度を保持できる任意の半径を持つものとする。円筒投影変換において、変換後の画像は、ローカル座標系の方位角0°を画像の原点となるようにする。更に、処理装置PRCは、メモリーバッファに投影変換済のフレーム画像を格納し、その後、メモリーバッファからキャリブレーション済みのフレーム画像データを消去する。
【0090】
次に、処理装置PRCは、画像の切り出し処理を行う。まずは、方位角0°±45°の左目用画像を切り出す。具体的には、メモリーバッファから投影変換処理済のフレーム画像を読み出す。読み出したフレーム画像について、画像から方位角0°±45°(合計90°)を切り出す。更に、メモリーバッファに切り出し処理済の画像を格納する。その後、メモリーバッファから投影変換済みフレーム画像を消去する。
【0091】
次に、処理装置PRCは、方位角180°±45°の右目用画像を切り出す。具体的には、メモリーバッファから投影変換処理済のフレーム画像を読み出す。読み出したフレーム画像について、画像から方位角180°±45°(合計90°)を切り出す。更に、メモリーバッファに切り出し処理済の画像を格納する。その後、メモリーバッファから投影変換済みフレーム画像を消去する。
【0092】
次に、処理装置PRCは、方位角90°±45°の左目用画像を切り出す。具体的には、メモリーバッファから投影変換処理済のフレーム画像を読み出す。読み出したフレーム画像について、画像から方位角90°±45°(合計90°)を切り出す。更に、メモリーバッファに切り出し処理済の画像を格納する。その後、メモリーバッファから投影変換済みフレーム画像を消去する。
【0093】
次に、処理装置PRCは、方位角270°±45°の右目用画像を切り出す。具体的には、メモリーバッファから投影変換処理済のフレーム画像を読み出す。読み出したフレーム画像について、画像から方位角270°±45°(合計90°)を切り出す。更に、メモリーバッファに切り出し処理済の画像を格納する。その後、メモリーバッファから投影変換済みフレーム画像を消去する。
【0094】
次に、処理装置PRCは、方位角180°±45°の左目用画像を切り出す。具体的には、メモリーバッファから投影変換処理済のフレーム画像を読み出す。読み出したフレーム画像について、画像から方位角180°±45°(合計90°)を切り出す。更に、メモリーバッファに切り出し処理済の画像を格納する。その後、メモリーバッファから投影変換済みフレーム画像を消去する。
【0095】
次に、処理装置PRCは、方位角0°±45°の右目用画像を切り出す。具体的には、メモリーバッファから投影変換処理済のフレーム画像を読み出す。読み出したフレーム画像について、画像から方位角0°±45°(合計90°)を切り出す。更に、メモリーバッファに切り出し処理済の画像を格納する。その後、メモリーバッファから投影変換済みフレーム画像を消去する。
【0096】
次に、処理装置PRCは、方位角270°±45°の左目用画像を切り出す。具体的には、メモリーバッファから投影変換処理済のフレーム画像を読み出す。読み出したフレーム画像について、画像から方位角270°±45°(合計90°)を切り出す。更に、メモリーバッファに切り出し処理済の画像を格納する。その後、メモリーバッファから投影変換済みフレーム画像を消去する。
【0097】
次に、処理装置PRCは、方位角90°±45°の右目用画像を切り出す。具体的には、メモリーバッファから投影変換処理済のフレーム画像を読み出す。読み出したフレーム画像について、画像から方位角90°±45°(合計90°)を切り出す。更に、メモリーバッファに切り出し処理済の画像を格納する。その後、メモリーバッファから投影変換済みフレーム画像を消去する。
【0098】
以上を言い換えると、方向角θ=0度の方向を中心とするステレオ動画は、ムービーカメラMC4の画像データにより左目動画を形成し、ムービーカメラMC2の画像データにより右目用動画を形成する。一方、方向角θ=180度の方向を中心とするステレオ動画は、ムービーカメラMC2の画像データにより左目動画を形成し、ムービーカメラMC4の画像データにより右目用動画を形成する。又、方向角θ=90度の方向を中心とするステレオ動画は、ムービーカメラMC1の画像データにより左目動画を形成し、ムービーカメラMC3の画像データにより右目用動画を形成する。一方、方向角θ=270度を中心とする方向のステレオ動画は、ムービーカメラMC3の画像データにより左目動画を形成し、ムービーカメラMC1の画像データにより右目用動画を形成する。
【0099】
更に処理装置PRCは、画像のモザイク処理(左目用)を行う。左目用に処理された切り出し済み画像を、一つの画像にモザイク処理する。より具体的には、方位角0°を画像原点左上として、方位角を合わせてモザイク処理する。その後、メモリーバッファにモザイク済のフレーム画像を格納し、メモリーバッファから切り出し処理済の画像を消去する。
【0100】
また処理装置PRCは、画像のモザイク処理(右目用)を行う。右目用に処理された切り出し済み画像を、一つの画像にモザイク処理する。より具体的には、方位角0°を画像原点左上として、方位角を合わせてモザイク処理する。その後、メモリーバッファにモザイク済のフレーム画像を格納し、メモリーバッファから切り出し処理済の画像を消去する。
【0101】
これと並行して、4chの音声データを入力された処理装置PRCは、後処理プログラムにより、左眼動画像・右眼動画像・音声データの合成保存を行う。音声については、画像のフレーム始終端に同期した長さのデータがメモリーバッファに格納されている。モザイクの処理済み画像のうち左目画像データを左に、右目画像データを右に配置して結合し、横方向に2倍大きさのサイドバイサイド形式のステレオフレーム画像を生成する。その後、動画像形式のフレーム画像として外部記憶装置HDに記録する。以上の処理を繰り返し、フレーム終端まで処理を複行する。画像の処理が終了後、音声データを画像データのタイムコードで同期させて格納する。その後、全てのメモリーバッファの内容をクリアすることで、処理が終了する。
【0102】
次に、図8を参照して、半球状スクリーンと魚眼レンズ付プロジェクタを用いた再生装置を説明する。図8において、縁部のみを示す中空の半球型スクリーンHSの中央に、円周魚眼レンズFLを備えたプロジェクタPJが、光軸を半球中央に向けて配置されている。又、4つのスピーカーSP1〜SP4が、半球型スクリーンHSの内壁に周方向に等間隔に設置されている。尚、ここでは、ローカル座標系として、半球型スクリーンHSの中心を原点Oとし、原点OからスピーカーSP1の中心に向かう方向をY軸の正方向とし、原点OからスピーカーSP2の中心に向かう方向をX軸の正方向とする。また方向角θはY軸の正方向を0°とし、時計回りの方向の角度にとる。
【0103】
スピーカーSP1〜SP4は、4ch音声出力インターフェースSI/Fにそれぞれ接続されており、プロジェクタPJは、再生装置RPに接続されている。再生装置RPは、4ch音声出力インターフェースSI/Fに接続され、内部にプログラム格納ROMを有すると共に、外部記憶装置HDに接続されている。
【0104】
半球型スクリーンHSは、水平面より上部を半球形状の(下部が開いた)半径2m程度の剛体のスクリーンであり、地上から1.5m程度の高さに設置されている。その形状は、円錐でも円筒でも構わないが球に近いほど観察者からの距離の変化が少なくなり理想的となる。尚、プロジェクタPJの代わりに、半球型スクリーンHSの内面に画像を表示するパネルを設けても良い。
【0105】
円周魚眼レンズFLを備えた再生プロジェクタPJは、2M画素程度の解像度を持つプロジェクタで再生装置RPに映像出力I/Fで接続されており、半球型スクリーンHSの中央・且つ下部端にレンズ外側を合わせて鉛直上方を向いて配置されている。
【0106】
動画の観察者は、半球型スクリーンHSの下部から半球型スクリーンHS内部に頭部だけを入れてスクリーンに投影された動画を観察する。観察者は、アクティブシャッター方式の眼鏡GLを掛けている。アクティブシャッター方式の眼鏡GLは、眼鏡同期信号エミッタにより100〜120Hz程度の速さで左眼と右眼の画像を切り替えて表示できるものである。
【0107】
より具体的には、観察者はアクティブシャッター方式の眼鏡GLを用いて、同期信号エミッターの赤外線信号を受信しながらステレオ動画を観察する。半球型スクリーンHSの映像が再生プロジェクタPJと観察者の直線上にあるときには隠蔽されて動画が観察できないために、観察位置を移動する必要がある。よって通常、観察者は観察位置に立ち再生プロジェクタPJの方向を向いて動画を観察することになる。
【0108】
再生装置RPは、CPU・メモリ・外部記憶装置・ディスプレイ・及びプログラムROMからなる処理装置であり、例えばPCを用いると好ましい。再生装置RPは、再生プロジェクタPJのステレオ動画像データ、4chの音声データ、アクティブシャッター方式の眼鏡GLを同期するためのエミッタのためのI/Fを有する。再生装置RPは、ステレオ動画像、及び4chの音声を再生するプログラムをROMから読み出し、再生のため実行する。再生装置RPは、再生プログラムのU/I、及び再生データを表示・操作するディスプレイを備える。
【0109】
4ch音声出力SI/Fは、4chで格納されている音声データを各チャンネルに分配するI/Fを有し、チャンネル間のボリュームレベルなどを個々に調整制御する機能がある。尚、アクティブシャッター方式の眼鏡同期信号エミッタは、再生装置RPに接続されており、観察者が装着するアクティブシャッター方式の眼鏡における左眼・右眼の液晶スクリーンのオンオフを再生プロジェクタPJのステレオ画像の左眼・右眼の切り替えに同期させて制御するための赤外線信号を送信する機能を有する。
【0110】
次に、図9を参照して動画の再生手順を説明する。図9は、動画の再生手順を説明するためのブロック図である。不図示のスイッチのオン操作に応じて、再生装置RPはステレオ動画像再生プログラムを実行する。これにより、再生に必要なプロジェクタPJ・スピーカーSP1〜SP4・アクティブシャッター方式の眼鏡同期信号エミッタが確保・初期化される。
【0111】
再生装置RPは、外部記憶装置HDから後処理で格納されたステレオ動画像・音声データを、再生の支障が出ないように逐次メモリーバッファに読み出す。そして、アナログビデオ出力D−SUB、又はデジタルビデオ出力DVI−Dで接続したプロジェクタPJに画像を送信し、半球状スクリーンHSに投影する。このとき撮影時とローカル座標系を一致させるのがよい。投影される映像は、サイドバイサイド方式のステレオ画像であって、決められた100−120Hz程度の周波数で左眼用の画像と右眼用の画像が切り替えて再生される。
【0112】
更に、投影されるステレオ画像に同期して観察者がかけているアクティブシャッター方式の眼鏡GLのシャッター動作を同期させるための赤外線同期信号を、再生装置RPに接続されたエミッタから送信する。観察者は、アクティブシャッター方式の眼鏡GLがエミッタの赤外線信号を受信している間は、公知の態様で、投影されたステレオ画像をステレオ状態で観察することができる。
【0113】
一方、再生装置RPは、音声データからマイクMP1に該当するch1の音声を、スピーカSP1に送信して再生し、音声データからマイクMP2に該当するch2の音声を、スピーカSP2に送信して再生し、音声データからマイクMP3に該当するch3の音声を、スピーカSP3に送信して再生し、音声データからマイクMP4に該当するch4の音声を、スピーカSP4に送信して再生する。尚、アクティブシャッター方式の眼鏡GLに方向センサを備えて、観察者が向いている方向を検出し、その方向のスピーカーのみ音声を増大させたり、或いはその方向のスピーカーのみから音声を流すようにしても良い。
【0114】
以上説明した本実施の形態では、これまで実現できなかった以下の効果を期待できる。
1)ステレオ半球動画像の撮影を、持ち運びの可能な大きさの撮影装置及び処理装置で実施できる。
2)半球に渡って全方位に死角が無くつなぎ目の目立たないステレオ動画像を記録・再生できる。
3)半球を単一のステレオフレーム画像として取り扱えるため、再生はプロジェクタ1 台で再生が可能である。
4)カメラとほぼ同じ位置に設置された指向性マイクロフォンの音声を再生することで、全方位のステレオ動画像と共に音源定位が可能である。
【0115】
尚、ムービーカメラMC1〜MC4に装着するレンズを円周魚眼レンズに換えて画角45度の普通角レンズ(標準レンズ)とした場合、レンズの画角を変更したことで下述のデメリットが発生する。その結果、画角45度の普通角レンズを用いると円周魚眼レンズと比較して極端に実用性が低下し、装置として成立しない可能性が高い。
【0116】
即ち、本発明の用途では、主要被写体が画像周辺部に位置する場合が多いが、かかる領域では解像度も低下し、ひずみ、収差が出る可能性をもっている。したがって、標準角レンズを用いると、天頂を向けて撮影したときに、足元の水平面に近い周辺の像が使えなくなる恐れがある。レンズの画角がせまくなるほど、水平面からの距離が増えた高さまでの周囲映像が使えなくなってしまう。例えば普通角レンズで、天頂を向けて撮影すると、360度周囲の高いビルの精細な映像も得られなくなる。従って、それより画角の大きなレンズを用いるのが好ましい。本発明においては、ステレオの基線が装置の中央(天頂・又は鉛直下)から同心円上に設定されており、円周上で水平に視野を動かす時には、ステレオで観察をし続けることが出来る。又、前述の理由により、視野を装置の中央(天頂・又は鉛直下)に向けたときには、ステレオの基線方向が異なる画像が視野に入ってくるために、ステレオで観察できない部分が発生する。肉眼での視野角は、ぼんやりと光を認知する周辺部を含めても、概ねレンズの標準角(45°)に相当する程度である。また注視している範囲は30°程度といわれる。画角45°の普通角による装置では、ステレオ視の有効な天頂(又は鉛直下)から画像の端までの天地方向の角度が22.5度となるために、観察者が自然に画像を観察した時に装置の中央を含んだ方向に視野を向けてしまうので自然なステレオ感を得ることが困難である。もし、自然なステレオ感を得るとすれば、装置の中央を視野に入れないようにして画像の無い部分に注視点をむける必要性があり、これも容易ではない。更に、画角45°程度のステレオ画像の撮影や再生を成立させることを考えれば、むしろ天頂(または鉛直下)方向へ2台のカメラを向けて通常の並行ステレオ撮影を行うほうが実用的で簡便であり、本装置の必然性が失われることになる。
【0117】
一方、ムービーカメラMC1〜MC4に装着するレンズを画角60°の広角レンズとした場合には、上述の問題は生じない。円周魚眼レンズと比較して実用性は低下するが、限定的な応用範囲では装置としては成立する。例えば、道路交差点において鉛直下へ向けて装置を設置して、交通の監視や事故時の検証を目的とした場合は、この画角で成立する。
【0118】
画角45°の普通角レンズによる撮影装置では、肉眼の注視方向の視野角30°が装置の天地方向の有効なステレオ視野角22.5°よりも大きくなってしまいために、実用性が極端に低下したが、画角60°普通角レンズでは限界下限値ではあるが、装置の天地方向の有効なステレオ視野角が30°となり、装置としては成立する。又、画角が小さくなることで画像の画素数が同じであれば、解像度が3倍向上する。更に、レンズの性能の低下する辺縁部を使用しないために色収差や放射方向歪みによる影響が低減されるという利点もある。
【0119】
(第2の実施の形態)
次に、第2の実施の形態について説明する。図10は、第2の実施の形態にかかるドライブレコーダシステムを説明するためのブロック図である。ここでは、図2に示すように、図5の撮影装置を2組背面合わせに組み合わせて(装置の軸を一致させて)、全球の撮影・録音を行うドライブレコーダとする。ドライブレコーダは、車両上部(外部)に搭載され、事故など何らかの事象の後でそれを分析するための画像・音声を提供するものである。
【0120】
図10において、車両VHのルーフの概ね中央に、支持軸HPを介して録画・録音装置RDが設置されている。上部の録画・録音装置RD1、下部の録画・録音装置RD2は、それぞれ図5に示す撮影装置と基本構成は同じである。上部の録画・録音装置RD1は、処理装置PRC1に接続され、下部の録画・録音装置RD2は、処理装置PRC2に接続されている。処理装置PRC1及び処理装置PRC2は、同期制御用処理装置SYCに接続されている。
【0121】
上部の録画・録音装置RD1は、鉛直方向上向きに撮影方向を設定する。魚眼レンズが180°のとき、装置厚み(上部の録画・録音装置RD1の入射瞳と、下部の録画・録音装置RD2の入射瞳の鉛直方向の距離)が上半球と下半球の画像の離隔となる。このために上部の録画・録音装置RD1と下部の録画・録音装置RD2は密着させて可能な限り離隔を小さくすることが望ましい。
【0122】
以上を改善するためには、以下の3つの対策のいずれかまたは組み合わせを行うと好ましい。
1)レンズの画角を180°以上(例えば190°)とすること。
2)装置の鉛直方向の厚みを小さくするために各カメラの光学系にプリズムを採用した屈折光学構造を採用すること。
3)上部の録画・録音装置RD1と下部の録画・録音装置RD2で、装置の方位角θの原点をずらして上下でカメラの物理的な干渉を減らすこと。
【0123】
下部の録画・録音装置RD2は、鉛直方向下向きに撮影方向を設定する。それ以外は、上部の録画・録音装置RD1と共通である。処理装置PRC1及び処理装置PRC2は、上述の実施の形態における処理装置PRCと同様である。
【0124】
同期制御用処理装置SYCは、CPU・メモリ・外部記憶装置・ディスプレイ・及びプログラムROMからなる処理装置であり、例えばPCを用いることができ、上部の録画・録音装置RD1と下部の録画・録音装置RD2の録画・録音開始・終了のトリガー信号を発生して同期を取る機能を有する。
【0125】
図11は、第2の実施の形態の録画・再生手順を説明するためのフロー図である。図11において、同期制御用処理装置SYCが、同期処理用プログラムを起動して録画・録音開始トリガー信号を上部の録画・録音装置RD1と下部の録画・録音装置RD2に送信して、録画・録音を開始させる。これにより上部の録画・録音装置RD1と下部の録画・録音装置RD2は、第1の実施の形態と同様にして録画・録音を行う。その後、同期制御用処理装置SYCで同期処理用プログラムにより録画・録音終了トリガー信号を上部の録画・録音装置RD1と下部の録画・録音装置RD2に送信して、録画・録音を停止させる。
【0126】
図12は、第2の実施の形態の後処理を説明するためのフロー図である。上部の録画・録音装置RD1と下部の録画・録音装置RD2から収集された画像データ・音声データは、上述した実施の形態と同様に画像処理される。更に、左眼の上半球・下半球画像のモザイク処理(左目用)のため、上部の録画・録音装置RD1と下部の録画・録音装置RD2で記録された左目用画像の各フレームを上半球を上部に、下半球を下部に配置して、行数が2倍の画像にモザイクする。また、右眼の上半球・下半球画像のモザイク処理(右目用)のため、上部の録画・録音装置RD1と下部の録画・録音装置RD2で記録された右目用画像の各フレームを上半球を上部に、下半球を下部に配置して、行数が2倍の画像にモザイクする。加えて、上部の録画・録音装置RD1と下部の録画・録音装置RD2で記録された各4chの音声データを8chの音声データとして合成する。その後、上述した実施の形態と同様に、記憶する。
【0127】
図13は、第2の実施の形態の再生処理を説明するためのフロー図である。第1の実施の形態では、半球型スクリーンSC及び円周魚眼レンズ付プロジェクタPJを使用して動画再生を行っているが、本実施例では全球が対象となり物理的には同様の再生方法をとることが困難である。このためにヘッドマウントディスプレー(HMD)を用いた没入型の全球ステレオ画像・音声再生の装置を用いるが、限られた条件であればプロジェクタと半球型スクリーンとの組み合わせでも良い。表示装置としてのHMDは、例えば一対の表示部を観察者の左目と右目に各々あてがうようにして、観察者が着用する眼鏡型の表示装置であり、更にHMDの方向を検出する検出手段としてのセンサを有し、該センサの検出した方向に応じて、表示部に表示する4つのステレオ画像を切り換えるものである。
【0128】
ステレオ動画像・音声再生プログラムを実行すると、再生に必要なHMD(3軸方位センサー・サイドバイサイド動画像再生・音声再生)が初期化される。更に、HMDの3軸角度センサーが観察者の視野の方位角と仰角を計測し、再生プログラムが受信する。角度データは、装置の対応する最速の周期で繰り返し測定・送信される。HMDは、再生プログラムに基づき、角度データから、画像の範囲の計算、音声の各chの合成割合を実行する。その後、計算された画像の範囲の切り出し処理を行うと共に、計算されたchの合成割合により8chの音声の合成処理を行う。切り出された画像・合成された音声はビデオ出力I/F経由でHMDに送信される。HMDは送信された左眼・右眼動画像・音声を再生することができるので、HMDを装着した観察者がこれを観察できる。本実施の形態によれば、全球のステレオ動画像・音声が簡便記録・再生できる。観察者が右を向けば右側の画像が表示され、左を向けば左側の画像が表示され、後ろを向けば後側の画像が表示される。ドライブレコーダとして、事故等の発生後にデータを分析し、衝突時の速度・方向・周辺の他車の動きなどを一元的に把握できる。
【0129】
(第3の実施の形態)
次に、第3の実施の形態について説明する。ここでは、本発明の通信システム、遠隔操作方法を述べる。図14は、第3の実施の形態にかかる遠隔操作方法を示すブロック図である。第1の実施の形態の装置を応用して、遠隔地からリアルタイムに撮影・再生及びその情報を用いてマニピュレータを操作する通信システムを構築でき、その応用として、無人深海調査船に搭載する遠隔操作マニピュレータとの組合せを設定する。
【0130】
上述の録画・録音装置RD2を、透明なガラス製の耐圧シールド容器VLに格納し、鉛直下を観察するように無人深海調査船SHの船底に水平に取り付ける。耐圧シールド容器VLの中央にマニピュレータMPTの軸受けを取り付けて、半球ステレオ画像を観察しながら、インタラクティブにマニピュレータMPTを操作できるようにする。第2の実施の形態と同様な処理装置PRC2は、無人深海調査船SHに設けられている。再生装置としては、第2の実施の形態のHMDによるものを採用する。再生は伝送装置を用いてリアルタイムに行う。
【0131】
調査船に設けたマニピュレータ制御装置MDは、マニピュレータMPTに内蔵されたアクチュエータを制御する。制御の命令は母船上の制御装置CNTから伝送される。無人調査船側無線伝送装置RT1は、母船上の母船側無線伝送装置RT2と通信し、全方位画像・及び音声をアップリンクすると共に、マニピュレータMPTの制御信号をダウンリンクする。
【0132】
処理装置PRCは、第2の実施の形態における再生装置と同様のもので、リアルタイムに再生用HMDで画像・音声の再生を行うことができる。制御装置CNTは、マニピュレータ操作I/Fから入力される制御信号を、無線伝送装置RT2を通じて送信する。マニピュレータ操作I/Fは、作業者が、再生用HMDに表示される映像でマニピュレータMPTの動作を確認しながら、マニピュレータMPTの制御をインタラクティブに行うものであり、ジョイスティック形のI/Fで或ると好ましい。
【0133】
図15は、録画・録音・伝送・再生・マニピュレータ制御・フィードバック確認の手順を示すフロー図である。録画・録音装置RD2が取得した画像データ・音声データは、処理装置PRC2で処理された後、無人調査船側無線伝送装置RT1から、母船側無線伝送装置RT2を介して、制御装置CNTにアップリンクされ、HMDにて再生される。
【0134】
HMDを装着した作業者は、リアルタイムで表示された画像を見ながら、マニピュレータ操作I/Fを操作するので、その信号が制御装置CNTより、母船側無線伝送装置RT2から、無人調査船側無線伝送装置RT1を介して、マニピュレータ制御装置MDにダウンリンクされ、マニピュレータMPTを駆動するようになっている。
【0135】
本実施の形態によれば、深海のような遠隔地でも、広い視野に渡ってステレオ視での観察が可能である。即ち、単眼のモニタ画像では、耐圧ガラスなどによる屈折の影響により自然な視野の遠近感を得ることが困難であったのに対し、ステレオ視が可能になることで屈折の影響があっても、相対的な遠近感により、対象物の観察や作業を容易にする。更に、撮影した物体の長さなどを後から計測することが出来る。又、マニピュレータMPTがステレオ画像に写りこむために容易に遠隔地からインタラクティブに操作をすることが可能である。又、装置の中央部は画像の死角となるから、マニピュレータMPTの取り付け部が観察時の隠蔽を起こす障害になりづらい。尚、かかる通信システムを2つ設けることで、TV会議なども可能になる。
【0136】
(第4の実施の形態)
次に、第4の実施の形態について説明する。ここでは、本発明の監視方法を述べる。図16は、第4の実施の形態にかかる監視動作を示すブロック図である。第4の実施の形態は、第1の実施の形態に計測機能を後処理として組み合わせた応用例として、道路交差点の上方に、鉛直下へ光軸を向けて取り付けた撮影装置により、交通の監視や事故時の検証を目的とするものである。撮影装置としては、第2の実施の形態の録画・録音装置RD2と処理装置PRC2を用いることができる。
【0137】
監視動作について説明する。まず、トータルステーション等の測量機器を用いて、予め撮影装置の位置座標値及び方向角0°を決定する。次に、計測手段を兼ねる処理装置PRC2が、撮影装置で取得した画像データ・音声データを処理して、得られたステレオ画像において目視で対象物の位置を計測して、左眼及び右眼に画像座標値として記録する。又、画像処理トラッキング技術を用いて移動する対象物を対象とすることも出来る。更に、三角測量の基本原理を用いて、対象物の撮影装置との相対的な方向角を算出する。又、対象物の仰角はカメラの中心からの画角で決定する。決定された方向角と仰角の交会誤差は算出平均をする。撮影装置の外部定位値を基準に、対象物の相対位置を決定することで、対象物の絶対位置を決定することができる。
【0138】
本実施の形態によれば、半球(第2の実施の形態との組合わせでは全球)のいずれにある対象物でも、画像に写っている限り、撮影装置からの相対位置が計測できる。又、画像中の位置が計測できる特性を応用して、CG技術で作成した仮想の物体を任意の位置で装置からの出力画像にオーバーレイ表示できる(AR技術)。
【0139】
以上、本発明を実施の形態を参照して説明してきたが、本発明は上記実施の形態に限定して解釈されるべきではなく、適宜変更・改良が可能であることはもちろんである。
【符号の説明】
【0140】
BS 支持台
BS1 円盤部
BS2 支持柱
BS3 リング部
CI/F カメラ同期制御インタフェース
CNT 制御装置
FL 円周魚眼レンズ
FL1〜FL4 魚眼レンズ
GL 眼鏡
HD 外部記憶装置
HMD ヘッドマウントディスプレイ
HP 支持軸
HS 半球型スクリーン
MC1〜MC4 ムービーカメラ
MD マニピュレータ制御装置
MI/F マイクミキサーインタフェース
MP1〜MP4 高指向性マイクロフォン
MPT マニピュレータ
O 原点
PJ 円周魚眼レンズ付プロジェクタ
PRC 処理装置
PRC1 処理装置
PRC2 処理装置
RD 録画・録音装置
RD1 録画・録音装置
RD2 録画・録音装置
RP 再生装置
RT1 無人調査船側無線伝送装置
RT2 母船側無線伝送装置
SC 半球型スクリーン
SH 無人深海調査船
SI/F 音声出力インターフェース
SP1〜SP4 スピーカー
SYC 同期制御用処理装置
VH 車両
VL 耐圧シールド容器
【技術分野】
【0001】
本発明は、撮影方法、撮影機、撮影装置、3次元画像形成方法、全方位3次元画像形成方法、投影装置、通信システム、表示装置、遠隔操作方法、及び監視方法に関する。
【背景技術】
【0002】
従来のステレオ画像の撮影方法は、一般的に、2台のカメラを一定の距離を離して、同一水平面に配置し、被写体に撮影方向を向けて撮影するものである。また、その周辺の被写体や背景の撮影も一緒に行うなら、カメラを載せた雲台毎、水平面内で回転させて複数枚の撮影をおこなって、得られた画像をつなぎ合わせて合成し、望みの画像を形成することが一般的である。又、カメラの光軸を撮影対象物に向けるのが常識である。
【0003】
ここで、周辺の被写体や背景を撮影(あるいはパノラマ撮影)する場合に、複数枚の撮影を行うために、各撮影に時差が起こり、移動する被写体や変化する被写体は、かかる時差のために歪んで撮影されるなどして正確な画像が得られなかった。従って、例えば監視、観察等の利用には不適切であった。また、全方位の画像を撮影するために、球面鏡、円錐鏡、双曲面鏡、角錐鏡、放物面鏡などのミラー用いて撮影する方法もあるが、それらの方法では、ミラーの部分が死角となり、完全な半球や全球の画像が取得できないという問題がある。特に、全方位画像撮影装置では、カメラ本体が画像に写りこむことで死角となってしまう。更に、ミラーを用いる方法の多くは、同一鉛直軸上の2つのカメラによりステレオ視を行う際に、ステレオ対の方向が水平で無いために、全方位の見回しをステレオで途切れなく行うことができないという問題がある。これに対し、ミラーを用いずにリアルタイムで3次元画像を撮影するものとして、特許文献1,2に示すような全方位撮影装置が知られている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特許第3827912号明細書
【特許文献2】特開2010−256534号公報
【発明の開示】
【発明が解決しようとする課題】
【0005】
より具体的には、特許文献1に示すステレオ画像撮影装置は、12個のステレオカメラユニットを12面体に取り付け、ユニット内のカメラ間隔を保ちながら、他のユニットの視野を妨げないように最適に組み合わせることで、全方向のカラー画像と3次元情報とをリアルタイムで取得できるものである。しかるに、特許文献1のステレオ画像撮影装置では、カメラ自身が写り込むことがなく、全周囲に加え、頭頂方向の画像もリアルタイムで撮影できるが、12個のステレオカメラユニットが必要になるため、コスト高を招くという問題がある。更に、各カメラユニットの基線方向がバラバラなので、連続的な全方位のステレオ映像を見ることができない。
【0006】
次に、特許文献2の図7に示す全方位撮像装置は、半径方向外側に向けた16台のカメラを2つずつ対にして用いることで、カメラ自身が写りこむことがなく、8枚の3次元画像をリアルタイムで取得するものである。しかしながら、特許文献2の技術でも16台のカメラが必要になり、また天頂方向の画像を撮影することは困難である。
【0007】
本発明は、かかる問題点に鑑みてなされたものであり、各カメラの画像において、カメラ自身が写りこんでいる部分をステレオ画像の組合せ処理により取り除くことができ、よってカメラによる死角が生じず、低コストでありながら、広範囲な3次元画像をリアルタイムで撮影することができる撮影方法、撮影機、撮影装置、3次元画像形成方法、全方位3次元画像形成方法、並びにかかる技術を用いた投影装置、通信システム、表示装置、遠隔操作方法、及び監視方法を提供することを目的とする。
【課題を解決するための手段】
【0008】
請求項1に記載の撮影方法は、広角レンズ又は超広角レンズを有する少なくとも3台のカメラを、同一平面の同一円周上に配設し、前記円周上の前記少なくとも3台のカメラの間のそれぞれの円弧の長さが等しくなるように配置して、且、前記平面に垂直で同一の撮影方向に前記少なくとも3台のカメラを配置し、同期して撮影することを特徴とする。
【0009】
本発明の原理を、図1を参照して説明する。尚、本発明にて単に「画像」というときは、「映像」も含むことがあるものとする。図1において、広角レンズL1〜L3(又は超広角レンズ)をそれぞれ有する3台のカメラC1〜C3を、同一平面の同一円周上に配設している。又、3台のカメラC1〜C3のうち隣接するもの(その光軸)同士の間における円弧の長さが等しくなっている。尚、カメラC1〜C3の形状が同じである場合、同一仮想平面(ここでは水平面HP)の同一円周上に、各撮像面(撮像素子の受光面或いは銀塩フィルム面)の中心が位置するとともに、隣接するもの撮像面の中心間における円弧の長さが等しくなっているようにすると好ましい。
【0010】
更に、仮想平面に垂直で同一の撮影方向に3台のカメラC1〜C3を配置している。これは、カメラC1〜C3の光軸X1〜X3が互いに平行であることを意味する。
【0011】
かかる状態に配置したカメラC1〜C3で、同期して撮影すると、カメラC1で撮影する領域と、カメラC2で撮影する領域とが一部重なることとなる。かかる場合、カメラC1から得られた画像を左目用の画像とし、カメラC2から得られた画像を右目用の画像とすれば、重複した撮影領域(第1の撮影領域)では3次元画像(ステレオ画像ともいう)を撮影できることとなる。又、カメラC2で撮影する領域と、カメラC3で撮影する領域とが一部重なるから、カメラC2から得られた画像を左目画像とし、カメラC3から得られた画像を右目用の画像とすれば、重複した撮影領域(第1の撮影領域とは異なる第2の撮影領域)では3次元画像を撮影できることとなる。更に、カメラC3で撮影する領域と、カメラC1で撮影する領域とが一部重なるから、カメラC3から得られた画像を左目画像とし、カメラC1から得られた画像を右目用の画像とすれば、重複した撮影領域(第1及び第2の撮影領域とは異なる第3の撮影領域)では3次元画像を撮影できることとなる。又、得られた3次元画像に基づき、被写体までの距離などの情報を求めることができる。
【0012】
かかる場合、カメラの光軸X1〜X3が仮想平面に垂直であるが、カメラC1〜C3は広角レンズL1〜L3を有しているので、その画角の範囲内で、光軸方向のみならず、全周の画像をリアルタイムに撮影できる。本発明によれば、同じカメラで撮影した画像を、右目用の画像及び左目用の画像として用いることで、少ない数のカメラを用いて全周の3次元画像をリアルタイムで撮影できることとなる。尚、広角レンズL1〜L3により撮影した画像には歪みが生じるが、これは画像処理等により平面画像に変換可能である。
【0013】
請求項2に記載の撮影方法は、それぞれの特性が同一の前記少なくとも3台のカメラを用い、前記平面を水平面とし、前記撮影方向を天に向けて前記撮影を実行することを特徴とする。これにより、天頂方向を含む広範囲の被写体を撮影できる。
【0014】
請求項3に記載の撮影方法は、前記広角レンズ又は超広角レンズが、60度以上の画角を有することを特徴とする。これにより、広範囲の被写体を撮影できる。
【0015】
請求項4に記載の撮影方法は、前記広角レンズ又は超広角レンズが魚眼レンズであることを特徴とする。これにより、更に広範囲の被写体を撮影できる。
【0016】
請求項5に記載の撮影方法は、前記カメラが4台であることを特徴とする。カメラの数は、3台だけでなく、4台でも良いし、更に多くしても良い。
【0017】
請求項6に記載の撮影方法は、前記カメラがデジタルカメラであることを特徴とする。これにより得られた画像に対し画像処理を容易に行える。
【0018】
請求項7に記載の撮影方法は、前記カメラが、ムービーカメラであることを特徴とする。本発明は、特に移動又は変化する被写体をリアルタイムで撮影するのに好適である。
【0019】
請求項8に記載の撮影方法は、前記カメラが、複数のマイクロフォンとそれぞれの前記マイクロフォンが集音した音を録音するディバイスを配置したことを特徴とする。例えば、図1のカメラC1〜C3に各々マイクロフォンを搭載して、集音することも可能である。これにより、ステレオで録音した音を再生するのに好都合である。
【0020】
請求項9に記載の撮影機は、広角レンズ又は超広角レンズを有する少なくとも3台のカメラを、同一平面上の同一円周上に配設し、前記円周上の前記少なくとも3台のカメラの間のそれぞれの円弧の長さが等しくなるように配置して、且、前記平面に垂直で同一の撮影方向に前記少なくとも3台のカメラを配置し、同期撮影機構を備えたことを特徴とする。
【0021】
図1を参照して説明したように、本発明の撮影機によれば、同じカメラで撮影した画像を、右目用の画像及び左目用の画像として用いることで、少ない数のカメラを用いて全周の3次元画像をリアルタイムで撮影できる。
【0022】
請求項10に記載の撮影機は、それぞれの前記少なくとも3台のカメラの特性が同一であることを特徴とする。これにより、均一な3次元画像を得ることができる。
【0023】
請求項11に記載の撮影機は、前記広角レンズ又は超広角レンズが魚眼レンズであることを特徴とする。これにより、更に広範囲の被写体を撮影できる。
【0024】
請求項12に記載の撮影機は、前記カメラが4台であることを特徴とする。カメラの数は、3台だけでなく、4台でも良いし、更に多くしても良い。
【0025】
請求項13に記載の撮影機は、前記カメラがデジタルカメラであることを特徴とする。これにより得られた画像に対し画像処理を容易に行える。
【0026】
請求項14に記載の撮影機は、前記少なくとも3台のカメラがそれぞれデジタルムービーカメラであり、それぞれの前記カメラが録音ディバイスを有することを特徴とする。本発明は、特に移動又は変化する被写体と音をリアルタイムで撮影するのに好適である。
【0027】
請求項15に記載の撮影装置は、第一の広角レンズ又は超広角レンズを有する第一の少なくとも3台のカメラを、第一の同一平面上の第一の同一円周上に配設し、前記第一の円周上の前記第一の少なくとも3台のカメラの間のそれぞれの第一の円弧の長さが等しくなるように配置して、且、前記第一の平面に垂直で第一の同一の撮影方向に前記第一の少なくとも3台のカメラを配置し、第一の同期撮影機構を備えた第一の撮影機と第二の広角レンズ又は超広角レンズを有する第二の少なくとも3台のカメラを、第二の同一平面上の第二の同一円周上に配設し、前記第二の円周上の前記第二の少なくとも3台のカメラの間のそれぞれの第二の円弧の長さが等しくなるように配置して、且、前記第二の平面に垂直で第二の同一の撮影方向に前記第二の少なくとも3台のカメラを配置し、第二の同期撮影機構を備えた第二の撮影機とを前記第一の撮影方向と前記第二の撮影方向を逆方向になるように、背中合わせに配置したことを特徴とする。
【0028】
本発明の原理を、図2を参照して説明する。図2において、第1の撮影機として、広角レンズL1〜L3(又は超広角レンズ)をそれぞれ有する3台のカメラC1〜C3を、不図示の第1の同期撮影機構に連結した状態で、同一平面(第1平面)の同一円周上に配設している。又、3台のカメラC1〜C3のうち隣接するもの同士の間における円弧の長さが等しくなっている。更に、第2の撮影機として、広角レンズL4〜L6(又は超広角レンズ)をそれぞれ有する3台のカメラC4〜C6を、不図示の第2の同期撮影機構に連結した状態で、且つ各々カメラC1〜C3に背面合わせの状態で、同一平面(第1平面に近接して平行な第2平面)の同一円周上に配設している。よって、3台のカメラC4〜C6のうち隣接するもの同士の間における円弧の長さが等しくなっている。
【0029】
更に、第1平面に垂直で同一の撮影方向に3台のカメラC1〜C3を配置している。これは、カメラC1〜C3の光軸X1〜X3が互いに平行であることを意味する。又、第2平面に垂直で同一の撮影方向に3台のカメラC4〜C6を配置している。これは、カメラC4〜C6の光軸X4〜X6が互いに平行であることを意味する。但し、3台のカメラC1〜C3の撮影方向は真上であり、逆に3台のカメラC4〜C6の撮影方向は真下である。
【0030】
かかる状態に配置したカメラC1〜C3で、同期して撮影すると、カメラC1で撮影する領域と、カメラC2で撮影する領域とが一部重なることとなる。かかる場合、カメラC1から得られた画像を左目用の画像とし、カメラC2から得られた画像を右目用の画像とすれば、重複した撮影領域(第1の撮影領域)では3次元画像を撮影できることとなる。又、カメラC2で撮影する領域と、カメラC3で撮影する領域とが一部重なるから、カメラC2から得られた画像を左目画像とし、カメラC3から得られた画像を右目用の画像とすれば、重複した撮影領域(第1の撮影領域とは異なる第2の撮影領域)では3次元画像を撮影できることとなる。更に、カメラC3で撮影する領域と、カメラC1で撮影する領域とが一部重なるから、カメラC3から得られた画像を左目画像とし、カメラC1から得られた画像を右目用の画像とすれば、重複した撮影領域(第1及び第2の撮影領域とは異なる第3の撮影領域)では3次元画像を撮影できることとなる。又、得られた3次元画像に基づき、被写体までの距離などの情報を求めることができる。
【0031】
更に、カメラC4〜C6で、同期して撮影すると、カメラC4で撮影する領域と、カメラC5で撮影する領域とが一部重なることとなる。かかる場合、カメラC4から得られた画像を左目用の画像とし、カメラC5から得られた画像を右目用の画像とすれば、重複した撮影領域(第4の撮影領域)では3次元画像を撮影できることとなる。又、カメラC5で撮影する領域と、カメラC6で撮影する領域とが一部重なるから、カメラC5から得られた画像を左目画像とし、カメラC6から得られた画像を右目用の画像とすれば、重複した撮影領域(第4の撮影領域とは異なる第5の撮影領域)では3次元画像を撮影できることとなる。更に、カメラC6で撮影する領域と、カメラC4で撮影する領域とが一部重なるから、カメラC6から得られた画像を左目画像とし、カメラC4から得られた画像を右目用の画像とすれば、重複した撮影領域(第4及び第5の撮影領域とは異なる第6の撮影領域)では3次元画像を撮影できることとなる。又、得られた3次元画像に基づき、被写体までの距離などの情報を求めることができる。
【0032】
つまり本発明によれば、同じカメラで撮影した画像を、右目用の画像及び左目用の画像として用いることで、少ない数のカメラを用いて、前後左右に加え上下の、即ち全方位の3次元画像をリアルタイムで撮影できることとなる。尚、広角レンズL1〜L6により撮影した画像には歪みが生じるが、これは画像処理等により平面画像に変換可能である。
【0033】
請求項16に記載の撮影装置は、前記第一の少なくとも3台のカメラと前記第二の少なくとも3台のカメラの撮影軸が、前記第一のカメラの内の1台と、前記第二のカメラの内の1台のそれぞれの対で同一であることを特徴とする。即ち、図2で示す光軸X1とX4,X2とX5,X3とX6が一致していると好ましい。
【0034】
請求項17に記載の撮影装置は、前記第一の少なくとも3台のカメラと前記第二の少なくとも3台のカメラは、デジタルカメラであり、全部のカメラの合計が8台であることを特徴とする。カメラの数は、これに限られない。
【0035】
請求項18に記載の撮影装置は、前記広角レンズ又は超広角レンズが魚眼レンズであることを特徴とする。これにより、更に広範囲の被写体を撮影できる。
【0036】
請求項19に記載の撮影装置は、前記第一の少なくとも3台のカメラと前記第二の少なくとも3台のカメラが、デジタルカメラであることを特徴とする。これにより得られた画像に対し画像処理を容易に行える。
【0037】
請求項20に記載の撮影装置は、前記第一の少なくとも3台のカメラと前記第二の少なくとも3台のカメラが、ムービーカメラであることを特徴とする。本発明は、特に移動又は変化する被写体をリアルタイムで撮影するのに好適である。
【0038】
請求項21に記載の3次元画像形成方法は、
広角レンズ又は超広角レンズを備えた3個以上のカメラを同一円周上で、それぞれのカメラを仮想で結ぶ円弧の長さが同じであり、前記円周面に垂直で、光軸が同一方向になるように、且つ互いの撮影範囲が重なるように配置して、同時に撮影を行うステップと
第1の領域で撮影範囲が重なった2つのカメラのうち左目側のカメラから得られた画像を用いて、前記第1の領域における左目用の画像を形成すると共に、右目側のカメラから得られた画像を用いて、前記第1の領域における右目用の画像を形成するステップと、
前記第1の領域とは異なるが隣接する第2の領域で撮影範囲が重なった2つのカメラのうちの一方であって、前記第1の領域を撮影する2つのカメラのうち前記左目側のカメラとは異なるカメラから得られた画像を用いて、前記2の領域における左目用の画像を形成するステップを含むことを特徴とする。
【0039】
図1を参照し、カメラC1〜C3を用いて同時に撮影を行った後、第1の領域で撮影範囲が重なった2つのカメラC1、C2のうち、左目側のカメラC1から得られた画像を用いて、第1の領域における左目用の画像を形成すると共に、右目側のカメラC2から得られた画像を用いて、第1の領域における右目用の画像を形成する。これにより第1の撮影領域の3次元画像を形成できる。次に、第1の撮影領域とは異なるが隣接する第2の領域で撮影範囲が重なった2つのカメラC2、C3のうち、左目側のカメラC2から得られた画像を用いて、第2の領域における左目用の画像を形成すると共に、右目側のカメラC3から得られた画像を用いて、第2の領域における右目用の画像を形成する。これにより第2の撮影領域の3次元画像を形成できる。更に、第1、2の撮影領域とは異なるが隣接する第3の領域で撮影範囲が重なった2つのカメラC3、C1のうち、左目側のカメラC3から得られた画像を用いて、第3の領域における左目用の画像を形成すると共に、右目側のカメラC1から得られた画像を用いて、第3の領域における右目用の画像を形成する。これにより第3の撮影領域の3次元画像を形成できる。以上により、カメラ周囲における全周の3次元画像を得ることができる。
【0040】
請求項22に記載の3次元画像形成方法は、前記カメラがデジタルカメラであり、1つのデジタルカメラから出力された画像信号を用いて、異なる撮影領域の右目用の画像と左目用の画像とを形成することを特徴とする。これにより、得られた画像の画像処理が容易になる。
【0041】
請求項23に記載の3次元画像形成方法は、前記カメラはムービーカメラであり、1つのムービーカメラから出力された画像信号を用いて、異なる撮影領域の右目用の映像と左目用の映像とを形成することを特徴とする。本発明は、特に移動又は変化する被写体の撮影に有効である。
【0042】
請求項24に記載の3次元画像形成方法は、前記カメラが、所定点を中心とする円周上に配置されて、前記広角レンズの光軸を平行としていることを特徴とする。
【0043】
請求項25に記載の3次元画像形成方法は、撮影範囲が重なった同一の領域を同時に撮影したときに、左目用の画像を形成するための前記カメラと、右目用の画像を形成するための前記カメラは、前記所定点を挟んだ対角上に位置することを特徴とする。例えば、2n個(nは2以上の整数)のカメラを用いて撮影する場合に対応する。
【0044】
請求項26に記載の3次元画像形成方法は、前記広角レンズが魚眼レンズであることを特徴とする。
【0045】
請求項27に記載の3次元画像形成方法は、前記カメラから得られた画像が、円柱面に投影されるように画像処理された後、周方向に連結されることを特徴とする。
【0046】
図1において、例えば左目側のカメラC1から得られた画像を用いて、第1の領域における左目用の画像を形成すると共に、右目側のカメラC2から得られた画像を用いて、第1の領域における右目用の画像を形成することで、重なった第1の撮影領域の3次元画像IM1を形成する。又、左目側のカメラC2から得られた画像を用いて、第2の領域における左目用の画像を形成すると共に、右目側のカメラC3から得られた画像を用いて、第2の領域における右目用の画像を形成することで、重なった第2の撮影領域の3次元画像IM2を形成する。更に、左目側のカメラC3から得られた画像を用いて、第3の領域における左目用の画像を形成すると共に、右目側のカメラC1から得られた画像を用いて、第3の領域における右目用の画像を形成することで、重なった第3の撮影領域の3次元画像IM3を形成する。しかるに、これらの3次元画像IM1〜IM3は、広角レンズを通して得られた画像であるため歪んで見える。そこで、かかる3次元画像IM1〜IM3を円柱面に投影した後、以下のように展開する画像処理を行うことで、モザイク画像である3次元画像IM1’〜IM3’を得る。即ち、広角レンズ(又は魚眼レンズ)で被写体を撮影した画像(撮像素子の受光面上)を円で示す図3(a)を元に、カメラ(円の中心にある)から等距離の円周を三等分したとき、それぞれの円周部分が、図3(b)の長方形の下辺を三等分したそれぞれに対応するモザイク状になるように画像変換する。長方形の縦は、円の半径rで、横は、全方位360°の角度に対応する。長方形の上辺は、円の中央(天頂)の一点に対応し、その一点を360°に展開したものである。これをモザイク画像という。
【0047】
同様に、カメラC2,C3から得られた3次元画像IM2を円柱面に投影するように画像処理すれば、矩形状の3次元画像IM2’を得ることができ、更にカメラC3,C1から得られた3次元画像IM3を円柱面に投影するように画像処理すれば、矩形状の3次元画像IM3’を得ることができるから、これらを連続的につなぎ合わせることで、360度のパノラマ3次元画像を得ることができる。
【0048】
請求項28に記載の全方位3次元画像形成方法は、請求項1乃至8に記載の撮影方法で、撮影して得られる3個以上(N個、但しNは、正の整数)の360度の全方位画像の一部または全部を円筒内に投影して得られる画像に画像変換し、前記円筒内の一周をN個に等分して、N個のモザイク(短冊状)に分割してモザイク画像(短冊状画像集合画像)とし、内一個は、特定方位を中心とする部分画像であり、ひとつのカメラ(第一のカメラとする)で得られた画像のひとつのモザイク(第一のモザイクとする)を選択して片目用のモザイク画像部分とし、前記第一のカメラから最も遠いカメラ(2個ある場合は、円周上の距離が特定の回転方向で近い方か遠い方のいずれかを選択する選択基準で選択し、以降前記選択基準を変更しない。)(第二のカメラとする)の前記第一のモザイクと中心方位が同じ画像のモザイクを選択し(第二のモザイクとする)他眼用のモザイク画像部分とする工程を含み、前記中心方位は、前記第一のカメラと前記第二のカメラを結ぶ直線に垂直であって、前記同一円周を含む面上にあることを特徴とする。
【0049】
図4(a)は、水平である仮想平面に4つのカメラC1〜C4を90度ずつ等配した撮影装置を天頂から見た図であり、上方を北とする。ここで、紙面垂直方向に光軸を向けたカメラC1〜C4で撮影した360度の全方位画像の全部(一部でも良い)を円筒内に投影して得られる画像に画像変換し、かかる円筒内の一周を4個に等分して、4個のモザイク(短冊状)MZ1〜MZ4に分割してモザイク画像(短冊状画像集合画像)とした状態を、図4(b)に示す。ここで、モザイクMZ1の中央方位が、例えば北とすると、選択された第一のカメラC4と第二のカメラC2とで、モザイクMZ1の3次元画像を得ることができ、この場合、天頂からみて左側にあるカメラC4の画像データにより左目用の画像又は映像を生成することが出来、天頂からみて右側にあるカメラC2の画像データにより右目用の画像又は映像を生成することが出来る。このとき、カメラC4の撮影するモザイクMZ1は、カメラC2の撮影するモザイクMZ1と中心方位が同じであり、即ち中心方位は、カメラC4とカメラC2を結ぶ直線に垂直であって、同一円周を含む面上にある(尚、図4(a)ではカメラC1〜C4の乗る内側円と、視野を示す外側円との距離が近いので、カメラの画角が折れ線となって示されているが、実際はほぼ直線となる)。つまり、中央方位が北であるモザイクMZ1の3次元画像は、カメラC4とC2の画像データのみから得られ、カメラC1,C3の画像データは用いない。又、中央方位が東であるモザイクMZ2の3次元画像は、選択された第一のカメラC1と第二のカメラC3とで得ることができ、この場合、天頂からみて左側にあるカメラC1の画像データにより左目用の画像又は映像を生成することが出来、天頂からみて右側にあるカメラC3の画像データにより右目用の画像又は映像を生成することが出来る。つまり、中央方位が東であるモザイクMZ2の3次元画像は、カメラC1とC3の画像データのみから得られ、カメラC2,C4の画像データは用いない。更に、中央方位が南であるモザイクMZ3の3次元画像は、選択された第一のカメラC2と第二のカメラC4とで得ることができ、この場合、天頂からみて左側にあるカメラC2の画像データにより左目用の画像又は映像を生成することが出来、天頂からみて右側にあるカメラC4の画像データにより右目用の画像又は映像を生成することが出来る。つまり、中央方位が南であるモザイクMZ3の3次元画像は、カメラC2とC4の画像データのみから得られ、カメラC1,C3の画像データは用いない。又、中央方位が西であるモザイクMZ4の3次元画像は、選択された第一のカメラC3と第二のカメラC1とで得ることができ、この場合、天頂からみて左側にあるカメラC3の画像データにより左目用の画像又は映像を生成することが出来、天頂からみて右側にあるカメラC1の画像データにより右目用の画像又は映像を生成することが出来る。つまり、中央方位が西であるモザイクMZ4の3次元画像は、カメラC3とC1の画像データのみから得られ、カメラC2,C4の画像データは用いない。尚、特定方位は、北でなくても良い。更に、カメラの個数が奇数である場合、円周上の距離が特定の回転方向(時計回りでなく、反時計回りでも良いが、一度選択されると選択方向が固定される)で近い方か遠い方のいずれかを選択し、以下同様とする(図1の例は、第一のカメラに対し時計回りに近い方を第二のカメラを選択した例であり、図2の例は、鉛直上向きの装置においては、第一のカメラに対し時計回りに近い方を第二のカメラを選択した例であり、鉛直下向きの装置においては、第一のカメラに対し反時計回りに近い方を第二のカメラを選択した例である)。
【0050】
請求項29に記載の全方位3次元画像形成方法は、前記第一のカメラと前記第二のカメラに関して、天頂から見たときに左側にあるカメラの画像を左眼用とし、右側にあるカメラの画像を右目用とし、それぞれのモザイク画像部分を選択する工程を各カメラについて実行して、それぞれのカメラに対応する左目用と右目用のモザイク画像部分を選択し、繰り返して得られる各モザイク画像部分を集合させて左目用のモザイク画像と右目用のモザイク画像を作成する工程を含むことを特徴とする。
【0051】
図4を参照して、カメラC1〜C4により得られた左目用と右目用のモザイク画像MZ1〜MZ4について、それぞれ3次元画像を生成する工程を実行した後、これらを接合する工程を実行することで全方位の3次元画像を得ることができる。
【0052】
請求項30に記載の投影装置は、請求項21乃至29のいずれかに記載の3次元画像形成方法により形成された左目用の画像と右目用の画像とを同時に投影することを特徴とする。
【0053】
例えば図1に示すカメラC1〜C3を、投影装置に置き換えることで、それぞれカメラC1〜C3で得られた画像を、半球HSに投影することで、全方位の3次元画像を投影することができる。尚、かかる画像を半球HSに投影するような場合、画像処理にて撮影直後のモザイク処理前の画像に戻す必要がある。また、ステレオ画像に用いられない部分が投影されると支障が生じるので、該部分をマスクで遮蔽する等の手段で、投影されないようにする必要がある。図1の場合は、撮影画像中心から装置中心へ向かって左右60度(全体で120度)の画像部分を覆うことが必要である。更に、例えば、図4のように、4台のカメラC1〜C4をプロジェクタに置き換えて球面内に投影するときは、各カメラごとに4分割した円の画像のうちの対向する2か所の画像を用いるが、それ以外の2か所の画像は用いないので、それをマスクすることが必要である。具体的には、カメラC2に関するものでは、モザイク画像MZ1、MZ3に対応する画像は使用するが、モザイク画像MZ2、MZ4に対応する画像は使用しないので、この2か所の画像が投影されないように覆い隠すことになる。他の画像についても、同様の工夫をする。
【0054】
請求項31に記載の投影装置は、前記投影装置は、左目用の画像と右目用の画像とを曲面のスクリーンに投影することを特徴とする。図1の半球HSが曲面のスクリーンに相当する。但し、スクリーンは半球に限られない。
【0055】
請求項32に記載の投影装置は、前記曲面のスクリーンとは、半球の内面であることを特徴とする。
【0056】
請求項33に記載の投影装置は、前記スクリーンに表示される画像の位置を計測する計測手段を有することを特徴とする。スクリーンに表示される画像は3次元画像であるため、公知のステレオ測距法により画像中の被写体までの距離を測定できる。従って、計測手段とは、公知のステレオ測距法を実現できる画像処理等を実行できるものであれば足りる。
【0057】
請求項34に記載の通信システムは、請求項9乃至20に記載の撮影機または撮影装置と、請求項30乃至33のいずれかに記載の投影装置とを有することを特徴とする。
【0058】
請求項35に記載の表示装置は、請求項21乃至29のいずれかに記載の3次元画像形成方法により形成された左目用の画像と右目用の画像とを同時に表示することを特徴とする。
【0059】
請求項36に記載の表示装置は、前記画像を表示するパネルは、観察者の周囲に360度にわたって配置されていることを特徴とする。
【0060】
請求項37に記載の表示装置は、請求項21乃至29のいずれかに記載の3次元画像形成方法により形成された左目用の画像と右目用の画像とを別個に表示する一対の表示部を有することを特徴とする。
【0061】
請求項38に記載の表示装置は、前記一対の表示部を観察者の左目と右目に各々あてがうようにして、該観察者が着用する眼鏡型の表示装置であり、前記表示装置の方向を検出する検出手段を有し、前記検出手段の検出した方向に応じて、前記表示部に表示する画像を切り換えることを特徴とする。
【0062】
請求項39に記載の通信システムは、請求項9乃至20に記載の撮影装置と、請求項36乃至38のいずれかに記載の表示装置とを有することを特徴とする。
【0063】
請求項40に記載の遠隔操作方法は、請求項34又は39に記載の通信システムを有し、前記撮影装置を作動装置に取り付けて、前記作動装置から離れた場所で前記表示装置に表示された画像を見ながら、観察者が前記作動装置を操作するようになっていることを特徴とする。
【発明の効果】
【0064】
以上述べた本発明によれば、東西南北360度の方向に切れ目無く、立体像が得られる。これが、しかも、同期した一度の撮影で得られた画像を用いるので時差が生じず、さらに、天および/または地に向けて撮影したときに、これらの効果が大きく、これらの効果が得られる撮影方法と、それができる撮影機、撮影装置を実現すると共に、カメラ自身が画像上に現れることのない画像を簡単に作成できる。
【0065】
本発明によれば、例えば魚眼レンズで、天頂に向けて一度撮影するだけで、パノラマ画像が得られる。従来のように被写体に光軸を向けるのではなく、天頂に向ける点が従来技術とは大きく異なる。つまり被写体は周辺画像の一部に映ることになる。
【0066】
本発明によれば、東西南北、上下左右360度の方向に延在する立体像を簡単に得ることができる。又、光軸方向に限らず、いずれの方向の被写体の3次元情報(位置)も取得できる。
【0067】
本発明は、応用範囲が広範囲であり、例えば地図、ゲーム等々に適用可能である。ディスプレーの仕方で色々可能性があり、例えば、乗り物(車、船、飛行機等々)の訓練のために、方向を検出するヘッドマウントディスプレー(HMD)上に、その方向の立体像を表示し、顔を向ける毎に立体像を切り換えることができる。また、例えば、プラネタリウムでは、半球の内面に3次元画像を表示することができる。
【0068】
本発明は静止画でも動画でも適用可能であり、以上の効果が動画でも得られる。更に、全方位ステレオ動画の生成に複雑な後処理を必要としないので、撮影とほぼ同時に再生が可能である。加えて、通信装置との組み合わせにより遠隔地での同時再生が可能であるから、TV会議や、危険な場所にある装置の遠隔操作等に用いることができる。
【0069】
尚、本明細書中、超広角レンズとは、広角レンズより広い画角を持つレンズをいう。広角レンズとは少なくとも60度の画角を持つものをいう。デジタルカメラとは、被写体像を電気信号に変換する固体撮像素子を有するカメラをいう。「等距離」、「同一円周上」、「同一の特性」、「等しい長さの円弧」とは、実質的に等しいか同一であればよい。又、「同期撮影」とは、例えば同時に撮影することをいうが、僅かなタイムラグがあっても良い。以上のズレは、画像処理等の補正で正すことができる。
【0070】
対となる位置の2台のカメラは、特殊カメラで、両面感光体の両側に撮影レンズを持っているものでも良いし、別々のカメラを対にして、背中合わせにしてもよい。ふたつの感光体の位置の差が撮影で抜ける位置になるし、魚眼レンズでも180度の画角でない限り、抜ける位置ができる。
【0071】
カメラとしては、デジタルカメラの他、銀塩カメラを用いることができる。また動画とは、例えば複数の静止画を連続的に切り換えるものをいう。又、本発明の撮影方法で得られた右目用の画像と、左目用の画像とは、従来のディスプレイで利用可能である。
【図面の簡単な説明】
【0072】
【図1】一例にかかる本発明の原理を説明するための図である。
【図2】別な例にかかる本発明の原理を説明するための図である。
【図3】画像処理の例を示す図である。
【図4】別な例にかかる本発明の原理を説明するための図であり、(a)ではカメラC4,C2のみ強調して示している。
【図5】第1の実施の形態にかかる撮影装置の概略図である。
【図6】第1の実施の形態にかかる撮影装置の録画・録音手順を示す図である。
【図7】第1の実施の形態にかかる撮影装置の後処理を示す図である。
【図8】第1の実施の形態にかかる再生装置の概略図である。
【図9】第1の実施の形態にかかる再生装置の再生処理を示す図である。
【図10】第2の実施の形態の概略図である。
【図11】第2の実施の形態の録画・再生処理を示す図である。
【図12】第2の実施の形態にかかる後処理を示す図である。
【図13】第2の実施の形態にかかる再生処理を示す図である。
【図14】第3の実施の形態の概略図である。
【図15】第3の実施の形態にかかる処理を示す図である。
【図16】第4の実施の形態にかかる後処理を示す図である。
【発明を実施するための形態】
【0073】
(第1の実施の形態)
以下、本発明にかかる第1の実施の形態について、図面を参照して説明する。ここでは、本発明の撮影方法、撮影機、撮影装置、3次元画像形成方法、全方位3次元画像形成方法、投影装置、表示装置について述べる。まず、図5に示す、4台のムービーカメラと4台のマイクロフォンを用いた半球ステレオ撮影装置、及び図8に示す、半球状スクリーンと魚眼レンズ付プロジェクタを用いた再生装置を説明する。また、その応用として、臨場感の高い劇場鑑賞映像製作目的とした撮影を舞台直下座席からの撮影・再生を行う装置を説明する。
【0074】
図1において、支持台BSは、フレームなどの剛体に設置される円盤部BS1と、円盤部BS1から等間隔で水平方向に放射状に延在する4本の支持柱BS2と、支持柱BS2の先端で支持されたリング部BS3とを有している。リング部BS3は、気泡管を用いた水準器にて高精度に水平に設置されると好ましい。
【0075】
リング部BS3上には、4つのムービーカメラMC1〜MC4が周方向に等間隔で固定されている。不図示の固体撮像素子に加え、ムービーカメラMC1〜MC4は、それぞれ画角が180〜190°である円周魚眼レンズFL1〜FL4(超広角レンズでも良い)と、高指向性のマイクロフォンMP1〜MP4を備えている。魚眼レンズFL1〜FL4の光軸は、リング部BS3の軸線に平行に設置されている。尚、ここでは、ローカル座標系として、円盤部BS1及びリング部BS3の中心を原点Oとし、原点OからムービーカメラMC1の光軸に向かう方向をY軸の正方向とし、原点OからムービーカメラMC2の光軸に向かう方向をX軸の正方向とする。また方向角θはY軸の正方向を0°として、時計回りの方向の角度にとる。原点Oから各ムービーカメラの光軸までの距離は5cmである。
【0076】
ムービーカメラMC1〜MC4は、4chカメラ同期制御インターフェースCI/Fにそれぞれ接続されており、マイクロフォンMP2〜MP4は、4chマイクミキサーインタフェースMI/Fにそれぞれ接続されている。処理装置PRCは、4chカメラ同期制御インターフェースCI/Fと、4chマイクミキサーインタフェースMI/Fに接続され、内部にプログラム格納ROMを有すると共に、外部記憶装置HDに接続されている。
【0077】
ムービーカメラMC1〜MC4は、HDTV(2M画素)以上の30fpsでカラー画像が記録できるものであり、画像が十分な転送フレームレートを確保するためにカメラ側で圧縮処理により半分程度のデータサイズにするものであると好ましい。又、キャリブレーションにより、光学的な補正を行うことができ、同期撮影機構を兼ねる処理装置PRCからの外部トリガーにより、他のムービーカメラと同期撮影が可能となっている。尚、データの転送にはカメラリンクI/Fを用いると好ましい。ムービーカメラMC1〜MC4の水平面上の設置の向きは、ローカル座標系の原点OからX軸に合わせている。
【0078】
高指向性のマイクロフォンMP1〜MP4は、それぞれ指向性の高いマイクロフォンであり、原点OからみてムービーカメラMC1〜MC4の外側に設置されている。つまり、撮影装置の中心からみて指向性の高い方向を半径方向外側に向けている。
【0079】
4chカメラ同期制御インタフェースCI/Fは、カメラリンクI/Fで接続されたムービーカメラMC1〜MC4を制御する機能を有する。より具体的には、処理装置PRCの命令で撮影トリガーを出力してムービーカメラMC1〜MC4の同期撮影を行う。処理装置PRCとは、PCI−Expressなどのシステムバスで接続される。
【0080】
4chマイクミキサーインターフェースMI/Fは、高指向性マイクロフォンMP1〜MP4の音声データを4chの音声データとして処理する機能を有する。処理装置PRCとは、PCI−Expressなどのシステムバスで接続される。
【0081】
処理装置PRCは、CPU・メモリ・外部記憶装置・ディスプレイ・及びプログラムROMからなる処理装置であって、例えばPCを用いることができる。処理装置PRCは、ムービーカメラ・マイクロフォンの動作を制御するプログラムをROMから読出して、画像処理を実行すると共に、制御プログラムU/I、撮影・記録された画像・音声データ、及び処理された画像・音声データをディスプレイで表示・操作するディスプレイ(不図示)を備える。
【0082】
外部記憶装置HDは、処理装置PRCで制御され記録されたムービーカメラ・マイクロフォンの画像・音声データ、及び処理済データを記録するハードディスクドライブ又はソリッドステートドライブ装置であり、十分な書き込み処理レートのためにハードウェアRAIDのI/Fで接続されている。又、RAIDレベル0(ストライピング)により高速な書き込みを行うことができる。
【0083】
本実施の形態の撮影方法を、図6を参照して説明する。図6は、録画・録音の手順を示すブロック図である。まず、不図示のスイッチのオン操作により、録画・録音開始の同期トリガー信号を送信すると、処理装置PRCにてプログラムを起動して録画・録音を開始する。より具体的には、プログラムから制御される4chカメラ同期制御インタフェースCI/Fと4chマイクミキサーインタフェースMI/Fから録画・録音開始のトリガー信号を各ムービーカメラ・マイクに送信する。
【0084】
ムービーカメラMC1〜MC4は、トリガー信号を受信すると撮影を開始する。画像はローリングシャッター方式の30fpsで撮影される。取得された画像は、円周魚眼レンズの効果で、天頂を中心とする円極座標の画像となる。撮影された各フレーム画像はムービーカメラのハードウェアでリアルタイムに画像圧縮処理が行われて約半分のデータサイズになる。
【0085】
圧縮された画像は、カメラリンクI/Fでリアルタイムに4chカメラ同期制御インタフェースCI/Fに転送される。転送された画像は、4chカメラ同期制御インタフェースCI/Fに於いて、他のカメラからの画像とフレーム番号等による同期情報を付加した後に、更にカメラリンクI/Fによりリアルタイムに処理装置PRCに転送される。撮影停止のトリガーが受信されるまでリアルタイムで処理の実行を繰り返す。
【0086】
高指向性マイクロフォンMP1〜MP4は、4chマイクミキサーインターフェースMI/Fからトリガーを受信して録音を開始する。処理装置PRCにおいて、リアルタイムに4つのマイクの音声データを4chの音声データに合成する。録音停止のトリガーが受信されるまでリアルタイムで処理の実行を繰り返す。
【0087】
ムービーカメラMC1〜MC4の動画像データは、処理装置PRCから、ハードウェアRAIDで接続された外部記憶装置HDにリアルタイムで格納される。又、処理装置PRCで4chに合成された音声データは、リアルタイムに外部記憶装置HDに格納される
【0088】
図7は、処理装置PRCで行われる後処理を示すブロック図である。処理装置PRCは、ムービーカメラMC1〜MC4の外部記憶装置HDから録画データをフレーム単位で読み出し、後処理プログラムにより画像処理を実行する。まず、画像の光学キャリブレーションを行う、より具体的には、予め測定されているムービーカメラMC1〜MC4の光学キャリブレーションデータをプログラム格納ROMから読み出して、各フレーム画像に対してキャリブレーション処理を行い、PS(Position of Symmetry)及びRadial Distortionを補正する。キャリブレーション済の画像データはメモリーバッファに格納される。
【0089】
又、処理装置PRCは、画像の投影変換処理(円極座標から円筒座標)を行う、より具体的には、処理装置PRCは、メモリーバッファからキャリブレーション済みフレーム画像データを読み出す。そして、ムービーカメラの天頂を中心とする円極座標系の画像データをキャリブレーションで補正されたPSを軸として円筒座標系に投影変換処理を行う。ここで、投影する円筒は、ムービーカメラMC1〜MC4のPSを中心として鉛直方向に処理前の画像と同程度以上の解像度を保持できる任意の半径を持つものとする。円筒投影変換において、変換後の画像は、ローカル座標系の方位角0°を画像の原点となるようにする。更に、処理装置PRCは、メモリーバッファに投影変換済のフレーム画像を格納し、その後、メモリーバッファからキャリブレーション済みのフレーム画像データを消去する。
【0090】
次に、処理装置PRCは、画像の切り出し処理を行う。まずは、方位角0°±45°の左目用画像を切り出す。具体的には、メモリーバッファから投影変換処理済のフレーム画像を読み出す。読み出したフレーム画像について、画像から方位角0°±45°(合計90°)を切り出す。更に、メモリーバッファに切り出し処理済の画像を格納する。その後、メモリーバッファから投影変換済みフレーム画像を消去する。
【0091】
次に、処理装置PRCは、方位角180°±45°の右目用画像を切り出す。具体的には、メモリーバッファから投影変換処理済のフレーム画像を読み出す。読み出したフレーム画像について、画像から方位角180°±45°(合計90°)を切り出す。更に、メモリーバッファに切り出し処理済の画像を格納する。その後、メモリーバッファから投影変換済みフレーム画像を消去する。
【0092】
次に、処理装置PRCは、方位角90°±45°の左目用画像を切り出す。具体的には、メモリーバッファから投影変換処理済のフレーム画像を読み出す。読み出したフレーム画像について、画像から方位角90°±45°(合計90°)を切り出す。更に、メモリーバッファに切り出し処理済の画像を格納する。その後、メモリーバッファから投影変換済みフレーム画像を消去する。
【0093】
次に、処理装置PRCは、方位角270°±45°の右目用画像を切り出す。具体的には、メモリーバッファから投影変換処理済のフレーム画像を読み出す。読み出したフレーム画像について、画像から方位角270°±45°(合計90°)を切り出す。更に、メモリーバッファに切り出し処理済の画像を格納する。その後、メモリーバッファから投影変換済みフレーム画像を消去する。
【0094】
次に、処理装置PRCは、方位角180°±45°の左目用画像を切り出す。具体的には、メモリーバッファから投影変換処理済のフレーム画像を読み出す。読み出したフレーム画像について、画像から方位角180°±45°(合計90°)を切り出す。更に、メモリーバッファに切り出し処理済の画像を格納する。その後、メモリーバッファから投影変換済みフレーム画像を消去する。
【0095】
次に、処理装置PRCは、方位角0°±45°の右目用画像を切り出す。具体的には、メモリーバッファから投影変換処理済のフレーム画像を読み出す。読み出したフレーム画像について、画像から方位角0°±45°(合計90°)を切り出す。更に、メモリーバッファに切り出し処理済の画像を格納する。その後、メモリーバッファから投影変換済みフレーム画像を消去する。
【0096】
次に、処理装置PRCは、方位角270°±45°の左目用画像を切り出す。具体的には、メモリーバッファから投影変換処理済のフレーム画像を読み出す。読み出したフレーム画像について、画像から方位角270°±45°(合計90°)を切り出す。更に、メモリーバッファに切り出し処理済の画像を格納する。その後、メモリーバッファから投影変換済みフレーム画像を消去する。
【0097】
次に、処理装置PRCは、方位角90°±45°の右目用画像を切り出す。具体的には、メモリーバッファから投影変換処理済のフレーム画像を読み出す。読み出したフレーム画像について、画像から方位角90°±45°(合計90°)を切り出す。更に、メモリーバッファに切り出し処理済の画像を格納する。その後、メモリーバッファから投影変換済みフレーム画像を消去する。
【0098】
以上を言い換えると、方向角θ=0度の方向を中心とするステレオ動画は、ムービーカメラMC4の画像データにより左目動画を形成し、ムービーカメラMC2の画像データにより右目用動画を形成する。一方、方向角θ=180度の方向を中心とするステレオ動画は、ムービーカメラMC2の画像データにより左目動画を形成し、ムービーカメラMC4の画像データにより右目用動画を形成する。又、方向角θ=90度の方向を中心とするステレオ動画は、ムービーカメラMC1の画像データにより左目動画を形成し、ムービーカメラMC3の画像データにより右目用動画を形成する。一方、方向角θ=270度を中心とする方向のステレオ動画は、ムービーカメラMC3の画像データにより左目動画を形成し、ムービーカメラMC1の画像データにより右目用動画を形成する。
【0099】
更に処理装置PRCは、画像のモザイク処理(左目用)を行う。左目用に処理された切り出し済み画像を、一つの画像にモザイク処理する。より具体的には、方位角0°を画像原点左上として、方位角を合わせてモザイク処理する。その後、メモリーバッファにモザイク済のフレーム画像を格納し、メモリーバッファから切り出し処理済の画像を消去する。
【0100】
また処理装置PRCは、画像のモザイク処理(右目用)を行う。右目用に処理された切り出し済み画像を、一つの画像にモザイク処理する。より具体的には、方位角0°を画像原点左上として、方位角を合わせてモザイク処理する。その後、メモリーバッファにモザイク済のフレーム画像を格納し、メモリーバッファから切り出し処理済の画像を消去する。
【0101】
これと並行して、4chの音声データを入力された処理装置PRCは、後処理プログラムにより、左眼動画像・右眼動画像・音声データの合成保存を行う。音声については、画像のフレーム始終端に同期した長さのデータがメモリーバッファに格納されている。モザイクの処理済み画像のうち左目画像データを左に、右目画像データを右に配置して結合し、横方向に2倍大きさのサイドバイサイド形式のステレオフレーム画像を生成する。その後、動画像形式のフレーム画像として外部記憶装置HDに記録する。以上の処理を繰り返し、フレーム終端まで処理を複行する。画像の処理が終了後、音声データを画像データのタイムコードで同期させて格納する。その後、全てのメモリーバッファの内容をクリアすることで、処理が終了する。
【0102】
次に、図8を参照して、半球状スクリーンと魚眼レンズ付プロジェクタを用いた再生装置を説明する。図8において、縁部のみを示す中空の半球型スクリーンHSの中央に、円周魚眼レンズFLを備えたプロジェクタPJが、光軸を半球中央に向けて配置されている。又、4つのスピーカーSP1〜SP4が、半球型スクリーンHSの内壁に周方向に等間隔に設置されている。尚、ここでは、ローカル座標系として、半球型スクリーンHSの中心を原点Oとし、原点OからスピーカーSP1の中心に向かう方向をY軸の正方向とし、原点OからスピーカーSP2の中心に向かう方向をX軸の正方向とする。また方向角θはY軸の正方向を0°とし、時計回りの方向の角度にとる。
【0103】
スピーカーSP1〜SP4は、4ch音声出力インターフェースSI/Fにそれぞれ接続されており、プロジェクタPJは、再生装置RPに接続されている。再生装置RPは、4ch音声出力インターフェースSI/Fに接続され、内部にプログラム格納ROMを有すると共に、外部記憶装置HDに接続されている。
【0104】
半球型スクリーンHSは、水平面より上部を半球形状の(下部が開いた)半径2m程度の剛体のスクリーンであり、地上から1.5m程度の高さに設置されている。その形状は、円錐でも円筒でも構わないが球に近いほど観察者からの距離の変化が少なくなり理想的となる。尚、プロジェクタPJの代わりに、半球型スクリーンHSの内面に画像を表示するパネルを設けても良い。
【0105】
円周魚眼レンズFLを備えた再生プロジェクタPJは、2M画素程度の解像度を持つプロジェクタで再生装置RPに映像出力I/Fで接続されており、半球型スクリーンHSの中央・且つ下部端にレンズ外側を合わせて鉛直上方を向いて配置されている。
【0106】
動画の観察者は、半球型スクリーンHSの下部から半球型スクリーンHS内部に頭部だけを入れてスクリーンに投影された動画を観察する。観察者は、アクティブシャッター方式の眼鏡GLを掛けている。アクティブシャッター方式の眼鏡GLは、眼鏡同期信号エミッタにより100〜120Hz程度の速さで左眼と右眼の画像を切り替えて表示できるものである。
【0107】
より具体的には、観察者はアクティブシャッター方式の眼鏡GLを用いて、同期信号エミッターの赤外線信号を受信しながらステレオ動画を観察する。半球型スクリーンHSの映像が再生プロジェクタPJと観察者の直線上にあるときには隠蔽されて動画が観察できないために、観察位置を移動する必要がある。よって通常、観察者は観察位置に立ち再生プロジェクタPJの方向を向いて動画を観察することになる。
【0108】
再生装置RPは、CPU・メモリ・外部記憶装置・ディスプレイ・及びプログラムROMからなる処理装置であり、例えばPCを用いると好ましい。再生装置RPは、再生プロジェクタPJのステレオ動画像データ、4chの音声データ、アクティブシャッター方式の眼鏡GLを同期するためのエミッタのためのI/Fを有する。再生装置RPは、ステレオ動画像、及び4chの音声を再生するプログラムをROMから読み出し、再生のため実行する。再生装置RPは、再生プログラムのU/I、及び再生データを表示・操作するディスプレイを備える。
【0109】
4ch音声出力SI/Fは、4chで格納されている音声データを各チャンネルに分配するI/Fを有し、チャンネル間のボリュームレベルなどを個々に調整制御する機能がある。尚、アクティブシャッター方式の眼鏡同期信号エミッタは、再生装置RPに接続されており、観察者が装着するアクティブシャッター方式の眼鏡における左眼・右眼の液晶スクリーンのオンオフを再生プロジェクタPJのステレオ画像の左眼・右眼の切り替えに同期させて制御するための赤外線信号を送信する機能を有する。
【0110】
次に、図9を参照して動画の再生手順を説明する。図9は、動画の再生手順を説明するためのブロック図である。不図示のスイッチのオン操作に応じて、再生装置RPはステレオ動画像再生プログラムを実行する。これにより、再生に必要なプロジェクタPJ・スピーカーSP1〜SP4・アクティブシャッター方式の眼鏡同期信号エミッタが確保・初期化される。
【0111】
再生装置RPは、外部記憶装置HDから後処理で格納されたステレオ動画像・音声データを、再生の支障が出ないように逐次メモリーバッファに読み出す。そして、アナログビデオ出力D−SUB、又はデジタルビデオ出力DVI−Dで接続したプロジェクタPJに画像を送信し、半球状スクリーンHSに投影する。このとき撮影時とローカル座標系を一致させるのがよい。投影される映像は、サイドバイサイド方式のステレオ画像であって、決められた100−120Hz程度の周波数で左眼用の画像と右眼用の画像が切り替えて再生される。
【0112】
更に、投影されるステレオ画像に同期して観察者がかけているアクティブシャッター方式の眼鏡GLのシャッター動作を同期させるための赤外線同期信号を、再生装置RPに接続されたエミッタから送信する。観察者は、アクティブシャッター方式の眼鏡GLがエミッタの赤外線信号を受信している間は、公知の態様で、投影されたステレオ画像をステレオ状態で観察することができる。
【0113】
一方、再生装置RPは、音声データからマイクMP1に該当するch1の音声を、スピーカSP1に送信して再生し、音声データからマイクMP2に該当するch2の音声を、スピーカSP2に送信して再生し、音声データからマイクMP3に該当するch3の音声を、スピーカSP3に送信して再生し、音声データからマイクMP4に該当するch4の音声を、スピーカSP4に送信して再生する。尚、アクティブシャッター方式の眼鏡GLに方向センサを備えて、観察者が向いている方向を検出し、その方向のスピーカーのみ音声を増大させたり、或いはその方向のスピーカーのみから音声を流すようにしても良い。
【0114】
以上説明した本実施の形態では、これまで実現できなかった以下の効果を期待できる。
1)ステレオ半球動画像の撮影を、持ち運びの可能な大きさの撮影装置及び処理装置で実施できる。
2)半球に渡って全方位に死角が無くつなぎ目の目立たないステレオ動画像を記録・再生できる。
3)半球を単一のステレオフレーム画像として取り扱えるため、再生はプロジェクタ1 台で再生が可能である。
4)カメラとほぼ同じ位置に設置された指向性マイクロフォンの音声を再生することで、全方位のステレオ動画像と共に音源定位が可能である。
【0115】
尚、ムービーカメラMC1〜MC4に装着するレンズを円周魚眼レンズに換えて画角45度の普通角レンズ(標準レンズ)とした場合、レンズの画角を変更したことで下述のデメリットが発生する。その結果、画角45度の普通角レンズを用いると円周魚眼レンズと比較して極端に実用性が低下し、装置として成立しない可能性が高い。
【0116】
即ち、本発明の用途では、主要被写体が画像周辺部に位置する場合が多いが、かかる領域では解像度も低下し、ひずみ、収差が出る可能性をもっている。したがって、標準角レンズを用いると、天頂を向けて撮影したときに、足元の水平面に近い周辺の像が使えなくなる恐れがある。レンズの画角がせまくなるほど、水平面からの距離が増えた高さまでの周囲映像が使えなくなってしまう。例えば普通角レンズで、天頂を向けて撮影すると、360度周囲の高いビルの精細な映像も得られなくなる。従って、それより画角の大きなレンズを用いるのが好ましい。本発明においては、ステレオの基線が装置の中央(天頂・又は鉛直下)から同心円上に設定されており、円周上で水平に視野を動かす時には、ステレオで観察をし続けることが出来る。又、前述の理由により、視野を装置の中央(天頂・又は鉛直下)に向けたときには、ステレオの基線方向が異なる画像が視野に入ってくるために、ステレオで観察できない部分が発生する。肉眼での視野角は、ぼんやりと光を認知する周辺部を含めても、概ねレンズの標準角(45°)に相当する程度である。また注視している範囲は30°程度といわれる。画角45°の普通角による装置では、ステレオ視の有効な天頂(又は鉛直下)から画像の端までの天地方向の角度が22.5度となるために、観察者が自然に画像を観察した時に装置の中央を含んだ方向に視野を向けてしまうので自然なステレオ感を得ることが困難である。もし、自然なステレオ感を得るとすれば、装置の中央を視野に入れないようにして画像の無い部分に注視点をむける必要性があり、これも容易ではない。更に、画角45°程度のステレオ画像の撮影や再生を成立させることを考えれば、むしろ天頂(または鉛直下)方向へ2台のカメラを向けて通常の並行ステレオ撮影を行うほうが実用的で簡便であり、本装置の必然性が失われることになる。
【0117】
一方、ムービーカメラMC1〜MC4に装着するレンズを画角60°の広角レンズとした場合には、上述の問題は生じない。円周魚眼レンズと比較して実用性は低下するが、限定的な応用範囲では装置としては成立する。例えば、道路交差点において鉛直下へ向けて装置を設置して、交通の監視や事故時の検証を目的とした場合は、この画角で成立する。
【0118】
画角45°の普通角レンズによる撮影装置では、肉眼の注視方向の視野角30°が装置の天地方向の有効なステレオ視野角22.5°よりも大きくなってしまいために、実用性が極端に低下したが、画角60°普通角レンズでは限界下限値ではあるが、装置の天地方向の有効なステレオ視野角が30°となり、装置としては成立する。又、画角が小さくなることで画像の画素数が同じであれば、解像度が3倍向上する。更に、レンズの性能の低下する辺縁部を使用しないために色収差や放射方向歪みによる影響が低減されるという利点もある。
【0119】
(第2の実施の形態)
次に、第2の実施の形態について説明する。図10は、第2の実施の形態にかかるドライブレコーダシステムを説明するためのブロック図である。ここでは、図2に示すように、図5の撮影装置を2組背面合わせに組み合わせて(装置の軸を一致させて)、全球の撮影・録音を行うドライブレコーダとする。ドライブレコーダは、車両上部(外部)に搭載され、事故など何らかの事象の後でそれを分析するための画像・音声を提供するものである。
【0120】
図10において、車両VHのルーフの概ね中央に、支持軸HPを介して録画・録音装置RDが設置されている。上部の録画・録音装置RD1、下部の録画・録音装置RD2は、それぞれ図5に示す撮影装置と基本構成は同じである。上部の録画・録音装置RD1は、処理装置PRC1に接続され、下部の録画・録音装置RD2は、処理装置PRC2に接続されている。処理装置PRC1及び処理装置PRC2は、同期制御用処理装置SYCに接続されている。
【0121】
上部の録画・録音装置RD1は、鉛直方向上向きに撮影方向を設定する。魚眼レンズが180°のとき、装置厚み(上部の録画・録音装置RD1の入射瞳と、下部の録画・録音装置RD2の入射瞳の鉛直方向の距離)が上半球と下半球の画像の離隔となる。このために上部の録画・録音装置RD1と下部の録画・録音装置RD2は密着させて可能な限り離隔を小さくすることが望ましい。
【0122】
以上を改善するためには、以下の3つの対策のいずれかまたは組み合わせを行うと好ましい。
1)レンズの画角を180°以上(例えば190°)とすること。
2)装置の鉛直方向の厚みを小さくするために各カメラの光学系にプリズムを採用した屈折光学構造を採用すること。
3)上部の録画・録音装置RD1と下部の録画・録音装置RD2で、装置の方位角θの原点をずらして上下でカメラの物理的な干渉を減らすこと。
【0123】
下部の録画・録音装置RD2は、鉛直方向下向きに撮影方向を設定する。それ以外は、上部の録画・録音装置RD1と共通である。処理装置PRC1及び処理装置PRC2は、上述の実施の形態における処理装置PRCと同様である。
【0124】
同期制御用処理装置SYCは、CPU・メモリ・外部記憶装置・ディスプレイ・及びプログラムROMからなる処理装置であり、例えばPCを用いることができ、上部の録画・録音装置RD1と下部の録画・録音装置RD2の録画・録音開始・終了のトリガー信号を発生して同期を取る機能を有する。
【0125】
図11は、第2の実施の形態の録画・再生手順を説明するためのフロー図である。図11において、同期制御用処理装置SYCが、同期処理用プログラムを起動して録画・録音開始トリガー信号を上部の録画・録音装置RD1と下部の録画・録音装置RD2に送信して、録画・録音を開始させる。これにより上部の録画・録音装置RD1と下部の録画・録音装置RD2は、第1の実施の形態と同様にして録画・録音を行う。その後、同期制御用処理装置SYCで同期処理用プログラムにより録画・録音終了トリガー信号を上部の録画・録音装置RD1と下部の録画・録音装置RD2に送信して、録画・録音を停止させる。
【0126】
図12は、第2の実施の形態の後処理を説明するためのフロー図である。上部の録画・録音装置RD1と下部の録画・録音装置RD2から収集された画像データ・音声データは、上述した実施の形態と同様に画像処理される。更に、左眼の上半球・下半球画像のモザイク処理(左目用)のため、上部の録画・録音装置RD1と下部の録画・録音装置RD2で記録された左目用画像の各フレームを上半球を上部に、下半球を下部に配置して、行数が2倍の画像にモザイクする。また、右眼の上半球・下半球画像のモザイク処理(右目用)のため、上部の録画・録音装置RD1と下部の録画・録音装置RD2で記録された右目用画像の各フレームを上半球を上部に、下半球を下部に配置して、行数が2倍の画像にモザイクする。加えて、上部の録画・録音装置RD1と下部の録画・録音装置RD2で記録された各4chの音声データを8chの音声データとして合成する。その後、上述した実施の形態と同様に、記憶する。
【0127】
図13は、第2の実施の形態の再生処理を説明するためのフロー図である。第1の実施の形態では、半球型スクリーンSC及び円周魚眼レンズ付プロジェクタPJを使用して動画再生を行っているが、本実施例では全球が対象となり物理的には同様の再生方法をとることが困難である。このためにヘッドマウントディスプレー(HMD)を用いた没入型の全球ステレオ画像・音声再生の装置を用いるが、限られた条件であればプロジェクタと半球型スクリーンとの組み合わせでも良い。表示装置としてのHMDは、例えば一対の表示部を観察者の左目と右目に各々あてがうようにして、観察者が着用する眼鏡型の表示装置であり、更にHMDの方向を検出する検出手段としてのセンサを有し、該センサの検出した方向に応じて、表示部に表示する4つのステレオ画像を切り換えるものである。
【0128】
ステレオ動画像・音声再生プログラムを実行すると、再生に必要なHMD(3軸方位センサー・サイドバイサイド動画像再生・音声再生)が初期化される。更に、HMDの3軸角度センサーが観察者の視野の方位角と仰角を計測し、再生プログラムが受信する。角度データは、装置の対応する最速の周期で繰り返し測定・送信される。HMDは、再生プログラムに基づき、角度データから、画像の範囲の計算、音声の各chの合成割合を実行する。その後、計算された画像の範囲の切り出し処理を行うと共に、計算されたchの合成割合により8chの音声の合成処理を行う。切り出された画像・合成された音声はビデオ出力I/F経由でHMDに送信される。HMDは送信された左眼・右眼動画像・音声を再生することができるので、HMDを装着した観察者がこれを観察できる。本実施の形態によれば、全球のステレオ動画像・音声が簡便記録・再生できる。観察者が右を向けば右側の画像が表示され、左を向けば左側の画像が表示され、後ろを向けば後側の画像が表示される。ドライブレコーダとして、事故等の発生後にデータを分析し、衝突時の速度・方向・周辺の他車の動きなどを一元的に把握できる。
【0129】
(第3の実施の形態)
次に、第3の実施の形態について説明する。ここでは、本発明の通信システム、遠隔操作方法を述べる。図14は、第3の実施の形態にかかる遠隔操作方法を示すブロック図である。第1の実施の形態の装置を応用して、遠隔地からリアルタイムに撮影・再生及びその情報を用いてマニピュレータを操作する通信システムを構築でき、その応用として、無人深海調査船に搭載する遠隔操作マニピュレータとの組合せを設定する。
【0130】
上述の録画・録音装置RD2を、透明なガラス製の耐圧シールド容器VLに格納し、鉛直下を観察するように無人深海調査船SHの船底に水平に取り付ける。耐圧シールド容器VLの中央にマニピュレータMPTの軸受けを取り付けて、半球ステレオ画像を観察しながら、インタラクティブにマニピュレータMPTを操作できるようにする。第2の実施の形態と同様な処理装置PRC2は、無人深海調査船SHに設けられている。再生装置としては、第2の実施の形態のHMDによるものを採用する。再生は伝送装置を用いてリアルタイムに行う。
【0131】
調査船に設けたマニピュレータ制御装置MDは、マニピュレータMPTに内蔵されたアクチュエータを制御する。制御の命令は母船上の制御装置CNTから伝送される。無人調査船側無線伝送装置RT1は、母船上の母船側無線伝送装置RT2と通信し、全方位画像・及び音声をアップリンクすると共に、マニピュレータMPTの制御信号をダウンリンクする。
【0132】
処理装置PRCは、第2の実施の形態における再生装置と同様のもので、リアルタイムに再生用HMDで画像・音声の再生を行うことができる。制御装置CNTは、マニピュレータ操作I/Fから入力される制御信号を、無線伝送装置RT2を通じて送信する。マニピュレータ操作I/Fは、作業者が、再生用HMDに表示される映像でマニピュレータMPTの動作を確認しながら、マニピュレータMPTの制御をインタラクティブに行うものであり、ジョイスティック形のI/Fで或ると好ましい。
【0133】
図15は、録画・録音・伝送・再生・マニピュレータ制御・フィードバック確認の手順を示すフロー図である。録画・録音装置RD2が取得した画像データ・音声データは、処理装置PRC2で処理された後、無人調査船側無線伝送装置RT1から、母船側無線伝送装置RT2を介して、制御装置CNTにアップリンクされ、HMDにて再生される。
【0134】
HMDを装着した作業者は、リアルタイムで表示された画像を見ながら、マニピュレータ操作I/Fを操作するので、その信号が制御装置CNTより、母船側無線伝送装置RT2から、無人調査船側無線伝送装置RT1を介して、マニピュレータ制御装置MDにダウンリンクされ、マニピュレータMPTを駆動するようになっている。
【0135】
本実施の形態によれば、深海のような遠隔地でも、広い視野に渡ってステレオ視での観察が可能である。即ち、単眼のモニタ画像では、耐圧ガラスなどによる屈折の影響により自然な視野の遠近感を得ることが困難であったのに対し、ステレオ視が可能になることで屈折の影響があっても、相対的な遠近感により、対象物の観察や作業を容易にする。更に、撮影した物体の長さなどを後から計測することが出来る。又、マニピュレータMPTがステレオ画像に写りこむために容易に遠隔地からインタラクティブに操作をすることが可能である。又、装置の中央部は画像の死角となるから、マニピュレータMPTの取り付け部が観察時の隠蔽を起こす障害になりづらい。尚、かかる通信システムを2つ設けることで、TV会議なども可能になる。
【0136】
(第4の実施の形態)
次に、第4の実施の形態について説明する。ここでは、本発明の監視方法を述べる。図16は、第4の実施の形態にかかる監視動作を示すブロック図である。第4の実施の形態は、第1の実施の形態に計測機能を後処理として組み合わせた応用例として、道路交差点の上方に、鉛直下へ光軸を向けて取り付けた撮影装置により、交通の監視や事故時の検証を目的とするものである。撮影装置としては、第2の実施の形態の録画・録音装置RD2と処理装置PRC2を用いることができる。
【0137】
監視動作について説明する。まず、トータルステーション等の測量機器を用いて、予め撮影装置の位置座標値及び方向角0°を決定する。次に、計測手段を兼ねる処理装置PRC2が、撮影装置で取得した画像データ・音声データを処理して、得られたステレオ画像において目視で対象物の位置を計測して、左眼及び右眼に画像座標値として記録する。又、画像処理トラッキング技術を用いて移動する対象物を対象とすることも出来る。更に、三角測量の基本原理を用いて、対象物の撮影装置との相対的な方向角を算出する。又、対象物の仰角はカメラの中心からの画角で決定する。決定された方向角と仰角の交会誤差は算出平均をする。撮影装置の外部定位値を基準に、対象物の相対位置を決定することで、対象物の絶対位置を決定することができる。
【0138】
本実施の形態によれば、半球(第2の実施の形態との組合わせでは全球)のいずれにある対象物でも、画像に写っている限り、撮影装置からの相対位置が計測できる。又、画像中の位置が計測できる特性を応用して、CG技術で作成した仮想の物体を任意の位置で装置からの出力画像にオーバーレイ表示できる(AR技術)。
【0139】
以上、本発明を実施の形態を参照して説明してきたが、本発明は上記実施の形態に限定して解釈されるべきではなく、適宜変更・改良が可能であることはもちろんである。
【符号の説明】
【0140】
BS 支持台
BS1 円盤部
BS2 支持柱
BS3 リング部
CI/F カメラ同期制御インタフェース
CNT 制御装置
FL 円周魚眼レンズ
FL1〜FL4 魚眼レンズ
GL 眼鏡
HD 外部記憶装置
HMD ヘッドマウントディスプレイ
HP 支持軸
HS 半球型スクリーン
MC1〜MC4 ムービーカメラ
MD マニピュレータ制御装置
MI/F マイクミキサーインタフェース
MP1〜MP4 高指向性マイクロフォン
MPT マニピュレータ
O 原点
PJ 円周魚眼レンズ付プロジェクタ
PRC 処理装置
PRC1 処理装置
PRC2 処理装置
RD 録画・録音装置
RD1 録画・録音装置
RD2 録画・録音装置
RP 再生装置
RT1 無人調査船側無線伝送装置
RT2 母船側無線伝送装置
SC 半球型スクリーン
SH 無人深海調査船
SI/F 音声出力インターフェース
SP1〜SP4 スピーカー
SYC 同期制御用処理装置
VH 車両
VL 耐圧シールド容器
【特許請求の範囲】
【請求項1】
広角レンズ又は超広角レンズを有する少なくとも3台のカメラを、同一平面の同一円周上に配設し、前記円周上の前記少なくとも3台のカメラの間のそれぞれの円弧の長さが等しくなるように配置して、且、前記平面に垂直で同一の撮影方向に前記少なくとも3台のカメラを配置し、同期して撮影することを特徴とする撮影方法。
【請求項2】
それぞれの特性が同一の前記少なくとも3台のカメラを用い、前記平面を水平面とし、前記撮影方向を天に向けて前記撮影を実行することを特徴とする請求項1の撮影方法。
【請求項3】
前記広角レンズ又は超広角レンズが、60度以上の画角を有することを特徴とする請求項1または2に記載の撮影方法。
【請求項4】
前記広角レンズ又は超広角レンズが魚眼レンズであることを特徴とする請求項1乃至3のいずれかに記載の撮影方法。
【請求項5】
前記カメラが4台であることを特徴とする請求項1乃至4のいずれかに記載の撮影方法。
【請求項6】
前記カメラがデジタルカメラであることを特徴とする請求項1乃至5のいずれかに記載の撮影方法。
【請求項7】
前記カメラが、ムービーカメラであることを特徴とする請求項1乃至6のいずれかに記載の撮影方法。
【請求項8】
前記カメラが、複数のマイクロフォンとそれぞれの前記マイクロフォンが集音した音を録音するディバイスを配置したことを特徴とする請求項1乃至7のいずれかに記載された撮影方法。
【請求項9】
広角レンズ又は超広角レンズを有する少なくとも3台のカメラを、同一平面上の同一円周上に配設し、前記円周上の前記少なくとも3台のカメラの間のそれぞれの円弧の長さが等しくなるように配置して、且、前記平面に垂直で同一の撮影方向に前記少なくとも3台のカメラを配置し、同期撮影機構を備えたことを特徴とする撮影機。
【請求項10】
それぞれの前記少なくとも3台のカメラの特性が同一であることを特徴とする請求項9の撮影機。
【請求項11】
前記広角レンズ又は超広角レンズが魚眼レンズであることを特徴とする請求項9または10のいずれかに記載の撮影機。
【請求項12】
前記カメラが4台であることを特徴とする請求項9乃至11のいずれかに記載の撮影機。
【請求項13】
前記カメラがデジタルカメラであることを特徴とする請求項9乃至12のいずれかに記載の撮影機。
【請求項14】
前記少なくとも3台のカメラがそれぞれデジタルムービーカメラであり、それぞれの前記カメラが録音ディバイスを有することを特徴とする請求項9乃至13のいずれかに記載の撮影機。
【請求項15】
第一の広角レンズ又は超広角レンズを有する第一の少なくとも3台のカメラを、第一の同一平面上の第一の同一円周上に配設し、前記第一の円周上の前記第一の少なくとも3台のカメラの間のそれぞれの第一の円弧の長さが等しくなるように配置して、且、前記第一の平面に垂直で第一の同一の撮影方向に前記第一の少なくとも3台のカメラを配置し、第一の同期撮影機構を備えた第一の撮影機と第二の広角レンズ又は超広角レンズを有する第二の少なくとも3台のカメラを、第二の同一平面上の第二の同一円周上に配設し、前記第二の円周上の前記第二の少なくとも3台のカメラの間のそれぞれの第二の円弧の長さが等しくなるように配置して、且、前記第二の平面に垂直で第二の同一の撮影方向に前記第二の少なくとも3台のカメラを配置し、第二の同期撮影機構を備えた第二の撮影機とを前記第一の撮影方向と前記第二の撮影方向を逆方向になるように、背中合わせに配置したことを特徴とする撮影装置。
【請求項16】
前記第一の少なくとも3台のカメラと前記第二の少なくとも3台のカメラの撮影軸が、前記第一のカメラの内の1台と、前記第二のカメラの内の1台のそれぞれの対で同一であることを特徴とする請求項15に記載の撮影装置。
【請求項17】
前記第一の少なくとも3台のカメラと前記第二の少なくとも3台のカメラは、デジタルカメラであり、全部のカメラの合計が8台であることを特徴とする請求項15または16に記載の撮影装置。
【請求項18】
前記広角レンズ又は超広角レンズが魚眼レンズであることを特徴とする請求項15乃至17のいずれかに記載の撮影装置。
【請求項19】
前記第一の少なくとも3台のカメラと前記第二の少なくとも3台のカメラが、デジタルカメラであることを特徴とする請求項15乃至18のいずれかに記載の撮影装置。
【請求項20】
前記第一の少なくとも3台のカメラと前記第二の少なくとも3台のカメラが、ムービーカメラであることを特徴とする請求項15乃至18のいずれかに記載の撮影装置。
【請求項21】
広角レンズ又は超広角レンズを備えた3個以上のカメラを同一円周上で、それぞれのカメラを仮想で結ぶ円弧の長さが同じであり、前記円周面に垂直で、光軸が同一方向になるように、且つ互いの撮影範囲が重なるように配置して、同時に撮影を行うステップと
第1の領域で撮影範囲が重なった2つのカメラのうち左目側のカメラから得られた画像を用いて、前記第1の領域における左目用の画像を形成すると共に、右目側のカメラから得られた画像を用いて、前記第1の領域における右目用の画像を形成するステップと、
前記第1の領域とは異なるが隣接する第2の領域で撮影範囲が重なった2つのカメラのうちの一方であって、前記第1の領域を撮影する2つのカメラのうち前記左目側のカメラとは異なるカメラから得られた画像を用いて、前記2の領域における左目用の画像を形成するステップを含むことを特徴とする3次元画像形成方法。
【請求項22】
前記カメラはデジタルカメラであり、1つのデジタルカメラから出力された画像信号を用いて、異なる撮影領域の右目用の画像と左目用の画像とを形成することを特徴とする請求項21に記載の3次元画像形成方法。
【請求項23】
前記カメラはムービーカメラであり、1つのムービーカメラから出力された画像信号を用いて、異なる撮影領域の右目用の映像と左目用の映像とを形成することを特徴とする請求項21に記載の3次元画像形成方法。
【請求項24】
前記カメラは、所定点を中心とする円周上に配置されて、前記広角レンズの光軸を平行としていることを特徴とする請求項21乃至23のいずれかに記載の3次元画像形成方法。
【請求項25】
撮影範囲が重なった同一の領域を同時に撮影したときに、左目用の画像を形成するための前記カメラと、右目用の画像を形成するための前記カメラは、前記所定点を挟んだ対角上に位置することを特徴とする請求項24に記載の3次元画像形成方法。
【請求項26】
前記広角レンズは魚眼レンズであることを特徴とする請求項21乃至25のいずれかに記載の3次元画像形成方法。
【請求項27】
前記カメラから得られた画像は、円柱面に投影されるように画像処理された後、周方向に連結されることを特徴とする請求項21乃至26のいずれかに記載の3次元画像形成方法。
【請求項28】
請求項1乃至8に記載の撮影方法で、撮影して得られる3個以上(N個、但しNは、正の整数)の360度の全方位画像の一部または全部を円筒内に投影して得られる画像に画像変換し、前記円筒内の一周をN個に等分して、N個のモザイク(短冊状)に分割してモザイク画像(短冊状画像集合画像)とし、内一個は、特定方位を中心とする部分画像であり、ひとつのカメラ(第一のカメラとする)で得られた画像のひとつのモザイク(第一のモザイクとする)を選択して片目用のモザイク画像部分とし、前記第一のカメラから最も遠いカメラ(2個ある場合は、円周上の距離が特定の回転方向で近い方か遠い方のいずれかを選択する選択基準で選択し、以降前記選択基準を変更しない。)(第二のカメラとする)の前記第一のモザイクと中心方位が同じ画像のモザイクを選択し(第二のモザイクとする)他眼用のモザイク画像部分とする工程を含み、前記中心方位は、前記第一のカメラと前記第二のカメラを結ぶ直線に垂直であって、前記同一円周を含む面上にあることを特徴とする全方位3次元画像形成方法。
【請求項29】
前記第一のカメラと前記第二のカメラに関して、天頂から見たときに左側にあるカメラの画像を左眼用とし、右側にあるカメラの画像を右目用とし、それぞれのモザイク画像部分を選択する工程を各カメラについて実行して、それぞれのカメラに対応する左目用と右目用のモザイク画像部分を選択し、繰り返して得られる各モザイク画像部分を集合させて左目用のモザイク画像と右目用のモザイク画像を作成する工程を含むことを特徴とする請求項28に記載の全方位3次元画像形成方法。
【請求項30】
請求項21乃至29のいずれかに記載の3次元画像形成方法により形成された左目用の画像と右目用の画像とを同時に投影することを特徴とする投影装置。
【請求項31】
前記投影装置は、左目用の画像と右目用の画像とを曲面のスクリーンに投影することを特徴とする請求項30に記載の投影装置。
【請求項32】
前記曲面のスクリーンとは、半球の内面であることを特徴とする請求項30に記載の投影装置。
【請求項33】
前記スクリーンに表示される画像の位置を計測する計測手段を有することを特徴とする請求項32に記載の投影装置。
【請求項34】
請求項9乃至20に記載の撮影機または撮影装置と、請求項30乃至33のいずれかに記載の投影装置とを有することを特徴とする通信システム。
【請求項35】
請求項21乃至29のいずれかに記載の3次元画像形成方法により形成された左目用の画像と右目用の画像とを同時に表示することを特徴とする表示装置。
【請求項36】
前記画像を表示するパネルは、観察者の周囲に360度にわたって配置されていることを特徴とする請求項35に記載の表示装置。
【請求項37】
請求項21乃至29のいずれかに記載の3次元画像形成方法により形成された左目用の画像と右目用の画像とを別個に表示する一対の表示部を有することを特徴とする表示装置。
【請求項38】
前記表示装置は、前記一対の表示部を観察者の左目と右目に各々あてがうようにして、該観察者が着用する眼鏡型の表示装置であり、前記表示装置の方向を検出する検出手段を有し、前記検出手段の検出した方向に応じて、前記表示部に表示する画像を切り換えることを特徴とする請求項37に記載の表示装置。
【請求項39】
請求項9乃至20に記載の撮影装置と、請求項36乃至38のいずれかに記載の表示装置とを有することを特徴とする通信システム。
【請求項40】
請求項34又は39に記載の通信システムを有し、前記撮影装置を作動装置に取り付けて、前記作動装置から離れた場所で前記表示装置に表示された画像を見ながら、観察者が前記作動装置を操作するようになっていることを特徴とする遠隔操作方法。
【請求項41】
請求項34又は39に記載の通信システムを有し、前記撮影装置を交差点の上方に取り付けて前記交差点を撮影し、前記交差点から離れた場所で前記表示装置に表示された画像を用いて、前記交差点を監視することを特徴とする監視方法。
【請求項1】
広角レンズ又は超広角レンズを有する少なくとも3台のカメラを、同一平面の同一円周上に配設し、前記円周上の前記少なくとも3台のカメラの間のそれぞれの円弧の長さが等しくなるように配置して、且、前記平面に垂直で同一の撮影方向に前記少なくとも3台のカメラを配置し、同期して撮影することを特徴とする撮影方法。
【請求項2】
それぞれの特性が同一の前記少なくとも3台のカメラを用い、前記平面を水平面とし、前記撮影方向を天に向けて前記撮影を実行することを特徴とする請求項1の撮影方法。
【請求項3】
前記広角レンズ又は超広角レンズが、60度以上の画角を有することを特徴とする請求項1または2に記載の撮影方法。
【請求項4】
前記広角レンズ又は超広角レンズが魚眼レンズであることを特徴とする請求項1乃至3のいずれかに記載の撮影方法。
【請求項5】
前記カメラが4台であることを特徴とする請求項1乃至4のいずれかに記載の撮影方法。
【請求項6】
前記カメラがデジタルカメラであることを特徴とする請求項1乃至5のいずれかに記載の撮影方法。
【請求項7】
前記カメラが、ムービーカメラであることを特徴とする請求項1乃至6のいずれかに記載の撮影方法。
【請求項8】
前記カメラが、複数のマイクロフォンとそれぞれの前記マイクロフォンが集音した音を録音するディバイスを配置したことを特徴とする請求項1乃至7のいずれかに記載された撮影方法。
【請求項9】
広角レンズ又は超広角レンズを有する少なくとも3台のカメラを、同一平面上の同一円周上に配設し、前記円周上の前記少なくとも3台のカメラの間のそれぞれの円弧の長さが等しくなるように配置して、且、前記平面に垂直で同一の撮影方向に前記少なくとも3台のカメラを配置し、同期撮影機構を備えたことを特徴とする撮影機。
【請求項10】
それぞれの前記少なくとも3台のカメラの特性が同一であることを特徴とする請求項9の撮影機。
【請求項11】
前記広角レンズ又は超広角レンズが魚眼レンズであることを特徴とする請求項9または10のいずれかに記載の撮影機。
【請求項12】
前記カメラが4台であることを特徴とする請求項9乃至11のいずれかに記載の撮影機。
【請求項13】
前記カメラがデジタルカメラであることを特徴とする請求項9乃至12のいずれかに記載の撮影機。
【請求項14】
前記少なくとも3台のカメラがそれぞれデジタルムービーカメラであり、それぞれの前記カメラが録音ディバイスを有することを特徴とする請求項9乃至13のいずれかに記載の撮影機。
【請求項15】
第一の広角レンズ又は超広角レンズを有する第一の少なくとも3台のカメラを、第一の同一平面上の第一の同一円周上に配設し、前記第一の円周上の前記第一の少なくとも3台のカメラの間のそれぞれの第一の円弧の長さが等しくなるように配置して、且、前記第一の平面に垂直で第一の同一の撮影方向に前記第一の少なくとも3台のカメラを配置し、第一の同期撮影機構を備えた第一の撮影機と第二の広角レンズ又は超広角レンズを有する第二の少なくとも3台のカメラを、第二の同一平面上の第二の同一円周上に配設し、前記第二の円周上の前記第二の少なくとも3台のカメラの間のそれぞれの第二の円弧の長さが等しくなるように配置して、且、前記第二の平面に垂直で第二の同一の撮影方向に前記第二の少なくとも3台のカメラを配置し、第二の同期撮影機構を備えた第二の撮影機とを前記第一の撮影方向と前記第二の撮影方向を逆方向になるように、背中合わせに配置したことを特徴とする撮影装置。
【請求項16】
前記第一の少なくとも3台のカメラと前記第二の少なくとも3台のカメラの撮影軸が、前記第一のカメラの内の1台と、前記第二のカメラの内の1台のそれぞれの対で同一であることを特徴とする請求項15に記載の撮影装置。
【請求項17】
前記第一の少なくとも3台のカメラと前記第二の少なくとも3台のカメラは、デジタルカメラであり、全部のカメラの合計が8台であることを特徴とする請求項15または16に記載の撮影装置。
【請求項18】
前記広角レンズ又は超広角レンズが魚眼レンズであることを特徴とする請求項15乃至17のいずれかに記載の撮影装置。
【請求項19】
前記第一の少なくとも3台のカメラと前記第二の少なくとも3台のカメラが、デジタルカメラであることを特徴とする請求項15乃至18のいずれかに記載の撮影装置。
【請求項20】
前記第一の少なくとも3台のカメラと前記第二の少なくとも3台のカメラが、ムービーカメラであることを特徴とする請求項15乃至18のいずれかに記載の撮影装置。
【請求項21】
広角レンズ又は超広角レンズを備えた3個以上のカメラを同一円周上で、それぞれのカメラを仮想で結ぶ円弧の長さが同じであり、前記円周面に垂直で、光軸が同一方向になるように、且つ互いの撮影範囲が重なるように配置して、同時に撮影を行うステップと
第1の領域で撮影範囲が重なった2つのカメラのうち左目側のカメラから得られた画像を用いて、前記第1の領域における左目用の画像を形成すると共に、右目側のカメラから得られた画像を用いて、前記第1の領域における右目用の画像を形成するステップと、
前記第1の領域とは異なるが隣接する第2の領域で撮影範囲が重なった2つのカメラのうちの一方であって、前記第1の領域を撮影する2つのカメラのうち前記左目側のカメラとは異なるカメラから得られた画像を用いて、前記2の領域における左目用の画像を形成するステップを含むことを特徴とする3次元画像形成方法。
【請求項22】
前記カメラはデジタルカメラであり、1つのデジタルカメラから出力された画像信号を用いて、異なる撮影領域の右目用の画像と左目用の画像とを形成することを特徴とする請求項21に記載の3次元画像形成方法。
【請求項23】
前記カメラはムービーカメラであり、1つのムービーカメラから出力された画像信号を用いて、異なる撮影領域の右目用の映像と左目用の映像とを形成することを特徴とする請求項21に記載の3次元画像形成方法。
【請求項24】
前記カメラは、所定点を中心とする円周上に配置されて、前記広角レンズの光軸を平行としていることを特徴とする請求項21乃至23のいずれかに記載の3次元画像形成方法。
【請求項25】
撮影範囲が重なった同一の領域を同時に撮影したときに、左目用の画像を形成するための前記カメラと、右目用の画像を形成するための前記カメラは、前記所定点を挟んだ対角上に位置することを特徴とする請求項24に記載の3次元画像形成方法。
【請求項26】
前記広角レンズは魚眼レンズであることを特徴とする請求項21乃至25のいずれかに記載の3次元画像形成方法。
【請求項27】
前記カメラから得られた画像は、円柱面に投影されるように画像処理された後、周方向に連結されることを特徴とする請求項21乃至26のいずれかに記載の3次元画像形成方法。
【請求項28】
請求項1乃至8に記載の撮影方法で、撮影して得られる3個以上(N個、但しNは、正の整数)の360度の全方位画像の一部または全部を円筒内に投影して得られる画像に画像変換し、前記円筒内の一周をN個に等分して、N個のモザイク(短冊状)に分割してモザイク画像(短冊状画像集合画像)とし、内一個は、特定方位を中心とする部分画像であり、ひとつのカメラ(第一のカメラとする)で得られた画像のひとつのモザイク(第一のモザイクとする)を選択して片目用のモザイク画像部分とし、前記第一のカメラから最も遠いカメラ(2個ある場合は、円周上の距離が特定の回転方向で近い方か遠い方のいずれかを選択する選択基準で選択し、以降前記選択基準を変更しない。)(第二のカメラとする)の前記第一のモザイクと中心方位が同じ画像のモザイクを選択し(第二のモザイクとする)他眼用のモザイク画像部分とする工程を含み、前記中心方位は、前記第一のカメラと前記第二のカメラを結ぶ直線に垂直であって、前記同一円周を含む面上にあることを特徴とする全方位3次元画像形成方法。
【請求項29】
前記第一のカメラと前記第二のカメラに関して、天頂から見たときに左側にあるカメラの画像を左眼用とし、右側にあるカメラの画像を右目用とし、それぞれのモザイク画像部分を選択する工程を各カメラについて実行して、それぞれのカメラに対応する左目用と右目用のモザイク画像部分を選択し、繰り返して得られる各モザイク画像部分を集合させて左目用のモザイク画像と右目用のモザイク画像を作成する工程を含むことを特徴とする請求項28に記載の全方位3次元画像形成方法。
【請求項30】
請求項21乃至29のいずれかに記載の3次元画像形成方法により形成された左目用の画像と右目用の画像とを同時に投影することを特徴とする投影装置。
【請求項31】
前記投影装置は、左目用の画像と右目用の画像とを曲面のスクリーンに投影することを特徴とする請求項30に記載の投影装置。
【請求項32】
前記曲面のスクリーンとは、半球の内面であることを特徴とする請求項30に記載の投影装置。
【請求項33】
前記スクリーンに表示される画像の位置を計測する計測手段を有することを特徴とする請求項32に記載の投影装置。
【請求項34】
請求項9乃至20に記載の撮影機または撮影装置と、請求項30乃至33のいずれかに記載の投影装置とを有することを特徴とする通信システム。
【請求項35】
請求項21乃至29のいずれかに記載の3次元画像形成方法により形成された左目用の画像と右目用の画像とを同時に表示することを特徴とする表示装置。
【請求項36】
前記画像を表示するパネルは、観察者の周囲に360度にわたって配置されていることを特徴とする請求項35に記載の表示装置。
【請求項37】
請求項21乃至29のいずれかに記載の3次元画像形成方法により形成された左目用の画像と右目用の画像とを別個に表示する一対の表示部を有することを特徴とする表示装置。
【請求項38】
前記表示装置は、前記一対の表示部を観察者の左目と右目に各々あてがうようにして、該観察者が着用する眼鏡型の表示装置であり、前記表示装置の方向を検出する検出手段を有し、前記検出手段の検出した方向に応じて、前記表示部に表示する画像を切り換えることを特徴とする請求項37に記載の表示装置。
【請求項39】
請求項9乃至20に記載の撮影装置と、請求項36乃至38のいずれかに記載の表示装置とを有することを特徴とする通信システム。
【請求項40】
請求項34又は39に記載の通信システムを有し、前記撮影装置を作動装置に取り付けて、前記作動装置から離れた場所で前記表示装置に表示された画像を見ながら、観察者が前記作動装置を操作するようになっていることを特徴とする遠隔操作方法。
【請求項41】
請求項34又は39に記載の通信システムを有し、前記撮影装置を交差点の上方に取り付けて前記交差点を撮影し、前記交差点から離れた場所で前記表示装置に表示された画像を用いて、前記交差点を監視することを特徴とする監視方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【公開番号】特開2012−165102(P2012−165102A)
【公開日】平成24年8月30日(2012.8.30)
【国際特許分類】
【出願番号】特願2011−22596(P2011−22596)
【出願日】平成23年2月4日(2011.2.4)
【出願人】(390023249)国際航業株式会社 (55)
【Fターム(参考)】
【公開日】平成24年8月30日(2012.8.30)
【国際特許分類】
【出願日】平成23年2月4日(2011.2.4)
【出願人】(390023249)国際航業株式会社 (55)
【Fターム(参考)】
[ Back to top ]