画像出力装置、及び画像出力方法
【課題】カメラによって実空間を撮影した全方位の画像である背景オブジェクト画像を用いて作成された出力画像を出力することにより、仮想空間を構成することができる画像出力装置を提供する。
【解決手段】2以上の背景オブジェクト画像と、その背景オブジェクト画像の位置を示す情報である背景位置情報とが対応付けられて記憶される画像記憶部13、ユーザの位置及びユーザの視線方向を示す位置情報を受け付ける位置情報受付部11、位置情報の示すユーザの位置に対応する背景オブジェクト画像を選択する画像選択部14、3次元円筒の内面にマッピングされた、画像選択部14が選択した背景オブジェクト画像から、位置情報を用いて出力画像を生成するレンダリング部16、出力画像を出力する出力部17を備える。
【解決手段】2以上の背景オブジェクト画像と、その背景オブジェクト画像の位置を示す情報である背景位置情報とが対応付けられて記憶される画像記憶部13、ユーザの位置及びユーザの視線方向を示す位置情報を受け付ける位置情報受付部11、位置情報の示すユーザの位置に対応する背景オブジェクト画像を選択する画像選択部14、3次元円筒の内面にマッピングされた、画像選択部14が選択した背景オブジェクト画像から、位置情報を用いて出力画像を生成するレンダリング部16、出力画像を出力する出力部17を備える。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、カメラによって実空間を撮影した全方位の画像である背景オブジェクト画像を用いて作成された出力画像を出力する画像出力装置に関する。
【背景技術】
【0002】
従来、実写の全方位画像に対して適宜、補間等の処理を行うことによって、仮想的な空間を提供する手法について研究がなされている(例えば、非特許文献1参照)。
【非特許文献1】Hiroshi Ishiguro,Kim C.Ng,Richard Capella,Mohan M.Trivedi、「Omnidirectional image−based modeling:three approaches to approximated plenoptic representations」、Machine Vision and Applications、2003年6月、Volume 14、Number 2、p.94−102
【発明の開示】
【発明が解決しようとする課題】
【0003】
上記非特許文献1では、任意の視点からの画像を生成する方法(Method 3,図12)が開示されているが、その方法は、複数の全方位画像のテンプレートマッチング、それらの複数の全方位画像における最も適切な画像の選択、選択した複数の全方位画像の合成を行っており、処理部(CPU等)における処理負荷の非常に大きい処理を行わなくてはならないという問題がある。そのことは、上記非特許文献1の筆者ら自身が指摘しているところである(p.99,右列の33行目からのパラグラフ)。
【0004】
本発明は、上記問題点を解決するためになされたものであり、処理負荷のより小さい処理によって、カメラによって実空間を撮影した全方位の画像を用いた仮想空間における任意の視点からの出力画像を生成して出力する画像出力装置を提供することを目的とする。
【課題を解決するための手段】
【0005】
上記目的を達成するため、本発明による画像出力装置は、カメラによって実空間を撮影した画像であり、全方位の画像である2以上の背景オブジェクト画像と、当該背景オブジェクト画像の位置を示す情報である背景位置情報とが対応付けられて記憶される画像記憶部と、ユーザの位置及びユーザの視線方向を示す情報である位置情報を受け付ける位置情報受付部と、前記位置情報受付部が受け付けた位置情報の示すユーザの位置に対応する背景オブジェクト画像を前記画像記憶部から選択する画像選択部と、少なくとも環状の領域を有する3次元形状の内面にマッピングされた、前記画像選択部が選択した背景オブジェクト画像から、前記位置情報受付部が受け付けた位置情報を用いて、出力画像を生成するレンダリング部と、前記レンダリング部が生成した出力画像を出力する出力部と、を備えたものである。
【0006】
このような構成により、処理負荷のより小さい処理によって、カメラによって実空間を撮影した全方位の画像を用いた仮想空間における任意の視点からの出力画像を生成することができる。
【0007】
また、本発明による画像出力装置では、3次元オブジェクトを示す情報である3次元オブジェクト情報と、当該3次元オブジェクトの位置を示す情報であるオブジェクト位置情報とが対応付けられて記憶されるオブジェクト情報記憶部をさらに備え、前記レンダリング部は、出力画像の範囲内に当該3次元オブジェクトが存在する場合には、前記3次元オブジェクト情報をも用いて出力画像を生成してもよい。
【0008】
このような構成により、カメラによって実空間を撮影した全方位の画像を用いた仮想空間において、任意の3次元オブジェクトを追加することができる。この3次元オブジェクトは、静止しているものでもよく、動いているものでもよい。
【0009】
また、本発明による画像出力装置では、前記画像選択部は、位置情報の示すユーザの位置が、現在選択している背景オブジェクト画像に対応する背景位置情報の示す位置から所定の半径以上離れた場合に、位置情報の示すユーザの位置に最も近い位置を示す背景位置情報に対応する背景オブジェクト画像を前記画像記憶部から新たに選択するものであり、前記所定の半径は、隣接する背景オブジェクト画像にそれぞれ対応する背景位置情報の示す2点の位置の距離の半分よりも大きい距離であってもよい。
【0010】
このような構成により、ユーザが背景オブジェクト画像の中間点近傍を移動する場合においても、背景オブジェクト画像の新たな選択が頻発することを防止することができる。背景オブジェクト画像の新たな選択が頻発すると、背景オブジェクト画像を選択した後のレンダリング等の処理負担が増大することになるが、このように、背景オブジェクト画像の新たな選択が頻発することを防止できることにより、画像出力装置の処理負担の増大を抑制することができる。
【0011】
また、本発明による画像出力装置では、前記背景オブジェクト画像の属性を示す情報である属性情報を受け付ける属性情報受付部をさらに備え、前記画像記憶部では、2以上の属性情報ごとに前記2以上の背景オブジェクト画像と、前記背景位置情報とがそれぞれ記憶され、前記画像選択部は、前記属性情報受付部が受け付けた属性情報に応じた背景オブジェクト画像を選択してもよい。ここで、属性情報は、例えば、背景オブジェクト画像の撮影された時の天気を示す情報であってもよく、背景オブジェクト画像の撮影された時の時期を示す情報であってもよい。
【0012】
このような構成により、受け付けられた属性情報に対応する出力画像が出力されることとなり、例えば、ユーザは、季節に応じた出力画像や、天気に応じた出力画像を見ることができるようになる。
また、本発明による画像出力装置では、前記3次元形状は、前記背景オブジェクト画像の撮影で用いた光学デバイスに応じた形状であってもよい。
【0013】
このような構成により、背景オブジェクト画像として、撮影画像そのものを3次元形状にマッピングすることが可能となる。したがって、例えば、全方位カメラで撮影された丸画像をパノラマ画像に展開するといったような、3次元形状にマッピングする前の撮影画像に対する画像処理を行う必要がなくなり、処理負担を軽減することができる。
【0014】
本発明による画像出力装置は、カメラによって実空間を撮影した画像であり、全方位の画像である背景オブジェクト画像が記憶される画像記憶部と、ユーザの位置及びユーザの視線方向を示す情報である位置情報を受け付ける位置情報受付部と、前記背景オブジェクト画像の撮影で用いた光学デバイスに応じた3次元形状であり、少なくとも環状の領域を有する3次元形状の内面にマッピングされた前記背景オブジェクト画像から、前記位置情報受付部が受け付けた位置情報を用いて、出力画像を生成するレンダリング部と、前記レンダリング部が生成した出力画像を出力する出力部と、を備えたものである。
【0015】
このような構成により、処理負荷のより小さい処理によって、カメラによって実空間を撮影した全方位の画像を用いた仮想空間における任意の視点からの出力画像を生成することができる。また、背景オブジェクト画像として、撮影画像そのものを3次元形状にマッピングすることが可能となる。したがって、例えば、全方位カメラで撮影された丸画像をパノラマ画像に展開するといったような、3次元形状にマッピングする前の撮影画像に対する画像処理を行う必要がなくなり、処理負担を軽減することができる。
【発明の効果】
【0016】
本発明による画像出力装置等によれば、カメラによって実空間を撮影した全方位の画像を用いた仮想空間における任意の視点からの出力画像を、処理負荷のより小さい処理によって生成して出力することができる。
【発明を実施するための最良の形態】
【0017】
以下、本発明による画像出力装置について、実施の形態を用いて説明する。なお、以下の実施の形態において、同じ符号を付した構成要素及びステップは同一または相当するものであり、再度の説明を省略することがある。
【0018】
(実施の形態1)
本発明の実施の形態1による画像出力装置について、図面を参照しながら説明する。
図1は、本実施の形態による画像出力装置1の構成を示すブロック図である。図1において、本実施の形態による画像出力装置1は、位置情報受付部11と、属性情報受付部12と、画像記憶部13と、画像選択部14と、オブジェクト情報記憶部15と、レンダリング部16と、出力部17とを備える。
【0019】
位置情報受付部11は、位置情報を受け付ける。ここで、位置情報とは、ユーザの位置と、ユーザの視線方向とを示す情報である。ユーザの位置は、例えば、2次元平面座標系における座標値や、球面座標系における角度(例えば、緯度と経度など)等によって示される。ユーザの位置を特定することができる情報であれば、ユーザの位置を示す情報はどのようなものであってもよい。ユーザの視線方向は、例えば、所定の方向(例えば、2次元平面座標系における一の座標軸など)に対する角度等によって示される。ユーザの視線方向を特定することができる情報であれば、ユーザの視線方向を示す情報はどのようなものであってもよい。また、ユーザの体の向きをユーザの視線方向として用いてもよい。また、位置情報は、ユーザの実際の位置や視線方向を示す情報であってもよく、あるいは、ユーザの実際の位置や視線方向とは関係のない情報であり、ユーザが入力デバイス等を用いて入力した情報であってもよい。位置情報受付部11は、例えば、入力デバイス(例えば、キーボードやマウス、タッチパネルなど)から入力された情報を受け付けてもよく、有線もしくは無線の通信回線を介して送信された情報を受信してもよく、所定の記録媒体(例えば、光ディスクや磁気ディスク、半導体メモリなど)から読み出された情報を受け付けてもよい。本実施の形態では、ユーザの装着しているLPS(Local Positioning System)によって取得された位置情報がネットワークを介して送信され、位置情報受付部11は、その送信された位置情報を受信するものとする。LPSとは、例えば、地磁気センサと加速度センサとを有する自律航法型の位置測位センサによって、基準点からの座標値を算出することができ、ユーザの向きを検出することができる装置である。なお、位置情報受付部11は、受け付けを行うためのデバイス(例えば、モデムやネットワークカードなど)を含んでもよく、あるいは含まなくてもよい。また、位置情報受付部11は、ハードウェアによって実現されてもよく、あるいは所定のデバイスを駆動するドライバ等のソフトウェアによって実現されてもよい。
【0020】
属性情報受付部12は、後述する背景オブジェクト画像の属性を示す情報である属性情報を受け付ける。この属性情報については後述する。属性情報受付部12は、例えば、入力デバイス(例えば、キーボードやマウス、タッチパネルなど)から入力された情報を受け付けてもよく、有線もしくは無線の通信回線を介して送信された情報を受信してもよく、所定の記録媒体(例えば、光ディスクや磁気ディスク、半導体メモリなど)から読み出された情報を受け付けてもよく、属性情報が後述するように日時や時刻等である場合には、画像出力装置1の有する図示しない時計からの情報を受け付けてもよく、属性情報が後述するように天気である場合には、画像出力装置1の有する図示しない天気情報取得部によって取得された天気情報を受け付けてもよい。天気情報取得部は、例えば、天気情報を有するサーバ等から天気情報を取得してもよく、あるいは、雨滴の有無をチェックするデバイスや、気圧を測定するデバイス、気温を測定するデバイス等からの情報に基づいて天気情報を取得してもよい。なお、属性情報受付部12は、受け付けを行うためのデバイス(例えば、モデムやネットワークカードなど)を含んでもよく、あるいは含まなくてもよい。また、属性情報受付部12は、ハードウェアによって実現されてもよく、あるいは所定のデバイスを駆動するドライバ等のソフトウェアによって実現されてもよい。
【0021】
画像記憶部13では、2以上の背景オブジェクト画像と、その背景オブジェクト画像の位置を示す情報である背景位置情報とが対応付けられて記憶される。ここで、背景オブジェクト画像とは、カメラによって実空間を撮影した画像であり、全方位の画像である。背景オブジェクト画像は、ある地点における全方位(360度)の画像であれば、どのような画像であってもよい。背景オブジェクト画像は、例えば、回転体ミラーとカメラから構成される全方位カメラ等によって撮影された画像そのもの(いわゆる、丸画像)であってもよく、全方位カメラ等によって撮影された画像を、360度のパノラマ展開したパノラマ展開画像であってもよい。回転体ミラーとしては、例えば、双曲面ミラー、円錐ミラー、球面ミラー、複合ミラー、放物面ミラー等がある。なお、全方位カメラについては、次の文献A、文献Bを参照されたい。
【0022】
文献A:八木康史、"全方位画像の取得とその応用"、電子情報通信学会技術研究報告PRMU96−140、p.89−96、1997
文献B:山澤一誠、八木康史、谷内田正彦、"移動ロボットのナビゲーションのための全方位視覚系 HyperOmni Visionの提案"、電子情報通信学会論文誌(D−II)、vol.J79−D−II、no.5、p.698−707、1996
【0023】
背景オブジェクト画像は、全方位画像等の一の画像(例えば、丸画像)、もしくは、その画像から生成された画像(例えば、パノラマ展開画像)であってもよく、または、複数の画像をつなぎ合わせることによって生成された画像であってもよい。また、背景オブジェクト画像は、動画であってもよく、静止画であってもよい。前者の場合には、例えば、ライブで撮影された背景オブジェクト画像であり、画像記憶部13は、その背景オブジェクト画像を一時的に記憶するものであってもよい。背景オブジェクト画像の位置を示す情報である背景位置情報とは、背景オブジェクト画像を最も適切に見ることができる位置を示す情報、例えば、背景オブジェクト画像を撮影した位置を示す情報であってもよい。また、画像記憶部13では、2以上の属性情報ごとに2以上の背景オブジェクト画像がそれぞれ記憶されてもよい。ここで、属性情報とは、背景オブジェクト画像に関する属性を示す情報であり、例えば、背景オブジェクト画像の撮影された時の天気(例えば、晴れ、曇り、雨、雪、雷など)を示す情報であってもよく、背景オブジェクト画像の撮影された時の時期を示す情報であってもよい。時期とは、年、季節(例えば、春夏秋冬など)、月、年月日、時刻、時間帯(例えば、朝、昼、夕方、夜、深夜など)等を含む概念である。画像記憶部13は、所定の記録媒体(例えば、半導体メモリや磁気ディスク、光ディスクなど)によって実現される。画像記憶部13での記憶は、外部のストレージデバイス等から読み出した背景オブジェクト画像等のRAM等における一時的な記憶でもよく、あるいは、長期的な記憶でもよい。画像記憶部13に背景オブジェクト画像と背景位置情報とが記憶される過程は問わない。例えば、記録媒体を介して背景オブジェクト画像と背景位置情報とが画像記憶部13で記憶されるようになってもよく、通信回線等を介して送信された背景オブジェクト画像と背景位置情報とが画像記憶部13で記憶されるようになってもよく、あるいは、入力デバイスを介して入力された背景位置情報が画像記憶部13で記憶されるようになってもよい。
【0024】
画像選択部14は、位置情報受付部11が受け付けた位置情報の示すユーザの位置に対応する背景オブジェクト画像を選択する。ユーザの位置に対応する背景オブジェクト画像を選択するとは、例えば、そのユーザの位置に最も近い位置を示す背景位置情報に対応する背景オブジェクト画像を選択することであってもよく、その他のアルゴリズムによって背景オブジェクト画像を選択することであってもよい。その他のアルゴリズムとしては、その時点で選択されている背景オブジェクト画像を重視するように背景オブジェクト画像を選択することであってもよい。具体的には、画像選択部14は、位置情報の示すユーザの位置が、現在選択している背景オブジェクト画像に対応する背景位置情報の示す位置から所定の半径以上離れた場合に、位置情報の示すユーザの位置に最も近い位置を示す背景位置情報に対応する背景オブジェクト画像を新たに選択してもよい。ここで、「所定の半径」とは、隣接する背景オブジェクト画像にそれぞれ対応する背景位置情報の示す2点の位置の距離の半分よりも大きい距離である。例えば、2メートル間隔のグリッド状に背景オブジェクト画像が撮影されており、所定の半径が「1.42m」に設定されている場合には、ある背景オブジェクト画像の中心からユーザの位置が1.42m以上離れた場合に、新たな背景オブジェクト画像の選択が行われることになる。このようにすることで、ユーザが隣接する背景オブジェクト画像のちょうど中間点近傍を移動する場合に、背景オブジェクト画像の新たな選択が頻発することを防止することができ、画像出力装置1の処理量を軽減することができる。なお、本実施の形態では、画像選択部14は、ユーザの位置に最も近い位置を示す背景位置情報に対応する背景オブジェクト画像を選択する場合について説明する。また、画像選択部14は、属性情報受付部12が受け付けた属性情報に応じた背景オブジェクト画像を選択する。例えば、属性情報受付部12が属性情報「夏」を受け付けた場合には、その属性情報「夏」に応じた背景オブジェクト画像を選択する。また、例えば、画像記憶部13において季節を示す属性情報に背景オブジェクト画像が対応付けられている場合に、属性情報受付部12が属性情報「7月」を受け付けたとすると、画像選択部14は、月と季節とを対応付ける対応テーブルを有しており、その対応テーブルを用いて7月が季節「夏」に対応すると判断し、属性情報「夏」に対応する背景オブジェクト画像を選択してもよい。このように、「画像選択部14が属性情報受付部12の受け付けた属性情報に応じた背景オブジェクト画像を選択する」とは、属性情報受付部12の受け付けた属性情報に直接対応する背景オブジェクト画像を選択する場合だけでなく、属性情報受付部12の受け付けた属性情報に対応テーブル等の所定の情報を介して対応する背景オブジェクト画像を選択する場合も含むものとする。
【0025】
オブジェクト情報記憶部15では、3次元オブジェクトを示す情報である3次元オブジェクト情報と、その3次元オブジェクトの位置を示す情報であるオブジェクト位置情報とが対応付けられて記憶される。3次元オブジェクト情報で示される3次元オブジェクトは、実写の背景オブジェクト画像には含まれないが、その背景オブジェクト画像に合成したい3次元オブジェクトである。この3次元オブジェクト情報等を用いることにより、例えば、実際には木のないところや人のいないところに、木や人が存在するように見せかけることもできる。3次元オブジェクト情報は、例えば、ポリゴンによって3次元オブジェクトの形状を示す3次元モデル情報と、その3次元モデル情報にマッピングされる画像情報を示すテクスチャ情報とを有してもよい。オブジェクト情報記憶部15は、所定の記録媒体(例えば、半導体メモリや磁気ディスク、光ディスクなど)によって実現される。オブジェクト情報記憶部15にユーザ属性対応情報が記憶される過程は問わない。例えば、記録媒体を介して3次元オブジェクト情報とオブジェクト位置情報とがオブジェクト情報記憶部15で記憶されるようになってもよく、通信回線等を介して送信された3次元オブジェクト情報とオブジェクト位置情報とがオブジェクト情報記憶部15で記憶されるようになってもよく、あるいは、入力デバイスを介して入力された3次元オブジェクト情報とオブジェクト位置情報とがオブジェクト情報記憶部15で記憶されるようになってもよい。オブジェクト情報記憶部15での記憶は、外部のストレージデバイス等から読み出した3次元オブジェクト情報とオブジェクト位置情報とのRAM等における一時的な記憶でもよく、あるいは、長期的な記憶でもよい。3次元オブジェクト情報、及び/または、オブジェクト位置情報は、順次変更される情報であってもよく、そうでなくてもよい。前者の場合としては、例えば、背景オブジェクト画像によって構成される仮想空間に存在する人物の3次元オブジェクト情報の位置を示すオブジェクト位置情報が、その仮想空間における人物の移動に応じて変更される場合がある。オブジェクト情報記憶部15では、1個の3次元オブジェクトに関する3次元オブジェクト情報等が記憶されてもよく、2個以上の3次元オブジェクトに関する3次元オブジェクト情報等が記憶されてもよい。
【0026】
なお、画像記憶部13と、オブジェクト情報記憶部15とは、同一の記録媒体によって実現されてもよく、あるいは、別々の記録媒体によって実現されてもよい。前者の場合には、背景オブジェクト画像、及び背景位置情報の記憶される記録媒体の領域が画像記憶部13となり、3次元オブジェクト情報、及びオブジェクト位置情報の記憶される記録媒体の領域がオブジェクト情報記憶部15となる。
【0027】
レンダリング部16は、3次元円筒の内面にマッピングされた、画像選択部14が選択した背景オブジェクト画像から、位置情報受付部11が受け付けた位置情報を用いて、出力画像を生成する。レンダリング部16は、画像選択部14が選択した背景オブジェクト画像を3次元円筒の内側にマッピングするテクスチャマッピングの処理を行ってもよく、あるいは、あらかじめ背景オブジェクト画像の各位置と、3次元円筒の内側の各位置とが対応付けられており、テクスチャマッピングをしなくてもよいように構成されていてもよい。本実施の形態では、前者の場合について説明する。テクスチャマッピングを行う場合に、背景オブジェクト画像がいわゆる丸画像である場合には、その丸画像をパノラマ展開画像に変換してからテクスチャマッピングを行ってもよく、そのままテクスチャマッピングを行ってもよい。レンダリング部16は、出力画像の範囲内に3次元オブジェクトが存在する場合には、その3次元オブジェクト情報をも用いて出力画像を生成する。その3次元オブジェクトは、オブジェクト情報記憶部15で記憶されている3次元オブジェクト情報によって示されるものである。レンダリング部16は、3次元円筒の内面にマッピングされた背景オブジェクト画像、及び必要であれば3次元オブジェクトから、透視投影変換を行うことによって2次元の出力画像を構成する。レンダリング部16による処理は、一般にレンダリング処理と呼ばれる3次元画像処理であり、従来から公知の処理であるため、詳細な説明を省略する。レンダリング部16によって生成された出力画像は、位置情報で示されるユーザの位置から、位置情報で示されるユーザの視線方向を見た画像となっている。
【0028】
出力部17は、レンダリング部16が生成した出力画像を出力する。ここで、この出力は、例えば、表示デバイス(例えば、CRTや液晶ディスプレイ、ヘッドマウントディスプレイなど)への表示でもよく、所定の機器への通信回線を介した送信でもよく、プリンタによる印刷でもよく、記録媒体への蓄積でもよい。本実施の形態では、ディスプレイへの出力であるとする。なお、出力部17は、出力を行うデバイス(例えば、表示デバイスやプリンタなど)を含んでもよく、あるいは含まなくてもよい。また、出力部17は、ハードウェアによって実現されてもよく、あるいは、それらのデバイスを駆動するドライバ等のソフトウェアによって実現されてもよい。
【0029】
次に、本実施の形態による画像出力装置1の動作について、図2のフローチャートを用いて説明する。
(ステップS101)属性情報受付部12は、属性情報を受け付けたかどうか判断する。そして、属性情報を受け付けた場合には、ステップS102に進み、そうでない場合には、属性情報を受け付けるまで、ステップS101の処理を繰り返す。
【0030】
(ステップS102)位置情報受付部11は、位置情報を受け付けたかどうか判断する。そして、位置情報を受け付けた場合には、ステップS103に進み、そうでない場合には、ステップS108に進む。
【0031】
(ステップS103)画像選択部14は、位置情報受付部11が受け付けた位置情報と、属性情報受付部12が受け付けた属性情報とに基づいて、対応する背景オブジェクト画像を画像記憶部13で記憶されている2以上の背景オブジェクト画像から選択する。
【0032】
(ステップS104)レンダリング部16は、画像選択部14が選択した背景オブジェクト画像をテクスチャマッピングする3次元円筒の範囲内にオブジェクト情報記憶部15で記憶されている3次元オブジェクトが含まれるかどうか判断する。そして、含まれる場合には、ステップS105に進み、そうでない場合には、ステップS106に進む。
【0033】
(ステップS105)レンダリング部16は、3次元円筒の範囲内に含まれる3次元オブジェクトに対応する3次元オブジェクト情報、及びオブジェクト位置情報をオブジェクト情報記憶部15から読み出す。
【0034】
(ステップS106)レンダリング部16は、画像選択部14が選択した背景オブジェクト画像と、位置情報受付部11が受け付けた位置情報と、必要であれば、オブジェクト情報記憶部15から読み出した3次元オブジェクト情報等を用いて、レンダリング処理を実行し、ユーザの視線方向から見た出力画像を生成する。なお、ステップS105で3次元オブジェクト情報等が読み出されている場合であって、出力画像の範囲内に3次元オブジェクトが存在する場合には、その3次元オブジェクトを含む出力画像が、3次元オブジェクト情報を用いて生成されることになる。
【0035】
(ステップS107)出力部17は、レンダリング部16が生成した出力画像を出力する。そして、ステップS102に戻る。
(ステップS108)図示しない受付部は、一連の処理を終了する旨の情報を受け付けたかどうか判断する。そして、受け付けた場合には、一連の処理は終了となり、そうでない場合には、ステップS102に戻る。
【0036】
次に、本実施の形態による画像出力装置1の動作について、具体例を用いて説明する。この具体例において、ユーザは、図3で示されるようにヘッドマウントディスプレイを装着しており、出力画像は、そのヘッドマウントディスプレイに表示されるものとする。また、ユーザは、LPSも装着しており、そのLPSによって取得されたユーザの位置と、ユーザの視線方向とを示す位置情報が画像出力装置1に定期的に送信されるものとする。なお、LPSのうち、地磁気センサは、ユーザの視線方向を正確に検出できるように、ユーザの頭部の図示しない位置に装着されているものとする。
【0037】
図4は、画像記憶部13が記憶している背景オブジェクト画像の一例を示す図である。図4において、背景位置情報と、属性情報と、背景オブジェクト画像とが対応付けられている。背景オブジェクト画像「BS001」等は、背景オブジェクト画像のデータそのものであってもよく、背景オブジェクト画像のデータを識別する情報であってもよい。この具体例では、図4で示されるように、属性情報は季節を示すものであるとする。
【0038】
図5は、オブジェクト情報記憶部15が記憶している3次元オブジェクト情報の一例を示す図である。図5において、オブジェクト位置情報と、3次元オブジェクト情報とが対応付けられている。3次元オブジェクト情報では、3次元モデル情報と、テクスチャ情報とが対応付けられている。3次元モデル情報「M001」等は、3次元モデル情報のデータそのものであってもよく、3次元モデル情報のデータを識別する情報であってもよい。同様に、テクスチャ情報「T001」等は、テクスチャ情報のデータそのものであってもよく、テクスチャ情報のデータを識別する情報であってもよい。
【0039】
まず、ユーザがキーボードやマウスなどの入力デバイスを用いて、属性情報「春」を画像出力装置1に入力したとする。すると、その属性情報「春」は、属性情報受付部12で受け付けられ(ステップS101)、画像選択部14に渡される。画像選択部14は、その属性情報を図示しない記録媒体において保持しておく。
【0040】
次に、ユーザが歩き始めることによって、ユーザが装着しているLPSによって順次、位置情報が取得され、画像出力装置1に送信されてくる。その位置情報は、ある基準点からの2次元平面直交座標系(x、y)における座標値(単位はメートル)と、ユーザの視線方向のy軸に対する角度とを示す情報である。例えば、図6で示されるように、ユーザが(x、y)=(10.4、2.6)の位置におり、視線方向のy軸に対する角度が30度である場合には、そのことを示す位置情報がユーザの装着しているLPSから画像出力装置1に送信され、位置情報受付部11で受信される(ステップS102)。位置情報受付部11は、受信した位置情報を画像選択部14と、レンダリング部16とに渡す。なお、図6において、黒丸で示されているのが、背景オブジェクト画像の撮影地点である。画像記憶部13で記憶されている背景位置情報の示す位置が、この撮影地点である。
【0041】
画像選択部14は、位置情報受付部11から受け取った位置情報の示すユーザの位置(10.4、2.6)に最も近い撮影地点で撮影された背景オブジェクト画像であって、かつ、図示しない記録媒体で保持している属性情報「春」に対応する背景オブジェクト画像である背景オブジェクト画像「BS001」を選択し、画像記憶部13から読み出してレンダリング部16に渡す(ステップS103)。
【0042】
レンダリング部16は、図7(a)で示されるように、直径が36.03508mであり、高さが18mである3次元円筒を設定し、その範囲内に3次元オブジェクトが含まれるかどうか判断する(ステップS104)。この具体例では、図7(b)で示されるように、オブジェクト位置情報(11、6)に対応する3次元オブジェクトが3次元円筒の範囲内に含まれるとすると、レンダリング部16は、オブジェクト位置情報(11、6)と、3次元モデル情報「M001」と、テクスチャ情報「T001」とをオブジェクト情報記憶部15から読み出す(ステップS105)。
【0043】
その後、レンダリング部16は、3次元円筒の内面に画像選択部14から受け取った背景オブジェクト画像「BS001」をテクスチャマッピングする。また、レンダリング部16は、読み出した3次元モデル情報「M001」の示すポリゴンの集合を対応するオブジェクト位置情報(11、6)の位置に配置し、そのポリゴンの表面に読み出したテクスチャ情報「T001」をテクスチャマッピングする。そして、レンダリング部16は、レンダリング処理を行って、2次元の出力画像を生成する(ステップS106)。レンダリング部16は、ユーザの視線の範囲内に3次元オブジェクトが存在するため、その3次元オブジェクトを含む出力画像を生成する。このときに、レンダリング部16は、例えば、光源等の位置を考慮してレンダリング処理を行ってもよい。
【0044】
出力部17は、レンダリング部16が生成した出力画像をユーザのヘッドマウントディスプレイに送信する(ステップS107)。その結果、ユーザのヘッドマウントディスプレイに、図8(a)で示される春の風景の出力画像が表示され、ユーザは、その出力画像を見ることができる。
【0045】
その後、ユーザの位置や視線方向が変化すると、その変化後の位置情報が位置情報受付部11で受け付けられ、上記説明と同様にして、ユーザは、変化後の出力画像を見ることができる。その結果、ユーザは、背景オブジェクト画像によって構成される仮想空間内に存在し、仮想空間内を移動しているのと同じような出力画像を見ることができる。
【0046】
なお、この具体例では、位置情報が受け付けられるごとに背景オブジェクト画像の選択が行われる場合について説明したが、新たな位置情報が受け付けられた場合に、選択する背景オブジェクト画像が以前のものと同じであれば、画像選択部14は新たな選択を行わず、レンダリング部16は、以前に選択された背景オブジェクト画像を用いてレンダリング処理を行ってもよい。
【0047】
また、この具体例では、2メートル間隔のグリッド状に背景オブジェクト画像を配置した場合について説明したが、場所の重要度の高低に応じて、背景オブジェクト画像の間隔を変化させてもよい。例えば、重要な場所については、1メートル間隔のグリッド状に背景オブジェクト画像を配置し、一方、重要でない場所については、5メートル間隔のグリッド状あるいは1次元のルート状に背景オブジェクト画像を配置してもよい。
また、この具体例で用いた3次元円筒の大きさは一例であって、これ以外の大きさであってもよい。
【0048】
以上のように、本実施の形態による画像出力装置1によれば、3次元の画像処理技術を用いて背景オブジェクト画像を3次元円筒の内面にマッピングし、位置情報の示すユーザの位置及び視線方向を用いてレンダリングを行って出力画像を生成するため、上記非特許文献1で開示されている技術のように、背景オブジェクト画像の合成を行う必要がなく、仮想空間における任意の位置からの任意の方向の画像を処理負荷の小さい処理によって生成することができる。
【0049】
また、受け付けられた属性情報に対応する出力画像を出力することもでき、ユーザは、季節に応じた出力画像や、天気に応じた出力画像を見ることができるようになる。
【0050】
なお、本実施の形態では、オブジェクト情報記憶部15を備え、3次元オブジェクトを必要に応じて背景オブジェクト画像に合成して出力する場合について説明したが、背景オブジェクト画像への3次元オブジェクトの合成を行わなくてもよい。その場合には、出力画像は、例えば、図8(b)で示されるようになる。また、背景オブジェクト画像への3次元オブジェクトの合成を行わない場合には、画像出力装置1は、オブジェクト情報記憶部15を必要としない。
【0051】
また、本実施の形態では、位置情報がLPSによって取得される場合について説明したが、これは一例であって、LPS以外によって位置情報が取得されてもよいことは言うまでもない。ユーザの位置を示す情報は、例えば、GPS(Global Positioning System)によって取得された情報でもよく、RFID(Radio Frequency Identification)や無線LAN、Bluetooth(登録商標)等を用いて3点測量を行うことによって取得された情報でもよく、床面に配設された圧力センサ等を用いてユーザが踏んだ圧力センサ等の位置を示す情報でもよく、歩数計などによって計測されたユーザの歩数から算出された情報でもよく、キーボードやマウス等の入力デバイスを用いてユーザが入力した情報でもよく、人感センサやカメラ等のように、ユーザの有する機器ではなく所定の場所に固定された機器によって取得された情報でもよい。また、ユーザの視線方向を示す情報は、例えば、ジャイロセンサ等を用いて角速度を検出し、基準方向からの角度を算出することによって取得された情報でもよく、キーボードやマウス等の入力デバイスを用いてユーザが入力した情報でもよい。ユーザの位置を示す情報や視線方向を示す情報がユーザによって入力される場合には、ユーザが実際にいる場所を示す情報やユーザの実際の視線方向を示す情報でもよく、ユーザが実際にいる場所や視線方向ではなく、ユーザが設定した場所や視線方向を示す情報でもよい。
【0052】
また、本実施の形態では、ユーザの視線方向として、水平面内における方向のみを用いる場合について説明したが、ユーザの視線方向として、上下の方向、すなわち、空のほうを見ているのか、あるいは地面のほうを見ているのかに関する情報も用いて、レンダリングの処理を行ってもよい。
【0053】
また、オブジェクト情報記憶部15では、2以上の属性情報ごとに3次元オブジェクト情報と、オブジェクト位置情報とがそれぞれ記憶され、図9で示されるように、オブジェクト情報選択部21が、属性情報受付部12が受け付けた属性情報に応じた3次元オブジェクト情報を選択し、レンダリング部16は、オブジェクト情報選択部21が選択した3次元オブジェクト情報を用いて、出力画像を生成してもよい。このようにすることで、レンダリング部16は、例えば、季節や天気に応じた3次元オブジェクトを含む出力画像を生成することができる。
【0054】
また、本実施の形態では、図2のフローチャートを用いて、位置情報を受け付けるたびに背景オブジェクト画像の選択を行う場合について説明したが、これは一例であって、位置情報を受け付けるたびに新たな背景オブジェクト画像の選択を行わなければならないかどうかを判断し、新たな背景オブジェクト画像の選択を行わなければならないと判断した場合にのみ、新たな背景オブジェクト画像の選択を行うようにしてもよい。例えば、前述のように、ある背景オブジェクト画像の中心からユーザの位置が1.42m以上離れると新たな背景オブジェクト画像の選択が行われる場合には、画像選択部14は、ユーザの位置が背景オブジェクト画像の中心から1.42m以上離れたかどうかを判断し、1.42m以上離れた場合に初めて、背景オブジェクト画像の新たな選択を行うようにしてもよい。
【0055】
また、図2で示されるフローチャートのシーケンスは、まず属性情報を受け付けて、その受け付けた属性情報に対応する背景オブジェクト画像を選択する場合について示しているが、これは一例であって、例えば、背景オブジェクト画像の選択やレンダリング等をしている途中に、新たな属性情報を受け付けることができるようにしてもよい。その場合には、例えば、ユーザが仮想空間において移動している途中に、季節や天気等を任意に変更することが可能となる。このように、図2のフローチャートには、ある程度の任意性がある。
【0056】
また、本実施の形態では、背景位置情報やオブジェクト位置情報が2次元の位置を示す情報である場合について説明したが、それらは、3次元の位置を示す情報であってもよい。背景位置情報が3次元の位置を示す情報である場合には、例えば、崖の付近であれば、たとえ2次元平面(水平な平面)での位置は同じであっても、高さ方向での位置に応じて、背景オブジェクト画像が異なることになる。
【0057】
また、本実施の形態では、背景オブジェクト画像がマッピングされる3次元形状として、3次元円筒を用いる場合について説明したが、背景オブジェクト画像は、それ以外の3次元形状にマッピングされてもよい。背景オブジェクト画像がマッピングされる3次元形状は、少なくともユーザの位置からぐるりと360度を見渡すことができる領域を有する3次元形状、すなわち、少なくとも環状の領域を有する3次元形状であればよく、例えば、半球状の3次元形状であってもよく、天頂に孔を有する半球状の3次元形状であってもよく、全球状の3次元形状であってもよく、3次元多角柱であってもよい。
【0058】
(実施の形態2)
本発明の実施の形態2による画像出力装置について説明する。本実施の形態による画像出力装置は、背景オブジェクト画像を撮影で用いた光学デバイスの形状に応じた3次元形状にマッピングされた背景オブジェクト画像を用いて、出力画像を生成するものである。
【0059】
本実施の形態では、背景オブジェクト画像と、その背景オブジェクト画像がマッピングされる3次元形状以外、実施の形態1と同様であり、その説明を省略する。以下、本実施の形態における背景オブジェクト画像と、背景オブジェクト画像がマッピングされる3次元形状とについて説明する。
【0060】
図10は、実施の形態1の具体例での背景オブジェクト画像と、その背景オブジェクト画像がマッピングされる3次元形状(3次元円筒)とについて説明するための図である。実施の形態1では、図10(a)で示されるように、全方位カメラによって実空間が撮影される。その撮影された画像は、図10(b)で示されるように、丸画像であり、そのままでは非常に歪んでおり、人間が普通に見ることができる画像でない。そこで、その丸画像をパノラマ展開して人間が普通に見ることができる図10(c)で示されるパノラマ画像を作成する。実施の形態1の具体例では、このパノラマ画像が背景オブジェクト画像として用いられ、図10(d)で示される3次元円筒に背景オブジェクト画像がマッピングされ、レンダリング処理が行われることによって出力画像が生成されていた。
【0061】
すなわち、実施の形態1の具体例では、図11で示されるように、実空間をカメラで撮影することによって撮影画像(例えば、全方位カメラによって撮影された丸画像)を得ることができる。そして、その撮影画像に対して所定の変換gを行うことによって、仮想空間での画像(例えば、丸画像がパノラマ展開されたパノラマ画像)を得ることができ、その仮想空間での画像を背景オブジェクト画像として用いて3次元形状(例えば、3次元円筒)にマッピングすることにより、仮想空間での出力画像を得ることができた。
【0062】
一方、本実施の形態では、図12で示されるように、撮影画像から仮想空間での画像への変換を行わず、撮影画像を背景オブジェクト画像として用いて、3次元形状にマッピングする。ただし、撮影画像のマッピングされる3次元形状は、図11での変換gを考慮した形状でなくてはならない。すなわち、変換gを行う代わりに、撮影画像のマッピングされる3次元形状を、変換gを考慮した形状とすることによって、図11において仮想空間での画像を3次元形状にマッピングした場合と、図12において撮影画像を3次元形状にマッピングした場合とが同じになるようにすることができる。このようにすることで、撮影画像を仮想空間での画像に変換する変換gの処理を省略することができ、処理負荷を軽減することができる。
【0063】
ここで、変換gを考慮した3次元形状は、背景オブジェクト画像の撮影で用いた光学デバイスに応じた形状であり、少なくとも環状の領域を有する3次元形状となる。例えば、回転体ミラーを用いた全方位カメラで背景オブジェクト画像(丸画像)を撮影した場合には、その回転体ミラーの曲面に応じた形状となる。すなわち、回転体ミラーの形状と、3次元形状とを同じにすればよい。ここで、回転体ミラーの形状と、3次元形状とが同じであるとは、両者の形状を記述する方程式が同じ形になることである。したがって、両者の大きさは異なってもよい。例えば、その3次元形状は、図13で示されるようになる。図13において、半球状の形状の天頂の領域に孔があいているのは、背景オブジェクト画像(丸画像)の中心には有意な画像が存在しないからである。
【0064】
なお、背景オブジェクト画像を3次元形状にマッピングする場合に、撮影時に回転体ミラーで反射されたカメラから見た実空間の画像が3次元形状上に再現されるように、背景オブジェクト画像を3次元形状にマッピングする。より詳細には、背景オブジェクト画像において注目している2個の異なる画素が撮影時に反射された回転体ミラー上の点の位置をそれぞれA1、B1として、その注目している2個の画素をマッピングする3次元形状オブジェクト上の点の位置をそれぞれA2、B2とすると、回転体ミラーの位置A1、B1と、3次元形状の位置A2、B2とが対応する位置となるように背景オブジェクト画像のマッピングを行う。ここで、回転体ミラーの位置A1、B1と、3次元形状の位置A2、B2とが対応するとは、回転体ミラー、あるいは3次元形状に対して拡大・縮小、平行移動、回転等の操作をすることによって、位置A1、B1と、位置A2、B2とをそれぞれ一致させることができることを言う。すなわち、回転体ミラーに対する位置A1、B1の相対的な位置と、3次元形状に対する位置A2、B2の相対的な位置とが同じであることを言う。したがって、3次元形状にマッピングされた背景オブジェクト画像を全方位カメラと同様にカメラで撮影したと仮定すると、背景オブジェクト画像と同じ画像(丸画像)が得られることになる。
【0065】
また、例えば、回転体ミラーが双曲面ミラーである場合には、レンダリング時に、双曲面ミラーの焦点を視線とすると、撮影された実空間と同様の仮想空間を実現することができる。したがって、図13で示される3次元形状が双曲面であるとすると、その焦点を通り、z軸に直交する平面上にユーザの視点が存在するとしてレンダリング処理を行うことが好適である。なお、その場合のx、y軸の値は、実施の形態1での説明と同様に、位置情報受付部11が受け付けた位置情報によって示されることになる。
【0066】
なお、背景オブジェクト画像と、その背景オブジェクト画像がマッピングされる3次元形状が異なる以外、実施の形態1と同様であり、それらの説明を省略する。
【0067】
以上のように、本実施の形態による画像出力装置によれば、背景オブジェクト画像を撮影で用いた光学デバイスの形状に応じた3次元形状にマッピングされた背景オブジェクト画像を用いて、出力画像を生成することにより、撮影画像をそのまま背景オブジェクト画像として用いることができ、撮影画像から背景オブジェクト画像を得るための画像処理が必要なくなる。その結果、実施の形態1の場合と同様の出力画像を得ることができる一方、装置の処理負担を軽減することができる。
【0068】
なお、背景オブジェクト画像としての撮影画像は、全方位カメラ以外によって撮影されてもよいことは言うまでもない。例えば、魚眼レンズを用いて背景オブジェクト画像としての撮影画像を撮影してもよく、ある軸周りに回転しながら等間隔に背景オブジェクト画像としての複数の2次元の撮影画像を撮影してもよい。魚眼レンズを用いて撮影する場合には、1回の撮影で半球に対応する領域の撮影を行ってもよく、2回の逆方向の撮影を行うことによって全球に対応する領域の撮影を行ってもよい。前者の場合には、魚眼レンズを用いて撮影した撮影画像がそのまま魚眼レンズの曲面に応じた半球状の3次元形状にマッピングされることになるが、後者の場合には、撮影した2個の撮影画像が、魚眼レンズの曲面に応じた半球状の3次元形状を2個組み合わせた全球状の3次元形状のそれぞれ対応する領域にマッピングされることになる。魚眼レンズを用いた2回の撮影によって全球に対応する領域の撮影を行う方法については、従来からすでに知られており、その説明を省略する。また、例えば、魚眼レンズを用いて撮影画像を撮影した場合には、変換gを考慮した3次元形状は、撮影デバイスとしての魚眼レンズの曲面に応じた形状となる。また、例えば、等間隔に複数の撮影画像を撮影した場合には、変換gを考慮した3次元形状は、撮影された枚数に応じた多角柱形状となり、各撮影画像がその多角柱形状の側壁を構成する各平面にマッピングされることになる。
【0069】
また、本実施の形態では、画像記憶部13は、2個以上の背景オブジェクト画像を記憶していてもよく、あるいは、1個の背景オブジェクト画像を記憶していてもよい。後者の場合には、画像出力装置が画像選択部14を備えず、レンダリング部16は、画像記憶部13で記憶されている背景オブジェクト画像を用いて出力画像を生成してもよい。その場合には、画像出力装置は、カメラによって実空間を撮影した画像であり、全方位の画像である背景オブジェクト画像が記憶される画像記憶部と、ユーザの位置及びユーザの視線方向を示す情報である位置情報を受け付ける位置情報受付部と、前記背景オブジェクト画像の撮影で用いた光学デバイスに応じた3次元形状であり、少なくとも環状の領域を有する3次元形状の内面にマッピングされた前記背景オブジェクト画像から、前記位置情報受付部が受け付けた位置情報を用いて、出力画像を生成するレンダリング部と、前記レンダリング部が生成した出力画像を出力する出力部と、を備えたものであってもよい。
【0070】
また、上記各実施の形態において、各処理または各機能は、単一の装置または単一のシステムによって集中処理されることによって実現されてもよく、あるいは、複数の装置または複数のシステムによって分散処理されることによって実現されてもよい。
【0071】
また、上記各実施の形態において、各構成要素は専用のハードウェアにより構成されてもよく、あるいは、ソフトウェアにより実現可能な構成要素については、プログラムを実行することによって実現されてもよい。例えば、ハードディスクや半導体メモリ等の記録媒体に記録されたソフトウェア・プログラムをCPU等のプログラム実行部が読み出して実行することによって、各構成要素が実現される。なお、上記実施の形態における画像出力装置を実現するソフトウェアは、以下のようなプログラムである。つまり、このプログラムは、コンピュータに、ユーザの位置及びユーザの視線方向を示す情報である位置情報を受け付ける位置情報受付ステップと、カメラによって実空間を撮影した画像であり、全方位の画像である2以上の背景オブジェクト画像と、当該背景オブジェクト画像の位置を示す情報である背景位置情報とが対応付けられて記憶される画像記憶部における2以上の背景オブジェクト画像から、前記位置情報受付ステップで受け付けた位置情報の示すユーザの位置に対応する背景オブジェクト画像を選択する画像選択ステップと、少なくとも環状の領域を有する3次元形状の内面にマッピングされた、前記画像選択ステップで選択した背景オブジェクト画像から、前記位置情報受付ステップで受け付けた位置情報を用いて、出力画像を生成するレンダリングステップと、前記レンダリングステップで生成した出力画像を出力する出力ステップと、を実行させるためのものである。
【0072】
また、他のプログラムは、コンピュータに、ユーザの位置及びユーザの視線方向を示す情報である位置情報を受け付ける位置情報受付ステップと、カメラによって実空間を撮影した画像であり、全方位の画像である背景オブジェクト画像の撮影で用いた光学デバイスに応じた3次元形状であり、少なくとも環状の領域を有する3次元形状の内面にマッピングされた前記背景オブジェクト画像から、前記位置情報受付ステップで受け付けた位置情報を用いて、出力画像を生成するレンダリングステップと、前記レンダリングステップで生成した出力画像を出力する出力ステップと、を実行させるためのものである。
【0073】
なお、上記プログラムにおいて、情報を出力する出力ステップや、情報を受け付ける受付ステップなどでは、ハードウェアでしか行われない処理、例えば、出力ステップにおけるモデムやインターフェースカードなどで行われる処理は少なくとも含まれない。
【0074】
また、このプログラムは、サーバなどからダウンロードされることによって実行されてもよく、所定の記録媒体(例えば、CD−ROMなどの光ディスクや磁気ディスク、半導体メモリなど)に記録されたプログラムが読み出されることによって実行されてもよい。
【0075】
また、このプログラムを実行するコンピュータは、単数であってもよく、複数であってもよい。すなわち、集中処理を行ってもよく、あるいは分散処理を行ってもよい。
【0076】
図14は、上記プログラムを実行して、上記実施の形態による画像出力装置1を実現するコンピュータの外観の一例を示す模式図である。上記実施の形態は、コンピュータハードウェア及びその上で実行されるコンピュータプログラムによって実現される。
【0077】
図14において、コンピュータシステム100は、CD−ROM(Compact Disk Read Only Memory)ドライブ105、FD(Flexible Disk)ドライブ106を含むコンピュータ101と、キーボード102と、マウス103と、モニタ104とを備える。
【0078】
図15は、コンピュータシステムを示す図である。図15において、コンピュータ101は、CD−ROMドライブ105、FDドライブ106に加えて、CPU(Central Processing Unit)111と、ブートアッププログラム等のプログラムを記憶するためのROM(Read Only Memory)112と、CPU111に接続され、アプリケーションプログラムの命令を一時的に記憶すると共に、一時記憶空間を提供するRAM(Random Access Memory)113と、アプリケーションプログラム、システムプログラム、及びデータを記憶するハードディスク114と、CPU111、ROM112等を相互に接続するバス115とを備える。なお、コンピュータ101は、LANへの接続を提供する図示しないネットワークカードを含んでもよい。
【0079】
コンピュータシステム100に、上記実施の形態による画像出力装置1の機能を実行させるプログラムは、CD−ROM121、またはFD122に記憶されて、CD−ROMドライブ105、またはFDドライブ106に挿入され、ハードディスク114に転送されてもよい。これに代えて、そのプログラムは、図示しないネットワークを介してコンピュータ101に送信され、ハードディスク114に記憶されてもよい。プログラムは実行の際にRAM113にロードされる。なお、プログラムは、CD−ROM121やFD122、またはネットワークから直接、ロードされてもよい。
【0080】
プログラムは、コンピュータ101に、上記実施の形態による画像出力装置1の機能を実行させるオペレーティングシステム(OS)、またはサードパーティプログラム等を必ずしも含まなくてもよい。プログラムは、制御された態様で適切な機能(モジュール)を呼び出し、所望の結果が得られるようにする命令の部分のみを含んでいてもよい。コンピュータシステム100がどのように動作するのかについては周知であり、詳細な説明を省略する。
また、本発明は、以上の実施の形態に限定されることなく、種々の変更が可能であり、それらも本発明の範囲内に包含されるものであることは言うまでもない。
【産業上の利用可能性】
【0081】
以上より、本発明による画像出力装置等は、カメラによって実空間を撮影した全方位の画像である背景オブジェクト画像を用いて作成された出力画像を出力することができる装置等として有用である。
【図面の簡単な説明】
【0082】
【図1】本発明の実施の形態1による画像出力装置の構成を示すブロック図
【図2】同実施の形態による画像出力装置の動作を示すフローチャート
【図3】同実施の形態におけるヘッドマウントディスプレイを装着したユーザの一例を示す図
【図4】同実施の形態における画像記憶部が記憶している情報の一例を示す図
【図5】同実施の形態におけるオブジェクト情報記憶部が記憶している情報の一例を示す図
【図6】同実施の形態における位置情報と背景位置情報について説明するための図
【図7】同実施の形態におけるレンダリング処理について説明するための図
【図8】同実施の形態における出力画像の一例を示す図
【図9】同実施の形態における画像出力装置の他の一例の構成を示すブロック図
【図10】本発明の実施の形態2において、背景オブジェクト画像のマッピングを説明するための図
【図11】同実施の形態において、撮影画像の変換及び3次元形状へのマッピングについて説明するための図
【図12】同実施の形態において、撮影画像の3次元形状へのマッピングについて説明するための図
【図13】同実施の形態における背景オブジェクト画像がマッピングされる3次元形状の一例を示す図
【図14】同実施の形態におけるコンピュータシステムの外観一例を示す模式図
【図15】同実施の形態におけるコンピュータシステムの構成の一例を示す図
【符号の説明】
【0083】
1 画像出力装置
11 位置情報受付部
12 属性情報受付部
13 画像記憶部
14 画像選択部
15 オブジェクト情報記憶部
16 レンダリング部
17 出力部
21 オブジェクト情報選択部
【技術分野】
【0001】
本発明は、カメラによって実空間を撮影した全方位の画像である背景オブジェクト画像を用いて作成された出力画像を出力する画像出力装置に関する。
【背景技術】
【0002】
従来、実写の全方位画像に対して適宜、補間等の処理を行うことによって、仮想的な空間を提供する手法について研究がなされている(例えば、非特許文献1参照)。
【非特許文献1】Hiroshi Ishiguro,Kim C.Ng,Richard Capella,Mohan M.Trivedi、「Omnidirectional image−based modeling:three approaches to approximated plenoptic representations」、Machine Vision and Applications、2003年6月、Volume 14、Number 2、p.94−102
【発明の開示】
【発明が解決しようとする課題】
【0003】
上記非特許文献1では、任意の視点からの画像を生成する方法(Method 3,図12)が開示されているが、その方法は、複数の全方位画像のテンプレートマッチング、それらの複数の全方位画像における最も適切な画像の選択、選択した複数の全方位画像の合成を行っており、処理部(CPU等)における処理負荷の非常に大きい処理を行わなくてはならないという問題がある。そのことは、上記非特許文献1の筆者ら自身が指摘しているところである(p.99,右列の33行目からのパラグラフ)。
【0004】
本発明は、上記問題点を解決するためになされたものであり、処理負荷のより小さい処理によって、カメラによって実空間を撮影した全方位の画像を用いた仮想空間における任意の視点からの出力画像を生成して出力する画像出力装置を提供することを目的とする。
【課題を解決するための手段】
【0005】
上記目的を達成するため、本発明による画像出力装置は、カメラによって実空間を撮影した画像であり、全方位の画像である2以上の背景オブジェクト画像と、当該背景オブジェクト画像の位置を示す情報である背景位置情報とが対応付けられて記憶される画像記憶部と、ユーザの位置及びユーザの視線方向を示す情報である位置情報を受け付ける位置情報受付部と、前記位置情報受付部が受け付けた位置情報の示すユーザの位置に対応する背景オブジェクト画像を前記画像記憶部から選択する画像選択部と、少なくとも環状の領域を有する3次元形状の内面にマッピングされた、前記画像選択部が選択した背景オブジェクト画像から、前記位置情報受付部が受け付けた位置情報を用いて、出力画像を生成するレンダリング部と、前記レンダリング部が生成した出力画像を出力する出力部と、を備えたものである。
【0006】
このような構成により、処理負荷のより小さい処理によって、カメラによって実空間を撮影した全方位の画像を用いた仮想空間における任意の視点からの出力画像を生成することができる。
【0007】
また、本発明による画像出力装置では、3次元オブジェクトを示す情報である3次元オブジェクト情報と、当該3次元オブジェクトの位置を示す情報であるオブジェクト位置情報とが対応付けられて記憶されるオブジェクト情報記憶部をさらに備え、前記レンダリング部は、出力画像の範囲内に当該3次元オブジェクトが存在する場合には、前記3次元オブジェクト情報をも用いて出力画像を生成してもよい。
【0008】
このような構成により、カメラによって実空間を撮影した全方位の画像を用いた仮想空間において、任意の3次元オブジェクトを追加することができる。この3次元オブジェクトは、静止しているものでもよく、動いているものでもよい。
【0009】
また、本発明による画像出力装置では、前記画像選択部は、位置情報の示すユーザの位置が、現在選択している背景オブジェクト画像に対応する背景位置情報の示す位置から所定の半径以上離れた場合に、位置情報の示すユーザの位置に最も近い位置を示す背景位置情報に対応する背景オブジェクト画像を前記画像記憶部から新たに選択するものであり、前記所定の半径は、隣接する背景オブジェクト画像にそれぞれ対応する背景位置情報の示す2点の位置の距離の半分よりも大きい距離であってもよい。
【0010】
このような構成により、ユーザが背景オブジェクト画像の中間点近傍を移動する場合においても、背景オブジェクト画像の新たな選択が頻発することを防止することができる。背景オブジェクト画像の新たな選択が頻発すると、背景オブジェクト画像を選択した後のレンダリング等の処理負担が増大することになるが、このように、背景オブジェクト画像の新たな選択が頻発することを防止できることにより、画像出力装置の処理負担の増大を抑制することができる。
【0011】
また、本発明による画像出力装置では、前記背景オブジェクト画像の属性を示す情報である属性情報を受け付ける属性情報受付部をさらに備え、前記画像記憶部では、2以上の属性情報ごとに前記2以上の背景オブジェクト画像と、前記背景位置情報とがそれぞれ記憶され、前記画像選択部は、前記属性情報受付部が受け付けた属性情報に応じた背景オブジェクト画像を選択してもよい。ここで、属性情報は、例えば、背景オブジェクト画像の撮影された時の天気を示す情報であってもよく、背景オブジェクト画像の撮影された時の時期を示す情報であってもよい。
【0012】
このような構成により、受け付けられた属性情報に対応する出力画像が出力されることとなり、例えば、ユーザは、季節に応じた出力画像や、天気に応じた出力画像を見ることができるようになる。
また、本発明による画像出力装置では、前記3次元形状は、前記背景オブジェクト画像の撮影で用いた光学デバイスに応じた形状であってもよい。
【0013】
このような構成により、背景オブジェクト画像として、撮影画像そのものを3次元形状にマッピングすることが可能となる。したがって、例えば、全方位カメラで撮影された丸画像をパノラマ画像に展開するといったような、3次元形状にマッピングする前の撮影画像に対する画像処理を行う必要がなくなり、処理負担を軽減することができる。
【0014】
本発明による画像出力装置は、カメラによって実空間を撮影した画像であり、全方位の画像である背景オブジェクト画像が記憶される画像記憶部と、ユーザの位置及びユーザの視線方向を示す情報である位置情報を受け付ける位置情報受付部と、前記背景オブジェクト画像の撮影で用いた光学デバイスに応じた3次元形状であり、少なくとも環状の領域を有する3次元形状の内面にマッピングされた前記背景オブジェクト画像から、前記位置情報受付部が受け付けた位置情報を用いて、出力画像を生成するレンダリング部と、前記レンダリング部が生成した出力画像を出力する出力部と、を備えたものである。
【0015】
このような構成により、処理負荷のより小さい処理によって、カメラによって実空間を撮影した全方位の画像を用いた仮想空間における任意の視点からの出力画像を生成することができる。また、背景オブジェクト画像として、撮影画像そのものを3次元形状にマッピングすることが可能となる。したがって、例えば、全方位カメラで撮影された丸画像をパノラマ画像に展開するといったような、3次元形状にマッピングする前の撮影画像に対する画像処理を行う必要がなくなり、処理負担を軽減することができる。
【発明の効果】
【0016】
本発明による画像出力装置等によれば、カメラによって実空間を撮影した全方位の画像を用いた仮想空間における任意の視点からの出力画像を、処理負荷のより小さい処理によって生成して出力することができる。
【発明を実施するための最良の形態】
【0017】
以下、本発明による画像出力装置について、実施の形態を用いて説明する。なお、以下の実施の形態において、同じ符号を付した構成要素及びステップは同一または相当するものであり、再度の説明を省略することがある。
【0018】
(実施の形態1)
本発明の実施の形態1による画像出力装置について、図面を参照しながら説明する。
図1は、本実施の形態による画像出力装置1の構成を示すブロック図である。図1において、本実施の形態による画像出力装置1は、位置情報受付部11と、属性情報受付部12と、画像記憶部13と、画像選択部14と、オブジェクト情報記憶部15と、レンダリング部16と、出力部17とを備える。
【0019】
位置情報受付部11は、位置情報を受け付ける。ここで、位置情報とは、ユーザの位置と、ユーザの視線方向とを示す情報である。ユーザの位置は、例えば、2次元平面座標系における座標値や、球面座標系における角度(例えば、緯度と経度など)等によって示される。ユーザの位置を特定することができる情報であれば、ユーザの位置を示す情報はどのようなものであってもよい。ユーザの視線方向は、例えば、所定の方向(例えば、2次元平面座標系における一の座標軸など)に対する角度等によって示される。ユーザの視線方向を特定することができる情報であれば、ユーザの視線方向を示す情報はどのようなものであってもよい。また、ユーザの体の向きをユーザの視線方向として用いてもよい。また、位置情報は、ユーザの実際の位置や視線方向を示す情報であってもよく、あるいは、ユーザの実際の位置や視線方向とは関係のない情報であり、ユーザが入力デバイス等を用いて入力した情報であってもよい。位置情報受付部11は、例えば、入力デバイス(例えば、キーボードやマウス、タッチパネルなど)から入力された情報を受け付けてもよく、有線もしくは無線の通信回線を介して送信された情報を受信してもよく、所定の記録媒体(例えば、光ディスクや磁気ディスク、半導体メモリなど)から読み出された情報を受け付けてもよい。本実施の形態では、ユーザの装着しているLPS(Local Positioning System)によって取得された位置情報がネットワークを介して送信され、位置情報受付部11は、その送信された位置情報を受信するものとする。LPSとは、例えば、地磁気センサと加速度センサとを有する自律航法型の位置測位センサによって、基準点からの座標値を算出することができ、ユーザの向きを検出することができる装置である。なお、位置情報受付部11は、受け付けを行うためのデバイス(例えば、モデムやネットワークカードなど)を含んでもよく、あるいは含まなくてもよい。また、位置情報受付部11は、ハードウェアによって実現されてもよく、あるいは所定のデバイスを駆動するドライバ等のソフトウェアによって実現されてもよい。
【0020】
属性情報受付部12は、後述する背景オブジェクト画像の属性を示す情報である属性情報を受け付ける。この属性情報については後述する。属性情報受付部12は、例えば、入力デバイス(例えば、キーボードやマウス、タッチパネルなど)から入力された情報を受け付けてもよく、有線もしくは無線の通信回線を介して送信された情報を受信してもよく、所定の記録媒体(例えば、光ディスクや磁気ディスク、半導体メモリなど)から読み出された情報を受け付けてもよく、属性情報が後述するように日時や時刻等である場合には、画像出力装置1の有する図示しない時計からの情報を受け付けてもよく、属性情報が後述するように天気である場合には、画像出力装置1の有する図示しない天気情報取得部によって取得された天気情報を受け付けてもよい。天気情報取得部は、例えば、天気情報を有するサーバ等から天気情報を取得してもよく、あるいは、雨滴の有無をチェックするデバイスや、気圧を測定するデバイス、気温を測定するデバイス等からの情報に基づいて天気情報を取得してもよい。なお、属性情報受付部12は、受け付けを行うためのデバイス(例えば、モデムやネットワークカードなど)を含んでもよく、あるいは含まなくてもよい。また、属性情報受付部12は、ハードウェアによって実現されてもよく、あるいは所定のデバイスを駆動するドライバ等のソフトウェアによって実現されてもよい。
【0021】
画像記憶部13では、2以上の背景オブジェクト画像と、その背景オブジェクト画像の位置を示す情報である背景位置情報とが対応付けられて記憶される。ここで、背景オブジェクト画像とは、カメラによって実空間を撮影した画像であり、全方位の画像である。背景オブジェクト画像は、ある地点における全方位(360度)の画像であれば、どのような画像であってもよい。背景オブジェクト画像は、例えば、回転体ミラーとカメラから構成される全方位カメラ等によって撮影された画像そのもの(いわゆる、丸画像)であってもよく、全方位カメラ等によって撮影された画像を、360度のパノラマ展開したパノラマ展開画像であってもよい。回転体ミラーとしては、例えば、双曲面ミラー、円錐ミラー、球面ミラー、複合ミラー、放物面ミラー等がある。なお、全方位カメラについては、次の文献A、文献Bを参照されたい。
【0022】
文献A:八木康史、"全方位画像の取得とその応用"、電子情報通信学会技術研究報告PRMU96−140、p.89−96、1997
文献B:山澤一誠、八木康史、谷内田正彦、"移動ロボットのナビゲーションのための全方位視覚系 HyperOmni Visionの提案"、電子情報通信学会論文誌(D−II)、vol.J79−D−II、no.5、p.698−707、1996
【0023】
背景オブジェクト画像は、全方位画像等の一の画像(例えば、丸画像)、もしくは、その画像から生成された画像(例えば、パノラマ展開画像)であってもよく、または、複数の画像をつなぎ合わせることによって生成された画像であってもよい。また、背景オブジェクト画像は、動画であってもよく、静止画であってもよい。前者の場合には、例えば、ライブで撮影された背景オブジェクト画像であり、画像記憶部13は、その背景オブジェクト画像を一時的に記憶するものであってもよい。背景オブジェクト画像の位置を示す情報である背景位置情報とは、背景オブジェクト画像を最も適切に見ることができる位置を示す情報、例えば、背景オブジェクト画像を撮影した位置を示す情報であってもよい。また、画像記憶部13では、2以上の属性情報ごとに2以上の背景オブジェクト画像がそれぞれ記憶されてもよい。ここで、属性情報とは、背景オブジェクト画像に関する属性を示す情報であり、例えば、背景オブジェクト画像の撮影された時の天気(例えば、晴れ、曇り、雨、雪、雷など)を示す情報であってもよく、背景オブジェクト画像の撮影された時の時期を示す情報であってもよい。時期とは、年、季節(例えば、春夏秋冬など)、月、年月日、時刻、時間帯(例えば、朝、昼、夕方、夜、深夜など)等を含む概念である。画像記憶部13は、所定の記録媒体(例えば、半導体メモリや磁気ディスク、光ディスクなど)によって実現される。画像記憶部13での記憶は、外部のストレージデバイス等から読み出した背景オブジェクト画像等のRAM等における一時的な記憶でもよく、あるいは、長期的な記憶でもよい。画像記憶部13に背景オブジェクト画像と背景位置情報とが記憶される過程は問わない。例えば、記録媒体を介して背景オブジェクト画像と背景位置情報とが画像記憶部13で記憶されるようになってもよく、通信回線等を介して送信された背景オブジェクト画像と背景位置情報とが画像記憶部13で記憶されるようになってもよく、あるいは、入力デバイスを介して入力された背景位置情報が画像記憶部13で記憶されるようになってもよい。
【0024】
画像選択部14は、位置情報受付部11が受け付けた位置情報の示すユーザの位置に対応する背景オブジェクト画像を選択する。ユーザの位置に対応する背景オブジェクト画像を選択するとは、例えば、そのユーザの位置に最も近い位置を示す背景位置情報に対応する背景オブジェクト画像を選択することであってもよく、その他のアルゴリズムによって背景オブジェクト画像を選択することであってもよい。その他のアルゴリズムとしては、その時点で選択されている背景オブジェクト画像を重視するように背景オブジェクト画像を選択することであってもよい。具体的には、画像選択部14は、位置情報の示すユーザの位置が、現在選択している背景オブジェクト画像に対応する背景位置情報の示す位置から所定の半径以上離れた場合に、位置情報の示すユーザの位置に最も近い位置を示す背景位置情報に対応する背景オブジェクト画像を新たに選択してもよい。ここで、「所定の半径」とは、隣接する背景オブジェクト画像にそれぞれ対応する背景位置情報の示す2点の位置の距離の半分よりも大きい距離である。例えば、2メートル間隔のグリッド状に背景オブジェクト画像が撮影されており、所定の半径が「1.42m」に設定されている場合には、ある背景オブジェクト画像の中心からユーザの位置が1.42m以上離れた場合に、新たな背景オブジェクト画像の選択が行われることになる。このようにすることで、ユーザが隣接する背景オブジェクト画像のちょうど中間点近傍を移動する場合に、背景オブジェクト画像の新たな選択が頻発することを防止することができ、画像出力装置1の処理量を軽減することができる。なお、本実施の形態では、画像選択部14は、ユーザの位置に最も近い位置を示す背景位置情報に対応する背景オブジェクト画像を選択する場合について説明する。また、画像選択部14は、属性情報受付部12が受け付けた属性情報に応じた背景オブジェクト画像を選択する。例えば、属性情報受付部12が属性情報「夏」を受け付けた場合には、その属性情報「夏」に応じた背景オブジェクト画像を選択する。また、例えば、画像記憶部13において季節を示す属性情報に背景オブジェクト画像が対応付けられている場合に、属性情報受付部12が属性情報「7月」を受け付けたとすると、画像選択部14は、月と季節とを対応付ける対応テーブルを有しており、その対応テーブルを用いて7月が季節「夏」に対応すると判断し、属性情報「夏」に対応する背景オブジェクト画像を選択してもよい。このように、「画像選択部14が属性情報受付部12の受け付けた属性情報に応じた背景オブジェクト画像を選択する」とは、属性情報受付部12の受け付けた属性情報に直接対応する背景オブジェクト画像を選択する場合だけでなく、属性情報受付部12の受け付けた属性情報に対応テーブル等の所定の情報を介して対応する背景オブジェクト画像を選択する場合も含むものとする。
【0025】
オブジェクト情報記憶部15では、3次元オブジェクトを示す情報である3次元オブジェクト情報と、その3次元オブジェクトの位置を示す情報であるオブジェクト位置情報とが対応付けられて記憶される。3次元オブジェクト情報で示される3次元オブジェクトは、実写の背景オブジェクト画像には含まれないが、その背景オブジェクト画像に合成したい3次元オブジェクトである。この3次元オブジェクト情報等を用いることにより、例えば、実際には木のないところや人のいないところに、木や人が存在するように見せかけることもできる。3次元オブジェクト情報は、例えば、ポリゴンによって3次元オブジェクトの形状を示す3次元モデル情報と、その3次元モデル情報にマッピングされる画像情報を示すテクスチャ情報とを有してもよい。オブジェクト情報記憶部15は、所定の記録媒体(例えば、半導体メモリや磁気ディスク、光ディスクなど)によって実現される。オブジェクト情報記憶部15にユーザ属性対応情報が記憶される過程は問わない。例えば、記録媒体を介して3次元オブジェクト情報とオブジェクト位置情報とがオブジェクト情報記憶部15で記憶されるようになってもよく、通信回線等を介して送信された3次元オブジェクト情報とオブジェクト位置情報とがオブジェクト情報記憶部15で記憶されるようになってもよく、あるいは、入力デバイスを介して入力された3次元オブジェクト情報とオブジェクト位置情報とがオブジェクト情報記憶部15で記憶されるようになってもよい。オブジェクト情報記憶部15での記憶は、外部のストレージデバイス等から読み出した3次元オブジェクト情報とオブジェクト位置情報とのRAM等における一時的な記憶でもよく、あるいは、長期的な記憶でもよい。3次元オブジェクト情報、及び/または、オブジェクト位置情報は、順次変更される情報であってもよく、そうでなくてもよい。前者の場合としては、例えば、背景オブジェクト画像によって構成される仮想空間に存在する人物の3次元オブジェクト情報の位置を示すオブジェクト位置情報が、その仮想空間における人物の移動に応じて変更される場合がある。オブジェクト情報記憶部15では、1個の3次元オブジェクトに関する3次元オブジェクト情報等が記憶されてもよく、2個以上の3次元オブジェクトに関する3次元オブジェクト情報等が記憶されてもよい。
【0026】
なお、画像記憶部13と、オブジェクト情報記憶部15とは、同一の記録媒体によって実現されてもよく、あるいは、別々の記録媒体によって実現されてもよい。前者の場合には、背景オブジェクト画像、及び背景位置情報の記憶される記録媒体の領域が画像記憶部13となり、3次元オブジェクト情報、及びオブジェクト位置情報の記憶される記録媒体の領域がオブジェクト情報記憶部15となる。
【0027】
レンダリング部16は、3次元円筒の内面にマッピングされた、画像選択部14が選択した背景オブジェクト画像から、位置情報受付部11が受け付けた位置情報を用いて、出力画像を生成する。レンダリング部16は、画像選択部14が選択した背景オブジェクト画像を3次元円筒の内側にマッピングするテクスチャマッピングの処理を行ってもよく、あるいは、あらかじめ背景オブジェクト画像の各位置と、3次元円筒の内側の各位置とが対応付けられており、テクスチャマッピングをしなくてもよいように構成されていてもよい。本実施の形態では、前者の場合について説明する。テクスチャマッピングを行う場合に、背景オブジェクト画像がいわゆる丸画像である場合には、その丸画像をパノラマ展開画像に変換してからテクスチャマッピングを行ってもよく、そのままテクスチャマッピングを行ってもよい。レンダリング部16は、出力画像の範囲内に3次元オブジェクトが存在する場合には、その3次元オブジェクト情報をも用いて出力画像を生成する。その3次元オブジェクトは、オブジェクト情報記憶部15で記憶されている3次元オブジェクト情報によって示されるものである。レンダリング部16は、3次元円筒の内面にマッピングされた背景オブジェクト画像、及び必要であれば3次元オブジェクトから、透視投影変換を行うことによって2次元の出力画像を構成する。レンダリング部16による処理は、一般にレンダリング処理と呼ばれる3次元画像処理であり、従来から公知の処理であるため、詳細な説明を省略する。レンダリング部16によって生成された出力画像は、位置情報で示されるユーザの位置から、位置情報で示されるユーザの視線方向を見た画像となっている。
【0028】
出力部17は、レンダリング部16が生成した出力画像を出力する。ここで、この出力は、例えば、表示デバイス(例えば、CRTや液晶ディスプレイ、ヘッドマウントディスプレイなど)への表示でもよく、所定の機器への通信回線を介した送信でもよく、プリンタによる印刷でもよく、記録媒体への蓄積でもよい。本実施の形態では、ディスプレイへの出力であるとする。なお、出力部17は、出力を行うデバイス(例えば、表示デバイスやプリンタなど)を含んでもよく、あるいは含まなくてもよい。また、出力部17は、ハードウェアによって実現されてもよく、あるいは、それらのデバイスを駆動するドライバ等のソフトウェアによって実現されてもよい。
【0029】
次に、本実施の形態による画像出力装置1の動作について、図2のフローチャートを用いて説明する。
(ステップS101)属性情報受付部12は、属性情報を受け付けたかどうか判断する。そして、属性情報を受け付けた場合には、ステップS102に進み、そうでない場合には、属性情報を受け付けるまで、ステップS101の処理を繰り返す。
【0030】
(ステップS102)位置情報受付部11は、位置情報を受け付けたかどうか判断する。そして、位置情報を受け付けた場合には、ステップS103に進み、そうでない場合には、ステップS108に進む。
【0031】
(ステップS103)画像選択部14は、位置情報受付部11が受け付けた位置情報と、属性情報受付部12が受け付けた属性情報とに基づいて、対応する背景オブジェクト画像を画像記憶部13で記憶されている2以上の背景オブジェクト画像から選択する。
【0032】
(ステップS104)レンダリング部16は、画像選択部14が選択した背景オブジェクト画像をテクスチャマッピングする3次元円筒の範囲内にオブジェクト情報記憶部15で記憶されている3次元オブジェクトが含まれるかどうか判断する。そして、含まれる場合には、ステップS105に進み、そうでない場合には、ステップS106に進む。
【0033】
(ステップS105)レンダリング部16は、3次元円筒の範囲内に含まれる3次元オブジェクトに対応する3次元オブジェクト情報、及びオブジェクト位置情報をオブジェクト情報記憶部15から読み出す。
【0034】
(ステップS106)レンダリング部16は、画像選択部14が選択した背景オブジェクト画像と、位置情報受付部11が受け付けた位置情報と、必要であれば、オブジェクト情報記憶部15から読み出した3次元オブジェクト情報等を用いて、レンダリング処理を実行し、ユーザの視線方向から見た出力画像を生成する。なお、ステップS105で3次元オブジェクト情報等が読み出されている場合であって、出力画像の範囲内に3次元オブジェクトが存在する場合には、その3次元オブジェクトを含む出力画像が、3次元オブジェクト情報を用いて生成されることになる。
【0035】
(ステップS107)出力部17は、レンダリング部16が生成した出力画像を出力する。そして、ステップS102に戻る。
(ステップS108)図示しない受付部は、一連の処理を終了する旨の情報を受け付けたかどうか判断する。そして、受け付けた場合には、一連の処理は終了となり、そうでない場合には、ステップS102に戻る。
【0036】
次に、本実施の形態による画像出力装置1の動作について、具体例を用いて説明する。この具体例において、ユーザは、図3で示されるようにヘッドマウントディスプレイを装着しており、出力画像は、そのヘッドマウントディスプレイに表示されるものとする。また、ユーザは、LPSも装着しており、そのLPSによって取得されたユーザの位置と、ユーザの視線方向とを示す位置情報が画像出力装置1に定期的に送信されるものとする。なお、LPSのうち、地磁気センサは、ユーザの視線方向を正確に検出できるように、ユーザの頭部の図示しない位置に装着されているものとする。
【0037】
図4は、画像記憶部13が記憶している背景オブジェクト画像の一例を示す図である。図4において、背景位置情報と、属性情報と、背景オブジェクト画像とが対応付けられている。背景オブジェクト画像「BS001」等は、背景オブジェクト画像のデータそのものであってもよく、背景オブジェクト画像のデータを識別する情報であってもよい。この具体例では、図4で示されるように、属性情報は季節を示すものであるとする。
【0038】
図5は、オブジェクト情報記憶部15が記憶している3次元オブジェクト情報の一例を示す図である。図5において、オブジェクト位置情報と、3次元オブジェクト情報とが対応付けられている。3次元オブジェクト情報では、3次元モデル情報と、テクスチャ情報とが対応付けられている。3次元モデル情報「M001」等は、3次元モデル情報のデータそのものであってもよく、3次元モデル情報のデータを識別する情報であってもよい。同様に、テクスチャ情報「T001」等は、テクスチャ情報のデータそのものであってもよく、テクスチャ情報のデータを識別する情報であってもよい。
【0039】
まず、ユーザがキーボードやマウスなどの入力デバイスを用いて、属性情報「春」を画像出力装置1に入力したとする。すると、その属性情報「春」は、属性情報受付部12で受け付けられ(ステップS101)、画像選択部14に渡される。画像選択部14は、その属性情報を図示しない記録媒体において保持しておく。
【0040】
次に、ユーザが歩き始めることによって、ユーザが装着しているLPSによって順次、位置情報が取得され、画像出力装置1に送信されてくる。その位置情報は、ある基準点からの2次元平面直交座標系(x、y)における座標値(単位はメートル)と、ユーザの視線方向のy軸に対する角度とを示す情報である。例えば、図6で示されるように、ユーザが(x、y)=(10.4、2.6)の位置におり、視線方向のy軸に対する角度が30度である場合には、そのことを示す位置情報がユーザの装着しているLPSから画像出力装置1に送信され、位置情報受付部11で受信される(ステップS102)。位置情報受付部11は、受信した位置情報を画像選択部14と、レンダリング部16とに渡す。なお、図6において、黒丸で示されているのが、背景オブジェクト画像の撮影地点である。画像記憶部13で記憶されている背景位置情報の示す位置が、この撮影地点である。
【0041】
画像選択部14は、位置情報受付部11から受け取った位置情報の示すユーザの位置(10.4、2.6)に最も近い撮影地点で撮影された背景オブジェクト画像であって、かつ、図示しない記録媒体で保持している属性情報「春」に対応する背景オブジェクト画像である背景オブジェクト画像「BS001」を選択し、画像記憶部13から読み出してレンダリング部16に渡す(ステップS103)。
【0042】
レンダリング部16は、図7(a)で示されるように、直径が36.03508mであり、高さが18mである3次元円筒を設定し、その範囲内に3次元オブジェクトが含まれるかどうか判断する(ステップS104)。この具体例では、図7(b)で示されるように、オブジェクト位置情報(11、6)に対応する3次元オブジェクトが3次元円筒の範囲内に含まれるとすると、レンダリング部16は、オブジェクト位置情報(11、6)と、3次元モデル情報「M001」と、テクスチャ情報「T001」とをオブジェクト情報記憶部15から読み出す(ステップS105)。
【0043】
その後、レンダリング部16は、3次元円筒の内面に画像選択部14から受け取った背景オブジェクト画像「BS001」をテクスチャマッピングする。また、レンダリング部16は、読み出した3次元モデル情報「M001」の示すポリゴンの集合を対応するオブジェクト位置情報(11、6)の位置に配置し、そのポリゴンの表面に読み出したテクスチャ情報「T001」をテクスチャマッピングする。そして、レンダリング部16は、レンダリング処理を行って、2次元の出力画像を生成する(ステップS106)。レンダリング部16は、ユーザの視線の範囲内に3次元オブジェクトが存在するため、その3次元オブジェクトを含む出力画像を生成する。このときに、レンダリング部16は、例えば、光源等の位置を考慮してレンダリング処理を行ってもよい。
【0044】
出力部17は、レンダリング部16が生成した出力画像をユーザのヘッドマウントディスプレイに送信する(ステップS107)。その結果、ユーザのヘッドマウントディスプレイに、図8(a)で示される春の風景の出力画像が表示され、ユーザは、その出力画像を見ることができる。
【0045】
その後、ユーザの位置や視線方向が変化すると、その変化後の位置情報が位置情報受付部11で受け付けられ、上記説明と同様にして、ユーザは、変化後の出力画像を見ることができる。その結果、ユーザは、背景オブジェクト画像によって構成される仮想空間内に存在し、仮想空間内を移動しているのと同じような出力画像を見ることができる。
【0046】
なお、この具体例では、位置情報が受け付けられるごとに背景オブジェクト画像の選択が行われる場合について説明したが、新たな位置情報が受け付けられた場合に、選択する背景オブジェクト画像が以前のものと同じであれば、画像選択部14は新たな選択を行わず、レンダリング部16は、以前に選択された背景オブジェクト画像を用いてレンダリング処理を行ってもよい。
【0047】
また、この具体例では、2メートル間隔のグリッド状に背景オブジェクト画像を配置した場合について説明したが、場所の重要度の高低に応じて、背景オブジェクト画像の間隔を変化させてもよい。例えば、重要な場所については、1メートル間隔のグリッド状に背景オブジェクト画像を配置し、一方、重要でない場所については、5メートル間隔のグリッド状あるいは1次元のルート状に背景オブジェクト画像を配置してもよい。
また、この具体例で用いた3次元円筒の大きさは一例であって、これ以外の大きさであってもよい。
【0048】
以上のように、本実施の形態による画像出力装置1によれば、3次元の画像処理技術を用いて背景オブジェクト画像を3次元円筒の内面にマッピングし、位置情報の示すユーザの位置及び視線方向を用いてレンダリングを行って出力画像を生成するため、上記非特許文献1で開示されている技術のように、背景オブジェクト画像の合成を行う必要がなく、仮想空間における任意の位置からの任意の方向の画像を処理負荷の小さい処理によって生成することができる。
【0049】
また、受け付けられた属性情報に対応する出力画像を出力することもでき、ユーザは、季節に応じた出力画像や、天気に応じた出力画像を見ることができるようになる。
【0050】
なお、本実施の形態では、オブジェクト情報記憶部15を備え、3次元オブジェクトを必要に応じて背景オブジェクト画像に合成して出力する場合について説明したが、背景オブジェクト画像への3次元オブジェクトの合成を行わなくてもよい。その場合には、出力画像は、例えば、図8(b)で示されるようになる。また、背景オブジェクト画像への3次元オブジェクトの合成を行わない場合には、画像出力装置1は、オブジェクト情報記憶部15を必要としない。
【0051】
また、本実施の形態では、位置情報がLPSによって取得される場合について説明したが、これは一例であって、LPS以外によって位置情報が取得されてもよいことは言うまでもない。ユーザの位置を示す情報は、例えば、GPS(Global Positioning System)によって取得された情報でもよく、RFID(Radio Frequency Identification)や無線LAN、Bluetooth(登録商標)等を用いて3点測量を行うことによって取得された情報でもよく、床面に配設された圧力センサ等を用いてユーザが踏んだ圧力センサ等の位置を示す情報でもよく、歩数計などによって計測されたユーザの歩数から算出された情報でもよく、キーボードやマウス等の入力デバイスを用いてユーザが入力した情報でもよく、人感センサやカメラ等のように、ユーザの有する機器ではなく所定の場所に固定された機器によって取得された情報でもよい。また、ユーザの視線方向を示す情報は、例えば、ジャイロセンサ等を用いて角速度を検出し、基準方向からの角度を算出することによって取得された情報でもよく、キーボードやマウス等の入力デバイスを用いてユーザが入力した情報でもよい。ユーザの位置を示す情報や視線方向を示す情報がユーザによって入力される場合には、ユーザが実際にいる場所を示す情報やユーザの実際の視線方向を示す情報でもよく、ユーザが実際にいる場所や視線方向ではなく、ユーザが設定した場所や視線方向を示す情報でもよい。
【0052】
また、本実施の形態では、ユーザの視線方向として、水平面内における方向のみを用いる場合について説明したが、ユーザの視線方向として、上下の方向、すなわち、空のほうを見ているのか、あるいは地面のほうを見ているのかに関する情報も用いて、レンダリングの処理を行ってもよい。
【0053】
また、オブジェクト情報記憶部15では、2以上の属性情報ごとに3次元オブジェクト情報と、オブジェクト位置情報とがそれぞれ記憶され、図9で示されるように、オブジェクト情報選択部21が、属性情報受付部12が受け付けた属性情報に応じた3次元オブジェクト情報を選択し、レンダリング部16は、オブジェクト情報選択部21が選択した3次元オブジェクト情報を用いて、出力画像を生成してもよい。このようにすることで、レンダリング部16は、例えば、季節や天気に応じた3次元オブジェクトを含む出力画像を生成することができる。
【0054】
また、本実施の形態では、図2のフローチャートを用いて、位置情報を受け付けるたびに背景オブジェクト画像の選択を行う場合について説明したが、これは一例であって、位置情報を受け付けるたびに新たな背景オブジェクト画像の選択を行わなければならないかどうかを判断し、新たな背景オブジェクト画像の選択を行わなければならないと判断した場合にのみ、新たな背景オブジェクト画像の選択を行うようにしてもよい。例えば、前述のように、ある背景オブジェクト画像の中心からユーザの位置が1.42m以上離れると新たな背景オブジェクト画像の選択が行われる場合には、画像選択部14は、ユーザの位置が背景オブジェクト画像の中心から1.42m以上離れたかどうかを判断し、1.42m以上離れた場合に初めて、背景オブジェクト画像の新たな選択を行うようにしてもよい。
【0055】
また、図2で示されるフローチャートのシーケンスは、まず属性情報を受け付けて、その受け付けた属性情報に対応する背景オブジェクト画像を選択する場合について示しているが、これは一例であって、例えば、背景オブジェクト画像の選択やレンダリング等をしている途中に、新たな属性情報を受け付けることができるようにしてもよい。その場合には、例えば、ユーザが仮想空間において移動している途中に、季節や天気等を任意に変更することが可能となる。このように、図2のフローチャートには、ある程度の任意性がある。
【0056】
また、本実施の形態では、背景位置情報やオブジェクト位置情報が2次元の位置を示す情報である場合について説明したが、それらは、3次元の位置を示す情報であってもよい。背景位置情報が3次元の位置を示す情報である場合には、例えば、崖の付近であれば、たとえ2次元平面(水平な平面)での位置は同じであっても、高さ方向での位置に応じて、背景オブジェクト画像が異なることになる。
【0057】
また、本実施の形態では、背景オブジェクト画像がマッピングされる3次元形状として、3次元円筒を用いる場合について説明したが、背景オブジェクト画像は、それ以外の3次元形状にマッピングされてもよい。背景オブジェクト画像がマッピングされる3次元形状は、少なくともユーザの位置からぐるりと360度を見渡すことができる領域を有する3次元形状、すなわち、少なくとも環状の領域を有する3次元形状であればよく、例えば、半球状の3次元形状であってもよく、天頂に孔を有する半球状の3次元形状であってもよく、全球状の3次元形状であってもよく、3次元多角柱であってもよい。
【0058】
(実施の形態2)
本発明の実施の形態2による画像出力装置について説明する。本実施の形態による画像出力装置は、背景オブジェクト画像を撮影で用いた光学デバイスの形状に応じた3次元形状にマッピングされた背景オブジェクト画像を用いて、出力画像を生成するものである。
【0059】
本実施の形態では、背景オブジェクト画像と、その背景オブジェクト画像がマッピングされる3次元形状以外、実施の形態1と同様であり、その説明を省略する。以下、本実施の形態における背景オブジェクト画像と、背景オブジェクト画像がマッピングされる3次元形状とについて説明する。
【0060】
図10は、実施の形態1の具体例での背景オブジェクト画像と、その背景オブジェクト画像がマッピングされる3次元形状(3次元円筒)とについて説明するための図である。実施の形態1では、図10(a)で示されるように、全方位カメラによって実空間が撮影される。その撮影された画像は、図10(b)で示されるように、丸画像であり、そのままでは非常に歪んでおり、人間が普通に見ることができる画像でない。そこで、その丸画像をパノラマ展開して人間が普通に見ることができる図10(c)で示されるパノラマ画像を作成する。実施の形態1の具体例では、このパノラマ画像が背景オブジェクト画像として用いられ、図10(d)で示される3次元円筒に背景オブジェクト画像がマッピングされ、レンダリング処理が行われることによって出力画像が生成されていた。
【0061】
すなわち、実施の形態1の具体例では、図11で示されるように、実空間をカメラで撮影することによって撮影画像(例えば、全方位カメラによって撮影された丸画像)を得ることができる。そして、その撮影画像に対して所定の変換gを行うことによって、仮想空間での画像(例えば、丸画像がパノラマ展開されたパノラマ画像)を得ることができ、その仮想空間での画像を背景オブジェクト画像として用いて3次元形状(例えば、3次元円筒)にマッピングすることにより、仮想空間での出力画像を得ることができた。
【0062】
一方、本実施の形態では、図12で示されるように、撮影画像から仮想空間での画像への変換を行わず、撮影画像を背景オブジェクト画像として用いて、3次元形状にマッピングする。ただし、撮影画像のマッピングされる3次元形状は、図11での変換gを考慮した形状でなくてはならない。すなわち、変換gを行う代わりに、撮影画像のマッピングされる3次元形状を、変換gを考慮した形状とすることによって、図11において仮想空間での画像を3次元形状にマッピングした場合と、図12において撮影画像を3次元形状にマッピングした場合とが同じになるようにすることができる。このようにすることで、撮影画像を仮想空間での画像に変換する変換gの処理を省略することができ、処理負荷を軽減することができる。
【0063】
ここで、変換gを考慮した3次元形状は、背景オブジェクト画像の撮影で用いた光学デバイスに応じた形状であり、少なくとも環状の領域を有する3次元形状となる。例えば、回転体ミラーを用いた全方位カメラで背景オブジェクト画像(丸画像)を撮影した場合には、その回転体ミラーの曲面に応じた形状となる。すなわち、回転体ミラーの形状と、3次元形状とを同じにすればよい。ここで、回転体ミラーの形状と、3次元形状とが同じであるとは、両者の形状を記述する方程式が同じ形になることである。したがって、両者の大きさは異なってもよい。例えば、その3次元形状は、図13で示されるようになる。図13において、半球状の形状の天頂の領域に孔があいているのは、背景オブジェクト画像(丸画像)の中心には有意な画像が存在しないからである。
【0064】
なお、背景オブジェクト画像を3次元形状にマッピングする場合に、撮影時に回転体ミラーで反射されたカメラから見た実空間の画像が3次元形状上に再現されるように、背景オブジェクト画像を3次元形状にマッピングする。より詳細には、背景オブジェクト画像において注目している2個の異なる画素が撮影時に反射された回転体ミラー上の点の位置をそれぞれA1、B1として、その注目している2個の画素をマッピングする3次元形状オブジェクト上の点の位置をそれぞれA2、B2とすると、回転体ミラーの位置A1、B1と、3次元形状の位置A2、B2とが対応する位置となるように背景オブジェクト画像のマッピングを行う。ここで、回転体ミラーの位置A1、B1と、3次元形状の位置A2、B2とが対応するとは、回転体ミラー、あるいは3次元形状に対して拡大・縮小、平行移動、回転等の操作をすることによって、位置A1、B1と、位置A2、B2とをそれぞれ一致させることができることを言う。すなわち、回転体ミラーに対する位置A1、B1の相対的な位置と、3次元形状に対する位置A2、B2の相対的な位置とが同じであることを言う。したがって、3次元形状にマッピングされた背景オブジェクト画像を全方位カメラと同様にカメラで撮影したと仮定すると、背景オブジェクト画像と同じ画像(丸画像)が得られることになる。
【0065】
また、例えば、回転体ミラーが双曲面ミラーである場合には、レンダリング時に、双曲面ミラーの焦点を視線とすると、撮影された実空間と同様の仮想空間を実現することができる。したがって、図13で示される3次元形状が双曲面であるとすると、その焦点を通り、z軸に直交する平面上にユーザの視点が存在するとしてレンダリング処理を行うことが好適である。なお、その場合のx、y軸の値は、実施の形態1での説明と同様に、位置情報受付部11が受け付けた位置情報によって示されることになる。
【0066】
なお、背景オブジェクト画像と、その背景オブジェクト画像がマッピングされる3次元形状が異なる以外、実施の形態1と同様であり、それらの説明を省略する。
【0067】
以上のように、本実施の形態による画像出力装置によれば、背景オブジェクト画像を撮影で用いた光学デバイスの形状に応じた3次元形状にマッピングされた背景オブジェクト画像を用いて、出力画像を生成することにより、撮影画像をそのまま背景オブジェクト画像として用いることができ、撮影画像から背景オブジェクト画像を得るための画像処理が必要なくなる。その結果、実施の形態1の場合と同様の出力画像を得ることができる一方、装置の処理負担を軽減することができる。
【0068】
なお、背景オブジェクト画像としての撮影画像は、全方位カメラ以外によって撮影されてもよいことは言うまでもない。例えば、魚眼レンズを用いて背景オブジェクト画像としての撮影画像を撮影してもよく、ある軸周りに回転しながら等間隔に背景オブジェクト画像としての複数の2次元の撮影画像を撮影してもよい。魚眼レンズを用いて撮影する場合には、1回の撮影で半球に対応する領域の撮影を行ってもよく、2回の逆方向の撮影を行うことによって全球に対応する領域の撮影を行ってもよい。前者の場合には、魚眼レンズを用いて撮影した撮影画像がそのまま魚眼レンズの曲面に応じた半球状の3次元形状にマッピングされることになるが、後者の場合には、撮影した2個の撮影画像が、魚眼レンズの曲面に応じた半球状の3次元形状を2個組み合わせた全球状の3次元形状のそれぞれ対応する領域にマッピングされることになる。魚眼レンズを用いた2回の撮影によって全球に対応する領域の撮影を行う方法については、従来からすでに知られており、その説明を省略する。また、例えば、魚眼レンズを用いて撮影画像を撮影した場合には、変換gを考慮した3次元形状は、撮影デバイスとしての魚眼レンズの曲面に応じた形状となる。また、例えば、等間隔に複数の撮影画像を撮影した場合には、変換gを考慮した3次元形状は、撮影された枚数に応じた多角柱形状となり、各撮影画像がその多角柱形状の側壁を構成する各平面にマッピングされることになる。
【0069】
また、本実施の形態では、画像記憶部13は、2個以上の背景オブジェクト画像を記憶していてもよく、あるいは、1個の背景オブジェクト画像を記憶していてもよい。後者の場合には、画像出力装置が画像選択部14を備えず、レンダリング部16は、画像記憶部13で記憶されている背景オブジェクト画像を用いて出力画像を生成してもよい。その場合には、画像出力装置は、カメラによって実空間を撮影した画像であり、全方位の画像である背景オブジェクト画像が記憶される画像記憶部と、ユーザの位置及びユーザの視線方向を示す情報である位置情報を受け付ける位置情報受付部と、前記背景オブジェクト画像の撮影で用いた光学デバイスに応じた3次元形状であり、少なくとも環状の領域を有する3次元形状の内面にマッピングされた前記背景オブジェクト画像から、前記位置情報受付部が受け付けた位置情報を用いて、出力画像を生成するレンダリング部と、前記レンダリング部が生成した出力画像を出力する出力部と、を備えたものであってもよい。
【0070】
また、上記各実施の形態において、各処理または各機能は、単一の装置または単一のシステムによって集中処理されることによって実現されてもよく、あるいは、複数の装置または複数のシステムによって分散処理されることによって実現されてもよい。
【0071】
また、上記各実施の形態において、各構成要素は専用のハードウェアにより構成されてもよく、あるいは、ソフトウェアにより実現可能な構成要素については、プログラムを実行することによって実現されてもよい。例えば、ハードディスクや半導体メモリ等の記録媒体に記録されたソフトウェア・プログラムをCPU等のプログラム実行部が読み出して実行することによって、各構成要素が実現される。なお、上記実施の形態における画像出力装置を実現するソフトウェアは、以下のようなプログラムである。つまり、このプログラムは、コンピュータに、ユーザの位置及びユーザの視線方向を示す情報である位置情報を受け付ける位置情報受付ステップと、カメラによって実空間を撮影した画像であり、全方位の画像である2以上の背景オブジェクト画像と、当該背景オブジェクト画像の位置を示す情報である背景位置情報とが対応付けられて記憶される画像記憶部における2以上の背景オブジェクト画像から、前記位置情報受付ステップで受け付けた位置情報の示すユーザの位置に対応する背景オブジェクト画像を選択する画像選択ステップと、少なくとも環状の領域を有する3次元形状の内面にマッピングされた、前記画像選択ステップで選択した背景オブジェクト画像から、前記位置情報受付ステップで受け付けた位置情報を用いて、出力画像を生成するレンダリングステップと、前記レンダリングステップで生成した出力画像を出力する出力ステップと、を実行させるためのものである。
【0072】
また、他のプログラムは、コンピュータに、ユーザの位置及びユーザの視線方向を示す情報である位置情報を受け付ける位置情報受付ステップと、カメラによって実空間を撮影した画像であり、全方位の画像である背景オブジェクト画像の撮影で用いた光学デバイスに応じた3次元形状であり、少なくとも環状の領域を有する3次元形状の内面にマッピングされた前記背景オブジェクト画像から、前記位置情報受付ステップで受け付けた位置情報を用いて、出力画像を生成するレンダリングステップと、前記レンダリングステップで生成した出力画像を出力する出力ステップと、を実行させるためのものである。
【0073】
なお、上記プログラムにおいて、情報を出力する出力ステップや、情報を受け付ける受付ステップなどでは、ハードウェアでしか行われない処理、例えば、出力ステップにおけるモデムやインターフェースカードなどで行われる処理は少なくとも含まれない。
【0074】
また、このプログラムは、サーバなどからダウンロードされることによって実行されてもよく、所定の記録媒体(例えば、CD−ROMなどの光ディスクや磁気ディスク、半導体メモリなど)に記録されたプログラムが読み出されることによって実行されてもよい。
【0075】
また、このプログラムを実行するコンピュータは、単数であってもよく、複数であってもよい。すなわち、集中処理を行ってもよく、あるいは分散処理を行ってもよい。
【0076】
図14は、上記プログラムを実行して、上記実施の形態による画像出力装置1を実現するコンピュータの外観の一例を示す模式図である。上記実施の形態は、コンピュータハードウェア及びその上で実行されるコンピュータプログラムによって実現される。
【0077】
図14において、コンピュータシステム100は、CD−ROM(Compact Disk Read Only Memory)ドライブ105、FD(Flexible Disk)ドライブ106を含むコンピュータ101と、キーボード102と、マウス103と、モニタ104とを備える。
【0078】
図15は、コンピュータシステムを示す図である。図15において、コンピュータ101は、CD−ROMドライブ105、FDドライブ106に加えて、CPU(Central Processing Unit)111と、ブートアッププログラム等のプログラムを記憶するためのROM(Read Only Memory)112と、CPU111に接続され、アプリケーションプログラムの命令を一時的に記憶すると共に、一時記憶空間を提供するRAM(Random Access Memory)113と、アプリケーションプログラム、システムプログラム、及びデータを記憶するハードディスク114と、CPU111、ROM112等を相互に接続するバス115とを備える。なお、コンピュータ101は、LANへの接続を提供する図示しないネットワークカードを含んでもよい。
【0079】
コンピュータシステム100に、上記実施の形態による画像出力装置1の機能を実行させるプログラムは、CD−ROM121、またはFD122に記憶されて、CD−ROMドライブ105、またはFDドライブ106に挿入され、ハードディスク114に転送されてもよい。これに代えて、そのプログラムは、図示しないネットワークを介してコンピュータ101に送信され、ハードディスク114に記憶されてもよい。プログラムは実行の際にRAM113にロードされる。なお、プログラムは、CD−ROM121やFD122、またはネットワークから直接、ロードされてもよい。
【0080】
プログラムは、コンピュータ101に、上記実施の形態による画像出力装置1の機能を実行させるオペレーティングシステム(OS)、またはサードパーティプログラム等を必ずしも含まなくてもよい。プログラムは、制御された態様で適切な機能(モジュール)を呼び出し、所望の結果が得られるようにする命令の部分のみを含んでいてもよい。コンピュータシステム100がどのように動作するのかについては周知であり、詳細な説明を省略する。
また、本発明は、以上の実施の形態に限定されることなく、種々の変更が可能であり、それらも本発明の範囲内に包含されるものであることは言うまでもない。
【産業上の利用可能性】
【0081】
以上より、本発明による画像出力装置等は、カメラによって実空間を撮影した全方位の画像である背景オブジェクト画像を用いて作成された出力画像を出力することができる装置等として有用である。
【図面の簡単な説明】
【0082】
【図1】本発明の実施の形態1による画像出力装置の構成を示すブロック図
【図2】同実施の形態による画像出力装置の動作を示すフローチャート
【図3】同実施の形態におけるヘッドマウントディスプレイを装着したユーザの一例を示す図
【図4】同実施の形態における画像記憶部が記憶している情報の一例を示す図
【図5】同実施の形態におけるオブジェクト情報記憶部が記憶している情報の一例を示す図
【図6】同実施の形態における位置情報と背景位置情報について説明するための図
【図7】同実施の形態におけるレンダリング処理について説明するための図
【図8】同実施の形態における出力画像の一例を示す図
【図9】同実施の形態における画像出力装置の他の一例の構成を示すブロック図
【図10】本発明の実施の形態2において、背景オブジェクト画像のマッピングを説明するための図
【図11】同実施の形態において、撮影画像の変換及び3次元形状へのマッピングについて説明するための図
【図12】同実施の形態において、撮影画像の3次元形状へのマッピングについて説明するための図
【図13】同実施の形態における背景オブジェクト画像がマッピングされる3次元形状の一例を示す図
【図14】同実施の形態におけるコンピュータシステムの外観一例を示す模式図
【図15】同実施の形態におけるコンピュータシステムの構成の一例を示す図
【符号の説明】
【0083】
1 画像出力装置
11 位置情報受付部
12 属性情報受付部
13 画像記憶部
14 画像選択部
15 オブジェクト情報記憶部
16 レンダリング部
17 出力部
21 オブジェクト情報選択部
【特許請求の範囲】
【請求項1】
カメラによって実空間を撮影した画像であり、全方位の画像である2以上の背景オブジェクト画像と、当該背景オブジェクト画像の位置を示す情報である背景位置情報とが対応付けられて記憶される画像記憶部と、
ユーザの位置及びユーザの視線方向を示す情報である位置情報を受け付ける位置情報受付部と、
前記位置情報受付部が受け付けた位置情報の示すユーザの位置に対応する背景オブジェクト画像を前記画像記憶部から選択する画像選択部と、
少なくとも環状の領域を有する3次元形状の内面にマッピングされた、前記画像選択部が選択した背景オブジェクト画像から、前記位置情報受付部が受け付けた位置情報を用いて、出力画像を生成するレンダリング部と、
前記レンダリング部が生成した出力画像を出力する出力部と、を備えた画像出力装置。
【請求項2】
3次元オブジェクトを示す情報である3次元オブジェクト情報と、当該3次元オブジェクトの位置を示す情報であるオブジェクト位置情報とが対応付けられて記憶されるオブジェクト情報記憶部をさらに備え、
前記レンダリング部は、出力画像の範囲内に当該3次元オブジェクトが存在する場合には、前記3次元オブジェクト情報をも用いて出力画像を生成する、請求項1記載の画像出力装置。
【請求項3】
前記画像選択部は、位置情報の示すユーザの位置が、現在選択している背景オブジェクト画像に対応する背景位置情報の示す位置から所定の半径以上離れた場合に、位置情報の示すユーザの位置に最も近い位置を示す背景位置情報に対応する背景オブジェクト画像を前記画像記憶部から新たに選択するものであり、
前記所定の半径は、隣接する背景オブジェクト画像にそれぞれ対応する背景位置情報の示す2点の位置の距離の半分よりも大きい距離である、請求項1または請求項2記載の画像出力装置。
【請求項4】
前記背景オブジェクト画像の属性を示す情報である属性情報を受け付ける属性情報受付部をさらに備え、
前記画像記憶部では、2以上の属性情報ごとに前記2以上の背景オブジェクト画像と、前記背景位置情報とがそれぞれ記憶され、
前記画像選択部は、前記属性情報受付部が受け付けた属性情報に応じた背景オブジェクト画像を選択する、請求項1から請求項3のいずれか記載の画像出力装置。
【請求項5】
カメラによって実空間を撮影した画像であり、全方位の画像である背景オブジェクト画像が記憶される画像記憶部と、
ユーザの位置及びユーザの視線方向を示す情報である位置情報を受け付ける位置情報受付部と、
前記背景オブジェクト画像の撮影で用いた光学デバイスに応じた3次元形状であり、少なくとも環状の領域を有する3次元形状の内面にマッピングされた前記背景オブジェクト画像から、前記位置情報受付部が受け付けた位置情報を用いて、出力画像を生成するレンダリング部と、
前記レンダリング部が生成した出力画像を出力する出力部と、を備えた画像出力装置。
【請求項6】
ユーザの位置及びユーザの視線方向を示す情報である位置情報を受け付ける位置情報受付ステップと、
カメラによって実空間を撮影した画像であり、全方位の画像である2以上の背景オブジェクト画像と、当該背景オブジェクト画像の位置を示す情報である背景位置情報とが対応付けられて記憶される画像記憶部における2以上の背景オブジェクト画像から、前記位置情報受付ステップで受け付けた位置情報の示すユーザの位置に対応する背景オブジェクト画像を選択する画像選択ステップと、
少なくとも環状の領域を有する3次元形状の内面にマッピングされた、前記画像選択ステップで選択した背景オブジェクト画像から、前記位置情報受付ステップで受け付けた位置情報を用いて、出力画像を生成するレンダリングステップと、
前記レンダリングステップで生成した出力画像を出力する出力ステップと、を備えた画像出力方法。
【請求項7】
ユーザの位置及びユーザの視線方向を示す情報である位置情報を受け付ける位置情報受付ステップと、
カメラによって実空間を撮影した画像であり、全方位の画像である背景オブジェクト画像の撮影で用いた光学デバイスに応じた3次元形状であり、少なくとも環状の領域を有する3次元形状の内面にマッピングされた前記背景オブジェクト画像から、前記位置情報受付ステップで受け付けた位置情報を用いて、出力画像を生成するレンダリングステップと、
前記レンダリングステップで生成した出力画像を出力する出力ステップと、を備えた画像出力方法。
【請求項8】
コンピュータに、
ユーザの位置及びユーザの視線方向を示す情報である位置情報を受け付ける位置情報受付ステップと、
カメラによって実空間を撮影した画像であり、全方位の画像である2以上の背景オブジェクト画像と、当該背景オブジェクト画像の位置を示す情報である背景位置情報とが対応付けられて記憶される画像記憶部における2以上の背景オブジェクト画像から、前記位置情報受付ステップで受け付けた位置情報の示すユーザの位置に対応する背景オブジェクト画像を選択する画像選択ステップと、
少なくとも環状の領域を有する3次元形状の内面にマッピングされた、前記画像選択ステップで選択した背景オブジェクト画像から、前記位置情報受付ステップで受け付けた位置情報を用いて、出力画像を生成するレンダリングステップと、
前記レンダリングステップで生成した出力画像を出力する出力ステップと、を実行させるためのプログラム。
【請求項9】
コンピュータに、
ユーザの位置及びユーザの視線方向を示す情報である位置情報を受け付ける位置情報受付ステップと、
カメラによって実空間を撮影した画像であり、全方位の画像である背景オブジェクト画像の撮影で用いた光学デバイスに応じた3次元形状であり、少なくとも環状の領域を有する3次元形状の内面にマッピングされた前記背景オブジェクト画像から、前記位置情報受付ステップで受け付けた位置情報を用いて、出力画像を生成するレンダリングステップと、
前記レンダリングステップで生成した出力画像を出力する出力ステップと、を実行させるためのプログラム。
【請求項1】
カメラによって実空間を撮影した画像であり、全方位の画像である2以上の背景オブジェクト画像と、当該背景オブジェクト画像の位置を示す情報である背景位置情報とが対応付けられて記憶される画像記憶部と、
ユーザの位置及びユーザの視線方向を示す情報である位置情報を受け付ける位置情報受付部と、
前記位置情報受付部が受け付けた位置情報の示すユーザの位置に対応する背景オブジェクト画像を前記画像記憶部から選択する画像選択部と、
少なくとも環状の領域を有する3次元形状の内面にマッピングされた、前記画像選択部が選択した背景オブジェクト画像から、前記位置情報受付部が受け付けた位置情報を用いて、出力画像を生成するレンダリング部と、
前記レンダリング部が生成した出力画像を出力する出力部と、を備えた画像出力装置。
【請求項2】
3次元オブジェクトを示す情報である3次元オブジェクト情報と、当該3次元オブジェクトの位置を示す情報であるオブジェクト位置情報とが対応付けられて記憶されるオブジェクト情報記憶部をさらに備え、
前記レンダリング部は、出力画像の範囲内に当該3次元オブジェクトが存在する場合には、前記3次元オブジェクト情報をも用いて出力画像を生成する、請求項1記載の画像出力装置。
【請求項3】
前記画像選択部は、位置情報の示すユーザの位置が、現在選択している背景オブジェクト画像に対応する背景位置情報の示す位置から所定の半径以上離れた場合に、位置情報の示すユーザの位置に最も近い位置を示す背景位置情報に対応する背景オブジェクト画像を前記画像記憶部から新たに選択するものであり、
前記所定の半径は、隣接する背景オブジェクト画像にそれぞれ対応する背景位置情報の示す2点の位置の距離の半分よりも大きい距離である、請求項1または請求項2記載の画像出力装置。
【請求項4】
前記背景オブジェクト画像の属性を示す情報である属性情報を受け付ける属性情報受付部をさらに備え、
前記画像記憶部では、2以上の属性情報ごとに前記2以上の背景オブジェクト画像と、前記背景位置情報とがそれぞれ記憶され、
前記画像選択部は、前記属性情報受付部が受け付けた属性情報に応じた背景オブジェクト画像を選択する、請求項1から請求項3のいずれか記載の画像出力装置。
【請求項5】
カメラによって実空間を撮影した画像であり、全方位の画像である背景オブジェクト画像が記憶される画像記憶部と、
ユーザの位置及びユーザの視線方向を示す情報である位置情報を受け付ける位置情報受付部と、
前記背景オブジェクト画像の撮影で用いた光学デバイスに応じた3次元形状であり、少なくとも環状の領域を有する3次元形状の内面にマッピングされた前記背景オブジェクト画像から、前記位置情報受付部が受け付けた位置情報を用いて、出力画像を生成するレンダリング部と、
前記レンダリング部が生成した出力画像を出力する出力部と、を備えた画像出力装置。
【請求項6】
ユーザの位置及びユーザの視線方向を示す情報である位置情報を受け付ける位置情報受付ステップと、
カメラによって実空間を撮影した画像であり、全方位の画像である2以上の背景オブジェクト画像と、当該背景オブジェクト画像の位置を示す情報である背景位置情報とが対応付けられて記憶される画像記憶部における2以上の背景オブジェクト画像から、前記位置情報受付ステップで受け付けた位置情報の示すユーザの位置に対応する背景オブジェクト画像を選択する画像選択ステップと、
少なくとも環状の領域を有する3次元形状の内面にマッピングされた、前記画像選択ステップで選択した背景オブジェクト画像から、前記位置情報受付ステップで受け付けた位置情報を用いて、出力画像を生成するレンダリングステップと、
前記レンダリングステップで生成した出力画像を出力する出力ステップと、を備えた画像出力方法。
【請求項7】
ユーザの位置及びユーザの視線方向を示す情報である位置情報を受け付ける位置情報受付ステップと、
カメラによって実空間を撮影した画像であり、全方位の画像である背景オブジェクト画像の撮影で用いた光学デバイスに応じた3次元形状であり、少なくとも環状の領域を有する3次元形状の内面にマッピングされた前記背景オブジェクト画像から、前記位置情報受付ステップで受け付けた位置情報を用いて、出力画像を生成するレンダリングステップと、
前記レンダリングステップで生成した出力画像を出力する出力ステップと、を備えた画像出力方法。
【請求項8】
コンピュータに、
ユーザの位置及びユーザの視線方向を示す情報である位置情報を受け付ける位置情報受付ステップと、
カメラによって実空間を撮影した画像であり、全方位の画像である2以上の背景オブジェクト画像と、当該背景オブジェクト画像の位置を示す情報である背景位置情報とが対応付けられて記憶される画像記憶部における2以上の背景オブジェクト画像から、前記位置情報受付ステップで受け付けた位置情報の示すユーザの位置に対応する背景オブジェクト画像を選択する画像選択ステップと、
少なくとも環状の領域を有する3次元形状の内面にマッピングされた、前記画像選択ステップで選択した背景オブジェクト画像から、前記位置情報受付ステップで受け付けた位置情報を用いて、出力画像を生成するレンダリングステップと、
前記レンダリングステップで生成した出力画像を出力する出力ステップと、を実行させるためのプログラム。
【請求項9】
コンピュータに、
ユーザの位置及びユーザの視線方向を示す情報である位置情報を受け付ける位置情報受付ステップと、
カメラによって実空間を撮影した画像であり、全方位の画像である背景オブジェクト画像の撮影で用いた光学デバイスに応じた3次元形状であり、少なくとも環状の領域を有する3次元形状の内面にマッピングされた前記背景オブジェクト画像から、前記位置情報受付ステップで受け付けた位置情報を用いて、出力画像を生成するレンダリングステップと、
前記レンダリングステップで生成した出力画像を出力する出力ステップと、を実行させるためのプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【公開番号】特開2007−226580(P2007−226580A)
【公開日】平成19年9月6日(2007.9.6)
【国際特許分類】
【出願番号】特願2006−47622(P2006−47622)
【出願日】平成18年2月24日(2006.2.24)
【国等の委託研究の成果に係る記載事項】(出願人による申告)平成17年度独立行政法人情報通信研究機構、研究テーマ「超高速知能ネットワーク社会に向けた新しいインタラクション・メディアの研究開発」に関する委託研究、産業活力再生特別措置法第30条の適用を受ける特許出願
【出願人】(393031586)株式会社国際電気通信基礎技術研究所 (905)
【Fターム(参考)】
【公開日】平成19年9月6日(2007.9.6)
【国際特許分類】
【出願日】平成18年2月24日(2006.2.24)
【国等の委託研究の成果に係る記載事項】(出願人による申告)平成17年度独立行政法人情報通信研究機構、研究テーマ「超高速知能ネットワーク社会に向けた新しいインタラクション・メディアの研究開発」に関する委託研究、産業活力再生特別措置法第30条の適用を受ける特許出願
【出願人】(393031586)株式会社国際電気通信基礎技術研究所 (905)
【Fターム(参考)】
[ Back to top ]