情報処理システム、情報処理装置及び方法、並びにプログラム
【課題】別途眼鏡を必要とせずに、広い視野で3D画像を表示することが実現可能になる。
【解決手段】網膜表示画像生成部64は、右目用画像及び左目用画像の各データに基づいて、右目用画像及び左目用画像の各々のネガ画像のデータを生成する。通常表示制御部62は、右目用画像と左目用画像とを通常表示装置11の表示部21に交互に表示させる。網膜表示装置12は、右目用画像が表示部21に表示されているときには、右目用画像のネガ画像を網膜表示装置12からユーザの左目の網膜に直接表示させ、左目用画像が表示部21に表示されているときには、左目用画像のネガ画像を網膜表示装置12からユーザの右目の網膜に直接表示させる。
【解決手段】網膜表示画像生成部64は、右目用画像及び左目用画像の各データに基づいて、右目用画像及び左目用画像の各々のネガ画像のデータを生成する。通常表示制御部62は、右目用画像と左目用画像とを通常表示装置11の表示部21に交互に表示させる。網膜表示装置12は、右目用画像が表示部21に表示されているときには、右目用画像のネガ画像を網膜表示装置12からユーザの左目の網膜に直接表示させ、左目用画像が表示部21に表示されているときには、左目用画像のネガ画像を網膜表示装置12からユーザの右目の網膜に直接表示させる。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報処理システム、情報処理装置及び方法、並びにプログラムに関し、特に、別途眼鏡を必要とせずに、広い視野で3D画像を表示できる技術に関する。
【背景技術】
【0002】
従来より、立体画像(3-Dimensional Picture、以下、「3D画像」とも呼ぶ)を表示可能な表示装置の需要が高まりつつある。
ここで、従来型の表示装置、例えばCRT(Cathode Ray Tub)や液晶型表示装置等、各画素を発光することで画像を表示する表示装置を、以下、「通常表示装置」と呼ぶ。
このような通常表示装置を用いて3D画像を表示する従来の技術として、左目用画像と右目用画像とを交互に表示する液晶ディスプレイと、液晶ディスプレイの交互表示に同期して左右の切り替えが可能なシャッタ眼鏡と、により3D画像の表示を実現する技術が存在する(特許文献1参照)。
しかしながら、特許文献1に記載の技術では、3D画像を見るためだけに、ユーザはわざわざ眼鏡をかけなければならないという煩わしさが生じていた。
このため、近年、別途眼鏡を必要とせずに、表示精度が高い3D画像を表示できる技術の研究開発が進んでいる。
【0003】
別途眼鏡を必要としない3D画像の表示を実現可能にし得る技術の1つとして、人間の目の瞳孔に向けてレーザビームを照射し、網膜に直接ラスタ走査を行う技術が存在する(特許文献2参照)。
このように、網膜に直接ラスタ走査して画像を表示する装置を、以下「網膜表示装置」と呼ぶ。即ち、特許文献2には、網膜表示装置が記載されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2010−243705号公報
【特許文献2】特開平8−205052号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、特許文献2に記載の技術をそのまま適用しても、離れた場所から小さな瞳孔を通して網膜にラスタ走査するので、網膜上で走査可能な領域はそれほど広く取れず、従って、視野全体の小さな部分にしか結像することができない。
即ち、ユーザにとっては、狭い視野(小画面の通常表示装置と等価な小さな空間サイズ)でしか3D画像を鑑賞することができない。
これでは、別途眼鏡が必要となる点を考慮したとしても、広い視野で迫力ある3D画像を鑑賞可能な大画面の通常表示装置に太刀打ちすることはできない。
【0006】
本発明は、このような状況に鑑みてなされたものであり、別途眼鏡を必要とせずに、広い視野で3D画像を表示可能にすることを目的とする。
【課題を解決するための手段】
【0007】
本発明の一態様によると、
画像を表示する第1表示装置と、
ユーザの網膜上に画像を結像させて前記画像を表示させる第2表示装置と、
前記第1表示装置及び前記第2表示装置を制御する表示制御装置と、
を備える情報処理システムであって、
前記表示制御装置は、
右目用画像及び左目用画像の各データに基づいて、前記右目用画像及び前記左目用画像の各々のネガ画像のデータを生成し、
前記右目用画像と前記左目用画像とを前記第1表示装置に交互に表示させ、
前記右目用画像を前記第1表示装置に表示させているときには、前記右目用画像のネガ画像を前記第2表示装置から前記ユーザの左目の網膜に直接表示させ、
前記左目用画像を前記第1表示装置に表示させているときには、前記左目用画像のネガ画像を前記第2表示装置から前記ユーザの右目の網膜に直接表示させる、
制御を実行することを特徴とする画像処理システムを提供する。
【0008】
本発明の別の態様によると、上述した本発明の一態様に係る情報処理システムの表示制御装置に対応する情報処理装置を提供し、さらに、当該情報処理装置に対応する方法及びプログラムを提供する。
【発明の効果】
【0009】
本発明によれば、別途眼鏡を必要とせずに、広い視野で3D画像を表示することが実現可能になる。
【図面の簡単な説明】
【0010】
【図1】本発明の情報処理システムの一実施形態に係る画像処理システムの外観構成例を示す側面図である。
【図2】図1の画像処理システムの機能的構成を示す機能ブロック図である。
【図3】図2の画像処理システムのうち網膜表示装置の外観構成を示す斜視図である。
【図4】図3の網膜表示装置の視線追尾部の外観構成を示す斜視図である。
【図5】図3の網膜表示装置のビーム出力部の断面図である。
【図6】図2の画像処理システムのうち、通常表示装置に表示される通常画像(ポジ画像)と、網膜表示装置からユーザの両眼の中心視野に直接表示される網膜画像(ネガ画像)と、の表示の関係を示す図である。
【図7】図2の画像処理システムによって表示される、ポジ画像とネガ画像との関係を示す図である。
【図8】図5の画像処理システムが実行する動画像再生処理の流れの一例を説明するフローチャートである。
【図9】図5の画像表示処理のうち、再生処理の詳細な流れの一例を説明するフローチャートである。
【図10】図9の再生処理のうち、3D表示処理の詳細な流れにの一例を説明するフローチャートである。
【図11】図2の画像処理システムのうち、画像表示制御装置のハードウェア構成を示すブロック図である。
【発明を実施するための形態】
【0011】
以下、本発明の一実施形態を図面に基づいて説明する。
【0012】
図1は、本発明の情報処理システムの一実施形態に係る画像処理システムの外観構成例を示す側面図である。
【0013】
図1に示すように、画像処理システム1は、通常表示装置11と、網膜表示装置12と、画像表示制御装置13と、を備えている。
通常表示装置11は、例えば42インチ以上の表示領域を有する表示部21を備えている。
網膜表示装置12は、通常表示装置11の上方に配置され、画像表示制御装置13は、通常表示装置11の背面に配置されている。
【0014】
ユーザUは、通常表示装置11の表示部21を注視している。このとき、網膜表示装置12から、ユーザUの左右の瞳孔に向かって微弱なレーザビームが照射される。
その結果、表示部21の表示面を構成する各画素から発光された光束と、網膜表示装置12からユーザUの左右の瞳孔に直接照射されたレーザビームとによって、ユーザUは所定の3D画像を視認することが可能になる。
【0015】
即ち、通常表示装置11と網膜表示装置12との各々を単体で用いても、3D画像の表示自体は可能になる。
しかしながら、通常表示装置11は、視野の広い3D画像の表示(いわゆる大画面表示)は実現可能という長所を有するが、別途眼鏡を必要としな3D画像の表示の実現は困難であるという欠点を有する。一方で、網膜表示装置12は、別途眼鏡を必要としな3D画像の表示は実現可能であるという長所を有するが、視野の広い3D画像の表示(いわゆる大画面表示)の実現は困難であるという欠点を有する。
このため、通常表示装置11と網膜表示装置12との長所を生かし決定を補い合うようにして、3D画像の表示を実現すべく、画像表示制御装置13が画像処理システム1に設けられている。
【0016】
このような通常表示装置11と網膜表示装置12との長所を生かし欠点を補い合う組み合わせは、本発明人らが人間の視野の性質を考察することによってはじめて可能になったものである。
即ち、人間は、左右の眼球の網膜全体を用いることにより、左右で180度以上にも及ぶ広い視野を持つ。しかし、人間にとって、鮮明に見えている部分は、網膜の中心領域を用いる狭い範囲の中心視野のみであって、それ以外の周辺視野は常にぼんやりとしか見えていない。
特に、網膜上で最も解像度の高い領域は、直径0.2mmの中心領域に過ぎないといわれている。
それにも係らず、人間が広い視野を鮮明に見ていると感じるのは、無意識のうちに視線を移動させているためである。即ち、人間にとって、ある時点で鮮明に見えているのは視線の向かう注目点の近傍を映す中心視野だけである。しかしながら、人間は、網膜残像と呼ばれる特性を有しているため、当該注目点が広い範囲を次々に移動する結果として、当該範囲全体が鮮明に見えていると感じることができるのである。
【0017】
それゆえ、次のような機能分担が可能となる。
即ち、網膜表示装置12の欠点は、換言すると、限られた視野にしか画像を表示できないということである。しかしながら、網膜表示装置12が中心視野への表示を主に分担するならば、その欠点が問題にならない。
一方、通常表示装置11の欠点、即ち、別途眼鏡を必要としない3D画像の表示の実現は困難であるという欠点は、通常表示装置11が左目用画像と右目用画像とを同時に表示することが実質上できないことに起因する。しかしながら、通常表示装置11が周辺視野への表示を主に分担するならば、左目用画像と右目用画像とが重なって表示されても、細かい差異は気付かれないので、その欠点が問題にならない。
画像表示制御装置13は、このような機能分担を制御することにより、通常表示装置11の長所である視野の広い3D画像の表示(大画面表示)と、網膜表示装置12の長所である別途眼鏡を必要としない3D画像の表示と、を同時に実現する。
即ち、本発明に係る情報処理装置の一実施形態として、画像表示制御装置13が設けられている。
【0018】
図2は、このような外観構成を有する画像処理システム1の機能のうち、3D画像を表示する機能を実現する機能的構成を示す機能ブロック図である。
【0019】
通常表示装置11は、上述した表示部21に加えて、スピーカ等で構成される音声出力部22を備えている。
網膜表示装置12は、ビーム出力部31と、視線追尾部32と、を備えている。
画像表示制御装置13は、主制御部51と、左右画像記憶部52と、操作部53と、を備えている。
主制御部51は、左右画像取得部61と、通常表示制御部62と、音声制御部63と、網膜表示画像生成部64と、網膜表示制御部65と、を備えている。
【0020】
以下、通常表示装置11については、従来の一般的なものをそのまま流用できるためその説明は省略し、網膜表示装置12と、画像表示制御装置13との各々について、その順番で個別に説明していく。
【0021】
図3は、網膜表示装置12の外観構成を示す斜視図である。
網膜表示装置12は、ユーザの左の瞳孔に向かってレーザビームを出射するビーム出力部31Lと、ユーザの右の瞳孔に向かってレーザビームを出射するビーム出力部31Rと、を備えている。
なお、図2に示すビーム出力部31は、ビーム出力部31L,31Rをまとめたものである。従って、以下、ビーム出力部31L,31Rを個々に区別する必要がない場合、これらをまとめたものを、「ビーム出力部31」と呼ぶ。
【0022】
図4は、網膜表示装置12の視線追尾部32の外観構成を示す斜視図である。
なお、図4に示す視線追尾部32は、網膜表示装置12の筺体内に搭載されているため、図3には図示されていない。
図4に示すように、ビーム出力部31の下部には、視線追尾部32が接続されている。
視線追尾部32は、2軸サーボモータを備えており、公知の技術によりユーザの視線を追尾し、ビーム出力部31の出力方向をユーザの瞳孔に向けるように、当該ビーム出力部31を駆動する。
視線追尾部32はまた、通常表示装置11に表示される画像のうち、ユーザの中心視野に映っている画素の範囲を特定する位置情報を検出する機能を有する。
【0023】
図5は、網膜表示装置12のビーム出力部31の断面図である。
ビーム出力部31は、レーザビーム光源71と、水平偏向板72と、垂直偏向板73と、収束用レンズ74と、を備えている。
レーザビーム光源71は、ユーザの網膜に表示すべき画像(以下、「網膜画像」と呼ぶ)を水平方向と垂直方向にスキャンしたデータに基づいて、各画素値に対応する三原色のレーザビームを発生する。
レーザビーム光源71から発生されたレーザビームは、水平偏向板72と垂直偏向板73とによって水平方向及び垂直方向に偏向され、収束用レンズ74によって、ユーザの眼球の瞳孔に焦点を結ぶように出射される。
その結果、網膜に到達したレーザビームは、網膜の中心領域の上でラスタ走査されて、その結果、網膜画像がユーザの中心視野に対して直接表示されることになる。
なお、網膜表示装置12のさらなる詳細については、特許文献1を参照すればよい。
【0024】
図2に戻り、画像表示制御装置13において、主制御部51は、当該画像表示制御装置13の全体を制御する。主制御部51を構成する各機能ブロックの説明は後述する。
【0025】
左右画像記憶部52は、動画像のデータを記憶する。
ここで、動画像は、所定の時点における静止画像が、時間的に連続して複数枚配置されることによって構成される。動画像のデータの記録や再生の処理は、このような静止画像の少なくとも一部分が処理単位となって実行される。このような動画像に対する画像処理において、処理単位となる画像を、以下、「単位画像」と呼ぶ。例えばフレームやフィールドが単位画像の一例である。そこで、単位画像としてフレームが採用された場合を例として、以下の説明を行う。
ここでは、前提として、フレーム毎に、右目用画像と左目用画像の各データは既に生成されているものとする。
このような動画像を構成する各フレーム(1フレーム分の右目用画像と左目用画像)は、通常表示装置11の表示部21に通常に表示されるため、以下「通常画像」と呼ぶ。
【0026】
操作部53は、電源釦、モードSW(Switch)釦等各種釦等で構成され、ユーザの指示操作を受け付ける。
【0027】
さらに、以下、画像表示制御装置13の機能的構成のうち、特に主制御部51の機能的構成の詳細について説明する。
【0028】
左右画像取得部61は、フレームを単位として、通常画像のデータを左右画像記憶部52から取得し、通常表示制御部62及び網膜表示画像生成部64に供給する。
ここで、網膜表示装置12のビーム出力部31からレーザビームとして出力されてユーザの左目又は右目に映る網膜画像は、後述するように、通常画像のネガ画像として生成される。即ち、通常画像と網膜画像との関係は、ポジ画像とネガ画像との関係になる。従って、以下、通常画像をポジ画像と呼ぶこともあるし、同様に網膜画像をネガ画像と呼ぶこともある。
【0029】
通常表示制御部62は、左右画像取得部61から供給された通常画像のデータにより表わされる画像、即ち左目用画像のデータにより表わされる画像(以下、「左通常画像」と呼ぶ)と、右目用画像のデータにより表わされる画像(以下、「右通常画像」と呼ぶ)とを、表示部21に時分割表示する制御を実行する。
ここで、時分割表示とは、いわゆる1フレーム周期において、前半の期間に例えば左通常画像を表示し、後半の期間に例えば右通常画像を表示することを意味する。
具体的には例えば、左右画像記憶部52に記録されている動画像のデータの記録レートが、60fps(Frames Per Second)であるものとする。この場合、1/60秒が1フレーム周期になる。従って、1フレーム周期(1/60秒)が2分割され、前半の1/120秒の期間では左通常画像が表示され、後半の1/120秒の期間では右通常画像が表示されることが、時分割表示の一例である。
なお、通常表示制御部62は、このような時分割表示を実現するために、少なくとも倍速で動画像を表示する機能(上述の例では120fpsの再生レートで動画像を表示する機能)を有しているものとする。
【0030】
ここで、一般的には、動画像のデータには、対応する音声のデータが付加されている。即ち、左右画像取得部61は、通常画像のデータを左右画像記憶部52から取得するとき、当該通常画像に対応する音声のデータも左右画像記憶部52から取得して、音声制御部63に供給する。
音声制御部63は、このようにして左右画像取得部61からデータとして供給された音声を、通常表示装置11の音声出力部22から出力させる制御を実行する。
【0031】
網膜表示画像生成部64は、左右画像取得部61から供給された通常画像のデータに基づいて、網膜画像のデータとして、通常画像のネガ画像のデータを生成する。
具体的には、網膜表示画像生成部64は、右通常画像のネガ画像をユーザの左目に表示すべき網膜画像として、左通常画像のネガ画像をユーザの右目に表示すべき網膜画像として、それぞれのデータを生成する。ここで、左右の目と、左右のネガ画像とは左右が交叉した関係になっている点に注意すべきである。
なお、ネガ画像とは、通常画像(ポジ画像)の各画素の色に対して、補色の関係にある色を対応する画素に割り当てた画像であって、ポジ画像とネガ画像とを網膜上で重ねると、重ねた部分が白として視認される画像をいう。
ただし、本実施形態では、ネガ画像の有効画素の範囲は、ネガ画像を表示すべき時点における、ユーザの中心視野に対応する領域であるものとする。
このようなユーザの中心視野は、網膜表示装置12の視線追尾部32によって得られる視線位置情報に基づいて特定される。視線位置情報とは、表示部21に表示された通常画像に視線を向けているユーザの中心視野に映っている、通常画像(ポジ画像)の範囲を特定する位置情報である。
網膜表示画像生成部64は、このようにして生成した網膜画像のデータを、網膜表示制御部65に供給する。
【0032】
網膜表示制御部65は、ビーム出力部31を制御して、ユーザの網膜を直接ラスタ走査することにより、網膜表示画像生成部64によりデータとして生成された網膜画像(ネガ画像)を、ユーザの網膜の中心領域(中心視野に対応する領域)に直接表示させる。
【0033】
このようにして、ユーザは、通常画像(ポジ画像)と網膜画像(ネガ画像)とを同時に見ることになり、両者が重なった部分は白くなって何も見えなくなる。つまり、ネガ画像はポジ画像を隠す働きをする。
【0034】
さらに以下、実際にどのようなタイミングで、このようなネガ画像を表示するのかについて詳細に説明する。
【0035】
上述のように、通常表示装置11の表示部21には、左通常画像と右通常画像とが時分割表示されているが、3D表示を実現するためには、左通常画像が表示部21に表示されている間は、当該左通常画像を右目に対して隠さなければならない。
そのために、ビーム出力部31Rは、左通常画像のネガ画像を網膜画像として、ユーザの右目の中心視野に対して表示する。これにより、右目の中心視野においては、左通常画像(ポジ画像)が、網膜画像(左通常画像のネガ画像)と合成されて白くなり隠されることになる。
一方で、この間、ビーム出力部31Lからは、ビームの出力を停止する。これにより、ユーザの左目は、ネガ画像に妨害されずに左通常画像をそのまま正しく視認することができる。
【0036】
逆に、右通常画像が表示部21に表示されている間は、当該右通常画像を左目に対して隠さなければならない。
そのために、ビーム出力部31Lは、右通常画像のネガ画像を網膜画像として、ユーザの左目の中心視野に対して表示する。これにより、左目の中心視野においては、右通常画像(ポジ画像)が、網膜画像(右通常画像のネガ画像)と合成されて白くなり隠されることになる。
一方で、この間、ビーム出力部31Rからは、ビームの出力を停止する。これにより、ユーザの右目は、ネガ画像に妨害されずに右通常画像をそのまま正しく視認することができる。
【0037】
このように、ユーザは、左目の中心視野に映る左通常画像(右目の中心視野はネガ画像により白くなっている)と、右目の中心視野に映る右通常画像(左目の中心視野はネガ画像により白くなっている)と、を時分割で交互に視認できる。即ち、ユーザは、別途眼鏡を必要とせずに、広い視野(通常表示装置11の表示部21の画面サイズ)で3D画像を視認できる。
【0038】
図6は、通常表示装置11に表示される通常画像(ポジ画像)と、網膜表示装置12からユーザの両眼の中心視野に直接表示される網膜画像(ネガ画像)と、の表示の関係を示す図である。
図6に示す表は行列構造を有しているため、以下、図6中横方向の項目の集合体を「行」と呼び、同図中縦方向の項目の集合体を「列」と呼ぶ。
図6のテーブルでは、所定の2つの連続する行の組には、所定の1つのフレームが対応付けられており、当該フレームに関する情報として、「フレーム番号」、「表示順番」、「通常画像(ポジ画像)」、「左目に表示する網膜画像(ネガ画像)」、「右目に表示する網膜画像(ネガ画像)」、「左目の中心視野が認識する画像」、及び「右目の中心視野が認識する画像」の各項目の情報が表記されている。
ここで、動画像を構成するフレームの総数をnとし、n枚のフレームの各々に対して、一意の番号(以下、「フレーム番号」と呼ぶ)が表示順番でそれぞれ付されているとする。
この場合、「フレーム番号」がi番目のフレームには、第(2i−1)行と、第(2i)行とが対応している。
【0039】
第(2i−1)行には、「表示順番」が(2i−1)番目に表示される内容が表記されている。
即ち、「表示順番」が(2i−1)番目になると、通常表示装置11に表示される「通常画像(ポジ画像)」として、「フレーム番号」がi番目のフレームについての左通常画像(ポジ画像、図6には「L+」と表記されている)が表示される。これと同時に、網膜表示装置12からユーザの「右目に表示する網膜画像(ネガ画像)」として、左通常画像のネガ画像(図6には「L−」と表記されている)が表示される。なお、網膜表示装置12からユーザの「左目に表示する網膜画像(ネガ画像)」は表示されない。
従って、「左目の中心視野が認識する画像」として、左通常画像(ポジ画像、図6には「L+」と表記されている)が正常に認識される。一方で、「右目の中心視野が認識する画像」は、左通常画像(ポジ画像であるL+)と、当該左通常画像のネガ画像(L−)とが打ち消し合うので、白い画像が表示される。即ち、右目の中心視野は隠されることになる。
【0040】
図7は、ポジ画像とネガ画像との関係を示す図である。
なお、説明の便宜上、ポジ画像とネガ画像とは3×3画素の画像とされている。また、各画素の色は、説明の簡略上、黒(図7中斜線で表記)と、その補色の白との2種類のみが存在するものとする。ただし、実際の画素の色は、補色の関係となっていれば足り、赤とシアン、緑とマゼンタ、青と黄色等各種各様の補色の関係となる色が採用される。
「表示順番」が(2i−1)番目の時点では、左通常画像(図6では「L+」と表記)がポジ画像として通常表示装置11に表示される。
この時点では、左通常画像のネガ画像(図6では「L−」と表記)として、ポジ画像と同一の解像度であって、対応する画素同士は補色の関係になっている画像が、網膜表示装置12からのレーザビームによってユーザの右目に直接表示される。
すると、ユーザの「右目の中心視野が認識する画像」は、図7に示すような合成画像、即ち、白い画像が表示される。このようにして、右目の中心視野は隠されることになる。
【0041】
図6に戻り、第(2i)行には、「表示順番」が(2i)番目に表示される内容が表記されている。
即ち、「表示順番」が(2i)番目になると、通常表示装置11に表示される「通常画像(ポジ画像)」として、「フレーム番号」がi番目のフレームについての右通常画像(ポジ画像、図6には「R+」と表記されている)が表示される。これと同時に、網膜表示装置12からユーザの「左目に表示する網膜画像(ネガ画像)」として、右通常画像のネガ画像(図6には「R−」と表記されている)が表示される。なお、網膜表示装置12からユーザの「右目に表示する網膜画像(ネガ画像)」は表示されない。
従って、「右目の中心視野が認識する画像」として、右通常画像(ポジ画像、図6には「R+」と表記されている)が正常に認識される。一方で、「左目の中心視野が認識する画像」は、右通常画像(ポジ画像であるR+)と、当該右通常画像のネガ画像(R+)とが打ち消し合うので、白い画像が表示される。即ち、左目の中心視野は隠されることになる。
【0042】
即ち、図7の例で説明すると、「表示順番」が(2i)番目の時点では、右通常画像(図6では「R+」と表記)がポジ画像として通常表示装置11に表示される。
この時点では、右通常画像のネガ画像(図6では「R−」と表記)として、ポジ画像と同一の解像度であって、対応する画素同士は補色の関係になっている画像が、網膜表示装置12からのレーザビームによってユーザの左目に直接表示される。
すると、ユーザの「左目の中心視野が認識する画像」は、図7に示すような合成画像、即ち、白い画像が表示される。このようにして、左目の中心視野は隠されることになる。
【0043】
このような第(2i−1)行の関係の表示状態と第(2i)行の関係の表示状態との繰り返しにより、3D表示が実現される。
【0044】
以上、画像処理システム1の機能的構成について説明した。
ただし、上述した図2の機能的構成は例示に過ぎず、通常表示装置11と網膜表示装置12の機能分担による3D表示を実行可能であれば、画像処理システム1は任意の機能的構成を取ることができる。
【0045】
次に、図8乃至図10を参照して、図2の機能的構成を有する画像処理システム1が実行する処理のうち、動画像を再生するまでの一連の処理(以下、「動画像再生処理」と呼ぶ)の流れについて説明する。
【0046】
図8は、図5の画像処理システム1が実行する動画像再生処理の流れの一例を説明するフローチャートである。
動画像再生処理は、例えば、画像処理システム1を構成する各装置、即ち、通常表示装置11、網膜表示装置12、及び画像表示制御装置13の各々の電源が投入されている状態で、ユーザによる操作部53に対する所定の操作がなされたことを契機として開始する。
【0047】
ステップS1において、主制御部51は、画像処理システム1全体を初期設定するためのイニシャライズを行う。
【0048】
ステップS2において、主制御部51は、動画選択処理を実行する。
動画選択処理とは、主制御部51が通常表示制御部62を介して表示部21に表示させる対象の動画像を選択する操作を受け付ける処理である。
即ち、図2には図示しないが、選択可能な1以上の動画像のメニュー(例えば各動画像のサムネイル画像のリスト)が表示部21に表示されると、ユーザは、操作部53を操作して、所望の動画を選択することができる。主制御部51は、当該ユーザの操作を受け付ける。
なお、本実施形態では、ユーザが動画の再生を希望しない場合、上記メニューの選択肢の一つとして、動画像再生処理の終了を指示することもできる。
【0049】
ステップS3において、主制御部51は、処理の終了が指示されたか否かを判定する。
処理の終了の指示は、上述したようにステップS2の処理で表示されるメニューによる指示の他、例えば画像処理システム1の電源が遮断される等、各種各様の指示を採用することができる。
処理の終了が指示された場合、ステップS3においてYESであると判定されて、動画像再生処理の全体が終了となる。
【0050】
これに対して、処理の終了が未だ指示されていない場合、ステップS3においてNOであると判定されて、処理はステップS4に進む。
【0051】
ステップS4において、主制御部51は、ステップS2の処理で選択を受け付けた動画像を再生する処理(以下、「再生処理」と呼ぶ)を実行する。
なお、再生処理のさらなる詳細については、図9のフローチャートを参照して後述する。
【0052】
ステップS4の再生処理の終了後、処理はステップS2に戻され、それ以降の処理が繰り返される。即ち、処理の終了が指示されるまで、ステップS2乃至S4のループ処理が繰り返し実行され、各種各様の動画像がその都度再生される。
【0053】
以上、図8を参照して、動画像再生処理の流れについて説明した。
次に、このような画像表示処理のうち、ステップS4の再生処理の詳細な流れについて説明する。
図9は、再生処理の詳細な流れを説明するフローチャートである。
【0054】
ステップS21において、主制御部51は、再生処理に伴う初期設定をすべく、イニシャライズ処理を実行する。
例えば、主制御部51は、イニシャライズ処理として、後述する再生フラグをONに初期設定し、停止フラグをOFFに初期設定する。
【0055】
ステップS22において、主制御部51は、スイッチ処理を実行する。
スイッチ処理とは、複数の選択肢が存在するモードについて所定の選択肢を選択したり、複数の状態が存在するフラグの状態を設定する処理をいう。
例えば、主制御部51は、スイッチ処理の一部として、ユーザの操作部53に対する表示モードの選択指示操作に基づいて、表示モードとして通常モード又は3Dモードを選択する。
また例えば、主制御部51は、スイッチ処理の一部として、再生フラグや停止フラグをON又はOFFに設定する。具体的には例えば、主制御部51は、ユーザの操作部53に対する再生指示操作に基づいて、再生フラグをONに設定する。また例えば、主制御部51は、ユーザの操作部53に対する一時停止指示操作に基づいて、再生フラグをOFFに設定する。さらに例えば、主制御部51は、ユーザの操作部53に対する停止指示操作、又は、動画像の最後のフレームの再生終了の検出に基づいて、再生フラグをOFFに設定すると共に停止フラグをONに設定する。
なお、スイッチ処理には、ユーザによる指示操作が特になされていない場合、各種モードや各種フラグの設定は維持されること(特に切替が行われないこと)も含むものとする。
【0056】
ステップS23において、主制御部51は、再生フラグがONに設定されているか否かを判定する。
【0057】
再生フラグがOFFに設定されている場合、即ち、ユーザによる一時停止指示操作又は停止指示操作がなされた場合、ステップS23においてNOであると判定され、後述するステップS25の通常表示処理やステップS26の3D表示処理が実行されずに、処理はステップS27に進む。なお、ステップS27以降の処理は後述する。
【0058】
これに対して、再生フラグがONである場合、即ち、ユーザによる再生指示がなされている場合、ステップS23においてYESであると判定され、処理はステップS24に進む。
【0059】
ステップS24において、主制御部51は、表示モードとして3Dモードが設定されている否かを判定する。
【0060】
3Dモードが設定されていない場合、即ち通常モードが設定されている場合、ステップS24においてNOであると判定され、処理はステップS25に進む。
ステップS25において、主制御部51は、通常表示処理を実行する。
通常表示処理とは、動画選択処理により選択された動画像を構成する各フレームのうち、表示対象の1フレームについて、通常の2次元画像を1フレーム周期に通常表示装置11に表示させる処理をいう。
【0061】
これに対して、3Dモードが設定されている場合、ステップS24においてYESであると判定され、処理はステップS26に進む。
ステップS26において、主制御部51は、3D表示処理を実行する。
3D表示処理とは、動画選択処理により選択された動画像を構成する各フレームのうち、表示対象の1フレームについて3D表示をするための処理をいう。具体的には、表示対象の1フレームについての左目用画像と右目用画像とをポジ画像として、1フレーム周期に時分割で順次通常表示装置11に表示させると共に、当該ポジ画像に対するネガ画像を網膜表示装置12からレーザビームにより網膜に直接表示させることで、3D表示を実現する処理が、3D表示処理である。
なお、本実施形態の3D表示処理のさらなる詳細については、図10のフローチャートを参照して後述する。
【0062】
このようにしてステップS25の通常表示処理又はステップS26の3D表示処理により、表示対象の1フレームが表示されると、処理はステップS27に進む。
ステップS27において、主制御部51は、停止フラグがONに設定されたか否かを判定する。
停止フラグがOFFである場合、即ち、動画像の再生途中であって、ユーザの停止指示操作がなされていない場合、ステップS27においてNOであると判定され、処理はステップS22に戻され、それ以降の処理が繰り返される。
即ち、動画像の再生が終了するか、又は、ユーザの停止指示操作がなされるまでの間、ステップS22乃至S27のループ処理が繰り返し実行されることによって、動画像を構成する各フレームが順次表示されていく。
【0063】
ここで、ステップS25の通常処理及びステップS26の3D表示処理の処理単位は、上述の如く、1フレームとされている。この場合、同一の動画像のデータを再生中に、フレーム毎に、通常表示と3D表示とを適宜切り換えることが容易に可能になる。
なお、ステップS25の通常処理及びステップS26の3D表示処理の処理単位は、特にフレームに限定されず、動画像を構成するフレームの総数よりも小さい単位であれば足りる。このような場合も、同一の動画像のデータを再生中に、処理単位毎に、通常表示と3D表示とを適宜切り換えることが容易に可能になる。
【0064】
その後、動画像の再生途中にユーザの停止指示操作がなされるか、動画像の再生が終了すると、ステップS22のスイッチ処理で停止フラグがONになるため、次のステップS27においてYESであると判定され、再生処理は終了する。即ち、図8のステップS4の処理は終了し、処理はステップS2に戻され、次に再生される動画像が選択される。
【0065】
以上、図9を参照して、図8の画像表示処理のうち、ステップS4の再生処理の流れについて説明した。
次に、図10を参照して、図9の再生処理のうち、ステップS26の3D表示処理の詳細な流れについて説明する。
図10は、3D表示処理の詳細な流れを説明するフローチャートである。
【0066】
ステップS41において、左右画像取得部61は、1フレーム分の通常画像(左通常画像と右通常画像)のデータを取得する。
【0067】
ステップS42において、網膜表示画像生成部64は、ユーザの視線位置情報を取得する。
【0068】
ステップS43において、網膜表示画像生成部64は、ステップS41の処理で取得された通常画像のデータと、ステップS42の処理で取得された視線位置情報に基づいて、網膜画像(左通常画像のネガ画像と右通常画像のネガ画像)のデータを生成する。
【0069】
ステップS44において、通常表示制御部62と網膜表示制御部65は、互いに同期して、左通常画像を表示部21に、当該左通常画像のネガ画像を網膜表示装置12からユーザの右目の網膜に、同時に表示させる。
即ち、通常表示制御部62は、ステップS41の処理で取得された通常画像のデータに基づいて、当該通常画像のうち左通常画像を通常表示装置11の表示部21に表示させる。これと同期して、網膜表示制御部65は、当該左通常画像のネガ画像を構成する各画素に対応するレーザビームを、網膜表示装置12のビーム出力部31Rから出力させる。すると、ユーザの右目の網膜においては、表示部21に表示された左通常画像(ポジ画像)と、ビーム出力部31Rからレーザビームとして出力された当該左通常画像のネガ画像とが合成され、その結果、白色の合成画像(図7参照)が映ることになる。これにより、ユーザは、右目の中心視野が視認できなくなる。
この時、ビーム出力部31Lからは何も出力されないため、ユーザの左目の網膜には、表示部21に表示された左通常画像のみが映る。
従って、ユーザは、左目に映った左通常画像のみを視認することになる。
【0070】
ステップS45において、通常表示制御部62と網膜表示制御部65は、互いに同期して、右通常画像を表示部21に、当該右通常画像のネガ画像を網膜表示装置12からユーザの左目の網膜に、同時に表示させる。
即ち、通常表示制御部62は、ステップS41の処理で取得された通常画像のデータに基づいて、当該通常画像のうち右通常画像を通常表示装置11の表示部21に表示させる。これと同期して、網膜表示制御部65は、当該右通常画像のネガ画像を構成する各画素に対応するレーザビームを、網膜表示装置12のビーム出力部31Lから出力させる。すると、ユーザの左目の網膜においては、表示部21に表示された右通常画像(ポジ画像)と、ビーム出力部31Lからレーザビームとして出力された当該右通常画像のネガ画像とが合成され、その結果、白色の合成画像(図7参照)が映ることになる。これにより、ユーザは、左目の中心視野が視認できなくなる。
この時、ビーム出力部31Rからは何も出力されないため、ユーザの右目の網膜には、表示部21に表示された右通常画像のみが映る。
従って、ユーザは、右目に映った右通常画像のみを視認することになる。
【0071】
このようにして3D表示処理が実行されると、表示対象の1フレームが3D表示されることになる。これにより、図9のステップS26の3D表示処理は終了して、処理はステップS27に進む。
即ち、ユーザによる指示操作が特に行われていなければ、ステップS22乃至S27のループ処理が繰り返し実行されて、動画像を構成する各フレームが順次3D表示されていく。
【0072】
以上説明したように、本実施形態に係る画像処理システム1は、各画素を発光することで画像を表示する通常表示装置11と、ユーザの網膜に画像を直接表示する網膜表示装置12と、通常表示装置11及び網膜表示装置12に対する画像の表示を制御する画像表示制御装置13と、を備える。
画像表示制御装置13は、通常表示制御部62と、網膜表示画像生成部64と、網膜表示制御部65と、を備える。
網膜表示画像生成部64は、右目用画像(右通常画像)及び左目用画像(左通常画像)の各データに基づいて、右目用画像及び左目用画像の各々のネガ画像のデータを生成する。通常表示制御部62は、右目用画像と左目用画像とを通常表示装置11の表示部21に交互に表示させる。網膜表示装置12は、右目用画像が表示部21に表示されているときには、右目用画像のネガ画像を網膜表示装置12からユーザの左目の網膜に直接表示させ、左目用画像が表示部21に表示されているときには、左目用画像のネガ画像を網膜表示装置12からユーザの右目の網膜に直接表示させる。
これにより、右目用画像が表示部21に表示されているときには、ユーザの右目には右目用画像(右通常画像)が映る一方、ユーザの左目には、右目用画像(ポジ画像)とそのネガ画像との合成画像、即ち白い画像(図7参照)が映る。従って、ユーザは、右目に映った右通常画像のみを視認することになる。
一方、左目用画像が表示部21に表示されているときには、ユーザの左目には左目用画像(左通常画像)が映る一方、ユーザの右目には、左目用画像(ポジ画像)とそのネガ画像との合成画像、即ち白い画像(図7参照)が映る。従って、ユーザは、左目に映った左通常画像のみを視認することになる。
その結果、ユーザは、別途眼鏡を必要とせずに、広い視野で3D画像を視認できる。
【0073】
ここで、通常表示装置11は、従来から存在する一般のテレビジョン受像機をそのまま流用することができる。従って、ユーザは、網膜表示装置12と画像表示制御装置13とを後から追加するだけで、本実施形態の画像処理システム1を容易に構成して使用することが可能になる。
【0074】
なお、本発明は上述の実施形態に限定されるものではなく、本発明の目的を達成できる範囲での変形、改良等は本発明に含まれるものである。
【0075】
例えば、上述の実施形態では、左右の画像を時分割表示する手法と、ポジ画像とネガ画像とを同時に表示する手法とを採用したが、本発明に適用可能な3D表示の手法はこれに限定されず、通常表示装置11と網膜表示装置12とを機能分担させて3D表示できる手法であれば足る。
具体的には例えば、通常表示装置11には周辺視野画像のみを表示させ、網膜表示装置12には中心視野画像のみを表示させる代替手法を採用することもできる。
ここで、中心視野画像とは、左通常画像及び右通常画像のそれぞれにおいて、視線位置情報により特定される中心視野に対応する画素のみを残した画像をいう。
また、周辺視野画像とは、図9のステップS25の通常表示処理で用いられた2次元表示用の画像において、視線位置情報により特定される中心視野に対応する画素を全て黒くして、周辺視野に対応する画素のみを残した画像をいう。
また、中心視野画像と周辺視野画像の境界は、中心視野よりも周辺視野の方に入った領域への設定がなされれば足り、厳密な設定は不要である。ただし、両画像の境界が乖離して黒い境界線が生じてしまうよりは、両画像が境界領域で重複して表示された方が好適である。
この境界領域以外では、中心視野画像と周辺視野画像は、全く重複せずに認識されるので、それぞれの解像度は厳密に一致している必要はない。むしろ、周辺視野画像は常にぼやけて認識されるので、低い解像度でも構わないことになる。
【0076】
その他例えば、上述の実施形態では、3D画像専用の眼鏡が不要となることを強調したが、特にこれに限定されず、眼鏡を網膜表示装置12の代替装置として使う手法を採用することもできる。
即ち、左右のレンズに左右それぞれのネガ画像を表示できる機能を有する眼鏡を採用することで、上述の実施形態の画像処理システム1と同様の効果を奏することができる。
【0077】
また例えば、上述の実施形態では、左右画像取得部61は通常画像のデータを左右画像記憶部52から取得するものとして説明したが、特にこれに限定されず、例えば、放送局から3D放映された通常画像のデータを受信して取得するようにしてもよい。
【0078】
ところで、上述した一連の処理は、ハードウェアにより実行させることもできるし、ソフトウェアにより実行させることもできる。
【0079】
図11は、上述した一連の処理をソフトウェアにより実行させる場合の、画像表示制御装置13のハードウェア構成を示すブロック図である。
【0080】
画像表示制御装置13は、CPU(Central Processing Unit)101と、ROM(Read Only Memory)102と、RAM(Random Access Memory)103と、バス104と、入出力インターフェース105と、操作部53と、記憶部106と、通信部107と、ドライブ108と、を備えている。
【0081】
CPU101は、ROM102に記録されているプログラム、又は、記憶部106からRAM103にロードされたプログラムに従って各種の処理を実行する。
RAM103にはまた、CPU101が各種の処理を実行する上において必要なデータ等も適宜記憶される。
【0082】
例えば、上述した図2の主制御部51は、CPU101というハードウェアと、ROM102等に記憶されたプログラム(ソフトウェア)との組み合わせとして構成することができる。
【0083】
CPU101、ROM102、及びRAM103は、バス104を介して相互に接続されている。このバス104にはまた、入出力インターフェース105も接続されている。入出力インターフェース105には、上述した操作部41の他、記憶部106、通信部107、及びドライブ108が接続されている。
【0084】
記憶部106は、ハードディスク等で構成され、再生候補となる動画像のデータ等を記憶する。即ち、上述した図2の左右画像記憶部52は、記憶部106の一領域として構成される。また、記憶部106は、各種情報処理に必要な各種データ、例えば、画像のデータ、各種フラグの値、閾値等も記憶する。
通信部109は、他の装置との間で行う通信を制御する。例えば本実施形態では、通信部109は、通常表示装置11及び網膜表示装置12(図2)の各々との間で行う通信を制御する。通信部109はまた、図示せぬインターネット等を介して図示せぬ他の装置との間で行う通信を制御する。
【0085】
ドライブ108には、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリ等よりなるリムーバブルメディア111が適宜装着される。ドライブ108によって読み出されたコンピュータプログラムは、必要に応じて記憶部106等にインストールされる。
【0086】
一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、コンピュータ等にネットワークや記録媒体からインストールされる。コンピュータは、専用のハードウェアに組み込まれているコンピュータであってもよい。また、コンピュータは、各種のプログラムをインストールすることで、各種の機能を実行することが可能なコンピュータ、例えば汎用のパーソナルコンピュータであってもよい。
【0087】
このようなプログラムを含む記録媒体は、ユーザにプログラムを提供するために装置本体とは別に配布されるリムーバブルメディア111により構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに提供される記録媒体等で構成される。リムーバブルメディアは、例えば、磁気ディスク(フロッピディスクを含む)、光ディスク、又は光磁気ディスク等により構成される。光ディスクは、例えば、CD-ROM(Compact Disk-Read Only Memory),DVD(Digital Versatile Disk)等により構成される。光磁気ディスクは、MD(Mini-Disk)等により構成される。また、装置本体に予め組み込まれた状態でユーザに提供される記録媒体は、例えば、プログラムが記録されているROM102や、記憶部106に含まれるハードディスク等で構成される。
【0088】
なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、その順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的或いは個別に実行される処理をも含むものである。
【0089】
また、本発明が適用される情報処理装置として、図11のコンピュータの構成を有する画像表示制御装置13を例として説明した。
しかしながら、本発明は、特にこれに限定されず、通常表示装置11及び網膜表示装置12と通信可能で、上述の情報処理を実行可能な電子機器一般に適用することができる。具体的には例えば、本発明は、各種録画再生装置、携帯型ナビゲーション装置、ポータブルゲーム機等に幅広く適用可能である。
【符号の説明】
【0090】
1・・・画像処理システム、11・・・通常表示装置、12・・・網膜表示装置、13・・・画像表示制御装置、21・・・表示部、22・・・音声出力部、31・・・ビーム出力部、32・・・視線追尾部、51・・・主制御部、52・・・左右画像記憶部、53・・・操作部、61・・・左右画像取得部、62・・・通常表示制御部、63・・・音声制御部、64・・・網膜表示画像生成部、65・・・網膜表示制御部、101・・・CPU、102・・・ROM、103・・・RAM、104・・・バス、105・・・入出力インターフェース、106・・・記憶部、107・・・通信部、108・・・ドライブ
【技術分野】
【0001】
本発明は、情報処理システム、情報処理装置及び方法、並びにプログラムに関し、特に、別途眼鏡を必要とせずに、広い視野で3D画像を表示できる技術に関する。
【背景技術】
【0002】
従来より、立体画像(3-Dimensional Picture、以下、「3D画像」とも呼ぶ)を表示可能な表示装置の需要が高まりつつある。
ここで、従来型の表示装置、例えばCRT(Cathode Ray Tub)や液晶型表示装置等、各画素を発光することで画像を表示する表示装置を、以下、「通常表示装置」と呼ぶ。
このような通常表示装置を用いて3D画像を表示する従来の技術として、左目用画像と右目用画像とを交互に表示する液晶ディスプレイと、液晶ディスプレイの交互表示に同期して左右の切り替えが可能なシャッタ眼鏡と、により3D画像の表示を実現する技術が存在する(特許文献1参照)。
しかしながら、特許文献1に記載の技術では、3D画像を見るためだけに、ユーザはわざわざ眼鏡をかけなければならないという煩わしさが生じていた。
このため、近年、別途眼鏡を必要とせずに、表示精度が高い3D画像を表示できる技術の研究開発が進んでいる。
【0003】
別途眼鏡を必要としない3D画像の表示を実現可能にし得る技術の1つとして、人間の目の瞳孔に向けてレーザビームを照射し、網膜に直接ラスタ走査を行う技術が存在する(特許文献2参照)。
このように、網膜に直接ラスタ走査して画像を表示する装置を、以下「網膜表示装置」と呼ぶ。即ち、特許文献2には、網膜表示装置が記載されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2010−243705号公報
【特許文献2】特開平8−205052号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、特許文献2に記載の技術をそのまま適用しても、離れた場所から小さな瞳孔を通して網膜にラスタ走査するので、網膜上で走査可能な領域はそれほど広く取れず、従って、視野全体の小さな部分にしか結像することができない。
即ち、ユーザにとっては、狭い視野(小画面の通常表示装置と等価な小さな空間サイズ)でしか3D画像を鑑賞することができない。
これでは、別途眼鏡が必要となる点を考慮したとしても、広い視野で迫力ある3D画像を鑑賞可能な大画面の通常表示装置に太刀打ちすることはできない。
【0006】
本発明は、このような状況に鑑みてなされたものであり、別途眼鏡を必要とせずに、広い視野で3D画像を表示可能にすることを目的とする。
【課題を解決するための手段】
【0007】
本発明の一態様によると、
画像を表示する第1表示装置と、
ユーザの網膜上に画像を結像させて前記画像を表示させる第2表示装置と、
前記第1表示装置及び前記第2表示装置を制御する表示制御装置と、
を備える情報処理システムであって、
前記表示制御装置は、
右目用画像及び左目用画像の各データに基づいて、前記右目用画像及び前記左目用画像の各々のネガ画像のデータを生成し、
前記右目用画像と前記左目用画像とを前記第1表示装置に交互に表示させ、
前記右目用画像を前記第1表示装置に表示させているときには、前記右目用画像のネガ画像を前記第2表示装置から前記ユーザの左目の網膜に直接表示させ、
前記左目用画像を前記第1表示装置に表示させているときには、前記左目用画像のネガ画像を前記第2表示装置から前記ユーザの右目の網膜に直接表示させる、
制御を実行することを特徴とする画像処理システムを提供する。
【0008】
本発明の別の態様によると、上述した本発明の一態様に係る情報処理システムの表示制御装置に対応する情報処理装置を提供し、さらに、当該情報処理装置に対応する方法及びプログラムを提供する。
【発明の効果】
【0009】
本発明によれば、別途眼鏡を必要とせずに、広い視野で3D画像を表示することが実現可能になる。
【図面の簡単な説明】
【0010】
【図1】本発明の情報処理システムの一実施形態に係る画像処理システムの外観構成例を示す側面図である。
【図2】図1の画像処理システムの機能的構成を示す機能ブロック図である。
【図3】図2の画像処理システムのうち網膜表示装置の外観構成を示す斜視図である。
【図4】図3の網膜表示装置の視線追尾部の外観構成を示す斜視図である。
【図5】図3の網膜表示装置のビーム出力部の断面図である。
【図6】図2の画像処理システムのうち、通常表示装置に表示される通常画像(ポジ画像)と、網膜表示装置からユーザの両眼の中心視野に直接表示される網膜画像(ネガ画像)と、の表示の関係を示す図である。
【図7】図2の画像処理システムによって表示される、ポジ画像とネガ画像との関係を示す図である。
【図8】図5の画像処理システムが実行する動画像再生処理の流れの一例を説明するフローチャートである。
【図9】図5の画像表示処理のうち、再生処理の詳細な流れの一例を説明するフローチャートである。
【図10】図9の再生処理のうち、3D表示処理の詳細な流れにの一例を説明するフローチャートである。
【図11】図2の画像処理システムのうち、画像表示制御装置のハードウェア構成を示すブロック図である。
【発明を実施するための形態】
【0011】
以下、本発明の一実施形態を図面に基づいて説明する。
【0012】
図1は、本発明の情報処理システムの一実施形態に係る画像処理システムの外観構成例を示す側面図である。
【0013】
図1に示すように、画像処理システム1は、通常表示装置11と、網膜表示装置12と、画像表示制御装置13と、を備えている。
通常表示装置11は、例えば42インチ以上の表示領域を有する表示部21を備えている。
網膜表示装置12は、通常表示装置11の上方に配置され、画像表示制御装置13は、通常表示装置11の背面に配置されている。
【0014】
ユーザUは、通常表示装置11の表示部21を注視している。このとき、網膜表示装置12から、ユーザUの左右の瞳孔に向かって微弱なレーザビームが照射される。
その結果、表示部21の表示面を構成する各画素から発光された光束と、網膜表示装置12からユーザUの左右の瞳孔に直接照射されたレーザビームとによって、ユーザUは所定の3D画像を視認することが可能になる。
【0015】
即ち、通常表示装置11と網膜表示装置12との各々を単体で用いても、3D画像の表示自体は可能になる。
しかしながら、通常表示装置11は、視野の広い3D画像の表示(いわゆる大画面表示)は実現可能という長所を有するが、別途眼鏡を必要としな3D画像の表示の実現は困難であるという欠点を有する。一方で、網膜表示装置12は、別途眼鏡を必要としな3D画像の表示は実現可能であるという長所を有するが、視野の広い3D画像の表示(いわゆる大画面表示)の実現は困難であるという欠点を有する。
このため、通常表示装置11と網膜表示装置12との長所を生かし決定を補い合うようにして、3D画像の表示を実現すべく、画像表示制御装置13が画像処理システム1に設けられている。
【0016】
このような通常表示装置11と網膜表示装置12との長所を生かし欠点を補い合う組み合わせは、本発明人らが人間の視野の性質を考察することによってはじめて可能になったものである。
即ち、人間は、左右の眼球の網膜全体を用いることにより、左右で180度以上にも及ぶ広い視野を持つ。しかし、人間にとって、鮮明に見えている部分は、網膜の中心領域を用いる狭い範囲の中心視野のみであって、それ以外の周辺視野は常にぼんやりとしか見えていない。
特に、網膜上で最も解像度の高い領域は、直径0.2mmの中心領域に過ぎないといわれている。
それにも係らず、人間が広い視野を鮮明に見ていると感じるのは、無意識のうちに視線を移動させているためである。即ち、人間にとって、ある時点で鮮明に見えているのは視線の向かう注目点の近傍を映す中心視野だけである。しかしながら、人間は、網膜残像と呼ばれる特性を有しているため、当該注目点が広い範囲を次々に移動する結果として、当該範囲全体が鮮明に見えていると感じることができるのである。
【0017】
それゆえ、次のような機能分担が可能となる。
即ち、網膜表示装置12の欠点は、換言すると、限られた視野にしか画像を表示できないということである。しかしながら、網膜表示装置12が中心視野への表示を主に分担するならば、その欠点が問題にならない。
一方、通常表示装置11の欠点、即ち、別途眼鏡を必要としない3D画像の表示の実現は困難であるという欠点は、通常表示装置11が左目用画像と右目用画像とを同時に表示することが実質上できないことに起因する。しかしながら、通常表示装置11が周辺視野への表示を主に分担するならば、左目用画像と右目用画像とが重なって表示されても、細かい差異は気付かれないので、その欠点が問題にならない。
画像表示制御装置13は、このような機能分担を制御することにより、通常表示装置11の長所である視野の広い3D画像の表示(大画面表示)と、網膜表示装置12の長所である別途眼鏡を必要としない3D画像の表示と、を同時に実現する。
即ち、本発明に係る情報処理装置の一実施形態として、画像表示制御装置13が設けられている。
【0018】
図2は、このような外観構成を有する画像処理システム1の機能のうち、3D画像を表示する機能を実現する機能的構成を示す機能ブロック図である。
【0019】
通常表示装置11は、上述した表示部21に加えて、スピーカ等で構成される音声出力部22を備えている。
網膜表示装置12は、ビーム出力部31と、視線追尾部32と、を備えている。
画像表示制御装置13は、主制御部51と、左右画像記憶部52と、操作部53と、を備えている。
主制御部51は、左右画像取得部61と、通常表示制御部62と、音声制御部63と、網膜表示画像生成部64と、網膜表示制御部65と、を備えている。
【0020】
以下、通常表示装置11については、従来の一般的なものをそのまま流用できるためその説明は省略し、網膜表示装置12と、画像表示制御装置13との各々について、その順番で個別に説明していく。
【0021】
図3は、網膜表示装置12の外観構成を示す斜視図である。
網膜表示装置12は、ユーザの左の瞳孔に向かってレーザビームを出射するビーム出力部31Lと、ユーザの右の瞳孔に向かってレーザビームを出射するビーム出力部31Rと、を備えている。
なお、図2に示すビーム出力部31は、ビーム出力部31L,31Rをまとめたものである。従って、以下、ビーム出力部31L,31Rを個々に区別する必要がない場合、これらをまとめたものを、「ビーム出力部31」と呼ぶ。
【0022】
図4は、網膜表示装置12の視線追尾部32の外観構成を示す斜視図である。
なお、図4に示す視線追尾部32は、網膜表示装置12の筺体内に搭載されているため、図3には図示されていない。
図4に示すように、ビーム出力部31の下部には、視線追尾部32が接続されている。
視線追尾部32は、2軸サーボモータを備えており、公知の技術によりユーザの視線を追尾し、ビーム出力部31の出力方向をユーザの瞳孔に向けるように、当該ビーム出力部31を駆動する。
視線追尾部32はまた、通常表示装置11に表示される画像のうち、ユーザの中心視野に映っている画素の範囲を特定する位置情報を検出する機能を有する。
【0023】
図5は、網膜表示装置12のビーム出力部31の断面図である。
ビーム出力部31は、レーザビーム光源71と、水平偏向板72と、垂直偏向板73と、収束用レンズ74と、を備えている。
レーザビーム光源71は、ユーザの網膜に表示すべき画像(以下、「網膜画像」と呼ぶ)を水平方向と垂直方向にスキャンしたデータに基づいて、各画素値に対応する三原色のレーザビームを発生する。
レーザビーム光源71から発生されたレーザビームは、水平偏向板72と垂直偏向板73とによって水平方向及び垂直方向に偏向され、収束用レンズ74によって、ユーザの眼球の瞳孔に焦点を結ぶように出射される。
その結果、網膜に到達したレーザビームは、網膜の中心領域の上でラスタ走査されて、その結果、網膜画像がユーザの中心視野に対して直接表示されることになる。
なお、網膜表示装置12のさらなる詳細については、特許文献1を参照すればよい。
【0024】
図2に戻り、画像表示制御装置13において、主制御部51は、当該画像表示制御装置13の全体を制御する。主制御部51を構成する各機能ブロックの説明は後述する。
【0025】
左右画像記憶部52は、動画像のデータを記憶する。
ここで、動画像は、所定の時点における静止画像が、時間的に連続して複数枚配置されることによって構成される。動画像のデータの記録や再生の処理は、このような静止画像の少なくとも一部分が処理単位となって実行される。このような動画像に対する画像処理において、処理単位となる画像を、以下、「単位画像」と呼ぶ。例えばフレームやフィールドが単位画像の一例である。そこで、単位画像としてフレームが採用された場合を例として、以下の説明を行う。
ここでは、前提として、フレーム毎に、右目用画像と左目用画像の各データは既に生成されているものとする。
このような動画像を構成する各フレーム(1フレーム分の右目用画像と左目用画像)は、通常表示装置11の表示部21に通常に表示されるため、以下「通常画像」と呼ぶ。
【0026】
操作部53は、電源釦、モードSW(Switch)釦等各種釦等で構成され、ユーザの指示操作を受け付ける。
【0027】
さらに、以下、画像表示制御装置13の機能的構成のうち、特に主制御部51の機能的構成の詳細について説明する。
【0028】
左右画像取得部61は、フレームを単位として、通常画像のデータを左右画像記憶部52から取得し、通常表示制御部62及び網膜表示画像生成部64に供給する。
ここで、網膜表示装置12のビーム出力部31からレーザビームとして出力されてユーザの左目又は右目に映る網膜画像は、後述するように、通常画像のネガ画像として生成される。即ち、通常画像と網膜画像との関係は、ポジ画像とネガ画像との関係になる。従って、以下、通常画像をポジ画像と呼ぶこともあるし、同様に網膜画像をネガ画像と呼ぶこともある。
【0029】
通常表示制御部62は、左右画像取得部61から供給された通常画像のデータにより表わされる画像、即ち左目用画像のデータにより表わされる画像(以下、「左通常画像」と呼ぶ)と、右目用画像のデータにより表わされる画像(以下、「右通常画像」と呼ぶ)とを、表示部21に時分割表示する制御を実行する。
ここで、時分割表示とは、いわゆる1フレーム周期において、前半の期間に例えば左通常画像を表示し、後半の期間に例えば右通常画像を表示することを意味する。
具体的には例えば、左右画像記憶部52に記録されている動画像のデータの記録レートが、60fps(Frames Per Second)であるものとする。この場合、1/60秒が1フレーム周期になる。従って、1フレーム周期(1/60秒)が2分割され、前半の1/120秒の期間では左通常画像が表示され、後半の1/120秒の期間では右通常画像が表示されることが、時分割表示の一例である。
なお、通常表示制御部62は、このような時分割表示を実現するために、少なくとも倍速で動画像を表示する機能(上述の例では120fpsの再生レートで動画像を表示する機能)を有しているものとする。
【0030】
ここで、一般的には、動画像のデータには、対応する音声のデータが付加されている。即ち、左右画像取得部61は、通常画像のデータを左右画像記憶部52から取得するとき、当該通常画像に対応する音声のデータも左右画像記憶部52から取得して、音声制御部63に供給する。
音声制御部63は、このようにして左右画像取得部61からデータとして供給された音声を、通常表示装置11の音声出力部22から出力させる制御を実行する。
【0031】
網膜表示画像生成部64は、左右画像取得部61から供給された通常画像のデータに基づいて、網膜画像のデータとして、通常画像のネガ画像のデータを生成する。
具体的には、網膜表示画像生成部64は、右通常画像のネガ画像をユーザの左目に表示すべき網膜画像として、左通常画像のネガ画像をユーザの右目に表示すべき網膜画像として、それぞれのデータを生成する。ここで、左右の目と、左右のネガ画像とは左右が交叉した関係になっている点に注意すべきである。
なお、ネガ画像とは、通常画像(ポジ画像)の各画素の色に対して、補色の関係にある色を対応する画素に割り当てた画像であって、ポジ画像とネガ画像とを網膜上で重ねると、重ねた部分が白として視認される画像をいう。
ただし、本実施形態では、ネガ画像の有効画素の範囲は、ネガ画像を表示すべき時点における、ユーザの中心視野に対応する領域であるものとする。
このようなユーザの中心視野は、網膜表示装置12の視線追尾部32によって得られる視線位置情報に基づいて特定される。視線位置情報とは、表示部21に表示された通常画像に視線を向けているユーザの中心視野に映っている、通常画像(ポジ画像)の範囲を特定する位置情報である。
網膜表示画像生成部64は、このようにして生成した網膜画像のデータを、網膜表示制御部65に供給する。
【0032】
網膜表示制御部65は、ビーム出力部31を制御して、ユーザの網膜を直接ラスタ走査することにより、網膜表示画像生成部64によりデータとして生成された網膜画像(ネガ画像)を、ユーザの網膜の中心領域(中心視野に対応する領域)に直接表示させる。
【0033】
このようにして、ユーザは、通常画像(ポジ画像)と網膜画像(ネガ画像)とを同時に見ることになり、両者が重なった部分は白くなって何も見えなくなる。つまり、ネガ画像はポジ画像を隠す働きをする。
【0034】
さらに以下、実際にどのようなタイミングで、このようなネガ画像を表示するのかについて詳細に説明する。
【0035】
上述のように、通常表示装置11の表示部21には、左通常画像と右通常画像とが時分割表示されているが、3D表示を実現するためには、左通常画像が表示部21に表示されている間は、当該左通常画像を右目に対して隠さなければならない。
そのために、ビーム出力部31Rは、左通常画像のネガ画像を網膜画像として、ユーザの右目の中心視野に対して表示する。これにより、右目の中心視野においては、左通常画像(ポジ画像)が、網膜画像(左通常画像のネガ画像)と合成されて白くなり隠されることになる。
一方で、この間、ビーム出力部31Lからは、ビームの出力を停止する。これにより、ユーザの左目は、ネガ画像に妨害されずに左通常画像をそのまま正しく視認することができる。
【0036】
逆に、右通常画像が表示部21に表示されている間は、当該右通常画像を左目に対して隠さなければならない。
そのために、ビーム出力部31Lは、右通常画像のネガ画像を網膜画像として、ユーザの左目の中心視野に対して表示する。これにより、左目の中心視野においては、右通常画像(ポジ画像)が、網膜画像(右通常画像のネガ画像)と合成されて白くなり隠されることになる。
一方で、この間、ビーム出力部31Rからは、ビームの出力を停止する。これにより、ユーザの右目は、ネガ画像に妨害されずに右通常画像をそのまま正しく視認することができる。
【0037】
このように、ユーザは、左目の中心視野に映る左通常画像(右目の中心視野はネガ画像により白くなっている)と、右目の中心視野に映る右通常画像(左目の中心視野はネガ画像により白くなっている)と、を時分割で交互に視認できる。即ち、ユーザは、別途眼鏡を必要とせずに、広い視野(通常表示装置11の表示部21の画面サイズ)で3D画像を視認できる。
【0038】
図6は、通常表示装置11に表示される通常画像(ポジ画像)と、網膜表示装置12からユーザの両眼の中心視野に直接表示される網膜画像(ネガ画像)と、の表示の関係を示す図である。
図6に示す表は行列構造を有しているため、以下、図6中横方向の項目の集合体を「行」と呼び、同図中縦方向の項目の集合体を「列」と呼ぶ。
図6のテーブルでは、所定の2つの連続する行の組には、所定の1つのフレームが対応付けられており、当該フレームに関する情報として、「フレーム番号」、「表示順番」、「通常画像(ポジ画像)」、「左目に表示する網膜画像(ネガ画像)」、「右目に表示する網膜画像(ネガ画像)」、「左目の中心視野が認識する画像」、及び「右目の中心視野が認識する画像」の各項目の情報が表記されている。
ここで、動画像を構成するフレームの総数をnとし、n枚のフレームの各々に対して、一意の番号(以下、「フレーム番号」と呼ぶ)が表示順番でそれぞれ付されているとする。
この場合、「フレーム番号」がi番目のフレームには、第(2i−1)行と、第(2i)行とが対応している。
【0039】
第(2i−1)行には、「表示順番」が(2i−1)番目に表示される内容が表記されている。
即ち、「表示順番」が(2i−1)番目になると、通常表示装置11に表示される「通常画像(ポジ画像)」として、「フレーム番号」がi番目のフレームについての左通常画像(ポジ画像、図6には「L+」と表記されている)が表示される。これと同時に、網膜表示装置12からユーザの「右目に表示する網膜画像(ネガ画像)」として、左通常画像のネガ画像(図6には「L−」と表記されている)が表示される。なお、網膜表示装置12からユーザの「左目に表示する網膜画像(ネガ画像)」は表示されない。
従って、「左目の中心視野が認識する画像」として、左通常画像(ポジ画像、図6には「L+」と表記されている)が正常に認識される。一方で、「右目の中心視野が認識する画像」は、左通常画像(ポジ画像であるL+)と、当該左通常画像のネガ画像(L−)とが打ち消し合うので、白い画像が表示される。即ち、右目の中心視野は隠されることになる。
【0040】
図7は、ポジ画像とネガ画像との関係を示す図である。
なお、説明の便宜上、ポジ画像とネガ画像とは3×3画素の画像とされている。また、各画素の色は、説明の簡略上、黒(図7中斜線で表記)と、その補色の白との2種類のみが存在するものとする。ただし、実際の画素の色は、補色の関係となっていれば足り、赤とシアン、緑とマゼンタ、青と黄色等各種各様の補色の関係となる色が採用される。
「表示順番」が(2i−1)番目の時点では、左通常画像(図6では「L+」と表記)がポジ画像として通常表示装置11に表示される。
この時点では、左通常画像のネガ画像(図6では「L−」と表記)として、ポジ画像と同一の解像度であって、対応する画素同士は補色の関係になっている画像が、網膜表示装置12からのレーザビームによってユーザの右目に直接表示される。
すると、ユーザの「右目の中心視野が認識する画像」は、図7に示すような合成画像、即ち、白い画像が表示される。このようにして、右目の中心視野は隠されることになる。
【0041】
図6に戻り、第(2i)行には、「表示順番」が(2i)番目に表示される内容が表記されている。
即ち、「表示順番」が(2i)番目になると、通常表示装置11に表示される「通常画像(ポジ画像)」として、「フレーム番号」がi番目のフレームについての右通常画像(ポジ画像、図6には「R+」と表記されている)が表示される。これと同時に、網膜表示装置12からユーザの「左目に表示する網膜画像(ネガ画像)」として、右通常画像のネガ画像(図6には「R−」と表記されている)が表示される。なお、網膜表示装置12からユーザの「右目に表示する網膜画像(ネガ画像)」は表示されない。
従って、「右目の中心視野が認識する画像」として、右通常画像(ポジ画像、図6には「R+」と表記されている)が正常に認識される。一方で、「左目の中心視野が認識する画像」は、右通常画像(ポジ画像であるR+)と、当該右通常画像のネガ画像(R+)とが打ち消し合うので、白い画像が表示される。即ち、左目の中心視野は隠されることになる。
【0042】
即ち、図7の例で説明すると、「表示順番」が(2i)番目の時点では、右通常画像(図6では「R+」と表記)がポジ画像として通常表示装置11に表示される。
この時点では、右通常画像のネガ画像(図6では「R−」と表記)として、ポジ画像と同一の解像度であって、対応する画素同士は補色の関係になっている画像が、網膜表示装置12からのレーザビームによってユーザの左目に直接表示される。
すると、ユーザの「左目の中心視野が認識する画像」は、図7に示すような合成画像、即ち、白い画像が表示される。このようにして、左目の中心視野は隠されることになる。
【0043】
このような第(2i−1)行の関係の表示状態と第(2i)行の関係の表示状態との繰り返しにより、3D表示が実現される。
【0044】
以上、画像処理システム1の機能的構成について説明した。
ただし、上述した図2の機能的構成は例示に過ぎず、通常表示装置11と網膜表示装置12の機能分担による3D表示を実行可能であれば、画像処理システム1は任意の機能的構成を取ることができる。
【0045】
次に、図8乃至図10を参照して、図2の機能的構成を有する画像処理システム1が実行する処理のうち、動画像を再生するまでの一連の処理(以下、「動画像再生処理」と呼ぶ)の流れについて説明する。
【0046】
図8は、図5の画像処理システム1が実行する動画像再生処理の流れの一例を説明するフローチャートである。
動画像再生処理は、例えば、画像処理システム1を構成する各装置、即ち、通常表示装置11、網膜表示装置12、及び画像表示制御装置13の各々の電源が投入されている状態で、ユーザによる操作部53に対する所定の操作がなされたことを契機として開始する。
【0047】
ステップS1において、主制御部51は、画像処理システム1全体を初期設定するためのイニシャライズを行う。
【0048】
ステップS2において、主制御部51は、動画選択処理を実行する。
動画選択処理とは、主制御部51が通常表示制御部62を介して表示部21に表示させる対象の動画像を選択する操作を受け付ける処理である。
即ち、図2には図示しないが、選択可能な1以上の動画像のメニュー(例えば各動画像のサムネイル画像のリスト)が表示部21に表示されると、ユーザは、操作部53を操作して、所望の動画を選択することができる。主制御部51は、当該ユーザの操作を受け付ける。
なお、本実施形態では、ユーザが動画の再生を希望しない場合、上記メニューの選択肢の一つとして、動画像再生処理の終了を指示することもできる。
【0049】
ステップS3において、主制御部51は、処理の終了が指示されたか否かを判定する。
処理の終了の指示は、上述したようにステップS2の処理で表示されるメニューによる指示の他、例えば画像処理システム1の電源が遮断される等、各種各様の指示を採用することができる。
処理の終了が指示された場合、ステップS3においてYESであると判定されて、動画像再生処理の全体が終了となる。
【0050】
これに対して、処理の終了が未だ指示されていない場合、ステップS3においてNOであると判定されて、処理はステップS4に進む。
【0051】
ステップS4において、主制御部51は、ステップS2の処理で選択を受け付けた動画像を再生する処理(以下、「再生処理」と呼ぶ)を実行する。
なお、再生処理のさらなる詳細については、図9のフローチャートを参照して後述する。
【0052】
ステップS4の再生処理の終了後、処理はステップS2に戻され、それ以降の処理が繰り返される。即ち、処理の終了が指示されるまで、ステップS2乃至S4のループ処理が繰り返し実行され、各種各様の動画像がその都度再生される。
【0053】
以上、図8を参照して、動画像再生処理の流れについて説明した。
次に、このような画像表示処理のうち、ステップS4の再生処理の詳細な流れについて説明する。
図9は、再生処理の詳細な流れを説明するフローチャートである。
【0054】
ステップS21において、主制御部51は、再生処理に伴う初期設定をすべく、イニシャライズ処理を実行する。
例えば、主制御部51は、イニシャライズ処理として、後述する再生フラグをONに初期設定し、停止フラグをOFFに初期設定する。
【0055】
ステップS22において、主制御部51は、スイッチ処理を実行する。
スイッチ処理とは、複数の選択肢が存在するモードについて所定の選択肢を選択したり、複数の状態が存在するフラグの状態を設定する処理をいう。
例えば、主制御部51は、スイッチ処理の一部として、ユーザの操作部53に対する表示モードの選択指示操作に基づいて、表示モードとして通常モード又は3Dモードを選択する。
また例えば、主制御部51は、スイッチ処理の一部として、再生フラグや停止フラグをON又はOFFに設定する。具体的には例えば、主制御部51は、ユーザの操作部53に対する再生指示操作に基づいて、再生フラグをONに設定する。また例えば、主制御部51は、ユーザの操作部53に対する一時停止指示操作に基づいて、再生フラグをOFFに設定する。さらに例えば、主制御部51は、ユーザの操作部53に対する停止指示操作、又は、動画像の最後のフレームの再生終了の検出に基づいて、再生フラグをOFFに設定すると共に停止フラグをONに設定する。
なお、スイッチ処理には、ユーザによる指示操作が特になされていない場合、各種モードや各種フラグの設定は維持されること(特に切替が行われないこと)も含むものとする。
【0056】
ステップS23において、主制御部51は、再生フラグがONに設定されているか否かを判定する。
【0057】
再生フラグがOFFに設定されている場合、即ち、ユーザによる一時停止指示操作又は停止指示操作がなされた場合、ステップS23においてNOであると判定され、後述するステップS25の通常表示処理やステップS26の3D表示処理が実行されずに、処理はステップS27に進む。なお、ステップS27以降の処理は後述する。
【0058】
これに対して、再生フラグがONである場合、即ち、ユーザによる再生指示がなされている場合、ステップS23においてYESであると判定され、処理はステップS24に進む。
【0059】
ステップS24において、主制御部51は、表示モードとして3Dモードが設定されている否かを判定する。
【0060】
3Dモードが設定されていない場合、即ち通常モードが設定されている場合、ステップS24においてNOであると判定され、処理はステップS25に進む。
ステップS25において、主制御部51は、通常表示処理を実行する。
通常表示処理とは、動画選択処理により選択された動画像を構成する各フレームのうち、表示対象の1フレームについて、通常の2次元画像を1フレーム周期に通常表示装置11に表示させる処理をいう。
【0061】
これに対して、3Dモードが設定されている場合、ステップS24においてYESであると判定され、処理はステップS26に進む。
ステップS26において、主制御部51は、3D表示処理を実行する。
3D表示処理とは、動画選択処理により選択された動画像を構成する各フレームのうち、表示対象の1フレームについて3D表示をするための処理をいう。具体的には、表示対象の1フレームについての左目用画像と右目用画像とをポジ画像として、1フレーム周期に時分割で順次通常表示装置11に表示させると共に、当該ポジ画像に対するネガ画像を網膜表示装置12からレーザビームにより網膜に直接表示させることで、3D表示を実現する処理が、3D表示処理である。
なお、本実施形態の3D表示処理のさらなる詳細については、図10のフローチャートを参照して後述する。
【0062】
このようにしてステップS25の通常表示処理又はステップS26の3D表示処理により、表示対象の1フレームが表示されると、処理はステップS27に進む。
ステップS27において、主制御部51は、停止フラグがONに設定されたか否かを判定する。
停止フラグがOFFである場合、即ち、動画像の再生途中であって、ユーザの停止指示操作がなされていない場合、ステップS27においてNOであると判定され、処理はステップS22に戻され、それ以降の処理が繰り返される。
即ち、動画像の再生が終了するか、又は、ユーザの停止指示操作がなされるまでの間、ステップS22乃至S27のループ処理が繰り返し実行されることによって、動画像を構成する各フレームが順次表示されていく。
【0063】
ここで、ステップS25の通常処理及びステップS26の3D表示処理の処理単位は、上述の如く、1フレームとされている。この場合、同一の動画像のデータを再生中に、フレーム毎に、通常表示と3D表示とを適宜切り換えることが容易に可能になる。
なお、ステップS25の通常処理及びステップS26の3D表示処理の処理単位は、特にフレームに限定されず、動画像を構成するフレームの総数よりも小さい単位であれば足りる。このような場合も、同一の動画像のデータを再生中に、処理単位毎に、通常表示と3D表示とを適宜切り換えることが容易に可能になる。
【0064】
その後、動画像の再生途中にユーザの停止指示操作がなされるか、動画像の再生が終了すると、ステップS22のスイッチ処理で停止フラグがONになるため、次のステップS27においてYESであると判定され、再生処理は終了する。即ち、図8のステップS4の処理は終了し、処理はステップS2に戻され、次に再生される動画像が選択される。
【0065】
以上、図9を参照して、図8の画像表示処理のうち、ステップS4の再生処理の流れについて説明した。
次に、図10を参照して、図9の再生処理のうち、ステップS26の3D表示処理の詳細な流れについて説明する。
図10は、3D表示処理の詳細な流れを説明するフローチャートである。
【0066】
ステップS41において、左右画像取得部61は、1フレーム分の通常画像(左通常画像と右通常画像)のデータを取得する。
【0067】
ステップS42において、網膜表示画像生成部64は、ユーザの視線位置情報を取得する。
【0068】
ステップS43において、網膜表示画像生成部64は、ステップS41の処理で取得された通常画像のデータと、ステップS42の処理で取得された視線位置情報に基づいて、網膜画像(左通常画像のネガ画像と右通常画像のネガ画像)のデータを生成する。
【0069】
ステップS44において、通常表示制御部62と網膜表示制御部65は、互いに同期して、左通常画像を表示部21に、当該左通常画像のネガ画像を網膜表示装置12からユーザの右目の網膜に、同時に表示させる。
即ち、通常表示制御部62は、ステップS41の処理で取得された通常画像のデータに基づいて、当該通常画像のうち左通常画像を通常表示装置11の表示部21に表示させる。これと同期して、網膜表示制御部65は、当該左通常画像のネガ画像を構成する各画素に対応するレーザビームを、網膜表示装置12のビーム出力部31Rから出力させる。すると、ユーザの右目の網膜においては、表示部21に表示された左通常画像(ポジ画像)と、ビーム出力部31Rからレーザビームとして出力された当該左通常画像のネガ画像とが合成され、その結果、白色の合成画像(図7参照)が映ることになる。これにより、ユーザは、右目の中心視野が視認できなくなる。
この時、ビーム出力部31Lからは何も出力されないため、ユーザの左目の網膜には、表示部21に表示された左通常画像のみが映る。
従って、ユーザは、左目に映った左通常画像のみを視認することになる。
【0070】
ステップS45において、通常表示制御部62と網膜表示制御部65は、互いに同期して、右通常画像を表示部21に、当該右通常画像のネガ画像を網膜表示装置12からユーザの左目の網膜に、同時に表示させる。
即ち、通常表示制御部62は、ステップS41の処理で取得された通常画像のデータに基づいて、当該通常画像のうち右通常画像を通常表示装置11の表示部21に表示させる。これと同期して、網膜表示制御部65は、当該右通常画像のネガ画像を構成する各画素に対応するレーザビームを、網膜表示装置12のビーム出力部31Lから出力させる。すると、ユーザの左目の網膜においては、表示部21に表示された右通常画像(ポジ画像)と、ビーム出力部31Lからレーザビームとして出力された当該右通常画像のネガ画像とが合成され、その結果、白色の合成画像(図7参照)が映ることになる。これにより、ユーザは、左目の中心視野が視認できなくなる。
この時、ビーム出力部31Rからは何も出力されないため、ユーザの右目の網膜には、表示部21に表示された右通常画像のみが映る。
従って、ユーザは、右目に映った右通常画像のみを視認することになる。
【0071】
このようにして3D表示処理が実行されると、表示対象の1フレームが3D表示されることになる。これにより、図9のステップS26の3D表示処理は終了して、処理はステップS27に進む。
即ち、ユーザによる指示操作が特に行われていなければ、ステップS22乃至S27のループ処理が繰り返し実行されて、動画像を構成する各フレームが順次3D表示されていく。
【0072】
以上説明したように、本実施形態に係る画像処理システム1は、各画素を発光することで画像を表示する通常表示装置11と、ユーザの網膜に画像を直接表示する網膜表示装置12と、通常表示装置11及び網膜表示装置12に対する画像の表示を制御する画像表示制御装置13と、を備える。
画像表示制御装置13は、通常表示制御部62と、網膜表示画像生成部64と、網膜表示制御部65と、を備える。
網膜表示画像生成部64は、右目用画像(右通常画像)及び左目用画像(左通常画像)の各データに基づいて、右目用画像及び左目用画像の各々のネガ画像のデータを生成する。通常表示制御部62は、右目用画像と左目用画像とを通常表示装置11の表示部21に交互に表示させる。網膜表示装置12は、右目用画像が表示部21に表示されているときには、右目用画像のネガ画像を網膜表示装置12からユーザの左目の網膜に直接表示させ、左目用画像が表示部21に表示されているときには、左目用画像のネガ画像を網膜表示装置12からユーザの右目の網膜に直接表示させる。
これにより、右目用画像が表示部21に表示されているときには、ユーザの右目には右目用画像(右通常画像)が映る一方、ユーザの左目には、右目用画像(ポジ画像)とそのネガ画像との合成画像、即ち白い画像(図7参照)が映る。従って、ユーザは、右目に映った右通常画像のみを視認することになる。
一方、左目用画像が表示部21に表示されているときには、ユーザの左目には左目用画像(左通常画像)が映る一方、ユーザの右目には、左目用画像(ポジ画像)とそのネガ画像との合成画像、即ち白い画像(図7参照)が映る。従って、ユーザは、左目に映った左通常画像のみを視認することになる。
その結果、ユーザは、別途眼鏡を必要とせずに、広い視野で3D画像を視認できる。
【0073】
ここで、通常表示装置11は、従来から存在する一般のテレビジョン受像機をそのまま流用することができる。従って、ユーザは、網膜表示装置12と画像表示制御装置13とを後から追加するだけで、本実施形態の画像処理システム1を容易に構成して使用することが可能になる。
【0074】
なお、本発明は上述の実施形態に限定されるものではなく、本発明の目的を達成できる範囲での変形、改良等は本発明に含まれるものである。
【0075】
例えば、上述の実施形態では、左右の画像を時分割表示する手法と、ポジ画像とネガ画像とを同時に表示する手法とを採用したが、本発明に適用可能な3D表示の手法はこれに限定されず、通常表示装置11と網膜表示装置12とを機能分担させて3D表示できる手法であれば足る。
具体的には例えば、通常表示装置11には周辺視野画像のみを表示させ、網膜表示装置12には中心視野画像のみを表示させる代替手法を採用することもできる。
ここで、中心視野画像とは、左通常画像及び右通常画像のそれぞれにおいて、視線位置情報により特定される中心視野に対応する画素のみを残した画像をいう。
また、周辺視野画像とは、図9のステップS25の通常表示処理で用いられた2次元表示用の画像において、視線位置情報により特定される中心視野に対応する画素を全て黒くして、周辺視野に対応する画素のみを残した画像をいう。
また、中心視野画像と周辺視野画像の境界は、中心視野よりも周辺視野の方に入った領域への設定がなされれば足り、厳密な設定は不要である。ただし、両画像の境界が乖離して黒い境界線が生じてしまうよりは、両画像が境界領域で重複して表示された方が好適である。
この境界領域以外では、中心視野画像と周辺視野画像は、全く重複せずに認識されるので、それぞれの解像度は厳密に一致している必要はない。むしろ、周辺視野画像は常にぼやけて認識されるので、低い解像度でも構わないことになる。
【0076】
その他例えば、上述の実施形態では、3D画像専用の眼鏡が不要となることを強調したが、特にこれに限定されず、眼鏡を網膜表示装置12の代替装置として使う手法を採用することもできる。
即ち、左右のレンズに左右それぞれのネガ画像を表示できる機能を有する眼鏡を採用することで、上述の実施形態の画像処理システム1と同様の効果を奏することができる。
【0077】
また例えば、上述の実施形態では、左右画像取得部61は通常画像のデータを左右画像記憶部52から取得するものとして説明したが、特にこれに限定されず、例えば、放送局から3D放映された通常画像のデータを受信して取得するようにしてもよい。
【0078】
ところで、上述した一連の処理は、ハードウェアにより実行させることもできるし、ソフトウェアにより実行させることもできる。
【0079】
図11は、上述した一連の処理をソフトウェアにより実行させる場合の、画像表示制御装置13のハードウェア構成を示すブロック図である。
【0080】
画像表示制御装置13は、CPU(Central Processing Unit)101と、ROM(Read Only Memory)102と、RAM(Random Access Memory)103と、バス104と、入出力インターフェース105と、操作部53と、記憶部106と、通信部107と、ドライブ108と、を備えている。
【0081】
CPU101は、ROM102に記録されているプログラム、又は、記憶部106からRAM103にロードされたプログラムに従って各種の処理を実行する。
RAM103にはまた、CPU101が各種の処理を実行する上において必要なデータ等も適宜記憶される。
【0082】
例えば、上述した図2の主制御部51は、CPU101というハードウェアと、ROM102等に記憶されたプログラム(ソフトウェア)との組み合わせとして構成することができる。
【0083】
CPU101、ROM102、及びRAM103は、バス104を介して相互に接続されている。このバス104にはまた、入出力インターフェース105も接続されている。入出力インターフェース105には、上述した操作部41の他、記憶部106、通信部107、及びドライブ108が接続されている。
【0084】
記憶部106は、ハードディスク等で構成され、再生候補となる動画像のデータ等を記憶する。即ち、上述した図2の左右画像記憶部52は、記憶部106の一領域として構成される。また、記憶部106は、各種情報処理に必要な各種データ、例えば、画像のデータ、各種フラグの値、閾値等も記憶する。
通信部109は、他の装置との間で行う通信を制御する。例えば本実施形態では、通信部109は、通常表示装置11及び網膜表示装置12(図2)の各々との間で行う通信を制御する。通信部109はまた、図示せぬインターネット等を介して図示せぬ他の装置との間で行う通信を制御する。
【0085】
ドライブ108には、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリ等よりなるリムーバブルメディア111が適宜装着される。ドライブ108によって読み出されたコンピュータプログラムは、必要に応じて記憶部106等にインストールされる。
【0086】
一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、コンピュータ等にネットワークや記録媒体からインストールされる。コンピュータは、専用のハードウェアに組み込まれているコンピュータであってもよい。また、コンピュータは、各種のプログラムをインストールすることで、各種の機能を実行することが可能なコンピュータ、例えば汎用のパーソナルコンピュータであってもよい。
【0087】
このようなプログラムを含む記録媒体は、ユーザにプログラムを提供するために装置本体とは別に配布されるリムーバブルメディア111により構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに提供される記録媒体等で構成される。リムーバブルメディアは、例えば、磁気ディスク(フロッピディスクを含む)、光ディスク、又は光磁気ディスク等により構成される。光ディスクは、例えば、CD-ROM(Compact Disk-Read Only Memory),DVD(Digital Versatile Disk)等により構成される。光磁気ディスクは、MD(Mini-Disk)等により構成される。また、装置本体に予め組み込まれた状態でユーザに提供される記録媒体は、例えば、プログラムが記録されているROM102や、記憶部106に含まれるハードディスク等で構成される。
【0088】
なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、その順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的或いは個別に実行される処理をも含むものである。
【0089】
また、本発明が適用される情報処理装置として、図11のコンピュータの構成を有する画像表示制御装置13を例として説明した。
しかしながら、本発明は、特にこれに限定されず、通常表示装置11及び網膜表示装置12と通信可能で、上述の情報処理を実行可能な電子機器一般に適用することができる。具体的には例えば、本発明は、各種録画再生装置、携帯型ナビゲーション装置、ポータブルゲーム機等に幅広く適用可能である。
【符号の説明】
【0090】
1・・・画像処理システム、11・・・通常表示装置、12・・・網膜表示装置、13・・・画像表示制御装置、21・・・表示部、22・・・音声出力部、31・・・ビーム出力部、32・・・視線追尾部、51・・・主制御部、52・・・左右画像記憶部、53・・・操作部、61・・・左右画像取得部、62・・・通常表示制御部、63・・・音声制御部、64・・・網膜表示画像生成部、65・・・網膜表示制御部、101・・・CPU、102・・・ROM、103・・・RAM、104・・・バス、105・・・入出力インターフェース、106・・・記憶部、107・・・通信部、108・・・ドライブ
【特許請求の範囲】
【請求項1】
画像を表示する第1表示装置と、
ユーザの網膜上に画像を結像させて前記画像を表示させる第2表示装置と、
前記第1表示装置及び前記第2表示装置を制御する表示制御装置と、
を備える情報処理システムであって、
前記表示制御装置は、
右目用画像及び左目用画像の各データに基づいて、前記右目用画像及び前記左目用画像の各々のネガ画像のデータを生成し、
前記右目用画像と前記左目用画像とを前記第1表示装置に交互に表示させ、
前記右目用画像が前記第1表示装置に表示されているときには、前記右目用画像のネガ画像を前記第2表示装置から前記ユーザの左目の網膜に直接表示させ、
前記左目用画像が前記第1表示装置に表示されているときには、前記左目用画像のネガ画像を前記第2表示装置から前記ユーザの右目の網膜に直接表示させる、
制御を実行することを特徴とする画像処理システム。
【請求項2】
画像を表示する第1表示装置、及びユーザの網膜に画像を結像させて前記画像を表示させる第2表示装置を制御する情報処理装置であって、
右目用画像及び左目用画像の各データに基づいて、前記右目用画像及び前記左目用画像の各々のネガ画像のデータを生成するネガ画像生成手段と、
前記右目用画像と前記左目用画像とを前記第1表示装置に交互に表示させる制御を実行する第1表示制御手段と、
前記右目用画像が前記第1表示装置に表示されているときには、前記右目用画像のネガ画像を前記第2表示装置から前記ユーザの左目の網膜に直接表示させ、前記左目用画像が前記第1表示装置に表示されているときには、前記左目用画像のネガ画像を前記第2表示装置から前記ユーザの右目の網膜に直接表示させる制御を実行する第2表示制御手段と、
を備えることを特徴とする情報処理装置。
【請求項3】
画像を表示する第1表示装置、及びユーザの網膜に画像を結像させて前記画像を表示させる第2表示装置を制御する情報処理装置が実行する情報処理方法であって、
右目用画像及び左目用画像の各データに基づいて、前記右目用画像及び前記左目用画像の各々のネガ画像のデータを生成するネガ画像生成ステップと、
前記右目用画像と前記左目用画像とを前記第1表示装置に交互に表示させる制御を実行する第1表示制御ステップと、
前記右目用画像が前記第1表示装置に表示されているときには、前記右目用画像のネガ画像を前記第2表示装置から前記ユーザの左目の網膜に直接表示させ、前記左目用画像が前記第1表示装置に表示されているときには、前記左目用画像のネガ画像を前記第2表示装置から前記ユーザの右目の網膜に直接表示させる制御を実行する第2表示制御ステップと、
を含むことを特徴とする情報処理方法。
【請求項4】
画像を表示する第1表示装置、及びユーザの網膜に画像を結像させて前記画像を表示させる第2表示装置を制御するコンピュータに、
右目用画像及び左目用画像の各データに基づいて、前記右目用画像及び前記左目用画像の各々のネガ画像のデータを生成するネガ画像生成機能と、
前記右目用画像と前記左目用画像とを前記第1表示装置に交互に表示させる制御を実行する第1表示制御機能と、
前記右目用画像が前記第1表示装置に表示されているときには、前記右目用画像のネガ画像を前記第2表示装置から前記ユーザの左目の網膜に直接表示させ、前記左目用画像が前記第1表示装置に表示されているときには、前記左目用画像のネガ画像を前記第2表示装置から前記ユーザの右目の網膜に直接表示させる制御を実行する第2表示制御機能と、
を実現させるプログラム。
【請求項1】
画像を表示する第1表示装置と、
ユーザの網膜上に画像を結像させて前記画像を表示させる第2表示装置と、
前記第1表示装置及び前記第2表示装置を制御する表示制御装置と、
を備える情報処理システムであって、
前記表示制御装置は、
右目用画像及び左目用画像の各データに基づいて、前記右目用画像及び前記左目用画像の各々のネガ画像のデータを生成し、
前記右目用画像と前記左目用画像とを前記第1表示装置に交互に表示させ、
前記右目用画像が前記第1表示装置に表示されているときには、前記右目用画像のネガ画像を前記第2表示装置から前記ユーザの左目の網膜に直接表示させ、
前記左目用画像が前記第1表示装置に表示されているときには、前記左目用画像のネガ画像を前記第2表示装置から前記ユーザの右目の網膜に直接表示させる、
制御を実行することを特徴とする画像処理システム。
【請求項2】
画像を表示する第1表示装置、及びユーザの網膜に画像を結像させて前記画像を表示させる第2表示装置を制御する情報処理装置であって、
右目用画像及び左目用画像の各データに基づいて、前記右目用画像及び前記左目用画像の各々のネガ画像のデータを生成するネガ画像生成手段と、
前記右目用画像と前記左目用画像とを前記第1表示装置に交互に表示させる制御を実行する第1表示制御手段と、
前記右目用画像が前記第1表示装置に表示されているときには、前記右目用画像のネガ画像を前記第2表示装置から前記ユーザの左目の網膜に直接表示させ、前記左目用画像が前記第1表示装置に表示されているときには、前記左目用画像のネガ画像を前記第2表示装置から前記ユーザの右目の網膜に直接表示させる制御を実行する第2表示制御手段と、
を備えることを特徴とする情報処理装置。
【請求項3】
画像を表示する第1表示装置、及びユーザの網膜に画像を結像させて前記画像を表示させる第2表示装置を制御する情報処理装置が実行する情報処理方法であって、
右目用画像及び左目用画像の各データに基づいて、前記右目用画像及び前記左目用画像の各々のネガ画像のデータを生成するネガ画像生成ステップと、
前記右目用画像と前記左目用画像とを前記第1表示装置に交互に表示させる制御を実行する第1表示制御ステップと、
前記右目用画像が前記第1表示装置に表示されているときには、前記右目用画像のネガ画像を前記第2表示装置から前記ユーザの左目の網膜に直接表示させ、前記左目用画像が前記第1表示装置に表示されているときには、前記左目用画像のネガ画像を前記第2表示装置から前記ユーザの右目の網膜に直接表示させる制御を実行する第2表示制御ステップと、
を含むことを特徴とする情報処理方法。
【請求項4】
画像を表示する第1表示装置、及びユーザの網膜に画像を結像させて前記画像を表示させる第2表示装置を制御するコンピュータに、
右目用画像及び左目用画像の各データに基づいて、前記右目用画像及び前記左目用画像の各々のネガ画像のデータを生成するネガ画像生成機能と、
前記右目用画像と前記左目用画像とを前記第1表示装置に交互に表示させる制御を実行する第1表示制御機能と、
前記右目用画像が前記第1表示装置に表示されているときには、前記右目用画像のネガ画像を前記第2表示装置から前記ユーザの左目の網膜に直接表示させ、前記左目用画像が前記第1表示装置に表示されているときには、前記左目用画像のネガ画像を前記第2表示装置から前記ユーザの右目の網膜に直接表示させる制御を実行する第2表示制御機能と、
を実現させるプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【公開番号】特開2012−137653(P2012−137653A)
【公開日】平成24年7月19日(2012.7.19)
【国際特許分類】
【出願番号】特願2010−290448(P2010−290448)
【出願日】平成22年12月27日(2010.12.27)
【出願人】(000001443)カシオ計算機株式会社 (8,748)
【Fターム(参考)】
【公開日】平成24年7月19日(2012.7.19)
【国際特許分類】
【出願日】平成22年12月27日(2010.12.27)
【出願人】(000001443)カシオ計算機株式会社 (8,748)
【Fターム(参考)】
[ Back to top ]