説明

画像処理装置、画像処理方法及び画像処理プログラム

【課題】立体視画像の向きや位置を変更させても、立体視画像の自然な立体感を実現しうる。
【解決手段】生成部2は、表示用画像に含まれる立体視画像の向き及び位置の少なくとも一方を変更する場合、変更後の向き及び位置の少なくとも一方に対応する立体視画像を、視点の向き及び位置の少なくとも一方が異なる複数の立体視画像を有するデータである立体視画像データ3に含まれる複数の立体視画像から抽出し、当該抽出した立体視画像を含む表示用画像のデータである表示用画像データを生成するようにした。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理装置、画像処理方法及び画像処理プログラムに関し、例えば、立体視画像を含む表示用画像のデータを生成する際に適用して好適なものである。
【背景技術】
【0002】
従来、電子書籍の表示装置において、ユーザによって前又は次のページを表示させる操作(すなわちページをめくる操作)が行われると、電子書籍のページをめくるアニメーションを表示させるようになされたものがある。
【0003】
このような装置として、例えば、3次元コンピュータグラフィックスを用いて、仮想の3D空間上に電子書籍のページを立体的なオブジェクトとして配置し、ページをめくるアニメーションを立体的に表示させるものが提案されている(例えば特許文献1参照)。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2005−182820公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
ところで、異なる視点からの画像を左目用画像及び右目用画像として表示させ、ユーザに、左目用画像を左目で視認させると共に右目用画像を右目で視認させることで、表示させた画像を立体視させることのできる表示装置が普及し始めている。尚、このように、ユーザが立体視し得るように表示される画像のことを、以下立体視画像とも呼ぶ。
【0006】
また、電子書籍では、特に雑誌や写真集など、ページ内にテキストだけでなく、写真や挿絵などといった画像を配置することが考えられる。そこで立体視画像を表示しうる表示装置において、このような電子書籍のページ内に配置する画像も立体視画像として表示させることが望まれる。
【0007】
そこで、ページ内に立体視画像を配置し、当該ページをめくるアニメーションを立体的に表示させる場合を考える。この場合、ページがめくられていく(すなわちページ画像が前を向いた状態から斜めを向いていく)ことに伴って、ページ内に配置された立体視画像も前を向いた状態から斜めを向いていくように表示されることが考えられる。
【0008】
ここで、立体視画像が現実に立体的であるならば、表示画面上で立体視画像の向きや位置が変更されても立体的に見えるはずである。
【0009】
しかしながら、立体視画像は、通常、立体的に見える視点の向きや位置が限定されているため、表示画面上で立体視画像の向きや位置が変更されると、当該立体視画像が立体的に見えがたくなってしまう。
【0010】
このように、立体視画像の向きや位置を変更させると、立体視画像の自然な立体感を実現できなかった。
【0011】
本発明は以上の点を考慮してなされたもので、立体視画像の向きや位置を変更させても、立体視画像の自然な立体感を実現しうる画像処理装置、画像処理方法及び画像処理プログラムを提案しようとするものである。
【課題を解決するための手段】
【0012】
かかる課題を解決するため本発明においては、立体視画像を含む表示用画像のデータである表示用画像データを生成する生成部と、視点の向き及び位置の少なくとも一方が異なる複数の立体視画像を有するデータである立体視画像データが記憶されている記憶部から当該立体視画像データを読み出す読出部とを設け、生成部は、立体視画像の向き及び位置の少なくとも一方を変更させる場合、変更後の向き及び位置の少なくとも一方に対応する立体視画像を、読出部により読み出された立体視画像データに含まれる複数の立体視画像から抽出し、当該抽出した立体視画像を含む表示用画像の表示用画像データを生成するようにした。
【0013】
これにより、立体視画像の向きや位置が変わるのに応じて、その向きや位置に適した立体視画像を表示することができる。こうすることで、立体視画像の向きや位置が変わっても、常に立体視画像が立体的に見えるようにすることができる。
【発明の効果】
【0014】
本発明によれば、立体視画像の向きや位置が変わるのに応じて、その向きや位置に適した立体視画像を表示することができる。こうすることで、立体視画像の向きや位置が変わっても、常に立体視画像が立体的に見えるようにすることができる。かくして、立体視画像の向きや位置を変更させても、立体視画像の自然な立体感を実現しうる画像処理装置、画像処理方法及び画像処理プログラムを実現することができる。
【図面の簡単な説明】
【0015】
【図1】実施の形態の概要となる画像処理装置の機能構成を示すブロック図である。
【図2】書籍閲覧装置のハードウェア構成を示すブロック図である。
【図3】書籍閲覧画面の説明にともなう略線図である。
【図4】ページ画像及び写真画像が立体視される様子の説明にともなう略線図である。
【図5】視点の向きごとの写真画像の説明にともなう略線図である。
【図6】書籍画像の生成(1)の説明にともなう略線図である。
【図7】書籍画像の生成(2)の説明にともなう略線図である。
【図8】2Dパノラマ画像の生成の説明にともなう略線図である。
【図9】3Dパノラマ画像(1)の生成の説明にともなう略線図である。
【図10】3Dパノラマ画像(2)の生成の説明にともなう略線図である。
【図11】任意の視点の向きである写真画像の抽出の説明にともなう略線図である。
【図12】書籍画像生成処理手順を示すフローチャートである。
【図13】ページ画像の生成の説明にともなう略線図である。
【図14】写真画像を配置する範囲の中心の座標の設定の説明にともなう略線図である。
【図15】立体視画像の表示(1)の説明にともなう略線図である。
【図16】立体視画像の表示(2)の説明にともなう略線図である。
【図17】他の実施の形態における書籍画像の生成(1)の説明にともなう略線図である。
【図18】他の実施の形態における書籍画像の生成(2)の説明にともなう略線図である。
【図19】他の実施の形態におけるページ画像及び写真画像が立体視される様子の説明にともなう略線図である。
【図20】他の実施の形態における視点の位置が異なる写真画像の生成の説明にともなう略線図である。
【発明を実施するための形態】
【0016】
以下、発明を実施するための形態(以下、実施の形態とする)について説明する。尚、説明は以下の順序で行う。
1.実施の形態
2.他の実施の形態
【0017】
<1.実施の形態>
[1−1.実施の形態の概要]
まず、実施の形態の概要を説明する。因みに、この概要を説明した後、本実施の形態の具体例の説明に移る。
【0018】
図1において1は、画像処理装置を示す。この画像処理装置1は、立体視画像を含む表示用画像のデータである表示用画像データを生成する生成部2を有する。また、この画像処理装置1は、視点の向き及び位置の少なくとも一方が異なる複数の立体視画像を有するデータである立体視画像データ3が記憶されている記憶部4から当該立体視画像データ3を読み出す読出部5を有する。
【0019】
生成部2は、表示用画像に含まれる立体視画像の向き及び位置の少なくとも一方を変更する場合、変更後の向き及び位置の少なくとも一方に対応する立体視画像を、読出部5により読み出された立体視画像データ3に含まれる複数の立体視画像から抽出する。そして生成部2は、抽出した立体視画像を含む表示用画像の表示用画像データを生成する。
【0020】
これにより、画像処理装置1は、立体視画像の向きや位置が変わるのに応じて、その向きや位置に適した立体視画像を表示することができる。こうすることで、立体視画像の向きや位置が変わっても、常に立体視画像が立体的に見えるようにすることができる。かくして、画像処理装置1は、立体視画像の向きや位置を変更させても、立体視画像の自然な立体感を実現することができる。
【0021】
より具体的には、表示用画像に含まれる立体視画像は、表示用画像に含まれるオブジェクト内に配置されているようにしてもよい。ここで、当該オブジェクトの向き及び位置の少なくとも一方を変更させることに伴って当該オブジェクト内に配置された立体視画像の向き及び位置の少なくとも一方を変更させるとする。この場合、生成部2は、変更後の向き及び位置の少なくとも一方に対応する立体視画像を、読出部5により読み出された立体視画像データ3に含まれる複数の立体視画像から抽出するようにしてもよい。そして生成部2は、当該抽出した立体視画像を、向き及び位置の少なくとも一方を変更させたオブジェクト内に配置し、当該オブジェクトを含む表示用画像の表示用画像データを生成するようにしてもよい。
【0022】
またこの場合、立体視画像データ3は、視点の向き及び位置の少なくとも一方が異なる複数の立体視画像をつなげたパノラマ画像の画像データであるようにしてもよい。さらに、表示用画像に含まれるオブジェクト内の立体視画像を配置する部分は、透明化されているようにしてもよい。
【0023】
ここで、当該オブジェクトの向き及び位置の少なくとも一方を変更させることに伴って当該オブジェクト内に配置された立体視画像の向き及び位置の少なくとも一方を変更させるとする。この場合、生成部2は、パノラマ画像における変更後の向き及び位置の少なくとも一方に対応する部分が、向き及び位置の少なくとも一方を変更させたオブジェクトの透明化された部分の下に位置するようにパノラマ画像を配置するようにしてもよい。この結果、生成部2は、パノラマ画像から変更後の向き及び位置の少なくとも一方に対応する立体視画像を抽出して当該オブジェクト内に配置したこととなる。
【0024】
また、立体視画像データ3は、視点の向き及び位置の少なくとも一方が異なる複数の立体視画像毎のデータからなるようにしてもよい。
【0025】
この場合、表示用画像に含まれるオブジェクト内の立体視画像を配置する部分は、透明化されているようにしてもよい。ここで、当該オブジェクトの向き及び位置の少なくとも一方を変更させることに伴って当該オブジェクト内に配置された立体視画像の向き及び位置の少なくとも一方を変更させるとする。この場合、生成部2は、立体視画像データ3に含まれる複数の立体視画像から、変更後の向き及び位置の少なくとも一方に対応する立体視画像を選択することにより、変更後の向き及び位置の少なくとも一方に対応する立体視画像を抽出するようにしてもよい。そして、生成部2は、当該抽出した立体視画像を、向き及び位置の少なくとも一方を変更させたオブジェクトの透明化された部分の下に位置するように配置するようにしてもよい。
【0026】
また、生成部2は、入力部6を介して表示用画像に含まれる立体視画像の向き及び位置の少なくとも一方を変更させる操作入力が行われると、変更後の向き及び位置の少なくとも一方に対応する立体視画像を、立体視画像データ3に含まれる複数の立体視画像から抽出するようにしてもよい。そして生成部2は、当該抽出した立体視画像を含む表示用画像の表示用画像データを生成し、当該表示用画像データに基づいて当該表示用画像を表示部7に表示させるようにしてもよい。
【0027】
また、生成部2は、読出部5により読み出された立体視画像データ3をもとに、表示用画像に含まれる立体視画像の向き及び位置の少なくとも一方を連続して変化させる動画像の動画像データを生成するようにしてもよい。
【0028】
このような構成でなる画像処理装置1の具体例について、以下、詳しく説明する。
【0029】
[1−2.実施の形態の具体例]
[1−2−1.書籍閲覧装置のハードウェア構成]
次に、図2を用いて、上述した画像処理装置1の具体例である書籍閲覧装置10のハードウェア構成について説明する。
【0030】
書籍閲覧装置10は、制御部11と、主記憶装置12と、補助記憶装置13と、表示装置14と、入力装置15とを有し、これらは、バス16を介して接続されている。制御部11は、CPU(Central Processing Unit)構成でなる。主記憶装置12は、例えば、RAM(Random Access Memory)やROM(Read Only Memory)などで構成される。補助記憶装置13は、例えば、磁気ディスク、光ディスク、フラッシュメモリなどで構成される。
【0031】
書籍閲覧装置10では、制御部11が全体を統括制御すると共に、ROMや補助記憶装置13に格納されているプログラムをRAMに展開して読み込み、このプログラムに従って各種処理を実行すると共に各部を制御する。
【0032】
表示装置14は、例えば液晶ディスプレイなどで構成され、立体視画像の表示が可能な構成を有する。尚、立体視画像の表示方式には、例えば、偏向メガネなどを用いるパッシブ方式、液晶シャッターメガネなどを用いるアクティブ方式などユーザにメガネを装着させる方式や、パララックスバリア方式、レンチキュラーレンズ方式など、裸眼で立体視画像を観察可能な方式がある。表示装置14は、どの表示方式に対応する構成であってもよい。
【0033】
制御部11は、例えばリモートコントローラなどの入力装置15を介して入力される操作信号に応じて、各種処理を実行するようになっている。
【0034】
また、補助記憶装置13には、電子書籍のデータとして、電子書籍のページの画像であるページ画像を生成するためのページ画像データPdと、ページ内に配置する写真の画像である写真画像を生成するための写真画像データHdとが格納されている。
【0035】
制御部11は、入力装置15を介して電子書籍を表示させる操作入力を受け付けると、ページ画像データPd及び写真画像データHdをもとに、ページ内に写真画像を配置した書籍画像Bpのデータである書籍画像データを生成する。
【0036】
そして制御部11は、当該書籍画像データに基づく書籍画像Bpを表示装置14に表示させる。尚、制御部11は、書籍画像Bpの左目用画像及び右目用画像を表示装置14に表示させる。この結果、書籍閲覧装置10は、ユーザに電子書籍を立体視させながら閲覧させることができる。
【0037】
因みに、実施の形態の概要で説明した画像処理装置1の生成部2及び読出部5の具体的なハードウェアの例が上述した書籍閲覧装置10の制御部11である。また画像処理装置1の記憶部4の具体的なハードウェアの例が書籍閲覧装置10の補助記憶装置13である。さらに画像処理装置1の入力部6の具体的なハードウェアの例が書籍閲覧装置10の入力装置15である。さらに画像処理装置1の表示部7の具体的なハードウェアの例が書籍閲覧装置10の表示装置14である。
【0038】
[1−2−2.電子書籍の表示]
次に、この書籍閲覧装置10における電子書籍の表示機能について説明する。制御部11は、入力装置15を介して任意の電子書籍を選択する操作入力を受け付けると、図3に示す書籍閲覧画面100を表示装置14に表示させ、選択された電子書籍の書籍画像Bpを表示装置14に表示させる。
【0039】
書籍画像Bpは、電子書籍の見開き2ページ分の画像であり、最初に電子書籍を表示させた際は、例えば電子書籍の最初の1ページ目及び2ページ目の画像が表示される。
【0040】
また書籍画像Bpは、ページ画像Ppと写真画像Hpとから構成される。ページ画像Ppは、例えば、3次元コンピュータグラフィックスを用いて、仮想の3D空間上に電子書籍のページを立体的なオブジェクトとして配置して生成した画像である。写真画像Hpは、ページ画像Ppのオブジェクトとしてのページ内に配置される写真の画像である。
【0041】
ページ画像Pp及び写真画像Hpは、それぞれユーザに立体視されるよう構成されている。ここで、ページ画像Pp及び写真画像Hpが立体視される様子を説明するために、書籍画像Bpによって示される仮想の立体的な書籍をラインA−Aで切断した面を、図4に模式的に示す。
【0042】
ページ画像Ppは、書籍のページの立体的な形状(以下、立体ページとも呼ぶ)Pfとして立体視される。尚、図4(A)に示すようにページがめくられていない状態ではページは正面を向いており、図4(B)に示すようにページがめくられるときには、ページが斜めを向いていき、最終的に奥を向くこととなる。
【0043】
また、ページ画像Pp内において写真画像Hpが配置されている部分は、立体ページPfにおいて窓Frのように機能する。写真画像Hpは、その写真が示す立体的な空間(以下、立体写真空間とも呼ぶ)Hfとして、立体ページPf内の窓Frの奥側に位置するように立体視される。したがって、書籍画像Bpは、ページの奥にその写真が示す空間が奥行きを持って広がって見えるようになっている。
【0044】
また、書籍閲覧装置10では、視点Zから窓Frを通して立体写真空間Hfを見たときに見える範囲(Ey1又はEy2)が、写真画像Hpとして表示される。
【0045】
例えば、図4(A)に示すようにページがめくられていない状態から、図4(B)に示すようにページがめくられていくときには、視点Zの向きは、窓Fr側から見れば垂直方向からページの向き分斜め方向へと変化していく。このとき、書籍閲覧装置10では、視点Zから窓Frを通して立体写真空間Hfを見たときに見える範囲が範囲Ey1から範囲Ey2へと移動していくのに伴い、写真画像Hpとして表示される範囲を範囲Ey1から範囲Ey2へと変化させていく。
【0046】
このように、写真画像Hpが示す空間(立体写真空間Hf)が現実的に立体的であるとすれば、ページめくりに伴って窓Fr(写真画像Hp)の向きが変わるのに伴い、立体写真空間Hfに対する視点Zの向きは変化していくものと考えられる。
【0047】
そこで、書籍閲覧装置10では、ページめくりに伴って写真画像Hpの向きが変わるのに応じて、立体写真空間Hfに対する視点の向きが変化していくように、写真画像Hpを変化させていくようになっている。具体的に右側から左側へページをめくるときは、立体写真空間Hfに対する視点の向きを正面から左側へと変化させていき、左側から右側へページをめくるときは、立体写真空間Hfに対する視点の向きを正面から右側へと変化させていく。
【0048】
これにより、書籍閲覧装置10は、ページがめくられている間も、ページ内に配置された写真画像Hpが示す空間(立体写真空間Hf)の自然な立体感を実現することができるようになっている。
【0049】
ところで、このように写真画像Hpの表示を変化させる処理の前提として、図5に示すように、各写真画像Hpにおいて視点の向きが水平方向にそれぞれ異なる複数の写真画像Hpを準備しておく。ここで、ページがめくられていないとき(すなわちページが正面を向いているとき)のページの向きを0度とし、このときページ(写真画像Hp)側から見たときの視点の向きを0度とする。
【0050】
例えば、書籍を開いたときに右側に表示されるページについては、ページが右側から左側にめくられることとなるので、ページの向きが左側に20度、40度、60度…と変化していくときに、視点の向きも左側に20度、40度、60度…と水平に変化していく。ゆえに、このページ内における写真画像Hpについては、視点の向きが0度である画像の他に、例えば、左側に20度、40度、60度、80度と視点の向きを水平に変化させたときの画像を準備しておく。尚、ページの向きが90度以上となると、そのページが見えなくなるので、ここでは、視点の向きが90度以上となったときの写真画像Hpについては用意しなくてよい。
【0051】
また、写真画像Hpを立体視画像として表示させるために、写真画像Hpにおいて各視点の向きごとに左目用画像及び右目用画像を準備しておく。因みに、左目用画像及び右目用画像は、水平方向に異なる視点からの画像であるため、被写体の位置が水平方向にずれている。尚、左目用の写真画像Hpを以下、左目用写真画像とも呼び、右目用の写真画像Hpを以下、右目用写真画像とも呼ぶ。
【0052】
さらに書籍閲覧装置10では、ページ画像Ppも立体視画像として表示させるために、ページ画像Ppの左目用画像及び右目用画像を生成する。尚、左目用のページ画像Ppを以下、左目用ページ画像とも呼び、右目用のページ画像Ppを以下、右目用ページ画像とも呼ぶ。
【0053】
そして書籍閲覧装置10は、図6に示すように、左目用ページ画像PpLと左目用写真画像HpLとを合成して、左目用ページ画像PpL内に左目用写真画像HpLが配置された書籍画像Bpの左目用画像(以下、左目用書籍画像とも呼ぶ)BpLを生成する。また、書籍閲覧装置10は、右目用ページ画像PpRと右目用写真画像HpRとを合成して、右目用ページ画像PpR内に右目用写真画像HpRが配置された書籍画像Bpの右目用画像(以下、右目用書籍画像とも呼ぶ)BpRを生成する。
【0054】
具体的に、書籍閲覧装置10は、図7(A)に示すように、ページがめくられていないときは、ページの向きが0度である左目用ページ画像PpL内に、視点の向きが0度である左目用写真画像HpLが配置された左目用書籍画像BpLを生成して表示させる。また、書籍閲覧装置10は、ページの向きが0度である右目用ページ画像PpR内に、視点の向きが0度である右目用写真画像HpRが配置された右目用書籍画像BpRを生成して表示させる。
【0055】
また、図7(A)の状態から、図7(B)に示すように、右側のページがめくられて右側のページの向きが0度から20度に変化したとする。このとき、書籍閲覧装置10は、右側のページの向きが20度である左目用ページ画像PpL内に、視点の向きが20度である左目用写真画像HpLが配置された左目用書籍画像BpLを生成して表示させる。また、書籍閲覧装置10は、右側のページの向きが20度である右目用ページ画像PpR内に、視点の向きが20度である右目用写真画像HpRが配置された右目用書籍画像BpRを生成して表示させる。
【0056】
これにより、書籍画像Bpでは、ページの向きが0度から20度に変化するのに応じて、ページ画像Pp内に配置されていた視点の向き0度である写真画像Hpが、視点の向き20度である写真画像Hpに置き換わって表示されることとなる。
【0057】
また、図7(C)、(D)又は(E)に示す右側のページの向きが40度、60度又は80度に変化したときは、同様にして左目用書籍画像BpL及び右目用書籍画像BpRを生成して表示する。
【0058】
尚、図7(F)に示すように右側のページの向きが90度以上となった場合は、そのページが見えなくなると共に、そのページ内に配置された写真画像Hpも見えなくなる。
【0059】
このように、書籍閲覧装置10では、ページ(写真画像Hp)の向きと、その向きにおいて写真画像Hpを現実に立体的であるように見せるのに適した視点の向きである写真画像Hpとが、対応付けられている。そして書籍閲覧装置10は、ページの向きが変わるのに応じて、変更後のページの向きに対応する写真画像Hpをページ画像Pp内に配置して書籍画像Bpを生成し、表示させる。すなわち書籍閲覧装置10では、ページの向きが変更されると、ページ内に配置されている写真画像Hpが、変更後のページの向きに対応する視点の向きである写真画像Hpに置き換わるようになっている。
【0060】
[1−2−3.視点の向きが異なる写真画像の生成]
次に、視点の向きが水平方向に異なる写真画像Hpを生成する方法について具体的に説明する。
【0061】
まず、視点の向きが水平方向に異なる画像を得る方法としては、カメラを水平に回転移動させながら連続的に撮影した複数の画像を連結してパノラマ画像を生成する方法がある。
【0062】
この方法では、図8(A)に示すように、ユーザがカメラCaを手に持ち、シャッターを押して左(点A)から右(点B)に点Oを回転中心としながらカメラCaを水平に半回転させる。このときカメラCaはシャッター押下を検出すると、例えば、数10〜100枚程度の画像を連続的に撮影する。
【0063】
これらの画像が図8(B)に示す画像であり、それぞれ視点の向き(すなわち撮影方向)が異なる画像である。これらの各画像から、中心から所定の幅でなる短冊状の領域TOを切り出して連結すると、図8(C)に示すパノラマ画像Np2が生成される。尚、このように生成したパノラマ画像を、2Dパノラマ画像とも呼ぶ。
【0064】
また、立体視しうるパノラマ画像(以下、3Dパノラマ画像とも呼ぶ)を生成する場合も、図8(A)に示すように、カメラCaを水平に回転移動させながら連続撮影した複数の画像から所定の幅でなる短冊状の領域を切り出して連結することで生成する。尚、パノラマ画像の左目用画像を、以下、左目用パノラマ画像とも呼び、パノラマ画像の右目用画像を、以下、右目用パノラマ画像とも呼ぶ。
【0065】
ここで3Dパノラマ画像では、2Dパノラマ画像と異なり、図9(A)に示すように、撮影した画像から短冊状の領域を切り出す位置を左目用パノラマ画像と右目用パノラマ画像とで異なる位置とする。
【0066】
具体的に、撮影した画像の中心よりもやや右側寄りの位置から左目用パノラマ画像用となる短冊状の領域(以下、左目用画像短冊とも呼ぶ)TLを切り出す。一方、撮影した画像の中心よりもやや左側寄りの位置から右目用パノラマ画像用となる短冊状の領域(以下、右目用画像短冊とも呼ぶ)TRを切り出す。
【0067】
そして、図9(B)に示すように、連続撮影した複数の各画像から左目用画像短冊TLのみを切り出して連結することで左目用パノラマ画像NpLを生成する。一方、図9(C)に示すように、連続撮影した複数の各画像から右目用画像短冊TRのみを切り出して連結することで右目用パノラマ画像NpRを生成する。尚、左目用パノラマ画像NpL及び右目用パノラマ画像NpRをまとめて、3Dパノラマ画像とも呼ぶ。
【0068】
このようにして生成した左目用パノラマ画像NpL及び右目用パノラマ画像NpRによって立体視を実現できる仕組みについて、以下説明する。
【0069】
図10に、点Oを回転中心としてカメラCaを水平に回転移動させ、点C及び点Dにおいて被写体Sを撮影した状況を示す。点Cでは、左目用画像短冊TLにおいて被写体Sを左側から見た画像が記録される。一方、点Dでは、右目用画像短冊TRにおいて被写体Sを右側から見た画像が記録される。
【0070】
したがって、左目用パノラマ画像NpL及び右目用パノラマ画像NpRには、同一の被写体Sを異なる視点(左側及び右側)から撮影した画像が含まれることとなる。ゆえに、左目用パノラマ画像NpL及び右目用パノラマ画像NpRによって被写体Sを立体視させることができるようになっている。
【0071】
このようにして生成した3Dパノラマ画像(左目用パノラマ画像NpL及び右目用パノラマ画像NpR)は、換言すれば、視点の向きが異なる複数の立体視画像をつなげた画像である。
【0072】
ゆえに、左目用パノラマ画像NpL及び右目用パノラマ画像NpRから任意の範囲を抽出することで、任意の視点の向きである左目用写真画像HpL及び右目用写真画像HpRを得ることができる。
【0073】
例えば、図8(A)に示したように、カメラCaを水平に半回転(すなわち180度)分移動させながら連続撮影した画像を用いて、左目用パノラマ画像NpL及び右目用パノラマ画像NpRを生成したとする。このとき、カメラCaを4分の1回転(すなわち90度)させたときの撮影方向(視点の向き)を0度(正面)とすると、左目用パノラマ画像NpL及び右目用パノラマ画像NpRには、視点の向きがおよそ−90度から+90度までの画像が含まれることになる。尚、ここでは、視点の向きが0度から左側方向に変化するときの角度をプラスの値とし、視点の向きが0度から右側方向に変化するときの角度をマイナスの値とする。
【0074】
この場合、図11(A)に示すように、右目用パノラマ画像NpRにおいて、任意の点Fの横方向における位置が、各視点の向きに対応することとなる。例えば、中心の点F(0)の位置が視点の向き0度に対応する。また、中心の点F(0)よりも左側にある点Fは、視点の向きが0度よりも左側方向に変化したときの角度に対応し、中心の点F(0)よりも右側にある点Fは、視点の向きが0度よりも右側方向に変化したときの角度に対応する。また、中心の点F(0)から横方向に離れるほど、視点の向きを示す角度の絶対値が大きくなる。尚、図11(A)には、例として、視点の向きが−80度、−60度、−40度、―20度、0度、20度、40度、60度、80度にそれぞれ対応する点F(−80)、点F(−60)、点F(−40)、点F(−20)、点F(0)、点F(20)、点F(40)、点F(60)、点F(80)を示している。
【0075】
したがって、図11(B)に示すように、右目用パノラマ画像NpRから、例えば、視点の向き0度に対応する点F(0)を中心とした任意の範囲B1を抽出すれば、視点の向きが0度である右目用写真画像HpRを得ることができる。
【0076】
また、図11(C)に示すように、右目用パノラマ画像NpRから、例えば、視点の向き20度に対応する点F(20)を中心とした任意の範囲B2を抽出すれば、視点の向きが20度である右目用写真画像HpRを得ることができる。
【0077】
すなわち、右目用パノラマ画像NpRから、ページの向きに適した視点の向きに対応する位置を中心とした任意の範囲を抽出すれば、ページの向きに適した視点の向きである右目用写真画像HpRを得ることができる。
【0078】
同様にして、左目用パノラマ画像NpLにおいても、ページの向きに適した視点の向きに対応する位置を中心とした任意の範囲を抽出すれば、ページの向きに適した視点の向きである左目用写真画像HpLを得ることができる。
【0079】
このように、ページ画像Pp内に配置する写真画像Hpについては、その写真を撮影する際にパノラマ撮影を行って3Dパノラマ画像の画像データを生成しておく。また、ページの向きと、その向きに適した視点の向きに対応する3Dパノラマ画像における横(水平)方向の位置との対応付けを示すデータ(以下、対応付けデータとも呼ぶ)も生成しておく。3Dパノラマ画像の画像データと対応付けデータとが、写真画像データHdとして書籍閲覧装置10の補助記憶装置13に記憶される。
【0080】
そして、書籍閲覧装置10では、写真画像データHdに基づいて、左目用パノラマ画像NpL及び右目用パノラマ画像NpRから、ページの向きに適した視点の向きである左目用写真画像HpL及び右目用写真画像HpRをそれぞれ抽出するようにする。
【0081】
こうすることにより、補助記憶装置13には、左目用パノラマ画像NpL及び右目用パノラマ画像NpRの2枚の画像を記憶しておくだけでよいので、複数の異なる視点の向きごとに左目用写真画像HpL及び右目用写真画像HpRを記憶させておく場合と比較して、記憶容量を節約することができる。
【0082】
[1−2−4.書籍画像生成処理手順]
次に、書籍閲覧装置10において書籍画像Bpを生成する処理の手順(これを書籍画像生成処理手順とも呼ぶ)について、図12に示すフローチャートを用いて説明する。尚、図12に示す書籍画像生成処理手順RT1は、書籍閲覧装置10の制御部11が、ROM又は補助記憶装置13に格納されているプログラムにしたがって実行する処理の手順である。
【0083】
制御部11は、例えば、入力装置15を介してページをめくる操作入力が行われると、書籍画像生成処理手順RT1を開始して、ステップSP1に移る。
【0084】
ステップSP1において制御部11は、補助記憶装置13に格納されたページ画像データPdを読み出す。そして制御部11は、ページ画像データPdをもとに、図13に示すように、RAM上の仮想の3D空間に立体的なオブジェクトとして配置された電子書籍のページを含むページ画像Ppを生成する。
【0085】
このとき制御部11は、ページをめくる操作入力に応じてページの向きを変更したページ画像Ppを生成する。尚、ページめくりをアニメーションで表示させる場合には、例えば6度など数度おきにページの向きを変えたページ画像Ppを生成するようにしてもよい。
【0086】
そして制御部11は、仮想の3D空間において視点を左右にずらすことで、電子書籍のページを左側から見た画像(左目用ページ画像PpL)及び右側から見た画像(右目用ページ画像PpR)を生成して、次のステップSP2に移る。
【0087】
ステップSP2において制御部11は、左目用ページ画像PpL及び右目用ページ画像PpRのそれぞれに対して、ページ内における写真画像Hpを配置する部分CL及びCR(図14)を透明化する処理を施して、次のステップSP3に移る。
【0088】
ステップSP3において制御部11は、書籍画像Bpにおいて写真画像Hpを配置する位置を設定する。具体的には、制御部11は、書籍画像Bpにおいて写真画像Hpを配置する範囲の中心の座標を設定する。
【0089】
ページ画像Ppは立体視画像であることから、図14に示すように、左目用ページ画像PpLと右目用ページ画像PpRとでは、ページの位置が水平方向に若干ずれている。ゆえに、これらにおいて写真画像Hpが配置される部分(以下、透明部分とも呼ぶ)CL及びCRの位置も水平方向に若干ずれている。
【0090】
しかしながら、写真画像Hpを立体視しうるよう表示させるためには、左目用写真画像HpL及び右目用写真画像HpRを表示画面上で同一の位置に表示させる必要がある。したがって、左目用書籍画像BpL及び右目用書籍画像BpRにおいて、写真画像Hpを配置する位置を同一の位置とする必要がある。
【0091】
そこで制御部11は、左目用ページ画像PpL及び右目用ページ画像PpRにおける透明部分CL及びCRの重心OpL及びOpRの座標をそれぞれ算出する。そして制御部11は、重心OpL及びOpRを結ぶ線分の中点の座標を、左目用書籍画像BpL及び右目用書籍画像BpRにおいて写真画像Hpを配置する範囲の中心の座標として設定し、次のステップSP4に移る。
【0092】
ステップSP4において制御部11は、補助記憶装置13から写真画像データHdを読み出す。そして制御部11は、写真画像データHdに含まれる対応付けデータに基づいて、3Dパノラマ画像における、変更後のページの向きに対応する位置の座標を取得する。
【0093】
制御部11は、左目用パノラマ画像NpLにおける当該取得した位置が、ステップSP3で設定した写真画像Hpを配置する範囲の中心の座標に位置するように、左目用パノラマ画像NpLを配置する。
【0094】
また、制御部11は、右目用パノラマ画像NpLにおける当該取得した位置が、ステップSP3で設定した写真画像Hpを配置する範囲の中心の座標に位置するように、右目用パノラマ画像NpLを配置する。そして、制御部11は、次のステップSP5に移る。
【0095】
ステップSP5において制御部11は、ステップSP4で配置した左目用パノラマ画像NpLの上から左目用ページ画像PpLを重ねて配置し合成することで左目用書籍画像BpLの画像データを生成する。
【0096】
これにより、左目用書籍画像BpLでは、左目用ページ画像PpLの透明部分CLを通して、左目用パノラマ画像NpLにおける、ページの向きに適した視点の向きに対応する位置を中心とした透明部分CLの横幅と同じ幅の範囲が見えることとなる。すなわち、左目用パノラマ画像NpLからページの向きに適した視点の向きである左目用写真画像HpLが抽出され、当該抽出された左目用写真画像HpLが左目用書籍画像BpL内に配置されたこととなる。
【0097】
また制御部11は、ステップSP4で配置した右目用パノラマ画像NpRの上から右目用ページ画像PpRを重ねて配置して合成することで右目用書籍画像BpRの画像データを生成する。
【0098】
これにより、右目用書籍画像BpRでは、右目用ページ画像PpRの透明部分CRを通して、右目用パノラマ画像NpRにおける、ページの向きに適した視点の向きに対応する位置を中心とした透明部分CRの横幅と同じ幅の範囲が見えることとなる。すなわち、右目用パノラマ画像NpRからページの向きに適した視点の向きである右目用写真画像HpLが抽出され、当該抽出された右目用写真画像HpRが右目用書籍画像BpR内に配置されたこととなる。
【0099】
このようにして制御部11は、左目用書籍画像BpLの画像データ及び右目用書籍画像BpRの画像データを生成すると、書籍画像生成処理手順RT1を終了する。
【0100】
そして制御部11は、これらの画像データに基づいて左目用書籍画像BpL及び右目用書籍画像Bpを表示装置14に表示させるようになっている。
【0101】
[1−2−5.動作及び効果]
以上の構成において、書籍閲覧装置10の補助記憶装置13には、視点の向きが異なる複数の立体視画像をつなげた画像である3Dパノラマ画像の画像データが記憶されている。
【0102】
書籍閲覧装置10の制御部11は、電子書籍を表示させる操作入力が行われると、電子書籍のページを含む書籍画像Bpを表示装置14に表示させる。書籍画像Bpに含まれるページ内には、立体視画像である写真画像Hpが配置される。
【0103】
制御部11は、ページをめくる(すなわちページの向き及び写真画像Hpの向きを変更する)操作入力が行われると、ページの向きを変更させたページ画像Ppを生成し、当該ページ画像Ppに対しページ内の写真画像Hpを配置する部分を透明化する処理を施す。
【0104】
そして制御部11は、補助記憶装置13から3Dパノラマ画像の画像データを読み出す。制御部11は、3Dパノラマ画像における変更後のページの向きに対応する部分が、ページ画像Ppの透明化された部分の下に位置するように、ページ画像Ppの下から3Dパノラマ画像を重ねることにより、書籍画像Bpの画像データを生成する。
【0105】
これにより、制御部11は、変更後のページの向きに対応する写真画像Hpを抽出し、当該抽出した写真画像Hpをページ内に配置した書籍画像Bpの書籍画像データを生成したこととなる。
【0106】
そして制御部11は、生成した書籍画像データに基づく書籍画像Bpを表示装置14に表示させる。
【0107】
これにより、写真画像Hpの向きが変わるのに応じて、その向きに適した視点の向きである写真画像Hpを表示することができる。こうすることで、写真画像Hpの向きが変わっても、常に写真画像Hpが立体的に見えるようにすることができる。
【0108】
ところで、立体視画像は人間の目の水平方向の視差を利用して立体視を行わせるため、図15(A)に示すように、左目用画像Lpと右目用画像Rpでは、画像内の物体Fsの位置が水平方向にずれるように作成される。もし、図15(B)に示すように、左目用画像Lpと右目用画像Rpとで、物体Fsの位置が垂直方向にずれていると、人間の脳では対象物を同じものと認識できず、物体Fsを立体視できなくなってしまう。
【0109】
ここで、上述と同様に、仮想の3D空間に電子書籍のページを立体的なオブジェクトとして配置してページをめくる様子を表示する場合、画面上でのページの向きを変更する(すなわちページを変形すると共に斜めに傾ける)処理が行われることとなる。
【0110】
このページ内に、図16(A)に示す左目用画像Lp及び右目用画像Rpからなる立体視画像が配置されていた場合、ページと同様に立体視画像を変形すると、図16(B)に示すように、左目用画像Lpと右目用画像Rpのずれが斜め方向となる。すなわち、左目用画像Lpと右目用画像Rpとが水平方向だけでなく垂直方向にもずれてしまうこととなるので、立体視できず、ユーザの脳にも負担をかけてしまう。
【0111】
これに対し、書籍閲覧装置10では、ページをめくる際、ページの向きを変更させたページ画像Ppの下から、ページの向きに適した視点の向きである写真画像Hpを含む3Dパノラマ画像を重ねることにより、書籍画像Bpを生成するようにした。
【0112】
こうすることにより、ページの向きが変わるのに伴って写真画像Hpの向きを変更する場合に、写真画像Hpを変形させるような処理を行わないため、写真画像Hpが立体視できなくなってしまうことを防止することができる。
【0113】
以上の構成によれば、書籍閲覧装置10は、書籍画像Bpに含まれる写真画像Hpの向きを変更する場合、変更後の向きに対応する写真画像Hpを3Dパノラマ画像から抽出し、抽出した写真画像Hpを含む書籍画像Bpのデータを生成するようにした。
【0114】
これにより、書籍閲覧装置10は、書籍画像Bpに含まれる写真画像Hpの向きが変わるのに応じて、その向きに適した写真画像Hpを表示することができる。こうすることで、書籍閲覧装置10は、写真画像Hpの向きが変わっても、常に立体的に見えるようにすることができる。かくして、書籍閲覧装置10は、写真画像Hpの向きを変更させても、写真画像Hpの自然な立体感を実現することができる。
【0115】
<2.他の実施の形態>
[2−1.他の実施の形態1]
尚、上述した実施の形態では、ページをめくる(ページの向きを変更させる)ことで、当該ページ内に配置された写真画像Hpの向きを変更するようにした。
【0116】
これに限らず、電子書籍自体の向きを変えることで、当該電子書籍のページ内に配置された写真画像Hpの向きを変更するようにしてもよい。
【0117】
制御部11は、例えば、入力装置15を介して電子書籍自体の向きを変化させる操作入力が行われると、図17に示すように、電子書籍自体の向きに対応する写真画像Hpを、電子書籍自体の向きを変化させたページ画像Pp内に配置して、書籍画像Bpを生成する。
【0118】
具体的に制御部11は、例えば、図17(A)に示すように電子書籍自体の向きを40度左向きにするときは、その向きに適した視点の向き40度である左目用写真画像HpLを左目用ページ画像PpL内に配置して左目用書籍画像BpLを生成する。また制御部11は、視点の向きが40度である右目用写真画像HpRを右目用ページ画像PpR内に配置して右目用書籍画像BpRを生成する。
【0119】
また例えば、図17(B)に示すように、電子書籍自体の向きを40度右向きにするときは、制御部11は、その向きに適した視点の向き−40度である左目用写真画像HpLを左目用ページ画像PpL内に配置した左目用書籍画像BpLを生成する。また制御部11は、視点の向き−40度である右目用写真画像HpRを右目用ページ画像PpR内に配置した右目用書籍画像BpRを生成する。
【0120】
またこれに限らず、電子書籍自体の位置を変えることで、当該電子書籍のページ内に配置された写真画像Hpの位置を変更するようにしてもよい。
【0121】
制御部11は、例えば、入力装置15を介して電子書籍自体の位置を変化させる(スライドさせる)操作入力が行われると、図18に示すように、電子書籍自体の位置に対応する写真画像Hpを、電子書籍自体の位置を変化させたページ画像Pp内に配置して、書籍画像Bpを生成する。
【0122】
具体的に、例えば、図18(A)に示すように、ページ内に配置された写真画像Hpの位置が、書籍閲覧画面100の中央であるときは、この中央の位置に対応する視点の向きを、例えば0度とする。そこで制御部11は、この写真画像Hpの位置に対応する視点の向き0度である左目用写真画像HpLを左目用ページ画像PpL内に配置した左目用書籍画像BpLを生成する。また制御部11は、視点の向きが0度である右目用写真画像HpRを右目用ページ画像PpR内に配置した右目用書籍画像BpLを生成する。
【0123】
また例えば、図18(B)に示すように、ページ内に配置された写真画像Hpの位置が、書籍閲覧画面100の右端に近い位置であるときは、この位置に対応する視点の向きを、例えば−40度とする。そこで制御部11は、この写真画像Hpの位置に対応する視点の向き−40度である左目用写真画像HpLを左目用ページ画像PpL内に配置した左目用書籍画像BpLを生成する。また制御部11は、視点の向きが−40度である右目用写真画像HpRを右目用ページ画像PpR内に配置した右目用書籍画像BpLを生成する。
【0124】
このように制御部11は、写真画像Hpの位置を変更する場合、変更後の位置に対応する写真画像Hpを書籍画像Bp内に配置するようにする。これにより、制御部11は、写真画像Hpの位置の変化量(スライド量)に応じて写真画像Hpの視点の向きを変化させて表示することができる。
【0125】
またこれに限らず、書籍閲覧装置10を、例えば携帯型電話機や携帯端末など携帯型の装置とし、書籍閲覧装置10に例えば加速度センサなどの傾き検出センサを設け、書籍閲覧装置10が傾けられるのに応じて写真画像Hpの向きを変更するようにしてもよい。この場合において、変更後の写真画像Hpの向きに対応する視点の向きである写真画像Hpを書籍画像Bp内に配置するようにしてもよい。
【0126】
またこれに限らず、写真画像Hpの向き及び位置の両方を変更する場合に、変更後の向き及び位置に対応する視点の向きである写真画像Hpを書籍画像Bp内に配置するようにしてもよい。
【0127】
このように、写真画像Hpの向き及び位置の少なくとも一方を変更する場合に、変更後の向き及び位置の少なくとも一方に対応する写真画像Hpを書籍画像Bp内に配置するようにしてもよい。
【0128】
[2−2.他の実施の形態2]
また、上述した実施の形態では、ページをめくる(ページの向きを変更する)操作入力が行われると、変更後のページの向き(写真画像Hpの向き)に適した視点の向きである写真画像Hpを表示させるようにした。
【0129】
これに限らず、ページをめくる(ページの向きを変更する)操作入力が行われると、変更後のページの向き(写真画像Hpの向き)に適した視点の位置である写真画像Hpを表示させるようにしてもよい。
【0130】
例えば、図19に示すように、ページ画像Ppは書籍のページの立体的な形状(立体ページ)Pfとして立体視されると共に、写真画像Hpが示す空間(立体写真空間)Hfがページから前に向かって飛び出るように立体視されるとする。
【0131】
この場合、図19(A)に示すように、ページがめくられていないときは、視点Zは立体写真空間Hfから見て正面に位置する。ゆえに、立体写真空間Hfを正面から見たときの画像を写真画像Hpとして表示させる。
【0132】
一方、図19(B)に示すように、ページがめくられているときは、視点Zは立体写真空間Hfから見てページの向き分斜め方向に位置する。ゆえに、ページの向き分斜めの方向から立体写真空間Hfを見たときの画像を写真画像Hpとして表示させる。
【0133】
このように、写真画像Hpが示す立体写真空間Hfが現実的に立体的であるとすれば、ページめくりに伴って立体写真空間Hfの向きが変わるのに伴い、立体写真空間Hfに対する視点の位置は変化していくものと考えられる。
【0134】
そこで、制御部11は、ページめくりに伴って写真画像Hpの向きが変わるのに応じて、立体写真空間Hfに対する視点の位置を水平に移動していくように、写真画像Hpを変化させる。具体的に右側から左側へページをめくるときは、立体写真空間Hfに対する視点の位置を正面から右側へ移動させていき、左側から右側へページをめくるときは、立体写真空間Hfに対する視点の位置を正面から左側へ移動させていく。
【0135】
これにより、書籍閲覧装置10は、ページがめくられている間も、ページ内に配置された写真画像Hpが示す空間(立体写真空間Hf)の自然な立体感を実現することができる。
【0136】
このように写真画像Hpの表示を変化させる処理の前提として、各写真画像Hpにおいて視点の位置が水平方向にそれぞれ異なる複数の写真画像Hpを準備しておく。
【0137】
例えば、図20(A)に示すように、点Gから点HへとカメラCaの位置を移動させながら連続的に撮影を行うことにより、図20(B)に示すように、視点の位置が異なる複数の写真画像Hpを取得することができる。尚、このとき、写真画像Hpが立体視画像となるように、例えば2つの視点からの撮影が可能な二眼カメラにおいて撮影を行う。
【0138】
このようにして生成された視点の位置が異なる複数の写真画像Hpの画像データを補助記憶装置13に記憶しておく。また、補助記憶装置13には、ページ(写真画像Hp)の向きと、その向きにおいて写真画像Hpを現実に立体的であるように見せるのに適した視点の位置である写真画像Hpとの対応付けを示す対応付けデータも、記憶しておく。
【0139】
制御部11は、ページの向きを変更する場合、対応付けデータをもとに、補助記憶装置13に記憶された視点の位置が異なる複数の写真画像Hpの中から、ページの向きに対応する写真画像Hpを抽出する。そして制御部11は、ページの向きを変更させたページ画像Ppと抽出した写真画像Hpとを合成して、ページ内に当該写真画像Hpを配置した書籍画像Bpの画像データを生成する。
【0140】
こうすることにより、書籍閲覧装置10は、写真画像Hpの向きが変わるのに応じて、写真画像Hpに対する視点の位置が変わっていくように表示することができ、写真画像Hpが現実に立体的であるかのようにユーザに感じさせることができる。
【0141】
またこれに限らず、写真画像Hpの向きを変更する場合に、写真画像Hpの視点の向き及び位置の両方を変更するようにしてもよい。この場合、視点の向き及び位置の両方が異なる複数の写真画像Hpを有する画像データを補助記憶装置13に記憶しておく。制御部11は、写真画像Hpの向きを変更する際、当該向きに対応する視点の向き及び位置である写真画像Hpを当該画像データから抽出してページ内に配置した書籍画像Bpの画像データを生成する。
【0142】
このように、写真画像Hpの向きを変更する際に、視点の向き及び位置の少なくとも一方が異なる複数の写真画像Hpを有する画像データから、変更後の向きに対応する写真画像Hpを抽出してページ内に配置するようにしてもよい。
【0143】
[2−3.他の実施の形態3]
さらに、上述した実施の形態では、ページの向きを変更する場合、変更後のページの向きに対応する写真画像Hpを、3Dパノラマ画像から抽出するようにした。
【0144】
これに限らず、視点の向きが異なる複数の写真画像Hpの中から、変更後のページの向きに対応する写真画像Hpを選択することで、変更後のページの向きに対応する写真画像Hpを抽出するようにしてもよい。
【0145】
この場合、複数の異なる視点の向きである写真画像Hpを準備し、各視点の向きごとの写真画像Hpの画像データを補助記憶装置13に記憶しておく。
【0146】
複数の異なる視点の向きである写真画像Hpについては、例えば、二つの視点からの撮影が可能な二眼カメラを用いて、異なる複数の撮影方向の左目用写真画像HpL及び右目用写真画像HpRを撮影することにより生成することができる。
【0147】
制御部11は、ページの向きを変更する場合、ページの向きを変更させた左目用ページ画像PpL及び右目用ページ画像PpRを生成する。制御部11は、左目用ページ画像PpL及び右目用ページ画像PpRのそれぞれに対し、左目用写真画像HpL及び右目用写真画像HpRを配置する部分を透明化する処理を施す。
【0148】
また制御部11は、補助記憶装置13に記憶された、視点の向きごとの複数の写真画像Hpの中から、ページの向きに対応する写真画像Hp(左目用写真画像HpL及び右目用写真画像HpR)を選択する。
【0149】
具体的に、例えば、図5に示したように、20度おきに視点の向きが異なる写真画像Hpが補助記憶装置13に記憶されているとする。このとき、制御部11は、ページの向きに対応する写真画像Hpとして、例えば、記憶されている写真画像Hpの中で、ページの向きに適した視点の向きと最も近い視点の向きである写真画像Hpを選択するようにする。例えばページの向きが40度であるときは、制御部11は、視点の向きが40度である写真画像Hpを選択する。また例えば、ページの向きが25度であるときは、制御部11は、記憶されている写真画像Hpの中で視点の向き25度に最も近い視点の向き20度の写真画像Hpを選択する。
【0150】
制御部11は、選択した左目用写真画像HpLが、ページの向きを変更させた左目用ページ画像PpLの透明部分CLの下に位置するように、当該左目用写真画像HpL及び当該左目用ページ画像PpLを合成して左目用書籍画像BpLを生成して表示させる。また制御部11は、選択した右目用写真画像HpRが、ページの向きを変更させた右目用ページ画像PpRの透明部分CRの下に位置するように、当該右目用写真画像HpR及び当該右目用ページ画像PpRを合成して右目用書籍画像BpRを生成して表示させる。
【0151】
[2−4.他の実施の形態4]
さらに、上述した実施の形態では、ページをめくる(すなわちページの向きを変更する)操作入力が行われると、ページの向きを変更させたページ画像Ppに、変更後のページの向きに対応する写真画像Hpを配置して書籍画像Bpを生成するようにした。
【0152】
これに限らず、予め、異なる複数のページの向きごとに、ページをその向きにしたページ画像Ppに、その向きに対応する写真画像Hpを配置した書籍画像Bpを生成しておくようにしてもよい。
【0153】
例えばパーソナルコンピュータなどの情報処理装置において、制御部が、ページの向きが0度から180度まで連続して変化していく(すなわちページがめくられていく)動画像を生成するとする。
【0154】
この場合、例えば180度を30分割した6度おきなどに、ページの向きに対応する視点の向きである写真画像Hpを準備し、当該写真画像Hpの画像データを記憶部に記憶させておく。尚、写真画像Hpは立体視画像とし、ページの向きごとに左目用写真画像HpL及び右目用写真画像HpRを記憶させておくとする。
【0155】
制御部は、例えば180度を30分割した6度おきなどに、ページの向きを変更させたページ画像Pp(左目用ページ画像PpL及び右目用ページ画像PpR)を生成する。そして制御部は、記憶部に記憶されている複数の写真画像Hpの中から、ページの向きごとに、その向きに対応する写真画像Hpを抽出する。そして制御部は、各ページの向きごとに、抽出したその向きに対応する写真画像Hpを、ページをその向きにしたページ画像Pp内に配置して書籍画像Bp(左目用書籍画像BpL及び右目用書籍画像BpR)の画像データを生成する。
【0156】
制御部は、生成した各ページの向きごとの書籍画像Bpの画像データをもとに、ページの向きが時間的に連続して変化していくような動画像の動画像データを生成する。制御部は、この動画像データを、例えばMPEG−MVC(Moving Picture Experts Group − Multview Video Coding)などの3D動画の形式に従って生成する。そして、制御部は、当該動画像データを、例えばBD(Blu−ray Disc(登録商標))などの記録媒体に書き込んでおく。
【0157】
このような動画像データが記録された記録媒体(例えばBD)を、再生装置(例えばBDプレーヤ)などによって再生すると、電子書籍のページがめくられる様子を表した動画像をユーザに視聴させることができる。
【0158】
また、この動画像では、ページの向き(すなわち写真画像Hpの向き)が変更されるのに伴って、変更後の向きに対応する写真画像Hpが次々に置き換えられていく。したがって、写真画像Hpの向きが変わるのに応じて、その向きに適した写真画像Hpを表示でき、写真画像Hpの向きが変わっても、立体的に見えるようにすることができる。
【0159】
また再生装置において、例えば、動画像を一時停止すれば、ユーザに、電子書籍のページを、時間をかけて確認させることができる。また例えば、動画像を逆再生することで、ページ戻しを行うことができる。
【0160】
ところで、装置によっては、ページ画像Ppと写真画像Hpとを合成して書籍画像Bpを生成する処理の負荷により、ページをめくる(すなわちページの向きを変更する)操作入力に応じてリアルタイムに実行できない場合がある。
【0161】
そこで上述したように、PCなどで、予め、異なる複数のページの向きごとに、ページをその向きにしたページ画像Ppに、その向きに対応する写真画像Hpを配置した書籍画像Bpを生成する。そして、これをもとに、ページの向きが連続して変化していくような動画像の動画像データを生成して記録媒体に記録しておく。
【0162】
これにより再生装置で記録媒体に記録された動画像データを再生するだけで、ページ画像Pp内に配置された写真画像Hpの自然な立体感を実現しながら、電子書籍のページがめくられる動画像をユーザに視聴させることができる。
【0163】
因みに、再生装置は、このようにして生成された動画像データを、ネットワークを介してダウンロードして再生するようにしてもよい。
【0164】
[2−5.他の実施の形態5]
さらに、上述した実施の形態では、画面に表示する書籍画像Bpに含まれるオブジェクトとしての電子書籍のページ内に、立体視画像である写真画像Hpを配置し、ページの向きを変更するのに応じて、視点の向きを変更した写真画像Hpを表示させるようにした。
【0165】
これに限らず、立体視画像ではない画像(2Dの画像)である写真画像をページ内に配置し、ページの向きを変更するのに応じて、視点の向きを変更した写真画像を表示させるようにしてもよい。
【0166】
この場合、2Dの画像である写真画像において、視点の向きが異なる複数の写真画像の画像データを補助記憶装置13に記憶しておく。制御部11は、ページの向きを変更する場合、視点の向きが異なる複数の写真画像の中から、変更後のページの向きに対応する視点の向きである写真画像を抽出する。そして制御部11は、ページの向きを変更させたページ画像内に当該抽出した写真画像を配置して書籍画像を生成して表示させる。
【0167】
[2−6.他の実施の形態6]
さらに、上述した実施の形態では、画面に表示する表示用画像である書籍画像Bpに含まれるオブジェクトである電子書籍のページ内に、立体視画像である写真画像Hpを配置するようにした。
【0168】
これに限らず、表示用画像としてこの他種々の画像を表示するようにしてもよく、この表示用画像が電子書籍のページに限らず、この他種々のオブジェクトを含んでいるようにしてもよい。また、立体視画像であれば、この他種々の画像をオブジェクト内に配置するようにしてもよい。
【0169】
また、ページ内に写真画像Hpを配置した書籍画像Bpに限らず、立体視画像を含む表示用画像であれば、この他種々の画像を表示し、当該画像に含まれる立体視画像の向き又は位置の少なくとも一方を変更する際に、本発明を適用するようにしてもよい。
【0170】
[2−7.他の実施の形態7]
さらに、上述した実施の形態では、画像処理装置1としての書籍閲覧装置10に、生成部2及び読出部5としての制御部2と、記憶部4としての補助記憶装置13と、表示部7としての表示装置14と、入力部6としての入力装置15とを設けるようにした。
【0171】
本発明はこれに限らず、同様の機能を有するのであれば、上述した書籍閲覧装置10の各機能部を、他の種々のハードウェアにより構成するようにしてもよい。
【0172】
また、生成部2及び読出部5と、記憶部4とが別々の装置に設けられていてもよい。例えば、立体視画像データ3が記憶された記憶部4を有するサーバから、ネットワークを介して、端末装置の読出部5が立体視画像データ3を読み出すようにしてもよい。さらに、生成部2及び読出部5と、表示部7、入力部6とが別々の装置に設けられていてもよい。
【0173】
さらに上述した実施の形態では、書籍閲覧装置10に本発明を適用するようにした。これに限らず、立体視画像を含む表示用画像のデータを生成しうる装置であれば、例えば、デジタルカメラ、パーソナルコンピュータ、携帯型電話機など、この他種々の機器に適用するようにしてもよく、また適用することができる。
【0174】
[2−8.他の実施の形態8]
さらに上述した実施の形態では、各種処理を実行するためのプログラムを、書籍閲覧装置10のROM又は補助記憶装置13に書き込んでおくようにした。
【0175】
これに限らず、例えば、書籍閲覧装置10にメモリカードなどの記憶媒体のスロットを設け、制御部11が、このスロットに差し込まれた記憶媒体からプログラムを読み出して実行するようにしてもよい。また制御部11が、この記憶媒体から読み出したプログラムを、補助記憶装置13にインストールするようにしてもよい。さらに書籍閲覧装置10にネットワークインターフェースを設け、制御部11が、プログラムを、ネットワークインターフェースを介して、ネットワーク上の機器からダウンロードして、補助記憶装置13にインストールするようにしてもよい。
【0176】
[2−9.他の実施の形態9]
さらに、本発明は、上述した実施の形態と他の実施の形態とに限定されるものではない。すなわち本発明は、上述した実施の形態と他の実施の形態の一部または全部を任意に組み合わせた形態、もしくは一部を抽出した形態にもその適用範囲が及ぶものである。
【産業上の利用可能性】
【0177】
本発明は、例えば、立体視画像を含む表示用画像のデータを生成する電子機器などで広く利用することができる。
【符号の説明】
【0178】
1……画像処理装置、2……制御部、3……立体視画像データ、4……記憶部、5……読出部、6……入力部、7……表示部、10……書籍閲覧装置、11……制御部、12……主記憶装置、13……補助記憶装置、14……表示装置、15……入力装置。

【特許請求の範囲】
【請求項1】
立体視画像を含む表示用画像のデータである表示用画像データを生成する生成部と、
視点の向き及び位置の少なくとも一方が異なる複数の立体視画像を有するデータである立体視画像データが記憶されている記憶部から当該立体視画像データを読み出す読出部と
を具え、
上記生成部は、
上記表示用画像に含まれる上記立体視画像の向き及び位置の少なくとも一方を変更させる場合、変更後の向き及び位置の少なくとも一方に対応する立体視画像を、上記読出部により読み出された上記立体視画像データに含まれる複数の立体視画像から抽出し、当該抽出した立体視画像を含む表示用画像の表示用画像データを生成する
画像処理装置。
【請求項2】
上記表示用画像に含まれる上記立体視画像は、上記表示用画像に含まれるオブジェクト内に配置されており、
上記生成部は、
上記オブジェクトの向き及び位置の少なくとも一方を変更させることに伴って上記オブジェクト内に配置された上記立体視画像の向き及び位置の少なくとも一方を変更させる場合、変更後の向き及び位置の少なくとも一方に対応する立体視画像を、上記読出部により読み出された上記立体視画像データに含まれる複数の立体視画像から抽出し、当該抽出した立体視画像を、向き及び位置の少なくとも一方を変更させたオブジェクト内に配置し、当該オブジェクトを含む表示用画像の表示用画像データを生成する
請求項1に記載の画像処理装置。
【請求項3】
上記立体視画像データは、
視点の向き及び位置の少なくとも一方が異なる複数の立体視画像をつなげたパノラマ画像のデータである
請求項2に記載の画像処理装置。
【請求項4】
上記オブジェクト内の上記立体視画像を配置する部分は、透明化されており、
上記生成部は、
上記オブジェクトの向き及び位置の少なくとも一方を変更させることに伴って上記オブジェクト内に配置された上記立体視画像の向き及び位置の少なくとも一方を変更させる場合、上記パノラマ画像における変更後の向き及び位置の少なくとも一方に対応する部分が、向き及び位置の少なくとも一方を変更させたオブジェクトの上記透明化された部分の下に位置するように上記表示用画像の下から上記パノラマ画像を重ねることにより、上記パノラマ画像から変更後の向き及び位置の少なくとも一方に対応する立体視画像を抽出して当該オブジェクト内に配置する
請求項3に記載の画像処理装置。
【請求項5】
上記立体視画像データは、
視点の向き及び位置の少なくとも一方が異なる複数の立体視画像毎のデータからなる
請求項2に記載の画像処理装置。
【請求項6】
上記オブジェクト内の上記立体視画像を配置する部分は、透明化されており、
上記生成部は、
上記オブジェクトの向き及び位置の少なくとも一方を変更させることに伴って上記オブジェクト内に配置された上記立体視画像の向き及び位置の少なくとも一方を変更させる場合、上記立体視画像データに含まれる複数の立体視画像から、変更後の向き及び位置の少なくとも一方に対応する立体視画像を選択することにより、変更後の向き及び位置の少なくとも一方に対応する上記立体視画像を抽出し、当該抽出した立体視画像を、向き及び位置の少なくとも一方を変更させたオブジェクトの上記透明化された部分の下に位置するように配置する
請求項5に記載の画像処理装置。
【請求項7】
上記生成部は、
入力部を介して上記表示用画像に含まれる上記立体視画像の向き及び位置の少なくとも一方を変更させる操作入力が行われると、変更後の向き及び位置の少なくとも一方に対応する立体視画像を、上記読出部により読み出された上記立体視画像データに含まれる複数の立体視画像から抽出し、当該抽出した立体視画像を含む表示用画像の表示用画像データを生成し、当該表示用画像データに基づく表示用画像を表示部に表示させる
請求項1に記載の画像処理装置。
【請求項8】
上記生成部は、
上記読出部により読み出された上記立体視画像データをもとに、上記表示用画像に含まれる上記立体視画像の向き及び位置の少なくとも一方を連続して変化していくような動画像の動画像データを生成する
請求項1に記載の画像処理装置。
【請求項9】
表示用画像に含まれる立体視画像の向き及び位置の少なくとも一方を変更する場合、変更後の向き及び位置の少なくとも一方に対応する立体視画像を、視点の向き及び位置の少なくとも一方が異なる複数の立体視画像を有するデータである立体視画像データに含まれる複数の立体視画像から抽出し、
当該抽出した立体視画像を含む表示用画像のデータである表示用画像データを生成する
画像処理方法。
【請求項10】
コンピュータに、
表示用画像に含まれる立体視画像の向き及び位置の少なくとも一方を変更する場合、変更後の向き及び位置の少なくとも一方に対応する立体視画像を、視点の向き及び位置の少なくとも一方が異なる複数の立体視画像を有するデータである立体視画像データに含まれる複数の立体視画像から抽出する抽出ステップと、
当該抽出した立体視画像を含む表示用画像のデータである表示用画像データを生成する生成ステップと
を実行させるための画像処理プログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate

【図20】
image rotate

【図13】
image rotate


【公開番号】特開2012−114816(P2012−114816A)
【公開日】平成24年6月14日(2012.6.14)
【国際特許分類】
【出願番号】特願2010−263899(P2010−263899)
【出願日】平成22年11月26日(2010.11.26)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】