コンテンツ表示装置及びコンテンツ表示方法
【課題】画像変形の逆変換式を用いることなく、変形後の再生画像上で指定された点の座標を、変形前の再生画像上の座標に変換することができるようにする。
【解決手段】変形後の水平座標基準画像I_h(x,y)から入力座標(x,y)に位置している画素の画素値を水平座標x’として取得するとともに、変形後の垂直座標基準画像I_v(x,y)から入力座標(x,y)に位置している画素の画素値を垂直座標y’として取得する座標変換部11を設け、再生情報解析部3が座標(x’,y’)に位置しているコンテンツに関するコンテンツデータを取得して、そのコンテンツデータをコンテンツ再生部4に出力する。
【解決手段】変形後の水平座標基準画像I_h(x,y)から入力座標(x,y)に位置している画素の画素値を水平座標x’として取得するとともに、変形後の垂直座標基準画像I_v(x,y)から入力座標(x,y)に位置している画素の画素値を垂直座標y’として取得する座標変換部11を設け、再生情報解析部3が座標(x’,y’)に位置しているコンテンツに関するコンテンツデータを取得して、そのコンテンツデータをコンテンツ再生部4に出力する。
【発明の詳細な説明】
【技術分野】
【0001】
この発明は、コンテンツ情報からコンテンツの再生画像を生成して、その再生画像をディスプレイに描画するコンテンツ表示装置及びコンテンツ表示方法に関するものである。
【背景技術】
【0002】
コンテンツ情報からコンテンツの再生画像を生成し、その再生画像を表示するコンテンツ表示装置の中には、その再生画像にエフェクトを付加することで変形し、変形後の再生画像を表示する機能を備えているものがある。
このようなコンテンツ表示装置は、一般的に以下の(1)〜(3)の要素から構成されている。
【0003】
(1)コンテンツ情報からコンテンツの再生画像を生成する再生画像生成部
(2)コンテンツに付加するエフェクトを表す画像変形情報(再生画像の変形に用いる変換式を含む情報)を用いて、再生画像生成部により生成された再生画像を変形させる再生画像変形部
(3)再生画像変形部により変形された再生画像をディスプレイに出力する表示処理部
【0004】
これにより、コンテンツの再生画像を表示するだけでなく、エフェクトが付加されているコンテンツの再生画像を表示することができる。
一方で、コンテンツには、選択ボタンのようにイベントが関連付けられているものもある。
このようなイベント付きコンテンツに対してエフェクトを付加する場合、変形後の再生画像上において、ユーザが、例えば、選択ボタンを表現している画像領域内の点を指定しても、その選択ボタンを表現している画像領域も変形されているため、その選択ボタンを表現している画像領域が、変形前の再生画像内に存在している選択ボタンを表現している画像領域と位置的にずれが生じており、変形前の再生画像上においては、その指定点の座標が、選択ボタンを表現している画像領域外の座標である可能性がある。
【0005】
コンテンツ表示装置は、各コンテンツの表示位置をコンテンツのレイアウト情報(変形前の再生画像における各コンテンツの位置関係を示す情報)で管理しているので、変形前の再生画像上の座標でなければ、ユーザが選択ボタンを押下しているか否かを判断することができない。
このため、変形後の再生画像上において、指定点の座標が、選択ボタンを表現している画像領域内の座標であっても、変形前の再生画像上において、指定点の座標が、選択ボタンを表現している画像領域外の座標である場合、コンテンツ表示装置は、ユーザが選択ボタンを押下していると認識することができず、選択ボタンが押下された場合の処理に移行することができない。
【0006】
そこで、以下の特許文献1に開示されている座標変換技術、即ち、再生画像変形部における画像変形の逆変換式を用いて、変形後の再生画像上で指定された点の座標を、変形前の再生画像上の座標に変換する技術をコンテンツ表示装置に適用すれば、ユーザが選択ボタンを押下していることを認識して、選択ボタンが押下された場合の処理に移行することができる。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】特開2005−92592号公報(段落番号[0005]、図1)
【発明の概要】
【発明が解決しようとする課題】
【0008】
従来のコンテンツ表示装置は以上のように構成されているので、再生画像変形部における画像変形の逆変換式が与えられていれば、その逆変換式を用いて、変形後の再生画像上で指定された点の座標を、変形前の再生画像上の座標に変換することができる。しかし、デジタルエフェクトによる画像変形処理の場合、変換式が完全に隠蔽された形で提供される場合が多く、必ずしも逆変換式が明らかにされていないケースがある。このように、逆変換式が明らかにされていないケースでは、変形後の再生画像上で指定された点の座標を、変形前の再生画像上の座標に変換することができないなどの課題があった。
【0009】
この発明は上記のような課題を解決するためになされたもので、画像変形の逆変換式を用いることなく、変形後の再生画像上で指定された点の座標を、変形前の再生画像上の座標に変換することができるコンテンツ表示装置及びコンテンツ表示方法を得ることを目的とする。
【課題を解決するための手段】
【0010】
この発明に係るコンテンツ表示装置は、再生画像生成手段により生成された再生画像と同一の解像度を有し、全ての画素の画素値が、当該画素の座標を表す値である座標基準画像を生成する座標基準画像生成手段と、画像変形情報を用いて、座標基準画像生成手段により生成された座標基準画像を変形させる座標基準画像変形手段と、表示処理手段により表示されている変形後の再生画像上の座標を入力する座標入力手段と、座標基準画像変形手段により変形された座標基準画像から座標入力手段により入力された座標に位置している画素の画素値を変形前の再生画像の座標として取得する座標変換手段とを設け、再生制御手段が座標変換手段により取得された変形前の再生画像の座標に応じたイベント処理を実施するようにしたものである。
【発明の効果】
【0011】
この発明によれば、再生画像生成手段により生成された再生画像と同一の解像度を有し、全ての画素の画素値が、当該画素の座標を表す値である座標基準画像を生成する座標基準画像生成手段と、画像変形情報を用いて、座標基準画像生成手段により生成された座標基準画像を変形させる座標基準画像変形手段と、表示処理手段により表示されている変形後の再生画像上の座標を入力する座標入力手段と、座標基準画像変形手段により変形された座標基準画像から座標入力手段により入力された座標に位置している画素の画素値を変形前の再生画像の座標として取得する座標変換手段とを設け、再生制御手段が座標変換手段により取得された変形前の再生画像の座標に応じたイベント処理を実施するように構成したので、画像変形の逆変換式を用いることなく、変形後の再生画像上で指定された点の座標を、変形前の再生画像上の座標に変換することができるようになり、その結果、指定された点の座標に応じた処理を実施することができる効果がある。
【図面の簡単な説明】
【0012】
【図1】この発明の実施の形態1によるコンテンツ表示装置を示す構成図である。
【図2】この発明の実施の形態1によるコンテンツ表示装置の処理内容を示すフローチャートである。
【図3】コンテンツの画像例を示す説明図である。
【図4】表示処理部6による再生画像Aの描画例を示す説明図である。
【図5】コンテンツ再生部4により生成された再生画像Aにおける各画素の画素値を示すマッピング図である。
【図6】水平座標基準画像I_h(x,y)における各画素の画素値を示すマッピング図である。
【図7】垂直座標基準画像I_v(x,y)における各画素の画素値を示すマッピング図である。
【図8】再生画像変形部5により変形された再生画像Aを含む表示画面(表示装置7の表示画面)における各画素の画素値を示すマッピング図である。
【図9】座標基準画像変形部9により変形された水平座標基準画像I_h(x,y)における各画素の画素値を示すマッピング図である。
【図10】座標基準画像変形部9により変形された垂直座標基準画像I_v(x,y)における各画素の画素値を示すマッピング図である。
【図11】この発明の実施の形態2によるコンテンツ表示装置を示す構成図である。
【図12】この発明の実施の形態2によるコンテンツ表示装置の処理内容を示すフローチャートである。
【図13】この発明の実施の形態3によるコンテンツ表示装置を示す構成図である。
【図14】この実施の形態3におけるコンテンツ表示装置のコンテンツ変形再生部12−nを示す構成図である。
【図15】この発明の実施の形態3によるコンテンツ表示装置の処理内容を示すフローチャートである。
【図16】コンテンツUの再生画像の例を示す説明図である。
【図17】再生画像変形部5−Uにより変形された再生画像Uの例を示す説明図である。
【図18】表示処理部6による表示画像の例を示す説明図である。
【図19】再生画像生成部4−Uにより生成された再生画像Uにおける各画素の画素値を示すマッピング図である。
【図20】座標画像合成部13により変形された水平座標画像H(x,y)における各画素の画素値を示すマッピング図である。
【図21】座標画像合成部13により変形された垂直座標画像V(x,y)における各画素の画素値を示すマッピング図である。
【発明を実施するための形態】
【0013】
実施の形態1.
図1はこの発明の実施の形態1によるコンテンツ表示装置を示す構成図である。
図1において、データ記憶部1は少なくとも1以上の再生可能なイベント付きコンテンツに関するコンテンツ情報を記憶しているほか、コンテンツに付加するエフェクトを表す画像変形情報を記憶しているメモリやハードディスクなどの記録媒体である。
【0014】
ここで、「コンテンツ」は、1つの画像であり、その画像の種類には、例えば、文字列、静止画、ムービー、3Dコンピュータグラフィックスなどがある。
「イベント付コンテンツ」は、コンテンツ内の領域がイベント処理と関連付けられているコンテンツであり、関連付けられるイベントは1つであっても、複数であってもよい。
「コンテンツ情報」は、コンテンツの解像度を示す解像度情報、フレームレート、再生時間、コンテンツを構成する全素材の圧縮画像データ、コンテンツ上の任意の領域(イベント発生領域)を示す情報、その領域が押下された際に実施する処理内容を示すイベント情報などが該当し、「コンテンツ」を再生するためのデータである。
また、「圧縮画像データ」は、画像が静止画やムービーであれば、符号化された画像データ、画像が文字列であれば、文字コードやフォントなどの情報、画像が3DCGであれば、ポリゴン、テクスチャ、色などの情報(非圧縮の画像データを生成するために必要な情報)が該当する。
また、「画像変形情報」は、コンテンツにエフェクトを付加するに際して、そのコンテンツの変形に用いる変換式を含む情報であり、その画像変形情報には、当該エフェクトを識別するエフェクト識別情報(例えば、エフェクト名や、エフェクトの識別番号などを示す情報)が付加されている。
なお、データ記憶部1はデータ記憶手段を構成している。
【0015】
再生情報入力部2は再生対象のコンテンツを選択する処理を実施する。具体的には、選択したコンテンツを識別するコンテンツ識別情報(例えば、コンテンツ名や、コンテンツの識別番号などを示す情報)や、コンテンツに付加するエフェクトを識別するエフェクト識別情報などを含む再生情報を入力する処理を実施する。
なお、再生情報入力部2は、インターネットやLANなどのネットワークから再生情報を入力する場合、例えば、LANカードなどのネットワークI/F機器から構成され、ユーザの操作を受け付けて再生情報を入力する場合、キーボードやマウスなどのマンマシンインタフェースから構成される。
【0016】
再生制御部3は例えばCPUを実装している半導体集積回路、あるいは、ワンチップマイコンなどから構成されており、再生情報入力部2により入力された再生情報に含まれているコンテンツ識別情報及びエフェクト識別情報を抽出する処理を実施する。
また、再生制御部3はデータ記憶部1により記憶されているコンテンツ情報の中から、そのコンテンツ識別情報が示すコンテンツ情報を取得して、そのコンテンツ情報が示すイベント付コンテンツの圧縮画像データを再生画像生成部4に出力するとともに、解像度情報を座標基準画像生成部8に出力し、また、データ記憶部1により記憶されている画像変形情報の中から、そのエフェクト識別情報が示す画像変形情報を取得して、その画像変形情報を再生画像変形部5及び座標基準画像変形部9に出力する処理を実施する。
なお、再生制御部3は再生制御手段を構成している。
【0017】
再生画像生成部4は例えばCPUを実装している半導体集積回路、あるいは、ワンチップマイコン、GPU(Graphics Processing Unit)などから構成されており、再生制御部3から出力された圧縮画像データからコンテンツの再生画像を生成する処理を実施する。なお、再生画像生成部4は再生画像生成手段を構成している。
【0018】
再生画像変形部5は例えばCPUを実装している半導体集積回路、あるいは、ワンチップマイコン、GPUなどから構成されており、再生制御部3から出力された画像変形情報を用いて、再生画像生成部4により生成された再生画像を変形させる処理を実施する。
ただし、再生画像変形部5は、イベント発生領域もコンテンツ上の領域であるため、再生画像と同様に変形させる。
なお、再生画像変形部5は再生画像変形手段を構成している。
【0019】
表示処理部6は画像処理を実施するGPUなどから構成されており、再生画像変形部5により変形された再生画像を格納する1つ以上のフレームバッファを備えている。
また、表示処理部6は表示装置7の画面を更新するタイミングに合わせてフレームバッファの内容を表示装置7に出力する。
表示装置7は表示処理部6の表示処理によって表示画像を表示するディスプレイである。
なお、表示処理部6及び表示装置7から表示処理手段が構成されている。
【0020】
座標基準画像生成部8は例えばCPUを実装している半導体集積回路、あるいは、ワンチップマイコンなどから構成されており、再生制御部3から出力されたコンテンツの解像度情報が示す解像度(再生画像生成部4により生成された再生画像の解像度と同一の解像度)を有する水平座標基準画像と垂直座標基準画像を生成する処理を実施する。
ここで、水平座標基準画像は、再生画像の水平方向座標から一対一に求められる値を画素値とし、垂直座標基準画像は、再生画像の垂直方向座標から一対一に求められる値を画素値としている。
例えば、コンテンツの解像度がWS×HSの場合、左側からM(例えば、M=1,2,3,・・・,WS)番目の列に存在している全ての画素の画素値が“M”である水平座標基準画像、上側からN(例えば、N=1,2,3,・・・,HS)番目の行に存在している全ての画素の画素値が“N”である垂直座標基準画像を生成する処理を実施する。
なお、座標基準画像生成部8は座標基準画像生成手段を構成している。
【0021】
座標基準画像変形部9は例えばCPUを実装している半導体集積回路、あるいは、ワンチップマイコン、GPUなどから構成されており、再生制御部3から出力された画像変形情報を用いて、座標基準画像生成部8により生成された水平座標基準画像及び垂直座標基準画像を変形させる処理を実施する。なお、座標基準画像変形部9は座標基準画像変形手段を構成している。
【0022】
座標入力部10は例えばキーボードやマウスやタッチパネルなどのマンマシンインタフェースから構成されており、表示装置7により表示されている変形後の再生画像上の座標(ユーザにより指定された座標)を入力する処理を実施する。なお、座標入力部10は座標入力手段を構成している。
座標変換部11は例えばCPUを実装している半導体集積回路、あるいは、ワンチップマイコンなどから構成されており、座標基準画像変形部9から変形後の水平座標基準画像と変形後の垂直座標基準画像を取得し、座標入力部10から入力座標を取得する処理を実施する。
また、座標変換部11は変形後の水平座標基準画像から入力座標に位置している画素の画素値を変形前の再生画像の水平座標として取得するとともに、変形後の垂直座標基準画像から入力座標に位置している画素の画素値を変形前の再生画像の垂直座標として取得し、その水平座標と垂直座標を再生制御部3に出力する処理を実施する。
なお、座標変換部11は座標取得手段を構成している。
【0023】
再生制御部3は座標変換部11から水平座標と垂直座標を受けると、データ記憶部1から取得したコンテンツ情報に含まれるイベント発生領域とイベント情報を抽出し、その水平座標及び垂直座標を含むイベント発生領域を照合することで、照合したイベント発生領域に関連付けられたイベント情報に基づいてイベント処理を実施する。
なお、イベント処理がコンテンツの表示内容に関わる処理としては、例えば、コンテンツ内の素材、コンテンツ自体、エフェクト、イベントの変更などの場合、その内容に応じてデータ記憶部1から必要なデータを取得し、再生画像生成部4、再生画像変形部5、表示処理部6、座標基準画像生成部8、座標基準画像変形部9に渡す情報を変更するようにしてもよい。また、イベント処理がデータ記憶部1に格納された別のプログラムを実行する内容の場合は、プログラムを取得して実施するようにしてもよい。
【0024】
200は、再生情報である。
201は、再生情報に含まれているコンテンツ識別情報が示すコンテンツ情報及び再生情報に含まれているエフェクト識別情報が示す画像変形情報である。
202は、コンテンツ情報に含まれている圧縮画像データである。
203は、コンテンツの再生画像である。
204は、コンテンツに付加されている画像変形情報である。
205は、変形後の再生画像である。
206は、表示装置7により表示される表示画像である。
207は、コンテンツの解像度情報である。
208は、水平座標基準画像と垂直座標基準画像である。
209は、変形後の水平座標基準画像と変形後の垂直座標基準画像である。
210は、表示装置7により表示されている変形後の再生画像上の座標である。
211は、変形前の再生画像上の座標である。
【0025】
図1の例では、コンテンツ表示装置の構成要素であるデータ記憶部1、再生情報入力部2、再生制御部3、再生画像生成部4、再生画像変形部5、表示処理部6、表示装置7、座標基準画像生成部8、座標基準画像変形部9、座標入力部10及び座標変換部11のそれぞれが専用のハードウェアで構成されているものを想定しているが、コンテンツ表示装置がコンピュータで構成される場合、再生情報入力部2、再生制御部3、再生画像生成部4、再生画像変形部5、表示処理部6、座標基準画像生成部8、座標基準画像変形部9、座標入力部10及び座標変換部11の処理内容を記述しているプログラムをコンピュータのメモリに格納し、当該コンピュータのCPUが当該メモリに格納されているプログラムを実行するようにしてもよい。さらに、コンピュータがGPUを備える場合、再生画像生成部4、再生画像変形部5、表示処理部6、座標基準画像生成部8、座標基準画像変形部9のいずれか、あるいは、全てに該当する前記メモリに格納されているプログラムをGPUが実行するようにしてもよい。
図2はこの発明の実施の形態1によるコンテンツ表示装置の処理内容を示すフローチャートである。
【0026】
次に動作について説明する。
以下、図3のコンテンツを例に取り、図2に沿って、静止画像のコンテンツを再生する場合の動作を説明する。
図3はコンテンツの再生画像の例を示す説明図である。
図3(a)は、500画素×500画素サイズのコンテンツの画像Aの中に、2つのボタンを表す図形a1,a2(以降、「ボタンa1」、「ボタンa2」と称する)が描かれている例を示している。また、画像Aのボタンa1,ボタンa2の表示領域をイベント発生領域とし、ボタンa1の表示領域を押下した場合にコンテンツ表示装置が再生終了するイベント処理を実施し、ボタンa2の表示領域を押下した場合、画像Aを同サイズの画像Bに入れ替えるイベント処理を実施するものとする。
なお、この実施の形態1では、ユーザがイベント発生領域を認識できるようにするために、画像A内にボタンa1、ボタンa2が表示されているものとするが、表現方法は上記の方法に限定されない。また、必ずしもイベント発生領域を表現しなくともよい。
図3(b)は画像Aを表示している際にボタンa2の表示領域がユーザにより触れられたときに、画像Aの代わりに表示される画像Bを示している。
【0027】
再生情報入力部2は、例えば、ユーザの指示の下、再生対象のコンテンツを識別するコンテンツ識別情報、コンテンツに付加するエフェクトを識別するエフェクト識別情報を含む再生情報を入力すると、その再生情報を再生制御部3に出力する(図2のステップST1)。
【0028】
再生制御部3は、再生情報入力部2から再生情報を受けると、その再生情報に含まれているコンテンツ識別情報及びエフェクト識別情報を抽出する(ステップST2)。
再生制御部3は、コンテンツ識別情報及びエフェクト識別情報を抽出すると、データ記憶部1により記憶されているコンテンツ情報の中から、そのコンテンツ識別情報が示すイベント付コンテンツのコンテンツ情報を取得し、そのコンテンツ情報に含まれている画像Aの圧縮画像データを再生画像生成部4に出力し、そのコンテンツの解像度情報を座標基準画像生成部8に出力する。
また、再生制御部3は、データ記憶部1により記憶されている画像変形情報の中から、そのエフェクト識別情報が付加されているエフェクトEの画像変形情報を取得して、その画像変形情報を再生画像変形部5及び座標基準画像変形部9に出力する(ステップST3)。
【0029】
再生画像生成部4は、再生制御部3から出力された画像Aの圧縮画像データからコンテンツの再生画像Aを生成する(ステップST4)。
ここで、図5は図3(a)の再生画像Aにおける各画素の画素値を示すマッピング図である。
図5では、記述を簡略化して、20マス×20マスしか示していないが、再生画像Aが、例えば、500画素×500画素サイズのコンテンツの画像である場合、500画素×500画素の画素値を有しているものとする。
図5において、画素値「1」はほぼ黒色(黒色の場合、画素値「0」)を示しており、ボタンa1,ボタンa2が存在している領域である。
また、画素値「255」は白色を示しており、ボタンa1,ボタンa2以外の領域である。
【0030】
再生画像変形部5は、再生画像生成部4がコンテンツの再生画像Aを生成すると、再生制御部3から出力されたエフェクトEの画像変形情報に含まれている変換式を用いて、再生画像Aを変形させる処理を実施する(ステップST5)。
ここで、再生画像変形部5が変換式を用いて、再生画像Aを変形させる処理自体は公知の技術であるため詳細な説明を省略する。
また、変換式も公知の式でよく、再生画像Aを変形させるものであれば、いかなる変換式を用いてもよい。
【0031】
表示処理部6は、再生画像変形部5が再生画像Aを変形させる処理を実施すると、変形後の再生画像Aを内部のフレームバッファに格納する。
表示処理部6は、再生画像Aをフレームバッファに格納すると、画面更新タイミングに合わせて、その再生画像Aを表示画像として表示装置7に出力する(ステップST6)。
【0032】
ここで、図4は、図3(a)のコンテンツをエフェクトEで変形した場合の表示画像を示す説明図である。図4のエフェクトEは、再生画像を波状に変形し、表示画面の中心に配置する効果を用いている。
また、表示装置7の画面サイズが1000画素×1000画素サイズであり、再生画像変形部5にて、1000画素×1000画素のサイズの中心に再生画像Aが変形されて配置されている。
【0033】
図8は図4の表示画像における各画素の画素値を示すマッピング図である。
図8では、記述を簡略化して、40マス×40マス分しか示していないが、表示装置7の表示画面は、1000画素×1000画素サイズであるため、実際には、1000画素×1000画素の画素値を有している。
図8において、画素値「・」は白色(白色の場合、画素値「255」)を示しており、ボタンa1,ボタンa2が描かれていない領域である。
また、画素値「1」はほぼ黒色を示しており、ボタンa1,ボタンa2が描かれた領域である。
また、数値が空白の画素は画素値が「0」であるものとする(表示画面の背景領域)。
【0034】
座標基準画像生成部8は、再生制御部3から出力された解像度情報が示すコンテンツの解像度(再生画像生成部4により生成された再生画像Aの解像度と同一の解像度)を有する水平座標基準画像I_h(x,y)及び垂直座標基準画像I_v(x,y)を生成する(ステップST7)。
【0035】
例えば、座標基準画像生成部8は、図6に示すように、左側からM(例えば、M=1,2,3,・・・,500)番目の列に存在している全ての画素の画素値が“M”である水平座標基準画像I_h(x,y)を生成する。
I_h(x,y)=x
ただし、x=1,2,・・・,500
y=1,2,・・・,500
なお、(x,y)は、水平座標基準画像を構成している画素の位置を示しており、(1,1)は水平座標基準画像の左上の画素を示し、(500,500)は水平座標基準画像の右下の画素を示している。
図6では、記述を簡略化して、20マス×20マスしか示していないが、水平座標基準画像は、500画素×500画素サイズの画像であるため、実際には、500画素×500画素の画素値を有している。
【0036】
また、座標基準画像生成部8は、図7に示すように、上側からN(例えば、N=1,2,3,・・・,500)番目の行に存在している全ての画素の画素値が“N”である垂直座標基準画像I_h(x,y)を生成する。
I_h(x,y)=y
ただし、x=1,2,・・・,500
y=1,2,・・・,500
なお、(x,y)は、垂直座標基準画像を構成している画素の位置を示しており、(1,1)は垂直座標基準画像の左上の画素を示し、(500,500)は垂直座標基準画像の右下の画素を示している。
図7では、記述を簡略化して、20マス×20マスしか示していないが、垂直座標基準画像は、500画素×500画素サイズの画像であるため、実際には、500画素×500画素の画素値を有している。
【0037】
座標基準画像変形部9は、座標基準画像生成部8が水平座標基準画像I_h(x,y)及び垂直座標基準画像I_v(x,y)を生成すると、再生画像変形部5と同様に、再生制御部3から出力されたエフェクトEの画像変形情報を用いて、水平座標基準画像I_h(x,y)及び垂直座標基準画像I_v(x,y)を変形させる処理を実施する(ステップST8)。
ここで、図9は座標基準画像変形部9により変形された水平座標基準画像I_h(x,y)における各画素の画素値を示すマッピング図である。
また、図10は座標基準画像変形部9により変形された垂直座標基準画像I_v(x,y)における各画素の画素値を示すマッピング図である。
ただし、図9及び図10では、図面の簡略化のため一部省略している。
【0038】
ユーザは、表示処理部6により変形後の再生画像Aが表示されているとき(図8を参照)、例えば、ボタンa1の表示領域の押下を行う場合、表示装置7上にタッチパネルが搭載されていれば、変形後のボタンa1が表示されている領域に触れる。
表示装置7上にタッチパネルが搭載されていなければ、例えば、マウスを操作して、変形後のボタンa1が表示されている領域をクリックする。
座標入力部10は、ユーザが表示装置7上のタッチパネルに触れると(ステップST10)、ユーザにより触れられた位置を示す表示画面(変形後の再生画像A)上の座標(x,y)を座標変換部11に出力する(ステップST11)。
【0039】
座標変換部11は、座標入力部10からユーザにより触れられた位置を示す変形後の再生画像A上の座標(x,y)を受けると、座標基準画像変形部9により変形された図9の水平座標基準画像I_h(x,y)から、再生画像A上の座標(x,y)に位置している画素の画素値を水平座標x’として取得する。
また、座標変換部11は、座標基準画像変形部9により変形された図10の垂直座標基準画像I_v(x,y)から、再生画像A上の座標(x,y)に位置している画素の画素値を垂直座標y’として取得する(ステップST12)。
【0040】
例えば、ユーザが再生画像A上において、座標(5,7)の位置に触れていれば、図9の水平座標基準画像I_h(x,y)から水平座標“2”を取得し、図10の垂直座標基準画像I_v(x,y)から垂直座標“5”を取得する。
あるいは、ユーザが再生画像A上において、座標(7,8)の位置に触れていれば、図9の水平座標基準画像I_h(x,y)から水平座標“3”を取得し、図10の垂直座標基準画像I_v(x,y)から垂直座標“6”を取得する。
座標変換部11は、上記のようにして、水平座標x’と垂直座標y’を取得すると、その水平座標x’と垂直座標y’を再生制御部3に出力する。
【0041】
再生制御部3は、座標変換部11から水平座標x’と垂直座標y’を受けると、その座標(x’,y’)と、再生情報に含まれているコンテンツのイベント発生領域を照合することで、その座標(x’,y’)を含むイベント発生領域を検索する(ステップST13)。
例えば、イベント発生領域であるボタンa1,ボタンa2の表示領域が下記の通りであるとするとき、水平座標x’=150、垂直座標y’=330であれば、座標(x’,y’)を含むイベント発生領域a1がヒットする。
なお、イベント発生領域a1は、ボタンa1の表示領域と同じ領域を示し、イベント発生領域a2は、ボタンa2の表示領域と同じ領域を示している。説明の便宜上、画像A内の領域を示す場合、ボタンa1、ボタンa2と表現し、イベント発生領域を示す場合、イベント発生領域a1、イベント発生領域a2と示すものとする。
イベント発生領域a1 イベント発生領域a2
X座標 120〜200 300〜380
Y座標 300〜420 300〜420
【0042】
上記の例では、座標(x’,y’)を含むイベント発生領域a1がヒットしているが、例えば、水平座標x’=360、垂直座標y’=380であれば、座標(x’,y’)を含むイベント発生領域a2がヒットする。
例えば、水平座標x’=180、垂直座標y’=240であれば、該当するイベント発生領域が存在しないので、何もイベント処理を実施しない。
【0043】
再生制御部3は、座標(x’,y’)を含むイベント発生領域が存在すれば(ステップST14)、そのイベント発生領域に関連付けられたイベント処理を実施する(ステップST15)。
例えば、イベント発生領域a1がヒットした場合は、ボタンa1の表示領域を押下したものとして、“再生終了”というイベント処理が実行される。
また、イベント発生領域a2がヒットした場合は、ボタンa2の表示領域を押下したものとして、“画像Aを画像Bに変更”するというイベント処理を実施する。
【0044】
画像制御部3は、イベント処理の結果、表示画像の更新が発生するか否かをチェックする(ステップST16)。
例えば、イベント処理が“再生終了”の場合、表示画像の更新は発生せず、ステップST17に移行する。
一方、イベント処理が“画像Aから画像Bへの変更”の場合、表示画像の更新が発生するため、ステップST3の処理に戻り、画像Bを含むコンテンツ情報をデータ記憶部1から取得し、画像Bの圧縮画像データを再生画像生成部4に出力し、画像Aを画像Bに変更して、ステップST3〜ST15の処理を繰り返し実施する。
なお、画像A、画像Bが、イベント処理以外では、再生画像が更新されない静止画像であるものとすると、イベント処理が発生しない限りは、表示画像の更新も発生しない。
【0045】
画像制御部3は、イベント処理の結果、表示画像の更新が発生しない場合、再生終了か否かをチェックする(ステップST17)。
例えば、イベント処理が“再生終了”を実施している場合、あるいは、コンテンツの再生時間が設定されていて、その時刻を経過している場合、一連の処理を終了する。
一方、再生終了しない場合、ステップST10の処理に戻り、ステップST10〜ST16までの処理を繰り返し実施する。
【0046】
以上で明らかなように、この実施の形態1によれば、再生画像生成部4により生成された再生画像の解像度と同一の解像度を有する画像であって、再生画像の水平方向座標から一対一に求められる値を画素値とする水平座標基準画像を生成するとともに、再生画像の垂直方向座標から一対一に求められる値を画素値とする垂直座標基準画像を生成する座標基準画像生成部8と、コンテンツに付加するエフェクトを表す画像変形情報を用いて、座標基準画像生成部8により生成された水平座標基準画像及び垂直座標基準画像を変形させる座標基準画像変形部9と、表示装置7により表示されている再生画像A上の座標を入力する座標入力部10と、座標基準画像変形部9により変形された水平座標基準画像から座標入力部10により入力された座標に位置している画素の画素値を水平座標x’として取得するとともに、座標基準画像変形部9により変形された垂直座標基準画像から座標入力部10により入力された座標に位置している画素の画素値を垂直座標y’として取得する座標変換部11とを設け、再生制御部3が、座標変換部11により取得された水平座標x’及び垂直座標y’を含むイベント発生領域に該当するイベント処理を実施するように構成したので、画像変形の逆変換式を用いることなく、変形後の再生画像上で指定された点の座標を、変形前の再生画像上の座標に変換することができるようになり、その結果、指定された点の座標に応じた処理を実施することができる効果を奏する。
【0047】
なお、上記の例では、座標基準画像変形部9により変形された水平座標基準画像(または、垂直座標基準画像)を示す図9(または、図10)において、コンテンツが存在していない画素に“0”を用いているが、水平座標基準画像(または、垂直座標基準画像)で使用されない値であれば、“0”に限るものではない。
【0048】
この実施の形態1では、再生画像生成部4が再生制御部3から取得した圧縮画像データから再生画像を生成させるものについて示したが、例えば、圧縮画像データが非圧縮の画像データで再生画像の画像データと同一のものである場合には、その再生画像の生成処理を行わずに、再生制御部3から取得した画像データをそのまま再生画像として再生画像変形部5に出力するようにしてもよい。
【0049】
この実施の形態1では、再生画像変形部5が画像変形情報に含まれている変換式を用いて、再生画像生成部4により生成された再生画像を変形させるものについて示したが、例えば、エフェクト識別情報が再生情報に含まれていない場合や、エフェクト識別情報に対応する画像変形情報がデータ記憶部1に記憶されていないような場合には、その再生画像の変形処理を行わずに、その再生画像を表示処理部6に出力するようにしてもよい。
同様に、座標基準画像変形部9が画像変形情報に含まれている変換式を用いて、座標基準画像生成部8により生成された水平座標基準画像と垂直座標基準画像を変形させるものについて示したが、例えば、エフェクト識別情報が再生情報に含まれていない場合や、エフェクト識別情報に対応する画像変形情報がデータ記憶部1に記憶されていないような場合には、その水平座標基準画像と垂直座標基準画像の変形処理を行わずに、その水平座標基準画像と垂直座標基準画像を座標変換部11に出力するようにしてもよい。
【0050】
上記の例では、画像Aが2つのイベント発生領域を含んでいるものを示したが、1つ以上のイベント発生領域を含んでいれば、何個でも構わない。
上記の例では、画像Bが特にイベント発生領域を含んでいないものを示したが、画像Bが新たなイベント発生領域を含んでいてもよい。
【0051】
上記の例では、ステップST15において、画像Aを画像Bに変更した後、ステップST16において、画像の更新が発生することを検知した場合、ステップST3の処理に戻り、画像Bを含むコンテンツ情報をデータ記憶部1から取得し、画像Bの圧縮画像データを再生画像生成部4に出力し、画像Aを画像Bに変更して、ST3〜ST15の処理を繰り返し実施するものについて示したが、コンテンツが画像Bのようにイベント発生領域やイベント情報を含まない静止画像の場合、ST7〜ST16の処理を実施せずに、ST3〜ST6、ST17の処理を繰り返し実施するようにしてもよい。
また、再生制御部3が最初に画像Aのコンテンツ情報をデータ記憶部1から取得する際に、画像Bのコンテンツ情報も取得しておき、ステップST16で画像の更新が発生することを検知した場合、ステップST3の処理に戻る代わりに、既に再生制御部3が取得済みである画像Bのコンテンツ情報から画像Bの圧縮画像データを再生画像生成部4に出力し、画像Aを画像Bに変更して、ST3〜ST15の処理を繰り返し実施するようにしてもよい。
【0052】
実施の形態2.
上記実施の形態1では、静止画像であるコンテンツを再生するものについて示したが、 この実施の形態2では、動画像であるコンテンツを再生するものについて説明する。
図11はこの発明の実施の形態2によるコンテンツ表示装置を示す構成図である。
図11は再生制御部3及び表示処理部6以外の処理部は、図1と同様の処理部であるが、表示処理部6で発生させた表示画面の更新タイミングの発生通知を再生制御部3に通知する点が図1と異なっている。
【0053】
表示処理部6は、上記実施の形態1と同様に、画像処理を実施するGPUなどから構成されており、再生画像変形部5により変形された再生画像を格納する1つ以上のフレームバッファを備え、かつ、表示装置7の画面を更新するタイミングに合わせてフレームバッファの内容を表示装置7に出力する処理を実施するほかに、その表示画面の更新タイミングの発生を再生制御部3に通知する処理を実施する。
【0054】
再生制御部3は例えばCPUを実装している半導体集積回路、あるいは、ワンチップマイコンなどから構成されており、再生情報入力部2により入力された再生情報に含まれているコンテンツ識別情報及びエフェクト識別情報を抽出する処理を実施する。
また、再生制御部3はデータ記憶部1により記憶されているコンテンツ情報の中から、そのコンテンツ識別情報が示すコンテンツ情報を取得し、表示処理部6から通知された表示画面の更新タイミングの発生通知を受けると、そのコンテンツ情報が示すイベント付コンテンツの圧縮画像データを再生画像生成部4に出力するとともに、そのコンテンツの解像度情報を座標基準画像生成部8に出力し、また、データ記憶部1により記憶されている画像変形情報の中から、そのエフェクト識別情報が示す画像変形情報を取得して、その画像変形情報を再生画像変形部5及び座標基準画像変形部9に出力する処理を実施する。
【0055】
200〜211は、図1と同様である。
212は、表示画面の更新タイミングの発生通知である。
【0056】
図11の例では、コンテンツ表示装置の構成要素であるデータ記憶部1、再生情報入力部2、再生制御部3、再生画像生成部4、再生画像変形部5、表示処理部6、表示装置7、座標基準画像生成部8、座標基準画像変形部9、座標入力部10及び座標変換部11のそれぞれが専用のハードウェアで構成されているものを想定しているが、コンテンツ表示装置がコンピュータで構成される場合、再生情報入力部2、再生制御部3、再生画像生成部4、再生画像変形部5、表示処理部6、座標基準画像生成部8、座標基準画像変形部9、座標入力部10及び座標変換部11の処理内容を記述しているプログラムをコンピュータのメモリに格納し、当該コンピュータのCPUが当該メモリに格納されているプログラムを実行するようにしてもよい。さらに、コンピュータがGPUを備える場合、再生画像生成部4、再生画像変形部5、表示処理部6、座標基準画像生成部8、座標基準画像変形部9のいずれか、あるいは、全てに該当する前記メモリに格納されているプログラムをGPUが実行するようにしてもよい。
図12はこの発明の実施の形態2によるコンテンツ表示装置の処理内容を示すフローチャートである。
【0057】
次に動作について説明する。
この実施の形態2においても、上記実施の形態1と同様に、イベント発生領域a1を示すボタンa1と、イベント発生領域a2を示すボタンa2が描かれた画像Aを表す500画素×500画素のコンテンツを1000画素×1000画素の表示装置に再生する。
また、イベント処理の内容も、上記実施の形態1と同様に、ボタンa1の表示領域を押下すると、コンテンツが再生終了し、ボタンa2の表示領域を押下すると、コンテンツの画像Aが画像Bに切り替わるものとする。
なお、この実施の形態2では、画像Aは一定間隔で画像が更新される動画像であるものとし、このコンテンツ情報には、再生時刻t0(再生開始時刻)から再生時刻T(再生終了時刻)までの画像Aの圧縮画像データが保持されており、再生を開始してから時刻tを経過したときの画像Aの圧縮画像データをC_A(t)、コンテンツの再生画像をI_A(t)と表記する。
【0058】
また、説明の便宜上、この実施の形態2でも、上記実施の形態1と同様に、再生画像、水平座標基準画像、垂直座標基準画像、表示画像、変更後の水平座標基準画像、変更後の垂直座標基準画像は、それぞれ図3〜図10となるが、再生画像、表示画像は一定間隔で画像が更新されているものとする。
また、画像Aが再生される限り、ボタンa1、a2及びそのイベント発生領域は画像が変化しても変更されないものとする。
また、画像Bは、静止画像でも動画像でもよく、イベント発生領域とイベント情報を含んでいても、含んでいなくてもよい。
【0059】
ステップST1,ST2の処理内容は、上記実施の形態1と同様であるため説明を省略する。
【0060】
再生制御部3は、コンテンツ識別情報及びエフェクト識別情報を抽出すると、データ記憶部1により記憶されているコンテンツ情報の中から、そのコンテンツ識別情報が示すイベント付コンテンツのコンテンツ情報を取得する(ステップST3)。
再生制御部3は、画像Aが動画像であるため、表示処理部6から画面更新タイミングの発生通知を受けると、再生を開始してから時刻tを経過したときの圧縮画像データC_A(t)を再生画像生成部4に出力し、コンテンツの解像度情報を座標基準画像生成部8に出力する。
また、再生制御部3は、データ記憶部1により記憶されている画像変形情報の中から、そのエフェクト識別情報が付加されているエフェクトEの画像変形情報を取得して、その画像変形情報を再生画像変形部5及び座標基準画像変形部9に出力する(ステップST19)。
【0061】
ステップST4〜ST5の処理内容は、圧縮画像データをC_A(t)とし、コンテンツの再生画像AをI_A(t)とする以外は、上記実施の形態1と同様であるため説明を省略する。
【0062】
表示処理部6は、再生画像変形部5が再生画像Aを変形させる処理を実施すると、変形後の再生画像Aを内部のフレームバッファに格納する。
また、表示処理部6は、表示装置7の画面を更新するタイミングに合わせてフレームバッファの内容を表示装置7に出力する。
表示処理部6は、全コンテンツを合成すると、画面更新タイミングに合わせて、その再生画像Aを表示装置7に描画するとともに、その画面更新タイミングを再生制御部3に通知する(ステップST6)。
ステップST7〜ST15の処理内容は、上記実施の形態1と同様であるため説明を省略する。
【0063】
画像制御部3は、次のフレームで表示画像の更新が発生するか否かをチェックする(ステップST16)。
例えば、イベント処理が“再生終了”や“コンテンツの再生停止”の場合、次のフレームで表示画像の更新は発生しないため、ステップST17の処理に移行する。
一方、イベント処理が“画像Aから画像Bへの変更”の場合や、特にイベント処理が発生せずにコンテンツの再生終了時刻に至っていない場合、次のフレームで表示画像の更新が発生するため、ステップST18の処理に移行する。
ここで、「次のフレーム」は、次に表示処理部6から画面更新タイミングの発生通知を受けた後に、表示処理部6が表示装置7に表示する表示画像に相当する。
【0064】
画像制御部3は、次のフレームで表示画像の更新が発生しない場合、再生終了か否かをチェックする(ステップST17)。
例えば、イベント処理が“再生終了”を実施している場合、あるいは、コンテンツの再生時間が設定されていて再生終了時刻に至っている場合、一連の処理を終了する。
一方、再生終了しない場合、ステップST10の処理に戻り、ステップST10〜ST16までの処理を繰り返し実施する。
【0065】
画像制御部3は、次のフレームで表示画像の更新が発生する場合、次のフレームでコンテンツあるいはコンテンツに付加されたエフェクトが変更されるか否かをチェックする(ステップST18)。
例えば、ステップST15のイベント処理で画像Aを画像Bに変更する場合、ステップST3の処理に戻り、前回のステップST3の処理を完了してから時間tAを経過後、画像Bの圧縮データを再生画像生成部4に出力し、解像度情報を座標基準画像生成部8に出力する処理を実施し、再生画像I_A(t)を再生画像Bに変更して、ST19・ST4〜ST16の処理を繰り返し実施する。
また、ボタンa1の表示領域もボタンa2の表示領域も押下されておらず、画像Aを再生し続ける場合、ステップST19の処理に戻り、表示処理部6から画面更新タイミングの発生通知を受けると、再生制御部3はコンテンツ情報から、再生を開始してからの新たな時刻t’を経過した時の画像Aの圧縮画像データC_A(t’)を再生画像生成部4に出力し、以降、再生画像I_A(t)を再生画像I_A(t’)に変更して、ステップST4〜ST15の処理を繰り返し実施する。
【0066】
以上で明らかなように、この実施の形態2によれば、再生画像生成部4により生成された再生画像の解像度と同一の解像度を有する画像であって、再生画像の水平方向座標から一対一に求められる値を画素値とする水平座標基準画像を生成するとともに、再生画像の垂直方向座標から一対一に求められる値を画素値とする垂直座標基準画像を生成する座標基準画像生成部8と、コンテンツに付加するエフェクトを表す画像変形情報を用いて、座標基準画像生成部8により生成された水平座標基準画像及び垂直座標基準画像を変形させる座標基準画像変形部9と、表示装置7により表示されている再生画像A上の座標を入力する座標入力部10と、座標基準画像変形部9により変形された水平座標基準画像から座標入力部10により入力された座標に位置している画素の画素値を水平座標として取得するとともに、座標基準画像変形部9により変形された垂直座標基準画像から座標入力部10により入力された座標に位置している画素の画素値を垂直座標として取得する座標変換部11とを設け、再生制御部3が、座標変換部11により取得された水平座標及び垂直座標を含むイベント発生領域に該当するイベント処理を実施するように構成したので、画像変形の逆変換式を用いることなく、変形後の再生画像上で指定された点の座標を、変形前の再生画像上の座標に変換することができるようになり、その結果、指定された点の座標に応じた処理を実施することができる効果を奏する。また、再生する画像は静止画像だけでなく動画像にも対応することができる効果を奏する。
【0067】
この実施の形態2では、再生制御部3が表示処理部6から画面更新タイミングの発生通知を受ける度に、座標基準画像生成部8に対して解像度情報を出力し、座標基準画像生成部8では、再生制御部3が表示処理部6から画面更新タイミングの発生通知を受ける度に、水平座標基準画像と垂直座標基準画像を生成し、座標基準画像変形部9では、その水平座標基準画像と垂直座標基準画像を変形するものについて示したが、座標基準画像生成部8は再生制御部3から既に取得済みの解像度情報と同じ解像度情報を受けた場合は、新たに水平座標基準画像と垂直座標基準画像を生成せず、前回生成した水平座標基準画像と垂直座標基準画像を座標基準画像変形部9に出力するようにしてもよい。あるいは、コンテンツの幅のみ変更された場合は水平座標基準画像のみ、コンテンツの高さのみ変更された場合は垂直座標基準画像のみ生成するようにしてもよい。
【0068】
また、座標基準画像生成部8は座標入力部10から変形後の再生画像A上の座標(x,y)が入力されたときに限り(座標基準画像生成部8が座標入力部10から座標(x,y)が入力された旨の通知を受ける)、水平座標基準画像I_h(x,y)及び垂直座標基準画像I_v(x,y)を生成するようにしてもよい。
また、座標基準画像変形部9は座標入力部10から変形後の再生画像A上の座標(x,y)が入力されたときに限り(座標基準画像変形部9が座標入力部10から座標(x,y)が入力された旨の通知を受ける)、水平座標基準画像I_h(x,y)及び垂直座標基準画像I_v(x,y)を変形させるようにしてもよい。
【0069】
上記の例では、再生画像生成部4が、座標(x’,y’)がイベント発生領域a2内に含まれる場合、図3(b)に示すような画像Bを生成するものについて示したが、画像Bは静止画像でも動画像でもよい。また、画像Aのように、ボタンa1、ボタンa2、あるいは、別のイベント発生領域を含んでいてもよい。
【0070】
この実施の形態2では、画像変形情報、イベント発生領域及びイベント発生領域を押下した場合のイベント情報が固定であったが、これらも固定ではなく、再生制御部3が、表示処理部6から画面更新タイミングの発生通知を受ける度に更新されるようにしてもよい。
【0071】
上記の例では、ステップST19において、再生制御部3が、画像Aが動画像であるため、表示処理部6から画面更新タイミングの発生通知を受けると、再生を開始してから時刻tを経過したときの圧縮画像データC_A(t)、解像度及び画像変形情報を再生画像生成部4、座標基準画像生成部8、再生画像変形部5及び座標基準画像変形部9に出力するものを示したが、再生制御部3が、表示処理部6から画面更新タイミングの発生通知を受けずに、画像Aのコンテンツ情報に含まれる画面更新間隔を示す情報(例えば、フレームレートなど)に基づき、時間間隔Δt毎に、再生を開始してから時刻tを経過したときの圧縮画像データC_A(t)、解像度及び画像変形情報を再生画像生成部4、座標基準画像生成部8、再生画像変形部5及び座標基準画像変形部9に出力するようにしてもよい。
【0072】
上記の例では、ステップST17において、画像制御部3が、次のフレームで表示画像の更新が発生しない場合、再生終了か否かをチェックし、コンテンツの再生時間が設定されていて再生終了時刻に至っている場合、一連の処理を終了するようにしているが、コンテンツの再生時間が設定されていて再生終了時刻に至っている場合、一連の処理を終了するのではなく、表示画像の更新を停止するようにしてもよい。
【0073】
上記の例では、再生制御部3において、最初にコンテンツ情報を読み込む際に、全てのコンテンツ情報を取得しておき、同一のコンテンツ情報に含まれる圧縮画像データを新たにデータ記憶部1から取得せずに、再生画像生成部4に出力するようにしているが、新たな再生画像を生成する度に、必要な圧縮画像データのみデータ記憶部1から取得し、再生画像生成部4に出力するようにしてもよい。
【0074】
実施の形態3.
この実施の形態3は、複数のコンテンツを同時に再生する場合について説明する。
図13はこの発明の実施の形態3によるコンテンツ表示装置を示す構成図である。
図14はこの実施の形態3におけるコンテンツ表示装置のコンテンツ変形再生部12−n(n=1,2,・・・,N)を示す構成図である。
【0075】
再生情報入力部2は、1つ以上の再生対象のイベント付コンテンツを選択する処理を実施する。具体的には、選択したコンテンツを識別するコンテンツ識別情報(例えば、コンテンツ名や、コンテンツの識別番号などを示す情報)、各コンテンツに付加するエフェクトを識別するエフェクト識別情報、各コンテンツのレイアウト情報(コンテンツを表示する位置や、他のコンテンツとの前後関係を示す情報)などを含む再生情報を入力する処理を実施する。
なお、再生情報入力部2は、インターネットやLANなどのネットワークから再生情報を入力する場合、例えば、LANカードなどのネットワークI/F機器から構成され、ユーザの操作を受け付けて再生情報を入力する場合、キーボードやマウスなどのマンマシンインタフェースから構成される。
【0076】
再生制御部3は例えばCPUを実装している半導体集積回路、あるいは、ワンチップマイコンなどから構成されており、再生情報入力部2により入力された再生情報に含まれている全コンテンツ識別情報、全エフェクト識別情報及びレイアウト情報を抽出する処理を実施する。
また、再生制御部3はデータ記憶部1により記憶されているコンテンツ情報の中から、各コンテンツ識別情報が示すコンテンツ情報を取得し、どのコンテンツ情報をコンテンツ再生変形部12−1〜12−Nのどれに処理させるかを決定する。
また、再生制御部3は表示処理部6から画面更新タイミングの発生通知を受けると、各コンテンツ情報から圧縮画像データと解像度情報を、当該コンテンツ情報を処理するコンテンツ再生変形部12−nに出力し、データ記憶部1により記憶されている画像変形情報の中から、各エフェクト識別情報が示す画像変形情報を取得して、その画像変形情報を、その画像変形情報が付加されるコンテンツ情報を処理するコンテンツ再生変形部12−nに出力する処理を実施する。また、そのレイアウト情報を表示処理部6及び座標画像合成部13に出力する処理を実施する。
【0077】
さらに、再生制御部3は全コンテンツの水平座標基準画像の画素値が重複しないような各コンテンツの水平座標基準画像のオフセットを全コンテンツの解像度から計算し、各コンテンツ情報を処理するコンテンツ生成変形部12−1〜12−Nに出力する処理を実施する。
また、再生制御部3は全コンテンツの垂直座標基準画像の画素値が重複しないような各コンテンツの垂直座標基準画像のオフセットを全コンテンツの解像度から計算し、各コンテンツ情報を処理するコンテンツ生成変形部12−1〜12−Nに出力する処理を実施する。
なお、再生制御部3は再生制御手段を構成している。
【0078】
コンテンツ再生変形部12−n(n=1,2,・・・N)は、再生画像生成部4−n、再生画像変形部5−n、座標基準画像生成部8−n及び座標基準画像変形部9−nから構成されており、再生制御部3から1つのコンテンツに含まれる圧縮画像データ、コンテンツの解像度情報、コンテンツ付加された画像変形情報を取得して、そのコンテンツの変形後の再生画像を生成し、変形後の再生画像を表示処理部6に出力するとともに、変形後の水平座標基準画像及び変形後の垂直座標基準画像を生成し、変形後の水平座標基準画像及び変形後の垂直座標基準画像を座標画像合成部13に出力する処理を実施する。
【0079】
再生画像生成部4−n(n=1,2,・・・N)は例えばCPUを実装している半導体集積回路、あるいは、ワンチップマイコン、GPUなどから構成されており、再生制御部3から出力された圧縮画像データからコンテンツの再生画像を生成する処理を実施する。
なお、再生画像生成部4−nは再生画像生成手段を構成している。
再生画像変形部5−n(n=1,2,・・・N)は例えばCPUを実装している半導体集積回路、あるいは、ワンチップマイコン、GPUなどから構成されており、再生制御部3から出力された画像変形情報を用いて、再生画像生成部4−nにより生成された再生画像を変形させる処理を実施する。なお、再生画像変形部5−nは再生画像変形手段を構成している。
【0080】
座標基準画像生成部8−n(n=1,2,・・・N)は例えばCPUを実装している半導体集積回路、あるいは、ワンチップマイコンなどから構成されており、再生制御部3から水平座標基準画像のオフセットと垂直基準画像のオフセットを取得し、再生制御部3から出力されたコンテンツの解像度情報が示す解像度(再生画像生成部4−nにより生成された再生画像の解像度と同一の解像度)を有する水平座標基準画像と垂直座標基準画像を生成する処理を実施する。
例えば、解像度がWS画素×HS画素のコンテンツSと解像度がWU画素×HU画素のコンテンツUを同時に表示する場合、画像制御部3では、コンテンツSの水平座標基準画像のオフセットをSXS、コンテンツSの垂直座標基準画像のオフセットをSYS、コンテンツUの水平座標基準画像のオフセットをSXU、コンテンツSの垂直座標基準画像のオフセットをSYUとする。
【0081】
コンテンツSを再生するコンテンツ再生変形部12−Sを構成する座標基準画像生成部8−Sは再生画像Sの水平方向座標とオフセットSXSの組み合せから一対一に求められる値であるコンテンツSの水平座標基準画像、再生画像Sの垂直方向座標とオフセットSYUの組み合せから一対一に求められる値であるコンテンツSの垂直座標基準画像を生成する処理を実施する。
また、コンテンツUを再生するコンテンツ再生変形部12−Uを構成する座標基準画像生成部8−Uは再生画像Uの水平方向座標とオフセットSXUの組み合せから一対一に求められる値であるコンテンツUの水平座標基準画像、再生画像Uの垂直方向座標とオフセットSYUの組み合せから一対一に求められる値であるコンテンツUの垂直座標基準画像を生成する処理を実施する。
なお、座標基準画像生成部8−nは座標基準画像生成手段を構成している。
【0082】
座標基準画像変形部9−n(n=1,2,・・・N)は例えばCPUを実装している半導体集積回路、あるいは、ワンチップマイコン、GPUなどから構成されており、再生制御部3から出力された画像変形情報を用いて、座標基準画像生成部8−nにより生成された水平座標基準画像及び垂直座標基準画像を変形させる処理を実施する。
なお、座標基準画像変形部9−nは座標基準画像変形手段を構成している。
【0083】
表示処理部6は画像処理を実施するGPUなどから構成されており、再生制御部3から出力されたレイアウト情報に基づいて、再生中の全てのコンテンツの再生画像の表示位置を特定し、コンテンツ再生変形部12−1〜12−Nにより生成された全ての変形後の再生画像を合成して表示画像を生成し、その表示画像を格納する1つ以上のフレームバッファを備えている。
また、表示処理部6は画面更新タイミングに合わせてフレームバッファの内容を表示装置7に出力する。
表示処理部6は表示装置7の画面を更新するタイミングに合わせてフレームバッファの内容を表示装置7に出力する処理を実施する。
表示装置7は表示処理部6の描画処理によって、再生画像を表示するディスプレイである。
【0084】
座標画像合成部13は例えばCPUを実装している半導体集積回路、あるいは、ワンチップマイコン、GPUなどから構成されており、再生制御部3から出力されたレイアウト情報に基づいて再生中の全てのコンテンツの水平座標基準画像の表示位置を特定し、コンテンツ生成変形部12−1〜12−Nにより生成された全ての変形後の水平座標基準画像を合成して水平座標画像を生成する処理を実施する。
また、座標画像合成部13は再生制御部3から出力されたレイアウト情報に基づいて再生中の全てのコンテンツの垂直座標基準画像の表示位置を特定し、コンテンツ生成変形部12−1〜12−Nにより生成された全ての変形後の垂直座標基準画像を合成して垂直座標画像を生成する処理を実施する。
なお、座標画像合成部13は座標画像合成手段を構成している。
【0085】
座標入力部10は例えばキーボードやマウスやタッチパネルなどのマンマシンインタフェースから構成されており、表示装置7により表示されている変形後の再生画像上の座標(ユーザにより指定された座標)を入力する処理を実施する。なお、座標入力部10は座標入力手段を構成している。
座標変換部11は例えばCPUを実装している半導体集積回路、あるいは、ワンチップマイコンなどから構成されており、座標画像合成部13により合成された水平座標基準画像から座標入力部10により入力された座標に位置している画素の画素値を水平座標として取得するとともに、座標画像合成部13により合成された垂直座標基準画像から座標入力部10により入力された座標に位置している画素の画素値を垂直座標として取得し、その水平座標と垂直座標を再生制御部3に出力する処理を実施する。なお、座標変換部11は座標取得手段を構成している。
【0086】
再生制御部3は座標変換部11から水平座標と垂直座標を受けると、各コンテンツの水平座標基準画像のオフセットと垂直座標基準画像のオフセットと解像度から、入力された座標が選択しているコンテンツを確定し、水平座標と水平座標基準画像のオフセット、垂直座標と垂直座標基準画像のオフセットの差分を計算する。
また、再生制御部3は、データ記憶部1から取得したコンテンツ情報に含まれるイベント発生領域とイベント情報を抽出し、その計算後の水平座標及び計算後の垂直座標を含むイベント発生領域を照合することで、照合したイベント発生領域に関連付けられたイベント情報に基づいてイベント処理を実施する。
なお、イベント処理がコンテンツの表示内容に関わる処理として、例えば、コンテンツ内の素材、コンテンツ自体、エフェクト、レイアウト、イベントの変更などの場合、その内容に応じてデータ記憶部1から必要なデータを取得し、再生画像生成部4、再生画像変形部5、表示処理部6、座標基準画像生成部8、座標基準画像変形部9、座標画像合成部13に渡す情報を変更するようにしてもよい。また、イベント処理がデータ記憶部1に格納された別のプログラムを実行する内容の場合は、プログラムを取得して実施するようにしてもよい。
【0087】
200は、再生情報である。
201は、再生情報に含まれているコンテンツ識別情報が示すコンテンツ情報及び再生情報に含まれているエフェクト識別情報が示す画像変形情報である。
202は、コンテンツ情報に含まれている圧縮画像データである。
203は、コンテンツの再生画像である。
204は、コンテンツに付加されている画像変形情報である。
205は、変形後の再生画像である。
206は、表示装置7により表示される表示画像である。
207は、コンテンツの解像度情報である。
208は、水平座標基準画像と垂直座標基準画像である。
209は、変形後の水平座標基準画像と変形後の垂直座標基準画像である。
210は、表示装置7により表示されている変形後の再生画像上の座標である。
211は、変形前の再生画像上の座標である。
212は、表示画面の更新タイミングの発生通知である。
213は、202、203、204を含む情報である。
214は、全コンテンツのレイアウト情報である。
【0088】
図13、図14の例では、コンテンツ表示装置の構成要素であるデータ記憶部1、再生情報入力部2、再生制御部3、再生画像生成部4−1〜4−N、再生画像変形部5−1〜5−N、表示処理部6、表示装置7、座標基準画像生成部8−1〜8−N、座標基準画像変形部9−1〜9−N、座標入力部10、座標変換部11及び座標画像合成部13のそれぞれが専用のハードウェアで構成されているものを想定しているが、コンテンツ表示装置がコンピュータで構成される場合、再生情報入力部2、再生制御部3、再生画像生成部4−1〜4−N、再生画像変形部5−1〜5−N、表示処理部6、座標基準画像生成部8−1〜8−N、座標基準画像変形部9−1〜9−N、座標入力部10、座標変換部11及び座標画像合成部13の処理内容を記述しているプログラムをコンピュータのメモリに格納し、当該コンピュータのCPUが当該メモリに格納されているプログラムを実行するようにしてもよい。さらに、コンピュータがGPUを備える場合、再生画像生成部4−1〜4−N、再生画像変形部5−1〜5−N、表示処理部6、座標基準画像生成部8−1〜8−N、座標基準画像変形部9−1〜9−N及び座標画像合成部13のいずれか、あるいは、全てに該当する前記メモリに格納されているプログラムをGPUが実行するようにしてもよい。
また、コンピュータが複数のCPUあるいはGPUを備え、コンテンツ再生変形部12−1〜12−Nに該当する前記メモリに格納されているプログラムを各々1つずつのCPUあるいはGPUが実行するようにしてもよい。
【0089】
図15はこの発明の実施の形態3によるコンテンツ表示装置の処理内容を示すフローチャートである。
図3と図16のコンテンツを例に取り、図15に沿って1つの動画像のコンテンツと1つの静止画像のコンテンツを再生する動作を説明する。
【0090】
図16はコンテンツUの再生画像の例を示す説明図である。
図16では、300画素×300画素サイズのコンテンツUと、同サイズの画像C上に100画素×50画素サイズの画像Dを配置した再生画像の例を示している。また、画像Dの表示領域をイベント発生領域とし、画像Dの表示領域を押下した場合、コンテンツUのみを再生終了するイベント処理を実施するものとする。
また、コンテンツSは、上記実施の形態2で用いた画像Aのコンテンツであるものとする。
【0091】
再生情報入力部2は、例えば、ユーザの指示の下、再生対象のコンテンツを識別する1つ以上のコンテンツ識別情報、各コンテンツに付加するエフェクトを識別するエフェクト識別情報、各コンテンツのレイアウト情報などを含む再生情報を入力すると、その再生情報を再生制御部3に出力する(図15のステップST1)。
【0092】
再生制御部3は、再生情報入力部2から再生情報を受けると、その再生情報に含まれているコンテンツ識別情報、エフェクト識別情報及びレイアウト情報を抽出する(ステップST2)。
再生制御部3は、コンテンツ識別情報、エフェクト識別情報及びレイアウト情報を抽出すると、データ記憶部1により記憶されているコンテンツ情報の中から、そのコンテンツ識別情報が示すイベント付コンテンツSとイベント付コンテンツUのコンテンツ情報を取得して(ステップST3)、コンテンツSをコンテンツ再生変形部12−Sに処理させることに決定し、コンテンツUをコンテンツ再生変形部12−Uに処理させることに決定する。
【0093】
再生制御部3は、各コンテンツ情報を処理させるコンテンツ再生変形部を決定すると、データ記憶部1により記憶されているコンテンツ情報の中から、そのコンテンツ識別情報が示すコンテンツSとコンテンツUのコンテンツ情報を取得し、表示処理部6から画面更新タイミングの発生通知を受けると、そのコンテンツ情報から画像Aの圧縮画像データを再生画像生成部4−Sに出力し、画像C、画像Dの圧縮データ及びコンテンツU内のレイアウト情報を再生画像生成部4−Uに出力する。
また、再生制御部3は、上述のコンテンツ情報からコンテンツSの解像度情報を座標基準画像生成部8−Sに出力し、コンテンツUの解像度情報を座標基準画像生成部8−Uに出力する。
【0094】
また、再生制御部3は、データ記憶部1により記憶されている画像変形情報の中から、そのエフェクト識別情報が付加されているエフェクトの画像変形情報ESとエフェクトの画像変形情報EUを取得して、コンテンツSに付加された画像変形情報ESを再生画像変形部5−S及び座標基準画像変形部9−Sに出力し、コンテンツUに付加された画像変形情報EUを再生画像変形部5−U及び座標基準画像変形部9−Uに出力する。
また、再生制御部3は、コンテンツSとコンテンツUのレイアウト情報を表示処理部6及び座標画像合成部13に出力する(ステップST19)。
さらに、再生制御部3は、コンテンツSが500画素×500画素、コンテンツUが300画素×300画素であることから、コンテンツSの水平座標基準画像のオフセットを0、コンテンツSの垂直座標基準画像のオフセットを0、コンテンツUの水平座標基準画像のオフセットを500、コンテンツUの垂直座標基準画像のオフセットを100とし、コンテンツSの水平座標基準画像のオフセットと垂直座標基準画像のオフセットを座標基準画像生成部8−Sに渡し、コンテンツUの水平座標基準画像のオフセットと垂直座標基準画像のオフセットを座標基準画像生成部8−Uに渡す処理を実施する(ステップST20)。
【0095】
再生画像生成部4−Sは、再生制御部3から出力された画像Aの圧縮画像データからコンテンツSの再生画像Sを生成する。ただし、再生画像Sは、図5と同様であるとする。
再生画像生成部4−Uは、再生制御部3から出力された画像C、画像Dの圧縮画像データからコンテンツUの再生画像Uを生成する(ステップST4)。
【0096】
ここで、図19は再生画像生成部4−Uにより生成された再生画像Uにおける各画素の画素値を示すマッピング図である。
図19では、記述を簡略化して、15マス×15マスしか示していないが、再生画像Uが、例えば、300画素×300画素サイズのコンテンツの画像である場合、300画素×300画素の画素値を有している。
図19において、画素値「1」はほぼ黒色(黒色の場合、画素値「0」)を示しており、画像Dが存在している領域である。
また、画素値「128」は灰色を示しており、画像Dが重なっていない画像Cの領域である。
【0097】
再生画像変形部5−Sは、再生画像生成部4−Sがコンテンツの再生画像Sを生成すると、再生制御部3から出力されたエフェクトESの画像変形情報に含まれている変換式を用いて、再生画像生成部4−Sにより生成された再生画像Sを変形させる処理を実施し、再生画像変形部5−Uは、再生画像生成部4−Uがコンテンツの再生画像Uを生成すると、再生制御部3から出力されたエフェクトEUの画像変形情報に含まれている変換式を用いて、再生画像生成部4−Uにより生成された再生画像Uを変形させる処理を実施する(ステップST5)。
ここで、再生画像変形部5−S、再生画像変形部5−Uが画像変形情報に含まれている変換式を用いて、再生画像S、再生画像Uを変形させる処理自体は公知の技術であるため詳細な説明を省略する。
また、変換式も公知の式でよく、再生画像を変形させるものであれば、いかなる変換式を用いてもよい。
【0098】
ここで、図17は再生画像変形部5−Uにより変形された再生画像Uの例を示す説明図である。
ただし、図17は画像変形部5−UによってコンテンツUが画像変形情報EUで変形処理が行われる場合の変形後の再生画像Uを示している。
図17では、表示装置7の画面サイズが1000画素×1000画素サイズであり、再生画像変形部5−Uにて再生画像Uが変形されて、1000画素×1000画素のサイズの中心に再生画像Uの左下が配置される例を示している。
また、この実施の形態3では、図17の画像C、画像Dは、動画像でもよいが、説明の便宜上、静止画像であるものとする。
【0099】
表示処理部6は、再生画像変形部5−Sが再生画像Sを変形させる処理を実施すると、変形後の再生画像Sを再生制御部3から出力されたレイアウト情報から再生画像Sの表示位置を特定し、フレームバッファに合成する。
表示処理部6は、再生画像変形部5−Uが再生画像Uを変形させる処理を実施すると、変形後の再生画像Uを再生制御部3から出力されたレイアウト情報から再生画像Uの表示位置を特定し、再生画像Sの上にフレームバッファに合成する。
表示処理部6は、全コンテンツを合成すると、画面更新タイミングに合わせて、その再生画像Aを表示装置7に描画するとともに、その画面更新タイミングを再生制御部3に通知する(ステップST6)。
【0100】
ここで、図18は表示処理部6による表示画像の例を示す説明図である。
ただし、図18は再生制御部3から与えられたレイアウト情報に基づいて、変形後の再生画像Sの上に変形後の再生画像Uが重ねて配置される場合の表示画像を示している。
【0101】
座標基準画像生成部8−Sは、再生制御部3から出力された解像度情報と水平座標基準画像のオフセットと垂直座標基準画像のオフセットから、水平座標基準値の画素範囲が示すコンテンツの解像度(再生画像生成部4−Sにより生成された再生画像Aの解像度と同一の解像度)を有する水平座標基準画像I_hS(x,y)及び垂直座標基準画像I_vS(x,y)を生成し、座標基準画像生成部8−Uは、再生制御部3から出力された解像度情報と水平座標基準画像のオフセットと垂直座標基準画像のオフセットから、水平座標基準値の画素範囲が示すコンテンツの解像度(再生画像生成部4−Uにより生成された再生画像Aの解像度と同一の解像度)を有する水平座標基準画像I_hU(x,y)及び垂直座標基準画像I_vU(x,y)を生成する(ステップST7)。
【0102】
即ち、座標基準画像生成部8−Sは、コンテンツSの水平基準画像のオフセットが0であるため、図6に示すように、左側からM(例えば、M=1,2,3,・・・,500)番目の列に存在している全ての画素の画素値が“M”である水平座標基準画像I_hS(x,y)を生成する。
I_hS(x,y)=x
ただし、x=1,2,・・・,500
y=1,2,・・・,500
なお、(x,y)は、水平座標基準画像を構成している画素の位置を示しており、(1,1)は水平座標基準画像の左上の画素を示し、(500,500)は水平座標基準画像の右下の画素を示している。
【0103】
また、座標基準画像生成部8−Sは、コンテンツSの垂直基準画像のオフセットが0であるため、図7に示すように、上側からN(例えば、N=1,2,3,・・・,500)番目の行に存在している全ての画素の画素値が“N”である垂直座標基準画像I_hS(x,y)を生成する。
I_hS(x,y)=y
ただし、x=1,2,・・・,500
y=1,2,・・・,500
なお、(x,y)は、垂直座標基準画像を構成している画素の位置を示しており、(1,1)は垂直座標基準画像の左上の画素を示し、(500,500)は垂直座標基準画像の右下の画素を示している。
【0104】
また、座標基準画像生成部8−Uは、コンテンツUの水平基準画像のオフセットが500であるため、図20に示すように、左側からM(例えば、M=1,2,3,・・・,300)番目の列に存在している全ての画素の画素値が“M+500”である水平座標基準画像I_hU(x,y)を生成する。
I_hU(x,y)=x+500
ただし、x=1,2,・・・,300
y=1,2,・・・,300
なお、(x,y)は、水平座標基準画像を構成している画素の位置を示しており、(1,1)は水平座標基準画像の左上の画素を示し、(300,300)は水平座標基準画像の右下の画素を示している。
図20では、記述を簡略化して、15マス×15マスしか示していないが、水平座標基準画像は、300画素×300画素サイズの画像であるため、実際には、300画素×300画素の画素値を有している。
【0105】
また、座標基準画像生成部8−Uは、コンテンツUの垂直基準画像のオフセットが100であるため、図21に示すように、上側からN(例えば、N=1,2,3,・・・,300)番目の行に存在している全ての画素の画素値が“N+100”である垂直座標基準画像I_hU(x,y)を生成する。
I_hU(x,y)=y+100
ただし、x=1,2,・・・,300
y=1,2,・・・,300
なお、(x,y)は、垂直座標基準画像を構成している画素の位置を示しており、(1,1)は垂直座標基準画像の左上の画素を示し、(300,300)は垂直座標基準画像の右下の画素を示している。
図21では、記述を簡略化して、15マス×15マスしか示していないが、垂直座標基準画像は、300画素×300画素サイズの画像であるため、実際には、300画素×300画素の画素値を有している。
【0106】
座標基準画像変形部9−Sは、座標基準画像生成部8−Sが水平座標基準画像I_hS(x,y)及び垂直座標基準画像I_vS(x,y)を生成すると、再生画像変形部5と同様に、再生制御部3から出力された画像変形情報ESを用いて、水平座標基準画像I_hS(x,y)及び垂直座標基準画像I_vS(x,y)を変形させる処理を実施する。
また、座標基準画像変形部9−Uは、座標基準画像生成部8−Uが水平座標基準画像I_hU(x,y)及び垂直座標基準画像I_vU(x,y)を生成すると、再生画像変形部5と同様に、再生制御部3から出力された画像変形情報EUを用いて、水平座標基準画像I_hU(x,y)及び垂直座標基準画像I_vU(x,y)を変形させる処理を実施する(ステップST9)。
ここで、図20は座標画像合成部13により変形された水平座標画像H(x,y)における各画素の画素値を示すマッピング図である。
また、図21は座標画像合成部13により変形された垂直座標画像V(x,y)における各画素の画素値を示すマッピング図である。
ただし、図20及び図21では、図面の簡略化のため一部省略している。
【0107】
座標入力部10は、ユーザが表示装置7上のタッチパネルに触れると(ステップST10)、ユーザにより触れられた位置を示す変形後の再生画像A上の座標(x,y)を座標変換部11に出力する(ステップST11)。
【0108】
座標変換部11は、座標入力部10からユーザにより触れられた位置を示す表示画面上の座標(x,y)を受けると、座標画像合成部13から出力された図20の水平座標画像H(x,y)から、表示画面上の座標(x,y)に位置している画素の画素値を水平座標x’として取得する。
また、座標変換部11は、座標画像合成部13から出力された図21の垂直座標画像V(x,y)から、表示画面上の座標(x,y)に位置している画素の画素値を垂直座標y’として取得する(ステップST12)。
【0109】
再生制御部3は、座標変換部11から水平座標x’と垂直座標y’を受けると、その座標(x’,y’)と、再生情報に含まれている各コンテンツのイベント発生領域に各コンテンツの水平基準座標のオフセットと垂直基準座標のオフセットを加算した値を照合することで、その座標(x’,y’)を含むイベント発生領域を検索する(ステップST13)。
例えば、イベント発生領域であるボタンa1,ボタンa2、画像Dの表示領域に各コンテンツの水平基準座標のオフセットと垂直基準座標のオフセットを加算した値が下記の通りであるとするとき、水平座標x’=150、垂直座標y’=330であれば、座標(x’,y’)を含むイベント発生領域a1がヒットする。
【0110】
なお、イベント発生領域Dは画像Dの表示領域と同じ領域を示している。説明の便宜上、コンテンツU内の領域を示す場合、画像Dと表現し、イベント発生領域を示す場合、イベント発生領域Dと示すものとする。
a1 a2 D
X座標 120〜200 300〜380 100〜200
Y座標 300〜420 300〜420 125〜175
X座標(オフセット加算値) 120〜200 300〜380 600〜700
Y座標(オフセット加算値) 300〜420 300〜420 625〜675
上記の例では、座標(x’,y’)を含むイベント発生領域a1がヒットしているが、例えば、水平座標x’=670、垂直座標y’=655であれば、座標(x’,y’)を含むイベント発生領域Dの表示領域がヒットする。
【0111】
再生制御部3は、座標(x’,y’)を含むイベント発生領域が存在すれば(ステップST14)、そのイベント発生領域に関連付けられたイベント処理を実施する(ステップST15)。
例えば、イベント発生領域Dがヒットした場合は、画像Dの表示領域を押下したものとして、“コンテンツUのみを消去”というイベント処理を実施する。
【0112】
画像制御部3は、次のフレームで表示画像の更新が発生するか否かをチェックする(ステップST16)。
例えば、イベント処理が“再生終了”や“コンテンツの再生停止”の場合、次のフレームで表示画像の更新は発生しないため、ステップST17の処理に移行する。
一方、イベント処理が“コンテンツSの画像Aから画像Bへの変更”や“コンテンツUのみ消去”の場合、イベント処理が発生せずにコンテンツの再生終了時刻に至っていない場合、次のフレームで表示画像の更新が発生するため、ステップST18の処理に移行する。
【0113】
画像制御部3は、次のフレームで表示画像の更新が発生しない場合、再生終了か否かをチェックする(ステップST17)。
例えば、イベント処理が“再生終了”を実施している場合、あるいは、コンテンツの再生時間が設定されていて再生終了時刻に至っている場合、一連の処理を終了する。
一方、再生終了しない場合、ステップST10の処理に戻り、ST10〜ST16までの処理を繰り返し実施する。
【0114】
画像制御部3は、次のフレームで表示画像の更新が発生する場合、次のフレームでコンテンツあるいはコンテンツに付加されたエフェクトが変更されるか否かをチェックする(ステップST18)。
例えば、ステップST15のイベント処理でコンテンツUのみ消去する場合、表示されるコンテンツが変わるため、ステップST3の処理に戻り、再生制御部3は新たなコンテンツ情報を取得せず、表示処理部6から画面の更新タイミングの発生通知を受けると、コンテンツSの画像Aの圧縮データと解像度情報をコンテンツ再生変形部12−Sに出力する処理を実施し、コンテンツ再生変形部12−Uには何も出力せず、ステップST19・ST4〜ST16の処理を繰り返し実施する。
また、ボタンa1の表示領域やボタンa2の表示領域を押下された場合や、ボタンa1の表示領域、ボタンa2の表示領域及び画像Dの表示領域の何れも押下されていない場合については、上記実施の形態2と同様となる。
【0115】
以上で明らかなように、この実施の形態3によれば、複数のイベント付コンテンツを表示する場合に、画像変形の逆変換式を用いることなく、異なるエフェクトで変形された複数の再生画像の中から指定されたコンテンツを見つけ、表示画面上で指定された点の座標を、そのコンテンツの変形前の再生画像上の座標に変換することができるようになり、その結果、指定された点の座標に応じた処理を実施することができる効果を奏する。
【0116】
上記の例では、画像Aを動画像とした場合について説明したため、ステップST15のイベント処理でコンテンツUのみを消去する場合、ステップST3の処理に戻り、再生制御部3は表示処理部6から画面の更新タイミングの発生通知を受けると、コンテンツSの画像Aの圧縮データと解像度情報をコンテンツ再生変形部12−Sに出力する処理を実施し、コンテンツ再生変形部12−Uには何も出力せず、ステップST19・ST4〜ST16の処理を繰り返し実施する。
【0117】
上記の例では、座標画像合成部13により生成された水平座標画像(または、垂直座標画像)を示す図20(または、図21)において、コンテンツが存在していない画素に“0”を用いているが、表示する全コンテンツの水平座標基準画像(または、垂直座標基準画像)で使用されない値であれば、“0”に限られるものではない。
【0118】
この実施の形態3では、複数のコンテンツを再生するシステム構成例として、コンテンツ再生変形部を複数持つ場合について示したが、コンテンツ再生変形部を1つのみとし、同時に表示するコンテンツの数だけ再生画像を順に生成・変形して表示処理部のフレームメモリ上に合成し、同様に水平座標基準画像及び垂直座標基準画像を順に生成・変形して水平座標画像及び垂直座標画像上に合成するようにしてもよい。
【0119】
上記の例では、2つのコンテンツを同時に再生する例を示したが、コンテンツ数は3つ以上でもよい。
この実施の形態3では、再生制御部3において、最初にコンテンツ情報を読み込む際に全てのコンテンツ情報を取得しておき、同一のコンテンツ情報に含まれる圧縮画像データを新たにデータ記憶部1から取得せずに、コンテンツ生成変形部12−1〜12−Nに出力するものとしているが、各コンテンツで新たな再生画像を生成する度に、必要な圧縮画像データのみデータ記憶部1から取得し、コンテンツ生成変形部12−1〜12−Nに出力するようにしてもよい。
【0120】
実施の形態4.
この実施の形態4では、座標基準画像生成部8で生成する座標基準画像の他の例について説明する。
座標基準画像生成部8は再生制御部3から出力されたコンテンツの解像度情報が示す解像度を有する座標基準画像を生成する処理を実施する。
その際、座標基準画像生成部8は、画素値をその座標から一対一に求められる値とする1枚の座標基準画像を生成する。
例えば、画素値の上位ビットで水平座標、下位ビットで垂直座標を表してもよい。画素値が32ビットの場合、上位16ビットを水平座標、下位16ビットを垂直座標とし、座標基準画像の座標(x,y)の画素値I_hv(x,y)は、下記のようになる。
I_hv(x,y)=x×1024+y (1)
【0121】
座標基準画像変形部9は、再生制御部3から出力された画像変形情報を用いて、座標基準画像生成部8により生成された1枚の座標基準画像を変形させる処理を実施する。
座標変換部11は座標基準画像変形部9により変形された1枚の座標基準画像から、座標入力部10により入力された座標に位置している画素の画素値を取得し、その値から水平座標と垂直座標を計算し、再生制御部3に出力する処理を実施する。
例えば、座標基準画像の各画素の画素値が式(1)である場合、座標入力部10により入力された座標を(x,y)、変形後の座標基準画像の画素値をI_hv’(x,y)とすると、再生制御部3に渡される座標(x’,y’)は、下記のようになる。
水平座標x’=floor(I_hv’(x,y)/1024)
垂直座標y’=I_hv’(x,y)%1024
【0122】
ただし、floor(x)は、xの小数点以下が切捨てられた値を示し、x%yは、xをyで割った剰余を示すものとする。
なお、レイアウト情報に合わせて、複数のコンテンツを同時に表示する場合も、座標画像合成部13が、座標基準画像変形部9から出力された1枚の変形後の座標基準画像とレイアウト情報に基づいて、1枚の座標画像を生成し、座標変換部11が、1枚の座標画像から再生制御部3に渡す座標(x’,y’)を求めてもよい。
【0123】
以上で明らかなように、この実施の形態4によれば、座標基準画像生成部8が、再生制御部3から出力されたコンテンツの解像度情報が示す解像度を有する1枚の座標基準画像を生成しても、画像変形の逆変換式を用いることなく、異なるように変形された複数の再生画像が表示されている中から指定されたコンテンツを見つけ、表示画面上で指定された点の座標を、そのコンテンツの変形前の再生画像上の座標に変換することができるようになり、その結果、指定された点の座標に応じた処理を実施することができる効果を奏する。
【符号の説明】
【0124】
1 データ記憶部(データ記憶手段)、2 再生情報入力部、3 再生制御部(再生制御手段)、4 再生画像生成部(再生画像生成手段)、4−n 再生画像生成部(再生画像生成手段)、5 再生画像変形部(再生画像変形手段)、5−n 再生画像変形部(再生画像変形手段)、6 表示処理部(表示処理手段)、7 表示装置、(表示処理手段)、8 座標基準画像生成部(座標基準画像生成手段)、8−n 座標基準画像生成部(座標基準画像生成手段)、9 座標基準画像変形部(座標基準画像変形手段)、9−n 座標基準画像変形部(座標基準画像変形手段)、10 座標入力部(座標入力手段)、11 座標変換部(座標取得手段)、12−1〜12−N コンテンツ再生変形部、13 座標画像合成部(座標画像合成手段)。
【技術分野】
【0001】
この発明は、コンテンツ情報からコンテンツの再生画像を生成して、その再生画像をディスプレイに描画するコンテンツ表示装置及びコンテンツ表示方法に関するものである。
【背景技術】
【0002】
コンテンツ情報からコンテンツの再生画像を生成し、その再生画像を表示するコンテンツ表示装置の中には、その再生画像にエフェクトを付加することで変形し、変形後の再生画像を表示する機能を備えているものがある。
このようなコンテンツ表示装置は、一般的に以下の(1)〜(3)の要素から構成されている。
【0003】
(1)コンテンツ情報からコンテンツの再生画像を生成する再生画像生成部
(2)コンテンツに付加するエフェクトを表す画像変形情報(再生画像の変形に用いる変換式を含む情報)を用いて、再生画像生成部により生成された再生画像を変形させる再生画像変形部
(3)再生画像変形部により変形された再生画像をディスプレイに出力する表示処理部
【0004】
これにより、コンテンツの再生画像を表示するだけでなく、エフェクトが付加されているコンテンツの再生画像を表示することができる。
一方で、コンテンツには、選択ボタンのようにイベントが関連付けられているものもある。
このようなイベント付きコンテンツに対してエフェクトを付加する場合、変形後の再生画像上において、ユーザが、例えば、選択ボタンを表現している画像領域内の点を指定しても、その選択ボタンを表現している画像領域も変形されているため、その選択ボタンを表現している画像領域が、変形前の再生画像内に存在している選択ボタンを表現している画像領域と位置的にずれが生じており、変形前の再生画像上においては、その指定点の座標が、選択ボタンを表現している画像領域外の座標である可能性がある。
【0005】
コンテンツ表示装置は、各コンテンツの表示位置をコンテンツのレイアウト情報(変形前の再生画像における各コンテンツの位置関係を示す情報)で管理しているので、変形前の再生画像上の座標でなければ、ユーザが選択ボタンを押下しているか否かを判断することができない。
このため、変形後の再生画像上において、指定点の座標が、選択ボタンを表現している画像領域内の座標であっても、変形前の再生画像上において、指定点の座標が、選択ボタンを表現している画像領域外の座標である場合、コンテンツ表示装置は、ユーザが選択ボタンを押下していると認識することができず、選択ボタンが押下された場合の処理に移行することができない。
【0006】
そこで、以下の特許文献1に開示されている座標変換技術、即ち、再生画像変形部における画像変形の逆変換式を用いて、変形後の再生画像上で指定された点の座標を、変形前の再生画像上の座標に変換する技術をコンテンツ表示装置に適用すれば、ユーザが選択ボタンを押下していることを認識して、選択ボタンが押下された場合の処理に移行することができる。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】特開2005−92592号公報(段落番号[0005]、図1)
【発明の概要】
【発明が解決しようとする課題】
【0008】
従来のコンテンツ表示装置は以上のように構成されているので、再生画像変形部における画像変形の逆変換式が与えられていれば、その逆変換式を用いて、変形後の再生画像上で指定された点の座標を、変形前の再生画像上の座標に変換することができる。しかし、デジタルエフェクトによる画像変形処理の場合、変換式が完全に隠蔽された形で提供される場合が多く、必ずしも逆変換式が明らかにされていないケースがある。このように、逆変換式が明らかにされていないケースでは、変形後の再生画像上で指定された点の座標を、変形前の再生画像上の座標に変換することができないなどの課題があった。
【0009】
この発明は上記のような課題を解決するためになされたもので、画像変形の逆変換式を用いることなく、変形後の再生画像上で指定された点の座標を、変形前の再生画像上の座標に変換することができるコンテンツ表示装置及びコンテンツ表示方法を得ることを目的とする。
【課題を解決するための手段】
【0010】
この発明に係るコンテンツ表示装置は、再生画像生成手段により生成された再生画像と同一の解像度を有し、全ての画素の画素値が、当該画素の座標を表す値である座標基準画像を生成する座標基準画像生成手段と、画像変形情報を用いて、座標基準画像生成手段により生成された座標基準画像を変形させる座標基準画像変形手段と、表示処理手段により表示されている変形後の再生画像上の座標を入力する座標入力手段と、座標基準画像変形手段により変形された座標基準画像から座標入力手段により入力された座標に位置している画素の画素値を変形前の再生画像の座標として取得する座標変換手段とを設け、再生制御手段が座標変換手段により取得された変形前の再生画像の座標に応じたイベント処理を実施するようにしたものである。
【発明の効果】
【0011】
この発明によれば、再生画像生成手段により生成された再生画像と同一の解像度を有し、全ての画素の画素値が、当該画素の座標を表す値である座標基準画像を生成する座標基準画像生成手段と、画像変形情報を用いて、座標基準画像生成手段により生成された座標基準画像を変形させる座標基準画像変形手段と、表示処理手段により表示されている変形後の再生画像上の座標を入力する座標入力手段と、座標基準画像変形手段により変形された座標基準画像から座標入力手段により入力された座標に位置している画素の画素値を変形前の再生画像の座標として取得する座標変換手段とを設け、再生制御手段が座標変換手段により取得された変形前の再生画像の座標に応じたイベント処理を実施するように構成したので、画像変形の逆変換式を用いることなく、変形後の再生画像上で指定された点の座標を、変形前の再生画像上の座標に変換することができるようになり、その結果、指定された点の座標に応じた処理を実施することができる効果がある。
【図面の簡単な説明】
【0012】
【図1】この発明の実施の形態1によるコンテンツ表示装置を示す構成図である。
【図2】この発明の実施の形態1によるコンテンツ表示装置の処理内容を示すフローチャートである。
【図3】コンテンツの画像例を示す説明図である。
【図4】表示処理部6による再生画像Aの描画例を示す説明図である。
【図5】コンテンツ再生部4により生成された再生画像Aにおける各画素の画素値を示すマッピング図である。
【図6】水平座標基準画像I_h(x,y)における各画素の画素値を示すマッピング図である。
【図7】垂直座標基準画像I_v(x,y)における各画素の画素値を示すマッピング図である。
【図8】再生画像変形部5により変形された再生画像Aを含む表示画面(表示装置7の表示画面)における各画素の画素値を示すマッピング図である。
【図9】座標基準画像変形部9により変形された水平座標基準画像I_h(x,y)における各画素の画素値を示すマッピング図である。
【図10】座標基準画像変形部9により変形された垂直座標基準画像I_v(x,y)における各画素の画素値を示すマッピング図である。
【図11】この発明の実施の形態2によるコンテンツ表示装置を示す構成図である。
【図12】この発明の実施の形態2によるコンテンツ表示装置の処理内容を示すフローチャートである。
【図13】この発明の実施の形態3によるコンテンツ表示装置を示す構成図である。
【図14】この実施の形態3におけるコンテンツ表示装置のコンテンツ変形再生部12−nを示す構成図である。
【図15】この発明の実施の形態3によるコンテンツ表示装置の処理内容を示すフローチャートである。
【図16】コンテンツUの再生画像の例を示す説明図である。
【図17】再生画像変形部5−Uにより変形された再生画像Uの例を示す説明図である。
【図18】表示処理部6による表示画像の例を示す説明図である。
【図19】再生画像生成部4−Uにより生成された再生画像Uにおける各画素の画素値を示すマッピング図である。
【図20】座標画像合成部13により変形された水平座標画像H(x,y)における各画素の画素値を示すマッピング図である。
【図21】座標画像合成部13により変形された垂直座標画像V(x,y)における各画素の画素値を示すマッピング図である。
【発明を実施するための形態】
【0013】
実施の形態1.
図1はこの発明の実施の形態1によるコンテンツ表示装置を示す構成図である。
図1において、データ記憶部1は少なくとも1以上の再生可能なイベント付きコンテンツに関するコンテンツ情報を記憶しているほか、コンテンツに付加するエフェクトを表す画像変形情報を記憶しているメモリやハードディスクなどの記録媒体である。
【0014】
ここで、「コンテンツ」は、1つの画像であり、その画像の種類には、例えば、文字列、静止画、ムービー、3Dコンピュータグラフィックスなどがある。
「イベント付コンテンツ」は、コンテンツ内の領域がイベント処理と関連付けられているコンテンツであり、関連付けられるイベントは1つであっても、複数であってもよい。
「コンテンツ情報」は、コンテンツの解像度を示す解像度情報、フレームレート、再生時間、コンテンツを構成する全素材の圧縮画像データ、コンテンツ上の任意の領域(イベント発生領域)を示す情報、その領域が押下された際に実施する処理内容を示すイベント情報などが該当し、「コンテンツ」を再生するためのデータである。
また、「圧縮画像データ」は、画像が静止画やムービーであれば、符号化された画像データ、画像が文字列であれば、文字コードやフォントなどの情報、画像が3DCGであれば、ポリゴン、テクスチャ、色などの情報(非圧縮の画像データを生成するために必要な情報)が該当する。
また、「画像変形情報」は、コンテンツにエフェクトを付加するに際して、そのコンテンツの変形に用いる変換式を含む情報であり、その画像変形情報には、当該エフェクトを識別するエフェクト識別情報(例えば、エフェクト名や、エフェクトの識別番号などを示す情報)が付加されている。
なお、データ記憶部1はデータ記憶手段を構成している。
【0015】
再生情報入力部2は再生対象のコンテンツを選択する処理を実施する。具体的には、選択したコンテンツを識別するコンテンツ識別情報(例えば、コンテンツ名や、コンテンツの識別番号などを示す情報)や、コンテンツに付加するエフェクトを識別するエフェクト識別情報などを含む再生情報を入力する処理を実施する。
なお、再生情報入力部2は、インターネットやLANなどのネットワークから再生情報を入力する場合、例えば、LANカードなどのネットワークI/F機器から構成され、ユーザの操作を受け付けて再生情報を入力する場合、キーボードやマウスなどのマンマシンインタフェースから構成される。
【0016】
再生制御部3は例えばCPUを実装している半導体集積回路、あるいは、ワンチップマイコンなどから構成されており、再生情報入力部2により入力された再生情報に含まれているコンテンツ識別情報及びエフェクト識別情報を抽出する処理を実施する。
また、再生制御部3はデータ記憶部1により記憶されているコンテンツ情報の中から、そのコンテンツ識別情報が示すコンテンツ情報を取得して、そのコンテンツ情報が示すイベント付コンテンツの圧縮画像データを再生画像生成部4に出力するとともに、解像度情報を座標基準画像生成部8に出力し、また、データ記憶部1により記憶されている画像変形情報の中から、そのエフェクト識別情報が示す画像変形情報を取得して、その画像変形情報を再生画像変形部5及び座標基準画像変形部9に出力する処理を実施する。
なお、再生制御部3は再生制御手段を構成している。
【0017】
再生画像生成部4は例えばCPUを実装している半導体集積回路、あるいは、ワンチップマイコン、GPU(Graphics Processing Unit)などから構成されており、再生制御部3から出力された圧縮画像データからコンテンツの再生画像を生成する処理を実施する。なお、再生画像生成部4は再生画像生成手段を構成している。
【0018】
再生画像変形部5は例えばCPUを実装している半導体集積回路、あるいは、ワンチップマイコン、GPUなどから構成されており、再生制御部3から出力された画像変形情報を用いて、再生画像生成部4により生成された再生画像を変形させる処理を実施する。
ただし、再生画像変形部5は、イベント発生領域もコンテンツ上の領域であるため、再生画像と同様に変形させる。
なお、再生画像変形部5は再生画像変形手段を構成している。
【0019】
表示処理部6は画像処理を実施するGPUなどから構成されており、再生画像変形部5により変形された再生画像を格納する1つ以上のフレームバッファを備えている。
また、表示処理部6は表示装置7の画面を更新するタイミングに合わせてフレームバッファの内容を表示装置7に出力する。
表示装置7は表示処理部6の表示処理によって表示画像を表示するディスプレイである。
なお、表示処理部6及び表示装置7から表示処理手段が構成されている。
【0020】
座標基準画像生成部8は例えばCPUを実装している半導体集積回路、あるいは、ワンチップマイコンなどから構成されており、再生制御部3から出力されたコンテンツの解像度情報が示す解像度(再生画像生成部4により生成された再生画像の解像度と同一の解像度)を有する水平座標基準画像と垂直座標基準画像を生成する処理を実施する。
ここで、水平座標基準画像は、再生画像の水平方向座標から一対一に求められる値を画素値とし、垂直座標基準画像は、再生画像の垂直方向座標から一対一に求められる値を画素値としている。
例えば、コンテンツの解像度がWS×HSの場合、左側からM(例えば、M=1,2,3,・・・,WS)番目の列に存在している全ての画素の画素値が“M”である水平座標基準画像、上側からN(例えば、N=1,2,3,・・・,HS)番目の行に存在している全ての画素の画素値が“N”である垂直座標基準画像を生成する処理を実施する。
なお、座標基準画像生成部8は座標基準画像生成手段を構成している。
【0021】
座標基準画像変形部9は例えばCPUを実装している半導体集積回路、あるいは、ワンチップマイコン、GPUなどから構成されており、再生制御部3から出力された画像変形情報を用いて、座標基準画像生成部8により生成された水平座標基準画像及び垂直座標基準画像を変形させる処理を実施する。なお、座標基準画像変形部9は座標基準画像変形手段を構成している。
【0022】
座標入力部10は例えばキーボードやマウスやタッチパネルなどのマンマシンインタフェースから構成されており、表示装置7により表示されている変形後の再生画像上の座標(ユーザにより指定された座標)を入力する処理を実施する。なお、座標入力部10は座標入力手段を構成している。
座標変換部11は例えばCPUを実装している半導体集積回路、あるいは、ワンチップマイコンなどから構成されており、座標基準画像変形部9から変形後の水平座標基準画像と変形後の垂直座標基準画像を取得し、座標入力部10から入力座標を取得する処理を実施する。
また、座標変換部11は変形後の水平座標基準画像から入力座標に位置している画素の画素値を変形前の再生画像の水平座標として取得するとともに、変形後の垂直座標基準画像から入力座標に位置している画素の画素値を変形前の再生画像の垂直座標として取得し、その水平座標と垂直座標を再生制御部3に出力する処理を実施する。
なお、座標変換部11は座標取得手段を構成している。
【0023】
再生制御部3は座標変換部11から水平座標と垂直座標を受けると、データ記憶部1から取得したコンテンツ情報に含まれるイベント発生領域とイベント情報を抽出し、その水平座標及び垂直座標を含むイベント発生領域を照合することで、照合したイベント発生領域に関連付けられたイベント情報に基づいてイベント処理を実施する。
なお、イベント処理がコンテンツの表示内容に関わる処理としては、例えば、コンテンツ内の素材、コンテンツ自体、エフェクト、イベントの変更などの場合、その内容に応じてデータ記憶部1から必要なデータを取得し、再生画像生成部4、再生画像変形部5、表示処理部6、座標基準画像生成部8、座標基準画像変形部9に渡す情報を変更するようにしてもよい。また、イベント処理がデータ記憶部1に格納された別のプログラムを実行する内容の場合は、プログラムを取得して実施するようにしてもよい。
【0024】
200は、再生情報である。
201は、再生情報に含まれているコンテンツ識別情報が示すコンテンツ情報及び再生情報に含まれているエフェクト識別情報が示す画像変形情報である。
202は、コンテンツ情報に含まれている圧縮画像データである。
203は、コンテンツの再生画像である。
204は、コンテンツに付加されている画像変形情報である。
205は、変形後の再生画像である。
206は、表示装置7により表示される表示画像である。
207は、コンテンツの解像度情報である。
208は、水平座標基準画像と垂直座標基準画像である。
209は、変形後の水平座標基準画像と変形後の垂直座標基準画像である。
210は、表示装置7により表示されている変形後の再生画像上の座標である。
211は、変形前の再生画像上の座標である。
【0025】
図1の例では、コンテンツ表示装置の構成要素であるデータ記憶部1、再生情報入力部2、再生制御部3、再生画像生成部4、再生画像変形部5、表示処理部6、表示装置7、座標基準画像生成部8、座標基準画像変形部9、座標入力部10及び座標変換部11のそれぞれが専用のハードウェアで構成されているものを想定しているが、コンテンツ表示装置がコンピュータで構成される場合、再生情報入力部2、再生制御部3、再生画像生成部4、再生画像変形部5、表示処理部6、座標基準画像生成部8、座標基準画像変形部9、座標入力部10及び座標変換部11の処理内容を記述しているプログラムをコンピュータのメモリに格納し、当該コンピュータのCPUが当該メモリに格納されているプログラムを実行するようにしてもよい。さらに、コンピュータがGPUを備える場合、再生画像生成部4、再生画像変形部5、表示処理部6、座標基準画像生成部8、座標基準画像変形部9のいずれか、あるいは、全てに該当する前記メモリに格納されているプログラムをGPUが実行するようにしてもよい。
図2はこの発明の実施の形態1によるコンテンツ表示装置の処理内容を示すフローチャートである。
【0026】
次に動作について説明する。
以下、図3のコンテンツを例に取り、図2に沿って、静止画像のコンテンツを再生する場合の動作を説明する。
図3はコンテンツの再生画像の例を示す説明図である。
図3(a)は、500画素×500画素サイズのコンテンツの画像Aの中に、2つのボタンを表す図形a1,a2(以降、「ボタンa1」、「ボタンa2」と称する)が描かれている例を示している。また、画像Aのボタンa1,ボタンa2の表示領域をイベント発生領域とし、ボタンa1の表示領域を押下した場合にコンテンツ表示装置が再生終了するイベント処理を実施し、ボタンa2の表示領域を押下した場合、画像Aを同サイズの画像Bに入れ替えるイベント処理を実施するものとする。
なお、この実施の形態1では、ユーザがイベント発生領域を認識できるようにするために、画像A内にボタンa1、ボタンa2が表示されているものとするが、表現方法は上記の方法に限定されない。また、必ずしもイベント発生領域を表現しなくともよい。
図3(b)は画像Aを表示している際にボタンa2の表示領域がユーザにより触れられたときに、画像Aの代わりに表示される画像Bを示している。
【0027】
再生情報入力部2は、例えば、ユーザの指示の下、再生対象のコンテンツを識別するコンテンツ識別情報、コンテンツに付加するエフェクトを識別するエフェクト識別情報を含む再生情報を入力すると、その再生情報を再生制御部3に出力する(図2のステップST1)。
【0028】
再生制御部3は、再生情報入力部2から再生情報を受けると、その再生情報に含まれているコンテンツ識別情報及びエフェクト識別情報を抽出する(ステップST2)。
再生制御部3は、コンテンツ識別情報及びエフェクト識別情報を抽出すると、データ記憶部1により記憶されているコンテンツ情報の中から、そのコンテンツ識別情報が示すイベント付コンテンツのコンテンツ情報を取得し、そのコンテンツ情報に含まれている画像Aの圧縮画像データを再生画像生成部4に出力し、そのコンテンツの解像度情報を座標基準画像生成部8に出力する。
また、再生制御部3は、データ記憶部1により記憶されている画像変形情報の中から、そのエフェクト識別情報が付加されているエフェクトEの画像変形情報を取得して、その画像変形情報を再生画像変形部5及び座標基準画像変形部9に出力する(ステップST3)。
【0029】
再生画像生成部4は、再生制御部3から出力された画像Aの圧縮画像データからコンテンツの再生画像Aを生成する(ステップST4)。
ここで、図5は図3(a)の再生画像Aにおける各画素の画素値を示すマッピング図である。
図5では、記述を簡略化して、20マス×20マスしか示していないが、再生画像Aが、例えば、500画素×500画素サイズのコンテンツの画像である場合、500画素×500画素の画素値を有しているものとする。
図5において、画素値「1」はほぼ黒色(黒色の場合、画素値「0」)を示しており、ボタンa1,ボタンa2が存在している領域である。
また、画素値「255」は白色を示しており、ボタンa1,ボタンa2以外の領域である。
【0030】
再生画像変形部5は、再生画像生成部4がコンテンツの再生画像Aを生成すると、再生制御部3から出力されたエフェクトEの画像変形情報に含まれている変換式を用いて、再生画像Aを変形させる処理を実施する(ステップST5)。
ここで、再生画像変形部5が変換式を用いて、再生画像Aを変形させる処理自体は公知の技術であるため詳細な説明を省略する。
また、変換式も公知の式でよく、再生画像Aを変形させるものであれば、いかなる変換式を用いてもよい。
【0031】
表示処理部6は、再生画像変形部5が再生画像Aを変形させる処理を実施すると、変形後の再生画像Aを内部のフレームバッファに格納する。
表示処理部6は、再生画像Aをフレームバッファに格納すると、画面更新タイミングに合わせて、その再生画像Aを表示画像として表示装置7に出力する(ステップST6)。
【0032】
ここで、図4は、図3(a)のコンテンツをエフェクトEで変形した場合の表示画像を示す説明図である。図4のエフェクトEは、再生画像を波状に変形し、表示画面の中心に配置する効果を用いている。
また、表示装置7の画面サイズが1000画素×1000画素サイズであり、再生画像変形部5にて、1000画素×1000画素のサイズの中心に再生画像Aが変形されて配置されている。
【0033】
図8は図4の表示画像における各画素の画素値を示すマッピング図である。
図8では、記述を簡略化して、40マス×40マス分しか示していないが、表示装置7の表示画面は、1000画素×1000画素サイズであるため、実際には、1000画素×1000画素の画素値を有している。
図8において、画素値「・」は白色(白色の場合、画素値「255」)を示しており、ボタンa1,ボタンa2が描かれていない領域である。
また、画素値「1」はほぼ黒色を示しており、ボタンa1,ボタンa2が描かれた領域である。
また、数値が空白の画素は画素値が「0」であるものとする(表示画面の背景領域)。
【0034】
座標基準画像生成部8は、再生制御部3から出力された解像度情報が示すコンテンツの解像度(再生画像生成部4により生成された再生画像Aの解像度と同一の解像度)を有する水平座標基準画像I_h(x,y)及び垂直座標基準画像I_v(x,y)を生成する(ステップST7)。
【0035】
例えば、座標基準画像生成部8は、図6に示すように、左側からM(例えば、M=1,2,3,・・・,500)番目の列に存在している全ての画素の画素値が“M”である水平座標基準画像I_h(x,y)を生成する。
I_h(x,y)=x
ただし、x=1,2,・・・,500
y=1,2,・・・,500
なお、(x,y)は、水平座標基準画像を構成している画素の位置を示しており、(1,1)は水平座標基準画像の左上の画素を示し、(500,500)は水平座標基準画像の右下の画素を示している。
図6では、記述を簡略化して、20マス×20マスしか示していないが、水平座標基準画像は、500画素×500画素サイズの画像であるため、実際には、500画素×500画素の画素値を有している。
【0036】
また、座標基準画像生成部8は、図7に示すように、上側からN(例えば、N=1,2,3,・・・,500)番目の行に存在している全ての画素の画素値が“N”である垂直座標基準画像I_h(x,y)を生成する。
I_h(x,y)=y
ただし、x=1,2,・・・,500
y=1,2,・・・,500
なお、(x,y)は、垂直座標基準画像を構成している画素の位置を示しており、(1,1)は垂直座標基準画像の左上の画素を示し、(500,500)は垂直座標基準画像の右下の画素を示している。
図7では、記述を簡略化して、20マス×20マスしか示していないが、垂直座標基準画像は、500画素×500画素サイズの画像であるため、実際には、500画素×500画素の画素値を有している。
【0037】
座標基準画像変形部9は、座標基準画像生成部8が水平座標基準画像I_h(x,y)及び垂直座標基準画像I_v(x,y)を生成すると、再生画像変形部5と同様に、再生制御部3から出力されたエフェクトEの画像変形情報を用いて、水平座標基準画像I_h(x,y)及び垂直座標基準画像I_v(x,y)を変形させる処理を実施する(ステップST8)。
ここで、図9は座標基準画像変形部9により変形された水平座標基準画像I_h(x,y)における各画素の画素値を示すマッピング図である。
また、図10は座標基準画像変形部9により変形された垂直座標基準画像I_v(x,y)における各画素の画素値を示すマッピング図である。
ただし、図9及び図10では、図面の簡略化のため一部省略している。
【0038】
ユーザは、表示処理部6により変形後の再生画像Aが表示されているとき(図8を参照)、例えば、ボタンa1の表示領域の押下を行う場合、表示装置7上にタッチパネルが搭載されていれば、変形後のボタンa1が表示されている領域に触れる。
表示装置7上にタッチパネルが搭載されていなければ、例えば、マウスを操作して、変形後のボタンa1が表示されている領域をクリックする。
座標入力部10は、ユーザが表示装置7上のタッチパネルに触れると(ステップST10)、ユーザにより触れられた位置を示す表示画面(変形後の再生画像A)上の座標(x,y)を座標変換部11に出力する(ステップST11)。
【0039】
座標変換部11は、座標入力部10からユーザにより触れられた位置を示す変形後の再生画像A上の座標(x,y)を受けると、座標基準画像変形部9により変形された図9の水平座標基準画像I_h(x,y)から、再生画像A上の座標(x,y)に位置している画素の画素値を水平座標x’として取得する。
また、座標変換部11は、座標基準画像変形部9により変形された図10の垂直座標基準画像I_v(x,y)から、再生画像A上の座標(x,y)に位置している画素の画素値を垂直座標y’として取得する(ステップST12)。
【0040】
例えば、ユーザが再生画像A上において、座標(5,7)の位置に触れていれば、図9の水平座標基準画像I_h(x,y)から水平座標“2”を取得し、図10の垂直座標基準画像I_v(x,y)から垂直座標“5”を取得する。
あるいは、ユーザが再生画像A上において、座標(7,8)の位置に触れていれば、図9の水平座標基準画像I_h(x,y)から水平座標“3”を取得し、図10の垂直座標基準画像I_v(x,y)から垂直座標“6”を取得する。
座標変換部11は、上記のようにして、水平座標x’と垂直座標y’を取得すると、その水平座標x’と垂直座標y’を再生制御部3に出力する。
【0041】
再生制御部3は、座標変換部11から水平座標x’と垂直座標y’を受けると、その座標(x’,y’)と、再生情報に含まれているコンテンツのイベント発生領域を照合することで、その座標(x’,y’)を含むイベント発生領域を検索する(ステップST13)。
例えば、イベント発生領域であるボタンa1,ボタンa2の表示領域が下記の通りであるとするとき、水平座標x’=150、垂直座標y’=330であれば、座標(x’,y’)を含むイベント発生領域a1がヒットする。
なお、イベント発生領域a1は、ボタンa1の表示領域と同じ領域を示し、イベント発生領域a2は、ボタンa2の表示領域と同じ領域を示している。説明の便宜上、画像A内の領域を示す場合、ボタンa1、ボタンa2と表現し、イベント発生領域を示す場合、イベント発生領域a1、イベント発生領域a2と示すものとする。
イベント発生領域a1 イベント発生領域a2
X座標 120〜200 300〜380
Y座標 300〜420 300〜420
【0042】
上記の例では、座標(x’,y’)を含むイベント発生領域a1がヒットしているが、例えば、水平座標x’=360、垂直座標y’=380であれば、座標(x’,y’)を含むイベント発生領域a2がヒットする。
例えば、水平座標x’=180、垂直座標y’=240であれば、該当するイベント発生領域が存在しないので、何もイベント処理を実施しない。
【0043】
再生制御部3は、座標(x’,y’)を含むイベント発生領域が存在すれば(ステップST14)、そのイベント発生領域に関連付けられたイベント処理を実施する(ステップST15)。
例えば、イベント発生領域a1がヒットした場合は、ボタンa1の表示領域を押下したものとして、“再生終了”というイベント処理が実行される。
また、イベント発生領域a2がヒットした場合は、ボタンa2の表示領域を押下したものとして、“画像Aを画像Bに変更”するというイベント処理を実施する。
【0044】
画像制御部3は、イベント処理の結果、表示画像の更新が発生するか否かをチェックする(ステップST16)。
例えば、イベント処理が“再生終了”の場合、表示画像の更新は発生せず、ステップST17に移行する。
一方、イベント処理が“画像Aから画像Bへの変更”の場合、表示画像の更新が発生するため、ステップST3の処理に戻り、画像Bを含むコンテンツ情報をデータ記憶部1から取得し、画像Bの圧縮画像データを再生画像生成部4に出力し、画像Aを画像Bに変更して、ステップST3〜ST15の処理を繰り返し実施する。
なお、画像A、画像Bが、イベント処理以外では、再生画像が更新されない静止画像であるものとすると、イベント処理が発生しない限りは、表示画像の更新も発生しない。
【0045】
画像制御部3は、イベント処理の結果、表示画像の更新が発生しない場合、再生終了か否かをチェックする(ステップST17)。
例えば、イベント処理が“再生終了”を実施している場合、あるいは、コンテンツの再生時間が設定されていて、その時刻を経過している場合、一連の処理を終了する。
一方、再生終了しない場合、ステップST10の処理に戻り、ステップST10〜ST16までの処理を繰り返し実施する。
【0046】
以上で明らかなように、この実施の形態1によれば、再生画像生成部4により生成された再生画像の解像度と同一の解像度を有する画像であって、再生画像の水平方向座標から一対一に求められる値を画素値とする水平座標基準画像を生成するとともに、再生画像の垂直方向座標から一対一に求められる値を画素値とする垂直座標基準画像を生成する座標基準画像生成部8と、コンテンツに付加するエフェクトを表す画像変形情報を用いて、座標基準画像生成部8により生成された水平座標基準画像及び垂直座標基準画像を変形させる座標基準画像変形部9と、表示装置7により表示されている再生画像A上の座標を入力する座標入力部10と、座標基準画像変形部9により変形された水平座標基準画像から座標入力部10により入力された座標に位置している画素の画素値を水平座標x’として取得するとともに、座標基準画像変形部9により変形された垂直座標基準画像から座標入力部10により入力された座標に位置している画素の画素値を垂直座標y’として取得する座標変換部11とを設け、再生制御部3が、座標変換部11により取得された水平座標x’及び垂直座標y’を含むイベント発生領域に該当するイベント処理を実施するように構成したので、画像変形の逆変換式を用いることなく、変形後の再生画像上で指定された点の座標を、変形前の再生画像上の座標に変換することができるようになり、その結果、指定された点の座標に応じた処理を実施することができる効果を奏する。
【0047】
なお、上記の例では、座標基準画像変形部9により変形された水平座標基準画像(または、垂直座標基準画像)を示す図9(または、図10)において、コンテンツが存在していない画素に“0”を用いているが、水平座標基準画像(または、垂直座標基準画像)で使用されない値であれば、“0”に限るものではない。
【0048】
この実施の形態1では、再生画像生成部4が再生制御部3から取得した圧縮画像データから再生画像を生成させるものについて示したが、例えば、圧縮画像データが非圧縮の画像データで再生画像の画像データと同一のものである場合には、その再生画像の生成処理を行わずに、再生制御部3から取得した画像データをそのまま再生画像として再生画像変形部5に出力するようにしてもよい。
【0049】
この実施の形態1では、再生画像変形部5が画像変形情報に含まれている変換式を用いて、再生画像生成部4により生成された再生画像を変形させるものについて示したが、例えば、エフェクト識別情報が再生情報に含まれていない場合や、エフェクト識別情報に対応する画像変形情報がデータ記憶部1に記憶されていないような場合には、その再生画像の変形処理を行わずに、その再生画像を表示処理部6に出力するようにしてもよい。
同様に、座標基準画像変形部9が画像変形情報に含まれている変換式を用いて、座標基準画像生成部8により生成された水平座標基準画像と垂直座標基準画像を変形させるものについて示したが、例えば、エフェクト識別情報が再生情報に含まれていない場合や、エフェクト識別情報に対応する画像変形情報がデータ記憶部1に記憶されていないような場合には、その水平座標基準画像と垂直座標基準画像の変形処理を行わずに、その水平座標基準画像と垂直座標基準画像を座標変換部11に出力するようにしてもよい。
【0050】
上記の例では、画像Aが2つのイベント発生領域を含んでいるものを示したが、1つ以上のイベント発生領域を含んでいれば、何個でも構わない。
上記の例では、画像Bが特にイベント発生領域を含んでいないものを示したが、画像Bが新たなイベント発生領域を含んでいてもよい。
【0051】
上記の例では、ステップST15において、画像Aを画像Bに変更した後、ステップST16において、画像の更新が発生することを検知した場合、ステップST3の処理に戻り、画像Bを含むコンテンツ情報をデータ記憶部1から取得し、画像Bの圧縮画像データを再生画像生成部4に出力し、画像Aを画像Bに変更して、ST3〜ST15の処理を繰り返し実施するものについて示したが、コンテンツが画像Bのようにイベント発生領域やイベント情報を含まない静止画像の場合、ST7〜ST16の処理を実施せずに、ST3〜ST6、ST17の処理を繰り返し実施するようにしてもよい。
また、再生制御部3が最初に画像Aのコンテンツ情報をデータ記憶部1から取得する際に、画像Bのコンテンツ情報も取得しておき、ステップST16で画像の更新が発生することを検知した場合、ステップST3の処理に戻る代わりに、既に再生制御部3が取得済みである画像Bのコンテンツ情報から画像Bの圧縮画像データを再生画像生成部4に出力し、画像Aを画像Bに変更して、ST3〜ST15の処理を繰り返し実施するようにしてもよい。
【0052】
実施の形態2.
上記実施の形態1では、静止画像であるコンテンツを再生するものについて示したが、 この実施の形態2では、動画像であるコンテンツを再生するものについて説明する。
図11はこの発明の実施の形態2によるコンテンツ表示装置を示す構成図である。
図11は再生制御部3及び表示処理部6以外の処理部は、図1と同様の処理部であるが、表示処理部6で発生させた表示画面の更新タイミングの発生通知を再生制御部3に通知する点が図1と異なっている。
【0053】
表示処理部6は、上記実施の形態1と同様に、画像処理を実施するGPUなどから構成されており、再生画像変形部5により変形された再生画像を格納する1つ以上のフレームバッファを備え、かつ、表示装置7の画面を更新するタイミングに合わせてフレームバッファの内容を表示装置7に出力する処理を実施するほかに、その表示画面の更新タイミングの発生を再生制御部3に通知する処理を実施する。
【0054】
再生制御部3は例えばCPUを実装している半導体集積回路、あるいは、ワンチップマイコンなどから構成されており、再生情報入力部2により入力された再生情報に含まれているコンテンツ識別情報及びエフェクト識別情報を抽出する処理を実施する。
また、再生制御部3はデータ記憶部1により記憶されているコンテンツ情報の中から、そのコンテンツ識別情報が示すコンテンツ情報を取得し、表示処理部6から通知された表示画面の更新タイミングの発生通知を受けると、そのコンテンツ情報が示すイベント付コンテンツの圧縮画像データを再生画像生成部4に出力するとともに、そのコンテンツの解像度情報を座標基準画像生成部8に出力し、また、データ記憶部1により記憶されている画像変形情報の中から、そのエフェクト識別情報が示す画像変形情報を取得して、その画像変形情報を再生画像変形部5及び座標基準画像変形部9に出力する処理を実施する。
【0055】
200〜211は、図1と同様である。
212は、表示画面の更新タイミングの発生通知である。
【0056】
図11の例では、コンテンツ表示装置の構成要素であるデータ記憶部1、再生情報入力部2、再生制御部3、再生画像生成部4、再生画像変形部5、表示処理部6、表示装置7、座標基準画像生成部8、座標基準画像変形部9、座標入力部10及び座標変換部11のそれぞれが専用のハードウェアで構成されているものを想定しているが、コンテンツ表示装置がコンピュータで構成される場合、再生情報入力部2、再生制御部3、再生画像生成部4、再生画像変形部5、表示処理部6、座標基準画像生成部8、座標基準画像変形部9、座標入力部10及び座標変換部11の処理内容を記述しているプログラムをコンピュータのメモリに格納し、当該コンピュータのCPUが当該メモリに格納されているプログラムを実行するようにしてもよい。さらに、コンピュータがGPUを備える場合、再生画像生成部4、再生画像変形部5、表示処理部6、座標基準画像生成部8、座標基準画像変形部9のいずれか、あるいは、全てに該当する前記メモリに格納されているプログラムをGPUが実行するようにしてもよい。
図12はこの発明の実施の形態2によるコンテンツ表示装置の処理内容を示すフローチャートである。
【0057】
次に動作について説明する。
この実施の形態2においても、上記実施の形態1と同様に、イベント発生領域a1を示すボタンa1と、イベント発生領域a2を示すボタンa2が描かれた画像Aを表す500画素×500画素のコンテンツを1000画素×1000画素の表示装置に再生する。
また、イベント処理の内容も、上記実施の形態1と同様に、ボタンa1の表示領域を押下すると、コンテンツが再生終了し、ボタンa2の表示領域を押下すると、コンテンツの画像Aが画像Bに切り替わるものとする。
なお、この実施の形態2では、画像Aは一定間隔で画像が更新される動画像であるものとし、このコンテンツ情報には、再生時刻t0(再生開始時刻)から再生時刻T(再生終了時刻)までの画像Aの圧縮画像データが保持されており、再生を開始してから時刻tを経過したときの画像Aの圧縮画像データをC_A(t)、コンテンツの再生画像をI_A(t)と表記する。
【0058】
また、説明の便宜上、この実施の形態2でも、上記実施の形態1と同様に、再生画像、水平座標基準画像、垂直座標基準画像、表示画像、変更後の水平座標基準画像、変更後の垂直座標基準画像は、それぞれ図3〜図10となるが、再生画像、表示画像は一定間隔で画像が更新されているものとする。
また、画像Aが再生される限り、ボタンa1、a2及びそのイベント発生領域は画像が変化しても変更されないものとする。
また、画像Bは、静止画像でも動画像でもよく、イベント発生領域とイベント情報を含んでいても、含んでいなくてもよい。
【0059】
ステップST1,ST2の処理内容は、上記実施の形態1と同様であるため説明を省略する。
【0060】
再生制御部3は、コンテンツ識別情報及びエフェクト識別情報を抽出すると、データ記憶部1により記憶されているコンテンツ情報の中から、そのコンテンツ識別情報が示すイベント付コンテンツのコンテンツ情報を取得する(ステップST3)。
再生制御部3は、画像Aが動画像であるため、表示処理部6から画面更新タイミングの発生通知を受けると、再生を開始してから時刻tを経過したときの圧縮画像データC_A(t)を再生画像生成部4に出力し、コンテンツの解像度情報を座標基準画像生成部8に出力する。
また、再生制御部3は、データ記憶部1により記憶されている画像変形情報の中から、そのエフェクト識別情報が付加されているエフェクトEの画像変形情報を取得して、その画像変形情報を再生画像変形部5及び座標基準画像変形部9に出力する(ステップST19)。
【0061】
ステップST4〜ST5の処理内容は、圧縮画像データをC_A(t)とし、コンテンツの再生画像AをI_A(t)とする以外は、上記実施の形態1と同様であるため説明を省略する。
【0062】
表示処理部6は、再生画像変形部5が再生画像Aを変形させる処理を実施すると、変形後の再生画像Aを内部のフレームバッファに格納する。
また、表示処理部6は、表示装置7の画面を更新するタイミングに合わせてフレームバッファの内容を表示装置7に出力する。
表示処理部6は、全コンテンツを合成すると、画面更新タイミングに合わせて、その再生画像Aを表示装置7に描画するとともに、その画面更新タイミングを再生制御部3に通知する(ステップST6)。
ステップST7〜ST15の処理内容は、上記実施の形態1と同様であるため説明を省略する。
【0063】
画像制御部3は、次のフレームで表示画像の更新が発生するか否かをチェックする(ステップST16)。
例えば、イベント処理が“再生終了”や“コンテンツの再生停止”の場合、次のフレームで表示画像の更新は発生しないため、ステップST17の処理に移行する。
一方、イベント処理が“画像Aから画像Bへの変更”の場合や、特にイベント処理が発生せずにコンテンツの再生終了時刻に至っていない場合、次のフレームで表示画像の更新が発生するため、ステップST18の処理に移行する。
ここで、「次のフレーム」は、次に表示処理部6から画面更新タイミングの発生通知を受けた後に、表示処理部6が表示装置7に表示する表示画像に相当する。
【0064】
画像制御部3は、次のフレームで表示画像の更新が発生しない場合、再生終了か否かをチェックする(ステップST17)。
例えば、イベント処理が“再生終了”を実施している場合、あるいは、コンテンツの再生時間が設定されていて再生終了時刻に至っている場合、一連の処理を終了する。
一方、再生終了しない場合、ステップST10の処理に戻り、ステップST10〜ST16までの処理を繰り返し実施する。
【0065】
画像制御部3は、次のフレームで表示画像の更新が発生する場合、次のフレームでコンテンツあるいはコンテンツに付加されたエフェクトが変更されるか否かをチェックする(ステップST18)。
例えば、ステップST15のイベント処理で画像Aを画像Bに変更する場合、ステップST3の処理に戻り、前回のステップST3の処理を完了してから時間tAを経過後、画像Bの圧縮データを再生画像生成部4に出力し、解像度情報を座標基準画像生成部8に出力する処理を実施し、再生画像I_A(t)を再生画像Bに変更して、ST19・ST4〜ST16の処理を繰り返し実施する。
また、ボタンa1の表示領域もボタンa2の表示領域も押下されておらず、画像Aを再生し続ける場合、ステップST19の処理に戻り、表示処理部6から画面更新タイミングの発生通知を受けると、再生制御部3はコンテンツ情報から、再生を開始してからの新たな時刻t’を経過した時の画像Aの圧縮画像データC_A(t’)を再生画像生成部4に出力し、以降、再生画像I_A(t)を再生画像I_A(t’)に変更して、ステップST4〜ST15の処理を繰り返し実施する。
【0066】
以上で明らかなように、この実施の形態2によれば、再生画像生成部4により生成された再生画像の解像度と同一の解像度を有する画像であって、再生画像の水平方向座標から一対一に求められる値を画素値とする水平座標基準画像を生成するとともに、再生画像の垂直方向座標から一対一に求められる値を画素値とする垂直座標基準画像を生成する座標基準画像生成部8と、コンテンツに付加するエフェクトを表す画像変形情報を用いて、座標基準画像生成部8により生成された水平座標基準画像及び垂直座標基準画像を変形させる座標基準画像変形部9と、表示装置7により表示されている再生画像A上の座標を入力する座標入力部10と、座標基準画像変形部9により変形された水平座標基準画像から座標入力部10により入力された座標に位置している画素の画素値を水平座標として取得するとともに、座標基準画像変形部9により変形された垂直座標基準画像から座標入力部10により入力された座標に位置している画素の画素値を垂直座標として取得する座標変換部11とを設け、再生制御部3が、座標変換部11により取得された水平座標及び垂直座標を含むイベント発生領域に該当するイベント処理を実施するように構成したので、画像変形の逆変換式を用いることなく、変形後の再生画像上で指定された点の座標を、変形前の再生画像上の座標に変換することができるようになり、その結果、指定された点の座標に応じた処理を実施することができる効果を奏する。また、再生する画像は静止画像だけでなく動画像にも対応することができる効果を奏する。
【0067】
この実施の形態2では、再生制御部3が表示処理部6から画面更新タイミングの発生通知を受ける度に、座標基準画像生成部8に対して解像度情報を出力し、座標基準画像生成部8では、再生制御部3が表示処理部6から画面更新タイミングの発生通知を受ける度に、水平座標基準画像と垂直座標基準画像を生成し、座標基準画像変形部9では、その水平座標基準画像と垂直座標基準画像を変形するものについて示したが、座標基準画像生成部8は再生制御部3から既に取得済みの解像度情報と同じ解像度情報を受けた場合は、新たに水平座標基準画像と垂直座標基準画像を生成せず、前回生成した水平座標基準画像と垂直座標基準画像を座標基準画像変形部9に出力するようにしてもよい。あるいは、コンテンツの幅のみ変更された場合は水平座標基準画像のみ、コンテンツの高さのみ変更された場合は垂直座標基準画像のみ生成するようにしてもよい。
【0068】
また、座標基準画像生成部8は座標入力部10から変形後の再生画像A上の座標(x,y)が入力されたときに限り(座標基準画像生成部8が座標入力部10から座標(x,y)が入力された旨の通知を受ける)、水平座標基準画像I_h(x,y)及び垂直座標基準画像I_v(x,y)を生成するようにしてもよい。
また、座標基準画像変形部9は座標入力部10から変形後の再生画像A上の座標(x,y)が入力されたときに限り(座標基準画像変形部9が座標入力部10から座標(x,y)が入力された旨の通知を受ける)、水平座標基準画像I_h(x,y)及び垂直座標基準画像I_v(x,y)を変形させるようにしてもよい。
【0069】
上記の例では、再生画像生成部4が、座標(x’,y’)がイベント発生領域a2内に含まれる場合、図3(b)に示すような画像Bを生成するものについて示したが、画像Bは静止画像でも動画像でもよい。また、画像Aのように、ボタンa1、ボタンa2、あるいは、別のイベント発生領域を含んでいてもよい。
【0070】
この実施の形態2では、画像変形情報、イベント発生領域及びイベント発生領域を押下した場合のイベント情報が固定であったが、これらも固定ではなく、再生制御部3が、表示処理部6から画面更新タイミングの発生通知を受ける度に更新されるようにしてもよい。
【0071】
上記の例では、ステップST19において、再生制御部3が、画像Aが動画像であるため、表示処理部6から画面更新タイミングの発生通知を受けると、再生を開始してから時刻tを経過したときの圧縮画像データC_A(t)、解像度及び画像変形情報を再生画像生成部4、座標基準画像生成部8、再生画像変形部5及び座標基準画像変形部9に出力するものを示したが、再生制御部3が、表示処理部6から画面更新タイミングの発生通知を受けずに、画像Aのコンテンツ情報に含まれる画面更新間隔を示す情報(例えば、フレームレートなど)に基づき、時間間隔Δt毎に、再生を開始してから時刻tを経過したときの圧縮画像データC_A(t)、解像度及び画像変形情報を再生画像生成部4、座標基準画像生成部8、再生画像変形部5及び座標基準画像変形部9に出力するようにしてもよい。
【0072】
上記の例では、ステップST17において、画像制御部3が、次のフレームで表示画像の更新が発生しない場合、再生終了か否かをチェックし、コンテンツの再生時間が設定されていて再生終了時刻に至っている場合、一連の処理を終了するようにしているが、コンテンツの再生時間が設定されていて再生終了時刻に至っている場合、一連の処理を終了するのではなく、表示画像の更新を停止するようにしてもよい。
【0073】
上記の例では、再生制御部3において、最初にコンテンツ情報を読み込む際に、全てのコンテンツ情報を取得しておき、同一のコンテンツ情報に含まれる圧縮画像データを新たにデータ記憶部1から取得せずに、再生画像生成部4に出力するようにしているが、新たな再生画像を生成する度に、必要な圧縮画像データのみデータ記憶部1から取得し、再生画像生成部4に出力するようにしてもよい。
【0074】
実施の形態3.
この実施の形態3は、複数のコンテンツを同時に再生する場合について説明する。
図13はこの発明の実施の形態3によるコンテンツ表示装置を示す構成図である。
図14はこの実施の形態3におけるコンテンツ表示装置のコンテンツ変形再生部12−n(n=1,2,・・・,N)を示す構成図である。
【0075】
再生情報入力部2は、1つ以上の再生対象のイベント付コンテンツを選択する処理を実施する。具体的には、選択したコンテンツを識別するコンテンツ識別情報(例えば、コンテンツ名や、コンテンツの識別番号などを示す情報)、各コンテンツに付加するエフェクトを識別するエフェクト識別情報、各コンテンツのレイアウト情報(コンテンツを表示する位置や、他のコンテンツとの前後関係を示す情報)などを含む再生情報を入力する処理を実施する。
なお、再生情報入力部2は、インターネットやLANなどのネットワークから再生情報を入力する場合、例えば、LANカードなどのネットワークI/F機器から構成され、ユーザの操作を受け付けて再生情報を入力する場合、キーボードやマウスなどのマンマシンインタフェースから構成される。
【0076】
再生制御部3は例えばCPUを実装している半導体集積回路、あるいは、ワンチップマイコンなどから構成されており、再生情報入力部2により入力された再生情報に含まれている全コンテンツ識別情報、全エフェクト識別情報及びレイアウト情報を抽出する処理を実施する。
また、再生制御部3はデータ記憶部1により記憶されているコンテンツ情報の中から、各コンテンツ識別情報が示すコンテンツ情報を取得し、どのコンテンツ情報をコンテンツ再生変形部12−1〜12−Nのどれに処理させるかを決定する。
また、再生制御部3は表示処理部6から画面更新タイミングの発生通知を受けると、各コンテンツ情報から圧縮画像データと解像度情報を、当該コンテンツ情報を処理するコンテンツ再生変形部12−nに出力し、データ記憶部1により記憶されている画像変形情報の中から、各エフェクト識別情報が示す画像変形情報を取得して、その画像変形情報を、その画像変形情報が付加されるコンテンツ情報を処理するコンテンツ再生変形部12−nに出力する処理を実施する。また、そのレイアウト情報を表示処理部6及び座標画像合成部13に出力する処理を実施する。
【0077】
さらに、再生制御部3は全コンテンツの水平座標基準画像の画素値が重複しないような各コンテンツの水平座標基準画像のオフセットを全コンテンツの解像度から計算し、各コンテンツ情報を処理するコンテンツ生成変形部12−1〜12−Nに出力する処理を実施する。
また、再生制御部3は全コンテンツの垂直座標基準画像の画素値が重複しないような各コンテンツの垂直座標基準画像のオフセットを全コンテンツの解像度から計算し、各コンテンツ情報を処理するコンテンツ生成変形部12−1〜12−Nに出力する処理を実施する。
なお、再生制御部3は再生制御手段を構成している。
【0078】
コンテンツ再生変形部12−n(n=1,2,・・・N)は、再生画像生成部4−n、再生画像変形部5−n、座標基準画像生成部8−n及び座標基準画像変形部9−nから構成されており、再生制御部3から1つのコンテンツに含まれる圧縮画像データ、コンテンツの解像度情報、コンテンツ付加された画像変形情報を取得して、そのコンテンツの変形後の再生画像を生成し、変形後の再生画像を表示処理部6に出力するとともに、変形後の水平座標基準画像及び変形後の垂直座標基準画像を生成し、変形後の水平座標基準画像及び変形後の垂直座標基準画像を座標画像合成部13に出力する処理を実施する。
【0079】
再生画像生成部4−n(n=1,2,・・・N)は例えばCPUを実装している半導体集積回路、あるいは、ワンチップマイコン、GPUなどから構成されており、再生制御部3から出力された圧縮画像データからコンテンツの再生画像を生成する処理を実施する。
なお、再生画像生成部4−nは再生画像生成手段を構成している。
再生画像変形部5−n(n=1,2,・・・N)は例えばCPUを実装している半導体集積回路、あるいは、ワンチップマイコン、GPUなどから構成されており、再生制御部3から出力された画像変形情報を用いて、再生画像生成部4−nにより生成された再生画像を変形させる処理を実施する。なお、再生画像変形部5−nは再生画像変形手段を構成している。
【0080】
座標基準画像生成部8−n(n=1,2,・・・N)は例えばCPUを実装している半導体集積回路、あるいは、ワンチップマイコンなどから構成されており、再生制御部3から水平座標基準画像のオフセットと垂直基準画像のオフセットを取得し、再生制御部3から出力されたコンテンツの解像度情報が示す解像度(再生画像生成部4−nにより生成された再生画像の解像度と同一の解像度)を有する水平座標基準画像と垂直座標基準画像を生成する処理を実施する。
例えば、解像度がWS画素×HS画素のコンテンツSと解像度がWU画素×HU画素のコンテンツUを同時に表示する場合、画像制御部3では、コンテンツSの水平座標基準画像のオフセットをSXS、コンテンツSの垂直座標基準画像のオフセットをSYS、コンテンツUの水平座標基準画像のオフセットをSXU、コンテンツSの垂直座標基準画像のオフセットをSYUとする。
【0081】
コンテンツSを再生するコンテンツ再生変形部12−Sを構成する座標基準画像生成部8−Sは再生画像Sの水平方向座標とオフセットSXSの組み合せから一対一に求められる値であるコンテンツSの水平座標基準画像、再生画像Sの垂直方向座標とオフセットSYUの組み合せから一対一に求められる値であるコンテンツSの垂直座標基準画像を生成する処理を実施する。
また、コンテンツUを再生するコンテンツ再生変形部12−Uを構成する座標基準画像生成部8−Uは再生画像Uの水平方向座標とオフセットSXUの組み合せから一対一に求められる値であるコンテンツUの水平座標基準画像、再生画像Uの垂直方向座標とオフセットSYUの組み合せから一対一に求められる値であるコンテンツUの垂直座標基準画像を生成する処理を実施する。
なお、座標基準画像生成部8−nは座標基準画像生成手段を構成している。
【0082】
座標基準画像変形部9−n(n=1,2,・・・N)は例えばCPUを実装している半導体集積回路、あるいは、ワンチップマイコン、GPUなどから構成されており、再生制御部3から出力された画像変形情報を用いて、座標基準画像生成部8−nにより生成された水平座標基準画像及び垂直座標基準画像を変形させる処理を実施する。
なお、座標基準画像変形部9−nは座標基準画像変形手段を構成している。
【0083】
表示処理部6は画像処理を実施するGPUなどから構成されており、再生制御部3から出力されたレイアウト情報に基づいて、再生中の全てのコンテンツの再生画像の表示位置を特定し、コンテンツ再生変形部12−1〜12−Nにより生成された全ての変形後の再生画像を合成して表示画像を生成し、その表示画像を格納する1つ以上のフレームバッファを備えている。
また、表示処理部6は画面更新タイミングに合わせてフレームバッファの内容を表示装置7に出力する。
表示処理部6は表示装置7の画面を更新するタイミングに合わせてフレームバッファの内容を表示装置7に出力する処理を実施する。
表示装置7は表示処理部6の描画処理によって、再生画像を表示するディスプレイである。
【0084】
座標画像合成部13は例えばCPUを実装している半導体集積回路、あるいは、ワンチップマイコン、GPUなどから構成されており、再生制御部3から出力されたレイアウト情報に基づいて再生中の全てのコンテンツの水平座標基準画像の表示位置を特定し、コンテンツ生成変形部12−1〜12−Nにより生成された全ての変形後の水平座標基準画像を合成して水平座標画像を生成する処理を実施する。
また、座標画像合成部13は再生制御部3から出力されたレイアウト情報に基づいて再生中の全てのコンテンツの垂直座標基準画像の表示位置を特定し、コンテンツ生成変形部12−1〜12−Nにより生成された全ての変形後の垂直座標基準画像を合成して垂直座標画像を生成する処理を実施する。
なお、座標画像合成部13は座標画像合成手段を構成している。
【0085】
座標入力部10は例えばキーボードやマウスやタッチパネルなどのマンマシンインタフェースから構成されており、表示装置7により表示されている変形後の再生画像上の座標(ユーザにより指定された座標)を入力する処理を実施する。なお、座標入力部10は座標入力手段を構成している。
座標変換部11は例えばCPUを実装している半導体集積回路、あるいは、ワンチップマイコンなどから構成されており、座標画像合成部13により合成された水平座標基準画像から座標入力部10により入力された座標に位置している画素の画素値を水平座標として取得するとともに、座標画像合成部13により合成された垂直座標基準画像から座標入力部10により入力された座標に位置している画素の画素値を垂直座標として取得し、その水平座標と垂直座標を再生制御部3に出力する処理を実施する。なお、座標変換部11は座標取得手段を構成している。
【0086】
再生制御部3は座標変換部11から水平座標と垂直座標を受けると、各コンテンツの水平座標基準画像のオフセットと垂直座標基準画像のオフセットと解像度から、入力された座標が選択しているコンテンツを確定し、水平座標と水平座標基準画像のオフセット、垂直座標と垂直座標基準画像のオフセットの差分を計算する。
また、再生制御部3は、データ記憶部1から取得したコンテンツ情報に含まれるイベント発生領域とイベント情報を抽出し、その計算後の水平座標及び計算後の垂直座標を含むイベント発生領域を照合することで、照合したイベント発生領域に関連付けられたイベント情報に基づいてイベント処理を実施する。
なお、イベント処理がコンテンツの表示内容に関わる処理として、例えば、コンテンツ内の素材、コンテンツ自体、エフェクト、レイアウト、イベントの変更などの場合、その内容に応じてデータ記憶部1から必要なデータを取得し、再生画像生成部4、再生画像変形部5、表示処理部6、座標基準画像生成部8、座標基準画像変形部9、座標画像合成部13に渡す情報を変更するようにしてもよい。また、イベント処理がデータ記憶部1に格納された別のプログラムを実行する内容の場合は、プログラムを取得して実施するようにしてもよい。
【0087】
200は、再生情報である。
201は、再生情報に含まれているコンテンツ識別情報が示すコンテンツ情報及び再生情報に含まれているエフェクト識別情報が示す画像変形情報である。
202は、コンテンツ情報に含まれている圧縮画像データである。
203は、コンテンツの再生画像である。
204は、コンテンツに付加されている画像変形情報である。
205は、変形後の再生画像である。
206は、表示装置7により表示される表示画像である。
207は、コンテンツの解像度情報である。
208は、水平座標基準画像と垂直座標基準画像である。
209は、変形後の水平座標基準画像と変形後の垂直座標基準画像である。
210は、表示装置7により表示されている変形後の再生画像上の座標である。
211は、変形前の再生画像上の座標である。
212は、表示画面の更新タイミングの発生通知である。
213は、202、203、204を含む情報である。
214は、全コンテンツのレイアウト情報である。
【0088】
図13、図14の例では、コンテンツ表示装置の構成要素であるデータ記憶部1、再生情報入力部2、再生制御部3、再生画像生成部4−1〜4−N、再生画像変形部5−1〜5−N、表示処理部6、表示装置7、座標基準画像生成部8−1〜8−N、座標基準画像変形部9−1〜9−N、座標入力部10、座標変換部11及び座標画像合成部13のそれぞれが専用のハードウェアで構成されているものを想定しているが、コンテンツ表示装置がコンピュータで構成される場合、再生情報入力部2、再生制御部3、再生画像生成部4−1〜4−N、再生画像変形部5−1〜5−N、表示処理部6、座標基準画像生成部8−1〜8−N、座標基準画像変形部9−1〜9−N、座標入力部10、座標変換部11及び座標画像合成部13の処理内容を記述しているプログラムをコンピュータのメモリに格納し、当該コンピュータのCPUが当該メモリに格納されているプログラムを実行するようにしてもよい。さらに、コンピュータがGPUを備える場合、再生画像生成部4−1〜4−N、再生画像変形部5−1〜5−N、表示処理部6、座標基準画像生成部8−1〜8−N、座標基準画像変形部9−1〜9−N及び座標画像合成部13のいずれか、あるいは、全てに該当する前記メモリに格納されているプログラムをGPUが実行するようにしてもよい。
また、コンピュータが複数のCPUあるいはGPUを備え、コンテンツ再生変形部12−1〜12−Nに該当する前記メモリに格納されているプログラムを各々1つずつのCPUあるいはGPUが実行するようにしてもよい。
【0089】
図15はこの発明の実施の形態3によるコンテンツ表示装置の処理内容を示すフローチャートである。
図3と図16のコンテンツを例に取り、図15に沿って1つの動画像のコンテンツと1つの静止画像のコンテンツを再生する動作を説明する。
【0090】
図16はコンテンツUの再生画像の例を示す説明図である。
図16では、300画素×300画素サイズのコンテンツUと、同サイズの画像C上に100画素×50画素サイズの画像Dを配置した再生画像の例を示している。また、画像Dの表示領域をイベント発生領域とし、画像Dの表示領域を押下した場合、コンテンツUのみを再生終了するイベント処理を実施するものとする。
また、コンテンツSは、上記実施の形態2で用いた画像Aのコンテンツであるものとする。
【0091】
再生情報入力部2は、例えば、ユーザの指示の下、再生対象のコンテンツを識別する1つ以上のコンテンツ識別情報、各コンテンツに付加するエフェクトを識別するエフェクト識別情報、各コンテンツのレイアウト情報などを含む再生情報を入力すると、その再生情報を再生制御部3に出力する(図15のステップST1)。
【0092】
再生制御部3は、再生情報入力部2から再生情報を受けると、その再生情報に含まれているコンテンツ識別情報、エフェクト識別情報及びレイアウト情報を抽出する(ステップST2)。
再生制御部3は、コンテンツ識別情報、エフェクト識別情報及びレイアウト情報を抽出すると、データ記憶部1により記憶されているコンテンツ情報の中から、そのコンテンツ識別情報が示すイベント付コンテンツSとイベント付コンテンツUのコンテンツ情報を取得して(ステップST3)、コンテンツSをコンテンツ再生変形部12−Sに処理させることに決定し、コンテンツUをコンテンツ再生変形部12−Uに処理させることに決定する。
【0093】
再生制御部3は、各コンテンツ情報を処理させるコンテンツ再生変形部を決定すると、データ記憶部1により記憶されているコンテンツ情報の中から、そのコンテンツ識別情報が示すコンテンツSとコンテンツUのコンテンツ情報を取得し、表示処理部6から画面更新タイミングの発生通知を受けると、そのコンテンツ情報から画像Aの圧縮画像データを再生画像生成部4−Sに出力し、画像C、画像Dの圧縮データ及びコンテンツU内のレイアウト情報を再生画像生成部4−Uに出力する。
また、再生制御部3は、上述のコンテンツ情報からコンテンツSの解像度情報を座標基準画像生成部8−Sに出力し、コンテンツUの解像度情報を座標基準画像生成部8−Uに出力する。
【0094】
また、再生制御部3は、データ記憶部1により記憶されている画像変形情報の中から、そのエフェクト識別情報が付加されているエフェクトの画像変形情報ESとエフェクトの画像変形情報EUを取得して、コンテンツSに付加された画像変形情報ESを再生画像変形部5−S及び座標基準画像変形部9−Sに出力し、コンテンツUに付加された画像変形情報EUを再生画像変形部5−U及び座標基準画像変形部9−Uに出力する。
また、再生制御部3は、コンテンツSとコンテンツUのレイアウト情報を表示処理部6及び座標画像合成部13に出力する(ステップST19)。
さらに、再生制御部3は、コンテンツSが500画素×500画素、コンテンツUが300画素×300画素であることから、コンテンツSの水平座標基準画像のオフセットを0、コンテンツSの垂直座標基準画像のオフセットを0、コンテンツUの水平座標基準画像のオフセットを500、コンテンツUの垂直座標基準画像のオフセットを100とし、コンテンツSの水平座標基準画像のオフセットと垂直座標基準画像のオフセットを座標基準画像生成部8−Sに渡し、コンテンツUの水平座標基準画像のオフセットと垂直座標基準画像のオフセットを座標基準画像生成部8−Uに渡す処理を実施する(ステップST20)。
【0095】
再生画像生成部4−Sは、再生制御部3から出力された画像Aの圧縮画像データからコンテンツSの再生画像Sを生成する。ただし、再生画像Sは、図5と同様であるとする。
再生画像生成部4−Uは、再生制御部3から出力された画像C、画像Dの圧縮画像データからコンテンツUの再生画像Uを生成する(ステップST4)。
【0096】
ここで、図19は再生画像生成部4−Uにより生成された再生画像Uにおける各画素の画素値を示すマッピング図である。
図19では、記述を簡略化して、15マス×15マスしか示していないが、再生画像Uが、例えば、300画素×300画素サイズのコンテンツの画像である場合、300画素×300画素の画素値を有している。
図19において、画素値「1」はほぼ黒色(黒色の場合、画素値「0」)を示しており、画像Dが存在している領域である。
また、画素値「128」は灰色を示しており、画像Dが重なっていない画像Cの領域である。
【0097】
再生画像変形部5−Sは、再生画像生成部4−Sがコンテンツの再生画像Sを生成すると、再生制御部3から出力されたエフェクトESの画像変形情報に含まれている変換式を用いて、再生画像生成部4−Sにより生成された再生画像Sを変形させる処理を実施し、再生画像変形部5−Uは、再生画像生成部4−Uがコンテンツの再生画像Uを生成すると、再生制御部3から出力されたエフェクトEUの画像変形情報に含まれている変換式を用いて、再生画像生成部4−Uにより生成された再生画像Uを変形させる処理を実施する(ステップST5)。
ここで、再生画像変形部5−S、再生画像変形部5−Uが画像変形情報に含まれている変換式を用いて、再生画像S、再生画像Uを変形させる処理自体は公知の技術であるため詳細な説明を省略する。
また、変換式も公知の式でよく、再生画像を変形させるものであれば、いかなる変換式を用いてもよい。
【0098】
ここで、図17は再生画像変形部5−Uにより変形された再生画像Uの例を示す説明図である。
ただし、図17は画像変形部5−UによってコンテンツUが画像変形情報EUで変形処理が行われる場合の変形後の再生画像Uを示している。
図17では、表示装置7の画面サイズが1000画素×1000画素サイズであり、再生画像変形部5−Uにて再生画像Uが変形されて、1000画素×1000画素のサイズの中心に再生画像Uの左下が配置される例を示している。
また、この実施の形態3では、図17の画像C、画像Dは、動画像でもよいが、説明の便宜上、静止画像であるものとする。
【0099】
表示処理部6は、再生画像変形部5−Sが再生画像Sを変形させる処理を実施すると、変形後の再生画像Sを再生制御部3から出力されたレイアウト情報から再生画像Sの表示位置を特定し、フレームバッファに合成する。
表示処理部6は、再生画像変形部5−Uが再生画像Uを変形させる処理を実施すると、変形後の再生画像Uを再生制御部3から出力されたレイアウト情報から再生画像Uの表示位置を特定し、再生画像Sの上にフレームバッファに合成する。
表示処理部6は、全コンテンツを合成すると、画面更新タイミングに合わせて、その再生画像Aを表示装置7に描画するとともに、その画面更新タイミングを再生制御部3に通知する(ステップST6)。
【0100】
ここで、図18は表示処理部6による表示画像の例を示す説明図である。
ただし、図18は再生制御部3から与えられたレイアウト情報に基づいて、変形後の再生画像Sの上に変形後の再生画像Uが重ねて配置される場合の表示画像を示している。
【0101】
座標基準画像生成部8−Sは、再生制御部3から出力された解像度情報と水平座標基準画像のオフセットと垂直座標基準画像のオフセットから、水平座標基準値の画素範囲が示すコンテンツの解像度(再生画像生成部4−Sにより生成された再生画像Aの解像度と同一の解像度)を有する水平座標基準画像I_hS(x,y)及び垂直座標基準画像I_vS(x,y)を生成し、座標基準画像生成部8−Uは、再生制御部3から出力された解像度情報と水平座標基準画像のオフセットと垂直座標基準画像のオフセットから、水平座標基準値の画素範囲が示すコンテンツの解像度(再生画像生成部4−Uにより生成された再生画像Aの解像度と同一の解像度)を有する水平座標基準画像I_hU(x,y)及び垂直座標基準画像I_vU(x,y)を生成する(ステップST7)。
【0102】
即ち、座標基準画像生成部8−Sは、コンテンツSの水平基準画像のオフセットが0であるため、図6に示すように、左側からM(例えば、M=1,2,3,・・・,500)番目の列に存在している全ての画素の画素値が“M”である水平座標基準画像I_hS(x,y)を生成する。
I_hS(x,y)=x
ただし、x=1,2,・・・,500
y=1,2,・・・,500
なお、(x,y)は、水平座標基準画像を構成している画素の位置を示しており、(1,1)は水平座標基準画像の左上の画素を示し、(500,500)は水平座標基準画像の右下の画素を示している。
【0103】
また、座標基準画像生成部8−Sは、コンテンツSの垂直基準画像のオフセットが0であるため、図7に示すように、上側からN(例えば、N=1,2,3,・・・,500)番目の行に存在している全ての画素の画素値が“N”である垂直座標基準画像I_hS(x,y)を生成する。
I_hS(x,y)=y
ただし、x=1,2,・・・,500
y=1,2,・・・,500
なお、(x,y)は、垂直座標基準画像を構成している画素の位置を示しており、(1,1)は垂直座標基準画像の左上の画素を示し、(500,500)は垂直座標基準画像の右下の画素を示している。
【0104】
また、座標基準画像生成部8−Uは、コンテンツUの水平基準画像のオフセットが500であるため、図20に示すように、左側からM(例えば、M=1,2,3,・・・,300)番目の列に存在している全ての画素の画素値が“M+500”である水平座標基準画像I_hU(x,y)を生成する。
I_hU(x,y)=x+500
ただし、x=1,2,・・・,300
y=1,2,・・・,300
なお、(x,y)は、水平座標基準画像を構成している画素の位置を示しており、(1,1)は水平座標基準画像の左上の画素を示し、(300,300)は水平座標基準画像の右下の画素を示している。
図20では、記述を簡略化して、15マス×15マスしか示していないが、水平座標基準画像は、300画素×300画素サイズの画像であるため、実際には、300画素×300画素の画素値を有している。
【0105】
また、座標基準画像生成部8−Uは、コンテンツUの垂直基準画像のオフセットが100であるため、図21に示すように、上側からN(例えば、N=1,2,3,・・・,300)番目の行に存在している全ての画素の画素値が“N+100”である垂直座標基準画像I_hU(x,y)を生成する。
I_hU(x,y)=y+100
ただし、x=1,2,・・・,300
y=1,2,・・・,300
なお、(x,y)は、垂直座標基準画像を構成している画素の位置を示しており、(1,1)は垂直座標基準画像の左上の画素を示し、(300,300)は垂直座標基準画像の右下の画素を示している。
図21では、記述を簡略化して、15マス×15マスしか示していないが、垂直座標基準画像は、300画素×300画素サイズの画像であるため、実際には、300画素×300画素の画素値を有している。
【0106】
座標基準画像変形部9−Sは、座標基準画像生成部8−Sが水平座標基準画像I_hS(x,y)及び垂直座標基準画像I_vS(x,y)を生成すると、再生画像変形部5と同様に、再生制御部3から出力された画像変形情報ESを用いて、水平座標基準画像I_hS(x,y)及び垂直座標基準画像I_vS(x,y)を変形させる処理を実施する。
また、座標基準画像変形部9−Uは、座標基準画像生成部8−Uが水平座標基準画像I_hU(x,y)及び垂直座標基準画像I_vU(x,y)を生成すると、再生画像変形部5と同様に、再生制御部3から出力された画像変形情報EUを用いて、水平座標基準画像I_hU(x,y)及び垂直座標基準画像I_vU(x,y)を変形させる処理を実施する(ステップST9)。
ここで、図20は座標画像合成部13により変形された水平座標画像H(x,y)における各画素の画素値を示すマッピング図である。
また、図21は座標画像合成部13により変形された垂直座標画像V(x,y)における各画素の画素値を示すマッピング図である。
ただし、図20及び図21では、図面の簡略化のため一部省略している。
【0107】
座標入力部10は、ユーザが表示装置7上のタッチパネルに触れると(ステップST10)、ユーザにより触れられた位置を示す変形後の再生画像A上の座標(x,y)を座標変換部11に出力する(ステップST11)。
【0108】
座標変換部11は、座標入力部10からユーザにより触れられた位置を示す表示画面上の座標(x,y)を受けると、座標画像合成部13から出力された図20の水平座標画像H(x,y)から、表示画面上の座標(x,y)に位置している画素の画素値を水平座標x’として取得する。
また、座標変換部11は、座標画像合成部13から出力された図21の垂直座標画像V(x,y)から、表示画面上の座標(x,y)に位置している画素の画素値を垂直座標y’として取得する(ステップST12)。
【0109】
再生制御部3は、座標変換部11から水平座標x’と垂直座標y’を受けると、その座標(x’,y’)と、再生情報に含まれている各コンテンツのイベント発生領域に各コンテンツの水平基準座標のオフセットと垂直基準座標のオフセットを加算した値を照合することで、その座標(x’,y’)を含むイベント発生領域を検索する(ステップST13)。
例えば、イベント発生領域であるボタンa1,ボタンa2、画像Dの表示領域に各コンテンツの水平基準座標のオフセットと垂直基準座標のオフセットを加算した値が下記の通りであるとするとき、水平座標x’=150、垂直座標y’=330であれば、座標(x’,y’)を含むイベント発生領域a1がヒットする。
【0110】
なお、イベント発生領域Dは画像Dの表示領域と同じ領域を示している。説明の便宜上、コンテンツU内の領域を示す場合、画像Dと表現し、イベント発生領域を示す場合、イベント発生領域Dと示すものとする。
a1 a2 D
X座標 120〜200 300〜380 100〜200
Y座標 300〜420 300〜420 125〜175
X座標(オフセット加算値) 120〜200 300〜380 600〜700
Y座標(オフセット加算値) 300〜420 300〜420 625〜675
上記の例では、座標(x’,y’)を含むイベント発生領域a1がヒットしているが、例えば、水平座標x’=670、垂直座標y’=655であれば、座標(x’,y’)を含むイベント発生領域Dの表示領域がヒットする。
【0111】
再生制御部3は、座標(x’,y’)を含むイベント発生領域が存在すれば(ステップST14)、そのイベント発生領域に関連付けられたイベント処理を実施する(ステップST15)。
例えば、イベント発生領域Dがヒットした場合は、画像Dの表示領域を押下したものとして、“コンテンツUのみを消去”というイベント処理を実施する。
【0112】
画像制御部3は、次のフレームで表示画像の更新が発生するか否かをチェックする(ステップST16)。
例えば、イベント処理が“再生終了”や“コンテンツの再生停止”の場合、次のフレームで表示画像の更新は発生しないため、ステップST17の処理に移行する。
一方、イベント処理が“コンテンツSの画像Aから画像Bへの変更”や“コンテンツUのみ消去”の場合、イベント処理が発生せずにコンテンツの再生終了時刻に至っていない場合、次のフレームで表示画像の更新が発生するため、ステップST18の処理に移行する。
【0113】
画像制御部3は、次のフレームで表示画像の更新が発生しない場合、再生終了か否かをチェックする(ステップST17)。
例えば、イベント処理が“再生終了”を実施している場合、あるいは、コンテンツの再生時間が設定されていて再生終了時刻に至っている場合、一連の処理を終了する。
一方、再生終了しない場合、ステップST10の処理に戻り、ST10〜ST16までの処理を繰り返し実施する。
【0114】
画像制御部3は、次のフレームで表示画像の更新が発生する場合、次のフレームでコンテンツあるいはコンテンツに付加されたエフェクトが変更されるか否かをチェックする(ステップST18)。
例えば、ステップST15のイベント処理でコンテンツUのみ消去する場合、表示されるコンテンツが変わるため、ステップST3の処理に戻り、再生制御部3は新たなコンテンツ情報を取得せず、表示処理部6から画面の更新タイミングの発生通知を受けると、コンテンツSの画像Aの圧縮データと解像度情報をコンテンツ再生変形部12−Sに出力する処理を実施し、コンテンツ再生変形部12−Uには何も出力せず、ステップST19・ST4〜ST16の処理を繰り返し実施する。
また、ボタンa1の表示領域やボタンa2の表示領域を押下された場合や、ボタンa1の表示領域、ボタンa2の表示領域及び画像Dの表示領域の何れも押下されていない場合については、上記実施の形態2と同様となる。
【0115】
以上で明らかなように、この実施の形態3によれば、複数のイベント付コンテンツを表示する場合に、画像変形の逆変換式を用いることなく、異なるエフェクトで変形された複数の再生画像の中から指定されたコンテンツを見つけ、表示画面上で指定された点の座標を、そのコンテンツの変形前の再生画像上の座標に変換することができるようになり、その結果、指定された点の座標に応じた処理を実施することができる効果を奏する。
【0116】
上記の例では、画像Aを動画像とした場合について説明したため、ステップST15のイベント処理でコンテンツUのみを消去する場合、ステップST3の処理に戻り、再生制御部3は表示処理部6から画面の更新タイミングの発生通知を受けると、コンテンツSの画像Aの圧縮データと解像度情報をコンテンツ再生変形部12−Sに出力する処理を実施し、コンテンツ再生変形部12−Uには何も出力せず、ステップST19・ST4〜ST16の処理を繰り返し実施する。
【0117】
上記の例では、座標画像合成部13により生成された水平座標画像(または、垂直座標画像)を示す図20(または、図21)において、コンテンツが存在していない画素に“0”を用いているが、表示する全コンテンツの水平座標基準画像(または、垂直座標基準画像)で使用されない値であれば、“0”に限られるものではない。
【0118】
この実施の形態3では、複数のコンテンツを再生するシステム構成例として、コンテンツ再生変形部を複数持つ場合について示したが、コンテンツ再生変形部を1つのみとし、同時に表示するコンテンツの数だけ再生画像を順に生成・変形して表示処理部のフレームメモリ上に合成し、同様に水平座標基準画像及び垂直座標基準画像を順に生成・変形して水平座標画像及び垂直座標画像上に合成するようにしてもよい。
【0119】
上記の例では、2つのコンテンツを同時に再生する例を示したが、コンテンツ数は3つ以上でもよい。
この実施の形態3では、再生制御部3において、最初にコンテンツ情報を読み込む際に全てのコンテンツ情報を取得しておき、同一のコンテンツ情報に含まれる圧縮画像データを新たにデータ記憶部1から取得せずに、コンテンツ生成変形部12−1〜12−Nに出力するものとしているが、各コンテンツで新たな再生画像を生成する度に、必要な圧縮画像データのみデータ記憶部1から取得し、コンテンツ生成変形部12−1〜12−Nに出力するようにしてもよい。
【0120】
実施の形態4.
この実施の形態4では、座標基準画像生成部8で生成する座標基準画像の他の例について説明する。
座標基準画像生成部8は再生制御部3から出力されたコンテンツの解像度情報が示す解像度を有する座標基準画像を生成する処理を実施する。
その際、座標基準画像生成部8は、画素値をその座標から一対一に求められる値とする1枚の座標基準画像を生成する。
例えば、画素値の上位ビットで水平座標、下位ビットで垂直座標を表してもよい。画素値が32ビットの場合、上位16ビットを水平座標、下位16ビットを垂直座標とし、座標基準画像の座標(x,y)の画素値I_hv(x,y)は、下記のようになる。
I_hv(x,y)=x×1024+y (1)
【0121】
座標基準画像変形部9は、再生制御部3から出力された画像変形情報を用いて、座標基準画像生成部8により生成された1枚の座標基準画像を変形させる処理を実施する。
座標変換部11は座標基準画像変形部9により変形された1枚の座標基準画像から、座標入力部10により入力された座標に位置している画素の画素値を取得し、その値から水平座標と垂直座標を計算し、再生制御部3に出力する処理を実施する。
例えば、座標基準画像の各画素の画素値が式(1)である場合、座標入力部10により入力された座標を(x,y)、変形後の座標基準画像の画素値をI_hv’(x,y)とすると、再生制御部3に渡される座標(x’,y’)は、下記のようになる。
水平座標x’=floor(I_hv’(x,y)/1024)
垂直座標y’=I_hv’(x,y)%1024
【0122】
ただし、floor(x)は、xの小数点以下が切捨てられた値を示し、x%yは、xをyで割った剰余を示すものとする。
なお、レイアウト情報に合わせて、複数のコンテンツを同時に表示する場合も、座標画像合成部13が、座標基準画像変形部9から出力された1枚の変形後の座標基準画像とレイアウト情報に基づいて、1枚の座標画像を生成し、座標変換部11が、1枚の座標画像から再生制御部3に渡す座標(x’,y’)を求めてもよい。
【0123】
以上で明らかなように、この実施の形態4によれば、座標基準画像生成部8が、再生制御部3から出力されたコンテンツの解像度情報が示す解像度を有する1枚の座標基準画像を生成しても、画像変形の逆変換式を用いることなく、異なるように変形された複数の再生画像が表示されている中から指定されたコンテンツを見つけ、表示画面上で指定された点の座標を、そのコンテンツの変形前の再生画像上の座標に変換することができるようになり、その結果、指定された点の座標に応じた処理を実施することができる効果を奏する。
【符号の説明】
【0124】
1 データ記憶部(データ記憶手段)、2 再生情報入力部、3 再生制御部(再生制御手段)、4 再生画像生成部(再生画像生成手段)、4−n 再生画像生成部(再生画像生成手段)、5 再生画像変形部(再生画像変形手段)、5−n 再生画像変形部(再生画像変形手段)、6 表示処理部(表示処理手段)、7 表示装置、(表示処理手段)、8 座標基準画像生成部(座標基準画像生成手段)、8−n 座標基準画像生成部(座標基準画像生成手段)、9 座標基準画像変形部(座標基準画像変形手段)、9−n 座標基準画像変形部(座標基準画像変形手段)、10 座標入力部(座標入力手段)、11 座標変換部(座標取得手段)、12−1〜12−N コンテンツ再生変形部、13 座標画像合成部(座標画像合成手段)。
【特許請求の範囲】
【請求項1】
圧縮画像からコンテンツの再生画像を生成する再生画像生成手段と、上記再生画像生成手段により生成された再生画像に付加するエフェクトを表す画像変形情報を用いて、上記再生画像を変形させる再生画像変形手段と、上記再生画像変形手段により変形された再生画像を表示する表示処理手段とを備えたコンテンツ表示装置において、上記再生画像生成手段により生成された再生画像と同一の解像度を有し、全ての画素の画素値が、当該画素の座標を表す値である座標基準画像を生成する座標基準画像生成手段と、上記画像変形情報を用いて、上記座標基準画像生成手段により生成された座標基準画像を変形させる座標基準画像変形手段と、上記表示処理手段により表示されている変形後の再生画像上の座標を入力する座標入力手段と、上記座標基準画像変形手段により変形された座標基準画像から上記座標入力手段により入力された座標に位置している画素の画素値を変形前の再生画像の座標として取得する座標変換手段と、上記座標変換手段により取得された変形前の再生画像の座標に応じたイベント処理を実施する再生制御手段とを備えたことを特徴とするコンテンツ表示装置。
【請求項2】
座標基準画像生成手段が、座標基準画像として、再生画像と同一の解像度を有し、全ての画素の画素値が、当該画素の水平座標を表す値である水平座標基準画像と、全ての画素の画素値が、当該画素の垂直座標を表す値である垂直座標基準画像とを生成し、
座標基準画像変形手段が、画像変形情報を用いて、上記水平座標基準画像及び上記垂直座標基準画像を変形し、
座標変換手段が、上記座標基準画像変形手段により変形された水平座標基準画像から座標入力手段により入力された座標に位置している画素の画素値を変形前の再生画像の水平座標として取得し、上記座標基準画像変形手段により変形された垂直座標基準画像から上記座標入力手段により入力された座標に位置している画素の画素値を変形前の再生画像の垂直座標として取得することを特徴とする請求項1記載のコンテンツ表示装置。
【請求項3】
圧縮画像からコンテンツの再生画像を生成する少なくとも1以上の再生画像生成手段と、上記再生画像生成手段により生成された再生画像に付加するエフェクトを表す画像変形情報を用いて、上記再生画像を変形させる少なくとも1以上の再生画像変形手段と、上記再生画像変形手段により変形された1以上の再生画像を合成して表示する表示処理手段とを備えたコンテンツ表示装置において、上記再生画像変形手段により変形された再生画像と同一の解像度を有し、全ての画素の画素値が、当該画素の座標を表す値である座標基準画像を生成する少なくとも1以上の座標基準画像生成手段と、上記画像変形情報を用いて、上記座標基準画像生成手段により生成された座標基準画像を変形させる少なくとも1以上の座標基準画像変形手段と、上記座標基準画像変形手段により変形された1以上の座標基準画像及び1以上の座標基準画像に対応する再生画像のレイアウト情報から、1以上の座標基準画像を合成する座標画像合成手段と、上記表示処理手段により表示されている表示画像上の座標を入力する座標入力手段と、上記座標基準画像変形手段により合成された座標基準画像から上記座標入力手段により入力された座標に位置している画素の画素値を取得する座標変換手段と、上記座標変換手段により取得された画素値から指定されたコンテンツの変形前の再生画像内の座標を取得し、その座標に応じたイベント処理を実施する再生制御手段とを備たことを特徴とするコンテンツ表示装置。
【請求項4】
座標基準画像生成手段が、座標基準画像として、再生画像と同一の解像度を有し、全ての画素の画素値が、当該画素の水平座標を表す値である水平座標基準画像と、全ての画素の画素値が、当該画素の垂直座標を表す値である垂直座標基準画像とを生成する機能を備え、
座標基準画像変形手段が、画像変形情報を用いて、上記水平座標基準画像及び上記垂直座標基準画像を変形する機能を備え、
座標画像合成手段が、上記座標基準画像変形手段により変形された1以上の水平座標基準画像及び1以上の水平座標基準画像に対応する再生画像のレイアウト情報から、1以上の水平座標基準画像を合成し、かつ、上記座標基準画像変形手段により変形された1以上の垂直座標基準画像及び1以上の垂直座標基準画像に対応する再生画像のレイアウト情報から、1以上の垂直座標基準画像を合成する機能を備え、
座標変換手段が、上記座標画像合成手段により生成された水平座標画像から上記座標入力手段により入力された座標に位置している画素の画素値を水平座標として取得し、上記座標基準画像変形手段により変形された垂直座標基準画像から上記座標入力手段により入力された座標に位置している画素の画素値を垂直座標として取得する機能を備え、
再生制御手段が、上記座標変換手段により取得された水平座標及び垂直座標から指定されたコンテンツの変形前の再生画像内の水平座標及び垂直座標を取得することを特徴とする請求項3記載のコンテンツ表示装置。
【請求項5】
少なくとも1以上の再生可能なコンテンツに関するコンテンツ情報を記憶しているデータ記憶手段を備え、
再生制御手段が、上記データ記憶手段により記憶されているコンテンツ情報の中から指定されたコンテンツに関するコンテンツ情報を取得し、上記コンテンツ情報を再生画像生成手段及び座標基準画像生成手段に出力することを特徴とする請求項1から請求項4のうちのいずれか1項記載のコンテンツ表示装置。
【請求項6】
再生制御手段は、データ記憶手段により複数の画像変形情報が記憶されている場合、上記データ記憶手段により記憶されている画像変形情報の中から、指定されたエフェクトを表す画像変形情報を取得して、上記画像変形情報を再生画像変形手段及び座標基準画像変形手段に出力することを特徴とする請求項5記載のコンテンツ表示装置。
【請求項7】
表示処理手段が、再生制御手段に対して表示画面の更新タイミングの発生を通知する機能を備え、上記再生制御手段が、上記表示処理手段から通知された時刻に応じたコンテンツの圧縮画像を再生画像生成手段に出力し、画像変形情報を再生画像変形手段及び座標基準画像変形手段に出力することを特徴とする請求項1から請求項6のうちのいずれか1項記載のコンテンツ表示装置。
【請求項8】
再生制御手段は、定期的にコンテンツの圧縮画像を再生画像生成手段に与えることを特徴とする請求項1から請求項6のうちのいずれか1項記載のコンテンツ表示装置。
【請求項9】
再生画像生成手段が圧縮画像からコンテンツの再生画像を生成する再生画像生成処理ステップと、再生画像変形手段が上記再生画像生成処理ステップで生成された再生画像に付加するエフェクトを表す画像変形情報を用いて、上記再生画像を変形させる再生画像変形処理ステップと、表示処理手段が上記再生画像変形処理ステップで変形された再生画像を表示する表示処理ステップとを備えたコンテンツ表示方法において、座標基準画像生成手段が上記再生画像生成処理ステップで生成された再生画像と同一の解像度を有し、全ての画素の画素値が、当該画素の座標を表す値である座標基準画像を生成する座標基準画像生成処理ステップと、座標基準画像変形手段が上記画像変形情報を用いて、上記座標基準画像生成処理ステップで生成された座標基準画像を変形させる座標基準画像変形処理ステップと、座標入力手段が上記表示処理ステップで表示されている変形後の再生画像上の座標を入力する座標入力処理ステップと、座標変換手段が上記座標基準画像変形処理ステップで変形された座標基準画像から上記座標入力処理ステップで入力された座標に位置している画素の画素値を変形前の再生画像の座標として取得する座標変換処理ステップと、再生制御手段が上記座標変換処理ステップで取得された変形前の再生画像の座標に応じたイベント処理を実施する再生制御処理ステップとを備えたことを特徴とするコンテンツ表示方法。
【請求項10】
少なくとも1以上の再生画像生成手段が圧縮画像からコンテンツの再生画像を生成する再生画像生成処理ステップと、少なくとも1以上の再生画像変形手段が上記再生画像生成処理ステップで生成された再生画像に付加するエフェクトを表す画像変形情報を用いて、上記再生画像を変形させる再生画像変形処理ステップと、表示処理手段が上記再生画像変形処理ステップで変形された1以上の再生画像を合成して表示する表示処理ステップとを備えたコンテンツ表示方法において、少なくとも1以上の座標基準画像生成手段が上記再生画像変形処理ステップで変形された再生画像と同一の解像度を有し、全ての画素の画素値が、当該画素の座標を表す値である座標基準画像を生成する座標基準画像生成処理ステップと、少なくとも1以上の座標基準画像変形手段が上記画像変形情報を用いて、上記座標基準画像生成処理ステップで生成された座標基準画像を変形させる座標基準画像変形処理ステップと、座標画像合成手段が上記座標基準画像変形処理ステップで変形された1以上の座標基準画像及び1以上の座標基準画像に対応する再生画像のレイアウト情報から、1以上の座標基準画像を合成する座標画像合成処理ステップと、座標入力手段が上記表示処理ステップで表示されている表示画像上の座標を入力する座標入力処理ステップと、座標変換手段が上記座標基準画像変形処理ステップで合成された座標基準画像から上記座標入力処理ステップで入力された座標に位置している画素の画素値を取得する座標変換処理ステップと、再生制御手段が上記座標変換処理ステップで取得された画素値から指定されたコンテンツの変形前の再生画像内の座標を取得し、その座標に応じたイベント処理を実施する再生制御処理ステップとを備えたことを特徴とするコンテンツ表示方法。
【請求項1】
圧縮画像からコンテンツの再生画像を生成する再生画像生成手段と、上記再生画像生成手段により生成された再生画像に付加するエフェクトを表す画像変形情報を用いて、上記再生画像を変形させる再生画像変形手段と、上記再生画像変形手段により変形された再生画像を表示する表示処理手段とを備えたコンテンツ表示装置において、上記再生画像生成手段により生成された再生画像と同一の解像度を有し、全ての画素の画素値が、当該画素の座標を表す値である座標基準画像を生成する座標基準画像生成手段と、上記画像変形情報を用いて、上記座標基準画像生成手段により生成された座標基準画像を変形させる座標基準画像変形手段と、上記表示処理手段により表示されている変形後の再生画像上の座標を入力する座標入力手段と、上記座標基準画像変形手段により変形された座標基準画像から上記座標入力手段により入力された座標に位置している画素の画素値を変形前の再生画像の座標として取得する座標変換手段と、上記座標変換手段により取得された変形前の再生画像の座標に応じたイベント処理を実施する再生制御手段とを備えたことを特徴とするコンテンツ表示装置。
【請求項2】
座標基準画像生成手段が、座標基準画像として、再生画像と同一の解像度を有し、全ての画素の画素値が、当該画素の水平座標を表す値である水平座標基準画像と、全ての画素の画素値が、当該画素の垂直座標を表す値である垂直座標基準画像とを生成し、
座標基準画像変形手段が、画像変形情報を用いて、上記水平座標基準画像及び上記垂直座標基準画像を変形し、
座標変換手段が、上記座標基準画像変形手段により変形された水平座標基準画像から座標入力手段により入力された座標に位置している画素の画素値を変形前の再生画像の水平座標として取得し、上記座標基準画像変形手段により変形された垂直座標基準画像から上記座標入力手段により入力された座標に位置している画素の画素値を変形前の再生画像の垂直座標として取得することを特徴とする請求項1記載のコンテンツ表示装置。
【請求項3】
圧縮画像からコンテンツの再生画像を生成する少なくとも1以上の再生画像生成手段と、上記再生画像生成手段により生成された再生画像に付加するエフェクトを表す画像変形情報を用いて、上記再生画像を変形させる少なくとも1以上の再生画像変形手段と、上記再生画像変形手段により変形された1以上の再生画像を合成して表示する表示処理手段とを備えたコンテンツ表示装置において、上記再生画像変形手段により変形された再生画像と同一の解像度を有し、全ての画素の画素値が、当該画素の座標を表す値である座標基準画像を生成する少なくとも1以上の座標基準画像生成手段と、上記画像変形情報を用いて、上記座標基準画像生成手段により生成された座標基準画像を変形させる少なくとも1以上の座標基準画像変形手段と、上記座標基準画像変形手段により変形された1以上の座標基準画像及び1以上の座標基準画像に対応する再生画像のレイアウト情報から、1以上の座標基準画像を合成する座標画像合成手段と、上記表示処理手段により表示されている表示画像上の座標を入力する座標入力手段と、上記座標基準画像変形手段により合成された座標基準画像から上記座標入力手段により入力された座標に位置している画素の画素値を取得する座標変換手段と、上記座標変換手段により取得された画素値から指定されたコンテンツの変形前の再生画像内の座標を取得し、その座標に応じたイベント処理を実施する再生制御手段とを備たことを特徴とするコンテンツ表示装置。
【請求項4】
座標基準画像生成手段が、座標基準画像として、再生画像と同一の解像度を有し、全ての画素の画素値が、当該画素の水平座標を表す値である水平座標基準画像と、全ての画素の画素値が、当該画素の垂直座標を表す値である垂直座標基準画像とを生成する機能を備え、
座標基準画像変形手段が、画像変形情報を用いて、上記水平座標基準画像及び上記垂直座標基準画像を変形する機能を備え、
座標画像合成手段が、上記座標基準画像変形手段により変形された1以上の水平座標基準画像及び1以上の水平座標基準画像に対応する再生画像のレイアウト情報から、1以上の水平座標基準画像を合成し、かつ、上記座標基準画像変形手段により変形された1以上の垂直座標基準画像及び1以上の垂直座標基準画像に対応する再生画像のレイアウト情報から、1以上の垂直座標基準画像を合成する機能を備え、
座標変換手段が、上記座標画像合成手段により生成された水平座標画像から上記座標入力手段により入力された座標に位置している画素の画素値を水平座標として取得し、上記座標基準画像変形手段により変形された垂直座標基準画像から上記座標入力手段により入力された座標に位置している画素の画素値を垂直座標として取得する機能を備え、
再生制御手段が、上記座標変換手段により取得された水平座標及び垂直座標から指定されたコンテンツの変形前の再生画像内の水平座標及び垂直座標を取得することを特徴とする請求項3記載のコンテンツ表示装置。
【請求項5】
少なくとも1以上の再生可能なコンテンツに関するコンテンツ情報を記憶しているデータ記憶手段を備え、
再生制御手段が、上記データ記憶手段により記憶されているコンテンツ情報の中から指定されたコンテンツに関するコンテンツ情報を取得し、上記コンテンツ情報を再生画像生成手段及び座標基準画像生成手段に出力することを特徴とする請求項1から請求項4のうちのいずれか1項記載のコンテンツ表示装置。
【請求項6】
再生制御手段は、データ記憶手段により複数の画像変形情報が記憶されている場合、上記データ記憶手段により記憶されている画像変形情報の中から、指定されたエフェクトを表す画像変形情報を取得して、上記画像変形情報を再生画像変形手段及び座標基準画像変形手段に出力することを特徴とする請求項5記載のコンテンツ表示装置。
【請求項7】
表示処理手段が、再生制御手段に対して表示画面の更新タイミングの発生を通知する機能を備え、上記再生制御手段が、上記表示処理手段から通知された時刻に応じたコンテンツの圧縮画像を再生画像生成手段に出力し、画像変形情報を再生画像変形手段及び座標基準画像変形手段に出力することを特徴とする請求項1から請求項6のうちのいずれか1項記載のコンテンツ表示装置。
【請求項8】
再生制御手段は、定期的にコンテンツの圧縮画像を再生画像生成手段に与えることを特徴とする請求項1から請求項6のうちのいずれか1項記載のコンテンツ表示装置。
【請求項9】
再生画像生成手段が圧縮画像からコンテンツの再生画像を生成する再生画像生成処理ステップと、再生画像変形手段が上記再生画像生成処理ステップで生成された再生画像に付加するエフェクトを表す画像変形情報を用いて、上記再生画像を変形させる再生画像変形処理ステップと、表示処理手段が上記再生画像変形処理ステップで変形された再生画像を表示する表示処理ステップとを備えたコンテンツ表示方法において、座標基準画像生成手段が上記再生画像生成処理ステップで生成された再生画像と同一の解像度を有し、全ての画素の画素値が、当該画素の座標を表す値である座標基準画像を生成する座標基準画像生成処理ステップと、座標基準画像変形手段が上記画像変形情報を用いて、上記座標基準画像生成処理ステップで生成された座標基準画像を変形させる座標基準画像変形処理ステップと、座標入力手段が上記表示処理ステップで表示されている変形後の再生画像上の座標を入力する座標入力処理ステップと、座標変換手段が上記座標基準画像変形処理ステップで変形された座標基準画像から上記座標入力処理ステップで入力された座標に位置している画素の画素値を変形前の再生画像の座標として取得する座標変換処理ステップと、再生制御手段が上記座標変換処理ステップで取得された変形前の再生画像の座標に応じたイベント処理を実施する再生制御処理ステップとを備えたことを特徴とするコンテンツ表示方法。
【請求項10】
少なくとも1以上の再生画像生成手段が圧縮画像からコンテンツの再生画像を生成する再生画像生成処理ステップと、少なくとも1以上の再生画像変形手段が上記再生画像生成処理ステップで生成された再生画像に付加するエフェクトを表す画像変形情報を用いて、上記再生画像を変形させる再生画像変形処理ステップと、表示処理手段が上記再生画像変形処理ステップで変形された1以上の再生画像を合成して表示する表示処理ステップとを備えたコンテンツ表示方法において、少なくとも1以上の座標基準画像生成手段が上記再生画像変形処理ステップで変形された再生画像と同一の解像度を有し、全ての画素の画素値が、当該画素の座標を表す値である座標基準画像を生成する座標基準画像生成処理ステップと、少なくとも1以上の座標基準画像変形手段が上記画像変形情報を用いて、上記座標基準画像生成処理ステップで生成された座標基準画像を変形させる座標基準画像変形処理ステップと、座標画像合成手段が上記座標基準画像変形処理ステップで変形された1以上の座標基準画像及び1以上の座標基準画像に対応する再生画像のレイアウト情報から、1以上の座標基準画像を合成する座標画像合成処理ステップと、座標入力手段が上記表示処理ステップで表示されている表示画像上の座標を入力する座標入力処理ステップと、座標変換手段が上記座標基準画像変形処理ステップで合成された座標基準画像から上記座標入力処理ステップで入力された座標に位置している画素の画素値を取得する座標変換処理ステップと、再生制御手段が上記座標変換処理ステップで取得された画素値から指定されたコンテンツの変形前の再生画像内の座標を取得し、その座標に応じたイベント処理を実施する再生制御処理ステップとを備えたことを特徴とするコンテンツ表示方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【公開番号】特開2011−150511(P2011−150511A)
【公開日】平成23年8月4日(2011.8.4)
【国際特許分類】
【出願番号】特願2010−10847(P2010−10847)
【出願日】平成22年1月21日(2010.1.21)
【出願人】(000006013)三菱電機株式会社 (33,312)
【Fターム(参考)】
【公開日】平成23年8月4日(2011.8.4)
【国際特許分類】
【出願日】平成22年1月21日(2010.1.21)
【出願人】(000006013)三菱電機株式会社 (33,312)
【Fターム(参考)】
[ Back to top ]