説明

画像データ処理装置、画像データ処理方法およびプログラム

【課題】画像が表示される際のユーザの待ち時間を短縮させるために必要な、デコードされた画像データを用意しておくことができる画像データ処理装置を提供する。
【解決手段】画像データ処理装置100は、表示装置200による画像の表示を制御する出力制御デバイス106と、出力制御デバイス106が表示装置200の表示画面202に表示させたい複数の画像の画像データのそれぞれにデコード優先度を設定するCPU112と、CPU112により設定されたデコード優先度に従って、画像データのそれぞれにデコード処理を施すデコーダ104と、デコード処理が施されたデコード済みの画像データのそれぞれを記憶するRAM114とを備え、CPU112は、RAM114に記憶されたデコード済みの画像データのそれぞれに破棄優先度を設定し、設定された破棄優先度に従って、RAM114に記憶されたデコード済みの画像データの破棄を行う。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像データ処理装置、画像データ処理方法およびプログラムに関する。
【背景技術】
【0002】
ディスプレイなどの表示装置に大量の画像を表示させる機会は数多く存在する。表示装置に大量の画像を表示させる場合、表示させたい画像が表示装置の表示画面に収まりきらないときが多々ある。このとき、表示画面外に位置する画像についても、ユーザの操作などによって表示画面内に入ってきたときにすぐに表示できるように、その画像の画像データについて予め復号化(デコード)を行っておくことが望ましい。
【0003】
予め画像データのデコードを行うための技術として、例えば特許文献1では、デコードを行う画像データをユーザによる操作の方向に基づいて決定している。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2009−109880号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、上述した特許文献1の技術では、デコードを行う画像データを決定するための操作情報としてユーザ自身が直前に行った1回の操作のみの操作情報を利用しており、当該操作情報はデコードを行う画像データの予測処理を適切に行うための情報としては不十分である。
【0006】
また、通常の装置では、利用可能なメモリの上限バイト数が存在するため、デコードされた画像データをメモリ上に恒久的に保持しておくことはできない。そのため、メモリの利用バイト数が限界値に達する前に、デコードされた画像データを破棄する必要が生じるが、上述した特許文献1の技術では、画像データを破棄する際にどの画像データを優先的に破棄すべきかの判断を行っていないため、破棄すべきではない画像データが先に破棄されてしまうなどの不都合が生じる場合がある。
【0007】
そこで、本発明は、上記問題に鑑みてなされたものであり、本発明の目的とするところは、画像が表示される際のユーザの待ち時間を短縮させるために必要な、デコードされた画像データを用意しておくことが可能な、新規かつ改良された画像データ処理装置、画像データ処理方法およびプログラムを提供することにある。
【課題を解決するための手段】
【0008】
上記課題を解決するために、本発明のある観点によれば、表示装置による画像の表示を制御する表示制御部と、前記表示制御部が前記表示装置の表示画面に表示させたい複数の画像の画像データのそれぞれにデコード優先度を設定するデコード優先度設定部と、前記デコード優先度設定部により設定されたデコード優先度に従って、前記画像データのそれぞれにデコード処理を施すデコード部と、前記デコード部によりデコード処理が施されたデコード済みの画像データのそれぞれを記憶する記憶部とを備える画像データ処理装置が提供される。
【0009】
前記デコード優先度設定部は、前記複数の画像の画像データのそれぞれの位置情報を取得して、取得した位置情報に基づいて、前記複数の画像の画像データのそれぞれにデコード優先度を設定してもよい。
【0010】
前記デコード優先度設定部は、前記複数の画像の画像データのそれぞれの画素数情報を取得して、取得した画素数情報に基づいて、前記複数の画像の画像データのそれぞれにデコード優先度を設定してもよい。
【0011】
前記デコード優先度設定部は、ユーザの操作履歴情報を取得して、取得した操作履歴情報に基づいて、前記複数の画像の画像データのそれぞれにデコード優先度を設定してもよい。
【0012】
前記デコード優先度設定部は、前記複数の画像の画像データのそれぞれのメタ情報を取得して、取得したメタ情報に含まれる表示優先度に基づいて、前記複数の画像の画像データのそれぞれにデコード優先度を設定してもよい。前記デコード優先度設定部は、メタ情報として画像データそのものに埋め込まれているものを利用してもよいし、外部から取得したものを利用してもよい。
【0013】
前記デコード優先度設定部は、前記複数の画像の画像データのそれぞれの前記表示画面における表示面積情報を取得して、取得した表示面積情報に基づいて、前記複数の画像の画像データのそれぞれにデコード優先度を設定してもよい。
【0014】
前記記憶部に記憶された前記デコード済みの画像データのそれぞれに破棄優先度を設定する破棄優先度設定部と、前記破棄優先度設定部により設定された破棄優先度に従って、前記記憶部に記憶された前記デコード済みの画像データの破棄を行う破棄部とをさらに備えてもよい。
【0015】
また、上記課題を解決するために、本発明の別の観点によれば、表示装置による画像の表示を制御する表示制御部と、前記表示制御部が前記表示装置の表示画面に表示させたい複数の画像の画像データのそれぞれにデコード処理を施すデコード部と、前記デコード部によりデコード処理が施されたデコード済みの画像データのそれぞれを記憶する記憶部と、前記記憶部に記憶された前記デコード済みの画像データのそれぞれに破棄優先度を設定する破棄優先度設定部と、前記破棄優先度設定部により設定された破棄優先度に従って、前記記憶部に記憶された前記デコード済みの画像データの破棄を行う破棄部とを備える画像データ処理装置が提供される。
【0016】
前記破棄優先度設定部は、前記記憶部に記憶された前記デコード済みの画像データのそれぞれの位置情報を取得して、取得した位置情報に基づいて、前記記憶部に記憶された前記デコード済みの画像データのそれぞれに破棄優先度を設定してもよい。
【0017】
前記破棄優先度設定部は、前記記憶部に記憶された前記デコード済みの画像データのそれぞれの画素数情報を取得して、取得した画素数情報に基づいて、前記記憶部に記憶された前記デコード済みの画像データのそれぞれに破棄優先度を設定してもよい。
【0018】
前記破棄優先度設定部は、ユーザの操作履歴情報を取得して、取得した操作履歴情報に基づいて、前記記憶部に記憶された前記デコード済みの画像データのそれぞれに破棄優先度を設定してもよい。
【0019】
前記破棄優先度設定部は、前記記憶部に記憶された前記デコード済みの画像データのそれぞれのメタ情報を取得して、取得したメタ情報に含まれる表示優先度に基づいて、前記記憶部に記憶された前記デコード済みの画像データのそれぞれに破棄優先度を設定してもよい。前記破棄優先度設定部は、メタ情報として画像データそのものに埋め込まれているものを利用してもよいし、外部から取得したものを利用してもよい。
【0020】
前記破棄優先度設定部は、前記記憶部に記憶された前記デコード済みの画像データのそれぞれの前記表示画面における表示面積情報を取得して、取得した表示面積情報に基づいて、前記記憶部に記憶された前記デコード済みの画像データのそれぞれに破棄優先度を設定してもよい。
【0021】
前記表示制御部が前記表示装置の表示画面に表示させたい複数の画像の画像データのそれぞれにデコード優先度を設定するデコード優先度設定部をさらに備え、前記デコード部は、前記デコード優先度設定部により設定されたデコード優先度に従って、前記画像データのそれぞれにデコード処理を施してもよい。
【0022】
また、上記課題を解決するために、本発明の別の観点によれば、表示装置による画像の表示を制御する表示制御ステップと、前記表示制御ステップで前記表示装置の表示画面に表示させたい複数の画像の画像データのそれぞれにデコード優先度を設定するデコード優先度設定ステップと、前記デコード優先度設定ステップで設定されたデコード優先度に従って、前記画像データのそれぞれにデコード処理を施すデコードステップと、前記デコードステップでデコード処理が施されたデコード済みの画像データのそれぞれを記憶部に記憶させる記憶ステップとを有する画像データ処理方法が提供される。
【0023】
また、上記課題を解決するために、本発明の別の観点によれば、表示装置による画像の表示を制御する表示制御ステップと、前記表示制御ステップで前記表示装置の表示画面に表示させたい複数の画像の画像データのそれぞれにデコード処理を施すデコードステップと、前記デコードステップでデコード処理が施されたデコード済みの画像データのそれぞれを記憶部に記憶させる記憶ステップと、前記記憶ステップで記憶部に記憶された前記デコード済みの画像データのそれぞれに破棄優先度を設定する破棄優先度設定ステップと、前記破棄優先度設定ステップで設定された破棄優先度に従って、前記記憶部に記憶された前記デコード済みの画像データの破棄を行う破棄ステップとを有する画像データ処理方法が提供される。
【0024】
また、上記課題を解決するために、本発明の別の観点によれば、コンピュータを、表示装置による画像の表示を制御する表示制御部と、前記表示制御部が前記表示装置の表示画面に表示させたい複数の画像の画像データのそれぞれにデコード優先度を設定するデコード優先度設定部と、前記デコード優先度設定部により設定されたデコード優先度に従って、前記画像データのそれぞれにデコード処理を施すデコード部と、前記デコード部によりデコード処理が施されたデコード済みの画像データのそれぞれを記憶する記憶部ととして機能させるためのプログラムが提供される。
【0025】
また、上記課題を解決するために、本発明の別の観点によれば、コンピュータを、表示装置による画像の表示を制御する表示制御部と、前記表示制御部が前記表示装置の表示画面に表示させたい複数の画像の画像データのそれぞれにデコード処理を施すデコード部と、前記デコード部によりデコード処理が施されたデコード済みの画像データのそれぞれを記憶する記憶部と、前記記憶部に記憶された前記デコード済みの画像データのそれぞれに破棄優先度を設定する破棄優先度設定部と、前記破棄優先度設定部により設定された破棄優先度に従って、前記記憶部に記憶された前記デコード済みの画像データの破棄を行う破棄部ととして機能させるためのプログラムが提供される。
【発明の効果】
【0026】
以上説明したように本発明によれば、画像が表示される際のユーザの待ち時間を短縮させるために必要な、デコードされた画像データを用意しておくことができる。
【図面の簡単な説明】
【0027】
【図1】本発明の実施の形態に係る画像データ処理装置を備える画像データ表示システムの構成を概略的に示すブロック図である。
【図2】図1における画像データ処理装置のハードウェア構成を概略的に示すブロック図である。
【図3】図2の画像データ処理装置が実行する画像データデコード処理のフローチャートである。
【図4】図3の画像データデコード処理におけるステップS104で実行される第1のデコード優先度設定処理のフローチャートである。
【図5】図3の画像データデコード処理におけるステップS104で実行される第2のデコード優先度設定処理のフローチャートである。
【図6】図3の画像データデコード処理におけるステップS104で実行される第3のデコード優先度設定処理のフローチャートである。
【図7】図3の画像データデコード処理におけるステップS104で実行される第4のデコード優先度設定処理のフローチャートである。
【図8】図3の画像データデコード処理におけるステップS104で実行される第5のデコード優先度設定処理のフローチャートである。
【図9】表示画面に表示される画像を説明するための説明図である。
【図10】表示画面に表示される画像を説明するための説明図である。
【図11】表示画面に表示される画像を説明するための説明図である。
【図12】表示画面に表示される画像を説明するための説明図である。
【図13】表示画面に表示される画像を説明するための説明図である。
【図14】(A)および(B)は、表示画面に表示される画像を説明するための説明図である。
【図15】表示画面に表示される画像を説明するための説明図である。
【図16】図2の画像データ処理装置が実行する画像データ破棄処理のフローチャートである。
【図17】図16の画像データ破棄処理におけるステップS704で実行される第1の破棄優先度設定処理のフローチャートである。
【図18】図16の画像データ破棄処理におけるステップS704で実行される第2の破棄優先度設定処理のフローチャートである。
【図19】図16の画像データ破棄処理におけるステップS704で実行される第3の破棄優先度設定処理のフローチャートである。
【図20】図16の画像データ破棄処理におけるステップS704で実行される第4の破棄優先度設定処理のフローチャートである。
【図21】図16の画像データ破棄処理におけるステップS704で実行される第5の破棄優先度設定処理のフローチャートである。
【図22】上述した一連の処理をプログラムにより実行するコンピュータのハードウェア構成を概略的に示すブロック図である。
【発明を実施するための形態】
【0028】
以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
【0029】
なお、説明は以下の順序で行うものとする。
1.本発明の実施の形態に係る画像データ処理装置
2.本発明の実施の形態に係る画像データ処理装置が実行する画像データデコード処理
3.本発明の実施の形態に係る画像データ処理装置が実行する画像データ破棄処理
【0030】
[1.画像データ処理装置]
まず、本発明の実施の形態に係る画像データ処理装置を備える画像データ表示システムについて説明する。図1は、本実施の形態に係る画像データ処理装置を備える画像データ表示システムの構成を概略的に示すブロック図である。
【0031】
図1において、画像データ表示システム10は、画像データ処理装置100と、表示装置200と、入力デバイス300とを備える。画像データ処理装置100は、ケーブルなどを介してディスプレイなどの表示装置200に接続される。なお、画像データ処理装置100が無線を利用して外部の表示装置200に画像データを送信可能であれば、ケーブルなどを利用して画像データ処理装置100および表示装置200を接続する必要はない。ユーザは、入力デバイス300を操作して各種の処理を画像データ処理装置100に実行させることができる。なお、画像データ処理装置100、表示装置200および入力デバイス300は同一の筐体内に具備されてもよい。
【0032】
画像データ処理装置100は、外部から取得した、または内部に記録されている画像データに基づいて、表示装置200に画像を表示させる。
【0033】
入力デバイス300は、画像データ処理装置100に接続されたマウスやキーボードなどであってもよく、タッチパネルであってもよい。また、入力デバイス300は、十字キーやトラックボールなどであってもよい。
【0034】
次に、図1における画像データ処理装置100のハードウェア構成について説明する。図2は、図1における画像データ処理装置100のハードウェア構成を概略的に示すブロック図である。
【0035】
図2において、画像データ処理装置100は、入力制御デバイス102と、デコーダ104と、出力制御デバイス106と、バス108と、蓄積デバイス110と、CPU112と、RAM114と、ROM116とを備える。各部はバス108を介して接続される。RAM114は、本発明の記憶部の一例である。
【0036】
入力制御デバイス102は、入力デバイス300からの信号を受信して、ユーザの操作を検出する。入力制御デバイス102は、ユーザの操作の内容を表す情報をバス108を介してCPU112に出力する。
【0037】
デコーダ104は、本発明のデコード部の一例であり、CPU112による制御に従って、画像データを例えば蓄積デバイス110からバス108を介して読み出して、RAM114に展開する。そして、デコーダ104は、RAM114に展開した画像データをデコードし、デコード済みの画像データをRAM114に記憶させる。RAM114が複数の画像のデコード済みの画像データを記憶可能な容量を有するメモリとなる。なお、本実施の形態では、画像データ処理装置100がデコーダ104を備えているが、CPU112自体がデコーダの機能を有する場合は、デコーダ104を備える必要はない。このとき、CPU112はソフトウェアにより画像データのデコードを行う。
【0038】
出力制御デバイス106は、本発明の表示制御部の一例であり、CPU112による制御に従って、デコード済みの画像データをRAM114から読み出して、読み出した画像データに基づいて画像を表示装置200に表示させる。
【0039】
蓄積デバイス110は、ハードディスクやフラッシュメモリなどよりなり、パーソナルコンピュータなどの装置からインタフェース(図示しない)を介して取り込まれた画像データを記録する。なお、画像データ処理装置100は、インターネット(図示しない)上にあるWebサーバ(図示しない)などのデバイスから画像データを取得してもよい。
【0040】
CPU112は、ROM116や蓄積デバイス110に記憶されているプログラムをRAM114にロードして実行することにより、先読みの処理などを行い、画像データ処理装置100全体の動作を制御する。なお、「先読み」とは、実際に表示装置200に表示させている画像とは異なる画像の画像データを蓄積デバイス110から読み出してメモリの空いている領域に展開し、デコードなどの処理を適宜施して、表示に用いられるデコード済みの画像データを予め用意しておくことをいう。なお、画像データ処理装置100は、デコーダ104を使用せずにCPU112により画像データのデコード処理などを行ってもよい。なお、CPU112は、本発明のデコード優先度設定部、破棄優先度設定部、破棄部の一例である。
【0041】
ところで、表示装置200に大量の画像を表示させる場合、表示させたい画像が表示装置200の表示画面202(図9参照。)に収まりきらないときが多々ある。このとき、表示画面202外に位置する画像についても、ユーザの操作などによって表示画面202内に入ってきたときにすぐに表示できるように、その画像の画像データについて予めデコードを行っておくことが望ましい。
【0042】
また、通常の画像データ処理装置100では、利用可能なメモリの上限バイト数が存在するため、デコードされた画像データをメモリ上に恒久的に保持しておくことはできない。そのため、メモリの利用バイト数が限界値に達する前に、デコードされた画像データを破棄する必要が生じるが、画像データを破棄する際にどの画像データを優先的に破棄すべきかの判断を行わないと、破棄すべきではない画像データが先に破棄されてしまうなどの不都合が生じる場合がある。
【0043】
本実施の形態に係る画像データ処理装置は、後述する図3の画像データデコード処理を実行することにより、表示画面202外に位置する画像についても、その画像の画像データについて予めデコードを行っておくことができる。また、本実施の形態に係る画像データ処理装置は、後述する図16の画像データ破棄処理を実行することにより、破棄すべきではない画像データが先に破棄されてしまうことを防止することができる。このように、本実施の形態によれば、画像データが表示される際のユーザの待ち時間を短縮させるために必要な、デコードされた画像データを用意しておくことができる。
【0044】
[2.画像データ処理装置が実行する画像データデコード処理]
次に、図2の画像データ処理装置100が実行する画像データデコード処理について説明する。図3は、図2の画像データ処理装置100が実行する画像データデコード処理のフローチャートである。本処理は、複数の符号化された画像データを表示装置200の表示画面202に表示させる場合に、なるべくユーザに対して画像の描画までの待ち時間を短くするためのものである。
【0045】
図3において、まず、ユーザにより入力デバイス300を介した操作が入力されると、画像データ処理装置100の入力制御デバイス102は入力デバイス300からの信号を受信して、ユーザの操作を検出する。そして、入力制御デバイス102は、ユーザの操作の内容を表す情報を画像データ処理装置100のCPU112に出力する(ステップS102)。
【0046】
次いで、画像データ処理装置100のCPU112は、後述する図4の第1のデコード優先度設定処理、図5の第2のデコード優先度設定処理、図6の第3のデコード優先度設定処理、図7の第4のデコード優先度設定処理および図8の第5のデコード優先度設定処理の少なくともいずれか1つの処理を実行して、入力制御デバイス102から入力されたユーザの操作の内容を表す情報に基づいて、表示装置200に表示させたい全ての画像の画像データのそれぞれにデコード優先度を設定する(ステップS104)。
【0047】
次いで、画像データ処理装置100のデコーダ104は、CPU112による制御に従って、表示装置200に表示させたい全ての画像の画像データのそれぞれに設定されたデコード優先度に従って、それぞれの画像データのデコードを行い、デコード済みの画像データをRAM114に記憶させて(ステップS106)、本処理を終了する。
【0048】
図4は、図3の画像データデコード処理におけるステップS104で実行される第1のデコード優先度設定処理のフローチャートである。
【0049】
図4において、画像データ処理装置100のCPU112は、表示装置200に表示させたい全ての画像の画像データのそれぞれの位置情報を取得する(ステップS202)。
【0050】
次いで、CPU112は、ステップS202で取得した位置情報に基づいて、表示画面202に近い画像データのデコード優先度を高く設定して(ステップS204)、本処理を終了する。
【0051】
例えば、図9に示すように、表示画面202に画像#1〜#8を表示させたい場合、表示画面202の領域内に存在する画像#3〜#5はユーザの目に見えるため、可能な限り早くそれらの画像の画像データのデコードを行って表示画面202に表示させる必要がある。このため、それらの画像の画像データのデコード優先度を最も高く設定する。また、表示画面202の領域外に存在する画像#1〜#2、#6〜#8については、表示画面202から近い画像の方が、将来のスクロールなどのユーザの操作によって表示画面202の領域内に入ってくる可能性が高いため、表示画面202から遠い画像の画像データと比較して表示画面202から近い画像の画像データのデコード優先度を高く設定する。
【0052】
図5は、図3の画像データデコード処理におけるステップS104で実行される第2のデコード優先度設定処理のフローチャートである。
【0053】
図5において、画像データ処理装置100のCPU112は、表示装置200に表示させたい全ての画像の画像データのそれぞれの画素数情報を取得する(ステップS302)。
【0054】
次いで、CPU112は、ステップS302で取得した画素数情報に基づいて、画素数が小さい画像データのデコード優先度を高く設定して(ステップS304)、本処理を終了する。
【0055】
例えば、図10に示すような画像#10〜#15を図11に示すように表示画面202に表示させる場合、画像#10〜#15の画像データを図12に示す順番でデコードすると、全ての画像データのデコードにかかるトータルの経過時間は9秒であり、デコードを開始して4秒の時点では画像#10の画像データについてのみデコードが完了している。一方、画像#10〜#15の画像データを図13に示す順番でデコードすると、全ての画像データのデコードにかかるトータルの経過時間は図12に示す順番でデコードした場合と同様に9秒であるが、デコードを開始して4秒の時点では画像#12〜#15の4枚の画像データのデコードが完了している。一般的に、画素数が大きい画像データよりも、画素数が小さい画像データの方がデコードに要する処理時間が短くなる。したがって、画素数の小さい画像データのデコードを優先して行った方が、より早期の段階で多くの画像データのデコードが完了するため、多くの画像が早くに表示画面202に表示されることになり、ユーザの心理的な待ち時間を短縮させることができる。このため、本実施の形態では、画素数が小さい画像データのデコード優先度を高く設定する。
【0056】
図6は、図3の画像データデコード処理におけるステップS104で実行される第3のデコード優先度設定処理のフローチャートである。
【0057】
図6において、画像データ処理装置100のCPU112は、ユーザの操作履歴情報を取得する(ステップS402)。
【0058】
次いで、CPU112は、ステップS402で取得したユーザの操作履歴情報に基づいて、表示装置200に表示させたい全ての画像のうち表示が要求される可能性の高い画像の画像データのデコード優先度を高く設定して(ステップS404)、本処理を終了する。
【0059】
例えば、図14(A)に示すようにユーザがスクロール操作を下方向に行って、またはユーザが下方向に連続してスクロール操作を行って図14(B)に示す状態となった場合、次のユーザによるスクロール操作も下方向である可能性が高いため、表示画面202に表示しきれない画像のうち表示画面202から下方向の画像の画像データのデコード優先度を、上方向の画像の画像データのデコード優先度よりも高く設定する。すなわち、本実施の形態では、ユーザが行った操作履歴の情報に基づいて、次に表示が要求される可能性の高い画像を予測して、その画像の画像データのデコード優先度を高く設定する。
【0060】
なお、本実施の形態で利用する操作履歴の情報は、現在実行しているアプリケーション内のものだけではなく、他のアプリケーション実行時に行ったユーザの操作履歴の情報を利用することもできる。
【0061】
また、本実施の形態では、インターネット(図示しない)などを利用して、他のユーザの操作履歴の情報を取得して利用することもできる。例えば、ユーザが行う操作は、表示される内容によって傾向付けられる場合が存在する。広告画像が多数存在するWebページをユーザがWebブラウザ上で閲覧するとき、広告を見たくない多くのユーザは、その広告をスクロール操作などによってすぐに表示画面外に追いやってしまうことが予測される。このような、ユーザの操作傾向を共有知としてインターネット上のWebサーバに保持しておき、その情報をインターネットを介して利用することで、より正確な予測を行うこともできる。
【0062】
図7は、図3の画像データデコード処理におけるステップS104で実行される第4のデコード優先度設定処理のフローチャートである。
【0063】
図7において、画像データ処理装置100のCPU112は、表示装置200に表示させたい全ての画像の画像データのそれぞれのメタ情報を取得する(ステップS502)。
【0064】
次いで、CPU112は、ステップS502で取得したメタ情報に含まれる表示優先度に基づいて、表示優先度が高い画像の画像データのデコード優先度を高く設定して(ステップS504)、本処理を終了する。
【0065】
例えば、図15に示すようなWebページを表示画面202に表示させる場合、ユーザは広告としての画像#30、#34以外の画像#31〜#33を閲覧したいと考えられる。このため、広告としての画像#30、#34の画像データのメタ情報に、表示優先度を低くする情報を付加しておく。これにより、ユーザが閲覧したいと考えられる画像#31〜#33の画像データのデコードが優先されるため、ユーザが閲覧したい画像が早くに表示画面202に表示されることになり、ユーザの心理的な待ち時間を短縮させることができる。このため、本実施の形態では、表示優先度が高い画像データのデコード優先度を高く設定する。
【0066】
図8は、図3の画像データデコード処理におけるステップS104で実行される第5のデコード優先度設定処理のフローチャートである。
【0067】
図8において、画像データ処理装置100のCPU112は、表示装置200に表示させたい全ての画像の画像データのそれぞれの表示画面202における表示面積情報を取得する(ステップS602)。
【0068】
次いで、CPU112は、ステップS602で取得した表示面積情報に基づいて、表示面積の大きい画像の画像データのデコード優先度を高く設定して(ステップS604)、本処理を終了する。
【0069】
例えば、図15に示すようなWebページを表示画面202に表示させる場合において、画像#31〜#33の画像データの画素数が略同じであるようなときは、これらの画像#31〜#33の画像データのデコードにかかる時間は略同じとなるため、表示面積の大きい画像#32の画像データのデコード優先度を画像#31や画像#33の画像データのデコード優先度よりも高く設定する。これにより、表示面積の大きい画像の画像データのデコードが優先されるため、Webページにおいて表示面積の大きい画像が早くに表示画面202に表示されることになり、ユーザの心理的な待ち時間を短縮させることができる。
【0070】
上述した図3の画像データデコード処理によれば、画像が表示される際のユーザの待ち時間を短縮させるために必要な、デコードされた画像データを用意しておくことができる。
【0071】
[3.画像データ処理装置が実行する画像データ破棄処理]
次に、図2の画像データ処理装置100が実行する画像データ破棄処理について説明する。図16は、図2の画像データ処理装置100が実行する画像データ破棄処理のフローチャートである。本処理は、複数の符号化された画像データを表示装置200の表示画面202に表示させる場合に、なるべくユーザに対して画像の描画までの待ち時間を短くするためのものである。
【0072】
また、画像データ処理装置100において、デコード済みの画像データは、再度デコードを行わなくてもよいように、表示装置200の表示画面202に描画が完了した後においても破棄せずにメモリとしてのRAM114に記憶しておき、再描画の際にはデコード済みの画像データを利用して描画することにより、画像の表示を高速に行う。しかしながら、上述したように通常の画像データ処理装置100では、利用可能なメモリの上限バイト数が存在するため、デコードされた画像データをメモリ上に恒久的に保持しておくことはできない。本処理は、画像データを破棄する際にどの画像データを優先的に破棄すべきかの判断のための処理である。
【0073】
図16において、まず、ユーザにより入力デバイス300を介した操作が入力されると、画像データ処理装置100の入力制御デバイス102は入力デバイス300からの信号を受信して、ユーザの操作を検出する。そして、入力制御デバイス102は、ユーザの操作の内容を表す情報を画像データ処理装置100のCPU112に出力する(ステップS702)。
【0074】
次いで、画像データ処理装置100のCPU112は、後述する図17の第1の破棄優先度設定処理、図18の第2の破棄優先度設定処理、図19の第3の破棄優先度設定処理、図20の第4の破棄優先度設定処理および図21の第5の破棄優先度設定処理の少なくともいずれか1つの処理を実行して、入力制御デバイス102から入力されたユーザの操作の内容を表す情報に基づいて、画像データ処理装置100のメモリとしてのRAM114に記憶されている、表示に用いられるデコード済みの画像データのそれぞれに破棄優先度を設定する(ステップS704)。
【0075】
次いで、画像データ処理装置100のCPU112は、表示に用いられるデコード済みの画像データのそれぞれに設定された破棄優先度に従って、デコード済みの画像データをRAM114から破棄して(ステップS706)、本処理を終了する。
【0076】
図17は、図16の画像データ破棄処理におけるステップS704で実行される第1の破棄優先度設定処理のフローチャートである。
【0077】
図17において、画像データ処理装置100のCPU112は、メモリとしてのRAM114に記憶されている、表示に用いられるデコード済みの画像データのそれぞれの位置情報を取得する(ステップS802)。
【0078】
次いで、CPU112は、ステップS802で取得した位置情報に基づいて、表示画面202に遠い画像データの破棄優先度を高く設定して(ステップS804)、本処理を終了する。
【0079】
例えば、図9に示すように、表示画面202の領域外に存在する画像#1〜#2、#6〜#8のデコード済みの画像データがメモリとしてのRAM114に記憶されている場合、表示画面202から近い画像の方が、将来のスクロールなどのユーザの操作によって表示画面202の領域内に入ってくる可能性が高いため、表示画面202から近い画像の画像データと比較して表示画面202から遠い画像のデコード済みの画像データの破棄優先度を高く設定する。
【0080】
図18は、図16の画像データ破棄処理におけるステップS704で実行される第2の破棄優先度設定処理のフローチャートである。
【0081】
図18において、画像データ処理装置100のCPU112は、メモリとしてのRAM114に記憶されている、表示に用いられるデコード済みの画像データのそれぞれの画素数情報を取得する(ステップS902)。
【0082】
次いで、CPU112は、ステップS902で取得した画素数情報に基づいて、画素数が小さい画像データの破棄優先度を高く設定して(ステップS904)、本処理を終了する。
【0083】
例えば、図10に示すような画像#10〜#15のデコード済みの画像データがメモリとしてのRAM114に記憶されている場合、画素数が大きい画像データのデコードにかかる時間は画素数が小さい画像データのデコードにかかる時間よりも長くなるため、画素数が小さい画像データの破棄優先度を高く設定する。
【0084】
図19は、図16の画像データ破棄処理におけるステップS704で実行される第3の破棄優先度設定処理のフローチャートである。
【0085】
図19において、画像データ処理装置100のCPU112は、ユーザの操作履歴情報を取得する(ステップS1002)。
【0086】
次いで、CPU112は、ステップS1002で取得したユーザの操作履歴情報に基づいて、メモリとしてのRAM114に記憶されている、表示に用いられるデコード済みの画像データのうち表示が要求される可能性の低い画像の画像データの破棄優先度を高く設定して(ステップS1004)、本処理を終了する。
【0087】
例えば、図14(A)に示すようにユーザがスクロール操作を下方向に行って、またはユーザが下方向に連続してスクロール操作を行って図14(B)に示す状態となった場合、次のユーザによるスクロール操作も下方向である可能性が高いため、表示画面202に表示しきれない画像のうち表示画面202から上方向の画像のデコード済みの画像データの破棄優先度を、下方向の画像のデコード済みの画像データの破棄優先度よりも高く設定する。すなわち、本実施の形態では、ユーザが行った操作履歴の情報に基づいて、次に表示が要求される可能性の低い画像を予測して、その画像のデコード済みの画像データの破棄優先度を高く設定する。
【0088】
なお、本実施の形態で利用する操作履歴の情報は、現在実行しているアプリケーション内のものだけではなく、他のアプリケーション実行時に行ったユーザの操作履歴の情報を利用することもできる。
【0089】
また、本実施の形態では、インターネット(図示しない)などを利用して、他のユーザの操作履歴の情報を取得して利用することもできる。例えば、ユーザが行う操作は、表示される内容によって傾向付けられる場合が存在する。広告画像が多数存在するWebページをユーザがWebブラウザ上で閲覧するとき、広告を見たくない多くのユーザは、その広告をスクロール操作などによってすぐに表示画面外に追いやってしまうことが予測される。このような、ユーザの操作傾向を共有知としてインターネット上のWebサーバに保持しておき、その情報をインターネットを介して利用することで、より正確な予測を行うこともできる。
【0090】
図20は、図16の画像データ破棄処理におけるステップS704で実行される第4の破棄優先度設定処理のフローチャートである。
【0091】
図20において、画像データ処理装置100のCPU112は、メモリとしてのRAM114に記憶されている、表示に用いられるデコード済みの画像データのそれぞれのメタ情報を取得する(ステップS1102)。
【0092】
次いで、CPU112は、ステップS1102で取得したメタ情報に含まれる表示優先度に基づいて、表示優先度が低い画像の画像データの破棄優先度を高く設定して(ステップS1104)、本処理を終了する。
【0093】
例えば、図15に示すようなWebページを表示画面202に表示させる場合、ユーザは広告としての画像#30、#34以外の画像#31〜#33を閲覧したいと考えられる。このため、広告としての画像#30、#34の画像データのメタ情報に、表示優先度を低くする情報を付加しておく。これにより、ユーザが閲覧したいと考えられる画像#31〜#33以外の画像#30、#34のデコード済みの画像データの破棄が優先されるため、ユーザが閲覧したい画像が早くに表示画面202に表示されることになり、ユーザの心理的な待ち時間を短縮させることができる。このため、本実施の形態では、表示優先度が低い画像データの破棄優先度を高く設定する。
【0094】
図21は、図16の画像データ破棄処理におけるステップS704で実行される第5の破棄優先度設定処理のフローチャートである。
【0095】
図21において、画像データ処理装置100のCPU112は、メモリとしてのRAM114に記憶されている、表示に用いられるデコード済みの画像データのそれぞれの表示画面202における表示面積情報を取得する(ステップS1202)。
【0096】
次いで、CPU112は、ステップS1202で取得した表示面積情報に基づいて、表示面積の小さい画像の画像データの破棄優先度を高く設定して(ステップS1204)、本処理を終了する。
【0097】
例えば、図15に示すようなWebページを表示画面202に表示させる場合において、画像#31〜#33の画像データの画素数が略同じであるようなときは、これらの画像#31〜#33の画像データのデコードにかかる時間は略同じとなるため、表示面積の小さい画像#31の画像データの破棄優先度を画像#32や画像#33の画像データの破棄優先度よりも高く設定する。これにより、Webページにおいて表示面積の大きい画像が早くに表示画面202に表示されることになり、ユーザの心理的な待ち時間を短縮させることができる。
【0098】
上述した図16の画像データ破棄処理によれば、画像が表示される際のユーザの待ち時間を短縮させるために必要な、デコードされた画像データを用意しておくことができる。
【0099】
上述した一連の処理は、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできる。一連の処理をソフトウェアにより実行する場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することができる。
【0100】
図22は、上述した一連の処理をプログラムにより実行するコンピュータのハードウェア構成を概略的に示すブロック図である。
【0101】
図22において、CPU50、ROM52、RAM54は、バス56により相互に接続されている。
【0102】
バス56には、さらに、入出力インタフェース58が接続されている。入出力インタフェース58には、キーボード、マウス、マイクロホンなどよりなる入力部60、ディスプレイ、スピーカなどよりなる出力部62、ハードディスクや不揮発性のメモリなどよりなる記憶部64、ネットワークインタフェースなどよりなる通信部66、光ディスクや半導体メモリなどのリムーバブルメディア70を駆動するドライブ68が接続されている。
【0103】
以上のように構成されるコンピュータでは、CPU50が、例えば、記憶部64に記憶されているプログラムを入出力インタフェース58及びバス56を介してRAM54にロードして実行することにより、上述した一連の処理が行われる。
【0104】
CPU50が実行するプログラムは、例えばリムーバブルメディア70に記録して、あるいは、ローカルエリアネットワーク、インターネット、デジタル放送といった、有線または無線の伝送媒体を介して提供され、記憶部64にインストールされる。
【0105】
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであってもよいし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであってもよい。
【0106】
以上、添付図面を参照しながら本発明の好適な実施の形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。
【符号の説明】
【0107】
10 画像データ表示システム
100 画像データ処理装置
102 入力制御デバイス
104 デコーダ
106 出力制御デバイス
108 バス
110 蓄積デバイス
112 CPU
114 RAM
116 ROM
200 表示装置
202 表示画面
300 入力デバイス



【特許請求の範囲】
【請求項1】
表示装置による画像の表示を制御する表示制御部と、
前記表示制御部が前記表示装置の表示画面に表示させたい複数の画像の画像データのそれぞれにデコード優先度を設定するデコード優先度設定部と、
前記デコード優先度設定部により設定されたデコード優先度に従って、前記画像データのそれぞれにデコード処理を施すデコード部と、
前記デコード部によりデコード処理が施されたデコード済みの画像データのそれぞれを記憶する記憶部と、
を備える、画像データ処理装置。
【請求項2】
前記デコード優先度設定部は、前記複数の画像の画像データのそれぞれの位置情報を取得して、取得した位置情報に基づいて、前記複数の画像の画像データのそれぞれにデコード優先度を設定する、請求項1に記載の画像データ処理装置。
【請求項3】
前記デコード優先度設定部は、前記複数の画像の画像データのそれぞれの画素数情報を取得して、取得した画素数情報に基づいて、前記複数の画像の画像データのそれぞれにデコード優先度を設定する、請求項1または2に記載の画像データ処理装置。
【請求項4】
前記デコード優先度設定部は、ユーザの操作履歴情報を取得して、取得した操作履歴情報に基づいて、前記複数の画像の画像データのそれぞれにデコード優先度を設定する、請求項1〜3のいずれか1項に記載の画像データ処理装置。
【請求項5】
前記デコード優先度設定部は、前記複数の画像の画像データのそれぞれのメタ情報を取得して、取得したメタ情報に含まれる表示優先度に基づいて、前記複数の画像の画像データのそれぞれにデコード優先度を設定する、請求項1〜4のいずれか1項に記載の画像データ処理装置。
【請求項6】
前記デコード優先度設定部は、前記複数の画像の画像データのそれぞれの前記表示画面における表示面積情報を取得して、取得した表示面積情報に基づいて、前記複数の画像の画像データのそれぞれにデコード優先度を設定する、請求項1〜5のいずれか1項に記載の画像データ処理装置。
【請求項7】
前記記憶部に記憶された前記デコード済みの画像データのそれぞれに破棄優先度を設定する破棄優先度設定部と、
前記破棄優先度設定部により設定された破棄優先度に従って、前記記憶部に記憶された前記デコード済みの画像データの破棄を行う破棄部と、
をさらに備える、請求項1〜6のいずれか1項に記載の画像データ処理装置。
【請求項8】
表示装置による画像の表示を制御する表示制御部と、
前記表示制御部が前記表示装置の表示画面に表示させたい複数の画像の画像データのそれぞれにデコード処理を施すデコード部と、
前記デコード部によりデコード処理が施されたデコード済みの画像データのそれぞれを記憶する記憶部と、
前記記憶部に記憶された前記デコード済みの画像データのそれぞれに破棄優先度を設定する破棄優先度設定部と、
前記破棄優先度設定部により設定された破棄優先度に従って、前記記憶部に記憶された前記デコード済みの画像データの破棄を行う破棄部と、
を備える、画像データ処理装置。
【請求項9】
前記破棄優先度設定部は、前記記憶部に記憶された前記デコード済みの画像データのそれぞれの位置情報を取得して、取得した位置情報に基づいて、前記記憶部に記憶された前記デコード済みの画像データのそれぞれに破棄優先度を設定する、請求項8に記載の画像データ処理装置。
【請求項10】
前記破棄優先度設定部は、前記記憶部に記憶された前記デコード済みの画像データのそれぞれの画素数情報を取得して、取得した画素数情報に基づいて、前記記憶部に記憶された前記デコード済みの画像データのそれぞれに破棄優先度を設定する、請求項8または9に記載の画像データ処理装置。
【請求項11】
前記破棄優先度設定部は、ユーザの操作履歴情報を取得して、取得した操作履歴情報に基づいて、前記記憶部に記憶された前記デコード済みの画像データのそれぞれに破棄優先度を設定する、請求項8〜10のいずれか1項に記載の画像データ処理装置。
【請求項12】
前記破棄優先度設定部は、前記記憶部に記憶された前記デコード済みの画像データのそれぞれのメタ情報を取得して、取得したメタ情報に含まれる表示優先度に基づいて、前記記憶部に記憶された前記デコード済みの画像データのそれぞれに破棄優先度を設定する、請求項8〜11のいずれか1項に記載の画像データ処理装置。
【請求項13】
前記破棄優先度設定部は、前記記憶部に記憶された前記デコード済みの画像データのそれぞれの前記表示画面における表示面積情報を取得して、取得した表示面積情報に基づいて、前記記憶部に記憶された前記デコード済みの画像データのそれぞれに破棄優先度を設定する、請求項8〜12のいずれか1項に記載の画像データ処理装置。
【請求項14】
前記表示制御部が前記表示装置の表示画面に表示させたい複数の画像の画像データのそれぞれにデコード優先度を設定するデコード優先度設定部をさらに備え、
前記デコード部は、前記デコード優先度設定部により設定されたデコード優先度に従って、前記画像データのそれぞれにデコード処理を施す、請求項8〜12のいずれか1項に記載の画像データ処理装置。
【請求項15】
表示装置による画像の表示を制御する表示制御ステップと、
前記表示制御ステップで前記表示装置の表示画面に表示させたい複数の画像の画像データのそれぞれにデコード優先度を設定するデコード優先度設定ステップと、
前記デコード優先度設定ステップで設定されたデコード優先度に従って、前記画像データのそれぞれにデコード処理を施すデコードステップと、
前記デコードステップでデコード処理が施されたデコード済みの画像データのそれぞれを記憶部に記憶させる記憶ステップと、
を有する、画像データ処理方法。
【請求項16】
表示装置による画像の表示を制御する表示制御ステップと、
前記表示制御ステップで前記表示装置の表示画面に表示させたい複数の画像の画像データのそれぞれにデコード処理を施すデコードステップと、
前記デコードステップでデコード処理が施されたデコード済みの画像データのそれぞれを記憶部に記憶させる記憶ステップと、
前記記憶ステップで記憶部に記憶された前記デコード済みの画像データのそれぞれに破棄優先度を設定する破棄優先度設定ステップと、
前記破棄優先度設定ステップで設定された破棄優先度に従って、前記記憶部に記憶された前記デコード済みの画像データの破棄を行う破棄ステップと、
を有する、画像データ処理方法。
【請求項17】
コンピュータを、
表示装置による画像の表示を制御する表示制御部と、
前記表示制御部が前記表示装置の表示画面に表示させたい複数の画像の画像データのそれぞれにデコード優先度を設定するデコード優先度設定部と、
前記デコード優先度設定部により設定されたデコード優先度に従って、前記画像データのそれぞれにデコード処理を施すデコード部と、
前記デコード部によりデコード処理が施されたデコード済みの画像データのそれぞれを記憶する記憶部と、
として機能させるための、プログラム。
【請求項18】
コンピュータを、
表示装置による画像の表示を制御する表示制御部と、
前記表示制御部が前記表示装置の表示画面に表示させたい複数の画像の画像データのそれぞれにデコード処理を施すデコード部と、
前記デコード部によりデコード処理が施されたデコード済みの画像データのそれぞれを記憶する記憶部と、
前記記憶部に記憶された前記デコード済みの画像データのそれぞれに破棄優先度を設定する破棄優先度設定部と、
前記破棄優先度設定部により設定された破棄優先度に従って、前記記憶部に記憶された前記デコード済みの画像データの破棄を行う破棄部と、
として機能させるための、プログラム。


【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate

【図20】
image rotate

【図21】
image rotate

【図22】
image rotate


【公開番号】特開2011−215915(P2011−215915A)
【公開日】平成23年10月27日(2011.10.27)
【国際特許分類】
【出願番号】特願2010−83854(P2010−83854)
【出願日】平成22年3月31日(2010.3.31)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】