画像処理プログラム、表示システム、画像処理装置および画像処理方法
【課題】画像情報を効率的に送信すること。
【解決手段】検出手段1aは、時系列に入力された画像10,10a,10b,・・・間の変化に応じて、各画像に含まれる第1の種類の領域11と第1の種類の領域11よりも変化量の大きい第2の種類の領域12とを検出する。送信手段1bは、所定の時間幅における第1の種類の領域11の画像情報の送信回数を所定の時間幅における第2の種類の領域12の画像情報の送信回数よりも少ない回数として、第1の種類の領域11の画像情報と第2の種類の領域12の画像情報とを順次送信する。
【解決手段】検出手段1aは、時系列に入力された画像10,10a,10b,・・・間の変化に応じて、各画像に含まれる第1の種類の領域11と第1の種類の領域11よりも変化量の大きい第2の種類の領域12とを検出する。送信手段1bは、所定の時間幅における第1の種類の領域11の画像情報の送信回数を所定の時間幅における第2の種類の領域12の画像情報の送信回数よりも少ない回数として、第1の種類の領域11の画像情報と第2の種類の領域12の画像情報とを順次送信する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、表示装置に画像情報を送信する画像処理プログラム、表示システム、画像処理装置および画像処理方法に関する。
【背景技術】
【0002】
従来、コンピュータと表示装置(モニタやプロジェクタ)とをネットワークで接続した表示システムが利用されている。この表示システムでは、コンピュータは画像データを表示装置に送信する。表示装置は、コンピュータから受信した画像データをモニタ画面上やスクリーン上に表示する。
【0003】
ここで、コンピュータと表示装置とを接続するネットワークとして、無線IP(Internet Protocol)ネットワークや電話回線網などが考えられる。このような伝送路では、単位時間当たりに送受信可能なデータ伝送量(以下、伝送容量という)には限りがある。このため、伝送容量が圧迫されるとコンピュータ側で生成した画像データが表示装置で再生されるまでに遅延が生じることがある。その場合、例えば、表示装置が表示する画像に遅延やコマ落ちが発生する。
【0004】
これに対し、コンピュータ側で生成した画像データを符号化することでデータ量を小さくし(圧縮)、圧縮した画像データを表示装置に送ることが考えられる。このようにすると、伝送容量が小さくても通信により生じ得る遅延を低減することができる。
【0005】
ところが、画像データの圧縮を行うと画質が低下し、表示装置が表示する画像が見づらくなることがあるという問題がある。このため、動画用の画像データ生成に際し、オペレータが入力した領域や人物を表示している領域を取得し、当領域については他の領域よりも圧縮率を下げて画質を相対的に向上することで、当領域を見易くする方法が知られている(例えば、特許文献1,2参照)。また、高画質領域のコマ数を低画質領域よりも多くすることで高画質領域の画質をより向上する方法が知られている(例えば、特許文献3参照)。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2003−309835号公報
【特許文献2】特開2008−005349号公報
【特許文献3】特開平09−130767号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
ところで、画像には所定時間の間に大きく変化する領域とほとんど変化のない領域とが含まれ得る。この場合、大きく変化する領域と同等の頻度で、ほとんど変化のない領域の画像データを送信することは、ネットワークの伝送容量の利用の観点からは非効率であるという問題がある。
【0008】
本発明はこのような点に鑑みてなされたものであり、画像情報を効率的に送信する画像処理プログラム、表示システム、画像処理装置および画像処理方法を提供することを目的とする。
【課題を解決するための手段】
【0009】
上記課題を解決するために、画像処理プログラムが提供される。この画像処理プログラムを実行するコンピュータは、検出手段および送信手段として機能する。検出手段は、時系列に入力された複数の画像間の変化に応じて、各画像に含まれる第1の種類の領域と第1の種類の領域よりも変化量の大きい第2の種類の領域とを検出する。送信手段は、所定の時間幅における第1の種類の領域の画像情報の送信回数を所定の時間幅における第2の種類の領域の画像情報の送信回数よりも少ない回数として、第1の種類の領域の画像情報と第2の種類の領域の画像情報とを順次送信する。
【0010】
また、上記課題を解決するために、表示システムが提供される。この表示システムは、画像処理装置と表示装置とを有する。画像処理装置は、検出手段と送信手段とを備える。検出手段は、時系列に入力された複数の画像間の変化に応じて、各画像に含まれる第1の種類の領域と第1の種類の領域よりも変化量の大きい第2の種類の領域とを検出する。送信手段は、所定の時間幅における第1の種類の領域の画像情報の送信回数を所定の時間幅における第2の種類の領域の画像情報の送信回数よりも少ない回数として、第1の種類の領域の画像情報と第2の種類の領域の画像情報とを順次送信する。表示装置は、受信手段と表示手段とを備える。受信手段は、送信手段が送信した第1の種類の領域の画像情報と第2の種類の領域の画像情報とを順次受信する。表示手段は、受信手段が第1の種類の領域の画像情報と第2の種類の領域の画像情報とを受信した場合、第1の種類の領域の画像情報と第2の種類の画像情報とを表示し、受信手段が第2の種類の領域の画像情報を受信して第1の種類の領域の画像情報を受信しない場合、以前に受信した第1の種類の領域の画像情報と今回受信した第2の種類の領域の画像情報とを表示する。
【0011】
また、上記課題を解決するために上記画像処理プログラムを実行するコンピュータと同様の機能を有する画像処理装置が提供される。また、上記課題を解決するために上記画像処理プログラムを実行するコンピュータと同様の処理を行う画像処理方法が提供される。
【発明の効果】
【0012】
上記画像処理プログラム、表示システム、画像処理装置および画像処理方法によれば、画像情報を効率的に送信することができる。
【図面の簡単な説明】
【0013】
【図1】第1の実施の形態の表示システムを示す図である。
【図2】表示システムの全体構成を示す図である。
【図3】コンピュータのハードウェア構成を示す図である。
【図4】表示装置のハードウェア構成を示す図である。
【図5】第2の実施の形態の各装置の機能構成を示す図である。
【図6】メッシュ構成の具体例を示す図である。
【図7】データ出力制御テーブルのデータ構造例を示す図である。
【図8】第2の実施の形態のメッシュ管理テーブルのデータ構造例を示す図である。
【図9】第2の実施の形態の画像データの送信処理を示すフローチャートである。
【図10】第2の実施の形態の領域判定処理を示すフローチャートである。
【図11】第2の実施の形態の送信領域特定処理を示すフローチャートである。
【図12】第2の実施の形態の符号化処理を示すフローチャートである。
【図13】第2の実施の形態の画像データの受信処理を示すフローチャートである。
【図14】第2の実施の形態の環境の設定変更処理を示すフローチャートである。
【図15】第2の実施の形態の画像データの送信方法の第1の具体例を示す図である。
【図16】第2の実施の形態の各領域の画像データの送信方法の第2の具体例を示す図である。
【図17】第3の実施の形態の各装置の機能構成を示す図である。
【図18】第3の実施の形態のメッシュ管理テーブルのデータ構造例を示す図である。
【図19】第3の実施の形態の領域判定処理を示すフローチャートである。
【図20】第3の実施の形態の符号化処理を示すフローチャートである。
【図21】第3の実施の形態の符号化処理を示すフローチャートである。
【図22】第3の実施の形態の画像の各領域を示す図である。
【図23】第4の実施の形態の各装置の機能構成を示す図である。
【図24】第4の実施の形態のメッシュ管理テーブルのデータ構造例を示す図である。
【図25】第4の実施の形態の送信領域特定処理を示すフローチャートである。
【図26】第4の実施の形態の画像データの送信方法の具体例を示す図である。
【図27】第5の実施の形態の各装置の機能構成を示す図である。
【図28】第5の実施の形態の継続フレーム数しきい値設定テーブルのデータ構造例を示す図である。
【図29】第5の実施の形態のメッシュ管理テーブルのデータ構造例を示す図である。
【図30】第5の実施の形態の送信領域特定処理を示すフローチャートである。
【図31】第5の実施の形態の二次高品位画像の送信方法の具体例を示す図である。
【発明を実施するための形態】
【0014】
以下、実施の形態を図面を参照して詳細に説明する。
[第1の実施の形態]
図1は、第1の実施の形態の表示システムを示す図である。この表示システムは、コンピュータ1および表示装置2を有する。コンピュータ1は、検出手段1aおよび送信手段1bを有する。
【0015】
検出手段1aは、時系列に入力された画像10,10a,10b,・・・の間の変化に応じて、各画像に含まれる第1の種類の領域11と、第1の種類の領域11よりも変化量の大きい第2の種類の領域12とを検出する。変化量は、例えば各画素の画素値の変化の度合いにより検出することができる。例えば、画像10aの対象画素の画素値と直前の画像である画像10における対応する画素の画素値との差が所定値以上である場合に、対象画素を第2の種類の領域12に含めることが考えられる。なお、変化量は、複数の画素の集合により比較して検出してもよい。
【0016】
送信手段1bは、所定の時間幅における第1の種類の領域11の画像情報の送信回数を所定の時間幅における第2の種類の領域12の画像情報の送信回数よりも少ない回数として、第1の種類の領域11の画像情報と第2の種類の領域12の画像情報とを表示装置2に順次送信する。
【0017】
例えば、送信手段1bは、所定の時間幅の間で第2の種類の領域12に関して画像情報12a,12b,12c,12d,12eと5回の送信を行い、第1の種類の領域11に関して画像情報11a,11bと2回の送信を行う。
【0018】
表示装置2は、送信手段1bから受信した第1の種類の領域11の画像情報と第2の種類の領域12の画像情報とを表示する。表示装置2は、例えば、モニタやプロジェクタである。
【0019】
表示装置2は、例えば第1の種類の領域11の画像情報11aと第2の種類の領域の画像情報12aとを受信すると、画像情報11a,12aを組み合わせた画像を表示する。次に、表示装置2は、画像情報12bを受信すると、表示した画像情報12aを画像情報12bで更新する。その後、表示装置2が画像情報12c,12dと順次受信した場合も同様である。そして、表示装置2は、画像情報11b,12eを受信すると、表示した画像情報11aを画像情報11bで更新し、表示した画像情報12dを画像情報12eで更新する。
【0020】
コンピュータ1によれば、検出手段1aにより、時系列に入力された複数の画像10,10a,10b,・・・の間の変化に応じて、各画像に含まれる第1の種類の領域11と、第1の種類の領域11よりも変化量の大きい第2の種類の領域12とが検出される。送信手段1bにより、所定の時間幅における第1の種類の領域11の画像情報の送信回数を所定の時間幅における第2の種類の領域12の画像情報の送信回数よりも少ない回数として、第1の種類の領域11の画像情報と第2の種類の領域12の画像情報とが表示装置2に順次送信される。
【0021】
これにより、画像情報を効率的に送信することが可能となる。具体的には、第2の種類の領域12に比べて変化量の小さい第1の種類の領域11の画像情報は、第2の種類の領域12の画像情報よりも送信回数が少なくなる。このため、第1の種類の領域11の画像情報を送信するために、伝送容量が不必要に使用されることを抑止することができる。また、その分の伝送容量を用いて、第1の種類の領域11の画像や第2の種類の領域12の画像の画質向上を図ることができる。また、その分の伝送容量を他のデータ通信に利用することもできる。
【0022】
以下の第2〜第5の実施の形態では、第1の実施の形態に係る表示システムの応用例を説明する。
[第2の実施の形態]
図2は、表示システムの全体構成を示す図である。第2の実施の形態に係る表示システムは、コンピュータ100および表示装置200を有する。コンピュータ100と表示装置200とは、ネットワーク10を介して接続される。ネットワーク10は、コンピュータ100および表示装置200を無線で接続する無線LAN(Local Area Network)である。
【0023】
コンピュータ100は、表示装置200に表示させる画像データをネットワーク10を介して表示装置200に送信する。コンピュータ100が表示装置200に送信する画像データのデータ形式には、Motion JPEG(Motion Joint Photographic Experts Groups)などによる非可逆圧縮方式が用いられる。非可逆圧縮方式を用いることで、可逆圧縮方式に比べて、データ量を小さくし易いほか、符号化・復号処理に要する処理時間を短縮することができる。このため、非可逆圧縮方式は、画像データをネットワーク10を介して送信し、複数の画面上で同時に同一の内容を閲覧したい場合に適している。
【0024】
表示装置200は、コンピュータ100から受信する画像データをスクリーン20に投影する。表示装置200は、例えば、プロジェクタである。
コンピュータ100は、表示装置200に画像データを送信する機能を有している。この機能は、コンピュータ100が画像処理プログラムを実行することで実現される。そのような画像処理プログラムは、コンピュータ読み取り可能な記録媒体30に記録して配布することができる。
【0025】
また、ネットワーク10に接続されたサーバ装置(図示せず)に記録媒体30から画像処理プログラムを格納してもよい。この場合、コンピュータ100は、ネットワーク10を介してサーバ装置から画像処理プログラムをダウンロードすることができる。
【0026】
記録媒体30としては、例えば、磁気記録装置、光ディスク、光磁気記録媒体、半導体メモリを使用できる。磁気記録装置には、HDD(Hard Disk Drive)、フレキシブルディスク(FD)、磁気テープなどがある。光ディスクには、CD(Compact Disc)、CD−R(Recordable)/RW(ReWritable)、DVD(Digital Versatile Disc)、DVD−R/RW/RAM(Random Access Memory)などがある。光磁気記録媒体には、MO(Magneto-Optical disk)などがある。
【0027】
また、表示装置200もコンピュータ100が送信した画像データを受信してスクリーン20に投影する機能を有している。表示装置200は、そのためのプログラムをネットワーク10を介してサーバ装置からダウンロードすることができる。
【0028】
なお、コンピュータ100と表示装置200とは、ネットワーク10を介さずに直接接続されてもよい。この場合、コンピュータ100と表示装置200とは、ワイヤレスUSB(Wireless Universal Serial Bus)で接続することが考えられる。
【0029】
図3は、コンピュータのハードウェア構成を示す図である。コンピュータ100は、CPU(Central Processing Unit)101、RAM(Random Access Memory)102、HDD103、表示処理部104、ディスプレイ105、入力処理部106、キーボード107、マウス108および通信処理部109を有する。
【0030】
CPU101は、コンピュータ100全体を制御する。
RAM102は、CPU101に実行させるOS(Operating System)のプログラムやアプリケーションソフトウェア(以下、アプリケーションという)のプログラムの少なくとも一部を一時的に記憶する。また、RAM102は、CPU101による処理に必要な各種データを記憶する。
【0031】
HDD103は、OSのプログラム、アプリケーションのプログラムを記憶する。また、HDD103は、CPU101による処理に必要な各種データを記憶する。なお、HDD103の代わりに例えばSSD(Solid State Drive)などの他の不揮発性の記憶装置を用いることもできる。
【0032】
表示処理部104は、ディスプレイ105と接続される。表示処理部104は、CPU101からの命令にしたがって画像をディスプレイ105の画面に表示させる。
入力処理部106は、キーボード107とマウス108と接続される。入力処理部106は、キーボード107やマウス108から送られてくる信号をCPU101に送信する。
【0033】
通信処理部109は、ネットワーク10と接続され、表示装置200と画像データの送受信を行う。画像データの内容は、例えば、表示処理部104がディスプレイ105に表示させている画像が考えられる。このようにすると、例えば、ユーザは、コンピュータ100を操作しながら、その操作画面を表示装置200を介してスクリーン20に表示してプレゼンテーションを行うことができる。
【0034】
図4は、表示装置のハードウェア構成を示す図である。表示装置200は、CPU201、RAM202、NVRAM(Non Volatile RAM)203、表示処理部204、投影部205、入力処理部206、操作部207および通信処理部208を有する。
【0035】
CPU201は、表示装置200全体を制御する。
RAM202は、CPU201に実行させるOSのプログラムやアプリケーションのプログラムの少なくとも一部を一時的に記憶する。また、RAM202は、CPU201による処理に必要な各種データを記憶する。
【0036】
NVRAM203は、OSのプログラム、アプリケーションのプログラムを記憶する。また、NVRAM203は、CPU201による処理に必要な各種データを記憶する。
表示処理部204は、投影部205と接続される。表示処理部204は、CPU201からの命令にしたがって、投影部205にスクリーンへの画像の投影を実行させる。
【0037】
入力処理部206は、操作部207と接続される。入力処理部206は、操作部207から送られてくる信号をCPU201に送信する。
通信処理部208は、ネットワーク10と接続され、コンピュータ100とデータの送受信を行う。
【0038】
図5は、第2の実施の形態の各装置の機能構成を示す図である。コンピュータ100は、制御情報記憶部110、メッシュ記憶部120、メッシュ管理情報記憶部130、メッシュ生成部140、変化検出部145、領域判定部150、送信領域特定部160、符号化部170、送信部180、受信部185、通信帯域監視部190、フレームレート設定受付部195を有する。これらの機能はCPU101が画像処理プログラムを実行することで実現される。ただし、これらの機能の一部または全部を専用のハードウェアで実現してもよい。
【0039】
制御情報記憶部110は、画像データの符号化に際して、圧縮率(あるいは画質)を特定するためのデータ出力制御情報を記憶する。データ出力制御情報には、コンピュータ100と表示装置200との間の伝送路の伝送容量や表示装置200が画像を再生する際のフレームレート(単位時間当たりの描画画面数)などの情報が含まれる。
【0040】
メッシュ記憶部120は、画像内を所定数の画素による方形領域に分割したメッシュを記憶するためのバッファである。メッシュ記憶部120は、時系列に入力された画像データについて生成されたメッシュを一時的に記憶する。
【0041】
メッシュ管理情報記憶部130は、画像内におけるメッシュの位置、動画や静止画の区分などを含むメッシュ管理情報を記憶する。
メッシュ生成部140は、画像データを順次受け付ける。メッシュ生成部140は、画像データを分割してメッシュを生成し、メッシュ記憶部120に格納する。
【0042】
変化検出部145は、メッシュ記憶部120に記憶された画像内の同一位置のメッシュと該当位置の直前のメッシュとを比較して、該当のメッシュが直前のメッシュからの変化を検出する。ここで、変化検出部145は、メッシュの変化を、両メッシュに含まれる画素の画素値(色や輝度を示すパラメータなど)に差があるか否かにより検出することができる。具体的には、変化検出部145は、画素値に差がある画素が存在する場合に変化ありと検出し、何れの画素にも画素値に差がない場合に変化なしと検出する。また、例えば、変化検出部145は、画素値に所定値以上の差がある画素が存在する場合に変化ありと検出し、何れの画素にも所定値以上の差がない場合に変化なしと検出することも考えられる。
【0043】
領域判定部150は、変化検出部145が変化ありと検出した領域(複数のメッシュの集合)を動画領域と特定する。また、領域判定部150は、変化検出部145が変化なしと検出した領域を静止画領域と特定する。領域判定部150は、このようにして特定した各メッシュの動画および静止画の区分に基づいてメッシュ管理情報を生成し、メッシュ管理情報記憶部130に格納する。
【0044】
送信領域特定部160は、メッシュ管理情報記憶部130に記憶されたメッシュ管理情報に基づいて、表示装置200に送信する領域(送信領域)を特定する。送信領域特定部160は、動画領域について、その全部を送信領域と特定する。
【0045】
また、送信領域特定部160は、静止画領域について、その一部を送信領域と特定する。すなわち、送信領域特定部160は、静止画領域を更に分割し、分割した領域を複数のタイミングで送信領域として順次特定する。このようにすることで、静止画領域の単位面積当たりの送信データ量を動画領域の単位面積当たりの送信データ量よりも多く割り当てることができる。すなわち、後段の符号化に伴う圧縮率を制御して、静止画領域の画質を動画領域の画質よりも向上させることができる。
【0046】
更に、送信領域特定部160は、静止画領域を送信領域と特定する頻度を、動画領域を送信領域と特定する頻度よりも小さくする。例えば、送信領域特定部160は、静止画領域の画質の画像データを送信した後は、その領域が動画領域となるか、あるいは所定時間が経過するまで、送信領域として特定しないようにする。すなわち、画像データの入力レートに対し、静止画領域については間引きを行うことで、静止画領域の送信レート(あるいは送信回数)を動画領域の送信レートよりも少なくすることができる。
【0047】
送信領域特定部160は、送信領域として特定した動画領域または静止画領域の情報を符号化部170に出力する。
符号化部170は、送信領域特定部160が特定した送信領域のメッシュを順番に符号化してデータ量を削減する(圧縮)。符号化部170は、圧縮率決定部171、動画領域符号化部172および静止画領域符号化部173を有する。
【0048】
圧縮率決定部171は、動画領域に含まれるメッシュ(動画メッシュ)群または静止画領域に含まれるメッシュ(静止画メッシュ)群の符号化後データ量を決定する。符号化後データ量が大きいほど圧縮率は低く、画像の劣化も小さいため、画像の品質は高くなる。また、符号化後データ量が小さいほど圧縮率は高く、画像の劣化が大きいため、画像の品質は低くなる。
【0049】
圧縮率決定部171は、動画メッシュの圧縮率よりも静止画メッシュの圧縮率を低く設定し、静止画領域については、動画領域よりも高品位な画像の表示を可能とする。圧縮率決定部171による圧縮率の決定処理の詳細は、後述する。
【0050】
動画領域符号化部172は、圧縮率決定部171が決定した動画領域の符号化後データ量に近くなるように送信領域内の動画メッシュを符号化する。例えば、Motion JPEG形式で符号化する場合、動画領域符号化部172は、動画メッシュにDCT(Discrete Cosine Transform)変換、量子化処理およびハフマン符号化処理を順次施して符号化を行う。この場合、動画領域符号化部172は、例えば動画領域の符号化後データ量を越えない最大のデータ量となるテーブル類(量子化テーブルやハフマン符号テーブル)を用いて符号化する。あるいは、符号化後データ量に最も近くなるテーブル類を用いて符号化する。
【0051】
動画領域符号化部172は、符号化して生成した動画圧縮データを送信部180に出力する。
静止画領域符号化部173は、圧縮率決定部171が決定した静止画領域の符号化後データ量に近くなるように送信領域内の静止画メッシュを符号化する。なお、静止画領域に関しても、動画領域符号化部172と同様にしてMotion JPEG形式の符号化処理を施すことが考えられる。
【0052】
静止画領域符号化部173は、符号化して生成した静止画圧縮データを送信部180に出力する。
なお、符号化部170は、表示装置200で画像を再生する際の情報を、各圧縮データに含める。符号化部170は、例えばMotion JPEG形式で符号化を行う場合、量子化に用いた量子化テーブル、ハフマン符号化に用いたハフマン符号テーブルおよび各メッシュの位置(画面上の座標など)を示す情報を各圧縮データに含める。
【0053】
送信部180は、符号化部170から取得した動画圧縮データまたは静止画圧縮データを含む圧縮データを表示装置200に送信する。
受信部185は、表示装置200から表示装置200が画像再生を行うフレームレートの設定情報を受信する。受信部185は、制御情報記憶部110に記憶されたデータ出力制御情報に、フレームレートの設定情報の内容を反映する。
【0054】
通信帯域監視部190は、送信部180および受信部185からコンピュータ100と表示装置200との間の伝送路の伝送容量を取得する。通信帯域監視部190は、制御情報記憶部110に記憶されたデータ出力制御情報に、現通信環境における伝送容量の情報を反映する。
【0055】
フレームレート設定受付部195は、表示装置200が画像を再生する際のフレームレートの設定変更を受け付ける。フレームレートの設定変更は、例えば、ユーザがディスプレイ105に表示された設定変更用のインタフェースにしたがって、キーボード107やマウス108を操作することで入力される。フレームレート設定受付部195は、受け付けたフレームレートの設定変更を表示装置200に通知すると共に、その変更内容を制御情報記憶部110に記憶されたデータ出力制御情報に反映する。
【0056】
表示装置200は、受信部210、復号部220、出力処理部230、フレームレート通知部240および送信部250を有する。
受信部210は、送信部180が送信した圧縮データを受信する。受信部210は、受信した圧縮データを復号部220に出力する。
【0057】
復号部220は、受信部210から取得した圧縮データに含まれる動画圧縮データまたは静止画圧縮データを復号する。受信部210は、動画領域復号部221および静止画領域復号部222を有する。
【0058】
動画領域復号部221は、動画圧縮データを復号する。例えば、動画圧縮データがMotion JPEG形式である場合、動画領域復号部221は、動画圧縮データに対して、ハフマン復号処理、逆量子化処理および逆DCT変換を順次施して動画領域の復号画像データを得る。このとき、動画領域復号部221は、符号化時に使用したハフマン符号テーブルや量子化テーブルを動画圧縮データから取得して、復号に利用することができる。動画領域復号部221は、動画領域の復号画像データを出力処理部230に出力する。
【0059】
静止画領域復号部222は、静止画圧縮データを復号する。例えば、静止画圧縮データがMotion JPEG形式である場合、動画領域復号部221と同様の処理により静止画領域の復号画像データを得る。ただし、動画領域復号部221と静止画領域復号部222とでは画質が異なるため、復号処理に用いる量子化テーブルやハフマン符号テーブルは異なるものとなる。静止画領域復号部222は、静止画領域の復号画像データを出力処理部230に出力する。
【0060】
出力処理部230は、復号部220から取得した動画領域の復号画像データと静止画領域の復号画像データとを合成して得られる復号画像を投影部205に出力し、スクリーン20に投影させる。出力処理部230は、例えば、動画圧縮データや静止画圧縮データに含まれる各メッシュの位置を示す情報により、動画圧縮領域の復号画像データと静止画領域の復号画像データとを適正に合成して復号画像を得ることができる。
【0061】
フレームレート通知部240は、出力処理部230が復号画像を出力(再生)する際のフレームレートを取得する。フレームレート通知部240は、フレームレートが変更した場合、新しいフレームレートの情報を送信部250に出力する。フレームレートの変更は、例えば、ユーザが操作部207で所定の操作を行うことで出力処理部230に受け付けられる。また、コンピュータ100からフレームレートの設定変更指示を受信することでも受け付けられる。
【0062】
送信部250は、フレームレート通知部240から取得したフレームレートの情報をコンピュータ100に送信する。
図6は、メッシュ構成の具体例を示す図である。画像データ300は、静止画領域310および動画領域320を有する。静止画領域310および動画領域320は、各領域内を方形領域に分割した複数のメッシュ330により構成される。メッシュ330は、複数の画素331を含み、例えば、16×16画素や8×8画素の集合である。
【0063】
画像データ300は、左上頂点を原点として、横軸にx座標、縦軸にy座標が定義される。各メッシュの位置は、(x,y)座標によって特定することができる。
変化検出部145は、画像データ300に含まれる各メッシュについて、直前のメッシュとの変化の有無を検出する。領域判定部150は、変化検出部145により変化なしとされた領域を静止画領域310とする。領域判定部150は、変化検出部145により変化ありとされた領域を動画領域320とする。
【0064】
図7は、データ出力制御テーブルのデータ構造例を示す図である。データ出力制御テーブル111,112,113は、伝送路の伝送容量の候補値に応じて制御情報記憶部110に予め格納される。データ出力制御テーブル111は、伝送容量の上限が20Mbps(Megabits Per Second)の通信環境における制御情報である。その他にも、例えば、ワイヤレスUSBによる接続を想定して、伝送容量の上限が60Mbpsの通信環境における制御情報を用意しておくことも考えられる。なお、以下の説明では、データ出力制御テーブル111に関して説明するが、データ出力制御テーブル112,113,・・・に関しても同様の構成となる。
【0065】
データ出力制御テーブル111には、フレームレートを示す項目、送信可能データ量を示す項目および現設定フラグを示す項目が設定される。各項目の横方向に並べられた情報同士が互いに関連付けられて、1つの伝送環境に関する情報を示す。
【0066】
フレームレートを示す項目には、表示装置200が画像を再生する際のフレームレートを示す値がfps(Frame Per Second)単位で設定される。
送信可能データ量を示す項目には、送信が許容される画像データのデータ量がKB/f(Kilo Byte / Frame)単位で設定される。
【0067】
現設定フラグを示す項目には、現在使用中の伝送路の伝送容量およびフレームレートが何れであるかを示すフラグが設定される。現設定フラグを示す項目には、該当の設定である場合には“1”が設定され、該当の設定でない場合には“0”が設定される。
【0068】
データ出力制御テーブル111には、例えば、フレームレートが“30”(fps)、送信可能データ量が“28”(KB/f)、現設定フラグが“1”という情報が設定される。これは、無線LANによる現伝送路の伝送容量が20Mbpsであり、表示装置200が画像を再生する際のフレームレートが“30”(fps)の設定となっていることを示している。また、伝送容量のうち、画像データの送信に利用可能なデータ量が“28”(KB/f)であることを示している。
【0069】
現設定フラグは、表示装置200のフレームレートの設定変更に応じて、受信部185およびフレームレート設定受付部195により更新される。また、伝送路の環境変更などによる伝送容量の変更に応じて通信帯域監視部190により更新される。
【0070】
圧縮率決定部171は、データ出力制御テーブル111を参照して、送信可能データ量を取得して圧縮率の算出に用いる。ただし、圧縮率決定部171は、通信環境に応じて送信可能データ量に相当する値を算出してもよい。
【0071】
図8は、第2の実施の形態のメッシュ管理テーブルのデータ構造例を示す図である。メッシュ管理テーブル131は、メッシュ管理情報記憶部130に格納される。メッシュ管理テーブル131には、メッシュ座標を示す項目、動画領域フラグを示す項目および高品位画像送信済フラグを示す項目が設けられる。各項目の横方向に並べられた情報同士が互いに関連付けられて、1つのメッシュに関する情報を示す。
【0072】
メッシュ座標を示す項目には、各メッシュの座標が設定される。
動画領域フラグを示す項目には、該当のメッシュが動画メッシュであるか否かを示すフラグが設定される。動画領域フラグを示す項目には、該当のメッシュが動画メッシュである場合は“1”が設定され、動画メッシュでない、すなわち、静止画メッシュである場合は“0”が設定される。
【0073】
高品位画像送信済フラグを示す項目には、静止画メッシュについて、動画メッシュよりも圧縮率の小さな(画質の高品位な)画像を送信済みであるか否かを示すフラグが設定される。高品位画像送信済フラグを示す項目には、該当のメッシュについて高品位画像を送信済みである場合は“1”が設定され、未送信である場合は“0”が設定される。なお、高品位画像送信済フラグを示す項目には、該当のメッシュが動画メッシュである場合には、高品位画像の送信対象でないことを示す“−”が設定される。
【0074】
メッシュ管理テーブル131には、例えば、メッシュ座標が(x,y)=“(1,1)”、動画領域フラグが“0”、高品位画像送信済フラグが“1”という情報が設定される。これは、メッシュ座標(x,y)=“(1,1)”で指定されるメッシュが静止画メッシュであり、高品位画像を送信済みであることを示している。
【0075】
また、メッシュ管理テーブル131には、例えば、メッシュ座標が(x,y)=“(71,45)”であり、動画領域フラグが“1”、高品位画像送信済フラグが“−”という情報が設定される。これは、メッシュ座標(x,y)=“(71,45)”で指定されるメッシュが動画メッシュであり、高品位画像の送信対象外であることを示している。
【0076】
次に、以上の構成により実現されるコンピュータ100および表示装置200の処理手順に関して説明する。
まず、コンピュータ100による画像データの送信処理に関して説明する。
【0077】
図9は、第2の実施の形態の画像データの送信処理を示すフローチャートである。以下、図9に示す処理をフローチャートのステップ番号に沿って説明する。
[ステップS1]メッシュ生成部140は、1フレーム分の画像データを受け付ける。
【0078】
[ステップS2]メッシュ生成部140は、受け付けた画像データに含まれる各画素を方形領域に分割してメッシュを生成し、メッシュ記憶部120に格納する。
[ステップS3]変化検出部145は、メッシュ記憶部120に記憶された各メッシュについて、直前に入力された画像データに含まれる同一座標の各メッシュと比較して、画素の画素値に変化があるかを検出する。領域判定部150は、変化検出部145の検出結果に応じて画像データを静止画領域および動画領域に区分する。
【0079】
[ステップS4]送信領域特定部160は、領域判定部150により動画領域と区分されたメッシュ全てを送信領域と特定する。送信領域特定部160は、領域判定部150により静止画領域と区分されたメッシュを送信する場合、静止画領域を更に分割したうちの一部のメッシュを送信領域として特定する。
【0080】
[ステップS5]符号化部170は、送信領域特定部160が特定した送信領域のメッシュを符号化する。符号化部170は、送信領域のうち動画メッシュおよび静止画メッシュをそれぞれの圧縮率で符号化し、動画圧縮データおよび静止画圧縮データを生成する。このとき、符号化部170は、動画領域よりも低い圧縮率で静止画メッシュの符号化を行う。
【0081】
[ステップS6]送信部180は、符号化部170が生成した動画圧縮データおよび静止画圧縮データを表示装置200に送信する。
[ステップS7]メッシュ生成部140は、次フレームの画像データを受け付けたか否かを判定する。受け付けた場合、処理をステップS2に進める。受け付けていない場合、処理を完了する。
【0082】
このようにして、メッシュ生成部140は、順次受け付ける画像データからメッシュを生成する。変化検出部145は、各メッシュの画素値の変化を検出する。領域判定部150は、変化検出部145による変化の検出結果に応じて画像データに含まれる各メッシュを静止画領域および動画領域に分割する。送信領域特定部160は、静止画領域および動画領域から送信領域とするメッシュを特定する。符号化部170は、送信領域とされたメッシュのうち、動画領域は動画領域の圧縮率で、静止画領域は静止画領域の圧縮率で符号化する。送信部180は、符号化部170が生成した動画圧縮データおよび静止画圧縮データを表示装置200に送信する。
【0083】
次に、上記ステップS3〜S5の処理を更に詳細に説明する。
図10は、第2の実施の形態の領域判定処理を示すフローチャートである。以下、図10に示す処理をフローチャートのステップ番号に沿って説明する。なお、図10に示す処理は、図9のステップS3を詳細に示したものである。
【0084】
[ステップS11]変化検出部145は、メッシュ記憶部120に記憶され、最新に入力された画像データに含まれていたメッシュのうちから1つのメッシュを抽出する。メッシュの抽出は、例えば、メッシュ座標の原点を開始点として、x座標の正方向へ走査するようにメッシュを順次抽出することが考えられる。そして、例えば、x座標が最大値に達したら、y座標に1を加えたのち、x座標の最小値から正方向へと抽出していく。
【0085】
[ステップS12]変化検出部145は、最新に入力された画像データの直前に入力された画像データに含まれていたメッシュ(以下、直前メッシュという)のうち、ステップS11で抽出したメッシュと同一座標の直前メッシュを抽出する。変化検出部145は、ステップS11で抽出したメッシュに含まれる各画素の画素値と直前メッシュに含まれる対応する各画素の画素値とを比較することで、該当のメッシュの変化の有無を検出する。画素値に差のある画素が存在する場合、処理をステップS13に進める。画素値に差のある画素が存在しない場合、処理をステップS14に進める。
【0086】
[ステップS13]領域判定部150は、該当のメッシュを動画領域とする。領域判定部150は、メッシュ管理情報記憶部130に記憶されたメッシュ管理テーブル131の該当メッシュ座標に対応するメッシュの動画領域フラグに“1”を設定する。
【0087】
[ステップS14]領域判定部150は、該当のメッシュを静止画領域とする。領域判定部150は、メッシュ管理情報記憶部130に記憶されたメッシュ管理テーブル131の該当メッシュ座標に対応するメッシュの動画領域フラグに“0”を設定する。また、動画領域フラグ“1”から“0”へ新たに変更したメッシュに関して、領域判定部150は、高品位画像送信済フラグに“0”を設定する。領域判定部150は、動画領域フラグを“0”設定のまま維持するメッシュに関しては、高品位画像送信済フラグの設定を変更しない。
【0088】
[ステップS15]変化検出部145は、入力された画像データに含まれるメッシュに変化検出を行っていないメッシュが存在するか否かを判定する。変化検出を行っていないメッシュが存在する場合、処理をステップS11に進める。変化検出を行っていないメッシュが存在しない場合、処理を完了させる。
【0089】
このようにして、変化検出部145は各メッシュについて同一座標の直前メッシュからの変化を検出する。領域判定部150、変化検出部145により変化ありと検出されたメッシュの集合を動画領域と特定する。また、領域判定部150は、変化検出部145により変化なしと検出されたメッシュの集合を静止画領域と特定する。
【0090】
なお、上記ステップS12において、変化検出部145は、変化検出を行うために直前のフレームの画像データを参照する。したがって、最初に受け付けた第1番目のフレームの画像データに関しては、比較対象が存在しないことになる。このため、変化検出部145は、第1番目のフレームに関しては、全メッシュに変化ありとする。そして、領域判定部150は、第1番目のフレームに関しては全メッシュを動画領域として以降の処理を実行する。
【0091】
図11は、第2の実施の形態の送信領域特定処理を示すフローチャートである。以下、図11に示す処理をフローチャートのステップ番号に沿って説明する。なお、図11に示す処理は、図9のステップS4を詳細に示したものである。
【0092】
[ステップS21]送信領域特定部160は、メッシュ管理情報記憶部130に記憶されたメッシュ管理テーブル131の動画領域フラグを参照して、今回送信対象の画像データに静止画領域が含まれているか否かを判定する。静止画領域が含まれている場合、処理をステップS22に進める。静止画領域が含まれていない場合、処理をステップS25に進める。
【0093】
[ステップS22]送信領域特定部160は、メッシュ管理テーブル131の高品位画像送信済フラグを参照して、静止画メッシュのうち、高品位画像を未送信のメッシュが存在するか否かを判定する。高品位画像を未送信のメッシュが存在する場合、処理をステップS23に進める。高品位画像を未送信のメッシュが存在しない場合、処理をステップS25に進める。
【0094】
[ステップS23]送信領域特定部160は、静止画領域の分割数を特定する。ここで、静止画領域の分割数とは、静止画領域の送信回数により決まる。例えば、静止画領域を3つの領域に分割して、異なるタイミングに分けて送信する場合、分割数は3である。分割数が小さいほど、静止画領域の画質は低下する。なお、画質の下限は、分割数が1の時であり、このとき動画領域と同一の画質となる。また、分割数が大きいほど、静止画領域の画質は向上する。分割数は、利用環境に応じて、例えばメッシュ情報記憶部130に予め記憶される。送信領域特定部160は、特定した分割数に基づいて、送信する静止画領域の送信メッシュ数を算出する。
【0095】
[ステップS24]送信領域特定部160は、メッシュ管理テーブル131を参照して、高品位画像を未送信のメッシュのうち、算出した送信メッシュ数分のメッシュを抽出し、抽出した静止画メッシュ群を送信対象の領域とする。送信領域特定部160は、メッシュ管理テーブル131の高品位画像送信済フラグを更新する。すなわち、今回送信対象として抽出した静止画メッシュに設定された高品位画像送信済フラグ“0”を“1”に変更する。送信領域特定部160は、抽出した静止画メッシュ群を符号化部170に出力する。
【0096】
[ステップS25]送信領域特定部160は、メッシュ管理テーブル131の動画領域フラグを参照して、今回送信対象の画像データに動画領域が含まれているか否かを判定する。動画領域が含まれている場合、処理をステップS26に進める。動画領域が含まれていない場合、処理を完了する。
【0097】
[ステップS26]送信領域特定部160は、メッシュ管理テーブル131を参照して、動画メッシュを抽出し、抽出した動画メッシュ群を送信対象の領域とする。送信領域特定部160は、抽出した動画メッシュ群を符号化部170に出力する。
【0098】
このようにして、送信領域特定部160は、静止画領域の一部を送信対象の領域として特定する。送信領域特定部160は、送信対象の領域として選択するメッシュの数を、静止画領域の分割数に応じて算出する。また、送信領域特定部160は、動画領域の全部を送信対象の領域として特定する。
【0099】
なお、上記ステップS21〜S24に示した静止画領域に対する処理および上記ステップS25,S26に示した動画領域に対する処理は、順序を逆にしてもよい。例えば、送信領域特定部160は、動画領域に対する処理(ステップS25,S26)を先に実行した後、静止画領域に対する処理(ステップS21〜S24)を行うことも考えられる。
【0100】
図12は、第2の実施の形態の符号化処理を示すフローチャートである。以下、図12に示す処理をフローチャートのステップ番号に沿って説明する。なお、図12に示す処理は、図9のステップS5を詳細に示したものである。
【0101】
[ステップS31]符号化部170は、送信領域特定部160が特定した送信対象のメッシュ群(動画メッシュ群および静止画メッシュ群)を取得する。
[ステップS32]圧縮率決定部171は、制御情報記憶部110に記憶されたデータ出力制御テーブル111,112,113,・・・の現設定フラグを参照して、現在の送信可能データ量Dを取得する。例えば、本表示システムの環境では、全帯域20Mbps、フレームレート30fpsの設定となっている。そのため、圧縮率決定部171は、D=28(KB/f)を取得する。
【0102】
[ステップS33]圧縮率決定部171は、メッシュ管理情報記憶部130に記憶されたメッシュ管理テーブル131を参照して、静止画領域のメッシュ数Xを取得する。
[ステップS34]圧縮率決定部171は、メッシュ管理テーブル131を参照して、動画領域のメッシュ数Yを取得する。
【0103】
[ステップS35]圧縮率決定部171は、動画メッシュ率Z=Y/(X+Y)を算出する。
[ステップS36]圧縮率決定部171は、上記ステップS31で取得したメッシュ群に静止画メッシュ群と動画メッシュ群とが混在しているか否かを判定する。混在している場合、処理をステップS37に進める。混在していない場合、処理をステップS39に進める。
【0104】
[ステップS37]圧縮率決定部171は、動画メッシュ群に対して割り当て可能なデータ量D1=D×Zを算出する。
[ステップS38]圧縮率決定部171は、静止画メッシュ群に対して割り当て可能なデータ量D2=D−D1を算出する。そして、処理をステップS42に進める。
【0105】
[ステップS39]圧縮率決定部171は、上記ステップS31で取得したメッシュ群は動画メッシュ群のみであるか否かを判定する。動画メッシュ群のみの場合、処理をステップS40に進める。動画メッシュ群のみでない、すなわち、静止画メッシュ群のみである場合、処理をステップS41に進める。
【0106】
[ステップS40]圧縮率決定部171は、動画領域に対して割り当て可能なデータ量D1=Dを取得する。そして、処理をステップS42に進める。
[ステップS41]圧縮率決定部171は、静止画領域に対して割り当て可能なデータ量D2=Dを取得する。そして、処理をステップS42に進める。
【0107】
[ステップS42]動画領域符号化部172は、圧縮率決定部171が求めた動画用送信可能データ量D1に近付くように、上記ステップS31で取得した動画メッシュ群を符号化し、動画圧縮データを得る。また、静止画領域符号化部173は、圧縮率決定部171が求めた静止画用送信可能データ量D2に近付くように、上記ステップS31で取得した静止画メッシュ群を符号化し、静止画圧縮データを得る。なお、符号化部170は、動画圧縮データや静止画圧縮データに、符号化に用いたテーブル類(Motion JPEGであれば、量子化テーブルやハフマン符号化テーブル)および各メッシュの位置(画面上の座標など)を示す情報を含める。
【0108】
[ステップS43]符号化部170は、生成した動画圧縮データと静止画圧縮データとを送信部180に出力する。
このようにして、圧縮率決定部171は、画像データの静止画メッシュ数と動画メッシュ数との比によって、静止画領域と動画領域とに割り当てる送信データ量を算出する。ここで、画像データの静止画メッシュ数と動画メッシュ数との比は、静止画領域と動画領域との面積の比に相当するものである。そして、動画領域符号化部172および静止画領域符号化部173は、圧縮率決定部171が割り当てた各データ量に近くなるように動画メッシュ群および静止画メッシュ群の符号化を行う。
【0109】
具体的には、圧縮率決定部171は、例えば静止画メッシュ数X=300を取得する。また、例えば動画メッシュ数Y=100を取得する。このとき、動画メッシュ率Z=100/(300+100)=0.25となる。したがって、送信可能データD=28KB/fに対して、動画用送信可能データ量D1=28×0.25=7KB/fとなる。また、静止画用送信可能データ量D2=D−D1=21KB/fとなる。
【0110】
このため、動画領域符号化部172は、動画メッシュ群の符号化後データ量が7KBに近付くように符号化を行う。また、静止画領域符号化部173は、静止画メッシュ群の符号化後データ量が21KBに近付くように符号化を行う。例えば、Motion JPEG形式であれば、動画領域符号化部172は、動画メッシュ群の符号化後データ量が7KBを越えない最大のデータ量となるテーブル類(量子化テーブルやハフマン符号テーブル)を用いて符号化する。あるいは、動画領域符号化部172は、動画メッシュ群の符号化後データ量が、7KBに最も近くなるテーブル類を用いて符号化する。静止画領域符号化部173も同様にして、静止画メッシュ群の符号化を行う。
【0111】
なお、圧縮率決定部171は、動画メッシュ率Zに注目させたい領域に応じた所定の係数を乗算(あるいは加減)して、動画用送信可能データ量D1と静止画用送信可能データ量D2との比を変更することも考えられる。例えば、上記具体例において、動画領域の画質を向上させたい場合、動画メッシュ率Zに係数2を乗算してZ=0.5とし、動画用送信可能データ量D1=14KB/f、静止画用送信可能データ量D2=14KB/fとすることも考えられる。また、静止画領域の画質を向上させたい場合、動画メッシュ率Zに係数0.5を乗算して、Z=0.25とし、D1=3.5KB/f、D2=24.5KB/fとすることも考えられる。また、通信帯域の空き状況に応じて、動的に動画メッシュ率Zに乗ずる係数を変更することも考えられる。
【0112】
次に、表示装置200における動画圧縮データおよび静止画圧縮データの受信処理を説明する。
図13は、第2の実施の形態の画像データの受信処理を示すフローチャートである。以下、図13に示す処理をフローチャートのステップ番号に沿って説明する。
【0113】
[ステップS51]受信部210は、コンピュータ100から圧縮データを受信する。受信部210は受信した圧縮データを復号部220に出力する。
[ステップS52]復号部220は、受信部210から取得した圧縮データに含まれる動画圧縮データまたは静止画圧縮データを復号する。動画領域復号部221は、動画圧縮データに含まれる量子化テーブルや符号テーブルにより、動画圧縮データを復号し、動画領域の復号画像データを得る。静止画領域復号部222は、静止画圧縮データに含まれる量子化テーブルや符号テーブルにより、静止画圧縮データを復号し、静止画領域の復号画像データを得る。復号部220は、動画領域または静止画領域の復号画像データを出力処理部230に出力する。
【0114】
[ステップS53]出力処理部230は、復号部220から取得した動画領域または静止画領域の復号画像データに含まれるメッシュを合成する。出力処理部230は、動画圧縮データや静止画圧縮データに含まれる各メッシュの位置を示す情報に基づいて、動画圧縮領域の復号画像データと静止画領域の復号画像データとを適正に合成することができる。なお、出力処理部230は、今回更新されなかった静止画メッシュに関しては、前回までに取得している静止画メッシュの画像を引き続き用いて合成を行う。
【0115】
[ステップS54]出力処理部230は、上記ステップS53の合成により得た復号画像を投影部205に出力し、スクリーン20に投影させる。
このようにして、復号部220は、コンピュータ100から受信した動画圧縮データと静止画圧縮データとを復号する。出力処理部230は、復号により得られた動画領域の復号画像データと静止画領域の復号画像データとを合成して、投影部205によりスクリーン20に投影させる。
【0116】
次に、本表示システムにおいて、通信環境の設定を変更する場合の処理手順を説明する。
図14は、第2の実施の形態の環境の設定変更処理を示すフローチャートである。以下、図14に示す処理をフローチャートのステップ番号に沿って説明する。
【0117】
[ステップS61]通信帯域監視部190は、送信部180および受信部185による通信状況を監視し、通信帯域の変化の有無を判定する。通信帯域が変化した場合、処理をステップS62に進める。通信帯域が変化していない場合、処理をステップS63に進める。
【0118】
[ステップS62]通信帯域監視部190は、制御情報記憶部110に記憶されたデータ出力制御テーブルを変更する。その際、現在の設定に対応する現設定フラグを“1”から“0”に変更する。そして、変更後の新たなデータ出力制御テーブルの該当のフレームレートに対応する現設定フラグを“0”から“1”に変更する。
【0119】
[ステップS63]フレームレート設定受付部195は、ユーザによるフレームレートの設定変更を受け付けたか否かを判定する。フレームレートの設定変更を受け付けた場合、処理をステップS64に進める。フレームレートの設定変更を受け付けていない場合、処理をステップS65に進める。
【0120】
[ステップS64]フレームレート設定受付部195は、制御情報記憶部110に記憶されたデータ出力制御テーブルの現在の設定に対応する現設定フラグを“1”から“0”に変更する。そして、フレームレート設定受付部195は、設定変更後の新たなフレームレートに対応する現設定フラグを“0”から“1”に変更する。
【0121】
[ステップS65]受信部185は、表示装置200から新たなフレームレートの情報を受信したか否かを判定する。新たなフレームレートの情報を受信した場合、処理をステップS66に進める。新たなフレームレートの情報を受信していない場合、処理を完了する。
【0122】
[ステップS66]受信部185は、制御情報記憶部110に記憶されたデータ出力制御テーブル111の現在の設定に対応する現設定フラグを“1”から“0”に変更する。そして、受信部185は、設定変更後の新たなフレームレートに対応する現設定フラグを“0”から“1”に変更する。
【0123】
このようにして、受信部185およびフレームレート設定受付部195は、現在の通信環境に応じた設定を制御情報記憶部110に記憶されたデータ出力制御テーブル111,112,113,・・・に反映することができる。
【0124】
これにより、符号化部170は、現在の通信環境に対して最適な圧縮率で符号化を行うことが可能となる。
次に、コンピュータ100による画像データの送信方法を更に具体的に説明する。以下の説明では、静止画領域の分割数として3が設定されているものとする。
【0125】
図15は、第2の実施の形態の画像データの送信方法の第1の具体例を示す図である。以下、図15に示す処理をステップ番号に沿って説明する。なお、ステップST1は、コンピュータ100が表示装置200へ送信する最初のフレームの処理タイミングである。ステップST2は、ステップST1の次のフレームの処理タイミングである。ステップST3は、ステップST2の次のフレームの処理タイミングである。
【0126】
[ステップST1]領域判定部150は、画像300の全体を動画領域とする。送信領域特定部160は、画像データ300の全体を送信領域と特定する。符号化部170は、画像データ300の全体を符号化し、動画圧縮データを生成する。送信部180は、符号化部170が生成した動画圧縮データを表示装置200に送信する。この場合、表示装置200は、動画圧縮データを復号して、画像データ300の全体に対する復号画像を表示する。
【0127】
[ステップST2]領域判定部150は、画像データ300aの各メッシュと画像データ300の対応する各メッシュとの間の変化から静止画領域311および動画領域321を判定する。送信領域特定部160は、静止画領域311のうち、静止画領域311のメッシュ数を3分割したメッシュ数を含む一部領域311aを送信対象の領域と特定する。また、送信領域特定部160は、動画領域321を送信対象の領域と特定する。符号化部170は、一部領域311aのメッシュを符号化し、静止画圧縮データを生成する。また、符号化部170は、動画領域321のメッシュを符号化し、動画圧縮データを生成する。送信部180は、符号化部170が生成した静止画圧縮データと動画圧縮データとを表示装置200に送信する。
【0128】
この場合、表示装置200は、静止画圧縮データを復号して、一部領域311aの復号画像データを得る。また、表示装置200は、動画圧縮データを復号して動画領域321の復号画像データを得る。表示装置200は、これらの復号画像データを合成して画像データ300aに対する復号画像を表示する。ただし、静止画領域311のうち、一部領域311a以外の領域である一部領域311bでは、ステップST1で取得した復号画像を継続して表示する。この場合、一部領域311aの画質は、一部領域311bおよび動画領域321に比べて高品位となる。
【0129】
[ステップST3]領域判定部150は、画像データ300bの各メッシュと画像データ300aの対応する各メッシュとの間の変化から静止画領域312および動画領域322を判定する。送信領域特定部160は、静止画領域312のうち、一部領域312aを送信対象の領域と特定する。また、送信領域特定部160は、動画領域322を送信対象の領域と特定する。符号化部170は、一部領域312aのメッシュを符号化し、静止画圧縮データを生成する。また、符号化部170は、動画領域322のメッシュを符号化し、動画圧縮データを生成する。送信部180は、符号化部170が生成した静止画圧縮データと動画圧縮データとを表示装置200に送信する。
【0130】
この場合、表示装置200は、静止画圧縮データを復号して、一部領域312aの復号画像データを得る。また、表示装置200は、動画圧縮データを復号して動画領域322の復号画像データを得る。表示装置200は、これらの復号画像データを合成して画像データ300bに対する復号画像を表示する。ただし、静止画領域312のうち、ステップST2で送信済みの一部領域312bでは、ステップST2で取得した復号画像を継続して表示する。また、静止画領域312のうち、一部領域312a,312b以外の領域である一部領域312cでは、ステップST1で取得した復号画像を継続して表示する。この場合、一部領域312a,312bの画質は、一部領域312cおよび動画領域322に比べて高品位となる。
【0131】
このように、コンピュータ100は、静止画領域を複数の領域に分割し、異なるタイミングで送信することで、静止画領域部分の画質を向上させることができる。
次に、コンピュータ100が各タイミングにおいて符号化、送信する各領域のデータを更に詳細に説明する。
【0132】
図16は、第2の実施の形態の各領域の画像データの送信方法の第2の具体例を示す図である。以下、図16に示す処理をステップ番号に沿って説明する。なお、図16のステップST1〜ST3は、図15のステップST1〜ST3に対応する。また、原画像のうち3つに分割した領域を領域R1,R2,R3と表記する。なお、領域R1,R2,R3は、初回フレームより後には、静止画領域として特定される領域であるとする。また、原画像のうち初回フレーム以降も継続して動画領域として特定される領域を動画領域Mと表記する。
【0133】
[ステップST1]コンピュータ100は、画像データのうち、領域R1,R2,R3および動画領域Mのメッシュを符号化して動画圧縮データR11,R21,R31,M11を生成し、表示装置200に送信する。なお、動画圧縮データR11,R21,R31,M11は、特に分割されていなくてもよい。
【0134】
[ステップST2]コンピュータ100は、画像データのうち、領域R1のメッシュを符号化して静止画圧縮データR12を生成し、表示装置200に送信する。また、コンピュータ100は、動画領域Mのメッシュを符号化して、動画圧縮データM12を生成し、表示装置200に送信する。ここで、コンピュータ100は、静止画領域R1に割り当て可能な送信データ量として、ステップST1で領域R2,R3に利用していた分を利用できるので、領域R1を動画領域Mよりも低い圧縮率で符号化することができる。
【0135】
[ステップST3]コンピュータ100は、画像データのうち、領域R2のメッシュを符号化して静止画圧縮データR22を生成し、表示装置200に送信する。また、コンピュータ100は、動画領域Mのメッシュを符号化して、動画圧縮データM13を生成し、表示装置200に送信する。コンピュータ100は、ステップST2と同様に領域R2を動画領域Mよりも低い圧縮率で符号化することができる。
【0136】
[ステップST4]コンピュータ100は、画像データのうち、領域R3のメッシュを符号化して静止画圧縮データR32を生成し、表示装置200に送信する。また、コンピュータ100は、動画領域Mのメッシュを符号化して、動画圧縮データM14を生成し、表示装置200に送信する。コンピュータ100は、ステップST2と同様に領域R3を動画領域Mよりも低い圧縮率で符号化することができる。
【0137】
[ステップST5]コンピュータ100は、画像データのうち、動画領域Mのメッシュを符号化して動画圧縮データM15を生成し、表示装置200に送信する。領域R1,R2,R3に関して既に高品位画像を送信済みであるので、コンピュータ100は、静止画領域の画像データ送信は行わない。
【0138】
[ステップST6]コンピュータ100は、画像データのうち、動画領域Mのメッシュを符号化して動画圧縮データM16を生成し、表示装置200に送信する。領域R1,R2,R3に関して既に高品位画像を送信済みであるので、コンピュータ100は、静止画領域の画像データ送信は行わない。
【0139】
[ステップST7]コンピュータ100は、画像データのうち、動画領域Mのメッシュを符号化して動画圧縮データM17を生成し、表示装置200に送信する。領域R1,R2,R3に関して既に高品位画像を送信済みであるので、コンピュータ100は、静止画領域の画像データ送信は行わない。以降、同様にして動画領域Mの画像データ送信のみが行われる。
【0140】
このように、コンピュータ100は、画像データに含まれるメッシュの時間変化に基づいて、画像データを静止画領域と動画領域とに区分する。そして、コンピュータ100は、静止画メッシュの送信回数を動画メッシュの送信回数よりも少なくする。
【0141】
これにより、ネットワークの伝送容量を効率的に利用して画像データを送信することが可能となる。
なお、上記ステップST7以降、領域R1,R2,R3のメッシュは、変化を検出するまで更新が行われない。ただし、ステップST7以降の所定のタイミングで領域R1,R2,R3の画像を適宜更新するようにしてもよい。
【0142】
また、静止画領域を複数の領域に分割して、異なるタイミングで送信することで、単位面積当たりに割り当て可能な送信データ量を動画領域よりも多く割り当てることができる。
【0143】
これにより、静止画領域の画質を動画領域の画質に比べて高品位とすることができる。その結果、表示装置200によりスクリーン20に表示される画像の見易さを向上することができる。
【0144】
[第3の実施の形態]
次に、第3の実施の形態について説明する。前述の第2の実施の形態との相違点を中心に説明し、同様の事項については説明を省略する。
【0145】
ここで、第2の実施の形態の表示システムでは、静止画領域と動画領域との境界に位置するメッシュは、動画領域と判定されるので、その境界のメッシュの画質は静止画領域よりも低下する。すなわち、境界部分に含まれる静止画の画質が低下することになる。このため、静止画領域と動画領域との境界が際立って、画像が見難くなってしまう。また、例えば、動画像付近に配置されたインタフェース(例えば、動画操作用のインタフェース)を閲覧させたい場合など、注目する箇所が動画領域に隣接していると、その画像が見難くなってしまう。
【0146】
これに対し、第3の実施の形態では、第2の実施の形態で説明した静止画領域と動画領域との境界に位置する第3のメッシュ(境界メッシュ)を導入する。これによって、表示装置200が表示する画像の見易さをより向上する。
【0147】
なお、第3の実施の形態の表示システムの全体構成は、図2で説明した第2の実施の形態の表示システムの全体構成と同一であるため、説明を省略する。また、第3の実施の形態の表示システムに含まれるコンピュータおよび表示装置のハードウェア構成は、図3,4で示した第2の実施の形態のコンピュータ100および表示装置200のハードウェア構成と同一であるため、説明を省略する。
【0148】
図17は、第3の実施の形態の各装置の機能構成を示す図である。コンピュータ100aは、制御情報記憶部110、メッシュ記憶部120、メッシュ管理情報記憶部130a、メッシュ生成部140、変化検出部145、領域判定部150a、送信領域特定部160、符号化部170a、送信部180、受信部185、通信帯域監視部190およびフレームレート設定受付部195を有する。これらの機能はCPU101が画像処理プログラムを実行することで実現される。ただし、これらの機能の一部または全部を専用のハードウェアで実現してもよい。
【0149】
なお、制御情報記憶部110、メッシュ記憶部120、メッシュ生成部140、変化検出部145、送信領域特定部160、送信部180、受信部185、通信帯域監視部190およびフレームレート設定受付部195に関しては、図5で同一の符号を付して説明した構成と同一であるため説明を省略する。また、表示装置200の構成も図5で説明した構成と同一であるため説明を省略する。
【0150】
メッシュ管理情報記憶部130aは、画像内におけるメッシュの位置や、動画、静止画および境界領域の区分などを含むメッシュ管理情報を記憶する。なお、境界領域とは、動画メッシュと静止画メッシュとで隣接している2つのメッシュのうち、動画に区分されるメッシュの集合をいう。
【0151】
領域判定部150aは、変化検出部145の変化の検出結果に基づいて、画像データに含まれる各メッシュを動画領域、静止画領域および境界領域に区分する。具体的には、変化検出部145が変化ありと検出した領域を動画領域と特定する。また、変化検出部145が変化なしと検出した領域を静止画領域と特定する。更に、領域判定部150aは、動画領域と静止画領域とが接する境界に位置するメッシュのうち、動画領域と区分した方のメッシュを境界メッシュとする。境界メッシュの集合が境界領域である。領域判定部150aは、このようにして特定した各メッシュの動画、静止画および境界メッシュの区分に基づいてメッシュ管理情報を生成し、メッシュ管理情報記憶部130aに格納する。
【0152】
符号化部170aは、送信領域特定部160が特定した送信領域のメッシュを順番に符号化してデータ量を削減する(圧縮)。符号化部170aは、圧縮率決定部171a、動画領域符号化部172aおよび静止画領域符号化部173を有する。なお、静止画領域符号化部173は、図5で説明した静止画領域符号化部173と同一である。
【0153】
圧縮率決定部171aは、動画メッシュ群、静止画メッシュ群および境界メッシュ群の符号化後データ量を決定する。圧縮率決定部171aは、動画メッシュの圧縮率よりも静止画メッシュの圧縮率を低く設定する。また、圧縮率決定部171aは、境界メッシュの圧縮率が、動画メッシュに対する圧縮率よりも低く、静止画メッシュに対する圧縮率よりも高くなるよう決定する。
【0154】
動画領域符号化部172aは、圧縮率決定部171aが決定した動画メッシュ群の符号化後データ量に近くなるように送信領域内の動画メッシュを符号化する。また、動画領域符号化部172aは、圧縮率決定部171aが決定した境界メッシュ群の符号化後データ量に近くなるように送信領域内の境界メッシュを符号化する。
【0155】
動画領域符号化部172aは、符号化して生成した動画圧縮データおよび境界圧縮データを送信部180に出力する。
なお、符号化部170aは、表示装置200で画像を再生する際の情報を、各圧縮データに含める。このような情報は、例えばMotion JPEG形式で符号化を行う場合、量子化に用いた量子化テーブル、ハフマン符号化に用いたハフマン符号テーブルおよび各メッシュの位置(画面上の座標など)を示す情報である。
【0156】
図18は、第3の実施の形態のメッシュ管理テーブルのデータ構造例を示す図である。メッシュ管理テーブル131aは、メッシュ管理情報記憶部130aに格納される。メッシュ管理テーブル131aには、メッシュ座標を示す項目、動画領域フラグを示す項目および境界フラグを示す項目および高品位画像送信済フラグを示す項目が設けられる。各項目の横方向に並べられた情報同士が互いに関連付けられて、1つのメッシュに関する情報を示す。
【0157】
なお、メッシュ座標を示す項目、動画領域フラグを示す項目および高品位画像送信済フラグを示す項目は、図8で説明したメッシュ管理テーブル131の同一名称の各項目と同一である。
【0158】
境界フラグを示す項目には、該当のメッシュが境界メッシュであるか否かを示すフラグが設定される。境界フラグを示す項目には、該当のメッシュが境界メッシュである場合は“1”が設定され、境界メッシュでない場合には“0”が設定される。境界メッシュは、動画領域に属するメッシュから特定されるので、静止画領域に属するメッシュに対しては、対象外であることを示す“−”が設定される。すなわち、動画領域フラグが“1”かつ境界フラグが“0”である場合、そのメッシュは動画メッシュである。また、動画領域フラグが“1”かつ境界フラグが“1”である場合、そのメッシュは境界メッシュである。
【0159】
メッシュ管理テーブル131aには、例えば、メッシュ座標が(x,y)=“(72,45)”であり、動画領域フラグが“1”、境界フラグが“1”、高品位画像送信済フラグが“−”という情報が設定される。これは、メッシュ座標(x,y)=“(72,45)”で指定されるメッシュが境界メッシュであり、高品位画像の送信対象外であることを示している。
【0160】
また、メッシュ管理テーブル131aには、例えば、メッシュ座標が(x,y)=“(73,45)”であり、動画領域フラグが“1”、境界フラグが“0”、高品位画像送信済フラグが“−”という情報が設定される。これは、メッシュ座標(x,y)=“(73,45)”で指定されるメッシュが動画メッシュであり、高品位画像の送信対象外であることを示している。
【0161】
次に、以上の構成により実現されるコンピュータ100aおよび表示装置200の処理手順に関して説明する。
なお、コンピュータ100aの画像データの送信処理の手順に関しては、図9で説明した手順と同様であるため説明を省略する。以下、コンピュータ100aの画像データの送信処理に含まれる各処理について詳細に説明する。
【0162】
図19は、第3の実施の形態の領域判定処理を示すフローチャートである。以下、図19に示す処理をフローチャートのステップ番号に沿って説明する。なお、以下の処理は、図9のステップS3の領域判定処理に対応する。
【0163】
[ステップS71]変化検出部145は、メッシュ記憶部120に記憶され、最新に入力された画像データに含まれていたメッシュのうちから1つのメッシュを抽出する。
[ステップS72]変化検出部145は、最新に入力された画像データの直前に入力された画像データに含まれていた直前メッシュのうち、ステップS71で抽出したメッシュと同一座標の直前メッシュを抽出する。変化検出部145は、ステップS71で抽出したメッシュに含まれる各画素の画素値と直前メッシュに含まれる対応する各画素の画素値とを比較することで、該当のメッシュの変化の有無を検出する。濃度に差のある画素が存在する場合、処理をステップS73に進める。画素値に差のある画素が存在しない場合、処理をステップS74に進める。
【0164】
[ステップS73]領域判定部150aは、該当のメッシュを動画領域とする。領域判定部150aは、メッシュ管理情報記憶部130aに記憶されたメッシュ管理テーブル131aの該当メッシュ座標に対応するメッシュの動画領域フラグに“1”を設定する。
【0165】
[ステップS74]領域判定部150aは、該当のメッシュを静止画領域とする。領域判定部150aは、メッシュ管理情報記憶部130aに記憶されたメッシュ管理テーブル131aの該当メッシュ座標に対応するメッシュの動画領域フラグに“0”を設定する。また、動画領域フラグ“1”から“0”へ新たに変更したメッシュに関して、領域判定部150aは、高品位画像送信済フラグに“0”を設定する。領域判定部150aは、動画領域フラグを“0”設定のまま維持するメッシュに関しては、高品位画像送信済フラグの設定を変更しない。
【0166】
[ステップS75]変化検出部145は、入力された画像データに含まれるメッシュに変化検出を行っていないメッシュが存在するか否かを判定する。変化検出を行っていないメッシュが存在する場合、処理をステップS71に進める。変化検出を行っていないメッシュが存在しない場合、処理をステップS76に進める。
【0167】
[ステップS76]領域判定部150aは、上記ステップS73で動画領域としたメッシュのうち、上記ステップS74で静止画領域としたメッシュと隣接するメッシュを抽出する。
【0168】
[ステップS77]領域判定部150aは、静止画領域のメッシュと隣接する動画領域のメッシュを境界メッシュとする。すなわち、領域判定部150aは、該当のメッシュについて、メッシュ管理情報記憶部130aに記憶されたメッシュ管理テーブル131aの境界フラグに“1”を設定する。また、境界メッシュ以外の動画領域のメッシュについては、境界フラグに“0”を設定する。
【0169】
このようにして、領域判定部150aは、静止画領域のメッシュと隣接する動画領域のメッシュを境界メッシュと設定する。
図20,21は、第3の実施の形態の符号化処理を示すフローチャートである。以下、図20,21に示す処理をフローチャートのステップ番号に沿って説明する。なお、以下の処理は、図9のステップS5の符号化処理に対応する。
【0170】
[ステップS81]符号化部170aは、送信領域特定部160が特定した送信対象のメッシュ群(静止画メッシュ群、静止画メッシュ群および境界メッシュ群)を取得する。
[ステップS82]圧縮率決定部171aは、制御情報記憶部110に記憶されたデータ出力制御テーブル111,112,113,・・・の現設定フラグを参照して、現在の送信可能データ量Dを取得する。例えば、本表示システムの環境では、全帯域20Mbps、フレームレート30fpsの設定となっている。
【0171】
[ステップS83]圧縮率決定部171aは、メッシュ管理情報記憶部130aに記憶されたメッシュ管理テーブル131aを参照して、静止画領域のメッシュ数Xを取得する。
【0172】
[ステップS84]圧縮率決定部171aは、メッシュ管理テーブル131aを参照して、動画領域のメッシュ数Yを取得する。ここで、動画領域のメッシュ数Yには、動画メッシュ数および境界メッシュ数が含まれる。
【0173】
[ステップS85]圧縮率決定部171aは、動画領域のメッシュのうち、境界メッシュ数Kを取得する。
[ステップS86]圧縮率決定部171aは、境界メッシュの品質向上係数aを特定する。ここで、品質向上係数g(>1)は、動画メッシュに比べてどの程度だけ送信データ量を多めに割り当てるかを示す係数である。品質向上係数gは、例えば制御情報記憶部110に予め設定される。
【0174】
[ステップS87]圧縮率決定部171aは、動画メッシュ率Za=(Y−K)/(X+Y)を算出する。
[ステップS88]圧縮率決定部171aは、境界メッシュ率Zb=gK/(X+Y)を算出する。
【0175】
[ステップS89]圧縮率決定部171aは、上記ステップS81で取得したメッシュ群に静止画メッシュ群と動画メッシュ群とが混在しているか否かを判定する。混在している場合、処理をステップS90に進める。混在していない場合、処理をステップS93に進める。
【0176】
[ステップS90]圧縮率決定部171aは、動画メッシュ群に対して割り当て可能なデータ量D1a=D×Zaを算出する。
[ステップS91]圧縮率決定部171aは、境界メッシュ群に対して割り当て可能なデータ量D1b=D×Zbを算出する。
【0177】
[ステップS92]圧縮率決定部171aは、静止画メッシュ群に対して割り当て可能なデータ量D2=D−D1a−D1bを算出する。そして、処理をステップS96に進める。
【0178】
[ステップS93]圧縮率決定部171aは、上記ステップS81で取得したメッシュ群に動画メッシュ群のみが含まれているか否かを判定する。動画メッシュ群のみの場合、処理をステップS94に進める。動画メッシュ群のみでない、すなわち、静止画メッシュ群のみである場合、処理をステップS95に進める。
【0179】
[ステップS94]圧縮率決定部171aは、動画メッシュ群に対して割り当て可能なデータ量D1=Dを取得する。そして、処理をステップS96に進める。
[ステップS95]圧縮率決定部171aは、静止画メッシュ群に対して割り当て可能なデータ量D2=Dを取得する。そして、処理をステップS96に進める。
【0180】
[ステップS96]動画領域符号化部172aは圧縮率決定部171aが求めた動画用送信可能データ量D1aに近付くように、上記ステップS81で取得した動画メッシュ群を符号化し、動画圧縮データを得る。また、動画領域符号化部172aは、圧縮率決定部171aが求めた境界用送信可能データ量D1bに近付くように、上記ステップS31で取得した境界メッシュ群を符号化し、境界圧縮データを得る。また、静止画領域符号化部173は、圧縮率決定部171aが求めた静止画用送信可能データ量D2に近付くように、上記ステップS81で取得した静止画メッシュ群を符号化し、静止画圧縮データを得る。なお、符号化部170aは、動画圧縮データ、境界圧縮データおよび静止画圧縮データに、符号化に用いたテーブル類(Motion JPEGであれば、量子化テーブルやハフマン符号化テーブル)および各メッシュの位置(画面上の座標など)を示す情報を含める。
【0181】
[ステップS97]符号化部170aは、生成した動画圧縮データ、境界圧縮データおよび静止画圧縮データを送信部180に出力する。
このようにして、圧縮率決定部171aは、画像データの静止画メッシュ数、動画メッシュ数および境界メッシュ数の比によって、静止画領域と動画領域とに割り当てる送信データ量を算出する。ここで、境界メッシュには、動画メッシュよりも多くのデータ帯域を割り当てて品質を向上する。このため、境界メッシュ数に品質向上係数g(>1)を乗じたもので、静止画メッシュ数および動画メッシュ数との比を取って、境界メッシュ群の送信可能データ量を算出する。
【0182】
図22は、第3の実施の形態の画像の各領域を示す図である。画像データ300は、静止画領域310および動画領域320を有する。また、動画領域320には、境界領域340が含まれる。
【0183】
境界領域340は、上述したように動画領域320に含まれるメッシュのうち、静止画領域310と隣接するメッシュの集合である。
圧縮率決定部171aは、境界領域340に含まれる境界メッシュ群につき単位面積当たりに割り当てる送信データ量が、動画領域320に含まれる動画メッシュ群(動画領域320に含まれるメッシュ群から境界メッシュ群を除いたメッシュ群)につき単位面積当たりに割り当てる送信データ量よりも多くなるようにする。
【0184】
これにより、第2の実施の形態と同様の効果を得ることができる。また、境界領域340の画質を、動画領域320のうち境界領域340以外の領域よりも向上することができる。その結果、静止画領域310と動画領域320との境界部分での画質の急激な変化が抑えられることになる。このため、表示装置200は、閲覧者に与える違和感を抑えた、より見易い画像の表示が可能となる。
【0185】
また、表示する画像中の注目する箇所が動画領域320に隣接した静止画領域310内の静止画像である場合にも、その画像の品質の劣化を抑えることができ、より見易い画像の表示が可能となる。
【0186】
[第4の実施の形態]
次に、第4の実施の形態について説明する。前述の第2,3の実施の形態との相違点を中心に説明し、同様の事項については説明を省略する。
【0187】
ここで、第2,3の実施の形態の表示システムでは、動画領域を移動させる場合、動画領域の背後に存在していた静止画領域を新たに表示することになる。この場合、移動に係る領域に閲覧者の注意が向き易くなる。
【0188】
これに対し、第4の実施の形態の表示システムでは、動画領域から静止画領域に切り替わったメッシュについて、優先的に高品位画像の送信を行うようにする。これにより、動画領域の移動に係る領域の見易さを向上する。
【0189】
なお、第4の実施の形態の表示システムの全体構成は、図2で示した第2の実施の形態の表示システムの全体構成と同一であるため、説明を省略する。また、第4の実施の形態の表示システムに含まれるコンピュータおよび表示装置のハードウェア構成は、図3,4で示した第2の実施の形態のコンピュータ100および表示装置200のハードウェア構成と同一であるため、説明を省略する。
【0190】
図23は、第4の実施の形態の各装置の機能構成を示す図である。コンピュータ100bは、制御情報記憶部110、メッシュ記憶部120、メッシュ管理情報記憶部130b、メッシュ生成部140、変化検出部145、領域判定部150b、送信領域特定部160b、符号化部170、送信部180、受信部185、通信帯域監視部190およびフレームレート設定受付部195を有する。これらの機能はCPU101が画像処理プログラムを実行することで実現される。ただし、これらの機能の一部または全部を専用のハードウェアで実現してもよい。
【0191】
なお、制御情報記憶部110、メッシュ記憶部120、メッシュ生成部140、変化検出部145、符号化部170、送信部180、受信部185、通信帯域監視部190およびフレームレート設定受付部195に関しては、図5で同一の符号を付して説明した構成と同一であるため説明を省略する。また、表示装置200の構成も図5で説明した構成と同一であるため説明を省略する。
【0192】
メッシュ管理情報記憶部130bは、画像内におけるメッシュの位置や、動画、静止画の区分、動画、静止画の各状態がどれだけの時間継続したかを示す継続フレーム数などを含むメッシュ管理情報を記憶する。
【0193】
領域判定部150bは、変化検出部145の変化の検出結果に基づいて、画像データに含まれる各メッシュを動画領域および静止画領域に区分する。具体的には、変化検出部145が変化ありと検出した領域を動画領域と特定する。また、変化検出部145が変化なしと検出した領域を静止画領域と特定する。更に、領域判定部150bは、該当のメッシュについて、同一区分の領域として継続して特定したフレームの数(継続フレーム数)をカウントする。なお、領域判定部150bは、該当のメッシュの領域の区分が変更した場合には、カウントをリセットして、再度1からカウントしなおす。領域判定部150bは、このようにして特定した各メッシュの動画および静止画の区分や継続フレーム数の情報に基づいて、メッシュ管理情報を生成し、メッシュ管理情報記憶部130bに格納する。
【0194】
送信領域特定部160bは、メッシュ管理情報記憶部130bに記憶されたメッシュ管理情報に基づいて、表示装置200に送信する領域(送信領域)を特定する。送信領域特定部160bは、動画領域について、その全部を送信領域と特定する。
【0195】
また、送信領域特定部160bは、静止画領域について、その一部を送信領域と特定する。すなわち、送信領域特定部160bは、静止画領域を更に分割し、分割した領域を複数のタイミングで送信領域として順次特定する。このようにすることで、静止画領域の単位面積当たりの送信データ量を動画領域の単位面積当たりの送信データ量よりも多く割り当てることができる。すなわち、後段の符号化に伴う圧縮率を制御して、静止画領域の画質を動画領域の画質よりも向上させることができる。
【0196】
更に、送信領域特定部160bは、メッシュ管理情報に基づいて、送信領域の選択方法を変更する。具体的には、送信領域特定部160bは、動画領域から静止画領域に切り替わったメッシュに関して優先的に送信領域と特定する。
【0197】
図24は、第4の実施の形態のメッシュ管理テーブルのデータ構造例を示す図である。メッシュ管理テーブル131bは、メッシュ管理情報記憶部130bに格納される。メッシュ管理テーブル131bには、メッシュ座標を示す項目、動画領域フラグを示す項目、高品位画像送信済フラグを示す項目および継続フレーム数を示す項目が設けられている。各項目の横方向に並べられた情報同士が互いに関連付けられて、1つのメッシュに関する情報を示す。
【0198】
なお、メッシュ座標を示す項目、動画領域フラグを示す項目および高品位画像送信済フラグを示す項目は、図8で説明したメッシュ管理テーブル131の同一名称の各項目と同一である。
【0199】
継続フレーム数を示す項目には、該当のメッシュが、動画領域または静止画領域として、継続して特定されたフレームの数が設定される。
メッシュ管理テーブル131bには、例えば、メッシュ座標が(x,y)=“(1,1)”、動画領域フラグが“0”、高品位画像送信済フラグが“1”、継続フレーム数が“10”という情報が設定される。これは、メッシュ座標(x,y)=“(1,1)”で指定されるメッシュが静止画メッシュであり、高品位画像を送信済みで、静止画メッシュの状態が“10”フレーム継続していることを示している。
【0200】
また、メッシュ管理テーブル131bには、例えば、メッシュ座標が(x,y)=“(51,31)”、動画領域フラグが“0”、高品位画像送信済フラグが“0”、継続フレーム数が“10”という情報が設定される。これは、メッシュ座標(x,y)=“(51,31)”で指定されるメッシュが静止画メッシュであり、高品位画像を未送信で、静止画メッシュの状態が“10”フレーム継続していることを示している。
【0201】
また、メッシュ管理テーブル131bには、例えば、メッシュ座標が(x,y)=“(70,45)”、動画領域フラグが“0”、高品位画像送信済フラグが“1”、継続フレーム数が“2”という情報が設定される。これは、メッシュ座標(x,y)=“(70,45)”で指定されるメッシュが静止画メッシュであり、高品位画像を送信済みで、静止画メッシュの状態が“2”フレーム継続していることを示している。
【0202】
また、メッシュ管理テーブル131bには、例えば、メッシュ座標が(x,y)=“(72,45)”、動画領域フラグが“0”、高品位画像送信済フラグが“0”、継続フレーム数が“1”という情報が設定される。これは、メッシュ座標(x,y)=“(72,45)”で指定されるメッシュが静止画メッシュであり、高品位画像を未送信で、静止画メッシュの状態が“1”フレーム継続、すなわち、動画メッシュから静止画メッシュに切り替わった直後であることを示している。
【0203】
また、メッシュ管理テーブル131bには、例えば、メッシュ座標が(x,y)=“(73,45)”、動画領域フラグが“1”、高品位画像送信済フラグが“−”、継続フレーム数が“10”という情報が設定される。これは、メッシュ座標(x,y)=“(73,45)”で指定されるメッシュが動画メッシュであり、高品位画像の送信対象外で、動画メッシュの状態が“1”フレーム継続、すなわち、静止画メッシュから動画メッシュに切り替わった直後であることを示している。
【0204】
次に、以上の構成により実現されるコンピュータ100bおよび表示装置200の処理手順に関して説明する。
なお、コンピュータ100bの画像データの送信処理の手順に関しては、図9で説明した手順と同様であるため説明を省略する。以下、コンピュータ100bの画像データの送信処理に含まれる各処理について詳細に説明する。
【0205】
図25は、第4の実施の形態の送信領域特定処理を示すフローチャートである。以下、図25に示す処理をフローチャートのステップ番号に沿って説明する。
[ステップS101]送信領域特定部160bは、メッシュ管理情報記憶部130bに記憶されたメッシュ管理テーブル131bの動画領域フラグを参照して、今回送信対象の画像データに静止画領域が含まれているか否かを判定する。静止画領域が含まれている場合、処理をステップS102に進める。静止画領域が含まれていない場合、処理をステップS107に進める。
【0206】
[ステップS102]送信領域特定部160bは、メッシュ管理テーブル131bの高品位画像送信済フラグを参照して、静止画メッシュのうち、高品位画像を未送信のメッシュが存在するか否かを判定する。高品位画像を未送信のメッシュが存在する場合、処理をステップS103に進める。高品位画像を未送信のメッシュが存在しない場合、処理をステップS107に進める。
【0207】
[ステップS103]送信領域特定部160bは、静止画領域の分割数を特定する。静止画領域の分割数は、利用環境に応じて、例えば、メッシュ管理情報記憶部130bに予め記憶される。送信領域特定部160bは、特定した分割数に基づいて、送信する静止画領域の送信メッシュ数を算出する。
【0208】
[ステップS104]送信領域特定部160bは、メッシュ管理テーブル131bを参照して、動画領域フラグが“0”かつ継続フレーム数が“1”であるメッシュ、すなわち、動画メッシュから静止画メッシュに切り替わった直後のメッシュが存在するか否かを判定する。存在する場合、処理をステップS105に進める。存在しない場合、処理をステップS106に進める。
【0209】
[ステップS105]送信領域特定部160bは、静止画領域の送信対象メッシュとして、動画メッシュから静止画メッシュに切り替わった直後のメッシュ(継続フレーム数“1”)で高品位画像を未送信のメッシュを抽出する。
【0210】
[ステップS106]送信領域特定部160bは、メッシュ管理テーブル131bを参照して、高品位画像を未送信のメッシュのうち、ステップS103で算出した送信メッシュ数分のメッシュを抽出する。なお、ステップS105で動画メッシュから静止画メッシュに切り替わった直後のメッシュを抽出済みである場合には、残りの送信メッシュ数分を抽出する。送信領域特定部160bは、メッシュ管理テーブル131bの高品位画像送信済フラグを更新する。すなわち、今回送信対象として抽出した静止画メッシュに設定された高品位画像送信済フラグ“0”を“1”に変更する。送信領域特定部160bは、抽出した静止画メッシュ群を符号化部170に出力する。
【0211】
[ステップS107]送信領域特定部160bは、メッシュ管理テーブル131bの動画領域フラグを参照して、今回送信対象の画像データに動画領域が含まれているか否かを判定する。動画領域が含まれている場合、処理をステップS108に進める。動画領域が含まれていない場合、処理を完了する。
【0212】
[ステップS108]送信領域特定部160bは、メッシュ管理テーブル131bを参照して、動画メッシュを抽出し、抽出した動画メッシュ群を送信対象の領域とする。送信領域特定部160は、抽出した動画メッシュ群を符号化部170に出力する。
【0213】
このようにして、送信領域特定部160bは、動画メッシュから静止画メッシュに切り替わった直後のメッシュを優先的に抽出して、表示装置200への送信対象とする。
なお、上記ステップS101〜S106に示した静止画領域に対する処理および上記ステップS107,S108に示した動画領域に対する処理は、順序を逆にしてもよい。例えば、送信領域特定部160bは、動画領域に対する処理(ステップS107,S108)を先に実行した後、静止画領域に対する処理(ステップS101〜S106)を行うことも考えられる。
【0214】
図26は、第4の実施の形態の画像データの送信方法の具体例を示す図である。以下、図26に示す処理をステップ番号に沿って説明する。なお、図26の各ステップでは、画像を構成するメッシュに、その継続フレーム数を図示している。また、ステップST11は、コンピュータ100bが表示装置200への最初のフレームの送信タイミングである。ステップST12は、ステップST11の次のフレームの送信タイミングである。以降、ステップST13,ST14に関しても同様である。
【0215】
[ステップST11]コンピュータ100bは、画像400の全体を動画領域として符号化し、表示装置200に送信する。このとき、全メッシュが新たに動画領域として特定されることになるので、全メッシュの継続フレーム数は“1”となる。
【0216】
[ステップST12]コンピュータ100bは、各メッシュの変化から、静止画領域410および動画領域420を特定する。そして、静止画領域410のうち、一部領域411を符号化し、表示装置200に送信する。また、動画領域420の全体を符号化し、表示装置200に送信する。一部領域411は、動画領域420よりも高品位の画像となる。なお、静止画領域410のうち、一部領域411以外の領域に関しては、表示装置200は、ステップST11で受信した画像データを引き続き表示する。
【0217】
[ステップST13]コンピュータ100bは、上記ステップST12の動画領域420が動画領域421の位置へ変更されたことを検知する。このとき、一部領域422は、動画領域として検出される。コンピュータ100bは、静止画領域のうち一部領域412を符号化し、表示装置200に送信する。また、動画領域421および一部領域422の全体を符号化し、表示装置200に送信する。一部領域412は、動画領域421および一部領域422よりも高品位の画像となる。なお、一部領域411に関しては、表示装置200は、ステップST12で受信した画像データを引き続き表示する。また、静止画領域のうち、一部領域411,412以外の領域については、表示装置200は、ステップS11で受信した画像データを引き続き表示する。
【0218】
[ステップST14]コンピュータ100bは、上記ステップST12の動画領域421が動画領域423の位置へ変更されたことを検知する。このとき、一部領域424は、動画領域と特定される。また、一部領域415は、一部領域422からの変化がないため、静止画領域と特定される。コンピュータ100bは、静止画領域のうち一部領域414,415を符号化し、表示装置200に送信する。また、動画領域423および一部領域424を符号化し、表示装置200に送信する。一部領域414,415は、動画領域423および一部領域424よりも高品位の画像になる。なお、一部領域413に関しては、表示装置200は、ステップST12,ST13で受信した画像データを引き続き表示する。また、静止画領域のうち、一部領域413,414,415以外の領域については、表示装置200は、ステップST11で受信した画像データを引き続き表示する。
【0219】
このように、コンピュータ100bは、動画領域が移動に伴って、動画領域から静止画領域に切り替わった領域(上記の例では、一部領域415)のメッシュについて、優先的に送信対象とする。
【0220】
これにより、第2の実施の形態と同様の効果を得ることができる。また、動画領域の移動に係る領域は、閲覧者の注意が向き易い。このため、このような領域に対して優先的に画質を高めることで、閲覧者に対して与え得る違和感を軽減し、見易さをより向上することができる。
【0221】
[第5の実施の形態]
次に、第5の実施の形態について説明する。前述の第2〜第4の実施の形態との相違点を中心に説明し、同様の事項については説明を省略する。
【0222】
ここで、第2〜第4の実施の形態の表示システムでは、その利用状況によっては、使用可能な帯域に余裕ができることも考えられる。このため、第5の実施の形態の表示システムでは、このような余剰の帯域を用いて、表示装置が表示する画像の見易さをより向上する。
【0223】
なお、第5の実施の形態の表示システムの全体構成は、図2で示した第2の実施の形態の表示システムの全体構成と同一であるため、説明を省略する。また、第5の実施の形態の表示システムに含まれるコンピュータおよび表示装置のハードウェア構成は、図3,4で示した第2の実施の形態のコンピュータ100および表示装置200のハードウェア構成と同一であるため、説明を省略する。
【0224】
図27は、第5の実施の形態の各装置の機能構成を示す図である。コンピュータ100cは、制御情報記憶部110c、メッシュ記憶部120、メッシュ管理情報記憶部130c、メッシュ生成部140、変化検出部145、領域判定部150c、送信領域特定部160c、符号化部170cを有する。これらの機能はCPU101が画像処理プログラムを実行することで実現される。ただし、これらの機能の一部または全部を専用のハードウェアで実現してもよい。なお、図27ではメッシュ管理情報記憶部130cと符号化部170cとの間の関連線は省略してある。
【0225】
また、メッシュ記憶部120、メッシュ生成部140、変化検出部145、領域判定部150c、送信部180、受信部185、通信帯域監視部190およびフレームレート設定受付部195に関しては、図5で同一の符号を付して説明した構成と同一であるため説明を省略する。更に、表示装置200の構成も図5で説明した構成と同一であるため説明を省略する。
【0226】
制御情報記憶部110cは、画像データの符号化に際して、圧縮率(あるいは画質)を特定するためのデータ出力制御情報を記憶する。また、制御情報記憶部110cは、静止画領域の画像データを再送するまでの継続フレーム数しきい値を記憶する。
【0227】
メッシュ管理情報記憶部130cは、画像内におけるメッシュの位置や、動画、静止画の区分、動画、静止画の各状態がどれだけの時間継続したかを示す継続フレーム数などを含むメッシュ管理情報を記憶する。
【0228】
領域判定部150cは、変化検出部145の変化の検出結果に基づいて、画像データに含まれる各メッシュを動画領域および静止画領域に区分する。具体的には、変化検出部145が変化ありと検出した領域を動画領域と特定する。また、変化検出部145が変化なしと検出した領域を静止画領域と特定する。更に、領域判定部150cは、該当のメッシュについて、同一区分の領域として継続して特定したフレームの数(継続フレーム数)をカウントする。なお、領域判定部150cは、該当のメッシュの領域の区分が変更した場合には、カウントをリセットして、再度1からカウントしなおす。領域判定部150cは、このようにして特定した各メッシュの動画および静止画の区分や継続フレーム数の情報に基づいて、メッシュ管理情報を生成し、メッシュ管理情報記憶部130cに格納する。
【0229】
送信領域特定部160cは、メッシュ管理情報記憶部130cに記憶されたメッシュ管理情報に基づいて、表示装置200に送信する領域(送信領域)を特定する。送信領域特定部160cは、動画領域について、その全部を送信領域と特定する。
【0230】
また、送信領域特定部160cは、静止画領域について、その一部を送信領域と特定する。すなわち、送信領域特定部160cは、静止画領域を分割し(一次分割)、分割した領域を複数のタイミングで送信領域として順次特定する。このようにすることで、静止画領域の単位面積当たりの送信画像データ量を動画領域の単位面積当たりの送信画像データ量よりも多く割り当てることができる。すなわち、後段の符号化に伴う圧縮率を制御して、静止画領域の画質を動画領域の画質よりも向上させることができる。
【0231】
更に、送信領域特定部160cは、メッシュ管理情報と、制御情報記憶部110cに記憶された継続フレーム数しきい値と、を参照して、継続フレーム数しきい値を超えて静止画領域の状態が継続している静止画メッシュの再送を行う。このとき、送信領域特定部160cは、一次分割時の分割数よりも多くの分割数で静止画領域を分割する(二次分割)。このように、一次分割数よりも多く分割して静止画領域を順次再送することで、静止画領域の単位面積当たりの送信画像データ量を一次分割時よりも多く割り当てることができる。これによって、一次分割で送信した静止画領域の画質をより向上することができる。
【0232】
符号化部170cは、送信領域特定部160cが特定した送信領域のメッシュを順番に符号化してデータ量を削減する。符号化部170cは、圧縮率決定部171c、動画領域符号化部172および静止画領域符号化部173cを有する。ここで、動画領域符号化部172は、図5で同一の符号を付して説明した構成と同一であるため説明を省略する。
【0233】
圧縮率決定部171cは、動画メッシュ群または静止画メッシュ群の符号化後データ量を決定する。ここで、圧縮率決定部171cは、動画メッシュの圧縮率よりも静止画メッシュの圧縮率を低く設定し、静止画領域については、動画領域よりも高品位な画像の表示を可能とする。更に、圧縮率決定部171cは、静止画領域について、一次分割での送信時よりも二次分割での送信時の方が圧縮率を低く設定する。これによって、二次分割により表示された静止画領域の画質をより向上することができる。
【0234】
静止画領域符号化部173cは、圧縮率決定部171cが決定した静止画領域の符号化後データ量に近くなるように送信領域内の静止画メッシュ群を符号化する。静止画領域符号化部173cは、圧縮率決定部171cから一次分割時の符号化データ量を取得した場合、一次分割時の符号化データ量に近いデータ量となるよう静止画メッシュ群を符号化する。また、静止画領域符号化部173cは、圧縮率決定部171cから二次分割時の符号化データ量を取得した場合、二次分割時の符号化データ量に近いデータ量となるよう静止画メッシュ群を符号化する。
【0235】
静止画領域符号化部173cは、符号化して生成した静止画圧縮データを送信部180に出力する。
図28は、第5の実施の形態の継続フレーム数しきい値設定テーブルのデータ構造例を示す図である。継続フレーム数しきい値設定テーブル111cは、制御情報記憶部110cに予め格納される。継続フレーム数しきい値設定テーブル111cには、継続フレーム数しきい値が設定される。
【0236】
継続フレーム数しきい値は、静止画領域について二次分割した画像を送信するまでに該当メッシュが静止画メッシュ状態のままで経過すべき継続フレーム数のしきい値を示す。すなわち、送信領域特定部160cは、継続フレーム数しきい値以上となった静止画メッシュ群を二次分割による送信対象と特定して、符号化部170cに出力する。これにより、継続フレーム数以上の期間が経過した静止画メッシュの画質を向上する。
【0237】
図29は、第5の実施の形態のメッシュ管理テーブルのデータ構造例を示す図である。メッシュ管理テーブル131cは、メッシュ管理情報記憶部130cに格納される。メッシュ管理テーブル131cには、メッシュ座標を示す項目、動画領域フラグを示す項目、一次高品位画像送信済フラグを示す項目、二次高品位画像送信済フラグを示す項目および継続フレーム数を示す項目が設けられている。各項目の横方向に並べられた情報同士が互いに関連付けられて、1つのメッシュに関する情報を示す。
【0238】
なお、メッシュ座標を示す項目、動画領域フラグを示す項目は、図8で説明したメッシュ管理テーブル131の同一名称の各項目と同一である。
一次高品位画像送信済フラグを示す項目には、静止画メッシュについて、一次分割による一次高品位画像を送信済みであるか否かを示すフラグが設定される。一次高品位画像送信済フラグを示す項目には、該当のメッシュについて一次高品位画像を送信済みである場合は“1”が設定され、未送信である場合は“0”が設定される。なお、一次高品位画像送信済フラグを示す項目には、該当のメッシュが動画メッシュである場合には、一次高品位画像の送信対象でないことを示す“−”が設定される。
【0239】
二次高品位画像送信済フラグを示す項目には、静止画メッシュについて、二次分割による二次高品位画像を送信済みであるか否かを示すフラグが設定される。二次高品位画像送信済フラグを示す項目には、該当のメッシュについて二次高品位画像を送信済みである場合は“1”が設定され、未送信である場合は“0”が設定される。なお、二次高品位画像送信済フラグを示す項目には、該当のメッシュが動画メッシュである場合には、二次高品位画像の送信対象でないことを示す“−”が設定される。
【0240】
継続フレーム数を示す項目には、該当のメッシュが静止画領域として継続して特定されたフレームの数が設定される。
メッシュ管理テーブル131cには、例えば、メッシュ座標が(x,y)=“(1,1)”、動画領域フラグが“0”、一次高品位画像送信済フラグが“1”、二次高品位画像送信済フラグが“1”、継続フレーム数が“35”という情報が設定される。これは、メッシュ座標(x,y)=“(1,1)”で指定されるメッシュが静止画メッシュであり、静止画メッシュの状態で“35”フレーム継続していることを示している。また、そのメッシュについて、一次高品位画像、二次高品位画像ともに表示装置200へ送信済みであることを示している。
【0241】
また、メッシュ管理テーブル131cには、例えば、メッシュ座標が(x,y)=“(51,31)”、動画領域フラグが“0”、一次高品位画像送信済フラグが“1”、二次高品位画像送信済フラグが“0”、継続フレーム数が“28”という情報が設定される。これは、メッシュ座標(x,y)=“(51,31)”で指定されるメッシュが静止画メッシュであり、静止画メッシュの状態で“28”フレーム継続していることを示している。また、そのメッシュについて、一次高品位画像は表示装置200へ送信済みであるが、二次高品位画像は表示装置200へ未送信であることを示している。
【0242】
なお、領域判定部150cは、該当メッシュを静止画領域と新たに判定したタイミングで、一次高品位画像送信済フラグおよび二次高品位画像送信済フラグに“0”を設定する。
【0243】
次に、以上の構成により実現されるコンピュータ100cおよび表示装置200の処理手順に関して説明する。
なお、コンピュータ100cの画像データの送信処理の手順に関しては、図9で説明した手順と同様であるため説明を省略する。以下、コンピュータ100cの画像データの送信処理に含まれる各処理について詳細に説明する。
【0244】
図30は、第5の実施の形態の送信領域特定処理を示すフローチャートである。以下、図30に示す処理をフローチャートのステップ番号に沿って説明する。
[ステップS111]送信領域特定部160cは、メッシュ管理情報記憶部130cに記憶されたメッシュ管理テーブル131cの動画領域フラグを参照して、今回送信対象の画像データに静止画領域が含まれているか否かを判定する。静止画領域が含まれている場合、処理をステップS112に進める。静止画領域が含まれていない場合、処理をステップS119に進める。
【0245】
[ステップS112]送信領域特定部160cは、メッシュ管理テーブル131cの一次高品位画像送信済フラグを参照して、静止画メッシュのうち、一次高品位画像を未送信のメッシュが存在するか否かを判定する。一次高品位画像を未送信のメッシュが存在する場合、処理をステップS113に進める。一次高品位画像を未送信のメッシュが存在しない場合、処理をステップS115に進める。
【0246】
[ステップS113]送信領域特定部160cは、静止画領域の一次分割数を特定する。静止画領域の一次分割数は、利用環境に応じて、例えば、メッシュ管理情報記憶部130cに予め記憶される。送信領域特定部160cは、特定した一次分割数に基づいて、送信する静止画領域の一次送信メッシュ数を算出する。
【0247】
[ステップS114]送信領域特定部160cは、メッシュ管理テーブル131cを参照して、一次高品位画像を未送信のメッシュのうち、ステップS113で算出した一次送信メッシュ数分のメッシュを抽出する。送信領域特定部160cは、メッシュ管理テーブル131cの一次高品位画像送信済フラグを更新する。すなわち、今回送信対象として抽出した静止画メッシュに設定された一次高品位画像送信済フラグ“0”を“1”に変更する。送信領域特定部160cは、抽出した静止画メッシュ群を符号化部170cに出力する。なお、送信領域特定部160cは、出力した静止画メッシュ群が一次分割に対応するものである旨を符号化部170cに通知する。
【0248】
[ステップS115]送信領域特定部160cは、制御情報記憶部110cを参照して、継続フレーム数しきい値を取得する。そして、送信領域特定部160cは、メッシュ管理テーブル131cを参照して継続フレーム数しきい値以上の継続フレーム数となった静止画メッシュが存在するか否かを判定する。存在する場合、処理をステップS116に進める。存在しない場合、処理をステップS119に進める。
【0249】
[ステップS116]送信領域特定部160cは、メッシュ管理テーブル131cの二次高品位画像送信済フラグを参照して、二次高品位画像を未送信のメッシュが存在するか否かを判定する。二次高品位画像を未送信のメッシュが存在する場合、処理をステップS117に進める。二次高品位画像を未送信のメッシュが存在しない場合、処理をステップS119に進める。
【0250】
[ステップS117]送信領域特定部160cは、静止画領域の二次分割数を特定する。静止画領域の二次分割数は、利用環境に応じて、例えば、メッシュ管理情報記憶部130cに予め記憶される。送信領域特定部160cは、特定した二次分割数に基づいて、送信する静止画領域の二次送信メッシュ数を算出する。
【0251】
[ステップS118]送信領域特定部160cは、メッシュ管理テーブル131cを参照して、二次高品位画像を未送信のメッシュのうち、ステップS117で算出した二次送信メッシュ数分のメッシュを抽出する。送信領域特定部160cは、メッシュ管理テーブル131cの二次高品位画像送信済フラグを更新する。すなわち、今回送信対象として抽出した静止画メッシュに設定された二次高品位画像送信済フラグ“0”を“1”に変更する。送信領域特定部160cは、抽出した静止画メッシュ群を符号化部170cに出力する。なお、送信領域特定部160cは、出力した静止画メッシュ群が二次分割に対応するものである旨を符号化部170cに通知する。
【0252】
[ステップS119]送信領域特定部160cは、メッシュ管理テーブル131cの動画領域フラグを参照して、今回送信対象の画像データに動画領域が含まれているか否かを判定する。動画領域が含まれている場合、処理をステップS120に進める。動画領域が含まれていない場合、処理を完了する。
【0253】
[ステップS120]送信領域特定部160cは、メッシュ管理テーブル131cを参照して動画メッシュを抽出し、抽出した動画メッシュ群を送信対象の領域とする。送信領域特定部160cは、抽出した動画メッシュ群を符号化部170cに出力する。
【0254】
このようにして送信領域特定部160cは、静止画領域の一部送信対象の領域として特定する。送信領域特定部160cは、送信対象の領域として選択するメッシュの数を静止画領域の分割数に応じて算出する。また、送信領域特定部160cは、静止画領域の分割数を一次分割時よりも二次分割時の方が多くなるようにする。
【0255】
これにより、後段の符号化処理において、二次分割時の静止画メッシュ群について同一面積の送信データ量を一次分割時の静止画メッシュ群よりも多く割り当てることができる。
【0256】
なお、上記ステップS111〜S118に示した静止画領域に対する処理および上記ステップS119,S120に示した動画領域に対する処理は、順序を逆にしてもよい。例えば、送信領域特定部160cは、動画領域に対する処理(ステップS119,S120)を先に実行した後、静止画領域に対する処理(ステップS111〜S118)を行うことも考えられる。
【0257】
図31は、第5の実施の形態の二次高品位画像の送信方法の具体例を示す図である。以下、図31に示す処理をステップ番号に沿って説明する。なお、図31の各ステップでは、画像を構成するメッシュに、その継続フレーム数を図示している。また、ステップST21は、コンピュータ100cが表示装置200への最初のフレームの送信タイミングである。ステップST22は、ステップST21の次のフレームの送信タイミングである。以降、ステップST23,ST24に関しても同様である。
【0258】
[ステップST21]コンピュータ100cは、画像500のうち動画領域520を符号化し、表示装置200に送信する。このとき、全メッシュの継続フレーム数は“29”であるとする。静止画領域510に関しては、既に全ての静止画メッシュについて一次高品位画像を送信済みであるので、表示装置200への画像データの送信は行われない。
【0259】
[ステップST22]コンピュータ100cは、画像500のうち、動画領域521を符号化し、表示装置200に送信する。このとき、全メッシュの継続フレーム数は“30”となる。静止画領域511に関しては、既に全ての静止画メッシュについて一時高品位画像を送信済みであるので、表示装置200への画像データの送信は行われない。
【0260】
[ステップST23]コンピュータ100cは、画像500のうち、動画領域522を符号化し、表示装置200に送信する。また、コンピュータ100cは、画像500のうち、静止画領域を二次分割した際の一単位である一部領域512を符号化し、表示装置200に送信する。このとき、例えば、二次分割数を一次分割数の2倍に設定しておけば、一部領域512に対して、一次分割時よりも2倍の送信データ量を割り当てることができる。すなわち、圧縮率を低減して、一部領域512の画質を向上できる。なお、全メッシュの継続フレーム数は“31”となる。
【0261】
[ステップST24]コンピュータ100cは、画像500のうち、動画領域523を符号化し、表示装置200に送信する。また、コンピュータ100cは、画像500のうち、静止画領域を二次分割した際の一単位である一部領域514を符号化し、表示装置200に送信する。一部領域513は、ステップST23の一部領域512に対応する。表示装置200は、一部領域513に関しては、ステップST23で受信した画像を継続して表示する。なお、全メッシュの継続フレーム数は“32”となる。
【0262】
このように、コンピュータ100cは、静止画領域について一次分割により画像送信した後、所定のフレーム数が継続した静止画メッシュについては一次分割よりも細かい分割数で二次分割を行って、表示装置200へ画像データを送信する。
【0263】
これにより、第2の実施の形態と同様の効果を実現することができる。また、静止画領域の画質を更に向上して、より見易い画像表示を実現することが可能となる。
第2〜第5の実施の形態で説明したように、コンピュータ100,100a,100b,100cは、画像データに含まれるメッシュの時間変化に基づいて、画像データを静止画領域と動画領域とに区分する。そして、コンピュータ100は、静止画メッシュの送信回数を動画メッシュの送信回数よりも少なくする。
【0264】
これにより、ネットワークの伝送容量を効率的に利用して画像データを送信することが可能となる。
また、静止画領域を複数の領域に分割して、異なるタイミングで送信することで、単位面積当たりに割り当て可能な送信データ量を動画領域よりも多く割り当てることができる。
【0265】
これにより、静止画領域の画質を動画領域の画質に比べて高品位とすることができる。その結果、表示装置200によりスクリーン20に表示される画像の見易さを向上することができる。
【0266】
また、第3の実施の形態で説明したように、静止画領域と動画領域との境界である境界領域を導入する。そして、境界メッシュ群について単位面積当たりに割り当てる送信データ量を動画メッシュ群について単位面積当たりに割り当てる送信データ量よりも多くなるようにする。
【0267】
これにより、境界メッシュ群の画質を、動画メッシュ群の画質よりも向上することができる。その結果、静止画領域と動画領域との境界部分での画質の急激な変化が抑えられることになる。このため、表示装置200は、閲覧者に与える違和感を抑えた、より見易い画像の表示が可能となる。
【0268】
また、表示する画像中の注目する箇所が動画領域に隣接した静止画領域内の静止画像である場合にも、その画像の品質の劣化を抑えることができ、より見易い画像の表示が可能となる。
【0269】
また、第4の実施の形態で説明したように、動画領域が移動に伴って、動画領域から静止画領域に切り替わった領域のメッシュについて、優先的に送信対象とする。
すなわち、閲覧者の注意が向き易い動画領域の移動に係る領域に対して優先的に画質を高める。これにより、閲覧者に対して与え得る違和感を軽減し、見易さをより向上することができる。
【0270】
また、第5の実施の形態で説明したように、静止画領域について一次分割により画像送信した後、所定のフレーム数が継続した静止画メッシュについては一次分割よりも細かい分割数で二次分割を行って、表示装置200へ画像データを送信する。
【0271】
これにより、静止画領域の画質を更に向上して、より見易い画像表示を実現することが可能となる。
これらの方法を用いることで、画像データを効率的に送信することが可能となる。具体的には、変化の少ない静止画領域の画像データの送信回数を変化の多い動画領域の画像データの送信回数よりも少なくする。その結果、伝送容量が不必要に使用されることを抑止することができる。また、余剰の伝送容量を用いて、画質をより向上することができる。また、その分の伝送容量を他のデータ通信に利用することもできる。
【0272】
以上、本発明の画像処理プログラム、表示システム、画像処理装置および画像処理方法を図示の実施の形態に基づいて説明したが、本発明はこれに限定されるものではなく、各部の構成は同様の機能を有する任意の構成のものに置換することができる。また、本発明に他の任意の構成物や行程が付加されてもよい。また、本発明は前述した実施の形態のうちの任意の2以上の構成(特徴)を組み合わせたものであってもよい。
【符号の説明】
【0273】
1 コンピュータ
1a 検出手段
1b 送信手段
2 表示装置
10,10a,10b 画像
11 第1の種類の領域
12 第2の種類の領域
11a,11b,12a,12b 画像情報
【技術分野】
【0001】
本発明は、表示装置に画像情報を送信する画像処理プログラム、表示システム、画像処理装置および画像処理方法に関する。
【背景技術】
【0002】
従来、コンピュータと表示装置(モニタやプロジェクタ)とをネットワークで接続した表示システムが利用されている。この表示システムでは、コンピュータは画像データを表示装置に送信する。表示装置は、コンピュータから受信した画像データをモニタ画面上やスクリーン上に表示する。
【0003】
ここで、コンピュータと表示装置とを接続するネットワークとして、無線IP(Internet Protocol)ネットワークや電話回線網などが考えられる。このような伝送路では、単位時間当たりに送受信可能なデータ伝送量(以下、伝送容量という)には限りがある。このため、伝送容量が圧迫されるとコンピュータ側で生成した画像データが表示装置で再生されるまでに遅延が生じることがある。その場合、例えば、表示装置が表示する画像に遅延やコマ落ちが発生する。
【0004】
これに対し、コンピュータ側で生成した画像データを符号化することでデータ量を小さくし(圧縮)、圧縮した画像データを表示装置に送ることが考えられる。このようにすると、伝送容量が小さくても通信により生じ得る遅延を低減することができる。
【0005】
ところが、画像データの圧縮を行うと画質が低下し、表示装置が表示する画像が見づらくなることがあるという問題がある。このため、動画用の画像データ生成に際し、オペレータが入力した領域や人物を表示している領域を取得し、当領域については他の領域よりも圧縮率を下げて画質を相対的に向上することで、当領域を見易くする方法が知られている(例えば、特許文献1,2参照)。また、高画質領域のコマ数を低画質領域よりも多くすることで高画質領域の画質をより向上する方法が知られている(例えば、特許文献3参照)。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2003−309835号公報
【特許文献2】特開2008−005349号公報
【特許文献3】特開平09−130767号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
ところで、画像には所定時間の間に大きく変化する領域とほとんど変化のない領域とが含まれ得る。この場合、大きく変化する領域と同等の頻度で、ほとんど変化のない領域の画像データを送信することは、ネットワークの伝送容量の利用の観点からは非効率であるという問題がある。
【0008】
本発明はこのような点に鑑みてなされたものであり、画像情報を効率的に送信する画像処理プログラム、表示システム、画像処理装置および画像処理方法を提供することを目的とする。
【課題を解決するための手段】
【0009】
上記課題を解決するために、画像処理プログラムが提供される。この画像処理プログラムを実行するコンピュータは、検出手段および送信手段として機能する。検出手段は、時系列に入力された複数の画像間の変化に応じて、各画像に含まれる第1の種類の領域と第1の種類の領域よりも変化量の大きい第2の種類の領域とを検出する。送信手段は、所定の時間幅における第1の種類の領域の画像情報の送信回数を所定の時間幅における第2の種類の領域の画像情報の送信回数よりも少ない回数として、第1の種類の領域の画像情報と第2の種類の領域の画像情報とを順次送信する。
【0010】
また、上記課題を解決するために、表示システムが提供される。この表示システムは、画像処理装置と表示装置とを有する。画像処理装置は、検出手段と送信手段とを備える。検出手段は、時系列に入力された複数の画像間の変化に応じて、各画像に含まれる第1の種類の領域と第1の種類の領域よりも変化量の大きい第2の種類の領域とを検出する。送信手段は、所定の時間幅における第1の種類の領域の画像情報の送信回数を所定の時間幅における第2の種類の領域の画像情報の送信回数よりも少ない回数として、第1の種類の領域の画像情報と第2の種類の領域の画像情報とを順次送信する。表示装置は、受信手段と表示手段とを備える。受信手段は、送信手段が送信した第1の種類の領域の画像情報と第2の種類の領域の画像情報とを順次受信する。表示手段は、受信手段が第1の種類の領域の画像情報と第2の種類の領域の画像情報とを受信した場合、第1の種類の領域の画像情報と第2の種類の画像情報とを表示し、受信手段が第2の種類の領域の画像情報を受信して第1の種類の領域の画像情報を受信しない場合、以前に受信した第1の種類の領域の画像情報と今回受信した第2の種類の領域の画像情報とを表示する。
【0011】
また、上記課題を解決するために上記画像処理プログラムを実行するコンピュータと同様の機能を有する画像処理装置が提供される。また、上記課題を解決するために上記画像処理プログラムを実行するコンピュータと同様の処理を行う画像処理方法が提供される。
【発明の効果】
【0012】
上記画像処理プログラム、表示システム、画像処理装置および画像処理方法によれば、画像情報を効率的に送信することができる。
【図面の簡単な説明】
【0013】
【図1】第1の実施の形態の表示システムを示す図である。
【図2】表示システムの全体構成を示す図である。
【図3】コンピュータのハードウェア構成を示す図である。
【図4】表示装置のハードウェア構成を示す図である。
【図5】第2の実施の形態の各装置の機能構成を示す図である。
【図6】メッシュ構成の具体例を示す図である。
【図7】データ出力制御テーブルのデータ構造例を示す図である。
【図8】第2の実施の形態のメッシュ管理テーブルのデータ構造例を示す図である。
【図9】第2の実施の形態の画像データの送信処理を示すフローチャートである。
【図10】第2の実施の形態の領域判定処理を示すフローチャートである。
【図11】第2の実施の形態の送信領域特定処理を示すフローチャートである。
【図12】第2の実施の形態の符号化処理を示すフローチャートである。
【図13】第2の実施の形態の画像データの受信処理を示すフローチャートである。
【図14】第2の実施の形態の環境の設定変更処理を示すフローチャートである。
【図15】第2の実施の形態の画像データの送信方法の第1の具体例を示す図である。
【図16】第2の実施の形態の各領域の画像データの送信方法の第2の具体例を示す図である。
【図17】第3の実施の形態の各装置の機能構成を示す図である。
【図18】第3の実施の形態のメッシュ管理テーブルのデータ構造例を示す図である。
【図19】第3の実施の形態の領域判定処理を示すフローチャートである。
【図20】第3の実施の形態の符号化処理を示すフローチャートである。
【図21】第3の実施の形態の符号化処理を示すフローチャートである。
【図22】第3の実施の形態の画像の各領域を示す図である。
【図23】第4の実施の形態の各装置の機能構成を示す図である。
【図24】第4の実施の形態のメッシュ管理テーブルのデータ構造例を示す図である。
【図25】第4の実施の形態の送信領域特定処理を示すフローチャートである。
【図26】第4の実施の形態の画像データの送信方法の具体例を示す図である。
【図27】第5の実施の形態の各装置の機能構成を示す図である。
【図28】第5の実施の形態の継続フレーム数しきい値設定テーブルのデータ構造例を示す図である。
【図29】第5の実施の形態のメッシュ管理テーブルのデータ構造例を示す図である。
【図30】第5の実施の形態の送信領域特定処理を示すフローチャートである。
【図31】第5の実施の形態の二次高品位画像の送信方法の具体例を示す図である。
【発明を実施するための形態】
【0014】
以下、実施の形態を図面を参照して詳細に説明する。
[第1の実施の形態]
図1は、第1の実施の形態の表示システムを示す図である。この表示システムは、コンピュータ1および表示装置2を有する。コンピュータ1は、検出手段1aおよび送信手段1bを有する。
【0015】
検出手段1aは、時系列に入力された画像10,10a,10b,・・・の間の変化に応じて、各画像に含まれる第1の種類の領域11と、第1の種類の領域11よりも変化量の大きい第2の種類の領域12とを検出する。変化量は、例えば各画素の画素値の変化の度合いにより検出することができる。例えば、画像10aの対象画素の画素値と直前の画像である画像10における対応する画素の画素値との差が所定値以上である場合に、対象画素を第2の種類の領域12に含めることが考えられる。なお、変化量は、複数の画素の集合により比較して検出してもよい。
【0016】
送信手段1bは、所定の時間幅における第1の種類の領域11の画像情報の送信回数を所定の時間幅における第2の種類の領域12の画像情報の送信回数よりも少ない回数として、第1の種類の領域11の画像情報と第2の種類の領域12の画像情報とを表示装置2に順次送信する。
【0017】
例えば、送信手段1bは、所定の時間幅の間で第2の種類の領域12に関して画像情報12a,12b,12c,12d,12eと5回の送信を行い、第1の種類の領域11に関して画像情報11a,11bと2回の送信を行う。
【0018】
表示装置2は、送信手段1bから受信した第1の種類の領域11の画像情報と第2の種類の領域12の画像情報とを表示する。表示装置2は、例えば、モニタやプロジェクタである。
【0019】
表示装置2は、例えば第1の種類の領域11の画像情報11aと第2の種類の領域の画像情報12aとを受信すると、画像情報11a,12aを組み合わせた画像を表示する。次に、表示装置2は、画像情報12bを受信すると、表示した画像情報12aを画像情報12bで更新する。その後、表示装置2が画像情報12c,12dと順次受信した場合も同様である。そして、表示装置2は、画像情報11b,12eを受信すると、表示した画像情報11aを画像情報11bで更新し、表示した画像情報12dを画像情報12eで更新する。
【0020】
コンピュータ1によれば、検出手段1aにより、時系列に入力された複数の画像10,10a,10b,・・・の間の変化に応じて、各画像に含まれる第1の種類の領域11と、第1の種類の領域11よりも変化量の大きい第2の種類の領域12とが検出される。送信手段1bにより、所定の時間幅における第1の種類の領域11の画像情報の送信回数を所定の時間幅における第2の種類の領域12の画像情報の送信回数よりも少ない回数として、第1の種類の領域11の画像情報と第2の種類の領域12の画像情報とが表示装置2に順次送信される。
【0021】
これにより、画像情報を効率的に送信することが可能となる。具体的には、第2の種類の領域12に比べて変化量の小さい第1の種類の領域11の画像情報は、第2の種類の領域12の画像情報よりも送信回数が少なくなる。このため、第1の種類の領域11の画像情報を送信するために、伝送容量が不必要に使用されることを抑止することができる。また、その分の伝送容量を用いて、第1の種類の領域11の画像や第2の種類の領域12の画像の画質向上を図ることができる。また、その分の伝送容量を他のデータ通信に利用することもできる。
【0022】
以下の第2〜第5の実施の形態では、第1の実施の形態に係る表示システムの応用例を説明する。
[第2の実施の形態]
図2は、表示システムの全体構成を示す図である。第2の実施の形態に係る表示システムは、コンピュータ100および表示装置200を有する。コンピュータ100と表示装置200とは、ネットワーク10を介して接続される。ネットワーク10は、コンピュータ100および表示装置200を無線で接続する無線LAN(Local Area Network)である。
【0023】
コンピュータ100は、表示装置200に表示させる画像データをネットワーク10を介して表示装置200に送信する。コンピュータ100が表示装置200に送信する画像データのデータ形式には、Motion JPEG(Motion Joint Photographic Experts Groups)などによる非可逆圧縮方式が用いられる。非可逆圧縮方式を用いることで、可逆圧縮方式に比べて、データ量を小さくし易いほか、符号化・復号処理に要する処理時間を短縮することができる。このため、非可逆圧縮方式は、画像データをネットワーク10を介して送信し、複数の画面上で同時に同一の内容を閲覧したい場合に適している。
【0024】
表示装置200は、コンピュータ100から受信する画像データをスクリーン20に投影する。表示装置200は、例えば、プロジェクタである。
コンピュータ100は、表示装置200に画像データを送信する機能を有している。この機能は、コンピュータ100が画像処理プログラムを実行することで実現される。そのような画像処理プログラムは、コンピュータ読み取り可能な記録媒体30に記録して配布することができる。
【0025】
また、ネットワーク10に接続されたサーバ装置(図示せず)に記録媒体30から画像処理プログラムを格納してもよい。この場合、コンピュータ100は、ネットワーク10を介してサーバ装置から画像処理プログラムをダウンロードすることができる。
【0026】
記録媒体30としては、例えば、磁気記録装置、光ディスク、光磁気記録媒体、半導体メモリを使用できる。磁気記録装置には、HDD(Hard Disk Drive)、フレキシブルディスク(FD)、磁気テープなどがある。光ディスクには、CD(Compact Disc)、CD−R(Recordable)/RW(ReWritable)、DVD(Digital Versatile Disc)、DVD−R/RW/RAM(Random Access Memory)などがある。光磁気記録媒体には、MO(Magneto-Optical disk)などがある。
【0027】
また、表示装置200もコンピュータ100が送信した画像データを受信してスクリーン20に投影する機能を有している。表示装置200は、そのためのプログラムをネットワーク10を介してサーバ装置からダウンロードすることができる。
【0028】
なお、コンピュータ100と表示装置200とは、ネットワーク10を介さずに直接接続されてもよい。この場合、コンピュータ100と表示装置200とは、ワイヤレスUSB(Wireless Universal Serial Bus)で接続することが考えられる。
【0029】
図3は、コンピュータのハードウェア構成を示す図である。コンピュータ100は、CPU(Central Processing Unit)101、RAM(Random Access Memory)102、HDD103、表示処理部104、ディスプレイ105、入力処理部106、キーボード107、マウス108および通信処理部109を有する。
【0030】
CPU101は、コンピュータ100全体を制御する。
RAM102は、CPU101に実行させるOS(Operating System)のプログラムやアプリケーションソフトウェア(以下、アプリケーションという)のプログラムの少なくとも一部を一時的に記憶する。また、RAM102は、CPU101による処理に必要な各種データを記憶する。
【0031】
HDD103は、OSのプログラム、アプリケーションのプログラムを記憶する。また、HDD103は、CPU101による処理に必要な各種データを記憶する。なお、HDD103の代わりに例えばSSD(Solid State Drive)などの他の不揮発性の記憶装置を用いることもできる。
【0032】
表示処理部104は、ディスプレイ105と接続される。表示処理部104は、CPU101からの命令にしたがって画像をディスプレイ105の画面に表示させる。
入力処理部106は、キーボード107とマウス108と接続される。入力処理部106は、キーボード107やマウス108から送られてくる信号をCPU101に送信する。
【0033】
通信処理部109は、ネットワーク10と接続され、表示装置200と画像データの送受信を行う。画像データの内容は、例えば、表示処理部104がディスプレイ105に表示させている画像が考えられる。このようにすると、例えば、ユーザは、コンピュータ100を操作しながら、その操作画面を表示装置200を介してスクリーン20に表示してプレゼンテーションを行うことができる。
【0034】
図4は、表示装置のハードウェア構成を示す図である。表示装置200は、CPU201、RAM202、NVRAM(Non Volatile RAM)203、表示処理部204、投影部205、入力処理部206、操作部207および通信処理部208を有する。
【0035】
CPU201は、表示装置200全体を制御する。
RAM202は、CPU201に実行させるOSのプログラムやアプリケーションのプログラムの少なくとも一部を一時的に記憶する。また、RAM202は、CPU201による処理に必要な各種データを記憶する。
【0036】
NVRAM203は、OSのプログラム、アプリケーションのプログラムを記憶する。また、NVRAM203は、CPU201による処理に必要な各種データを記憶する。
表示処理部204は、投影部205と接続される。表示処理部204は、CPU201からの命令にしたがって、投影部205にスクリーンへの画像の投影を実行させる。
【0037】
入力処理部206は、操作部207と接続される。入力処理部206は、操作部207から送られてくる信号をCPU201に送信する。
通信処理部208は、ネットワーク10と接続され、コンピュータ100とデータの送受信を行う。
【0038】
図5は、第2の実施の形態の各装置の機能構成を示す図である。コンピュータ100は、制御情報記憶部110、メッシュ記憶部120、メッシュ管理情報記憶部130、メッシュ生成部140、変化検出部145、領域判定部150、送信領域特定部160、符号化部170、送信部180、受信部185、通信帯域監視部190、フレームレート設定受付部195を有する。これらの機能はCPU101が画像処理プログラムを実行することで実現される。ただし、これらの機能の一部または全部を専用のハードウェアで実現してもよい。
【0039】
制御情報記憶部110は、画像データの符号化に際して、圧縮率(あるいは画質)を特定するためのデータ出力制御情報を記憶する。データ出力制御情報には、コンピュータ100と表示装置200との間の伝送路の伝送容量や表示装置200が画像を再生する際のフレームレート(単位時間当たりの描画画面数)などの情報が含まれる。
【0040】
メッシュ記憶部120は、画像内を所定数の画素による方形領域に分割したメッシュを記憶するためのバッファである。メッシュ記憶部120は、時系列に入力された画像データについて生成されたメッシュを一時的に記憶する。
【0041】
メッシュ管理情報記憶部130は、画像内におけるメッシュの位置、動画や静止画の区分などを含むメッシュ管理情報を記憶する。
メッシュ生成部140は、画像データを順次受け付ける。メッシュ生成部140は、画像データを分割してメッシュを生成し、メッシュ記憶部120に格納する。
【0042】
変化検出部145は、メッシュ記憶部120に記憶された画像内の同一位置のメッシュと該当位置の直前のメッシュとを比較して、該当のメッシュが直前のメッシュからの変化を検出する。ここで、変化検出部145は、メッシュの変化を、両メッシュに含まれる画素の画素値(色や輝度を示すパラメータなど)に差があるか否かにより検出することができる。具体的には、変化検出部145は、画素値に差がある画素が存在する場合に変化ありと検出し、何れの画素にも画素値に差がない場合に変化なしと検出する。また、例えば、変化検出部145は、画素値に所定値以上の差がある画素が存在する場合に変化ありと検出し、何れの画素にも所定値以上の差がない場合に変化なしと検出することも考えられる。
【0043】
領域判定部150は、変化検出部145が変化ありと検出した領域(複数のメッシュの集合)を動画領域と特定する。また、領域判定部150は、変化検出部145が変化なしと検出した領域を静止画領域と特定する。領域判定部150は、このようにして特定した各メッシュの動画および静止画の区分に基づいてメッシュ管理情報を生成し、メッシュ管理情報記憶部130に格納する。
【0044】
送信領域特定部160は、メッシュ管理情報記憶部130に記憶されたメッシュ管理情報に基づいて、表示装置200に送信する領域(送信領域)を特定する。送信領域特定部160は、動画領域について、その全部を送信領域と特定する。
【0045】
また、送信領域特定部160は、静止画領域について、その一部を送信領域と特定する。すなわち、送信領域特定部160は、静止画領域を更に分割し、分割した領域を複数のタイミングで送信領域として順次特定する。このようにすることで、静止画領域の単位面積当たりの送信データ量を動画領域の単位面積当たりの送信データ量よりも多く割り当てることができる。すなわち、後段の符号化に伴う圧縮率を制御して、静止画領域の画質を動画領域の画質よりも向上させることができる。
【0046】
更に、送信領域特定部160は、静止画領域を送信領域と特定する頻度を、動画領域を送信領域と特定する頻度よりも小さくする。例えば、送信領域特定部160は、静止画領域の画質の画像データを送信した後は、その領域が動画領域となるか、あるいは所定時間が経過するまで、送信領域として特定しないようにする。すなわち、画像データの入力レートに対し、静止画領域については間引きを行うことで、静止画領域の送信レート(あるいは送信回数)を動画領域の送信レートよりも少なくすることができる。
【0047】
送信領域特定部160は、送信領域として特定した動画領域または静止画領域の情報を符号化部170に出力する。
符号化部170は、送信領域特定部160が特定した送信領域のメッシュを順番に符号化してデータ量を削減する(圧縮)。符号化部170は、圧縮率決定部171、動画領域符号化部172および静止画領域符号化部173を有する。
【0048】
圧縮率決定部171は、動画領域に含まれるメッシュ(動画メッシュ)群または静止画領域に含まれるメッシュ(静止画メッシュ)群の符号化後データ量を決定する。符号化後データ量が大きいほど圧縮率は低く、画像の劣化も小さいため、画像の品質は高くなる。また、符号化後データ量が小さいほど圧縮率は高く、画像の劣化が大きいため、画像の品質は低くなる。
【0049】
圧縮率決定部171は、動画メッシュの圧縮率よりも静止画メッシュの圧縮率を低く設定し、静止画領域については、動画領域よりも高品位な画像の表示を可能とする。圧縮率決定部171による圧縮率の決定処理の詳細は、後述する。
【0050】
動画領域符号化部172は、圧縮率決定部171が決定した動画領域の符号化後データ量に近くなるように送信領域内の動画メッシュを符号化する。例えば、Motion JPEG形式で符号化する場合、動画領域符号化部172は、動画メッシュにDCT(Discrete Cosine Transform)変換、量子化処理およびハフマン符号化処理を順次施して符号化を行う。この場合、動画領域符号化部172は、例えば動画領域の符号化後データ量を越えない最大のデータ量となるテーブル類(量子化テーブルやハフマン符号テーブル)を用いて符号化する。あるいは、符号化後データ量に最も近くなるテーブル類を用いて符号化する。
【0051】
動画領域符号化部172は、符号化して生成した動画圧縮データを送信部180に出力する。
静止画領域符号化部173は、圧縮率決定部171が決定した静止画領域の符号化後データ量に近くなるように送信領域内の静止画メッシュを符号化する。なお、静止画領域に関しても、動画領域符号化部172と同様にしてMotion JPEG形式の符号化処理を施すことが考えられる。
【0052】
静止画領域符号化部173は、符号化して生成した静止画圧縮データを送信部180に出力する。
なお、符号化部170は、表示装置200で画像を再生する際の情報を、各圧縮データに含める。符号化部170は、例えばMotion JPEG形式で符号化を行う場合、量子化に用いた量子化テーブル、ハフマン符号化に用いたハフマン符号テーブルおよび各メッシュの位置(画面上の座標など)を示す情報を各圧縮データに含める。
【0053】
送信部180は、符号化部170から取得した動画圧縮データまたは静止画圧縮データを含む圧縮データを表示装置200に送信する。
受信部185は、表示装置200から表示装置200が画像再生を行うフレームレートの設定情報を受信する。受信部185は、制御情報記憶部110に記憶されたデータ出力制御情報に、フレームレートの設定情報の内容を反映する。
【0054】
通信帯域監視部190は、送信部180および受信部185からコンピュータ100と表示装置200との間の伝送路の伝送容量を取得する。通信帯域監視部190は、制御情報記憶部110に記憶されたデータ出力制御情報に、現通信環境における伝送容量の情報を反映する。
【0055】
フレームレート設定受付部195は、表示装置200が画像を再生する際のフレームレートの設定変更を受け付ける。フレームレートの設定変更は、例えば、ユーザがディスプレイ105に表示された設定変更用のインタフェースにしたがって、キーボード107やマウス108を操作することで入力される。フレームレート設定受付部195は、受け付けたフレームレートの設定変更を表示装置200に通知すると共に、その変更内容を制御情報記憶部110に記憶されたデータ出力制御情報に反映する。
【0056】
表示装置200は、受信部210、復号部220、出力処理部230、フレームレート通知部240および送信部250を有する。
受信部210は、送信部180が送信した圧縮データを受信する。受信部210は、受信した圧縮データを復号部220に出力する。
【0057】
復号部220は、受信部210から取得した圧縮データに含まれる動画圧縮データまたは静止画圧縮データを復号する。受信部210は、動画領域復号部221および静止画領域復号部222を有する。
【0058】
動画領域復号部221は、動画圧縮データを復号する。例えば、動画圧縮データがMotion JPEG形式である場合、動画領域復号部221は、動画圧縮データに対して、ハフマン復号処理、逆量子化処理および逆DCT変換を順次施して動画領域の復号画像データを得る。このとき、動画領域復号部221は、符号化時に使用したハフマン符号テーブルや量子化テーブルを動画圧縮データから取得して、復号に利用することができる。動画領域復号部221は、動画領域の復号画像データを出力処理部230に出力する。
【0059】
静止画領域復号部222は、静止画圧縮データを復号する。例えば、静止画圧縮データがMotion JPEG形式である場合、動画領域復号部221と同様の処理により静止画領域の復号画像データを得る。ただし、動画領域復号部221と静止画領域復号部222とでは画質が異なるため、復号処理に用いる量子化テーブルやハフマン符号テーブルは異なるものとなる。静止画領域復号部222は、静止画領域の復号画像データを出力処理部230に出力する。
【0060】
出力処理部230は、復号部220から取得した動画領域の復号画像データと静止画領域の復号画像データとを合成して得られる復号画像を投影部205に出力し、スクリーン20に投影させる。出力処理部230は、例えば、動画圧縮データや静止画圧縮データに含まれる各メッシュの位置を示す情報により、動画圧縮領域の復号画像データと静止画領域の復号画像データとを適正に合成して復号画像を得ることができる。
【0061】
フレームレート通知部240は、出力処理部230が復号画像を出力(再生)する際のフレームレートを取得する。フレームレート通知部240は、フレームレートが変更した場合、新しいフレームレートの情報を送信部250に出力する。フレームレートの変更は、例えば、ユーザが操作部207で所定の操作を行うことで出力処理部230に受け付けられる。また、コンピュータ100からフレームレートの設定変更指示を受信することでも受け付けられる。
【0062】
送信部250は、フレームレート通知部240から取得したフレームレートの情報をコンピュータ100に送信する。
図6は、メッシュ構成の具体例を示す図である。画像データ300は、静止画領域310および動画領域320を有する。静止画領域310および動画領域320は、各領域内を方形領域に分割した複数のメッシュ330により構成される。メッシュ330は、複数の画素331を含み、例えば、16×16画素や8×8画素の集合である。
【0063】
画像データ300は、左上頂点を原点として、横軸にx座標、縦軸にy座標が定義される。各メッシュの位置は、(x,y)座標によって特定することができる。
変化検出部145は、画像データ300に含まれる各メッシュについて、直前のメッシュとの変化の有無を検出する。領域判定部150は、変化検出部145により変化なしとされた領域を静止画領域310とする。領域判定部150は、変化検出部145により変化ありとされた領域を動画領域320とする。
【0064】
図7は、データ出力制御テーブルのデータ構造例を示す図である。データ出力制御テーブル111,112,113は、伝送路の伝送容量の候補値に応じて制御情報記憶部110に予め格納される。データ出力制御テーブル111は、伝送容量の上限が20Mbps(Megabits Per Second)の通信環境における制御情報である。その他にも、例えば、ワイヤレスUSBによる接続を想定して、伝送容量の上限が60Mbpsの通信環境における制御情報を用意しておくことも考えられる。なお、以下の説明では、データ出力制御テーブル111に関して説明するが、データ出力制御テーブル112,113,・・・に関しても同様の構成となる。
【0065】
データ出力制御テーブル111には、フレームレートを示す項目、送信可能データ量を示す項目および現設定フラグを示す項目が設定される。各項目の横方向に並べられた情報同士が互いに関連付けられて、1つの伝送環境に関する情報を示す。
【0066】
フレームレートを示す項目には、表示装置200が画像を再生する際のフレームレートを示す値がfps(Frame Per Second)単位で設定される。
送信可能データ量を示す項目には、送信が許容される画像データのデータ量がKB/f(Kilo Byte / Frame)単位で設定される。
【0067】
現設定フラグを示す項目には、現在使用中の伝送路の伝送容量およびフレームレートが何れであるかを示すフラグが設定される。現設定フラグを示す項目には、該当の設定である場合には“1”が設定され、該当の設定でない場合には“0”が設定される。
【0068】
データ出力制御テーブル111には、例えば、フレームレートが“30”(fps)、送信可能データ量が“28”(KB/f)、現設定フラグが“1”という情報が設定される。これは、無線LANによる現伝送路の伝送容量が20Mbpsであり、表示装置200が画像を再生する際のフレームレートが“30”(fps)の設定となっていることを示している。また、伝送容量のうち、画像データの送信に利用可能なデータ量が“28”(KB/f)であることを示している。
【0069】
現設定フラグは、表示装置200のフレームレートの設定変更に応じて、受信部185およびフレームレート設定受付部195により更新される。また、伝送路の環境変更などによる伝送容量の変更に応じて通信帯域監視部190により更新される。
【0070】
圧縮率決定部171は、データ出力制御テーブル111を参照して、送信可能データ量を取得して圧縮率の算出に用いる。ただし、圧縮率決定部171は、通信環境に応じて送信可能データ量に相当する値を算出してもよい。
【0071】
図8は、第2の実施の形態のメッシュ管理テーブルのデータ構造例を示す図である。メッシュ管理テーブル131は、メッシュ管理情報記憶部130に格納される。メッシュ管理テーブル131には、メッシュ座標を示す項目、動画領域フラグを示す項目および高品位画像送信済フラグを示す項目が設けられる。各項目の横方向に並べられた情報同士が互いに関連付けられて、1つのメッシュに関する情報を示す。
【0072】
メッシュ座標を示す項目には、各メッシュの座標が設定される。
動画領域フラグを示す項目には、該当のメッシュが動画メッシュであるか否かを示すフラグが設定される。動画領域フラグを示す項目には、該当のメッシュが動画メッシュである場合は“1”が設定され、動画メッシュでない、すなわち、静止画メッシュである場合は“0”が設定される。
【0073】
高品位画像送信済フラグを示す項目には、静止画メッシュについて、動画メッシュよりも圧縮率の小さな(画質の高品位な)画像を送信済みであるか否かを示すフラグが設定される。高品位画像送信済フラグを示す項目には、該当のメッシュについて高品位画像を送信済みである場合は“1”が設定され、未送信である場合は“0”が設定される。なお、高品位画像送信済フラグを示す項目には、該当のメッシュが動画メッシュである場合には、高品位画像の送信対象でないことを示す“−”が設定される。
【0074】
メッシュ管理テーブル131には、例えば、メッシュ座標が(x,y)=“(1,1)”、動画領域フラグが“0”、高品位画像送信済フラグが“1”という情報が設定される。これは、メッシュ座標(x,y)=“(1,1)”で指定されるメッシュが静止画メッシュであり、高品位画像を送信済みであることを示している。
【0075】
また、メッシュ管理テーブル131には、例えば、メッシュ座標が(x,y)=“(71,45)”であり、動画領域フラグが“1”、高品位画像送信済フラグが“−”という情報が設定される。これは、メッシュ座標(x,y)=“(71,45)”で指定されるメッシュが動画メッシュであり、高品位画像の送信対象外であることを示している。
【0076】
次に、以上の構成により実現されるコンピュータ100および表示装置200の処理手順に関して説明する。
まず、コンピュータ100による画像データの送信処理に関して説明する。
【0077】
図9は、第2の実施の形態の画像データの送信処理を示すフローチャートである。以下、図9に示す処理をフローチャートのステップ番号に沿って説明する。
[ステップS1]メッシュ生成部140は、1フレーム分の画像データを受け付ける。
【0078】
[ステップS2]メッシュ生成部140は、受け付けた画像データに含まれる各画素を方形領域に分割してメッシュを生成し、メッシュ記憶部120に格納する。
[ステップS3]変化検出部145は、メッシュ記憶部120に記憶された各メッシュについて、直前に入力された画像データに含まれる同一座標の各メッシュと比較して、画素の画素値に変化があるかを検出する。領域判定部150は、変化検出部145の検出結果に応じて画像データを静止画領域および動画領域に区分する。
【0079】
[ステップS4]送信領域特定部160は、領域判定部150により動画領域と区分されたメッシュ全てを送信領域と特定する。送信領域特定部160は、領域判定部150により静止画領域と区分されたメッシュを送信する場合、静止画領域を更に分割したうちの一部のメッシュを送信領域として特定する。
【0080】
[ステップS5]符号化部170は、送信領域特定部160が特定した送信領域のメッシュを符号化する。符号化部170は、送信領域のうち動画メッシュおよび静止画メッシュをそれぞれの圧縮率で符号化し、動画圧縮データおよび静止画圧縮データを生成する。このとき、符号化部170は、動画領域よりも低い圧縮率で静止画メッシュの符号化を行う。
【0081】
[ステップS6]送信部180は、符号化部170が生成した動画圧縮データおよび静止画圧縮データを表示装置200に送信する。
[ステップS7]メッシュ生成部140は、次フレームの画像データを受け付けたか否かを判定する。受け付けた場合、処理をステップS2に進める。受け付けていない場合、処理を完了する。
【0082】
このようにして、メッシュ生成部140は、順次受け付ける画像データからメッシュを生成する。変化検出部145は、各メッシュの画素値の変化を検出する。領域判定部150は、変化検出部145による変化の検出結果に応じて画像データに含まれる各メッシュを静止画領域および動画領域に分割する。送信領域特定部160は、静止画領域および動画領域から送信領域とするメッシュを特定する。符号化部170は、送信領域とされたメッシュのうち、動画領域は動画領域の圧縮率で、静止画領域は静止画領域の圧縮率で符号化する。送信部180は、符号化部170が生成した動画圧縮データおよび静止画圧縮データを表示装置200に送信する。
【0083】
次に、上記ステップS3〜S5の処理を更に詳細に説明する。
図10は、第2の実施の形態の領域判定処理を示すフローチャートである。以下、図10に示す処理をフローチャートのステップ番号に沿って説明する。なお、図10に示す処理は、図9のステップS3を詳細に示したものである。
【0084】
[ステップS11]変化検出部145は、メッシュ記憶部120に記憶され、最新に入力された画像データに含まれていたメッシュのうちから1つのメッシュを抽出する。メッシュの抽出は、例えば、メッシュ座標の原点を開始点として、x座標の正方向へ走査するようにメッシュを順次抽出することが考えられる。そして、例えば、x座標が最大値に達したら、y座標に1を加えたのち、x座標の最小値から正方向へと抽出していく。
【0085】
[ステップS12]変化検出部145は、最新に入力された画像データの直前に入力された画像データに含まれていたメッシュ(以下、直前メッシュという)のうち、ステップS11で抽出したメッシュと同一座標の直前メッシュを抽出する。変化検出部145は、ステップS11で抽出したメッシュに含まれる各画素の画素値と直前メッシュに含まれる対応する各画素の画素値とを比較することで、該当のメッシュの変化の有無を検出する。画素値に差のある画素が存在する場合、処理をステップS13に進める。画素値に差のある画素が存在しない場合、処理をステップS14に進める。
【0086】
[ステップS13]領域判定部150は、該当のメッシュを動画領域とする。領域判定部150は、メッシュ管理情報記憶部130に記憶されたメッシュ管理テーブル131の該当メッシュ座標に対応するメッシュの動画領域フラグに“1”を設定する。
【0087】
[ステップS14]領域判定部150は、該当のメッシュを静止画領域とする。領域判定部150は、メッシュ管理情報記憶部130に記憶されたメッシュ管理テーブル131の該当メッシュ座標に対応するメッシュの動画領域フラグに“0”を設定する。また、動画領域フラグ“1”から“0”へ新たに変更したメッシュに関して、領域判定部150は、高品位画像送信済フラグに“0”を設定する。領域判定部150は、動画領域フラグを“0”設定のまま維持するメッシュに関しては、高品位画像送信済フラグの設定を変更しない。
【0088】
[ステップS15]変化検出部145は、入力された画像データに含まれるメッシュに変化検出を行っていないメッシュが存在するか否かを判定する。変化検出を行っていないメッシュが存在する場合、処理をステップS11に進める。変化検出を行っていないメッシュが存在しない場合、処理を完了させる。
【0089】
このようにして、変化検出部145は各メッシュについて同一座標の直前メッシュからの変化を検出する。領域判定部150、変化検出部145により変化ありと検出されたメッシュの集合を動画領域と特定する。また、領域判定部150は、変化検出部145により変化なしと検出されたメッシュの集合を静止画領域と特定する。
【0090】
なお、上記ステップS12において、変化検出部145は、変化検出を行うために直前のフレームの画像データを参照する。したがって、最初に受け付けた第1番目のフレームの画像データに関しては、比較対象が存在しないことになる。このため、変化検出部145は、第1番目のフレームに関しては、全メッシュに変化ありとする。そして、領域判定部150は、第1番目のフレームに関しては全メッシュを動画領域として以降の処理を実行する。
【0091】
図11は、第2の実施の形態の送信領域特定処理を示すフローチャートである。以下、図11に示す処理をフローチャートのステップ番号に沿って説明する。なお、図11に示す処理は、図9のステップS4を詳細に示したものである。
【0092】
[ステップS21]送信領域特定部160は、メッシュ管理情報記憶部130に記憶されたメッシュ管理テーブル131の動画領域フラグを参照して、今回送信対象の画像データに静止画領域が含まれているか否かを判定する。静止画領域が含まれている場合、処理をステップS22に進める。静止画領域が含まれていない場合、処理をステップS25に進める。
【0093】
[ステップS22]送信領域特定部160は、メッシュ管理テーブル131の高品位画像送信済フラグを参照して、静止画メッシュのうち、高品位画像を未送信のメッシュが存在するか否かを判定する。高品位画像を未送信のメッシュが存在する場合、処理をステップS23に進める。高品位画像を未送信のメッシュが存在しない場合、処理をステップS25に進める。
【0094】
[ステップS23]送信領域特定部160は、静止画領域の分割数を特定する。ここで、静止画領域の分割数とは、静止画領域の送信回数により決まる。例えば、静止画領域を3つの領域に分割して、異なるタイミングに分けて送信する場合、分割数は3である。分割数が小さいほど、静止画領域の画質は低下する。なお、画質の下限は、分割数が1の時であり、このとき動画領域と同一の画質となる。また、分割数が大きいほど、静止画領域の画質は向上する。分割数は、利用環境に応じて、例えばメッシュ情報記憶部130に予め記憶される。送信領域特定部160は、特定した分割数に基づいて、送信する静止画領域の送信メッシュ数を算出する。
【0095】
[ステップS24]送信領域特定部160は、メッシュ管理テーブル131を参照して、高品位画像を未送信のメッシュのうち、算出した送信メッシュ数分のメッシュを抽出し、抽出した静止画メッシュ群を送信対象の領域とする。送信領域特定部160は、メッシュ管理テーブル131の高品位画像送信済フラグを更新する。すなわち、今回送信対象として抽出した静止画メッシュに設定された高品位画像送信済フラグ“0”を“1”に変更する。送信領域特定部160は、抽出した静止画メッシュ群を符号化部170に出力する。
【0096】
[ステップS25]送信領域特定部160は、メッシュ管理テーブル131の動画領域フラグを参照して、今回送信対象の画像データに動画領域が含まれているか否かを判定する。動画領域が含まれている場合、処理をステップS26に進める。動画領域が含まれていない場合、処理を完了する。
【0097】
[ステップS26]送信領域特定部160は、メッシュ管理テーブル131を参照して、動画メッシュを抽出し、抽出した動画メッシュ群を送信対象の領域とする。送信領域特定部160は、抽出した動画メッシュ群を符号化部170に出力する。
【0098】
このようにして、送信領域特定部160は、静止画領域の一部を送信対象の領域として特定する。送信領域特定部160は、送信対象の領域として選択するメッシュの数を、静止画領域の分割数に応じて算出する。また、送信領域特定部160は、動画領域の全部を送信対象の領域として特定する。
【0099】
なお、上記ステップS21〜S24に示した静止画領域に対する処理および上記ステップS25,S26に示した動画領域に対する処理は、順序を逆にしてもよい。例えば、送信領域特定部160は、動画領域に対する処理(ステップS25,S26)を先に実行した後、静止画領域に対する処理(ステップS21〜S24)を行うことも考えられる。
【0100】
図12は、第2の実施の形態の符号化処理を示すフローチャートである。以下、図12に示す処理をフローチャートのステップ番号に沿って説明する。なお、図12に示す処理は、図9のステップS5を詳細に示したものである。
【0101】
[ステップS31]符号化部170は、送信領域特定部160が特定した送信対象のメッシュ群(動画メッシュ群および静止画メッシュ群)を取得する。
[ステップS32]圧縮率決定部171は、制御情報記憶部110に記憶されたデータ出力制御テーブル111,112,113,・・・の現設定フラグを参照して、現在の送信可能データ量Dを取得する。例えば、本表示システムの環境では、全帯域20Mbps、フレームレート30fpsの設定となっている。そのため、圧縮率決定部171は、D=28(KB/f)を取得する。
【0102】
[ステップS33]圧縮率決定部171は、メッシュ管理情報記憶部130に記憶されたメッシュ管理テーブル131を参照して、静止画領域のメッシュ数Xを取得する。
[ステップS34]圧縮率決定部171は、メッシュ管理テーブル131を参照して、動画領域のメッシュ数Yを取得する。
【0103】
[ステップS35]圧縮率決定部171は、動画メッシュ率Z=Y/(X+Y)を算出する。
[ステップS36]圧縮率決定部171は、上記ステップS31で取得したメッシュ群に静止画メッシュ群と動画メッシュ群とが混在しているか否かを判定する。混在している場合、処理をステップS37に進める。混在していない場合、処理をステップS39に進める。
【0104】
[ステップS37]圧縮率決定部171は、動画メッシュ群に対して割り当て可能なデータ量D1=D×Zを算出する。
[ステップS38]圧縮率決定部171は、静止画メッシュ群に対して割り当て可能なデータ量D2=D−D1を算出する。そして、処理をステップS42に進める。
【0105】
[ステップS39]圧縮率決定部171は、上記ステップS31で取得したメッシュ群は動画メッシュ群のみであるか否かを判定する。動画メッシュ群のみの場合、処理をステップS40に進める。動画メッシュ群のみでない、すなわち、静止画メッシュ群のみである場合、処理をステップS41に進める。
【0106】
[ステップS40]圧縮率決定部171は、動画領域に対して割り当て可能なデータ量D1=Dを取得する。そして、処理をステップS42に進める。
[ステップS41]圧縮率決定部171は、静止画領域に対して割り当て可能なデータ量D2=Dを取得する。そして、処理をステップS42に進める。
【0107】
[ステップS42]動画領域符号化部172は、圧縮率決定部171が求めた動画用送信可能データ量D1に近付くように、上記ステップS31で取得した動画メッシュ群を符号化し、動画圧縮データを得る。また、静止画領域符号化部173は、圧縮率決定部171が求めた静止画用送信可能データ量D2に近付くように、上記ステップS31で取得した静止画メッシュ群を符号化し、静止画圧縮データを得る。なお、符号化部170は、動画圧縮データや静止画圧縮データに、符号化に用いたテーブル類(Motion JPEGであれば、量子化テーブルやハフマン符号化テーブル)および各メッシュの位置(画面上の座標など)を示す情報を含める。
【0108】
[ステップS43]符号化部170は、生成した動画圧縮データと静止画圧縮データとを送信部180に出力する。
このようにして、圧縮率決定部171は、画像データの静止画メッシュ数と動画メッシュ数との比によって、静止画領域と動画領域とに割り当てる送信データ量を算出する。ここで、画像データの静止画メッシュ数と動画メッシュ数との比は、静止画領域と動画領域との面積の比に相当するものである。そして、動画領域符号化部172および静止画領域符号化部173は、圧縮率決定部171が割り当てた各データ量に近くなるように動画メッシュ群および静止画メッシュ群の符号化を行う。
【0109】
具体的には、圧縮率決定部171は、例えば静止画メッシュ数X=300を取得する。また、例えば動画メッシュ数Y=100を取得する。このとき、動画メッシュ率Z=100/(300+100)=0.25となる。したがって、送信可能データD=28KB/fに対して、動画用送信可能データ量D1=28×0.25=7KB/fとなる。また、静止画用送信可能データ量D2=D−D1=21KB/fとなる。
【0110】
このため、動画領域符号化部172は、動画メッシュ群の符号化後データ量が7KBに近付くように符号化を行う。また、静止画領域符号化部173は、静止画メッシュ群の符号化後データ量が21KBに近付くように符号化を行う。例えば、Motion JPEG形式であれば、動画領域符号化部172は、動画メッシュ群の符号化後データ量が7KBを越えない最大のデータ量となるテーブル類(量子化テーブルやハフマン符号テーブル)を用いて符号化する。あるいは、動画領域符号化部172は、動画メッシュ群の符号化後データ量が、7KBに最も近くなるテーブル類を用いて符号化する。静止画領域符号化部173も同様にして、静止画メッシュ群の符号化を行う。
【0111】
なお、圧縮率決定部171は、動画メッシュ率Zに注目させたい領域に応じた所定の係数を乗算(あるいは加減)して、動画用送信可能データ量D1と静止画用送信可能データ量D2との比を変更することも考えられる。例えば、上記具体例において、動画領域の画質を向上させたい場合、動画メッシュ率Zに係数2を乗算してZ=0.5とし、動画用送信可能データ量D1=14KB/f、静止画用送信可能データ量D2=14KB/fとすることも考えられる。また、静止画領域の画質を向上させたい場合、動画メッシュ率Zに係数0.5を乗算して、Z=0.25とし、D1=3.5KB/f、D2=24.5KB/fとすることも考えられる。また、通信帯域の空き状況に応じて、動的に動画メッシュ率Zに乗ずる係数を変更することも考えられる。
【0112】
次に、表示装置200における動画圧縮データおよび静止画圧縮データの受信処理を説明する。
図13は、第2の実施の形態の画像データの受信処理を示すフローチャートである。以下、図13に示す処理をフローチャートのステップ番号に沿って説明する。
【0113】
[ステップS51]受信部210は、コンピュータ100から圧縮データを受信する。受信部210は受信した圧縮データを復号部220に出力する。
[ステップS52]復号部220は、受信部210から取得した圧縮データに含まれる動画圧縮データまたは静止画圧縮データを復号する。動画領域復号部221は、動画圧縮データに含まれる量子化テーブルや符号テーブルにより、動画圧縮データを復号し、動画領域の復号画像データを得る。静止画領域復号部222は、静止画圧縮データに含まれる量子化テーブルや符号テーブルにより、静止画圧縮データを復号し、静止画領域の復号画像データを得る。復号部220は、動画領域または静止画領域の復号画像データを出力処理部230に出力する。
【0114】
[ステップS53]出力処理部230は、復号部220から取得した動画領域または静止画領域の復号画像データに含まれるメッシュを合成する。出力処理部230は、動画圧縮データや静止画圧縮データに含まれる各メッシュの位置を示す情報に基づいて、動画圧縮領域の復号画像データと静止画領域の復号画像データとを適正に合成することができる。なお、出力処理部230は、今回更新されなかった静止画メッシュに関しては、前回までに取得している静止画メッシュの画像を引き続き用いて合成を行う。
【0115】
[ステップS54]出力処理部230は、上記ステップS53の合成により得た復号画像を投影部205に出力し、スクリーン20に投影させる。
このようにして、復号部220は、コンピュータ100から受信した動画圧縮データと静止画圧縮データとを復号する。出力処理部230は、復号により得られた動画領域の復号画像データと静止画領域の復号画像データとを合成して、投影部205によりスクリーン20に投影させる。
【0116】
次に、本表示システムにおいて、通信環境の設定を変更する場合の処理手順を説明する。
図14は、第2の実施の形態の環境の設定変更処理を示すフローチャートである。以下、図14に示す処理をフローチャートのステップ番号に沿って説明する。
【0117】
[ステップS61]通信帯域監視部190は、送信部180および受信部185による通信状況を監視し、通信帯域の変化の有無を判定する。通信帯域が変化した場合、処理をステップS62に進める。通信帯域が変化していない場合、処理をステップS63に進める。
【0118】
[ステップS62]通信帯域監視部190は、制御情報記憶部110に記憶されたデータ出力制御テーブルを変更する。その際、現在の設定に対応する現設定フラグを“1”から“0”に変更する。そして、変更後の新たなデータ出力制御テーブルの該当のフレームレートに対応する現設定フラグを“0”から“1”に変更する。
【0119】
[ステップS63]フレームレート設定受付部195は、ユーザによるフレームレートの設定変更を受け付けたか否かを判定する。フレームレートの設定変更を受け付けた場合、処理をステップS64に進める。フレームレートの設定変更を受け付けていない場合、処理をステップS65に進める。
【0120】
[ステップS64]フレームレート設定受付部195は、制御情報記憶部110に記憶されたデータ出力制御テーブルの現在の設定に対応する現設定フラグを“1”から“0”に変更する。そして、フレームレート設定受付部195は、設定変更後の新たなフレームレートに対応する現設定フラグを“0”から“1”に変更する。
【0121】
[ステップS65]受信部185は、表示装置200から新たなフレームレートの情報を受信したか否かを判定する。新たなフレームレートの情報を受信した場合、処理をステップS66に進める。新たなフレームレートの情報を受信していない場合、処理を完了する。
【0122】
[ステップS66]受信部185は、制御情報記憶部110に記憶されたデータ出力制御テーブル111の現在の設定に対応する現設定フラグを“1”から“0”に変更する。そして、受信部185は、設定変更後の新たなフレームレートに対応する現設定フラグを“0”から“1”に変更する。
【0123】
このようにして、受信部185およびフレームレート設定受付部195は、現在の通信環境に応じた設定を制御情報記憶部110に記憶されたデータ出力制御テーブル111,112,113,・・・に反映することができる。
【0124】
これにより、符号化部170は、現在の通信環境に対して最適な圧縮率で符号化を行うことが可能となる。
次に、コンピュータ100による画像データの送信方法を更に具体的に説明する。以下の説明では、静止画領域の分割数として3が設定されているものとする。
【0125】
図15は、第2の実施の形態の画像データの送信方法の第1の具体例を示す図である。以下、図15に示す処理をステップ番号に沿って説明する。なお、ステップST1は、コンピュータ100が表示装置200へ送信する最初のフレームの処理タイミングである。ステップST2は、ステップST1の次のフレームの処理タイミングである。ステップST3は、ステップST2の次のフレームの処理タイミングである。
【0126】
[ステップST1]領域判定部150は、画像300の全体を動画領域とする。送信領域特定部160は、画像データ300の全体を送信領域と特定する。符号化部170は、画像データ300の全体を符号化し、動画圧縮データを生成する。送信部180は、符号化部170が生成した動画圧縮データを表示装置200に送信する。この場合、表示装置200は、動画圧縮データを復号して、画像データ300の全体に対する復号画像を表示する。
【0127】
[ステップST2]領域判定部150は、画像データ300aの各メッシュと画像データ300の対応する各メッシュとの間の変化から静止画領域311および動画領域321を判定する。送信領域特定部160は、静止画領域311のうち、静止画領域311のメッシュ数を3分割したメッシュ数を含む一部領域311aを送信対象の領域と特定する。また、送信領域特定部160は、動画領域321を送信対象の領域と特定する。符号化部170は、一部領域311aのメッシュを符号化し、静止画圧縮データを生成する。また、符号化部170は、動画領域321のメッシュを符号化し、動画圧縮データを生成する。送信部180は、符号化部170が生成した静止画圧縮データと動画圧縮データとを表示装置200に送信する。
【0128】
この場合、表示装置200は、静止画圧縮データを復号して、一部領域311aの復号画像データを得る。また、表示装置200は、動画圧縮データを復号して動画領域321の復号画像データを得る。表示装置200は、これらの復号画像データを合成して画像データ300aに対する復号画像を表示する。ただし、静止画領域311のうち、一部領域311a以外の領域である一部領域311bでは、ステップST1で取得した復号画像を継続して表示する。この場合、一部領域311aの画質は、一部領域311bおよび動画領域321に比べて高品位となる。
【0129】
[ステップST3]領域判定部150は、画像データ300bの各メッシュと画像データ300aの対応する各メッシュとの間の変化から静止画領域312および動画領域322を判定する。送信領域特定部160は、静止画領域312のうち、一部領域312aを送信対象の領域と特定する。また、送信領域特定部160は、動画領域322を送信対象の領域と特定する。符号化部170は、一部領域312aのメッシュを符号化し、静止画圧縮データを生成する。また、符号化部170は、動画領域322のメッシュを符号化し、動画圧縮データを生成する。送信部180は、符号化部170が生成した静止画圧縮データと動画圧縮データとを表示装置200に送信する。
【0130】
この場合、表示装置200は、静止画圧縮データを復号して、一部領域312aの復号画像データを得る。また、表示装置200は、動画圧縮データを復号して動画領域322の復号画像データを得る。表示装置200は、これらの復号画像データを合成して画像データ300bに対する復号画像を表示する。ただし、静止画領域312のうち、ステップST2で送信済みの一部領域312bでは、ステップST2で取得した復号画像を継続して表示する。また、静止画領域312のうち、一部領域312a,312b以外の領域である一部領域312cでは、ステップST1で取得した復号画像を継続して表示する。この場合、一部領域312a,312bの画質は、一部領域312cおよび動画領域322に比べて高品位となる。
【0131】
このように、コンピュータ100は、静止画領域を複数の領域に分割し、異なるタイミングで送信することで、静止画領域部分の画質を向上させることができる。
次に、コンピュータ100が各タイミングにおいて符号化、送信する各領域のデータを更に詳細に説明する。
【0132】
図16は、第2の実施の形態の各領域の画像データの送信方法の第2の具体例を示す図である。以下、図16に示す処理をステップ番号に沿って説明する。なお、図16のステップST1〜ST3は、図15のステップST1〜ST3に対応する。また、原画像のうち3つに分割した領域を領域R1,R2,R3と表記する。なお、領域R1,R2,R3は、初回フレームより後には、静止画領域として特定される領域であるとする。また、原画像のうち初回フレーム以降も継続して動画領域として特定される領域を動画領域Mと表記する。
【0133】
[ステップST1]コンピュータ100は、画像データのうち、領域R1,R2,R3および動画領域Mのメッシュを符号化して動画圧縮データR11,R21,R31,M11を生成し、表示装置200に送信する。なお、動画圧縮データR11,R21,R31,M11は、特に分割されていなくてもよい。
【0134】
[ステップST2]コンピュータ100は、画像データのうち、領域R1のメッシュを符号化して静止画圧縮データR12を生成し、表示装置200に送信する。また、コンピュータ100は、動画領域Mのメッシュを符号化して、動画圧縮データM12を生成し、表示装置200に送信する。ここで、コンピュータ100は、静止画領域R1に割り当て可能な送信データ量として、ステップST1で領域R2,R3に利用していた分を利用できるので、領域R1を動画領域Mよりも低い圧縮率で符号化することができる。
【0135】
[ステップST3]コンピュータ100は、画像データのうち、領域R2のメッシュを符号化して静止画圧縮データR22を生成し、表示装置200に送信する。また、コンピュータ100は、動画領域Mのメッシュを符号化して、動画圧縮データM13を生成し、表示装置200に送信する。コンピュータ100は、ステップST2と同様に領域R2を動画領域Mよりも低い圧縮率で符号化することができる。
【0136】
[ステップST4]コンピュータ100は、画像データのうち、領域R3のメッシュを符号化して静止画圧縮データR32を生成し、表示装置200に送信する。また、コンピュータ100は、動画領域Mのメッシュを符号化して、動画圧縮データM14を生成し、表示装置200に送信する。コンピュータ100は、ステップST2と同様に領域R3を動画領域Mよりも低い圧縮率で符号化することができる。
【0137】
[ステップST5]コンピュータ100は、画像データのうち、動画領域Mのメッシュを符号化して動画圧縮データM15を生成し、表示装置200に送信する。領域R1,R2,R3に関して既に高品位画像を送信済みであるので、コンピュータ100は、静止画領域の画像データ送信は行わない。
【0138】
[ステップST6]コンピュータ100は、画像データのうち、動画領域Mのメッシュを符号化して動画圧縮データM16を生成し、表示装置200に送信する。領域R1,R2,R3に関して既に高品位画像を送信済みであるので、コンピュータ100は、静止画領域の画像データ送信は行わない。
【0139】
[ステップST7]コンピュータ100は、画像データのうち、動画領域Mのメッシュを符号化して動画圧縮データM17を生成し、表示装置200に送信する。領域R1,R2,R3に関して既に高品位画像を送信済みであるので、コンピュータ100は、静止画領域の画像データ送信は行わない。以降、同様にして動画領域Mの画像データ送信のみが行われる。
【0140】
このように、コンピュータ100は、画像データに含まれるメッシュの時間変化に基づいて、画像データを静止画領域と動画領域とに区分する。そして、コンピュータ100は、静止画メッシュの送信回数を動画メッシュの送信回数よりも少なくする。
【0141】
これにより、ネットワークの伝送容量を効率的に利用して画像データを送信することが可能となる。
なお、上記ステップST7以降、領域R1,R2,R3のメッシュは、変化を検出するまで更新が行われない。ただし、ステップST7以降の所定のタイミングで領域R1,R2,R3の画像を適宜更新するようにしてもよい。
【0142】
また、静止画領域を複数の領域に分割して、異なるタイミングで送信することで、単位面積当たりに割り当て可能な送信データ量を動画領域よりも多く割り当てることができる。
【0143】
これにより、静止画領域の画質を動画領域の画質に比べて高品位とすることができる。その結果、表示装置200によりスクリーン20に表示される画像の見易さを向上することができる。
【0144】
[第3の実施の形態]
次に、第3の実施の形態について説明する。前述の第2の実施の形態との相違点を中心に説明し、同様の事項については説明を省略する。
【0145】
ここで、第2の実施の形態の表示システムでは、静止画領域と動画領域との境界に位置するメッシュは、動画領域と判定されるので、その境界のメッシュの画質は静止画領域よりも低下する。すなわち、境界部分に含まれる静止画の画質が低下することになる。このため、静止画領域と動画領域との境界が際立って、画像が見難くなってしまう。また、例えば、動画像付近に配置されたインタフェース(例えば、動画操作用のインタフェース)を閲覧させたい場合など、注目する箇所が動画領域に隣接していると、その画像が見難くなってしまう。
【0146】
これに対し、第3の実施の形態では、第2の実施の形態で説明した静止画領域と動画領域との境界に位置する第3のメッシュ(境界メッシュ)を導入する。これによって、表示装置200が表示する画像の見易さをより向上する。
【0147】
なお、第3の実施の形態の表示システムの全体構成は、図2で説明した第2の実施の形態の表示システムの全体構成と同一であるため、説明を省略する。また、第3の実施の形態の表示システムに含まれるコンピュータおよび表示装置のハードウェア構成は、図3,4で示した第2の実施の形態のコンピュータ100および表示装置200のハードウェア構成と同一であるため、説明を省略する。
【0148】
図17は、第3の実施の形態の各装置の機能構成を示す図である。コンピュータ100aは、制御情報記憶部110、メッシュ記憶部120、メッシュ管理情報記憶部130a、メッシュ生成部140、変化検出部145、領域判定部150a、送信領域特定部160、符号化部170a、送信部180、受信部185、通信帯域監視部190およびフレームレート設定受付部195を有する。これらの機能はCPU101が画像処理プログラムを実行することで実現される。ただし、これらの機能の一部または全部を専用のハードウェアで実現してもよい。
【0149】
なお、制御情報記憶部110、メッシュ記憶部120、メッシュ生成部140、変化検出部145、送信領域特定部160、送信部180、受信部185、通信帯域監視部190およびフレームレート設定受付部195に関しては、図5で同一の符号を付して説明した構成と同一であるため説明を省略する。また、表示装置200の構成も図5で説明した構成と同一であるため説明を省略する。
【0150】
メッシュ管理情報記憶部130aは、画像内におけるメッシュの位置や、動画、静止画および境界領域の区分などを含むメッシュ管理情報を記憶する。なお、境界領域とは、動画メッシュと静止画メッシュとで隣接している2つのメッシュのうち、動画に区分されるメッシュの集合をいう。
【0151】
領域判定部150aは、変化検出部145の変化の検出結果に基づいて、画像データに含まれる各メッシュを動画領域、静止画領域および境界領域に区分する。具体的には、変化検出部145が変化ありと検出した領域を動画領域と特定する。また、変化検出部145が変化なしと検出した領域を静止画領域と特定する。更に、領域判定部150aは、動画領域と静止画領域とが接する境界に位置するメッシュのうち、動画領域と区分した方のメッシュを境界メッシュとする。境界メッシュの集合が境界領域である。領域判定部150aは、このようにして特定した各メッシュの動画、静止画および境界メッシュの区分に基づいてメッシュ管理情報を生成し、メッシュ管理情報記憶部130aに格納する。
【0152】
符号化部170aは、送信領域特定部160が特定した送信領域のメッシュを順番に符号化してデータ量を削減する(圧縮)。符号化部170aは、圧縮率決定部171a、動画領域符号化部172aおよび静止画領域符号化部173を有する。なお、静止画領域符号化部173は、図5で説明した静止画領域符号化部173と同一である。
【0153】
圧縮率決定部171aは、動画メッシュ群、静止画メッシュ群および境界メッシュ群の符号化後データ量を決定する。圧縮率決定部171aは、動画メッシュの圧縮率よりも静止画メッシュの圧縮率を低く設定する。また、圧縮率決定部171aは、境界メッシュの圧縮率が、動画メッシュに対する圧縮率よりも低く、静止画メッシュに対する圧縮率よりも高くなるよう決定する。
【0154】
動画領域符号化部172aは、圧縮率決定部171aが決定した動画メッシュ群の符号化後データ量に近くなるように送信領域内の動画メッシュを符号化する。また、動画領域符号化部172aは、圧縮率決定部171aが決定した境界メッシュ群の符号化後データ量に近くなるように送信領域内の境界メッシュを符号化する。
【0155】
動画領域符号化部172aは、符号化して生成した動画圧縮データおよび境界圧縮データを送信部180に出力する。
なお、符号化部170aは、表示装置200で画像を再生する際の情報を、各圧縮データに含める。このような情報は、例えばMotion JPEG形式で符号化を行う場合、量子化に用いた量子化テーブル、ハフマン符号化に用いたハフマン符号テーブルおよび各メッシュの位置(画面上の座標など)を示す情報である。
【0156】
図18は、第3の実施の形態のメッシュ管理テーブルのデータ構造例を示す図である。メッシュ管理テーブル131aは、メッシュ管理情報記憶部130aに格納される。メッシュ管理テーブル131aには、メッシュ座標を示す項目、動画領域フラグを示す項目および境界フラグを示す項目および高品位画像送信済フラグを示す項目が設けられる。各項目の横方向に並べられた情報同士が互いに関連付けられて、1つのメッシュに関する情報を示す。
【0157】
なお、メッシュ座標を示す項目、動画領域フラグを示す項目および高品位画像送信済フラグを示す項目は、図8で説明したメッシュ管理テーブル131の同一名称の各項目と同一である。
【0158】
境界フラグを示す項目には、該当のメッシュが境界メッシュであるか否かを示すフラグが設定される。境界フラグを示す項目には、該当のメッシュが境界メッシュである場合は“1”が設定され、境界メッシュでない場合には“0”が設定される。境界メッシュは、動画領域に属するメッシュから特定されるので、静止画領域に属するメッシュに対しては、対象外であることを示す“−”が設定される。すなわち、動画領域フラグが“1”かつ境界フラグが“0”である場合、そのメッシュは動画メッシュである。また、動画領域フラグが“1”かつ境界フラグが“1”である場合、そのメッシュは境界メッシュである。
【0159】
メッシュ管理テーブル131aには、例えば、メッシュ座標が(x,y)=“(72,45)”であり、動画領域フラグが“1”、境界フラグが“1”、高品位画像送信済フラグが“−”という情報が設定される。これは、メッシュ座標(x,y)=“(72,45)”で指定されるメッシュが境界メッシュであり、高品位画像の送信対象外であることを示している。
【0160】
また、メッシュ管理テーブル131aには、例えば、メッシュ座標が(x,y)=“(73,45)”であり、動画領域フラグが“1”、境界フラグが“0”、高品位画像送信済フラグが“−”という情報が設定される。これは、メッシュ座標(x,y)=“(73,45)”で指定されるメッシュが動画メッシュであり、高品位画像の送信対象外であることを示している。
【0161】
次に、以上の構成により実現されるコンピュータ100aおよび表示装置200の処理手順に関して説明する。
なお、コンピュータ100aの画像データの送信処理の手順に関しては、図9で説明した手順と同様であるため説明を省略する。以下、コンピュータ100aの画像データの送信処理に含まれる各処理について詳細に説明する。
【0162】
図19は、第3の実施の形態の領域判定処理を示すフローチャートである。以下、図19に示す処理をフローチャートのステップ番号に沿って説明する。なお、以下の処理は、図9のステップS3の領域判定処理に対応する。
【0163】
[ステップS71]変化検出部145は、メッシュ記憶部120に記憶され、最新に入力された画像データに含まれていたメッシュのうちから1つのメッシュを抽出する。
[ステップS72]変化検出部145は、最新に入力された画像データの直前に入力された画像データに含まれていた直前メッシュのうち、ステップS71で抽出したメッシュと同一座標の直前メッシュを抽出する。変化検出部145は、ステップS71で抽出したメッシュに含まれる各画素の画素値と直前メッシュに含まれる対応する各画素の画素値とを比較することで、該当のメッシュの変化の有無を検出する。濃度に差のある画素が存在する場合、処理をステップS73に進める。画素値に差のある画素が存在しない場合、処理をステップS74に進める。
【0164】
[ステップS73]領域判定部150aは、該当のメッシュを動画領域とする。領域判定部150aは、メッシュ管理情報記憶部130aに記憶されたメッシュ管理テーブル131aの該当メッシュ座標に対応するメッシュの動画領域フラグに“1”を設定する。
【0165】
[ステップS74]領域判定部150aは、該当のメッシュを静止画領域とする。領域判定部150aは、メッシュ管理情報記憶部130aに記憶されたメッシュ管理テーブル131aの該当メッシュ座標に対応するメッシュの動画領域フラグに“0”を設定する。また、動画領域フラグ“1”から“0”へ新たに変更したメッシュに関して、領域判定部150aは、高品位画像送信済フラグに“0”を設定する。領域判定部150aは、動画領域フラグを“0”設定のまま維持するメッシュに関しては、高品位画像送信済フラグの設定を変更しない。
【0166】
[ステップS75]変化検出部145は、入力された画像データに含まれるメッシュに変化検出を行っていないメッシュが存在するか否かを判定する。変化検出を行っていないメッシュが存在する場合、処理をステップS71に進める。変化検出を行っていないメッシュが存在しない場合、処理をステップS76に進める。
【0167】
[ステップS76]領域判定部150aは、上記ステップS73で動画領域としたメッシュのうち、上記ステップS74で静止画領域としたメッシュと隣接するメッシュを抽出する。
【0168】
[ステップS77]領域判定部150aは、静止画領域のメッシュと隣接する動画領域のメッシュを境界メッシュとする。すなわち、領域判定部150aは、該当のメッシュについて、メッシュ管理情報記憶部130aに記憶されたメッシュ管理テーブル131aの境界フラグに“1”を設定する。また、境界メッシュ以外の動画領域のメッシュについては、境界フラグに“0”を設定する。
【0169】
このようにして、領域判定部150aは、静止画領域のメッシュと隣接する動画領域のメッシュを境界メッシュと設定する。
図20,21は、第3の実施の形態の符号化処理を示すフローチャートである。以下、図20,21に示す処理をフローチャートのステップ番号に沿って説明する。なお、以下の処理は、図9のステップS5の符号化処理に対応する。
【0170】
[ステップS81]符号化部170aは、送信領域特定部160が特定した送信対象のメッシュ群(静止画メッシュ群、静止画メッシュ群および境界メッシュ群)を取得する。
[ステップS82]圧縮率決定部171aは、制御情報記憶部110に記憶されたデータ出力制御テーブル111,112,113,・・・の現設定フラグを参照して、現在の送信可能データ量Dを取得する。例えば、本表示システムの環境では、全帯域20Mbps、フレームレート30fpsの設定となっている。
【0171】
[ステップS83]圧縮率決定部171aは、メッシュ管理情報記憶部130aに記憶されたメッシュ管理テーブル131aを参照して、静止画領域のメッシュ数Xを取得する。
【0172】
[ステップS84]圧縮率決定部171aは、メッシュ管理テーブル131aを参照して、動画領域のメッシュ数Yを取得する。ここで、動画領域のメッシュ数Yには、動画メッシュ数および境界メッシュ数が含まれる。
【0173】
[ステップS85]圧縮率決定部171aは、動画領域のメッシュのうち、境界メッシュ数Kを取得する。
[ステップS86]圧縮率決定部171aは、境界メッシュの品質向上係数aを特定する。ここで、品質向上係数g(>1)は、動画メッシュに比べてどの程度だけ送信データ量を多めに割り当てるかを示す係数である。品質向上係数gは、例えば制御情報記憶部110に予め設定される。
【0174】
[ステップS87]圧縮率決定部171aは、動画メッシュ率Za=(Y−K)/(X+Y)を算出する。
[ステップS88]圧縮率決定部171aは、境界メッシュ率Zb=gK/(X+Y)を算出する。
【0175】
[ステップS89]圧縮率決定部171aは、上記ステップS81で取得したメッシュ群に静止画メッシュ群と動画メッシュ群とが混在しているか否かを判定する。混在している場合、処理をステップS90に進める。混在していない場合、処理をステップS93に進める。
【0176】
[ステップS90]圧縮率決定部171aは、動画メッシュ群に対して割り当て可能なデータ量D1a=D×Zaを算出する。
[ステップS91]圧縮率決定部171aは、境界メッシュ群に対して割り当て可能なデータ量D1b=D×Zbを算出する。
【0177】
[ステップS92]圧縮率決定部171aは、静止画メッシュ群に対して割り当て可能なデータ量D2=D−D1a−D1bを算出する。そして、処理をステップS96に進める。
【0178】
[ステップS93]圧縮率決定部171aは、上記ステップS81で取得したメッシュ群に動画メッシュ群のみが含まれているか否かを判定する。動画メッシュ群のみの場合、処理をステップS94に進める。動画メッシュ群のみでない、すなわち、静止画メッシュ群のみである場合、処理をステップS95に進める。
【0179】
[ステップS94]圧縮率決定部171aは、動画メッシュ群に対して割り当て可能なデータ量D1=Dを取得する。そして、処理をステップS96に進める。
[ステップS95]圧縮率決定部171aは、静止画メッシュ群に対して割り当て可能なデータ量D2=Dを取得する。そして、処理をステップS96に進める。
【0180】
[ステップS96]動画領域符号化部172aは圧縮率決定部171aが求めた動画用送信可能データ量D1aに近付くように、上記ステップS81で取得した動画メッシュ群を符号化し、動画圧縮データを得る。また、動画領域符号化部172aは、圧縮率決定部171aが求めた境界用送信可能データ量D1bに近付くように、上記ステップS31で取得した境界メッシュ群を符号化し、境界圧縮データを得る。また、静止画領域符号化部173は、圧縮率決定部171aが求めた静止画用送信可能データ量D2に近付くように、上記ステップS81で取得した静止画メッシュ群を符号化し、静止画圧縮データを得る。なお、符号化部170aは、動画圧縮データ、境界圧縮データおよび静止画圧縮データに、符号化に用いたテーブル類(Motion JPEGであれば、量子化テーブルやハフマン符号化テーブル)および各メッシュの位置(画面上の座標など)を示す情報を含める。
【0181】
[ステップS97]符号化部170aは、生成した動画圧縮データ、境界圧縮データおよび静止画圧縮データを送信部180に出力する。
このようにして、圧縮率決定部171aは、画像データの静止画メッシュ数、動画メッシュ数および境界メッシュ数の比によって、静止画領域と動画領域とに割り当てる送信データ量を算出する。ここで、境界メッシュには、動画メッシュよりも多くのデータ帯域を割り当てて品質を向上する。このため、境界メッシュ数に品質向上係数g(>1)を乗じたもので、静止画メッシュ数および動画メッシュ数との比を取って、境界メッシュ群の送信可能データ量を算出する。
【0182】
図22は、第3の実施の形態の画像の各領域を示す図である。画像データ300は、静止画領域310および動画領域320を有する。また、動画領域320には、境界領域340が含まれる。
【0183】
境界領域340は、上述したように動画領域320に含まれるメッシュのうち、静止画領域310と隣接するメッシュの集合である。
圧縮率決定部171aは、境界領域340に含まれる境界メッシュ群につき単位面積当たりに割り当てる送信データ量が、動画領域320に含まれる動画メッシュ群(動画領域320に含まれるメッシュ群から境界メッシュ群を除いたメッシュ群)につき単位面積当たりに割り当てる送信データ量よりも多くなるようにする。
【0184】
これにより、第2の実施の形態と同様の効果を得ることができる。また、境界領域340の画質を、動画領域320のうち境界領域340以外の領域よりも向上することができる。その結果、静止画領域310と動画領域320との境界部分での画質の急激な変化が抑えられることになる。このため、表示装置200は、閲覧者に与える違和感を抑えた、より見易い画像の表示が可能となる。
【0185】
また、表示する画像中の注目する箇所が動画領域320に隣接した静止画領域310内の静止画像である場合にも、その画像の品質の劣化を抑えることができ、より見易い画像の表示が可能となる。
【0186】
[第4の実施の形態]
次に、第4の実施の形態について説明する。前述の第2,3の実施の形態との相違点を中心に説明し、同様の事項については説明を省略する。
【0187】
ここで、第2,3の実施の形態の表示システムでは、動画領域を移動させる場合、動画領域の背後に存在していた静止画領域を新たに表示することになる。この場合、移動に係る領域に閲覧者の注意が向き易くなる。
【0188】
これに対し、第4の実施の形態の表示システムでは、動画領域から静止画領域に切り替わったメッシュについて、優先的に高品位画像の送信を行うようにする。これにより、動画領域の移動に係る領域の見易さを向上する。
【0189】
なお、第4の実施の形態の表示システムの全体構成は、図2で示した第2の実施の形態の表示システムの全体構成と同一であるため、説明を省略する。また、第4の実施の形態の表示システムに含まれるコンピュータおよび表示装置のハードウェア構成は、図3,4で示した第2の実施の形態のコンピュータ100および表示装置200のハードウェア構成と同一であるため、説明を省略する。
【0190】
図23は、第4の実施の形態の各装置の機能構成を示す図である。コンピュータ100bは、制御情報記憶部110、メッシュ記憶部120、メッシュ管理情報記憶部130b、メッシュ生成部140、変化検出部145、領域判定部150b、送信領域特定部160b、符号化部170、送信部180、受信部185、通信帯域監視部190およびフレームレート設定受付部195を有する。これらの機能はCPU101が画像処理プログラムを実行することで実現される。ただし、これらの機能の一部または全部を専用のハードウェアで実現してもよい。
【0191】
なお、制御情報記憶部110、メッシュ記憶部120、メッシュ生成部140、変化検出部145、符号化部170、送信部180、受信部185、通信帯域監視部190およびフレームレート設定受付部195に関しては、図5で同一の符号を付して説明した構成と同一であるため説明を省略する。また、表示装置200の構成も図5で説明した構成と同一であるため説明を省略する。
【0192】
メッシュ管理情報記憶部130bは、画像内におけるメッシュの位置や、動画、静止画の区分、動画、静止画の各状態がどれだけの時間継続したかを示す継続フレーム数などを含むメッシュ管理情報を記憶する。
【0193】
領域判定部150bは、変化検出部145の変化の検出結果に基づいて、画像データに含まれる各メッシュを動画領域および静止画領域に区分する。具体的には、変化検出部145が変化ありと検出した領域を動画領域と特定する。また、変化検出部145が変化なしと検出した領域を静止画領域と特定する。更に、領域判定部150bは、該当のメッシュについて、同一区分の領域として継続して特定したフレームの数(継続フレーム数)をカウントする。なお、領域判定部150bは、該当のメッシュの領域の区分が変更した場合には、カウントをリセットして、再度1からカウントしなおす。領域判定部150bは、このようにして特定した各メッシュの動画および静止画の区分や継続フレーム数の情報に基づいて、メッシュ管理情報を生成し、メッシュ管理情報記憶部130bに格納する。
【0194】
送信領域特定部160bは、メッシュ管理情報記憶部130bに記憶されたメッシュ管理情報に基づいて、表示装置200に送信する領域(送信領域)を特定する。送信領域特定部160bは、動画領域について、その全部を送信領域と特定する。
【0195】
また、送信領域特定部160bは、静止画領域について、その一部を送信領域と特定する。すなわち、送信領域特定部160bは、静止画領域を更に分割し、分割した領域を複数のタイミングで送信領域として順次特定する。このようにすることで、静止画領域の単位面積当たりの送信データ量を動画領域の単位面積当たりの送信データ量よりも多く割り当てることができる。すなわち、後段の符号化に伴う圧縮率を制御して、静止画領域の画質を動画領域の画質よりも向上させることができる。
【0196】
更に、送信領域特定部160bは、メッシュ管理情報に基づいて、送信領域の選択方法を変更する。具体的には、送信領域特定部160bは、動画領域から静止画領域に切り替わったメッシュに関して優先的に送信領域と特定する。
【0197】
図24は、第4の実施の形態のメッシュ管理テーブルのデータ構造例を示す図である。メッシュ管理テーブル131bは、メッシュ管理情報記憶部130bに格納される。メッシュ管理テーブル131bには、メッシュ座標を示す項目、動画領域フラグを示す項目、高品位画像送信済フラグを示す項目および継続フレーム数を示す項目が設けられている。各項目の横方向に並べられた情報同士が互いに関連付けられて、1つのメッシュに関する情報を示す。
【0198】
なお、メッシュ座標を示す項目、動画領域フラグを示す項目および高品位画像送信済フラグを示す項目は、図8で説明したメッシュ管理テーブル131の同一名称の各項目と同一である。
【0199】
継続フレーム数を示す項目には、該当のメッシュが、動画領域または静止画領域として、継続して特定されたフレームの数が設定される。
メッシュ管理テーブル131bには、例えば、メッシュ座標が(x,y)=“(1,1)”、動画領域フラグが“0”、高品位画像送信済フラグが“1”、継続フレーム数が“10”という情報が設定される。これは、メッシュ座標(x,y)=“(1,1)”で指定されるメッシュが静止画メッシュであり、高品位画像を送信済みで、静止画メッシュの状態が“10”フレーム継続していることを示している。
【0200】
また、メッシュ管理テーブル131bには、例えば、メッシュ座標が(x,y)=“(51,31)”、動画領域フラグが“0”、高品位画像送信済フラグが“0”、継続フレーム数が“10”という情報が設定される。これは、メッシュ座標(x,y)=“(51,31)”で指定されるメッシュが静止画メッシュであり、高品位画像を未送信で、静止画メッシュの状態が“10”フレーム継続していることを示している。
【0201】
また、メッシュ管理テーブル131bには、例えば、メッシュ座標が(x,y)=“(70,45)”、動画領域フラグが“0”、高品位画像送信済フラグが“1”、継続フレーム数が“2”という情報が設定される。これは、メッシュ座標(x,y)=“(70,45)”で指定されるメッシュが静止画メッシュであり、高品位画像を送信済みで、静止画メッシュの状態が“2”フレーム継続していることを示している。
【0202】
また、メッシュ管理テーブル131bには、例えば、メッシュ座標が(x,y)=“(72,45)”、動画領域フラグが“0”、高品位画像送信済フラグが“0”、継続フレーム数が“1”という情報が設定される。これは、メッシュ座標(x,y)=“(72,45)”で指定されるメッシュが静止画メッシュであり、高品位画像を未送信で、静止画メッシュの状態が“1”フレーム継続、すなわち、動画メッシュから静止画メッシュに切り替わった直後であることを示している。
【0203】
また、メッシュ管理テーブル131bには、例えば、メッシュ座標が(x,y)=“(73,45)”、動画領域フラグが“1”、高品位画像送信済フラグが“−”、継続フレーム数が“10”という情報が設定される。これは、メッシュ座標(x,y)=“(73,45)”で指定されるメッシュが動画メッシュであり、高品位画像の送信対象外で、動画メッシュの状態が“1”フレーム継続、すなわち、静止画メッシュから動画メッシュに切り替わった直後であることを示している。
【0204】
次に、以上の構成により実現されるコンピュータ100bおよび表示装置200の処理手順に関して説明する。
なお、コンピュータ100bの画像データの送信処理の手順に関しては、図9で説明した手順と同様であるため説明を省略する。以下、コンピュータ100bの画像データの送信処理に含まれる各処理について詳細に説明する。
【0205】
図25は、第4の実施の形態の送信領域特定処理を示すフローチャートである。以下、図25に示す処理をフローチャートのステップ番号に沿って説明する。
[ステップS101]送信領域特定部160bは、メッシュ管理情報記憶部130bに記憶されたメッシュ管理テーブル131bの動画領域フラグを参照して、今回送信対象の画像データに静止画領域が含まれているか否かを判定する。静止画領域が含まれている場合、処理をステップS102に進める。静止画領域が含まれていない場合、処理をステップS107に進める。
【0206】
[ステップS102]送信領域特定部160bは、メッシュ管理テーブル131bの高品位画像送信済フラグを参照して、静止画メッシュのうち、高品位画像を未送信のメッシュが存在するか否かを判定する。高品位画像を未送信のメッシュが存在する場合、処理をステップS103に進める。高品位画像を未送信のメッシュが存在しない場合、処理をステップS107に進める。
【0207】
[ステップS103]送信領域特定部160bは、静止画領域の分割数を特定する。静止画領域の分割数は、利用環境に応じて、例えば、メッシュ管理情報記憶部130bに予め記憶される。送信領域特定部160bは、特定した分割数に基づいて、送信する静止画領域の送信メッシュ数を算出する。
【0208】
[ステップS104]送信領域特定部160bは、メッシュ管理テーブル131bを参照して、動画領域フラグが“0”かつ継続フレーム数が“1”であるメッシュ、すなわち、動画メッシュから静止画メッシュに切り替わった直後のメッシュが存在するか否かを判定する。存在する場合、処理をステップS105に進める。存在しない場合、処理をステップS106に進める。
【0209】
[ステップS105]送信領域特定部160bは、静止画領域の送信対象メッシュとして、動画メッシュから静止画メッシュに切り替わった直後のメッシュ(継続フレーム数“1”)で高品位画像を未送信のメッシュを抽出する。
【0210】
[ステップS106]送信領域特定部160bは、メッシュ管理テーブル131bを参照して、高品位画像を未送信のメッシュのうち、ステップS103で算出した送信メッシュ数分のメッシュを抽出する。なお、ステップS105で動画メッシュから静止画メッシュに切り替わった直後のメッシュを抽出済みである場合には、残りの送信メッシュ数分を抽出する。送信領域特定部160bは、メッシュ管理テーブル131bの高品位画像送信済フラグを更新する。すなわち、今回送信対象として抽出した静止画メッシュに設定された高品位画像送信済フラグ“0”を“1”に変更する。送信領域特定部160bは、抽出した静止画メッシュ群を符号化部170に出力する。
【0211】
[ステップS107]送信領域特定部160bは、メッシュ管理テーブル131bの動画領域フラグを参照して、今回送信対象の画像データに動画領域が含まれているか否かを判定する。動画領域が含まれている場合、処理をステップS108に進める。動画領域が含まれていない場合、処理を完了する。
【0212】
[ステップS108]送信領域特定部160bは、メッシュ管理テーブル131bを参照して、動画メッシュを抽出し、抽出した動画メッシュ群を送信対象の領域とする。送信領域特定部160は、抽出した動画メッシュ群を符号化部170に出力する。
【0213】
このようにして、送信領域特定部160bは、動画メッシュから静止画メッシュに切り替わった直後のメッシュを優先的に抽出して、表示装置200への送信対象とする。
なお、上記ステップS101〜S106に示した静止画領域に対する処理および上記ステップS107,S108に示した動画領域に対する処理は、順序を逆にしてもよい。例えば、送信領域特定部160bは、動画領域に対する処理(ステップS107,S108)を先に実行した後、静止画領域に対する処理(ステップS101〜S106)を行うことも考えられる。
【0214】
図26は、第4の実施の形態の画像データの送信方法の具体例を示す図である。以下、図26に示す処理をステップ番号に沿って説明する。なお、図26の各ステップでは、画像を構成するメッシュに、その継続フレーム数を図示している。また、ステップST11は、コンピュータ100bが表示装置200への最初のフレームの送信タイミングである。ステップST12は、ステップST11の次のフレームの送信タイミングである。以降、ステップST13,ST14に関しても同様である。
【0215】
[ステップST11]コンピュータ100bは、画像400の全体を動画領域として符号化し、表示装置200に送信する。このとき、全メッシュが新たに動画領域として特定されることになるので、全メッシュの継続フレーム数は“1”となる。
【0216】
[ステップST12]コンピュータ100bは、各メッシュの変化から、静止画領域410および動画領域420を特定する。そして、静止画領域410のうち、一部領域411を符号化し、表示装置200に送信する。また、動画領域420の全体を符号化し、表示装置200に送信する。一部領域411は、動画領域420よりも高品位の画像となる。なお、静止画領域410のうち、一部領域411以外の領域に関しては、表示装置200は、ステップST11で受信した画像データを引き続き表示する。
【0217】
[ステップST13]コンピュータ100bは、上記ステップST12の動画領域420が動画領域421の位置へ変更されたことを検知する。このとき、一部領域422は、動画領域として検出される。コンピュータ100bは、静止画領域のうち一部領域412を符号化し、表示装置200に送信する。また、動画領域421および一部領域422の全体を符号化し、表示装置200に送信する。一部領域412は、動画領域421および一部領域422よりも高品位の画像となる。なお、一部領域411に関しては、表示装置200は、ステップST12で受信した画像データを引き続き表示する。また、静止画領域のうち、一部領域411,412以外の領域については、表示装置200は、ステップS11で受信した画像データを引き続き表示する。
【0218】
[ステップST14]コンピュータ100bは、上記ステップST12の動画領域421が動画領域423の位置へ変更されたことを検知する。このとき、一部領域424は、動画領域と特定される。また、一部領域415は、一部領域422からの変化がないため、静止画領域と特定される。コンピュータ100bは、静止画領域のうち一部領域414,415を符号化し、表示装置200に送信する。また、動画領域423および一部領域424を符号化し、表示装置200に送信する。一部領域414,415は、動画領域423および一部領域424よりも高品位の画像になる。なお、一部領域413に関しては、表示装置200は、ステップST12,ST13で受信した画像データを引き続き表示する。また、静止画領域のうち、一部領域413,414,415以外の領域については、表示装置200は、ステップST11で受信した画像データを引き続き表示する。
【0219】
このように、コンピュータ100bは、動画領域が移動に伴って、動画領域から静止画領域に切り替わった領域(上記の例では、一部領域415)のメッシュについて、優先的に送信対象とする。
【0220】
これにより、第2の実施の形態と同様の効果を得ることができる。また、動画領域の移動に係る領域は、閲覧者の注意が向き易い。このため、このような領域に対して優先的に画質を高めることで、閲覧者に対して与え得る違和感を軽減し、見易さをより向上することができる。
【0221】
[第5の実施の形態]
次に、第5の実施の形態について説明する。前述の第2〜第4の実施の形態との相違点を中心に説明し、同様の事項については説明を省略する。
【0222】
ここで、第2〜第4の実施の形態の表示システムでは、その利用状況によっては、使用可能な帯域に余裕ができることも考えられる。このため、第5の実施の形態の表示システムでは、このような余剰の帯域を用いて、表示装置が表示する画像の見易さをより向上する。
【0223】
なお、第5の実施の形態の表示システムの全体構成は、図2で示した第2の実施の形態の表示システムの全体構成と同一であるため、説明を省略する。また、第5の実施の形態の表示システムに含まれるコンピュータおよび表示装置のハードウェア構成は、図3,4で示した第2の実施の形態のコンピュータ100および表示装置200のハードウェア構成と同一であるため、説明を省略する。
【0224】
図27は、第5の実施の形態の各装置の機能構成を示す図である。コンピュータ100cは、制御情報記憶部110c、メッシュ記憶部120、メッシュ管理情報記憶部130c、メッシュ生成部140、変化検出部145、領域判定部150c、送信領域特定部160c、符号化部170cを有する。これらの機能はCPU101が画像処理プログラムを実行することで実現される。ただし、これらの機能の一部または全部を専用のハードウェアで実現してもよい。なお、図27ではメッシュ管理情報記憶部130cと符号化部170cとの間の関連線は省略してある。
【0225】
また、メッシュ記憶部120、メッシュ生成部140、変化検出部145、領域判定部150c、送信部180、受信部185、通信帯域監視部190およびフレームレート設定受付部195に関しては、図5で同一の符号を付して説明した構成と同一であるため説明を省略する。更に、表示装置200の構成も図5で説明した構成と同一であるため説明を省略する。
【0226】
制御情報記憶部110cは、画像データの符号化に際して、圧縮率(あるいは画質)を特定するためのデータ出力制御情報を記憶する。また、制御情報記憶部110cは、静止画領域の画像データを再送するまでの継続フレーム数しきい値を記憶する。
【0227】
メッシュ管理情報記憶部130cは、画像内におけるメッシュの位置や、動画、静止画の区分、動画、静止画の各状態がどれだけの時間継続したかを示す継続フレーム数などを含むメッシュ管理情報を記憶する。
【0228】
領域判定部150cは、変化検出部145の変化の検出結果に基づいて、画像データに含まれる各メッシュを動画領域および静止画領域に区分する。具体的には、変化検出部145が変化ありと検出した領域を動画領域と特定する。また、変化検出部145が変化なしと検出した領域を静止画領域と特定する。更に、領域判定部150cは、該当のメッシュについて、同一区分の領域として継続して特定したフレームの数(継続フレーム数)をカウントする。なお、領域判定部150cは、該当のメッシュの領域の区分が変更した場合には、カウントをリセットして、再度1からカウントしなおす。領域判定部150cは、このようにして特定した各メッシュの動画および静止画の区分や継続フレーム数の情報に基づいて、メッシュ管理情報を生成し、メッシュ管理情報記憶部130cに格納する。
【0229】
送信領域特定部160cは、メッシュ管理情報記憶部130cに記憶されたメッシュ管理情報に基づいて、表示装置200に送信する領域(送信領域)を特定する。送信領域特定部160cは、動画領域について、その全部を送信領域と特定する。
【0230】
また、送信領域特定部160cは、静止画領域について、その一部を送信領域と特定する。すなわち、送信領域特定部160cは、静止画領域を分割し(一次分割)、分割した領域を複数のタイミングで送信領域として順次特定する。このようにすることで、静止画領域の単位面積当たりの送信画像データ量を動画領域の単位面積当たりの送信画像データ量よりも多く割り当てることができる。すなわち、後段の符号化に伴う圧縮率を制御して、静止画領域の画質を動画領域の画質よりも向上させることができる。
【0231】
更に、送信領域特定部160cは、メッシュ管理情報と、制御情報記憶部110cに記憶された継続フレーム数しきい値と、を参照して、継続フレーム数しきい値を超えて静止画領域の状態が継続している静止画メッシュの再送を行う。このとき、送信領域特定部160cは、一次分割時の分割数よりも多くの分割数で静止画領域を分割する(二次分割)。このように、一次分割数よりも多く分割して静止画領域を順次再送することで、静止画領域の単位面積当たりの送信画像データ量を一次分割時よりも多く割り当てることができる。これによって、一次分割で送信した静止画領域の画質をより向上することができる。
【0232】
符号化部170cは、送信領域特定部160cが特定した送信領域のメッシュを順番に符号化してデータ量を削減する。符号化部170cは、圧縮率決定部171c、動画領域符号化部172および静止画領域符号化部173cを有する。ここで、動画領域符号化部172は、図5で同一の符号を付して説明した構成と同一であるため説明を省略する。
【0233】
圧縮率決定部171cは、動画メッシュ群または静止画メッシュ群の符号化後データ量を決定する。ここで、圧縮率決定部171cは、動画メッシュの圧縮率よりも静止画メッシュの圧縮率を低く設定し、静止画領域については、動画領域よりも高品位な画像の表示を可能とする。更に、圧縮率決定部171cは、静止画領域について、一次分割での送信時よりも二次分割での送信時の方が圧縮率を低く設定する。これによって、二次分割により表示された静止画領域の画質をより向上することができる。
【0234】
静止画領域符号化部173cは、圧縮率決定部171cが決定した静止画領域の符号化後データ量に近くなるように送信領域内の静止画メッシュ群を符号化する。静止画領域符号化部173cは、圧縮率決定部171cから一次分割時の符号化データ量を取得した場合、一次分割時の符号化データ量に近いデータ量となるよう静止画メッシュ群を符号化する。また、静止画領域符号化部173cは、圧縮率決定部171cから二次分割時の符号化データ量を取得した場合、二次分割時の符号化データ量に近いデータ量となるよう静止画メッシュ群を符号化する。
【0235】
静止画領域符号化部173cは、符号化して生成した静止画圧縮データを送信部180に出力する。
図28は、第5の実施の形態の継続フレーム数しきい値設定テーブルのデータ構造例を示す図である。継続フレーム数しきい値設定テーブル111cは、制御情報記憶部110cに予め格納される。継続フレーム数しきい値設定テーブル111cには、継続フレーム数しきい値が設定される。
【0236】
継続フレーム数しきい値は、静止画領域について二次分割した画像を送信するまでに該当メッシュが静止画メッシュ状態のままで経過すべき継続フレーム数のしきい値を示す。すなわち、送信領域特定部160cは、継続フレーム数しきい値以上となった静止画メッシュ群を二次分割による送信対象と特定して、符号化部170cに出力する。これにより、継続フレーム数以上の期間が経過した静止画メッシュの画質を向上する。
【0237】
図29は、第5の実施の形態のメッシュ管理テーブルのデータ構造例を示す図である。メッシュ管理テーブル131cは、メッシュ管理情報記憶部130cに格納される。メッシュ管理テーブル131cには、メッシュ座標を示す項目、動画領域フラグを示す項目、一次高品位画像送信済フラグを示す項目、二次高品位画像送信済フラグを示す項目および継続フレーム数を示す項目が設けられている。各項目の横方向に並べられた情報同士が互いに関連付けられて、1つのメッシュに関する情報を示す。
【0238】
なお、メッシュ座標を示す項目、動画領域フラグを示す項目は、図8で説明したメッシュ管理テーブル131の同一名称の各項目と同一である。
一次高品位画像送信済フラグを示す項目には、静止画メッシュについて、一次分割による一次高品位画像を送信済みであるか否かを示すフラグが設定される。一次高品位画像送信済フラグを示す項目には、該当のメッシュについて一次高品位画像を送信済みである場合は“1”が設定され、未送信である場合は“0”が設定される。なお、一次高品位画像送信済フラグを示す項目には、該当のメッシュが動画メッシュである場合には、一次高品位画像の送信対象でないことを示す“−”が設定される。
【0239】
二次高品位画像送信済フラグを示す項目には、静止画メッシュについて、二次分割による二次高品位画像を送信済みであるか否かを示すフラグが設定される。二次高品位画像送信済フラグを示す項目には、該当のメッシュについて二次高品位画像を送信済みである場合は“1”が設定され、未送信である場合は“0”が設定される。なお、二次高品位画像送信済フラグを示す項目には、該当のメッシュが動画メッシュである場合には、二次高品位画像の送信対象でないことを示す“−”が設定される。
【0240】
継続フレーム数を示す項目には、該当のメッシュが静止画領域として継続して特定されたフレームの数が設定される。
メッシュ管理テーブル131cには、例えば、メッシュ座標が(x,y)=“(1,1)”、動画領域フラグが“0”、一次高品位画像送信済フラグが“1”、二次高品位画像送信済フラグが“1”、継続フレーム数が“35”という情報が設定される。これは、メッシュ座標(x,y)=“(1,1)”で指定されるメッシュが静止画メッシュであり、静止画メッシュの状態で“35”フレーム継続していることを示している。また、そのメッシュについて、一次高品位画像、二次高品位画像ともに表示装置200へ送信済みであることを示している。
【0241】
また、メッシュ管理テーブル131cには、例えば、メッシュ座標が(x,y)=“(51,31)”、動画領域フラグが“0”、一次高品位画像送信済フラグが“1”、二次高品位画像送信済フラグが“0”、継続フレーム数が“28”という情報が設定される。これは、メッシュ座標(x,y)=“(51,31)”で指定されるメッシュが静止画メッシュであり、静止画メッシュの状態で“28”フレーム継続していることを示している。また、そのメッシュについて、一次高品位画像は表示装置200へ送信済みであるが、二次高品位画像は表示装置200へ未送信であることを示している。
【0242】
なお、領域判定部150cは、該当メッシュを静止画領域と新たに判定したタイミングで、一次高品位画像送信済フラグおよび二次高品位画像送信済フラグに“0”を設定する。
【0243】
次に、以上の構成により実現されるコンピュータ100cおよび表示装置200の処理手順に関して説明する。
なお、コンピュータ100cの画像データの送信処理の手順に関しては、図9で説明した手順と同様であるため説明を省略する。以下、コンピュータ100cの画像データの送信処理に含まれる各処理について詳細に説明する。
【0244】
図30は、第5の実施の形態の送信領域特定処理を示すフローチャートである。以下、図30に示す処理をフローチャートのステップ番号に沿って説明する。
[ステップS111]送信領域特定部160cは、メッシュ管理情報記憶部130cに記憶されたメッシュ管理テーブル131cの動画領域フラグを参照して、今回送信対象の画像データに静止画領域が含まれているか否かを判定する。静止画領域が含まれている場合、処理をステップS112に進める。静止画領域が含まれていない場合、処理をステップS119に進める。
【0245】
[ステップS112]送信領域特定部160cは、メッシュ管理テーブル131cの一次高品位画像送信済フラグを参照して、静止画メッシュのうち、一次高品位画像を未送信のメッシュが存在するか否かを判定する。一次高品位画像を未送信のメッシュが存在する場合、処理をステップS113に進める。一次高品位画像を未送信のメッシュが存在しない場合、処理をステップS115に進める。
【0246】
[ステップS113]送信領域特定部160cは、静止画領域の一次分割数を特定する。静止画領域の一次分割数は、利用環境に応じて、例えば、メッシュ管理情報記憶部130cに予め記憶される。送信領域特定部160cは、特定した一次分割数に基づいて、送信する静止画領域の一次送信メッシュ数を算出する。
【0247】
[ステップS114]送信領域特定部160cは、メッシュ管理テーブル131cを参照して、一次高品位画像を未送信のメッシュのうち、ステップS113で算出した一次送信メッシュ数分のメッシュを抽出する。送信領域特定部160cは、メッシュ管理テーブル131cの一次高品位画像送信済フラグを更新する。すなわち、今回送信対象として抽出した静止画メッシュに設定された一次高品位画像送信済フラグ“0”を“1”に変更する。送信領域特定部160cは、抽出した静止画メッシュ群を符号化部170cに出力する。なお、送信領域特定部160cは、出力した静止画メッシュ群が一次分割に対応するものである旨を符号化部170cに通知する。
【0248】
[ステップS115]送信領域特定部160cは、制御情報記憶部110cを参照して、継続フレーム数しきい値を取得する。そして、送信領域特定部160cは、メッシュ管理テーブル131cを参照して継続フレーム数しきい値以上の継続フレーム数となった静止画メッシュが存在するか否かを判定する。存在する場合、処理をステップS116に進める。存在しない場合、処理をステップS119に進める。
【0249】
[ステップS116]送信領域特定部160cは、メッシュ管理テーブル131cの二次高品位画像送信済フラグを参照して、二次高品位画像を未送信のメッシュが存在するか否かを判定する。二次高品位画像を未送信のメッシュが存在する場合、処理をステップS117に進める。二次高品位画像を未送信のメッシュが存在しない場合、処理をステップS119に進める。
【0250】
[ステップS117]送信領域特定部160cは、静止画領域の二次分割数を特定する。静止画領域の二次分割数は、利用環境に応じて、例えば、メッシュ管理情報記憶部130cに予め記憶される。送信領域特定部160cは、特定した二次分割数に基づいて、送信する静止画領域の二次送信メッシュ数を算出する。
【0251】
[ステップS118]送信領域特定部160cは、メッシュ管理テーブル131cを参照して、二次高品位画像を未送信のメッシュのうち、ステップS117で算出した二次送信メッシュ数分のメッシュを抽出する。送信領域特定部160cは、メッシュ管理テーブル131cの二次高品位画像送信済フラグを更新する。すなわち、今回送信対象として抽出した静止画メッシュに設定された二次高品位画像送信済フラグ“0”を“1”に変更する。送信領域特定部160cは、抽出した静止画メッシュ群を符号化部170cに出力する。なお、送信領域特定部160cは、出力した静止画メッシュ群が二次分割に対応するものである旨を符号化部170cに通知する。
【0252】
[ステップS119]送信領域特定部160cは、メッシュ管理テーブル131cの動画領域フラグを参照して、今回送信対象の画像データに動画領域が含まれているか否かを判定する。動画領域が含まれている場合、処理をステップS120に進める。動画領域が含まれていない場合、処理を完了する。
【0253】
[ステップS120]送信領域特定部160cは、メッシュ管理テーブル131cを参照して動画メッシュを抽出し、抽出した動画メッシュ群を送信対象の領域とする。送信領域特定部160cは、抽出した動画メッシュ群を符号化部170cに出力する。
【0254】
このようにして送信領域特定部160cは、静止画領域の一部送信対象の領域として特定する。送信領域特定部160cは、送信対象の領域として選択するメッシュの数を静止画領域の分割数に応じて算出する。また、送信領域特定部160cは、静止画領域の分割数を一次分割時よりも二次分割時の方が多くなるようにする。
【0255】
これにより、後段の符号化処理において、二次分割時の静止画メッシュ群について同一面積の送信データ量を一次分割時の静止画メッシュ群よりも多く割り当てることができる。
【0256】
なお、上記ステップS111〜S118に示した静止画領域に対する処理および上記ステップS119,S120に示した動画領域に対する処理は、順序を逆にしてもよい。例えば、送信領域特定部160cは、動画領域に対する処理(ステップS119,S120)を先に実行した後、静止画領域に対する処理(ステップS111〜S118)を行うことも考えられる。
【0257】
図31は、第5の実施の形態の二次高品位画像の送信方法の具体例を示す図である。以下、図31に示す処理をステップ番号に沿って説明する。なお、図31の各ステップでは、画像を構成するメッシュに、その継続フレーム数を図示している。また、ステップST21は、コンピュータ100cが表示装置200への最初のフレームの送信タイミングである。ステップST22は、ステップST21の次のフレームの送信タイミングである。以降、ステップST23,ST24に関しても同様である。
【0258】
[ステップST21]コンピュータ100cは、画像500のうち動画領域520を符号化し、表示装置200に送信する。このとき、全メッシュの継続フレーム数は“29”であるとする。静止画領域510に関しては、既に全ての静止画メッシュについて一次高品位画像を送信済みであるので、表示装置200への画像データの送信は行われない。
【0259】
[ステップST22]コンピュータ100cは、画像500のうち、動画領域521を符号化し、表示装置200に送信する。このとき、全メッシュの継続フレーム数は“30”となる。静止画領域511に関しては、既に全ての静止画メッシュについて一時高品位画像を送信済みであるので、表示装置200への画像データの送信は行われない。
【0260】
[ステップST23]コンピュータ100cは、画像500のうち、動画領域522を符号化し、表示装置200に送信する。また、コンピュータ100cは、画像500のうち、静止画領域を二次分割した際の一単位である一部領域512を符号化し、表示装置200に送信する。このとき、例えば、二次分割数を一次分割数の2倍に設定しておけば、一部領域512に対して、一次分割時よりも2倍の送信データ量を割り当てることができる。すなわち、圧縮率を低減して、一部領域512の画質を向上できる。なお、全メッシュの継続フレーム数は“31”となる。
【0261】
[ステップST24]コンピュータ100cは、画像500のうち、動画領域523を符号化し、表示装置200に送信する。また、コンピュータ100cは、画像500のうち、静止画領域を二次分割した際の一単位である一部領域514を符号化し、表示装置200に送信する。一部領域513は、ステップST23の一部領域512に対応する。表示装置200は、一部領域513に関しては、ステップST23で受信した画像を継続して表示する。なお、全メッシュの継続フレーム数は“32”となる。
【0262】
このように、コンピュータ100cは、静止画領域について一次分割により画像送信した後、所定のフレーム数が継続した静止画メッシュについては一次分割よりも細かい分割数で二次分割を行って、表示装置200へ画像データを送信する。
【0263】
これにより、第2の実施の形態と同様の効果を実現することができる。また、静止画領域の画質を更に向上して、より見易い画像表示を実現することが可能となる。
第2〜第5の実施の形態で説明したように、コンピュータ100,100a,100b,100cは、画像データに含まれるメッシュの時間変化に基づいて、画像データを静止画領域と動画領域とに区分する。そして、コンピュータ100は、静止画メッシュの送信回数を動画メッシュの送信回数よりも少なくする。
【0264】
これにより、ネットワークの伝送容量を効率的に利用して画像データを送信することが可能となる。
また、静止画領域を複数の領域に分割して、異なるタイミングで送信することで、単位面積当たりに割り当て可能な送信データ量を動画領域よりも多く割り当てることができる。
【0265】
これにより、静止画領域の画質を動画領域の画質に比べて高品位とすることができる。その結果、表示装置200によりスクリーン20に表示される画像の見易さを向上することができる。
【0266】
また、第3の実施の形態で説明したように、静止画領域と動画領域との境界である境界領域を導入する。そして、境界メッシュ群について単位面積当たりに割り当てる送信データ量を動画メッシュ群について単位面積当たりに割り当てる送信データ量よりも多くなるようにする。
【0267】
これにより、境界メッシュ群の画質を、動画メッシュ群の画質よりも向上することができる。その結果、静止画領域と動画領域との境界部分での画質の急激な変化が抑えられることになる。このため、表示装置200は、閲覧者に与える違和感を抑えた、より見易い画像の表示が可能となる。
【0268】
また、表示する画像中の注目する箇所が動画領域に隣接した静止画領域内の静止画像である場合にも、その画像の品質の劣化を抑えることができ、より見易い画像の表示が可能となる。
【0269】
また、第4の実施の形態で説明したように、動画領域が移動に伴って、動画領域から静止画領域に切り替わった領域のメッシュについて、優先的に送信対象とする。
すなわち、閲覧者の注意が向き易い動画領域の移動に係る領域に対して優先的に画質を高める。これにより、閲覧者に対して与え得る違和感を軽減し、見易さをより向上することができる。
【0270】
また、第5の実施の形態で説明したように、静止画領域について一次分割により画像送信した後、所定のフレーム数が継続した静止画メッシュについては一次分割よりも細かい分割数で二次分割を行って、表示装置200へ画像データを送信する。
【0271】
これにより、静止画領域の画質を更に向上して、より見易い画像表示を実現することが可能となる。
これらの方法を用いることで、画像データを効率的に送信することが可能となる。具体的には、変化の少ない静止画領域の画像データの送信回数を変化の多い動画領域の画像データの送信回数よりも少なくする。その結果、伝送容量が不必要に使用されることを抑止することができる。また、余剰の伝送容量を用いて、画質をより向上することができる。また、その分の伝送容量を他のデータ通信に利用することもできる。
【0272】
以上、本発明の画像処理プログラム、表示システム、画像処理装置および画像処理方法を図示の実施の形態に基づいて説明したが、本発明はこれに限定されるものではなく、各部の構成は同様の機能を有する任意の構成のものに置換することができる。また、本発明に他の任意の構成物や行程が付加されてもよい。また、本発明は前述した実施の形態のうちの任意の2以上の構成(特徴)を組み合わせたものであってもよい。
【符号の説明】
【0273】
1 コンピュータ
1a 検出手段
1b 送信手段
2 表示装置
10,10a,10b 画像
11 第1の種類の領域
12 第2の種類の領域
11a,11b,12a,12b 画像情報
【特許請求の範囲】
【請求項1】
コンピュータを、
時系列に入力された複数の画像間の変化に応じて、各画像に含まれる第1の種類の領域と前記第1の種類の領域よりも変化量の大きい第2の種類の領域とを検出する検出手段、
所定の時間幅における前記第1の種類の領域の画像情報の送信回数を前記所定の時間幅における前記第2の種類の領域の画像情報の送信回数よりも少ない回数として、前記第1の種類の領域の画像情報と前記第2の種類の領域の画像情報とを順次送信する送信手段、
として機能させることを特徴とする画像処理プログラム。
【請求項2】
前記検出手段は、前記第1の種類の領域として複数の領域を検出し、前記複数の領域のうち所定数の領域ごとに送信対象領域として順次特定し、
前記送信手段は、前記検出手段が特定した前記送信対象領域の画像情報を送信する、
ことを特徴とする請求項1記載の画像処理プログラム。
【請求項3】
前記コンピュータを、更に、前記検出手段が特定した前記送信対象領域の画像情報を第1の圧縮率で符号化し、前記第2の種類の領域の画像情報を前記第1の圧縮率よりも高い第2の圧縮率で符号化する符号化手段として機能させ、
前記送信手段は、前記符号化手段による符号化後の前記送信対象領域の画像情報および前記第2の種類の領域の画像情報を送信する、
ことを特徴とする請求項2記載の画像処理プログラム。
【請求項4】
前記符号化手段は、前記コンピュータが接続されたネットワークの伝送容量、前記第1の種類の領域と前記第2の種類の領域との面積の比および送信対象とする前記送信対象領域の画像情報のデータ量と前記第2の種類の領域の画像情報のデータ量とに基づいて、前記第1の圧縮率と前記第2の圧縮率とを決定することを特徴とする請求項3記載の画像処理プログラム。
【請求項5】
前記検出手段は、前記第2の種類の領域として検出された複数の領域のうち、前記第1の種類の領域と隣接する領域である第3の領域を検出し、
前記符号化手段は、前記第3の領域の画像情報を前記第1の圧縮率よりも高く、前記第2の種類の領域の圧縮率よりも低い圧縮率で符号化し、
前記送信手段は、前記符号化手段による符号化後の前記第3の領域の画像情報を前記第2の種類の領域の画像情報と共に送信する、
ことを特徴とする請求項3または4の何れか1項に記載の画像処理プログラム。
【請求項6】
前記符号化手段は、前記検出手段により前記第2の種類の領域として検出されていた領域が前記第1の種類の領域として検出された場合、前記第1の種類の領域内の当該領域の種類が変化した領域である変化領域以外の領域よりも優先して当該変化領域の画像情報を符号化し、
前記送信手段は、前記符号化手段による符号化後の前記変化領域の画像情報を送信する、
ことを特徴とすることを特徴とする請求項3乃至5の何れか1項に記載の画像処理プログラム。
【請求項7】
前記検出手段は、所定期間以上、前記第1の種類の領域として検出し続けた再送対象領域を特定し、
前記符号化手段は、前記再送対象領域の画像情報を前記第1の圧縮率よりも低い圧縮率で符号化し、
前記送信手段は、前記符号化手段による符号化後の前記再送対象領域の画像情報を送信する、
ことを特徴とする請求項3乃至6の何れか1項に記載の画像処理プログラム。
【請求項8】
前記送信手段は、前記画像の全領域について前記符号化手段により前記第2の圧縮率で符号化された画像情報を送信し、その後、前記検出手段による前記第1の種類の領域および前記第2の種類の領域の検出結果に応じて、前記第1の種類の領域については既に送信した画像情報を置き換えるデータとして、前記符号化手段により前記第1の圧縮率で符号化された画像情報を送信することを特徴とする請求項3乃至7の何れか1項に記載の画像処理プログラム。
【請求項9】
前記送信手段は、前記検出手段により前記第1の種類の領域として検出された複数の領域のうち、送信済みの領域につき前記検出手段が変化を検出するまで送信を行なわないことを特徴とする請求項3乃至8の何れか1項に記載の画像処理プログラム。
【請求項10】
前記送信手段は、前記第2の種類の領域の画像情報を所定周期で送信し、前記第1の種類の領域の画像情報を前記第2の種類の領域の画像情報の送信タイミングのうちの何れかのタイミングで送信することを特徴とする請求項1乃至9の何れか1項に記載の画像処理プログラム。
【請求項11】
前記検出手段は、前記時系列に入力される前記複数の画像の入力レートで前記変化の検出を行い、
前記送信手段は、前記入力レートで前記第2の種類の領域の画像情報を送信し、当該入力レートよりも少ない送信レートとなるよう前記第1の種類の領域の画像情報を間引き、前記第1の種類の領域の画像情報を当該送信レートで送信する、
ことを特徴とする請求項1乃至10の何れか1項に記載の画像処理プログラム。
【請求項12】
時系列に入力された複数の画像間の変化に応じて、各画像に含まれる第1の種類の領域と前記第1の種類の領域よりも変化量の大きい第2の種類の領域とを検出する検出手段と、
所定の時間幅における前記第1の種類の領域の画像情報の送信回数を前記所定の時間幅における前記第2の種類の領域の画像情報の送信回数よりも少ない回数として、前記第1の種類の領域の画像情報と前記第2の種類の領域の画像情報とを順次送信する送信手段と、
を備える画像処理装置と、
前記送信手段が送信した前記第1の種類の領域の画像情報と前記第2の種類の領域の画像情報とを順次受信する受信手段と、
前記受信手段が前記第1の種類の領域の画像情報と前記第2の種類の領域の画像情報とを受信した場合、当該第1の種類の領域の画像情報と当該第2の種類の画像情報とを表示し、前記受信手段が前記第2の種類の領域の画像情報を受信して前記第1の種類の領域の画像情報を受信しない場合、以前に受信した前記第1の種類の領域の画像情報と今回受信した前記第2の種類の領域の画像情報とを表示する表示手段と、
を備える表示装置と、
を有することを特徴とする表示システム。
【請求項13】
時系列に入力された複数の画像間の変化に応じて、各画像に含まれる第1の種類の領域と前記第1の種類の領域よりも変化量の大きい第2の種類の領域とを検出する検出手段と、
所定の時間幅における前記第1の種類の領域の画像データの送信回数を前記所定の時間幅における前記第1の種類の領域の画像データの送信回数よりも少ない回数として、前記第1の種類の領域の画像データと前記第2の種類の領域の画像データとを順次送信する送信手段と、
を有することを特徴とする画像処理装置。
【請求項14】
コンピュータの画像処理方法であって、
検出手段が、時系列に入力された複数の画像間の変化に応じて、各画像に含まれる第1の種類の領域と前記第1の種類の領域よりも変化量の大きい第2の種類の領域とを検出し、
送信手段が、所定の時間幅における前記第1の種類の領域の画像データの送信回数を前記所定の時間幅における前記第2の種類の領域の画像データの送信回数よりも少ない回数として、前記第1の種類の領域の画像データと前記第2の種類の領域の画像データとを順次送信する、
ことを特徴とする画像処理方法。
【請求項1】
コンピュータを、
時系列に入力された複数の画像間の変化に応じて、各画像に含まれる第1の種類の領域と前記第1の種類の領域よりも変化量の大きい第2の種類の領域とを検出する検出手段、
所定の時間幅における前記第1の種類の領域の画像情報の送信回数を前記所定の時間幅における前記第2の種類の領域の画像情報の送信回数よりも少ない回数として、前記第1の種類の領域の画像情報と前記第2の種類の領域の画像情報とを順次送信する送信手段、
として機能させることを特徴とする画像処理プログラム。
【請求項2】
前記検出手段は、前記第1の種類の領域として複数の領域を検出し、前記複数の領域のうち所定数の領域ごとに送信対象領域として順次特定し、
前記送信手段は、前記検出手段が特定した前記送信対象領域の画像情報を送信する、
ことを特徴とする請求項1記載の画像処理プログラム。
【請求項3】
前記コンピュータを、更に、前記検出手段が特定した前記送信対象領域の画像情報を第1の圧縮率で符号化し、前記第2の種類の領域の画像情報を前記第1の圧縮率よりも高い第2の圧縮率で符号化する符号化手段として機能させ、
前記送信手段は、前記符号化手段による符号化後の前記送信対象領域の画像情報および前記第2の種類の領域の画像情報を送信する、
ことを特徴とする請求項2記載の画像処理プログラム。
【請求項4】
前記符号化手段は、前記コンピュータが接続されたネットワークの伝送容量、前記第1の種類の領域と前記第2の種類の領域との面積の比および送信対象とする前記送信対象領域の画像情報のデータ量と前記第2の種類の領域の画像情報のデータ量とに基づいて、前記第1の圧縮率と前記第2の圧縮率とを決定することを特徴とする請求項3記載の画像処理プログラム。
【請求項5】
前記検出手段は、前記第2の種類の領域として検出された複数の領域のうち、前記第1の種類の領域と隣接する領域である第3の領域を検出し、
前記符号化手段は、前記第3の領域の画像情報を前記第1の圧縮率よりも高く、前記第2の種類の領域の圧縮率よりも低い圧縮率で符号化し、
前記送信手段は、前記符号化手段による符号化後の前記第3の領域の画像情報を前記第2の種類の領域の画像情報と共に送信する、
ことを特徴とする請求項3または4の何れか1項に記載の画像処理プログラム。
【請求項6】
前記符号化手段は、前記検出手段により前記第2の種類の領域として検出されていた領域が前記第1の種類の領域として検出された場合、前記第1の種類の領域内の当該領域の種類が変化した領域である変化領域以外の領域よりも優先して当該変化領域の画像情報を符号化し、
前記送信手段は、前記符号化手段による符号化後の前記変化領域の画像情報を送信する、
ことを特徴とすることを特徴とする請求項3乃至5の何れか1項に記載の画像処理プログラム。
【請求項7】
前記検出手段は、所定期間以上、前記第1の種類の領域として検出し続けた再送対象領域を特定し、
前記符号化手段は、前記再送対象領域の画像情報を前記第1の圧縮率よりも低い圧縮率で符号化し、
前記送信手段は、前記符号化手段による符号化後の前記再送対象領域の画像情報を送信する、
ことを特徴とする請求項3乃至6の何れか1項に記載の画像処理プログラム。
【請求項8】
前記送信手段は、前記画像の全領域について前記符号化手段により前記第2の圧縮率で符号化された画像情報を送信し、その後、前記検出手段による前記第1の種類の領域および前記第2の種類の領域の検出結果に応じて、前記第1の種類の領域については既に送信した画像情報を置き換えるデータとして、前記符号化手段により前記第1の圧縮率で符号化された画像情報を送信することを特徴とする請求項3乃至7の何れか1項に記載の画像処理プログラム。
【請求項9】
前記送信手段は、前記検出手段により前記第1の種類の領域として検出された複数の領域のうち、送信済みの領域につき前記検出手段が変化を検出するまで送信を行なわないことを特徴とする請求項3乃至8の何れか1項に記載の画像処理プログラム。
【請求項10】
前記送信手段は、前記第2の種類の領域の画像情報を所定周期で送信し、前記第1の種類の領域の画像情報を前記第2の種類の領域の画像情報の送信タイミングのうちの何れかのタイミングで送信することを特徴とする請求項1乃至9の何れか1項に記載の画像処理プログラム。
【請求項11】
前記検出手段は、前記時系列に入力される前記複数の画像の入力レートで前記変化の検出を行い、
前記送信手段は、前記入力レートで前記第2の種類の領域の画像情報を送信し、当該入力レートよりも少ない送信レートとなるよう前記第1の種類の領域の画像情報を間引き、前記第1の種類の領域の画像情報を当該送信レートで送信する、
ことを特徴とする請求項1乃至10の何れか1項に記載の画像処理プログラム。
【請求項12】
時系列に入力された複数の画像間の変化に応じて、各画像に含まれる第1の種類の領域と前記第1の種類の領域よりも変化量の大きい第2の種類の領域とを検出する検出手段と、
所定の時間幅における前記第1の種類の領域の画像情報の送信回数を前記所定の時間幅における前記第2の種類の領域の画像情報の送信回数よりも少ない回数として、前記第1の種類の領域の画像情報と前記第2の種類の領域の画像情報とを順次送信する送信手段と、
を備える画像処理装置と、
前記送信手段が送信した前記第1の種類の領域の画像情報と前記第2の種類の領域の画像情報とを順次受信する受信手段と、
前記受信手段が前記第1の種類の領域の画像情報と前記第2の種類の領域の画像情報とを受信した場合、当該第1の種類の領域の画像情報と当該第2の種類の画像情報とを表示し、前記受信手段が前記第2の種類の領域の画像情報を受信して前記第1の種類の領域の画像情報を受信しない場合、以前に受信した前記第1の種類の領域の画像情報と今回受信した前記第2の種類の領域の画像情報とを表示する表示手段と、
を備える表示装置と、
を有することを特徴とする表示システム。
【請求項13】
時系列に入力された複数の画像間の変化に応じて、各画像に含まれる第1の種類の領域と前記第1の種類の領域よりも変化量の大きい第2の種類の領域とを検出する検出手段と、
所定の時間幅における前記第1の種類の領域の画像データの送信回数を前記所定の時間幅における前記第1の種類の領域の画像データの送信回数よりも少ない回数として、前記第1の種類の領域の画像データと前記第2の種類の領域の画像データとを順次送信する送信手段と、
を有することを特徴とする画像処理装置。
【請求項14】
コンピュータの画像処理方法であって、
検出手段が、時系列に入力された複数の画像間の変化に応じて、各画像に含まれる第1の種類の領域と前記第1の種類の領域よりも変化量の大きい第2の種類の領域とを検出し、
送信手段が、所定の時間幅における前記第1の種類の領域の画像データの送信回数を前記所定の時間幅における前記第2の種類の領域の画像データの送信回数よりも少ない回数として、前記第1の種類の領域の画像データと前記第2の種類の領域の画像データとを順次送信する、
ことを特徴とする画像処理方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図30】
【図31】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図30】
【図31】
【公開番号】特開2011−66577(P2011−66577A)
【公開日】平成23年3月31日(2011.3.31)
【国際特許分類】
【出願番号】特願2009−213999(P2009−213999)
【出願日】平成21年9月16日(2009.9.16)
【出願人】(399076998)株式会社富士通ビー・エス・シー (56)
【Fターム(参考)】
【公開日】平成23年3月31日(2011.3.31)
【国際特許分類】
【出願日】平成21年9月16日(2009.9.16)
【出願人】(399076998)株式会社富士通ビー・エス・シー (56)
【Fターム(参考)】
[ Back to top ]