説明

通信装置、通信方法、および通信プログラム

【課題】資料画像の配信先における画像の表示態様に応じて処理負荷を低下させることができる通信装置、通信方法、および通信プログラムを提供する。
【解決手段】資料画像データを配信先装置に送信する配信元装置は、配信先装置に送信されたデータによって配信先で表示されている資料画像と拠点画像との表示比率を、配信先装置から取得する(S32)。配信元装置は、自装置のデータの処理負荷を検出し、検出した処理負荷が閾値以上であるか否かを判断する。自装置の処理負荷が閾値以上と判断した場合、配信元装置は、配信先装置から取得した表示比率に基づいて、資料画像データおよび拠点画像データの少なくともいずれかの生成条件を変更する(S36,S37)。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像データを生成して他のデバイスに送信する通信装置、通信方法、および通信プログラムに関する。
【背景技術】
【0002】
従来、複数の通信装置を備えた通信システムにおいて、送信する画像データの生成条件を状況に応じて変更する技術が知られている。例えば、特許文献1に記載の映像配信システムでは、画像データを受信して画像を表示する表示装置は、表示する画像において視聴者が注視している領域を検出する。画像データを生成して送信する配信装置は、表示装置によって検出された注視領域の品質のみが高い画像データを生成し、表示装置に送信する。その結果、送受信されるデータの量の増加が抑制される。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2005−130251号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
通信システムを用いたテレビ会議では、システム内で共有する共有資料の画像(以下、「資料画像」という。)のデータが、各拠点で撮影された画像(以下、「拠点画像」という。)のデータと並行して送受信される場合がある。資料画像の共有を行う場合、資料画像を配信する通信装置である配信元装置は、資料画像のデータを生成する処理を行わなければならない。画像データを配信するために必要な符号化処理は、復号化処理よりも負荷が大きい。よって、配信元装置は、資料画像のデータを受信する通信装置である配信先装置に比べて処理負荷が大きい。その結果、配信元装置の処理が遅延してテレビ会議の進行に問題が生じる場合があった。特許文献1に記載の技術では、資料画像の配信先における画像の表示態様に応じて配信元装置の処理負荷を低下させることはできなかった。
【0005】
本発明は、資料画像の配信先における画像の表示態様に応じて処理負荷を低下させることができる通信装置、通信方法、および通信プログラムを提供することを目的とする。
【課題を解決するための手段】
【0006】
本発明の第一の態様に係る通信装置は、他の通信装置との間で画像データの通信を行う通信装置であって、複数の拠点で共有する資料画像のデータである資料画像データを生成する第一データ生成手段と、画像を撮影する撮影手段によって撮影された自拠点の画像のデータである拠点画像データを生成する第二データ生成手段と、前記第一データ生成手段によって生成された前記資料画像データ、および前記第二データ生成手段によって生成された前記拠点画像データを前記他の通信装置に送信する送信手段と、前記送信手段によって前記他の通信装置に送信された前記資料画像データおよび前記拠点画像データに従って画像を表示する表示手段において表示されている、前記資料画像と前記自拠点の画像との表示比率を、前記他の通信装置から取得する比率取得手段と、自装置のデータの処理負荷を検出する負荷検出手段と、前記負荷検出手段によって検出された処理負荷が閾値以上であるか否かを判断する負荷判断手段と、前記負荷判断手段によって処理負荷が閾値以上と判断された場合に、前記比率取得手段によって取得された表示比率に基づいて、前記第一データ生成手段および前記第二データ生成手段の少なくともいずれかによる画像データの生成条件を変更する条件変更手段とを備えている。
【0007】
第一の態様に係る通信装置は、データの処理負荷が閾値以上である場合に、他拠点で表示されている自拠点の画像(資料画像の配信元の拠点の画像)と資料画像との表示比率に基づいて、画像データの生成条件を変更する。その結果、資料画像の配信先における画像の表示態様に応じて、自装置の処理負荷を低下させることができる。よって、通信装置は、処理遅延が生じてテレビ会議の進行が妨げられる可能性を適切に低下させることができる。
【0008】
前記通信装置は、前記比率取得手段によって取得された表示比率から、前記表示手段において前記自拠点の画像が前記資料画像よりも大きく表示されているか否かを判断する表示判断手段をさらに備えてもよい。前記条件変更手段は、前記自拠点の画像の方が前記資料画像よりも大きく表示されていると前記表示判断手段によって判断された場合に、前記第一データ生成手段による前記資料画像データの生成条件を変更する第一条件変更手段と、前記自拠点の画像が前記資料画像よりも大きく表示されていないと前記表示判断手段によって判断された場合に、前記第二データ生成手段による前記拠点画像データの生成条件を変更する第二条件変更手段とを備えてもよい。
【0009】
この場合、通信装置は、自拠点の画像(資料画像の配信元の拠点の画像)の方が大きく表示されている場合には、資料画像データの生成条件を変更する。よって、大きく表示されている自拠点の画像の品質を低下させることなく、処理負荷を低下させることができる。一方、通信装置は、自拠点の画像が資料画像よりも大きく表示されていない場合には、拠点画像データの生成条件を変更する。よって、資料画像の品質を低下させることなく、処理負荷を低下させることができる。従って、通信装置は、画像の表示比率に応じて適切に処理負荷を低下させることができる。
【0010】
前記第一条件変更手段および前記第二条件変更手段は、符号化処理によって生成する画像データのフレームレート、画像の解像度、および色数の少なくともいずれかを減少させることで、画像データの生成条件を変更してもよい。通信装置は、フレームレート、画像の解像度、および色数の少なくともいずれかを減少させることで、画像データの生成処理量を確実に減少させて処理負荷を低下させることができる。
【0011】
前記通信装置は、前記他の通信装置にデータを送信するために使用可能な帯域が、前記他の通信装置に送信しているデータの伝送速度よりも大きいか否かを判断する帯域判断手段をさらに備えてもよい。前記条件変更手段は、前記帯域判断手段によって前記使用可能な帯域の方が大きいと判断された場合に、全画像データのうち、フレーム内予測符号化のみを用いて符号化される画像データであるIピクチャ(Intra−coded Picture)が占める割合を増加させることで、画像データの生成条件を変更する第三条件変更手段を備えてもよい。
【0012】
Iピクチャが占める割合を増加させると、符号化された画像データのデータ総量は増加するが、符号化に要する処理量は低下する。通信装置は、使用可能な帯域に余裕がある場合にIピクチャが占める割合を増加させることで、画像の品質を低下させることなく処理負荷を低下させることができる。
【0013】
前記通信装置は、前記他の通信装置にデータを送信するために使用可能な帯域が、前記他の通信装置に送信しているデータの伝送速度よりも大きいか否かを判断する帯域判断手段をさらに備えてもよい。前記条件変更手段は、前記帯域判断手段によって前記使用可能な帯域の方が大きいと判断され、且つ前記自拠点の画像が前記資料画像よりも大きく表示されていないと前記表示判断手段によって判断された場合、前記資料画像データのうち、フレーム内予測符号化のみを用いて符号化される画像データであるIピクチャ(Intra−coded Picture)が占める割合を増加させる第四条件変更手段と、前記帯域判断手段によって前記使用可能な帯域の方が大きいと判断され、且つ前記自拠点の画像の方が前記資料画像よりも大きく表示されていると前記表示判断手段によって判断された場合、前記拠点画像データにおけるIピクチャの割合を増加させる第五条件変更手段とをさらに備えてもよい。
【0014】
フレーム間符号化によって生成されるPピクチャは、参照するIピクチャとの間の時間差が小さくなる程、画像品質の劣化を生じ難い。Iピクチャの割合を増加させることで、PピクチャとIピクチャとの間の時間差が短縮されるため、画像品質の劣化が防止される。通信装置は、自拠点の画像(資料画像の配信元の拠点の画像)が他の拠点で資料画像よりも大きく表示されていない場合には、他拠点のユーザが注目している可能性が高い資料画像の品質の劣化を防止しつつ、処理負荷を低下させることができる。自拠点の画像の方が大きく表示されている場合には、大きく表示されている自拠点の画像の劣化を防止しつつ、処理負荷を低下させることができる。
【0015】
前記通信装置は、前記他の通信装置が設置された拠点の画像のデータである他拠点画像データの前記通信装置への送信条件を変更する指示を前記他の通信装置へ送信する条件変更指示手段をさらに備えてもよい。この場合、通信装置は、他の通信装置が自装置に送信する画像データの送信条件の変更を他の通信装置に指示することで、受信するデータの処理量を低下させることができる。その結果、通信装置は、処理遅延が生じてテレビ会議の進行が妨げられる可能性を低下させることができる。
【0016】
本発明の第二の態様に係る通信方法は、他の通信装置との間で画像データの通信を行う通信装置によって行われる通信方法であって、複数の拠点で共有する資料画像のデータである資料画像データを生成する第一データ生成ステップと、画像を撮影する撮影手段によって撮影された自拠点の画像のデータである拠点画像データを生成する第二データ生成ステップと、前記第一データ生成ステップにおいて生成された前記資料画像データ、および前記第二データ生成ステップにおいて生成された前記拠点画像データを前記他の通信装置に送信する送信ステップと、前記送信ステップにおいて前記他の通信装置に送信された前記資料画像データおよび前記拠点画像データに従って画像を表示する表示手段において表示されている、前記資料画像と前記自拠点の画像との表示比率を、前記他の通信装置から取得する比率取得ステップと、自装置のデータの処理負荷を検出する負荷検出ステップと、前記負荷検出ステップにおいて検出された処理負荷が閾値以上であるか否かを判断する負荷判断ステップと、前記負荷判断ステップにおいて処理負荷が閾値以上と判断された場合に、前記比率取得ステップにおいて取得された表示比率に基づいて、前記第一データ生成ステップおよび前記第二データ生成ステップの少なくともいずれかにおける画像データの生成条件を変更する条件変更ステップとを備えている。
【0017】
第二の態様に係る通信方法によると、通信装置は、データの処理負荷が閾値以上である場合に、他拠点で表示されている自拠点の画像(資料画像の配信元の拠点の画像)と資料画像との表示比率に基づいて、画像データの生成条件を変更する。その結果、資料画像の配信先における画像の表示態様に応じて、自装置の処理負荷を低下させることができる。よって、通信装置は、処理遅延が生じてテレビ会議の進行が妨げられる可能性を適切に低下させることができる。
【0018】
本発明の第三の態様に係る通信プログラムは、他の通信装置との間で画像データの通信を行う通信装置に実行させる通信プログラムであって、コンピュータに、複数の拠点で共有する資料画像のデータである資料画像データを生成する第一データ生成ステップと、画像を撮影する撮影手段によって撮影された自拠点の画像のデータである拠点画像データを生成する第二データ生成ステップと、前記第一データ生成ステップにおいて生成された前記資料画像データ、および前記第二データ生成ステップにおいて生成された前記拠点画像データを前記他の通信装置に送信する送信ステップと、前記送信ステップにおいて前記他の通信装置に送信された前記資料画像データおよび前記拠点画像データに従って画像を表示する表示手段において表示されている、前記資料画像と前記自拠点の画像との表示比率を、前記他の通信装置から取得する比率取得ステップと、自装置のデータの処理負荷を検出する負荷検出ステップと、前記負荷検出ステップにおいて検出された処理負荷が閾値以上であるか否かを判断する負荷判断ステップと、前記負荷判断ステップにおいて処理負荷が閾値以上と判断された場合に、前記比率取得ステップにおいて取得された表示比率に基づいて、前記第一データ生成ステップおよび前記第二データ生成ステップの少なくともいずれかにおける画像データの生成条件を変更する条件変更ステップとを実行させる。
【0019】
第三の態様に係る通信プログラムによると、通信装置は、データの処理負荷が閾値以上である場合に、他拠点で表示されている自拠点の画像(資料画像の配信元の拠点の画像)と資料画像との表示比率に基づいて、画像データの生成条件を変更する。その結果、資料画像の配信先における画像の表示態様に応じて、自装置の処理負荷を低下させることができる。よって、通信装置は、処理遅延が生じてテレビ会議の進行が妨げられる可能性を適切に低下させることができる。
【図面の簡単な説明】
【0020】
【図1】通信システム100のシステム構成を示す図である。
【図2】配信先装置が表示装置34に表示させる画像の一例を示す図である。
【図3】PC1の電気的構成を示すブロック図である。
【図4】PC1が実行するテレビ会議処理のフローチャートである。
【図5】PC1が実行する通信設定処理のフローチャートである。
【図6】通信設定処理中に実行される配信先処理のフローチャートである。
【図7】通信設定処理中に実行される配信元処理のフローチャートである。
【図8】配信元処理中に実行される拠点画像優先処理のフローチャートである。
【図9】配信元処理中に実行される資料画像優先処理のフローチャートである。
【発明を実施するための形態】
【0021】
以下、本発明の通信装置を具現化した一実施の形態であるパーソナルコンピュータ(以下、「PC」という。)1、およびPC1を備えた通信システム100について、図面を参照して説明する。参照する図面は、本発明が採用し得る技術的特徴を説明するために用いられるものである。図面に記載されている装置の構成、各種処理のフローチャート等は、それのみに限定する趣旨ではなく、単なる説明例である。
【0022】
図1を参照して、通信システム100のシステム構成について説明する。通信システム100は、複数のPC1を備える。図1では2つのPC1のみが図示されているが、PC1の数は3つ以上でもよい。各PC1は、インターネット等のネットワーク8を介して、他のPC1との間でデータを送受信する。詳細には、PC1は、他のPC1のそれぞれとの間で、P2P(peer to peer)で映像、資料、音声等のデータを直接送受信することができる。なお、本発明における通信装置として用いることができるのはPC1に限られない。例えば、テレビ会議を実行するために各拠点に配置される専用のテレビ会議端末等を、本発明における通信装置として用いることも可能である。
【0023】
通信システム100は、画像および音声を用いた遠隔会議を実行するためのテレビ会議システムである。各PC1は、自拠点のカメラ33から入力した撮影画像のデータ、およびマイク31(図3参照)から入力した音声のデータを、他のPC1に送信する。各PC1は、他のPC1から受信したデータに基づいて、他の拠点の撮像画像を表示装置34に表示し、且つ他の拠点の音声をスピーカ32(図3参照)から出力する。その結果、複数の拠点の拠点画像および音声が、通信システム100内で共有される。よって、通信システム100によると、全てのユーザが同一の拠点にいない場合でも、ユーザは円滑に会議を実行することができる。1つの拠点にいるユーザは1人でもよいし、複数でもよい。
【0024】
さらに、通信システム100では、文書、図面等の資料の画像(以下、「資料画像」という。)を複数のユーザ間で共有しながらテレビ会議を行うこともできる。具体的には、他のPC1に資料画像を配信するPC1(以下、「配信元装置」という。)は、自拠点の表示装置34に表示させる資料画像をキャプチャして符号化処理を行うことで、資料画像のデータを生成する。配信元装置は、生成した資料画像データを、通信システム100内の他のPC1(以下、「配信先装置」という。)に送信する。配信先装置は、受信した資料画像データを復号化し、資料画像を自拠点の表示装置34に表示させる。
【0025】
図2を参照して、資料画像の共有中に表示装置34に表示される画像の一例について説明する。拠点Bに配置された配信先装置が表示装置34に表示させる画像の一例を、図2に示す。前述したように、配信先装置は、配信元装置から受信した資料画像データを符号化し、表示装置34に資料画像42を表示させる。また、配信先装置は、拠点Aに配置された配信元装置から拠点画像のデータを受信して復号化し、拠点Aの拠点画像43を表示させる。さらに、配信先装置は、自拠点のカメラ33によって撮影された拠点Bの拠点画像44を表示させる。従って、拠点Bのユーザは、複数拠点で共有されている資料画像42と、遠隔地である拠点Aの拠点画像43と、自拠点の拠点画像44とを見ながら、円滑にテレビ会議を行うことができる。配信元装置が表示装置34に表示させる画像も、図2に示した例と同様であるため、この説明は省略する。
【0026】
通信システム100では、ユーザは、キーボードおよびマウス等の操作部35(図3参照)を操作することで、資料画像42および拠点画像43,44の表示領域を変更することができる。従って、ユーザは、資料画像42に注目したい場合には、資料画像42の表示領域を大きくすればよい。拠点Aの様子に注目したい場合には、拠点Aの拠点画像43の表示領域を大きくすればよい。
【0027】
通信システム100内で送受信される画像データについて説明する。通信システム100が備えるPC1は、H.264の規格に基づいて画像圧縮符号化された画像データを送受信する。画像圧縮符号化には、フレーム内符号化とフレーム間符号化とがある。
【0028】
フレーム内符号化とは、カメラによって入力された連続する複数フレームの画像データのうち1フレーム内の画面内予測によって行われる符号化である。フレーム内符号化によって生成される画像データを、Iピクチャ(Intra−coded Picture)という。フレーム間符号化では、連続する複数のフレームのうち、符号化するフレームとは異なるフレームが参照されて、参照されたフレーム(以下、「被参照フレーム」という。)との間の予測誤差が算出される。算出された予測誤差が符号化される。フレーム間符号化によって生成される画像データには、Pピクチャ(Predictive−coded Picture)およびBピクチャ(Bidirectionally predictive−coded Picture)がある。PピクチャおよびBピクチャの復号化には、被参照フレームのデータが必要である。
【0029】
Iピクチャは、PピクチャおよびBピクチャよりもデータ量が多い。従って、PC1が使用可能なネットワーク帯域に余裕がない場合に、複数の画像データに占めるIピクチャの割合を増加させると、使用可能な帯域を越える伝送速度でデータが送信されて通信に不具合が生じる可能性がある。一方、Iピクチャを生成する場合のPC1の処理量は、PピクチャおよびBピクチャを生成する場合の処理量よりも少ない。よって、PC1は、Iピクチャの割合を増加させることで、処理負担を低下させることができる。
【0030】
また、PピクチャおよびBピクチャは、直前のIピクチャとの間の時間差が小さくなる程、画像品質の劣化が生じ難くなる。Iピクチャの割合が増加すると、PピクチャおよびBピクチャとIピクチャとの間の時間差が短縮される。さらに、Iピクチャの割合が増加すると、被参照フレームが欠落してPピクチャおよびBピクチャの復号が不可能になる可能性が低下する。よって、PC1は、Iピクチャの割合を増加させることで、画像の品質の劣化を防止することもできる。
【0031】
図3を参照して、PC1の電気的構成について説明する。PC1は、PC1の制御を司るCPU10を備えている。CPU10には、ROM11、RAM12、ハードディスクドライブ(以下、「HDD」という。)13、および入出力インターフェース19が、バス18を介して接続されている。
【0032】
ROM11は、PC1を動作させるためのプログラムおよび初期値等を記憶している。RAM12は、制御プログラムで使用される各種の情報を一時的に記憶する。HDD13は、後述するテレビ会議処理および通信設定処理を実行させるための通信プログラム等の各種情報を記憶する不揮発性の記憶装置である。HDD13の代わりに、EEPROMまたはメモリカード等の記憶装置を用いてもよい。
【0033】
入出力インターフェース19には、音声入力処理部21、音声出力処理部22、映像入力処理部23、映像出力処理部24、操作入力処理部25、および外部通信I/F26が接続されている。音声入力処理部21は、音声を入力するマイク31からの音声データの入力を処理する。音声出力処理部22は、音声を出力するスピーカ32の動作を処理する。映像入力処理部23は、映像を撮影するカメラ33からの画像データの入力を処理する。映像出力処理部24は、映像を表示する表示装置34の動作を処理する。操作入力処理部25は、キーボードおよびマウス等の操作部35からの操作入力を処理する。外部通信I/F26は、PC1をネットワーク8に接続する。
【0034】
以下、テレビ会議中にPC1が実行する処理について、図4から図9を参照して説明する。テレビ会議の実行指示をPC1が受け付けると、PC1のCPU10は、HDD13に記憶されている通信プログラムに従って、図4に示すテレビ会議処理、および図5から図9に示す通信設定処理を並行して実行する。図4に示すテレビ会議処理は、画像データおよび音声データの通信、出力を行ってテレビ会議を実現するための処理である。図5に示す通信設定処理は、テレビ会議の状況に応じて配信元装置の処理負荷を低下させるための処理である。PC1は、テレビ会議処理および通信設定処理を並行して実行することで、配信元装置の処理負荷を低下させつつテレビ会議を実行することができる。
【0035】
図4を参照して、テレビ会議処理について説明する。まず、CPU10は、自拠点のカメラ33から入力された画像のデータを符号化して拠点画像データを生成する(S1)。CPU10は、他拠点への資料画像の配信中であるか否か、つまり、自装置が配信元装置であるか否かを判断する(S2)。後述する操作指示受付処理(S11、図5参照)で他拠点への資料画像の配信指示が受け付けられておらず、配信元装置となっていない場合には(S2:NO)、処理はS4へ移行する。自装置が配信元装置となっていれば(S2:YES)、CPU10は、配信する資料をキャプチャして符号化処理を行い、資料画像データを生成する(S3)。
【0036】
次いで、CPU10は、S1およびS3で生成した画像データを他のPC1に送信し、且つ、他のPC1から画像データを受信する(S4)。CPU10は、受信した画像データを復号化し、復号化した画像データに基づいて、表示装置34に画像を表示させる(S5)。CPU10は、自拠点のカメラ33が撮像した画像のデータを取得し、自拠点の画像を表示装置34に表示させる(S6)。CPU10は、音声データの符号化、送受信、復号化等の処理を行う(S7)。テレビ会議の終了指示が入力されたか否かを判断する(S8)。入力されていなければ(S8:NO)、処理はS1へ戻る。終了指示が入力された場合(S8:YES)、処理は終了する。
【0037】
図5から図9を参照して、通信設定処理について説明する。前述したように、CPU10は、テレビ会議の実行指示をPC1が入力することで、図5に示す通信設定処理を開始する。通信設定処理は、テレビ会議処理(図4参照)と並行して実行される。図5に示すように、CPU10は、通信設定処理を開始すると、操作部35からの各種操作指示の入力を受け付ける(S11)。操作指示には、資料画像の他拠点への配信を開始する指示、配信を終了する指示、表示装置34に表示されている資料画像42および拠点画像43,44の表示領域を変更する指示、テレビ会議を終了する指示等がある。CPU10は、操作指示が入力されると、入力された指示に応じて処理を実行する。なお、資料画像の配信を終了する指示が入力された場合に、Iピクチャの割合およびフレームレート等の設定が変更されていれば、CPU10は、変更されていた設定を初期化する。さらに、配信先装置に行っていた指示があれば、指示を解除する。上記の設定および指示の詳細については後述する。
【0038】
CPU10は、他拠点への資料画像の配信中であるか否かを判断する(S12)。自装置が配信元装置でなく、資料画像の配信中でないと判断すると(S12:NO)、CPU10は、他のPC1からの資料画像データの受信中であるか否かを判断する(S13)。自装置が配信元装置でも配信先装置でもない場合、つまり、資料画像が共有されていない場合には(S13:NO)、CPU10は、テレビ会議の終了指示が受け付けられたか否かを判断する(S14)。テレビ会議の終了指示がS11で受け付けられていなければ(S14:NO)、処理はS11へ戻る。他のPC1から資料画像データを受信している場合には(S13:YES)、CPU10は、配信先処理を行う(S15)。配信先処理は、PC1が配信先装置として動作する場合の処理である。
【0039】
図6に示すように、CPU10は、配信先処理を開始すると、表示比率を配信元装置に通知するタイミングであるか否かを判断する(S21)。表示比率とは、接続している表示装置34に表示させている、配信元装置の拠点の拠点画像43と資料画像42との表示比率である。本実施の形態では、通知タイミングは、資料画像の共有開始時(資料画像データを配信元装置から最初に受信した時)、および、表示比率がユーザの指示によって変更された時である。通知タイミングは変更が可能であり、例えば一定時間毎に表示比率を通知してもよい。表示比率の通知タイミングでなければ(S21:NO)、処理はS24の判断へ移行する。通知タイミングである場合には(S21:YES)、CPU10は、資料画像42と配信元装置の拠点画像43との表示比率を算出する(S22)。算出した表示比率を、配信元装置に通知する(S23)。
【0040】
次いで、CPU10は、配信元装置から送信停止の指示を受信したか否かを判断する(S24)。詳細は後述するが、送信停止の指示とは、配信先装置から配信元装置への拠点画像データの送信を停止させる指示である。配信元装置は、自装置の処理負担を低下させるために、配信先装置に送信停止の指示を行う場合がある。CPU10は、送信停止の指示を配信元装置から受信すると(S24:YES)、拠点画像データの配信元装置への送信を停止するように設定を行う(S25)。送信停止の設定が行われている間は、図4に示すS4において、CPU10は配信元装置への拠点画像データの送信を行わない。送信停止の指示を受信していなければ(S24:NO)、処理はそのままS26の判断へ移行する。
【0041】
次いで、CPU10は、配信元装置からサイズ変更禁止の指示を受信したか否かを判断する(S26)。詳細は後述するが、サイズ変更禁止の指示とは、資料画像42または拠点画像43のサイズ(表示領域)の変更を禁止する指示である。配信元装置は、画像の品質を向上させることができない場合に、品質の低い画像が拡大されることを防止するために、サイズ変更禁止の指示を配信先装置に送信する。CPU10は、サイズ変更禁止の指示を配信元装置から受信すると(S26:YES)、指定された画像のサイズ変更の禁止を設定し(S27)、処理は通信設定処理へ戻る。サイズ変更の禁止が設定されている間は、図5に示すS11において、CPU10は、指定された画像の表示領域のサイズを変更しない。サイズ変更禁止の指示を受信していなければ(S26:NO)、処理はそのまま通信設定処理へ戻る。
【0042】
図5の説明に戻る。CPU10は、他拠点への資料画像の配信中であると判断すると(S12:YES)、自装置の処理負荷を検出する(S17)。本実施形態では、CPU10は、CPU使用率を処理負荷として検出する。しかし、RAM12の使用容量等の他のパラメータを処理負荷として検出してもよい。次いで、CPU10は、検出した自装置の処理負荷が閾値以上であるか否かを判断する(S18)。具体的には、CPU使用率が50%以上であるか否かを判断するが、閾値の値が適宜変更できることは言うまでもない。処理負荷が閾値未満であれば(S18:NO)、処理はそのままS14の判断へ移行する。処理負荷が閾値以上であれば(S18:YES)、配信元処理が行われる(S19)。配信元処理は、PC1が配信元装置として動作する場合の処理である。その後、処理はS14へ移行する。テレビ会議を終了する指示が入力されると(S14:YES)、処理は終了する。
【0043】
図7を参照して、配信元処理について説明する。CPU10は、配信元処理を開始すると、配信先装置の少なくともいずれかから表示比率が通知されたか否かを判断する(S31)。表示比率が通知されていなければ(S31:NO)、処理はそのまま通信設定処理へ戻る。
【0044】
表示比率が通知された場合(S31:YES)、CPU10は、通知された表示比率の値を取得してRAM12に記憶する(S32)。CPU10は、配信先装置にデータを送信するために使用可能なネットワーク帯域を計測する(S33)。使用可能なネットワーク帯域とは、配信元装置が送信するデータの伝送速度とほぼ等しい伝送速度で配信先装置がデータを受信できる最大の伝送速度(bps)をいう。ネットワーク帯域を計測する手法には、種々の公知の手法を用いることができる。本実施形態では、以下の文献に記載されている手法を用いる。「津川知朗、CaoLe Thanh Man、長谷川剛、村田正幸、「インラインネットワーク計測手法ImTCPおよびその応用手法の実装および性能評価」、電子情報通信学会技術研究報告(IN2005−120)、p.79−84、2005年12月」次いで、CPU10は、配信先装置に送信しているデータの伝送速度(bps)を算出する(S34)。
【0045】
CPU10は、配信先の拠点において自拠点の拠点画像43の方が資料画像42よりも大きく表示されているか否かを、通知された表示比率から判断する(S35)。本実施の形態では、配信先装置が複数存在する場合には、その時点でRAM12に記憶されている複数の表示比率の平均値によってS35の判断が行われる。しかし、判断方法はこれに限られない。例えば、複数の配信先のうちの半数以上で拠点画像43の方が大きく表示されている場合に、「拠点画像43の方が大きい」と判断してもよい。また、特定の配信先装置(例えば、会議の議長を務めるユーザの配信先装置)の表示比率のみに基づいて判断を行ってもよい。CPU10は、拠点画像43の方が大きく表示されていると判断した場合(S35:YES)、拠点画像優先処理を行う(S36)。拠点画像優先処理では、配信先で大きく表示されている拠点画像43の品質を低下させることなく、自装置の処理負担を低下させるための処理が行われる。拠点画像43が資料画像42よりも大きく表示されていないと判断した場合(S35:NO)、CPU10は資料画像優先処理を行う(S37)。資料画像優先処理では、資料画像42の品質を低下させることなく処理負担を低下させるための処理が行われる。その後、処理は通信設定処理へ戻る。
【0046】
図8を参照して、拠点画像優先処理について説明する。まず、CPU10は、S33(図7参照)で計測したネットワーク帯域が、S34(図7参照)で算出したデータの伝送速度よりも大きいか否かを判断する(S41)。ネットワーク帯域の方が大きく、帯域に余裕がある場合には(S41:YES)、CPU10は、S1(図4参照)で生成する拠点画像データにおけるIピクチャの割合を増加させる設定を行う。その結果、S1で実行する符号化処理の処理負担が低下し、且つ、配信先で表示される拠点画像43の品質の低下が防止される。なお、前述したように、Iピクチャの割合を増加させると、送信するデータのデータ量は増加する。従って、Iピクチャの割合は、配信先装置へのデータの伝送速度がネットワーク帯域を越えない範囲で増加させる。次いで、CPU10は、自装置の処理負荷であるCPU使用率を検出する(S43)。処理負荷が閾値(CPU使用率50%)以上であるか否かを判断する(S44)。処理負荷が閾値未満となっていれば(S44:NO)、処理は配信元処理へ戻る。処理負荷が未だ閾値以上であれば(S44:YES)、処理はS41へ戻る。
【0047】
使用可能なネットワーク帯域が、データの伝送速度以下であれば(S41:NO)、CPU10は、資料画像データのフレームレートを既に減少させているか否かを判断する(S45)。未だフレームレートを減少させていなければ(S45:NO)、CPU10は、資料画像データのフレームレートを減少させる設定を行う(S46)。その結果、S3(図4参照)で実行する資料画像データの生成処理の処理負担が低下し、且つ、配信先装置へのデータの伝送速度が低下する。データの伝送速度が低下してネットワーク帯域に余裕ができると、Iピクチャの割合を増加させることによる処理負荷の低下(S42)も可能となる。処理はS43へ移行する。
【0048】
資料画像データのフレームレートを既に減少させていれば(S45:YES)、CPU10は、配信先装置に対する画像データの送信停止の指示を既に行ったか否かを判断する(S47)。指示を未だ行っていなければ(S47:NO)、1または複数の配信先装置に対し、配信先の拠点画像のデータの自装置への送信停止を指示する(S48)。その結果、S5(図4参照)で実行する画像データの復号化の処理負担が低下する。処理はS43へ移行する。
【0049】
画像データの送信停止の指示を既に行っていれば(S47:YES)、CPU10は、配信先装置に対し、自拠点の拠点画像43のサイズ変更の禁止を指示する(S49)。この場合、配信元装置は、処理負担が大きい状態であるため、配信先装置に送信する拠点画像データの品質を向上させることができない。配信元装置は、配信先で表示されている拠点画像43の表示サイズの変更禁止を指示することで、配信先で解像度や画質の低い拠点画像43が拡大されることを防止することができる。処理は配信元処理へ戻る。
【0050】
図9を参照して、資料画像優先処理について説明する。まず、CPU10は、ネットワーク帯域がデータの伝送速度よりも大きいか否かを判断する(S51)。ネットワーク帯域の方が大きく、帯域に余裕がある場合には(S51:YES)、CPU10は、S3(図4参照)で生成する資料画像データにおけるIピクチャの割合を増加させる設定を行う。その結果、S3で実行する符号化処理の処理負担が低下し、且つ、配信先で表示される資料画像42の品質の低下が防止される。Iピクチャの割合は、配信先装置へのデータの伝送速度がネットワーク帯域を越えない範囲で増加させる。次いで、CPU10は、自装置の処理負荷を検出し(S53)、処理負荷が閾値以上であるか否かを判断する(S54)。処理負荷が閾値未満となっていれば(S54:NO)、処理は配信元処理へ戻る。処理負荷が未だ閾値以上であれば(S54:YES)、処理はS51へ戻る。
【0051】
帯域に余裕がなければ(S51:NO)、CPU10は、S1(図4参照)で生成する拠点画像データのフレームレートを既に減少させているか否かを判断する(S55)。フレームレートを未だ減少させていなければ(S55:NO)、CPU10は、拠点画像データのフレームレートを減少させる設定を行う(S56)。その結果、S1で実行する拠点画像データの生成処理の処理負担が低下し、且つ配信先装置へのデータの伝送速度が低下する。処理はS53へ移行する。
【0052】
拠点画像データのフレームレートを既に減少させていれば(S55:YES)、CPU10は、配信先装置に対する画像データの送信停止の指示を既に行ったか否かを判断する(S57)。指示を未だ行っていなければ(S57:NO)、配信先装置に対し、拠点画像データの自装置への送信停止を指示する(S58)。その結果、S5(図4参照)で実行する複合化処理の負担が低下する。処理はS53へ移行する
【0053】
画像データの送信停止の指示を既に行っていれば(S57:YES)、CPU10は、資料画像が静止画であるか否かを判断する(S59)。資料画像が静止画であれば(S59:YES)、CPU10は、資料画像が更新された場合にのみ資料画像データを生成して送信する設定を行う(S60)。その結果、S3およびS4(図4参照)で実行する処理の負荷が低下し、且つ配信先装置へのデータの伝送速度が低下する。処理はS53へ移行する。
【0054】
資料画像が静止画でなく動画である場合には(S59:NO)、CPU10は、配信先装置に対し、資料画像42の表示サイズの変更禁止を指示する(S61)。その結果、解像度や画質の低い資料画像42が配信先で拡大されることを防止することができる。処理は配信元処理へ戻る。
【0055】
以上説明したように、本実施の形態に係るPC1は、データの処理負荷が閾値以上である場合に、他拠点で表示されている資料画像42と拠点画像43との表示比率に基づいて、配信先装置に送信する画像データの生成条件を変更する。その結果、PC1は、資料画像42の配信先における画像の表示態様に応じて、自装置の処理負荷を適切に低下させることができる。よって、PC1は、処理遅延が生じてテレビ会議の進行が妨げられる可能性を低下させることができる。
【0056】
PC1は、自拠点の拠点画像43が他拠点において資料画像42よりも大きく表示されている場合には、資料画像データの生成条件を変更する。よって、PC1は、大きく表示されている拠点画像43の品質を低下させることなく、自装置の処理負荷を低下させることができる。一方、PC1は、拠点画像43が資料画像42よりも大きく表示されていない場合には、拠点画像データの生成条件を変更する。よって、資料画像42の品質を低下させることなく、処理負荷を低下させることができる。従って、PC1は、他拠点における画像の表示比率に応じて適切に処理負荷を低下させることができる。具体的には、PC1は、画像データのフレームレートを減少させることで、画像データの生成処理量を確実に減少させて処理負荷を低下させることができる。
【0057】
PC1は、使用可能なネットワーク帯域に余裕がある場合にIピクチャの割合を増加させることで、配信先で表示させる画像の品質を低下させることなく、自装置の処理負荷を低下させることができる。詳細には、PC1は、拠点画像43が他拠点において資料画像42よりも大きく表示されていない場合には、資料画像データのIピクチャの割合を増加させる。その結果、PC1は、資料画像42の品質の低下を防止しつつ、自装置の処理負荷を低下させることができる。一方、PC1は、拠点画像43の方が資料画像42よりも大きく表示されている場合には、拠点画像データのIピクチャの割合を増加させる。その結果、PC1は、配信先で大きく表示されている拠点画像43の品質の低下を防止しつつ、自装置の処理負荷を低下させることができる。
【0058】
PC1は、配信先装置が自装置に送信する画像データの送信条件の変更を、配信先装置に対して指示する。詳細には、PC1は、自装置への拠点画像データの送信停止を配信先装置に指示することができる。その結果、PC1は、受信した画像データを復号化するための処理負荷を低下させることができる。
【0059】
上記実施の形態において、PC1が本発明の「通信装置」に相当する。図4のS3で資料画像を生成するCPU10が「第一データ生成手段」として機能する。カメラ33が「撮影手段」に相当する。図4のS1で拠点画像データを生成するCPU10が「第二データ生成手段」として機能する。図4のS4で資料画像データおよび拠点画像データを送信するCPU10が「送信手段」として機能する。表示装置34が「表示手段」に相当する。図7のS32で配信先装置から表示比率を取得するCPU10が「比率取得手段」として機能する。図5のS17、図8のS43、および図9のS53で自装置の処理負荷を検出するCPU10が「負荷検出手段」として機能する。図5のS18、図8のS44、および図9のS54で処理負荷が閾値以上であるか否かを判断するCPU10が「負荷判断手段」として機能する。
【0060】
図8に示す拠点画像優先処理および図9に示す資料画像優先処理を行うCPU10が「条件変更手段」として機能する。詳細には、図8のS46で資料画像データの生成条件を変更するCPU10が「第一条件変更手段」として機能する。図9のS56で拠点画像データの生成条件を変更するCPU10が「第二条件変更手段」として機能する。図8のS42および図9のS52で画像データのIピクチャの割合を増加させる設定を行うCPU10が「第三条件変更手段」として機能する。詳細には、S42で拠点画像データのIピクチャの割合を増加させる設定を行うCPU10が「第四条件変更手段」として機能する。S52で資料画像データのIピクチャの割合を増加させるCPU10が「第五条件変更手段」として機能する。
【0061】
図7のS35で拠点画像43が資料画像42よりも大きく表示されているか否かを判断するCPU10が「表示判断手段」として機能する。図8のS41および図9のS51で帯域に余裕があるか否かを判断するCPU10が「帯域判断手段」として機能する。図8のS48および図9のS58で画像データの送信停止を配信先装置に指示するCPU10が「条件変更指示手段」として機能する。
【0062】
図4のS3で資料画像を生成する処理が「第一データ生成ステップ」に相当する。図4のS1で拠点画像データを生成する処理が「第二データ生成ステップ」に相当する。図4のS4で資料画像データおよび拠点画像データを送信する処理が「送信ステップ」に相当する。図7のS32で配信先装置から表示比率を取得する処理が「比率取得ステップ」に相当する。図5のS17、図8のS43、および図9のS53で自装置の処理負荷を検出する処理が「負荷検出ステップ」に相当する。図5のS18、図8のS44、および図9のS54で処理負荷が閾値以上であるか否かを判断する処理が「負荷判断ステップ」に相当する。図8に示す拠点画像優先処理および図9に示す資料画像優先処理が「条件変更ステップ」に相当する。
【0063】
本発明は上記実施の形態に限定されることはなく、様々な変形が可能であることは言うまでもない。上記実施の形態のPC1は、図8のS46および図9のS56において、画像データのフレームレートを減少させることで自装置の処理負荷を低下させている。しかし、これは変更が可能である。例えば、PC1は、フレームレート、画像の解像度、および画像に用いる色数の少なくともいずれかを減少させることで、符号化処理の処理量を低下させてもよい。この場合でも、上記実施の形態と同様に、PC1は処理負荷を確実に低下させることができる。また、PC1は、S32(図7参照)で取得した画像の表示比率に応じて、フレームレート、画像の解像度、および色数の減少量を決定してもよい。例えば、PC1は、画像の表示比率と各値の減少量とが対応付けられたテーブルをHDD13に記憶しておく。テーブルでは、表示比率の差が大きい程減少量が多くなるように設定されている。PC1は、S32で取得された表示比率に対応する減少量だけ各値を減少させる。この場合、PC1は、配信先装置における画像の表示比率に応じて適切に自装置の処理負荷を低下させることができる。
【0064】
上記実施の形態におけるPC1は、表示装置34に接続し、他のPC1から受信した画像データに基づいて表示装置34の画像表示を制御する。しかし、PC1は、受信した画像データを同一拠点内の他のデバイスに転送し、画像データを転送されたデバイスが画像の表示制御を行ってもよい。この場合、PC1は、画像データを転送したデバイスによって表示されている資料画像42および拠点画像43の表示比率を取得して、配信元装置に通知すればよい。
【0065】
上記実施形態におけるPC1は、配信元装置として動作する場合、画像データの送信停止を配信先装置に指示することで、自装置における復号化処理の負荷を低下させることができる。しかし、配信元装置が配信先装置に対して指示する内容は、これに限られない。例えば、配信元装置は、配信先装置から自装置に送信する画像データのフレームレート、解像度、および色数の少なくともいずれかを減少させるように、配信先装置に対する指示を行ってもよい。この場合にも、配信元装置は、受信する画像データの復号化処理の負荷を低下させることができる。
【符号の説明】
【0066】
1 PC
10 CPU
13 HDD
33 カメラ
34 表示装置
42 資料画像
43 拠点画像
100 通信システム

【特許請求の範囲】
【請求項1】
他の通信装置との間で画像データの通信を行う通信装置であって、
複数の拠点で共有する資料画像のデータである資料画像データを生成する第一データ生成手段と、
画像を撮影する撮影手段によって撮影された自拠点の画像のデータである拠点画像データを生成する第二データ生成手段と、
前記第一データ生成手段によって生成された前記資料画像データ、および前記第二データ生成手段によって生成された前記拠点画像データを前記他の通信装置に送信する送信手段と、
前記送信手段によって前記他の通信装置に送信された前記資料画像データおよび前記拠点画像データに従って画像を表示する表示手段において表示されている、前記資料画像と前記自拠点の画像との表示比率を、前記他の通信装置から取得する比率取得手段と、
自装置のデータの処理負荷を検出する負荷検出手段と、
前記負荷検出手段によって検出された処理負荷が閾値以上であるか否かを判断する負荷判断手段と、
前記負荷判断手段によって処理負荷が閾値以上と判断された場合に、前記比率取得手段によって取得された表示比率に基づいて、前記第一データ生成手段および前記第二データ生成手段の少なくともいずれかによる画像データの生成条件を変更する条件変更手段と
を備えたことを特徴とする通信装置。
【請求項2】
前記比率取得手段によって取得された表示比率から、前記表示手段において前記自拠点の画像が前記資料画像よりも大きく表示されているか否かを判断する表示判断手段をさらに備え、
前記条件変更手段は、
前記自拠点の画像の方が前記資料画像よりも大きく表示されていると前記表示判断手段によって判断された場合に、前記第一データ生成手段による前記資料画像データの生成条件を変更する第一条件変更手段と、
前記自拠点の画像が前記資料画像よりも大きく表示されていないと前記表示判断手段によって判断された場合に、前記第二データ生成手段による前記拠点画像データの生成条件を変更する第二条件変更手段と
を備えたことを特徴とする請求項1に記載の通信装置。
【請求項3】
前記第一条件変更手段および前記第二条件変更手段は、符号化処理によって生成する画像データのフレームレート、画像の解像度、および色数の少なくともいずれかを減少させることで、画像データの生成条件を変更することを特徴とする請求項2に記載の通信装置。
【請求項4】
前記他の通信装置にデータを送信するために使用可能な帯域が、前記他の通信装置に送信しているデータの伝送速度よりも大きいか否かを判断する帯域判断手段をさらに備え、
前記条件変更手段は、
前記帯域判断手段によって前記使用可能な帯域の方が大きいと判断された場合に、全画像データのうち、フレーム内予測符号化のみを用いて符号化される画像データであるIピクチャ(Intra−coded Picture)が占める割合を増加させることで、画像データの生成条件を変更する第三条件変更手段を備えたことを特徴とする請求項1から3のいずれかに記載の通信装置。
【請求項5】
前記他の通信装置にデータを送信するために使用可能な帯域が、前記他の通信装置に送信しているデータの伝送速度よりも大きいか否かを判断する帯域判断手段をさらに備え、
前記条件変更手段は、
前記帯域判断手段によって前記使用可能な帯域の方が大きいと判断され、且つ前記自拠点の画像が前記資料画像よりも大きく表示されていないと前記表示判断手段によって判断された場合、前記資料画像データのうち、フレーム内予測符号化のみを用いて符号化される画像データであるIピクチャ(Intra−coded Picture)が占める割合を増加させる第四条件変更手段と、
前記帯域判断手段によって前記使用可能な帯域の方が大きいと判断され、且つ前記自拠点の画像の方が前記資料画像よりも大きく表示されていると前記表示判断手段によって判断された場合、前記拠点画像データにおけるIピクチャの割合を増加させる第五条件変更手段と
を備えたことを特徴とする請求項2または3に記載の通信装置。
【請求項6】
前記他の通信装置が設置された拠点の画像のデータである他拠点画像データの前記通信装置への送信条件を変更する指示を前記他の通信装置へ送信する条件変更指示手段をさらに備えたことを特徴とする請求項1から5のいずれかに記載の通信装置。
【請求項7】
他の通信装置との間で画像データの通信を行う通信装置によって行われる通信方法であって、
複数の拠点で共有する資料画像のデータである資料画像データを生成する第一データ生成ステップと、
画像を撮影する撮影手段によって撮影された自拠点の画像のデータである拠点画像データを生成する第二データ生成ステップと、
前記第一データ生成ステップにおいて生成された前記資料画像データ、および前記第二データ生成ステップにおいて生成された前記拠点画像データを前記他の通信装置に送信する送信ステップと、
前記送信ステップにおいて前記他の通信装置に送信された前記資料画像データおよび前記拠点画像データに従って画像を表示する表示手段において表示されている、前記資料画像と前記自拠点の画像との表示比率を、前記他の通信装置から取得する比率取得ステップと、
自装置のデータの処理負荷を検出する負荷検出ステップと、
前記負荷検出ステップにおいて検出された処理負荷が閾値以上であるか否かを判断する負荷判断ステップと、
前記負荷判断ステップにおいて処理負荷が閾値以上と判断された場合に、前記比率取得ステップにおいて取得された表示比率に基づいて、前記第一データ生成ステップおよび前記第二データ生成ステップの少なくともいずれかにおける画像データの生成条件を変更する条件変更ステップと
を備えたことを特徴とする通信方法。
【請求項8】
他の通信装置との間で画像データの通信を行う通信装置に実行させる通信プログラムであって、
コンピュータに、
複数の拠点で共有する資料画像のデータである資料画像データを生成する第一データ生成ステップと、
画像を撮影する撮影手段によって撮影された自拠点の画像のデータである拠点画像データを生成する第二データ生成ステップと、
前記第一データ生成ステップにおいて生成された前記資料画像データ、および前記第二データ生成ステップにおいて生成された前記拠点画像データを前記他の通信装置に送信する送信ステップと、
前記送信ステップにおいて前記他の通信装置に送信された前記資料画像データおよび前記拠点画像データに従って画像を表示する表示手段において表示されている、前記資料画像と前記自拠点の画像との表示比率を、前記他の通信装置から取得する比率取得ステップと、
自装置のデータの処理負荷を検出する負荷検出ステップと、
前記負荷検出ステップにおいて検出された処理負荷が閾値以上であるか否かを判断する負荷判断ステップと、
前記負荷判断ステップにおいて処理負荷が閾値以上と判断された場合に、前記比率取得ステップにおいて取得された表示比率に基づいて、前記第一データ生成ステップおよび前記第二データ生成ステップの少なくともいずれかにおける画像データの生成条件を変更する条件変更ステップと
を実行させるための通信プログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate


【公開番号】特開2012−15786(P2012−15786A)
【公開日】平成24年1月19日(2012.1.19)
【国際特許分類】
【出願番号】特願2010−150251(P2010−150251)
【出願日】平成22年6月30日(2010.6.30)
【出願人】(000005267)ブラザー工業株式会社 (13,856)
【Fターム(参考)】