画像処理装置、画像処理方法、および画像処理プログラム
【課題】複数の撮像手段によって撮像された複数の画像のデータを通信装置が送信してテレビ会議を実行する場合に、通信装置の処理負担を低下させることができる画像処理装置、画像処理方法、および画像処理プログラムを提供する。
【解決手段】通信システムは、ネットワークを介してデータを送信するPCと、PCに対して直列に接続される複数のテレビ会議端末とを備える。テレビ会議端末は、PCに連なって接続している他のテレビ会議端末の台数を取得する。テレビ会議端末は、画像を撮像するカメラから自装置画像データを取得し(S60)、且つ、下位に接続している他のテレビ会議端末から他装置画像データを取得する(S61)。取得した自装置画像データと他装置画像データとを合成して合成画像データを生成する(S62)。テレビ会議端末は、生成した合成画像データをPCに出力する(S65)。
【解決手段】通信システムは、ネットワークを介してデータを送信するPCと、PCに対して直列に接続される複数のテレビ会議端末とを備える。テレビ会議端末は、PCに連なって接続している他のテレビ会議端末の台数を取得する。テレビ会議端末は、画像を撮像するカメラから自装置画像データを取得し(S60)、且つ、下位に接続している他のテレビ会議端末から他装置画像データを取得する(S61)。取得した自装置画像データと他装置画像データとを合成して合成画像データを生成する(S62)。テレビ会議端末は、生成した合成画像データをPCに出力する(S65)。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、テレビ会議を実行するために通信装置からネットワークを介して送信される画像データを処理する画像処理装置、画像処理方法、および画像処理プログラムに関する。
【背景技術】
【0002】
従来、撮像手段によって撮像された画像のデータを他のデバイスに出力する際に、データの出力先のデバイスの処理負担を低下させる技術が知られている。例えば、特許文献1に記載の撮像装置は、画像を印刷するプリンタに画像データを出力する際に、プリンタからメモリサイズの情報を取得する。取得したメモリサイズに基づいて、プリンタに出力可能な画像データのサイズを算出する。出力する画像データのサイズが、出力可能なサイズよりも大きい場合、撮像装置は、圧縮されている画像データを再圧縮してプリンタに出力する。その結果、画像を印刷する処理が適切に行われる。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2006−101220号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
テレビ会議を実行するための通信システムでは、画像データが複数の通信装置間で送受信されることで、複数の拠点の画像がシステム内で共有される。複数の撮像手段によって撮像された複数の画像のデータを1つの通信装置が送信する場合、通信装置は複数の画像を合成し、合成した画像のデータを送信する必要があった。従って、通信装置の処理負担が増大し、テレビ会議中に表示される画像が乱れる可能性があった。従来の技術では、複数の撮像手段によって撮像された複数の画像のデータを送信する場合の通信装置の処理負担を低下させることはできなかった。
【0005】
本発明は、複数の撮像手段によって撮像された複数の画像のデータを通信装置が送信してテレビ会議を実行する場合に、通信装置の処理負担を低下させることができる画像処理装置、画像処理方法、および画像処理プログラムを提供することを目的とする。
【課題を解決するための手段】
【0006】
本発明の第一の態様に係る画像処理装置は、ネットワークを介してデータを送信する通信装置と、前記通信装置に対して直列に接続される複数の画像処理装置とを備える通信システムにおいて使用され、他の拠点で表示させる画像の画像データを前記通信装置に出力することが可能な画像処理装置であって、前記通信装置に連なって接続している他の画像処理装置の台数を取得する台数取得手段と、画像を撮像する撮像手段から第一画像データを取得する第一画像データ取得手段と、自装置に接続している他の画像処理装置から第二画像データを取得する第二画像データ取得手段と、前記第一画像データ取得手段によって取得された第一画像データと前記第二画像データ取得手段によって取得された第二画像データとを、前記台数取得手段によって取得された台数に応じて合成して合成画像データを生成する生成手段と、前記生成手段によって生成された前記合成画像データを、接続している他の画像処理装置または前記通信装置に出力する出力手段とを備える。
【0007】
第一の態様に係る画像処理装置は、複数の撮像手段によって撮像された画像の画像データを合成して合成画像データを生成する。生成した合成画像データを、他の画像処理装置または通信装置に出力することができる。画像処理装置から合成画像データを入力した通信装置は、画像データを合成する処理を行う必要がない。従って、画像処理装置は通信装置の処理負担を低下させることができ、テレビ会議中の通信が乱れる可能性を低下させることができる。
【0008】
前記画像処理装置は、前記通信装置に連なって接続している自装置および他の画像処理装置のうち、前記通信装置に対する自装置の接続順を取得する接続順情報取得手段と、合成画像データ上の座標における第一画像データの合成位置を示す座標情報と、前記自装置の接続順とを対応付けるテーブルを記憶手段から取得するテーブル取得手段とをさらに備えてもよい。前記生成手段は、前記テーブル取得手段によって取得されたテーブルにおいて、前記接続順情報取得手段によって取得された前記自装置の接続順に対応する座標情報が示す合成位置に、第一画像データを合成してもよい。画像処理装置は、通信装置に対する自装置の接続順に応じた適切な合成位置に第一画像データを合成することができる。通信装置は、第一画像データの合成位置を画像処理装置に指示する必要はない。従って、画像処理装置は通信装置の処理負担をさらに低下させることができる。
【0009】
前記画像処理装置は、ユーザが表示手段に表示されたテンプレートに対して操作を入力することで設定される情報であり、前記テンプレート上の座標において前記ユーザが指定した各画像処理装置の第一画像データの合成位置を示す座標情報を取得する設定情報取得手段をさらに備えてもよい。前記生成手段は、前記設定情報取得手段によって取得された座標情報が示す合成位置に、第一画像データを合成してもよい。この場合、ユーザは、各撮像手段によって撮像された画像のレイアウトを自由に決定することができる。
【0010】
前記第二画像データ取得手段は、変換符号化および量子化が行われた第二画像データを、接続している前記他の画像処理装置から取得してもよい。前記画像処理装置は、自装置が他の画像処理装置を介さずに前記通信装置に接続しているか否かを判断する判断手段と、前記判断手段によって他の画像処理装置を介さずに前記通信装置に接続されていると判断された場合に、前記生成手段によって生成された合成画像データに対して予測符号化処理を含む圧縮処理を行う圧縮処理手段をさらに備えてもよい。前記出力手段は、前記圧縮処理手段によって処理された合成画像データを前記通信装置に出力してもよい。画像処理装置は、変換符号化および量子化が行われた第二画像データを取得するため、データ量の大きい第二画像データを取得して処理負担が増加することを防止することができる。さらに、画像処理装置は、合成画像データを通信装置に出力する場合にのみ、予測符号化処理を含む圧縮処理を行う。よって、合成画像データを生成する際に第二画像データを復号化する必要が無く、効率よく処理を行うことができる。通信装置は、圧縮処理が既に行われた合成画像データを入力するため、通信装置の処理負担はさらに低下する。
【0011】
前記画像処理装置は、前記通信装置に出力する合成画像データの解像度およびフレームレートを前記通信装置から取得する出力情報取得手段と、前記出力情報取得手段によって取得された解像度およびフレームレートを、前記通信装置に連なって接続している他の画像処理装置に通知する通知手段とをさらに備えてもよい。前記生成手段は、前記出力情報取得手段によって取得された解像度およびフレームレート、または他の画像処理装置の通知手段によって通知された解像度およびフレームレートに従って合成画像データを生成してもよい。この場合、画像処理装置は、通信装置が要求する解像度およびフレームレートを他の画像処理装置と共有し、適切な合成画像データを通信装置に出力することができる。
【0012】
本発明の第二の態様に係る画像処理方法は、ネットワークを介してデータを送信する通信装置と、前記通信装置に対して直列に接続される複数の画像処理装置とを備える通信システムにおいて使用され、他の拠点で表示させる画像の画像データを前記通信装置に出力することが可能な画像処理装置によって実行される画像処理方法であって、前記通信装置に連なって接続している他の画像処理装置の台数を取得する台数取得ステップと、画像を撮像する撮像手段から第一画像データを取得する第一画像データ取得ステップと、自装置に接続している他の画像処理装置から第二画像データを取得する第二画像データ取得ステップと、前記第一画像データ取得ステップにおいて取得された第一画像データと前記第二画像データ取得ステップにおいて取得された第二画像データとを、前記台数取得ステップにおいて取得された台数に応じて合成して合成画像データを生成する生成ステップと、前記生成ステップにおいて生成された前記合成画像データを、接続している他の画像処理装置または前記通信装置に出力する出力ステップとを備える。
【0013】
第二の態様に係る画像処理方法によると、画像処理装置は、複数の撮像手段によって撮像された画像の画像データを合成して合成画像データを生成する。生成した合成画像データを、他の画像処理装置または通信装置に出力することができる。画像処理装置から合成画像データを入力した通信装置は、画像データを合成する処理を行う必要がない。従って、画像処理装置は通信装置の処理負担を低下させることができ、テレビ会議中の通信が乱れる可能性を低下させることができる。
【0014】
本発明の第三の態様に係る画像処理プログラムは、ネットワークを介してデータを送信する通信装置と、前記通信装置に対して直列に接続される複数の画像処理装置とを備える通信システムにおいて使用され、他の拠点で表示させる画像の画像データを前記通信装置に出力することが可能な画像処理装置で用いられる画像処理プログラムであって、前記通信装置に連なって接続している他の画像処理装置の台数を取得する台数取得ステップと、画像を撮像する撮像手段から第一画像データを取得する第一画像データ取得ステップと、自装置に接続している他の画像処理装置から第二画像データを取得する第二画像データ取得ステップと、前記第一画像データ取得ステップにおいて取得された第一画像データと前記第二画像データ取得ステップにおいて取得された第二画像データとを、前記台数取得ステップにおいて取得された台数に応じて合成して合成画像データを生成する生成ステップと、前記生成ステップにおいて生成された前記合成画像データを、接続している他の画像処理装置または前記通信装置に出力する出力ステップとを前記画像処理装置のコントローラに実行させるための指示を含む。
【0015】
第三の態様に係る画像処理プログラムによると、画像処理装置は、複数の撮像手段によって撮像された画像の画像データを合成して合成画像データを生成する。生成した合成画像データを、他の画像処理装置または通信装置に出力することができる。画像処理装置から合成画像データを入力した通信装置は、画像データを合成する処理を行う必要がない。従って、画像処理装置は通信装置の処理負担を低下させることができ、テレビ会議中の通信が乱れる可能性を低下させることができる。
【図面の簡単な説明】
【0016】
【図1】通信システム100のシステム構成を示す図である。
【図2】テレビ会議端末1およびPC3の電気的構成を示すブロック図である。
【図3】テレビ会議中に表示装置46に表示される画像の一例を示す図である。
【図4】PC3が実行するPC会議処理のフローチャートである。
【図5】画像配置入力用テンプレート51を表示している表示装置46の一例を示す図である。
【図6】レイアウト情報のデータ構成を説明するための説明図である。
【図7】テレビ会議端末1が実行する端末会議処理のフローチャートである。
【図8】端末会議処理中に実行される最上位端末処理のフローチャートである。
【図9】テレビ会議端末1のフラッシュメモリ13に記憶されている合成位置テーブルのデータ構成を説明するための説明図である。
【図10】端末会議処理中に実行される下位端末処理のフローチャートである。
【発明を実施するための形態】
【0017】
以下、本発明の画像処理装置を具現化した一実施の形態であるテレビ会議端末1について、図面を参照して説明する。参照する図面は、本発明が採用し得る技術的特徴を説明するために用いられるものである。図面に記載されている装置の構成、各種処理のフローチャート等は、それのみに限定する趣旨ではなく、単なる説明例である。
【0018】
図1を参照して、テレビ会議端末1を備えた通信システム100の概略構成について説明する。通信システム100は、ネットワーク8を介してデータを送受信することが可能な複数の通信装置を備える。本実施の形態では、通信装置としてパーソナルコンピュータ(以下、「PC」という。)3が用いられているが、データの送受信が可能なテレビ会議専用の装置等を通信装置として用いてもよい。
【0019】
PC3にはテレビ会議端末1を接続することができる。テレビ会議端末1は、設置された拠点の音声をマイク26(図2参照)から入力し、且つ画像をカメラ28(図2参照)から入力する。入力した音声および画像のデータをPC3に出力する。また、テレビ会議端末1は、PC3から入力した音声のデータに基づいて、他拠点の音声をスピーカ27(図2参照)から発生させることができる。
【0020】
PC3には複数のテレビ会議端末1を接続することもできる。従って、図1に示すように、複数のユーザが1つの拠点に集合してテレビ会議を実行する場合、各ユーザの近傍に複数のテレビ会議端末1の各々を配置することができる。その結果、各ユーザの鮮明な画像が他の拠点で表示され、且つ各ユーザの発話音声が正確に他の拠点で出力される。
【0021】
本実施の形態では、1つのPC3に複数のテレビ会議端末1を接続する場合、複数のテレビ会議端末1を直列にPC3に接続する。図1に示す例では、PC3にテレビ会議端末1Aが接続される。テレビ会議端末1Aにはテレビ会議端末1Bが接続され、さらにテレビ会議端末1Bにはテレビ会議端末1Cが接続される。従って、テレビ会議端末1Cが自装置のマイク26およびカメラ28から入力したデータは、テレビ会議端末1Bおよびテレビ会議端末1Aを介してPC3に出力される。同様に、テレビ会議端末1Bが入力した音声および画像のデータは、テレビ会議端末1Aを介してPC3に出力される。PC3は、複数のテレビ会議端末1A〜1Cから入力したデータを、ネットワーク8を介して他の拠点のPC3に送信する。その結果、ユーザA,B,Cの発話音声および画像が他の拠点で出力される。
【0022】
前述したように、複数のテレビ会議端末1を1つのPC3に接続することで、複数のユーザの各々の正確な発話音声および鮮明な画像が他の拠点で出力される。一方で、従来の技術では、PC3は、複数のテレビ会議端末1から入力した複数の画像データを合成する必要があった。その結果、PC3の処理負担が増大していた。PC3の処理負担が増大すると、データ通信、音声の出力、画像の表示等が乱れ、テレビ会議を円滑に実行できない可能性がある。本実施の形態のテレビ会議端末1は、PC3の処理負担を低下させて円滑にテレビ会議を実行することができる。
【0023】
なお、以下の説明では、PC3に直列に接続されている複数のテレビ会議端末1のうち、PC3に近い方の端末を「上位」、PC3から遠い方の端末を「下位」とする。他のテレビ会議端末1を介さずにPC3に直接接続しているテレビ会議端末1(例えば、図1のテレビ会議端末1A)を「最上位端末」という。PC3から最も遠いテレビ会議端末1(例えば、図1のテレビ会議端末1C)を「最下位端末」という。上位および下位の2つのテレビ会議端末1に接続しているテレビ会議端末1(例えば、図1のテレビ会議端末1B)を「中間端末」という。
【0024】
図2を参照して、テレビ会議端末1およびPC3の電気的構成について説明する。テレビ会議端末1は、テレビ会議端末1の制御を司るCPU10を備える。CPU10には、ROM11、RAM12、フラッシュメモリ13、および入出力インターフェース14が、バス19を介して接続されている。
【0025】
ROM11は、テレビ会議端末1を動作させるためのプログラムおよび初期値等を記憶している。後述する端末会議処理(図7等参照)を実行するためのプログラムはROM11に記憶されている。RAM12は、制御プログラムで使用される各種の情報を一時的に記憶する。フラッシュメモリ13は不揮発性の記憶装置である。後述する合成位置テーブル(図9参照)はフラッシュメモリ13に記憶されている。フラッシュメモリ13の代わりに、EEPROMまたはメモリカード等の記憶装置を用いてもよい。
【0026】
入出力インターフェース14には、USBデバイスI/F21、音声入力処理部22、音声出力処理部23、映像入力処理部24、USBホストI/F25、および操作部29が接続されている。USBデバイスI/F21は、PC3のUSBホストI/F43、または他のテレビ会議端末1のUSBホストI/F25に接続し、接続したデバイスに自拠点の音声および画像のデータを出力する。テレビ会議端末1がUSBデバイスI/F21によって他の装置に接続された場合、接続した他の装置がUSB通信プロトコルを主導する。一方、USBホストI/F25は、下位のテレビ会議端末1のUSBデバイスI/F21に接続し、接続した下位のテレビ会議端末1から自拠点の音声および画像のデータを入力する。USBホストI/F25によって他の装置に接続された場合には、自装置がUSB通信プロトコルを主導する。なお、USBデバイスI/F21およびUSBホストI/F25によって各種信号を他のデバイスとの間で入出力できることは言うまでもない。音声入力処理部22は、マイク26からの音声データの入力を処理する。音声出力処理部23は、スピーカ27の動作を処理する。映像入力処理部24は、カメラ28からの画像データの入力を処理する。操作部29は電源ボタン、音量調節ボタン、マイクミュートボタン等からなり、ユーザによる各種操作入力を受け付ける。
【0027】
PC3は、PC3の制御を司るCPU30を備える。CPU30には、ROM31、RAM32、ハードディスクドライブ(以下、「HDD」という。)33、および入出力インターフェース34が、バス39を介して接続されている。ROM31は、PC3を動作させるためのプログラムおよび初期値等を記憶している。RAM12は各種情報を一時的に記憶する。HDD13は不揮発性の記憶装置である。
【0028】
入出力インターフェース34には、映像出力処理部41、外部通信I/F42、USBホストI/F43、および操作部47が接続されている。映像出力処理部41は、映像を表示する表示装置46の動作を処理する。外部通信I/F42は、PC3をネットワーク8に接続する。USBホストI/F43は、USBケーブルを介してPC3をテレビ会議端末1(最上位端末)に接続する。操作部47はキーボード等からなり、各種操作入力を受け付ける。
【0029】
図3を参照して、通信システム100でテレビ会議が実行されている間にPC3の表示装置46に表示される画像の一例について説明する。図3に示す例では、拠点Xに3人のユーザA,B,Cが集まり、且つ拠点Yには1人のユーザDがいる。拠点XのPC3には3つのテレビ会議端末1が接続されており、各テレビ会議端末1が3人のユーザA,B,Cの各々を撮像する。拠点XのPC3は、3つのテレビ会議端末1が撮像した3つの画像が合成された合成画像48を表示装置46に表示する。さらに、拠点YのPC3から受信したユーザDの画像49を表示装置46に表示する。拠点XのPC3は、合成画像48の画像データを拠点YのPC3に送信する。従って、図3に示す画像と同様の画像が、拠点YのPC3の表示装置46にも表示される。なお、PC3は、図3に例示する画像をプロジェクタに投影させてテレビ会議を実行してもよいし、PC3に接続された他の表示装置に表示させてもよい。
【0030】
本実施の形態に係るテレビ会議端末1は、複数のテレビ会議端末1が撮像した複数の画像を合成して合成画像データを生成し、生成した合成画像データをPC3に出力することができる。従って、テレビ会議端末1はPC3の処理負担を低下させることができる。また、複数のテレビ会議端末1は、各テレビ会議端末1が撮像した画像の合成画像データにおける合成位置を示す座標情報を共有し、適切な位置に画像を合成することができる。さらに、テレビ会議端末1は、PC3から要求された解像度およびフレームレートに応じた適切な合成画像データをPC3に出力することができる。以下、処理の詳細について説明する。
【0031】
図4から図6を参照して、PC3が実行するPC会議処理について説明する。PC3のHDD33には、テレビ会議を実行するためのアプリケーションプログラムがインストールされている。PC3のCPU30は、アプリケーションを立ち上げる指示を操作部47から入力すると、図4に示すPC会議処理を実行する。
【0032】
図4に示すように、PC会議処理が開始されると、接続している最上位端末に台数調査コマンドが出力される(S1)。台数調査コマンドとは、PC3に連なって接続しているテレビ会議端末1の台数を調査する指示を行うためのコマンドである。詳細は後述するが、テレビ会議端末1は、台数調査コマンドをPC3から入力すると、テレビ会議端末1の台数を調査してPC3に通知する。PC3のCPU10は、最上位端末から台数を取得してRAM32に記憶する(S2)。
【0033】
次いで、レイアウト指定コマンドが操作部47に入力されたか否かが判断される(S3)。レイアウト指定コマンドは、合成画像のレイアウトをユーザ自身が指定する場合にユーザによって入力される。レイアウト指定コマンドが入力されていなければ(S3:NO)、デフォルトのレイアウトを用いて会議を開始させる指示が入力されたか否かが判断される(S4)。入力されていなければ(S4:NO)、処理はS3の判断へ戻る。
【0034】
レイアウト指定コマンドが入力された場合(S3:YES)、画像配置入力用テンプレートが起動されて表示装置46に表示される(S6)。図5に、画像配置入力用テンプレート51を表示した表示装置46の一例を示す。画像配置入力用テンプレートは、合成画像のレイアウトの指定をユーザから受け付けるためのテンプレートである。S6では、S2で取得された台数、およびテレビ会議で採用する画像の解像度に応じたテンプレートが起動される。図5に例示する画像配置入力用テンプレート51は、テレビ会議端末1の台数が3台であり、且つ採用する解像度がVGA(640×480)である場合のテンプレートである。この場合、最上位端末の撮像画像の位置を示す「画像1の位置」52、中間端末の撮像画像の位置を示す「画像2の位置」53、最下位端末の撮像画像の位置を示す「画像3の位置」54が表示される。さらに、左上端を原点とした座標の数値が表示される。ユーザは、表示装置46に表示されるポインタ(図示せず)を操作部47によって操作することで、各画像の位置および大きさを指定する。指定したレイアウトを確定させる場合には、確定ボタン57を操作する。なお、斜線部分55は撮像画像が表示されないブランク部分である。
【0035】
確定ボタン57が操作されるまで(S7:NO)、画像配置入力用テンプレートは継続して起動される。確定ボタン57が操作されてレイアウトの指定が完了すると(S7:YES)、レイアウト情報が設定されて最上位端末に出力される(S8)。図6に示すように、レイアウト情報は、各テレビ会議端末1が撮像した各々の画像の合成画像データ上の合成位置を示す。具体的には、合成画像データ上の座標における各々の画像の合成位置を示す座標値が、レイアウト情報として設定されて出力される。
【0036】
レイアウト情報の出力(S8)が完了した場合、またはデフォルトのレイアウトを用いて会議を開始させる指示が入力された場合には(S4:YES)、会議開始指示が最上位端末に出力される(S10)。テレビ会議で採用する画像の解像度およびフレームレートが最上位端末に出力される(S11)。PC会議処理は終了する。なお、PC3のCPU30は、PC会議処理を終了すると、画像および音声のデータを他のPC3との間で送受信する処理を開始する。この処理は一般的な処理であるため、説明を省略する。
【0037】
図7から図10を参照して、テレビ会議端末1が実行する端末会議処理について説明する。テレビ会議端末1のROM11には、テレビ会議中にPC3に画像データを出力するための画像処理プログラムが記憶されている。テレビ会議端末1のCPU10は、電源が投入されることを契機として、図7に示す端末会議処理を実行する。
【0038】
図7に示すように、端末会議処理が開始されると、PC3から台数調査コマンドが入力されたか否かが判断される(S21)。入力されていなければ(S21:NO)、上位に接続されているテレビ会議端末1から台数調査コマンドが入力されたか否かが判断される(S22)。入力されていなければ(S22:NO)、S21およびS22の判断が繰り返される。
【0039】
自装置が最上位端末であり、他のテレビ会議端末1を介さずにPC3に接続されている場合には、テレビ会議の開始時にPC3から台数調査コマンドが出力されてくる。従って、PC3から台数調査コマンドを直接入力した場合(S21:YES)、CPU10は、自装置を最上位端末として認識し、自装置の接続番号を「1」に設定する(S23)。接続番号とは、PC3に連なって接続している複数のテレビ会議端末1のうち、PC3に対する自装置の接続順を示す番号である。詳細は後述するが、テレビ会議端末1は、自装置のカメラ28によって撮像した画像のデータの合成位置を、接続番号に従って認識する。本実施の形態では、上位のテレビ会議端末1から順に接続番号が増加するように接続番号が設定される。具体的には、PC3に直接接続されている場合には接続順が「1」とされ、接続番号が「1」とされる。1つのテレビ会議端末1(最上位端末)を介してPC3に接続されている場合には接続順が「2」とされ、接続番号が「2」とされる。また、上位に接続されているテレビ会議端末1から台数調査コマンドを入力した場合には(S22:YES)、処理はそのままS24へ移行する。
【0040】
台数調査コマンドが入力されると、下位に接続されているテレビ会議端末1へ台数調査コマンドが出力される(S24)。出力した台数調査コマンドに対して、下位端末数の回答があったか否かが判断される(S26)。回答がない場合(S26:NO)、自装置の下位にはテレビ会議端末1が接続されていない。従って、自装置が最下位端末として認識される(S27)。さらに、上位のテレビ会議端末1に対し、下位端末数が最下位端末の1つのみであることが出力される(S28)。次いで、上位のテレビ会議端末1から合計台数が入力されるまで待機される(S33:NO)。詳細は後述するが、合計台数は、最上位端末から下位のテレビ会議端末1へ向けて順に入力される。合計台数が入力されると(S33:YES)、自装置よりも下位の端末数を合計台数から引いた値が、自装置の接続番号に設定される(S34)。つまり、自装置が最下位端末であれば、自装置よりも下位の端末数は「0」であるため、合計台数と自装置の接続番号は等しくなる。次いで、自装置が最下位端末であるか否かが判断される(S39)。最下位端末であれば(S39:YES)、処理はそのままS41の判断へ移行する。
【0041】
台数調査コマンドに対する回答があった場合(S26:YES)、下位のテレビ会議端末1から入力された下位端末数が認識され、RAM12に記憶される(S30)。次いで、自装置が最上位端末であるか否かが判断される(S31)。自装置が最上位端末でなければ(S31:NO)、下位のテレビ会議端末1から入力された下位端末数に「1」を足した数が、上位のテレビ会議端末1における下位端末数として、上位のテレビ会議端末1に対して出力される(S32)。上記のテレビ会議端末1から合計台数が入力されると(S33:YES)、合計台数から自装置の下位端末数を引いた値が自装置の接続番号に設定される(S34)。自装置が最下位端末でなければ(S39:NO)、下位に接続されているテレビ会議端末1に、上位のテレビ会議端末1から入力された合計台数がそのまま出力(転送)されて(S40)、処理はS41の判断へ移行する。
【0042】
自装置が最上位端末である場合には(S31:YES)、下位のテレビ会議端末1から入力された下位端末数に「1」を足した数が合計台数として認識される(S36)。自装置に接続しているPC3および下位のテレビ会議端末1に対し、認識した合計台数が出力される(S37)。前述したように、合計台数は最下位端末まで順に通知されるため、PC3に連なって接続しているテレビ会議端末1の全てが合計台数を認識できる。処理はS41の判断へ移行する。
【0043】
次いで、PC3または上位のテレビ会議端末1から会議開始指示を入力したか否かが判断され(S41)、入力するまで待機状態となる(S41:NO)。会議開始指示を入力すると(S41:YES)、自装置が最上位端末であるか否かが判断される(S42)。最上位端末であれば(S42:YES)、最上位端末処理が行われて(S43)、処理は終了する。自装置が最上位端末でなければ(S42:NO)、下位端末処理が行われて(S44)、処理は終了する。
【0044】
図8を参照して、最上位端末処理について説明する。最上位端末処理が開始されると、テレビ会議で採用する解像度およびフレームレートがPC3から入力される(S51)。解像度およびフレームレートは、会議開始指示と共にPC3によって出力される(図4、S10およびS11参照)。入力された解像度、フレームレート、および会議開始指示は、下位に接続しているテレビ会議端末1に転送される(S52)。
【0045】
PC3からレイアウト情報(図6参照)が入力されたか否かが判断される(S53)。前述したように、ユーザが画像配置入力用テンプレートを用いて画像の配置を指定すると、PC3は、各々の画像の合成画像データ上の合成位置を示すレイアウト情報を最上位端末に出力する。レイアウト情報が入力された場合(S53:YES)、入力されたレイアウト情報が下位のテレビ会議端末1に転送される(S54)。レイアウト情報が示す合成位置のうち、最上位端末の接続番号「1」に対応する合成位置が、自装置が撮像した画像の合成位置として認識される(S55)。
【0046】
レイアウト情報が入力されていない場合(S53:NO)、ユーザはデフォルトのレイアウトを用いて会議を開始させる指示を入力している。この場合、フラッシュメモリ13に記憶されている合成位置テーブルが取得される(S56)。図9に示すように、合成位置テーブルでは、合成画像データ上の座標における各画像の合成位置を示す座標情報と、テレビ会議端末1の接続順(接続番号)とが対応付けられている。本実施の形態では、解像度がVGAである場合のテーブルと、解像度がXGAである場合のテーブルとが設けられている。PC3に接続されているテレビ会議端末1の合計台数毎に、各端末の合成位置を示す座標情報と接続順とが対応付けられている。テレビ会議端末1のCPU10は、合計台数、解像度、および自装置の接続順に対応する座標情報を取得する。取得した座標情報が示す合成位置を、自装置が撮像した画像のデータを合成する合成位置として認識する(S57)。
【0047】
次いで、自装置のカメラ28が撮像した画像のデータ(自装置画像データ)が取得される(S60)。S60では、S51でPC3から入力された解像度の自装置画像データが取得される。さらに、S51で入力されたフレームレートに従って自装置画像データが取得される。次いで、下位に接続しているテレビ会議端末1から画像データ(他装置画像データ)が取得される(S61)。なお、S61で取得される他装置画像データは、下位に接続しているテレビ会議端末1が1つのみであれば、下位のテレビ会議端末1が撮像した画像の画像データとなる。一方、下位に接続しているテレビ会議端末1が複数であれば、下位の複数のテレビ会議端末1によって撮像された複数の画像の合成画像となる。また、詳細は後述するが、他装置画像データの解像度およびフレームレートは、S60で取得される自装置画像データの解像度およびフレームレートと同一となっている。さらに、他装置画像データには、DCTおよび量子化が既に行われている。次いで、他装置画像データのうち、S55またはS57で認識した位置に、自装置画像データが合成される(S62)。その結果、合成画像データが生成される。
【0048】
最上位端末では、生成された合成画像データに対して予測符号化処理が行われる(S63)。さらに、ハフマン符号化が行われる(S64)。最上位端末が予測符号化およびハフマン符号化を行ってデータを圧縮することで、PC3はこれらの処理を行う必要がなくなる。なお、S64では、CPU10はハフマン符号化以外のエントロピー符号化を行ってもよい。予測符号化およびエントロピー符号化のいずれかのみを行ってもよい。符号化された合成画像データは、自装置に接続しているPC3に出力される(S65)。操作部29等から会議終了指示を入力するまで(S66:NO)、S60〜S66の処理が繰り返される。会議終了指示を入力すると(S66:YES)、処理は終了する。
【0049】
図10を参照して、下位端末処理について説明する。下位端末処理が開始されると、上位に接続されているテレビ会議端末1から解像度およびフレームレートが入力される(S71)。下位にテレビ会議端末1が接続されていれば(自装置が最下位端末でなければ)、入力した解像度・フレームレートと、会議開始指示とが、下位のテレビ会議端末1に転送される(S72)。
【0050】
上位に接続されているテレビ会議端末1からレイアウト情報(図6参照)が入力されたか否かが判断される(S73)。レイアウト情報が入力された場合(S73:YES)、自装置が最下位端末でなければ、レイアウト情報が下位のテレビ会議端末1に転送される(S74)。レイアウト情報が示す合成位置のうち、自装置の接続番号に対応する合成位置が、自装置画像の合成位置として認識される(S75)。レイアウト情報が入力されていない場合(S73:NO)、フラッシュメモリ13から合成位置テーブル(図9参照)が取得される(S76)。取得された合成位置テーブルから、合計台数、解像度、および自装置の接続順に対応する座標情報が取得される。取得された座標情報によって示される位置が、自装置画像の合成位置として認識される(S77)。
【0051】
次いで、自装置のカメラ28から自装置画像データが取得される(S79)。S79では、S71で取得された解像度およびフレームレートに従って自装置画像データが取得される。つまり、複数のテレビ会議端末1の間で共通の解像度およびフレームレートが用いられることになる。自装置が最下位端末であれば(S80:YES)、S75またはS77で認識された位置に自装置画像データが配置され(S81)、この画像データに対して離散コサイン変換(DCT)および量子化処理が行われる(S85)。DCTおよび量子化が行われた画像データが、上位に接続しているテレビ会議端末1に出力される(S86)。画像データの出力前にDCTおよび量子化を行うことで、上位のテレビ会議端末1およびPC3の処理負担を低下させることができる。さらに、本実施の形態では、予測符号化およびハフマン符号化は最上位端末のみで行われる。従って、中間端末および最上位端末は、他装置画像データを復号化することなく、他装置画像データに自装置画像データを合成することができる。なお、S85では、離散フーリエ変換(DFT)等の他の変換符号化処理が行われてもよいし、変換符号化および量子化のいずれかのみが行われてもよい。
【0052】
自装置が最下位端末でなく中間端末であれば(S80:NO)、下位に接続しているテレビ会議端末1から他装置画像データが取得される(S83)。取得された他装置画像データのうち、S75またはS77で認識した位置に、自装置画像データが合成される(S84)。その結果、合成画像データが生成される。生成された合成画像データに対してDCTおよび量子化が行われて(S85)、合成画像データは上位のテレビ会議端末1に出力される(S86)。操作部29等から会議終了指示を入力するまで(S87:NO)、S79〜S87の処理が繰り返される。会議終了指示を入力すると(S87:YES)、処理は終了する。
【0053】
以上説明したように、本実施の形態のテレビ会議端末1は、複数のカメラ28によって撮像された複数の画像の画像データを合成して合成画像データを生成する。生成した合成画像データを、上位のテレビ会議端末1またはPC3に出力することができる。最上位端末から合成画像データを入力したPC3は、画像データを合成する処理を行う必要がない。従って、テレビ会議端末1はPC3の処理負担を低下させることができ、テレビ会議中の通信が乱れる可能性を低下させることができる。
【0054】
テレビ会議端末1は、自装置が撮像した画像のデータ(自装置画像データ)の合成位置を、合成位置テーブルおよび自装置の接続順に応じて容易に認識することができる。認識した適切な位置に自装置画像データを合成することができる。PC3は、画像データの合成位置を各々のテレビ会議端末1に指示する必要はない。従って、合成位置テーブルを用いる場合、テレビ会議端末1はPC3の処理負担をさらに低下させることができる。
【0055】
テレビ会議端末1は、ユーザがPC3の操作部47を操作することで設定されたレイアウト情報によって、自装置画像データの合成位置を認識することができる。この場合、ユーザは、各テレビ会議端末1が撮像した画像のレイアウトを自由に決定することができる。テレビ会議端末1は、レイアウト情報が示す適切な位置に自装置画像データを合成することができる。
【0056】
テレビ会議端末1は、自装置が中間端末または最下位端末として動作する場合には、変換符号化および量子化を行った画像データを上位のテレビ会議端末に出力する。従って、上位のテレビ会議端末がデータ量の大きい画像データを取得して処理負担が増加することを防止することができる。また、上位のテレビ会議端末1が入力する他装置画像データには、予測符号化およびエントロピー符号化は行われていない。従って、テレビ会議端末1は、合成画像データを生成する際に他装置画像データを復号化する必要もない。さらに、テレビ会議端末1は、最上位端末として動作する場合には、予測符号化およびエントロピー符号化を行った合成画像データをPC3に出力する。よって、PC3の処理負担をさらに低下させることができる。
【0057】
テレビ会議端末1は、最上位端末として動作する場合、解像度およびフレームレートをPC3から取得し、下位のテレビ会議端末1に通知する。各テレビ会議端末1は、PC3から取得された解像度およびフレームレートに従って合成画像データを生成することができる。従って、テレビ会議端末1は、他のテレビ会議端末1と解像度およびフレームレートを共有して適切な合成画像データをPC3に出力することができる。
【0058】
上記実施の形態において、テレビ会議端末1が本発明の「画像処理装置」に相当する。PC3が本発明の「通信装置」に相当する。図7の端末会議処理で合計台数を取得するCPU10が「台数取得手段」として機能する。自装置画像データが本発明の「第一画像データ」に相当する。図8のS60および図10のS79で自装置画像データを取得するCPU10が「第一画像データ取得手段」として機能する。他装置画像データが本発明の「第二画像データ」に相当する。図8のS61および図10のS83で他装置画像データを取得するCPU10が「第二画像データ取得手段」として機能する。図8のS62および図10のS84で合成画像データを生成するCPU10が「生成手段」として機能する。図8のS65および図10のS86で合成画像データを出力するCPU10が「出力手段」として機能する。
【0059】
図7のS23、S34で接続番号を取得するCPU10が「接続順情報取得手段」として機能する。図8のS56および図10のS76で合成位置テーブルを取得するCPU10が「テーブル取得手段」として機能する。図8のS53および図10のS73でレイアウト情報を取得するCPU10が「設定情報取得手段」として機能する。図7のS21で自装置がPC3に直接接続されているか否かを判断するCPU10が「判断手段」として機能する。図8のS63,S64で予測符号化処理を含む圧縮処理を行うCPU10が「圧縮処理手段」として機能する。図8のS51で解像度およびフレームレートを取得するCPU10が「出力情報取得手段」として機能する。図8のS52および図10のS72で解像度およびフレームレートを転送するCPU10が「通知手段」として機能する。
【0060】
図7の端末会議処理で合計台数を取得する処理が「台数取得ステップ」に相当する。図8のS60および図10のS79で自装置画像データを取得する処理が「第一画像データ取得ステップ」に相当する。図8のS61および図10のS83で他装置画像データを取得する処理が「第二画像データ取得ステップ」に相当する。図8のS62および図10のS84で合成画像データを生成する処理が「生成ステップ」に相当する。図8のS65および図10のS86で合成画像データを出力する処理が「出力ステップ」に相当する。
【0061】
本発明は上記実施の形態に限定されることはなく、様々な変形が可能であることは言うまでもない。例えば、テレビ会議端末1以外のデバイスを本発明に係る「画像処理装置」として用いることも可能である。例えば、ネットワーク8に接続しているPC3に、カメラを備えた複数のPCを直列に接続することで、テレビ会議を実行することも可能である。この場合、カメラを備えた複数のPCの各々が本発明の「画像処理装置」に相当する。また、画像処理装置自身がカメラを備えている必要はない。画像処理装置は、自身に接続している外付けのカメラから自装置画像データを入力することも可能である。同様に、本発明に係る「通信装置」もPC3である必要はない。テレビ会議を実行するための専用の通信装置等を、本発明に係る「通信装置」として用いることも可能である。
【0062】
PC3と最上位端末との間の接続、および複数のテレビ会議端末1間の接続は、USB接続に限られず、他のプロトコルに従った接続方法を用いてもよい。無線通信を用いてもよいことは言うまでもない。
【0063】
上記実施の形態では、複数のテレビ会議端末1が直列にPC3に接続されている。しかし、本発明は、複数のテレビ会議端末1の全てが並列にPC3に接続されている場合を除き、様々な場合に適用できる。例えば、PC3に複数のテレビ会議端末1が並列に接続されている場合でも、並列に接続された各テレビ会議端末1にさらにテレビ会議端末1が接続されている場合であれば、本発明を適用することができる。この場合、PC3は、自装置に並列に接続された複数のテレビ会議端末1から画像データを入力して合成する必要はある。しかし、本発明を適用すれば、PC3に直接接続された最上位端末は、自装置に入力された複数の画像を合成してPC3に出力することができる。従って、本発明を適用しない場合に比べて、PC3が画像を合成する処理の処理量は低下する。また、最上位端末に複数のテレビ会議端末1が並列に接続している場合には、最上位端末が全ての画像データを合成してPC3に出力することで、PC3の処理負担を低下させることができる。
【0064】
上記実施の形態では、PC3は自ら画像を撮像することはない。しかし、PC3は、自ら自装置画像データを取得し、最上位端末から入力した他装置画像データに自装置画像データを合成してもよい。この場合、最上位端末は、予測符号化およびエントロピー符号化を行わずに合成画像データをPC3に出力するのが望ましい。
【0065】
上記実施の形態では、ユーザ自身が画像のレイアウトを指定する場合、PC3がユーザの操作入力を受け付けることでレイアウト情報が設定される。しかし、テレビ会議端末1がユーザの操作入力を受け付けてレイアウト情報を設定してもよい。
【符号の説明】
【0066】
1 テレビ会議端末
3 PC
8 ネットワーク
10 CPU
11 ROM
13 フラッシュメモリ
21 USBデバイスI/F
25 USBホストI/F
28 カメラ
51 画像配置入力用テンプレート
100 通信システム
【技術分野】
【0001】
本発明は、テレビ会議を実行するために通信装置からネットワークを介して送信される画像データを処理する画像処理装置、画像処理方法、および画像処理プログラムに関する。
【背景技術】
【0002】
従来、撮像手段によって撮像された画像のデータを他のデバイスに出力する際に、データの出力先のデバイスの処理負担を低下させる技術が知られている。例えば、特許文献1に記載の撮像装置は、画像を印刷するプリンタに画像データを出力する際に、プリンタからメモリサイズの情報を取得する。取得したメモリサイズに基づいて、プリンタに出力可能な画像データのサイズを算出する。出力する画像データのサイズが、出力可能なサイズよりも大きい場合、撮像装置は、圧縮されている画像データを再圧縮してプリンタに出力する。その結果、画像を印刷する処理が適切に行われる。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2006−101220号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
テレビ会議を実行するための通信システムでは、画像データが複数の通信装置間で送受信されることで、複数の拠点の画像がシステム内で共有される。複数の撮像手段によって撮像された複数の画像のデータを1つの通信装置が送信する場合、通信装置は複数の画像を合成し、合成した画像のデータを送信する必要があった。従って、通信装置の処理負担が増大し、テレビ会議中に表示される画像が乱れる可能性があった。従来の技術では、複数の撮像手段によって撮像された複数の画像のデータを送信する場合の通信装置の処理負担を低下させることはできなかった。
【0005】
本発明は、複数の撮像手段によって撮像された複数の画像のデータを通信装置が送信してテレビ会議を実行する場合に、通信装置の処理負担を低下させることができる画像処理装置、画像処理方法、および画像処理プログラムを提供することを目的とする。
【課題を解決するための手段】
【0006】
本発明の第一の態様に係る画像処理装置は、ネットワークを介してデータを送信する通信装置と、前記通信装置に対して直列に接続される複数の画像処理装置とを備える通信システムにおいて使用され、他の拠点で表示させる画像の画像データを前記通信装置に出力することが可能な画像処理装置であって、前記通信装置に連なって接続している他の画像処理装置の台数を取得する台数取得手段と、画像を撮像する撮像手段から第一画像データを取得する第一画像データ取得手段と、自装置に接続している他の画像処理装置から第二画像データを取得する第二画像データ取得手段と、前記第一画像データ取得手段によって取得された第一画像データと前記第二画像データ取得手段によって取得された第二画像データとを、前記台数取得手段によって取得された台数に応じて合成して合成画像データを生成する生成手段と、前記生成手段によって生成された前記合成画像データを、接続している他の画像処理装置または前記通信装置に出力する出力手段とを備える。
【0007】
第一の態様に係る画像処理装置は、複数の撮像手段によって撮像された画像の画像データを合成して合成画像データを生成する。生成した合成画像データを、他の画像処理装置または通信装置に出力することができる。画像処理装置から合成画像データを入力した通信装置は、画像データを合成する処理を行う必要がない。従って、画像処理装置は通信装置の処理負担を低下させることができ、テレビ会議中の通信が乱れる可能性を低下させることができる。
【0008】
前記画像処理装置は、前記通信装置に連なって接続している自装置および他の画像処理装置のうち、前記通信装置に対する自装置の接続順を取得する接続順情報取得手段と、合成画像データ上の座標における第一画像データの合成位置を示す座標情報と、前記自装置の接続順とを対応付けるテーブルを記憶手段から取得するテーブル取得手段とをさらに備えてもよい。前記生成手段は、前記テーブル取得手段によって取得されたテーブルにおいて、前記接続順情報取得手段によって取得された前記自装置の接続順に対応する座標情報が示す合成位置に、第一画像データを合成してもよい。画像処理装置は、通信装置に対する自装置の接続順に応じた適切な合成位置に第一画像データを合成することができる。通信装置は、第一画像データの合成位置を画像処理装置に指示する必要はない。従って、画像処理装置は通信装置の処理負担をさらに低下させることができる。
【0009】
前記画像処理装置は、ユーザが表示手段に表示されたテンプレートに対して操作を入力することで設定される情報であり、前記テンプレート上の座標において前記ユーザが指定した各画像処理装置の第一画像データの合成位置を示す座標情報を取得する設定情報取得手段をさらに備えてもよい。前記生成手段は、前記設定情報取得手段によって取得された座標情報が示す合成位置に、第一画像データを合成してもよい。この場合、ユーザは、各撮像手段によって撮像された画像のレイアウトを自由に決定することができる。
【0010】
前記第二画像データ取得手段は、変換符号化および量子化が行われた第二画像データを、接続している前記他の画像処理装置から取得してもよい。前記画像処理装置は、自装置が他の画像処理装置を介さずに前記通信装置に接続しているか否かを判断する判断手段と、前記判断手段によって他の画像処理装置を介さずに前記通信装置に接続されていると判断された場合に、前記生成手段によって生成された合成画像データに対して予測符号化処理を含む圧縮処理を行う圧縮処理手段をさらに備えてもよい。前記出力手段は、前記圧縮処理手段によって処理された合成画像データを前記通信装置に出力してもよい。画像処理装置は、変換符号化および量子化が行われた第二画像データを取得するため、データ量の大きい第二画像データを取得して処理負担が増加することを防止することができる。さらに、画像処理装置は、合成画像データを通信装置に出力する場合にのみ、予測符号化処理を含む圧縮処理を行う。よって、合成画像データを生成する際に第二画像データを復号化する必要が無く、効率よく処理を行うことができる。通信装置は、圧縮処理が既に行われた合成画像データを入力するため、通信装置の処理負担はさらに低下する。
【0011】
前記画像処理装置は、前記通信装置に出力する合成画像データの解像度およびフレームレートを前記通信装置から取得する出力情報取得手段と、前記出力情報取得手段によって取得された解像度およびフレームレートを、前記通信装置に連なって接続している他の画像処理装置に通知する通知手段とをさらに備えてもよい。前記生成手段は、前記出力情報取得手段によって取得された解像度およびフレームレート、または他の画像処理装置の通知手段によって通知された解像度およびフレームレートに従って合成画像データを生成してもよい。この場合、画像処理装置は、通信装置が要求する解像度およびフレームレートを他の画像処理装置と共有し、適切な合成画像データを通信装置に出力することができる。
【0012】
本発明の第二の態様に係る画像処理方法は、ネットワークを介してデータを送信する通信装置と、前記通信装置に対して直列に接続される複数の画像処理装置とを備える通信システムにおいて使用され、他の拠点で表示させる画像の画像データを前記通信装置に出力することが可能な画像処理装置によって実行される画像処理方法であって、前記通信装置に連なって接続している他の画像処理装置の台数を取得する台数取得ステップと、画像を撮像する撮像手段から第一画像データを取得する第一画像データ取得ステップと、自装置に接続している他の画像処理装置から第二画像データを取得する第二画像データ取得ステップと、前記第一画像データ取得ステップにおいて取得された第一画像データと前記第二画像データ取得ステップにおいて取得された第二画像データとを、前記台数取得ステップにおいて取得された台数に応じて合成して合成画像データを生成する生成ステップと、前記生成ステップにおいて生成された前記合成画像データを、接続している他の画像処理装置または前記通信装置に出力する出力ステップとを備える。
【0013】
第二の態様に係る画像処理方法によると、画像処理装置は、複数の撮像手段によって撮像された画像の画像データを合成して合成画像データを生成する。生成した合成画像データを、他の画像処理装置または通信装置に出力することができる。画像処理装置から合成画像データを入力した通信装置は、画像データを合成する処理を行う必要がない。従って、画像処理装置は通信装置の処理負担を低下させることができ、テレビ会議中の通信が乱れる可能性を低下させることができる。
【0014】
本発明の第三の態様に係る画像処理プログラムは、ネットワークを介してデータを送信する通信装置と、前記通信装置に対して直列に接続される複数の画像処理装置とを備える通信システムにおいて使用され、他の拠点で表示させる画像の画像データを前記通信装置に出力することが可能な画像処理装置で用いられる画像処理プログラムであって、前記通信装置に連なって接続している他の画像処理装置の台数を取得する台数取得ステップと、画像を撮像する撮像手段から第一画像データを取得する第一画像データ取得ステップと、自装置に接続している他の画像処理装置から第二画像データを取得する第二画像データ取得ステップと、前記第一画像データ取得ステップにおいて取得された第一画像データと前記第二画像データ取得ステップにおいて取得された第二画像データとを、前記台数取得ステップにおいて取得された台数に応じて合成して合成画像データを生成する生成ステップと、前記生成ステップにおいて生成された前記合成画像データを、接続している他の画像処理装置または前記通信装置に出力する出力ステップとを前記画像処理装置のコントローラに実行させるための指示を含む。
【0015】
第三の態様に係る画像処理プログラムによると、画像処理装置は、複数の撮像手段によって撮像された画像の画像データを合成して合成画像データを生成する。生成した合成画像データを、他の画像処理装置または通信装置に出力することができる。画像処理装置から合成画像データを入力した通信装置は、画像データを合成する処理を行う必要がない。従って、画像処理装置は通信装置の処理負担を低下させることができ、テレビ会議中の通信が乱れる可能性を低下させることができる。
【図面の簡単な説明】
【0016】
【図1】通信システム100のシステム構成を示す図である。
【図2】テレビ会議端末1およびPC3の電気的構成を示すブロック図である。
【図3】テレビ会議中に表示装置46に表示される画像の一例を示す図である。
【図4】PC3が実行するPC会議処理のフローチャートである。
【図5】画像配置入力用テンプレート51を表示している表示装置46の一例を示す図である。
【図6】レイアウト情報のデータ構成を説明するための説明図である。
【図7】テレビ会議端末1が実行する端末会議処理のフローチャートである。
【図8】端末会議処理中に実行される最上位端末処理のフローチャートである。
【図9】テレビ会議端末1のフラッシュメモリ13に記憶されている合成位置テーブルのデータ構成を説明するための説明図である。
【図10】端末会議処理中に実行される下位端末処理のフローチャートである。
【発明を実施するための形態】
【0017】
以下、本発明の画像処理装置を具現化した一実施の形態であるテレビ会議端末1について、図面を参照して説明する。参照する図面は、本発明が採用し得る技術的特徴を説明するために用いられるものである。図面に記載されている装置の構成、各種処理のフローチャート等は、それのみに限定する趣旨ではなく、単なる説明例である。
【0018】
図1を参照して、テレビ会議端末1を備えた通信システム100の概略構成について説明する。通信システム100は、ネットワーク8を介してデータを送受信することが可能な複数の通信装置を備える。本実施の形態では、通信装置としてパーソナルコンピュータ(以下、「PC」という。)3が用いられているが、データの送受信が可能なテレビ会議専用の装置等を通信装置として用いてもよい。
【0019】
PC3にはテレビ会議端末1を接続することができる。テレビ会議端末1は、設置された拠点の音声をマイク26(図2参照)から入力し、且つ画像をカメラ28(図2参照)から入力する。入力した音声および画像のデータをPC3に出力する。また、テレビ会議端末1は、PC3から入力した音声のデータに基づいて、他拠点の音声をスピーカ27(図2参照)から発生させることができる。
【0020】
PC3には複数のテレビ会議端末1を接続することもできる。従って、図1に示すように、複数のユーザが1つの拠点に集合してテレビ会議を実行する場合、各ユーザの近傍に複数のテレビ会議端末1の各々を配置することができる。その結果、各ユーザの鮮明な画像が他の拠点で表示され、且つ各ユーザの発話音声が正確に他の拠点で出力される。
【0021】
本実施の形態では、1つのPC3に複数のテレビ会議端末1を接続する場合、複数のテレビ会議端末1を直列にPC3に接続する。図1に示す例では、PC3にテレビ会議端末1Aが接続される。テレビ会議端末1Aにはテレビ会議端末1Bが接続され、さらにテレビ会議端末1Bにはテレビ会議端末1Cが接続される。従って、テレビ会議端末1Cが自装置のマイク26およびカメラ28から入力したデータは、テレビ会議端末1Bおよびテレビ会議端末1Aを介してPC3に出力される。同様に、テレビ会議端末1Bが入力した音声および画像のデータは、テレビ会議端末1Aを介してPC3に出力される。PC3は、複数のテレビ会議端末1A〜1Cから入力したデータを、ネットワーク8を介して他の拠点のPC3に送信する。その結果、ユーザA,B,Cの発話音声および画像が他の拠点で出力される。
【0022】
前述したように、複数のテレビ会議端末1を1つのPC3に接続することで、複数のユーザの各々の正確な発話音声および鮮明な画像が他の拠点で出力される。一方で、従来の技術では、PC3は、複数のテレビ会議端末1から入力した複数の画像データを合成する必要があった。その結果、PC3の処理負担が増大していた。PC3の処理負担が増大すると、データ通信、音声の出力、画像の表示等が乱れ、テレビ会議を円滑に実行できない可能性がある。本実施の形態のテレビ会議端末1は、PC3の処理負担を低下させて円滑にテレビ会議を実行することができる。
【0023】
なお、以下の説明では、PC3に直列に接続されている複数のテレビ会議端末1のうち、PC3に近い方の端末を「上位」、PC3から遠い方の端末を「下位」とする。他のテレビ会議端末1を介さずにPC3に直接接続しているテレビ会議端末1(例えば、図1のテレビ会議端末1A)を「最上位端末」という。PC3から最も遠いテレビ会議端末1(例えば、図1のテレビ会議端末1C)を「最下位端末」という。上位および下位の2つのテレビ会議端末1に接続しているテレビ会議端末1(例えば、図1のテレビ会議端末1B)を「中間端末」という。
【0024】
図2を参照して、テレビ会議端末1およびPC3の電気的構成について説明する。テレビ会議端末1は、テレビ会議端末1の制御を司るCPU10を備える。CPU10には、ROM11、RAM12、フラッシュメモリ13、および入出力インターフェース14が、バス19を介して接続されている。
【0025】
ROM11は、テレビ会議端末1を動作させるためのプログラムおよび初期値等を記憶している。後述する端末会議処理(図7等参照)を実行するためのプログラムはROM11に記憶されている。RAM12は、制御プログラムで使用される各種の情報を一時的に記憶する。フラッシュメモリ13は不揮発性の記憶装置である。後述する合成位置テーブル(図9参照)はフラッシュメモリ13に記憶されている。フラッシュメモリ13の代わりに、EEPROMまたはメモリカード等の記憶装置を用いてもよい。
【0026】
入出力インターフェース14には、USBデバイスI/F21、音声入力処理部22、音声出力処理部23、映像入力処理部24、USBホストI/F25、および操作部29が接続されている。USBデバイスI/F21は、PC3のUSBホストI/F43、または他のテレビ会議端末1のUSBホストI/F25に接続し、接続したデバイスに自拠点の音声および画像のデータを出力する。テレビ会議端末1がUSBデバイスI/F21によって他の装置に接続された場合、接続した他の装置がUSB通信プロトコルを主導する。一方、USBホストI/F25は、下位のテレビ会議端末1のUSBデバイスI/F21に接続し、接続した下位のテレビ会議端末1から自拠点の音声および画像のデータを入力する。USBホストI/F25によって他の装置に接続された場合には、自装置がUSB通信プロトコルを主導する。なお、USBデバイスI/F21およびUSBホストI/F25によって各種信号を他のデバイスとの間で入出力できることは言うまでもない。音声入力処理部22は、マイク26からの音声データの入力を処理する。音声出力処理部23は、スピーカ27の動作を処理する。映像入力処理部24は、カメラ28からの画像データの入力を処理する。操作部29は電源ボタン、音量調節ボタン、マイクミュートボタン等からなり、ユーザによる各種操作入力を受け付ける。
【0027】
PC3は、PC3の制御を司るCPU30を備える。CPU30には、ROM31、RAM32、ハードディスクドライブ(以下、「HDD」という。)33、および入出力インターフェース34が、バス39を介して接続されている。ROM31は、PC3を動作させるためのプログラムおよび初期値等を記憶している。RAM12は各種情報を一時的に記憶する。HDD13は不揮発性の記憶装置である。
【0028】
入出力インターフェース34には、映像出力処理部41、外部通信I/F42、USBホストI/F43、および操作部47が接続されている。映像出力処理部41は、映像を表示する表示装置46の動作を処理する。外部通信I/F42は、PC3をネットワーク8に接続する。USBホストI/F43は、USBケーブルを介してPC3をテレビ会議端末1(最上位端末)に接続する。操作部47はキーボード等からなり、各種操作入力を受け付ける。
【0029】
図3を参照して、通信システム100でテレビ会議が実行されている間にPC3の表示装置46に表示される画像の一例について説明する。図3に示す例では、拠点Xに3人のユーザA,B,Cが集まり、且つ拠点Yには1人のユーザDがいる。拠点XのPC3には3つのテレビ会議端末1が接続されており、各テレビ会議端末1が3人のユーザA,B,Cの各々を撮像する。拠点XのPC3は、3つのテレビ会議端末1が撮像した3つの画像が合成された合成画像48を表示装置46に表示する。さらに、拠点YのPC3から受信したユーザDの画像49を表示装置46に表示する。拠点XのPC3は、合成画像48の画像データを拠点YのPC3に送信する。従って、図3に示す画像と同様の画像が、拠点YのPC3の表示装置46にも表示される。なお、PC3は、図3に例示する画像をプロジェクタに投影させてテレビ会議を実行してもよいし、PC3に接続された他の表示装置に表示させてもよい。
【0030】
本実施の形態に係るテレビ会議端末1は、複数のテレビ会議端末1が撮像した複数の画像を合成して合成画像データを生成し、生成した合成画像データをPC3に出力することができる。従って、テレビ会議端末1はPC3の処理負担を低下させることができる。また、複数のテレビ会議端末1は、各テレビ会議端末1が撮像した画像の合成画像データにおける合成位置を示す座標情報を共有し、適切な位置に画像を合成することができる。さらに、テレビ会議端末1は、PC3から要求された解像度およびフレームレートに応じた適切な合成画像データをPC3に出力することができる。以下、処理の詳細について説明する。
【0031】
図4から図6を参照して、PC3が実行するPC会議処理について説明する。PC3のHDD33には、テレビ会議を実行するためのアプリケーションプログラムがインストールされている。PC3のCPU30は、アプリケーションを立ち上げる指示を操作部47から入力すると、図4に示すPC会議処理を実行する。
【0032】
図4に示すように、PC会議処理が開始されると、接続している最上位端末に台数調査コマンドが出力される(S1)。台数調査コマンドとは、PC3に連なって接続しているテレビ会議端末1の台数を調査する指示を行うためのコマンドである。詳細は後述するが、テレビ会議端末1は、台数調査コマンドをPC3から入力すると、テレビ会議端末1の台数を調査してPC3に通知する。PC3のCPU10は、最上位端末から台数を取得してRAM32に記憶する(S2)。
【0033】
次いで、レイアウト指定コマンドが操作部47に入力されたか否かが判断される(S3)。レイアウト指定コマンドは、合成画像のレイアウトをユーザ自身が指定する場合にユーザによって入力される。レイアウト指定コマンドが入力されていなければ(S3:NO)、デフォルトのレイアウトを用いて会議を開始させる指示が入力されたか否かが判断される(S4)。入力されていなければ(S4:NO)、処理はS3の判断へ戻る。
【0034】
レイアウト指定コマンドが入力された場合(S3:YES)、画像配置入力用テンプレートが起動されて表示装置46に表示される(S6)。図5に、画像配置入力用テンプレート51を表示した表示装置46の一例を示す。画像配置入力用テンプレートは、合成画像のレイアウトの指定をユーザから受け付けるためのテンプレートである。S6では、S2で取得された台数、およびテレビ会議で採用する画像の解像度に応じたテンプレートが起動される。図5に例示する画像配置入力用テンプレート51は、テレビ会議端末1の台数が3台であり、且つ採用する解像度がVGA(640×480)である場合のテンプレートである。この場合、最上位端末の撮像画像の位置を示す「画像1の位置」52、中間端末の撮像画像の位置を示す「画像2の位置」53、最下位端末の撮像画像の位置を示す「画像3の位置」54が表示される。さらに、左上端を原点とした座標の数値が表示される。ユーザは、表示装置46に表示されるポインタ(図示せず)を操作部47によって操作することで、各画像の位置および大きさを指定する。指定したレイアウトを確定させる場合には、確定ボタン57を操作する。なお、斜線部分55は撮像画像が表示されないブランク部分である。
【0035】
確定ボタン57が操作されるまで(S7:NO)、画像配置入力用テンプレートは継続して起動される。確定ボタン57が操作されてレイアウトの指定が完了すると(S7:YES)、レイアウト情報が設定されて最上位端末に出力される(S8)。図6に示すように、レイアウト情報は、各テレビ会議端末1が撮像した各々の画像の合成画像データ上の合成位置を示す。具体的には、合成画像データ上の座標における各々の画像の合成位置を示す座標値が、レイアウト情報として設定されて出力される。
【0036】
レイアウト情報の出力(S8)が完了した場合、またはデフォルトのレイアウトを用いて会議を開始させる指示が入力された場合には(S4:YES)、会議開始指示が最上位端末に出力される(S10)。テレビ会議で採用する画像の解像度およびフレームレートが最上位端末に出力される(S11)。PC会議処理は終了する。なお、PC3のCPU30は、PC会議処理を終了すると、画像および音声のデータを他のPC3との間で送受信する処理を開始する。この処理は一般的な処理であるため、説明を省略する。
【0037】
図7から図10を参照して、テレビ会議端末1が実行する端末会議処理について説明する。テレビ会議端末1のROM11には、テレビ会議中にPC3に画像データを出力するための画像処理プログラムが記憶されている。テレビ会議端末1のCPU10は、電源が投入されることを契機として、図7に示す端末会議処理を実行する。
【0038】
図7に示すように、端末会議処理が開始されると、PC3から台数調査コマンドが入力されたか否かが判断される(S21)。入力されていなければ(S21:NO)、上位に接続されているテレビ会議端末1から台数調査コマンドが入力されたか否かが判断される(S22)。入力されていなければ(S22:NO)、S21およびS22の判断が繰り返される。
【0039】
自装置が最上位端末であり、他のテレビ会議端末1を介さずにPC3に接続されている場合には、テレビ会議の開始時にPC3から台数調査コマンドが出力されてくる。従って、PC3から台数調査コマンドを直接入力した場合(S21:YES)、CPU10は、自装置を最上位端末として認識し、自装置の接続番号を「1」に設定する(S23)。接続番号とは、PC3に連なって接続している複数のテレビ会議端末1のうち、PC3に対する自装置の接続順を示す番号である。詳細は後述するが、テレビ会議端末1は、自装置のカメラ28によって撮像した画像のデータの合成位置を、接続番号に従って認識する。本実施の形態では、上位のテレビ会議端末1から順に接続番号が増加するように接続番号が設定される。具体的には、PC3に直接接続されている場合には接続順が「1」とされ、接続番号が「1」とされる。1つのテレビ会議端末1(最上位端末)を介してPC3に接続されている場合には接続順が「2」とされ、接続番号が「2」とされる。また、上位に接続されているテレビ会議端末1から台数調査コマンドを入力した場合には(S22:YES)、処理はそのままS24へ移行する。
【0040】
台数調査コマンドが入力されると、下位に接続されているテレビ会議端末1へ台数調査コマンドが出力される(S24)。出力した台数調査コマンドに対して、下位端末数の回答があったか否かが判断される(S26)。回答がない場合(S26:NO)、自装置の下位にはテレビ会議端末1が接続されていない。従って、自装置が最下位端末として認識される(S27)。さらに、上位のテレビ会議端末1に対し、下位端末数が最下位端末の1つのみであることが出力される(S28)。次いで、上位のテレビ会議端末1から合計台数が入力されるまで待機される(S33:NO)。詳細は後述するが、合計台数は、最上位端末から下位のテレビ会議端末1へ向けて順に入力される。合計台数が入力されると(S33:YES)、自装置よりも下位の端末数を合計台数から引いた値が、自装置の接続番号に設定される(S34)。つまり、自装置が最下位端末であれば、自装置よりも下位の端末数は「0」であるため、合計台数と自装置の接続番号は等しくなる。次いで、自装置が最下位端末であるか否かが判断される(S39)。最下位端末であれば(S39:YES)、処理はそのままS41の判断へ移行する。
【0041】
台数調査コマンドに対する回答があった場合(S26:YES)、下位のテレビ会議端末1から入力された下位端末数が認識され、RAM12に記憶される(S30)。次いで、自装置が最上位端末であるか否かが判断される(S31)。自装置が最上位端末でなければ(S31:NO)、下位のテレビ会議端末1から入力された下位端末数に「1」を足した数が、上位のテレビ会議端末1における下位端末数として、上位のテレビ会議端末1に対して出力される(S32)。上記のテレビ会議端末1から合計台数が入力されると(S33:YES)、合計台数から自装置の下位端末数を引いた値が自装置の接続番号に設定される(S34)。自装置が最下位端末でなければ(S39:NO)、下位に接続されているテレビ会議端末1に、上位のテレビ会議端末1から入力された合計台数がそのまま出力(転送)されて(S40)、処理はS41の判断へ移行する。
【0042】
自装置が最上位端末である場合には(S31:YES)、下位のテレビ会議端末1から入力された下位端末数に「1」を足した数が合計台数として認識される(S36)。自装置に接続しているPC3および下位のテレビ会議端末1に対し、認識した合計台数が出力される(S37)。前述したように、合計台数は最下位端末まで順に通知されるため、PC3に連なって接続しているテレビ会議端末1の全てが合計台数を認識できる。処理はS41の判断へ移行する。
【0043】
次いで、PC3または上位のテレビ会議端末1から会議開始指示を入力したか否かが判断され(S41)、入力するまで待機状態となる(S41:NO)。会議開始指示を入力すると(S41:YES)、自装置が最上位端末であるか否かが判断される(S42)。最上位端末であれば(S42:YES)、最上位端末処理が行われて(S43)、処理は終了する。自装置が最上位端末でなければ(S42:NO)、下位端末処理が行われて(S44)、処理は終了する。
【0044】
図8を参照して、最上位端末処理について説明する。最上位端末処理が開始されると、テレビ会議で採用する解像度およびフレームレートがPC3から入力される(S51)。解像度およびフレームレートは、会議開始指示と共にPC3によって出力される(図4、S10およびS11参照)。入力された解像度、フレームレート、および会議開始指示は、下位に接続しているテレビ会議端末1に転送される(S52)。
【0045】
PC3からレイアウト情報(図6参照)が入力されたか否かが判断される(S53)。前述したように、ユーザが画像配置入力用テンプレートを用いて画像の配置を指定すると、PC3は、各々の画像の合成画像データ上の合成位置を示すレイアウト情報を最上位端末に出力する。レイアウト情報が入力された場合(S53:YES)、入力されたレイアウト情報が下位のテレビ会議端末1に転送される(S54)。レイアウト情報が示す合成位置のうち、最上位端末の接続番号「1」に対応する合成位置が、自装置が撮像した画像の合成位置として認識される(S55)。
【0046】
レイアウト情報が入力されていない場合(S53:NO)、ユーザはデフォルトのレイアウトを用いて会議を開始させる指示を入力している。この場合、フラッシュメモリ13に記憶されている合成位置テーブルが取得される(S56)。図9に示すように、合成位置テーブルでは、合成画像データ上の座標における各画像の合成位置を示す座標情報と、テレビ会議端末1の接続順(接続番号)とが対応付けられている。本実施の形態では、解像度がVGAである場合のテーブルと、解像度がXGAである場合のテーブルとが設けられている。PC3に接続されているテレビ会議端末1の合計台数毎に、各端末の合成位置を示す座標情報と接続順とが対応付けられている。テレビ会議端末1のCPU10は、合計台数、解像度、および自装置の接続順に対応する座標情報を取得する。取得した座標情報が示す合成位置を、自装置が撮像した画像のデータを合成する合成位置として認識する(S57)。
【0047】
次いで、自装置のカメラ28が撮像した画像のデータ(自装置画像データ)が取得される(S60)。S60では、S51でPC3から入力された解像度の自装置画像データが取得される。さらに、S51で入力されたフレームレートに従って自装置画像データが取得される。次いで、下位に接続しているテレビ会議端末1から画像データ(他装置画像データ)が取得される(S61)。なお、S61で取得される他装置画像データは、下位に接続しているテレビ会議端末1が1つのみであれば、下位のテレビ会議端末1が撮像した画像の画像データとなる。一方、下位に接続しているテレビ会議端末1が複数であれば、下位の複数のテレビ会議端末1によって撮像された複数の画像の合成画像となる。また、詳細は後述するが、他装置画像データの解像度およびフレームレートは、S60で取得される自装置画像データの解像度およびフレームレートと同一となっている。さらに、他装置画像データには、DCTおよび量子化が既に行われている。次いで、他装置画像データのうち、S55またはS57で認識した位置に、自装置画像データが合成される(S62)。その結果、合成画像データが生成される。
【0048】
最上位端末では、生成された合成画像データに対して予測符号化処理が行われる(S63)。さらに、ハフマン符号化が行われる(S64)。最上位端末が予測符号化およびハフマン符号化を行ってデータを圧縮することで、PC3はこれらの処理を行う必要がなくなる。なお、S64では、CPU10はハフマン符号化以外のエントロピー符号化を行ってもよい。予測符号化およびエントロピー符号化のいずれかのみを行ってもよい。符号化された合成画像データは、自装置に接続しているPC3に出力される(S65)。操作部29等から会議終了指示を入力するまで(S66:NO)、S60〜S66の処理が繰り返される。会議終了指示を入力すると(S66:YES)、処理は終了する。
【0049】
図10を参照して、下位端末処理について説明する。下位端末処理が開始されると、上位に接続されているテレビ会議端末1から解像度およびフレームレートが入力される(S71)。下位にテレビ会議端末1が接続されていれば(自装置が最下位端末でなければ)、入力した解像度・フレームレートと、会議開始指示とが、下位のテレビ会議端末1に転送される(S72)。
【0050】
上位に接続されているテレビ会議端末1からレイアウト情報(図6参照)が入力されたか否かが判断される(S73)。レイアウト情報が入力された場合(S73:YES)、自装置が最下位端末でなければ、レイアウト情報が下位のテレビ会議端末1に転送される(S74)。レイアウト情報が示す合成位置のうち、自装置の接続番号に対応する合成位置が、自装置画像の合成位置として認識される(S75)。レイアウト情報が入力されていない場合(S73:NO)、フラッシュメモリ13から合成位置テーブル(図9参照)が取得される(S76)。取得された合成位置テーブルから、合計台数、解像度、および自装置の接続順に対応する座標情報が取得される。取得された座標情報によって示される位置が、自装置画像の合成位置として認識される(S77)。
【0051】
次いで、自装置のカメラ28から自装置画像データが取得される(S79)。S79では、S71で取得された解像度およびフレームレートに従って自装置画像データが取得される。つまり、複数のテレビ会議端末1の間で共通の解像度およびフレームレートが用いられることになる。自装置が最下位端末であれば(S80:YES)、S75またはS77で認識された位置に自装置画像データが配置され(S81)、この画像データに対して離散コサイン変換(DCT)および量子化処理が行われる(S85)。DCTおよび量子化が行われた画像データが、上位に接続しているテレビ会議端末1に出力される(S86)。画像データの出力前にDCTおよび量子化を行うことで、上位のテレビ会議端末1およびPC3の処理負担を低下させることができる。さらに、本実施の形態では、予測符号化およびハフマン符号化は最上位端末のみで行われる。従って、中間端末および最上位端末は、他装置画像データを復号化することなく、他装置画像データに自装置画像データを合成することができる。なお、S85では、離散フーリエ変換(DFT)等の他の変換符号化処理が行われてもよいし、変換符号化および量子化のいずれかのみが行われてもよい。
【0052】
自装置が最下位端末でなく中間端末であれば(S80:NO)、下位に接続しているテレビ会議端末1から他装置画像データが取得される(S83)。取得された他装置画像データのうち、S75またはS77で認識した位置に、自装置画像データが合成される(S84)。その結果、合成画像データが生成される。生成された合成画像データに対してDCTおよび量子化が行われて(S85)、合成画像データは上位のテレビ会議端末1に出力される(S86)。操作部29等から会議終了指示を入力するまで(S87:NO)、S79〜S87の処理が繰り返される。会議終了指示を入力すると(S87:YES)、処理は終了する。
【0053】
以上説明したように、本実施の形態のテレビ会議端末1は、複数のカメラ28によって撮像された複数の画像の画像データを合成して合成画像データを生成する。生成した合成画像データを、上位のテレビ会議端末1またはPC3に出力することができる。最上位端末から合成画像データを入力したPC3は、画像データを合成する処理を行う必要がない。従って、テレビ会議端末1はPC3の処理負担を低下させることができ、テレビ会議中の通信が乱れる可能性を低下させることができる。
【0054】
テレビ会議端末1は、自装置が撮像した画像のデータ(自装置画像データ)の合成位置を、合成位置テーブルおよび自装置の接続順に応じて容易に認識することができる。認識した適切な位置に自装置画像データを合成することができる。PC3は、画像データの合成位置を各々のテレビ会議端末1に指示する必要はない。従って、合成位置テーブルを用いる場合、テレビ会議端末1はPC3の処理負担をさらに低下させることができる。
【0055】
テレビ会議端末1は、ユーザがPC3の操作部47を操作することで設定されたレイアウト情報によって、自装置画像データの合成位置を認識することができる。この場合、ユーザは、各テレビ会議端末1が撮像した画像のレイアウトを自由に決定することができる。テレビ会議端末1は、レイアウト情報が示す適切な位置に自装置画像データを合成することができる。
【0056】
テレビ会議端末1は、自装置が中間端末または最下位端末として動作する場合には、変換符号化および量子化を行った画像データを上位のテレビ会議端末に出力する。従って、上位のテレビ会議端末がデータ量の大きい画像データを取得して処理負担が増加することを防止することができる。また、上位のテレビ会議端末1が入力する他装置画像データには、予測符号化およびエントロピー符号化は行われていない。従って、テレビ会議端末1は、合成画像データを生成する際に他装置画像データを復号化する必要もない。さらに、テレビ会議端末1は、最上位端末として動作する場合には、予測符号化およびエントロピー符号化を行った合成画像データをPC3に出力する。よって、PC3の処理負担をさらに低下させることができる。
【0057】
テレビ会議端末1は、最上位端末として動作する場合、解像度およびフレームレートをPC3から取得し、下位のテレビ会議端末1に通知する。各テレビ会議端末1は、PC3から取得された解像度およびフレームレートに従って合成画像データを生成することができる。従って、テレビ会議端末1は、他のテレビ会議端末1と解像度およびフレームレートを共有して適切な合成画像データをPC3に出力することができる。
【0058】
上記実施の形態において、テレビ会議端末1が本発明の「画像処理装置」に相当する。PC3が本発明の「通信装置」に相当する。図7の端末会議処理で合計台数を取得するCPU10が「台数取得手段」として機能する。自装置画像データが本発明の「第一画像データ」に相当する。図8のS60および図10のS79で自装置画像データを取得するCPU10が「第一画像データ取得手段」として機能する。他装置画像データが本発明の「第二画像データ」に相当する。図8のS61および図10のS83で他装置画像データを取得するCPU10が「第二画像データ取得手段」として機能する。図8のS62および図10のS84で合成画像データを生成するCPU10が「生成手段」として機能する。図8のS65および図10のS86で合成画像データを出力するCPU10が「出力手段」として機能する。
【0059】
図7のS23、S34で接続番号を取得するCPU10が「接続順情報取得手段」として機能する。図8のS56および図10のS76で合成位置テーブルを取得するCPU10が「テーブル取得手段」として機能する。図8のS53および図10のS73でレイアウト情報を取得するCPU10が「設定情報取得手段」として機能する。図7のS21で自装置がPC3に直接接続されているか否かを判断するCPU10が「判断手段」として機能する。図8のS63,S64で予測符号化処理を含む圧縮処理を行うCPU10が「圧縮処理手段」として機能する。図8のS51で解像度およびフレームレートを取得するCPU10が「出力情報取得手段」として機能する。図8のS52および図10のS72で解像度およびフレームレートを転送するCPU10が「通知手段」として機能する。
【0060】
図7の端末会議処理で合計台数を取得する処理が「台数取得ステップ」に相当する。図8のS60および図10のS79で自装置画像データを取得する処理が「第一画像データ取得ステップ」に相当する。図8のS61および図10のS83で他装置画像データを取得する処理が「第二画像データ取得ステップ」に相当する。図8のS62および図10のS84で合成画像データを生成する処理が「生成ステップ」に相当する。図8のS65および図10のS86で合成画像データを出力する処理が「出力ステップ」に相当する。
【0061】
本発明は上記実施の形態に限定されることはなく、様々な変形が可能であることは言うまでもない。例えば、テレビ会議端末1以外のデバイスを本発明に係る「画像処理装置」として用いることも可能である。例えば、ネットワーク8に接続しているPC3に、カメラを備えた複数のPCを直列に接続することで、テレビ会議を実行することも可能である。この場合、カメラを備えた複数のPCの各々が本発明の「画像処理装置」に相当する。また、画像処理装置自身がカメラを備えている必要はない。画像処理装置は、自身に接続している外付けのカメラから自装置画像データを入力することも可能である。同様に、本発明に係る「通信装置」もPC3である必要はない。テレビ会議を実行するための専用の通信装置等を、本発明に係る「通信装置」として用いることも可能である。
【0062】
PC3と最上位端末との間の接続、および複数のテレビ会議端末1間の接続は、USB接続に限られず、他のプロトコルに従った接続方法を用いてもよい。無線通信を用いてもよいことは言うまでもない。
【0063】
上記実施の形態では、複数のテレビ会議端末1が直列にPC3に接続されている。しかし、本発明は、複数のテレビ会議端末1の全てが並列にPC3に接続されている場合を除き、様々な場合に適用できる。例えば、PC3に複数のテレビ会議端末1が並列に接続されている場合でも、並列に接続された各テレビ会議端末1にさらにテレビ会議端末1が接続されている場合であれば、本発明を適用することができる。この場合、PC3は、自装置に並列に接続された複数のテレビ会議端末1から画像データを入力して合成する必要はある。しかし、本発明を適用すれば、PC3に直接接続された最上位端末は、自装置に入力された複数の画像を合成してPC3に出力することができる。従って、本発明を適用しない場合に比べて、PC3が画像を合成する処理の処理量は低下する。また、最上位端末に複数のテレビ会議端末1が並列に接続している場合には、最上位端末が全ての画像データを合成してPC3に出力することで、PC3の処理負担を低下させることができる。
【0064】
上記実施の形態では、PC3は自ら画像を撮像することはない。しかし、PC3は、自ら自装置画像データを取得し、最上位端末から入力した他装置画像データに自装置画像データを合成してもよい。この場合、最上位端末は、予測符号化およびエントロピー符号化を行わずに合成画像データをPC3に出力するのが望ましい。
【0065】
上記実施の形態では、ユーザ自身が画像のレイアウトを指定する場合、PC3がユーザの操作入力を受け付けることでレイアウト情報が設定される。しかし、テレビ会議端末1がユーザの操作入力を受け付けてレイアウト情報を設定してもよい。
【符号の説明】
【0066】
1 テレビ会議端末
3 PC
8 ネットワーク
10 CPU
11 ROM
13 フラッシュメモリ
21 USBデバイスI/F
25 USBホストI/F
28 カメラ
51 画像配置入力用テンプレート
100 通信システム
【特許請求の範囲】
【請求項1】
ネットワークを介してデータを送信する通信装置と、前記通信装置に対して直列に接続される複数の画像処理装置とを備える通信システムにおいて使用され、他の拠点で表示させる画像の画像データを前記通信装置に出力することが可能な画像処理装置であって、
前記通信装置に連なって接続している他の画像処理装置の台数を取得する台数取得手段と、
画像を撮像する撮像手段から第一画像データを取得する第一画像データ取得手段と、
自装置に接続している他の画像処理装置から第二画像データを取得する第二画像データ取得手段と、
前記第一画像データ取得手段によって取得された第一画像データと前記第二画像データ取得手段によって取得された第二画像データとを、前記台数取得手段によって取得された台数に応じて合成して合成画像データを生成する生成手段と、
前記生成手段によって生成された前記合成画像データを、接続している他の画像処理装置または前記通信装置に出力する出力手段と
を備えたことを特徴とする画像処理装置。
【請求項2】
前記通信装置に連なって接続している自装置および他の画像処理装置のうち、前記通信装置に対する自装置の接続順を取得する接続順情報取得手段と、
合成画像データ上の座標における第一画像データの合成位置を示す座標情報と、前記自装置の接続順とを対応付けるテーブルを記憶手段から取得するテーブル取得手段とをさらに備え、
前記生成手段は、前記テーブル取得手段によって取得されたテーブルにおいて、前記接続順情報取得手段によって取得された前記自装置の接続順に対応する座標情報が示す合成位置に、第一画像データを合成することを特徴とする請求項1に記載の画像処理装置。
【請求項3】
ユーザが表示手段に表示されたテンプレートに対して操作を入力することで設定される情報であり、前記テンプレート上の座標において前記ユーザが指定した各画像処理装置の第一画像データの合成位置を示す座標情報を取得する設定情報取得手段をさらに備え、
前記生成手段は、前記設定情報取得手段によって取得された座標情報が示す合成位置に、第一画像データを合成することを特徴とする請求項1に記載の画像処理装置。
【請求項4】
前記第二画像データ取得手段は、変換符号化および量子化が行われた第二画像データを、接続している前記他の画像処理装置から取得し、
前記画像処理装置は、
自装置が他の画像処理装置を介さずに前記通信装置に接続しているか否かを判断する判断手段と、
前記判断手段によって他の画像処理装置を介さずに前記通信装置に接続されていると判断された場合に、前記生成手段によって生成された合成画像データに対して予測符号化処理を含む圧縮処理を行う圧縮処理手段をさらに備え、
前記出力手段は、前記圧縮処理手段によって処理された合成画像データを前記通信装置に出力することを特徴とする請求項1から3のいずれかに記載の画像処理装置。
【請求項5】
前記通信装置に出力する合成画像データの解像度およびフレームレートを前記通信装置から取得する出力情報取得手段と、
前記出力情報取得手段によって取得された解像度およびフレームレートを、前記通信装置に連なって接続している他の画像処理装置に通知する通知手段とをさらに備え、
前記生成手段は、前記出力情報取得手段によって取得された解像度およびフレームレート、または他の画像処理装置の通知手段によって通知された解像度およびフレームレートに従って合成画像データを生成することを特徴とする請求項1から4のいずれかに記載の画像処理装置。
【請求項6】
ネットワークを介してデータを送信する通信装置と、前記通信装置に対して直列に接続される複数の画像処理装置とを備える通信システムにおいて使用され、他の拠点で表示させる画像の画像データを前記通信装置に出力することが可能な画像処理装置によって実行される画像処理方法であって、
前記通信装置に連なって接続している他の画像処理装置の台数を取得する台数取得ステップと、
画像を撮像する撮像手段から第一画像データを取得する第一画像データ取得ステップと、
自装置に接続している他の画像処理装置から第二画像データを取得する第二画像データ取得ステップと、
前記第一画像データ取得ステップにおいて取得された第一画像データと前記第二画像データ取得ステップにおいて取得された第二画像データとを、前記台数取得ステップにおいて取得された台数に応じて合成して合成画像データを生成する生成ステップと、
前記生成ステップにおいて生成された前記合成画像データを、接続している他の画像処理装置または前記通信装置に出力する出力ステップと
を備えたことを特徴とする画像処理方法。
【請求項7】
ネットワークを介してデータを送信する通信装置と、前記通信装置に対して直列に接続される複数の画像処理装置とを備える通信システムにおいて使用され、他の拠点で表示させる画像の画像データを前記通信装置に出力することが可能な画像処理装置で用いられる画像処理プログラムであって、
前記通信装置に連なって接続している他の画像処理装置の台数を取得する台数取得ステップと、
画像を撮像する撮像手段から第一画像データを取得する第一画像データ取得ステップと、
自装置に接続している他の画像処理装置から第二画像データを取得する第二画像データ取得ステップと、
前記第一画像データ取得ステップにおいて取得された第一画像データと前記第二画像データ取得ステップにおいて取得された第二画像データとを、前記台数取得ステップにおいて取得された台数に応じて合成して合成画像データを生成する生成ステップと、
前記生成ステップにおいて生成された前記合成画像データを、接続している他の画像処理装置または前記通信装置に出力する出力ステップと
を前記画像処理装置のコントローラに実行させるための指示を含む画像処理プログラム。
【請求項1】
ネットワークを介してデータを送信する通信装置と、前記通信装置に対して直列に接続される複数の画像処理装置とを備える通信システムにおいて使用され、他の拠点で表示させる画像の画像データを前記通信装置に出力することが可能な画像処理装置であって、
前記通信装置に連なって接続している他の画像処理装置の台数を取得する台数取得手段と、
画像を撮像する撮像手段から第一画像データを取得する第一画像データ取得手段と、
自装置に接続している他の画像処理装置から第二画像データを取得する第二画像データ取得手段と、
前記第一画像データ取得手段によって取得された第一画像データと前記第二画像データ取得手段によって取得された第二画像データとを、前記台数取得手段によって取得された台数に応じて合成して合成画像データを生成する生成手段と、
前記生成手段によって生成された前記合成画像データを、接続している他の画像処理装置または前記通信装置に出力する出力手段と
を備えたことを特徴とする画像処理装置。
【請求項2】
前記通信装置に連なって接続している自装置および他の画像処理装置のうち、前記通信装置に対する自装置の接続順を取得する接続順情報取得手段と、
合成画像データ上の座標における第一画像データの合成位置を示す座標情報と、前記自装置の接続順とを対応付けるテーブルを記憶手段から取得するテーブル取得手段とをさらに備え、
前記生成手段は、前記テーブル取得手段によって取得されたテーブルにおいて、前記接続順情報取得手段によって取得された前記自装置の接続順に対応する座標情報が示す合成位置に、第一画像データを合成することを特徴とする請求項1に記載の画像処理装置。
【請求項3】
ユーザが表示手段に表示されたテンプレートに対して操作を入力することで設定される情報であり、前記テンプレート上の座標において前記ユーザが指定した各画像処理装置の第一画像データの合成位置を示す座標情報を取得する設定情報取得手段をさらに備え、
前記生成手段は、前記設定情報取得手段によって取得された座標情報が示す合成位置に、第一画像データを合成することを特徴とする請求項1に記載の画像処理装置。
【請求項4】
前記第二画像データ取得手段は、変換符号化および量子化が行われた第二画像データを、接続している前記他の画像処理装置から取得し、
前記画像処理装置は、
自装置が他の画像処理装置を介さずに前記通信装置に接続しているか否かを判断する判断手段と、
前記判断手段によって他の画像処理装置を介さずに前記通信装置に接続されていると判断された場合に、前記生成手段によって生成された合成画像データに対して予測符号化処理を含む圧縮処理を行う圧縮処理手段をさらに備え、
前記出力手段は、前記圧縮処理手段によって処理された合成画像データを前記通信装置に出力することを特徴とする請求項1から3のいずれかに記載の画像処理装置。
【請求項5】
前記通信装置に出力する合成画像データの解像度およびフレームレートを前記通信装置から取得する出力情報取得手段と、
前記出力情報取得手段によって取得された解像度およびフレームレートを、前記通信装置に連なって接続している他の画像処理装置に通知する通知手段とをさらに備え、
前記生成手段は、前記出力情報取得手段によって取得された解像度およびフレームレート、または他の画像処理装置の通知手段によって通知された解像度およびフレームレートに従って合成画像データを生成することを特徴とする請求項1から4のいずれかに記載の画像処理装置。
【請求項6】
ネットワークを介してデータを送信する通信装置と、前記通信装置に対して直列に接続される複数の画像処理装置とを備える通信システムにおいて使用され、他の拠点で表示させる画像の画像データを前記通信装置に出力することが可能な画像処理装置によって実行される画像処理方法であって、
前記通信装置に連なって接続している他の画像処理装置の台数を取得する台数取得ステップと、
画像を撮像する撮像手段から第一画像データを取得する第一画像データ取得ステップと、
自装置に接続している他の画像処理装置から第二画像データを取得する第二画像データ取得ステップと、
前記第一画像データ取得ステップにおいて取得された第一画像データと前記第二画像データ取得ステップにおいて取得された第二画像データとを、前記台数取得ステップにおいて取得された台数に応じて合成して合成画像データを生成する生成ステップと、
前記生成ステップにおいて生成された前記合成画像データを、接続している他の画像処理装置または前記通信装置に出力する出力ステップと
を備えたことを特徴とする画像処理方法。
【請求項7】
ネットワークを介してデータを送信する通信装置と、前記通信装置に対して直列に接続される複数の画像処理装置とを備える通信システムにおいて使用され、他の拠点で表示させる画像の画像データを前記通信装置に出力することが可能な画像処理装置で用いられる画像処理プログラムであって、
前記通信装置に連なって接続している他の画像処理装置の台数を取得する台数取得ステップと、
画像を撮像する撮像手段から第一画像データを取得する第一画像データ取得ステップと、
自装置に接続している他の画像処理装置から第二画像データを取得する第二画像データ取得ステップと、
前記第一画像データ取得ステップにおいて取得された第一画像データと前記第二画像データ取得ステップにおいて取得された第二画像データとを、前記台数取得ステップにおいて取得された台数に応じて合成して合成画像データを生成する生成ステップと、
前記生成ステップにおいて生成された前記合成画像データを、接続している他の画像処理装置または前記通信装置に出力する出力ステップと
を前記画像処理装置のコントローラに実行させるための指示を含む画像処理プログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【公開番号】特開2012−182688(P2012−182688A)
【公開日】平成24年9月20日(2012.9.20)
【国際特許分類】
【出願番号】特願2011−44605(P2011−44605)
【出願日】平成23年3月2日(2011.3.2)
【出願人】(000005267)ブラザー工業株式会社 (13,856)
【Fターム(参考)】
【公開日】平成24年9月20日(2012.9.20)
【国際特許分類】
【出願日】平成23年3月2日(2011.3.2)
【出願人】(000005267)ブラザー工業株式会社 (13,856)
【Fターム(参考)】
[ Back to top ]