画像表示装置およびその制御方法並びにプログラム
【課題】本発明は、手書きと操作の両方を頻繁に交えて行うようなケースであっても、ユーザビリティを損なわない新規な画像表示装置およびその制御方法並びにプログラムを提供することを目的とする。
【解決手段】本発明においては、電子黒板の描画・操作に用いるペンデバイスにON/OFFスイッチを設け、ペンデバイスのスイッチがOFFの場合は、マウスイベントを手書き描画部に転送し、スイッチがONであって、且つ、マウスイベントの発生座標がユーザのPCのスクリーン画面をはめ込み表示する領域内にない場合は、当該マウスイベントをGUI制御部に転送し、スイッチがONであって、且つ、マウスイベントの発生座標がユーザのPCのスクリーン画面をはめ込み表示する領域内にある場合は、当該マウスイベントの座標をユーザのPCのスクリーン座標系に変換して、ユーザのPCに転送する。
【解決手段】本発明においては、電子黒板の描画・操作に用いるペンデバイスにON/OFFスイッチを設け、ペンデバイスのスイッチがOFFの場合は、マウスイベントを手書き描画部に転送し、スイッチがONであって、且つ、マウスイベントの発生座標がユーザのPCのスクリーン画面をはめ込み表示する領域内にない場合は、当該マウスイベントをGUI制御部に転送し、スイッチがONであって、且つ、マウスイベントの発生座標がユーザのPCのスクリーン画面をはめ込み表示する領域内にある場合は、当該マウスイベントの座標をユーザのPCのスクリーン座標系に変換して、ユーザのPCに転送する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像表示装置およびその制御方法並びにプログラムに関する。
【背景技術】
【0002】
近年、大型ディスプレイを利用したいわゆる「電子黒板」が会議等において活用されている。特開2006−331263号公報(特許文献1)は、大型ディスプレイに表示された背景画像の上にユーザが文字や数字、図形等を手書きすることができる電子黒板装置を開示する。現在、ユーザのノートパソコンのスクリーン画像を大型ディスプレイに転送して表示させることができ、さらに、表示されたユーザPCのスクリーン画像をタッチすることによって、ユーザのノートパソコンを遠隔操作することができる電子黒板製品が提供されている。
【発明の概要】
【発明が解決しようとする課題】
【0003】
しかし、従来の電子黒板は、手書き描画モードとその他の操作モードを相互に切り替える場合、操作パネル等を介してモードの切り替えを指示する必要があり、手書きと操作の両方を頻繁に交えて行うようなケースの場合、切り替えの度に、ペン先を移動させなくてはならないという点でユーザビリティに問題があった。
【0004】
本発明は、上記従来技術における課題に鑑みてなされたものであり、本発明は、手書きと操作の両方を頻繁に交えて行うようなケースであっても、ユーザビリティを損なわない新規な画像表示装置およびその制御方法並びにプログラムを提供することを目的とする。
【課題を解決するための手段】
【0005】
本発明者は、手書きと操作の両方を頻繁に交えて行うようなケースであっても、ユーザビリティを損なわない新規な画像表示装置につき鋭意検討した結果、下記の構成に想到し、本発明に至ったのである。
【0006】
すなわち、本発明によれば、ディスプレイデバイスの上にポインティングデバイスが配置されたディスプレイ装置を制御する画像表示制御装置であって、ON/OFFスイッチを備える画面指示デバイスが前記ポインティングデバイスに接触または接近することに応答してポインティングデバイスイベントを生成するとともに、前記画面指示デバイスから受信したON/OFF信号に基づいてON/OFFイベントを生成するイベント生成部と、前記ポインティングデバイスイベントに基づいてグラフィックスを生成する手書き描画部と、前記ディスプレイデバイスに背景画像を表示し、外部に接続された情報処理装置のスクリーン画面を取り込んで前記背景画像内の所定のはめ込み領域に表示し、前記背景画像または前記所定のはめ込み領域の上に前記手書き描画部が生成した前記グラフィックスを重畳表示する映像処理部と、前記背景画像または前記所定のはめ込み領域にGUIを表示し、前記ポインティングデバイスイベントに基づいて所定の操作を受け付けるGUI制御部と、前記イベント生成部から前記ポインティングデバイスイベントおよび前記ON/OFFイベントを受領し、該ポインティングデバイスイベントを前記手書き描画部、前記GUI制御部、および前記情報処理装置のいずれかに転送するイベント振り分け部とを含む画像表示制御装置が提供される。
【図面の簡単な説明】
【0007】
【図1】本実施形態の画像表示装置の外観を示す図。
【図2】本実施形態の画像表示装置のハードウェア構成図。
【図3】本実施形態におけるペンデバイスの構成図。
【図4】本実施形態の画像表示装置の機能ブロック図。
【図5】イベント振り分け部が実行する処理を示すフローチャート。
【図6】描画モードを説明するための概念図。
【図7】イベント振り分け部が実行する判断処理を説明するための概念図。
【図8】GUI操作モードを説明するための概念図。
【図9】イベント振り分け部が実行する座標変換処理を説明するための概念図。
【図10】PC操作モードを説明するための概念図。
【図11】本実施形態の画像表示装置の外観を示す図。
【図12】イベント振り分け部が実行する処理を示すフローチャート。
【図13】イベント振り分け部が実行する判断処理を説明するための概念図。
【図14】PC操作モードを説明するための概念図。
【発明を実施するための形態】
【0008】
以下、本発明を、実施形態をもって説明するが、本発明は後述する実施形態に限定されるものではない。なお、以下に参照する各図においては、共通する要素について同じ符号を用い、適宜、その説明を省略するものとする。
【0009】
図1は、本発明の実施形態である画像表示装置100の外観を示す。本実施形態の画像表示装置100は、いわゆる電子黒板として参照される装置であり、大型のディスプレイ装置102と、ディスプレイ装置102を制御するための画像表示制御装置(図示せず)とを含んで構成されている。
【0010】
図1に示すように、本実施形態のディスプレイ装置102においては、スクリーン画面104に背景画像(例示では一様色の背景)がデスクトップとして表示され、当該デスクトップが描画キャンバスとして提供されている。
【0011】
一方、ユーザは、画像表示装置100の使用にあたって、専用の画面指示デバイス200を提供される。本実施形態における画面指示デバイス200は、ユーザが手に持ってスクリーン画面104上の所望の位置をポインティングできるものであれば、その具体的な形態を限定するものではなく、好ましくは、ペン型の形状とすることができる。以下においては、ペン型の形状を備える画面指示デバイス200(以下、ペンデバイス200として参照する)を採用した場合を例にとって説明する。
【0012】
ユーザがペンデバイス200のペン先をスクリーン画面104に接触させながら移動させると、これに応答して、その移動軌跡が描画線としてデスクトップに表示される。つまり、ユーザは、図1(a)に示すように、黒板に見立てたスクリーン画面104に対して、ペンデバイス200を使って手書きの文字や図形を自由に書き込むことができる。
【0013】
一方、ディスプレイ装置102に表示されるデスクトップの紙面右隅には、画像表示装置100を操作するためのGUI制御部品106が表示されており、ユーザは、ペンデバイス200のペン先でGUI制御部品106を指定することによって所望の操作を行えるように構成されている。なお、図1に示したGUI制御部品106はあくまで例示であり、本実施形態においては、当業者が想定しうる如何なる形態のGUI制御部品を採用してもよい。
【0014】
さらに、本実施形態の画像表示装置100は、図1(b)に示すように、ユーザのパーソナル・コンピュータ300(以下、PC300として参照する)のスクリーン画面302を描画するための描画データを取り込んでディスプレイ装置102のスクリーン画面104に表示させることができる。具体的には、画像表示装置100は、PC300からVGAケーブル304を介して伝送されたVGA信号に基づいて、PC300のスクリーン画面302に表示される画像と同じ画像をスクリーン画面104に表示されたデスクトップ内に所定の大きさではめ込み表示させることができる。
【0015】
図2は、本実施形態の画像表示装置100のハードウェア構成図を示す。画像表示装置100は、プロセッサ150と、ROM151と、RAM152と、ハードディスク装置(HDD)153と、グラフィックスボード154と、ディスプレイデバイス155と、座標検出装置156と、無線通信インタフェース157と、外部機器接続インタフェース158とを含んで構成される。
【0016】
プロセッサ150は、画像表示装置100が実行する処理を演算する装置であり、PENTIUM(登録商標)やAthlon等のCPUやMPUなどの種々のプロセッサを採用することができる。ROM151は、BIOS等のブートプログラムなどが保存されるメモリである。
【0017】
RAM152は、本実施形態のプログラムを実行するための実行空間を提供するメモリである。画像表示装置100は、OSの管理下でアセンブラ、C、C++、Java(登録商標)、Java(登録商標)Script、PERL、RUBY、PYTHONなどのプログラム言語で記述されたプログラムを展開して実行することにより、後述する各機能手段を実現する。
【0018】
ハードディスク装置153は、画像表示装置100のシステム全体を制御するWINDOWS(登録商標)シリーズ、UNIX(登録商標)、LINUX(登録商標)、Android(登録商標)、ITRON、μITRONなどの種々のオペレーティングシステム(OS)、各種デバイスドライバ、アプリケーションプログラムなどが保存されるストレージである。
【0019】
外部機器接続インタフェース158は、ユーザのPC300などの外部機器を接続するためのインタフェースであり、VGA入力コネクタやUSBポート等の物理インタフェースである。
【0020】
グラフィックスボード154は、ディスプレイデバイス155に描画する描画データを処理するハードウェアであり、画像イメージを保持するVRAMやディスプレイデバイス155の接続端子を含んで構成される。ディスプレイデバイス155は、グラフィックスボード154が生成した描画データを描画表示する装置である。
【0021】
座標検出装置156は、ペンデバイス200が接触または接近(以下、接触等という)した位置座標を検出するための装置である。本実施形態においては、座標検出装置156を、物体の接触等に伴って変化する静電容量を検知する静電容量センサを利用したタッチパネルや、物体の接触圧を検知する圧力センサを利用したタッチパネルとして構成することができる。
【0022】
さらに、本実施形態においては、光学的な手法を用いて座標検出装置156を構成することができる。光学的な手法を用いた装置としては、例えば、本出願人の先の出願(特開2008−176802号公報)が開示するところの座標入力/検出装置を挙げることができる。当該座標入力/検出装置においては、ディスプレイ面に平行な光を照射し、その光がペンによって遮断されたことを検知することによって、ペンが接触等した位置座標を検出する。
【0023】
なお、本実施形態における座標検出装置156は、ペンデバイス200が接触等した位置の座標を検出することができるパネル状のポインティングデバイスであればどのような形態であってもよく、本実施形態は、座標検出装置156の構成に限定されるものではない。
【0024】
本実施形態の画像表示装置100は、ペンデバイス200と無線で通信を行うものであり、無線通信I/F157は、ペンデバイス200から送信される無線信号を受信するためのインタフェースである。無線通信方式としては、例えば、赤外線通信を採用することができ、Bluetooth(登録商標)やWiFi等のその他の適切な方式を採用してもよい。
【0025】
図3は、本実施形態におけるペンデバイス200の構成図を示す。ペンデバイス200は、例えば、ペン型の筐体を備えており、その外周面の適切な位置にメカニカルな押しボタン202が配設されている。本実施形態においては、押しボタン202は、ペンデバイス200を握り直すことなく容易に押下できる適切な位置に配設することが好ましい。信号生成部204は、押しボタン202が押下されている場合は「真」の信号を生成し、押しボタン202が押下されていない場合は「偽」の信号を生成する。生成された信号は、無線発信器として参照される信号送信部208によってディスプレイ装置102に対して発信される。
【0026】
なお、図3に示した押しボタン202は、あくまで例示であり、本実施形態におけるペンデバイス200は、本質的には、ON/OFFといった2値情報を定義するための機構を備えていればよく、押しボタン202に代えて、スライドスイッチやロータリスイッチを採用することができ、光センサや圧力センサ等の各種センサを利用したスイッチを採用することもできる。以下の説明においては、押しボタン202の押下の有無に応じて生成される真偽信号をON/OFF信号として参照する。
【0027】
以上、本実施形態の画像表示装置100およびペンデバイス200のハードウェア構成について説明してきたが、次に、画像表示装置100を構成するディスプレイ装置102と、ディスプレイ装置102を制御する画像表示制御装置について、図4に基づいて説明する。なお、以下の説明においては、座標検出装置156をタッチパネル156として参照する。
【0028】
図4は、ディスプレイ装置102および画像表示制御装置120の機能ブロック図を示す。ディスプレイ装置102は、ディスプレイデバイス155と、ディスプレイデバイス155の上にスクリーン画面104全体を覆うように配置されるタッチパネル156と、ペンデバイス200から発信される無線信号を受信するための信号受信部110を含んで構成されている。なお、信号受信部110は、ペンデバイス200から発信される無線信号を受信可能な場所であれば、ディスプレイ装置102の筐体内に限らず、どのような位置に配設されていてもよく、画像表示制御装置120の筐体内に配設されていてもよい。
【0029】
一方、画像表示制御装置120は、コントローラ部121と、PC300から伝送されるVGA信号を受信するためのVGA
I/F128と、PC300に対してイベント信号を転送するためのUSB I/F129とを含んで構成され、コントローラ部121は、タッチパネルドライバ部122と、コントローラ部121全体を制御するオペレーティングシステム123と、映像処理部124と、手書き描画部125と、GUI制御部126と、イベント振り分け部130とを含んで構成されている。
【0030】
タッチパネル156は、ペンデバイス200が接触等したことに応答してタッチパネル156上の位置座標を示す信号を生成し、タッチパネルドライバ部122に送信する。一方、信号受信部110は、ペンデバイス200から受信したON/OFF信号をタッチパネルドライバ部122に送信する。
【0031】
タッチパネルドライバ部122は、タッチパネル156から受領した位置座標を示す信号を所定のポインティングデバイスイベント(以下、タッチパネルイベントとして参照する)に変換する。さらに、タッチパネルドライバ部122は、信号受信部110から受領したON/OFF信号を対応する所定のイベント(以下、ON/OFFイベントとして参照する)に変換する。なお、ON/OFFイベントは、ファンクションキーのキーイベントとして割り当てることができる。タッチパネルドライバ部122は、変換したタッチパネルイベントとON/OFFイベントを紐付けてオペレーティングシステム123に送る。
【0032】
オペレーティングシステム123は、タッチパネルドライバ部122から受領したタッチパネルイベントに基づいて、ディスプレイデバイス155のスクリーン座標系の座標を示す所定のポインティングデバイスイベント(以下、マウスイベントとして参照する)を生成する。すなわち、オペレーティングシステム123は、イベント生成部として機能する。オペレーティングシステム123は、マウスイベントを生成すると、同じく受領したON/OFFイベントとともにイベント振り分け部130に送る。
【0033】
映像処理部124は、PC300からVGA
I/F128を介して伝送されたVGA信号に基づいて、PC300のスクリーン画面302を表示するためのレイヤーを生成し、スクリーン画面104に表示されるデスクトップ(描画キャンパス)のレイヤーの上に重畳する。その結果、デスクトップ内の所定の位置にPC300のスクリーン画面302がはめ込み表示される。
【0034】
手書き描画部125は、描画アプリケーションとして参照される機能部であり、後述するイベント振り分け部130から転送されるマウスイベントに基づいて、手書き線などのグラフィックスを生成し、映像処理部124に渡す。映像処理部124は、受領したグラフィックスを表示するためのレイヤーを生成し、その他のレイヤー(デスクトップを表示するレイヤーまたはPC300のスクリーン画面302を表示するレイヤー)に対して上位に重畳する。
【0035】
GUI制御部126は、GUIプログラムとして参照される機能部であり、デスクトップ上にGUI制御部品を表示し、当該GUI制御部品を介してユーザの操作を受け付ける。GUI制御部126は、後述するイベント振り分け部130から転送されるマウスイベントを待機し、所定のGUI制御部品を選択するマウスイベントが発生したことに応答して、当該GUI制御部品に関連付けられた所定の操作を受け付ける。
【0036】
イベント振り分け部130は、外部入力画像管理部132、ON/OFF判断部134、座標取得部136および座標変換部138を含む。
【0037】
外部入力画像管理部132は、PC300から伝送されたPC300のスクリーン画面302がはめ込み表示される領域の座標(ディスプレイデバイス155のスクリーン座標系の座標情報)を管理する。外部入力画像管理部132は、スクリーン画面302がはめ込み表示される領域が固定される場合、すなわち、はめ込み表示される領域の座標が固定値である場合にはその値を保持し、はめ込み表示する領域が可変的に設定される場合は、その設定元(例えば、映像処理部124)に当該領域の座標情報を問い合わせて取得する。
【0038】
ON/OFF判断部134は、オペレーティングシステム123から受領したON/OFFイベントを参照し、ペンデバイス200の押しボタン202が押下されているか否か(すなわち、スイッチのON/OFF)を判断する。一方、座標取得部136は、オペレーティングシステム123から受領したマウスイベントに含まれる座標情報(マウスイベントの発生座標)を取得する。
【0039】
イベント振り分け部130は、オペレーティングシステム123から受領したマウスイベントおよびスイッチのON/OFFイベントならびにPC300のスクリーン画面をはめ込み表示する領域の座標情報に基づいて、手書き描画部125、GUI制御部126およびPC300(外部接続PC)のいずれか1つを当該マウスイベントの転送先として決定する。PC300がマウスイベントの転送先として決定した場合、イベント振り分け部130は、当該マウスイベントをUSB I/F129を介してPC300に転送する。
【0040】
以上、本実施形態の画像表示制御装置120のコントローラ部121を構成する各機能部について説明してきたが、次に、図5に示すフローチャート基づいて、イベント振り分け部130が実行する処理を具体的に説明する。なお、以下の説明においては、画像表示装置100を電子黒板100として参照する。
【0041】
画像表示制御装置120が起動されると、イベント振り分け部130は、オペレーティングシステム123が生成するマウスイベントを監視する(ステップ101、No)。オペレーティングシステム123がマウスイベントを生成したことを検出すると(ステップ101、Yes)、当該マウスイベントとこれに紐付けられたON/OFFイベントを受領してステップ102に進む。
【0042】
ステップ102においては、ON/OFF判断部134がON/OFFイベントを参照し、ペンデバイス200のスイッチがONになっているか否かを判断する。ペンデバイス200のスイッチがONになっていないと判断した場合は(ステップ102、No)、ステップ103に進み、イベント振り分け部130は、オペレーティングシステム123から受領したマウスイベントを手書き描画部125に転送した後、マウスイベントの監視ループ(ステップ101)に戻る。
【0043】
手書き描画部は、イベント振り分け部130から受領したマウスイベントに基づいて手書き線などのグラフィックスを生成する。つまり、本実施形態においては、ペンデバイス200のスイッチがOFFになっている間、電子黒板100は、常時、描画モードで動作し、ユーザは、デスクトップ画面の全領域を描画キャンバスとして手書き描画を行うことができる。なお、手書き描画部が生成するグラフィックスは、最上位のレイヤーに表示されるので、ユーザは、図6(a)に示すように、手書き文字等を背景色が表示された画素領域に書き入れることができるのはもちろんのこと、図6(b)に示すように、PC300のスクリーン画面をはめ込み表示する画素領域105(以下、PCスクリーン表示領域105として参照する)の上に手書き文字等を重ね書きすることもできる。
【0044】
一方、ステップ102において、ペンデバイス200のスイッチがONになっていると判断した場合は(ステップ102、Yes)、ステップ104に進む。ステップ104においては、座標取得部136がオペレーティングシステム123から受領したマウスイベントの発生座標を取得する(ステップ104)。
【0045】
続くステップ105において、イベント振り分け部130は、マウスイベントの発生座標がPCスクリーン表示領域105内にあるか否かを判断する。以下、ステップ105の判断処理について図7に示す概念図に基づいて説明する。
【0046】
イベント振り分け部130は、外部入力画像管理部132が保持または取得するはめ込み表示領域の座標情報からPCスクリーン表示領域105のX座標の最大値[xmin]および最小値[xmax]ならびにY座標の最大値[ymin]および最小値[ymax]を取得した上で、座標取得部136が取得したマウスイベントの発生座標(x,y)について、下記不等式(1)および(2)が同時に成立するか否かを判断する。
xmin<x<xmax(あるいは、xmin≦x≦xmax) (1)
ymin<y<ymax(あるいは、ymin≦y≦ymax) (2)
【0047】
その結果、上記不等式(1)および(2)が同時に成立しないと判断した場合は、マウスイベントの発生座標(x,y)がPCスクリーン表示領域105内にないと判断し(ステップ105、No)、ステップ106に進み、検出したマウスイベントをGUI制御部126に転送した後、マウスイベントの監視ループ(ステップ101)に戻る。
【0048】
GUI制御部126は、イベント振り分け部130から受領したマウスイベントが所定のGUI制御部品を選択するものであると判断した場合、選択されたGUI制御部品に関連付けられた所定の操作を受け付ける。例えば、ペンデバイス200が図8(a)に示すGUI制御部品「C」を指定している場合には、GUI制御部126は、タッチされたGUI制御部品「C」が定義するところの所定の処理を実行する。図8(b)は、ペンデバイス200によってGUI制御部品[C]が指定されたことに応答して、PC300のスクリーン画面を消去する操作が実行された場合を例示する。
【0049】
一方、ステップ105において、上記不等式(1)および(2)が同時に成立すると判断した場合は、マウスイベントの発生座標(x,y)がPCスクリーン表示領域105内にあると判断し(ステップ105、Yes)、ステップ107に進む。ステップ107においては、座標変換部138がオペレーティングシステム123から受領したマウスイベントの発生座標を適切な方法でPC300のスクリーン座標系に変換する。以下、座標変換部138が実行する座標変換処理の一例について図9に示す概念図に基づいて説明する。
【0050】
座標変換部138は、下記変換式(3)に基づいて、電子黒板100のスクリーン座標系におけるマウスイベントの発生座標(x,y)をPC300のスクリーン座標系におけるマウスイベント座標(x’,y’)に変換する。
【0051】
【数1】
【0052】
なお、上記式(3)において、[xmin]および[xmax]ならびに[ymin]および[ymax]は、それぞれ、PCスクリーン表示領域105のX座標の最大値および最小値ならびにY座標の最大値および最小値を示し、[x’max]および[y’max]は、それぞれ、PC300のスクリーン座標系のX座標の最大値およびY座標の最大値を示す。
【0053】
ここで、PCスクリーン表示領域105およびマウスイベントの発生座標が図9(a)に示す状態であった場合、電子黒板100のスクリーン座標系におけるマウスイベントの発生座標(300,200)は、図9(b)に示すように、PC300のスクリーン座標系の座標(180,140)に変換される。
【0054】
イベント振り分け部130は、ステップ107で電子黒板100のスクリーン座標系におけるマウスイベントの発生座標をPC300のスクリーン座標系の座標に変換すると、ステップ108に進み、発生座標を変換したマウスイベントをPC300に転送した後、マウスイベントの監視ループ(ステップ101)に戻る。
【0055】
PC300は、電子黒板100から受領したマウスイベントの(変換後の)発生座標に基づいて、所定のGUI制御部品が選択されたか否かを判断する。例えば、図10(a)に示すように、ペンデバイス200がPCスクリーン表示領域105に表示された「次のページに進む」という意味のボタン「→」をタッチすると、これに応答して発生したマウスイベントの座標がPC300のスクリーン座標系の座標(すなわち、PC300のスクリーン画面302に表示されたボタン「→」に対応する座標)に変換された後、当該マウスイベントがPC300に転送される。その結果、PC300は、図10(b)に示すように、PC300のスクリーン画面302を次のページの表示に切り替えるとともに、表示内容の変更を反映したVGA信号を電子黒板100に伝送する。その結果、PCスクリーン表示領域105の表示がPC300のスクリーン画面302に同期して切り替わる。
【0056】
以上、本実施形態の電子黒板100について、1台のユーザPCからスクリーン画面を取り込んだ例に基づいて説明してきたが、本実施形態の電子黒板100は、複数台のユーザPCからスクリーン画面を取り込むこともできる。図11は、PC300a(PC1)のスクリーン画面302aとPC300b(PC2)のスクリーン画面302bが電子黒板100のスクリーン画面104に同時にはめ込み表示する実施形態を示す。以下、2台のPCを電子黒板100に接続する場合において、イベント振り分け部130が実行する処理を図12に示すフローチャート基づいて説明する。
【0057】
図12において、ステップ101〜ステップ104は、図5において説明した内容と同様の処理を行う。
【0058】
ステップ104に続くステップ105においては、マウスイベントの発生座標がPC300a(PC1)のPCスクリーン表示領域105a内にあるか否かを判断し、マウスイベントの発生座標(x,y)がPCスクリーン表示領域105a内にあると判断した場合(ステップ105、Yes)、ステップ107に進み、検出したマウスイベントの発生座標をPC300aのスクリーン座標系に変換し、続くステップ108で、発生座標を変換したマウスイベントをPC300aに転送した後、マウスイベントの監視ループ(ステップ101)に戻る。
【0059】
一方、ステップ105において、マウスイベントの発生座標がPC300a(PC1)のPCスクリーン表示領域105a内にないと判断した場合(ステップ105、No)、ステップ109に進み、マウスイベントの発生座標がPC300b(PC2)のPCスクリーン表示領域105b内にあるか否かを判断する。
【0060】
ステップ109において、マウスイベントの発生座標(x,y)がPCスクリーン表示領域105b内にないと判断した場合は(ステップ109、No)、ステップ106に進み、検出したマウスイベントをGUI制御部126に転送した後、はマウスイベントの監視ループ(ステップ101)に戻る。一方、マウスイベントの発生座標(x,y)がPCスクリーン表示領域105b内にあると判断した場合(ステップ109、Yes)、ステップ110に進み、検出したマウスイベントの発生座標をPC300bのスクリーン座標系に変換し、続くステップ111で、発生座標を変換したマウスイベントをPC300bに転送した後、マウスイベントの監視ループ(ステップ101)に戻る。
【0061】
ここで、ステップ105およびステップ109の判断処理について、図13に示す概念図に基づいて例示的に説明する。
【0062】
イベント振り分け部130は、外部入力画像管理部132が保持または取得するはめ込み表示領域の座標情報からPC1のPCスクリーン表示領域105aのX座標の最大値[x1min]・最小値[x1max]ならびにY座標の最大値[y1min]・最小値[y1max]を取得するとともに、PC2のPCスクリーン表示領域105bのX座標の最大値[x2min]・最小値[x2max]ならびにY座標の最大値[y2min]・最小値[y2max]を取得する。その上で、ステップ105においては、マウスイベントの発生座標(x,y)について、下記不等式(4)および(5)が同時に成立するか否かを判断する。
x1min<x<x1max(あるいは、x1min≦x≦x1max) (4)
y1min<y<y1max(あるいは、y1min≦y≦y1max) (5)
【0063】
その結果、上記不等式(4)および(5)が同時に成立する場合には、マウスイベントの発生座標(x,y)がPCスクリーン表示領域105a内にあると判断し(ステップ105,Yes)、それ以外の場合は、マウスイベントの発生座標(x,y)がPCスクリーン表示領域105a内にないと判断する(ステップ105,No)。
【0064】
一方、ステップ109においては、マウスイベントの発生座標(x,y)について、下記不等式(6)および(7)が同時に成立するか否かを判断する。
x2min<x<x2max(あるいは、x2min≦x≦x2max) (6)
y2min<y<y2max(あるいは、y2min≦y≦y2max) (7)
【0065】
その結果、上記不等式(6)および(7)が同時に成立する場合には、マウスイベントの発生座標(x,y)がPCスクリーン表示領域105b内にあると判断し(ステップ109,Yes)、それ以外の場合は、マウスイベントの発生座標(x,y)がPCスクリーン表示領域105b内にないと判断する(ステップ109,No)。
【0066】
例えば、図14(a)に示すように、ペンデバイス200がPC300b(PC2)のPCスクリーン表示領域105bに表示された「円グラフ」をタッチすると、これに応答して発生したマウスイベントの座標がPC300bのスクリーン座標系の座標(すなわち、PC300bのスクリーン画面302bに表示された「円グラフ」に対応する座標)に変換された後、当該マウスイベントがPC300bに転送される。その結果、PC300bは、図14(b)に示すように、PC300bのスクリーン画面302bに別ウィンドウ303をポップアップ表示させるとともに、表示内容の変更を反映したVGA信号を電子黒板100に転送する。その結果、PCスクリーン表示領域105bの表示がPC300bのスクリーン画面302bの表示切り替えに同期して切り替わる。
【0067】
以上、説明したように、本発明によれば、ユーザは、手書き描画、電子黒板の操作および外部接続されたPCの操作という3つの操作を手元のごくわずかな動き(ペンデバイスのボタンのON/OFF)のみで切り替えることができるので、手書きと操作の両方を頻繁に交えて行うようなケースであっても、高いユーザビリティを維持することが可能になる。
【0068】
上述した実施形態の各機能は、C、C++、C#、Java(登録商標)などのオブジェクト指向プログラミング言語などで記述された装置実行可能なプログラムにより実現でき、本実施形態のプログラムは、ハードディスク装置、CD−ROM、MO、DVD、フレキシブルディスク、EEPROM、EPROMなどの装置可読な記録媒体に格納して頒布することができ、また他装置が可能な形式でネットワークを介して伝送することができる。
【0069】
以上、本発明について実施形態をもって説明してきたが、本発明は上述した実施形態に限定されるものではなく、当業者が推考しうる実施態様の範囲内において、本発明の作用・効果を奏する限り、本発明の範囲に含まれるものである。
【符号の説明】
【0070】
100…画像表示装置(電子黒板)
102…ディスプレイ装置
104…スクリーン画面
105…PCスクリーン表示領域
106…GUI制御部品
110…信号受信部
120…画像表示制御装置
121…コントローラ部
122…タッチパネルドライバ部
123…オペレーティングシステム
124…映像処理部
125…手書き描画部
126…GUI制御部
128…VGA I/F
129…USB I/F
130…イベント振り分け部
132…外部入力画像管理部
134…ON/OFF判断部
136…座標取得部
138…座標変換部
150…プロセッサ
151…ROM
152…RAM
153…ハードディスク装置
154…グラフィックスボード
155…ディスプレイデバイス
156…座標検出装置(タッチパネル)
157…無線通信インタフェース
158…外部機器接続インタフェース
200…画面指示デバイス(ペンデバイス)
202…押しボタン
204…信号生成部
208…信号送信部
300…パーソナル・コンピュータ
302…PCのスクリーン画面
303…ポップアップウィンドウ
304…VGAケーブル
【先行技術文献】
【特許文献】
【0071】
【特許文献1】特開2006−331263号公報
【技術分野】
【0001】
本発明は、画像表示装置およびその制御方法並びにプログラムに関する。
【背景技術】
【0002】
近年、大型ディスプレイを利用したいわゆる「電子黒板」が会議等において活用されている。特開2006−331263号公報(特許文献1)は、大型ディスプレイに表示された背景画像の上にユーザが文字や数字、図形等を手書きすることができる電子黒板装置を開示する。現在、ユーザのノートパソコンのスクリーン画像を大型ディスプレイに転送して表示させることができ、さらに、表示されたユーザPCのスクリーン画像をタッチすることによって、ユーザのノートパソコンを遠隔操作することができる電子黒板製品が提供されている。
【発明の概要】
【発明が解決しようとする課題】
【0003】
しかし、従来の電子黒板は、手書き描画モードとその他の操作モードを相互に切り替える場合、操作パネル等を介してモードの切り替えを指示する必要があり、手書きと操作の両方を頻繁に交えて行うようなケースの場合、切り替えの度に、ペン先を移動させなくてはならないという点でユーザビリティに問題があった。
【0004】
本発明は、上記従来技術における課題に鑑みてなされたものであり、本発明は、手書きと操作の両方を頻繁に交えて行うようなケースであっても、ユーザビリティを損なわない新規な画像表示装置およびその制御方法並びにプログラムを提供することを目的とする。
【課題を解決するための手段】
【0005】
本発明者は、手書きと操作の両方を頻繁に交えて行うようなケースであっても、ユーザビリティを損なわない新規な画像表示装置につき鋭意検討した結果、下記の構成に想到し、本発明に至ったのである。
【0006】
すなわち、本発明によれば、ディスプレイデバイスの上にポインティングデバイスが配置されたディスプレイ装置を制御する画像表示制御装置であって、ON/OFFスイッチを備える画面指示デバイスが前記ポインティングデバイスに接触または接近することに応答してポインティングデバイスイベントを生成するとともに、前記画面指示デバイスから受信したON/OFF信号に基づいてON/OFFイベントを生成するイベント生成部と、前記ポインティングデバイスイベントに基づいてグラフィックスを生成する手書き描画部と、前記ディスプレイデバイスに背景画像を表示し、外部に接続された情報処理装置のスクリーン画面を取り込んで前記背景画像内の所定のはめ込み領域に表示し、前記背景画像または前記所定のはめ込み領域の上に前記手書き描画部が生成した前記グラフィックスを重畳表示する映像処理部と、前記背景画像または前記所定のはめ込み領域にGUIを表示し、前記ポインティングデバイスイベントに基づいて所定の操作を受け付けるGUI制御部と、前記イベント生成部から前記ポインティングデバイスイベントおよび前記ON/OFFイベントを受領し、該ポインティングデバイスイベントを前記手書き描画部、前記GUI制御部、および前記情報処理装置のいずれかに転送するイベント振り分け部とを含む画像表示制御装置が提供される。
【図面の簡単な説明】
【0007】
【図1】本実施形態の画像表示装置の外観を示す図。
【図2】本実施形態の画像表示装置のハードウェア構成図。
【図3】本実施形態におけるペンデバイスの構成図。
【図4】本実施形態の画像表示装置の機能ブロック図。
【図5】イベント振り分け部が実行する処理を示すフローチャート。
【図6】描画モードを説明するための概念図。
【図7】イベント振り分け部が実行する判断処理を説明するための概念図。
【図8】GUI操作モードを説明するための概念図。
【図9】イベント振り分け部が実行する座標変換処理を説明するための概念図。
【図10】PC操作モードを説明するための概念図。
【図11】本実施形態の画像表示装置の外観を示す図。
【図12】イベント振り分け部が実行する処理を示すフローチャート。
【図13】イベント振り分け部が実行する判断処理を説明するための概念図。
【図14】PC操作モードを説明するための概念図。
【発明を実施するための形態】
【0008】
以下、本発明を、実施形態をもって説明するが、本発明は後述する実施形態に限定されるものではない。なお、以下に参照する各図においては、共通する要素について同じ符号を用い、適宜、その説明を省略するものとする。
【0009】
図1は、本発明の実施形態である画像表示装置100の外観を示す。本実施形態の画像表示装置100は、いわゆる電子黒板として参照される装置であり、大型のディスプレイ装置102と、ディスプレイ装置102を制御するための画像表示制御装置(図示せず)とを含んで構成されている。
【0010】
図1に示すように、本実施形態のディスプレイ装置102においては、スクリーン画面104に背景画像(例示では一様色の背景)がデスクトップとして表示され、当該デスクトップが描画キャンバスとして提供されている。
【0011】
一方、ユーザは、画像表示装置100の使用にあたって、専用の画面指示デバイス200を提供される。本実施形態における画面指示デバイス200は、ユーザが手に持ってスクリーン画面104上の所望の位置をポインティングできるものであれば、その具体的な形態を限定するものではなく、好ましくは、ペン型の形状とすることができる。以下においては、ペン型の形状を備える画面指示デバイス200(以下、ペンデバイス200として参照する)を採用した場合を例にとって説明する。
【0012】
ユーザがペンデバイス200のペン先をスクリーン画面104に接触させながら移動させると、これに応答して、その移動軌跡が描画線としてデスクトップに表示される。つまり、ユーザは、図1(a)に示すように、黒板に見立てたスクリーン画面104に対して、ペンデバイス200を使って手書きの文字や図形を自由に書き込むことができる。
【0013】
一方、ディスプレイ装置102に表示されるデスクトップの紙面右隅には、画像表示装置100を操作するためのGUI制御部品106が表示されており、ユーザは、ペンデバイス200のペン先でGUI制御部品106を指定することによって所望の操作を行えるように構成されている。なお、図1に示したGUI制御部品106はあくまで例示であり、本実施形態においては、当業者が想定しうる如何なる形態のGUI制御部品を採用してもよい。
【0014】
さらに、本実施形態の画像表示装置100は、図1(b)に示すように、ユーザのパーソナル・コンピュータ300(以下、PC300として参照する)のスクリーン画面302を描画するための描画データを取り込んでディスプレイ装置102のスクリーン画面104に表示させることができる。具体的には、画像表示装置100は、PC300からVGAケーブル304を介して伝送されたVGA信号に基づいて、PC300のスクリーン画面302に表示される画像と同じ画像をスクリーン画面104に表示されたデスクトップ内に所定の大きさではめ込み表示させることができる。
【0015】
図2は、本実施形態の画像表示装置100のハードウェア構成図を示す。画像表示装置100は、プロセッサ150と、ROM151と、RAM152と、ハードディスク装置(HDD)153と、グラフィックスボード154と、ディスプレイデバイス155と、座標検出装置156と、無線通信インタフェース157と、外部機器接続インタフェース158とを含んで構成される。
【0016】
プロセッサ150は、画像表示装置100が実行する処理を演算する装置であり、PENTIUM(登録商標)やAthlon等のCPUやMPUなどの種々のプロセッサを採用することができる。ROM151は、BIOS等のブートプログラムなどが保存されるメモリである。
【0017】
RAM152は、本実施形態のプログラムを実行するための実行空間を提供するメモリである。画像表示装置100は、OSの管理下でアセンブラ、C、C++、Java(登録商標)、Java(登録商標)Script、PERL、RUBY、PYTHONなどのプログラム言語で記述されたプログラムを展開して実行することにより、後述する各機能手段を実現する。
【0018】
ハードディスク装置153は、画像表示装置100のシステム全体を制御するWINDOWS(登録商標)シリーズ、UNIX(登録商標)、LINUX(登録商標)、Android(登録商標)、ITRON、μITRONなどの種々のオペレーティングシステム(OS)、各種デバイスドライバ、アプリケーションプログラムなどが保存されるストレージである。
【0019】
外部機器接続インタフェース158は、ユーザのPC300などの外部機器を接続するためのインタフェースであり、VGA入力コネクタやUSBポート等の物理インタフェースである。
【0020】
グラフィックスボード154は、ディスプレイデバイス155に描画する描画データを処理するハードウェアであり、画像イメージを保持するVRAMやディスプレイデバイス155の接続端子を含んで構成される。ディスプレイデバイス155は、グラフィックスボード154が生成した描画データを描画表示する装置である。
【0021】
座標検出装置156は、ペンデバイス200が接触または接近(以下、接触等という)した位置座標を検出するための装置である。本実施形態においては、座標検出装置156を、物体の接触等に伴って変化する静電容量を検知する静電容量センサを利用したタッチパネルや、物体の接触圧を検知する圧力センサを利用したタッチパネルとして構成することができる。
【0022】
さらに、本実施形態においては、光学的な手法を用いて座標検出装置156を構成することができる。光学的な手法を用いた装置としては、例えば、本出願人の先の出願(特開2008−176802号公報)が開示するところの座標入力/検出装置を挙げることができる。当該座標入力/検出装置においては、ディスプレイ面に平行な光を照射し、その光がペンによって遮断されたことを検知することによって、ペンが接触等した位置座標を検出する。
【0023】
なお、本実施形態における座標検出装置156は、ペンデバイス200が接触等した位置の座標を検出することができるパネル状のポインティングデバイスであればどのような形態であってもよく、本実施形態は、座標検出装置156の構成に限定されるものではない。
【0024】
本実施形態の画像表示装置100は、ペンデバイス200と無線で通信を行うものであり、無線通信I/F157は、ペンデバイス200から送信される無線信号を受信するためのインタフェースである。無線通信方式としては、例えば、赤外線通信を採用することができ、Bluetooth(登録商標)やWiFi等のその他の適切な方式を採用してもよい。
【0025】
図3は、本実施形態におけるペンデバイス200の構成図を示す。ペンデバイス200は、例えば、ペン型の筐体を備えており、その外周面の適切な位置にメカニカルな押しボタン202が配設されている。本実施形態においては、押しボタン202は、ペンデバイス200を握り直すことなく容易に押下できる適切な位置に配設することが好ましい。信号生成部204は、押しボタン202が押下されている場合は「真」の信号を生成し、押しボタン202が押下されていない場合は「偽」の信号を生成する。生成された信号は、無線発信器として参照される信号送信部208によってディスプレイ装置102に対して発信される。
【0026】
なお、図3に示した押しボタン202は、あくまで例示であり、本実施形態におけるペンデバイス200は、本質的には、ON/OFFといった2値情報を定義するための機構を備えていればよく、押しボタン202に代えて、スライドスイッチやロータリスイッチを採用することができ、光センサや圧力センサ等の各種センサを利用したスイッチを採用することもできる。以下の説明においては、押しボタン202の押下の有無に応じて生成される真偽信号をON/OFF信号として参照する。
【0027】
以上、本実施形態の画像表示装置100およびペンデバイス200のハードウェア構成について説明してきたが、次に、画像表示装置100を構成するディスプレイ装置102と、ディスプレイ装置102を制御する画像表示制御装置について、図4に基づいて説明する。なお、以下の説明においては、座標検出装置156をタッチパネル156として参照する。
【0028】
図4は、ディスプレイ装置102および画像表示制御装置120の機能ブロック図を示す。ディスプレイ装置102は、ディスプレイデバイス155と、ディスプレイデバイス155の上にスクリーン画面104全体を覆うように配置されるタッチパネル156と、ペンデバイス200から発信される無線信号を受信するための信号受信部110を含んで構成されている。なお、信号受信部110は、ペンデバイス200から発信される無線信号を受信可能な場所であれば、ディスプレイ装置102の筐体内に限らず、どのような位置に配設されていてもよく、画像表示制御装置120の筐体内に配設されていてもよい。
【0029】
一方、画像表示制御装置120は、コントローラ部121と、PC300から伝送されるVGA信号を受信するためのVGA
I/F128と、PC300に対してイベント信号を転送するためのUSB I/F129とを含んで構成され、コントローラ部121は、タッチパネルドライバ部122と、コントローラ部121全体を制御するオペレーティングシステム123と、映像処理部124と、手書き描画部125と、GUI制御部126と、イベント振り分け部130とを含んで構成されている。
【0030】
タッチパネル156は、ペンデバイス200が接触等したことに応答してタッチパネル156上の位置座標を示す信号を生成し、タッチパネルドライバ部122に送信する。一方、信号受信部110は、ペンデバイス200から受信したON/OFF信号をタッチパネルドライバ部122に送信する。
【0031】
タッチパネルドライバ部122は、タッチパネル156から受領した位置座標を示す信号を所定のポインティングデバイスイベント(以下、タッチパネルイベントとして参照する)に変換する。さらに、タッチパネルドライバ部122は、信号受信部110から受領したON/OFF信号を対応する所定のイベント(以下、ON/OFFイベントとして参照する)に変換する。なお、ON/OFFイベントは、ファンクションキーのキーイベントとして割り当てることができる。タッチパネルドライバ部122は、変換したタッチパネルイベントとON/OFFイベントを紐付けてオペレーティングシステム123に送る。
【0032】
オペレーティングシステム123は、タッチパネルドライバ部122から受領したタッチパネルイベントに基づいて、ディスプレイデバイス155のスクリーン座標系の座標を示す所定のポインティングデバイスイベント(以下、マウスイベントとして参照する)を生成する。すなわち、オペレーティングシステム123は、イベント生成部として機能する。オペレーティングシステム123は、マウスイベントを生成すると、同じく受領したON/OFFイベントとともにイベント振り分け部130に送る。
【0033】
映像処理部124は、PC300からVGA
I/F128を介して伝送されたVGA信号に基づいて、PC300のスクリーン画面302を表示するためのレイヤーを生成し、スクリーン画面104に表示されるデスクトップ(描画キャンパス)のレイヤーの上に重畳する。その結果、デスクトップ内の所定の位置にPC300のスクリーン画面302がはめ込み表示される。
【0034】
手書き描画部125は、描画アプリケーションとして参照される機能部であり、後述するイベント振り分け部130から転送されるマウスイベントに基づいて、手書き線などのグラフィックスを生成し、映像処理部124に渡す。映像処理部124は、受領したグラフィックスを表示するためのレイヤーを生成し、その他のレイヤー(デスクトップを表示するレイヤーまたはPC300のスクリーン画面302を表示するレイヤー)に対して上位に重畳する。
【0035】
GUI制御部126は、GUIプログラムとして参照される機能部であり、デスクトップ上にGUI制御部品を表示し、当該GUI制御部品を介してユーザの操作を受け付ける。GUI制御部126は、後述するイベント振り分け部130から転送されるマウスイベントを待機し、所定のGUI制御部品を選択するマウスイベントが発生したことに応答して、当該GUI制御部品に関連付けられた所定の操作を受け付ける。
【0036】
イベント振り分け部130は、外部入力画像管理部132、ON/OFF判断部134、座標取得部136および座標変換部138を含む。
【0037】
外部入力画像管理部132は、PC300から伝送されたPC300のスクリーン画面302がはめ込み表示される領域の座標(ディスプレイデバイス155のスクリーン座標系の座標情報)を管理する。外部入力画像管理部132は、スクリーン画面302がはめ込み表示される領域が固定される場合、すなわち、はめ込み表示される領域の座標が固定値である場合にはその値を保持し、はめ込み表示する領域が可変的に設定される場合は、その設定元(例えば、映像処理部124)に当該領域の座標情報を問い合わせて取得する。
【0038】
ON/OFF判断部134は、オペレーティングシステム123から受領したON/OFFイベントを参照し、ペンデバイス200の押しボタン202が押下されているか否か(すなわち、スイッチのON/OFF)を判断する。一方、座標取得部136は、オペレーティングシステム123から受領したマウスイベントに含まれる座標情報(マウスイベントの発生座標)を取得する。
【0039】
イベント振り分け部130は、オペレーティングシステム123から受領したマウスイベントおよびスイッチのON/OFFイベントならびにPC300のスクリーン画面をはめ込み表示する領域の座標情報に基づいて、手書き描画部125、GUI制御部126およびPC300(外部接続PC)のいずれか1つを当該マウスイベントの転送先として決定する。PC300がマウスイベントの転送先として決定した場合、イベント振り分け部130は、当該マウスイベントをUSB I/F129を介してPC300に転送する。
【0040】
以上、本実施形態の画像表示制御装置120のコントローラ部121を構成する各機能部について説明してきたが、次に、図5に示すフローチャート基づいて、イベント振り分け部130が実行する処理を具体的に説明する。なお、以下の説明においては、画像表示装置100を電子黒板100として参照する。
【0041】
画像表示制御装置120が起動されると、イベント振り分け部130は、オペレーティングシステム123が生成するマウスイベントを監視する(ステップ101、No)。オペレーティングシステム123がマウスイベントを生成したことを検出すると(ステップ101、Yes)、当該マウスイベントとこれに紐付けられたON/OFFイベントを受領してステップ102に進む。
【0042】
ステップ102においては、ON/OFF判断部134がON/OFFイベントを参照し、ペンデバイス200のスイッチがONになっているか否かを判断する。ペンデバイス200のスイッチがONになっていないと判断した場合は(ステップ102、No)、ステップ103に進み、イベント振り分け部130は、オペレーティングシステム123から受領したマウスイベントを手書き描画部125に転送した後、マウスイベントの監視ループ(ステップ101)に戻る。
【0043】
手書き描画部は、イベント振り分け部130から受領したマウスイベントに基づいて手書き線などのグラフィックスを生成する。つまり、本実施形態においては、ペンデバイス200のスイッチがOFFになっている間、電子黒板100は、常時、描画モードで動作し、ユーザは、デスクトップ画面の全領域を描画キャンバスとして手書き描画を行うことができる。なお、手書き描画部が生成するグラフィックスは、最上位のレイヤーに表示されるので、ユーザは、図6(a)に示すように、手書き文字等を背景色が表示された画素領域に書き入れることができるのはもちろんのこと、図6(b)に示すように、PC300のスクリーン画面をはめ込み表示する画素領域105(以下、PCスクリーン表示領域105として参照する)の上に手書き文字等を重ね書きすることもできる。
【0044】
一方、ステップ102において、ペンデバイス200のスイッチがONになっていると判断した場合は(ステップ102、Yes)、ステップ104に進む。ステップ104においては、座標取得部136がオペレーティングシステム123から受領したマウスイベントの発生座標を取得する(ステップ104)。
【0045】
続くステップ105において、イベント振り分け部130は、マウスイベントの発生座標がPCスクリーン表示領域105内にあるか否かを判断する。以下、ステップ105の判断処理について図7に示す概念図に基づいて説明する。
【0046】
イベント振り分け部130は、外部入力画像管理部132が保持または取得するはめ込み表示領域の座標情報からPCスクリーン表示領域105のX座標の最大値[xmin]および最小値[xmax]ならびにY座標の最大値[ymin]および最小値[ymax]を取得した上で、座標取得部136が取得したマウスイベントの発生座標(x,y)について、下記不等式(1)および(2)が同時に成立するか否かを判断する。
xmin<x<xmax(あるいは、xmin≦x≦xmax) (1)
ymin<y<ymax(あるいは、ymin≦y≦ymax) (2)
【0047】
その結果、上記不等式(1)および(2)が同時に成立しないと判断した場合は、マウスイベントの発生座標(x,y)がPCスクリーン表示領域105内にないと判断し(ステップ105、No)、ステップ106に進み、検出したマウスイベントをGUI制御部126に転送した後、マウスイベントの監視ループ(ステップ101)に戻る。
【0048】
GUI制御部126は、イベント振り分け部130から受領したマウスイベントが所定のGUI制御部品を選択するものであると判断した場合、選択されたGUI制御部品に関連付けられた所定の操作を受け付ける。例えば、ペンデバイス200が図8(a)に示すGUI制御部品「C」を指定している場合には、GUI制御部126は、タッチされたGUI制御部品「C」が定義するところの所定の処理を実行する。図8(b)は、ペンデバイス200によってGUI制御部品[C]が指定されたことに応答して、PC300のスクリーン画面を消去する操作が実行された場合を例示する。
【0049】
一方、ステップ105において、上記不等式(1)および(2)が同時に成立すると判断した場合は、マウスイベントの発生座標(x,y)がPCスクリーン表示領域105内にあると判断し(ステップ105、Yes)、ステップ107に進む。ステップ107においては、座標変換部138がオペレーティングシステム123から受領したマウスイベントの発生座標を適切な方法でPC300のスクリーン座標系に変換する。以下、座標変換部138が実行する座標変換処理の一例について図9に示す概念図に基づいて説明する。
【0050】
座標変換部138は、下記変換式(3)に基づいて、電子黒板100のスクリーン座標系におけるマウスイベントの発生座標(x,y)をPC300のスクリーン座標系におけるマウスイベント座標(x’,y’)に変換する。
【0051】
【数1】
【0052】
なお、上記式(3)において、[xmin]および[xmax]ならびに[ymin]および[ymax]は、それぞれ、PCスクリーン表示領域105のX座標の最大値および最小値ならびにY座標の最大値および最小値を示し、[x’max]および[y’max]は、それぞれ、PC300のスクリーン座標系のX座標の最大値およびY座標の最大値を示す。
【0053】
ここで、PCスクリーン表示領域105およびマウスイベントの発生座標が図9(a)に示す状態であった場合、電子黒板100のスクリーン座標系におけるマウスイベントの発生座標(300,200)は、図9(b)に示すように、PC300のスクリーン座標系の座標(180,140)に変換される。
【0054】
イベント振り分け部130は、ステップ107で電子黒板100のスクリーン座標系におけるマウスイベントの発生座標をPC300のスクリーン座標系の座標に変換すると、ステップ108に進み、発生座標を変換したマウスイベントをPC300に転送した後、マウスイベントの監視ループ(ステップ101)に戻る。
【0055】
PC300は、電子黒板100から受領したマウスイベントの(変換後の)発生座標に基づいて、所定のGUI制御部品が選択されたか否かを判断する。例えば、図10(a)に示すように、ペンデバイス200がPCスクリーン表示領域105に表示された「次のページに進む」という意味のボタン「→」をタッチすると、これに応答して発生したマウスイベントの座標がPC300のスクリーン座標系の座標(すなわち、PC300のスクリーン画面302に表示されたボタン「→」に対応する座標)に変換された後、当該マウスイベントがPC300に転送される。その結果、PC300は、図10(b)に示すように、PC300のスクリーン画面302を次のページの表示に切り替えるとともに、表示内容の変更を反映したVGA信号を電子黒板100に伝送する。その結果、PCスクリーン表示領域105の表示がPC300のスクリーン画面302に同期して切り替わる。
【0056】
以上、本実施形態の電子黒板100について、1台のユーザPCからスクリーン画面を取り込んだ例に基づいて説明してきたが、本実施形態の電子黒板100は、複数台のユーザPCからスクリーン画面を取り込むこともできる。図11は、PC300a(PC1)のスクリーン画面302aとPC300b(PC2)のスクリーン画面302bが電子黒板100のスクリーン画面104に同時にはめ込み表示する実施形態を示す。以下、2台のPCを電子黒板100に接続する場合において、イベント振り分け部130が実行する処理を図12に示すフローチャート基づいて説明する。
【0057】
図12において、ステップ101〜ステップ104は、図5において説明した内容と同様の処理を行う。
【0058】
ステップ104に続くステップ105においては、マウスイベントの発生座標がPC300a(PC1)のPCスクリーン表示領域105a内にあるか否かを判断し、マウスイベントの発生座標(x,y)がPCスクリーン表示領域105a内にあると判断した場合(ステップ105、Yes)、ステップ107に進み、検出したマウスイベントの発生座標をPC300aのスクリーン座標系に変換し、続くステップ108で、発生座標を変換したマウスイベントをPC300aに転送した後、マウスイベントの監視ループ(ステップ101)に戻る。
【0059】
一方、ステップ105において、マウスイベントの発生座標がPC300a(PC1)のPCスクリーン表示領域105a内にないと判断した場合(ステップ105、No)、ステップ109に進み、マウスイベントの発生座標がPC300b(PC2)のPCスクリーン表示領域105b内にあるか否かを判断する。
【0060】
ステップ109において、マウスイベントの発生座標(x,y)がPCスクリーン表示領域105b内にないと判断した場合は(ステップ109、No)、ステップ106に進み、検出したマウスイベントをGUI制御部126に転送した後、はマウスイベントの監視ループ(ステップ101)に戻る。一方、マウスイベントの発生座標(x,y)がPCスクリーン表示領域105b内にあると判断した場合(ステップ109、Yes)、ステップ110に進み、検出したマウスイベントの発生座標をPC300bのスクリーン座標系に変換し、続くステップ111で、発生座標を変換したマウスイベントをPC300bに転送した後、マウスイベントの監視ループ(ステップ101)に戻る。
【0061】
ここで、ステップ105およびステップ109の判断処理について、図13に示す概念図に基づいて例示的に説明する。
【0062】
イベント振り分け部130は、外部入力画像管理部132が保持または取得するはめ込み表示領域の座標情報からPC1のPCスクリーン表示領域105aのX座標の最大値[x1min]・最小値[x1max]ならびにY座標の最大値[y1min]・最小値[y1max]を取得するとともに、PC2のPCスクリーン表示領域105bのX座標の最大値[x2min]・最小値[x2max]ならびにY座標の最大値[y2min]・最小値[y2max]を取得する。その上で、ステップ105においては、マウスイベントの発生座標(x,y)について、下記不等式(4)および(5)が同時に成立するか否かを判断する。
x1min<x<x1max(あるいは、x1min≦x≦x1max) (4)
y1min<y<y1max(あるいは、y1min≦y≦y1max) (5)
【0063】
その結果、上記不等式(4)および(5)が同時に成立する場合には、マウスイベントの発生座標(x,y)がPCスクリーン表示領域105a内にあると判断し(ステップ105,Yes)、それ以外の場合は、マウスイベントの発生座標(x,y)がPCスクリーン表示領域105a内にないと判断する(ステップ105,No)。
【0064】
一方、ステップ109においては、マウスイベントの発生座標(x,y)について、下記不等式(6)および(7)が同時に成立するか否かを判断する。
x2min<x<x2max(あるいは、x2min≦x≦x2max) (6)
y2min<y<y2max(あるいは、y2min≦y≦y2max) (7)
【0065】
その結果、上記不等式(6)および(7)が同時に成立する場合には、マウスイベントの発生座標(x,y)がPCスクリーン表示領域105b内にあると判断し(ステップ109,Yes)、それ以外の場合は、マウスイベントの発生座標(x,y)がPCスクリーン表示領域105b内にないと判断する(ステップ109,No)。
【0066】
例えば、図14(a)に示すように、ペンデバイス200がPC300b(PC2)のPCスクリーン表示領域105bに表示された「円グラフ」をタッチすると、これに応答して発生したマウスイベントの座標がPC300bのスクリーン座標系の座標(すなわち、PC300bのスクリーン画面302bに表示された「円グラフ」に対応する座標)に変換された後、当該マウスイベントがPC300bに転送される。その結果、PC300bは、図14(b)に示すように、PC300bのスクリーン画面302bに別ウィンドウ303をポップアップ表示させるとともに、表示内容の変更を反映したVGA信号を電子黒板100に転送する。その結果、PCスクリーン表示領域105bの表示がPC300bのスクリーン画面302bの表示切り替えに同期して切り替わる。
【0067】
以上、説明したように、本発明によれば、ユーザは、手書き描画、電子黒板の操作および外部接続されたPCの操作という3つの操作を手元のごくわずかな動き(ペンデバイスのボタンのON/OFF)のみで切り替えることができるので、手書きと操作の両方を頻繁に交えて行うようなケースであっても、高いユーザビリティを維持することが可能になる。
【0068】
上述した実施形態の各機能は、C、C++、C#、Java(登録商標)などのオブジェクト指向プログラミング言語などで記述された装置実行可能なプログラムにより実現でき、本実施形態のプログラムは、ハードディスク装置、CD−ROM、MO、DVD、フレキシブルディスク、EEPROM、EPROMなどの装置可読な記録媒体に格納して頒布することができ、また他装置が可能な形式でネットワークを介して伝送することができる。
【0069】
以上、本発明について実施形態をもって説明してきたが、本発明は上述した実施形態に限定されるものではなく、当業者が推考しうる実施態様の範囲内において、本発明の作用・効果を奏する限り、本発明の範囲に含まれるものである。
【符号の説明】
【0070】
100…画像表示装置(電子黒板)
102…ディスプレイ装置
104…スクリーン画面
105…PCスクリーン表示領域
106…GUI制御部品
110…信号受信部
120…画像表示制御装置
121…コントローラ部
122…タッチパネルドライバ部
123…オペレーティングシステム
124…映像処理部
125…手書き描画部
126…GUI制御部
128…VGA I/F
129…USB I/F
130…イベント振り分け部
132…外部入力画像管理部
134…ON/OFF判断部
136…座標取得部
138…座標変換部
150…プロセッサ
151…ROM
152…RAM
153…ハードディスク装置
154…グラフィックスボード
155…ディスプレイデバイス
156…座標検出装置(タッチパネル)
157…無線通信インタフェース
158…外部機器接続インタフェース
200…画面指示デバイス(ペンデバイス)
202…押しボタン
204…信号生成部
208…信号送信部
300…パーソナル・コンピュータ
302…PCのスクリーン画面
303…ポップアップウィンドウ
304…VGAケーブル
【先行技術文献】
【特許文献】
【0071】
【特許文献1】特開2006−331263号公報
【特許請求の範囲】
【請求項1】
ディスプレイデバイスの上にポインティングデバイスが配置されたディスプレイ装置を制御する画像表示制御装置であって、
ON/OFFスイッチを備える画面指示デバイスが前記ポインティングデバイスに接触または接近することに応答してポインティングデバイスイベントを生成するとともに、前記画面指示デバイスから受信したON/OFF信号に基づいてON/OFFイベントを生成するイベント生成部と、
前記ポインティングデバイスイベントに基づいてグラフィックスを生成する手書き描画部と、
前記ディスプレイデバイスに背景画像を表示し、外部に接続された情報処理装置のスクリーン画面を取り込んで前記背景画像内の所定のはめ込み領域に表示し、前記背景画像または前記所定のはめ込み領域の上に前記手書き描画部が生成した前記グラフィックスを重畳表示する映像処理部と、
前記背景画像または前記所定のはめ込み領域にGUIを表示し、前記ポインティングデバイスイベントに基づいて所定の操作を受け付けるGUI制御部と、
前記イベント生成部から前記ポインティングデバイスイベントおよび前記ON/OFFイベントを受領し、該ポインティングデバイスイベントを前記手書き描画部、前記GUI制御部、および前記情報処理装置のいずれかに転送するイベント振り分け部とを含む
画像表示制御装置。
【請求項2】
前記イベント振り分け部は、
前記ON/OFFイベントに基づいて、前記画面指示デバイスの前記スイッチのON/OFFを判断し、
前記スイッチがOFFの場合に、前記ポインティングデバイスイベントを前記手書き描画部に転送し、
前記スイッチがONであって、且つ、前記ポインティングデバイスイベントの発生座標が前記はめ込み領域内にない場合に、該ポインティングデバイスイベントを前記GUI制御部に転送し、
前記スイッチがONであって、且つ、前記ポインティングデバイスイベントの発生座標が前記はめ込み領域内にある場合に、該ポインティングデバイスイベントの座標を前記情報処理装置のスクリーン座標系に変換して、該情報処理装置に転送する、
請求項1に記載の画像表示制御装置。
【請求項3】
前記映像処理部は、複数の前記情報処理装置のスクリーン画面を取り込んで前記背景画像内の所定のはめ込み領域に表示する、請求項1または2に記載の画像表示制御装置。
【請求項4】
前記ON/OFFスイッチは、ボタンスイッチである、請求項1〜3のいずれか一項に記載の画像表示制御装置。
【請求項5】
コンピュータに対して、ディスプレイデバイスの上にポインティングデバイスが配置されたディスプレイ装置を制御させるコンピュータ実行可能な方法であって、該コンピュータに対し、
ON/OFFスイッチを備える画面指示デバイスが前記ポインティングデバイスに接触または接近することに応答してポインティングデバイスイベントを生成するとともに、前記画面指示デバイスから受信したON/OFF信号に基づいてON/OFFイベントを生成するイベント生成手段と、
前記ポインティングデバイスイベントに基づいてグラフィックスを生成する手書き描画部手段と、
前記ディスプレイデバイスに背景画像を表示し、外部に接続された情報処理装置のスクリーン画面を取り込んで前記背景画像内の所定のはめ込み領域に表示し、前記背景画像または前記所定のはめ込み領域の上に前記手書き描画部が生成した前記グラフィックスを重畳表示する映像処理手段と、
前記背景画像または前記所定のはめ込み領域にGUIを表示し、前記ポインティングデバイスイベントに基づいて該記GUIを介した所定の操作を受け付けるGUI制御手段と、
生成された前記ポインティングデバイスイベントおよび前記ON/OFFイベントを受領し、該ポインティングデバイスイベントを前記手書き描画部、前記GUI制御部、および前記情報処理装置のいずれかに転送するイベント振り分け手段
を実現する方法。
【請求項6】
前記イベント振り分け手段は、
前記ON/OFFイベントに基づいて、前記画面指示デバイスの前記スイッチのON/OFFを判断し、
前記スイッチがOFFの場合に、前記ポインティングデバイスイベントを前記手書き描画手段に転送し、
前記スイッチがONであって、且つ、前記ポインティングデバイスイベントの発生座標が前記はめ込み領域内にない場合に、該ポインティングデバイスイベントを前記GUI制御手段に転送し、
前記スイッチがONであって、且つ、前記ポインティングデバイスイベントの発生座標が前記はめ込み領域内にある場合に、該ポインティングデバイスイベントの座標を前記情報処理装置のスクリーン座標系に変換して、該情報処理装置に転送する、
請求項5に記載の方法。
【請求項7】
前記映像処理手段は、複数の前記情報処理装置のスクリーン画面を取り込んで前記背景画像内の所定のはめ込み領域に表示する、請求項5または6に記載の方法。
【請求項8】
コンピュータに請求項5〜7のいずれか一項に記載の方法を実行させるためのコンピュータ実行可能なプログラム。
【請求項1】
ディスプレイデバイスの上にポインティングデバイスが配置されたディスプレイ装置を制御する画像表示制御装置であって、
ON/OFFスイッチを備える画面指示デバイスが前記ポインティングデバイスに接触または接近することに応答してポインティングデバイスイベントを生成するとともに、前記画面指示デバイスから受信したON/OFF信号に基づいてON/OFFイベントを生成するイベント生成部と、
前記ポインティングデバイスイベントに基づいてグラフィックスを生成する手書き描画部と、
前記ディスプレイデバイスに背景画像を表示し、外部に接続された情報処理装置のスクリーン画面を取り込んで前記背景画像内の所定のはめ込み領域に表示し、前記背景画像または前記所定のはめ込み領域の上に前記手書き描画部が生成した前記グラフィックスを重畳表示する映像処理部と、
前記背景画像または前記所定のはめ込み領域にGUIを表示し、前記ポインティングデバイスイベントに基づいて所定の操作を受け付けるGUI制御部と、
前記イベント生成部から前記ポインティングデバイスイベントおよび前記ON/OFFイベントを受領し、該ポインティングデバイスイベントを前記手書き描画部、前記GUI制御部、および前記情報処理装置のいずれかに転送するイベント振り分け部とを含む
画像表示制御装置。
【請求項2】
前記イベント振り分け部は、
前記ON/OFFイベントに基づいて、前記画面指示デバイスの前記スイッチのON/OFFを判断し、
前記スイッチがOFFの場合に、前記ポインティングデバイスイベントを前記手書き描画部に転送し、
前記スイッチがONであって、且つ、前記ポインティングデバイスイベントの発生座標が前記はめ込み領域内にない場合に、該ポインティングデバイスイベントを前記GUI制御部に転送し、
前記スイッチがONであって、且つ、前記ポインティングデバイスイベントの発生座標が前記はめ込み領域内にある場合に、該ポインティングデバイスイベントの座標を前記情報処理装置のスクリーン座標系に変換して、該情報処理装置に転送する、
請求項1に記載の画像表示制御装置。
【請求項3】
前記映像処理部は、複数の前記情報処理装置のスクリーン画面を取り込んで前記背景画像内の所定のはめ込み領域に表示する、請求項1または2に記載の画像表示制御装置。
【請求項4】
前記ON/OFFスイッチは、ボタンスイッチである、請求項1〜3のいずれか一項に記載の画像表示制御装置。
【請求項5】
コンピュータに対して、ディスプレイデバイスの上にポインティングデバイスが配置されたディスプレイ装置を制御させるコンピュータ実行可能な方法であって、該コンピュータに対し、
ON/OFFスイッチを備える画面指示デバイスが前記ポインティングデバイスに接触または接近することに応答してポインティングデバイスイベントを生成するとともに、前記画面指示デバイスから受信したON/OFF信号に基づいてON/OFFイベントを生成するイベント生成手段と、
前記ポインティングデバイスイベントに基づいてグラフィックスを生成する手書き描画部手段と、
前記ディスプレイデバイスに背景画像を表示し、外部に接続された情報処理装置のスクリーン画面を取り込んで前記背景画像内の所定のはめ込み領域に表示し、前記背景画像または前記所定のはめ込み領域の上に前記手書き描画部が生成した前記グラフィックスを重畳表示する映像処理手段と、
前記背景画像または前記所定のはめ込み領域にGUIを表示し、前記ポインティングデバイスイベントに基づいて該記GUIを介した所定の操作を受け付けるGUI制御手段と、
生成された前記ポインティングデバイスイベントおよび前記ON/OFFイベントを受領し、該ポインティングデバイスイベントを前記手書き描画部、前記GUI制御部、および前記情報処理装置のいずれかに転送するイベント振り分け手段
を実現する方法。
【請求項6】
前記イベント振り分け手段は、
前記ON/OFFイベントに基づいて、前記画面指示デバイスの前記スイッチのON/OFFを判断し、
前記スイッチがOFFの場合に、前記ポインティングデバイスイベントを前記手書き描画手段に転送し、
前記スイッチがONであって、且つ、前記ポインティングデバイスイベントの発生座標が前記はめ込み領域内にない場合に、該ポインティングデバイスイベントを前記GUI制御手段に転送し、
前記スイッチがONであって、且つ、前記ポインティングデバイスイベントの発生座標が前記はめ込み領域内にある場合に、該ポインティングデバイスイベントの座標を前記情報処理装置のスクリーン座標系に変換して、該情報処理装置に転送する、
請求項5に記載の方法。
【請求項7】
前記映像処理手段は、複数の前記情報処理装置のスクリーン画面を取り込んで前記背景画像内の所定のはめ込み領域に表示する、請求項5または6に記載の方法。
【請求項8】
コンピュータに請求項5〜7のいずれか一項に記載の方法を実行させるためのコンピュータ実行可能なプログラム。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【公開番号】特開2013−114593(P2013−114593A)
【公開日】平成25年6月10日(2013.6.10)
【国際特許分類】
【出願番号】特願2011−262514(P2011−262514)
【出願日】平成23年11月30日(2011.11.30)
【出願人】(000006747)株式会社リコー (37,907)
【Fターム(参考)】
【公開日】平成25年6月10日(2013.6.10)
【国際特許分類】
【出願日】平成23年11月30日(2011.11.30)
【出願人】(000006747)株式会社リコー (37,907)
【Fターム(参考)】
[ Back to top ]