画像表示装置、方法、プログラムおよび記録媒体
【課題】閲覧すべき画像をユーザが指定する画像相互の類似度によって選択的に表示可能な画像表示装置、方法、プログラムおよび記録媒体を提供すること。
【解決手段】本発明の画像表示装置は、表示画面に表示すべき映像フレームと描画画像の構成情報とが関連付けて登録されるデータベースを参照して、映像フレーム提供装置から受信した映像フレームと同一の映像フレームに関連付けられた描画画像の構成情報を使用して構成される描画画像を表示装置に表示すると共に、表示装置に表示された表示画像をその類似度に応じて事後的に表示装置に表示する。具体的には、画像表示装置は、表示画像相互の類似度が登録されたデータテーブルを参照して、ユーザが指定した類似度に応じて表示画像を分類し、分類された表示画像を表示する。
【解決手段】本発明の画像表示装置は、表示画面に表示すべき映像フレームと描画画像の構成情報とが関連付けて登録されるデータベースを参照して、映像フレーム提供装置から受信した映像フレームと同一の映像フレームに関連付けられた描画画像の構成情報を使用して構成される描画画像を表示装置に表示すると共に、表示装置に表示された表示画像をその類似度に応じて事後的に表示装置に表示する。具体的には、画像表示装置は、表示画像相互の類似度が登録されたデータテーブルを参照して、ユーザが指定した類似度に応じて表示画像を分類し、分類された表示画像を表示する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、任意の画像を表示画面に表示させる画像表示装置に関し、より詳細には、ユーザが描画した画像を表示画面に表示させる画像表示装置、方法、プログラムおよび記録媒体に関する。
【背景技術】
【0002】
従来、企業や教育機関、行政機関等における会議等において、大型ディスプレイに背景画像を表示させ、その上にユーザが文字や数字、図形等の描画画像を書き込み可能な電子黒板が利用されている。
【0003】
このような電子黒板として、現在、スマートテクノロジーズ社のSmartBoard、日立ソフトウェアエンジニアリング社のStarBoard(登録商標)およびパイオニア社のサイバーカンファレンス(登録商標)等が提供されている。ユーザは、これらの電子黒板上で様々な画像を表示させて、文字や図形等を重畳して書き込むことができる。
【0004】
また、表示された画像をユーザが事後的に閲覧可能な電子黒板も提案されている。例えば、特許文献1は、ユーザが描画した描画画像が縦書きであるか、横書きであるか、またはそれ以外のタイプであるか判断し、そのタイプ毎に代表的な画面を生成して表示する装置を開示する。
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、特許文献1が開示する装置は、描画画像の書字方向によってタイプを判別して代表的な描画画像を表示するだけであり、ユーザが指定した画像相互の類似度によって閲覧すべき画像を選択的に表示することができない。
【0006】
本発明は上記の課題を解決するものであり、閲覧すべき画像をユーザが指定する画像相互の類似度によって選択的に表示可能な画像表示装置、方法、プログラムおよび記録媒体を提供することを目的とする。
【課題を解決するための手段】
【0007】
本発明の画像表示装置は、表示画面に表示すべき映像フレームと描画画像の構成情報とが関連付けて登録されるデータベースを参照して、映像フレーム提供装置から受信した映像フレームと同一の映像フレームに関連付けられた描画画像の構成情報を使用して構成される描画画像を表示装置に表示すると共に、表示装置に表示された表示画像をその類似度に応じて事後的に表示装置に表示する。具体的には、画像表示装置は、表示画像相互の類似度が登録されたデータテーブルを参照して、ユーザが指定した類似度に応じて表示画像を分類し、分類された表示画像を含むユーザインタフェース画面を表示する。これにより、既に画像表示装置に表示された表示画像を、ユーザが指定した類似度に応じて分類して表示することができる。
【0008】
本発明によれば、閲覧すべき画像をユーザが指定した画像相互の類似度によって選択的に表示可能な方法、プログラムおよび記録媒体を提供することができる。
【図面の簡単な説明】
【0009】
【図1】本実施形態の画像表示システムを示した図。
【図2】本実施形態の画像表示装置の機能構成を示す図。
【図3】本実施形態の画像表示装置が実行する処理を示すフローチャート。
【図4】本実施形態の画像表示装置の使用状態を示す図。
【図5】本実施形態の画像表示装置が使用するスナップショット履歴情報テーブルを示す図。
【図6】本実施形態の画像表示装置が有するアプリケーションの機能構成を示す図。
【図7】本実施形態の画像表示装置が有するアプリケーションが実行する処理を示すフローチャート。
【図8】本実施形態の画像表示装置が有するアプリケーションが実行するスナップショット表示変更処理を示すフローチャート。
【図9】本実施形態のアプリケーションが使用する類似度テーブルを示す図。
【図10】本実施形態の画像表示装置が有するアプリケーションが実行するスナップショットのクラスタリング処理を示すフローチャート。
【図11】本実施形態のアプリケーションが画像表示装置に表示するUI画面の一実施形態を示す図。
【図12】本実施形態のアプリケーションが画像表示装置に表示するUI画面の他の実施形態を示す図。
【図13】図12に示すUI画面を生成するアプリケーションが実行するクラスタリング処理の他の実施形態を示すフローチャート。
【図14】本実施形態のアプリケーションが画像表示装置に表示するUI画面のさらに他の実施形態を示す図。
【発明を実施するための形態】
【0010】
以下、本発明について実施形態をもって説明するが、本発明は、後述する実施形態に限定されるものではない。
【0011】
図1は、本実施形態の画像表示システム100を示す。画像表示システム100は、画像表示装置110と、ユーザPC120とを含む。
【0012】
画像表示装置110は、ユーザPC120から受信した背景画像である映像フレームを表示すると共に、ユーザが描画した文字や記号、図形等を含む描画画像を表示させる装置である。画像表示装置110は、表示部112と、操作ボタン114,116と、映像フレーム入力部118とを含んで構成される。
【0013】
表示部112は、背景画像および描画画像を表示する機能手段である。また、表示部112は、その表面にタッチパネルが設置されており、タッチパネルを構成する接触位置センサによりユーザの接触位置を検出することができる。
【0014】
操作ボタン114,116は、画像表示装置110の動作モードの切り替えを指示する機能手段である。なお、画像表示装置110の動作モードの切り替えについては、より詳細に後述する。
【0015】
映像フレーム入力部118は、ユーザPC120から表示部112に表示される背景画像である映像フレームを受信する機能手段である。本実施形態では、映像フレーム入力部としてVGA(Video Graphics Array)端子により構成されるVGA入力コネクタを採用することができ、ユーザPC120からVGAケーブル等のケーブル122を介してVGA信号を受信し、画像表示装置110に含まれるコントローラ(図示せず)にVGA信号を供給する。他の実施形態では、映像フレーム入力部118は、BluetoothやWiFi等の無線通信プロトコルに準拠した無線通信により、ユーザPC120から画像データを受信してもよい。
【0016】
画像表示装置110は、PENTIUM(登録商標)プロセッサまたは互換プロセッサなどのプロセッサを搭載し、WINDOWS(登録商標)シリーズ、UNIX(登録商標)、LINUX(登録商標)、ITRON、μITRONなどのOSの管理下で、アセンブラ、C、C++、Java(登録商標)、JavaScript(登録商標)、PERL、RUBY、PYTHONなどのプログラム言語で記述された本発明のプログラムを実行する。また、画像表示装置110は、本発明のプログラムを実行するための実行空間を提供するRAM、プログラムやデータなどを持続的に保持するためのハードディスク装置(HDD)などを含んでおり、本発明のプログラムを実行することにより、本実施形態の各機能手段を画像表示装置上に実現する。
【0017】
本発明のプログラムは、HDD、CD−ROM、MO、フレキシブルディスク、EEPROM、EPROMなどの装置可読な記録媒体に格納して頒布することができ、また他装置が可能な形式でネットワークを介して伝送することができる。
【0018】
ユーザPC120は、画像表示装置110に背景画像である映像フレームを提供する映像フレーム提供装置である。図1に示す実施形態では、ユーザPCとしてノート型PCを採用するが、他の実施形態では、デスクトップ型のパーソナルコンピュータやPDA等の画像データを供給可能な情報処置装置を採用することができる。ユーザPC120は、背景画像を出力するインタフェースを備えており、その表示画面に表示されている表示画像を画像表示装置110に供給する。本実施形態では、ユーザPC120は、インタフェースとしてVGA出力コネクタを備えており、表示画像をVGA信号として画像表示装置110に供給することができる。他の実施形態では、ユーザPC120は、各種無線通信プロトコルに準拠した無線通信により、表示画像を送信してもよい。
【0019】
図2は、本実施形態の画像表示装置200の機能構成を示す図である。以下、図2を参照して、画像表示装置200の機能構成について説明する。
【0020】
画像表示装置200は、コントローラ202と、表示部250と、タッチパネル260とを含んで構成される。コントローラ202は、ユーザPC270から受信した背景画像と、タッチパネル260を介して入力された描画画像とを処理する機能手段である。コントローラ202は、映像フレーム分配部210と、表示出力制御部212と、表示制御部214とを含んで構成される。
【0021】
映像フレーム分配部210は、ユーザPC270から受信した表示部250に表示すべき映像フレームを取得し、表示出力制御部212または映像フレーム取得部216に分配する機能手段である。本実施形態では、映像フレーム分配部210は、操作ボタンにより指定可能な動作モードに応じて、VGA信号等のアナログ信号で構成された映像フレームを分配する。具体的には、画像表示装置200の動作モードが、第1の状態である映像フレーム表示モードの場合には、映像フレーム分配部210は、映像フレームを表示出力制御部212に提供する。一方、第2の状態である描画画像表示モードが指定されている場合には、映像フレーム分配部210は、映像フレームを映像フレーム取得部216に提供する。
【0022】
表示出力制御部212は、モード切替制御部238の要求に応じて、表示制御部214に対して映像フレームを選択的に出力する機能手段である。本実施形態では、表示出力制御部212は、2入力1出力のトグル動作スイッチ回路によって構成することができる。表示出力制御部212は、第1の状態である映像フレーム表示モードの場合には、映像フレーム分配部210から受信した映像フレームを表示制御部214に提供し、第2の状態である描画画像表示モードが指定されている場合には、表示画像生成部236から受信した映像フレームを表示制御部214に提供する。
【0023】
表示制御部214は、表示出力制御部212から受信した映像フレームやアプリケーション240が生成するユーザインタフェース(以下、「UI」とする。)を表示部250に表示させる機能手段である。表示制御部214は、表示出力制御部212から受信した映像フレームやUIを構成するアナログ信号を表示部250に送付して映像フレームを表示させる。
【0024】
また、コントローラ202は、映像フレーム取得部216と、スナップショット情報格納部218と、動的表示制御部220とを含んで構成される。
【0025】
映像フレーム取得部216は、第2の状態である描画画像表示モードが指定されている場合に、映像フレーム分配部210から取得した映像フレームをスナップショット情報格納部218に順次格納する機能手段である。映像フレーム取得部216は、VGA信号等のアナログ信号で構成された映像フレームをデジタルの映像フレームにA/D変換して、スナップショット情報格納部218に格納する。また、映像フレーム取得部216は、他の機能手段の要求に応じて、スナップショット情報格納部218から映像フレームを取得して提供する。
【0026】
スナップショット情報格納部218は、映像フレームおよび描画画像のスナップショット情報である最新の映像フレームおよび最新の描画画像を構成する情報(以下、描画画像構成情報として参照する。)が格納される記憶手段である。スナップショット情報格納部218には、ユーザPC270から受信した表示部250に表示すべき最新の映像フレームが順次保存される。また、スナップショット情報格納部218には、後述する描画処理部により、タッチパネルを使用してユーザが描画した最新の描画画像構成情報が格納される。
【0027】
動的表示制御部220は、第2の状態である描画画像表示モードが指定されている場合に、表示部250に表示されている映像フレームと、ユーザがタッチパネル260を使用して表示部250に描画した描画画像とを関連付ける機能手段である。動的表示制御部220は、映像フレーム管理部222と、映像フレーム判別部226と、映像フレームバッファメモリ224と、スナップショット履歴情報処理部228と、スナップショット履歴情報データベース230とを含んで構成される。
【0028】
映像フレーム管理部222は、ユーザPC270から受信した映像フレームを取得すると共に、動的表示制御部220に含まれる他の機能手段の要求に応じて、取得した映像フレームを提供し、または映像フレームバッファメモリ224に格納する機能手段である。映像フレーム管理部222は、定期的に映像フレーム取得部216にload要求を発行して、スナップショット情報格納部218に格納された最新の映像フレームを取得し、RAMやレジスタ等の記憶装置(図示せず)に一時的に保存する。また、映像フレーム管理部222は、スナップショット情報格納部218から取得した映像フレームを固有に識別する情報である映像フレーム識別情報を生成する。本実施形態では、1/30秒毎に映像フレームを取得するが、他の実施形態では、任意の間隔で映像フレームを取得してもよい。
【0029】
映像フレームバッファメモリ224は、映像フレーム管理部222がスナップショット情報格納部218から取得した映像フレームが格納される記憶手段である。映像フレームバッファメモリ224には、スナップショット情報格納部218から定期的に取得した映像フレームが順次格納される。
【0030】
映像フレーム判別部226は、映像フレーム取得部216から取得した連続する2の映像フレームの同一性を判断する機能手段である。すなわち、映像フレーム判別部226は、ユーザPC270から新しい映像フレームを受信したか否か判断する。
【0031】
本実施形態では、映像フレーム判別部226は、これらの映像フレームに含まれる1以上の特定の領域を参照領域とし、双方の映像フレームに含まれる参照領域を比較する。比較の結果、参照領域が同一であれば、これらの映像フレームが同一であると判断し、参照領域が相違すれば、これらの映像フレームが相違すると判断する。参照領域を比較する場合、映像フレーム判別部226は、双方の映像フレームの参照領域の画素値の合計値を算出し、対応する参照領域の画素値の合計値を比較して、参照領域が同一であるか否か判別することができる。参照領域の画素値の合計値の算出には、参照領域の積分画像を使用することができる。
【0032】
本実施形態では、下記数式1を使用して、映像フレームの同一性を判別することができる。ここで、Rkは、第1の映像フレームの参照領域kの画素値の合計値を示し、Skは、第2の映像フレームの参照領域kの画素値の合計値を示す。また、Nは参照領域の数を示す。
【0033】
【数1】
【0034】
上記数式1の条件を満たす場合には、第1の映像フレームと第2の映像フレームは同一であると判断することができる。
【0035】
また、他の実施形態では、映像フレーム判別部226は、双方の映像フレーム全体の画素値の合計値を算出して、これらの映像フレームが同一であるか否か判断することができる。
【0036】
映像フレーム判別部226は、上述した判別処理の結果、連続する2の映像フレームが相違すると判断した場合、スナップショット履歴情報処理部228に対して、ユーザPC270から新たな映像フレームを受信した旨の通知をする。
【0037】
スナップショット履歴情報処理部228は、ユーザPC270から受信した映像フレームと描画画像とを関連付けて、スナップショット履歴情報データベース230のスナップショット履歴情報テーブルに登録する機能手段である。スナップショット履歴情報処理部228は、映像フレーム判別部226がユーザPC270から新たな映像フレームを受信したと判断した場合、スナップショット情報格納部218から最新の描画画像構成情報を取得し、当該描画画像構成情報と映像フレーム管理部222が取得した映像フレームとを関連付け、スナップショット履歴情報テーブルに保存する。
【0038】
スナップショット履歴情報データベース230は、スナップショット情報の履歴情報であるスナップショット履歴情報を登録するスナップショット履歴情報テーブルが格納される記憶手段である。スナップショット履歴情報データベース230は、スナップショット履歴情報処理部228の要求に応じて、そのスナップショット履歴情報テーブルのデータ内容が変更される。なお、スナップショット履歴情報テーブルについては、図5を参照して登録される情報と共に後述する。
【0039】
さらに、コントローラ202は、タッチパネル制御部232と、描画処理部234と、表示画像生成部236と、モード切替制御部238と、アプリケーション240と、スナップショット格納部242とを含む。
【0040】
タッチパネル制御部232は、タッチパネル260を制御し、描画画像構成情報を取得する機能手段である。タッチパネル制御部232は、第2の状態である描画画像表示モードが指定されている場合に、タッチパネル260を駆動し、その接触位置座標を取得して描画処理部234またはアプリケーション240に提供する。
【0041】
本実施形態では、タッチパネル制御部232として、タッチパネルを制御可能なデバイスドライバを採用することができる。タッチパネル制御部232は、描画画像を構成する線分の太さや色等の描画画像属性情報を指定可能なユーザインタフェースを表示部250に表示可能である。タッチパネル制御部232は、アプリケーション240が起動していない場合、接触位置座標および描画画像属性情報を描画画像構成情報として描画処理部234に提供する。
【0042】
一方、アプリケーション240が起動している場合、タッチパネル制御部232は、接触位置座標をアプリケーション240に送信する。本実施形態では、アプリケーション240の起動時または終了時に、アプリケーション240の起動通知または終了通知をタッチパネル制御部232に送信する。表示画像生成部236は、これらの通知を受信することによってアプリケーション240が起動しているか否か判断することができる。
【0043】
描画処理部234は、第2の状態である描画画像表示モードが指定されている場合に、描画画像構成情報をスナップショット情報格納部218に保存する機能手段である。描画処理部234は、タッチパネル制御部232から描画画像構成情報を受信すると、順次、スナップショット情報格納部218に保存する。これにより、スナップショット情報格納部218には、最新の描画画像構成情報が格納される。
【0044】
表示画像生成部236は、第2の状態である描画画像表示モードが指定されている場合に、表示部250に表示すべき画像(以下、「表示画像」とする。)を生成する機能手段である。表示画像生成部236は、アプリケーション240が起動していない場合、定期的にスナップショット情報格納部218から最新の映像フレームおよび描画画像構成情報を取得し、描画画像構成情報から描画画像を生成し、当該映像フレームと合成して表示画像を生成する。
【0045】
より詳細には、表示画像生成部236は、最新の映像フレームに対し、描画画像構成情報に含まれる各接触位置座標が示す座標位置の画素値を、描画画像属性情報が示す色に応じた画素値に変更することにより描画画像を生成することができる。また、線分の太さが指定されている場合には、接触位置座標が示す座標位置を中心とした所定の範囲を、描画画像属性情報が示す色に応じた画素値に変更して描画画像を生成することができる。当該所定の範囲は、線分の太さに応じて予め設定することができる。
【0046】
本実施形態では、アプリケーション240の起動時または終了時に、アプリケーション240の起動通知または終了通知を表示画像生成部236にも送信する。表示画像生成部236は、これらの通知を受信することによってアプリケーション240が起動しているか否か判断することができる。
【0047】
表示画像生成部236は、表示画像を生成すると、当該表示画像をスナップショットとしてスナップショット格納部242に保存すると共に、当該表示画像をアナログ信号に変換して表示出力制御部212に提供し、当該表示画像が表示部250に表示される。このとき、表示画像生成部236は、当該スナップショットを固有に識別可能な情報であるスナップショット識別情報を、メタデータとしてスナップショットに付加して保存する。本実施形態では、スナップショットの生成時間とスナップショットのデータ保存形式との結合をスナップショット識別情報として使用する。
【0048】
本実施形態では、表示画像生成部236は、映像フレーム管理部222が映像フレームを取得する間隔と同等またはそれよりも短い間隔で表示画像を生成し、表示部250に表示させることが好適である。
【0049】
また、表示画像生成部236は、アプリケーション240が起動している場合、アプリケーション240から受信したUI画面を形成するデジタル信号をアナログ信号に変換して表示画像を生成し、表示出力制御部212に提供する。
【0050】
モード切替制御部238は、画像表示装置200の動作モードの切替制御を行う機能手段である。モード切替制御部238は、ユーザが押下した操作ボタンの種別に応じて、または映像フレーム判別部226の命令に応じて動作モードを切り替える。本実施形態では、操作ボタン「A」が押下された場合には、モード切替制御部238は、画像表示装置200の動作モードを第1の状態である映像フレーム表示モードに切り替え、操作ボタン「B」が押下された場合には、画像表示装置200の動作モードを第2の状態である描画画像表示モードに切り替える。
【0051】
具体的には、第1の状態が指定された場合には、モード切替制御部238は、表示出力制御部212に対して、映像フレームを受信する入力端子に切り替える旨の命令を送付して表示出力制御部212の入力端子を切り替えさせる。また、モード切替制御部238は、描画処理部234に対して、描画処理部234を停止(Disable)する旨の命令を送付して、描画処理部234をDisable状態にする。
【0052】
一方、第2の状態が指定された場合には、モード切替制御部238は、表示出力制御部212に対して、描画画像を含む表示画像を受信する入力端子に切り替える旨の命令を送付して表示出力制御部212の入力端子を切り替えさせる。また、モード切替制御部238は、描画処理部234に対して、描画処理部234を起動(Enable)する旨の命令を送付して、描画処理部234をEnable状態またはDisable状態にする。
【0053】
アプリケーション240は、スナップショットをユーザが指定した類似度によって分類して表示部250に表示するアプリケーションプログラムである。アプリケーション240が有する機能手段については、図6を参照して詳細に説明する。
【0054】
図3は、本実施形態の画像表示装置が、第2の状態である描画画像表示モードが指定されたときに実行する処理を示すフローチャートである。以下、図3を参照して、描画画像表示モードが指定されたときに画像表示装置200が実行する処理について説明する。
【0055】
図3の処理は、ステップS300で開始し、ステップS301では、映像フレーム管理部222が、ユーザPC270から映像フレームを受信したか否か判断する。本実施形態では、映像フレームの受信の有無は、映像フレーム取得部216が映像フレームを取得したときに、映像フレームの取得の有無を示す専用レジスタの値を、映像フレームを取得したことを示す値に変更し、映像フレーム取得部216が当該専用レジスタの値を参照することにより判断できる。また、映像フレーム取得部216は、一定時間映像フレームを取得しない場合には、当該専用レジスタの値を、映像フレームを取得していないことを示す値に変更する。
【0056】
ステップS301で映像フレームが入力されていないと判断した場合には(no)、ステップS301の処理を反復させる。一方、映像フレームが入力されていると判断した場合には(yes)、処理をステップS302に分岐させる。ステップS302では、スナップショット履歴情報処理部228が、スナップショット履歴情報データベース230内のスナップショット履歴情報テーブルと、映像フレームの存否を示す割り込みフラグとを初期化する。本実施形態では、割り込みフラグを、映像フレームが存在することを示す値に設定することで初期化する。本実施形態では、初期値として「true」を使用する。
【0057】
ステップS302の処理が実行されると、次いで、ステップS303の処理およびステップS317の処理が実行される。
【0058】
ステップS317では、映像フレーム管理部222が、ユーザPC270から別の映像フレームを受信したか否か判断し、別の映像フレームを受信した場合には(yes)、ステップS317の処理を反復させる。一方、別の映像フレームを受信していない場合には(no)、処理をステップS318に分岐させ、割り込みフラグを、映像フレームを受信していないことを示す値に設定し、ステップS319で処理が終了する。本実施形態では、映像フレームを受信していないことを示す値として「False」を使用する。
【0059】
ステップS303では、映像フレーム管理部222は、映像フレームバッファメモリ224と、当該映像フレームバッファメモリ224に格納される映像フレームの映像フレーム識別情報が代入される映像フレーム格納変数とを初期化する。ステップS304では、映像フレーム管理部222は、割り込みフラグが初期値「true」であるか否か、すなわち、映像フレームを受信しているか否か判断する。割り込みフラグが初期値「true」でない場合には(no)、処理をステップS308に分岐させる。ステップS308では、スナップショット履歴情報処理部228が、スナップショット履歴情報データベース230内のスナップショット履歴情報テーブルの内容を、ログやジャーナル等として不揮発性の記憶装置に保存し、ステップS319で処理が終了する。
【0060】
一方、割り込みフラグが初期値「true」である場合には(yes)、処理をステップS305に分岐させ、ステップS305では、映像フレーム管理部222は、所定時間が経過したか否か判断する。所定時間が経過していない場合には(no)、ステップS305の処理を反復させる。一方、所定時間が経過した場合には(yes)、処理をステップS306に分岐させる。
【0061】
本実施形態では、ハードウェアタイマまたはソフトウェアタイマーを用いて時間を計測することができる。例えば、ステップS304で割り込みフラグが初期値「true」であると判断したときにタイマーに時間計測を開始させ、ステップS305においてタイマーの計測時間を取得することにより、所定時間(例えば、1/30秒等)が経過したか否か判断することができる。
【0062】
ステップS306では、映像フレーム管理部222は、映像フレーム取得部216を介してスナップショット情報格納部218から最新の映像フレームを取得し、その映像フレーム識別情報を映像フレーム格納変数に代入する。ステップS307では、映像フレーム判別部226が、映像フレームバッファメモリ224に既に格納されている映像フレームのうち最後に格納された映像フレーム(以下、直前の映像フレームとして参照する。)と、ステップS306で映像フレーム格納変数に格納された映像フレーム識別情報が示す映像フレームとが同一であるか否か判断する。ステップS307の判定で映像フレームが同一であると判断した場合には(yes)、処理をステップS304に分岐させ、一方、映像フレームが相違すると判断した場合には(no)、処理をステップS309に分岐させる。
【0063】
ステップS309では、映像フレーム判別部226は、映像フレーム管理部222を介して、映像フレーム格納変数が示す映像フレーム識別情報と当該映像フレーム識別情報が示す映像フレームとを映像フレームバッファメモリ224に追加する。ステップS310では、スナップショット履歴情報処理部228が、スナップショット履歴情報データベース230内のスナップショット履歴情報テーブルを参照し、映像フレーム格納変数に代入された映像フレーム識別情報が示す最新の映像フレームと同一の映像フレームが存在するか否か判断する。
【0064】
本実施形態では、スナップショット履歴情報処理部228は、映像フレーム判別部226が実行する映像フレームの同一性の判別方法を採用することができ、スナップショット履歴情報テーブルに登録された映像フレーム識別情報が示す映像フレームを映像フレームバッファメモリ224から順次取得し、当該方法を用いて最新の映像フレームと比較をする。また、他の実施形態では、スナップショット履歴情報処理部228が、映像フレーム判別部226に対して映像フレームの同一性を判別させることもでき、映像フレーム判別部226は、スナップショット履歴情報テーブルに登録された映像フレーム識別情報が示す映像フレームを映像フレームバッファメモリ224から順次取得して、最新の映像フレームと比較をする。
【0065】
ステップS310の判定で映像フレーム格納変数が示す映像フレームと同一の映像フレームが存在しないと判断した場合には(no)、処理をステップS311に分岐させる。ステップS311では、スナップショット履歴情報処理部228は、スナップショット情報格納部218に描画画像構成情報が保存されているか否か判断する。描画画像構成情報が保存されていない場合には(no)、処理をステップS314に分岐させる。一方、描画画像構成情報が保存されている場合には(yes)、処理をステップS312に分岐させる。
【0066】
ステップS312では、スナップショット履歴情報処理部228は、スナップショット情報格納部218から最新の描画画像構成情報を取得し、映像フレーム格納変数が示す映像フレーム識別情報と関連付けてスナップショット履歴情報テーブルに登録する。ステップS313では、スナップショット履歴情報処理部228は、スナップショット情報格納部218に保存されている描画画像構成情報を削除する。
【0067】
ステップS314では、スナップショット履歴情報処理部228は、モード切替制御部238に対して画像表示装置の動作モードを第1の状態に切り替える旨の命令を送信し、モード切替制御部238が動作モードを切り替える。ステップS314の処理が終了すると、ステップS304の処理が実行される。
【0068】
一方、ステップS310の判定で映像フレーム格納変数が示す映像フレームと同一の映像フレームが存在すると判断した場合には(yes)、処理をステップS315に分岐させる。ステップS315では、スナップショット履歴情報処理部228は、スナップショット履歴情報テーブルを参照して、ステップS310で同一と判断した映像フレームに関連付けられた描画画像構成情報を取得し、スナップショット情報格納部218に保存する。これにより、過去に画像表示装置に表示された背景画像が再び表示された場合、その背景画像に関連付けられた描画画像を当該背景画像と共に再度表示することができる。
【0069】
ステップS316では、スナップショット履歴情報処理部228は、モード切替制御部238に対して画像表示装置の動作モードを第2の状態に切り替える旨の命令を送信し、モード切替制御部238が動作モードを切り替える。ステップS316の処理が終了すると、ステップS304の処理が実行される。
【0070】
図4は、本実施形態の画像表示装置の使用状態を示す図である。画像表示装置400の表示部には、PC420に表示された映像フレーム422と同一の映像フレーム410と、ユーザが描いた描画画像412とが重畳して表示されている。本実施形態では、描画画像412の接触位置座標は、画像表示装置420の表示部の左上点を原点とする座標値として与えられる。
【0071】
図5は、本実施形態の画像表示装置が使用するスナップショット履歴情報テーブル500を示す。スナップショット履歴情報テーブル500は、登録時間510と、映像フレーム識別情報512と、描画画像構成情報514とが関連付けて登録される。
【0072】
登録時間510は、スナップショット情報がスナップショット履歴情報データベース230に登録された時間である。図5に示す実施形態では、スナップショット情報が西暦の日付で秒単位まで表されている。他の実施形態では、和暦を用いて登録時間を表してもよく、またミリ秒単位で表してもよい。
【0073】
映像フレーム識別情報512は、画像表示装置が受信した映像フレームを固有に識別可能な情報である。図5に示す実施形態では、映像フレーム識別情報として、数字列および映像フレームの保存形式を示す文字列の結合を使用しているが、他の実施形態では、他の数字列、文字列および/またはこれらの結合を使用してもよい。
【0074】
描画画像構成情報514は、ユーザがタッチパネルを使用して描いた描画画像を構成する情報である。描画画像構成情報は、ユーザがタッチパネルに接触した位置を示す情報を含んでおり、画像表示装置の表示部上の座標値を使用して表すことができる。図5に示す実施形態では、描画画像構成情報として描画画像を表示すべき座標値のみが示されているが、他の実施形態では、座標値に加えて、描画画像の表示色や線分の太さ等の描画画像の属性情報を映像フレーム識別情報と関連付けて登録してもよい。
【0075】
図6は、本実施形態の画像表示装置200が有するアプリケーション240の機能構成を示す図である。以下、図6を参照して、アプリケーション240の機能構成について説明する。
【0076】
アプリケーション240は、表示制御部610と、類似度算出部612と、記憶装置614と、パラメータ取得部616と、クラスタリング部618とを含んで構成される。
【0077】
表示制御部610は、ユーザが既に表示された表示画像であるスナップショットを選択的に表示するUI画面を生成して表示部250に表示させる。表示制御部610は、UI画面を生成する場合、実際にUI画面に表示されるスナップショット群やスナップショットに関する情報(以下、「表示情報」とする。)を、RAMやキャッシュ等の記憶装置の記憶領域(以下、「表示情報保存領域」とする。)に保存する。
【0078】
本実施形態の表示情報保存領域には、(1)UI画面のオブジェクトとして表示されるスナップショット群の識別情報やスナップショットの識別情報、(2)ユーザが選択したスナップショット群の識別情報またはスナップショットの識別情報、(3)UI画面上に表示されるスナップショット群またはスナップショットの配置情報(例えば、左側、中央、右側等の配置情報)、(4)スナップショット群の最前面に表示されるスナップショットの識別情報が保存される。
【0079】
表示制御部610は、ユーザがUI画面上でタッチパネルに接触することによって生成された接触位置座標をタッチパネル制御部232から取得し、当該接触位置座標を用いて、ユーザがUI画面で行った操作内容を判断することができる。表示制御部610は、ユーザの操作内容に応じて、後述する各種処理を実行する。
【0080】
本実施形態では、UI画面は種々のオブジェクトで構成されており、表示制御部610は、各オブジェクトが有する座標領域と接触位置座標とを比較し、当該接触位置座標がオブジェクトの座標領域に含まれるか否か判断することにより、いずれのオブジェクトが選択されたか判断し、選択されたオブジェクトの種類により、ユーザが行った操作内容を判断することができる。なお、表示制御部610が生成するUI画面やそのオブジェクト、これに関連付けられた操作内容については、より詳細に後述する。
【0081】
類似度算出部612は、スナップショット相互の類似度を示す値(以下、「類似度値」とする。)を算出する機能手段である。類似度算出部612は、スナップショット格納部242からスナップショットを取得し、スナップショットの類似度値を算出する。本実施形態では、類似度算出部612は、ユーザが選択した分類条件に応じて、以下の数式2〜数式4を使用して類似度値を算出する。本実施形態では、算出された類似度値が低い程、スナップショット相互の類似度は高く、各スナップショットは類似する。
【0082】
類似度算出部612は、分類条件としてスナップショットの生成時間の近似性によって分類する条件である「時間」が選択されている場合、数式2を使用して類似度値を算出する。
【0083】
【数2】
ここで、taは、第1のスナップショットAの生成時間を示し、taは、第2のスナップショットBの生成時間を示す。本実施形態では、第1のスナップショットAと第2のスナップショットBとの生成時間の差分時間tを類似度値として使用する。
【0084】
類似度算出部612は、分類条件としてスナップショットの類似性によって分類する条件である「背景」が選択されている場合、数式3を使用して類似度値を算出する。
【0085】
【数3】
ここで、dは、比較すべきスナップショット間のカラーヒストグラムのユークリッド距離を示す。R,G,Bは、各色区間の色分布の範囲を示し、A(r,g,b)およびB(r,g,b)は、第1のスナップショットAおよび第2のスナップショットBの色分布の範囲における画素数を示す。本実施形態では、第1のスナップショットAと、第2のスナップショットBとのカラーヒストグラムのユークリッド距離dを類似度値として使用する。
【0086】
類似度算出部612は、分類条件として「時間」および「背景」が選択されている場合、数式4を使用して類似度値を算出する。
【0087】
【数4】
ここで、tは、数式2で導出される差分時間を示し、dは、数式3で導出されるユークリッド距離を示す。μtはtの平均を示し、δtはtの標準偏差を示す。μdはdの平均を示し、δdはdの標準偏差を示す。本実施形態では、スナップショットの差分時間と、ユークリッド距離とを正規化した値の和を類似度値として使用する。
【0088】
本実施形態では、スナップショット格納部242に格納されたスナップショットには、新たに保存された未だ類似度値が算出されていないスナップショットであることを示す情報がメタデータとして付加されており、類似度算出部612は、新たに保存されたスナップショットと、スナップショット格納部242に格納された他のスナップショットとの類似度値を算出する。類似度算出部612は、算出したスナップショットの類似度値を記憶装置614に格納された類似度テーブルに保存する。
【0089】
パラメータ取得部616は、UI画面を用いてユーザが指定したパラメータを取得する機能手段である。表示制御部610は後述するクラスタリング処理で使用されるパラメータを指定するUI画面上のオブジェクトが選択されると、当該パラメータをパラメータ取得部616に提供し、パラメータ取得部616は、当該パラメータを保存すべきRAMやキャッシュ等の記憶装置の記憶領域(以下、「パラメータ保存領域」とする。)一時的に保存する。本実施形態では、パラメータとして、後述するクラスタリング処理の対象となるスナップショットの識別情報、分類条件および類似度値がパラメータ保存領域に保存される。
【0090】
クラスタリング部618は、スナップショット格納部242に保存されているスナップショットをクラスタリングする機能手段である。クラスタリングとは、ユーザが指定した分類条件および類似度値に応じて、スナップショットを分類する処理である。クラスタリング部618は、UI画面に表示されている或るスナップショットを基準とし、記憶装置614に格納された類似度テーブルを参照し、ユーザが指定した分類条件および類似度値を用いてスナップショットをクラスタリングする。
【0091】
クラスタリング部618は、クラスタリングの結果をRAMやキャッシュ等の記憶装置の記憶領域(以下、「クラスタリング結果保存領域」とする。)に保存する。本実施形態では、クラスタリング結果保存領域には、クラスタリング処理結果として生成されたスナップショット群の識別情報と、当該スナップショット群を構成するスナップショットのスナップショット識別情報とが関連付けて保存される。そして、表示制御部610は、クラスタリング結果保存領域を参照し、分類されたスナップショット群毎に、当該スナップショット群を構成するスナップショットのサブネイルを、その生成時間の降順で重畳したUI画面を生成することができる。
【0092】
図7は、本実施形態の画像表示装置200が有するアプリケーション240が実行する処理を示すフローチャートである。以下、図7を参照して、アプリケーション240が実行する処理について説明する。
【0093】
図7の処理は、アプリケーション240が起動することによりステップS700で開始する。ステップS701では、アプリケーション240の類似度算出部612が、スナップショット格納部242に格納されたスナップショットの類似度値を算出し、記憶装置614に格納されている類似度テーブルに登録する。ステップS702では、表示制御部610がクラスタリング部618を呼び出し、クラスタリング部618は、所定の分類条件に対応する類似度テーブルを参照し、特定のスナップショットを基準スナップショットとして所定の類似度値でスナップショットに対して、図10に示すクラスタリング処理を実行する。
【0094】
ステップS703では、表示制御部610が、クラスタリングしたスナップショット群を表示するUI画面を生成し、UI画面に表示するスナップショット群の識別情報およびこれを構成するスナップショットの識別情報を表示情報保存領域に保存する。そして、表示制御部610は、当該UI画面を表示画面生成部236に提供して画像表示装置200の表示部250に初期画面を表示させる。
【0095】
本実施形態では、初期画面を生成時に、所定の分類条件および類似度値を使用してスナップショットをクラスタリングすることができる。このとき、クラスタリング処理において類似度の判断の基準となるスナップショット(以下、「基準スナップショット」とする。)として任意のスナップショットを採用することができる。本実施形態では、スナップショット識別情報を参照し、生成時間が最新のスナップショットを基準スナップショットとする。
【0096】
ステップS704では、表示制御部610は、タッチパネル制御部232から接触位置座標を受信したか否か判断する。接触位置座標を受信していないと判断した場合には(no)、ステップS704の処理を反復させる。一方、接触位置座標を受信したと判断した場合には(yes)、処理をステップS705に分岐させる。ステップS705では、表示制御部610は、接触位置座標を使用して、UI画面を構成するオブジェクトが選択されたか否か判断する。オブジェクトが選択されていないと判断した場合には(no)、処理をステップS704に分岐させる。一方、オブジェクトが選択されたと判断した場合には(yes)、処理をステップS706に分岐させる。
【0097】
ステップS706では、表示制御部610は、選択されたオブジェクトの種類からユーザがUI画面を用いて行った操作内容を判断する。操作内容がスナップショットのスクロール指示であると判断した場合、処理をステップS707に分岐させる。ステップS707では、表示制御部610は、スクロール指示に応じたUI画面を生成し、UI画面に表示するスナップショット群の識別情報および/またはスナップショットの識別情報をこれらの配置情報と共に、表示情報記憶領域に保存する。そして、表示制御部610は、当該UI画面を表示画像生成部236に提供して表示部250の表示画面を更新し、処理をステップS704に戻す。
【0098】
ステップS706の判定で、操作内容がスナップショットの拡大表示の指示であると判断した場合、処理をステップS708に分岐させる。本実施形態では、同一のスナップショットが短時間に連続して選択されたときに、当該スナップショットの拡大表示が指示されていると判断する。具体的には、ステップS704で同一のスナップショットの接触位置座標を所定の時間内に2つ受信した場合には、当該スナップショットの拡大表示が指示されていると判断することができる。ステップS708では、表示制御部610は、ユーザが選択したスナップショットを拡大表示したUI画面を生成し、当該UI画面を表示画像生成部236に提供して表示部250の表示画面を更新し、処理をステップS704に戻す。
【0099】
ステップS706の判定で、操作内容がスナップショット群の選択であると判断した場合、処理をステップS709に分岐させる。ステップS709では、表示制御部610は、選択されたオブジェクトの種類(例えば、画面左側のスナップショット群を表示するオブジェクト、画面中央のスナップショット群を表示するオブジェクト、画面右側のスナップショット群を表示するオブジェクト)からいずれのスナップショット群またはスナップショットが選択されたか否か判断し、ユーザが選択したスナップショット群またはスナップショットが選択されている状態のUI画面を生成する。そして、表示制御部610は、当該UI画面を表示画像生成部236に提供して表示部250の表示画面を更新する。ステップS710では、表示制御部610は、表示情報保存領域を参照して、スナップショット群の配置情報から当該選択されたスナップショット群またはスナップショットの識別情報を特定し、ユーザが選択したスナップショット群またはスナップショットの識別情報として、表示情報保存領域に保存し、処理をステップS704に戻す。
【0100】
ステップS706の判定で、操作内容が分類条件の選択または類似度値の変更であると判断した場合、処理をステップS711に分岐させる。ステップS711では、表示制御部610は、当該分類条件および類似度値に基づいて、UI画面に表示されているスナップショットを変更するスナップショット表示変更処理を実行し、処理をステップS704に戻す。なお、スナップショット表示変更処理については、図8を参照して詳細に説明する。
【0101】
ステップS706の判定で、操作内容がアプリケーション240の終了指示であると判断した場合、処理をステップS712に分岐させ、アプリケーション240が終了する。
【0102】
図8は、本実施形態の画像表示装置200が有するアプリケーション240が実行するスナップショット表示変更処理を示すフローチャートである。以下、図8を参照してスナップショット表示変更処理について説明する。
【0103】
図8の処理は、ステップS800から開始し、ユーザの行った操作内容が分類条件の選択である場合、処理をステップS801に分岐させる。一方、ユーザがした操作内容が類似度値の変更である場合、処理をステップS808に分岐させる。
【0104】
ステップS801では、表示制御部610は、ユーザが指定した分類条件(すなわち、時間、背景、または時間および背景)のオブジェクトが選択されている状態のUI画面を生成する。ステップS802では、表示制御部610は、当該UI画面を表示画像生成部236に提供して表示部250の表示画面を更新する。ステップS803では、表示制御部610は、クラスタリング対象であるスナップショット格納部242に保存されているスナップショットの識別情報、UI画面で指定された分類条件および類似度値をパラメータ取得部616に提供し、パラメータ取得部616は、これらの情報をパラメータ保存領域に一時的に保存する。
【0105】
ステップS804では、クラスタリング部618は、表示情報保存領域を参照し、基準スナップショットを特定する。本実施形態では、UI画面に表示されているスナップショットのうちUI画面の中央最前面に表示されているスナップショットを基準スナップショットとすることができる。他の実施形態では、UI画面に表示されたスナップショット群の中からユーザが指定したスナップショットを基準スナップショットとしてもよい。
【0106】
ステップS805では、クラスタリング部618は、スナップショット格納部242に保存されているスナップショットについて、図10を参照して説明するクラスタリング処理を実行する。ステップS806では、表示制御部610は、クラスタリング処理の結果を反映したUI画面を生成し、UI画面上に表示するスナップショット群の識別情報および/またはスナップショットの識別情報をこれらの配置情報と共に、表示情報記憶領域に保存する。ステップS807では、表示制御部610は、当該UI画面を表示画像生成部236に提供して表示部250の表示画面を更新し、ステップS819で処理が終了する。
【0107】
ステップS808では、表示制御部610は、ユーザが指定した位置に類似度値を指定するオブジェクトが表示されている状態のUI画面を生成する。ステップS809では、表示制御部610は、当該UI画面を表示画像生成部236に提供して表示部250の表示画面を更新する。ステップS810では、表示制御部610は、表示情報記憶領域を参照し、UI画面上のスナップショット群が選択されているか判断する。UI画面上のスナップショット群が選択されていると判断した場合には(yes)、処理をステップS811に分岐させる。
【0108】
ステップS811では、表示制御部610は、クラスタリング対象であるスナップショットのスナップショット識別情報、指定された分類条件および類似度値をパラメータ取得部616に提供し、パラメータ取得部616は、これらの情報をパラメータ保存領域に一時的に保存する。本実施形態では、ステップS810で選択されていると判断したスナップショット群を構成するスナップショットをクラスタリング処理の対象とする。
【0109】
ステップS812では、選択されたスナップショット群の中から基準スナップショットを特定する。本実施形態では、当該スナップショット群のうちUI画面の最前面に表示されたスナップショットを基準スナップショットとすることができる。他の実施形態では、当該選択されたスナップショット群の中からユーザが指定したスナップショットを基準スナップショットとしてもよい。
【0110】
ステップS813では、クラスタリング部618が、UI画面上で選択されているスナップショット群に対して、図10に示すクラスタリング処理を実行する。
【0111】
一方、ステップS810の判定でUI画面上のスナップショット群が選択されていないと判断した場合には(no)、処理をステップS814に分岐させる。ステップS814では、表示制御部610は、クラスタリング対象であるスナップショット格納部242に保存されているスナップショットの識別情報、UI画面で指定された分類条件および類似度値をパラメータ取得部616に提供し、パラメータ取得部616は、これらの情報をパラメータ保存領域に一時的に保存する。
【0112】
ステップS815では、UI画面に表示されたスナップショット群の中から基準スナップショットを特定する。本実施形態では、UI画面の中央最前面に表示されたスナップショットを基準スナップショットとすることができる。他の実施形態では、UI画面に表示されたスナップショット群の中からユーザが指定したスナップショットを基準スナップショットとしてもよい。
【0113】
ステップS816では、クラスタリング部618は、スナップショット格納部242に保存されているスナップショットについて、図10に示すクラスタリング処理を実行する。ステップS817では、表示制御部610は、クラスタリング処理の結果を反映したUI画面を生成し、UI画面上に表示するスナップショット群の識別情報および/またはスナップショットの識別情報をこれらの配置情報と共に、表示情報記憶領域に保存する。ステップS818では、表示制御部610は、当該UI画面を表示画像生成部236に提供して表示部250の表示画面を更新し、ステップS819で処理が終了する。
【0114】
図9は、本実施形態のアプリケーションが使用する類似度テーブル900を示す。本実施形態では、スナップショット格納部242に保存されているスナップショットに対して、上記数式2〜数式4を使用して算出した類似度値が類似度テーブルにされ、分類条件の種別に対応する類似度テーブル、すなわち、時間用の類似度テーブル、背景用の類似テーブル、時間および背景用の類似テーブルが使用される。
【0115】
類似度テーブル900では、スナップショット格納部242に保存されたスナップショットのスナップショット識別情報と、スナップショット相互の類似度値とが登録される。例えば、スナップショット識別情報「2011.1.12.10:02:42.bmp」が示すスナップショットと、スナップショット識別情報「2011.1.12.10:02:43.bmp」が示すスナップショットとの類似度値は、「0.3」である。
【0116】
アプリケーション240は、基準スナップショットと、ユーザがUI画面で指定した類似度値と、類似度テーブル900に登録されている類似度値とを使用して、スナップショットをクラスタリングする。具体的には、スナップショット識別情報「2011.1.12.10:02:45.bmp」が示すスナップショットを基準とし、ユーザが指定した類似度値が「1.0」である場合、アプリケーション240は、先ず類似度値が「0」以上「1.0」未満の範囲にあるスナップショットを抽出する。図9に示す実施形態では、スナップショット識別情報「2011.1.12.10:02:42.bmp」および「2011.1.12.10:02:43.bmp」が示すスナップショットの類似度値が、当該範囲に含まれるため、これらのスナップショットが同一のクラスタに分類される。
【0117】
次いで、アプリケーション240は、類似度値が「1.0」以上「2.0」未満の範囲にあるスナップショットを抽出する。図9に示す実施形態では、当該範囲に含まれるスナップショットが存在しないため、アプリケーション240は、次の類似度値の範囲である「2.0」以上「3.0」未満の範囲についてクラスタリングを行う。図9に示す実施形態では、スナップショット識別情報「2011.1.12.10:02:44.bmp」が示すスナップショットの類似度値が、上記範囲に含まれるため、当該スナップショットが同一のクラスタに分類される。アプリケーション240は、クラスタリングの対象のスナップショットが総て分類されるまで上述した処理を繰り返し実行し、スナップショットをクラスタリングする。
【0118】
図9に示す実施形態では、スナップショット識別情報として、スナップショットが保存された時刻情報とスナップショットの保存形式との結合を使用しているが、他の実施形態では、他の数字列、文字列および/またはこれらの結合を使用してもよい。
【0119】
図10は、本実施形態の画像表示装置200が有するアプリケーション240が実行するスナップショットのクラスタリング処理を示すフローチャートである。以下、図10を参照してクラスタリング処理について説明する。
【0120】
図10の処理は、ステップS1000から開始し、ステップS1001でクラスタリング部618が、パラメータ保存領域を参照し、分類条件の種類を判断する。分類条件が「時間」であると判断した場合、処理をステップS1002に分岐させる。
【0121】
ステップS1002では、クラスタリング部618は、時間用の類似度テーブルを参照し、パラメータ保存領域に格納されたスナップショット識別情報および類似度値を使用して、クラスタリング対象のスナップショットについて、UI画面で指定された類似度値に基づく類似度値範囲にあるスナップショットを生成時間順に分類する。そして、分類されたスナップショット群の識別情報および当該スナップショット群を構成するスナップショットのスナップショット識別情報をクラスタリング結果保存領域に保存する。
【0122】
ステップS1003では、クラスタリング部618は、パラメータ保存領域に保存されたクラスタリング対象のスナップショットのスナップショット識別情報と、クラスタリング結果保存領域に保存された既にクラスタリングされたスナップショットのスナップショット識別情報とを使用して、クラスタリング対象のスナップショットが総て分類されたか否か判断する。総てのスナップショットが分類されたと判断した場合には(yes)、処理をステップS1011に分岐させて終了させる。一方、総てのスナップショットが分類されていないと判断した場合には(no)、処理をステップS1004に分岐させる。
【0123】
ステップS1004では、クラスタリング部618は、パラメータ保存領域に保存されたスナップショット識別情報と、ステップS1002でクラスタリング結果保存領域に保存されたスナップショット識別情報とを使用して、未だクラスタリングしていないスナップショットを判断する。そして、クラスタリング部618は、時間用の類似度テーブルを参照し、当該スナップショットについて、パラメータ保存領域に保存された類似度値に基づく別の類似度値範囲にあるスナップショットを生成時間順に分類し、その結果をクラスタリング結果保存領域に保存し、処理をステップS1003に戻す。クラスタリング部618は、クラスタリング対象のスナップショットが総て分類されるまで、ステップS1004の処理を反復させる。
【0124】
ステップS1001の判定で分類条件が「背景」であると判断した場合、処理をステップS1005に分岐させる。ステップS1005では、クラスタリング部618は、背景用の類似度テーブルを参照し、パラメータ保存領域に保存されたスナップショットの識別情報および類似度値を使用して、クラスタリング対象のスナップショットについて、指定された類似度値に基づく類似度値範囲にあるスナップショットを生成時間順に分類する。そして、分類されたスナップショット群の識別情報および当該スナップショット群を構成するスナップショットのスナップショット識別情報をクラスタリング結果保存領域に保存する。
【0125】
ステップS1006では、クラスタリング部618は、ステップS1003と同様に、クラスタリング対象であるスナップショットが総て分類されたか否か判断する。総てのスナップショットが分類されたと判断した場合には(yes)、処理をステップS1011に分岐させて終了させる。一方、総てのスナップショットが分類されていないと判断した場合には(no)、処理をステップS1007に分岐させる。
【0126】
ステップS1007では、クラスタリング部618は、パラメータ保存領域に保存されたスナップショット識別情報と、ステップS1005でクラスタリング結果保存領域に保存されたスナップショット識別情報とを使用して、未だクラスタリングしていないスナップショットを判断する。そして、クラスタリング部618は、背景用の類似度テーブルを参照し、当該スナップショットについて、パラメータ保存領域に保存された類似度値に基づく別の類似度値範囲にあるスナップショットを生成時間順に分類し、その結果をクラスタリング結果保存領域に保存し、処理をステップS1006に戻す。クラスタリング部618は、クラスタリング対象のスナップショットが総て分類されるまで、ステップS1007の処理を反復させる。
【0127】
ステップS1001の判定で分類条件が「時間」および「背景」であると判断した場合、処理をステップS1008に分岐させる。ステップS1008では、クラスタリング部618は、時間および背景用の類似度テーブルを参照し、パラメータ保存領域に保存されたスナップショット識別情報および類似度値を使用して、クラスタリング対象のスナップショットについて、指定された類似度値に基づく類似度値範囲にあるスナップショットを生成時間順に分類する。そして、分類されたスナップショット群の識別情報および当該スナップショット群を構成するスナップショットのスナップショット識別情報をクラスタリング結果保存領域に保存する。
【0128】
ステップS1009では、クラスタリング部618は、ステップS1003と同様に、クラスタリング対象であるスナップショットが総て分類されたか否か判断する。総てのスナップショットが分類されたと判断した場合には(yes)、処理をステップS1011に分岐させて終了させる。一方、総てのスナップショットが分類されていないと判断した場合には(no)、処理をステップS1010に分岐させる。
【0129】
ステップS1010では、クラスタリング部618は、パラメータ保存領域に保存されたスナップショット識別情報と、ステップS1008でクラスタリング結果保存領域に保存されたスナップショット識別情報とを使用して、未だクラスタリングしていないスナップショットを判断する。そして、クラスタリング部618は、時間および背景用の類似度テーブルを参照し、当該スナップショットについて、パラメータ保存領域に保存された類似度値に基づく別の類似度値範囲にあるスナップショットを生成時間順に分類し、その結果をクラスタリング結果保存領域に保存し、処理をステップS1009に戻す。クラスタリング部618は、クラスタリング対象のスナップショットが総て分類されるまで、ステップS1010の処理を反復させる。
【0130】
図11は、本実施形態のアプリケーションが画像表示装置に表示するUI画面の一実施形態を示す図である。図11に示すUI画面1100では、UI画面を構成する種々のオブジェクトが配置される。
【0131】
オブジェクト1110,1112,1114は、クラスタリング処理によって分類されたスナップショット群またはスナップショットである。当該オブジェクトは、当該スナップショット群を構成するスナップショットのサブネイルが重畳して形成される。本実施形態では、スナップショット群は、時系列に配列して表示されると共に、スナップショットのサブネイルは、その生成時間の降順で重畳表示される。この場合、アプリケーション240は、各スナップショット群の最前面に配置される最新のスナップショットの生成時間を比較し、スナップショット群を時系列表示することができる。他の実施形態では、スナップショット群内のスナップショットのサブネイルを生成時間の昇順で表示してもよい。さらに他の実施形態では、スナップショットの類似度順でサブネイルを表示してもよい。
【0132】
オブジェクト1116,1118は、UI画面1100に表示されたスナップショット群またはスナップショットをスクロールさせるオブジェクトである。当該オブジェクトが選択されると、その時点でUI画面1100に表示されていない他のスナップショット群またはスナップショットが表示される。
【0133】
オブジェクト1120,1122は、クラスタリング処理で使用する分類条件を指定するオブジェクトである。オブジェクト1120は、分類条件「時間」を選択するチェックボックスであり、オブジェクト1122は、分類条件「背景」を選択するチェックボックスである。本実施形態では、ユーザがオブジェクト1120,1122を選択すると、これらのチェックボックスにチェックマークが表示される。他の実施形態では、ユーザが選択したチェックボックスの表示色を変更して、選択の有無を明示してもよい。
【0134】
オブジェクト1124は、クラスタリング処理で使用する類似度値を指定するオブジェクトである。オブジェクト1124は、スライドバー1126に沿って左右に移動表示させることができる。スライドバー1126には、その位置座標に関連付けて類似度値が割り当てられており、ユーザが触れたスライドバー1126上の位置座標に対応する類似度値を、指定された類似度値とすることができる。
【0135】
UI画面1100では、スライドバー1126の左側を指定するとクラスタリングの精度が細かくなり、右側を指定すると精度が粗くなるように構成される。他の実施形態では、精度の指定方法の左右を反対に構成してもよい。ユーザは、オブジェクト1124およびスライドバー1126を使用することにより、スナップショットのクラスタリングの精度や粒度を指定することができる。
【0136】
本実施形態のアプリケーション240は、クラスタリングの精度を最細に指定された場合、オブジェクト1110,1112,1114が1のスナップショットで構成されるようにUI画面1100を生成する。一方、クラスタリングの精度を最細に指定された場合、アプリケーション240は、総てのスナップショットを1のスナップショット群とするオブジェクト1112が表示されるUI画面1100を生成する。
【0137】
図12は、本実施形態のアプリケーションが画像表示装置に表示するUI画面の他の実施形態を示す図である。図12に示すUI画面1200では、図11に示すUI画面1100と同様に、UI画面を構成する種々のオブジェクトが配置される。なお、オブジェクト1210〜1218は、UI画面1100に含まれるオブジェクト1110〜1118と同様であるため、以下、説明を省略する。
【0138】
オブジェクト1220は、クラスタリング処理で使用する第1の分類条件を指定するオブジェクトである。オブジェクト1220は、ドロップダウンリストで構成されている。オブジェクト1220には、分類条件として「時間」または「背景」が表示され、ユーザが選択的に分類条件を指定することができる。
【0139】
オブジェクト1224は、第1の分類条件に対応する類似度値を指定するオブジェクトである。オブジェクト1224は、図11に示す実施形態と同様に、スライドバー1226に沿って左右に移動表示させることができ、ユーザが触れたスライドバー1226上の位置座標に対応する類似度値を、指定された類似度値とすることができる。
【0140】
オブジェクト1222は、クラスタリング処理で使用する第2の分類条件を指定するオブジェクトである。オブジェクト1222は、ドロップダウンリストで構成されている。オブジェクト1222には、分類条件として「時間」、「背景」または「×」が表示され、ユーザが選択的に分類条件を指定し、または未指定とすることができる。
【0141】
オブジェクト1228は、第2の分類条件に対応する類似度値を指定するオブジェクトである。オブジェクト1228は、図11に示す実施形態と同様に、スライドバー1230に沿って左右に移動表示させることができ、ユーザが触れたスライドバー1230上の位置座標に対応する類似度値を、指定された類似度値とすることができる。
【0142】
本実施形態では、表示制御部610は、第1の分類条件および類似度値と、第2の分類条件および類似度値とをパラメータ取得部616に提供し、パラメータ取得部616は、これらのパラメータをパラメータ記憶領域に一時的に保存する。クラスタリング部618は、パラメータ記憶領域から、第1の分類条件および類似度値と、第2の分類条件および類似度値とを取得し、第1の分類条件を優先してスナップショットを分類する。
【0143】
図13は、図12に示すUI画面を生成するアプリケーション240が実行するクラスタリング処理の他の実施形態を示すフローチャートである。以下、図13を参照してクラスタリング処理の他の実施形態について説明する。
【0144】
図13の処理は、ステップS1300から開始し、ステップS1301でクラスタリング部618が、パラメータ保存領域を参照し、第1の分類条件を判断する。第1の分類条件が「時間」であると判断した場合、処理をステップS1302に分岐させる。一方、第1の分類条件が「背景」であると判断した場合、処理をステップS1309に分岐させる。
【0145】
ステップS1302では、クラスタリング部618は、時間用の類似度テーブルを参照し、パラメータ保存領域に保存されたスナップショット識別情報および類似度値を使用して、クラスタリング対象のスナップショットについて、UI画面で指定された類似度値に基づく類似度値範囲にあるスナップショットを生成時間順に分類する。そして、分類されたスナップショット群の識別情報および当該スナップショット群を構成するスナップショットのスナップショット識別情報をクラスタリング結果保存領域に保存する。
【0146】
ステップS1303では、クラスタリング部618は、パラメータ保存領域に保存されたクラスタリング対象のスナップショットのスナップショット識別情報と、クラスタリング結果保存領域に保存された既にクラスタリングされたスナップショットのスナップショット識別情報とを使用して、クラスタリング対象であるスナップショットが総て分類されたか否か判断する。
【0147】
総てのスナップショットが分類されていないと判断した場合には(no)、処理をステップS1304に分岐させる。ステップS1304では、クラスタリング部618は、パラメータ保存領域に保存されたスナップショット識別情報と、ステップS1302でクラスタリング結果保存領域に保存されたスナップショット識別情報とを使用して、未だクラスタリングしていないスナップショットを判断する。そして、クラスタリング部618は、時間用の類似度テーブルを参照し、当該スナップショットについて、パラメータ保存領域に保存された類似度値に基づく別の類似度値範囲にあるスナップショットを生成時間順に分類し、その結果をクラスタリング結果保存領域に保存し、処理をステップS1303に戻す。クラスタリング部618は、クラスタリング対象の総てのスナップショットが分類されるまで、ステップS1304の処理を反復させる。
【0148】
一方、ステップS1303の判定で、総てのスナップショットが分類されたと判断した場合には(yes)、処理をステップS1305に分岐させる。ステップS1305では、クラスタリング部618は、パラメータ保存領域を参照し、第2の分類条件を判断する。第2の分類条件が「時間」または「無し」であると判断した場合、処理をステップS1316に分岐させて終了させる。一方、第2の分類条件が「背景」であると判断した場合、処理をステップS1306に分岐させる。
【0149】
ステップS1306では、クラスタリング部618は、背景用の類似度テーブルを参照し、上記ステップS1302およびステップS1304の処理でクラスタリングしたスナップショット群について、パラメータ保存領域に保存されたスナップショット識別情報および類似度値を使用して、UI画面で指定された類似度値に基づく類似度値範囲にあるスナップショットを生成時間順に分類する。そして、分類されたスナップショット群の識別情報および当該スナップショット群を構成するスナップショットのスナップショット識別情報をクラスタリング結果保存領域に保存する。
【0150】
ステップS1307では、クラスタリング部618は、ステップS1303と同様に、クラスタリング対象であるスナップショットが総て分類されたか否か判断する。総てのスナップショットが分類されたと判断した場合には(yes)、処理をステップS1316に分岐させて終了させる。一方、総てのスナップショットが分類されていないと判断した場合には(no)、処理をステップS1308に分岐させる。
【0151】
ステップS1308では、クラスタリング部618は、パラメータ保存領域に保存されたスナップショット識別情報と、ステップS1306でクラスタリング結果保存領域に保存されたスナップショット識別情報とを使用して、未だ分類条件「背景」でクラスタリングしていないスナップショットを判断する。そして、クラスタリング部618は、背景用の類似度テーブルを参照し、当該スナップショットについて、パラメータ保存領域に保存された類似度値に基づく別の類似度値範囲にあるスナップショットを生成時間順に分類して、その結果をクラスタリング結果保存領域に保存し、処理をステップS1307に戻す。クラスタリング部618は、クラスタリング対象のスナップショットが総て分類されるまで、ステップS1308の処理を反復させる。
【0152】
ステップS1309では、クラスタリング部618は、背景用の類似度テーブルを参照し、パラメータ保存領域に保存されたスナップショット識別情報および類似度値を使用して、クラスタリング対象のスナップショットについて、UI画面で指定された類似度値に基づく類似度値範囲にあるスナップショットを生成時間順に分類する。そして、分類されたスナップショット群の識別情報および当該スナップショット群を構成するスナップショットのスナップショット識別情報をクラスタリング結果保存領域に保存する。
【0153】
ステップS1310では、クラスタリング部618は、ステップS1303と同様に、クラスタリング対象であるスナップショットが総て分類されたか否か判断する。総てのスナップショットが分類されていないと判断した場合には(no)、処理をステップS1311に分岐させる。ステップS1311では、クラスタリング部618は、パラメータ保存領域に保存されたスナップショット識別情報と、ステップS1309でクラスタリング結果保存領域に保存されたスナップショット識別情報とを使用して、未だクラスタリングしていないスナップショットを判断する。そして、クラスタリング部618は、背景用の類似度テーブルを参照し、当該スナップショットについて、パラメータ保存領域に保存された類似度値に基づく別の類似度値範囲にあるスナップショットを生成時間順に分類し、その結果をクラスタリング結果保存領域に保存し、処理をステップS1310に戻す。クラスタリング部618は、クラスタリング対象のスナップショットが総て分類されるまで、ステップS1311の処理を反復させる。
【0154】
一方、ステップS1310の判定で、スナップショットが総て分類されたと判断した場合には(yes)、処理をステップS1312に分岐させる。ステップS1312では、クラスタリング部618は、パラメータ保存領域を参照し、第2の分類条件を判断する。第2の分類条件が「背景」または「無し」であると判断した場合、処理をステップS1316に分岐させて終了させる。一方、第2の分類条件が「時間」であると判断した場合、処理をステップS1313に分岐させる。
【0155】
ステップS1313では、クラスタリング部618は、時間用の類似度テーブルを参照し、クラスタリング結果保存領域を参照し、上記ステップS1309およびステップS1311の処理で分類したスナップショット群について、パラメータ保存領域に保存された類似度値に基づく類似度値範囲にあるスナップショットを生成時間順に分類する。そして、分類されたスナップショット群の識別情報および当該スナップショット群を構成するスナップショットのスナップショット識別情報をクラスタリング結果保存領域に保存する。
【0156】
ステップS1314では、クラスタリング部618は、ステップS1303と同様に、クラスタリング対象であるスナップショットが総て分類されたか否か判断する。スナップショットが総て分類されていないと判断した場合には(no)、処理をステップS1315に分岐させる。
【0157】
ステップS1315では、クラスタリング部618は、パラメータ保存領域に保存されたスナップショット識別情報と、ステップS1313でクラスタリング結果保存領域に保存されたスナップショット識別情報とを使用して、未だ分類条件「時間」でクラスタリングしていないスナップショットを判断する。そして、クラスタリング部618は、時間用の類似度テーブルを参照し、当該スナップショットについて、パラメータ保存領域に保存された類似度値に基づく別の類似度値範囲にあるスナップショットを生成時間順に分類し、その結果をクラスタリング結果保存領域に保存し、処理をステップS1314に戻す。クラスタリング部618は、クラスタリング対象のスナップショットが総て分類されるまで、ステップS1315の処理を反復させる。
【0158】
一方、ステップS1314の判定で、総てのスナップショットが分類されたと判断した場合には(yes)、処理をステップS1316に分岐させて終了させる。
【0159】
本実施形態では、一方の分類条件でクラスタリングした総てのスナップショット群について、他方の分類条件で追加的にクラスタリングを行う。他の実施形態では、既にクラスタリングされたスナップショット群のうちのいずれかについて、再度、クラスタリングを行うようにしてもよい。
【0160】
本実施形態では、双方の分類条件でクラスタリングが実行された場合、アプリケーション240は、追従的に実行されたクラスタリングの結果を使用してUI画面を生成する。これにより、双方の分類条件を考慮したクラスタリングに基づいて、UI画面上にスナップショット群を表示させることができる。
【0161】
図14は、本実施形態のアプリケーションが画像表示装置に表示するUI画面のさらに他の実施形態を示す図である。図14に示すUI画面1400では、図11に示すUI画面1100と同様に、UI画面を構成する種々のオブジェクトが配置される。なお、オブジェクト1410〜1426は、UI画面1100に含まれるオブジェクト1110〜1126と同様であるため、以下、説明を省略する。
【0162】
オブジェクト1428は、UI画面上に表示すべきスナップショット群の配列順序を選択的に指定可能なオブジェクトである。オブジェクト1428は、スナップショット群の配列順序として、時系列および類似度順を選択することができる。本実施形態のアプリケーション240の表示制御部610は、オブジェクト1428で指定されたスナップショット群の配列順序に従い、クラスタリングされたスナップショット群を時系列または類似度順で配列したUI画面を生成する。このとき、表示制御部610は、各スナップショット群の最前面に配置すべきスナップショット(例えば、同一スナップショット群のうち生成時間が最新のスナップショットや最古のスナップショット、類似度値が最大のスナップショットや類似度値が最小のスナップショットなど)の生成時間または類似度値を比較して、スナップショット群を時系列順または類似度順で表示することができる。
【0163】
本実施形態では、ユーザが、クラスタリングされたスナップショット群の配列順序を自由に選択することができるため、スナップショットの検索容易性を向上させることができる。
【0164】
これまで本実施形態につき説明してきたが、本発明は、上述した実施形態に限定されるものではなく、他の実施形態、追加、変更、削除など、当業者が想到することができる範囲内で変更することができ、いずれの態様においても本発明の作用・効果を奏する限り、本発明の範囲に含まれるものである。
【符号の説明】
【0165】
100…画像表示システム、110…画像表示装置、112…表示部、114…操作ボタン、116…操作ボタン、118…映像フレーム入力部、120…ユーザPC、122…ケーブル
【先行技術文献】
【特許文献】
【0166】
【特許文献1】特開2008−33393号公報
【技術分野】
【0001】
本発明は、任意の画像を表示画面に表示させる画像表示装置に関し、より詳細には、ユーザが描画した画像を表示画面に表示させる画像表示装置、方法、プログラムおよび記録媒体に関する。
【背景技術】
【0002】
従来、企業や教育機関、行政機関等における会議等において、大型ディスプレイに背景画像を表示させ、その上にユーザが文字や数字、図形等の描画画像を書き込み可能な電子黒板が利用されている。
【0003】
このような電子黒板として、現在、スマートテクノロジーズ社のSmartBoard、日立ソフトウェアエンジニアリング社のStarBoard(登録商標)およびパイオニア社のサイバーカンファレンス(登録商標)等が提供されている。ユーザは、これらの電子黒板上で様々な画像を表示させて、文字や図形等を重畳して書き込むことができる。
【0004】
また、表示された画像をユーザが事後的に閲覧可能な電子黒板も提案されている。例えば、特許文献1は、ユーザが描画した描画画像が縦書きであるか、横書きであるか、またはそれ以外のタイプであるか判断し、そのタイプ毎に代表的な画面を生成して表示する装置を開示する。
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、特許文献1が開示する装置は、描画画像の書字方向によってタイプを判別して代表的な描画画像を表示するだけであり、ユーザが指定した画像相互の類似度によって閲覧すべき画像を選択的に表示することができない。
【0006】
本発明は上記の課題を解決するものであり、閲覧すべき画像をユーザが指定する画像相互の類似度によって選択的に表示可能な画像表示装置、方法、プログラムおよび記録媒体を提供することを目的とする。
【課題を解決するための手段】
【0007】
本発明の画像表示装置は、表示画面に表示すべき映像フレームと描画画像の構成情報とが関連付けて登録されるデータベースを参照して、映像フレーム提供装置から受信した映像フレームと同一の映像フレームに関連付けられた描画画像の構成情報を使用して構成される描画画像を表示装置に表示すると共に、表示装置に表示された表示画像をその類似度に応じて事後的に表示装置に表示する。具体的には、画像表示装置は、表示画像相互の類似度が登録されたデータテーブルを参照して、ユーザが指定した類似度に応じて表示画像を分類し、分類された表示画像を含むユーザインタフェース画面を表示する。これにより、既に画像表示装置に表示された表示画像を、ユーザが指定した類似度に応じて分類して表示することができる。
【0008】
本発明によれば、閲覧すべき画像をユーザが指定した画像相互の類似度によって選択的に表示可能な方法、プログラムおよび記録媒体を提供することができる。
【図面の簡単な説明】
【0009】
【図1】本実施形態の画像表示システムを示した図。
【図2】本実施形態の画像表示装置の機能構成を示す図。
【図3】本実施形態の画像表示装置が実行する処理を示すフローチャート。
【図4】本実施形態の画像表示装置の使用状態を示す図。
【図5】本実施形態の画像表示装置が使用するスナップショット履歴情報テーブルを示す図。
【図6】本実施形態の画像表示装置が有するアプリケーションの機能構成を示す図。
【図7】本実施形態の画像表示装置が有するアプリケーションが実行する処理を示すフローチャート。
【図8】本実施形態の画像表示装置が有するアプリケーションが実行するスナップショット表示変更処理を示すフローチャート。
【図9】本実施形態のアプリケーションが使用する類似度テーブルを示す図。
【図10】本実施形態の画像表示装置が有するアプリケーションが実行するスナップショットのクラスタリング処理を示すフローチャート。
【図11】本実施形態のアプリケーションが画像表示装置に表示するUI画面の一実施形態を示す図。
【図12】本実施形態のアプリケーションが画像表示装置に表示するUI画面の他の実施形態を示す図。
【図13】図12に示すUI画面を生成するアプリケーションが実行するクラスタリング処理の他の実施形態を示すフローチャート。
【図14】本実施形態のアプリケーションが画像表示装置に表示するUI画面のさらに他の実施形態を示す図。
【発明を実施するための形態】
【0010】
以下、本発明について実施形態をもって説明するが、本発明は、後述する実施形態に限定されるものではない。
【0011】
図1は、本実施形態の画像表示システム100を示す。画像表示システム100は、画像表示装置110と、ユーザPC120とを含む。
【0012】
画像表示装置110は、ユーザPC120から受信した背景画像である映像フレームを表示すると共に、ユーザが描画した文字や記号、図形等を含む描画画像を表示させる装置である。画像表示装置110は、表示部112と、操作ボタン114,116と、映像フレーム入力部118とを含んで構成される。
【0013】
表示部112は、背景画像および描画画像を表示する機能手段である。また、表示部112は、その表面にタッチパネルが設置されており、タッチパネルを構成する接触位置センサによりユーザの接触位置を検出することができる。
【0014】
操作ボタン114,116は、画像表示装置110の動作モードの切り替えを指示する機能手段である。なお、画像表示装置110の動作モードの切り替えについては、より詳細に後述する。
【0015】
映像フレーム入力部118は、ユーザPC120から表示部112に表示される背景画像である映像フレームを受信する機能手段である。本実施形態では、映像フレーム入力部としてVGA(Video Graphics Array)端子により構成されるVGA入力コネクタを採用することができ、ユーザPC120からVGAケーブル等のケーブル122を介してVGA信号を受信し、画像表示装置110に含まれるコントローラ(図示せず)にVGA信号を供給する。他の実施形態では、映像フレーム入力部118は、BluetoothやWiFi等の無線通信プロトコルに準拠した無線通信により、ユーザPC120から画像データを受信してもよい。
【0016】
画像表示装置110は、PENTIUM(登録商標)プロセッサまたは互換プロセッサなどのプロセッサを搭載し、WINDOWS(登録商標)シリーズ、UNIX(登録商標)、LINUX(登録商標)、ITRON、μITRONなどのOSの管理下で、アセンブラ、C、C++、Java(登録商標)、JavaScript(登録商標)、PERL、RUBY、PYTHONなどのプログラム言語で記述された本発明のプログラムを実行する。また、画像表示装置110は、本発明のプログラムを実行するための実行空間を提供するRAM、プログラムやデータなどを持続的に保持するためのハードディスク装置(HDD)などを含んでおり、本発明のプログラムを実行することにより、本実施形態の各機能手段を画像表示装置上に実現する。
【0017】
本発明のプログラムは、HDD、CD−ROM、MO、フレキシブルディスク、EEPROM、EPROMなどの装置可読な記録媒体に格納して頒布することができ、また他装置が可能な形式でネットワークを介して伝送することができる。
【0018】
ユーザPC120は、画像表示装置110に背景画像である映像フレームを提供する映像フレーム提供装置である。図1に示す実施形態では、ユーザPCとしてノート型PCを採用するが、他の実施形態では、デスクトップ型のパーソナルコンピュータやPDA等の画像データを供給可能な情報処置装置を採用することができる。ユーザPC120は、背景画像を出力するインタフェースを備えており、その表示画面に表示されている表示画像を画像表示装置110に供給する。本実施形態では、ユーザPC120は、インタフェースとしてVGA出力コネクタを備えており、表示画像をVGA信号として画像表示装置110に供給することができる。他の実施形態では、ユーザPC120は、各種無線通信プロトコルに準拠した無線通信により、表示画像を送信してもよい。
【0019】
図2は、本実施形態の画像表示装置200の機能構成を示す図である。以下、図2を参照して、画像表示装置200の機能構成について説明する。
【0020】
画像表示装置200は、コントローラ202と、表示部250と、タッチパネル260とを含んで構成される。コントローラ202は、ユーザPC270から受信した背景画像と、タッチパネル260を介して入力された描画画像とを処理する機能手段である。コントローラ202は、映像フレーム分配部210と、表示出力制御部212と、表示制御部214とを含んで構成される。
【0021】
映像フレーム分配部210は、ユーザPC270から受信した表示部250に表示すべき映像フレームを取得し、表示出力制御部212または映像フレーム取得部216に分配する機能手段である。本実施形態では、映像フレーム分配部210は、操作ボタンにより指定可能な動作モードに応じて、VGA信号等のアナログ信号で構成された映像フレームを分配する。具体的には、画像表示装置200の動作モードが、第1の状態である映像フレーム表示モードの場合には、映像フレーム分配部210は、映像フレームを表示出力制御部212に提供する。一方、第2の状態である描画画像表示モードが指定されている場合には、映像フレーム分配部210は、映像フレームを映像フレーム取得部216に提供する。
【0022】
表示出力制御部212は、モード切替制御部238の要求に応じて、表示制御部214に対して映像フレームを選択的に出力する機能手段である。本実施形態では、表示出力制御部212は、2入力1出力のトグル動作スイッチ回路によって構成することができる。表示出力制御部212は、第1の状態である映像フレーム表示モードの場合には、映像フレーム分配部210から受信した映像フレームを表示制御部214に提供し、第2の状態である描画画像表示モードが指定されている場合には、表示画像生成部236から受信した映像フレームを表示制御部214に提供する。
【0023】
表示制御部214は、表示出力制御部212から受信した映像フレームやアプリケーション240が生成するユーザインタフェース(以下、「UI」とする。)を表示部250に表示させる機能手段である。表示制御部214は、表示出力制御部212から受信した映像フレームやUIを構成するアナログ信号を表示部250に送付して映像フレームを表示させる。
【0024】
また、コントローラ202は、映像フレーム取得部216と、スナップショット情報格納部218と、動的表示制御部220とを含んで構成される。
【0025】
映像フレーム取得部216は、第2の状態である描画画像表示モードが指定されている場合に、映像フレーム分配部210から取得した映像フレームをスナップショット情報格納部218に順次格納する機能手段である。映像フレーム取得部216は、VGA信号等のアナログ信号で構成された映像フレームをデジタルの映像フレームにA/D変換して、スナップショット情報格納部218に格納する。また、映像フレーム取得部216は、他の機能手段の要求に応じて、スナップショット情報格納部218から映像フレームを取得して提供する。
【0026】
スナップショット情報格納部218は、映像フレームおよび描画画像のスナップショット情報である最新の映像フレームおよび最新の描画画像を構成する情報(以下、描画画像構成情報として参照する。)が格納される記憶手段である。スナップショット情報格納部218には、ユーザPC270から受信した表示部250に表示すべき最新の映像フレームが順次保存される。また、スナップショット情報格納部218には、後述する描画処理部により、タッチパネルを使用してユーザが描画した最新の描画画像構成情報が格納される。
【0027】
動的表示制御部220は、第2の状態である描画画像表示モードが指定されている場合に、表示部250に表示されている映像フレームと、ユーザがタッチパネル260を使用して表示部250に描画した描画画像とを関連付ける機能手段である。動的表示制御部220は、映像フレーム管理部222と、映像フレーム判別部226と、映像フレームバッファメモリ224と、スナップショット履歴情報処理部228と、スナップショット履歴情報データベース230とを含んで構成される。
【0028】
映像フレーム管理部222は、ユーザPC270から受信した映像フレームを取得すると共に、動的表示制御部220に含まれる他の機能手段の要求に応じて、取得した映像フレームを提供し、または映像フレームバッファメモリ224に格納する機能手段である。映像フレーム管理部222は、定期的に映像フレーム取得部216にload要求を発行して、スナップショット情報格納部218に格納された最新の映像フレームを取得し、RAMやレジスタ等の記憶装置(図示せず)に一時的に保存する。また、映像フレーム管理部222は、スナップショット情報格納部218から取得した映像フレームを固有に識別する情報である映像フレーム識別情報を生成する。本実施形態では、1/30秒毎に映像フレームを取得するが、他の実施形態では、任意の間隔で映像フレームを取得してもよい。
【0029】
映像フレームバッファメモリ224は、映像フレーム管理部222がスナップショット情報格納部218から取得した映像フレームが格納される記憶手段である。映像フレームバッファメモリ224には、スナップショット情報格納部218から定期的に取得した映像フレームが順次格納される。
【0030】
映像フレーム判別部226は、映像フレーム取得部216から取得した連続する2の映像フレームの同一性を判断する機能手段である。すなわち、映像フレーム判別部226は、ユーザPC270から新しい映像フレームを受信したか否か判断する。
【0031】
本実施形態では、映像フレーム判別部226は、これらの映像フレームに含まれる1以上の特定の領域を参照領域とし、双方の映像フレームに含まれる参照領域を比較する。比較の結果、参照領域が同一であれば、これらの映像フレームが同一であると判断し、参照領域が相違すれば、これらの映像フレームが相違すると判断する。参照領域を比較する場合、映像フレーム判別部226は、双方の映像フレームの参照領域の画素値の合計値を算出し、対応する参照領域の画素値の合計値を比較して、参照領域が同一であるか否か判別することができる。参照領域の画素値の合計値の算出には、参照領域の積分画像を使用することができる。
【0032】
本実施形態では、下記数式1を使用して、映像フレームの同一性を判別することができる。ここで、Rkは、第1の映像フレームの参照領域kの画素値の合計値を示し、Skは、第2の映像フレームの参照領域kの画素値の合計値を示す。また、Nは参照領域の数を示す。
【0033】
【数1】
【0034】
上記数式1の条件を満たす場合には、第1の映像フレームと第2の映像フレームは同一であると判断することができる。
【0035】
また、他の実施形態では、映像フレーム判別部226は、双方の映像フレーム全体の画素値の合計値を算出して、これらの映像フレームが同一であるか否か判断することができる。
【0036】
映像フレーム判別部226は、上述した判別処理の結果、連続する2の映像フレームが相違すると判断した場合、スナップショット履歴情報処理部228に対して、ユーザPC270から新たな映像フレームを受信した旨の通知をする。
【0037】
スナップショット履歴情報処理部228は、ユーザPC270から受信した映像フレームと描画画像とを関連付けて、スナップショット履歴情報データベース230のスナップショット履歴情報テーブルに登録する機能手段である。スナップショット履歴情報処理部228は、映像フレーム判別部226がユーザPC270から新たな映像フレームを受信したと判断した場合、スナップショット情報格納部218から最新の描画画像構成情報を取得し、当該描画画像構成情報と映像フレーム管理部222が取得した映像フレームとを関連付け、スナップショット履歴情報テーブルに保存する。
【0038】
スナップショット履歴情報データベース230は、スナップショット情報の履歴情報であるスナップショット履歴情報を登録するスナップショット履歴情報テーブルが格納される記憶手段である。スナップショット履歴情報データベース230は、スナップショット履歴情報処理部228の要求に応じて、そのスナップショット履歴情報テーブルのデータ内容が変更される。なお、スナップショット履歴情報テーブルについては、図5を参照して登録される情報と共に後述する。
【0039】
さらに、コントローラ202は、タッチパネル制御部232と、描画処理部234と、表示画像生成部236と、モード切替制御部238と、アプリケーション240と、スナップショット格納部242とを含む。
【0040】
タッチパネル制御部232は、タッチパネル260を制御し、描画画像構成情報を取得する機能手段である。タッチパネル制御部232は、第2の状態である描画画像表示モードが指定されている場合に、タッチパネル260を駆動し、その接触位置座標を取得して描画処理部234またはアプリケーション240に提供する。
【0041】
本実施形態では、タッチパネル制御部232として、タッチパネルを制御可能なデバイスドライバを採用することができる。タッチパネル制御部232は、描画画像を構成する線分の太さや色等の描画画像属性情報を指定可能なユーザインタフェースを表示部250に表示可能である。タッチパネル制御部232は、アプリケーション240が起動していない場合、接触位置座標および描画画像属性情報を描画画像構成情報として描画処理部234に提供する。
【0042】
一方、アプリケーション240が起動している場合、タッチパネル制御部232は、接触位置座標をアプリケーション240に送信する。本実施形態では、アプリケーション240の起動時または終了時に、アプリケーション240の起動通知または終了通知をタッチパネル制御部232に送信する。表示画像生成部236は、これらの通知を受信することによってアプリケーション240が起動しているか否か判断することができる。
【0043】
描画処理部234は、第2の状態である描画画像表示モードが指定されている場合に、描画画像構成情報をスナップショット情報格納部218に保存する機能手段である。描画処理部234は、タッチパネル制御部232から描画画像構成情報を受信すると、順次、スナップショット情報格納部218に保存する。これにより、スナップショット情報格納部218には、最新の描画画像構成情報が格納される。
【0044】
表示画像生成部236は、第2の状態である描画画像表示モードが指定されている場合に、表示部250に表示すべき画像(以下、「表示画像」とする。)を生成する機能手段である。表示画像生成部236は、アプリケーション240が起動していない場合、定期的にスナップショット情報格納部218から最新の映像フレームおよび描画画像構成情報を取得し、描画画像構成情報から描画画像を生成し、当該映像フレームと合成して表示画像を生成する。
【0045】
より詳細には、表示画像生成部236は、最新の映像フレームに対し、描画画像構成情報に含まれる各接触位置座標が示す座標位置の画素値を、描画画像属性情報が示す色に応じた画素値に変更することにより描画画像を生成することができる。また、線分の太さが指定されている場合には、接触位置座標が示す座標位置を中心とした所定の範囲を、描画画像属性情報が示す色に応じた画素値に変更して描画画像を生成することができる。当該所定の範囲は、線分の太さに応じて予め設定することができる。
【0046】
本実施形態では、アプリケーション240の起動時または終了時に、アプリケーション240の起動通知または終了通知を表示画像生成部236にも送信する。表示画像生成部236は、これらの通知を受信することによってアプリケーション240が起動しているか否か判断することができる。
【0047】
表示画像生成部236は、表示画像を生成すると、当該表示画像をスナップショットとしてスナップショット格納部242に保存すると共に、当該表示画像をアナログ信号に変換して表示出力制御部212に提供し、当該表示画像が表示部250に表示される。このとき、表示画像生成部236は、当該スナップショットを固有に識別可能な情報であるスナップショット識別情報を、メタデータとしてスナップショットに付加して保存する。本実施形態では、スナップショットの生成時間とスナップショットのデータ保存形式との結合をスナップショット識別情報として使用する。
【0048】
本実施形態では、表示画像生成部236は、映像フレーム管理部222が映像フレームを取得する間隔と同等またはそれよりも短い間隔で表示画像を生成し、表示部250に表示させることが好適である。
【0049】
また、表示画像生成部236は、アプリケーション240が起動している場合、アプリケーション240から受信したUI画面を形成するデジタル信号をアナログ信号に変換して表示画像を生成し、表示出力制御部212に提供する。
【0050】
モード切替制御部238は、画像表示装置200の動作モードの切替制御を行う機能手段である。モード切替制御部238は、ユーザが押下した操作ボタンの種別に応じて、または映像フレーム判別部226の命令に応じて動作モードを切り替える。本実施形態では、操作ボタン「A」が押下された場合には、モード切替制御部238は、画像表示装置200の動作モードを第1の状態である映像フレーム表示モードに切り替え、操作ボタン「B」が押下された場合には、画像表示装置200の動作モードを第2の状態である描画画像表示モードに切り替える。
【0051】
具体的には、第1の状態が指定された場合には、モード切替制御部238は、表示出力制御部212に対して、映像フレームを受信する入力端子に切り替える旨の命令を送付して表示出力制御部212の入力端子を切り替えさせる。また、モード切替制御部238は、描画処理部234に対して、描画処理部234を停止(Disable)する旨の命令を送付して、描画処理部234をDisable状態にする。
【0052】
一方、第2の状態が指定された場合には、モード切替制御部238は、表示出力制御部212に対して、描画画像を含む表示画像を受信する入力端子に切り替える旨の命令を送付して表示出力制御部212の入力端子を切り替えさせる。また、モード切替制御部238は、描画処理部234に対して、描画処理部234を起動(Enable)する旨の命令を送付して、描画処理部234をEnable状態またはDisable状態にする。
【0053】
アプリケーション240は、スナップショットをユーザが指定した類似度によって分類して表示部250に表示するアプリケーションプログラムである。アプリケーション240が有する機能手段については、図6を参照して詳細に説明する。
【0054】
図3は、本実施形態の画像表示装置が、第2の状態である描画画像表示モードが指定されたときに実行する処理を示すフローチャートである。以下、図3を参照して、描画画像表示モードが指定されたときに画像表示装置200が実行する処理について説明する。
【0055】
図3の処理は、ステップS300で開始し、ステップS301では、映像フレーム管理部222が、ユーザPC270から映像フレームを受信したか否か判断する。本実施形態では、映像フレームの受信の有無は、映像フレーム取得部216が映像フレームを取得したときに、映像フレームの取得の有無を示す専用レジスタの値を、映像フレームを取得したことを示す値に変更し、映像フレーム取得部216が当該専用レジスタの値を参照することにより判断できる。また、映像フレーム取得部216は、一定時間映像フレームを取得しない場合には、当該専用レジスタの値を、映像フレームを取得していないことを示す値に変更する。
【0056】
ステップS301で映像フレームが入力されていないと判断した場合には(no)、ステップS301の処理を反復させる。一方、映像フレームが入力されていると判断した場合には(yes)、処理をステップS302に分岐させる。ステップS302では、スナップショット履歴情報処理部228が、スナップショット履歴情報データベース230内のスナップショット履歴情報テーブルと、映像フレームの存否を示す割り込みフラグとを初期化する。本実施形態では、割り込みフラグを、映像フレームが存在することを示す値に設定することで初期化する。本実施形態では、初期値として「true」を使用する。
【0057】
ステップS302の処理が実行されると、次いで、ステップS303の処理およびステップS317の処理が実行される。
【0058】
ステップS317では、映像フレーム管理部222が、ユーザPC270から別の映像フレームを受信したか否か判断し、別の映像フレームを受信した場合には(yes)、ステップS317の処理を反復させる。一方、別の映像フレームを受信していない場合には(no)、処理をステップS318に分岐させ、割り込みフラグを、映像フレームを受信していないことを示す値に設定し、ステップS319で処理が終了する。本実施形態では、映像フレームを受信していないことを示す値として「False」を使用する。
【0059】
ステップS303では、映像フレーム管理部222は、映像フレームバッファメモリ224と、当該映像フレームバッファメモリ224に格納される映像フレームの映像フレーム識別情報が代入される映像フレーム格納変数とを初期化する。ステップS304では、映像フレーム管理部222は、割り込みフラグが初期値「true」であるか否か、すなわち、映像フレームを受信しているか否か判断する。割り込みフラグが初期値「true」でない場合には(no)、処理をステップS308に分岐させる。ステップS308では、スナップショット履歴情報処理部228が、スナップショット履歴情報データベース230内のスナップショット履歴情報テーブルの内容を、ログやジャーナル等として不揮発性の記憶装置に保存し、ステップS319で処理が終了する。
【0060】
一方、割り込みフラグが初期値「true」である場合には(yes)、処理をステップS305に分岐させ、ステップS305では、映像フレーム管理部222は、所定時間が経過したか否か判断する。所定時間が経過していない場合には(no)、ステップS305の処理を反復させる。一方、所定時間が経過した場合には(yes)、処理をステップS306に分岐させる。
【0061】
本実施形態では、ハードウェアタイマまたはソフトウェアタイマーを用いて時間を計測することができる。例えば、ステップS304で割り込みフラグが初期値「true」であると判断したときにタイマーに時間計測を開始させ、ステップS305においてタイマーの計測時間を取得することにより、所定時間(例えば、1/30秒等)が経過したか否か判断することができる。
【0062】
ステップS306では、映像フレーム管理部222は、映像フレーム取得部216を介してスナップショット情報格納部218から最新の映像フレームを取得し、その映像フレーム識別情報を映像フレーム格納変数に代入する。ステップS307では、映像フレーム判別部226が、映像フレームバッファメモリ224に既に格納されている映像フレームのうち最後に格納された映像フレーム(以下、直前の映像フレームとして参照する。)と、ステップS306で映像フレーム格納変数に格納された映像フレーム識別情報が示す映像フレームとが同一であるか否か判断する。ステップS307の判定で映像フレームが同一であると判断した場合には(yes)、処理をステップS304に分岐させ、一方、映像フレームが相違すると判断した場合には(no)、処理をステップS309に分岐させる。
【0063】
ステップS309では、映像フレーム判別部226は、映像フレーム管理部222を介して、映像フレーム格納変数が示す映像フレーム識別情報と当該映像フレーム識別情報が示す映像フレームとを映像フレームバッファメモリ224に追加する。ステップS310では、スナップショット履歴情報処理部228が、スナップショット履歴情報データベース230内のスナップショット履歴情報テーブルを参照し、映像フレーム格納変数に代入された映像フレーム識別情報が示す最新の映像フレームと同一の映像フレームが存在するか否か判断する。
【0064】
本実施形態では、スナップショット履歴情報処理部228は、映像フレーム判別部226が実行する映像フレームの同一性の判別方法を採用することができ、スナップショット履歴情報テーブルに登録された映像フレーム識別情報が示す映像フレームを映像フレームバッファメモリ224から順次取得し、当該方法を用いて最新の映像フレームと比較をする。また、他の実施形態では、スナップショット履歴情報処理部228が、映像フレーム判別部226に対して映像フレームの同一性を判別させることもでき、映像フレーム判別部226は、スナップショット履歴情報テーブルに登録された映像フレーム識別情報が示す映像フレームを映像フレームバッファメモリ224から順次取得して、最新の映像フレームと比較をする。
【0065】
ステップS310の判定で映像フレーム格納変数が示す映像フレームと同一の映像フレームが存在しないと判断した場合には(no)、処理をステップS311に分岐させる。ステップS311では、スナップショット履歴情報処理部228は、スナップショット情報格納部218に描画画像構成情報が保存されているか否か判断する。描画画像構成情報が保存されていない場合には(no)、処理をステップS314に分岐させる。一方、描画画像構成情報が保存されている場合には(yes)、処理をステップS312に分岐させる。
【0066】
ステップS312では、スナップショット履歴情報処理部228は、スナップショット情報格納部218から最新の描画画像構成情報を取得し、映像フレーム格納変数が示す映像フレーム識別情報と関連付けてスナップショット履歴情報テーブルに登録する。ステップS313では、スナップショット履歴情報処理部228は、スナップショット情報格納部218に保存されている描画画像構成情報を削除する。
【0067】
ステップS314では、スナップショット履歴情報処理部228は、モード切替制御部238に対して画像表示装置の動作モードを第1の状態に切り替える旨の命令を送信し、モード切替制御部238が動作モードを切り替える。ステップS314の処理が終了すると、ステップS304の処理が実行される。
【0068】
一方、ステップS310の判定で映像フレーム格納変数が示す映像フレームと同一の映像フレームが存在すると判断した場合には(yes)、処理をステップS315に分岐させる。ステップS315では、スナップショット履歴情報処理部228は、スナップショット履歴情報テーブルを参照して、ステップS310で同一と判断した映像フレームに関連付けられた描画画像構成情報を取得し、スナップショット情報格納部218に保存する。これにより、過去に画像表示装置に表示された背景画像が再び表示された場合、その背景画像に関連付けられた描画画像を当該背景画像と共に再度表示することができる。
【0069】
ステップS316では、スナップショット履歴情報処理部228は、モード切替制御部238に対して画像表示装置の動作モードを第2の状態に切り替える旨の命令を送信し、モード切替制御部238が動作モードを切り替える。ステップS316の処理が終了すると、ステップS304の処理が実行される。
【0070】
図4は、本実施形態の画像表示装置の使用状態を示す図である。画像表示装置400の表示部には、PC420に表示された映像フレーム422と同一の映像フレーム410と、ユーザが描いた描画画像412とが重畳して表示されている。本実施形態では、描画画像412の接触位置座標は、画像表示装置420の表示部の左上点を原点とする座標値として与えられる。
【0071】
図5は、本実施形態の画像表示装置が使用するスナップショット履歴情報テーブル500を示す。スナップショット履歴情報テーブル500は、登録時間510と、映像フレーム識別情報512と、描画画像構成情報514とが関連付けて登録される。
【0072】
登録時間510は、スナップショット情報がスナップショット履歴情報データベース230に登録された時間である。図5に示す実施形態では、スナップショット情報が西暦の日付で秒単位まで表されている。他の実施形態では、和暦を用いて登録時間を表してもよく、またミリ秒単位で表してもよい。
【0073】
映像フレーム識別情報512は、画像表示装置が受信した映像フレームを固有に識別可能な情報である。図5に示す実施形態では、映像フレーム識別情報として、数字列および映像フレームの保存形式を示す文字列の結合を使用しているが、他の実施形態では、他の数字列、文字列および/またはこれらの結合を使用してもよい。
【0074】
描画画像構成情報514は、ユーザがタッチパネルを使用して描いた描画画像を構成する情報である。描画画像構成情報は、ユーザがタッチパネルに接触した位置を示す情報を含んでおり、画像表示装置の表示部上の座標値を使用して表すことができる。図5に示す実施形態では、描画画像構成情報として描画画像を表示すべき座標値のみが示されているが、他の実施形態では、座標値に加えて、描画画像の表示色や線分の太さ等の描画画像の属性情報を映像フレーム識別情報と関連付けて登録してもよい。
【0075】
図6は、本実施形態の画像表示装置200が有するアプリケーション240の機能構成を示す図である。以下、図6を参照して、アプリケーション240の機能構成について説明する。
【0076】
アプリケーション240は、表示制御部610と、類似度算出部612と、記憶装置614と、パラメータ取得部616と、クラスタリング部618とを含んで構成される。
【0077】
表示制御部610は、ユーザが既に表示された表示画像であるスナップショットを選択的に表示するUI画面を生成して表示部250に表示させる。表示制御部610は、UI画面を生成する場合、実際にUI画面に表示されるスナップショット群やスナップショットに関する情報(以下、「表示情報」とする。)を、RAMやキャッシュ等の記憶装置の記憶領域(以下、「表示情報保存領域」とする。)に保存する。
【0078】
本実施形態の表示情報保存領域には、(1)UI画面のオブジェクトとして表示されるスナップショット群の識別情報やスナップショットの識別情報、(2)ユーザが選択したスナップショット群の識別情報またはスナップショットの識別情報、(3)UI画面上に表示されるスナップショット群またはスナップショットの配置情報(例えば、左側、中央、右側等の配置情報)、(4)スナップショット群の最前面に表示されるスナップショットの識別情報が保存される。
【0079】
表示制御部610は、ユーザがUI画面上でタッチパネルに接触することによって生成された接触位置座標をタッチパネル制御部232から取得し、当該接触位置座標を用いて、ユーザがUI画面で行った操作内容を判断することができる。表示制御部610は、ユーザの操作内容に応じて、後述する各種処理を実行する。
【0080】
本実施形態では、UI画面は種々のオブジェクトで構成されており、表示制御部610は、各オブジェクトが有する座標領域と接触位置座標とを比較し、当該接触位置座標がオブジェクトの座標領域に含まれるか否か判断することにより、いずれのオブジェクトが選択されたか判断し、選択されたオブジェクトの種類により、ユーザが行った操作内容を判断することができる。なお、表示制御部610が生成するUI画面やそのオブジェクト、これに関連付けられた操作内容については、より詳細に後述する。
【0081】
類似度算出部612は、スナップショット相互の類似度を示す値(以下、「類似度値」とする。)を算出する機能手段である。類似度算出部612は、スナップショット格納部242からスナップショットを取得し、スナップショットの類似度値を算出する。本実施形態では、類似度算出部612は、ユーザが選択した分類条件に応じて、以下の数式2〜数式4を使用して類似度値を算出する。本実施形態では、算出された類似度値が低い程、スナップショット相互の類似度は高く、各スナップショットは類似する。
【0082】
類似度算出部612は、分類条件としてスナップショットの生成時間の近似性によって分類する条件である「時間」が選択されている場合、数式2を使用して類似度値を算出する。
【0083】
【数2】
ここで、taは、第1のスナップショットAの生成時間を示し、taは、第2のスナップショットBの生成時間を示す。本実施形態では、第1のスナップショットAと第2のスナップショットBとの生成時間の差分時間tを類似度値として使用する。
【0084】
類似度算出部612は、分類条件としてスナップショットの類似性によって分類する条件である「背景」が選択されている場合、数式3を使用して類似度値を算出する。
【0085】
【数3】
ここで、dは、比較すべきスナップショット間のカラーヒストグラムのユークリッド距離を示す。R,G,Bは、各色区間の色分布の範囲を示し、A(r,g,b)およびB(r,g,b)は、第1のスナップショットAおよび第2のスナップショットBの色分布の範囲における画素数を示す。本実施形態では、第1のスナップショットAと、第2のスナップショットBとのカラーヒストグラムのユークリッド距離dを類似度値として使用する。
【0086】
類似度算出部612は、分類条件として「時間」および「背景」が選択されている場合、数式4を使用して類似度値を算出する。
【0087】
【数4】
ここで、tは、数式2で導出される差分時間を示し、dは、数式3で導出されるユークリッド距離を示す。μtはtの平均を示し、δtはtの標準偏差を示す。μdはdの平均を示し、δdはdの標準偏差を示す。本実施形態では、スナップショットの差分時間と、ユークリッド距離とを正規化した値の和を類似度値として使用する。
【0088】
本実施形態では、スナップショット格納部242に格納されたスナップショットには、新たに保存された未だ類似度値が算出されていないスナップショットであることを示す情報がメタデータとして付加されており、類似度算出部612は、新たに保存されたスナップショットと、スナップショット格納部242に格納された他のスナップショットとの類似度値を算出する。類似度算出部612は、算出したスナップショットの類似度値を記憶装置614に格納された類似度テーブルに保存する。
【0089】
パラメータ取得部616は、UI画面を用いてユーザが指定したパラメータを取得する機能手段である。表示制御部610は後述するクラスタリング処理で使用されるパラメータを指定するUI画面上のオブジェクトが選択されると、当該パラメータをパラメータ取得部616に提供し、パラメータ取得部616は、当該パラメータを保存すべきRAMやキャッシュ等の記憶装置の記憶領域(以下、「パラメータ保存領域」とする。)一時的に保存する。本実施形態では、パラメータとして、後述するクラスタリング処理の対象となるスナップショットの識別情報、分類条件および類似度値がパラメータ保存領域に保存される。
【0090】
クラスタリング部618は、スナップショット格納部242に保存されているスナップショットをクラスタリングする機能手段である。クラスタリングとは、ユーザが指定した分類条件および類似度値に応じて、スナップショットを分類する処理である。クラスタリング部618は、UI画面に表示されている或るスナップショットを基準とし、記憶装置614に格納された類似度テーブルを参照し、ユーザが指定した分類条件および類似度値を用いてスナップショットをクラスタリングする。
【0091】
クラスタリング部618は、クラスタリングの結果をRAMやキャッシュ等の記憶装置の記憶領域(以下、「クラスタリング結果保存領域」とする。)に保存する。本実施形態では、クラスタリング結果保存領域には、クラスタリング処理結果として生成されたスナップショット群の識別情報と、当該スナップショット群を構成するスナップショットのスナップショット識別情報とが関連付けて保存される。そして、表示制御部610は、クラスタリング結果保存領域を参照し、分類されたスナップショット群毎に、当該スナップショット群を構成するスナップショットのサブネイルを、その生成時間の降順で重畳したUI画面を生成することができる。
【0092】
図7は、本実施形態の画像表示装置200が有するアプリケーション240が実行する処理を示すフローチャートである。以下、図7を参照して、アプリケーション240が実行する処理について説明する。
【0093】
図7の処理は、アプリケーション240が起動することによりステップS700で開始する。ステップS701では、アプリケーション240の類似度算出部612が、スナップショット格納部242に格納されたスナップショットの類似度値を算出し、記憶装置614に格納されている類似度テーブルに登録する。ステップS702では、表示制御部610がクラスタリング部618を呼び出し、クラスタリング部618は、所定の分類条件に対応する類似度テーブルを参照し、特定のスナップショットを基準スナップショットとして所定の類似度値でスナップショットに対して、図10に示すクラスタリング処理を実行する。
【0094】
ステップS703では、表示制御部610が、クラスタリングしたスナップショット群を表示するUI画面を生成し、UI画面に表示するスナップショット群の識別情報およびこれを構成するスナップショットの識別情報を表示情報保存領域に保存する。そして、表示制御部610は、当該UI画面を表示画面生成部236に提供して画像表示装置200の表示部250に初期画面を表示させる。
【0095】
本実施形態では、初期画面を生成時に、所定の分類条件および類似度値を使用してスナップショットをクラスタリングすることができる。このとき、クラスタリング処理において類似度の判断の基準となるスナップショット(以下、「基準スナップショット」とする。)として任意のスナップショットを採用することができる。本実施形態では、スナップショット識別情報を参照し、生成時間が最新のスナップショットを基準スナップショットとする。
【0096】
ステップS704では、表示制御部610は、タッチパネル制御部232から接触位置座標を受信したか否か判断する。接触位置座標を受信していないと判断した場合には(no)、ステップS704の処理を反復させる。一方、接触位置座標を受信したと判断した場合には(yes)、処理をステップS705に分岐させる。ステップS705では、表示制御部610は、接触位置座標を使用して、UI画面を構成するオブジェクトが選択されたか否か判断する。オブジェクトが選択されていないと判断した場合には(no)、処理をステップS704に分岐させる。一方、オブジェクトが選択されたと判断した場合には(yes)、処理をステップS706に分岐させる。
【0097】
ステップS706では、表示制御部610は、選択されたオブジェクトの種類からユーザがUI画面を用いて行った操作内容を判断する。操作内容がスナップショットのスクロール指示であると判断した場合、処理をステップS707に分岐させる。ステップS707では、表示制御部610は、スクロール指示に応じたUI画面を生成し、UI画面に表示するスナップショット群の識別情報および/またはスナップショットの識別情報をこれらの配置情報と共に、表示情報記憶領域に保存する。そして、表示制御部610は、当該UI画面を表示画像生成部236に提供して表示部250の表示画面を更新し、処理をステップS704に戻す。
【0098】
ステップS706の判定で、操作内容がスナップショットの拡大表示の指示であると判断した場合、処理をステップS708に分岐させる。本実施形態では、同一のスナップショットが短時間に連続して選択されたときに、当該スナップショットの拡大表示が指示されていると判断する。具体的には、ステップS704で同一のスナップショットの接触位置座標を所定の時間内に2つ受信した場合には、当該スナップショットの拡大表示が指示されていると判断することができる。ステップS708では、表示制御部610は、ユーザが選択したスナップショットを拡大表示したUI画面を生成し、当該UI画面を表示画像生成部236に提供して表示部250の表示画面を更新し、処理をステップS704に戻す。
【0099】
ステップS706の判定で、操作内容がスナップショット群の選択であると判断した場合、処理をステップS709に分岐させる。ステップS709では、表示制御部610は、選択されたオブジェクトの種類(例えば、画面左側のスナップショット群を表示するオブジェクト、画面中央のスナップショット群を表示するオブジェクト、画面右側のスナップショット群を表示するオブジェクト)からいずれのスナップショット群またはスナップショットが選択されたか否か判断し、ユーザが選択したスナップショット群またはスナップショットが選択されている状態のUI画面を生成する。そして、表示制御部610は、当該UI画面を表示画像生成部236に提供して表示部250の表示画面を更新する。ステップS710では、表示制御部610は、表示情報保存領域を参照して、スナップショット群の配置情報から当該選択されたスナップショット群またはスナップショットの識別情報を特定し、ユーザが選択したスナップショット群またはスナップショットの識別情報として、表示情報保存領域に保存し、処理をステップS704に戻す。
【0100】
ステップS706の判定で、操作内容が分類条件の選択または類似度値の変更であると判断した場合、処理をステップS711に分岐させる。ステップS711では、表示制御部610は、当該分類条件および類似度値に基づいて、UI画面に表示されているスナップショットを変更するスナップショット表示変更処理を実行し、処理をステップS704に戻す。なお、スナップショット表示変更処理については、図8を参照して詳細に説明する。
【0101】
ステップS706の判定で、操作内容がアプリケーション240の終了指示であると判断した場合、処理をステップS712に分岐させ、アプリケーション240が終了する。
【0102】
図8は、本実施形態の画像表示装置200が有するアプリケーション240が実行するスナップショット表示変更処理を示すフローチャートである。以下、図8を参照してスナップショット表示変更処理について説明する。
【0103】
図8の処理は、ステップS800から開始し、ユーザの行った操作内容が分類条件の選択である場合、処理をステップS801に分岐させる。一方、ユーザがした操作内容が類似度値の変更である場合、処理をステップS808に分岐させる。
【0104】
ステップS801では、表示制御部610は、ユーザが指定した分類条件(すなわち、時間、背景、または時間および背景)のオブジェクトが選択されている状態のUI画面を生成する。ステップS802では、表示制御部610は、当該UI画面を表示画像生成部236に提供して表示部250の表示画面を更新する。ステップS803では、表示制御部610は、クラスタリング対象であるスナップショット格納部242に保存されているスナップショットの識別情報、UI画面で指定された分類条件および類似度値をパラメータ取得部616に提供し、パラメータ取得部616は、これらの情報をパラメータ保存領域に一時的に保存する。
【0105】
ステップS804では、クラスタリング部618は、表示情報保存領域を参照し、基準スナップショットを特定する。本実施形態では、UI画面に表示されているスナップショットのうちUI画面の中央最前面に表示されているスナップショットを基準スナップショットとすることができる。他の実施形態では、UI画面に表示されたスナップショット群の中からユーザが指定したスナップショットを基準スナップショットとしてもよい。
【0106】
ステップS805では、クラスタリング部618は、スナップショット格納部242に保存されているスナップショットについて、図10を参照して説明するクラスタリング処理を実行する。ステップS806では、表示制御部610は、クラスタリング処理の結果を反映したUI画面を生成し、UI画面上に表示するスナップショット群の識別情報および/またはスナップショットの識別情報をこれらの配置情報と共に、表示情報記憶領域に保存する。ステップS807では、表示制御部610は、当該UI画面を表示画像生成部236に提供して表示部250の表示画面を更新し、ステップS819で処理が終了する。
【0107】
ステップS808では、表示制御部610は、ユーザが指定した位置に類似度値を指定するオブジェクトが表示されている状態のUI画面を生成する。ステップS809では、表示制御部610は、当該UI画面を表示画像生成部236に提供して表示部250の表示画面を更新する。ステップS810では、表示制御部610は、表示情報記憶領域を参照し、UI画面上のスナップショット群が選択されているか判断する。UI画面上のスナップショット群が選択されていると判断した場合には(yes)、処理をステップS811に分岐させる。
【0108】
ステップS811では、表示制御部610は、クラスタリング対象であるスナップショットのスナップショット識別情報、指定された分類条件および類似度値をパラメータ取得部616に提供し、パラメータ取得部616は、これらの情報をパラメータ保存領域に一時的に保存する。本実施形態では、ステップS810で選択されていると判断したスナップショット群を構成するスナップショットをクラスタリング処理の対象とする。
【0109】
ステップS812では、選択されたスナップショット群の中から基準スナップショットを特定する。本実施形態では、当該スナップショット群のうちUI画面の最前面に表示されたスナップショットを基準スナップショットとすることができる。他の実施形態では、当該選択されたスナップショット群の中からユーザが指定したスナップショットを基準スナップショットとしてもよい。
【0110】
ステップS813では、クラスタリング部618が、UI画面上で選択されているスナップショット群に対して、図10に示すクラスタリング処理を実行する。
【0111】
一方、ステップS810の判定でUI画面上のスナップショット群が選択されていないと判断した場合には(no)、処理をステップS814に分岐させる。ステップS814では、表示制御部610は、クラスタリング対象であるスナップショット格納部242に保存されているスナップショットの識別情報、UI画面で指定された分類条件および類似度値をパラメータ取得部616に提供し、パラメータ取得部616は、これらの情報をパラメータ保存領域に一時的に保存する。
【0112】
ステップS815では、UI画面に表示されたスナップショット群の中から基準スナップショットを特定する。本実施形態では、UI画面の中央最前面に表示されたスナップショットを基準スナップショットとすることができる。他の実施形態では、UI画面に表示されたスナップショット群の中からユーザが指定したスナップショットを基準スナップショットとしてもよい。
【0113】
ステップS816では、クラスタリング部618は、スナップショット格納部242に保存されているスナップショットについて、図10に示すクラスタリング処理を実行する。ステップS817では、表示制御部610は、クラスタリング処理の結果を反映したUI画面を生成し、UI画面上に表示するスナップショット群の識別情報および/またはスナップショットの識別情報をこれらの配置情報と共に、表示情報記憶領域に保存する。ステップS818では、表示制御部610は、当該UI画面を表示画像生成部236に提供して表示部250の表示画面を更新し、ステップS819で処理が終了する。
【0114】
図9は、本実施形態のアプリケーションが使用する類似度テーブル900を示す。本実施形態では、スナップショット格納部242に保存されているスナップショットに対して、上記数式2〜数式4を使用して算出した類似度値が類似度テーブルにされ、分類条件の種別に対応する類似度テーブル、すなわち、時間用の類似度テーブル、背景用の類似テーブル、時間および背景用の類似テーブルが使用される。
【0115】
類似度テーブル900では、スナップショット格納部242に保存されたスナップショットのスナップショット識別情報と、スナップショット相互の類似度値とが登録される。例えば、スナップショット識別情報「2011.1.12.10:02:42.bmp」が示すスナップショットと、スナップショット識別情報「2011.1.12.10:02:43.bmp」が示すスナップショットとの類似度値は、「0.3」である。
【0116】
アプリケーション240は、基準スナップショットと、ユーザがUI画面で指定した類似度値と、類似度テーブル900に登録されている類似度値とを使用して、スナップショットをクラスタリングする。具体的には、スナップショット識別情報「2011.1.12.10:02:45.bmp」が示すスナップショットを基準とし、ユーザが指定した類似度値が「1.0」である場合、アプリケーション240は、先ず類似度値が「0」以上「1.0」未満の範囲にあるスナップショットを抽出する。図9に示す実施形態では、スナップショット識別情報「2011.1.12.10:02:42.bmp」および「2011.1.12.10:02:43.bmp」が示すスナップショットの類似度値が、当該範囲に含まれるため、これらのスナップショットが同一のクラスタに分類される。
【0117】
次いで、アプリケーション240は、類似度値が「1.0」以上「2.0」未満の範囲にあるスナップショットを抽出する。図9に示す実施形態では、当該範囲に含まれるスナップショットが存在しないため、アプリケーション240は、次の類似度値の範囲である「2.0」以上「3.0」未満の範囲についてクラスタリングを行う。図9に示す実施形態では、スナップショット識別情報「2011.1.12.10:02:44.bmp」が示すスナップショットの類似度値が、上記範囲に含まれるため、当該スナップショットが同一のクラスタに分類される。アプリケーション240は、クラスタリングの対象のスナップショットが総て分類されるまで上述した処理を繰り返し実行し、スナップショットをクラスタリングする。
【0118】
図9に示す実施形態では、スナップショット識別情報として、スナップショットが保存された時刻情報とスナップショットの保存形式との結合を使用しているが、他の実施形態では、他の数字列、文字列および/またはこれらの結合を使用してもよい。
【0119】
図10は、本実施形態の画像表示装置200が有するアプリケーション240が実行するスナップショットのクラスタリング処理を示すフローチャートである。以下、図10を参照してクラスタリング処理について説明する。
【0120】
図10の処理は、ステップS1000から開始し、ステップS1001でクラスタリング部618が、パラメータ保存領域を参照し、分類条件の種類を判断する。分類条件が「時間」であると判断した場合、処理をステップS1002に分岐させる。
【0121】
ステップS1002では、クラスタリング部618は、時間用の類似度テーブルを参照し、パラメータ保存領域に格納されたスナップショット識別情報および類似度値を使用して、クラスタリング対象のスナップショットについて、UI画面で指定された類似度値に基づく類似度値範囲にあるスナップショットを生成時間順に分類する。そして、分類されたスナップショット群の識別情報および当該スナップショット群を構成するスナップショットのスナップショット識別情報をクラスタリング結果保存領域に保存する。
【0122】
ステップS1003では、クラスタリング部618は、パラメータ保存領域に保存されたクラスタリング対象のスナップショットのスナップショット識別情報と、クラスタリング結果保存領域に保存された既にクラスタリングされたスナップショットのスナップショット識別情報とを使用して、クラスタリング対象のスナップショットが総て分類されたか否か判断する。総てのスナップショットが分類されたと判断した場合には(yes)、処理をステップS1011に分岐させて終了させる。一方、総てのスナップショットが分類されていないと判断した場合には(no)、処理をステップS1004に分岐させる。
【0123】
ステップS1004では、クラスタリング部618は、パラメータ保存領域に保存されたスナップショット識別情報と、ステップS1002でクラスタリング結果保存領域に保存されたスナップショット識別情報とを使用して、未だクラスタリングしていないスナップショットを判断する。そして、クラスタリング部618は、時間用の類似度テーブルを参照し、当該スナップショットについて、パラメータ保存領域に保存された類似度値に基づく別の類似度値範囲にあるスナップショットを生成時間順に分類し、その結果をクラスタリング結果保存領域に保存し、処理をステップS1003に戻す。クラスタリング部618は、クラスタリング対象のスナップショットが総て分類されるまで、ステップS1004の処理を反復させる。
【0124】
ステップS1001の判定で分類条件が「背景」であると判断した場合、処理をステップS1005に分岐させる。ステップS1005では、クラスタリング部618は、背景用の類似度テーブルを参照し、パラメータ保存領域に保存されたスナップショットの識別情報および類似度値を使用して、クラスタリング対象のスナップショットについて、指定された類似度値に基づく類似度値範囲にあるスナップショットを生成時間順に分類する。そして、分類されたスナップショット群の識別情報および当該スナップショット群を構成するスナップショットのスナップショット識別情報をクラスタリング結果保存領域に保存する。
【0125】
ステップS1006では、クラスタリング部618は、ステップS1003と同様に、クラスタリング対象であるスナップショットが総て分類されたか否か判断する。総てのスナップショットが分類されたと判断した場合には(yes)、処理をステップS1011に分岐させて終了させる。一方、総てのスナップショットが分類されていないと判断した場合には(no)、処理をステップS1007に分岐させる。
【0126】
ステップS1007では、クラスタリング部618は、パラメータ保存領域に保存されたスナップショット識別情報と、ステップS1005でクラスタリング結果保存領域に保存されたスナップショット識別情報とを使用して、未だクラスタリングしていないスナップショットを判断する。そして、クラスタリング部618は、背景用の類似度テーブルを参照し、当該スナップショットについて、パラメータ保存領域に保存された類似度値に基づく別の類似度値範囲にあるスナップショットを生成時間順に分類し、その結果をクラスタリング結果保存領域に保存し、処理をステップS1006に戻す。クラスタリング部618は、クラスタリング対象のスナップショットが総て分類されるまで、ステップS1007の処理を反復させる。
【0127】
ステップS1001の判定で分類条件が「時間」および「背景」であると判断した場合、処理をステップS1008に分岐させる。ステップS1008では、クラスタリング部618は、時間および背景用の類似度テーブルを参照し、パラメータ保存領域に保存されたスナップショット識別情報および類似度値を使用して、クラスタリング対象のスナップショットについて、指定された類似度値に基づく類似度値範囲にあるスナップショットを生成時間順に分類する。そして、分類されたスナップショット群の識別情報および当該スナップショット群を構成するスナップショットのスナップショット識別情報をクラスタリング結果保存領域に保存する。
【0128】
ステップS1009では、クラスタリング部618は、ステップS1003と同様に、クラスタリング対象であるスナップショットが総て分類されたか否か判断する。総てのスナップショットが分類されたと判断した場合には(yes)、処理をステップS1011に分岐させて終了させる。一方、総てのスナップショットが分類されていないと判断した場合には(no)、処理をステップS1010に分岐させる。
【0129】
ステップS1010では、クラスタリング部618は、パラメータ保存領域に保存されたスナップショット識別情報と、ステップS1008でクラスタリング結果保存領域に保存されたスナップショット識別情報とを使用して、未だクラスタリングしていないスナップショットを判断する。そして、クラスタリング部618は、時間および背景用の類似度テーブルを参照し、当該スナップショットについて、パラメータ保存領域に保存された類似度値に基づく別の類似度値範囲にあるスナップショットを生成時間順に分類し、その結果をクラスタリング結果保存領域に保存し、処理をステップS1009に戻す。クラスタリング部618は、クラスタリング対象のスナップショットが総て分類されるまで、ステップS1010の処理を反復させる。
【0130】
図11は、本実施形態のアプリケーションが画像表示装置に表示するUI画面の一実施形態を示す図である。図11に示すUI画面1100では、UI画面を構成する種々のオブジェクトが配置される。
【0131】
オブジェクト1110,1112,1114は、クラスタリング処理によって分類されたスナップショット群またはスナップショットである。当該オブジェクトは、当該スナップショット群を構成するスナップショットのサブネイルが重畳して形成される。本実施形態では、スナップショット群は、時系列に配列して表示されると共に、スナップショットのサブネイルは、その生成時間の降順で重畳表示される。この場合、アプリケーション240は、各スナップショット群の最前面に配置される最新のスナップショットの生成時間を比較し、スナップショット群を時系列表示することができる。他の実施形態では、スナップショット群内のスナップショットのサブネイルを生成時間の昇順で表示してもよい。さらに他の実施形態では、スナップショットの類似度順でサブネイルを表示してもよい。
【0132】
オブジェクト1116,1118は、UI画面1100に表示されたスナップショット群またはスナップショットをスクロールさせるオブジェクトである。当該オブジェクトが選択されると、その時点でUI画面1100に表示されていない他のスナップショット群またはスナップショットが表示される。
【0133】
オブジェクト1120,1122は、クラスタリング処理で使用する分類条件を指定するオブジェクトである。オブジェクト1120は、分類条件「時間」を選択するチェックボックスであり、オブジェクト1122は、分類条件「背景」を選択するチェックボックスである。本実施形態では、ユーザがオブジェクト1120,1122を選択すると、これらのチェックボックスにチェックマークが表示される。他の実施形態では、ユーザが選択したチェックボックスの表示色を変更して、選択の有無を明示してもよい。
【0134】
オブジェクト1124は、クラスタリング処理で使用する類似度値を指定するオブジェクトである。オブジェクト1124は、スライドバー1126に沿って左右に移動表示させることができる。スライドバー1126には、その位置座標に関連付けて類似度値が割り当てられており、ユーザが触れたスライドバー1126上の位置座標に対応する類似度値を、指定された類似度値とすることができる。
【0135】
UI画面1100では、スライドバー1126の左側を指定するとクラスタリングの精度が細かくなり、右側を指定すると精度が粗くなるように構成される。他の実施形態では、精度の指定方法の左右を反対に構成してもよい。ユーザは、オブジェクト1124およびスライドバー1126を使用することにより、スナップショットのクラスタリングの精度や粒度を指定することができる。
【0136】
本実施形態のアプリケーション240は、クラスタリングの精度を最細に指定された場合、オブジェクト1110,1112,1114が1のスナップショットで構成されるようにUI画面1100を生成する。一方、クラスタリングの精度を最細に指定された場合、アプリケーション240は、総てのスナップショットを1のスナップショット群とするオブジェクト1112が表示されるUI画面1100を生成する。
【0137】
図12は、本実施形態のアプリケーションが画像表示装置に表示するUI画面の他の実施形態を示す図である。図12に示すUI画面1200では、図11に示すUI画面1100と同様に、UI画面を構成する種々のオブジェクトが配置される。なお、オブジェクト1210〜1218は、UI画面1100に含まれるオブジェクト1110〜1118と同様であるため、以下、説明を省略する。
【0138】
オブジェクト1220は、クラスタリング処理で使用する第1の分類条件を指定するオブジェクトである。オブジェクト1220は、ドロップダウンリストで構成されている。オブジェクト1220には、分類条件として「時間」または「背景」が表示され、ユーザが選択的に分類条件を指定することができる。
【0139】
オブジェクト1224は、第1の分類条件に対応する類似度値を指定するオブジェクトである。オブジェクト1224は、図11に示す実施形態と同様に、スライドバー1226に沿って左右に移動表示させることができ、ユーザが触れたスライドバー1226上の位置座標に対応する類似度値を、指定された類似度値とすることができる。
【0140】
オブジェクト1222は、クラスタリング処理で使用する第2の分類条件を指定するオブジェクトである。オブジェクト1222は、ドロップダウンリストで構成されている。オブジェクト1222には、分類条件として「時間」、「背景」または「×」が表示され、ユーザが選択的に分類条件を指定し、または未指定とすることができる。
【0141】
オブジェクト1228は、第2の分類条件に対応する類似度値を指定するオブジェクトである。オブジェクト1228は、図11に示す実施形態と同様に、スライドバー1230に沿って左右に移動表示させることができ、ユーザが触れたスライドバー1230上の位置座標に対応する類似度値を、指定された類似度値とすることができる。
【0142】
本実施形態では、表示制御部610は、第1の分類条件および類似度値と、第2の分類条件および類似度値とをパラメータ取得部616に提供し、パラメータ取得部616は、これらのパラメータをパラメータ記憶領域に一時的に保存する。クラスタリング部618は、パラメータ記憶領域から、第1の分類条件および類似度値と、第2の分類条件および類似度値とを取得し、第1の分類条件を優先してスナップショットを分類する。
【0143】
図13は、図12に示すUI画面を生成するアプリケーション240が実行するクラスタリング処理の他の実施形態を示すフローチャートである。以下、図13を参照してクラスタリング処理の他の実施形態について説明する。
【0144】
図13の処理は、ステップS1300から開始し、ステップS1301でクラスタリング部618が、パラメータ保存領域を参照し、第1の分類条件を判断する。第1の分類条件が「時間」であると判断した場合、処理をステップS1302に分岐させる。一方、第1の分類条件が「背景」であると判断した場合、処理をステップS1309に分岐させる。
【0145】
ステップS1302では、クラスタリング部618は、時間用の類似度テーブルを参照し、パラメータ保存領域に保存されたスナップショット識別情報および類似度値を使用して、クラスタリング対象のスナップショットについて、UI画面で指定された類似度値に基づく類似度値範囲にあるスナップショットを生成時間順に分類する。そして、分類されたスナップショット群の識別情報および当該スナップショット群を構成するスナップショットのスナップショット識別情報をクラスタリング結果保存領域に保存する。
【0146】
ステップS1303では、クラスタリング部618は、パラメータ保存領域に保存されたクラスタリング対象のスナップショットのスナップショット識別情報と、クラスタリング結果保存領域に保存された既にクラスタリングされたスナップショットのスナップショット識別情報とを使用して、クラスタリング対象であるスナップショットが総て分類されたか否か判断する。
【0147】
総てのスナップショットが分類されていないと判断した場合には(no)、処理をステップS1304に分岐させる。ステップS1304では、クラスタリング部618は、パラメータ保存領域に保存されたスナップショット識別情報と、ステップS1302でクラスタリング結果保存領域に保存されたスナップショット識別情報とを使用して、未だクラスタリングしていないスナップショットを判断する。そして、クラスタリング部618は、時間用の類似度テーブルを参照し、当該スナップショットについて、パラメータ保存領域に保存された類似度値に基づく別の類似度値範囲にあるスナップショットを生成時間順に分類し、その結果をクラスタリング結果保存領域に保存し、処理をステップS1303に戻す。クラスタリング部618は、クラスタリング対象の総てのスナップショットが分類されるまで、ステップS1304の処理を反復させる。
【0148】
一方、ステップS1303の判定で、総てのスナップショットが分類されたと判断した場合には(yes)、処理をステップS1305に分岐させる。ステップS1305では、クラスタリング部618は、パラメータ保存領域を参照し、第2の分類条件を判断する。第2の分類条件が「時間」または「無し」であると判断した場合、処理をステップS1316に分岐させて終了させる。一方、第2の分類条件が「背景」であると判断した場合、処理をステップS1306に分岐させる。
【0149】
ステップS1306では、クラスタリング部618は、背景用の類似度テーブルを参照し、上記ステップS1302およびステップS1304の処理でクラスタリングしたスナップショット群について、パラメータ保存領域に保存されたスナップショット識別情報および類似度値を使用して、UI画面で指定された類似度値に基づく類似度値範囲にあるスナップショットを生成時間順に分類する。そして、分類されたスナップショット群の識別情報および当該スナップショット群を構成するスナップショットのスナップショット識別情報をクラスタリング結果保存領域に保存する。
【0150】
ステップS1307では、クラスタリング部618は、ステップS1303と同様に、クラスタリング対象であるスナップショットが総て分類されたか否か判断する。総てのスナップショットが分類されたと判断した場合には(yes)、処理をステップS1316に分岐させて終了させる。一方、総てのスナップショットが分類されていないと判断した場合には(no)、処理をステップS1308に分岐させる。
【0151】
ステップS1308では、クラスタリング部618は、パラメータ保存領域に保存されたスナップショット識別情報と、ステップS1306でクラスタリング結果保存領域に保存されたスナップショット識別情報とを使用して、未だ分類条件「背景」でクラスタリングしていないスナップショットを判断する。そして、クラスタリング部618は、背景用の類似度テーブルを参照し、当該スナップショットについて、パラメータ保存領域に保存された類似度値に基づく別の類似度値範囲にあるスナップショットを生成時間順に分類して、その結果をクラスタリング結果保存領域に保存し、処理をステップS1307に戻す。クラスタリング部618は、クラスタリング対象のスナップショットが総て分類されるまで、ステップS1308の処理を反復させる。
【0152】
ステップS1309では、クラスタリング部618は、背景用の類似度テーブルを参照し、パラメータ保存領域に保存されたスナップショット識別情報および類似度値を使用して、クラスタリング対象のスナップショットについて、UI画面で指定された類似度値に基づく類似度値範囲にあるスナップショットを生成時間順に分類する。そして、分類されたスナップショット群の識別情報および当該スナップショット群を構成するスナップショットのスナップショット識別情報をクラスタリング結果保存領域に保存する。
【0153】
ステップS1310では、クラスタリング部618は、ステップS1303と同様に、クラスタリング対象であるスナップショットが総て分類されたか否か判断する。総てのスナップショットが分類されていないと判断した場合には(no)、処理をステップS1311に分岐させる。ステップS1311では、クラスタリング部618は、パラメータ保存領域に保存されたスナップショット識別情報と、ステップS1309でクラスタリング結果保存領域に保存されたスナップショット識別情報とを使用して、未だクラスタリングしていないスナップショットを判断する。そして、クラスタリング部618は、背景用の類似度テーブルを参照し、当該スナップショットについて、パラメータ保存領域に保存された類似度値に基づく別の類似度値範囲にあるスナップショットを生成時間順に分類し、その結果をクラスタリング結果保存領域に保存し、処理をステップS1310に戻す。クラスタリング部618は、クラスタリング対象のスナップショットが総て分類されるまで、ステップS1311の処理を反復させる。
【0154】
一方、ステップS1310の判定で、スナップショットが総て分類されたと判断した場合には(yes)、処理をステップS1312に分岐させる。ステップS1312では、クラスタリング部618は、パラメータ保存領域を参照し、第2の分類条件を判断する。第2の分類条件が「背景」または「無し」であると判断した場合、処理をステップS1316に分岐させて終了させる。一方、第2の分類条件が「時間」であると判断した場合、処理をステップS1313に分岐させる。
【0155】
ステップS1313では、クラスタリング部618は、時間用の類似度テーブルを参照し、クラスタリング結果保存領域を参照し、上記ステップS1309およびステップS1311の処理で分類したスナップショット群について、パラメータ保存領域に保存された類似度値に基づく類似度値範囲にあるスナップショットを生成時間順に分類する。そして、分類されたスナップショット群の識別情報および当該スナップショット群を構成するスナップショットのスナップショット識別情報をクラスタリング結果保存領域に保存する。
【0156】
ステップS1314では、クラスタリング部618は、ステップS1303と同様に、クラスタリング対象であるスナップショットが総て分類されたか否か判断する。スナップショットが総て分類されていないと判断した場合には(no)、処理をステップS1315に分岐させる。
【0157】
ステップS1315では、クラスタリング部618は、パラメータ保存領域に保存されたスナップショット識別情報と、ステップS1313でクラスタリング結果保存領域に保存されたスナップショット識別情報とを使用して、未だ分類条件「時間」でクラスタリングしていないスナップショットを判断する。そして、クラスタリング部618は、時間用の類似度テーブルを参照し、当該スナップショットについて、パラメータ保存領域に保存された類似度値に基づく別の類似度値範囲にあるスナップショットを生成時間順に分類し、その結果をクラスタリング結果保存領域に保存し、処理をステップS1314に戻す。クラスタリング部618は、クラスタリング対象のスナップショットが総て分類されるまで、ステップS1315の処理を反復させる。
【0158】
一方、ステップS1314の判定で、総てのスナップショットが分類されたと判断した場合には(yes)、処理をステップS1316に分岐させて終了させる。
【0159】
本実施形態では、一方の分類条件でクラスタリングした総てのスナップショット群について、他方の分類条件で追加的にクラスタリングを行う。他の実施形態では、既にクラスタリングされたスナップショット群のうちのいずれかについて、再度、クラスタリングを行うようにしてもよい。
【0160】
本実施形態では、双方の分類条件でクラスタリングが実行された場合、アプリケーション240は、追従的に実行されたクラスタリングの結果を使用してUI画面を生成する。これにより、双方の分類条件を考慮したクラスタリングに基づいて、UI画面上にスナップショット群を表示させることができる。
【0161】
図14は、本実施形態のアプリケーションが画像表示装置に表示するUI画面のさらに他の実施形態を示す図である。図14に示すUI画面1400では、図11に示すUI画面1100と同様に、UI画面を構成する種々のオブジェクトが配置される。なお、オブジェクト1410〜1426は、UI画面1100に含まれるオブジェクト1110〜1126と同様であるため、以下、説明を省略する。
【0162】
オブジェクト1428は、UI画面上に表示すべきスナップショット群の配列順序を選択的に指定可能なオブジェクトである。オブジェクト1428は、スナップショット群の配列順序として、時系列および類似度順を選択することができる。本実施形態のアプリケーション240の表示制御部610は、オブジェクト1428で指定されたスナップショット群の配列順序に従い、クラスタリングされたスナップショット群を時系列または類似度順で配列したUI画面を生成する。このとき、表示制御部610は、各スナップショット群の最前面に配置すべきスナップショット(例えば、同一スナップショット群のうち生成時間が最新のスナップショットや最古のスナップショット、類似度値が最大のスナップショットや類似度値が最小のスナップショットなど)の生成時間または類似度値を比較して、スナップショット群を時系列順または類似度順で表示することができる。
【0163】
本実施形態では、ユーザが、クラスタリングされたスナップショット群の配列順序を自由に選択することができるため、スナップショットの検索容易性を向上させることができる。
【0164】
これまで本実施形態につき説明してきたが、本発明は、上述した実施形態に限定されるものではなく、他の実施形態、追加、変更、削除など、当業者が想到することができる範囲内で変更することができ、いずれの態様においても本発明の作用・効果を奏する限り、本発明の範囲に含まれるものである。
【符号の説明】
【0165】
100…画像表示システム、110…画像表示装置、112…表示部、114…操作ボタン、116…操作ボタン、118…映像フレーム入力部、120…ユーザPC、122…ケーブル
【先行技術文献】
【特許文献】
【0166】
【特許文献1】特開2008−33393号公報
【特許請求の範囲】
【請求項1】
映像フレームを表示する画像表示装置であって、前記画像表示装置は、
映像フレームを提供する映像フレーム提供装置から映像フレームを受信する手段と、
前記映像フレームを表示する表示手段と、
前記映像フレームに重畳して描画される描画画像の構成情報である前記表示手段上の接触位置を検出するタッチパネルと、
前記表示手段に表示すべき映像フレームと、前記描画画像の構成情報とが関連付けて登録されるデータベースと、
前記データベースを参照して、前記映像フレーム提供装置から受信した映像フレームと同一の映像フレームに関連付けられた描画画像の構成情報を使用して構成される描画画像を前記表示手段に表示する手段と、
前記表示手段に表示された表示画像を類似度に応じて事後的に前記表示手段に表示する手段と
を含む、画像表示装置。
【請求項2】
前記表示画像を格納する手段と、
前記表示画像相互の類似度を算出してデータテーブルに登録する手段と、
前記表示画像を閲覧可能なユーザインタフェース画面を前記表示手段に表示する手段と、
前記データテーブルを参照して、ユーザが指定した類似度に応じて前記表示画像を分類するクラスタリング手段とを含み、
前記ユーザインタフェース画面を表示する手段は、分類された表示画像を表示する、請求項1に記載の画像表示装置。
【請求項3】
前記クラスタリング手段は、表示画像の分類条件に従って前記表示画像を分類し、
前記分類条件は、前記表示画像の生成時間の近似性によって分類する条件、前記表示画像の類似性によって分類する条件、およびこれら双方によって分類する条件を含む、請求項1または2に記載の画像表示装置。
【請求項4】
前記ユーザインタフェース画面は、前記分類条件および前記類似度が指定可能である、請求項3に記載の画像表示装置。
【請求項5】
前記クラスタリング手段は、表示画像の分類条件に従って前記表示画像を分類し、
前記分類条件は、前記表示画像の生成時間の近似性によって分類する条件および前記表示画像の類似性によって分類する条件を含む、請求項1または2に記載の画像表示装置。
【請求項6】
前記ユーザインタフェース画面は、第1の分類条件および第2の分類条件と、前記第1の分類条件の類似度および前記第2の分類条件の類似度とが指定可能であり、
前記クラスタリング手段は、前記第1の分類条件を優先して前記表示画像を分類する、請求項5に記載の画像表示装置。
【請求項7】
前記ユーザインタフェース画面を表示する手段は、前記分類された表示画像を類似度順または時系列で表示する、請求項1〜4のいずれか1項に記載の画像表示装置。
【請求項8】
前記ユーザインタフェース画面は、前記表示画像の配列順序を指定可能である、請求項7に記載の画像表示装置。
【請求項9】
映像フレームを表示する画像表示装置が実行する方法であって、前記方法は、前記画像表示装置が、
映像フレームを提供する映像フレーム提供装置から映像フレームを受信するステップと、
前記画像表示装置の表示手段に表示すべき映像フレームと、前記映像フレームに重畳して描画すべき描画画像の構成情報とが関連付けて登録されたデータベースを参照して、前記映像フレーム提供装置から受信した映像フレームと同一の映像フレームに関連付けられた描画画像の構成情報を使用して構成される描画画像を前記表示手段に表示するステップと、
前記表示手段に表示された表示画像を類似度に応じて事後的に前記表示手段に表示するステップと
を含む、方法。
【請求項10】
前記方法は、前記画像表示装置が、
前記表示画像相互の類似度を算出してデータテーブルに登録するステップと、
前記表示画像を閲覧可能なユーザインタフェース画面を前記表示手段に表示するステップと、
前記データテーブルを参照して、ユーザが指定した類似度に応じて前記表示画像を分類するステップと、
分類された表示画像を表示するステップと
をさらに含む、請求項9に記載の方法。
【請求項11】
画像表示装置に対して、請求項9または10に記載のステップを実行させるためのコンピュータ実行可能なプログラム。
【請求項12】
請求項11に記載されたプログラムを記録したコンピュータ可読な記録媒体。
【請求項1】
映像フレームを表示する画像表示装置であって、前記画像表示装置は、
映像フレームを提供する映像フレーム提供装置から映像フレームを受信する手段と、
前記映像フレームを表示する表示手段と、
前記映像フレームに重畳して描画される描画画像の構成情報である前記表示手段上の接触位置を検出するタッチパネルと、
前記表示手段に表示すべき映像フレームと、前記描画画像の構成情報とが関連付けて登録されるデータベースと、
前記データベースを参照して、前記映像フレーム提供装置から受信した映像フレームと同一の映像フレームに関連付けられた描画画像の構成情報を使用して構成される描画画像を前記表示手段に表示する手段と、
前記表示手段に表示された表示画像を類似度に応じて事後的に前記表示手段に表示する手段と
を含む、画像表示装置。
【請求項2】
前記表示画像を格納する手段と、
前記表示画像相互の類似度を算出してデータテーブルに登録する手段と、
前記表示画像を閲覧可能なユーザインタフェース画面を前記表示手段に表示する手段と、
前記データテーブルを参照して、ユーザが指定した類似度に応じて前記表示画像を分類するクラスタリング手段とを含み、
前記ユーザインタフェース画面を表示する手段は、分類された表示画像を表示する、請求項1に記載の画像表示装置。
【請求項3】
前記クラスタリング手段は、表示画像の分類条件に従って前記表示画像を分類し、
前記分類条件は、前記表示画像の生成時間の近似性によって分類する条件、前記表示画像の類似性によって分類する条件、およびこれら双方によって分類する条件を含む、請求項1または2に記載の画像表示装置。
【請求項4】
前記ユーザインタフェース画面は、前記分類条件および前記類似度が指定可能である、請求項3に記載の画像表示装置。
【請求項5】
前記クラスタリング手段は、表示画像の分類条件に従って前記表示画像を分類し、
前記分類条件は、前記表示画像の生成時間の近似性によって分類する条件および前記表示画像の類似性によって分類する条件を含む、請求項1または2に記載の画像表示装置。
【請求項6】
前記ユーザインタフェース画面は、第1の分類条件および第2の分類条件と、前記第1の分類条件の類似度および前記第2の分類条件の類似度とが指定可能であり、
前記クラスタリング手段は、前記第1の分類条件を優先して前記表示画像を分類する、請求項5に記載の画像表示装置。
【請求項7】
前記ユーザインタフェース画面を表示する手段は、前記分類された表示画像を類似度順または時系列で表示する、請求項1〜4のいずれか1項に記載の画像表示装置。
【請求項8】
前記ユーザインタフェース画面は、前記表示画像の配列順序を指定可能である、請求項7に記載の画像表示装置。
【請求項9】
映像フレームを表示する画像表示装置が実行する方法であって、前記方法は、前記画像表示装置が、
映像フレームを提供する映像フレーム提供装置から映像フレームを受信するステップと、
前記画像表示装置の表示手段に表示すべき映像フレームと、前記映像フレームに重畳して描画すべき描画画像の構成情報とが関連付けて登録されたデータベースを参照して、前記映像フレーム提供装置から受信した映像フレームと同一の映像フレームに関連付けられた描画画像の構成情報を使用して構成される描画画像を前記表示手段に表示するステップと、
前記表示手段に表示された表示画像を類似度に応じて事後的に前記表示手段に表示するステップと
を含む、方法。
【請求項10】
前記方法は、前記画像表示装置が、
前記表示画像相互の類似度を算出してデータテーブルに登録するステップと、
前記表示画像を閲覧可能なユーザインタフェース画面を前記表示手段に表示するステップと、
前記データテーブルを参照して、ユーザが指定した類似度に応じて前記表示画像を分類するステップと、
分類された表示画像を表示するステップと
をさらに含む、請求項9に記載の方法。
【請求項11】
画像表示装置に対して、請求項9または10に記載のステップを実行させるためのコンピュータ実行可能なプログラム。
【請求項12】
請求項11に記載されたプログラムを記録したコンピュータ可読な記録媒体。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【公開番号】特開2012−168450(P2012−168450A)
【公開日】平成24年9月6日(2012.9.6)
【国際特許分類】
【出願番号】特願2011−30949(P2011−30949)
【出願日】平成23年2月16日(2011.2.16)
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.Bluetooth
【出願人】(000006747)株式会社リコー (37,907)
【Fターム(参考)】
【公開日】平成24年9月6日(2012.9.6)
【国際特許分類】
【出願日】平成23年2月16日(2011.2.16)
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.Bluetooth
【出願人】(000006747)株式会社リコー (37,907)
【Fターム(参考)】
[ Back to top ]