説明

通信端末

【課題】従来技術では、予め表示物データを映像データに含めておかなければならない。映像データに表示物データを含めると、放送局(送信端末)から受信端末に送られるデータ量が増大するという問題がある。また、従来技術では、生放送のようにリアルタイムに放送される映像データについては、予め表示物データを映像データに含める機会はなく、従来の技術だけでは、ユーザが希望する表示物の詳細情報を表示させることができない。
【解決手段】ユーザが映像中の表示物をタッチパネル等で指示した場合に、当該指示に対応する指示座標情報及び指示タイミング情報を検索サーバに送信し、当該検索サーバから対応する表示物のデータを取得して画面に表示することにより、映像データを配信する際の配信データ量を増大させることもなく、映像中の所望の表示物に関する詳細な情報を画面に表示させることができる。

【発明の詳細な説明】
【技術分野】
【0001】
[関連出願の相互参照]
本出願は、日本国特許出願2008−139394号(2008年5月28日出願)及び日本国特許出願2008−220124号(2008年8月28日出願)の優先権を主張するものであり、当該出願の開示全体を、ここに参照のために取り込む。
【0002】
この発明は、通信端末、検索サーバ及び通信システムに関する。特に、ユーザが映像中の表示物をタッチパネル等で指示した場合に、当該指示に対応する表示物のデータを検索サーバから取得して画面に表示する通信端末、ユーザの指示情報を通信端末から受信し、当該指示に対応した表示物のデータを検索し、通信端末に送信する検索サーバ、並びに当該通信端末及び検索サーバを含む通信システムに関する。
【背景技術】
【0003】
近年、衛星や地上波を利用したデジタル放送や、インターネットなどの電気通信回線を通じた動画像配信など、ユーザは様々な放送/通信インフラを介して映像データを視聴することができる。かかる映像データの画面には、人や物など様々な対象(以下「表示物」という。例えば、タレント/選手/商品など。)が含まれている。このような表示物はユーザの興味を引きやすく、ユーザが表示物に関する所定の情報(以下「表示物データ」という。例えば、タレント/選手/商品の写真/名前/所属等の属性情報。)を希望する場合に、該当する表示物データを画面上に表示することができれば、ユーザにとっての利便性が向上することになる。
【0004】
このような利便性向上を実現するための従来技術として、デジタル放送の視聴画面に含まれる表示物データのリストを、予め放送データに含めておくという方法がある。かかる方法によると、ユーザが受信するデジタル放送には映像データと共に表示物データのリストが含まれているため、ユーザは映像と表示物データのリストとを対比することにより、所望の表示物データを得ることができる。
【0005】
例えば、番組のTV放送画面内に表示される表示物の表示エリアを該表示物ごとに特定するエリア情報等が、その番組のTV放送画面と一体に関連付けてデジタルデータとして送信される。この番組を受信端末装置側が受信し、その受信したTV放送画面内に表示エリアが存在するときに、その表示エリアをポインタで選択指定するか、又はデータ表示ボタンを押すと、該表示エリア内の表示物の詳細情報がTV放送画面と一緒に受信手段側のモニタ画面に表示される双方向デジタルCM放送システムが知られている(例えば、特許文献1参照)。このように、予め映像上に表示物毎のエリア情報を設定することにより、ユーザが所望の表示物の近傍を指示した際に、表示物データを画面に表示させることができる。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2004−200932号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかし、上記の従来技術ではいずれも、予め放送局(送信端末)が表示物データを映像データに含めておかなければならない。映像データに表示物データを含めると、放送局(送信端末)から受信端末に送られるデータ量が増大するという問題がある。また、映像データに含めて送信される全ての表示物データがユーザによって参照されるという状況は考えにくい。この場合、参照されない表示物データについては結果的に不要な情報となり、放送(通信)資源の有効活用の観点から好適な方法とはいえない。
【0008】
また、特許文献1に係る方法のように、放送局(送信端末)が全番組に対して表示物毎のエリア情報を設定する方法では、設定に要する作業負荷は膨大であり、全番組に対して表示物毎のエリア情報を設定したり、表示物データを予め映像データに含めることは現実的ではない。
【0009】
また、従来技術では、生放送のようにリアルタイムに放送される映像データについては、放送局(送信端末)が予め表示物データを映像データに含める機会はなく、従来の技術だけでは、ユーザが希望する表示物の詳細情報を表示させることができない。
【0010】
従って、上記の諸課題を鑑みてなされた本発明の目的は、映像データを配信する際の配信データ量を増大させることもなく、映像中の所望の表示物に関する詳細な情報を画面に表示させることができる、通信端末、検索サーバ、及び通信システムを提供するものである。
【課題を解決するための手段】
【0011】
上述した諸課題を解決すべく、本発明の通信端末は、映像データを受信する映像データ受信部と、前記映像データ受信部が受信した映像データを表示する表示部と、前記表示部に対する指示入力を受け付ける指示入力部と、前記指示入力が前記表示部に表示された映像への指示であるかを認識する指示認識部と、前記指示認識部が前記映像への指示を認識した場合に、前記指示に基づいた指示座標情報及び前記指示時の指示タイミング情報を含む検索データを検索サーバに送信する送信部と、前記検索サーバが前記検索データに基づいて検索した表示物データを受信する表示物データ受信部と、前記表示物データ受信部が受信した前記表示物データを前記表示部に表示させる制御部と、を備えることを特徴とする。
【0012】
また、前記検索データには、前記指示時より前の時間を示す複数の指示タイミング情報が含まれることが望ましい。
【0013】
また、前記指示認識部が、前記映像への連続的な指示を認識した場合、前記検索データには、前記連続的な指示それぞれに基づく指示座標情報及び指示タイミング情報が含まれることが望ましい。
【0014】
また、前記指示認識部が、前記映像への連続的な指示であって、前記連続的な指示の指示座標の軌跡が交差するものを認識した場合、前記検索データには、前記連続的な指示の指示座標の軌跡によって囲まれる範囲の指示座標情報と、前記連続的な指示に対応する指示タイミング情報とが含まれることが望ましい。
【0015】
また、前記映像への連続的な指示の指示座標の軌跡が表す形体を判断する指示形体判断部を更に備え、前記指示形体判断部が、前記指示形体を円と判断した場合、前記検索データには、前記指示形体判断部によって算出された前記円の中心座標を表す指示座標情報と、前記連続的な指示のうち前記中心座標から最も離れた指示の指示座標情報と、前記連続的な指示の1つの指示に対応する指示タイミング情報と、が含まれることが望ましい。
【0016】
また、前記映像への連続的な指示の指示座標の軌跡が表す形体を判断する指示形体判断部を更に備え、前記指示形体判断部が、前記指示形体を線と判断した場合、前記検索データには、少なくとも、前記連続的な指示の最初の指示に対応する指示位置座標及び指示タイミング情報と、前記連続的な指示の最後の指示に対応する指示位置座標及び指示タイミング情報と、が含まれることが望ましい。
【0017】
また、前記指示座標情報は、前記映像データの座標系を基準とするものであることが望ましい。
【0018】
また、前記指示座標情報は、前記端末の前記表示部の座標系を基準とするものであり、前記検索データは、前記端末の前記表示部に関する端末画面情報を含むことが望ましい。
【0019】
前記指示認識部が前記映像への指示を認識した場合、前記制御部が、前記映像データを提供するサービスを識別するためのサービス識別子を特定し、特定したサービス識別子を前記検索データに含めることが望ましい。
【0020】
また、前記制御部は、前記検索データに含まれる第1のサービス識別子と、前記表示物データ受信部が前記検索サーバから前記表示物データを受信した際の、前記表示部に表示されている映像データを提供するサービスを識別する第2のサービス識別子とが等しい場合に、前記表示物データを前記表示部に表示させることが望ましい。
【0021】
また、前記制御部は、前記検索データに含まれる第1のサービス識別子と、前記表示物データ受信部が前記検索サーバから前記表示物データを受信した際の、前記表示部に表示されている映像データを提供するサービスを識別する第2のサービス識別子とが等しくない場合に、前記表示物データを受信した旨を前記画面に表示させることが望ましい。
【0022】
また、前記検索サーバから受信した表示物データを記憶する記憶部を備え、前記制御部は、前記検索データに含まれる第1のサービス識別子と、前記表示物データ受信部が前記検索サーバから前記表示物データを受信した際の、前記表示部に表示されている映像データを提供するサービスを識別する第2のサービス識別子とが等しくない場合に、前記記憶部に前記表示物データを記憶させ、前記表示部に表示されている映像データを提供するサービスが替わり、前記第1のサービス識別子と前記第2のサービス識別子とが等しくなった時点で、前記記憶された表示物データを前記表示部に表示させることが望ましい。
【0023】
また、前記表示物データが、複数の表示物に関する情報を含む場合に、前記制御部は、前記指示座標を基に特定される個別画像と、前記複数の表示物に関する情報とを、前記表示部に表示させることが望ましい。
【0024】
また、前記指示認識部が、前記個別画像への指示を認識した場合に、前記制御部は、前記個別画像を前記表示部上で拡大表示し、さらに、前記指示認識部が、前記拡大表示された個別画像への指示を認識した場合に、前記制御部は、前記指示に対応する表示物の表示物データを前記表示部に表示させることが望ましい。
【0025】
また、前記指示認識部が、前記複数の表示物に関する情報への指示を認識した場合に、前記制御部は、前記指示に対応する表示物の表示物データを前記表示部に表示させることが望ましい。
【0026】
また、前記表示部に対して遠隔操作により指示入力可能な遠隔操作端末と通信する遠隔操作通信部を備えることが望ましい。
【0027】
また、前記遠隔操作端末を備え、前記遠隔操作端末は、前記表示部に対する指示入力を受け付ける遠隔操作部と、前記遠隔操作通信部と通信する第2遠隔操作通信部と、を備えることが望ましい。
【0028】
また、前記遠隔操作端末は、第2表示部を備え、前記制御部は、前記表示物データ受信部が受信した前記表示物データを前記第2表示部に表示させることが望ましい。
【0029】
また、前記遠隔操作端末は、前記検索データを前記検索サーバに送信する第2送信部と、前記検索サーバが前記検索データに基づいて検索した表示物データを受信する第2表示物データ受信部と、を備えることが望ましい。
【0030】
上述した諸課題を解決すべく、本発明の検索サーバは、映像データと、映像中に表示される1つ以上の表示物に関する表示物データとを記録する記録部と、通信端末から、前記映像への指示に基づいた指示座標情報及び前記指示時の指示タイミング情報を含む検索データを受信する受信部と、前記検索データに基づき、前記映像への指示に対応する表示物を認識する認識部と、前記記録部から、前記認識部によって認識された表示物に対応する表示物データを検索する検索部と、前記検索部によって検索された前記表示物データを含む検索結果を作成する検索結果生成部と、前記検索結果を前記通信端末に送信する送信部とを備えることを特徴とする。
【0031】
前記認識部は、さらに、前記指示タイミング情報よりも前の時間を示すタイミング情報と、前記指示座標情報とに基づき、前記映像への指示に対応する表示物を認識することが望ましい。
【0032】
前記検索データに、複数の指示座標情報及び指示タイミング情報が含まれている場合、前記認識部は、前記複数の指示座標情報及び指示タイミング情報それぞれに基づいて、前記映像への指示に対応する表示物を認識することが望ましい。
【0033】
前記検索データに、2つの指示座標情報及び1つの指示タイミング情報が含まれている場合、前記認識部は、前記2つの指示座標情報の一方を円の中心座標を表す指示座標情報、他方を前記円の中心座標から最も離れた指示の指示座標情報と認識し、前記2つの指示座標情報によって規定される円の範囲に含まれる座標と、前記1つの指示タイミング情報とに基づいて、前記映像への指示に対応する表示物を認識することが望ましい。
【0034】
また、前記検索データに、指示座標情報及び指示タイミング情報の組が少なくとも2組含まれている場合、前記認識部は、前記少なくとも2つの組の一つの組の指示座標情報を前記線の始点を表す指示座標情報、指示タイミング情報を前記始点指示時の指示タイミング情報とし、前記少なくとも2つの組の他の組の指示座標情報を前記線の終点を表す指示座標情報、指示タイミング情報を前記終点指示時の指示タイミング情報とし、前記少なくとも2つの組によって規定される線に沿って、前記映像への指示に対応する表示物を認識することが望ましい。
【0035】
また、前記認識部は、前記検索データに含まれる前記指示座標情報が、前記端末の画面を基準とするものであり、前記検索データが、前記端末の前記画面に関する端末画面情報を含む場合に、前記端末画面情報に基づき、前記指示座標情報を、前記映像データを基準とする座標情報に変換し、前記ユーザによる指示に対応する表示物を認識することが望ましい。
【0036】
また、前記認識部が、前記映像への指示に対応する表示物を複数認識した場合に、前記検索部は、前記複数の表示物それぞれに対応する複数の表示物データを検索し、前記検索結果生成部は、前記検索結果に前記複数の表示物データと、前記指示座標を基に特定される個別画像とを含めることが望ましい。
【0037】
上述した諸課題を解決すべく、本発明の通信システムは、映像データと、当該映像中に含まれる表示物データを記憶する検索サーバと、映像データを受信して表示し、前記検索サーバと通信する通信端末とを備え、前記通信端末は、前記映像への指示を認識し、前記指示に基づいた指示座標情報及び前記指示時の指示タイミング情報を含む検索データを前記検索サーバに送信し、前記検索サーバは、前記検索データを受信して前記検索データに応じた前記表示物データを検索し、当該検索された表示物データを前記通信端末に送信し、前記通信端末は、前記検索された表示物データを受信して表示することを特徴とする。
【発明の効果】
【0038】
本発明は、予め表示物に関する情報を映像データに含める必要がないため、映像データを配信する際の配信データ量を増大させることもなく、映像中の所望の表示物に関する詳細な情報を画面に表示させることができる通信端末、検索サーバ及び通信システムを提供するものである。
【図面の簡単な説明】
【0039】
【図1】本発明の一実施の形態に係る通信端末が使用可能な通信ネットワークの概略構成を示す図である。
【図2】本発明の一実施の形態に係る通信端末の概略構成を示す機能ブロック図である。
【図3】本発明の一実施の形態に係る検索サーバの概略構成を示す機能ブロック図である。
【図4】本発明の一実施の形態に係る通信端末の動作フローチャートである。
【図5】本発明の一実施の形態に係る検索サーバの動作フローチャートである。
【図6】本発明の第1の実施形態に係る通信端末の画面の表示例を示す図である。
【図7】本発明の第2の実施形態に係る通信端末の画面の表示例を示す図である。
【図8】複数の表示物データから所望の表示物データを選択する動作フローチャートである。
【図9】ユーザの指示タイミングが意図したタイミングと異なる場合の例を示す図である。
【図10】本発明の一実施の形態に係る検索サーバの動作フローチャートである。
【図11】ユーザによる連続的な指示の例を示す図である。
【図12】本発明の一実施の形態に係る通信端末の概略構成を示す機能ブロック図である。
【図13】本発明の一実施の形態に係る通信端末の動作フローチャートである。
【図14】本発明の一実施の形態に係る検索サーバの動作フローチャートである。
【図15】本発明の一実施の形態に係る通信端末の動作フローチャートである。
【図16】本発明の一実施の形態に係る検索サーバの動作フローチャートである。
【図17】本発明の一実施の形態に係る通信端末が使用可能な通信ネットワークの概略構成を示す図である。
【図18】本発明の一実施の形態に係る通信端末及び遠隔操作端末の概略構成を示す機能ブロック図である。
【図19】本発明の第6の実施形態に係る通信端末の画面の表示例を示す図である。
【図20】本発明の一実施の形態に係る通信端末及び遠隔操作端末の概略構成を示す機能ブロック図である。
【図21】本発明の第7の実施形態に係る通信端末及び遠隔操作端末の画面の表示例を示す図である。
【発明を実施するための形態】
【0040】
以降、諸図面を参照しながら、本発明の実施態様を詳細に説明する。
【0041】
図1は、本発明の一実施の形態に係る通信端末が使用可能な、通信ネットワークの概略構成を示す図である。図1において、通信端末10は、放送局30からデジタル放送(映像データ)を受信する。さらに、通信端末10は、映像データ中に含まれる表示物に関する詳細な情報(表示物データ)を、基地局40及びWAN(Wide Area Network:広域通信網)50を通じて、検索サーバ20から取得する。検索サーバ20が保持している表示物のデータは、放送局30により設定されているものとする。
【0042】
ここで、通信端末10は、例えばデジタル放送再生機能を有する携帯電話機若しくはPDA(携帯情報端末)、又は通信機能を備えるテレビからなり、放送局30は、例えば地上デジタル放送(ワンセグ放送)の放送局からなる。検索サーバ20は、放送局毎に個別に設けてもよく、複数の放送局間で共有することもできる。基地局40は、例えばcdma2000 EV−DO、iBurst(登録商標)、WiMAX(登録商標)又は無線LANの基地局からなる。
【0043】
図2は、図1に示した通信端末10の概略構成を示す機能ブロック図である。通信端末10は、放送局30から映像データを受信し、且つ、基地局40を介して検索サーバ20との間で表示物データに関する検索情報の送受信を行う送受信部110と、送受信部110が受信した映像データの視聴を制御し、且つ、送受信部110が送受信する検索情報に関する制御を行う制御部120と、制御部120によって制御された映像データ及び検索情報を表示する表示部130と、ユーザからの端末操作を取得する操作部140と、送受信部110が受信した検索情報を記憶する記憶部150と、を有する。
【0044】
ここで、送受信部110は、映像データ受信部111と検索情報送受信部112とを有する。映像データ受信部111は、放送局30から映像データを受信する。この映像データは、例えば地上デジタル放送(ワンセグ放送)の放送データからなり、映像データ受信部111は、かかる放送波の受信に対応したインターフェース機器から構成される。検索情報送受信部112は、送信部及び表示物データ受信部を構成するものであり、基地局40を介して、検索サーバ20との間で、映像中の表示物データに関する検索情報の送受信を行う。この検索情報送受信部112は、例えばcdma2000 EV−DO、iBurst(登録商標)、WiMAX(登録商標)又は無線LANといった無線通信規格に対応したインターフェース機器から構成される。
【0045】
制御部120は、指示認識部121と、座標取得部122と、座標変換部123と、映像データ視聴制御部124と、検索データ生成部125と、を有する。制御部120は、例えばCPU(中央処理装置)等の任意の好適なプロセッサ構成されるものであり、制御部120の各機能部121〜125は、当該プロセッサ上で実行されるソフトウェアや、又は各機能の処理に特化した専用のプロセッサ(例えばGPU(グラフィックス処理ユニット)及びDSP(デジタルシグナルプロセッサ))によって構成される。
【0046】
指示認識部121は、操作部140からユーザが行った端末操作を取得し、ユーザが表示部130に表示された映像を指示しているかどうかを判断する。ユーザが表示部130に表示された映像を指示している場合には、指示認識部121は、ユーザが指示している旨の通知(以下「ユーザ指示通知」という。)を座標取得部122及び映像データ視聴制御部124に通知する。
【0047】
座標取得部122は、指示認識部121から、ユーザ指示通知を受けると、ユーザが指示している座標(以下「指示座標情報」という。)を取得する。ここでいう指示座標とは、通信端末10の表示部130の座標系を基準として、表示部130上での位置を示すものである。例えば、表示部130の左上頂点のピクセルを基準とすると、左上頂点の座標は(0,0)となり、以降、右方向及び下方向に移るにつれ、座標の値は増加する。座標取得部122は、取得した指示座標情報を座標変換部123に供給する。
【0048】
座標変換部123は、座標取得部122から、指示座標情報を取得すると、当該指示座標情報を、通信端末10の画面解像度などの情報に基づいて、映像データの座標系における座標へと座標変換を行う。上記の通り、座標取得部122から供給される指示座標情報は、通信端末10の表示部130(画面)を基準とするものであるため、画面解像度、画面の縦横比(16:9、4:3等)といったパラメータや、縦表示/横表示といった表示態様などにより、通信端末10の機種毎に変動することになる。そのため、座標変換部123は、通信端末の画面に関する情報を基にして、指示座標情報を映像データの座標系に座標変換することにより、通信端末10の機種によらず、ユーザが映像中のどの位置を指示しているのかを明確にすることができる。ここでいう映像データの座標系とは、例えば、映像データの左上頂点のピクセルを基準として、左上頂点の座標は(0,0)となり、以降、右方向及び下方向に移るにつれ、座標の値は増加するものとする。座標変換部123は、この変換した指示座標情報を、検索データ生成部125に供給する。
【0049】
映像データ視聴制御部124は、映像データ受信部111が受信した映像データについて、データ復号や画面表示のタイミング制御といった視聴制御を行う。また、映像データ視聴制御部124は、指示認識部121からユーザ指示通知を受けると、ユーザが表示部130の映像を指示した時点での、映像データに関するタイミング情報(以下「指示タイミング情報」という。)を取得する。この指示タイミング情報とは、例えばデジタル放送の放送時刻や記憶メディア等に記憶された映像データの再生時間といった、映像データに関する所定のタイムスタンプ情報であり、映像データのどのフレームをユーザが指示しているのかを判断する基準となるものである。映像データ視聴制御部124は、この指示タイミング情報を、検索データ生成部125に供給する。
【0050】
検索データ生成部125は、座標変換部123から指示座標情報を取得し、且つ、映像データ視聴制御部124から指示タイミング情報を取得する。検索データ生成部125は、当該指示座標情報及び指示タイミング情報を含んだ検索データを生成し、生成した検索データを、検索情報送受信部112に供給する。
【0051】
なお、映像データを提供するサービスには、放送局で提供する番組、又はインターネットなどを利用した映像配信システムで配信される番組が含まれる。映像データを提供するサービスの識別には、サービス識別子が用いられる。ここでいうサービス識別子とは、例えば映像データを配信する放送局名やその番組、又は、番組を配信するために用いられるURLといった、映像データを特定するための識別情報である。本実施形態では、検索データに含まれているサービス識別子を第1のサービス識別子という。例えば、検索サーバ20が複数の放送局によって共有されている場合、検索サーバ20は、当該サービス識別子によってユーザが指示している放送局を特定することができる。
【0052】
検索情報送受信部112は、検索データ生成部125から取得した検索データを、基地局40を経由して、検索サーバ20に送信する。なお、この検索データは、検索サーバ20が所望の表示物データを検索するための検索キーとなるものである。検索サーバの送信先情報(アドレス)は、放送局毎に予め設定されているものを利用したり、又は、放送データに含まれる放送局情報を基に、DNS(Domain Name System)などを用いて、複数ある検索サーバのうち1つのアドレスを動的に取得したものを利用することができる。検索情報送受信部112は、検索サーバ20から、検索データに応じた検索結果を受信する。なお、本実施形態では、検索情報送受信部112が検索サーバ20から検索結果を受信した際に、表示部130に表示されている映像データを提供するサービスを識別するサービス識別子を、第2のサービス識別子という。
【0053】
制御部120は、検索サーバ20から受信した検索結果に表示物データが含まれている場合には、当該表示物データを表示部130に表示させる。制御部120は、検索サーバ20から受信した検索結果がエラーを示すものである場合には、当該エラーの内容を表示部130に表示させる。
【0054】
表示部130は、映像データ視聴制御部124によって制御された映像データを表示するものであり、例えば液晶ディスプレイ、又は他の好適な任意のディスプレイ機器から構成される。
【0055】
操作部140は、指示入力部を構成するものであり、ユーザから通信端末10への任意の操作入力を取得する。例えば、操作部140は、タッチパネル、リモコン、マウス、又は他の好適な任意のポインティングデバイスから構成される。
【0056】
記憶部150は、検索サーバ20から受信した検索結果を記憶するものであり、例えばSRAM、EEPROM、又は他の好適な記憶媒体から構成される。記憶部150は、例えば、通信端末10が検索サーバ20に検索データを送信した後、検索サーバ20から検索結果を受信するまでの間に、ユーザが映像を視聴する放送チャンネルを変更した場合に(換言すると、第1のサービス識別子と第2のサービス識別子とが異なる場合に)、検索結果を一時的に記憶することができる。この場合、ユーザが再び検索データ送信時の放送チャンネルにチャンネルを戻したときに、制御部120は、記憶部150を参照することにより、既に受信済みの当該放送チャンネルに対応した検索結果(表示物データ)を表示部130に表示させることができる。
【0057】
図3は、図1に示した検索サーバ20の概略構成を示す機能ブロック図である。検索サーバ20は、放送局30及びWAN50と間でデータの送受信を行う送受信部210と、通信端末10から送信される検索データに対応した表示物データを検索し、当該表示物データを含む検索結果を生成する制御部220と、放送局30から受信した映像データ及び当該映像データに含まれる表示物に関する表示物データを記憶する記憶部230と、を有する。
【0058】
送受信部210は、放送局30からデータを取得するデータ取得部211と、WAN50を通じて通信端末10と検索情報の送受信を行う検索情報送受信部212と、を有する。データ取得部211は、放送局30から映像データを取得する一方で、当該映像データ中の表示物データを取得する。データ取得部211は、取得した映像データ及び表示物データを、制御部220を通じて記憶部230に供給する。この映像データは、例えば地上デジタル放送(ワンセグ放送)の放送データからなり、表示物データは、例えば表示物の基本画像データ(例えば、タレント/選手/商品等の写真)と、表示物の属性データ(例えば、タレント/選手/商品の名前/所属等の属性情報)を含んだXML等の構造文書とからなるものである。当該表示物データは、映像データ同様デジタル放送の放送波によって検索サーバに到達するため、データ取得部211は、かかる放送波の受信に対応したインターフェース機器から構成される。検索情報送受信部212は、WAN50を通じて通信端末10から検索データを受信し、受信した検索データを制御部220に供給する。また、検索情報送受信部212は、制御部220から、検索データに対応した表示物データを含む検索結果を取得し、この検索結果を通信端末10に送信する。この検索情報送受信部212は、例えば、電話回線、光ファイバ、又は他の好適な任意の通信インターフェースといった、WAN50との通信に対応したインターフェース機器から構成される。
【0059】
制御部220は、表示物認識部221と、表示物データ検索部222と、検索結果生成部223と、を有する。制御部220は、例えばCPU(中央処理装置)等の任意の好適なプロセッサ構成されるものであり、制御部220の各機能部221〜223は、例えば当該プロセッサ上で実行されるソフトウェアや、又は各機能の処理特化した専用のプロセッサ(例えばGPU(グラフィックス処理ユニット)及びDSP(デジタルシグナルプロセッサ))によって構成される。
【0060】
表示物認識部221は、検索情報送受信部212から、通信端末10が送信した検索データを取得し、検索データの内容からユーザが指示している表示物を認識する。検索データには、ユーザ指示に応じた指示座標情報及び指示タイミング情報が含まれる。まず、表示物認識部221は、検索データに含まれる指示タイミング情報に基づき、ユーザが映像データ中のどのフレームに対して指示を行っているのかを特定する。次に、表示物認識部221は、検索データに含まれる指示座標情報に基づき、フレーム中のどの座標をユーザが指示しているのかを特定する。ユーザが指示しているフレーム及び指示座標が特定されると、表示物認識部221は、当該指示座標の周辺画像を切り出し、エッジ抽出の画像処理を行う(エッジ抽出については画像処理分野の周知技術であるため、詳細は記載しない)。表示物認識部221は、周辺画像に表示物が含まれている場合には、エッジ抽出によって表示物の輪郭(エッジ)を抽出できるため、表示物の存在を認識することができる。表示物認識部221は、表示物が認識できた場合には、認識結果を表示物データ検索部222に供給する。表示物認識部221は、表示物を認識できない場合には、表示物データ検索部222を通じて、表示物を認識できない旨の通知(以下「認識エラー通知」という。)を、検索結果生成部223に供給する。
【0061】
なお、表示物認識部221は、複数の表示物をユーザの指示対象として認識する場合がある。検索データ指示座標は映像中の一点を指し示すものであるが、かかる点に複数の表示物が重複して表示されている場合や、かかる点から所定の範囲内に複数の表示物が存在する場合があるためである。表示物認識部221は、複数の表示対象物を認識した場合には、その全ての表示物を含んだ認識結果を表示物データ検索部222に供給する。
【0062】
表示物データ検索部222は、表示物認識部221が認識した表示物に関する表示物データを、記憶部230から検索する。表示物データ検索部222は、抽出された表示物のエッジ情報(大きさ、輪郭形状など)や、表示物領域の色彩情報などを基に、記憶部230に記憶されている各表示物データの基本画像データとのマッチング処理を行う。このマッチング処理とは、表示物と表示物データの基本画像データとの類似度を判断する処理であり、例えば最尤推定法などによって行われる(最尤推定法などによる対象の特定については認識処理分野における周知技術であるため、詳細は記載しない)。表示物データ検索部222は、記憶部230に検索データに対応する表示物データが存在する場合には、検索した表示物データを、検索結果生成部223に供給する。表示物データ検索部222は、該当する表示物データが記憶部230に存在しない場合には、表示物データが存在しない旨を示す通知(以下「検索エラー通知」という)を、検索結果生成部223に供給する。
【0063】
なお、表示物認識部221が複数の表示物を認識している場合には、表示物データ検索部222は、複数の表示物それぞれについての表示物データを記憶部230から取得し、検索結果生成部223に検索した表示物データを供給する。
【0064】
検索結果生成部223は、表示物データ検索部222から、通信端末10の検索データに対応した表示物データを取得し、当該表示物データを含んだ検索結果を作成する。また、検索結果生成部223は、表示物認識部221又は表示物データ検索部222から、認識エラー通知又は検索エラー通知を取得した場合には、当該エラー情報を含んだ検索結果を作成する。表示物データ生成部223は、作成した検索結果を検索情報送受信部212に供給する。
【0065】
なお、表示物認識部221が複数の表示物を認識した場合には、検索結果生成部223は、指示タイミング情報によって特定されるフレームから、指示座標情報によって特定される位置の周辺画像を個別に切り出し(以下「個別画像」という。)、当該個別画像を検索結果に含める。
【0066】
(第1の実施形態)
図4は、本発明の一実施の形態に係る通信端末10の動作フローチャートであり、図5は、本発明の一実施の形態に係る検索サーバ20の動作フローチャート図である。また、図6は、本発明の第1の実施形態に係る通信端末10の表示部130の表示例を示す図である。当該第1の実施形態は、ユーザによる映像への指示に対し、検索サーバが1つの表示物データを特定する場合を示すものである。
【0067】
ユーザがチャンネルを選局すると(S001)、映像データ受信部111は選局したチャネルの放送波を受信し(S002)、制御部120は映像データ視聴制御部124によって制御された映像データを通信端末10の表示部130に表示させる(S003)。デジタル放送において、放送局を選局し、その放送局から放送波を受信して、デジタル放送を視聴しているときに、画面に出ている表示物の名前がわからない、あるいはその表示物の情報をより詳しく知りたいと思ったときに、ユーザはクリックやタッチなどその表示物を指し示す動作を行う。ユーザが入力装置170を用いて表示部130上の表示物a1を指示すると(図6(a))、指示認識部121はユーザによる映像への指示を認識する(S004)。指示認識部121は、映像へのユーザ指示を認識すると、ユーザ指示通知を座標取得部122及び映像データ取得部124に供給し、検索データ生成部125は、座標変換部123から供給される指示座標情報及び映像データ視聴制御部124から供給される指示タイミング情報を含む検索データを作成する。なお、指示座標情報に関しては、座標変換部123によって、例えば画面解像度、画面の縦横比といったパラメータや、縦表示/横表示といった表示態様などを考慮して、通信端末10の表示部130の座標系から映像データの座標系への座標変換が行われている。ユーザからの指示がない場合には、映像データの表示が継続される(S005)。指示認識部121がユーザによる映像への指示を認識した場合、当該検索データを検索情報送受信部112に供給する(S006)。検索情報送受信部112は、検索データ生成部112から供給された検索データを検索サーバ20に送信する(S007)。検索サーバ20の送信先情報(アドレス)は、放送局毎に予め設定されているものを利用したり、複数ある検索サーバのアドレスのうち1つのアドレスを動的に取得したものを利用することができる。
【0068】
検索サーバ20の記憶部230は、映像データ及び当該映像データに含まれる表示物に関する表示物データを記憶している。検索サーバ20は、通信端末10が送信した検索データを、検索情報送受信部212によって受信する(S201)。検索データには、ユーザ指示に応じた指示座標情報及び指示タイミング情報が含まれる。まず、表示物認識部221は、検索データに含まれる指示タイミング情報に基づき、ユーザが映像データ中のどのフレームに対して指示を行っているのかを特定する(S202)。次に、表示物認識部221は、検索データに含まれる指示座標情報に基づき、フレーム中のどの座標をユーザが指示しているのかを特定する。ユーザが指示しているフレーム及び指示座標が特定されると、表示物認識部221は、当該指示座標の周辺画像を切り出し、エッジ抽出などの画像処理によって表示物を認識する(S203)。表示物が認識できた場合には、表示物認識部221は、認識した表示物が誰であるか又は何であるかを検索するために、認識結果を表示物データ検索部222に供給する。表示物認識部221は、表示物を認識できない場合には、認識エラー通知を、検索結果生成部223に供給する。表示物データ検索部222は、表示物認識部221が認識した表示物に関する表示物データを、記憶部230から検索する。表示物データ検索部222は、記憶部230に検索データに対応する表示物データが存在する場合には、検索した表示物データを、検索結果生成部223に供給する。表示物データ検索部222は、該当する表示物データが記憶部230に存在しない場合には、検索エラー通知を、検索結果生成部230に供給する(S204)。検索結果生成部223は、表示物データ検索部222から、通信端末10の検索データに対応した表示物データを取得し、当該表示物データを含んだ検索結果を作成(S206)し、検索情報送受信部212を通じて通信端末10に送信する。また、検索結果生成部223は、表示物認識部221又は表示物データ検索部222から、認識エラー通知又は検索エラー通知取得した場合には、当該エラー通知を含んだ検索結果を作成し、検索情報送受信部212を通じて通信端末10に送信する。(S207)。
【0069】
なお、記憶部230に、指示タイミング情報及び指示座標情報と表示物データとの対応関係が予め記憶されている場合、S202およびS203を省略しS204で、表示物データ検索部222は、記憶部230から、指示タイミング情報及び指示座標情報に対応する表示物データを検索してもよい。
【0070】
通信端末10が検索サーバ20に検索データ送信した後、検索情報送受信部112は、検索サーバ20から検索データに対する検索結果を受信したかどうかの監視を行い(S008)、検索結果を受信していない場合は映像データの表示を継続する(S009)。検索情報送受信部112が検索サーバ20から検索結果を受信すると、制御部120は、検索結果に検索データに対応する表示物データが含まれているか、又は検索結果に認識エラー通知又は検索エラー通知が含まれていないかを確認する(S010)。検索結果が検索データに対応する表示物データを含んでいる場合には、制御部120は、続けて、検索結果に含まれている表示物データが1つだけであるかどうかを確認する(S012)。検索結果に含まれている表示物データが1つだけである場合、制御部120は、表示部130の追加ウィンドウ180中に当該表示物データを表示させる(S013、図6(b))。当該追加ウィンドウ180は、表示物データの基本画像を表示する画像ウィンドウ181と、表示物データの属性データを表示する属性ウィンドウ182とを含むものである。検索結果に認識エラー通知又は検索エラー通知が含まれている場合、制御部120は、追加ウィンドウ180の画像ウィンドウ181に、表示物データの検索ができなかった旨を示す「Not Found」を表示し、属性ウィンドウ182にエラーの詳細を表示するように表示部130を制御する(S011、図6(c))。
【0071】
このように、本実施形態によれば、ユーザの指示入力に応じて、通信端末は検索サーバから所望の表示物データを取得することができるため、映像データを配信する際の配信データ量を増大させることもなく、映像中の所望の表示物に関する詳細な情報を画面に表示させることができる。
【0072】
なお、制御部120は、第1のサービス識別子と、第2のサービス識別子とが等しい場合に、表示物データを表示部130に表示させることができる。この表示態様では、第1のサービス識別子と第2のサービス識別子とが等しい場合にのみ表示物データを表示部130に表示させることになるため、ユーザが必要とする表示物データのみを表示させることができる。
【0073】
(第2の実施形態)
図7は、本発明の第2の実施形態に係る通信端末10の表示部130の表示例を示す図である。当該第2の実施形態は、ユーザによる映像への指示に対し、検索サーバが複数の表示物データを特定する場合を示すものである。
【0074】
検索サーバが複数の表示物データを特定する場合、通信端末10から検索サーバ20への検索データの送信については、第1の実施形態と同様に、ステップS001〜S007に沿って行われる。
【0075】
図7(a)に示すとおり、指示装置170が指示する位置の周辺には、複数の表示物a1〜a3が密集して表示されている。そのため、表示物認識部221は、ユーザの指示対象としてa1〜a3の3つの表示物を認識することになる。表示物認識部221が複数の表示物を認識しているため、表示物データ検索部222は、複数の表示物a1〜a3それぞれについての表示物データを記憶部230から取得し、検索結果生成部223に検索した表示物データを供給する。また、表示物認識部221が複数の表示物a1〜a3を認識しているため、検索結果生成部223は、指示タイミング情報によって特定されるフレームから、指示座標情報によって特定される位置周辺の個別画像を切り出し、当該個別画像を検索結果に含める。
【0076】
通信端末10が受信する検索結果に複数の表示物データが含まれている場合には、制御部120は、ユーザが複数の表示物データから所望の表示物データを選択するための画面を表示部130に表示させる(S014)。
【0077】
図8は、S014において、ユーザが複数の表示物から所望の表示物を選択する動作の詳細を示すフローチャートである。検索結果に複数の表示物データが含まれている場合、制御部120は、追加ウィンドウ180の画像ウィンドウ181に個別画像を表示し、属性ウィンドウ182に複数表示物のリストを表示するように表示部130を制御する(S101、図7(b))。なお、追加ウィンドウ180に対して一定時間ユーザからの指示がない場合や、ユーザが明示的に追加ウィンドウの非表示を指示した場合には、追加ウィンドウは非表示になる。
【0078】
追加ウィンドウ180にユーザが指示を行い(S102)、その指示が個別画像に対するものである場合(S103)、制御部120は、拡大画像ウィンドウ183中に拡大した個別画像を表示し、縮小属性ウィンドウ184中に複数の表示物のリストを表示する(S104、図7(c))。かかる拡大画像ウィンドウ183によって、ユーザは密集した表示物から、明確に所望の表示物を選択することが可能になる。ユーザはかかる拡大画像ウィンドウ183中の所望の表示物を指示することにより(S105)、所望の表示物についての属性情報を得ることができる(S013、図7(d))。この場合、拡大画像ウィンドウ183及び縮小属性ウィンドウ184はそれぞれ通常の画像ウィンドウ181及び属性ウィンドウ182に戻り、画像ウィンドウ181中には指示された表示物データの基本画像が表示され、属性ウィンドウ182中には指示された表示物データの属性情報が表示される。
【0079】
一方、追加ウィンドウ180にユーザが指示を行い(S102)、その指示が拡大画像ウィンドウ183に対するものではなく、縮小属性ウィンドウ184中の複数表示物のリストに対するものである場合には(S103)、制御部120は、当該指示によって明確にユーザが意図する表示物を特定することができるため、当該指示に対応した表示物データを追加ウィンドウ180に表示させる(S013、図7(d))。
【0080】
このように、本実施形態によれば、検索結果に複数の表示物データが含まれている場合、ユーザは当該複数の表示物から所望の表示物を選択して、選択した表示物に関する情報を画面に表示させることができる。
【0081】
(第3の実施形態)
第3の実施形態は、ユーザによる映像への指示が、ユーザが意図したタイミングと異なる場合を考慮した、検索サーバ20の処理の一実施形態を示すものである。
【0082】
例えば、動きの速い表示物や画面の切り替わる直前の表示物へユーザが指示を行う場合には、ユーザが正しく表示物を指示したつもりでも、ユーザの指示の遅れにより、通信端末10から検索サーバ20へ送信される検索データの指示タイミング情報がずれ、検索サーバ20はユーザの求めていた表示物の情報を検索できない場合がありうる。例えば、図9(a)のように、ユーザが表示物b1を指示したつもりであっても、表示物b1の移動速度が速い場合、実際の指示のタイミングがずれ、図9(b)のように表示物b2に対して誤って行われることが考えられる。その結果、検索サーバ20は表示物b2の表示物データを通信端末10に返信するが、当該表示物b2のデータはユーザの求めていた情報と異なるという問題がある。また、例えば、図9(a)のように、ユーザが表示物b1を指示したつもりであっても、表示物b1の移動速度が速い場合、実際の指示のタイミングがずれ、図9(c)のように表示物が存在しない範囲に対して誤って行われることが考えられる。その結果、検索サーバ20はエラー情報(認識エラー通知)を通信端末10に返信することになり、ユーザの求めていた表示物b1の表示物データが取得できないという問題がある。
【0083】
図10は、本発明の第3の実施形態に係る検索サーバ20の動作フローチャートである。上記問題に対し、検索サーバ20の表示物認識部221及び表示物データ検索部222は、まず、通信端末10から送信された検索データに従って表示物データの認識及び検索を行う(S301)。当該表示物データの認識及び検索は、図5に示すステップS202〜S204と同様に行われる。次いで、検索サーバ20の表示物認識部221は検索データに含まれる指示タイミング情報より所定時間前の画像中の、検索データに含まれる指示座標情報が示す座標に対して、表示物データの認識を行い、表示物データ検索部222は表示物認識部221の認識結果を受け表示物データ検索を行う(S302、S303)。当該所定時間前の画像に対する表示物データの認識及び検索は、所定回数行われる。なお、ステップS301において、1つ以上の表示物データが認識及び検索されている場合には、ステップS302、S303の繰返し回数をゼロにする(換言すると、ステップS302、S303をスキップする)ことも可能である。ステップS301〜S303において、検索サーバ20の表示物認識部221及び表示物データ検索部222が1つ以上の表示物の認識及び検索に成功している場合には(S304のYES)、検索サーバ20の検索結果生成部223は、表示物データ検索部222から、通信端末10の検索データに対応した表示物データを取得し、当該表示物データを全て含んだ検索結果を作成(S305)し、検索情報送受信部212を通じて通信端末10に送信する。また、検索サーバ20の表示物認識部221及び表示物データ検索部222が1つ以上の表示物を認識及び検索できなかった場合には(S304のNo)、検索結果生成部223は、表示物認識部221又は表示物データ検索部222から、認識エラー通知又は検索エラー通知取得して、当該エラー通知を含んだ検索結果を作成し、検索情報送受信部212を通じて通信端末10に送信する(S306)。
【0084】
なお、ステップS305において、通信端末10へ送信する複数の表示物データの数及び選択方法については、例えばS301〜S303の表示物認識ステップにおいて、各表示物が認識された回数に応じて優先順位を付け(例えばより多く認識された表示物が優先的が高い)、優先順位の高いものから順に所定数のみを検索結果に含めるようにすることができる。また、指示タイミング情報よりもどの程度前の時間の画像を検索するかについては、画面の切り替わりタイミング(例えば映像中の画面構成、アングルが変化する時間)、あるいは通常ユーザが表示物を見てから指示を行うのにかかる時間をもとに決定することが考えられる。また、ステップS302及びS303のループ回数については、表示物が1つでも見つかるまでとすることも考えられる。なお、その場合、表示物認識部221及び表示物データ検索部222が検索データそのものを用いて表示物を認識及び検索できた場合には、2回目以降の表示物の認識は行わないようにできる。あるいは1度だけ表示物認識部221及び表示物データ検索部222によって所定時間前の画像において表示物の認識及び検索を行い、その結果表示物が認識及び検索できた場合であって、その表示物が検索データそのものを用いて認識した表示物と異なる場合には、検索サーバ20は両方の表示物データを通信端末10へ返信しても良い。
【0085】
なお、検索サーバ20が、自発的に、検索サーバに含まれる指示タイミング情報より前の画像に対して表示物の認識及び検索を行うほかに、通信端末10の検索データ生成部125が、予めユーザの指示時より前の時間を示す複数の指示タイミング情報を含んだ検索データを作成してもよい。この場合、検索サーバ20は、検索データに含まれる複数の指示タイミング情報それぞれに基づいて表示物の認識及び検索を行うことになる。
【0086】
このように、本実施形態によれば、検索サーバが、検索データに含まれる指示タイミング情報よりも前の時間を示すタイミング情報と、指示座標情報とに基づき、映像への指示に対応する表示物を認識するため、ユーザによる映像への指示が、ユーザが意図したタイミングと異なる場合であっても、ユーザが希望する表示物の表示物データを認識及び検索することができる。また、通信端末が検索データに、指示時より前の時間を示す複数の指示タイミング情報が含まれることによって、検索サーバに明示的にユーザ指示の時間より前の画像に対する表示物認識を行わせることが可能になる。
【0087】
(第4の実施形態)
第4の実施形態は、ユーザによる映像への指示が、“点”としての指示に加え、“円”や“線”といった形体によるものである場合の一実施形態を示すものである。
【0088】
ユーザによる表示部130への指示は、ペンなどが表示部に触れてから離れるまでであり、通信端末10の指示認識部121は、その間の指示を連続的に認識できる。すると、図11に示すように、表示物を指示する方法として、図11(a)のような“点”だけでなく、図11(b)のように表示物をまとめて指示することのできる“円”や、図11(c)のように表示物の動きを追いながら表示物を指示できる“線”などの指示方法が考えられる。
【0089】
図12は、本発明の第4の実施形態に係る通信端末10の概略構成を示す機能ブロック図である。図12に示す構成は、図1の構成に指示形体判断部126を加えたものである。図1と同一の参照符号を付した機能ブロックは、図1のものと同等の機能を有するものとする。
【0090】
図13は、本発明の第4の実施形態に係る通信端末10の動作フローチャートであり、図4のステップS006の処理を、様々な指示形体に対応させたものである。通信端末10の指示認識部121がユーザからの指示を認識すると、座標取得部122はユーザの指示座標情報(指示開始座標)を取得し、映像データ視聴制御部124は指示タイミング情報(指示開始時間)を取得する(S401)。ユーザからの指示形体が“円”又は“線”である場合のように、ユーザからの指示が一定時間継続して表示部に行われる場合には、当該ユーザ指示が終了するまで、所定時間毎に、座標取得部122はユーザの指示座標情報を取得し、映像データ視聴制御部124は指示タイミング情報を取得する(S402)。ユーザからの指示が終了すると、再度、座標取得部122はユーザの指示座標情報(指示終了座標)を取得し、映像データ視聴制御部124は指示タイミング情報(指示終了時間)を取得する(S403)。
【0091】
次いで、指示形体判断部126は、ユーザの指示が終了したときに、ユーザの指示方法が“点”であったのか“円”であったのか“線”であったのかを、取得した指示座標情報の軌跡を基にした画像認識などにより判定する(S404)。検索データ作成部125が生成する検索データに含まれる情報は、指示形体判断部126が判断した指示形体によって異なる。検索データ作成部125は、指示形体が“点”であった場合には、指示開始座標と指示開始時間を検索データとする(S406)。検索データ作成部125は、指示形体が“円”であった場合には、取得した指示座標情報の軌跡を基に計算した円の中心座標と、指示開始時間と、中心座標から最も遠い指示の指示座標情報とを検索データとする(S407)。検索データ作成部125は、指示形体が“線”であった場合には、指示開始座標及び指示開始時間の組と指示終了座標及び指示終了時間の組を検索データとする(S408)。特に指示形体が“線”であった場合には、検索データ作成部125は、検索データに、線の軌跡をより詳細に表すための座標情報及び時間情報を複数追加してもよい。なお、円の中心座標は、例えば、任意の3つの座標を結ぶ2つの線分の垂直二等分線の交点から求めることができる。
【0092】
図14は、本発明の第4の実施形態に係る検索サーバ20の動作フローチャート図である。検索サーバ20では、検索情報送受信部212が通信端末10から検索データを受信すると(S501)、制御部220は、検索データの内容から、通信端末10に対するユーザの指示形体が何であったのかを判定する(S502)。制御部220は、検索データが指示座標情報と指示タイミング情報を1つずつしか含まない場合には、指示形体が“点”であったと判定し(S503)、表示物認識部221は指示タイミング情報が示す画像の中の指示位置座標情報の位置で表示物を認識する(S504)。制御部220は、検索データが2つの指示座標情報と1つの指示タイミング情報を含む場合には、指示形体が“円”であったと判定し(S505)、2つの指示座標情報の距離から円の半径rを求め(S506)、表示物認識部221は指示タイミング情報が示す画像の中で第1座標(中心座標)を中心とし半径rの領域内の表示物を認識する(S507)。制御部220は、検索データが指示座標情報及び指示タイミング情報の組を2つ(以上)含む場合には、指示形体が“線”であったと判定し(S508)、表示物認識部221は各指示座標情報及び指示タイミング情報から線の始点・終点(並びに途中点)を求めて当該線の軌跡を算出し、その線に沿ってそれぞれ表示物を認識する(S509)。なお、表示物の検索・照合ステップS510及び表示物データの送信ステップS511については、図5のステップS204〜S207と同様に行われる。
【0093】
なお、ステップS511において、通信端末10へ送信する複数の表示物データの数及び選択方法については、例えばS510の表示物認識ステップにおいて、各表示物が認識された回数に応じて優先順位を付け(例えばより多く認識された表示物が優先的が高い)、優先順位の高いものから順に所定数のみを検索結果に含めるようにすることができる。
【0094】
なお、上記実施例では、指示方法を点と円と線に限って説明しているが、指示形体判断部126は、三角形や四角形などの図形の認識にも対応することができる。例えば、検索データ作成部125は、指示形体が三角形であれば、三角形の各頂点の座標及び指示開始時間を、四角形であれば四角形の各頂点の座標及び指示開始時間を検索データに含めればよい。また、指示認識部121が、連続的な指示の軌跡の交点を認識したときを図13に示すステップS402における指示終了としてもよい。また、検索データ作成部125は、ユーザの指示形体が何であったかを検索データに含めてもよい。その場合には、検索サーバ20ではその情報を見ることで、ユーザの指示形体を確認できる。また、指示形体判断部126が図形(円や三角形など)であることの判定を行うのは、指示認識部121が、ユーザの連続的な指示の軌跡の交点を認識したときでもよい。また、通信端末10ではユーザの指示形体の認識は行わず、検索サーバ20へ通信端末10で取得した全ての座標と時間を逐次あるいは指示終了時にまとめて送信し、検索サーバ20でその情報をもとに、軌跡を描くなどしてから画像認識などによりユーザの指示形体を判定することも考えられる。また、検索データ作成部125は、軌跡ではなく連続した複数の点により囲まれたエリアにより表示物を指示することも考えられる。その場合にはユーザが最後の点を指示した後に、指示認識部121及び指示形体判断部126によってエリアを決定する決定処理などを行う。その場合、通信端末10は、エリア内の指示座標情報をまとめた検索データを送ってもよいし、1対の指示座標情報と指示タイミング情報を連続的あるいは所定時間ごとに検索サーバ20へ送ってもよい。
【0095】
このように、本実施形態によれば、通信端末の映像に連続的な指示があった場合に、検索データに、当該連続的な指示それぞれに基づく指示座標情報及び指示タイミング情報を含んで検索サーバに送信するため、検索サーバは当該連続的な指示それぞれに基づく指示座標情報及び指示タイミング情報に基づいて表示物の認識及び検索を行い、結果的にユーザが希望する表示物の表示物データを取得する可能性を高めることができる。また、前記連続的な指示が点、円及び線といった形体である場合に、通信端末は検索データに当該形体に応じた指示座標情報及び指示タイミング情報を含め、検索サーバは当該形体に応じた検索を行うことによって、ユーザが希望する表示物を効率的に検索して取得することが可能になる。
【0096】
(第5の実施形態)
第5の実施形態は、ユーザによる映像への指示が連続的なものであり、当該連続的な指示がある有界の範囲を指定する(連続的な指示が交点を有する)ものである場合に、検索データの内容に当該有界範囲内の情報を含める場合の一実施形態を示すものである。
【0097】
図15は、本発明の第5の実施形態に係る通信端末10の動作フローチャートであり、図4のステップS006の処理を、連続的な指示の交点の有無に対応させたものである。通信端末10の指示認識部121がユーザからの指示を認識すると、座標取得部122はユーザの指示座標情報(指示開始座標)を取得し、映像データ視聴制御部124は指示タイミング情報(指示開始時間)を取得する(S601)。ユーザからの指示が一定時間継続して表示部に行われる場合には、当該ユーザ指示が終了するまで、所定時間毎に、座標取得部122はユーザの指示座標情報を取得し、映像データ視聴制御部124は指示タイミング情報を取得する(S602)。ユーザ指示が終了すると、再度、座標取得部122はユーザの指示座標情報(指示終了座標)を取得し、映像データ視聴制御部124は指示タイミング情報(指示終了時間)を取得する(S603)。検索データ作成部125は、指示開始座標及び指示開始時間から指示終了座標及び指示終了時間までの、全ての指示座標情報及び指示タイミング情報を含む検索データを作成する(S604)。指示認識部121は、座標認識部122の座標認識結果を参照し、連続的な指示の軌跡の交点の有無を判定する(S605)。連続的な指示の軌跡に交点が存在する場合には、検索データ作成部125は、当該軌跡により囲まれる範囲に含まれる指示座標情報を検索データに追加する(S606)。
【0098】
図16は、本発明の第5の実施形態に係る検索サーバ20の動作フローチャート図である。検索サーバ20が検索データを受信すると(S701)、表示物認識部221及び表示物データ検索部222は、通信端末10から送信された検索データに含まれる全ての指示座標情報及び指示タイミング情報に従って表示物データの認識及び検索を行う(S702〜S703)。当該表示物データの認識及び検索は、図5に示すステップS202〜S204と同様に行われる。検索結果生成部223は、表示物データ検索部222から、通信端末10の検索データに対応した表示物データを取得し、当該表示物データを全て含んだ検索結果を作成する(S704)。検索結果作成部223は、例えばS702〜S703の表示物認識ステップにおいて、各表示物が認識された回数に応じて優先順位を決定し(例えばより多く認識された表示物が優先的が高い)、優先順位の高いものから順に所定数のみを検索結果に含めるようにする。検索サーバ20は、当該検索結果を、検索情報送受信部212を通じて通信端末10に送信する。
【0099】
本実施形態によれば、通信端末への指示が、連続的な指示であって、指示座標の軌跡が交差するものである場合、検索データには、連続的な指示の指示座標の軌跡によって囲まれる範囲の指示座標情報と連続的な指示に対応する指示タイミング情報が含まれるため、通信端末はユーザが希望する表示物が存在しうる範囲を網羅的に検索サーバに伝えることが可能になり、結果的にユーザが希望する表示物データの取得確率を向上させることができる。
【0100】
(第6の実施形態)
第6の実施形態は、通信端末の操作部(指示入力部)がリモコン等の遠隔操作端末により構成され、通信端末に対して遠隔操作端末による遠隔操作が可能な場合の一実施形態を示すものである。
【0101】
図17は、本発明の第6の実施形態に係る通信ネットワークの概略構成を示す図である。図17において、通信端末10は遠隔操作端末190により遠隔操作可能であり、検索サーバ20、放送局30、基地局40、及びWAN50は図1のものと同等であるものとする。なお、通信端末10と基地局40とは、例えば有線LAN、無線LAN、移動体通信無線(cdma2000 EV−DO、iBurst(登録商標)、WiMAX(登録商標)、LTE(Long Term Evolution))など、有線及び無線の任意の通信方式によって通信することが可能である。また、放送局30と検索サーバ20とが有線接続され、当該有線接続によりデジタル放送が送受信されてもよい。
【0102】
図18は、本発明の第6の実施形態に係る通信端末10及び遠隔操作端末190の概略構成を示す機能ブロック図である。図18に示す構成は、図1の構成の操作部140を遠隔操作通信部141に置き換え、通信端末10を遠隔操作端末190により遠隔操作可能とした構成である。図1と同一の参照符号を付した機能ブロックは、図1のものと同等の機能を有するものとする。
【0103】
遠隔操作端末190は、通信端末10の遠隔操作通信部141と通信を行う遠隔操作通信部191(第2遠隔操作通信部)と、ユーザが表示部130上の表示物を指し示し、指示入力を行うための遠隔操作部192とを有する。遠隔操作通信部141及び遠隔操作通信部191は、それぞれ、赤外線通信、無線LAN、Bluetooth(登録商標)又は他の任意の好適な近距離無線に対応したインターフェース機器から構成される。遠隔操作部192は、タッチパネル又は他の好適な任意のポインティングデバイスから構成される。なお、遠隔操作部192は、加速度センサ、角速度センサ、振動センサ、傾斜センサ等のセンサを用いることにより、ユーザが遠隔操作端末190を振るといった直感的な動作で、遠隔操作を可能とする構成とすることもできる。
【0104】
ここで、遠隔操作端末190は、一般的なリモコンのように通信端末10に従属する端末として構成してもよいし、例えば携帯電話やPDA等のように通信端末10から独立した端末として構成することもできる。
【0105】
遠隔操作端末190を通信端末10に従属する端末として構成する場合、通信端末10は、遠隔操作通信部141及び遠隔操作端末190を含んで構成されるものとすることができる。なお、この場合、通信端末10は、操作部140をさらに含むことができることに留意されたい。
【0106】
第6の実施形態においては、通信端末10及び検索サーバ20の処理は、基本的に第1の実施形態(ステップS001〜S013、S201〜S207)に沿って行われるが、通信端末10におけるステップS004における処理が第1の実施形態とは異なる。
【0107】
すなわち、第6の実施形態では、ステップS004において、ユーザが表示物130に表示されている表示物の名前がわからない、あるいはその表示物の情報をより詳しく知りたいと思ったとき、ユーザは、遠隔操作端末190の遠隔操作部192を操作することによって、その表示物を指し示す動作を行う。ユーザが遠隔操作端末190の遠隔操作部192により表示部130上の表示物への指示を行うと、遠隔操作端末190の遠隔操作通信部191は、通信端末10の遠隔操作通信部141に当該指示の情報を送信するため、指示認識部121が当該指示を認識することができる。
【0108】
図19は、本発明の第6の実施形態に係る通信端末10の表示部130の表示例を示す図である。ユーザは、遠隔通信端末190の遠隔操作部192を操作して、表示部130上のポインタ(例えば矢印)を移動させることにより、表示物を指示することができる。例えば、遠隔操作部192が加速度センサや角速度センサなどを備える場合、ユーザは遠隔操作端末190を振るなどして表示部130上のポインタを移動させることができる。また、遠隔操作端末192が入力キーを備える場合、ユーザは当該キーを操作することにより表示部130上のポインタを移動させることができる。
【0109】
ユーザが遠隔操作端末190により表示部130上の表示物a1を指示すると(図19(a))、通信端末10は、検索サーバ20に対して表示物a1に応じた検索データを送信する。検索サーバ20は、検索データを受信すると、当該検索データに応じた表示物データ又はエラー情報を含む検索結果を通信端末10に送信する。
【0110】
例えば、検索サーバ20からの検索結果に表示物a1の表示物データが含まれている場合、表示部130の追加ウィンドウ180中には、当該表示物a1の表示物データが表示される(図19(b))。また、例えば、検索結果に検索エラー通知が含まれている場合、表示部130の追加ウィンドウ180の画像ウィンドウ181に、表示物a1の表示物データが検索できなかった旨を示す「Not Found」が表示され、属性ウィンドウ182にエラーの詳細が表示される(図19(c))。
【0111】
本実施形態によれば、ユーザは遠隔操作端末によって表示物を指示できるため、例えばユーザがテレビ等を離れて視聴している場合でも、表示部に対する操作が容易になり、ユーザの利便性を向上させることができる。
【0112】
(第7の実施形態)
第7の実施形態は、第6の実施形態における遠隔操作端末が表示部を備え、当該表示部上に表示物データの情報が表示される場合の一実施形態を示すものである。
【0113】
図20は、本発明の第7の実施形態に係る通信端末10及び遠隔操作端末190の概略構成を示す機能ブロック図である。図20に示す構成は、図18の構成の遠隔操作端末190に表示部193(第2表示部)を追加した構成である。表示部193は、例えば液晶ディスプレイ、又は他の好適な任意のディスプレイ機器から構成される。なお、図18と同一の参照符号を付した機能ブロックは、図18のものと同等の機能を有するものとする。
【0114】
図21は、本発明の第7の実施形態に係る通信端末10の表示部130及び遠隔操作端末190の表示部193の表示例を示す図である。図21では、ユーザAが遠隔操作端末190Aを操作して表示部130上の表示物a1に対して指示入力を行い、ユーザBが遠隔操作端末190Bを操作して表示部130上の表示物a3に対して指示入力を行っている(図21(a))。この場合、遠隔操作端末の数は2台以上であるため、例えば遠隔操作端末のIDなど、各遠隔操作端末の所定の識別情報を用いることにより、通信端末10は、各遠隔操作端末からの指示入力を識別できるものとする。
【0115】
通信端末10は、遠隔操作端末190Aからの遠隔操作を受け、検索サーバ20に対して表示物a1に応じた検索データを送信する。検索サーバ20は、検索データを受信すると、当該検索データに応じた表示物データ又はエラー情報を含む検索結果を通信端末10に送信する。また、通信端末10は、遠隔操作端末190Bからの遠隔操作を受け、検索サーバ20に対して表示物a3に応じた検索データを送信する。検索サーバ20は、検索データを受信すると、当該検索データに応じた表示物データ又はエラー情報を含む検索結果を通信端末10に送信する。
【0116】
通信端末10は、検索サーバ20から検索結果を受信し、例えば、表示物a1及びa3の表示物データを取得すると、表示物a1及び表示物a3の表示物データを、それぞれ、遠隔操作端末190A及び190Bに送信する。つまり、通信端末10の制御部120は、表示物a1及び表示物a3の表示物データが、それぞれ、遠隔操作端末190A及び190Bに送信されるように、遠隔操作通信部141を制御する。このため、遠隔操作端末190Aの表示部193には表示物a1の表示物データが表示され(図21(b))、遠隔操作端末190Bの表示部193には表示物a3の表示物データが表示される(図21(c))ことになる。
【0117】
本実施形態によれば、ユーザは遠隔操作端末によって表示物を指示することができ、さらに当該表示物に関する表示物データを遠隔操作端末上に表示させることができる。そのため、例えばユーザがテレビ等を離れて視聴している場合でも、表示部に対する操作が容易になるともに、取得した情報を手元の遠隔操作端末上で見ることができるため、ユーザの利便性を向上させることができる。また、表示物データを遠隔操作端末190の表示部193に表示させ、通信端末10の表示部130に表示させないようにすれば、複数のユーザにより通信端末10の表示部130に表示された映像を見ている場合、他のユーザの視聴を妨げることなく、取得したデータを確認することができる。
【0118】
本発明を諸図面や実施例に基づき説明してきたが、当業者であれば本開示に基づき種々の変形や修正を行うことが容易であることに注意されたい。従って、これらの変形や修正は本発明の範囲に含まれることに留意されたい。
【0119】
例えば、各上記実施形態は、映像データをデジタル放送の映像として記載しているが、本発明はそのような形態に限られるものではない。例えば、本発明はインターネットなどの電気通信回線を介した映像配信にも対応しているものである。この場合、通信端末10の送受信部110及び検索サーバ20の送受信部210は、映像データ用のインターフェースと検索情報送受信用のインターフェースとを個別にもつ必要はなく、共通の単一インターフェースによって送受信部を構成することができる。
【0120】
また、上記各実施例では、通信端末10が送信する検索データに含まれる指示座標情報は、座標変換部123による座標変換が行われているが、当該座標変換は検索サーバ側で行うことも可能である。この場合、通信端末10が検索サーバ20に送付する検索データに含まれる指示座標情報は、通信端末10の表示部130の座標系を基準とするものであり、さらに、検索データは、通信端末10の表示部130に関する端末画面情報を含むことになる。検索サーバ20は、このような検索データを通信端末10から受信すると、検索データに含まれる端末画面情報に基づき、指示座標情報を、映像データの座標系を基準とする座標情報に変換し、ユーザによる指示に対応する表示物を認識することになる。このように、座標変換をサーバ側に委ねることにより、通信端末10の構成を簡潔にすることができ、かつ、処理負荷を低減することができる。
【0121】
また、通信端末10が検索サーバ20に検索データを送信した後に、ユーザが視聴している番組を変更し、表示物データが検索サーバ20から受信された場合など、検索データに含めたときの第1のサービス識別子と、表示部130に表示されている映像データを提供するサービスを識別する第2のサービス識別子とが異なる場合も考えられる。この場合、表示物を指示したときと検索結果を受信したときとでユーザの興味が変化している場合が考えられるため、検索サーバ20から受信した検索結果の表示態様として以下の態様が考えられる。
【0122】
第1の表示態様では、制御部120は、第1のサービス識別子と、第2のサービス識別子とが等しくない場合に、表示物データを受信した旨を表示部130に表示させることができる。この表示態様では、第1のサービス識別子と第2のサービス識別子とが等しくない場合に、制御部120は、ポップアップ表示等でユーザに第1のサービス識別子に対する検索結果を受信した旨を通知することができる。かかる通知を受けたユーザは、当該ポップアップを指示することによって、受信結果に含まれる表示物データの表示を促すことができる。
【0123】
第2の表示態様では、制御部120は、第1のサービス識別子と、第2のサービス識別子とが等しくない場合に、記憶部150に検索結果(表示物データ)を記憶させ、表示部130に表示されている映像データを提供するサービスが替わり、第1のサービス識別子と第2のサービス識別子とが等しくなった時点で、表示物データを表示部130に表示させることができる。この表示態様では、第1のサービス識別子と第2のサービス識別子が等しくなるまで待機してから表示物データを表示させるため、ユーザが必要とする表示物データのみを表示させることができる。
【0124】
また、通信端末10は、一般に、複数のアプリケーションを実行できるものである。この場合、通信端末10にとっては、映像を視聴する機能は、複数のアプリケーションの1つに過ぎない。そのため、ユーザが映像を指示して検索サーバ20に検索データを送信してから、検索結果を受信するまでの間に、当該映像視聴アプリケーションを終了してしまう場合が考えられる。このように、検索データを送信してから、検索結果を受信するまでの間に映像視聴アプリケーションの終了指示があった場合には、映像視聴アプリケーションの一部の機能を終了させずに維持させておくことが考えられる。例えば、検索結果を受信するまでの間に映像視聴アプリケーションの終了指示があった場合に、送受信部110の機能を終了させず維持しておけば、送受信部110が検索サーバ20から検索結果を受信した際に、映像視聴アプリケーションの他の機能(制御部120等)を再起動して、受信した表示物データを表示部130に表示させることが可能になる。
【0125】
また、通信端末10の制御部120は、指示認識部121がユーザによる表示物への指示を認識した場合に、映像データ視聴制御部124に指示を出して映像を静止させ、ユーザはその静止された画像上の表示物に対して指示を行うようにすることも考えられる。その場合、ユーザの指示が遅れて、静止させた画像内にユーザが指示したい表示物がすでに表示されていないときには、記憶部150において所定時間だけ映像あるいは画像を記録しておき、操作部140を介してユーザが巻き戻しや前画像の表示など制御部120に指示することにより、ユーザは指示したい表示物が表示されている画像を表示部130に表示させ、そこから希望する表示物への指示を行うことも考えられる。
【0126】
なお、検索サーバ20から表示物データを受信した場合には、音声や振動、光等によってその受信をユーザに通知したり、また、音声によって各表示物データの属性情報の内容をユーザに通知できることに留意されたい。
【0127】
また、通信端末の遠隔操作に関する第6及び第7の実施形態において、遠隔操作端末190が通信機能(第2送信部及び第2表示物データ受信部)を備え、検索サーバ20との間で表示物データに関する通信を行う構成も考えられる。この場合、ユーザが遠隔操作端末190によって表示部130上の表示物データを指示すると、通信端末10は、表示物データに応じた検索データを遠隔操作端末190に送信する。すなわち、通信端末10の制御部120は、検索データ生成部125が生成した検索データを、遠隔操作端末190に送信するように遠隔操作通信部141を制御する。遠隔操作端末190は、通信端末10から受信した検索データを検索サーバ20に送信する。検索サーバ20は、検索データを受信すると、当該検索データに応じた表示物データ又はエラー情報を含む検索結果を遠隔操作端末190に送信する。遠隔通信端末190が表示部193を備える場合、遠隔操作端末190は受信した検索結果を表示部193に表示させることができる。遠隔通信端末190が表示部193を備えない場合、遠隔操作端末190は受信した検索結果を通信端末10に送信し、通信端末10は表示部130に当該検索結果を表示させることができる。
【0128】
なお、遠隔操作端末190が通信機能を備える場合には、通信端末10の構成から検索情報送受信部112を除くことができることに留意されたい。
【0129】
また、本発明が対応可能なデジタル放送は、地上デジタル放送(ワンセグ放送)のみに限られるものではなく、例えばMediaFLOなど、あらゆるデジタル放送を含むものである。
【0130】
また、上述の各実施形態では、無線通信方式として、cdma2000 1xEV−DO、iBurst、無線LANなどを想定して説明したが、本発明の適用範囲はかかる無線通信方式のみに限られるものではなく、例えば、PDC(Personal Digital Cellular)、W−CDMA(Wideband CDMA)、WiMAX(IEEE802.16)、LTE(Long Term Evolution)、UMB(Ultra Mobile Broadband)など、現在実用されている無線通信ネットワーク及び将来的な実用が見込まれる無線通信ネットワークなど、あらゆる無線通信ネットワークに対応することが可能である。
【符号の説明】
【0131】
10 通信端末
20 検索サーバ
30 放送局
40 基地局
50 WAN
110 送受信部
111 映像データ受信部
112 検索情報送受信部
120 制御部
121 指示認識部
122 座標取得部
123 座標変換部
124 映像データ視聴制御部
125 検索データ生成部
126 指示形体判断部
130 表示部
140 操作部
141 遠隔操作通信部
150 記憶部
170 入力装置
180 追加ウィンドウ
181 画像ウィンドウ
182 属性ウィンドウ
183 拡大画像ウィンドウ
184 縮小属性ウィンドウ
190 遠隔操作端末
191 遠隔操作通信部
192 遠隔操作部
193 表示部
210 送受信部
211 データ取得部
212 検索情報送受信部
220 制御部
221 表示物認識部
222 表示物データ検索部
223 検索結果生成部
230 記憶部

【特許請求の範囲】
【請求項1】
映像データを受信する映像データ受信部と、
前記映像データ受信部が受信した映像データを表示する表示部と、
前記表示部に対する指示入力を受け付ける指示入力部と、
前記指示入力が前記表示部に表示された映像への指示であるかを認識する指示認識部と、
前記指示認識部が前記映像への指示を認識した場合に、前記指示に基づいた指示座標情報及び前記指示時の指示タイミング情報を含む検索データを検索サーバに送信する送信部と、
前記検索サーバが前記検索データに基づいて検索した表示物データを受信する表示物データ受信部と、
前記表示物データ受信部が受信した前記表示物データを前記表示部に表示させる表示部と、
を備え、
前記指示認識部が前記映像への指示を認識した場合、前記制御部が、前記映像データを提供するサービスを識別するためのサービス識別子を特定し、特定したサービスを前記検索データに含め、
前記制御部は、
前記検索データに含まれる第1のサービス識別子と、
前記表示物データ受信部が前記検索サーバから前記表示物データを受信した際の、前記表示部に表示されている映像データを提供するサービスを識別する第2のサービス識別子とに基づき、
前記表示部の表示を制御する
ことを特徴とする通信端末。
【請求項2】
前記制御部は、
前記検索データに含まれる第1のサービス識別子と、
前記表示物データ受信部が前記検索サーバから前記表示物データを受信した際の、前記表示部に表示されている映像データを提供するサービスを識別する第2のサービス識別子とが等しい場合に、
前記表示物データを前記表示部に表示させる、
請求項1に記載の通信端末。
【請求項3】
前記制御部は、
前記検索データに含まれる第1のサービス識別子と、
前記表示物データ受信部が前記検索サーバから前記表示物データを受信した際の、前記表示部に表示されている映像データを提供するサービスを識別する第2のサービス識別子とが等しくない場合に、
前記表示物データを受信した旨を前記表示部に表示させる、
請求項1に記載の通信端末。
【請求項4】
前記制御部は、
前記検索データに含まれる第1のサービス識別子と、
前記表示物データ受信部が前記検索サーバから前記表示物データを受信した際の、前記表示部に表示されている映像データを提供するサービスを識別する第2のサービス識別子とが等しくない場合、
前記表示部に表示されている映像データを提供するサービスが替わり、
前記第1のサービス識別子と前記第2のサービス識別子とが等しくなった際に、前記表示物データを前記表示部に表示させる、
請求項1に記載の通信端末。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate

【図20】
image rotate

【図21】
image rotate


【公開番号】特開2011−250480(P2011−250480A)
【公開日】平成23年12月8日(2011.12.8)
【国際特許分類】
【出願番号】特願2011−198790(P2011−198790)
【出願日】平成23年9月12日(2011.9.12)
【分割の表示】特願2009−537436(P2009−537436)の分割
【原出願日】平成21年5月27日(2009.5.27)
【出願人】(000006633)京セラ株式会社 (13,660)
【Fターム(参考)】