公共ディスプレイからのナローキャスティングおよび関連配設
携帯電話を有するユーザは、個人化セッションにおいて、電子看板システムと相互作用する。一部の実施形態では、看板に対するユーザの場所は、携帯電話(すなわち、看板の)によって取込まれるイメージリーか、または、看板システム(すなわち、ユーザの)によって取込まれるイメージリーのいずれかの、カメライメージリーから見定められる。ユーザに関する人口統計情報は、看板システムによって採取された取り込まれたイメージリーから推定でき、または、ユーザに関連する記憶されたプロファイルデータからアクセスできる。看板システムは、ユーザ人口統計についてカスタマイズされた見返り(たとえば、デジタルクーポンまたは他の応答データ)を観察者に送信できる。一部の配置構成では、見返りデータは、サイネージコンテンツ内に符号化されたデジタルウォータマークデータによって表される。符号化は、看板に対するユーザの場所を考慮することができ、異なる場所に位置する観察者に対して異なる見返りの幾何学的ターゲッティングを可能にする。
【発明の詳細な説明】
【技術分野】
【0001】
米国において、本出願は、2009年3月3日に出願された仮出願第61/157,153号に対する優先権を主張する。
【0002】
本技術は、譲受人の同時係属中の、2008年11月14日に出願された特許出願第12/271,772号、2009年6月12日に出願された特許出願第12/484,115号(特許公開第US20100048242号として公開された)、2009年6月24日に出願された特許出願第12/490,980号、2009年8月19日に出願された特許出願第PCT/US09/54358号(特許公開第WO2010022185号として公開された)、2010年1月22日に出願された特許出願第PCT/US2010/021836号、および2010年2月24日に出願された特許出願第12/712,176号において詳述される技術に関する。
【0003】
先に述べた著作物からの原理および教示は、本文中で詳述される配設の文脈において適用されることを意図される、また、その逆もまた同様である。
【0004】
本技術は、電子ディスプレイに関し、より具体的には、こうしたディスプレイと相互作用するために可搬型デバイス(たとえば、携帯電話)を使用する配設に関する。
【背景技術】
【0005】
電子ディスプレイスクリーンは、公共の場所で広く行き渡るようになり、また、広告に広く使用されている。いくつかのディスプレイシステムは、種々の種類の相互作用性によって視認者の関わり合いを高めようとする。
【0006】
Frederick Pohlの1952年空想科学小説「宇宙商人(The Space Merchants)」は、相互作用的電子広告を予言する。登場人物は、飛行機の窓の外を見るために振り向くたびに、「ガーン:…ある安っぽい製品用のTaunton広告が窓を不透明にし、口やかましくばかげたコマーシャルソングの1つが耳に否応なしに入ってくる」とこぼす。
【0007】
50年後、映画Minority Reportにおいて、Tom Cruiseは、電子看板によって、名前によって繰返し識別され呼び掛けられるだけのために、控えめに商店街を歩こうとする。
【0008】
Quividiによる公開された特許出願WO2007/120686は、視認者を検知し、視認者の年齢および性別を推定する、カメラシステムを装備する電子看板を開示する。広告は、検知されたデータに従ってターゲッティングすることができ、かつ視聴者測定情報を、集めることができる。
【0009】
TruMediaは、電子看板およびストアディスプレイに関連して使用される、関連する自動化視聴者測定技術を製品化している。看板は、女性を検出する場合、香水用の広告を、また、男性を検出する場合、メンズウェア用の広告を提示することができる。
【0010】
Mobile Trak.Inc.は、道路脇サイネージ用のSmarTrakモジュールを提供し、SmarTrakは、通過する車からの浮遊局部発信器放出を監視し、それにより、浮遊局部発信器放出が同調している無線局を見定める。やはり、この情報は、人口統計プロファイリングおよび広告ターゲッティングのために使用することができる。
【0011】
BluScreenは、電子サイネージ上に広告を提示するためのオークションベースのフレームワークである。システムは、近傍の視認者からのブルートゥース伝送情報を検知し、ブルートゥース伝送情報は、公にアクセスされる観察者の携帯電話からプロファイルデータを可能にする。BluScreenは、広告主にこのプロファイルデータを渡し、広告主は、その後、識別された視認者に広告を提示する機会を得ようと努力する。
【0012】
フランスの機関INRIAは、電子公共ディスプレイボードが、(ブルートゥースにより)通行人の移動体電話の番号を検知し、移動体電話に短いメッセージまたはコンテンツ(たとえば、着メロ、ビデオ、ディスカウントバウチャ(discount voucher))を送出するオプトイン(opt-in)システムを開発した。コンテンツは、移動体電話から共有されたユーザプロファイル情報に従ってカスタマイズすることができる。たとえば、米国特許公報20090047899を参照されたい。
【0013】
BlueFireは、SMSメッセージングまたはブルートゥースを使用して、いくつかの相互作用的サイネージ技術を提供する。ある投票、たとえば、この週末のゲームに誰が勝利するかに投票する観察者が招待される。観察者がこうして関わり合うと、広告主は、観察者の携帯電話に送出されるクーポン、コンテンツなどを用いて電子的に応答することができる。
【0014】
Ogilvyによるマーケッティングキャンペーンは、報酬の使用を通して、電子サイネージとのユーザの関わり合いを促進する。看板は、指定されたアドレスにSMSメッセージを送出することによってコンテストに参加するように視認者を招待する。システムは、質問で応答し、視認者が正しい回答で応答する場合、祝賀花火の打ち上げを看板に提示させ、自動車の抽選に観察者を参加させる。
【発明の概要】
【0015】
本技術のいくつかの実施形態は、デジタルウォータマーキングを使用する。デジタルウォータマーキング(ステガノグラフィの形態)は、データが、本質的に人間の知覚から隠ぺいされるが、コンピュータ解析によって回復することができる方法で、複数ビットデジタルデータによって物理的オブジェクトおよび電子的オブジェクトを符号化する科学である。電子オブジェクト(たとえば、デジタルオーディオ、またはビデオを含むイメージリー)において、データは、サンプル値(たとえば、輝度、色度、オーディオ振幅)のわずかの変形として符号化されてもよい。または、オブジェクトが、いわゆる直交領域(「非知覚的(non-perceptual)」とも呼ばれる、たとえば、MPEG、DCT、ウェーブレットなど)で表される場合、データは、量子化または係数値のわずかな変形として符号化されてもよい。本譲受人の特許第6,122,403号、第6,590,996号、第6,912,295号、および第7,027,614号ならびに出願第12/337,029号(2008年12月17日に出願された)は、いくつかのウォータマーキング技術を示す。
【0016】
ウォータマーキングは、永続的デジタル識別子を用いてコンテンツに知覚できないようにタグ付けするために使用することができ、多数の使用を見出す。一部の使用は、たとえばウォータマークがそれと共に運ばれるコンテンツを受信側デバイスがどのように処理すべきかを信号送信するデータを伝達する、デバイス制御の領域にある。他の使用は、コンテンツを関連データストアに関連付けるデータを符号化する。たとえば、ウェブ上で公開された写真は、オンラインデータベース内の特定のレコードを識別するウォータマークペイロードを符号化してもよい。データベースレコードは、次に、撮影者のウェブサイトに対するリンクを含んでもよい。特許第6,947,571号は、いくつかのこうした「接続済みコンテンツ(connected-content)」アプリケーションおよび技法を詳述する。
【0017】
デジタルウォータマーキングシステムは、通常、2つの主要なコンポーネント、すなわち、ウォータマークをホストメディア信号内に埋め込むエンコーダ、および符号化された信号から埋め込まれたウォータマークを検出し読取るデコーダを有する。エンコーダは、ホストメディア信号をわずかに変更することによって、ウォータマークを埋め込む。ウォータマークのペイロードは、任意のビット数であることができ、32または128が、一般的なペイロードサイズであるが、より多いまたは少ない値を使用することができる(ビデオの場合では、複数フレームが使用される場合、ずっと多い)。読取りコンポーネントは、疑わしい信号を解析して、ウォータマークが存在するかどうかを検出する。(疑わしい信号は、たとえば携帯電話カメラによって取込まれた画像データである場合がある。)ウォータマーク信号が検出される場合、リーダは、通常、ウォータマークから符号化された情報を抽出することに進む。
【0018】
1つの一般的な形態のウォータマーキングは、タイル表示様式でホストイメージリーにわたってペイロードデータを冗長的に埋め込む。各タイルは、ペイロード全体を運び、たとえ符号化された画像の抜粋だけが取込まれても、読み手がペイロードを抽出することを可能にする。
【0019】
本技術の一態様によれば、異なるデジタルウォータマークメッセージは、電子看板の複数の異なる観察者のそれぞれに「ナローキャストされる(narrowcast)」される。一配設では、看板に対する各観察者の場所が判定される。ウォータマークは、その後、各視点に従って異なる観察者について幾何学的に設計される。たとえば、ウォータマークタイルは、各観察者の視認の全体像によって導入される歪みを補償するために、事前に歪ませることができる。種々のウォータマークのペイロードは、各観察者に関する検知された人口統計(たとえば、年齢、性別、民族性)に従って調節されることができる。こうして構成されたウォータマーク信号を用いて符号化されたイメージリーは、その後、看板上に提示される。
【0020】
異なるウォータマークの幾何形状が異なるため、異なる観察者は、異なるウォータマークペイロードを検出する。そのため、看板視認エリアの右前景の10代の少年は、1つのペイロードを受信する場合があり、看板視認エリアの左背景の成人男性は、異なるペイロードを受信する場合がある。前者は、前記10代の少年にモールの向こうの方にあるStarbucksにおけるバニラフラペチーノドリンクに対する1ドル引きの資格を与える電子クーポンである場合があり、後者は、同じ店における無料のニューヨークタイムズについての電子クーポンである場合がある。異なる人々が視認エリアに入り、また去るため、異なるウォータマークを、それぞれ、表示される看板コンテンツに付加し、看板コンテンツから除去することができる。
【0021】
各観察者の場所は、電子看板に関連付けられたカメラによって簡単に検出されることができる。他の実施形態では、場所の確定は、観察者の携帯電話から提供されるデータ、たとえば、携帯電話カメラによって取込まれる看板の形状あるいはGPSまたは携帯電話に組み込まれた他の位置判定システムによって提供される場所データを参照することによって開始することができる。
【0022】
現在のウォータマーク検出器は、ひどく歪んだコンテンツからでさえウォータマークを回復することに優れる。したがって、視認者の携帯電話内の検出器は、視認者の位置について調節されていないウォータマークを検出する可能性がある。好ましいウォータマーク検出器は、検出されるウォータマークの属性を特徴付ける1つまたは複数のパラメータ(たとえば、回転、スケール、ビットエラー率など)を出力する。検出ソフトウェアは、これらのパラメータに応じて、異なる応答を提供するように構成されてもよい。たとえば、スケールが所望の範囲の外側にあり、また、ビットエラー率が通常より高い場合、携帯電話は、ウォータマークが異なる観察者のために調節され、ウォータマークのペイロードによって示される特定の応答ではなく、デフォルト応答を提供することができることを推定できる。たとえば、1ドル引きバニラフラペチーノドリンク用のクーポンの代わりに、デフォルト応答は、Starbucksでの任意の購入用の50セント引きクーポンであってよい。
【0023】
他の実施形態では、異なる応答は、幾何学的に調節された異なるウォータマークなしで、異なる視認者に提供される。代わりに、全ての視認者は、同じウォータマークデータを検出する。しかし、異なる視認者に関連するプロファイルデータが異なるため、視認者デバイスは異なって応答する。
【0024】
たとえば、各ユーザデバイス上のソフトウェアは、デバイス所有者の年齢および/または性別を示すデータと共に、検出されたウォータマークペイロードからのデータをリモートサーバに送出してもよい。リモートサーバは、相応して異なる応答を返すことができる。10代の少年に対して、サーバは、近くの映画館における無料ポップコーン用のクーポンを発行してもよい。成人男性に対して、サーバは、同伴者の劇場入場料を半額にするクーポンを発行してもよい。
【0025】
関連する例では、異なるウォータマークは、ディスプレイスクリーン上のビデオ提示の異なるフレーム内に連続して提示される。各ウォータマークペイロードは、そのペイロードが(たとえば、性別、年齢、民族性、自宅郵便番号、教育、政治的なまたは他の志向、社会的ネットワークメンバーシップなどによって)ターゲッティングされる視聴者人口統計またはコンテキストを示すいくつかのまたはいくつかのビットを含む。ユーザデバイスは、(たとえば、ローカルまたはリモートユーザプロファイルデータセットに記憶された)異なるウォータマーク信号を調査するが、そのデバイスのユーザに関連する人口統計データに対応するウォータマークが検出されるときにだけアクションを起こす。
【0026】
なおさらなる配設では、ウォータマークデータの異なるフレームは、参照クロックに同期した、時間多重化標準に従って、視認者の異なる人口統計グループについて調節される。たとえば30フレームの周期の第1のフレームは、10代の少年にターゲッティングされてもよい。第2のフレームは、10代の少女にターゲッティングされてもよい、等々。それぞれの受信側携帯電話は、所有者の人口統計を知り、携帯電話のタイムベースを調べることによって、こうした人のために意図されたウォータマークのフレームを識別することができる。周期は、1秒ごとにまたは他の間隔で繰返されてもよい。
【0027】
別の配設では、視覚スクリーンチャネルの上への異なるウォータマークの多重化は、異なるウォータマークペイロードを異なる視認者に伝達するために、異なる画像周波数帯を使用することによって達成することができる。
【0028】
本技術の一部の実施形態は、デジタルウォータマークを利用しない。しかし、異なって位置する視認者は、それでも、電子サイネージに対して異なる応答を得ることができる。
【0029】
1つのこうした配設では、観察者の場所が、上述したように、観察者の各人口統計と共に確定される。看板システムは、その後、どの応答が、異なって位置する視認者に適切かを判定し、対応するデータをオンラインリポジトリ(データベースサーバ)に記憶する。Gapストア用の電子看板の右前景の10代の少年の場合、システムは、無料のお試しサイズのコロンのボトル用のクーポンを記憶してもよい。中央背景の中年の女性の場合、記憶される応答は、5ドルのGap商品券であってよい。
【0030】
観察者の携帯電話が看板の画像を取込むと、取込まれたイメージリーに関連するデータは、看板に関連付けられたコンピュータに送信される。たとえばそのコンピュータにおける解析ソフトウェアは、撮影された看板のサイズおよびその側面の間の長さ比(または他の幾何学的解析)から、視認者の位置を判定する。この情報を用いて、コンピュータは、看板によって記憶された対応する応答情報を取出し、それを観察者に返送する。十代の少年はコロンを入手し、女性は商品券を入手する。
【0031】
本技術の前述のまた他の特徴および利点は、添付図面を参照して進められる以下の発明を実施するための形態からより容易に明らかになるであろう。
【図面の簡単な説明】
【0032】
【図1】図示される実施形態で使用される装置の一部を示す図である。
【図2】2人の視認者および6つの視認ゾーンを含む、電子看板の上部に搭載されたカメラの視野を示す図である。
【図3】電子看板の視認ゾーン内の2人の視認者の斜視図である、
【図4】各視認者に対する方向を、水平方位角Aおよび垂直仰角Bによって特徴付けることができることを示す図である。
【図5】メッセージが表示された電子看板の図である。
【図6】図2および図3の2人の観察者によって見られた、図5の看板の図である。
【図7】図2および図3の2人の観察者によって見られた、図5の看板の図である。
【図8A】ディスプレイスクリーンの4つの垂直ゾーンA〜Dについて、どのようにスクリーンのより長い距離の部分が、ある視認者についてのより小角に内在するかを示す上から見下ろした図である。
【図8B】スクリーン上に提示された情報を事前に歪ませることによって、図8Aの現象がどれだけ正されるかを示す図である。
【図9】視認者の位置に従って2次元で事前に歪まされたディスプレイを示す図である。
【図10】異なる事前歪を有する2つのウォータマークがスクリーン上でどのように提示されることができるかを示す図である。
【図11】観察者の位置が変わるにつれて、提示されるウォータマーク情報の事前歪がどのように変わるかを示す図である。
【図12】所望の観察者をターゲッティングするために、ウォータマークエンコーダによってウォータマークタイルのサイズがどのように調節できるかを示す図である。
【図13A】携帯電話によって取込まれた部分スクリーン図である。
【図13B】携帯電話によって取込まれた部分スクリーン図である。
【図14】スクリーンに対する方向および距離を確定できるパターンを示す図である。
【図15】例証的な64ビットウォータマークペイロードを示す図である。
【発明を実施するための形態】
【0033】
図1は、本技術の一実施態様で使用される装置の一部を示す。電子ディスプレイシステム部は、ディスプレイスクリーン10、カメラ12、およびコンピュータ14を含む。ディスプレイスクリーンは、ラウドスピーカ15を含んでもよく、または、こうしたスピーカは、システムに別個に組み込まれてもよい。コンピュータ14は、インターネット、ブルートゥースなどのような1つまたは複数の配設によって他のデバイスに対する接続性を有する。コンピュータ14は、ディスプレイスクリーン上に表示された情報を制御する。(単一コンピュータは、空港などにおいて、多くのスクリーンの制御を受け持つ場合がある。)
【0034】
ディスプレイスクリーン10は、携帯電話(スマートフォン)16などの撮像デバイスを搬送する観察者によって視認される。ディスプレイスクリーン10はまた、インターネット、ブルートゥース、セルラー(SMSを含む)などによって他のデバイスに対する接続性を有する。
【0035】
同様に、いくつかの実施形態には、1つまたは複数のリモートコンピュータ18が関わり、リモートコンピュータ18によって、今述べたデバイスが、インターネットまたはその他の方法によって通信することができる。
【0036】
図2および図3は、電子看板10を視認する2人の観察者22、24を示す。この例では、看板の前部の視認エリア26は、6つのゾーン、すなわち、それぞれが前景および背景位置を有する(看板から見て)左、中央、および右に適宜分割される。観察者22は左前景におり、観察者24は中央背景にいる。
【0037】
カメラ12は、たとえば看板10の上部から視認エリア26のビデオを取込む。取込まれたこの画像データから、コンピュータ14は、各観察者の位置を判定する。位置は、たとえば図2の6つの視認ゾーンのうちの1つのゾーン内に各視認者を分類することによって大雑把な意味で判定されてもよい。または、より精密な場所データを、図4に示すように、スクリーンの中央から観察者の目の中点までのベクトル32の方位角(A)、仰角(B)、および長さを識別することなどによって生成することができる。(視認者までの距離は、通常2.8〜3.1インチである人の目の瞳孔間の距離(ピクセル単位の)を参照することによって、推定することができる)
【0038】
(カメラシステム12は、その視野内のピクセル位置と視認者に対する配向との間のマッピングを理解するために、モデル化、または測定されてもよい。各ピクセルは、一意の方向からレンズ上に入射するイメージリーに対応する。)
【0039】
図5は、電子看板10上に提示されてもよいディスプレイを示す。図6および図7は、左前景観察者22および中央背景観察者24の視点からのそれぞれこの同じ看板を示す。異なる観察者によって知覚されるディスプレイのサイズおよび形状は、観察者のそれぞれの位置に依存する。これは、図8Aによって明確にされる。
【0040】
図8Aは、観察者82がスクリーンの縁部の前に配置された状態の、スクリーン10の上から見下ろした図である。スクリーンが、4つの同じ幅の垂直4分割パネルA〜Dを有するものとみなされる場合、最も近いパネル(D)は、この場合、観察者によって視認される45°角度に内在することが見られる。他の4分割パネルC、B、およびAは、しだいに観察者の視野のより小さい範囲に内在する。(スクリーン全体は、観察者の視野の約76°を満たすため、最も近い4分割パネルの45°の見かけの幅は、他の3つの4分割パネルの見かけの幅を合わせたものより大きい。)
【0041】
この現象は、観察者によって視認される、スクリーン上に提示されるイメージリーを歪ませる。人間の目および脳は、もちろん、この歪みに伴う問題を持たず、この歪みは許容され、我々が見るほぼ全てにおいて常に存在すると考えられる。
【0042】
ウォータマークは、イメージリー内に隠ぺいされる場合、携帯電話16によって視認される場合、同様に歪まされていることになる。タイル表示された変種のウォータマークでは、視認者に最も近いタイルは、比較的大きく見えることになり、さらに遠いタイルは、比較的小さく見えることになる。特許第6,590,996号に開示される検出器などの現代のウォータマーク検出器は、こうした歪みに対してロバストである。検出器は、各コンポーネントタイルのスケールおよび回転を評価し、その後、各コンポーネントタイルからペイロードを復号する。復号されたタイルの全てからのペイロードは、結合されて、特定のタイルからのデータが読み取りできなくても、信頼性がある出力ウォータマークデータをもたらす。
【0043】
この能力があるにもかかわらず、本技術の一実施態様では、イメージリー内に隠蔽されたウォータマークパターンは、この透視歪みを相殺するために、観測者の場所に従って前もって歪まされる。図8Bは、1つのこうした事前歪の形態を示す。スクリーン10は、やはり4つの垂直パネルを有するものとみなされる場合、垂直パネルは、ここでは異なる幅である。最も遠いパネルA’は、他のパネルよりずっと大きい。事前歪は、各パネルが、観察者にとって同じ角度の視野(この場合、約19°)を内在するように構成される。
【0044】
第1次近似では、この事前歪は、スクリーン10から、観察者がそれに対して中心軸84上にいる仮想スクリーン10’上にウォータマークを投影するときに視認されることができる。
【0045】
図9は、2次元におけるこのウォータマーク事前歪の結果を示す。図9の各長方形は、1つの例証的なウォータマークタイルの範囲を示す。視認者に最も近いタイルは比較的小さく、遠方のタイルは比較的大きい。
【0046】
図9に示すタイル幅は、図8Bの幅A’〜D’に対応する。タイル高さもまた、観察者の斜視の垂直位置(ここでは、スクリーンの垂直中央線に沿うとみなされる)に従って変わる。そのため、スクリーンの上部および底部に近いタイルは、中央に沿うタイルより高い。
【0047】
ウォータマークタイルが図9のように事前に歪まされると、ウォータマーク検出器は、各タイルが、実質的に同じ見かけのスケールを有することを見出す。観察者に近いスクリーンの部分は、もはやより大きなタイルを呈さない、などである。それは、まるでウォータマーク検出器が、スクリーンから突出する中心軸に沿うある距離の点からスクリーンを見ているようなものである。
【0048】
図10に示すように、コンピュータ14は、観察者の検出される位置の変化に従って、ディスプレイスクリーン上に提示されるウォータマークパターンの歪を変えることができる。そのため、観察者がスクリーンの一方の側から別の側へ移動する場合、ウォータマークパターンの事前歪は、相応して観察者に追従することができる。
【0049】
スクリーン10上に提示される広告または他の人間が知覚可能なイメージリーは、事前に歪まされないことに留意されたい。すなわち、人間の観察者は、常に見られる、よく知っている場所依存性のある透視歪効果を有する広告を見る。しかし、ウォータマーク検出器は、観察者(携帯電話)の場所によらず、実質的に歪の無い均一なウォータマークパターンを見る。
【0050】
同じ配設を、複数の異なる観察者に拡張することができる。電子看板システムは、それぞれが異なる観察者をターゲッティングするいくつかの異なるウォータマークパターンをスクリーン10上に提示することができる。異なるパターンは、時間的に交互配置、または、同時に提示することができる。
【0051】
同じディスプレイスクリーン上での複数のウォータマークパターンの使用は、図11のパターン42および44によって概念的に示される。第1のウォータマークパターン42(細い実線で示す)は、図9のタイルと同一の事前に歪まされたタイルのアレイである。第2のパターン44(太い破線で示す)は、異なる観察者のために構成されたタイルの異なるアレイである。特に、この第2のパターンは、(タイルが全て均一なサイズであるため)明らかに、ある距離からの、ディスプレイの中心軸から視認する観察者のためにターゲッティングされる。パターン44の意図される観測者はまた、パターン42の意図される観察者に比べて明らかにスクリーンからより遠くにいる(すなわち、ウォータマークパターン44の最も小さなタイルは、ウォータマークパターン42の最も小さなタイルより大きく、より遠い視認用斜視が意図されていることを示す)。
【0052】
異なるウォータマークの時間逐次的交互配列(time-sequentialinterleaving)の場合、コンピュータ14は、異なるウォータマークパターン(それぞれ、観察者の場所に従って判定された)を有する表示コンテンツの異なるフレームを符号化する。適用されたウォータマークパターンは、フレームごとに変更される可能性があり、または、変更する前に、数フレームにわたって一定に保持される可能性がある。観察側携帯電話内のデコーダは、全てのウォータマークを復号するが、明らかに異なる位置の観察者をターゲッティングするウォータマークを無視するようにプログラムされてもよい。これは、視野にわたってコンポーネントウォータマークタイルの見かけのスケールの変動を記録することによって見定めることができる。フレーム内のタイルが、異なってスケーリングされる場合、パターンは、明らかに、異なる観察者について事前に歪まされている。フレーム内のタイルが全て、実質的に均一なスケールを有する場合にだけ、携帯電話検出器は、パターンを、その観察者のためにターゲッティングされているとみなし、それに基づいてアクションを起こす。
【0053】
複数のウォータマークパターンの同時表示の場合、コンピュータ14は、パターンを個々に計算し(やはり、それぞれは、ターゲッティングされる観察者場所に基づいて)、その後、表示されるコンテンツ内に符号化するために、パターンを結合する。
【0054】
この実施態様では、観察側携帯電話内のデコーダは、比較的鋭く同調されるため、特定の見かけのサイズを有するウォータマークタイルに応答するだけである。より大きいまたはより小さいタイルパターンは、無視され−ホスト画像コンテンツの一部のように処理される、すなわち、ノイズが無視される。
【0055】
例証するために、サイズ1200ピクセル×1600ピクセルの画像を出力する画像センサを有するカメラを考える。カメラのウォータマークデコーダパラメータは、デコーダが、1辺当たり200ピクセル+/−10ピクセルの公称サイズを有するウォータマークタイルにだけ応答するように、調整されてもよい。
【0056】
簡単にするために、電子ディスプレイスクリーンは、カメラセンサと同じアスペクト比を有するが、4.5フィート高さおよび6フィート幅を有すると想像する。さらに、意図される視認者は、看板の中心線上にいて、看板がカメラの視野の1/4(すなわち、高さが半分、幅が半分、または、600×800カメラピクセル)を満たすだけであるように十分に離れていると想像する。この配設では、コンピュータ14は、意図される観察者をターゲッティングするために、表示されるウォータマークタイルが、1つの辺上で1.5フィートであるようにサイズを決定しなければならない。すなわち、ウォータマークタイルが、1辺が200ピクセルである正方形としてカメラによって撮像されるために、図12に示すように、看板に、3つのタイルが縦に並び、4つのタイルが横に並ばなければならない。(例証を明確にするために、図12の均一なタイルグリッド、および図11のパターン44は、看板の中心線からの観察者の斜視によって生じる見かけの歪を相殺するために適用される場合がある事前歪を無視する、すなわち、看板の左および右縁部のタイルは、さらに遠くにあるため、拡大されるべきである、などである。)
【0057】
ウォータマーク検出器の同じ狭い調整は、意図されるウォータマークパターンを他の観察者をターゲッティングするパターンから区別するために、異なるウォータマークパターンの時間逐次的交互配列で使用することができることが認識されるであろう。
【0058】
今述べた配設によって、表示されるウォータマークパターンは、ターゲッティングされる観察者の位置を考慮する。これらのウォータマークのペイロードはまた、ターゲッティングされる観察者に対して調節することができる。
【0059】
1つの特定の配設では、ペイロードは、人口統計的に調節される。人口統計(たとえば、年齢、民族性、性別)は、カメラ12によって取込まれたイメージリーから判定されてもよい。別法としてまたは付加的に、人口統計データは、個人などによる、その他の方法で提供されてもよい。たとえば、個人の携帯電話または個人のフェースブックプロファイルに記憶されるデータが、利用可能である場合があり、自宅郵便番号および市外局番、収入レベル、雇用、教育、音楽および映画の好み、ファッションの好み、趣味および他の関心事、友人、旅行先などを含む情報を明らかにする場合がある。
【0060】
人口統計は、あるタイプのコンテキストとみなされる場合がある。コンテキストの1つの定義は、「ある実体の状況を特徴付けるために使用されることができる任意の情報」である。ある実体は、ユーザおよびアプリケーション自体を含む、ユーザとアプリケーションとの間の相互作用に関連すると考えられる人、場所、またはオブジェクトである
【0061】
コンテキスト情報は、コンピューティングコンテキスト(ネットワーク接続性、メモリ可用性、CPU競合など)、ユーザコンテキスト(ユーザプロファイル、場所、好み、近くの友人、ソーシャルネットワーク(複数可)、および状況など)、物理的コンテキスト(たとえば、照明、ノイズレベル、交通など)、時間的コンテキスト(時刻、日、月、季節など)、上記の履歴などを含む、多くの種類がある可能性がある。これらのまた他のコンテキストデータはそれぞれ、異なるウォータマークペイロードについての基礎として(または、より一般的に、ユーザに対する異なる応答/見返りについての基礎として)使用することができる。
【0062】
視認者の位置は、電子サイネージに関連するカメラの使用によって確定される必要はない。代わりに、視認者の携帯電話によって検知されるデータを使用することができる。種々の手法が存在する。
【0063】
一部の実施形態における先行する問題は、視認者がどんなスクリーンを注視しているかを識別することである。この情報は、ユーザの携帯電話が、正しい電子看板システム(または多くの個々の電子看板を管理する場合がある正しい制御システム)と通信することを可能にする。しばしば、このステップは、近くに1つのスクリーンが存在するだけである可能性があり、曖昧さが全く存在しない(または、実施形態がこうした知識を必要としない)ため、省略することができる。しかし、他のコンテキストでは、多くのスクリーンが存在する場合があり、解析は、最初に、どのスクリーンが視認されているかを識別する必要がある。(密接な間隔のいくつかのスクリーンを有するコンテキストは、展示会および空港コンコースを含む。)
【0064】
どのスクリーンが注視されているかを識別する1つの方法は、たとえば緯度および経度によって、視認者の位置を示すデータを参照することによる。候補スクリーンの位置が同様にわかっている場合、視認者がそこからイメージリーを取込んでいるスクリーンは、単純な近接性によって確定される場合がある。
【0065】
GPSは、よく知られている場所検知技術であり、いくつかの実施形態で使用することができる。他の実施形態では、GPSは、GPS信号が屋内に侵入しないため、または、位置精度が十分でないため、十分でない場合がある。こうした場合、代替の位置特定技術を使用することができる。1つの技術は、公開された特許出願第WO08/073347号に詳述されている。
【0066】
緯度/経度または同様なものが曖昧さを残す場合、携帯電話がその方に向くコンパス方向および水平に対するその伏角/偏角を示す磁束計および/または加速度計データなどの、視認者に関する他の位置データを使用することができる。やはり、スクリーンの位置が適切に特徴付けられる場合、この情報は、多くのスクリーンの中でも1つのスクリーンの一意の識別を可能にできる。
【0067】
他の配設では、スクリーンコンテンツが、視認されている提示を識別するために使用される。視認者の携帯電話によって取込まれる画像は、最良の一致を見出すために、一組の候補スクリーンによって最近提示されたイメージリーと比較されることができる。(候補スクリーンは、その大雑把な地理的場所、たとえばポートランド空港によって識別される可能性がある、または、一組の考えられる電子看板を制限する他の方法を使用することができる。)比較は、カラーヒストグラムなどの簡単な統計的メトリックに基づくことができる。または、比較は、携帯電話画像間と候補スクリーン上に提示される画像との間の特徴相関などのより詳細な解析に基づくことができる。無数の比較技法が可能である。中でも、SIFTまたは画像指紋に基づく技法(共に以下で論じる)が存在する。
【0068】
表示されたイメージリーまたはビデオ中に符号化されるデジタルウォータマークデータはまた、注視されているコンテンツ/スクリーンを識別するために機能することができる。
【0069】
(時として、いくつかのスクリーンは同じビジュアルコンテンツを提示している場合がある。こうした場合、視認者が、コンコースAもしくはBで、またはニューヨークまたはカルフォルニアでスクリーンを注視しているかどうかは重要でないかもしれない。むしろ、重要なことは、視認されているコンテンツである。)
【0070】
同様に、オーディオコンテンツが、視認者がさらされているコンテンツ/スクリーンを識別するために使用されてもよい。やはり、ウォータマーキングまたは比較ベース手法(たとえば指紋)は、こうした識別を実施するために使用することができる。
【0071】
他の配設では、なお他のスクリーン識別技法を使用することができる。たとえば、サブリミナル識別子を、電子看板(または組み込まれたラウドスピーカ)によって放出し、視認者の携帯電話によって見定めることができる。1つのこうした配設では、スクリーンの輝度は、電話によって検知されるバイナリ識別子を伝達するためにわずかに変調される。同様に、スクリーンのベゼルに沿って配置されたLEDまたは他のエミッタは、識別用パターンを送信することができる。(ほとんどの携帯電話カメラが、赤外線に対するある程度の感度を有するため、赤外照明を使用することができる。)
【0072】
一部の実施形態では、図1のサーバ18などのリモートサーバは、問い掛け側携帯電話から位置または画像データを受信し、たとえば参照データと比較することによって、どの看板/コンテンツが視認されているかを判定する。リモートサーバは、その後、テーブルまたは他のデータ構造から対応するコンピュータ14用のIPアドレスをルックアップし、視認側携帯電話を看板システムに知らせてもよい。リモートサーバはまた、このアドレス情報を携帯電話に送信し、電話が、看板システムと直接通信することを可能にする。(他の通信手段を代替的に使用することができる。たとえば、リモートサーバは、ブルートゥース、WiFi、または携帯電話が看板システムと通信することを可能にする他のデータを携帯電話に提供することができる。)こうした配設によって、電話と看板システムとの間で仮想セッションを確立することができ、その対間に論理的関連性が定義される。
【0073】
視認されているスクリーン(またはコンテンツ)がわかると、スクリーンに対する視認者の位置を判定することができる。
【0074】
ここでも、1つの技法は位置データに依存する。十分な位置精度が利用可能である場合、観察者がそこから電子看板を視認している斜視は、看板の位置および方向と共に、観察者の位置および視認方向の知識から確定することができる。
【0075】
電子看板に対する視認者の位置を確定する別の手法は、見かけの幾何形状に基づく。ディスプレイスクリーンの対向する辺は、同じ長さであり、隣接する辺は、互いに直角である。ピンホールカメラモデルが仮定される場合、これらの同じ関係が、スクリーンの中心軸(すなわち、その垂線)に沿う場所から視認される場合、視認者の携帯電話によって取込まれるイメージリー内のスクリーンの描写について保持される。スクリーンの垂線から視認されない場合、これらの関係の1つまたは複数が異なることになり、長方形が幾何学的に歪むことになる。
【0076】
通常の幾何学的歪は、主に、「キーストーニング(keystoning)」としても知られる台形効果である。視認者取込み画像内の幾何学的歪は、スクリーン垂線に対する視認角度を確定するために解析することができる。この視認角度は、こんどは、視認者の近似位置を示すことができる(すなわち、視認角度ベクトルが、カメラが存在する、たとえば床から5.5フィート上の可能性のある視認平面を交差する場合)。
【0077】
知られている画像処理技法を、取込まれた画像内で四辺形スクリーンの描写を見出すために使用することができる。エッジ発見技法を使用することができる。すなわち、閾値処理式ブロブ(たとえば、四辺形の明るいオブジェクトが識別されるまで、画像をぼかし、得られるピクセル値を上昇してくる閾値と比較する)が可能である。または、ハフ変換を使用するなど、パターン認識法が使用されることができる。例示的な看板発見法は、Tam著「Quadrilateral signboard detection and text extraction」、Int’l Conf. on Imaging,Science,Systems and Technology,pp.708−713,2003に詳述される。
【0078】
取込まれたイメージリー内でスクリーンが識別されると、簡単な写真測量技法が適用されて、角点を参照することによって、かつ/または、表示された画像コンテンツの歪から視認角度を見定めることができる。(こうした解析の例示的な処理は、Chupeau著「In−theater piracy:finding where the pirate was」、Proc.SPIE,Vo.6812、2008に提供されており、カメラ付きビデオで録画された映画コピーを調査して、コピーがそこから撮影された映画館内の場所が判定される。)
【0079】
利用可能な場合、携帯電話のカメラのレンズ系をモデル化する情報が、画像解析と連携して使用されて、なおより正確な結果をもたらすことができる。しかし、ピンホールカメラモデルで、一般に十分である。
【0080】
特定の実施形態に応じて、視認距離は考慮しなくてもよいかもしれない。(重要である場合、視認距離は、先に述べたように、視認角度が視認平面をどこで交差するかを判断することによって推定されてもよい。)距離を判断するときに、看板のサイズを使用することができる。この情報は、看板システムコンポーネント14に知られており、携帯電話プロセッサが距離推定を実施する場合、携帯電話に提供することができる。または、携帯電話によって取込まれるイメージリーが、解析のために看板システムコンピュータに提供される場合、コンピュータは、距離を確定するのを助けるために、解析の中で看板サイズ情報を因子とすることができる。(携帯電話カメラがズーム機能を有する場合、電子看板の取込まれた画像は、視認距離を示さないスケールである場合がある。ズームの程度を示すメトリックを提供するカメラシステムからのデータは、この問題に対処するために、関連プロセッサによって使用することができる。)
【0081】
スクリーン長方形が、携帯電話画像フレーム内に完全に取込まれない場合、ユーザの位置に関する一部の情報は、それでも、確定することができる。たとえば図13Aに示す部分的なスクリーン長方形(1つの完全なエッジおよび2つの不完全な対向エッジ)を考慮して、不完全に取込まれた対向するエッジは、延長される場合、収束するように見え、視認者がエッジAの左にいることを示す。対称的に、図13Bの発散する対向するエッジは、視認者がエッジAの右にいることを示す。
【0082】
観察者の視認位置が、携帯電話取込み画像データから見定めることができるなお別の方法は、看板によって提示され、ユーザ取込みイメージリーに含まれるグラフィカルデータ内で符号化されたウォータマーク情報を参照することによる。特許第6,590,996号に詳述されるような、ステガノグラフィ的に符号化されたウォータマーク信号は、一般に、符号化のためにイメージリーに導入されたアフィン幾何学的歪を、ウォータマークデコーダがそれによって検出することができる方向信号成分を含み、それにより、符号化されたペイロードは、こうした歪にもかかわらず、適切に復号することができる。特に、詳述されたウォータマークシステムは、6つの画像歪度、すなわち回転、スケール、差のスケール、せん断、およびxとyの両方における並進を、取込まれたイメージリーから見定めることを可能にする。
【0083】
斜視効果が中程度である場合、ほとんどのある距離における視認シナリオについてこれらの6つのパラメータで十分である。近接斜視歪は、いくつかの連続する(または重なった)ウォータマーク方向信号、すなわち、1つが従来の信号で、他の1つまたは複数が、異なる透視変換によって事前に歪まされた信号を用いて、表示されるイメージリーを符号化することによって処理することができる。ウォータマークリーダは、透視変換された方向信号のうちのどれが、最も低いエラーレート(または、最も高い信号対雑音比)で復号されるかを示すことができ、その透視変換を示す。あるいは、従来のウォータマークは、コンテンツ内で符号化することができ、デコーダは、最も低いエラーレート(または最も高いS/N比)をもたらす信号を識別するために、復号する前に、取込まれたイメージリーに対して一連の異なる透視変換を適用することができる。
【0084】
(ウォータマーク復号の品質を評価するメトリックとしてのビットエラーの使用は、たとえばBradley著「Comparative performance of watermarking schemes using M−ary modulation with binary schemes employing error correcion coding」、SPIE,Vol.4314,pp.629−642,2001および特許公報第US20020159614号アフィン幾何学的歪ならびに引用される文書の他の文書に詳述される。これらのエラーは、最終的にエラー訂正スキームによって訂正される。)
【0085】
観察者の視認位置を推定するなお別の方法は、ディスプレイスクリーン上に提示され、観察者の携帯電話によって取込まれる既知のイメージリーの見かけの歪を参照することによる。SIFT、ロバストなシーン記述子スキーム、および幾何学的変換に対してロバストである画像指紋を、このために使用することができる。マッチングプロセスの一部として、同期パラメータが推定され、視認者の位置を推定することを可能にする。
【0086】
視認者位置情報をそこから推定することができる表示されたイメージリーは、この目的のために専用である必要はなく、任意のグラフィックを使用することができる。しかし、場合によっては、視認者位置の確定を容易にするために特別に調節されたグラフィックスを提供することができる。
【0087】
たとえば、シーンの画像ベースの理解は、参照情報(たとえば、サイズ、位置、角度)がそれについてわかっており、また、システムがそれによって他の特徴を理解することができる、1つまたは複数の特徴またはオブジェクトを、スクリーン上でまたはスクリーンの近くで提示することによって、関係性によって補助することができる。1つの特定の配設では、ターゲットパターンは、たとえば視認距離および方向をそこから識別することができるスクリーン上に表示される(または、スクリーンに隣接して提示される)。そのため、こうしたターゲットは、距離および方向情報を任意の観察カメラシステムに信号送信するビーコンの役をする。1つのこういったターゲットは、たとえばde Ipina著「TRIP:a Low−Cost Vision−Based Location System for Ubiquitous Computing」、Personal and Ubiquitous Computing,Vol.6,No.3,May,2002,pp.206−219に詳述されたTRIPcodeである。
【0088】
Ipinaの論文に詳述されるように、ターゲット(図14に示す)は、ターゲットの半径を含む情報を符号化し、カメラ装備システムが、カメラからターゲットまでの距離とターゲットの3D姿勢の両方を確定することを可能にする。ターゲットをその符号化されたサイズで電子スクリーン上に提示することによって、Ipinaの配設は、カメラ装備システムが、スクリーンまでの距離とカメラに対するスクリーンの空間的方向の両方を理解することを可能にする。
【0089】
TRIPcodeは、SpotCode、次に、ShotCode(また、時にBango)として連続して知られている種々の実施態様を経験した。TRIPcodeは、現在、OP3 B.V.によって商品化されていることが理解される。
【0090】
示されたTRIPcodeターゲットの美観は、一般に、サイネージ上での表示に適さない。しかし、パターンは、一連の画像中の1フレーム内に頻繁ではなく(たとえば、30フレーム/秒のディスプレイ配設において3秒ごとに1回)重ねることができる。ターゲットの位置は、ビジュアルアーチファクトを減少させるために変えることができる。カラーは、黒である必要はなく、目立たないカラー(たとえば黄)が使用されてもよい。
【0091】
TRIPcodeなどの丸いターゲットは、たとえばその異なる楕円姿勢においてこうした形状を認識するときの、計算の容易さのために望ましいが、他の形状のマーカを使用することができる。ある表面の3D位置を確定するのに適した正方形マーカは、SonyのCyberCodeであり、たとえばRekimoto著「CyberCode:Designing Augmented Reality Environments with Visual Tags」、Proc.of Designing Augmented Reality Environments 2000,pp.1−10に詳述される。種々の他の参照マーカを、特定の用途の要件に応じて代替的に使用することができる。
【0092】
前述のように、看板に対する視認者の場所が識別されると、こうした情報は、看板のコンピュータシステム(この情報がこうしたシステムによって最初に識別されなかった場合)、および視認者の空間的場所を看板上に提示されるイメージリー内に定義し符号化することができるウォータマークターゲッティングに通信することができる。看板が、視認者の性別、年齢、または他の属性をそれから推定することができるカメラシステムを有する場合、看板は、識別された場所の視認者に関連する推定された属性(複数可)に従って、ターゲッティングされるウォータマークペイロード(または、任意のペイロードに関連する見返り)を調節することができる。または、こうしたプロファイル情報は、視認者取込みイメージリーと共に(または、そのイメージリーから導出された場所情報と共に)視認者によって看板システムコンピュータに提供されてもよい。
【0093】
別の配設では、ユーザの携帯電話は、看板の一部または全ての画像を取込み、その画像を(たとえば、ブルートゥースまたはインターネットTCP/IPによって)看板システムコンピュータに送信する。看板システムコンピュータは、送信された画像に描写される看板の幾何形状からユーザの場所を見定める。自身のカメラから、看板システムは、看板の前の異なる場所にいる何人かの人々の性別、年齢、または他の人口統計(複数可)を特徴付けた。ブルートゥースによってイメージリーを提供した視認者の幾何形状によって見定められた場所を、看板システムコンピュータが視認者を人口統計的に特徴付けた看板の前の位置のうちの1つの位置と一致させることによって、コンピュータは、ブルートゥース伝送情報がその人から受信された特定の視認者の人口統計(複数可)を推測することができる。看板システムは、その後、見返りデータをその視認者にブルートゥースで返送し、その特定の視認者の推定された人口統計(複数可)に対して見返りデータを調節することができる。(この配設では、いくつかの他の配設の場合と同様に、見返りはブルートゥースによって送出され、たとえば看板上に提示されるウォータマーク内に符号化されないことに留意されたい。)
【0094】
ユーザの電話に提供されることができる見返りのタイプおよび種類は、事実上制限がない。電子クーポンが先に述べられた。他のクーポンは、マルチメディア娯楽コンテンツ(音楽ビデオ、映画クリップ)およびオンラインリソースに対するリンク/アクセス証明書を含む。展示会への訪問者は、たとえば、自分の職業(たとえばRFエンジニア)を示すプロファイル情報を共有してもよい。ベンダーブースで遭遇されるサイネージは、この情報を検知し、こうした職業に関連するベンダーの商品提供を展示するリンクを提供してもよい。ユーザは、展示会にいる間、こうしたリンクに作用しなくてもよいが、自分のオフィス戻ったときに後で検討するために、そのリンクをセーブしてもよい。同様の様式で、他の見返りが、後で使用するために記憶されてもよい。
【0095】
多くの事例では、ユーザは、ユーザの自身の個人体験を規定する、電子看板によって提示されるコンテンツと、視覚的に相互作用的なセッションで関わり合いたいと欲する場合がある。たとえば、ユーザは、ゲームをすることなどによって、看板の1つまたは複数の変更を促す活動を行いたいと思う場合がある。
【0096】
現代の携帯電話は、こうした相互作用的セッションで使用されることができる種々のセンサ、すなわちプッシュボタン(仮想的または物理的)だけでなく、加速度計、磁束計、カメラなど、を提供する。こうした電話は、電子看板システムと連携してゲームコントローラ(Wiiを考えてみる)のように使用されることができる。2人以上のユーザは、複数プレーヤ体験に関わることができ、プレーヤのデバイスは、カメラおよび/または他のセンサの使用によって看板システムの態様を制御する。
【0097】
1つの特定の配設では、ユーザの電話は看板の画像を取込む。イメージリーまたは電話からの他のデータは、先に述べたように、どの看板(コンテンツ)が視認されているかを判定するために解析される。携帯電話は、その後、看板システム(たとえばコンピュータ14)と情報を交換して、セッションを確立し、ゲームのプレイを制御する。たとえば、携帯電話は、電話カメラによって取込まれたイメージリーを送信し、イメージリーから、(たとえば、特許第7,174,031号に詳述されるように、カメラによって取込まれた画像データのいくつかのフレームにわたって1つまたは複数の特徴を追跡することによって)電話の動きが推定されることができる。または、電話内の1つまたは複数の加速度計からのデータを、看板システムに送信することができ、やはり、電話の動きを示す。従来そうであるように、コンピュータは、これらの信号を入力として取得し、ゲームのプレイを相応して制御する。
【0098】
スクリーンは、空港のバーにあってよく、ゲームは、地域のプロフットボールチーム(たとえば、Seattle SeaHawks)によって後援された仮想フットボールゲームであってよい。バー内の誰もが、自分の携帯電話の使用によって、プレイするチームメンバー(利用可能なプレーヤは、ディスプレイの縁部上のグラフィカルアイコンによって識別される)を選択できる。たとえば、ユーザは、所望のプレーヤ用のアイコンに自分の電話を向け(たとえば、電話のディスプレイスクリーンの中心に仮想十字線でプレーヤアイコンが現れるようにカメラを位置決めする)、その後、選択を指示するために、物理的/仮想的ボタンを押す/たたくことができる。電話の画像は、看板システムに中継され、看板システムにプレーヤの選択が知らされてもよい。または、電話は、選択されたアイコンから導出された識別子、たとえばウォータマークまたは画像指紋を送出することができる。
【0099】
システムは、プレーヤが選択されたことを示すフィードバック(グラフィックオーバレイ、振動など)を提供し、一旦選択されると、電子看板上のその状態を反映する。プレーヤが選択された後、ユーザは、ユーザの携帯電話の動きによって、仮想フットボールゲームの将来のプレイにおけるプレーヤの動きを制御する。
【0100】
別のフットボールゲームでは、ユーザは、個々のプレーヤを制御しない。代わりに、ユーザは、どのプレーヤが、ラインナップに入るようにまたラインナップから出るように交換されるかを識別するコーチとして働く。コンピュータシステムは、その後、ユーザによって選択されたプレーヤの名簿に基づいてプレイをシミュレートする。
【0101】
別のゲームは、仮想レゴゲームまたはパズル構築エクササイズである。1人または複数人のプレーヤはそれぞれ、(上記プレーヤを選ぶように)デジタルスクリーン上でレゴまたはパズルピースを選択し、所望の場所にカメラを向け、(たとえば、タップなどの電話のユーザインタフェースを使用して)その場所にピースを置く信号を発行することによって、所定場所にピースを移動させることができる。ピースが置かれる方向は、「置く」信号が発行されるときにユーザの電話の方向によって制御することができる。いくつかの実施形態では、各ピースは、選択および制御を容易にするために、ウォータマーク、バーコード、指紋、または他の特徴認識配設によって一意に識別される。
【0102】
出願人によって特に想定されるいくつかの配設は、以下を含む。
【0103】
第1の観察者によって視認される電子看板に関与する方法であって、(たとえば、看板に関連するカメラによってまたは観察者に関連するカメラによって取込まれた画像データを参照することによって)第1の観察者に関する位置情報を入手することと、位置情報を考慮する第1のデジタルウォータマーク信号を定義することと、前記第1のデジタルウォータマーク信号に従って画像データを符号化することと、電子看板上に符号化された画像データを提示することと、を含む方法。
【0104】
第2の観察者は、同様に処理され、第1の観察者に提供されるウォータマーク信号と同じまたは異なるウォータマーク信号を提供されてもよい。
【0105】
別の方法は、それぞれがセンサ装備デバイス(たとえば、マイクロフォンおよび/またはカメラを装備する携帯電話)を運ぶ複数の観察者によって視認される電子看板システムに関与する。この方法は、電子看板の第1の観察者について第1のデータペイロードを確立することと、電子看板の第2の観察者について第2のデータペイロードを確立することと、デジタルウォータマークデータによってオーディオまたはビジュアルコンテンツデータをステガノグラフィ的に符号化することであって、デジタルウォータマークデータは第1および第2のデータペイロードを伝達する、ステガノグラフィ的に符号化することと、電子看板を使用して符号化されたコンテンツデータを提示することを含む。この配設では、第1の観察者によって運ばれるセンサ装備デバイスは提示されるコンテンツデータ内に符号化される第1のデータペイロードに応答するが、第2のデータペイロードには応答せず、第2の観察者によって運ばれるセンサ装備デバイスは、提示される画像データ内に符号化される第2のデータペイロードに応答するが、第1のデータペイロードには応答しない。
【0106】
別の方法は、異なる時間における観察者の異なる組合せによって視認されるスクリーンを含む電子看板システムに関与する。この方法は、スクリーンを観察する第1の人を検出することと、第1の観察者に対応する第1のウォータマーク信号を用いて、電子看板システムによって提示されるコンテンツを符号化することと、第1の人がスクリーンを依然として観察している間に、スクリーンを新しく観察する第2の人を検出することと、第1の観察者に対応する第1のウォータマーク信号および同様に第2の観察者に対応する第2のウォータマーク信号を用いて、電子看板システムによって提示されるコンテンツを符号化することと、前記人のうちの一人が、看板をもはや観察していないとして検出されると、残りの観察者に対応するウォータマーク信号を用いて、電子看板システム上に提示さるコンテンツを符号化するが、看板をもはや観察していない人に対応するウォータマーク信号を用いないことと、を含む。こうした配設によって、ウォータマーク信号の異なる組合せは、異なる時間にスクリーンを観察する人の異なる組合せに従って、電子看板システム上に提示さるコンテンツ内に符号化される。
【0107】
別の方法は、手持ち式デバイスを使用して、ディスプレイから画像データを取込むために手持ち式デバイスを使用すること含む。取込まれた画像データ内にステガノグラフィ的に符号化されたデジタルウォータマーク信号のパラメータが、その後確定される。このパラメータは、ウォータマーク信号を用いて符号化されたペイロードデータ以外であり、たとえば幾何学的パラメータまたはエラーメトリックを含んでもよい。この確定(パラメータを参照と比較することを含んでもよい)の結果に応じて、デバイスがディスプレイにどのように応答すべきかについての決定が行われる。
【0108】
なお別の方法は、第1の観察者によって視認される電子看板に関与し、第1の観察者に関連する第1のコンテキストデータを入手することと、第1のコンテキストデータを考慮する第1のデジタルウォータマーク信号を定義することと、第1のデジタルウォータマーク信号に従って第1の画像データをステガノグラフィ的に符号化することと、電子看板上に符号化された画像データを提示することと、を含む。前術のように、方法は、第2の観察者を同様に処理するように拡張されてもよいが、第2の異なるデジタルウォータマーク信号を用いる。こうした場合、同じ第1の画像データは、両方の観察者に提示されるが、異なるコンテキストデータに従って異なるウォータマーク信号を用いてステガノグラフィ的に符号化される。
【0109】
なお別の方法では、電子看板は、複数の観察者によって視認されるコンテンツを提示する。この方法は、第1の観察者によって運ばれる第1のカメラ装備デバイスを使用して、提示されたコンテンツを視認し、前記提示されたコンテンツに対応する第1の画像データを取込むことと、取込まれた第1の画像データを参照することによって、第1の識別データを確定することと、第2の観察者によって運ばれる第2のカメラ装備デバイスを使用して、同じ提示されたコンテンツを視認し、同じ提示されたコンテンツに対応する第2の画像データを取込むことであって、第2の画像データは、第1および第2の観察者の視点が異なるために第1の画像データと異なる、視認し取込むことと、取込まれた第2の画像データを参照することによって、第2の識別データを確定することと、第1のデバイスまたは第1の観察者に固有の情報と共に、第1の識別データを参照することによって、第1のデバイスに対する第1の応答を提供することと、第2のデバイスまたは第2の観察者に固有の情報と共に、第2の識別データを参照することによって、第2のデバイスに対して第2の異なる応答を提供することとを含む。こうした配設によって、第1および第2のデバイスは、電子看板上に提示される同じコンテンツの視認に対して異なる応答を提供する。(第2の識別データは、取込まれた第1の画像データが取込まれた第2の画像データと異なるにもかかわらず、第1の識別データと同じとすることができる。)
【0110】
なお別の方法は、観察者によって運ばれるカメラ装備デバイスを使用して、電子看板に対応する画像データを取込むことと、取込まれた画像データを参照することによって、複数の電子看板のうちのどの電子看板が第1の観察者によって観察されているかを判定することと、前記判定に少なくとも部分的に基づいて、デバイスと電子看板との間でデータを交換することとを含む。
【0111】
こうした配設では、カメラに少なくとも部分的に依存するデータまたは動きデータなどのデータを、デバイスから送信できる。動きデータは、デバイス内の1つまたは複数の加速度計の使用によって生成されることができ、または、カメラによって取込まれた画像データのいくつかのフレームにわたって1つまたは複数の可視的な特徴を追跡することによって生成することができる。
【0112】
別の方法は、視認場所に基づいて、電子看板の観察者に対して人口統計的にターゲッティングされた応答を提供することに関する。この方法は、第1の観察者に関連する第1の人口統計情報および第2の観察者に関連する第2の人口統計情報を入手することと、第1の人口統計情報に関連する第1の応答データおよび第2の人口統計情報に関連する第2の応答データを確定することと、第1の観察者に関連する第1の場所データおよび第2の観察者に関連する第2の場所データを入手することと、観察者のデバイスから画像データを受信することと、受信された画像データを処理することであって、それにより、受信された画像データが取込まれた場所を推定する、処理することと、推定された場所が第1の場所である場合、前記デバイスに第1の応答データを返すこととを含む。(推定された場所が第2の場所である場合、第2の応答データを、デバイスに返すことができる。)
【0113】
さらなる方法は、観察者によって運ばれるカメラ装備デバイスと電子看板システムとの間の関連性を確立することと、デバイスからデータを受信することであって、受信されるデータはカメラによって取込まれる画像データに少なくとも部分的に依存する、受信することと、受信されるデータに少なくとも部分的に基づいて、電子看板システムの動作を制御することと、を含む。
【0114】
この方法は、電子看板上で複数のゲームアイテムの描写を提示することと、観察者が、スクリーン上に提示される前記ゲームアイテム描写の特定の1つを、カメラデバイスを使用して視認し、選択したことを示すデータを、デバイスから受信することをさらに含むことができる。ゲームプレイの描写は、電子看板上に提示されることができ、こうしたプレイは、特定のゲームアイテムの観察者の選択を反映する。
【0115】
描写されるゲームアイテムは、パズルピースを含むことができ、方法は、パズルピースが置かれる位置および方向を示す信号をデバイスから受信することを含み、前記信号は、カメラによって取込まれる画像データに少なくとも部分的に依存する。
【0116】
第2の観察者はまた、たとえば、第2の観察者によって運ばれるカメラ装備の第2のデバイスと電子看板との間の論理的関連性を確立し、第2のデバイスからデータを受信し、前記受信されたデータは第2のデバイスによって取込まれる画像データに少なくとも部分的に依存し、前記受信されたデータは、第2の観察者が、前記描写されたパズルピースの特定の異なる1つを、第2のデバイスのカメラを使用して視認し選択したことを示し、前記描写されるパズルピースの異なる1つのパズルピースが置かれる位置および方向を示す信号を第2のデバイスから受信することによって参加することができ、前記信号は、第2のデバイスのカメラによって取込まれる画像データに少なくとも部分的に依存する。
【0117】
特定のゲームアイテムの選択は、特徴認識、デジタルウォータマークベース識別、バーコードベース識別、指紋ベース識別などの使用によって進めることができる。
【0118】
別の方法では、電子看板が、複数の観察者によって視認されるコンテンツを提示する。この方法は、第1の観察者によって運ばれる第1のカメラ装備デバイスの使用によって、提示されるコンテンツを視認し、提示されるコンテンツに対応する第1の画像データを取込むことと、第1の識別データを生成するために、前記第1の画像データを処理することと、第2の観察者によって運ばれる第2のカメラ装備デバイスの使用によって、同じ提示されるコンテンツを視認し、同じ提示されるコンテンツに対応する第2の画像データを取込むことであって、第2の画像データは、第1および第2の観察者の視点が異なるために第1の画像データと異なる、視認し取込むことと、第2の識別データを生成するために、第2の画像データを処理することと、電子看板に関連するセンサを使用して、第1および第2の観察者を描写する第3の画像データを取込むことと、第1および第2の観察者に関連する人口統計データを推定するために、第3の画像データを処理することと、推定された人口統計データを参照することによって、第1の観察者についての第1の応答データおよび第2の観察者についての第2の異なる応答データを確定することと、第1の観察者に対応する第1の場所情報および第2の観察者に対応する第2の場所情報を生成するために、第3の画像データも同様に処理することと、第1または第2の識別データを受信することと、生成された場所情報を参照することによって、受信された識別データが、第1のデバイスによって取込まれた画像データに基づくか、または、第2のデバイスによって取込まれた画像データに基づくかを判定することと、前記受信された識別データが前記第1のデバイスによって取込まれた画像データに基づいていたと判定される場合、第1の応答データを用いて、前記受信された識別データに応答することと、受信された識別データが第2のデバイスによって取込まれた画像データに基づいていたと判定される場合、第2の応答データを用いて、前記受信された識別データに応答することとを含む。こうした配設によって、方法は、識別データがどの観察者から受信されたかを推論し、その観察者に対応する人口統計的に確定された応答データを用いて応答する。
【0119】
なお別の方法は、ユーザによって運ばれる第1のセンサ装備デバイスの使用によって、電子看板システムからコンテンツデータを取込むことと、タイムベースを参照することによって、取込まれたコンテンツデータ内に符号化されたデジタルウォータマークデータの複数の時間的部分のうちのどの部分が、コンテキスト的にユーザに対応するかを判定することと、デジタルウォータマークデータの判定された時間的部分に基づいてアクションを起こすこととを含む。
【0120】
なお別の方法は、無歪み態様を有する入力画像データを受信することと、ステガノグラフィ的デジタルウォータマークパターンに従って入力画像データを符号化することと、ディスプレイスクリーン上に、符号化された画像データを提示することを含み、ステガノグラフィ的デジタルウォータマークパターンは、入力画像データに対して歪んだ態様を有する。(デジタルウォータマークパターンは、観測者の位置に従って歪まされてもよい。)
【0121】
本明細書で詳細に述べる配設の一部では、観察者によって視認される看板は、観察者および看板に関する場所情報を参照することによって識別される。他の配設では、識別は、(たとえば、ロバストなローカル画像記述子、指紋、またはウォータマークデータを使用して)観察者によって取込まれた画像データを参照することによって行われる。
【0122】
同様に、詳述された配設の一部では、ウォータマーク信号のスケールは、視認距離に従って調節されてもよく、かつ/または、ウォータマーク信号の投影は、視認角度に従って調節されてもよい(たとえば、ウォータマーク信号は、視認者場所に従って事前に歪まされてもよい)。ウォータマークのペイロードは、観察者に関する人口統計情報に従って確立されてもよい(たとえば、観察者から得られてもよい、または、観察者の観察から推定されてもよい)。
【0123】
コンテンツが(オーディオではなく)ビジュアルである場合、ウォータマークデータの符号化は、観察者に関連する視認幾何形状に従って事前に歪まされてもよい。一部の配設では、複数のデータペイロードは、前記センサ装備デバイスのうちの1つのデバイスにおいて復号されてもよいが、復号されたペイロードのうちの1つのペイロードだけが、応答のために選択される。(たとえば、その理由は、そのペイロードが、たとえばセンサ装備デバイスに記憶された、デバイスまたはそのユーザに関連するプロファイルデータに対応するためである。こうしたプロファイル情報は、性別、年齢、および/または自宅郵便番号データを示す可能性がある。)異なるペイロードは、たとえば、時間的にまたは周波数的に多重化されてもよい。
【0124】
なお別の方法は、第1のシステムに関連するカメラを使用してイメージリーを取込むことと、取込まれたイメージリー内の特徴を検出することと、検出された特徴に関連する拡張現実グラフィカルデータを、第1のシステムと異なる第2のシステムに対して識別することと、を含む。第1のシステムは電子看板システムを備えてもよく、第2のシステムはユーザの携帯電話を備えてもよい。方法はさらに、第2のシステム上で拡張現実グラフィカルデータを提示することを含むことができ、提示されたデータは、第2のシステムのユーザの1つまたは複数の人口統計属性に従って調節される。
【0125】
他のコメント
本明細書は、譲受人の以前の特許出願に対するその関係を先に述べたが、それは、繰返し述べるのに耐える。これらの開示は、連携して読まれ、全体として解釈されるべきである。出願人は、各開示内の特徴が、他の開示内の特徴と組み合わされることを意図する。そのため、たとえば、本明細書内で述べる配設および詳細は、先に引用した特許および用途で述べたシステムおよび方法の変形実施態様で使用することができるが、これらの文書の配設および詳細は、本明細書で述べるシステムおよび方法の変形実施態様で使用することができる。他の述べられた書類も同様である。そのため、本出願で開示される方法、要素、および概念は、関連する出願で詳述される方法、要素、および概念と組み合わせることができることが理解されるべきである。いくつかのこうした配設が、本明細書において特に詳述されたが、多数の置換および組合せが存在するため、多くの配設が詳述されていない。しかし、全てのこうした組合せの実施態様は、提供される教示から、熟練者にとって簡単である。
【0126】
例証的な特徴および例を参照して技術の原理を述べ示したが、技術はそのように限定されないことが認識されるであろう。
【0127】
たとえば、携帯電話などのモバイルデバイスに対して参照が行われたが、この技術は、全ての様式のデバイスに関して有用性を見出すことが認識されるであろう。PDA、オーガナイザ、可搬型音楽プレーヤ、デスクトップコンピュータ、ラップトップコンピュータ、タブレットコンピュータ、ネットブック、ウルトラポータブル、装着型コンピュータ、サーバなどは、本明細書で詳述された原理を利用することができる。特に想定される電話は、Apple iPhoneおよびGoogleのAndroid仕様に準拠するスマートフォン(たとえば、HTC Corp.によってT−Mobile用に製造されたG1フォン、Motorola Droidフォン、およびGoogle Nexusフォン)を含む。用語「携帯電話(cell phone)」は、全てのこうしたデバイス、さらに、厳密に言って、携帯電話でも電話でもないデバイス(たとえば、最近発表されたApple iPadデバイス)を包含すると解釈されるべきである。
【0128】
この技術はまた、拡張現実(augmented reality)(AR)メガネなどの顔装着装置を使用して実装することができる。こうしたメガネは、コンピュータ情報がそれによってユーザによって視認されることができるディスプレイ技術であって、ユーザの前の光景に重ねられるもの、またはその光景を遮断するのいずれかを含む。仮想現実ゴーグルは、こうした装置の例である。例示的な技術は、特許文書第7,397,607号および第20050195128号に詳述される。商業的提供は、Vuzix iWear VR920、Naturalpoint Trackir 5、およびezGearによるezVision X4 Video Glassesを含む。近い将来の代替物は、ARコンタクトレンズである。こうした技術は、たとえば、特許文書第20090189830号およびParviz著「Augmented Reality in a Contact Lens」IEEE Spectrum,September,2009に詳述されている。一部のまたは全てのこうしたデバイスは、たとえば無線で他のコンピューティングデバイス(たとえば、ユーザ、電子看板、または他のものによって保持される)と通信する場合があり、内臓型処理能力を含むことができる。同様に、こうしたデバイスは、電子コンパス、加速度計、カメラ(複数可)、投影器(複数可)、GPSなどを含む、既存のスマートフォンおよび特許文書から知られている他の特徴を組み込む可能性がある。
【0129】
もっと先には、レーザレンジファインディング(laser range finding)(LIDAR)などの特徴が、電話(および関連デバイス)上で標準になるかもしれず、(たとえば、観察者に視認されている看板およびその距離を識別するために)本技術と共に使用することができる。
【0130】
本開示で参照した携帯電話および他のコンピュータデバイスの設計は、熟練者にはよく知られている。一般論として、それぞれは、1つまたは複数のプロセッサ(たとえば、Intel、AMD、またはARMなど各種の)、1つまたは複数のメモリ(たとえばRAM)、記憶装置(たとえば、ディスクまたはフラッシュメモリ)、ユーザインタフェース(グラフィカルユーザインタフェースを提供するソフトウェア命令と共に、たとえば、キーパッド、TFT LCDまたはOLEDディスプレイスクリーン、タッチまたは他のジェスチャセンサ、カメラまたは他の光学センサ、コンパスセンサ、3D磁束計、3軸加速度計、マイクロフォンなどを含んでもよい)、これらの要素間の相互接続(たとえば、バス)、および他のデバイスと通信するインタフェース(GSM、CDMA、W−CDMA、CDMA2000、TDMA、EV−DO、HSDPA、WiFi、WiMAX、メッシュネットワーク、Zigbee、および他の802.15配設、またはブルートゥースなどの無線式、ならびに/または、イーサネットローカルエリアネットワーク、T−1インターネット接続などを通した有線式であってもよい)を含む。
【0131】
より一般的に、本明細書で詳述するプロセスおよびシステムコンポーネントは、マイクロプロセッサ、グラフィックス処理ユニット(nVidia Tegra APX2600などのGPU)、デジタル信号プロセッサ(たとえば、Texas Instruments TMS320シリーズデバイス)などを含む種々のプログラマブルプロセッサ用の汎用プロセッサ命令を含む、コンピューティングデバイス用の命令として実装されてもよい。これらの命令は、ソフトウェア、ファームウェアなどとして実装されてもよい。これらの命令はまた、プログラマブルロジックデバイス、FPGA(たとえば、Xilinx Virtexシリーズデバイス)、FPOA(たとえば、PicoChipブランドデバイス)、デジタル、アナログ、および/またはアナログ/デジタル混合式回路要素を含む、および特定用途向け回路を含む種々の形態のプロセッサ回路要素に対して実装することができる。命令の実行は、プロセッサの間で分散されることができ、かつ/または、デバイス内のプロセッサにわたって、または、デバイスのネットワークにわたって並列にされることができる。コンテンツ信号データの変換はまた、異なるプロセッサおよびメモリデバイスの間で分散されてもよい。
【0132】
詳述された機能を実装するソフトウェア命令は、たとえば、C、C++、Visual Basic、Java、Python、Tcl、Perl、Scheme、Rubyなどで書かれた、本明細書で提供された記述から、熟練者によって容易に作られることができる。本技術によるモバイルデバイスは、異なる機能および行為を実施するソクトウェアモジュールを含むことができる。携帯電話用のソフトウェアアプリケーションは、異なるベンダーのapストア(たとえば、iPhoneデバイス用のApple Apストア)を通して供給されることができる。
【0133】
一般に、各デバイスは、ハードウェアリソースおよび汎用機能に対してインタフェースを提供するオペレーティングシステムソフトウェアを含み、同様に、ユーザによって所望される特定のタスクを実施するために選択的に呼び出されることができるアプリケーションソフトウェアを含む。知られているブラウザソフトウェア、通信ソフトウェア、およびメディア処理ソフトウェアは、本明細書で詳述された使用の多くのために適応することができる。ソフトウェアおよびハードウェア構成データ/命令は、一般に、ネットワークにわたってアクセスされる可能性がある、磁気ディスクまたは光ディスク、メモリカード、ROMなどのような触知可能なメディアによって運ばれる1つまたは複数のデータ構造の命令として記憶される。一部の実施形態は、埋め込み式システム、すなわちオペレーティングシステムソフトウェアおよびアプリケーションソフトウェアがユーザにとって識別不能である専用コンピュータとして実装されてもよい(たとえば、基本携帯電話の場合に一般的であるように)。本明細書で詳述された機能性は、オペレーティングシステムソフトウェア、アプリケーションソフトウェアで、かつ/または、埋め込み式システムソフトウェアとして実装することができる。
【0134】
本明細書で述べる異なる機能性は、異なるデバイス上で実装されることができる。たとえば、携帯電話が看板システムコンピュータと通信するシステムでは、異なるタスクを、1つのデバイスまたは他のデバイスによって排他的に実施することができる、または、実行を、デバイスの間で分散することができる。イメージリーからのウォータマークデータおよび指紋の抽出ならびに視認角度および距離の推定は、しかし、こうしたタスクのいくつかの例である。そのため、特定のデバイス(たとえば、看板システムコンピュータ)によって実施される動作の説明は、制限的であるのではなく、例示的であり、別のデバイス(たとえば、携帯電話またはリモートコンピュータ)による、または、デバイス間で共有される動作の実施もまた、明示的に想定されることが理解されるべきである。熟練者によって理解されるように、任意の動作の結果は、後続の動作(複数可)で使用するために、別のユニットに送出されることができる。
【0135】
同様の様式で、特定のデバイス上に記憶されるデータの説明もまた例示的であり、データは、ローカルデバイスに、リモートデバイスに、分散してクラウド内等、どこにでも記憶されることができる。
【0136】
動作は、特定的に識別可能なハードウェアによって排他的に実施される必要はない。むしろ、一部の動作は、なおさらに、一般的に名前の無いシステムによってその実行に付随する他のサービス(たとえば、クラウドコピューティング)に委ねられることができる。こうした分散システムは、ラージスケール(たとえば、世界中のコンピューティングリソースを含む)またはローカル(たとえば、可搬型デバイスが、ブルートゥース通信を通して1つまたは複数の近くの移動体デバイスまたは他のデバイスを識別し、タスク内にそのデバイスの1つまたは複数を含むときのように)とすることができる。
【0137】
コンテンツ信号(たとえば、画像信号、オーディオ信号など)の詳述された処理は、これらの信号の種々の物理的形態への変換を含むことが認識されるであろう。画像およびビデオ(物理的空間中を進行し、物理的オブジェクトを描写する電磁波の形態)は、カメラまたは他のキャプチャ機器を使用して物理的オブジェクトから取込まれるか、または、コンピューティングデバイスによって生成されてもよい。同様に、物理的媒体中を進行するオーディオ圧力波は、オーディオ変換器(たとえば、マイクロフォン)を使用して取込まれ、電子信号(デジタルまたはアナログ形態)に変換されてもよい。これらの信号は、通常、上述したコンポーネントおよびプロセスを実装するために、電子形態またはデジタル形態で処理されるが、同様に、電子、光、磁気、および電磁波形態を含む、他の物理的形態で取込まれ、処理され、転送され、記憶されてもよい。コンテンツ信号は、信号および関連情報の種々のデータ構造表現を処理し、生成する間に、種々の方法でまた種々の目的のために変換される。次に、メモリ内のデータ構造信号は、検索、ソーティング、読取り、書込み、および取出し中に操作するために変換される。信号はまた、取込み、転送、記憶、およびディスプレイまたはオーディオ変換器(たとえば、スピーカ)を介した出力のために変換される。
【0138】
本技術の実施態様は、タッチスクリーン技術を使用するユーザインタフェースを利用することができる。こうしたユーザインタフェース(ならびにApple iPhoneの他の態様)は、公開された特許出願第20080174570号に詳述されている。
【0139】
タッチスクリーンインタフェースは、ジェスチャインタフェースの形態である。本技術の実施形態で使用されることができるジャスチャインタフェースの別の形態は、スマートフォンの動きを検知することによって、すなわち取込まれたイメージリー内の特徴の動きを追跡することによって動作する。こうしたジャスチャインタフェースに関するさらなる情報は、Digimarcの特許第6,947,571号に詳述されている。ジャスチャ技法は、ユーザ入力がシステムに提供されるときはいつでも使用することができる。
【0140】
一部の実施形態では、詳述される機能は、ユーザ命令によって(たとえば、apを立ち上げることによって)起動されなければならない。他の配設では、携帯電話デバイスは、メディア採取モード、すなわちユーザに関連する刺激および相応して応答を識別するために、周囲オーディオおよびイメージリーを常に処理するモード、で実行されるように構成されてもよい。
【0141】
センサ情報(またはセンサ情報に基づくデータ)は、解析のためにクラウドに委ねられてもよい。一部の配設では、これは、ローカルデバイス処理の代わりに(または、あるローカルデバイス処理が行われた後に)行われる。しかし、時には、こうしたデータは、クラウドに渡され、クラウドとローカルデバイスの両方において同時に処理することができる。クラウド処理のコストは、通常小さいため、主要なコストは、帯域幅の1つであるかもしれない。帯域幅が利用可能である場合、たとえデータがローカルでも同様に処理されても、クラウドにデータを送出しない理由はほとんどないかもしれない。ある場合には、ローカルデバイスが、結果をより早く戻すかもしれず、他の場合には、クラウドが、レースに勝つかもしれない。同時に、両方を使用することによって、ユーザは、考えられる最も迅速な結果を保証される。
【0142】
本開示は、例証的な実施形態における要素の順序付けおよび要素の特定の組合せを詳述したが、他の方法が行為を再順序付けしてもよく(おそらく、一部を省き、他を追加する)、他の組合せが、一部の要素を省き、他の要素を追加してもよいことなどが認識されるであろう。
【0143】
完全なシステムとして開示されたが、詳述された配設の下位の組合せもまた、別個に想定される。
【0144】
本明細書で開示された異なる実施形態内の要素および教示もまた、交換され、組合されることを意図される。
【0145】
いくつかの実施形態では、インターネットに対して参照が行われた。他の実施形態では、コンピュータのプライベートネットワークを含む他のネットワークが、同様にまたは代わりに使用されることができる。
【0146】
本明細書は、電子サイネージからイメージリーを取込み、関連する見返りを観察者に提供することに的を絞ったが、多くの同様の配設が、電子サイネージからのオーディオに関して行われることができる。斜視ベース機能は、オーディオに関して容易に利用可能ではないが、しかし本明細書で詳述される他の原理は、オーディオのみの実施態様に適応することができる。
【0147】
全ての詳述された実施形態では、広告が、電子サイネージ上に提示されてもよい。異なる看板に関する視認者の関わり合いの長さおよび商業的印象の数を記録する測定はログをとることができ、対応する全数検査に基づく報告を、視聴者調査会社によって広告主に発行することができる。この情報は、電話内のソフトウェアによって、または、看板に関連するソフトウェアによってコンパイルすることができる。視認者に関する人口統計情報を知ることによって、ターゲッティングされた広告を提示することが可能になる。通信セッションが確立される場合、フォローアップ情報を、同じ情報チャネルを使用して送出することができる。広告はまた、ユーザの携帯電話上に提示され、同様に測定されてもよい。
【0148】
関連する配設は、公開された特許出願第20080208849号および第20080228733号(Digimarc)、第20080165960号(TagStory)、第20080162228号(Trivid)、第20080178302号および第20080059211号(Attributor)、第20080109369号(Google)、第20080249961号(Nielsen)、ならびに第20080209502号(MovieLabs)に詳述されている。
【0149】
ウォータマークを符号化/復号する技術は、たとえば、先に引用したDigimarcの特許ならびにNielsenの特許第6,968,564号および第7,006,555号ならびにArbitronの特許第5,450,490号、第5,764,763号、第6,862,355号、および第6,845,360号に詳述されている。
【0150】
コンテンツ指紋採取は、コンテンツ(たとえば、グラフィック、ビデオ、歌など)を蒸留して本質的に一意の識別子または識別子の組にしようと努める。多くの指紋採取技法が知られている。画像/ビデオ指紋採取の例は、特許公報第7,020,304号(Digimarc)、第7,486,827号(Seiko−Epson)、第5,893,095号(Virage)、第20070253594号(Vobile)、第20080317278号(Thomson)、および第20020044659号(NEC)に詳述されている。オーディオ指紋採取の例は、特許公報第20070250716号、第20070174059号、第および20080300011号(Digimarc)、第20080276265号、第20070274537号、および第20050232411号(Nielsen)、第20070124756号(Google)、第6,834,308号(Audible Magic)、第7,516,074号(Auditude)、ならびに第6,990,453号および第7,359,889号(共にShazam)に詳述されている。
【0151】
スケール不変特徴変換(scale invariantfeature transformation)(SIFT)は、ある形態の画像指紋と考えられる場合がある。一部の他のものと違って、SIFTは、アフィン変換および透視変換にもかかわらずビジュアル情報を識別できる。SIFTはさらに、先に引用された出願(たとえば、第US20100048242号)のいくつか、ならびに、特許文書第6,711,293号および第WO07/130688号に詳述されている。
【0152】
SHIFTは、おそらく、ロバストなローカルシーン記述子を生成するための最もよく知られている技法であるが、アプリケーションによっては、より適しているかもしれず、またはより適していないかもしれない、他の技法が存在する。これらは、GLOH(Mikolajczyk他著「A Performance Evaluation of Local Descriptors」IEEE Trans.Pattern Anal.Mach.Intell.,vol.27,No.10,pp.1615−1630,2005を参照せよ)およびSURF(参照,Bay他著「SURF:Speeded Up Robust Features」Eur.Conf.on Computer Vision(1),pp.404−417,2006を参照せよ)、ならびに、Chen他著「Efficient Extraction of Robust Image Features on Mobile Devices」Proc.of the 6th IEEE and ACM Int.Symp.On Mixed and Augmented Reality,2007およびTakacs他著「Outdoors Augmented Reality on Mobile Phone Using Loxel−Based Visual Feature Organization」ACM Int. Conf.on Multimedia Information Retrieval,October 2008を含む。ローカル記述子特徴の調査は、Mikolajczyk他著「A Performance Evaluation of Local Descriptors」IEEE Trans.Pattern Analysis and Machine Intelligence,2005に提供される。
【0153】
Nokiaは、公開された特許出願第20070106721号、第20080071749号、第20080071750号、第20080071770号、第20080071988号、第20080267504号、第20080267521号、第20080268876号、第20080270378号、第20090083237号、第20090083275号、および第20090094289号を含む、ビジュアル検索に関する研究を行った。これらの文書で詳述された特徴および教示は、本出願で詳述された技術および配設と組合せるのに適しており、また、その逆もまた同様である。
【0154】
実施形態の多くは、看板システムから観察側携帯電話へデータを伝達するために、ウォータマーキング技術を利用するが、他の実施形態では、RFID、近接場通信、ディスプレイドバーコード(displayed barcode)、赤外線、SMSメッセージングなどのような他の通信技術を、電話と看板システムとの間で使用することができる。画像または他のコンテンツ指紋採取はまた、観察されている特定のディスプレイを(たとえば、携帯電話に対して)識別するために使用されることができる。ディスプレイがこうして識別された状態で、対応する補助情報ストアがアクセスされ、対応するアクションは、その後、記憶された情報に基づくことができる。
【0155】
述べたように、観察者に関する位置データは、GPSなどの手段によって、または、公開された特許出願第WO08/073347号に詳述される技術によって確定することができる。同じ技術は、電子看板の場所を識別するために使用することができる。こうした情報から、特定の観察者が特定の看板を視認していることを推論することができる。たとえば観察者に対する見返りを詳述する補助情報ストアは、これにより対応する見返りを有効にするために、識別され、アクセスされることができる。(第WO08/073347号のシステムはまた、たとえばタイムベースシステムが頼ることができる非常に正確な時間情報を生成するために使用することができる。)
【0156】
携帯電話によって取込まれたイメージリーが看板システムに送出される場合、イメージリーに付随するメタデータが、通常、携帯電話の製造者およびモデルを識別する。この情報は、看板システムによって記憶することができ、種々の目的で使用することができる。1つの目的は、単に、人口統計的にユーザを分類することである(たとえば、Blackberryを持つユーザは実業家である可能性が高く、一方、Motorola Rivalを持つ人は10代である可能性が高い)。別の目的は、電話のカメラシステムに関する情報(たとえば、開口数、解像度など)を判定することである。電子看板上に提示されるウォータマークまたは他の情報は、その後、カメラの詳細(たとえば、ウォータマーキングタイルのサイズ)、「情報に基づく埋め込み(informedembedding)」のタイプ、に従って調節することができる。
【0157】
関連して、看板システムの近くのユーザから情報が全く受信されなかった場合、看板は、それでも、ユーザの推定される年齢、性別、および/または民族性を参照することによって、ユーザの携帯電話カメラに関する何かを推定する場合がある。記憶される参照データは、たとえば、異なる人口統計グループを用いて異なる電話(カメラ)モデルの人気を示すことができる。たとえば、Apple iPhoneについてのピーク人口統計は、これらのデバイスの約36%を所有する35〜54歳グループであると報告されており、一方、13〜17歳は、これらのデバイスの約5%を所有するだけである。男性は、Android電話を所有する可能性が女性よりずっと高い。電話についての更新サイクルはまた、人口統計と共に変わる。15歳の少年は、1年未満使用した携帯電話を携行している可能性があり、一方、50歳の女性は、少なくとも2年使用した携帯電話を携行している可能性がより高い。より古い電話は、より低い解像度のカメラを有する、などである。そのため、視認者の年齢および性別を推定することによって、ユーザが携行している携帯電話カメラに関して情報に基づく推測(informed guess)が行われる可能性がある。やはり、看板上のディスプレイは、(たとえば、推定されたカメラ解像度に従ってウォータマーキングパラメータを設定することによって)相応して調節されることができる。
【0158】
詳述された技術はまた、拡張現実(AR)技法を使用することができる。ARは、その詳細が専門家によく知られている、UrbanSpoon、Layar、Bionic Eye、Wikitude、Tonchidot、およびGoogle GogglesなどのiPhone/Androidアプリケーションによって普及してきた。例示的なARシステムは、特許文書第US20100045869号、第US20090322671号、および第US20090244097号に詳述されている。簡潔に言えば、こうした配設は、取込まれたイメージリー内のビジュアル特徴を検知し、視認スクリーン上にさらなる情報を、一般的に、最初に取込まれたイメージリー上のオーバレイとして提示する。本コンテキストでは、電子サイネージ上に表示される情報は、ビジュアル特徴として使用することができる。オーバレイは、ユーザの電話上に提示することができ、たとえば(視認場所および/または人口統計を含む)コンテキストによって、ユーザに対してカスタマイズされることが可能である。情報は、電子看板上に表示されるイメージリー内に符号化されるウォータマークデータを介して電話と看板との間で交換することができる。特定の携帯電話と特定の看板/コンテンツとの間に論理的関連性が確立されると、IP、ブルートゥースなどのような他の配設もまた、使用されることができる。
【0159】
他の配設では、ユーザの携帯電話16または電子看板システムのカメラ12は、特徴がそこから検知されるイメージリーを取込む。関連するディスプレイ/情報は、その後、電子看板システムのディスプレイスクリーン10上に提示される場合がある。こうした情報は、看板上に、検知された特徴を含む取込まれたイメージリー上にオーバレイとして、または、別個に提示されてもよい。
【0160】
詳述された配設からの要素は、さらなる実施態様をもたらすために、背景技術の説明で述べたような、先行技術の要素と組み合わされることができる。
【0161】
いくつかの動作が、コンピュータ14、携帯電話16、またはリモートサーバ(複数可)18などにおいて起こるものとして記述されたが、種々の動作の場所には融通性がある。動作は、任意の適切なコンピュータデバイス上で行うことができ(または、複数のデバイス間で分散し)、データを必要に応じて中継することができる。
【0162】
大型フォーマット公共ディスプレイのコンテキストで示されるが、同じ原理が、従来のラップトップディスプレイ、他の携帯電話ディスプレイ、電子ピクチャフレーム、電子ブック、テレビ、映画投影スクリーンなどを含むいたる所で用途を見出すことが認識されるべきである。Izadi他著「Going Beyond the Display:A Surface Technology with an Electrically Switchable Diffuser」Microsoft Research、2009に詳述されるMicrosoftの「セカンドライト(Second Light)」技術もまた、本明細書で詳述される原理と共に使用することができる。
【0163】
当然、技術は、フラットディスプレイに限定されるのではなく、湾曲ディスプレイについても適用可能である。
【0164】
顔発見アルゴリズムは、(たとえば、多くの一般的なコンシューマカメラで使用されるように)よく知られており、観察者の顔を識別し、観察者の目を位置特定するために使用することができる。述べたように、たとえばカメラ12に取込まれたイメージリーのピクセル単位での観察者の目の間の距離は、カメラからの(したがって、ディスプレイスクリーンからの)観察者の距離を推定するために、種々の実施形態で使用されることができる。
【0165】
サンプルのウォータマークペイロードプロトコルが図15に示される。プロトコルは、プロトコルを識別するために8ビット(そのため、携帯電話ウォータマークデコーダシステムは、ペイロードの残りをどのように解釈するかがわかっている)を、また、ターゲッティングされる人口統計視聴者(たとえば、30歳と55歳との間の男性)を示すために4ビットを含む。次に続く「即時応答データ(immediate responsedata)」は、リモートデータベースを参照することなく、携帯電話によって使用されることができるリテラルな補助データである。たとえば、そのデータは、異なる業者への異なるクーポンを提示するために、携帯電話データストア内にロードされる小さな見返りデータストアを索引付けすることなどで、携帯電話または別のシステムが、即座に使用することができるテキストまたは情報を運ぶ。残りの20ビットのデータは、(たとえば、クーポンまたは他の見返りに関する)対応する情報が記憶されるリモートデータベースを索引付けするのに役立つ。年齢適性レイティングを示すフィールドなどの他のデータフィールドを、付加的にまたは別法として使用することができる。プロトコルは、たとえば、続くペイロードが付加的なデータを運ぶことを示すフラグビットによって拡張可能であってよい。
【0166】
図15のペイロードは、例証に過ぎない。任意の特定の実施態様では、特定のアプリケーション要件に応じて、異なるペイロードが使用される可能性が高いだろう。
【0167】
Quividiおよび/またはTruMediaからのカメラシステムおよび関連ソフトウェアは、観察者を識別し、その観察者を人口統計的に分類するために、カメラ12のために使用することができる。
【0168】
本技術のいくつかの実施形態は、看板が、その通常の「ブロードキャスタ(broadcaster)」の役割と対照的に、「ナローキャスタ(narrowcaster)」の役をすることを可能にすることが認識されるであろう。それでも、これは、たとえば指定されたデバイスまたは専用プロトコルが使用されなければならない閉じたアーキテクチャに頼ることなく、開放様式で達成される。
【0169】
簡潔にするため、述べられた技術の無数の変形および組合せは、本文書内では列挙しない。本明細書の概念は、概念の中、および概念同士の間の両方で、ならびに、引用された従来技術から知られている概念と、組み合わせ、置換し、交換することができることを、出願人は認識、および意図している。さらに、詳述された技術を、有利な効果のために、現在の、および到来する他の技術に含むことができることが認識されるであろう。
【0170】
本明細書を不当に長くすることなく包括的な開示を提供するために、出願人は、先に参照された文書および特許開示を参照により組み込む。(こうした文書は、たとえその教示の詳細に関連して先に引用されても、その全体が組み込まれる。)これらの参照は、本明細書で詳述される配設に組み込むことができ、また、本明細書で詳述される技術および教示をその中に組み込むことができる技術および教示を開示する。
【技術分野】
【0001】
米国において、本出願は、2009年3月3日に出願された仮出願第61/157,153号に対する優先権を主張する。
【0002】
本技術は、譲受人の同時係属中の、2008年11月14日に出願された特許出願第12/271,772号、2009年6月12日に出願された特許出願第12/484,115号(特許公開第US20100048242号として公開された)、2009年6月24日に出願された特許出願第12/490,980号、2009年8月19日に出願された特許出願第PCT/US09/54358号(特許公開第WO2010022185号として公開された)、2010年1月22日に出願された特許出願第PCT/US2010/021836号、および2010年2月24日に出願された特許出願第12/712,176号において詳述される技術に関する。
【0003】
先に述べた著作物からの原理および教示は、本文中で詳述される配設の文脈において適用されることを意図される、また、その逆もまた同様である。
【0004】
本技術は、電子ディスプレイに関し、より具体的には、こうしたディスプレイと相互作用するために可搬型デバイス(たとえば、携帯電話)を使用する配設に関する。
【背景技術】
【0005】
電子ディスプレイスクリーンは、公共の場所で広く行き渡るようになり、また、広告に広く使用されている。いくつかのディスプレイシステムは、種々の種類の相互作用性によって視認者の関わり合いを高めようとする。
【0006】
Frederick Pohlの1952年空想科学小説「宇宙商人(The Space Merchants)」は、相互作用的電子広告を予言する。登場人物は、飛行機の窓の外を見るために振り向くたびに、「ガーン:…ある安っぽい製品用のTaunton広告が窓を不透明にし、口やかましくばかげたコマーシャルソングの1つが耳に否応なしに入ってくる」とこぼす。
【0007】
50年後、映画Minority Reportにおいて、Tom Cruiseは、電子看板によって、名前によって繰返し識別され呼び掛けられるだけのために、控えめに商店街を歩こうとする。
【0008】
Quividiによる公開された特許出願WO2007/120686は、視認者を検知し、視認者の年齢および性別を推定する、カメラシステムを装備する電子看板を開示する。広告は、検知されたデータに従ってターゲッティングすることができ、かつ視聴者測定情報を、集めることができる。
【0009】
TruMediaは、電子看板およびストアディスプレイに関連して使用される、関連する自動化視聴者測定技術を製品化している。看板は、女性を検出する場合、香水用の広告を、また、男性を検出する場合、メンズウェア用の広告を提示することができる。
【0010】
Mobile Trak.Inc.は、道路脇サイネージ用のSmarTrakモジュールを提供し、SmarTrakは、通過する車からの浮遊局部発信器放出を監視し、それにより、浮遊局部発信器放出が同調している無線局を見定める。やはり、この情報は、人口統計プロファイリングおよび広告ターゲッティングのために使用することができる。
【0011】
BluScreenは、電子サイネージ上に広告を提示するためのオークションベースのフレームワークである。システムは、近傍の視認者からのブルートゥース伝送情報を検知し、ブルートゥース伝送情報は、公にアクセスされる観察者の携帯電話からプロファイルデータを可能にする。BluScreenは、広告主にこのプロファイルデータを渡し、広告主は、その後、識別された視認者に広告を提示する機会を得ようと努力する。
【0012】
フランスの機関INRIAは、電子公共ディスプレイボードが、(ブルートゥースにより)通行人の移動体電話の番号を検知し、移動体電話に短いメッセージまたはコンテンツ(たとえば、着メロ、ビデオ、ディスカウントバウチャ(discount voucher))を送出するオプトイン(opt-in)システムを開発した。コンテンツは、移動体電話から共有されたユーザプロファイル情報に従ってカスタマイズすることができる。たとえば、米国特許公報20090047899を参照されたい。
【0013】
BlueFireは、SMSメッセージングまたはブルートゥースを使用して、いくつかの相互作用的サイネージ技術を提供する。ある投票、たとえば、この週末のゲームに誰が勝利するかに投票する観察者が招待される。観察者がこうして関わり合うと、広告主は、観察者の携帯電話に送出されるクーポン、コンテンツなどを用いて電子的に応答することができる。
【0014】
Ogilvyによるマーケッティングキャンペーンは、報酬の使用を通して、電子サイネージとのユーザの関わり合いを促進する。看板は、指定されたアドレスにSMSメッセージを送出することによってコンテストに参加するように視認者を招待する。システムは、質問で応答し、視認者が正しい回答で応答する場合、祝賀花火の打ち上げを看板に提示させ、自動車の抽選に観察者を参加させる。
【発明の概要】
【0015】
本技術のいくつかの実施形態は、デジタルウォータマーキングを使用する。デジタルウォータマーキング(ステガノグラフィの形態)は、データが、本質的に人間の知覚から隠ぺいされるが、コンピュータ解析によって回復することができる方法で、複数ビットデジタルデータによって物理的オブジェクトおよび電子的オブジェクトを符号化する科学である。電子オブジェクト(たとえば、デジタルオーディオ、またはビデオを含むイメージリー)において、データは、サンプル値(たとえば、輝度、色度、オーディオ振幅)のわずかの変形として符号化されてもよい。または、オブジェクトが、いわゆる直交領域(「非知覚的(non-perceptual)」とも呼ばれる、たとえば、MPEG、DCT、ウェーブレットなど)で表される場合、データは、量子化または係数値のわずかな変形として符号化されてもよい。本譲受人の特許第6,122,403号、第6,590,996号、第6,912,295号、および第7,027,614号ならびに出願第12/337,029号(2008年12月17日に出願された)は、いくつかのウォータマーキング技術を示す。
【0016】
ウォータマーキングは、永続的デジタル識別子を用いてコンテンツに知覚できないようにタグ付けするために使用することができ、多数の使用を見出す。一部の使用は、たとえばウォータマークがそれと共に運ばれるコンテンツを受信側デバイスがどのように処理すべきかを信号送信するデータを伝達する、デバイス制御の領域にある。他の使用は、コンテンツを関連データストアに関連付けるデータを符号化する。たとえば、ウェブ上で公開された写真は、オンラインデータベース内の特定のレコードを識別するウォータマークペイロードを符号化してもよい。データベースレコードは、次に、撮影者のウェブサイトに対するリンクを含んでもよい。特許第6,947,571号は、いくつかのこうした「接続済みコンテンツ(connected-content)」アプリケーションおよび技法を詳述する。
【0017】
デジタルウォータマーキングシステムは、通常、2つの主要なコンポーネント、すなわち、ウォータマークをホストメディア信号内に埋め込むエンコーダ、および符号化された信号から埋め込まれたウォータマークを検出し読取るデコーダを有する。エンコーダは、ホストメディア信号をわずかに変更することによって、ウォータマークを埋め込む。ウォータマークのペイロードは、任意のビット数であることができ、32または128が、一般的なペイロードサイズであるが、より多いまたは少ない値を使用することができる(ビデオの場合では、複数フレームが使用される場合、ずっと多い)。読取りコンポーネントは、疑わしい信号を解析して、ウォータマークが存在するかどうかを検出する。(疑わしい信号は、たとえば携帯電話カメラによって取込まれた画像データである場合がある。)ウォータマーク信号が検出される場合、リーダは、通常、ウォータマークから符号化された情報を抽出することに進む。
【0018】
1つの一般的な形態のウォータマーキングは、タイル表示様式でホストイメージリーにわたってペイロードデータを冗長的に埋め込む。各タイルは、ペイロード全体を運び、たとえ符号化された画像の抜粋だけが取込まれても、読み手がペイロードを抽出することを可能にする。
【0019】
本技術の一態様によれば、異なるデジタルウォータマークメッセージは、電子看板の複数の異なる観察者のそれぞれに「ナローキャストされる(narrowcast)」される。一配設では、看板に対する各観察者の場所が判定される。ウォータマークは、その後、各視点に従って異なる観察者について幾何学的に設計される。たとえば、ウォータマークタイルは、各観察者の視認の全体像によって導入される歪みを補償するために、事前に歪ませることができる。種々のウォータマークのペイロードは、各観察者に関する検知された人口統計(たとえば、年齢、性別、民族性)に従って調節されることができる。こうして構成されたウォータマーク信号を用いて符号化されたイメージリーは、その後、看板上に提示される。
【0020】
異なるウォータマークの幾何形状が異なるため、異なる観察者は、異なるウォータマークペイロードを検出する。そのため、看板視認エリアの右前景の10代の少年は、1つのペイロードを受信する場合があり、看板視認エリアの左背景の成人男性は、異なるペイロードを受信する場合がある。前者は、前記10代の少年にモールの向こうの方にあるStarbucksにおけるバニラフラペチーノドリンクに対する1ドル引きの資格を与える電子クーポンである場合があり、後者は、同じ店における無料のニューヨークタイムズについての電子クーポンである場合がある。異なる人々が視認エリアに入り、また去るため、異なるウォータマークを、それぞれ、表示される看板コンテンツに付加し、看板コンテンツから除去することができる。
【0021】
各観察者の場所は、電子看板に関連付けられたカメラによって簡単に検出されることができる。他の実施形態では、場所の確定は、観察者の携帯電話から提供されるデータ、たとえば、携帯電話カメラによって取込まれる看板の形状あるいはGPSまたは携帯電話に組み込まれた他の位置判定システムによって提供される場所データを参照することによって開始することができる。
【0022】
現在のウォータマーク検出器は、ひどく歪んだコンテンツからでさえウォータマークを回復することに優れる。したがって、視認者の携帯電話内の検出器は、視認者の位置について調節されていないウォータマークを検出する可能性がある。好ましいウォータマーク検出器は、検出されるウォータマークの属性を特徴付ける1つまたは複数のパラメータ(たとえば、回転、スケール、ビットエラー率など)を出力する。検出ソフトウェアは、これらのパラメータに応じて、異なる応答を提供するように構成されてもよい。たとえば、スケールが所望の範囲の外側にあり、また、ビットエラー率が通常より高い場合、携帯電話は、ウォータマークが異なる観察者のために調節され、ウォータマークのペイロードによって示される特定の応答ではなく、デフォルト応答を提供することができることを推定できる。たとえば、1ドル引きバニラフラペチーノドリンク用のクーポンの代わりに、デフォルト応答は、Starbucksでの任意の購入用の50セント引きクーポンであってよい。
【0023】
他の実施形態では、異なる応答は、幾何学的に調節された異なるウォータマークなしで、異なる視認者に提供される。代わりに、全ての視認者は、同じウォータマークデータを検出する。しかし、異なる視認者に関連するプロファイルデータが異なるため、視認者デバイスは異なって応答する。
【0024】
たとえば、各ユーザデバイス上のソフトウェアは、デバイス所有者の年齢および/または性別を示すデータと共に、検出されたウォータマークペイロードからのデータをリモートサーバに送出してもよい。リモートサーバは、相応して異なる応答を返すことができる。10代の少年に対して、サーバは、近くの映画館における無料ポップコーン用のクーポンを発行してもよい。成人男性に対して、サーバは、同伴者の劇場入場料を半額にするクーポンを発行してもよい。
【0025】
関連する例では、異なるウォータマークは、ディスプレイスクリーン上のビデオ提示の異なるフレーム内に連続して提示される。各ウォータマークペイロードは、そのペイロードが(たとえば、性別、年齢、民族性、自宅郵便番号、教育、政治的なまたは他の志向、社会的ネットワークメンバーシップなどによって)ターゲッティングされる視聴者人口統計またはコンテキストを示すいくつかのまたはいくつかのビットを含む。ユーザデバイスは、(たとえば、ローカルまたはリモートユーザプロファイルデータセットに記憶された)異なるウォータマーク信号を調査するが、そのデバイスのユーザに関連する人口統計データに対応するウォータマークが検出されるときにだけアクションを起こす。
【0026】
なおさらなる配設では、ウォータマークデータの異なるフレームは、参照クロックに同期した、時間多重化標準に従って、視認者の異なる人口統計グループについて調節される。たとえば30フレームの周期の第1のフレームは、10代の少年にターゲッティングされてもよい。第2のフレームは、10代の少女にターゲッティングされてもよい、等々。それぞれの受信側携帯電話は、所有者の人口統計を知り、携帯電話のタイムベースを調べることによって、こうした人のために意図されたウォータマークのフレームを識別することができる。周期は、1秒ごとにまたは他の間隔で繰返されてもよい。
【0027】
別の配設では、視覚スクリーンチャネルの上への異なるウォータマークの多重化は、異なるウォータマークペイロードを異なる視認者に伝達するために、異なる画像周波数帯を使用することによって達成することができる。
【0028】
本技術の一部の実施形態は、デジタルウォータマークを利用しない。しかし、異なって位置する視認者は、それでも、電子サイネージに対して異なる応答を得ることができる。
【0029】
1つのこうした配設では、観察者の場所が、上述したように、観察者の各人口統計と共に確定される。看板システムは、その後、どの応答が、異なって位置する視認者に適切かを判定し、対応するデータをオンラインリポジトリ(データベースサーバ)に記憶する。Gapストア用の電子看板の右前景の10代の少年の場合、システムは、無料のお試しサイズのコロンのボトル用のクーポンを記憶してもよい。中央背景の中年の女性の場合、記憶される応答は、5ドルのGap商品券であってよい。
【0030】
観察者の携帯電話が看板の画像を取込むと、取込まれたイメージリーに関連するデータは、看板に関連付けられたコンピュータに送信される。たとえばそのコンピュータにおける解析ソフトウェアは、撮影された看板のサイズおよびその側面の間の長さ比(または他の幾何学的解析)から、視認者の位置を判定する。この情報を用いて、コンピュータは、看板によって記憶された対応する応答情報を取出し、それを観察者に返送する。十代の少年はコロンを入手し、女性は商品券を入手する。
【0031】
本技術の前述のまた他の特徴および利点は、添付図面を参照して進められる以下の発明を実施するための形態からより容易に明らかになるであろう。
【図面の簡単な説明】
【0032】
【図1】図示される実施形態で使用される装置の一部を示す図である。
【図2】2人の視認者および6つの視認ゾーンを含む、電子看板の上部に搭載されたカメラの視野を示す図である。
【図3】電子看板の視認ゾーン内の2人の視認者の斜視図である、
【図4】各視認者に対する方向を、水平方位角Aおよび垂直仰角Bによって特徴付けることができることを示す図である。
【図5】メッセージが表示された電子看板の図である。
【図6】図2および図3の2人の観察者によって見られた、図5の看板の図である。
【図7】図2および図3の2人の観察者によって見られた、図5の看板の図である。
【図8A】ディスプレイスクリーンの4つの垂直ゾーンA〜Dについて、どのようにスクリーンのより長い距離の部分が、ある視認者についてのより小角に内在するかを示す上から見下ろした図である。
【図8B】スクリーン上に提示された情報を事前に歪ませることによって、図8Aの現象がどれだけ正されるかを示す図である。
【図9】視認者の位置に従って2次元で事前に歪まされたディスプレイを示す図である。
【図10】異なる事前歪を有する2つのウォータマークがスクリーン上でどのように提示されることができるかを示す図である。
【図11】観察者の位置が変わるにつれて、提示されるウォータマーク情報の事前歪がどのように変わるかを示す図である。
【図12】所望の観察者をターゲッティングするために、ウォータマークエンコーダによってウォータマークタイルのサイズがどのように調節できるかを示す図である。
【図13A】携帯電話によって取込まれた部分スクリーン図である。
【図13B】携帯電話によって取込まれた部分スクリーン図である。
【図14】スクリーンに対する方向および距離を確定できるパターンを示す図である。
【図15】例証的な64ビットウォータマークペイロードを示す図である。
【発明を実施するための形態】
【0033】
図1は、本技術の一実施態様で使用される装置の一部を示す。電子ディスプレイシステム部は、ディスプレイスクリーン10、カメラ12、およびコンピュータ14を含む。ディスプレイスクリーンは、ラウドスピーカ15を含んでもよく、または、こうしたスピーカは、システムに別個に組み込まれてもよい。コンピュータ14は、インターネット、ブルートゥースなどのような1つまたは複数の配設によって他のデバイスに対する接続性を有する。コンピュータ14は、ディスプレイスクリーン上に表示された情報を制御する。(単一コンピュータは、空港などにおいて、多くのスクリーンの制御を受け持つ場合がある。)
【0034】
ディスプレイスクリーン10は、携帯電話(スマートフォン)16などの撮像デバイスを搬送する観察者によって視認される。ディスプレイスクリーン10はまた、インターネット、ブルートゥース、セルラー(SMSを含む)などによって他のデバイスに対する接続性を有する。
【0035】
同様に、いくつかの実施形態には、1つまたは複数のリモートコンピュータ18が関わり、リモートコンピュータ18によって、今述べたデバイスが、インターネットまたはその他の方法によって通信することができる。
【0036】
図2および図3は、電子看板10を視認する2人の観察者22、24を示す。この例では、看板の前部の視認エリア26は、6つのゾーン、すなわち、それぞれが前景および背景位置を有する(看板から見て)左、中央、および右に適宜分割される。観察者22は左前景におり、観察者24は中央背景にいる。
【0037】
カメラ12は、たとえば看板10の上部から視認エリア26のビデオを取込む。取込まれたこの画像データから、コンピュータ14は、各観察者の位置を判定する。位置は、たとえば図2の6つの視認ゾーンのうちの1つのゾーン内に各視認者を分類することによって大雑把な意味で判定されてもよい。または、より精密な場所データを、図4に示すように、スクリーンの中央から観察者の目の中点までのベクトル32の方位角(A)、仰角(B)、および長さを識別することなどによって生成することができる。(視認者までの距離は、通常2.8〜3.1インチである人の目の瞳孔間の距離(ピクセル単位の)を参照することによって、推定することができる)
【0038】
(カメラシステム12は、その視野内のピクセル位置と視認者に対する配向との間のマッピングを理解するために、モデル化、または測定されてもよい。各ピクセルは、一意の方向からレンズ上に入射するイメージリーに対応する。)
【0039】
図5は、電子看板10上に提示されてもよいディスプレイを示す。図6および図7は、左前景観察者22および中央背景観察者24の視点からのそれぞれこの同じ看板を示す。異なる観察者によって知覚されるディスプレイのサイズおよび形状は、観察者のそれぞれの位置に依存する。これは、図8Aによって明確にされる。
【0040】
図8Aは、観察者82がスクリーンの縁部の前に配置された状態の、スクリーン10の上から見下ろした図である。スクリーンが、4つの同じ幅の垂直4分割パネルA〜Dを有するものとみなされる場合、最も近いパネル(D)は、この場合、観察者によって視認される45°角度に内在することが見られる。他の4分割パネルC、B、およびAは、しだいに観察者の視野のより小さい範囲に内在する。(スクリーン全体は、観察者の視野の約76°を満たすため、最も近い4分割パネルの45°の見かけの幅は、他の3つの4分割パネルの見かけの幅を合わせたものより大きい。)
【0041】
この現象は、観察者によって視認される、スクリーン上に提示されるイメージリーを歪ませる。人間の目および脳は、もちろん、この歪みに伴う問題を持たず、この歪みは許容され、我々が見るほぼ全てにおいて常に存在すると考えられる。
【0042】
ウォータマークは、イメージリー内に隠ぺいされる場合、携帯電話16によって視認される場合、同様に歪まされていることになる。タイル表示された変種のウォータマークでは、視認者に最も近いタイルは、比較的大きく見えることになり、さらに遠いタイルは、比較的小さく見えることになる。特許第6,590,996号に開示される検出器などの現代のウォータマーク検出器は、こうした歪みに対してロバストである。検出器は、各コンポーネントタイルのスケールおよび回転を評価し、その後、各コンポーネントタイルからペイロードを復号する。復号されたタイルの全てからのペイロードは、結合されて、特定のタイルからのデータが読み取りできなくても、信頼性がある出力ウォータマークデータをもたらす。
【0043】
この能力があるにもかかわらず、本技術の一実施態様では、イメージリー内に隠蔽されたウォータマークパターンは、この透視歪みを相殺するために、観測者の場所に従って前もって歪まされる。図8Bは、1つのこうした事前歪の形態を示す。スクリーン10は、やはり4つの垂直パネルを有するものとみなされる場合、垂直パネルは、ここでは異なる幅である。最も遠いパネルA’は、他のパネルよりずっと大きい。事前歪は、各パネルが、観察者にとって同じ角度の視野(この場合、約19°)を内在するように構成される。
【0044】
第1次近似では、この事前歪は、スクリーン10から、観察者がそれに対して中心軸84上にいる仮想スクリーン10’上にウォータマークを投影するときに視認されることができる。
【0045】
図9は、2次元におけるこのウォータマーク事前歪の結果を示す。図9の各長方形は、1つの例証的なウォータマークタイルの範囲を示す。視認者に最も近いタイルは比較的小さく、遠方のタイルは比較的大きい。
【0046】
図9に示すタイル幅は、図8Bの幅A’〜D’に対応する。タイル高さもまた、観察者の斜視の垂直位置(ここでは、スクリーンの垂直中央線に沿うとみなされる)に従って変わる。そのため、スクリーンの上部および底部に近いタイルは、中央に沿うタイルより高い。
【0047】
ウォータマークタイルが図9のように事前に歪まされると、ウォータマーク検出器は、各タイルが、実質的に同じ見かけのスケールを有することを見出す。観察者に近いスクリーンの部分は、もはやより大きなタイルを呈さない、などである。それは、まるでウォータマーク検出器が、スクリーンから突出する中心軸に沿うある距離の点からスクリーンを見ているようなものである。
【0048】
図10に示すように、コンピュータ14は、観察者の検出される位置の変化に従って、ディスプレイスクリーン上に提示されるウォータマークパターンの歪を変えることができる。そのため、観察者がスクリーンの一方の側から別の側へ移動する場合、ウォータマークパターンの事前歪は、相応して観察者に追従することができる。
【0049】
スクリーン10上に提示される広告または他の人間が知覚可能なイメージリーは、事前に歪まされないことに留意されたい。すなわち、人間の観察者は、常に見られる、よく知っている場所依存性のある透視歪効果を有する広告を見る。しかし、ウォータマーク検出器は、観察者(携帯電話)の場所によらず、実質的に歪の無い均一なウォータマークパターンを見る。
【0050】
同じ配設を、複数の異なる観察者に拡張することができる。電子看板システムは、それぞれが異なる観察者をターゲッティングするいくつかの異なるウォータマークパターンをスクリーン10上に提示することができる。異なるパターンは、時間的に交互配置、または、同時に提示することができる。
【0051】
同じディスプレイスクリーン上での複数のウォータマークパターンの使用は、図11のパターン42および44によって概念的に示される。第1のウォータマークパターン42(細い実線で示す)は、図9のタイルと同一の事前に歪まされたタイルのアレイである。第2のパターン44(太い破線で示す)は、異なる観察者のために構成されたタイルの異なるアレイである。特に、この第2のパターンは、(タイルが全て均一なサイズであるため)明らかに、ある距離からの、ディスプレイの中心軸から視認する観察者のためにターゲッティングされる。パターン44の意図される観測者はまた、パターン42の意図される観察者に比べて明らかにスクリーンからより遠くにいる(すなわち、ウォータマークパターン44の最も小さなタイルは、ウォータマークパターン42の最も小さなタイルより大きく、より遠い視認用斜視が意図されていることを示す)。
【0052】
異なるウォータマークの時間逐次的交互配列(time-sequentialinterleaving)の場合、コンピュータ14は、異なるウォータマークパターン(それぞれ、観察者の場所に従って判定された)を有する表示コンテンツの異なるフレームを符号化する。適用されたウォータマークパターンは、フレームごとに変更される可能性があり、または、変更する前に、数フレームにわたって一定に保持される可能性がある。観察側携帯電話内のデコーダは、全てのウォータマークを復号するが、明らかに異なる位置の観察者をターゲッティングするウォータマークを無視するようにプログラムされてもよい。これは、視野にわたってコンポーネントウォータマークタイルの見かけのスケールの変動を記録することによって見定めることができる。フレーム内のタイルが、異なってスケーリングされる場合、パターンは、明らかに、異なる観察者について事前に歪まされている。フレーム内のタイルが全て、実質的に均一なスケールを有する場合にだけ、携帯電話検出器は、パターンを、その観察者のためにターゲッティングされているとみなし、それに基づいてアクションを起こす。
【0053】
複数のウォータマークパターンの同時表示の場合、コンピュータ14は、パターンを個々に計算し(やはり、それぞれは、ターゲッティングされる観察者場所に基づいて)、その後、表示されるコンテンツ内に符号化するために、パターンを結合する。
【0054】
この実施態様では、観察側携帯電話内のデコーダは、比較的鋭く同調されるため、特定の見かけのサイズを有するウォータマークタイルに応答するだけである。より大きいまたはより小さいタイルパターンは、無視され−ホスト画像コンテンツの一部のように処理される、すなわち、ノイズが無視される。
【0055】
例証するために、サイズ1200ピクセル×1600ピクセルの画像を出力する画像センサを有するカメラを考える。カメラのウォータマークデコーダパラメータは、デコーダが、1辺当たり200ピクセル+/−10ピクセルの公称サイズを有するウォータマークタイルにだけ応答するように、調整されてもよい。
【0056】
簡単にするために、電子ディスプレイスクリーンは、カメラセンサと同じアスペクト比を有するが、4.5フィート高さおよび6フィート幅を有すると想像する。さらに、意図される視認者は、看板の中心線上にいて、看板がカメラの視野の1/4(すなわち、高さが半分、幅が半分、または、600×800カメラピクセル)を満たすだけであるように十分に離れていると想像する。この配設では、コンピュータ14は、意図される観察者をターゲッティングするために、表示されるウォータマークタイルが、1つの辺上で1.5フィートであるようにサイズを決定しなければならない。すなわち、ウォータマークタイルが、1辺が200ピクセルである正方形としてカメラによって撮像されるために、図12に示すように、看板に、3つのタイルが縦に並び、4つのタイルが横に並ばなければならない。(例証を明確にするために、図12の均一なタイルグリッド、および図11のパターン44は、看板の中心線からの観察者の斜視によって生じる見かけの歪を相殺するために適用される場合がある事前歪を無視する、すなわち、看板の左および右縁部のタイルは、さらに遠くにあるため、拡大されるべきである、などである。)
【0057】
ウォータマーク検出器の同じ狭い調整は、意図されるウォータマークパターンを他の観察者をターゲッティングするパターンから区別するために、異なるウォータマークパターンの時間逐次的交互配列で使用することができることが認識されるであろう。
【0058】
今述べた配設によって、表示されるウォータマークパターンは、ターゲッティングされる観察者の位置を考慮する。これらのウォータマークのペイロードはまた、ターゲッティングされる観察者に対して調節することができる。
【0059】
1つの特定の配設では、ペイロードは、人口統計的に調節される。人口統計(たとえば、年齢、民族性、性別)は、カメラ12によって取込まれたイメージリーから判定されてもよい。別法としてまたは付加的に、人口統計データは、個人などによる、その他の方法で提供されてもよい。たとえば、個人の携帯電話または個人のフェースブックプロファイルに記憶されるデータが、利用可能である場合があり、自宅郵便番号および市外局番、収入レベル、雇用、教育、音楽および映画の好み、ファッションの好み、趣味および他の関心事、友人、旅行先などを含む情報を明らかにする場合がある。
【0060】
人口統計は、あるタイプのコンテキストとみなされる場合がある。コンテキストの1つの定義は、「ある実体の状況を特徴付けるために使用されることができる任意の情報」である。ある実体は、ユーザおよびアプリケーション自体を含む、ユーザとアプリケーションとの間の相互作用に関連すると考えられる人、場所、またはオブジェクトである
【0061】
コンテキスト情報は、コンピューティングコンテキスト(ネットワーク接続性、メモリ可用性、CPU競合など)、ユーザコンテキスト(ユーザプロファイル、場所、好み、近くの友人、ソーシャルネットワーク(複数可)、および状況など)、物理的コンテキスト(たとえば、照明、ノイズレベル、交通など)、時間的コンテキスト(時刻、日、月、季節など)、上記の履歴などを含む、多くの種類がある可能性がある。これらのまた他のコンテキストデータはそれぞれ、異なるウォータマークペイロードについての基礎として(または、より一般的に、ユーザに対する異なる応答/見返りについての基礎として)使用することができる。
【0062】
視認者の位置は、電子サイネージに関連するカメラの使用によって確定される必要はない。代わりに、視認者の携帯電話によって検知されるデータを使用することができる。種々の手法が存在する。
【0063】
一部の実施形態における先行する問題は、視認者がどんなスクリーンを注視しているかを識別することである。この情報は、ユーザの携帯電話が、正しい電子看板システム(または多くの個々の電子看板を管理する場合がある正しい制御システム)と通信することを可能にする。しばしば、このステップは、近くに1つのスクリーンが存在するだけである可能性があり、曖昧さが全く存在しない(または、実施形態がこうした知識を必要としない)ため、省略することができる。しかし、他のコンテキストでは、多くのスクリーンが存在する場合があり、解析は、最初に、どのスクリーンが視認されているかを識別する必要がある。(密接な間隔のいくつかのスクリーンを有するコンテキストは、展示会および空港コンコースを含む。)
【0064】
どのスクリーンが注視されているかを識別する1つの方法は、たとえば緯度および経度によって、視認者の位置を示すデータを参照することによる。候補スクリーンの位置が同様にわかっている場合、視認者がそこからイメージリーを取込んでいるスクリーンは、単純な近接性によって確定される場合がある。
【0065】
GPSは、よく知られている場所検知技術であり、いくつかの実施形態で使用することができる。他の実施形態では、GPSは、GPS信号が屋内に侵入しないため、または、位置精度が十分でないため、十分でない場合がある。こうした場合、代替の位置特定技術を使用することができる。1つの技術は、公開された特許出願第WO08/073347号に詳述されている。
【0066】
緯度/経度または同様なものが曖昧さを残す場合、携帯電話がその方に向くコンパス方向および水平に対するその伏角/偏角を示す磁束計および/または加速度計データなどの、視認者に関する他の位置データを使用することができる。やはり、スクリーンの位置が適切に特徴付けられる場合、この情報は、多くのスクリーンの中でも1つのスクリーンの一意の識別を可能にできる。
【0067】
他の配設では、スクリーンコンテンツが、視認されている提示を識別するために使用される。視認者の携帯電話によって取込まれる画像は、最良の一致を見出すために、一組の候補スクリーンによって最近提示されたイメージリーと比較されることができる。(候補スクリーンは、その大雑把な地理的場所、たとえばポートランド空港によって識別される可能性がある、または、一組の考えられる電子看板を制限する他の方法を使用することができる。)比較は、カラーヒストグラムなどの簡単な統計的メトリックに基づくことができる。または、比較は、携帯電話画像間と候補スクリーン上に提示される画像との間の特徴相関などのより詳細な解析に基づくことができる。無数の比較技法が可能である。中でも、SIFTまたは画像指紋に基づく技法(共に以下で論じる)が存在する。
【0068】
表示されたイメージリーまたはビデオ中に符号化されるデジタルウォータマークデータはまた、注視されているコンテンツ/スクリーンを識別するために機能することができる。
【0069】
(時として、いくつかのスクリーンは同じビジュアルコンテンツを提示している場合がある。こうした場合、視認者が、コンコースAもしくはBで、またはニューヨークまたはカルフォルニアでスクリーンを注視しているかどうかは重要でないかもしれない。むしろ、重要なことは、視認されているコンテンツである。)
【0070】
同様に、オーディオコンテンツが、視認者がさらされているコンテンツ/スクリーンを識別するために使用されてもよい。やはり、ウォータマーキングまたは比較ベース手法(たとえば指紋)は、こうした識別を実施するために使用することができる。
【0071】
他の配設では、なお他のスクリーン識別技法を使用することができる。たとえば、サブリミナル識別子を、電子看板(または組み込まれたラウドスピーカ)によって放出し、視認者の携帯電話によって見定めることができる。1つのこうした配設では、スクリーンの輝度は、電話によって検知されるバイナリ識別子を伝達するためにわずかに変調される。同様に、スクリーンのベゼルに沿って配置されたLEDまたは他のエミッタは、識別用パターンを送信することができる。(ほとんどの携帯電話カメラが、赤外線に対するある程度の感度を有するため、赤外照明を使用することができる。)
【0072】
一部の実施形態では、図1のサーバ18などのリモートサーバは、問い掛け側携帯電話から位置または画像データを受信し、たとえば参照データと比較することによって、どの看板/コンテンツが視認されているかを判定する。リモートサーバは、その後、テーブルまたは他のデータ構造から対応するコンピュータ14用のIPアドレスをルックアップし、視認側携帯電話を看板システムに知らせてもよい。リモートサーバはまた、このアドレス情報を携帯電話に送信し、電話が、看板システムと直接通信することを可能にする。(他の通信手段を代替的に使用することができる。たとえば、リモートサーバは、ブルートゥース、WiFi、または携帯電話が看板システムと通信することを可能にする他のデータを携帯電話に提供することができる。)こうした配設によって、電話と看板システムとの間で仮想セッションを確立することができ、その対間に論理的関連性が定義される。
【0073】
視認されているスクリーン(またはコンテンツ)がわかると、スクリーンに対する視認者の位置を判定することができる。
【0074】
ここでも、1つの技法は位置データに依存する。十分な位置精度が利用可能である場合、観察者がそこから電子看板を視認している斜視は、看板の位置および方向と共に、観察者の位置および視認方向の知識から確定することができる。
【0075】
電子看板に対する視認者の位置を確定する別の手法は、見かけの幾何形状に基づく。ディスプレイスクリーンの対向する辺は、同じ長さであり、隣接する辺は、互いに直角である。ピンホールカメラモデルが仮定される場合、これらの同じ関係が、スクリーンの中心軸(すなわち、その垂線)に沿う場所から視認される場合、視認者の携帯電話によって取込まれるイメージリー内のスクリーンの描写について保持される。スクリーンの垂線から視認されない場合、これらの関係の1つまたは複数が異なることになり、長方形が幾何学的に歪むことになる。
【0076】
通常の幾何学的歪は、主に、「キーストーニング(keystoning)」としても知られる台形効果である。視認者取込み画像内の幾何学的歪は、スクリーン垂線に対する視認角度を確定するために解析することができる。この視認角度は、こんどは、視認者の近似位置を示すことができる(すなわち、視認角度ベクトルが、カメラが存在する、たとえば床から5.5フィート上の可能性のある視認平面を交差する場合)。
【0077】
知られている画像処理技法を、取込まれた画像内で四辺形スクリーンの描写を見出すために使用することができる。エッジ発見技法を使用することができる。すなわち、閾値処理式ブロブ(たとえば、四辺形の明るいオブジェクトが識別されるまで、画像をぼかし、得られるピクセル値を上昇してくる閾値と比較する)が可能である。または、ハフ変換を使用するなど、パターン認識法が使用されることができる。例示的な看板発見法は、Tam著「Quadrilateral signboard detection and text extraction」、Int’l Conf. on Imaging,Science,Systems and Technology,pp.708−713,2003に詳述される。
【0078】
取込まれたイメージリー内でスクリーンが識別されると、簡単な写真測量技法が適用されて、角点を参照することによって、かつ/または、表示された画像コンテンツの歪から視認角度を見定めることができる。(こうした解析の例示的な処理は、Chupeau著「In−theater piracy:finding where the pirate was」、Proc.SPIE,Vo.6812、2008に提供されており、カメラ付きビデオで録画された映画コピーを調査して、コピーがそこから撮影された映画館内の場所が判定される。)
【0079】
利用可能な場合、携帯電話のカメラのレンズ系をモデル化する情報が、画像解析と連携して使用されて、なおより正確な結果をもたらすことができる。しかし、ピンホールカメラモデルで、一般に十分である。
【0080】
特定の実施形態に応じて、視認距離は考慮しなくてもよいかもしれない。(重要である場合、視認距離は、先に述べたように、視認角度が視認平面をどこで交差するかを判断することによって推定されてもよい。)距離を判断するときに、看板のサイズを使用することができる。この情報は、看板システムコンポーネント14に知られており、携帯電話プロセッサが距離推定を実施する場合、携帯電話に提供することができる。または、携帯電話によって取込まれるイメージリーが、解析のために看板システムコンピュータに提供される場合、コンピュータは、距離を確定するのを助けるために、解析の中で看板サイズ情報を因子とすることができる。(携帯電話カメラがズーム機能を有する場合、電子看板の取込まれた画像は、視認距離を示さないスケールである場合がある。ズームの程度を示すメトリックを提供するカメラシステムからのデータは、この問題に対処するために、関連プロセッサによって使用することができる。)
【0081】
スクリーン長方形が、携帯電話画像フレーム内に完全に取込まれない場合、ユーザの位置に関する一部の情報は、それでも、確定することができる。たとえば図13Aに示す部分的なスクリーン長方形(1つの完全なエッジおよび2つの不完全な対向エッジ)を考慮して、不完全に取込まれた対向するエッジは、延長される場合、収束するように見え、視認者がエッジAの左にいることを示す。対称的に、図13Bの発散する対向するエッジは、視認者がエッジAの右にいることを示す。
【0082】
観察者の視認位置が、携帯電話取込み画像データから見定めることができるなお別の方法は、看板によって提示され、ユーザ取込みイメージリーに含まれるグラフィカルデータ内で符号化されたウォータマーク情報を参照することによる。特許第6,590,996号に詳述されるような、ステガノグラフィ的に符号化されたウォータマーク信号は、一般に、符号化のためにイメージリーに導入されたアフィン幾何学的歪を、ウォータマークデコーダがそれによって検出することができる方向信号成分を含み、それにより、符号化されたペイロードは、こうした歪にもかかわらず、適切に復号することができる。特に、詳述されたウォータマークシステムは、6つの画像歪度、すなわち回転、スケール、差のスケール、せん断、およびxとyの両方における並進を、取込まれたイメージリーから見定めることを可能にする。
【0083】
斜視効果が中程度である場合、ほとんどのある距離における視認シナリオについてこれらの6つのパラメータで十分である。近接斜視歪は、いくつかの連続する(または重なった)ウォータマーク方向信号、すなわち、1つが従来の信号で、他の1つまたは複数が、異なる透視変換によって事前に歪まされた信号を用いて、表示されるイメージリーを符号化することによって処理することができる。ウォータマークリーダは、透視変換された方向信号のうちのどれが、最も低いエラーレート(または、最も高い信号対雑音比)で復号されるかを示すことができ、その透視変換を示す。あるいは、従来のウォータマークは、コンテンツ内で符号化することができ、デコーダは、最も低いエラーレート(または最も高いS/N比)をもたらす信号を識別するために、復号する前に、取込まれたイメージリーに対して一連の異なる透視変換を適用することができる。
【0084】
(ウォータマーク復号の品質を評価するメトリックとしてのビットエラーの使用は、たとえばBradley著「Comparative performance of watermarking schemes using M−ary modulation with binary schemes employing error correcion coding」、SPIE,Vol.4314,pp.629−642,2001および特許公報第US20020159614号アフィン幾何学的歪ならびに引用される文書の他の文書に詳述される。これらのエラーは、最終的にエラー訂正スキームによって訂正される。)
【0085】
観察者の視認位置を推定するなお別の方法は、ディスプレイスクリーン上に提示され、観察者の携帯電話によって取込まれる既知のイメージリーの見かけの歪を参照することによる。SIFT、ロバストなシーン記述子スキーム、および幾何学的変換に対してロバストである画像指紋を、このために使用することができる。マッチングプロセスの一部として、同期パラメータが推定され、視認者の位置を推定することを可能にする。
【0086】
視認者位置情報をそこから推定することができる表示されたイメージリーは、この目的のために専用である必要はなく、任意のグラフィックを使用することができる。しかし、場合によっては、視認者位置の確定を容易にするために特別に調節されたグラフィックスを提供することができる。
【0087】
たとえば、シーンの画像ベースの理解は、参照情報(たとえば、サイズ、位置、角度)がそれについてわかっており、また、システムがそれによって他の特徴を理解することができる、1つまたは複数の特徴またはオブジェクトを、スクリーン上でまたはスクリーンの近くで提示することによって、関係性によって補助することができる。1つの特定の配設では、ターゲットパターンは、たとえば視認距離および方向をそこから識別することができるスクリーン上に表示される(または、スクリーンに隣接して提示される)。そのため、こうしたターゲットは、距離および方向情報を任意の観察カメラシステムに信号送信するビーコンの役をする。1つのこういったターゲットは、たとえばde Ipina著「TRIP:a Low−Cost Vision−Based Location System for Ubiquitous Computing」、Personal and Ubiquitous Computing,Vol.6,No.3,May,2002,pp.206−219に詳述されたTRIPcodeである。
【0088】
Ipinaの論文に詳述されるように、ターゲット(図14に示す)は、ターゲットの半径を含む情報を符号化し、カメラ装備システムが、カメラからターゲットまでの距離とターゲットの3D姿勢の両方を確定することを可能にする。ターゲットをその符号化されたサイズで電子スクリーン上に提示することによって、Ipinaの配設は、カメラ装備システムが、スクリーンまでの距離とカメラに対するスクリーンの空間的方向の両方を理解することを可能にする。
【0089】
TRIPcodeは、SpotCode、次に、ShotCode(また、時にBango)として連続して知られている種々の実施態様を経験した。TRIPcodeは、現在、OP3 B.V.によって商品化されていることが理解される。
【0090】
示されたTRIPcodeターゲットの美観は、一般に、サイネージ上での表示に適さない。しかし、パターンは、一連の画像中の1フレーム内に頻繁ではなく(たとえば、30フレーム/秒のディスプレイ配設において3秒ごとに1回)重ねることができる。ターゲットの位置は、ビジュアルアーチファクトを減少させるために変えることができる。カラーは、黒である必要はなく、目立たないカラー(たとえば黄)が使用されてもよい。
【0091】
TRIPcodeなどの丸いターゲットは、たとえばその異なる楕円姿勢においてこうした形状を認識するときの、計算の容易さのために望ましいが、他の形状のマーカを使用することができる。ある表面の3D位置を確定するのに適した正方形マーカは、SonyのCyberCodeであり、たとえばRekimoto著「CyberCode:Designing Augmented Reality Environments with Visual Tags」、Proc.of Designing Augmented Reality Environments 2000,pp.1−10に詳述される。種々の他の参照マーカを、特定の用途の要件に応じて代替的に使用することができる。
【0092】
前述のように、看板に対する視認者の場所が識別されると、こうした情報は、看板のコンピュータシステム(この情報がこうしたシステムによって最初に識別されなかった場合)、および視認者の空間的場所を看板上に提示されるイメージリー内に定義し符号化することができるウォータマークターゲッティングに通信することができる。看板が、視認者の性別、年齢、または他の属性をそれから推定することができるカメラシステムを有する場合、看板は、識別された場所の視認者に関連する推定された属性(複数可)に従って、ターゲッティングされるウォータマークペイロード(または、任意のペイロードに関連する見返り)を調節することができる。または、こうしたプロファイル情報は、視認者取込みイメージリーと共に(または、そのイメージリーから導出された場所情報と共に)視認者によって看板システムコンピュータに提供されてもよい。
【0093】
別の配設では、ユーザの携帯電話は、看板の一部または全ての画像を取込み、その画像を(たとえば、ブルートゥースまたはインターネットTCP/IPによって)看板システムコンピュータに送信する。看板システムコンピュータは、送信された画像に描写される看板の幾何形状からユーザの場所を見定める。自身のカメラから、看板システムは、看板の前の異なる場所にいる何人かの人々の性別、年齢、または他の人口統計(複数可)を特徴付けた。ブルートゥースによってイメージリーを提供した視認者の幾何形状によって見定められた場所を、看板システムコンピュータが視認者を人口統計的に特徴付けた看板の前の位置のうちの1つの位置と一致させることによって、コンピュータは、ブルートゥース伝送情報がその人から受信された特定の視認者の人口統計(複数可)を推測することができる。看板システムは、その後、見返りデータをその視認者にブルートゥースで返送し、その特定の視認者の推定された人口統計(複数可)に対して見返りデータを調節することができる。(この配設では、いくつかの他の配設の場合と同様に、見返りはブルートゥースによって送出され、たとえば看板上に提示されるウォータマーク内に符号化されないことに留意されたい。)
【0094】
ユーザの電話に提供されることができる見返りのタイプおよび種類は、事実上制限がない。電子クーポンが先に述べられた。他のクーポンは、マルチメディア娯楽コンテンツ(音楽ビデオ、映画クリップ)およびオンラインリソースに対するリンク/アクセス証明書を含む。展示会への訪問者は、たとえば、自分の職業(たとえばRFエンジニア)を示すプロファイル情報を共有してもよい。ベンダーブースで遭遇されるサイネージは、この情報を検知し、こうした職業に関連するベンダーの商品提供を展示するリンクを提供してもよい。ユーザは、展示会にいる間、こうしたリンクに作用しなくてもよいが、自分のオフィス戻ったときに後で検討するために、そのリンクをセーブしてもよい。同様の様式で、他の見返りが、後で使用するために記憶されてもよい。
【0095】
多くの事例では、ユーザは、ユーザの自身の個人体験を規定する、電子看板によって提示されるコンテンツと、視覚的に相互作用的なセッションで関わり合いたいと欲する場合がある。たとえば、ユーザは、ゲームをすることなどによって、看板の1つまたは複数の変更を促す活動を行いたいと思う場合がある。
【0096】
現代の携帯電話は、こうした相互作用的セッションで使用されることができる種々のセンサ、すなわちプッシュボタン(仮想的または物理的)だけでなく、加速度計、磁束計、カメラなど、を提供する。こうした電話は、電子看板システムと連携してゲームコントローラ(Wiiを考えてみる)のように使用されることができる。2人以上のユーザは、複数プレーヤ体験に関わることができ、プレーヤのデバイスは、カメラおよび/または他のセンサの使用によって看板システムの態様を制御する。
【0097】
1つの特定の配設では、ユーザの電話は看板の画像を取込む。イメージリーまたは電話からの他のデータは、先に述べたように、どの看板(コンテンツ)が視認されているかを判定するために解析される。携帯電話は、その後、看板システム(たとえばコンピュータ14)と情報を交換して、セッションを確立し、ゲームのプレイを制御する。たとえば、携帯電話は、電話カメラによって取込まれたイメージリーを送信し、イメージリーから、(たとえば、特許第7,174,031号に詳述されるように、カメラによって取込まれた画像データのいくつかのフレームにわたって1つまたは複数の特徴を追跡することによって)電話の動きが推定されることができる。または、電話内の1つまたは複数の加速度計からのデータを、看板システムに送信することができ、やはり、電話の動きを示す。従来そうであるように、コンピュータは、これらの信号を入力として取得し、ゲームのプレイを相応して制御する。
【0098】
スクリーンは、空港のバーにあってよく、ゲームは、地域のプロフットボールチーム(たとえば、Seattle SeaHawks)によって後援された仮想フットボールゲームであってよい。バー内の誰もが、自分の携帯電話の使用によって、プレイするチームメンバー(利用可能なプレーヤは、ディスプレイの縁部上のグラフィカルアイコンによって識別される)を選択できる。たとえば、ユーザは、所望のプレーヤ用のアイコンに自分の電話を向け(たとえば、電話のディスプレイスクリーンの中心に仮想十字線でプレーヤアイコンが現れるようにカメラを位置決めする)、その後、選択を指示するために、物理的/仮想的ボタンを押す/たたくことができる。電話の画像は、看板システムに中継され、看板システムにプレーヤの選択が知らされてもよい。または、電話は、選択されたアイコンから導出された識別子、たとえばウォータマークまたは画像指紋を送出することができる。
【0099】
システムは、プレーヤが選択されたことを示すフィードバック(グラフィックオーバレイ、振動など)を提供し、一旦選択されると、電子看板上のその状態を反映する。プレーヤが選択された後、ユーザは、ユーザの携帯電話の動きによって、仮想フットボールゲームの将来のプレイにおけるプレーヤの動きを制御する。
【0100】
別のフットボールゲームでは、ユーザは、個々のプレーヤを制御しない。代わりに、ユーザは、どのプレーヤが、ラインナップに入るようにまたラインナップから出るように交換されるかを識別するコーチとして働く。コンピュータシステムは、その後、ユーザによって選択されたプレーヤの名簿に基づいてプレイをシミュレートする。
【0101】
別のゲームは、仮想レゴゲームまたはパズル構築エクササイズである。1人または複数人のプレーヤはそれぞれ、(上記プレーヤを選ぶように)デジタルスクリーン上でレゴまたはパズルピースを選択し、所望の場所にカメラを向け、(たとえば、タップなどの電話のユーザインタフェースを使用して)その場所にピースを置く信号を発行することによって、所定場所にピースを移動させることができる。ピースが置かれる方向は、「置く」信号が発行されるときにユーザの電話の方向によって制御することができる。いくつかの実施形態では、各ピースは、選択および制御を容易にするために、ウォータマーク、バーコード、指紋、または他の特徴認識配設によって一意に識別される。
【0102】
出願人によって特に想定されるいくつかの配設は、以下を含む。
【0103】
第1の観察者によって視認される電子看板に関与する方法であって、(たとえば、看板に関連するカメラによってまたは観察者に関連するカメラによって取込まれた画像データを参照することによって)第1の観察者に関する位置情報を入手することと、位置情報を考慮する第1のデジタルウォータマーク信号を定義することと、前記第1のデジタルウォータマーク信号に従って画像データを符号化することと、電子看板上に符号化された画像データを提示することと、を含む方法。
【0104】
第2の観察者は、同様に処理され、第1の観察者に提供されるウォータマーク信号と同じまたは異なるウォータマーク信号を提供されてもよい。
【0105】
別の方法は、それぞれがセンサ装備デバイス(たとえば、マイクロフォンおよび/またはカメラを装備する携帯電話)を運ぶ複数の観察者によって視認される電子看板システムに関与する。この方法は、電子看板の第1の観察者について第1のデータペイロードを確立することと、電子看板の第2の観察者について第2のデータペイロードを確立することと、デジタルウォータマークデータによってオーディオまたはビジュアルコンテンツデータをステガノグラフィ的に符号化することであって、デジタルウォータマークデータは第1および第2のデータペイロードを伝達する、ステガノグラフィ的に符号化することと、電子看板を使用して符号化されたコンテンツデータを提示することを含む。この配設では、第1の観察者によって運ばれるセンサ装備デバイスは提示されるコンテンツデータ内に符号化される第1のデータペイロードに応答するが、第2のデータペイロードには応答せず、第2の観察者によって運ばれるセンサ装備デバイスは、提示される画像データ内に符号化される第2のデータペイロードに応答するが、第1のデータペイロードには応答しない。
【0106】
別の方法は、異なる時間における観察者の異なる組合せによって視認されるスクリーンを含む電子看板システムに関与する。この方法は、スクリーンを観察する第1の人を検出することと、第1の観察者に対応する第1のウォータマーク信号を用いて、電子看板システムによって提示されるコンテンツを符号化することと、第1の人がスクリーンを依然として観察している間に、スクリーンを新しく観察する第2の人を検出することと、第1の観察者に対応する第1のウォータマーク信号および同様に第2の観察者に対応する第2のウォータマーク信号を用いて、電子看板システムによって提示されるコンテンツを符号化することと、前記人のうちの一人が、看板をもはや観察していないとして検出されると、残りの観察者に対応するウォータマーク信号を用いて、電子看板システム上に提示さるコンテンツを符号化するが、看板をもはや観察していない人に対応するウォータマーク信号を用いないことと、を含む。こうした配設によって、ウォータマーク信号の異なる組合せは、異なる時間にスクリーンを観察する人の異なる組合せに従って、電子看板システム上に提示さるコンテンツ内に符号化される。
【0107】
別の方法は、手持ち式デバイスを使用して、ディスプレイから画像データを取込むために手持ち式デバイスを使用すること含む。取込まれた画像データ内にステガノグラフィ的に符号化されたデジタルウォータマーク信号のパラメータが、その後確定される。このパラメータは、ウォータマーク信号を用いて符号化されたペイロードデータ以外であり、たとえば幾何学的パラメータまたはエラーメトリックを含んでもよい。この確定(パラメータを参照と比較することを含んでもよい)の結果に応じて、デバイスがディスプレイにどのように応答すべきかについての決定が行われる。
【0108】
なお別の方法は、第1の観察者によって視認される電子看板に関与し、第1の観察者に関連する第1のコンテキストデータを入手することと、第1のコンテキストデータを考慮する第1のデジタルウォータマーク信号を定義することと、第1のデジタルウォータマーク信号に従って第1の画像データをステガノグラフィ的に符号化することと、電子看板上に符号化された画像データを提示することと、を含む。前術のように、方法は、第2の観察者を同様に処理するように拡張されてもよいが、第2の異なるデジタルウォータマーク信号を用いる。こうした場合、同じ第1の画像データは、両方の観察者に提示されるが、異なるコンテキストデータに従って異なるウォータマーク信号を用いてステガノグラフィ的に符号化される。
【0109】
なお別の方法では、電子看板は、複数の観察者によって視認されるコンテンツを提示する。この方法は、第1の観察者によって運ばれる第1のカメラ装備デバイスを使用して、提示されたコンテンツを視認し、前記提示されたコンテンツに対応する第1の画像データを取込むことと、取込まれた第1の画像データを参照することによって、第1の識別データを確定することと、第2の観察者によって運ばれる第2のカメラ装備デバイスを使用して、同じ提示されたコンテンツを視認し、同じ提示されたコンテンツに対応する第2の画像データを取込むことであって、第2の画像データは、第1および第2の観察者の視点が異なるために第1の画像データと異なる、視認し取込むことと、取込まれた第2の画像データを参照することによって、第2の識別データを確定することと、第1のデバイスまたは第1の観察者に固有の情報と共に、第1の識別データを参照することによって、第1のデバイスに対する第1の応答を提供することと、第2のデバイスまたは第2の観察者に固有の情報と共に、第2の識別データを参照することによって、第2のデバイスに対して第2の異なる応答を提供することとを含む。こうした配設によって、第1および第2のデバイスは、電子看板上に提示される同じコンテンツの視認に対して異なる応答を提供する。(第2の識別データは、取込まれた第1の画像データが取込まれた第2の画像データと異なるにもかかわらず、第1の識別データと同じとすることができる。)
【0110】
なお別の方法は、観察者によって運ばれるカメラ装備デバイスを使用して、電子看板に対応する画像データを取込むことと、取込まれた画像データを参照することによって、複数の電子看板のうちのどの電子看板が第1の観察者によって観察されているかを判定することと、前記判定に少なくとも部分的に基づいて、デバイスと電子看板との間でデータを交換することとを含む。
【0111】
こうした配設では、カメラに少なくとも部分的に依存するデータまたは動きデータなどのデータを、デバイスから送信できる。動きデータは、デバイス内の1つまたは複数の加速度計の使用によって生成されることができ、または、カメラによって取込まれた画像データのいくつかのフレームにわたって1つまたは複数の可視的な特徴を追跡することによって生成することができる。
【0112】
別の方法は、視認場所に基づいて、電子看板の観察者に対して人口統計的にターゲッティングされた応答を提供することに関する。この方法は、第1の観察者に関連する第1の人口統計情報および第2の観察者に関連する第2の人口統計情報を入手することと、第1の人口統計情報に関連する第1の応答データおよび第2の人口統計情報に関連する第2の応答データを確定することと、第1の観察者に関連する第1の場所データおよび第2の観察者に関連する第2の場所データを入手することと、観察者のデバイスから画像データを受信することと、受信された画像データを処理することであって、それにより、受信された画像データが取込まれた場所を推定する、処理することと、推定された場所が第1の場所である場合、前記デバイスに第1の応答データを返すこととを含む。(推定された場所が第2の場所である場合、第2の応答データを、デバイスに返すことができる。)
【0113】
さらなる方法は、観察者によって運ばれるカメラ装備デバイスと電子看板システムとの間の関連性を確立することと、デバイスからデータを受信することであって、受信されるデータはカメラによって取込まれる画像データに少なくとも部分的に依存する、受信することと、受信されるデータに少なくとも部分的に基づいて、電子看板システムの動作を制御することと、を含む。
【0114】
この方法は、電子看板上で複数のゲームアイテムの描写を提示することと、観察者が、スクリーン上に提示される前記ゲームアイテム描写の特定の1つを、カメラデバイスを使用して視認し、選択したことを示すデータを、デバイスから受信することをさらに含むことができる。ゲームプレイの描写は、電子看板上に提示されることができ、こうしたプレイは、特定のゲームアイテムの観察者の選択を反映する。
【0115】
描写されるゲームアイテムは、パズルピースを含むことができ、方法は、パズルピースが置かれる位置および方向を示す信号をデバイスから受信することを含み、前記信号は、カメラによって取込まれる画像データに少なくとも部分的に依存する。
【0116】
第2の観察者はまた、たとえば、第2の観察者によって運ばれるカメラ装備の第2のデバイスと電子看板との間の論理的関連性を確立し、第2のデバイスからデータを受信し、前記受信されたデータは第2のデバイスによって取込まれる画像データに少なくとも部分的に依存し、前記受信されたデータは、第2の観察者が、前記描写されたパズルピースの特定の異なる1つを、第2のデバイスのカメラを使用して視認し選択したことを示し、前記描写されるパズルピースの異なる1つのパズルピースが置かれる位置および方向を示す信号を第2のデバイスから受信することによって参加することができ、前記信号は、第2のデバイスのカメラによって取込まれる画像データに少なくとも部分的に依存する。
【0117】
特定のゲームアイテムの選択は、特徴認識、デジタルウォータマークベース識別、バーコードベース識別、指紋ベース識別などの使用によって進めることができる。
【0118】
別の方法では、電子看板が、複数の観察者によって視認されるコンテンツを提示する。この方法は、第1の観察者によって運ばれる第1のカメラ装備デバイスの使用によって、提示されるコンテンツを視認し、提示されるコンテンツに対応する第1の画像データを取込むことと、第1の識別データを生成するために、前記第1の画像データを処理することと、第2の観察者によって運ばれる第2のカメラ装備デバイスの使用によって、同じ提示されるコンテンツを視認し、同じ提示されるコンテンツに対応する第2の画像データを取込むことであって、第2の画像データは、第1および第2の観察者の視点が異なるために第1の画像データと異なる、視認し取込むことと、第2の識別データを生成するために、第2の画像データを処理することと、電子看板に関連するセンサを使用して、第1および第2の観察者を描写する第3の画像データを取込むことと、第1および第2の観察者に関連する人口統計データを推定するために、第3の画像データを処理することと、推定された人口統計データを参照することによって、第1の観察者についての第1の応答データおよび第2の観察者についての第2の異なる応答データを確定することと、第1の観察者に対応する第1の場所情報および第2の観察者に対応する第2の場所情報を生成するために、第3の画像データも同様に処理することと、第1または第2の識別データを受信することと、生成された場所情報を参照することによって、受信された識別データが、第1のデバイスによって取込まれた画像データに基づくか、または、第2のデバイスによって取込まれた画像データに基づくかを判定することと、前記受信された識別データが前記第1のデバイスによって取込まれた画像データに基づいていたと判定される場合、第1の応答データを用いて、前記受信された識別データに応答することと、受信された識別データが第2のデバイスによって取込まれた画像データに基づいていたと判定される場合、第2の応答データを用いて、前記受信された識別データに応答することとを含む。こうした配設によって、方法は、識別データがどの観察者から受信されたかを推論し、その観察者に対応する人口統計的に確定された応答データを用いて応答する。
【0119】
なお別の方法は、ユーザによって運ばれる第1のセンサ装備デバイスの使用によって、電子看板システムからコンテンツデータを取込むことと、タイムベースを参照することによって、取込まれたコンテンツデータ内に符号化されたデジタルウォータマークデータの複数の時間的部分のうちのどの部分が、コンテキスト的にユーザに対応するかを判定することと、デジタルウォータマークデータの判定された時間的部分に基づいてアクションを起こすこととを含む。
【0120】
なお別の方法は、無歪み態様を有する入力画像データを受信することと、ステガノグラフィ的デジタルウォータマークパターンに従って入力画像データを符号化することと、ディスプレイスクリーン上に、符号化された画像データを提示することを含み、ステガノグラフィ的デジタルウォータマークパターンは、入力画像データに対して歪んだ態様を有する。(デジタルウォータマークパターンは、観測者の位置に従って歪まされてもよい。)
【0121】
本明細書で詳細に述べる配設の一部では、観察者によって視認される看板は、観察者および看板に関する場所情報を参照することによって識別される。他の配設では、識別は、(たとえば、ロバストなローカル画像記述子、指紋、またはウォータマークデータを使用して)観察者によって取込まれた画像データを参照することによって行われる。
【0122】
同様に、詳述された配設の一部では、ウォータマーク信号のスケールは、視認距離に従って調節されてもよく、かつ/または、ウォータマーク信号の投影は、視認角度に従って調節されてもよい(たとえば、ウォータマーク信号は、視認者場所に従って事前に歪まされてもよい)。ウォータマークのペイロードは、観察者に関する人口統計情報に従って確立されてもよい(たとえば、観察者から得られてもよい、または、観察者の観察から推定されてもよい)。
【0123】
コンテンツが(オーディオではなく)ビジュアルである場合、ウォータマークデータの符号化は、観察者に関連する視認幾何形状に従って事前に歪まされてもよい。一部の配設では、複数のデータペイロードは、前記センサ装備デバイスのうちの1つのデバイスにおいて復号されてもよいが、復号されたペイロードのうちの1つのペイロードだけが、応答のために選択される。(たとえば、その理由は、そのペイロードが、たとえばセンサ装備デバイスに記憶された、デバイスまたはそのユーザに関連するプロファイルデータに対応するためである。こうしたプロファイル情報は、性別、年齢、および/または自宅郵便番号データを示す可能性がある。)異なるペイロードは、たとえば、時間的にまたは周波数的に多重化されてもよい。
【0124】
なお別の方法は、第1のシステムに関連するカメラを使用してイメージリーを取込むことと、取込まれたイメージリー内の特徴を検出することと、検出された特徴に関連する拡張現実グラフィカルデータを、第1のシステムと異なる第2のシステムに対して識別することと、を含む。第1のシステムは電子看板システムを備えてもよく、第2のシステムはユーザの携帯電話を備えてもよい。方法はさらに、第2のシステム上で拡張現実グラフィカルデータを提示することを含むことができ、提示されたデータは、第2のシステムのユーザの1つまたは複数の人口統計属性に従って調節される。
【0125】
他のコメント
本明細書は、譲受人の以前の特許出願に対するその関係を先に述べたが、それは、繰返し述べるのに耐える。これらの開示は、連携して読まれ、全体として解釈されるべきである。出願人は、各開示内の特徴が、他の開示内の特徴と組み合わされることを意図する。そのため、たとえば、本明細書内で述べる配設および詳細は、先に引用した特許および用途で述べたシステムおよび方法の変形実施態様で使用することができるが、これらの文書の配設および詳細は、本明細書で述べるシステムおよび方法の変形実施態様で使用することができる。他の述べられた書類も同様である。そのため、本出願で開示される方法、要素、および概念は、関連する出願で詳述される方法、要素、および概念と組み合わせることができることが理解されるべきである。いくつかのこうした配設が、本明細書において特に詳述されたが、多数の置換および組合せが存在するため、多くの配設が詳述されていない。しかし、全てのこうした組合せの実施態様は、提供される教示から、熟練者にとって簡単である。
【0126】
例証的な特徴および例を参照して技術の原理を述べ示したが、技術はそのように限定されないことが認識されるであろう。
【0127】
たとえば、携帯電話などのモバイルデバイスに対して参照が行われたが、この技術は、全ての様式のデバイスに関して有用性を見出すことが認識されるであろう。PDA、オーガナイザ、可搬型音楽プレーヤ、デスクトップコンピュータ、ラップトップコンピュータ、タブレットコンピュータ、ネットブック、ウルトラポータブル、装着型コンピュータ、サーバなどは、本明細書で詳述された原理を利用することができる。特に想定される電話は、Apple iPhoneおよびGoogleのAndroid仕様に準拠するスマートフォン(たとえば、HTC Corp.によってT−Mobile用に製造されたG1フォン、Motorola Droidフォン、およびGoogle Nexusフォン)を含む。用語「携帯電話(cell phone)」は、全てのこうしたデバイス、さらに、厳密に言って、携帯電話でも電話でもないデバイス(たとえば、最近発表されたApple iPadデバイス)を包含すると解釈されるべきである。
【0128】
この技術はまた、拡張現実(augmented reality)(AR)メガネなどの顔装着装置を使用して実装することができる。こうしたメガネは、コンピュータ情報がそれによってユーザによって視認されることができるディスプレイ技術であって、ユーザの前の光景に重ねられるもの、またはその光景を遮断するのいずれかを含む。仮想現実ゴーグルは、こうした装置の例である。例示的な技術は、特許文書第7,397,607号および第20050195128号に詳述される。商業的提供は、Vuzix iWear VR920、Naturalpoint Trackir 5、およびezGearによるezVision X4 Video Glassesを含む。近い将来の代替物は、ARコンタクトレンズである。こうした技術は、たとえば、特許文書第20090189830号およびParviz著「Augmented Reality in a Contact Lens」IEEE Spectrum,September,2009に詳述されている。一部のまたは全てのこうしたデバイスは、たとえば無線で他のコンピューティングデバイス(たとえば、ユーザ、電子看板、または他のものによって保持される)と通信する場合があり、内臓型処理能力を含むことができる。同様に、こうしたデバイスは、電子コンパス、加速度計、カメラ(複数可)、投影器(複数可)、GPSなどを含む、既存のスマートフォンおよび特許文書から知られている他の特徴を組み込む可能性がある。
【0129】
もっと先には、レーザレンジファインディング(laser range finding)(LIDAR)などの特徴が、電話(および関連デバイス)上で標準になるかもしれず、(たとえば、観察者に視認されている看板およびその距離を識別するために)本技術と共に使用することができる。
【0130】
本開示で参照した携帯電話および他のコンピュータデバイスの設計は、熟練者にはよく知られている。一般論として、それぞれは、1つまたは複数のプロセッサ(たとえば、Intel、AMD、またはARMなど各種の)、1つまたは複数のメモリ(たとえばRAM)、記憶装置(たとえば、ディスクまたはフラッシュメモリ)、ユーザインタフェース(グラフィカルユーザインタフェースを提供するソフトウェア命令と共に、たとえば、キーパッド、TFT LCDまたはOLEDディスプレイスクリーン、タッチまたは他のジェスチャセンサ、カメラまたは他の光学センサ、コンパスセンサ、3D磁束計、3軸加速度計、マイクロフォンなどを含んでもよい)、これらの要素間の相互接続(たとえば、バス)、および他のデバイスと通信するインタフェース(GSM、CDMA、W−CDMA、CDMA2000、TDMA、EV−DO、HSDPA、WiFi、WiMAX、メッシュネットワーク、Zigbee、および他の802.15配設、またはブルートゥースなどの無線式、ならびに/または、イーサネットローカルエリアネットワーク、T−1インターネット接続などを通した有線式であってもよい)を含む。
【0131】
より一般的に、本明細書で詳述するプロセスおよびシステムコンポーネントは、マイクロプロセッサ、グラフィックス処理ユニット(nVidia Tegra APX2600などのGPU)、デジタル信号プロセッサ(たとえば、Texas Instruments TMS320シリーズデバイス)などを含む種々のプログラマブルプロセッサ用の汎用プロセッサ命令を含む、コンピューティングデバイス用の命令として実装されてもよい。これらの命令は、ソフトウェア、ファームウェアなどとして実装されてもよい。これらの命令はまた、プログラマブルロジックデバイス、FPGA(たとえば、Xilinx Virtexシリーズデバイス)、FPOA(たとえば、PicoChipブランドデバイス)、デジタル、アナログ、および/またはアナログ/デジタル混合式回路要素を含む、および特定用途向け回路を含む種々の形態のプロセッサ回路要素に対して実装することができる。命令の実行は、プロセッサの間で分散されることができ、かつ/または、デバイス内のプロセッサにわたって、または、デバイスのネットワークにわたって並列にされることができる。コンテンツ信号データの変換はまた、異なるプロセッサおよびメモリデバイスの間で分散されてもよい。
【0132】
詳述された機能を実装するソフトウェア命令は、たとえば、C、C++、Visual Basic、Java、Python、Tcl、Perl、Scheme、Rubyなどで書かれた、本明細書で提供された記述から、熟練者によって容易に作られることができる。本技術によるモバイルデバイスは、異なる機能および行為を実施するソクトウェアモジュールを含むことができる。携帯電話用のソフトウェアアプリケーションは、異なるベンダーのapストア(たとえば、iPhoneデバイス用のApple Apストア)を通して供給されることができる。
【0133】
一般に、各デバイスは、ハードウェアリソースおよび汎用機能に対してインタフェースを提供するオペレーティングシステムソフトウェアを含み、同様に、ユーザによって所望される特定のタスクを実施するために選択的に呼び出されることができるアプリケーションソフトウェアを含む。知られているブラウザソフトウェア、通信ソフトウェア、およびメディア処理ソフトウェアは、本明細書で詳述された使用の多くのために適応することができる。ソフトウェアおよびハードウェア構成データ/命令は、一般に、ネットワークにわたってアクセスされる可能性がある、磁気ディスクまたは光ディスク、メモリカード、ROMなどのような触知可能なメディアによって運ばれる1つまたは複数のデータ構造の命令として記憶される。一部の実施形態は、埋め込み式システム、すなわちオペレーティングシステムソフトウェアおよびアプリケーションソフトウェアがユーザにとって識別不能である専用コンピュータとして実装されてもよい(たとえば、基本携帯電話の場合に一般的であるように)。本明細書で詳述された機能性は、オペレーティングシステムソフトウェア、アプリケーションソフトウェアで、かつ/または、埋め込み式システムソフトウェアとして実装することができる。
【0134】
本明細書で述べる異なる機能性は、異なるデバイス上で実装されることができる。たとえば、携帯電話が看板システムコンピュータと通信するシステムでは、異なるタスクを、1つのデバイスまたは他のデバイスによって排他的に実施することができる、または、実行を、デバイスの間で分散することができる。イメージリーからのウォータマークデータおよび指紋の抽出ならびに視認角度および距離の推定は、しかし、こうしたタスクのいくつかの例である。そのため、特定のデバイス(たとえば、看板システムコンピュータ)によって実施される動作の説明は、制限的であるのではなく、例示的であり、別のデバイス(たとえば、携帯電話またはリモートコンピュータ)による、または、デバイス間で共有される動作の実施もまた、明示的に想定されることが理解されるべきである。熟練者によって理解されるように、任意の動作の結果は、後続の動作(複数可)で使用するために、別のユニットに送出されることができる。
【0135】
同様の様式で、特定のデバイス上に記憶されるデータの説明もまた例示的であり、データは、ローカルデバイスに、リモートデバイスに、分散してクラウド内等、どこにでも記憶されることができる。
【0136】
動作は、特定的に識別可能なハードウェアによって排他的に実施される必要はない。むしろ、一部の動作は、なおさらに、一般的に名前の無いシステムによってその実行に付随する他のサービス(たとえば、クラウドコピューティング)に委ねられることができる。こうした分散システムは、ラージスケール(たとえば、世界中のコンピューティングリソースを含む)またはローカル(たとえば、可搬型デバイスが、ブルートゥース通信を通して1つまたは複数の近くの移動体デバイスまたは他のデバイスを識別し、タスク内にそのデバイスの1つまたは複数を含むときのように)とすることができる。
【0137】
コンテンツ信号(たとえば、画像信号、オーディオ信号など)の詳述された処理は、これらの信号の種々の物理的形態への変換を含むことが認識されるであろう。画像およびビデオ(物理的空間中を進行し、物理的オブジェクトを描写する電磁波の形態)は、カメラまたは他のキャプチャ機器を使用して物理的オブジェクトから取込まれるか、または、コンピューティングデバイスによって生成されてもよい。同様に、物理的媒体中を進行するオーディオ圧力波は、オーディオ変換器(たとえば、マイクロフォン)を使用して取込まれ、電子信号(デジタルまたはアナログ形態)に変換されてもよい。これらの信号は、通常、上述したコンポーネントおよびプロセスを実装するために、電子形態またはデジタル形態で処理されるが、同様に、電子、光、磁気、および電磁波形態を含む、他の物理的形態で取込まれ、処理され、転送され、記憶されてもよい。コンテンツ信号は、信号および関連情報の種々のデータ構造表現を処理し、生成する間に、種々の方法でまた種々の目的のために変換される。次に、メモリ内のデータ構造信号は、検索、ソーティング、読取り、書込み、および取出し中に操作するために変換される。信号はまた、取込み、転送、記憶、およびディスプレイまたはオーディオ変換器(たとえば、スピーカ)を介した出力のために変換される。
【0138】
本技術の実施態様は、タッチスクリーン技術を使用するユーザインタフェースを利用することができる。こうしたユーザインタフェース(ならびにApple iPhoneの他の態様)は、公開された特許出願第20080174570号に詳述されている。
【0139】
タッチスクリーンインタフェースは、ジェスチャインタフェースの形態である。本技術の実施形態で使用されることができるジャスチャインタフェースの別の形態は、スマートフォンの動きを検知することによって、すなわち取込まれたイメージリー内の特徴の動きを追跡することによって動作する。こうしたジャスチャインタフェースに関するさらなる情報は、Digimarcの特許第6,947,571号に詳述されている。ジャスチャ技法は、ユーザ入力がシステムに提供されるときはいつでも使用することができる。
【0140】
一部の実施形態では、詳述される機能は、ユーザ命令によって(たとえば、apを立ち上げることによって)起動されなければならない。他の配設では、携帯電話デバイスは、メディア採取モード、すなわちユーザに関連する刺激および相応して応答を識別するために、周囲オーディオおよびイメージリーを常に処理するモード、で実行されるように構成されてもよい。
【0141】
センサ情報(またはセンサ情報に基づくデータ)は、解析のためにクラウドに委ねられてもよい。一部の配設では、これは、ローカルデバイス処理の代わりに(または、あるローカルデバイス処理が行われた後に)行われる。しかし、時には、こうしたデータは、クラウドに渡され、クラウドとローカルデバイスの両方において同時に処理することができる。クラウド処理のコストは、通常小さいため、主要なコストは、帯域幅の1つであるかもしれない。帯域幅が利用可能である場合、たとえデータがローカルでも同様に処理されても、クラウドにデータを送出しない理由はほとんどないかもしれない。ある場合には、ローカルデバイスが、結果をより早く戻すかもしれず、他の場合には、クラウドが、レースに勝つかもしれない。同時に、両方を使用することによって、ユーザは、考えられる最も迅速な結果を保証される。
【0142】
本開示は、例証的な実施形態における要素の順序付けおよび要素の特定の組合せを詳述したが、他の方法が行為を再順序付けしてもよく(おそらく、一部を省き、他を追加する)、他の組合せが、一部の要素を省き、他の要素を追加してもよいことなどが認識されるであろう。
【0143】
完全なシステムとして開示されたが、詳述された配設の下位の組合せもまた、別個に想定される。
【0144】
本明細書で開示された異なる実施形態内の要素および教示もまた、交換され、組合されることを意図される。
【0145】
いくつかの実施形態では、インターネットに対して参照が行われた。他の実施形態では、コンピュータのプライベートネットワークを含む他のネットワークが、同様にまたは代わりに使用されることができる。
【0146】
本明細書は、電子サイネージからイメージリーを取込み、関連する見返りを観察者に提供することに的を絞ったが、多くの同様の配設が、電子サイネージからのオーディオに関して行われることができる。斜視ベース機能は、オーディオに関して容易に利用可能ではないが、しかし本明細書で詳述される他の原理は、オーディオのみの実施態様に適応することができる。
【0147】
全ての詳述された実施形態では、広告が、電子サイネージ上に提示されてもよい。異なる看板に関する視認者の関わり合いの長さおよび商業的印象の数を記録する測定はログをとることができ、対応する全数検査に基づく報告を、視聴者調査会社によって広告主に発行することができる。この情報は、電話内のソフトウェアによって、または、看板に関連するソフトウェアによってコンパイルすることができる。視認者に関する人口統計情報を知ることによって、ターゲッティングされた広告を提示することが可能になる。通信セッションが確立される場合、フォローアップ情報を、同じ情報チャネルを使用して送出することができる。広告はまた、ユーザの携帯電話上に提示され、同様に測定されてもよい。
【0148】
関連する配設は、公開された特許出願第20080208849号および第20080228733号(Digimarc)、第20080165960号(TagStory)、第20080162228号(Trivid)、第20080178302号および第20080059211号(Attributor)、第20080109369号(Google)、第20080249961号(Nielsen)、ならびに第20080209502号(MovieLabs)に詳述されている。
【0149】
ウォータマークを符号化/復号する技術は、たとえば、先に引用したDigimarcの特許ならびにNielsenの特許第6,968,564号および第7,006,555号ならびにArbitronの特許第5,450,490号、第5,764,763号、第6,862,355号、および第6,845,360号に詳述されている。
【0150】
コンテンツ指紋採取は、コンテンツ(たとえば、グラフィック、ビデオ、歌など)を蒸留して本質的に一意の識別子または識別子の組にしようと努める。多くの指紋採取技法が知られている。画像/ビデオ指紋採取の例は、特許公報第7,020,304号(Digimarc)、第7,486,827号(Seiko−Epson)、第5,893,095号(Virage)、第20070253594号(Vobile)、第20080317278号(Thomson)、および第20020044659号(NEC)に詳述されている。オーディオ指紋採取の例は、特許公報第20070250716号、第20070174059号、第および20080300011号(Digimarc)、第20080276265号、第20070274537号、および第20050232411号(Nielsen)、第20070124756号(Google)、第6,834,308号(Audible Magic)、第7,516,074号(Auditude)、ならびに第6,990,453号および第7,359,889号(共にShazam)に詳述されている。
【0151】
スケール不変特徴変換(scale invariantfeature transformation)(SIFT)は、ある形態の画像指紋と考えられる場合がある。一部の他のものと違って、SIFTは、アフィン変換および透視変換にもかかわらずビジュアル情報を識別できる。SIFTはさらに、先に引用された出願(たとえば、第US20100048242号)のいくつか、ならびに、特許文書第6,711,293号および第WO07/130688号に詳述されている。
【0152】
SHIFTは、おそらく、ロバストなローカルシーン記述子を生成するための最もよく知られている技法であるが、アプリケーションによっては、より適しているかもしれず、またはより適していないかもしれない、他の技法が存在する。これらは、GLOH(Mikolajczyk他著「A Performance Evaluation of Local Descriptors」IEEE Trans.Pattern Anal.Mach.Intell.,vol.27,No.10,pp.1615−1630,2005を参照せよ)およびSURF(参照,Bay他著「SURF:Speeded Up Robust Features」Eur.Conf.on Computer Vision(1),pp.404−417,2006を参照せよ)、ならびに、Chen他著「Efficient Extraction of Robust Image Features on Mobile Devices」Proc.of the 6th IEEE and ACM Int.Symp.On Mixed and Augmented Reality,2007およびTakacs他著「Outdoors Augmented Reality on Mobile Phone Using Loxel−Based Visual Feature Organization」ACM Int. Conf.on Multimedia Information Retrieval,October 2008を含む。ローカル記述子特徴の調査は、Mikolajczyk他著「A Performance Evaluation of Local Descriptors」IEEE Trans.Pattern Analysis and Machine Intelligence,2005に提供される。
【0153】
Nokiaは、公開された特許出願第20070106721号、第20080071749号、第20080071750号、第20080071770号、第20080071988号、第20080267504号、第20080267521号、第20080268876号、第20080270378号、第20090083237号、第20090083275号、および第20090094289号を含む、ビジュアル検索に関する研究を行った。これらの文書で詳述された特徴および教示は、本出願で詳述された技術および配設と組合せるのに適しており、また、その逆もまた同様である。
【0154】
実施形態の多くは、看板システムから観察側携帯電話へデータを伝達するために、ウォータマーキング技術を利用するが、他の実施形態では、RFID、近接場通信、ディスプレイドバーコード(displayed barcode)、赤外線、SMSメッセージングなどのような他の通信技術を、電話と看板システムとの間で使用することができる。画像または他のコンテンツ指紋採取はまた、観察されている特定のディスプレイを(たとえば、携帯電話に対して)識別するために使用されることができる。ディスプレイがこうして識別された状態で、対応する補助情報ストアがアクセスされ、対応するアクションは、その後、記憶された情報に基づくことができる。
【0155】
述べたように、観察者に関する位置データは、GPSなどの手段によって、または、公開された特許出願第WO08/073347号に詳述される技術によって確定することができる。同じ技術は、電子看板の場所を識別するために使用することができる。こうした情報から、特定の観察者が特定の看板を視認していることを推論することができる。たとえば観察者に対する見返りを詳述する補助情報ストアは、これにより対応する見返りを有効にするために、識別され、アクセスされることができる。(第WO08/073347号のシステムはまた、たとえばタイムベースシステムが頼ることができる非常に正確な時間情報を生成するために使用することができる。)
【0156】
携帯電話によって取込まれたイメージリーが看板システムに送出される場合、イメージリーに付随するメタデータが、通常、携帯電話の製造者およびモデルを識別する。この情報は、看板システムによって記憶することができ、種々の目的で使用することができる。1つの目的は、単に、人口統計的にユーザを分類することである(たとえば、Blackberryを持つユーザは実業家である可能性が高く、一方、Motorola Rivalを持つ人は10代である可能性が高い)。別の目的は、電話のカメラシステムに関する情報(たとえば、開口数、解像度など)を判定することである。電子看板上に提示されるウォータマークまたは他の情報は、その後、カメラの詳細(たとえば、ウォータマーキングタイルのサイズ)、「情報に基づく埋め込み(informedembedding)」のタイプ、に従って調節することができる。
【0157】
関連して、看板システムの近くのユーザから情報が全く受信されなかった場合、看板は、それでも、ユーザの推定される年齢、性別、および/または民族性を参照することによって、ユーザの携帯電話カメラに関する何かを推定する場合がある。記憶される参照データは、たとえば、異なる人口統計グループを用いて異なる電話(カメラ)モデルの人気を示すことができる。たとえば、Apple iPhoneについてのピーク人口統計は、これらのデバイスの約36%を所有する35〜54歳グループであると報告されており、一方、13〜17歳は、これらのデバイスの約5%を所有するだけである。男性は、Android電話を所有する可能性が女性よりずっと高い。電話についての更新サイクルはまた、人口統計と共に変わる。15歳の少年は、1年未満使用した携帯電話を携行している可能性があり、一方、50歳の女性は、少なくとも2年使用した携帯電話を携行している可能性がより高い。より古い電話は、より低い解像度のカメラを有する、などである。そのため、視認者の年齢および性別を推定することによって、ユーザが携行している携帯電話カメラに関して情報に基づく推測(informed guess)が行われる可能性がある。やはり、看板上のディスプレイは、(たとえば、推定されたカメラ解像度に従ってウォータマーキングパラメータを設定することによって)相応して調節されることができる。
【0158】
詳述された技術はまた、拡張現実(AR)技法を使用することができる。ARは、その詳細が専門家によく知られている、UrbanSpoon、Layar、Bionic Eye、Wikitude、Tonchidot、およびGoogle GogglesなどのiPhone/Androidアプリケーションによって普及してきた。例示的なARシステムは、特許文書第US20100045869号、第US20090322671号、および第US20090244097号に詳述されている。簡潔に言えば、こうした配設は、取込まれたイメージリー内のビジュアル特徴を検知し、視認スクリーン上にさらなる情報を、一般的に、最初に取込まれたイメージリー上のオーバレイとして提示する。本コンテキストでは、電子サイネージ上に表示される情報は、ビジュアル特徴として使用することができる。オーバレイは、ユーザの電話上に提示することができ、たとえば(視認場所および/または人口統計を含む)コンテキストによって、ユーザに対してカスタマイズされることが可能である。情報は、電子看板上に表示されるイメージリー内に符号化されるウォータマークデータを介して電話と看板との間で交換することができる。特定の携帯電話と特定の看板/コンテンツとの間に論理的関連性が確立されると、IP、ブルートゥースなどのような他の配設もまた、使用されることができる。
【0159】
他の配設では、ユーザの携帯電話16または電子看板システムのカメラ12は、特徴がそこから検知されるイメージリーを取込む。関連するディスプレイ/情報は、その後、電子看板システムのディスプレイスクリーン10上に提示される場合がある。こうした情報は、看板上に、検知された特徴を含む取込まれたイメージリー上にオーバレイとして、または、別個に提示されてもよい。
【0160】
詳述された配設からの要素は、さらなる実施態様をもたらすために、背景技術の説明で述べたような、先行技術の要素と組み合わされることができる。
【0161】
いくつかの動作が、コンピュータ14、携帯電話16、またはリモートサーバ(複数可)18などにおいて起こるものとして記述されたが、種々の動作の場所には融通性がある。動作は、任意の適切なコンピュータデバイス上で行うことができ(または、複数のデバイス間で分散し)、データを必要に応じて中継することができる。
【0162】
大型フォーマット公共ディスプレイのコンテキストで示されるが、同じ原理が、従来のラップトップディスプレイ、他の携帯電話ディスプレイ、電子ピクチャフレーム、電子ブック、テレビ、映画投影スクリーンなどを含むいたる所で用途を見出すことが認識されるべきである。Izadi他著「Going Beyond the Display:A Surface Technology with an Electrically Switchable Diffuser」Microsoft Research、2009に詳述されるMicrosoftの「セカンドライト(Second Light)」技術もまた、本明細書で詳述される原理と共に使用することができる。
【0163】
当然、技術は、フラットディスプレイに限定されるのではなく、湾曲ディスプレイについても適用可能である。
【0164】
顔発見アルゴリズムは、(たとえば、多くの一般的なコンシューマカメラで使用されるように)よく知られており、観察者の顔を識別し、観察者の目を位置特定するために使用することができる。述べたように、たとえばカメラ12に取込まれたイメージリーのピクセル単位での観察者の目の間の距離は、カメラからの(したがって、ディスプレイスクリーンからの)観察者の距離を推定するために、種々の実施形態で使用されることができる。
【0165】
サンプルのウォータマークペイロードプロトコルが図15に示される。プロトコルは、プロトコルを識別するために8ビット(そのため、携帯電話ウォータマークデコーダシステムは、ペイロードの残りをどのように解釈するかがわかっている)を、また、ターゲッティングされる人口統計視聴者(たとえば、30歳と55歳との間の男性)を示すために4ビットを含む。次に続く「即時応答データ(immediate responsedata)」は、リモートデータベースを参照することなく、携帯電話によって使用されることができるリテラルな補助データである。たとえば、そのデータは、異なる業者への異なるクーポンを提示するために、携帯電話データストア内にロードされる小さな見返りデータストアを索引付けすることなどで、携帯電話または別のシステムが、即座に使用することができるテキストまたは情報を運ぶ。残りの20ビットのデータは、(たとえば、クーポンまたは他の見返りに関する)対応する情報が記憶されるリモートデータベースを索引付けするのに役立つ。年齢適性レイティングを示すフィールドなどの他のデータフィールドを、付加的にまたは別法として使用することができる。プロトコルは、たとえば、続くペイロードが付加的なデータを運ぶことを示すフラグビットによって拡張可能であってよい。
【0166】
図15のペイロードは、例証に過ぎない。任意の特定の実施態様では、特定のアプリケーション要件に応じて、異なるペイロードが使用される可能性が高いだろう。
【0167】
Quividiおよび/またはTruMediaからのカメラシステムおよび関連ソフトウェアは、観察者を識別し、その観察者を人口統計的に分類するために、カメラ12のために使用することができる。
【0168】
本技術のいくつかの実施形態は、看板が、その通常の「ブロードキャスタ(broadcaster)」の役割と対照的に、「ナローキャスタ(narrowcaster)」の役をすることを可能にすることが認識されるであろう。それでも、これは、たとえば指定されたデバイスまたは専用プロトコルが使用されなければならない閉じたアーキテクチャに頼ることなく、開放様式で達成される。
【0169】
簡潔にするため、述べられた技術の無数の変形および組合せは、本文書内では列挙しない。本明細書の概念は、概念の中、および概念同士の間の両方で、ならびに、引用された従来技術から知られている概念と、組み合わせ、置換し、交換することができることを、出願人は認識、および意図している。さらに、詳述された技術を、有利な効果のために、現在の、および到来する他の技術に含むことができることが認識されるであろう。
【0170】
本明細書を不当に長くすることなく包括的な開示を提供するために、出願人は、先に参照された文書および特許開示を参照により組み込む。(こうした文書は、たとえその教示の詳細に関連して先に引用されても、その全体が組み込まれる。)これらの参照は、本明細書で詳述される配設に組み込むことができ、また、本明細書で詳述される技術および教示をその中に組み込むことができる技術および教示を開示する。
【特許請求の範囲】
【請求項1】
第1の観察者によって視認される電子看板に関与する方法であって、
前記第1の観察者に関する位置情報を入手するステップと、
前記位置情報を考慮する第1のデジタルウォータマーク信号を定義するステップと、
前記第1のデジタルウォータマーク信号に従って画像データを符号化するステップと、
前記電子看板上に前記符号化された画像データを提示するステップと、を含む方法。
【請求項2】
視認距離に従って前記第1のデジタルウォータマーク信号のスケールを調節するステップを含む請求項1に記載の方法。
【請求項3】
視認角度に従って前記第1のデジタルウォータマーク信号の投影を調節するステップを含む請求項1に記載の方法。
【請求項4】
前記第1の観察者に関連するコンテキストデータに従って前記第1のデジタルウォータマーク信号のペイロードを確立するステップを含む請求項1に記載の方法。
【請求項5】
前記第1の観察者によって運ばれる携帯型デバイスから前記コンテキストデータを入手するステップを含む請求項4に記載の方法。
【請求項6】
カメラを使用して前記位置情報を検知するステップと、
前記カメラによって生成された画像データから、前記第1の観察者に関する前記コンテキストデータを推定するステップと、を含む請求項4に記載の方法。
【請求項7】
前記電子看板に関連したカメラを使用して前記位置情報を検知するステップを含む請求項1に記載の方法。
【請求項8】
前記第1の観察者に関連したカメラを使用して前記位置情報を検知するステップを含む請求項1に記載の方法。
【請求項9】
前記カメラによって視認された前記電子看板の見かけの幾何形状を参照することによって前記位置情報を検知するステップを含む請求項8に記載の方法。
【請求項10】
前記電子看板によって提示されるグラフィックデータ内に隠されたステガノグラフィ的に符号化されたデジタルウォータマーク信号を参照することによって前記位置情報を検知するステップを含む請求項8に記載の方法。
【請求項11】
前記観察者によって運ばれるカメラ装備デバイスを使用して前記電子看板に対応する画像データを取込むステップと、
前記取込まれた画像データを参照することによって、複数の電子看板のうちのどれが前記第1の観察者によって観察されているかを判定するステップと、を含む請求項1に記載の方法。
【請求項12】
前記判定するステップは、取込まれた画像データからロバストな局所画像記述子を見定めることを含む請求項11に記載の方法。
【請求項13】
前記デバイスの場所に関するデータを参照することによって、観察される場合がある一組の考えられる電子看板を制限するステップを含む請求項11に記載の方法。
【請求項14】
第2の観察者に関する第2の位置情報を入手するステップと、
前記第2の位置情報を考慮する第2のデジタルウォータマーク信号を定義することと、
前記第2のデジタルウォータマーク信号および前記第1のデジタルウォータマーク信号に従って前記画像データを符号化するステップと、を含む請求項1に記載の方法。
【請求項15】
前記第1のデジタルウォータマーク信号の前記ペイロードと異なる前記第2のデジタルウォータマーク信号のペイロードを確立するステップを含む請求項14に記載の方法。
【請求項16】
前記第2の観察者に関するコンテキストデータを入手し、前記コンテキストデータに従って前記第2のデジタルウォータマーク信号の前記ペイロードを確立するステップを含む請求項15に記載の方法。
【請求項17】
それぞれがセンサ装備デバイスを運ぶ複数の観察者によって視認される電子看板システムに関与する方法であって、
前記電子看板の第1の観察者について第1のデータペイロードを確立するステップと、
前記電子看板の第2の観察者について第2のデータペイロードを確立するステップと、
デジタルウォータマークデータによってオーディオまたはビジュアルコンテンツデータをステガノグラフィ的に符号化するステップであって、前記デジタルウォータマークデータは前記第1および第2のデータペイロードを伝達する、ステガノグラフィ的に符号化するステップと、
前記電子看板を使用して前記符号化されたコンテンツデータを提示するステップと、を含み、
前記第1の観察者によって運ばれる前記センサ装備デバイスは、前記提示される画像データ内に符号化される前記第1のデータペイロードに応答するが、前記第2のデータペイロードには応答せず、前記第2の観察者によって運ばれる前記センサ装備デバイスは、前記提示される画像データ内に符号化される前記第2のデータペイロードに応答するが、前記第1のデータペイロードには応答しない方法。
【請求項18】
前記ステガノグラフィ的に符号化されたコンテンツデータは、ビジュアルコンテンツデータを含み、前記第1のデータペイロードの前記符号化は、前記第1の観察者に関連した視認幾何形状に従って事前に歪まされる請求項17に記載の方法。
【請求項19】
前記センサ装備デバイスのうちの1つにおいて前記第1および第2のデータペイロードを共に復号するが、応答のために、前記復号されたペイロードの1つだけを選択するステップを含む請求項17に記載の方法。
【請求項20】
前記センサ装備デバイスに記憶されたプロファイル情報に基づいて、応答のために、前記復号されたペイロードのうちの1つを選択するステップを含む請求項19に記載の方法。
【請求項21】
前記プロファイル情報は、性別データ、年齢データ、および自宅郵便番号のうちの少なくとも1つを含む請求項20に記載の方法。
【請求項22】
前記第1および第2のデータペイロードは時間多重化される請求項17に記載の方法。
【請求項23】
異なる時間に観察者の異なる組合せによって視認されるスクリーンを含む電子看板システムに関与する方法であって、
前記スクリーンを観察する第1の人を検出するステップと、
前記第1の観察者に対応する第1のウォータマーク信号を用いて、前記電子看板システムによって提示されるコンテンツを符号化するステップと、
前記第1の人が前記スクリーンを依然として観察している間に、前記スクリーンを新しく観察する第2の人を検出するステップと、
前記第1の観察者に対応する第1のウォータマーク信号および同様に前記第2の観察者に対応する第2のウォータマーク信号を用いて、前記電子看板システムによって提示される前記コンテンツを符号化するステップと、
前記人のうちの一人が、前記看板をもはや観察していないとして検出されると、前記看板をもはや観察していない人に対応するウォータマーク信号を用いてではなく、残りの観察者に対応するウォータマーク信号を用いて、前記電子看板システム上に提示さる前記コンテンツを符号化するステップとを含み、
ウォータマーク信号の異なる組合せは、異なる時間に前記スクリーンを観察する人の異なる組合せに従って、前記電子看板システム上に提示されるコンテンツ内に符号化される方法。
【請求項24】
前記第1の人によって運ばれる携帯型デバイスは、前記第1のウォータマーク信号が前記第1の人の場所に従って事前に歪まされているため、前記第1のウォータマーク信号に応答する請求項23に記載の方法。
【請求項25】
前記第1の人によって運ばれる携帯型デバイスは、前記第1のウォータマーク信号が前記携帯型デバイスまたは前記第1の人に関連するプロファイルデータに対応するデータを含むため、前記第1のウォータマーク信号に応答する請求項23に記載の方法。
【請求項26】
前記第1のウォータマーク信号を用いて、前記スクリーン上に提示されるコンテンツを符号化するステップを含む請求項23に記載の方法。
【請求項27】
前記第1のウォータマーク信号を用いて、前記電子看板システムのラウドスピーカによって提示されるコンテンツを符号化するステップを含む請求項23に記載の方法。
【請求項28】
方法であって、
手持ち式デバイスを使用して、ディスプレイから画像データを取込むステップと、
前記取込まれた画像データ内にステガノグラフィ的に符号化されたデジタルウォータマーク信号のパラメータを判定するステップであって、前記パラメータは前記ウォータマーク信号により符号化されたペイロードデータではない、パラメータを判定するステップと、
前記判定の結果に基づいて、前記デバイスが前記ディスプレイにどのように応答すべきかを決定する(decide)ステップと、を含む方法。
【請求項29】
前記判定されたパラメータを参照と比較するステップと、
前記比較の結果に基づいて、前記デバイスが前記ディスプレイにどのように応答すべきかを決定(determine)するステップと、を含む請求項28に記載の方法。
【請求項30】
前記パラメータは幾何学的パラメータである請求項28に記載の方法。
【請求項31】
前記パラメータはエラーメトリックである請求項28に記載の方法。
【請求項32】
第1の観察者によって視認される電子看板に関与する方法であって、
前記第1の観察者に関連する(related to)第1のコンテキストデータを入手するステップと、
前記第1のコンテキストデータを考慮する第1のデジタルウォータマーク信号を定義するステップと、
前記第1のデジタルウォータマーク信号に従って第1の画像データをステガノグラフィ的に符号化するステップと、
前記電子看板上に前記符号化された画像データを提示するステップと、を含む方法。
【請求項33】
前記電子看板上に前記符号化された画像データを提示した後、第2の観察者に関連するコンテキストデータを入手するステップと、
前記第2のコンテキストデータを考慮する第2のデジタルウォータマーク信号を定義するステップであって、前記第2のデジタルウォータマーク信号は前記第1のデジタルウォータマーク信号と異なる、定義するステップと、
前記第2のデジタルウォータマーク信号に従って前記同じ第1の画像データをステガノグラフィ的に符号化するステップと、
前記電子看板上に前記第2のデジタルウォータマーク信号に従って符号化された前記第1の画像データを提示するステップと、を含み、
前記同じ第1の画像データは、両方の観察者に提示されるが、異なるコンテキストデータに従って異なるウォータマーク信号を用いてステガノグラフィ的に符号化される請求項32に記載の方法。
【請求項34】
電子看板が、複数の観察者によって視認されるコンテンツを提示する方法であって、
第1の観察者によって運ばれる第1のカメラ装備デバイスを使用して、前記提示されたコンテンツを視認し、前記提示されたコンテンツに対応する第1の画像データを取込むステップと、
前記取込まれた第1の画像データを参照することによって、第1の識別データを確定するステップと、
第2の観察者によって運ばれる第2のカメラ装備デバイスを使用して、前記同じ提示されたコンテンツを視認し、前記同じ提示されたコンテンツに対応する第2の画像データを取込むステップであって、前記第2の画像データは、前記第1の観察者と第2の観察者との視点が異なるために前記第1の画像データと異なる、視認し取込むステップと、
前記取込まれた第2の画像データを参照することによって、第2の識別データを確定するステップと、
前記第1のデバイスまたは前記第1の観察者に固有の情報と共に、前記第1の識別データを参照することによって、前記第1のデバイスに対して第1の応答を提供するステップと、
前記第2のデバイスまたは前記第2の観察者に固有の情報と共に、前記第2の識別データを参照することによって、前記第2のデバイスに対して第2の異なる応答を提供するステップとを含み、
前記第1および第2のデバイスは、前記電子看板上に提示される同じコンテンツの視認に対して異なる応答を提供する方法。
【請求項35】
前記取込まれた第1の画像データが前記取込まれた第2の画像データと異なるにもかかわらず、前記第2の識別データは、前記第1の識別データと同じである請求項34に記載の方法。
【請求項36】
第1の観察者によって視認される電子看板に関与する方法であって、
前記観察者によって運ばれるカメラ装備デバイスを使用して、前記電子看板に対応する画像データを取込むステップと、
前記取込まれた画像データを参照することによって、複数の電子看板のうちのどの電子看板が前記第1の観察者によって観察されているかを判定するステップと、
前記判定に少なくとも部分的に基づいて、前記デバイスと前記電子看板との間でデータを交換するステップとを含む方法。
【請求項37】
前記交換するステップは、前記デバイスからデータを送信することを含む請求項36に記載の方法。
【請求項38】
前記送信されるデータは、前記カメラに少なくとも部分的に依存する請求項37に記載の方法。
【請求項39】
前記送信されるデータは、前記デバイスの動きに関するデータを含む請求項37に記載の方法。
【請求項40】
前記デバイス内の1つまたは複数の加速度計の使用によって動きデータを生成するステップを含む請求項39に記載の方法。
【請求項41】
前記カメラによって取込まれる画像データのいくつかのフレームにわたって1つまたは複数のビジュアル特徴を追跡することによって動きデータを生成するステップを含む請求項39に記載の方法。
【請求項42】
前記交換するステップは、前記デバイスからデータを送信し、前記電子看板において前記データの少なくとも一部を受信することを含む請求項36に記載の方法。
【請求項43】
前記判定するステップは、取込まれた画像データからロバストな局所画像記述子を見定め、そこから得られるデータを参照データと一致させることを含む請求項36に記載の方法。
【請求項44】
前記デバイスの場所に関するデータを参照することによって、前記観察者が視認しているかもしれない一組の考えられる電子看板を制限するステップを含む請求項36に記載の方法。
【請求項45】
前記判定するステップは、ステガノグラフィ的に符号化されたデータを前記取込まれた画像データから抽出するために、前記取込まれた画像データに対してデジタルウォータマーク復号アルゴリズムを適用することを含む請求項36に記載の方法。
【請求項46】
視認場所に基づいて、電子看板の観察者に対してコンテキスト的にターゲッティングされる応答を提供する方法であって、
第1の観察者に関連する第1のコンテキストデータおよび第2の観察者に関連する第2のコンテキストデータを入手するステップと、
前記第1のコンテキストデータに関連する第1の応答データおよび前記第2のコンテキストデータに関連する第2の応答データを確定すること、
第1の観察者に関連する第1の場所データおよび第2の観察者に関連する第2の場所データを入手するステップと、
観察者のデバイスから画像データを受信するステップと、
前記受信された画像データを処理するステップであって、それにより、前記受信された画像データが取込まれた場所を推定する、処理するステップと、
前記推定された場所が前記第1の場所である場合、前記デバイスに前記第1の応答データを返すステップと、を含む方法。
【請求項47】
観察者アクションによって定義されるコンテキストデータを入手するステップを含む請求項46に記載の方法。
【請求項48】
画像データからコンテキストデータを推定することによって、前記コンテキストデータを入手するステップを含む請求項46に記載の方法。
【請求項49】
前記推定された場所が前記第2の場所である場合、前記デバイスに前記第2の応答データを返すステップを含む請求項46に記載の方法。
【請求項50】
第1の観察者によって視認される電子看板システムに関与する方法であって、
前記観察者によって運ばれるカメラ装備デバイスと前記電子看板システムとの間の関連性を確立するステップと、
前記デバイスからデータを受信するステップであって、前記受信されるデータは前記カメラによって取込まれる画像データに少なくとも部分的に依存する、受信するステップと、
前記受信されるデータに少なくとも部分的に基づいて、前記電子看板システムの動作を制御するステップと、を含む方法。
【請求項51】
前記電子看板上で複数のゲームアイテムの描写を提示するステップと、
前記観察者が、前記スクリーン上に提示される前記ゲームアイテム描写の特定の1つを、前記カメラデバイスを使用して視認し選択したことを示すデータを、前記デバイスから受信するステップと、を含む請求項50に記載の方法。
【請求項52】
前記電子看板上でゲームプレイの描写を提示するステップを含み、前記ゲームプレイは、前記特定のゲームアイテムの前記観察者の選択を反映する請求項51に記載の方法。
【請求項53】
前記描写されるゲームアイテムは、パズルピースを含み、方法は、パズルピースが置かれる位置および方向を示す信号を前記デバイスから受信するステップを含み、前記信号は、前記カメラによって取込まれる画像データに少なくとも部分的に依存する請求項51に記載の方法。
【請求項54】
前記電子看板はまた、第2の観察者によって視認され、方法は、
前記第2の観察者によって運ばれるカメラ装備の第2のデバイスと前記電子看板との間論理的関連性を確立するステップと、
前記第2のデバイスからデータを受信するステップであって、前記受信されるデータは前記第2のデバイスによって取込まれる画像データに少なくとも部分的に依存し、前記受信されるデータは、前記第2の観察者が、前記描写されたパズルピースの特定の異なる1つを、前記第2のデバイスの前記カメラを使用して視認し選択したことを示す、受信するステップと、
前記描写されるパズルピースの前記異なる1つのパズルピースが置かれる位置および方向を示す信号を前記第2のデバイスから受信するステップと、を含み、
前記信号は、前記第2のデバイスのカメラによって取込まれる画像データに少なくとも部分的に依存する請求項53に記載の方法。
【請求項55】
前記ゲームアイテム描写の前記特定の1つの選択は、特徴認識の使用によって進められる請求項51に記載の方法。
【請求項56】
前記特徴認識は、デジタルウォータマークベースの識別を含む請求項55に記載の方法。
【請求項57】
前記特徴認識は、バーコードベースの識別を含む請求項55に記載の方法。
【請求項58】
前記特徴認識は、指紋に基づく識別を含む請求項55に記載の方法。
【請求項59】
電子看板が、複数の観察者によって視認されるコンテンツを提示する方法であって、
第1の観察者によって運ばれる第1のカメラ装備デバイスの使用によって、提示されるコンテンツを視認し、前記提示されるコンテンツに対応する第1の画像データを取込むステップと、
第1の識別データを生成するために、前記第1の画像データを処理するステップと、
第2の観察者によって運ばれる第2のカメラ装備デバイスの使用によって、同じ提示されるコンテンツを視認し、前記同じ提示されるコンテンツに対応する第2の画像データを取込むステップであって、前記第2の画像データは、前記第1の観察者と第2の観察者との視点が異なるために前記第1の画像データと異なる、視認し取込むステップと、
第2の識別データを生成するために、前記第2の画像データを処理するステップと、
前記電子看板に関連するセンサを使用して、前記第1および第2の観察者を描写する第3の画像データを取込むステップと、
前記第1および第2の観察者に関連するコンテキストデータを推定するために、前記第3の画像データを処理するステップと、
前記推定されたコンテキストデータを参照することによって、前記第1の観察者についての第1の応答データおよび前記第2の観察者についての第2の異なる応答データを確定するステップと、
前記第1の観察者に対応する第1の場所情報および前記第2の観察者に対応する第2の場所情報を生成するために、前記第3の画像データもまた処理するステップと、
第1または第2の識別データを受信するステップと、
前記生成される場所情報を参照することによって、前記受信された識別データが、前記第1のデバイスによって取込まれる画像データに基づくか、または、前記第2のデバイスによって取込まれる画像データに基づくかを判定するステップと、
前記受信された識別データが前記第1のデバイスによって取込まれた画像データに基づいていたと判定される場合、前記第1の応答データを用いて前記受信された識別データに応答するステップと、
前記受信された識別データが前記第2のデバイスによって取込まれる画像データに基づいていたと判定される場合、前記第2の応答データを用いて前記受信された識別データに応答するステップとを含み、
方法は、前記識別データがどの観察者から受信されたかを推論し、その観察者に対応するコンテキスト的に確定された応答データを用いて応答する方法。
【請求項60】
電子看板システムがユーザにコンテンツを提示する方法であって、
前記ユーザによって運ばれる第1のセンサ装備デバイスの使用によって、前記電子看板システムからコンテンツデータを取込むステップと、
タイムベースを参照することによって、前記取込まれたコンテンツデータ内に符号化されたデジタルウォータマークデータの複数の時間的部分のうちのどの部分が、コンテキスト的に前記ユーザに対応するかを判定するステップと、
前記判定に従ってデジタルウォータマークデータを復号するステップと、
前記デジタルウォータマークデータの判定された時間的部分に基づいてアクションを起こすステップと、を含む方法。
【請求項61】
方法であって、
歪んでいない態様を有する入力画像データを受信するステップと、
ステガノグラフィ的デジタルウォータマークパターンに従って前記入力画像データを符号化するステップと、
ディスプレイスクリーン上で前記符号化された画像データを提示するステップと、を含み、
前記ステガノグラフィ的デジタルウォータマークパターンは、前記入力画像データに対して歪んだ態様を有する方法。
【請求項62】
方法であって、
第1のシステムに関連するカメラを使用してイメージリーを取込むステップと、
前記取込まれたイメージリー内の特徴を検出するステップと、
前記検出された特徴に関連する拡張現実グラフィカルデータを、第2のシステムに対して識別するステップであって、前記第2のシステムは前記第1のシステムと異なる識別するステップと、を含む方法。
【請求項63】
前記第1のシステムは電子看板システムを備え、前記第2のシステムはユーザの携帯電話を備える請求項62に記載の方法。
【請求項64】
前記第2のシステム上で拡張現実グラフィカルデータを提示するステップをさらに含み、前記提示されるデータは、前記第2のシステムのユーザの1つまたは複数の人口統計属性に従って調節される請求項62に記載の方法。
【請求項1】
第1の観察者によって視認される電子看板に関与する方法であって、
前記第1の観察者に関する位置情報を入手するステップと、
前記位置情報を考慮する第1のデジタルウォータマーク信号を定義するステップと、
前記第1のデジタルウォータマーク信号に従って画像データを符号化するステップと、
前記電子看板上に前記符号化された画像データを提示するステップと、を含む方法。
【請求項2】
視認距離に従って前記第1のデジタルウォータマーク信号のスケールを調節するステップを含む請求項1に記載の方法。
【請求項3】
視認角度に従って前記第1のデジタルウォータマーク信号の投影を調節するステップを含む請求項1に記載の方法。
【請求項4】
前記第1の観察者に関連するコンテキストデータに従って前記第1のデジタルウォータマーク信号のペイロードを確立するステップを含む請求項1に記載の方法。
【請求項5】
前記第1の観察者によって運ばれる携帯型デバイスから前記コンテキストデータを入手するステップを含む請求項4に記載の方法。
【請求項6】
カメラを使用して前記位置情報を検知するステップと、
前記カメラによって生成された画像データから、前記第1の観察者に関する前記コンテキストデータを推定するステップと、を含む請求項4に記載の方法。
【請求項7】
前記電子看板に関連したカメラを使用して前記位置情報を検知するステップを含む請求項1に記載の方法。
【請求項8】
前記第1の観察者に関連したカメラを使用して前記位置情報を検知するステップを含む請求項1に記載の方法。
【請求項9】
前記カメラによって視認された前記電子看板の見かけの幾何形状を参照することによって前記位置情報を検知するステップを含む請求項8に記載の方法。
【請求項10】
前記電子看板によって提示されるグラフィックデータ内に隠されたステガノグラフィ的に符号化されたデジタルウォータマーク信号を参照することによって前記位置情報を検知するステップを含む請求項8に記載の方法。
【請求項11】
前記観察者によって運ばれるカメラ装備デバイスを使用して前記電子看板に対応する画像データを取込むステップと、
前記取込まれた画像データを参照することによって、複数の電子看板のうちのどれが前記第1の観察者によって観察されているかを判定するステップと、を含む請求項1に記載の方法。
【請求項12】
前記判定するステップは、取込まれた画像データからロバストな局所画像記述子を見定めることを含む請求項11に記載の方法。
【請求項13】
前記デバイスの場所に関するデータを参照することによって、観察される場合がある一組の考えられる電子看板を制限するステップを含む請求項11に記載の方法。
【請求項14】
第2の観察者に関する第2の位置情報を入手するステップと、
前記第2の位置情報を考慮する第2のデジタルウォータマーク信号を定義することと、
前記第2のデジタルウォータマーク信号および前記第1のデジタルウォータマーク信号に従って前記画像データを符号化するステップと、を含む請求項1に記載の方法。
【請求項15】
前記第1のデジタルウォータマーク信号の前記ペイロードと異なる前記第2のデジタルウォータマーク信号のペイロードを確立するステップを含む請求項14に記載の方法。
【請求項16】
前記第2の観察者に関するコンテキストデータを入手し、前記コンテキストデータに従って前記第2のデジタルウォータマーク信号の前記ペイロードを確立するステップを含む請求項15に記載の方法。
【請求項17】
それぞれがセンサ装備デバイスを運ぶ複数の観察者によって視認される電子看板システムに関与する方法であって、
前記電子看板の第1の観察者について第1のデータペイロードを確立するステップと、
前記電子看板の第2の観察者について第2のデータペイロードを確立するステップと、
デジタルウォータマークデータによってオーディオまたはビジュアルコンテンツデータをステガノグラフィ的に符号化するステップであって、前記デジタルウォータマークデータは前記第1および第2のデータペイロードを伝達する、ステガノグラフィ的に符号化するステップと、
前記電子看板を使用して前記符号化されたコンテンツデータを提示するステップと、を含み、
前記第1の観察者によって運ばれる前記センサ装備デバイスは、前記提示される画像データ内に符号化される前記第1のデータペイロードに応答するが、前記第2のデータペイロードには応答せず、前記第2の観察者によって運ばれる前記センサ装備デバイスは、前記提示される画像データ内に符号化される前記第2のデータペイロードに応答するが、前記第1のデータペイロードには応答しない方法。
【請求項18】
前記ステガノグラフィ的に符号化されたコンテンツデータは、ビジュアルコンテンツデータを含み、前記第1のデータペイロードの前記符号化は、前記第1の観察者に関連した視認幾何形状に従って事前に歪まされる請求項17に記載の方法。
【請求項19】
前記センサ装備デバイスのうちの1つにおいて前記第1および第2のデータペイロードを共に復号するが、応答のために、前記復号されたペイロードの1つだけを選択するステップを含む請求項17に記載の方法。
【請求項20】
前記センサ装備デバイスに記憶されたプロファイル情報に基づいて、応答のために、前記復号されたペイロードのうちの1つを選択するステップを含む請求項19に記載の方法。
【請求項21】
前記プロファイル情報は、性別データ、年齢データ、および自宅郵便番号のうちの少なくとも1つを含む請求項20に記載の方法。
【請求項22】
前記第1および第2のデータペイロードは時間多重化される請求項17に記載の方法。
【請求項23】
異なる時間に観察者の異なる組合せによって視認されるスクリーンを含む電子看板システムに関与する方法であって、
前記スクリーンを観察する第1の人を検出するステップと、
前記第1の観察者に対応する第1のウォータマーク信号を用いて、前記電子看板システムによって提示されるコンテンツを符号化するステップと、
前記第1の人が前記スクリーンを依然として観察している間に、前記スクリーンを新しく観察する第2の人を検出するステップと、
前記第1の観察者に対応する第1のウォータマーク信号および同様に前記第2の観察者に対応する第2のウォータマーク信号を用いて、前記電子看板システムによって提示される前記コンテンツを符号化するステップと、
前記人のうちの一人が、前記看板をもはや観察していないとして検出されると、前記看板をもはや観察していない人に対応するウォータマーク信号を用いてではなく、残りの観察者に対応するウォータマーク信号を用いて、前記電子看板システム上に提示さる前記コンテンツを符号化するステップとを含み、
ウォータマーク信号の異なる組合せは、異なる時間に前記スクリーンを観察する人の異なる組合せに従って、前記電子看板システム上に提示されるコンテンツ内に符号化される方法。
【請求項24】
前記第1の人によって運ばれる携帯型デバイスは、前記第1のウォータマーク信号が前記第1の人の場所に従って事前に歪まされているため、前記第1のウォータマーク信号に応答する請求項23に記載の方法。
【請求項25】
前記第1の人によって運ばれる携帯型デバイスは、前記第1のウォータマーク信号が前記携帯型デバイスまたは前記第1の人に関連するプロファイルデータに対応するデータを含むため、前記第1のウォータマーク信号に応答する請求項23に記載の方法。
【請求項26】
前記第1のウォータマーク信号を用いて、前記スクリーン上に提示されるコンテンツを符号化するステップを含む請求項23に記載の方法。
【請求項27】
前記第1のウォータマーク信号を用いて、前記電子看板システムのラウドスピーカによって提示されるコンテンツを符号化するステップを含む請求項23に記載の方法。
【請求項28】
方法であって、
手持ち式デバイスを使用して、ディスプレイから画像データを取込むステップと、
前記取込まれた画像データ内にステガノグラフィ的に符号化されたデジタルウォータマーク信号のパラメータを判定するステップであって、前記パラメータは前記ウォータマーク信号により符号化されたペイロードデータではない、パラメータを判定するステップと、
前記判定の結果に基づいて、前記デバイスが前記ディスプレイにどのように応答すべきかを決定する(decide)ステップと、を含む方法。
【請求項29】
前記判定されたパラメータを参照と比較するステップと、
前記比較の結果に基づいて、前記デバイスが前記ディスプレイにどのように応答すべきかを決定(determine)するステップと、を含む請求項28に記載の方法。
【請求項30】
前記パラメータは幾何学的パラメータである請求項28に記載の方法。
【請求項31】
前記パラメータはエラーメトリックである請求項28に記載の方法。
【請求項32】
第1の観察者によって視認される電子看板に関与する方法であって、
前記第1の観察者に関連する(related to)第1のコンテキストデータを入手するステップと、
前記第1のコンテキストデータを考慮する第1のデジタルウォータマーク信号を定義するステップと、
前記第1のデジタルウォータマーク信号に従って第1の画像データをステガノグラフィ的に符号化するステップと、
前記電子看板上に前記符号化された画像データを提示するステップと、を含む方法。
【請求項33】
前記電子看板上に前記符号化された画像データを提示した後、第2の観察者に関連するコンテキストデータを入手するステップと、
前記第2のコンテキストデータを考慮する第2のデジタルウォータマーク信号を定義するステップであって、前記第2のデジタルウォータマーク信号は前記第1のデジタルウォータマーク信号と異なる、定義するステップと、
前記第2のデジタルウォータマーク信号に従って前記同じ第1の画像データをステガノグラフィ的に符号化するステップと、
前記電子看板上に前記第2のデジタルウォータマーク信号に従って符号化された前記第1の画像データを提示するステップと、を含み、
前記同じ第1の画像データは、両方の観察者に提示されるが、異なるコンテキストデータに従って異なるウォータマーク信号を用いてステガノグラフィ的に符号化される請求項32に記載の方法。
【請求項34】
電子看板が、複数の観察者によって視認されるコンテンツを提示する方法であって、
第1の観察者によって運ばれる第1のカメラ装備デバイスを使用して、前記提示されたコンテンツを視認し、前記提示されたコンテンツに対応する第1の画像データを取込むステップと、
前記取込まれた第1の画像データを参照することによって、第1の識別データを確定するステップと、
第2の観察者によって運ばれる第2のカメラ装備デバイスを使用して、前記同じ提示されたコンテンツを視認し、前記同じ提示されたコンテンツに対応する第2の画像データを取込むステップであって、前記第2の画像データは、前記第1の観察者と第2の観察者との視点が異なるために前記第1の画像データと異なる、視認し取込むステップと、
前記取込まれた第2の画像データを参照することによって、第2の識別データを確定するステップと、
前記第1のデバイスまたは前記第1の観察者に固有の情報と共に、前記第1の識別データを参照することによって、前記第1のデバイスに対して第1の応答を提供するステップと、
前記第2のデバイスまたは前記第2の観察者に固有の情報と共に、前記第2の識別データを参照することによって、前記第2のデバイスに対して第2の異なる応答を提供するステップとを含み、
前記第1および第2のデバイスは、前記電子看板上に提示される同じコンテンツの視認に対して異なる応答を提供する方法。
【請求項35】
前記取込まれた第1の画像データが前記取込まれた第2の画像データと異なるにもかかわらず、前記第2の識別データは、前記第1の識別データと同じである請求項34に記載の方法。
【請求項36】
第1の観察者によって視認される電子看板に関与する方法であって、
前記観察者によって運ばれるカメラ装備デバイスを使用して、前記電子看板に対応する画像データを取込むステップと、
前記取込まれた画像データを参照することによって、複数の電子看板のうちのどの電子看板が前記第1の観察者によって観察されているかを判定するステップと、
前記判定に少なくとも部分的に基づいて、前記デバイスと前記電子看板との間でデータを交換するステップとを含む方法。
【請求項37】
前記交換するステップは、前記デバイスからデータを送信することを含む請求項36に記載の方法。
【請求項38】
前記送信されるデータは、前記カメラに少なくとも部分的に依存する請求項37に記載の方法。
【請求項39】
前記送信されるデータは、前記デバイスの動きに関するデータを含む請求項37に記載の方法。
【請求項40】
前記デバイス内の1つまたは複数の加速度計の使用によって動きデータを生成するステップを含む請求項39に記載の方法。
【請求項41】
前記カメラによって取込まれる画像データのいくつかのフレームにわたって1つまたは複数のビジュアル特徴を追跡することによって動きデータを生成するステップを含む請求項39に記載の方法。
【請求項42】
前記交換するステップは、前記デバイスからデータを送信し、前記電子看板において前記データの少なくとも一部を受信することを含む請求項36に記載の方法。
【請求項43】
前記判定するステップは、取込まれた画像データからロバストな局所画像記述子を見定め、そこから得られるデータを参照データと一致させることを含む請求項36に記載の方法。
【請求項44】
前記デバイスの場所に関するデータを参照することによって、前記観察者が視認しているかもしれない一組の考えられる電子看板を制限するステップを含む請求項36に記載の方法。
【請求項45】
前記判定するステップは、ステガノグラフィ的に符号化されたデータを前記取込まれた画像データから抽出するために、前記取込まれた画像データに対してデジタルウォータマーク復号アルゴリズムを適用することを含む請求項36に記載の方法。
【請求項46】
視認場所に基づいて、電子看板の観察者に対してコンテキスト的にターゲッティングされる応答を提供する方法であって、
第1の観察者に関連する第1のコンテキストデータおよび第2の観察者に関連する第2のコンテキストデータを入手するステップと、
前記第1のコンテキストデータに関連する第1の応答データおよび前記第2のコンテキストデータに関連する第2の応答データを確定すること、
第1の観察者に関連する第1の場所データおよび第2の観察者に関連する第2の場所データを入手するステップと、
観察者のデバイスから画像データを受信するステップと、
前記受信された画像データを処理するステップであって、それにより、前記受信された画像データが取込まれた場所を推定する、処理するステップと、
前記推定された場所が前記第1の場所である場合、前記デバイスに前記第1の応答データを返すステップと、を含む方法。
【請求項47】
観察者アクションによって定義されるコンテキストデータを入手するステップを含む請求項46に記載の方法。
【請求項48】
画像データからコンテキストデータを推定することによって、前記コンテキストデータを入手するステップを含む請求項46に記載の方法。
【請求項49】
前記推定された場所が前記第2の場所である場合、前記デバイスに前記第2の応答データを返すステップを含む請求項46に記載の方法。
【請求項50】
第1の観察者によって視認される電子看板システムに関与する方法であって、
前記観察者によって運ばれるカメラ装備デバイスと前記電子看板システムとの間の関連性を確立するステップと、
前記デバイスからデータを受信するステップであって、前記受信されるデータは前記カメラによって取込まれる画像データに少なくとも部分的に依存する、受信するステップと、
前記受信されるデータに少なくとも部分的に基づいて、前記電子看板システムの動作を制御するステップと、を含む方法。
【請求項51】
前記電子看板上で複数のゲームアイテムの描写を提示するステップと、
前記観察者が、前記スクリーン上に提示される前記ゲームアイテム描写の特定の1つを、前記カメラデバイスを使用して視認し選択したことを示すデータを、前記デバイスから受信するステップと、を含む請求項50に記載の方法。
【請求項52】
前記電子看板上でゲームプレイの描写を提示するステップを含み、前記ゲームプレイは、前記特定のゲームアイテムの前記観察者の選択を反映する請求項51に記載の方法。
【請求項53】
前記描写されるゲームアイテムは、パズルピースを含み、方法は、パズルピースが置かれる位置および方向を示す信号を前記デバイスから受信するステップを含み、前記信号は、前記カメラによって取込まれる画像データに少なくとも部分的に依存する請求項51に記載の方法。
【請求項54】
前記電子看板はまた、第2の観察者によって視認され、方法は、
前記第2の観察者によって運ばれるカメラ装備の第2のデバイスと前記電子看板との間論理的関連性を確立するステップと、
前記第2のデバイスからデータを受信するステップであって、前記受信されるデータは前記第2のデバイスによって取込まれる画像データに少なくとも部分的に依存し、前記受信されるデータは、前記第2の観察者が、前記描写されたパズルピースの特定の異なる1つを、前記第2のデバイスの前記カメラを使用して視認し選択したことを示す、受信するステップと、
前記描写されるパズルピースの前記異なる1つのパズルピースが置かれる位置および方向を示す信号を前記第2のデバイスから受信するステップと、を含み、
前記信号は、前記第2のデバイスのカメラによって取込まれる画像データに少なくとも部分的に依存する請求項53に記載の方法。
【請求項55】
前記ゲームアイテム描写の前記特定の1つの選択は、特徴認識の使用によって進められる請求項51に記載の方法。
【請求項56】
前記特徴認識は、デジタルウォータマークベースの識別を含む請求項55に記載の方法。
【請求項57】
前記特徴認識は、バーコードベースの識別を含む請求項55に記載の方法。
【請求項58】
前記特徴認識は、指紋に基づく識別を含む請求項55に記載の方法。
【請求項59】
電子看板が、複数の観察者によって視認されるコンテンツを提示する方法であって、
第1の観察者によって運ばれる第1のカメラ装備デバイスの使用によって、提示されるコンテンツを視認し、前記提示されるコンテンツに対応する第1の画像データを取込むステップと、
第1の識別データを生成するために、前記第1の画像データを処理するステップと、
第2の観察者によって運ばれる第2のカメラ装備デバイスの使用によって、同じ提示されるコンテンツを視認し、前記同じ提示されるコンテンツに対応する第2の画像データを取込むステップであって、前記第2の画像データは、前記第1の観察者と第2の観察者との視点が異なるために前記第1の画像データと異なる、視認し取込むステップと、
第2の識別データを生成するために、前記第2の画像データを処理するステップと、
前記電子看板に関連するセンサを使用して、前記第1および第2の観察者を描写する第3の画像データを取込むステップと、
前記第1および第2の観察者に関連するコンテキストデータを推定するために、前記第3の画像データを処理するステップと、
前記推定されたコンテキストデータを参照することによって、前記第1の観察者についての第1の応答データおよび前記第2の観察者についての第2の異なる応答データを確定するステップと、
前記第1の観察者に対応する第1の場所情報および前記第2の観察者に対応する第2の場所情報を生成するために、前記第3の画像データもまた処理するステップと、
第1または第2の識別データを受信するステップと、
前記生成される場所情報を参照することによって、前記受信された識別データが、前記第1のデバイスによって取込まれる画像データに基づくか、または、前記第2のデバイスによって取込まれる画像データに基づくかを判定するステップと、
前記受信された識別データが前記第1のデバイスによって取込まれた画像データに基づいていたと判定される場合、前記第1の応答データを用いて前記受信された識別データに応答するステップと、
前記受信された識別データが前記第2のデバイスによって取込まれる画像データに基づいていたと判定される場合、前記第2の応答データを用いて前記受信された識別データに応答するステップとを含み、
方法は、前記識別データがどの観察者から受信されたかを推論し、その観察者に対応するコンテキスト的に確定された応答データを用いて応答する方法。
【請求項60】
電子看板システムがユーザにコンテンツを提示する方法であって、
前記ユーザによって運ばれる第1のセンサ装備デバイスの使用によって、前記電子看板システムからコンテンツデータを取込むステップと、
タイムベースを参照することによって、前記取込まれたコンテンツデータ内に符号化されたデジタルウォータマークデータの複数の時間的部分のうちのどの部分が、コンテキスト的に前記ユーザに対応するかを判定するステップと、
前記判定に従ってデジタルウォータマークデータを復号するステップと、
前記デジタルウォータマークデータの判定された時間的部分に基づいてアクションを起こすステップと、を含む方法。
【請求項61】
方法であって、
歪んでいない態様を有する入力画像データを受信するステップと、
ステガノグラフィ的デジタルウォータマークパターンに従って前記入力画像データを符号化するステップと、
ディスプレイスクリーン上で前記符号化された画像データを提示するステップと、を含み、
前記ステガノグラフィ的デジタルウォータマークパターンは、前記入力画像データに対して歪んだ態様を有する方法。
【請求項62】
方法であって、
第1のシステムに関連するカメラを使用してイメージリーを取込むステップと、
前記取込まれたイメージリー内の特徴を検出するステップと、
前記検出された特徴に関連する拡張現実グラフィカルデータを、第2のシステムに対して識別するステップであって、前記第2のシステムは前記第1のシステムと異なる識別するステップと、を含む方法。
【請求項63】
前記第1のシステムは電子看板システムを備え、前記第2のシステムはユーザの携帯電話を備える請求項62に記載の方法。
【請求項64】
前記第2のシステム上で拡張現実グラフィカルデータを提示するステップをさらに含み、前記提示されるデータは、前記第2のシステムのユーザの1つまたは複数の人口統計属性に従って調節される請求項62に記載の方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8A】
【図8B】
【図9】
【図10】
【図11】
【図12】
【図13A】
【図13B】
【図14】
【図15】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8A】
【図8B】
【図9】
【図10】
【図11】
【図12】
【図13A】
【図13B】
【図14】
【図15】
【公表番号】特表2012−520018(P2012−520018A)
【公表日】平成24年8月30日(2012.8.30)
【国際特許分類】
【出願番号】特願2011−553088(P2011−553088)
【出願日】平成22年3月3日(2010.3.3)
【国際出願番号】PCT/US2010/026096
【国際公開番号】WO2010/102040
【国際公開日】平成22年9月10日(2010.9.10)
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.着メロ
2.GSM
3.ZIGBEE
4.イーサネット
5.JAVA
6.Blackberry
7.ANDROID
【出願人】(310021973)ディジマーク コーポレイション (13)
【Fターム(参考)】
【公表日】平成24年8月30日(2012.8.30)
【国際特許分類】
【出願日】平成22年3月3日(2010.3.3)
【国際出願番号】PCT/US2010/026096
【国際公開番号】WO2010/102040
【国際公開日】平成22年9月10日(2010.9.10)
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.着メロ
2.GSM
3.ZIGBEE
4.イーサネット
5.JAVA
6.Blackberry
7.ANDROID
【出願人】(310021973)ディジマーク コーポレイション (13)
【Fターム(参考)】
[ Back to top ]