映像情報提示装置
【課題】通行人の注目度をより向上させる。
【解決手段】通行人の移動経路上に撮影装置100とディスプレイ装置200とを設け、通行人の画像をリアルタイム映像V1として撮影する。動体認識部350によりリアルタイム映像V1内の通行人部分を動体領域Aとして認識し、動体画像切出部340により通行人部分である動体画像Mを切り出す。CG映像作成部320は、材料データ格納部330内に用意された背景画像Bkに動体画像Mを合成した初期画像を含むCG映像V2を作成する。映像切替部310は、動体認識がなされた時点で、ディスプレイ装置200に供給する映像を、リアルタイム映像V1からCG映像V2へ切り替える。通行人が、ディスプレイ画面上の自分自身が写ったリアルタイム映像V1に注目すると、やがてCG映像V2へと連続的な移行が行われる。
【解決手段】通行人の移動経路上に撮影装置100とディスプレイ装置200とを設け、通行人の画像をリアルタイム映像V1として撮影する。動体認識部350によりリアルタイム映像V1内の通行人部分を動体領域Aとして認識し、動体画像切出部340により通行人部分である動体画像Mを切り出す。CG映像作成部320は、材料データ格納部330内に用意された背景画像Bkに動体画像Mを合成した初期画像を含むCG映像V2を作成する。映像切替部310は、動体認識がなされた時点で、ディスプレイ装置200に供給する映像を、リアルタイム映像V1からCG映像V2へ切り替える。通行人が、ディスプレイ画面上の自分自身が写ったリアルタイム映像V1に注目すると、やがてCG映像V2へと連続的な移行が行われる。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、通行人に対して映像情報を提示する映像情報提示装置に関し、特に、不特定多数の者が往来する街頭や公共施設などに設置して、広告その他の情報をディスプレイ画面上で提示する装置に関する。
【背景技術】
【0002】
不特定多数の者が往来する街頭や、駅、空港、ホテル、ショッピングモール、映画館などの公共施設において、通行人に対して広告その他の情報をディスプレイ画面上で提示する映像情報提示装置は古くから利用されている。近年は、デジタル映像を作成し、これを配信する技術が向上したため、コンピュータを利用した様々なデジタル技術を活用して情報提示を行うデジタルサイネージと呼ばれる広告媒体も普及している。
【0003】
たとえば、下記の特許文献1には、ディスプレイ画面上に表示する映像の視野角を制御することにより、観察位置に応じて異なる映像を提示する技術が開示されている。また、特許文献2には、テレビ放送を街頭で提示する際に、時間帯ごとに放送局を切り替え、当該切替時に広告を挿入することにより、広告への誘因頻度を高める技術が開示されている。更に、特許文献3には、利用者自身が入力した文字情報を、街頭に設置したディスプレイ画面上に表示させることにより、注目度を高める技術が開示されており、特許文献4には、ディスプレイ画面上に提示した質問に対する回答を利用者の端末装置経由で収集し、回答の集計結果に基づく広告をディスプレイ画面上に表示することにより、利用者の需要に適合した広告を提示する技術が開示されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開平6−230735号公報
【特許文献2】特開2002−251566号公報
【特許文献3】特開2003−15567号公報
【特許文献4】特開2003−22346号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
不特定多数の者が往来する街頭や公共施設などに映像情報提示装置を設置する目的は、当然ながら、広告その他の提示対象情報を通行人に伝達することにある。街頭に設置された大型ディスプレイ装置を用いた広告提示や、通信技術やCG技術を利用したデジタルサイネージは、当初は物珍しさから注目度も高かったが、最近は様々な場所で頻繁に見かけるようになってきており、今後は陳腐化の一途を辿ることは避けられない。このため、前掲の各特許文献に開示されているような技術を導入することにより、通行人の注目度を高める工夫がなされているが、通行人の注意を引きつける効果がそれほど向上していないのが現状である。特に、商業的な広告情報の提示を行う場合、投資に見合う十分な費用対効果が得られないことは大きな問題になる。
【0006】
そこで本発明は、通行人の注目度をより向上させることが可能な映像情報提示装置を提供することを目的とする。
【課題を解決するための手段】
【0007】
(1) 本発明の第1の態様は、通行人に対して映像情報を提示する映像情報提示装置において、
通行人の移動経路もしくは立寄場所に設置されたディスプレイ装置と、
ディスプレイ装置の表示画面を観察中の通行人を撮影するのに適した位置に設置された撮影装置と、
ディスプレイ装置を制御する制御装置と、
を設け、
制御装置には、
撮影装置によって撮影されたリアルタイム映像に基づいて動体認識を行い、動体が占める動体領域を決定する動体認識部と、
撮影装置によって撮影されたリアルタイム映像における動体領域内の画像を動体画像として切り出す動体画像切出部と、
所定のコンピュータプログラムに基づいてCG映像を作成し、これを提供するCG映像作成部と、
CG映像作成部による映像作成の材料となる材料データを格納した材料データ格納部と、
撮影装置によって撮影されたリアルタイム映像と、CG映像作成部から提供されたCG映像と、のいずれか一方を選択してディスプレイ装置に与え、ディスプレイ装置の画面上に、選択された映像を表示させる映像切替部と、
映像切替部がリアルタイム映像を選択中に、動体認識部によって認識された動体領域が所定条件を満たしたときに、映像切替部およびCG映像作成部に対してCG切替信号を出力する切替指示部と、
を設け、
映像切替部は、初期状態ではリアルタイム映像を選択し、CG切替信号が与えられた時点で選択対象をCG映像に切り替え、選択されたCG映像が終了した時点で再び選択対象をリアルタイム映像に切り替える処理を行い、
材料データ格納部には、少なくとも撮影装置の撮影視野に写る背景画像が材料データとして格納されており、
CG映像作成部は、CG切替信号が与えられたときに、動体画像切出部によって所定の切出位置から切り出された動体画像を背景画像上の上記切出位置に配置することにより得られる合成画像を初期画像とする動画からなるCG映像を作成し、これを映像切替部に与えるようにしたものである。
【0008】
(2) 本発明の第2の態様は、上述の第1の態様に係る映像情報提示装置において、
切替指示部が、映像切替部がリアルタイム映像を選択中において、動体領域の占有面積が所定のしきい値を超えた時点、もしくは当該時点から所定の遅延時間だけ経過した時点で、CG切替信号を出力するようにしたものである。
【0009】
(3) 本発明の第3の態様は、上述の第1の態様に係る映像情報提示装置において、
切替指示部が、映像切替部がリアルタイム映像を選択中において、動体領域の占有面積が所定のしきい値を超えた状態が所定期間にわたって継続した時点、もしくは当該時点から所定の遅延時間だけ経過した時点で、CG切替信号を出力するようにしたものである。
【0010】
(4) 本発明の第4の態様は、上述の第1の態様に係る映像情報提示装置において、
切替指示部が、映像切替部がリアルタイム映像を選択中において、動体領域の重心点が、所定の検出領域内に検出された時点、もしくは当該時点から所定の遅延時間だけ経過した時点で、CG切替信号を出力するようにしたものである。
【0011】
(5) 本発明の第5の態様は、上述の第1の態様に係る映像情報提示装置において、
切替指示部が、映像切替部がリアルタイム映像を選択中において、動体領域の重心点が、所定の検出領域内に位置する状態が所定期間にわたって継続した時点、もしくは当該時点から所定の遅延時間だけ経過した時点で、CG切替信号を出力するようにしたものである。
【0012】
(6) 本発明の第6の態様は、上述の第1〜第5の態様に係る映像情報提示装置において、
CG映像作成部が、作成したCG映像の提供が終了した時点で、映像切替部に対してCG映像終了信号を送信し、
映像切替部が、CG映像終了信号を受けた時点で選択対象をリアルタイム映像に切り替える処理を行うとともに、切替指示部に対してCG映像終了信号を送信し、
切替指示部が、CG映像終了信号の受信により、映像切替部が選択対象をリアルタイム映像に切り替えたことを認識するようにしたものである。
【0013】
(7) 本発明の第7の態様は、上述の第1〜第5の態様に係る映像情報提示装置において、
CG映像作成部が、作成したCG映像の提供が終了した時点で、映像切替部および切替指示部に対してCG映像終了信号を送信し、
映像切替部が、CG映像終了信号を受けた時点で選択対象をリアルタイム映像に切り替える処理を行い、
切替指示部が、CG映像終了信号の受信により、映像切替部が選択対象をリアルタイム映像に切り替えたことを認識するようにしたものである。
【0014】
(8) 本発明の第8の態様は、上述の第1〜第7の態様に係る映像情報提示装置において、
動体認識部が、リアルタイム映像を構成する1コマ1コマの静止画像を構成する個々の画素について、過去の所定サンプル期間内の平均画素値を演算する機能を有し、現時点で得られた現静止画像を構成する個々の画素について、当該画素の現時点の画素値と平均画素値との差を求め、求めた差が所定の基準を超える画素の集合からなる領域を、当該現静止画像についての動体領域と決定するようにしたものである。
【0015】
(9) 本発明の第9の態様は、上述の第1〜第8の態様に係る映像情報提示装置において、
CG映像作成部が、初期画像に含まれていた動体画像が、その同じ位置において別な提示対象物に置き換えられる動画を作成するようにしたものである。
【0016】
(10) 本発明の第10の態様は、上述の第9の態様に係る映像情報提示装置において、
CG映像作成部が、初期画像と同一の背景画像上において、動体画像をフェードアウトし、提示対象物をフェードインすることにより、動体画像から提示対象物への置換が行われる動画を作成するようにしたものである。
【0017】
(11) 本発明の第11の態様は、上述の第9の態様に係る映像情報提示装置において、
CG映像作成部が、初期画像と同一の背景画像上において、動体画像から提示対象物へのモーフィング処理を行うことにより、動体画像から提示対象物への置換が行われる動画を作成するようにしたものである。
【0018】
(12) 本発明の第12の態様は、上述の第1〜第11の態様に係る映像情報提示装置において、
CG映像格納部が、初期画像に含まれていた背景画像が時間的に変化する動画を作成するようにしたものである。
【0019】
(13) 本発明の第13の態様は、上述の第1〜第12の態様に係る映像情報提示装置において、
CG映像作成部が、現時点で得られている、もしくは過去に得られた動体画像の大きさ、形状、姿勢もしくは色彩に関する特徴を抽出し、抽出した特徴に関連した特徴をもった提示対象物が含まれる動画を作成するようにしたものである。
【0020】
(14) 本発明の第14の態様は、上述の第1〜第13の態様に係る映像情報提示装置において、
制御装置が、撮影装置によって撮影されたリアルタイム映像に基づいて、撮影装置の撮影視野に写る背景画像を生成し、生成した背景画像を材料データ格納部に材料データとして格納する処理を行う背景画像生成部を更に有するようにしたものである。
【0021】
(15) 本発明の第15の態様は、上述の第14の態様に係る映像情報提示装置において、
背景画像生成部が、動体認識部によって動体が認識されていない時点におけるリアルタイム映像を背景画像として取り込み、これを材料データ格納部に格納する処理を行うようにしたものである。
【0022】
(16) 本発明の第16の態様は、上述の第14の態様に係る映像情報提示装置において、
背景画像生成部が、リアルタイム映像を構成する1コマ1コマの静止画像を構成する個々の画素について、過去の所定サンプル期間内の平均画素値を演算する機能を有し、当該平均画素値をもった画素の集合からなる静止画像を、背景画像として、材料データ格納部に格納する処理を行うようにしたものである。
【0023】
(17) 本発明の第17の態様は、上述の第1〜16の態様に係る映像情報提示装置における制御装置を、コンピュータにプログラムを組み込むことによって構成するようにしたものである。
【0024】
(18) 本発明の第18の態様は、
通行人の移動経路もしくは立寄場所に設置されたディスプレイ装置と、
ディスプレイ装置の表示画面を観察中の通行人を撮影するのに適した位置に設置された撮影装置と、
ディスプレイ装置を制御する制御装置と、
を用いて、通行人に対して映像情報を提示する映像情報提示方法において、
制御装置が、
撮影装置によって撮影されたリアルタイム映像をディスプレイ装置に与えて、ディスプレイ装置の画面上に表示する処理を開始するリアルタイム映像表示開始段階と、
リアルタイム映像の表示が行われているときに、リアルタイム映像に基づいて動体認識を行う動体認識段階と、
動体認識段階で動体が認識されたときに、映像上で認識された動体が占める動体領域が所定条件を満足するか否かを判定する条件判定段階と、
条件判定段階で条件満足との判定がなされたときに、CG映像を作成し、リアルタイム映像の代わりに、作成したCG映像をディスプレイ装置に与えて、ディスプレイ装置の画面上に表示するCG映像作成表示段階と、
を実行し、CG映像作成表示段階が終了したときに、再びリアルタイム映像表示開始段階へと戻る処理を行い、
CG映像作成表示段階において、リアルタイム映像内の動体画像を撮影装置の撮影視野に写る背景画像上に配置することにより得られる合成画像を初期画像とするCG映像を作成し、これを表示するようにしたものである。
【発明の効果】
【0025】
本発明に係る映像情報提示装置では、通行人自身の映像がリアルタイム映像として撮影されるとともに、CG映像(本来の提示対象映像、たとえば、広告映像)の作成も行われる。そして、ディスプレイ装置の画面上には、リアルタイム映像とCG映像とが切り替えられて表示される。このため、ディスプレイ画面上に自分自身が登場しているリアルタイム映像を認識した通行人は、必然的に当該映像に注意を向けることになる。やがて、リアルタイム映像はCG映像(本来の提示対象映像)に切り替えられるので、通行人の注意が向いた状態で提示対象映像の提示が行われることになり、通行人の注目度をより向上させることができる。
【0026】
リアルタイム映像からCG映像への切り替えは、通行人が写っているリアルタイム映像に対する動体認識処理の結果に基づいて行われるため、通行人がディスプレイ装置の画面に注意を向けるであろうと予想される効果的なタイミングで、CG映像(本来の提示対象映像)の提示を行うことができる。特に、動体領域の占有面積が所定のしきい値を超えた時点をトリガーとする切り替えや、動体領域の重心点が、所定の検出領域内に検出された時点をトリガーとする切り替えを行うと、通行人が映像閲覧に適した位置にきたタイミングで、CG映像への切り替えが可能になる。
【0027】
しかも、CG映像の初期画像は、リアルタイム映像から認識された動体画像を背景画像上に合成した画像であり、リアルタイム映像に非常に近い画像になる。このため、リアルタイム映像からCG映像への切り替えが行われた後も、通行人は、しばらくの間は、リアルタイム映像がそのまま継続して表示されているものと錯覚することになる。したがって、CG映像として提示される内容を、現実世界の出来事の延長線上の出来事として印象づけることができ、極めて臨場感をもった映像提示が可能になり、通行人の注目度をより向上させることができるようになる。
【0028】
特に、広告の対象物など、通行人に対してアピールしたい何らかの提示対象物(たとえば、広告対象となる商品)が存在する場合、CG映像の初期画像に含まれていた動体画像(通行人の画像)が、その同じ位置において当該提示対象物に置き換えられるCG映像を作成するようにすれば、通行人には、自分自身が広告対象商品などの対象物に置き換わる動画を提示することできるので、当該対象物に対して強烈な印象を与えることが可能になる。
【0029】
また、CG映像として、初期画像に含まれていた背景画像が時間的に変化する動画を提示すれば、通行人に対して、現実世界にいる臨場感を与えながら、その背景が変化するという仮想世界の体験を与えることができるようになり、強烈な印象を与えることが可能になる。
【0030】
更に、リアルタイム映像から通行人の大きさ、形状、姿勢もしくは色彩に関する特徴を抽出し、抽出した特徴と関連した特徴をもった提示対象物が含まれるCG映像を作成すれば、リアルタイム映像として撮影された現実世界と、CG映像として提示される仮想世界とが、当該特徴を介して関連性をもつことになるので、通行人の関心を更に高めることができる。
【図面の簡単な説明】
【0031】
【図1】本発明の基本的実施形態に係る映像情報提示装置の構成を示すブロック図である。
【図2】図1に示す映像情報提示装置の撮影装置100とディスプレイ装置200との具体的な位置関係を示す正面図である。
【図3】図2に示す撮影装置100およびディスプレイ装置200の具体的な設置状態を示す上面図である。
【図4】図1に示す映像情報提示装置の撮影装置100によって撮影されたリアルタイム映像V1の一例を示す平面図である。
【図5】図1に示す映像情報提示装置の動体認識部350によって認識された動体領域A(ハッチング部分)を示す平面図である。
【図6】図1に示す映像情報提示装置の材料データ格納部330内に用意されている背景画像Bkを示す平面図である。
【図7】図1に示す映像情報提示装置の動体画像切出部340によって切り出された動体画像M(人物の部分)を示す平面図である。
【図8】図1に示す映像情報提示装置の映像切替部310による切替直前におけるリアルタイム映像V1、切替直後におけるCG映像V2、およびCG映像V2の構成内容を示す平面図である。
【図9】図1に示す映像情報提示装置の映像切替部310の切替動作および切替指示部360の指示動作の例を示すタイミングチャートである。
【図10】図5に示す動体領域Aについての重心Gを示す平面図である。
【図11】図1に示す映像情報提示装置の撮影装置100の撮影視野V内に設定された検出領域Z(ハッチング部分)を示す平面図である。
【図12】図1に示す映像情報提示装置において提示されるCG映像の第1の例を示す平面図である。
【図13】図1に示す映像情報提示装置において提示されるCG映像の第2の例を示す平面図である。
【図14】図1に示す映像情報提示装置において提示されるCG映像の第3の例を示す平面図である。
【図15】図1に示す映像情報提示装置において提示されるCG映像の第4の例を示す平面図である。
【図16】図1に示す映像情報提示装置において提示されるCG映像の第5の例を示す平面図である。
【図17】図1に示す映像情報提示装置において提示されるCG映像の第6の例を示す平面図である。
【図18】図1に示す映像情報提示装置の動体認識部350によって認識された動体領域A(ハッチング部分)の別な例(通行人が姿勢を変えた例)を示す平面図である。
【図19】図18に示す動体領域A(ハッチング部分)に基づいて認識した通行人の姿勢に関する特徴に関連した特徴をもった提示対象物(ボトル)が含まれるCG映像V2の一例を示す平面図である。
【図20】通行人の色彩に関する特徴と提示対象物(ボトル)の色彩に関する特徴との関連性の一例を示す平面図である。
【図21】本発明の変形例に係る映像情報提示装置の構成を示すブロック図である。
【図22】本発明に係る映像情報提示方法の手順を示す流れ図である。
【発明を実施するための形態】
【0032】
以下、本発明を図示する実施形態に基づいて説明する。
【0033】
<<< §1.基本的実施形態の構成および動作 >>>
図1は、本発明の基本的実施形態に係る映像情報提示装置の基本構成を示すブロック図である。図示のとおり、この装置は、撮影装置100、ディスプレイ装置200、制御装置300によって構成され、通行人に対して映像情報を提示する機能を果たす。
【0034】
ここで、ディスプレイ装置200は、通行人の移動経路もしくは立寄場所に設置され、撮影装置100は、このディスプレイ装置200の表示画面を観察中の通行人を撮影するのに適した位置に設置される。図2は、この映像情報提示装置の撮影装置100とディスプレイ装置200との具体的な位置関係を示す正面図である。ディスプレイ装置200は、不特定多数の者が往来する街頭や、駅、空港、ホテル、ショッピングモール、映画館など、様々な場所に設置することが可能である。図には、このディスプレイ装置200の正面を通行しながら、その表示画面を観察している通行人Pが描かれている。撮影装置100は、このように、ディスプレイ装置200の表示画面を観察中の通行人Pを撮影するのに適した位置に設置される。図示の例の場合、ディスプレイ装置200の上部中央に撮影装置100が取り付けられている。
【0035】
撮影装置100は、通行人を撮影して動画からなる映像信号を生成する機能をもった装置であれば、どのような装置を用いてもかまわない。一般的には、動画を撮影して映像データを生成する機能をもったデジタルビデオカメラを用いるのが好ましいが、アナログ式のビデオカメラを用いてもかまわない(この場合、後述する動体認識処理などを行う際には、アナログ映像信号をデジタル映像データに変換する処理が必要になる)。一方、ディスプレイ装置200は、後に詳述する制御装置300から提供される映像信号に基づいて画面上に映像を提示する機能をもった装置であれば、どのような装置を用いてもかまわない。図には、比較的大型の平面型ディスプレイを用いた例が示されているが、提示対象となる映像の内容、提示目的、設置場所などに応じて、任意のサイズの任意の方式のディスプレイ装置を用いることができる。
【0036】
図3は、図2に示す撮影装置100およびディスプレイ装置200の具体的な設置状態を示す上面図である。ここでは、説明の便宜上、撮影装置100およびディスプレイ装置200が、ホテル内の通路に設置されている例を示すことにする。図示のとおり、この通路は、壁10,20によって仕切られており、通行人Pは通路の床30上を歩行することになる。壁10には、壁掛け式のディスプレイ装置200が取り付けられており、その上部中央には撮影装置100が取り付けられている。図の一点鎖線は、この撮影装置100の撮影視野を示しており、壁20を背景として通行人Pが撮影視野内に入っている。
【0037】
図4は、図3に示す撮影視野内の映像を示す平面図である。ここでは、説明の便宜上、壁20には、額絵41,42および照明器具43が取り付けられており、壁20の近傍には、飾り壺50が置かれているものとする。撮影視野内の映像には、これらの物品を含め、壁20および床30を背景として、通行人Pが写っている。当該映像は、撮影装置100によってリアルタイムで撮影された映像であるため、以下、「リアルタイム映像V1」と呼ぶことにする。ここに示す実施形態の場合、撮影装置100としてデジタルビデオカメラを用いており、リアルタイム映像V1は、このデジタルビデオカメラによって撮影された現時点の映像ということになる。
【0038】
続いて、制御装置300の構成および動作を説明する。制御装置300は、図1に一点鎖線で囲った領域内に描かれている各構成要素310〜360を有しており、ディスプレイ装置200を制御する機能を果たす。具体的には、図示のとおり、制御装置300には、映像切替部310、CG映像作成部320、材料データ格納部330、動体画像切出部340、動体認識部350、切替指示部360が設けられている。以下、これらの各構成要素を順に説明する。
【0039】
まず、動体認識部350は、撮影装置100によって撮影されたリアルタイム映像V1に基づいて動体認識を行い、動体が占める動体領域Aを決定する処理を行う構成要素である。図示のとおり、撮影装置100によって得られたリアルタイム映像V1は、動体認識部350へと与えられる。リアルタイム映像V1は、1コマ1コマの静止画像(フレーム)を時系列上に並べることによって構成されており、動体認識部350は、これら時系列上の静止画像を解析し、動体が存在すると予想される動体領域Aを認識する処理を行う。
【0040】
図5は、このような動体認識処理によって認識された動体領域A(ハッチング部分)を示す平面図である。この例の場合、図4に示す通行人Pの部分が動体領域Aとして認識されている。これは、図4に示す壁20,床30,額絵41,42,照明器具43,飾り壷50などが静止しているのに対して、通行人Pが動いているため、通行人Pの部分を動体として認識したためである。
【0041】
このような動体認識のアルゴリズムとしては、たとえば、リアルタイム映像V1を構成する1コマ1コマの静止画像を構成する個々の画素について、過去の所定サンプル期間内の平均画素値を演算し、現時点で得られた現静止画像を構成する個々の画素について、当該画素の現時点の画素値と前記平均画素値との差を求め、求めた差が所定の基準を超える画素の集合からなる領域を、当該現静止画像についての動体領域と決定する、という手法が利用されている。
【0042】
具体的には、図4に示す映像V1の場合、たとえば、額絵41の位置にある各画素については、所定サンプル期間を適当に決めてやれば、現時点の画素値と過去の所定サンプル期間内の平均画素値との差は、ほとんど零であろう。これに対して、通行人Pの位置にある各画素については、通行人Pが現れてからの画素値と過去の所定サンプル期間内の平均画素値との差は、かなり大きくなる。したがって、当該差が所定の基準を超える画素の集合からなる領域を、動体領域Aとして抽出すれば、図5に示す例のように、通行人Pの部分が動体領域Aとして抽出できる。
【0043】
なお、カラー画像の場合、三原色についての三次元色空間内に、個々の画素値(三原色を示す3つの画素値)に対応する座標点をプロットし、2つの座標点間のユークリッド距離を、両画素値の差と定義するような手法を採ればよい。
【0044】
所定サンプル期間としては、たとえば、過去10時間というような設定を行うこともできるし、過去1ヶ月間というような長期設定を行うこともできる。サンプル期間内の平均画素値をもった画素によって構成される画像は、結局、図6に示すような背景画像Bkに対応する画像になる。背景が不変であるという前提であれば、サンプル期間を長く設定すればするほど、得られる背景画像Bkの精度は高くなる。したがって、図示の例のように、室内であって、その照明環境が24時間不変であるような場合には、サンプル期間はできるだけ長く設定した方がよい。逆に、屋外の場合、あるいは室内であっても照明環境が変化するような場合には、あまり長いサンプル期間を設定すると、かえって得られる背景画像Bkの精度は低下してしまう。このような場合は、たとえば、過去30分間というようなサンプル期間を設定するのが望ましい。
【0045】
このように、一般的な動体認識処理は、時系列的に連続する多数の静止画像の各画素の画素値の変動を調べ、過去のサンプル期間内の平均画素値に対する画素値の変動が所定の許容範囲内である画素は背景領域の画素と判断し、画素値の変動が許容範囲を超える画素は動体領域の画素と判断する、という基本原理に基づくものである。このような動体認識の具体的方法は、様々な分野で実用化されている公知の技術であるため、ここでは詳しい説明は省略する。
【0046】
図1に示す制御装置300において、動体認識部350によって動体領域Aが認識されると、当該動体領域Aを示す情報は、動体画像切出部340および切替指示部360に与えられる。もちろん、撮影装置100によって撮影されたリアルタイム映像V1が、図6に示すような背景画像Bkであった場合(すなわち、通行人Pが誰もいない場合)、動体領域Aの認識は行われない。
【0047】
動体画像切出部340は、動体認識部350によって認識された動体領域Aを利用して、撮影装置100によって撮影されたリアルタイム映像V1における動体領域A内の画像を動体画像Mとして切り出す処理を行う。たとえば、図5に示すような動体領域A(ハッチング部分)が認識された場合、図4に示すリアルタイム映像V1から、動体領域Aに対応する部分を切り出し、図7に示すような動体画像Mを生成する処理が行われる。なお、ここに示す実施形態の場合、この動体画像Mには、画像自体の情報(個々の画素の画素値)に、全画像領域に対する切出位置情報(図7に示す破線枠に対する人物部分の相対的な位置情報)が付加されている。
【0048】
動体認識部350も、動体画像切出部340も、リアルタイム映像V1に含まれる1コマ1コマの静止画像のそれぞれに対して、それぞれ動体認識処理および動体画像切出処理を実行する。したがって、図5に示すような動体領域Aは、1コマ1コマの静止画像のそれぞれについて生成され、当該動体領域Aを用いた切り出し処理も、1コマ1コマの静止画像のそれぞれについて実行されることになるので、図7に示す動体画像Mも、1コマ1コマの静止画像のそれぞれに対応して生成されることになる。結局、こうして得られた動体画像Mは、動体部分(通行人P)のみを抽出したリアルタイムの動画を構成することになる。
【0049】
もちろん、上記処理は、必ずしもリアルタイム映像V1に含まれる1コマ1コマの静止画像のすべてに対して行う必要はなく、必要に応じて、コマを間引いて、たとえば、5コマごとに行う、というようにしてもかまわない。ただ、このような間引きを行うと、得られる動体画像Mによって構成される動画がコマ落ちした動画となるため、実用上は、1コマ1コマの静止画像のすべてに対して動体画像Mを切り出す処理を行うのが好ましい。
【0050】
一方、CG映像作成部320は、所定のコンピュータプログラムに基づいてCG映像V2を作成し、これを提供する機能を果たし、材料データ格納部330は、このCG映像作成部320による映像作成の材料となる材料データを格納する機能を果たす。この材料データ格納部330には、CG映像V2を作成するための様々な材料データを用意しておくことができるが、少なくとも、撮影装置100の撮影視野に写る背景画像Bkを材料データとして格納しておく必要がある。したがって、図示の実施形態の場合、少なくとも、図6に示すような背景画像Bkが材料データとして格納されていることになる。
【0051】
なお、日照環境や照明環境が時間に応じて変動する場合、撮影装置100の撮影視野に写る背景画像Bkも時間に応じて変動することになるので、この場合は、時間帯ごとにそれぞれ異なる複数通りの背景画像Bkを用意しておき、CG映像作成部320が、その時刻に応じて、該当する背景画像Bkを利用してCG画像V2を作成するようにすればよい。たとえば、朝/昼/夜の3通りの背景画像Bkを用意した場合、午前8:00には、朝の背景画像Bkを利用してCG画像の作成が行われることになる。
【0052】
CG映像作成部320が作成するCG映像V2は、この映像情報提示装置によって、通行人に対して提示すべき本来の映像であり、たとえば、商品の広告情報などの映像である。材料データ格納部330内には、予め、提示対象となるCG映像V2の作成に必要な様々な材料データを用意しておくことになる。商品の広告映像の場合、たとえば、当該商品の画像やキャッチコピーなどが、材料データ格納部330内に材料データとして用意されることになる。もちろん、CG映像V2の上映時間は任意に設定できる。
【0053】
映像切替部310は、撮影装置100によって撮影されたリアルタイム映像V1と、CG映像作成部320から提供されたCG映像V2と、のいずれか一方を選択してディスプレイ装置200に与え、ディスプレイ装置200の画面上に、選択された映像を表示させる機能を果たす。より具体的には、映像切替部310は、初期状態(たとえば、この制御装置300を起動した時点や、リセットした時点)ではリアルタイム映像V1を選択し、切替指示部360からCG切替信号Sが与えられた時点で選択対象をCG映像V2に切り替え、この選択されたCG映像V2が終了した時点で再び選択対象をリアルタイム映像V1に切り替える処理を行う。結局、ディスプレイ装置200の画面上には、リアルタイム映像V1とCG映像V2とが交互に表示されることになる。
【0054】
ここに示す基本的実施形態では、CG映像作成部320が、作成したCG映像V2の提供が終了した時点で、映像切替部310に対してCG映像終了信号Eを送信する。このCG映像終了信号Eは、必ずしも実体のある信号である必要はなく、映像切替部310に対して、今まで提供していたCG映像の上映が終了したことを示す信号であれば、どのような信号であってもかまわない。たとえば、「実体的な映像データを何も送信しない」ことによって、映像切替部310に対して、CG映像の上映が終了したことを示すようにしてもよい。
【0055】
切替指示部360は、映像切替部310に対して、CG切替信号Sを与えるための構成要素であり、映像切替部310によるリアルタイム映像V1からCG映像V2への切替処理のタイミングを決定する機能を果たす。具体的には、映像切替部310がリアルタイム映像V1を選択中に、動体認識部350によって認識された動体領域Aが所定条件(具体的な条件については、§2で詳述する)を満たしたときに、映像切替部310およびCG映像作成部320に対してCG切替信号Sを出力する。映像切替部310は、このCG切替信号Sを受けたときに、リアルタイム映像V1からCG映像V2への切替処理を実行する。
【0056】
一方、CG映像作成部320は、このCG切替信号Sが与えられると、予め組み込まれていた所定のコンピュータプログラムに基づいて、提示対象となる所定のCG映像V2(たとえば、広告映像)を作成し、これを映像切替部310に与え、その上映が終了した時点でCG映像終了信号Eを送信する。ここで重要な点は、このCG映像作成部320が作成するCG映像V2は、動画からなる映像であり、しかも、その初期画像が、動体画像切出部340によって所定の切出位置から切り出された動体画像Mを、材料データ格納部330内に格納されている背景画像Bk上の上記切出位置に配置することにより得られる合成画像である点である。
【0057】
図1に示すとおり、CG映像作成部320には、動体画像切出部340によって切り出された動体画像Mが与えられているので、材料データ格納部330内に格納されている背景画像Bk(たとえば、図6に示す画像)の上に、この動体画像M(たとえば、図7に示す画像)を重畳すれば、図4に示すリアルタイム映像V1と同等のCG映像V2を作成することができる。
【0058】
図8は、図1に示す映像情報提示装置の映像切替部310による切替直前におけるリアルタイム映像V1、切替直後におけるCG映像V2、およびこのCG映像V2の構成内容を示す平面図である。図8(a) は、切替直前におけるリアルタイム映像V1を示しており、撮影装置100によって撮影された映像をそのままディスプレイ装置200の画面上に表示したものである。この映像における通行人Pは、撮影装置100によって撮影された現時点の実在の通行人であり、その背景にある額絵41,42などの背景も、撮影装置100によって撮影された現時点の実在の物体である。
【0059】
これに対して、図8(b) は、切替直後におけるCG映像V2を示しており、CG映像作成部320によって作成された動画の初期画像である。切替前後の画像を比べると、内容は全く同じに見えるが、図8(a) が実写に基づくリアルタイム映像V1であるのに対して、図8(b) はコンピュータで合成されたCG映像V2ということになる。図8の下段に示すとおり、この図8(b) に示すCG映像V2は、材料データ格納部330内に格納されている背景画像Bkの上に、動体画像切出部340によって切り出された動体画像Mを重畳して得られた合成画像である。
【0060】
前述したとおり、動体画像Mは、図7に示すように、切出位置情報を含んでいるため、この切出位置情報を考慮して背景画像Bkの上に合成すれば(すなわち、図7の破線枠が、図6の背景画像Bkの画像枠に重なるように合成すれば)、リアルタイム映像V1と全く同じ位置に通行人Pが配置されたCG映像V2を作成することができる。映像切替部310が、CG映像V2を選択している間も、動体画像切出部340および動体認識部350には、引き続き、撮影装置100によって撮影されたリアルタイム映像V1が与えられるので、動体画像Mは、現時点の通行人Pの映像を示すものになる。
【0061】
したがって、通行人Pから見ると、ディスプレイ装置200上の表示が、図8(b) に示すようなCG映像V2に切り替わった後も、自分自身の動きに同期して映像内の通行人Pも動くことになるので、引き続き、リアルタイム映像V1を観察しているような錯覚を抱くことになる。すなわち、ディスプレイ画面200上の表示が、図8(a) に示すリアルタイム映像V1から、図8(b) に示すCG映像に切り替わっても、通行人Pの観点では、何ら変化は生じていないのである。これが、本発明の重要な特徴である。
【0062】
ディスプレイ装置200の近傍を通りかかった通行人Pは、まず、ディスプレイの画面上に自分自身が登場しているリアルタイム映像V1を認識する。通常、ディスプレイ装置200の前を通りかかった通行人Pにとって、自分には直接関係のない情報しか含まない広告映像などが表示されていたとしても、それほど注意を引くものではない。ところが、現在通行中の場所を背景として自分自身が写っているリアルタイム映像V1は、極めて関心の高い情報になる。多くの通行人は、ディスプレイ画面上に自分自身が登場している映像を認識した時点で、ディスプレイ画面を注視することになろう。本発明では、こうして、通行人の注意を画面上に誘導した状態で、リアルタイム映像V1からCG映像V2へと切り替え、CG映像V2によって、本来提示すべき情報(広告情報など)を通行人に提示するのである。
【0063】
図8(b) には、切替直後のCG映像V2しか示されていないが、このCG映像V2は、撮影装置100によって撮影された実写映像ではなく、CG映像作成部320によって作成された動画映像であるため、CG映像作成部320内に用意されたプログラムおよび材料データ格納部330内に用意された材料データ次第で、切替後に任意の映像に変化させてゆくことができる。なお、より効果的な情報提示を行うための具体的なCG映像V2の例については、§3で詳述する。
【0064】
以上、図1のブロック図を参照しながら、本発明の基本的実施形態に係る映像情報提示装置の基本構成および基本動作を説明したが、図に、制御装置300として示す構成要素は、実際には、コンピュータに所定のプログラムを組み込むことによって実現することができる。
【0065】
図1にブロックとして示す各構成要素のうち、ディスプレイ装置200は、たとえば、通行人に映像を提示するのに適した場所に設置する必要があり、撮影装置100は、この通行人を撮影するのに適した場所に設置する必要があるが、制御装置300は、コンピュータによって構成することができるので、たとえば、ディスプレイ装置200のフレーム内に組み込むことも可能である。もちろん、撮影装置100と制御装置300との間や、ディスプレイ装置200と制御装置300との間は、LANやインターネットを介した接続が可能であるので、制御装置300は、ディスプレイ装置200や撮影装置100の設置場所に対する遠隔地に設置してもかまわない。あるいは、制御装置300を構成する一部の要素(たとえば、材料データ格納部330)だけを、他の構成要素に対する遠隔地に設置することも可能である。たとえば、材料データ格納部330を、画像データサーバによって構成し、CG映像作成部320が、ネットワーク経由で、種々の材料データを読み込んで用いるようにしてもよい。
【0066】
<<< §2.映像の切替タイミング >>>
既に§1で述べたとおり、図1に示す映像情報提示装置では、映像切替部310による切替動作によって、ディスプレイ装置200の画面上には、リアルタイム映像V1とCG映像V2とが交互に表示されることになる。ここで、リアルタイム映像V1からCG映像V2への切り替えは、切替指示部360から与えられるCG切替信号Sに基づいて行われ、CG映像V2からリアルタイム映像V1への切り替えは、CG映像作成部320から与えられるCG映像終了信号Eに基づいて行われる。
【0067】
図9は、映像切替部310の切替動作および切替指示部360の指示動作の例を示すタイミングチャートである。いずれも図の水平方向は時間軸(右方向が正)を示しており、図の上段(a) は、映像切替部310の動作を示し、下段(b) は、切替指示部360の動作を示している。
【0068】
図示のとおり、初期状態の時刻t0の時点では、映像切替部310はリアルタイム映像V1を選択した状態にあり、時刻t1において、切替指示部360からCG切替信号Sが与えられるまで、リアルタイム映像V1の選択状態が継続する。時刻t1において、切替指示部360からCG切替信号Sが出力されると、映像切替部310の選択対象は、CG映像V2に切り替わり、ディスプレイ画面上にはCG映像V2が表示される。CG切替信号Sは、CG映像作成部320にも与えられるので、CG映像の作成は、時刻t1から開始されることになる。
【0069】
やがて、時刻t2になると、CG映像作成部320から映像切替部310に対して、CG映像終了信号Eが与えられ、映像切替部310の選択対象は、リアルタイム映像V1に切り替わり、ディスプレイ画面上には再びリアルタイム映像V1が表示される。このとき、CG映像終了信号Eは、映像切替部310から切替指示部360へと伝達される。以下、同様にして、CG切替信号Sが与えられたタイミングでCG映像V2への切り替えが行われ、CG映像終了信号Eが与えられたタイミングでリアルタイム映像V1への切り替えが行われ、......という動作が繰り返されてゆく。
【0070】
ここで、CG映像作成部320からCG映像終了信号Eが出力されるタイミングは、CG映像作成部320によるCG映像V2の提供(上映)が終了した時点である。たとえば、CG映像作成部320に組み込まれているプログラムが、15秒間の広告動画をCG映像V2として作成する機能をもっていた場合、当該15秒間の広告動画の上映時間が終了した時点で、CG映像終了信号Eが出力されることになる。。
【0071】
前述したとおり、CG映像終了信号Eは、必ずしも実体のある信号である必要はなく、「実体的な映像データを何も送信しない」ことにより、CG映像の終了を映像切替部310に伝達することも可能である。このような方法を採る場合、CG映像作成部320は、積極的にCG映像終了信号Eを出力する必要はなく、単に、提供対象となるCG映像V2の映像データを映像切替部310に時間軸に沿って送信するだけの処理を行えばよい。映像切替部310は、CG映像作成部320からの映像データが途切れた時点で、CG映像終了信号Eが与えられたものと判断し、CG映像V2からリアルタイム映像V1への切り替えを行えばよい。
【0072】
一方、切替指示部360がCG切替信号Sを出力するタイミングは、動体認識部350によって認識された動体領域Aに基づいて決定される。§1で述べたとおり、切替指示部360は、映像切替部310がリアルタイム映像V1を選択中に、動体認識部350によって認識された動体領域Aが所定条件を満たしているか否かの条件判定を行う機能を有している。図9のタイミングチャートに示されているとおり、切替指示部360は、初期時点t0もしくはCG映像終了信号Eが与えられた時点t2から条件判定処理を開始し、現時点で動体認識部350から与えられた動体領域Aが所定条件を満たしているか否かの条件判定を行う。そして、条件満足との判定が得られた時点で、CG切替信号Sを出力するとともに、条件判定処理を休止する。したがって、映像切替部310がCG映像V2を選択している期間中(図の場合、時刻t1〜t2)は、CG切替信号Sが出力されることはない。
【0073】
図9のタイミングチャートにおける時刻t1の切替時点の前後にディスプレイ画面上に表示される映像は、図8(a) ,(b) に示すようなものになる。すなわち、切替時刻t1の直前には、図8(a) に示すようなリアルタイム映像V1が表示されており、切替時刻t1の直後には、図8(b) に示すようなCG映像V2が表示されている。したがって、前述したとおり、この切替動作の前後の映像は、観察者から見る限り同一であるが、切替前がリアルタイム映像V1(実写映像)であるのに対し、切替後はCG映像V2(コンピュータによって作成された映像)となっている。このため、時刻t1以降は、実写映像とは無関係に、プログラムに応じた任意の映像を提示することが可能になる。そして、当該任意の映像こそが、本来、通行人に対して提示すべき映像(たとえば、広告映像)であり、通行人に注視してもらいたい映像である。
【0074】
したがって、「通行人にCG映像V2を提示する」という本来の目的を達成するためには、「通行人がディスプレイ画面上に注意を向けたタイミング」で、CG映像V2への切替処理を行うのが好ましい。すなわち、図9のタイミングチャートにおいて、CG切替信号Sを出力する時刻t1を、通行人がディスプレイ画面上に注意を向けたと推定されるタイミングに設定するのが好ましい。本発明では、当該タイミングを決めるために、動体認識部350によって認識された動体領域Aを利用する。具体的には、動体領域Aが所定条件を満たした時点を、「通行人がディスプレイ画面上に注意を向けた時点」と推定し、CG切替信号Sを出力する処理が行われる。
【0075】
このように、切替指示部360は、映像切替部310がリアルタイム映像V1を選択中に、動体認識部350によって認識された動体領域Aが所定条件を満たしたときに、映像切替部310およびCG映像作成部320に対してCG切替信号Sを出力する処理を行う構成要素である。ここで、所定条件としては、動体領域Aとしてリアルタイム映像V1上に現れている通行人が、ディスプレイ画面上に注意を向けていると推定できる何らかの条件を設定しておけばよい。ここでは、いくつかの具体的な条件設定の例を以下に掲げておく。
【0076】
(1) 第1の条件設定例
最も単純な条件は、「動体領域Aの占有面積が所定のしきい値を超えること」という条件である。たとえば、図5に示すように、ハッチングを施して示した部分が動体領域Aとして認識された場合、当該動体領域Aの面積(画素数)を求め、当該面積が所定のしきい値を超えた場合に、条件満足との判定を行い、CG切替信号Sを出力すればよい。具体的には、たとえば、「全映像領域の面積を100%としたときに、動体領域Aの占有面積が20%を超えたら、CG切替信号Sを出力する。」といった処理を行えばよい。
【0077】
動体領域Aの占有面積が大きくなればなるほど、通行人Pはディスプレイ装置200に接近した位置に存在すると推定され、それだけディスプレイ画面上に注意を向けていると推定できる。もちろん、通行人が複数存在する場合は、動体領域Aは、これら複数の通行人に対応する領域になるため、それほどディスプレイ装置200に近づいていなくても、その占有面積がしきい値を超える可能性がある。ただ、その場合も、多数の通行人がディスプレイ画面上を閲覧していることになるので、そのうちの何人かがディスプレイ画面上に注意を向けている可能性が高くなり、やはりCG切替信号Sを出力して、CG映像V2に切り替えることに合理的な意味があることになる。このように、「動体領域Aの占有面積が所定のしきい値を超えること」という条件は、CG映像V2に切り替える条件として、非常に合理的な条件ということができる。
【0078】
なお、実用上は、「動体領域Aの占有面積が所定のしきい値を超えた時点」で直ちにCG切替信号Sを出力する代わりに、当該時点から所定の遅延時間だけ経過した時点で、CG切替信号Sを出力するようにしてもかまわない。具体的には、たとえば「動体領域Aの占有面積が全映像領域の面積の20%を超えた時点から5秒経過すること」という条件設定をしておけばよい。たとえば、通行人がディスプレイ画面上を注視した瞬間にCG映像V2に切り替えるよりも、しばらくの間、当該通行人に自分自身が写ったリアルタイム映像V1を提示してから、CG映像V2に切り替えた方がより効果的である場合には、占有面積が所定のしきい値を超えた時点から所定の遅延時間だけ経過した時点で切り替えを行った方が好ましい。
【0079】
要するに、この第1の条件設定例の場合、切替指示部360は、映像切替部310がリアルタイム映像V1を選択中において、動体領域Aの占有面積が所定のしきい値を超えた時点、もしくは当該時点から所定の遅延時間だけ経過した時点で、CG切替信号Sを出力する処理を行えばよい。
【0080】
(2) 第2の条件設定例
動体領域Aは、通行人の視線方向の情報まで正確に与えるものではないので、ディスプレイ画面とは無関係な方向を向いた通行人が、たまたまディスプレイ画面の近くを通り過ぎた場合にも、「動体領域Aの占有面積が所定のしきい値を超えること」という条件が満たされてしまうケースもあり得る。ここで述べる第2の条件設定例は、そのようなケースも考慮して、より正確な判定が可能になるように上記第1の条件設定に若干修正を加えたものである。
【0081】
すなわち、この例では、「動体領域Aの占有面積が所定のしきい値を超えた状態が所定期間にわたって継続すること」という条件設定がなされる。たとえば、占有面積に関するしきい値として「全映像領域の面積の20%」という値を設定した場合でも「動体領域Aの占有面積が一瞬だけ20%を超えた」というようなケースは、条件を満足したとは判定されないことになる。条件満足のための継続時間として、たとえば、「5秒」という時間を設定した場合、「動体領域Aの占有面積が20%を超えた状態が継続して5秒続いた」ときに、はじめて条件満足との判定がなされることになる。
【0082】
このような条件設定を行えば、通行人が、たまたまディスプレイ画面の近くを通り過ぎたようなケースでは、条件満足との判定はなされないことになる。通行人が、ディスプレイ画面上に注意を向けているとすれば、ある程度継続して、ディスプレイ画面の近くに滞在することが予想されるので、上記条件は、より正確な判定を行うためのより合理的な条件ということができる。
【0083】
この場合も、実用上は、「動体領域Aの占有面積が所定のしきい値を超えた状態が所定期間にわたって継続した時点」で直ちにCG切替信号Sを出力する代わりに、当該時点から所定の遅延時間だけ経過した時点で、CG切替信号Sを出力するようにしてもかまわない。具体的には、たとえば「動体領域Aの占有面積が20%を超えた状態が継続して5秒継続した時点から、更に5秒経過すること」という条件設定をしておけばよい。
【0084】
要するに、この第2の条件設定例の場合、切替指示部360は、映像切替部310がリアルタイム映像V1を選択中において、動体領域Aの占有面積が所定のしきい値を超えた状態が所定期間にわたって継続した時点、もしくは当該時点から所定の遅延時間だけ経過した時点で、CG切替信号Sを出力する処理を行えばよい。
【0085】
(3) 第3の条件設定例
これまで述べた条件は、「動体領域Aの占有面積」を基準とした条件であるが、ここで述べる条件は、「動体領域Aの位置」を基準とした条件ということができる。一般論として、通行人Pがディスプレイ画面の端に立っている場合よりも、ディスプレイ画面の中央に立っている場合の方が、画面に注意を向けていると推定できる。したがって、動体領域Aが、全映像領域の中央に位置していた場合に、当該動体領域Aに対応する通行人が画面に注意を向けていると推定することは非常に合理的である。
【0086】
また、ディスプレイ装置200を設置した具体的環境によっては、最もディスプレイ画面を落ち着いて観察できる特定の場所が存在するケースもあり得る。たとえば、他の通行人の邪魔にならないような特定の観察場所があれば、そのような観察場所に立っている通行人は、ディスプレイ画面に注意を向けている可能性が高い。しかも、そのような特定の観察場所に立っている通行人の位置は、必ずしもディスプレイ画面の中央位置とは限らない。
【0087】
そこで、ここで述べる例では、「動体領域Aの重心点Gが、所定の検出領域Z内に検出されること」という条件を設定する。ここで、「動体領域Aの重心点G」は、通行人の代表位置を示し、「所定の検出領域Z」は、通行人が当該領域付近に居る場合にディスプレイ画面に注意を向けている可能性が高いと推定される領域を示す。
【0088】
図10は、図5に示す動体領域Aについての重心Gを示す平面図である。このような重心Gの位置は、動体領域Aを構成する各画素の座標値に基づく幾何学演算によって算出することができる。一方、図11は、撮影装置100の撮影視野V内に設定された検出領域Z(ハッチング部分)を示す平面図である。ここで、検出領域Zは、通行人が当該領域付近に居る場合にディスプレイ画面に注意を向けている可能性が高いと推定される領域であり、図示の例の場合、撮影視野Vの中央付近に設定されている。これは、上述したように、通行人が、ディスプレイ画面の中央正面に立っている場合、当該通行人が画面に注意を向けている可能性が高い、という推定に基づくものである。
【0089】
このような条件設定をした場合、切替指示部360は、リアルタイム映像V1が選択されている期間中、動体認識部350から与えられる動体領域Aの重心Gを演算により求め、この重心Gが、図11に示す検出領域Z内に入るか否かを判定する処理を行うことになる。そして、重心Gが検出領域Z内に入ると判定された場合は、条件が満足されたものとして、CG切替信号Sを出力することになる。
【0090】
この場合も、実用上は、「動体領域Aの重心点Gが、所定の検出領域Z内に検出された時点」で直ちにCG切替信号Sを出力する代わりに、当該時点から所定の遅延時間だけ経過した時点で、CG切替信号Sを出力するようにしてもかまわない。
【0091】
要するに、この第3の条件設定例の場合、切替指示部360は、映像切替部310がリアルタイム映像V1を選択中において、動体領域Aの重心点Gが、所定の検出領域Z内に検出された時点、もしくは当該時点から所定の遅延時間だけ経過した時点で、CG切替信号Sを出力する処理を行えばよい。
【0092】
(4) 第4の条件設定例
上述した第3の条件設定例の場合も、ディスプレイ画面とは無関係な方向を向いた通行人が、たまたまディスプレイ画面の近くを通り過ぎた場合にも、条件満足との判定がなされてしまうケースもあり得る。ここで述べる第4の条件設定例は、そのようなケースも考慮して、より正確な判定が可能になるように上記第3の条件設定に若干修正を加えたものである。
【0093】
すなわち、この例では、「動体領域Aの重心点Gが、所定の検出領域Z内に位置する状態が所定期間にわたって継続すること」という条件設定がなされる。たとえば、図10に示すような動体領域Aが得られ、その重心Gが、図11に示す検出領域Z内に入っていたとしても、それだけでは条件満足との判定はなされないことになる。条件満足のための継続時間として、たとえば、「5秒」という時間を設定した場合、「重心Gが検出領域Z内に位置する状態が継続して5秒続いた」ときに、はじめて条件満足との判定がなされることになる。
【0094】
このような条件設定を行えば、通行人が、たまたま検出領域Zに対応する場所を通り過ぎたようなケースでは、条件満足との判定はなされないことになる。通行人が、ディスプレイ画面上に注意を向けているとすれば、ある程度継続して、検出領域Zに対応する場所に滞在することが予想されるので、上記条件は、より正確な判定を行うためのより合理的な条件ということができる。
【0095】
この場合も、実用上は、「動体領域Aの重心点Gが、所定の検出領域Z内に位置する状態が所定期間にわたって継続した時点」で直ちにCG切替信号Sを出力する代わりに、当該時点から所定の遅延時間だけ経過した時点で、CG切替信号Sを出力するようにしてもかまわない。
【0096】
要するに、この第4の条件設定例の場合、切替指示部360は、映像切替部310がリアルタイム映像V1を選択中において、動体領域Aの重心点Gが、所定の検出領域Z内に位置する状態が所定期間にわたって継続した時点、もしくは当該時点から所定の遅延時間だけ経過した時点で、CG切替信号を出力する処理を行えばよい。
【0097】
以上、切替指示部360によって行われる条件判定処理を4つの具体例を掲げて説明したが、もちろん、実際には、この他にも様々な条件設定を行うことが可能である。動体領域Aとしてリアルタイム映像V1上に現れている通行人が、ディスプレイ画面上に注意を向けていると推定できる条件であれば、どのような条件を設定してもかまわない。
【0098】
このように、本発明では、リアルタイム映像V1からCG映像V2への切り替えが、通行人が写っているリアルタイム映像V1に対する動体認識処理の結果に基づいて行われるため、通行人がディスプレイ装置の画面に注意を向けるであろうと予想される効果的なタイミングで、CG映像(本来の提示対象映像)の提示を行うことができる。特に、上例のように、動体領域Aの占有面積が所定のしきい値を超えた時点をトリガーとする切り替えや、動体領域Aの重心Gが、所定の検出領域Z内に検出された時点をトリガーとする切り替えを行うと、通行人が映像閲覧に適した位置にきたタイミングで、CG映像への切り替えが可能になる。
【0099】
なお、図9のタイミングチャートに示されているとおり、切替指示部360による条件判定処理は、映像切替部310がリアルタイム映像V1を選択している期間のみ行われ、CG映像V2を選択している期間は、条件判定処理は休止される。したがって、図示の例の場合、時刻t1〜t2の期間、通行人にCG映像V2を提示した後、時刻t2で再びリアルタイム映像V1の提示に切り替わることになり、この時点から条件判定処理が再開されることになる。
【0100】
この場合、通行人が時刻t1〜t2まで、ずっと同じ場所でディスプレイ画面を閲覧していたとすると、時刻t2以後の条件判定で再び条件満足との判定がなされることになる。このため、上述した第1の条件設定例を採り、「動体領域Aの占有面積が所定のしきい値を超えた時点」で直ちにCG切替信号Sを出力すると、時刻t2の直後に条件満足との判定がなされ、時刻t2において、ほんと一瞬だけリアルタイム映像V1が提示された後、再び、CG映像V2の提示が始まることになる。これは、第3の条件設定例を採り、「動体領域Aの重心点Gが、所定の検出領域Z内に検出された時点」で直ちにCG切替信号Sを出力した場合も同様である。
【0101】
このように、時刻t2において、一瞬だけリアルタイム映像V1が提示されるような事態を避けたい場合には、上述したとおり、各時点から所定の遅延時間だけ経過した時点で、CG切替信号Sを出力するようにすればよい。あるいは、上述した第2の条件設定例や第4の条件設定例を採るようにすればよい。
【0102】
<<< §3.CG映像の具体例 >>>
ここでは、CG映像作成部320によって作成されるCG映像V2の具体例をいくつか述べておく。前述したとおり、CG映像作成部320には、CG映像V2を作成する処理を行うためのプログラムが用意されている。当該プログラムは、材料データ格納部330内に格納されている材料データを利用して、情報提供主(たとえば、広告主)が通行人に提示したいと考えている情報をもったCG映像V2を作成する機能を有している。したがって、作成されるCG映像V2の具体的な内容は、情報提供主との相談によって決められるべきものであるが、本発明におけるCG映像V2は、少なくとも特定の条件を満たす画像を初期画像とする動画である必要がある。すなわち、その初期画像は「動体画像切出部340によって所定の切出位置から切り出された動体画像Mを、材料データ格納部330に格納されていた背景画像上の前記切出位置に配置することにより得られる合成画像」である必要がある。
【0103】
CG映像V2に切り替わった時点で提示される初期画像に、このような条件を付加するのは、切替直前に提示されていたリアルタイム映像V1との連続性を確保するためである。図8に示す例の場合、通行人Pから見ると、ディスプレイ装置200上の表示が、図8(a) に示すリアルタイム映像V1から図8(b) に示すCG映像V2に切り替わっても、引き続き、リアルタイム映像V1を観察しているような錯覚を抱くことになる。前述したとおり、通行人Pにとって、自分には直接関係のない情報しか含まない広告映像などが突然表示されたとしても、それほど注意を引くものではない。ところが、現在通行中の場所を背景として自分自身が写っているリアルタイム映像V1は、極めて関心の高い情報になる。そこで、このリアルタイム映像V1に対して連続性をもたせたCG映像V2を提示すれば、通行人Pは、リアルタイム映像V1と同等の関心をもって、CG映像V2を引き続き閲覧する可能性が高い。
【0104】
CG映像V2の初期画像は、リアルタイム映像V1から認識された動体画像M1を背景画像Bk上に合成した画像であり、リアルタイム映像V1に非常に近い画像になる。このため、映像の切り替えが行われた後も、通行人Pは、しばらくの間は、リアルタイム映像V1がそのまま継続して表示されているものと錯覚することになる。したがって、CG映像V2として提示される内容を、現実世界の出来事の延長線上の出来事として印象づけることができ、臨場感をもった映像提示が可能になり、通行人の注目度をより向上させることができるようになる。
【0105】
図8(b) は、切替直後のCG映像V2であるため、その内容は、図8(a) に示す切替直前のリアルタイム映像と同じものである。しかしながら、このCG映像V2は、撮影装置100によって撮影された実写映像ではなく、CG映像作成部320によって作成された動画映像であるため、CG映像作成部320内に用意されたプログラムおよび材料データ格納部330内に用意された材料データ次第で、切替後に任意の映像に変化させてゆくことができる。CG映像V2の内容をどのように変化させてゆくかは、前述のとおり、広告主等の意向に応じて決定されるべき事項であるが、ここでは、切替直前に提示されていたリアルタイム映像V1との連続性を確保する上で好ましいと思われる、いくつかの実施形態を例示しておく。
【0106】
(1) CG映像の第1の実施形態
ここで述べる第1の実施形態は、「初期画像に含まれていた動体画像が、その同じ位置において別な提示対象物に置き換えられる動画」からなるCG映像というべきものである。たとえば、図8(b) に示すCG映像(切替直後の初期画像)の場合、通行人Pの部分は、動体画像Mによって構成されている部分である。通行人P自身は、当該動体画像Mを自分自身の映像として認識しているので、当該動体画像Mの部分は、通行人Pが最も注視している部分と推定される。したがって、この通行人Pの注視の対象物である動体画像が、その同じ位置において別な提示対象物に置き換えられる動画を提示すれば、通行人Pの目を当該別な提示対象物に向けることができる。
【0107】
図12は、この第1の実施形態の典型例となるCG映像V2を示す平面図である。ここで、図12(a) 〜(e) は、このCG映像V2の内容の変遷を示すサンプル画像を示しており、図12(a) から図12(e) に向かって画像の内容が変遷してゆくことになる。図12(a) は、この動画の初期画像を示しており、図8(b) と同一の画像(すなわち、図8(a) に示す切替直前のリアルタイム映像V1と同じ画像)になる。この後、図12(b) に示すように、映像中の通行人Pの部分が徐々にフェードアウトしてゆき、やがて、図12(c) に示すように、通行人Pの部分は完全に消失する。そして、続く図12(d) では、通行人Pの代わりに、別な提示対象物(この例では、広告対象物となるボトル)が徐々にフェードインしてくる。最後に、図12(e) に示すように、当該対象物(ボトル)が完全に表示され、「Patent Drink」なる商品名とともに、星型のアニメーションが表示される。
【0108】
図12(a) 〜(e) の映像は、いずれも同一の背景画像Bkを用いているが、その上に合成する画像が異なっている。すなわち、図12(a) ,(b) では、動体画像切出部340から与えられる動体画像Mを合成対象としているのに対して、図12(d) ,(e) では、動体画像Mの代わりに商品画像「ボトル」を合成対象としている。図12(a) から(b) への変遷は、いわゆる「αブレンド」という画像合成の手法を利用して、動体画像Mの画素値の影響度を徐々に減少させてゆく処理を行い、図12(d) から(e) への変遷も、同様に「αブレンド」の手法を利用して、ボトルの画像の画素値の影響度を徐々に増加させてゆく処理を行えばよい。なお、ボトルの商品画像、「Patent Drink」なる商品名、星型のアニメーションは、予め材料データ格納部330内に材料データとして格納されていたデータを利用してCG画像に組み込まれる。
【0109】
図13は、図12に示す例の変形例である。図12に示す例との相違は、図12(c) に示すように、背景のみの画像提示が行われる状態をなくし、通行人Pの部分のフェードアウトと、ボトルの画像部分のフェードインとが一部重なるように設定した点である。したがって、図13(c) に示すように、通行人Pの部分とボトルの画像部分とが重畳表示される期間が確保される。
【0110】
いずれの例でも、初期画像と同一の背景画像上において、動体画像をフェードアウトし、提示対象物をフェードインすることにより、動体画像から提示対象物への置換が行われる動画が構成されていることになる。しかも、動体画像と置換後の提示対象物とは、ほぼ同じ位置を占めるので、初期画像に含まれていた動体画像が、その同じ位置において別な提示対象物に置き換えられる動画が提示されることになる。通行人Pから見ると、ディスプレイ画面上で注視していた自分自身が、その位置でボトルに変化することになるので、ボトルに対する注目度は非常に大きなものになる。
【0111】
特に、上例の場合、広告の対象物となる「ボトル」の画像を予め材料データとして用意しておき、CG映像の初期画像に含まれていた動体画像(通行人の画像)が、その同じ位置において当該広告対象物に置き換えられるCG映像が提示されるので、当該広告対象物に対して強烈な印象を与えることが可能になる。
【0112】
なお、動体画像と置換後の提示対象物とを同じ位置に配置するためには、たとえば、初期画像上において、図10に示す例のように、動体領域Aの重心Gを求めておき、「ボトル」の画像についても同様に重心G′を求めておき、重心Gの位置に重心G′の位置が重なるように、「ボトル」の画像を配置するようにすればよい。
【0113】
なお、ここで述べる第1の実施形態において、動体画像を提示対象物に置き換える手法は、必ずしも「フェードアウト/フェードイン」という手法に限定されるものではなく、この他にも種々の置換手法を採ることが可能である。たとえば、CGで多用されている手法として、「モーフィング」という手法が広く知られている。したがって、初期画像と同一の背景画像上において、動体画像から提示対象物へのモーフィング処理を行うことにより、動体画像から提示対象物への置換が行われる動画を作成するようにしてもよい。上例の場合、通行人が徐々にボトルに変形してゆく変形態様が、動画として提示されることになる。
【0114】
図14は、動体画像を提示対象物に置き換える別な手法を示す例である。図示のとおり、通行人の頭上から巨大な靴が落下してきて、通行人を踏みつぶす、という現象を示す映像になっている。この場合も、最終的には、動体画像(通行人)が、その同じ位置において別な提示対象物(巨大な靴)に置き換えられている。巨大な靴を表示する水平方向の位置は、通行人の位置(動体領域Aの重心G)に基づいて決定されることになる。この例では、この巨大な靴が広告対象物となっており、通行人に対する靴の広告宣伝効果は非常に大きなものになる。
【0115】
なお、何らかの広告対象物を提示するためのCG映像において、動体画像(通行人)を置換する提示対象物は、必ずしも当該広告対象物それ自身である必要はない。図15は、図12,図13に示す例と同様に、「Patent Drink」なる商品を広告対象物とする広告用のCG映像の例である。まず、図15(a) に示す初期画像の状態から、図15(b) に示すように通行人が消え(動体画像をフェードアウトして消してもよいし、突然消してもよい)、図15(c) に示すように、通行人が立っていた後方の壁面にひび割れが生じ、図15(d) に示すように、壁の中から別な人物が現れ、図15(e) に示すように、当該別な人物が「Patent Drink」なる商品を飲み干す、という構成の動画である。この場合、動体画像(通行人)を置換する別な提示対象物は、「Patent Drink」なる商品自体ではなく、図示する別な人物ということになる。
【0116】
この場合でも、通行人の注意は、自分が立っていた場所に交替して出現した別な人物へ向くことになり、更に、当該別な人物が飲み干した「Patent Drink」なる商品へも向くことになろう。このように、ここで述べる第1の実施形態の特徴は、「初期画像に含まれていた動体画像が、その同じ位置において別な提示対象物に置き換えられる動画」という点にある。特に、背景として初期画像の背景画像をそのまま流用し、動体画像(通行人)の部分のみを別な提示対象物に置換する、という手法を採ると、通行人から見た場合に、自分自身が現在立っている現実の場所において、CG映像として提示された仮想の事柄が起こっているように見え、臨場感をもった、強烈な印象を与えることが可能になる。
【0117】
(2) CG映像の第2の実施形態
続いて説明する第2の実施形態は、「初期画像に含まれていた背景画像が時間的に変化する動画」からなるCG映像というべきものである。たとえば、図16に示す例の場合、図16(a) に示す初期画像は、図8(b) と同一の画像(すなわち、図8(a) に示す切替直前のリアルタイム映像V1と同じ画像)であるが、この後、図16(b) 〜図16(d) に示すように、映像中の通行人Pの部分は変化していないのに、背景部分が時々刻々と変化することになる。具体的には、壁面に飾られていた額絵が順に、飾り壷の中へと吸い込まれてゆくCGアニメーションが提示され、最後に、図16(e) に示すように、通行人Pが消去され、代わりに広告対象物(ボトル)が出現し、「Patent Drink」なる商品名とともに、星型のアニメーションが表示される。
【0118】
このようなCG映像を作成するには、まず、背景用のCGアニメーションを用意しておき、材料データ格納部330内に材料データとして格納しておくようにする。具体的には、図6に示すような背景画像Bkをもとにして、額絵41,42が、飾り壷50内に順番に吸い込まれるようなアニメーションを作成しておけばよい。このアニメーションには、通行人の画像は一切含まれていない。また、最終的に提示することとなる図16(e) に示すようなアニメーションも材料データとして用意しておく。
【0119】
このような材料データを用意しておけば、CG映像作成部320は、図16に例示するようなCG映像を作成することができる。すなわち、用意した背景用のCGアニメーションの上に、動体画像切出部340からリアルタイムで与えられる動体画像Mを重ね合わせた合成アニメーション映像を作成し、その最後に、図16(e) に示すようなアニメーション映像を付加する処理を行えばよい。このようにして作成されたCG映像では、図16(a) 〜(d) に示す通行人の部分は、リアルタイム映像から各時点でリアルタイムに切り出された画像になるので、通行人の実写映像ということになる。このため、極めて臨場感のある映像提示がなされる。
【0120】
このようなCG映像が提示された場合、通行人には、自分自身が、いま現実に立っている場所の景色が、突然、変化し始めたように見えるので、通行人の着目度は極めて高くなる。実際、図16に示す例では、通行人が現在歩行中のホテルの廊下において、額絵が魔法のように壺に吸い込まれてゆくという非現実的な映像が提示されるので、臨場感がありながら、「現実的には決してあり得ない事象」が提示されるので、通行人に与えるインパクトは非常に大きなものになる。結局、CG映像として、初期画像に含まれていた背景画像が時間的に変化する動画を提示すれば、通行人に対して、現実世界にいる臨場感を与えながら、その背景が変化するという仮想世界の体験を与えることができるようになり、強烈な印象を与えることが可能になる。
【0121】
なお、「現実的には決してあり得ない事象」を提示する代わりに、「現実的に起こり得る事象」を提示してもよい。たとえば、「額絵が壺に吸い込まれる」という現実的にはあり得ない事象の代わりに、「額絵が床に落下する」という現実的に起こり得る事象を提示した場合、通行人の反応は別なものになるであろう。ディスプレイ画面上で額絵が落下するのを見た通行人の中には、実際に額絵が落下したものと思って、壁20側を振り返って確認する者もいるであろう。現実世界では、額絵には異常がないことを認識した通行人が再びディスプレイ画面を見たタイミングで、図16(e) のような広告映像が提示されれば、非常にインパクトのある広告効果が得られる。
【0122】
もちろん、「背景画像が時間的に変化する動画」は、必ずしも「背景の個々の構成要素が1つずつ順番に変化してゆく」動画に限定されるものではない。図17は、背景画像の変化の形態を若干変えた実施例を示している。この例の場合、図17(a) に示す初期画像の状態から、図17(b) に示すように、初期画像の表示画面全体がバタンと後方へ倒れ込むようなCGアニメーションが提示され、その結果、図17(c) に示すように、別な背景画像が出現し、図17(d) に示すように、女性が出現して歩み寄り、図17(e) に示すように、英会話教室の宣伝を行う、というCG映像になっている。
【0123】
このCG映像の場合も、通行人が立っている現実世界の背景画像が時間的に変化する動画になっている。このため、通行人には、自分自身が、いま現実に立っている場所の景色が、突然、変化したように見えるので、通行人の着目度は極めて高くなる。図17(b) では、通行人自身の画像(動体画像)も含めて、図17(a) に示す初期画像の平面全体がバタンと倒れるアニメーションになっているが、もちろん、背景画像のみをバタンと倒し、通行人自身の画像(動体画像)をそのまま残すようにすることも可能である。その場合、通行人は、新たな背景画像の中で、英会話教室の宣伝女性に声をかけられるという設定になる。
【0124】
(3) CG映像の第3の実施形態
ここで説明する第3の実施形態は、「現時点で得られている、もしくは過去に得られた動体画像の大きさ、形状、姿勢もしくは色彩に関する特徴を抽出し、抽出した特徴に関連した特徴をもった提示対象物が含まれる動画」からなるCG映像というべきものである。
【0125】
図1に示すとおり、撮影装置100によって撮影されたリアルタイム映像V1は、画像切替部310の切替動作とは無関係に、常に、動体認識部350および動体画像切出部340に与えられている。したがって、ディスプレイ装置200上にCG映像V2が提示されている最中も、動体画像切出部340からは、各時点での動体画像M、すなわち、通行人のその時点でのリアルタイム画像が出力されている。
【0126】
このため、たとえば、通行人が体を一方向へ傾けるような動作を行ったとすると、リアルタイム映像V1に対する動体認識処理によって得られる動体領域Aは、図18のように変化することになる。そこで、動体認識部350からCG映像作成部320に対して、動体領域Aを示す情報を伝達し、CG映像作成部320に、動体領域Aの傾斜度を認識する機能をもたせておき(たとえば、図18にハッチングを施した動体領域Aについて、各水平ラインごとに中心点を求め、これら中心点を上下に連結して得られる線の近似直線の傾斜度を演算すればよい)、当該傾斜度に合致するように提示対象物を傾斜させたCG映像V2を作成させればよい。
【0127】
図19は、図18に示す動体領域A(ハッチング部分)に基づいて認識した通行人の姿勢に関する特徴に関連した特徴をもった提示対象物60(ボトル)が含まれるCG映像V2の一例を示す平面図である。この例では、提示対象物60(ボトル)が、図の左方向へ傾いた例が示されているが、これは、CG映像作成部320によって、ボトル60の向きを、図18に示す動体領域Aの傾きに合致させる処理が行われたためである。要するに、CG映像作成部320は、リアルタイム映像V1から通行人の部分を認識し、その姿勢(体の傾斜方向)に関する特徴を抽出し、抽出した特徴に関連した特徴をもった提示対象物60(ボトル)が含まれるCG映像V2を作成する処理を行うことになる。このため、通行人が体を左右に傾斜させると、ディスプレイ画面に表示されているCG映像V2中の提示対象物60(ボトル)も、通行人の体の動きに合わせて左右に傾斜することになる。
【0128】
このように、通行人の観点からは、CG映像V2内の提示対象物60(ボトル)が、自分の姿勢にシンクロナイズしてその姿勢を変えるので、このようなシンクロナイズ現象に気付いた通行人は、様々な姿勢をとりながら、広告映像に見入ることになろう。その結果、「Patent Drink」なる商品のボトルに対する通行人の注目度は極めて高いものとなり、極めて大きな広告効果が得られることになる。
【0129】
動体画像Mから抽出する特徴は、必ずしも通行人の姿勢に限定されるものではない。たとえば、動体画像Mの大きさ(動体領域Aの面積)を特徴として抽出し、この抽出した大きさに応じて、CG映像V2内の提示対象物60の大きさを変えるような処理を行うことも可能である。具体的には、CG映像作成部320によって、動体領域Aの面積(画素数)を求める処理を行い、背景画像上に提示対象物60(ボトル)を重ねて合成する処理を行う際に、提示対象物60を当該面積に比例した大きさとすればよい。そうすれば、通行人がディスプレイ装置200から離れると(リアルタイム映像V1内の動体領域Aの面積が小さくなると)、CG映像V2内の提示対象物60(ボトル)も小さくなる。結局、通行人がディスプレイ装置200に近づいたり離れたりすると、それにシンクロナイズして、提示対象物60(ボトル)がその大きさを変えることになる。
【0130】
また、リアルタイム映像V1から通行人の部分を認識し、その色彩に関する特徴を抽出し、抽出した特徴に関連した特徴をもった提示対象物が含まれるCG映像V2を作成することも可能である。図20は、このような通行人の色彩に関する特徴と提示対象物70(ボトル)に関する特徴との関連性の一例を示す平面図である。図20(a) は、リアルタイム映像V1から認識された動体画像Mを示しており、図20(b) は、CG映像V2内に表示する提示対象物70(ボトル)を示している。ここで、提示対象物70(ボトル)の各部の色彩を、動体画像M(リアルタイムで得られている動体画像Mではなく、過去の特定タイミングで得られた動体画像でもよい)の各部の色彩に応じて決定するようにする。
【0131】
具体的には、たとえば、リアルタイム映像V1に対する動体認識処理により、図20(a) に示すような動体画像Mを抽出したら、その縦寸法Lを測定し、この縦寸法Lを基準として、下から10%,40%,60%,80%,98%の位置に、それぞれ高さレベルL1,L2,L3,L4,L5を設定する。そして、動体画像Mの画素のうち、高さレベルL5にある画素の色の平均値を、ボトル栓部70Aの色彩とし、高さレベルL1〜L2の範囲内にある画素の色の平均値を、ボトル本体部70Bの色彩とし、高さレベルL3〜L4の範囲内にある画素の色の平均値を、ボトルラベル部70Cの色彩とする。この場合、材料データ格納部330内には、色彩の情報をもたないボトルの画像を材料データとして用意しておき、CG映像作成部320によって、各部の色彩を決定する処理を行えばよい。
【0132】
このような方法で色彩を決定した提示対象物70(ボトル)を用いてCG映像V2を作成すれば、通行人の全身の色彩分布に類似した色彩分布をもつ提示対象物70(ボトル)を提示することができる。たとえば、通行人が赤い帽子、黄色いジャケット、水色のジーンズを着用していたとすると、赤いボトル栓部70A、水色のボトル本体部70B、黄色いラベル部70Cをもったボトル70が、提示対象物として、CG映像V2内に表示されることになる。もちろん、色彩をより細かく反映させるようにすれば、衣服の柄と同じ模様をもったボトルを表示させることも可能である。
【0133】
このように、リアルタイム映像V1から通行人の大きさ、形状、姿勢もしくは色彩に関する特徴を抽出し、抽出した特徴と類似した特徴をもった提示対象物が含まれるCG映像V2を作成すれば、リアルタイム映像V1として撮影された現実世界とCG映像V2として提示される仮想世界とが、当該特徴を介して関連性をもつことになるので、通行人の関心を更に高めることができる。
【0134】
<<< §4.その他の変形例 >>>
ここでは、これまで述べてきた基本的実施形態に対するいくつかの変形例を提案しておく。
【0135】
(1) CG映像終了信号Eの送信方法の変形例
図1に示す映像情報提示装置では、CG映像作成部320が、作成したCG映像V2の提供が終了した時点で、映像切替部310に対してCG映像終了信号Eを送信し、映像切替部310が、このCG映像終了信号Eを受けた時点で選択対象をリアルタイム映像V1に切り替える処理を行うとともに、切替指示部360に対してCG映像終了信号Eを送信し、切替指示部360が、映像切替部310から送信されてきたCG映像終了信号Eを受信することにより、映像切替部310が選択対象をリアルタイム映像V1に切り替えたことを認識する構成をとっていた。
【0136】
しかしながら、切替指示部360へのCG映像終了信号Eの送信は、必ずしも映像切替部310の機能として実行する必要はない。たとえば、CG映像作成部320が、作成したCG映像V2の提供が終了した時点で、映像切替部310および切替指示部360の双方に対してCG映像終了信号Eを送信するようにし、映像切替部310が、このCG映像終了信号Eを受けた時点で選択対象をリアルタイム映像V1に切り替える処理を行い、切替指示部360が、CG映像作成部320から送信されてきたCG映像終了信号Eを受信することにより、映像切替部310が選択対象をリアルタイム映像V1に切り替えたことを認識する構成をとってもかまわない。
【0137】
(2) 背景画像Bkの格納方法の変形例
図1に示す映像情報提示装置では、予め背景画像Bkを用意し、これを材料データ格納部330内に格納しておき、CG映像作成部320が、この予め用意した背景画像Bkを利用してCG映像V2を作成することになる。このとき、もし、日照条件や照明環境などによって背景画像が時間に応じて変動するのであれば、たとえば、朝/昼/夜の3通りの背景画像Bkを用意して、CG映像を作成する時間帯に応じて、用いる背景画像Bkを使い分けるような手法を採ることが可能であることは既に説明した。ここで述べる変形例では、用いる背景画像Bkを、リアルタイム映像V1を利用して作成する方法を採る。
【0138】
図21は、この変形例に係る映像情報提示装置の構成を示すブロック図である。図1に示す装置との相違点は、制御装置300が、新たな構成要素である背景画像生成部370を有する点である。この背景画像生成部370は、撮影装置100によって撮影されたリアルタイム映像V1に基づいて、撮影装置100の撮影視野に写る背景画像Bkを生成し、生成した背景画像Bkを材料データ格納部330に材料データとして格納する処理を行う構成要素である。
【0139】
背景画像生成部370が、所定のタイミングで(たとえば、1時間おきに)、新たな背景画像Bkを生成して、材料データ格納部330内に格納する処理を繰り返し実行するようにすれば、材料データ格納部330内には、常に、最新の背景画像Bkが用意された状態になる。このようにすれば、CG映像作成部320によって作成されるCG映像V2の初期画面の背景画像が、できるだけ現時点の実際の背景に近い画像になるので、時間に応じて背景画像の明るさなどが変動した場合にも、常に、現時点に近い背景画像を用いたCG映像を作成することができるようになる。
【0140】
背景画像生成部370によって、ある時点における背景画像Bkを生成する1つの方法としては、動体認識部350と同様に、所定サンプル期間内の平均画素値を求める方法を採ることができる。すなわち、背景画像生成部370に、リアルタイム映像V1を構成する1コマ1コマの静止画像を構成する個々の画素について、過去の所定サンプル期間内(たとえば、過去1時間の間)の平均画素値を演算する機能をもたせておき、当該平均画素値をもった画素の集合からなる静止画像を、背景画像として、材料データ格納部に格納する処理を行わせればよい。通行人などの動体は、絶えず移動していると考えられるので、所定サンプル期間内の平均画素値をとれば、動体の情報は希釈され、有意な情報としては残らなくなる。
【0141】
別な方法は、通行人がいないときに得られた撮影画像を、そのまま背景画像とする方法である。具体的には、動体認識部350による認識結果を背景画像生成部370へ伝達させるようにし、動体認識部350によって動体が認識されていない時点におけるリアルタイム映像V1を背景画像Bkとして取り込み、これを材料データ格納部330に格納させればよい。たとえば、動体認識部350から背景画像生成部370に対して、動体領域Aの情報を伝達させるようにする。そして、背景画像生成部370は、この動体領域Aの面積が零もしくは所定の微小基準値以下であった場合に、その時点で与えられているリアルタイム映像V1の静止画像を背景画像Bkとして、材料データ格納部330に格納すればよい。
【0142】
(3) 切替前後の画像の同一性
これまでの実施形態では、図8(a) ,(b) に示すように、リアルタイム映像V1からCG映像V2への切替前後においてディスプレイ画面上に提示される画像が、同一であるという説明を行ってきた。そうすることによって、映像を閲覧している通行人に対して、リアルタイム映像V1からCG映像V2への変遷を感じさせず、切替後もリアルタイム映像V1がそのまま継続して表示されているとの錯覚を与えることが可能になる。
【0143】
ただ、本発明の最終目的は、ディスプレイ画面上に表示されるCG映像に対して、通行人の注目度をより向上させることにあり、当該目的を達成する上では、切替前後の画像が完全同一である必要はない。実際、材料データ格納部330内に用意されている背景画像Bkは、リアルタイム映像V1内の個々の時点における背景画像とは正確には一致しないため、図8(a) に示す切替直前のリアルタイム映像V1と、図8(b) に示す切替直後のCG映像V2(動画の初期画像)とは、厳密な意味では同一の画像ではない。
【0144】
このように、切替前後の画像が正確には同一ではなくても、通行人が、切替後に提示されるCG映像の内容を、現実世界の出来事の延長線上の出来事として把握することができれば、通行人に対して臨場感をもった映像提示が可能になり、通行人の注目度を向上させるという作用効果を得ることができる。したがって、本発明を実施する上で、切替前後の画像を厳密に一致させるために大きな労力を費やす必要はない。
【0145】
また、切替前後で、意図的に画質や色相を変えるような方法を採ることも可能である。たとえば、切替直前まではリアルタイム映像V1をモノクロ画像として提示しておき、切替直後はカラーのCG画像V2を提示する、という手法をとってもよい。この場合、図8(a) に示す切替直前のリアルタイム映像V1はモノクロ画像であり、図8(b) に示す切替直後のCG映像V2はカラー画像ということになり、画像としては、もちろん同一ではない。しかしながら、切替前後で描写されている情景は同じであるので、通行人は「モノクロ画像に急に色彩が現れた」という印象をもつであろう。しかも、ディスプレイ画面上に表示されている被写体や背景は変わらないため、やはり臨場感をもった映像提示を行うことができる。
【0146】
<<< §5.映像情報提示方法の手順 >>>
最後に、本発明に係る映像情報提示方法の基本手順を、図22の流れ図を参照しながら説明する。この方法は、通行人の移動経路もしくは立寄場所に設置されたディスプレイ装置200と、このディスプレイ装置200の表示画面を観察中の通行人を撮影するのに適した位置に設置された撮影装置100と、このディスプレイ装置200を制御する制御装置300と、を用いて、通行人に対して映像情報を提示する映像情報提示方法ということになる。ここで、制御装置300は、図22の流れ図に示すように、ステップS1〜S6を順次実行する機能を有する。
【0147】
まず、ステップS1のリアルタイム映像表示開始段階は、撮影装置100によって撮影されたリアルタイム映像V1をディスプレイ装置200に与えて、ディスプレイ装置200の画面上に表示する処理を開始する段階である。図9のタイムチャートでは、時刻t0〜t1の段階ということになる。
【0148】
続く、ステップS2の動体認識段階は、このリアルタイム映像V1の表示が行われているときに、当該リアルタイム映像V1に基づいて動体認識を行う段階である。図9のタイムチャートでは、やはり時刻t0〜t1の段階ということになる。このステップS2において、動体が認識されなかったときは、ステップS3を経て、何度もステップS2が繰り返されることになる。
【0149】
一方、動体認識がなされた場合は、ステップS3からステップS4へと進み、条件判定段階が実行される。この段階では、リアルタイム映像V1上で認識された動体が占める動体領域Aが所定条件を満足するか否かの判定が行われる。具体的な判定条件については、§2で述べたとおりである。このステップS4において、条件満足との判定がなされなかったときは、ステップS5を経て、ステップS2へ戻ることになる。
【0150】
このステップS4の条件判定段階で条件満足との判定がなされたときには、ステップS5を経て、ステップS6のCG映像作成表示段階が実行される。この段階では、CG映像V2を作成し、リアルタイム映像V1の代わりに、作成したCG映像V2をディスプレイ装置200に与え、このディスプレイ装置200の画面上にCG映像V2を表示させる処理が行われる。このCG映像作成表示段階が終了すると、ステップS1のリアルタイム映像表示開始段階へと戻る処理が行われる。
【0151】
ここで重要な点は、ステップS6のCG映像作成表示段階において、「リアルタイム映像V1内の動体画像Mを、撮影装置100の撮影視野に写る背景画像Bk上に配置することにより得られる合成画像」を初期画像とするCG映像が作成される点である。そうすることにより、通行人は、CG映像V2をリアルタイム映像V1に継続した映像と認識し、CG映像V2として提示される内容を、現実世界の出来事の延長線上の出来事として捉えることになる。このため、極めて臨場感の高い映像提示が可能になり、通行人の注目度をより向上させることができる、という作用効果が得られる。
【符号の説明】
【0152】
10:壁
20:壁
30:床
41,42:額絵
43:照明器具
50:飾り壺
60:提示対象物(ボトル)
70:提示対象物(ボトル)
70A:ボトル栓部
70B:ボトル本体部
70C:ボトルラベル部
100:撮影装置
200:ディスプレイ装置
300:制御装置
310:映像切替部
320:CG映像作成部
330:材料データ格納部
340:動体画像切出部
350:動体認識部
360:切替指示部
370:背景画像生成部
A:動体領域
Bk:背景画像
E:CG映像終了信号
G:重心
L:通行人画像の縦寸法
L1〜L5:通行人画像の高さレベル
M:動体画像
P:通行人
S:CG切替信号
S1〜S6:流れ図の各ステップ
t0〜t2:時刻
V:撮影視野
V1:リアルタイム映像
V2:CG映像
Z:検出領域
【技術分野】
【0001】
本発明は、通行人に対して映像情報を提示する映像情報提示装置に関し、特に、不特定多数の者が往来する街頭や公共施設などに設置して、広告その他の情報をディスプレイ画面上で提示する装置に関する。
【背景技術】
【0002】
不特定多数の者が往来する街頭や、駅、空港、ホテル、ショッピングモール、映画館などの公共施設において、通行人に対して広告その他の情報をディスプレイ画面上で提示する映像情報提示装置は古くから利用されている。近年は、デジタル映像を作成し、これを配信する技術が向上したため、コンピュータを利用した様々なデジタル技術を活用して情報提示を行うデジタルサイネージと呼ばれる広告媒体も普及している。
【0003】
たとえば、下記の特許文献1には、ディスプレイ画面上に表示する映像の視野角を制御することにより、観察位置に応じて異なる映像を提示する技術が開示されている。また、特許文献2には、テレビ放送を街頭で提示する際に、時間帯ごとに放送局を切り替え、当該切替時に広告を挿入することにより、広告への誘因頻度を高める技術が開示されている。更に、特許文献3には、利用者自身が入力した文字情報を、街頭に設置したディスプレイ画面上に表示させることにより、注目度を高める技術が開示されており、特許文献4には、ディスプレイ画面上に提示した質問に対する回答を利用者の端末装置経由で収集し、回答の集計結果に基づく広告をディスプレイ画面上に表示することにより、利用者の需要に適合した広告を提示する技術が開示されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開平6−230735号公報
【特許文献2】特開2002−251566号公報
【特許文献3】特開2003−15567号公報
【特許文献4】特開2003−22346号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
不特定多数の者が往来する街頭や公共施設などに映像情報提示装置を設置する目的は、当然ながら、広告その他の提示対象情報を通行人に伝達することにある。街頭に設置された大型ディスプレイ装置を用いた広告提示や、通信技術やCG技術を利用したデジタルサイネージは、当初は物珍しさから注目度も高かったが、最近は様々な場所で頻繁に見かけるようになってきており、今後は陳腐化の一途を辿ることは避けられない。このため、前掲の各特許文献に開示されているような技術を導入することにより、通行人の注目度を高める工夫がなされているが、通行人の注意を引きつける効果がそれほど向上していないのが現状である。特に、商業的な広告情報の提示を行う場合、投資に見合う十分な費用対効果が得られないことは大きな問題になる。
【0006】
そこで本発明は、通行人の注目度をより向上させることが可能な映像情報提示装置を提供することを目的とする。
【課題を解決するための手段】
【0007】
(1) 本発明の第1の態様は、通行人に対して映像情報を提示する映像情報提示装置において、
通行人の移動経路もしくは立寄場所に設置されたディスプレイ装置と、
ディスプレイ装置の表示画面を観察中の通行人を撮影するのに適した位置に設置された撮影装置と、
ディスプレイ装置を制御する制御装置と、
を設け、
制御装置には、
撮影装置によって撮影されたリアルタイム映像に基づいて動体認識を行い、動体が占める動体領域を決定する動体認識部と、
撮影装置によって撮影されたリアルタイム映像における動体領域内の画像を動体画像として切り出す動体画像切出部と、
所定のコンピュータプログラムに基づいてCG映像を作成し、これを提供するCG映像作成部と、
CG映像作成部による映像作成の材料となる材料データを格納した材料データ格納部と、
撮影装置によって撮影されたリアルタイム映像と、CG映像作成部から提供されたCG映像と、のいずれか一方を選択してディスプレイ装置に与え、ディスプレイ装置の画面上に、選択された映像を表示させる映像切替部と、
映像切替部がリアルタイム映像を選択中に、動体認識部によって認識された動体領域が所定条件を満たしたときに、映像切替部およびCG映像作成部に対してCG切替信号を出力する切替指示部と、
を設け、
映像切替部は、初期状態ではリアルタイム映像を選択し、CG切替信号が与えられた時点で選択対象をCG映像に切り替え、選択されたCG映像が終了した時点で再び選択対象をリアルタイム映像に切り替える処理を行い、
材料データ格納部には、少なくとも撮影装置の撮影視野に写る背景画像が材料データとして格納されており、
CG映像作成部は、CG切替信号が与えられたときに、動体画像切出部によって所定の切出位置から切り出された動体画像を背景画像上の上記切出位置に配置することにより得られる合成画像を初期画像とする動画からなるCG映像を作成し、これを映像切替部に与えるようにしたものである。
【0008】
(2) 本発明の第2の態様は、上述の第1の態様に係る映像情報提示装置において、
切替指示部が、映像切替部がリアルタイム映像を選択中において、動体領域の占有面積が所定のしきい値を超えた時点、もしくは当該時点から所定の遅延時間だけ経過した時点で、CG切替信号を出力するようにしたものである。
【0009】
(3) 本発明の第3の態様は、上述の第1の態様に係る映像情報提示装置において、
切替指示部が、映像切替部がリアルタイム映像を選択中において、動体領域の占有面積が所定のしきい値を超えた状態が所定期間にわたって継続した時点、もしくは当該時点から所定の遅延時間だけ経過した時点で、CG切替信号を出力するようにしたものである。
【0010】
(4) 本発明の第4の態様は、上述の第1の態様に係る映像情報提示装置において、
切替指示部が、映像切替部がリアルタイム映像を選択中において、動体領域の重心点が、所定の検出領域内に検出された時点、もしくは当該時点から所定の遅延時間だけ経過した時点で、CG切替信号を出力するようにしたものである。
【0011】
(5) 本発明の第5の態様は、上述の第1の態様に係る映像情報提示装置において、
切替指示部が、映像切替部がリアルタイム映像を選択中において、動体領域の重心点が、所定の検出領域内に位置する状態が所定期間にわたって継続した時点、もしくは当該時点から所定の遅延時間だけ経過した時点で、CG切替信号を出力するようにしたものである。
【0012】
(6) 本発明の第6の態様は、上述の第1〜第5の態様に係る映像情報提示装置において、
CG映像作成部が、作成したCG映像の提供が終了した時点で、映像切替部に対してCG映像終了信号を送信し、
映像切替部が、CG映像終了信号を受けた時点で選択対象をリアルタイム映像に切り替える処理を行うとともに、切替指示部に対してCG映像終了信号を送信し、
切替指示部が、CG映像終了信号の受信により、映像切替部が選択対象をリアルタイム映像に切り替えたことを認識するようにしたものである。
【0013】
(7) 本発明の第7の態様は、上述の第1〜第5の態様に係る映像情報提示装置において、
CG映像作成部が、作成したCG映像の提供が終了した時点で、映像切替部および切替指示部に対してCG映像終了信号を送信し、
映像切替部が、CG映像終了信号を受けた時点で選択対象をリアルタイム映像に切り替える処理を行い、
切替指示部が、CG映像終了信号の受信により、映像切替部が選択対象をリアルタイム映像に切り替えたことを認識するようにしたものである。
【0014】
(8) 本発明の第8の態様は、上述の第1〜第7の態様に係る映像情報提示装置において、
動体認識部が、リアルタイム映像を構成する1コマ1コマの静止画像を構成する個々の画素について、過去の所定サンプル期間内の平均画素値を演算する機能を有し、現時点で得られた現静止画像を構成する個々の画素について、当該画素の現時点の画素値と平均画素値との差を求め、求めた差が所定の基準を超える画素の集合からなる領域を、当該現静止画像についての動体領域と決定するようにしたものである。
【0015】
(9) 本発明の第9の態様は、上述の第1〜第8の態様に係る映像情報提示装置において、
CG映像作成部が、初期画像に含まれていた動体画像が、その同じ位置において別な提示対象物に置き換えられる動画を作成するようにしたものである。
【0016】
(10) 本発明の第10の態様は、上述の第9の態様に係る映像情報提示装置において、
CG映像作成部が、初期画像と同一の背景画像上において、動体画像をフェードアウトし、提示対象物をフェードインすることにより、動体画像から提示対象物への置換が行われる動画を作成するようにしたものである。
【0017】
(11) 本発明の第11の態様は、上述の第9の態様に係る映像情報提示装置において、
CG映像作成部が、初期画像と同一の背景画像上において、動体画像から提示対象物へのモーフィング処理を行うことにより、動体画像から提示対象物への置換が行われる動画を作成するようにしたものである。
【0018】
(12) 本発明の第12の態様は、上述の第1〜第11の態様に係る映像情報提示装置において、
CG映像格納部が、初期画像に含まれていた背景画像が時間的に変化する動画を作成するようにしたものである。
【0019】
(13) 本発明の第13の態様は、上述の第1〜第12の態様に係る映像情報提示装置において、
CG映像作成部が、現時点で得られている、もしくは過去に得られた動体画像の大きさ、形状、姿勢もしくは色彩に関する特徴を抽出し、抽出した特徴に関連した特徴をもった提示対象物が含まれる動画を作成するようにしたものである。
【0020】
(14) 本発明の第14の態様は、上述の第1〜第13の態様に係る映像情報提示装置において、
制御装置が、撮影装置によって撮影されたリアルタイム映像に基づいて、撮影装置の撮影視野に写る背景画像を生成し、生成した背景画像を材料データ格納部に材料データとして格納する処理を行う背景画像生成部を更に有するようにしたものである。
【0021】
(15) 本発明の第15の態様は、上述の第14の態様に係る映像情報提示装置において、
背景画像生成部が、動体認識部によって動体が認識されていない時点におけるリアルタイム映像を背景画像として取り込み、これを材料データ格納部に格納する処理を行うようにしたものである。
【0022】
(16) 本発明の第16の態様は、上述の第14の態様に係る映像情報提示装置において、
背景画像生成部が、リアルタイム映像を構成する1コマ1コマの静止画像を構成する個々の画素について、過去の所定サンプル期間内の平均画素値を演算する機能を有し、当該平均画素値をもった画素の集合からなる静止画像を、背景画像として、材料データ格納部に格納する処理を行うようにしたものである。
【0023】
(17) 本発明の第17の態様は、上述の第1〜16の態様に係る映像情報提示装置における制御装置を、コンピュータにプログラムを組み込むことによって構成するようにしたものである。
【0024】
(18) 本発明の第18の態様は、
通行人の移動経路もしくは立寄場所に設置されたディスプレイ装置と、
ディスプレイ装置の表示画面を観察中の通行人を撮影するのに適した位置に設置された撮影装置と、
ディスプレイ装置を制御する制御装置と、
を用いて、通行人に対して映像情報を提示する映像情報提示方法において、
制御装置が、
撮影装置によって撮影されたリアルタイム映像をディスプレイ装置に与えて、ディスプレイ装置の画面上に表示する処理を開始するリアルタイム映像表示開始段階と、
リアルタイム映像の表示が行われているときに、リアルタイム映像に基づいて動体認識を行う動体認識段階と、
動体認識段階で動体が認識されたときに、映像上で認識された動体が占める動体領域が所定条件を満足するか否かを判定する条件判定段階と、
条件判定段階で条件満足との判定がなされたときに、CG映像を作成し、リアルタイム映像の代わりに、作成したCG映像をディスプレイ装置に与えて、ディスプレイ装置の画面上に表示するCG映像作成表示段階と、
を実行し、CG映像作成表示段階が終了したときに、再びリアルタイム映像表示開始段階へと戻る処理を行い、
CG映像作成表示段階において、リアルタイム映像内の動体画像を撮影装置の撮影視野に写る背景画像上に配置することにより得られる合成画像を初期画像とするCG映像を作成し、これを表示するようにしたものである。
【発明の効果】
【0025】
本発明に係る映像情報提示装置では、通行人自身の映像がリアルタイム映像として撮影されるとともに、CG映像(本来の提示対象映像、たとえば、広告映像)の作成も行われる。そして、ディスプレイ装置の画面上には、リアルタイム映像とCG映像とが切り替えられて表示される。このため、ディスプレイ画面上に自分自身が登場しているリアルタイム映像を認識した通行人は、必然的に当該映像に注意を向けることになる。やがて、リアルタイム映像はCG映像(本来の提示対象映像)に切り替えられるので、通行人の注意が向いた状態で提示対象映像の提示が行われることになり、通行人の注目度をより向上させることができる。
【0026】
リアルタイム映像からCG映像への切り替えは、通行人が写っているリアルタイム映像に対する動体認識処理の結果に基づいて行われるため、通行人がディスプレイ装置の画面に注意を向けるであろうと予想される効果的なタイミングで、CG映像(本来の提示対象映像)の提示を行うことができる。特に、動体領域の占有面積が所定のしきい値を超えた時点をトリガーとする切り替えや、動体領域の重心点が、所定の検出領域内に検出された時点をトリガーとする切り替えを行うと、通行人が映像閲覧に適した位置にきたタイミングで、CG映像への切り替えが可能になる。
【0027】
しかも、CG映像の初期画像は、リアルタイム映像から認識された動体画像を背景画像上に合成した画像であり、リアルタイム映像に非常に近い画像になる。このため、リアルタイム映像からCG映像への切り替えが行われた後も、通行人は、しばらくの間は、リアルタイム映像がそのまま継続して表示されているものと錯覚することになる。したがって、CG映像として提示される内容を、現実世界の出来事の延長線上の出来事として印象づけることができ、極めて臨場感をもった映像提示が可能になり、通行人の注目度をより向上させることができるようになる。
【0028】
特に、広告の対象物など、通行人に対してアピールしたい何らかの提示対象物(たとえば、広告対象となる商品)が存在する場合、CG映像の初期画像に含まれていた動体画像(通行人の画像)が、その同じ位置において当該提示対象物に置き換えられるCG映像を作成するようにすれば、通行人には、自分自身が広告対象商品などの対象物に置き換わる動画を提示することできるので、当該対象物に対して強烈な印象を与えることが可能になる。
【0029】
また、CG映像として、初期画像に含まれていた背景画像が時間的に変化する動画を提示すれば、通行人に対して、現実世界にいる臨場感を与えながら、その背景が変化するという仮想世界の体験を与えることができるようになり、強烈な印象を与えることが可能になる。
【0030】
更に、リアルタイム映像から通行人の大きさ、形状、姿勢もしくは色彩に関する特徴を抽出し、抽出した特徴と関連した特徴をもった提示対象物が含まれるCG映像を作成すれば、リアルタイム映像として撮影された現実世界と、CG映像として提示される仮想世界とが、当該特徴を介して関連性をもつことになるので、通行人の関心を更に高めることができる。
【図面の簡単な説明】
【0031】
【図1】本発明の基本的実施形態に係る映像情報提示装置の構成を示すブロック図である。
【図2】図1に示す映像情報提示装置の撮影装置100とディスプレイ装置200との具体的な位置関係を示す正面図である。
【図3】図2に示す撮影装置100およびディスプレイ装置200の具体的な設置状態を示す上面図である。
【図4】図1に示す映像情報提示装置の撮影装置100によって撮影されたリアルタイム映像V1の一例を示す平面図である。
【図5】図1に示す映像情報提示装置の動体認識部350によって認識された動体領域A(ハッチング部分)を示す平面図である。
【図6】図1に示す映像情報提示装置の材料データ格納部330内に用意されている背景画像Bkを示す平面図である。
【図7】図1に示す映像情報提示装置の動体画像切出部340によって切り出された動体画像M(人物の部分)を示す平面図である。
【図8】図1に示す映像情報提示装置の映像切替部310による切替直前におけるリアルタイム映像V1、切替直後におけるCG映像V2、およびCG映像V2の構成内容を示す平面図である。
【図9】図1に示す映像情報提示装置の映像切替部310の切替動作および切替指示部360の指示動作の例を示すタイミングチャートである。
【図10】図5に示す動体領域Aについての重心Gを示す平面図である。
【図11】図1に示す映像情報提示装置の撮影装置100の撮影視野V内に設定された検出領域Z(ハッチング部分)を示す平面図である。
【図12】図1に示す映像情報提示装置において提示されるCG映像の第1の例を示す平面図である。
【図13】図1に示す映像情報提示装置において提示されるCG映像の第2の例を示す平面図である。
【図14】図1に示す映像情報提示装置において提示されるCG映像の第3の例を示す平面図である。
【図15】図1に示す映像情報提示装置において提示されるCG映像の第4の例を示す平面図である。
【図16】図1に示す映像情報提示装置において提示されるCG映像の第5の例を示す平面図である。
【図17】図1に示す映像情報提示装置において提示されるCG映像の第6の例を示す平面図である。
【図18】図1に示す映像情報提示装置の動体認識部350によって認識された動体領域A(ハッチング部分)の別な例(通行人が姿勢を変えた例)を示す平面図である。
【図19】図18に示す動体領域A(ハッチング部分)に基づいて認識した通行人の姿勢に関する特徴に関連した特徴をもった提示対象物(ボトル)が含まれるCG映像V2の一例を示す平面図である。
【図20】通行人の色彩に関する特徴と提示対象物(ボトル)の色彩に関する特徴との関連性の一例を示す平面図である。
【図21】本発明の変形例に係る映像情報提示装置の構成を示すブロック図である。
【図22】本発明に係る映像情報提示方法の手順を示す流れ図である。
【発明を実施するための形態】
【0032】
以下、本発明を図示する実施形態に基づいて説明する。
【0033】
<<< §1.基本的実施形態の構成および動作 >>>
図1は、本発明の基本的実施形態に係る映像情報提示装置の基本構成を示すブロック図である。図示のとおり、この装置は、撮影装置100、ディスプレイ装置200、制御装置300によって構成され、通行人に対して映像情報を提示する機能を果たす。
【0034】
ここで、ディスプレイ装置200は、通行人の移動経路もしくは立寄場所に設置され、撮影装置100は、このディスプレイ装置200の表示画面を観察中の通行人を撮影するのに適した位置に設置される。図2は、この映像情報提示装置の撮影装置100とディスプレイ装置200との具体的な位置関係を示す正面図である。ディスプレイ装置200は、不特定多数の者が往来する街頭や、駅、空港、ホテル、ショッピングモール、映画館など、様々な場所に設置することが可能である。図には、このディスプレイ装置200の正面を通行しながら、その表示画面を観察している通行人Pが描かれている。撮影装置100は、このように、ディスプレイ装置200の表示画面を観察中の通行人Pを撮影するのに適した位置に設置される。図示の例の場合、ディスプレイ装置200の上部中央に撮影装置100が取り付けられている。
【0035】
撮影装置100は、通行人を撮影して動画からなる映像信号を生成する機能をもった装置であれば、どのような装置を用いてもかまわない。一般的には、動画を撮影して映像データを生成する機能をもったデジタルビデオカメラを用いるのが好ましいが、アナログ式のビデオカメラを用いてもかまわない(この場合、後述する動体認識処理などを行う際には、アナログ映像信号をデジタル映像データに変換する処理が必要になる)。一方、ディスプレイ装置200は、後に詳述する制御装置300から提供される映像信号に基づいて画面上に映像を提示する機能をもった装置であれば、どのような装置を用いてもかまわない。図には、比較的大型の平面型ディスプレイを用いた例が示されているが、提示対象となる映像の内容、提示目的、設置場所などに応じて、任意のサイズの任意の方式のディスプレイ装置を用いることができる。
【0036】
図3は、図2に示す撮影装置100およびディスプレイ装置200の具体的な設置状態を示す上面図である。ここでは、説明の便宜上、撮影装置100およびディスプレイ装置200が、ホテル内の通路に設置されている例を示すことにする。図示のとおり、この通路は、壁10,20によって仕切られており、通行人Pは通路の床30上を歩行することになる。壁10には、壁掛け式のディスプレイ装置200が取り付けられており、その上部中央には撮影装置100が取り付けられている。図の一点鎖線は、この撮影装置100の撮影視野を示しており、壁20を背景として通行人Pが撮影視野内に入っている。
【0037】
図4は、図3に示す撮影視野内の映像を示す平面図である。ここでは、説明の便宜上、壁20には、額絵41,42および照明器具43が取り付けられており、壁20の近傍には、飾り壺50が置かれているものとする。撮影視野内の映像には、これらの物品を含め、壁20および床30を背景として、通行人Pが写っている。当該映像は、撮影装置100によってリアルタイムで撮影された映像であるため、以下、「リアルタイム映像V1」と呼ぶことにする。ここに示す実施形態の場合、撮影装置100としてデジタルビデオカメラを用いており、リアルタイム映像V1は、このデジタルビデオカメラによって撮影された現時点の映像ということになる。
【0038】
続いて、制御装置300の構成および動作を説明する。制御装置300は、図1に一点鎖線で囲った領域内に描かれている各構成要素310〜360を有しており、ディスプレイ装置200を制御する機能を果たす。具体的には、図示のとおり、制御装置300には、映像切替部310、CG映像作成部320、材料データ格納部330、動体画像切出部340、動体認識部350、切替指示部360が設けられている。以下、これらの各構成要素を順に説明する。
【0039】
まず、動体認識部350は、撮影装置100によって撮影されたリアルタイム映像V1に基づいて動体認識を行い、動体が占める動体領域Aを決定する処理を行う構成要素である。図示のとおり、撮影装置100によって得られたリアルタイム映像V1は、動体認識部350へと与えられる。リアルタイム映像V1は、1コマ1コマの静止画像(フレーム)を時系列上に並べることによって構成されており、動体認識部350は、これら時系列上の静止画像を解析し、動体が存在すると予想される動体領域Aを認識する処理を行う。
【0040】
図5は、このような動体認識処理によって認識された動体領域A(ハッチング部分)を示す平面図である。この例の場合、図4に示す通行人Pの部分が動体領域Aとして認識されている。これは、図4に示す壁20,床30,額絵41,42,照明器具43,飾り壷50などが静止しているのに対して、通行人Pが動いているため、通行人Pの部分を動体として認識したためである。
【0041】
このような動体認識のアルゴリズムとしては、たとえば、リアルタイム映像V1を構成する1コマ1コマの静止画像を構成する個々の画素について、過去の所定サンプル期間内の平均画素値を演算し、現時点で得られた現静止画像を構成する個々の画素について、当該画素の現時点の画素値と前記平均画素値との差を求め、求めた差が所定の基準を超える画素の集合からなる領域を、当該現静止画像についての動体領域と決定する、という手法が利用されている。
【0042】
具体的には、図4に示す映像V1の場合、たとえば、額絵41の位置にある各画素については、所定サンプル期間を適当に決めてやれば、現時点の画素値と過去の所定サンプル期間内の平均画素値との差は、ほとんど零であろう。これに対して、通行人Pの位置にある各画素については、通行人Pが現れてからの画素値と過去の所定サンプル期間内の平均画素値との差は、かなり大きくなる。したがって、当該差が所定の基準を超える画素の集合からなる領域を、動体領域Aとして抽出すれば、図5に示す例のように、通行人Pの部分が動体領域Aとして抽出できる。
【0043】
なお、カラー画像の場合、三原色についての三次元色空間内に、個々の画素値(三原色を示す3つの画素値)に対応する座標点をプロットし、2つの座標点間のユークリッド距離を、両画素値の差と定義するような手法を採ればよい。
【0044】
所定サンプル期間としては、たとえば、過去10時間というような設定を行うこともできるし、過去1ヶ月間というような長期設定を行うこともできる。サンプル期間内の平均画素値をもった画素によって構成される画像は、結局、図6に示すような背景画像Bkに対応する画像になる。背景が不変であるという前提であれば、サンプル期間を長く設定すればするほど、得られる背景画像Bkの精度は高くなる。したがって、図示の例のように、室内であって、その照明環境が24時間不変であるような場合には、サンプル期間はできるだけ長く設定した方がよい。逆に、屋外の場合、あるいは室内であっても照明環境が変化するような場合には、あまり長いサンプル期間を設定すると、かえって得られる背景画像Bkの精度は低下してしまう。このような場合は、たとえば、過去30分間というようなサンプル期間を設定するのが望ましい。
【0045】
このように、一般的な動体認識処理は、時系列的に連続する多数の静止画像の各画素の画素値の変動を調べ、過去のサンプル期間内の平均画素値に対する画素値の変動が所定の許容範囲内である画素は背景領域の画素と判断し、画素値の変動が許容範囲を超える画素は動体領域の画素と判断する、という基本原理に基づくものである。このような動体認識の具体的方法は、様々な分野で実用化されている公知の技術であるため、ここでは詳しい説明は省略する。
【0046】
図1に示す制御装置300において、動体認識部350によって動体領域Aが認識されると、当該動体領域Aを示す情報は、動体画像切出部340および切替指示部360に与えられる。もちろん、撮影装置100によって撮影されたリアルタイム映像V1が、図6に示すような背景画像Bkであった場合(すなわち、通行人Pが誰もいない場合)、動体領域Aの認識は行われない。
【0047】
動体画像切出部340は、動体認識部350によって認識された動体領域Aを利用して、撮影装置100によって撮影されたリアルタイム映像V1における動体領域A内の画像を動体画像Mとして切り出す処理を行う。たとえば、図5に示すような動体領域A(ハッチング部分)が認識された場合、図4に示すリアルタイム映像V1から、動体領域Aに対応する部分を切り出し、図7に示すような動体画像Mを生成する処理が行われる。なお、ここに示す実施形態の場合、この動体画像Mには、画像自体の情報(個々の画素の画素値)に、全画像領域に対する切出位置情報(図7に示す破線枠に対する人物部分の相対的な位置情報)が付加されている。
【0048】
動体認識部350も、動体画像切出部340も、リアルタイム映像V1に含まれる1コマ1コマの静止画像のそれぞれに対して、それぞれ動体認識処理および動体画像切出処理を実行する。したがって、図5に示すような動体領域Aは、1コマ1コマの静止画像のそれぞれについて生成され、当該動体領域Aを用いた切り出し処理も、1コマ1コマの静止画像のそれぞれについて実行されることになるので、図7に示す動体画像Mも、1コマ1コマの静止画像のそれぞれに対応して生成されることになる。結局、こうして得られた動体画像Mは、動体部分(通行人P)のみを抽出したリアルタイムの動画を構成することになる。
【0049】
もちろん、上記処理は、必ずしもリアルタイム映像V1に含まれる1コマ1コマの静止画像のすべてに対して行う必要はなく、必要に応じて、コマを間引いて、たとえば、5コマごとに行う、というようにしてもかまわない。ただ、このような間引きを行うと、得られる動体画像Mによって構成される動画がコマ落ちした動画となるため、実用上は、1コマ1コマの静止画像のすべてに対して動体画像Mを切り出す処理を行うのが好ましい。
【0050】
一方、CG映像作成部320は、所定のコンピュータプログラムに基づいてCG映像V2を作成し、これを提供する機能を果たし、材料データ格納部330は、このCG映像作成部320による映像作成の材料となる材料データを格納する機能を果たす。この材料データ格納部330には、CG映像V2を作成するための様々な材料データを用意しておくことができるが、少なくとも、撮影装置100の撮影視野に写る背景画像Bkを材料データとして格納しておく必要がある。したがって、図示の実施形態の場合、少なくとも、図6に示すような背景画像Bkが材料データとして格納されていることになる。
【0051】
なお、日照環境や照明環境が時間に応じて変動する場合、撮影装置100の撮影視野に写る背景画像Bkも時間に応じて変動することになるので、この場合は、時間帯ごとにそれぞれ異なる複数通りの背景画像Bkを用意しておき、CG映像作成部320が、その時刻に応じて、該当する背景画像Bkを利用してCG画像V2を作成するようにすればよい。たとえば、朝/昼/夜の3通りの背景画像Bkを用意した場合、午前8:00には、朝の背景画像Bkを利用してCG画像の作成が行われることになる。
【0052】
CG映像作成部320が作成するCG映像V2は、この映像情報提示装置によって、通行人に対して提示すべき本来の映像であり、たとえば、商品の広告情報などの映像である。材料データ格納部330内には、予め、提示対象となるCG映像V2の作成に必要な様々な材料データを用意しておくことになる。商品の広告映像の場合、たとえば、当該商品の画像やキャッチコピーなどが、材料データ格納部330内に材料データとして用意されることになる。もちろん、CG映像V2の上映時間は任意に設定できる。
【0053】
映像切替部310は、撮影装置100によって撮影されたリアルタイム映像V1と、CG映像作成部320から提供されたCG映像V2と、のいずれか一方を選択してディスプレイ装置200に与え、ディスプレイ装置200の画面上に、選択された映像を表示させる機能を果たす。より具体的には、映像切替部310は、初期状態(たとえば、この制御装置300を起動した時点や、リセットした時点)ではリアルタイム映像V1を選択し、切替指示部360からCG切替信号Sが与えられた時点で選択対象をCG映像V2に切り替え、この選択されたCG映像V2が終了した時点で再び選択対象をリアルタイム映像V1に切り替える処理を行う。結局、ディスプレイ装置200の画面上には、リアルタイム映像V1とCG映像V2とが交互に表示されることになる。
【0054】
ここに示す基本的実施形態では、CG映像作成部320が、作成したCG映像V2の提供が終了した時点で、映像切替部310に対してCG映像終了信号Eを送信する。このCG映像終了信号Eは、必ずしも実体のある信号である必要はなく、映像切替部310に対して、今まで提供していたCG映像の上映が終了したことを示す信号であれば、どのような信号であってもかまわない。たとえば、「実体的な映像データを何も送信しない」ことによって、映像切替部310に対して、CG映像の上映が終了したことを示すようにしてもよい。
【0055】
切替指示部360は、映像切替部310に対して、CG切替信号Sを与えるための構成要素であり、映像切替部310によるリアルタイム映像V1からCG映像V2への切替処理のタイミングを決定する機能を果たす。具体的には、映像切替部310がリアルタイム映像V1を選択中に、動体認識部350によって認識された動体領域Aが所定条件(具体的な条件については、§2で詳述する)を満たしたときに、映像切替部310およびCG映像作成部320に対してCG切替信号Sを出力する。映像切替部310は、このCG切替信号Sを受けたときに、リアルタイム映像V1からCG映像V2への切替処理を実行する。
【0056】
一方、CG映像作成部320は、このCG切替信号Sが与えられると、予め組み込まれていた所定のコンピュータプログラムに基づいて、提示対象となる所定のCG映像V2(たとえば、広告映像)を作成し、これを映像切替部310に与え、その上映が終了した時点でCG映像終了信号Eを送信する。ここで重要な点は、このCG映像作成部320が作成するCG映像V2は、動画からなる映像であり、しかも、その初期画像が、動体画像切出部340によって所定の切出位置から切り出された動体画像Mを、材料データ格納部330内に格納されている背景画像Bk上の上記切出位置に配置することにより得られる合成画像である点である。
【0057】
図1に示すとおり、CG映像作成部320には、動体画像切出部340によって切り出された動体画像Mが与えられているので、材料データ格納部330内に格納されている背景画像Bk(たとえば、図6に示す画像)の上に、この動体画像M(たとえば、図7に示す画像)を重畳すれば、図4に示すリアルタイム映像V1と同等のCG映像V2を作成することができる。
【0058】
図8は、図1に示す映像情報提示装置の映像切替部310による切替直前におけるリアルタイム映像V1、切替直後におけるCG映像V2、およびこのCG映像V2の構成内容を示す平面図である。図8(a) は、切替直前におけるリアルタイム映像V1を示しており、撮影装置100によって撮影された映像をそのままディスプレイ装置200の画面上に表示したものである。この映像における通行人Pは、撮影装置100によって撮影された現時点の実在の通行人であり、その背景にある額絵41,42などの背景も、撮影装置100によって撮影された現時点の実在の物体である。
【0059】
これに対して、図8(b) は、切替直後におけるCG映像V2を示しており、CG映像作成部320によって作成された動画の初期画像である。切替前後の画像を比べると、内容は全く同じに見えるが、図8(a) が実写に基づくリアルタイム映像V1であるのに対して、図8(b) はコンピュータで合成されたCG映像V2ということになる。図8の下段に示すとおり、この図8(b) に示すCG映像V2は、材料データ格納部330内に格納されている背景画像Bkの上に、動体画像切出部340によって切り出された動体画像Mを重畳して得られた合成画像である。
【0060】
前述したとおり、動体画像Mは、図7に示すように、切出位置情報を含んでいるため、この切出位置情報を考慮して背景画像Bkの上に合成すれば(すなわち、図7の破線枠が、図6の背景画像Bkの画像枠に重なるように合成すれば)、リアルタイム映像V1と全く同じ位置に通行人Pが配置されたCG映像V2を作成することができる。映像切替部310が、CG映像V2を選択している間も、動体画像切出部340および動体認識部350には、引き続き、撮影装置100によって撮影されたリアルタイム映像V1が与えられるので、動体画像Mは、現時点の通行人Pの映像を示すものになる。
【0061】
したがって、通行人Pから見ると、ディスプレイ装置200上の表示が、図8(b) に示すようなCG映像V2に切り替わった後も、自分自身の動きに同期して映像内の通行人Pも動くことになるので、引き続き、リアルタイム映像V1を観察しているような錯覚を抱くことになる。すなわち、ディスプレイ画面200上の表示が、図8(a) に示すリアルタイム映像V1から、図8(b) に示すCG映像に切り替わっても、通行人Pの観点では、何ら変化は生じていないのである。これが、本発明の重要な特徴である。
【0062】
ディスプレイ装置200の近傍を通りかかった通行人Pは、まず、ディスプレイの画面上に自分自身が登場しているリアルタイム映像V1を認識する。通常、ディスプレイ装置200の前を通りかかった通行人Pにとって、自分には直接関係のない情報しか含まない広告映像などが表示されていたとしても、それほど注意を引くものではない。ところが、現在通行中の場所を背景として自分自身が写っているリアルタイム映像V1は、極めて関心の高い情報になる。多くの通行人は、ディスプレイ画面上に自分自身が登場している映像を認識した時点で、ディスプレイ画面を注視することになろう。本発明では、こうして、通行人の注意を画面上に誘導した状態で、リアルタイム映像V1からCG映像V2へと切り替え、CG映像V2によって、本来提示すべき情報(広告情報など)を通行人に提示するのである。
【0063】
図8(b) には、切替直後のCG映像V2しか示されていないが、このCG映像V2は、撮影装置100によって撮影された実写映像ではなく、CG映像作成部320によって作成された動画映像であるため、CG映像作成部320内に用意されたプログラムおよび材料データ格納部330内に用意された材料データ次第で、切替後に任意の映像に変化させてゆくことができる。なお、より効果的な情報提示を行うための具体的なCG映像V2の例については、§3で詳述する。
【0064】
以上、図1のブロック図を参照しながら、本発明の基本的実施形態に係る映像情報提示装置の基本構成および基本動作を説明したが、図に、制御装置300として示す構成要素は、実際には、コンピュータに所定のプログラムを組み込むことによって実現することができる。
【0065】
図1にブロックとして示す各構成要素のうち、ディスプレイ装置200は、たとえば、通行人に映像を提示するのに適した場所に設置する必要があり、撮影装置100は、この通行人を撮影するのに適した場所に設置する必要があるが、制御装置300は、コンピュータによって構成することができるので、たとえば、ディスプレイ装置200のフレーム内に組み込むことも可能である。もちろん、撮影装置100と制御装置300との間や、ディスプレイ装置200と制御装置300との間は、LANやインターネットを介した接続が可能であるので、制御装置300は、ディスプレイ装置200や撮影装置100の設置場所に対する遠隔地に設置してもかまわない。あるいは、制御装置300を構成する一部の要素(たとえば、材料データ格納部330)だけを、他の構成要素に対する遠隔地に設置することも可能である。たとえば、材料データ格納部330を、画像データサーバによって構成し、CG映像作成部320が、ネットワーク経由で、種々の材料データを読み込んで用いるようにしてもよい。
【0066】
<<< §2.映像の切替タイミング >>>
既に§1で述べたとおり、図1に示す映像情報提示装置では、映像切替部310による切替動作によって、ディスプレイ装置200の画面上には、リアルタイム映像V1とCG映像V2とが交互に表示されることになる。ここで、リアルタイム映像V1からCG映像V2への切り替えは、切替指示部360から与えられるCG切替信号Sに基づいて行われ、CG映像V2からリアルタイム映像V1への切り替えは、CG映像作成部320から与えられるCG映像終了信号Eに基づいて行われる。
【0067】
図9は、映像切替部310の切替動作および切替指示部360の指示動作の例を示すタイミングチャートである。いずれも図の水平方向は時間軸(右方向が正)を示しており、図の上段(a) は、映像切替部310の動作を示し、下段(b) は、切替指示部360の動作を示している。
【0068】
図示のとおり、初期状態の時刻t0の時点では、映像切替部310はリアルタイム映像V1を選択した状態にあり、時刻t1において、切替指示部360からCG切替信号Sが与えられるまで、リアルタイム映像V1の選択状態が継続する。時刻t1において、切替指示部360からCG切替信号Sが出力されると、映像切替部310の選択対象は、CG映像V2に切り替わり、ディスプレイ画面上にはCG映像V2が表示される。CG切替信号Sは、CG映像作成部320にも与えられるので、CG映像の作成は、時刻t1から開始されることになる。
【0069】
やがて、時刻t2になると、CG映像作成部320から映像切替部310に対して、CG映像終了信号Eが与えられ、映像切替部310の選択対象は、リアルタイム映像V1に切り替わり、ディスプレイ画面上には再びリアルタイム映像V1が表示される。このとき、CG映像終了信号Eは、映像切替部310から切替指示部360へと伝達される。以下、同様にして、CG切替信号Sが与えられたタイミングでCG映像V2への切り替えが行われ、CG映像終了信号Eが与えられたタイミングでリアルタイム映像V1への切り替えが行われ、......という動作が繰り返されてゆく。
【0070】
ここで、CG映像作成部320からCG映像終了信号Eが出力されるタイミングは、CG映像作成部320によるCG映像V2の提供(上映)が終了した時点である。たとえば、CG映像作成部320に組み込まれているプログラムが、15秒間の広告動画をCG映像V2として作成する機能をもっていた場合、当該15秒間の広告動画の上映時間が終了した時点で、CG映像終了信号Eが出力されることになる。。
【0071】
前述したとおり、CG映像終了信号Eは、必ずしも実体のある信号である必要はなく、「実体的な映像データを何も送信しない」ことにより、CG映像の終了を映像切替部310に伝達することも可能である。このような方法を採る場合、CG映像作成部320は、積極的にCG映像終了信号Eを出力する必要はなく、単に、提供対象となるCG映像V2の映像データを映像切替部310に時間軸に沿って送信するだけの処理を行えばよい。映像切替部310は、CG映像作成部320からの映像データが途切れた時点で、CG映像終了信号Eが与えられたものと判断し、CG映像V2からリアルタイム映像V1への切り替えを行えばよい。
【0072】
一方、切替指示部360がCG切替信号Sを出力するタイミングは、動体認識部350によって認識された動体領域Aに基づいて決定される。§1で述べたとおり、切替指示部360は、映像切替部310がリアルタイム映像V1を選択中に、動体認識部350によって認識された動体領域Aが所定条件を満たしているか否かの条件判定を行う機能を有している。図9のタイミングチャートに示されているとおり、切替指示部360は、初期時点t0もしくはCG映像終了信号Eが与えられた時点t2から条件判定処理を開始し、現時点で動体認識部350から与えられた動体領域Aが所定条件を満たしているか否かの条件判定を行う。そして、条件満足との判定が得られた時点で、CG切替信号Sを出力するとともに、条件判定処理を休止する。したがって、映像切替部310がCG映像V2を選択している期間中(図の場合、時刻t1〜t2)は、CG切替信号Sが出力されることはない。
【0073】
図9のタイミングチャートにおける時刻t1の切替時点の前後にディスプレイ画面上に表示される映像は、図8(a) ,(b) に示すようなものになる。すなわち、切替時刻t1の直前には、図8(a) に示すようなリアルタイム映像V1が表示されており、切替時刻t1の直後には、図8(b) に示すようなCG映像V2が表示されている。したがって、前述したとおり、この切替動作の前後の映像は、観察者から見る限り同一であるが、切替前がリアルタイム映像V1(実写映像)であるのに対し、切替後はCG映像V2(コンピュータによって作成された映像)となっている。このため、時刻t1以降は、実写映像とは無関係に、プログラムに応じた任意の映像を提示することが可能になる。そして、当該任意の映像こそが、本来、通行人に対して提示すべき映像(たとえば、広告映像)であり、通行人に注視してもらいたい映像である。
【0074】
したがって、「通行人にCG映像V2を提示する」という本来の目的を達成するためには、「通行人がディスプレイ画面上に注意を向けたタイミング」で、CG映像V2への切替処理を行うのが好ましい。すなわち、図9のタイミングチャートにおいて、CG切替信号Sを出力する時刻t1を、通行人がディスプレイ画面上に注意を向けたと推定されるタイミングに設定するのが好ましい。本発明では、当該タイミングを決めるために、動体認識部350によって認識された動体領域Aを利用する。具体的には、動体領域Aが所定条件を満たした時点を、「通行人がディスプレイ画面上に注意を向けた時点」と推定し、CG切替信号Sを出力する処理が行われる。
【0075】
このように、切替指示部360は、映像切替部310がリアルタイム映像V1を選択中に、動体認識部350によって認識された動体領域Aが所定条件を満たしたときに、映像切替部310およびCG映像作成部320に対してCG切替信号Sを出力する処理を行う構成要素である。ここで、所定条件としては、動体領域Aとしてリアルタイム映像V1上に現れている通行人が、ディスプレイ画面上に注意を向けていると推定できる何らかの条件を設定しておけばよい。ここでは、いくつかの具体的な条件設定の例を以下に掲げておく。
【0076】
(1) 第1の条件設定例
最も単純な条件は、「動体領域Aの占有面積が所定のしきい値を超えること」という条件である。たとえば、図5に示すように、ハッチングを施して示した部分が動体領域Aとして認識された場合、当該動体領域Aの面積(画素数)を求め、当該面積が所定のしきい値を超えた場合に、条件満足との判定を行い、CG切替信号Sを出力すればよい。具体的には、たとえば、「全映像領域の面積を100%としたときに、動体領域Aの占有面積が20%を超えたら、CG切替信号Sを出力する。」といった処理を行えばよい。
【0077】
動体領域Aの占有面積が大きくなればなるほど、通行人Pはディスプレイ装置200に接近した位置に存在すると推定され、それだけディスプレイ画面上に注意を向けていると推定できる。もちろん、通行人が複数存在する場合は、動体領域Aは、これら複数の通行人に対応する領域になるため、それほどディスプレイ装置200に近づいていなくても、その占有面積がしきい値を超える可能性がある。ただ、その場合も、多数の通行人がディスプレイ画面上を閲覧していることになるので、そのうちの何人かがディスプレイ画面上に注意を向けている可能性が高くなり、やはりCG切替信号Sを出力して、CG映像V2に切り替えることに合理的な意味があることになる。このように、「動体領域Aの占有面積が所定のしきい値を超えること」という条件は、CG映像V2に切り替える条件として、非常に合理的な条件ということができる。
【0078】
なお、実用上は、「動体領域Aの占有面積が所定のしきい値を超えた時点」で直ちにCG切替信号Sを出力する代わりに、当該時点から所定の遅延時間だけ経過した時点で、CG切替信号Sを出力するようにしてもかまわない。具体的には、たとえば「動体領域Aの占有面積が全映像領域の面積の20%を超えた時点から5秒経過すること」という条件設定をしておけばよい。たとえば、通行人がディスプレイ画面上を注視した瞬間にCG映像V2に切り替えるよりも、しばらくの間、当該通行人に自分自身が写ったリアルタイム映像V1を提示してから、CG映像V2に切り替えた方がより効果的である場合には、占有面積が所定のしきい値を超えた時点から所定の遅延時間だけ経過した時点で切り替えを行った方が好ましい。
【0079】
要するに、この第1の条件設定例の場合、切替指示部360は、映像切替部310がリアルタイム映像V1を選択中において、動体領域Aの占有面積が所定のしきい値を超えた時点、もしくは当該時点から所定の遅延時間だけ経過した時点で、CG切替信号Sを出力する処理を行えばよい。
【0080】
(2) 第2の条件設定例
動体領域Aは、通行人の視線方向の情報まで正確に与えるものではないので、ディスプレイ画面とは無関係な方向を向いた通行人が、たまたまディスプレイ画面の近くを通り過ぎた場合にも、「動体領域Aの占有面積が所定のしきい値を超えること」という条件が満たされてしまうケースもあり得る。ここで述べる第2の条件設定例は、そのようなケースも考慮して、より正確な判定が可能になるように上記第1の条件設定に若干修正を加えたものである。
【0081】
すなわち、この例では、「動体領域Aの占有面積が所定のしきい値を超えた状態が所定期間にわたって継続すること」という条件設定がなされる。たとえば、占有面積に関するしきい値として「全映像領域の面積の20%」という値を設定した場合でも「動体領域Aの占有面積が一瞬だけ20%を超えた」というようなケースは、条件を満足したとは判定されないことになる。条件満足のための継続時間として、たとえば、「5秒」という時間を設定した場合、「動体領域Aの占有面積が20%を超えた状態が継続して5秒続いた」ときに、はじめて条件満足との判定がなされることになる。
【0082】
このような条件設定を行えば、通行人が、たまたまディスプレイ画面の近くを通り過ぎたようなケースでは、条件満足との判定はなされないことになる。通行人が、ディスプレイ画面上に注意を向けているとすれば、ある程度継続して、ディスプレイ画面の近くに滞在することが予想されるので、上記条件は、より正確な判定を行うためのより合理的な条件ということができる。
【0083】
この場合も、実用上は、「動体領域Aの占有面積が所定のしきい値を超えた状態が所定期間にわたって継続した時点」で直ちにCG切替信号Sを出力する代わりに、当該時点から所定の遅延時間だけ経過した時点で、CG切替信号Sを出力するようにしてもかまわない。具体的には、たとえば「動体領域Aの占有面積が20%を超えた状態が継続して5秒継続した時点から、更に5秒経過すること」という条件設定をしておけばよい。
【0084】
要するに、この第2の条件設定例の場合、切替指示部360は、映像切替部310がリアルタイム映像V1を選択中において、動体領域Aの占有面積が所定のしきい値を超えた状態が所定期間にわたって継続した時点、もしくは当該時点から所定の遅延時間だけ経過した時点で、CG切替信号Sを出力する処理を行えばよい。
【0085】
(3) 第3の条件設定例
これまで述べた条件は、「動体領域Aの占有面積」を基準とした条件であるが、ここで述べる条件は、「動体領域Aの位置」を基準とした条件ということができる。一般論として、通行人Pがディスプレイ画面の端に立っている場合よりも、ディスプレイ画面の中央に立っている場合の方が、画面に注意を向けていると推定できる。したがって、動体領域Aが、全映像領域の中央に位置していた場合に、当該動体領域Aに対応する通行人が画面に注意を向けていると推定することは非常に合理的である。
【0086】
また、ディスプレイ装置200を設置した具体的環境によっては、最もディスプレイ画面を落ち着いて観察できる特定の場所が存在するケースもあり得る。たとえば、他の通行人の邪魔にならないような特定の観察場所があれば、そのような観察場所に立っている通行人は、ディスプレイ画面に注意を向けている可能性が高い。しかも、そのような特定の観察場所に立っている通行人の位置は、必ずしもディスプレイ画面の中央位置とは限らない。
【0087】
そこで、ここで述べる例では、「動体領域Aの重心点Gが、所定の検出領域Z内に検出されること」という条件を設定する。ここで、「動体領域Aの重心点G」は、通行人の代表位置を示し、「所定の検出領域Z」は、通行人が当該領域付近に居る場合にディスプレイ画面に注意を向けている可能性が高いと推定される領域を示す。
【0088】
図10は、図5に示す動体領域Aについての重心Gを示す平面図である。このような重心Gの位置は、動体領域Aを構成する各画素の座標値に基づく幾何学演算によって算出することができる。一方、図11は、撮影装置100の撮影視野V内に設定された検出領域Z(ハッチング部分)を示す平面図である。ここで、検出領域Zは、通行人が当該領域付近に居る場合にディスプレイ画面に注意を向けている可能性が高いと推定される領域であり、図示の例の場合、撮影視野Vの中央付近に設定されている。これは、上述したように、通行人が、ディスプレイ画面の中央正面に立っている場合、当該通行人が画面に注意を向けている可能性が高い、という推定に基づくものである。
【0089】
このような条件設定をした場合、切替指示部360は、リアルタイム映像V1が選択されている期間中、動体認識部350から与えられる動体領域Aの重心Gを演算により求め、この重心Gが、図11に示す検出領域Z内に入るか否かを判定する処理を行うことになる。そして、重心Gが検出領域Z内に入ると判定された場合は、条件が満足されたものとして、CG切替信号Sを出力することになる。
【0090】
この場合も、実用上は、「動体領域Aの重心点Gが、所定の検出領域Z内に検出された時点」で直ちにCG切替信号Sを出力する代わりに、当該時点から所定の遅延時間だけ経過した時点で、CG切替信号Sを出力するようにしてもかまわない。
【0091】
要するに、この第3の条件設定例の場合、切替指示部360は、映像切替部310がリアルタイム映像V1を選択中において、動体領域Aの重心点Gが、所定の検出領域Z内に検出された時点、もしくは当該時点から所定の遅延時間だけ経過した時点で、CG切替信号Sを出力する処理を行えばよい。
【0092】
(4) 第4の条件設定例
上述した第3の条件設定例の場合も、ディスプレイ画面とは無関係な方向を向いた通行人が、たまたまディスプレイ画面の近くを通り過ぎた場合にも、条件満足との判定がなされてしまうケースもあり得る。ここで述べる第4の条件設定例は、そのようなケースも考慮して、より正確な判定が可能になるように上記第3の条件設定に若干修正を加えたものである。
【0093】
すなわち、この例では、「動体領域Aの重心点Gが、所定の検出領域Z内に位置する状態が所定期間にわたって継続すること」という条件設定がなされる。たとえば、図10に示すような動体領域Aが得られ、その重心Gが、図11に示す検出領域Z内に入っていたとしても、それだけでは条件満足との判定はなされないことになる。条件満足のための継続時間として、たとえば、「5秒」という時間を設定した場合、「重心Gが検出領域Z内に位置する状態が継続して5秒続いた」ときに、はじめて条件満足との判定がなされることになる。
【0094】
このような条件設定を行えば、通行人が、たまたま検出領域Zに対応する場所を通り過ぎたようなケースでは、条件満足との判定はなされないことになる。通行人が、ディスプレイ画面上に注意を向けているとすれば、ある程度継続して、検出領域Zに対応する場所に滞在することが予想されるので、上記条件は、より正確な判定を行うためのより合理的な条件ということができる。
【0095】
この場合も、実用上は、「動体領域Aの重心点Gが、所定の検出領域Z内に位置する状態が所定期間にわたって継続した時点」で直ちにCG切替信号Sを出力する代わりに、当該時点から所定の遅延時間だけ経過した時点で、CG切替信号Sを出力するようにしてもかまわない。
【0096】
要するに、この第4の条件設定例の場合、切替指示部360は、映像切替部310がリアルタイム映像V1を選択中において、動体領域Aの重心点Gが、所定の検出領域Z内に位置する状態が所定期間にわたって継続した時点、もしくは当該時点から所定の遅延時間だけ経過した時点で、CG切替信号を出力する処理を行えばよい。
【0097】
以上、切替指示部360によって行われる条件判定処理を4つの具体例を掲げて説明したが、もちろん、実際には、この他にも様々な条件設定を行うことが可能である。動体領域Aとしてリアルタイム映像V1上に現れている通行人が、ディスプレイ画面上に注意を向けていると推定できる条件であれば、どのような条件を設定してもかまわない。
【0098】
このように、本発明では、リアルタイム映像V1からCG映像V2への切り替えが、通行人が写っているリアルタイム映像V1に対する動体認識処理の結果に基づいて行われるため、通行人がディスプレイ装置の画面に注意を向けるであろうと予想される効果的なタイミングで、CG映像(本来の提示対象映像)の提示を行うことができる。特に、上例のように、動体領域Aの占有面積が所定のしきい値を超えた時点をトリガーとする切り替えや、動体領域Aの重心Gが、所定の検出領域Z内に検出された時点をトリガーとする切り替えを行うと、通行人が映像閲覧に適した位置にきたタイミングで、CG映像への切り替えが可能になる。
【0099】
なお、図9のタイミングチャートに示されているとおり、切替指示部360による条件判定処理は、映像切替部310がリアルタイム映像V1を選択している期間のみ行われ、CG映像V2を選択している期間は、条件判定処理は休止される。したがって、図示の例の場合、時刻t1〜t2の期間、通行人にCG映像V2を提示した後、時刻t2で再びリアルタイム映像V1の提示に切り替わることになり、この時点から条件判定処理が再開されることになる。
【0100】
この場合、通行人が時刻t1〜t2まで、ずっと同じ場所でディスプレイ画面を閲覧していたとすると、時刻t2以後の条件判定で再び条件満足との判定がなされることになる。このため、上述した第1の条件設定例を採り、「動体領域Aの占有面積が所定のしきい値を超えた時点」で直ちにCG切替信号Sを出力すると、時刻t2の直後に条件満足との判定がなされ、時刻t2において、ほんと一瞬だけリアルタイム映像V1が提示された後、再び、CG映像V2の提示が始まることになる。これは、第3の条件設定例を採り、「動体領域Aの重心点Gが、所定の検出領域Z内に検出された時点」で直ちにCG切替信号Sを出力した場合も同様である。
【0101】
このように、時刻t2において、一瞬だけリアルタイム映像V1が提示されるような事態を避けたい場合には、上述したとおり、各時点から所定の遅延時間だけ経過した時点で、CG切替信号Sを出力するようにすればよい。あるいは、上述した第2の条件設定例や第4の条件設定例を採るようにすればよい。
【0102】
<<< §3.CG映像の具体例 >>>
ここでは、CG映像作成部320によって作成されるCG映像V2の具体例をいくつか述べておく。前述したとおり、CG映像作成部320には、CG映像V2を作成する処理を行うためのプログラムが用意されている。当該プログラムは、材料データ格納部330内に格納されている材料データを利用して、情報提供主(たとえば、広告主)が通行人に提示したいと考えている情報をもったCG映像V2を作成する機能を有している。したがって、作成されるCG映像V2の具体的な内容は、情報提供主との相談によって決められるべきものであるが、本発明におけるCG映像V2は、少なくとも特定の条件を満たす画像を初期画像とする動画である必要がある。すなわち、その初期画像は「動体画像切出部340によって所定の切出位置から切り出された動体画像Mを、材料データ格納部330に格納されていた背景画像上の前記切出位置に配置することにより得られる合成画像」である必要がある。
【0103】
CG映像V2に切り替わった時点で提示される初期画像に、このような条件を付加するのは、切替直前に提示されていたリアルタイム映像V1との連続性を確保するためである。図8に示す例の場合、通行人Pから見ると、ディスプレイ装置200上の表示が、図8(a) に示すリアルタイム映像V1から図8(b) に示すCG映像V2に切り替わっても、引き続き、リアルタイム映像V1を観察しているような錯覚を抱くことになる。前述したとおり、通行人Pにとって、自分には直接関係のない情報しか含まない広告映像などが突然表示されたとしても、それほど注意を引くものではない。ところが、現在通行中の場所を背景として自分自身が写っているリアルタイム映像V1は、極めて関心の高い情報になる。そこで、このリアルタイム映像V1に対して連続性をもたせたCG映像V2を提示すれば、通行人Pは、リアルタイム映像V1と同等の関心をもって、CG映像V2を引き続き閲覧する可能性が高い。
【0104】
CG映像V2の初期画像は、リアルタイム映像V1から認識された動体画像M1を背景画像Bk上に合成した画像であり、リアルタイム映像V1に非常に近い画像になる。このため、映像の切り替えが行われた後も、通行人Pは、しばらくの間は、リアルタイム映像V1がそのまま継続して表示されているものと錯覚することになる。したがって、CG映像V2として提示される内容を、現実世界の出来事の延長線上の出来事として印象づけることができ、臨場感をもった映像提示が可能になり、通行人の注目度をより向上させることができるようになる。
【0105】
図8(b) は、切替直後のCG映像V2であるため、その内容は、図8(a) に示す切替直前のリアルタイム映像と同じものである。しかしながら、このCG映像V2は、撮影装置100によって撮影された実写映像ではなく、CG映像作成部320によって作成された動画映像であるため、CG映像作成部320内に用意されたプログラムおよび材料データ格納部330内に用意された材料データ次第で、切替後に任意の映像に変化させてゆくことができる。CG映像V2の内容をどのように変化させてゆくかは、前述のとおり、広告主等の意向に応じて決定されるべき事項であるが、ここでは、切替直前に提示されていたリアルタイム映像V1との連続性を確保する上で好ましいと思われる、いくつかの実施形態を例示しておく。
【0106】
(1) CG映像の第1の実施形態
ここで述べる第1の実施形態は、「初期画像に含まれていた動体画像が、その同じ位置において別な提示対象物に置き換えられる動画」からなるCG映像というべきものである。たとえば、図8(b) に示すCG映像(切替直後の初期画像)の場合、通行人Pの部分は、動体画像Mによって構成されている部分である。通行人P自身は、当該動体画像Mを自分自身の映像として認識しているので、当該動体画像Mの部分は、通行人Pが最も注視している部分と推定される。したがって、この通行人Pの注視の対象物である動体画像が、その同じ位置において別な提示対象物に置き換えられる動画を提示すれば、通行人Pの目を当該別な提示対象物に向けることができる。
【0107】
図12は、この第1の実施形態の典型例となるCG映像V2を示す平面図である。ここで、図12(a) 〜(e) は、このCG映像V2の内容の変遷を示すサンプル画像を示しており、図12(a) から図12(e) に向かって画像の内容が変遷してゆくことになる。図12(a) は、この動画の初期画像を示しており、図8(b) と同一の画像(すなわち、図8(a) に示す切替直前のリアルタイム映像V1と同じ画像)になる。この後、図12(b) に示すように、映像中の通行人Pの部分が徐々にフェードアウトしてゆき、やがて、図12(c) に示すように、通行人Pの部分は完全に消失する。そして、続く図12(d) では、通行人Pの代わりに、別な提示対象物(この例では、広告対象物となるボトル)が徐々にフェードインしてくる。最後に、図12(e) に示すように、当該対象物(ボトル)が完全に表示され、「Patent Drink」なる商品名とともに、星型のアニメーションが表示される。
【0108】
図12(a) 〜(e) の映像は、いずれも同一の背景画像Bkを用いているが、その上に合成する画像が異なっている。すなわち、図12(a) ,(b) では、動体画像切出部340から与えられる動体画像Mを合成対象としているのに対して、図12(d) ,(e) では、動体画像Mの代わりに商品画像「ボトル」を合成対象としている。図12(a) から(b) への変遷は、いわゆる「αブレンド」という画像合成の手法を利用して、動体画像Mの画素値の影響度を徐々に減少させてゆく処理を行い、図12(d) から(e) への変遷も、同様に「αブレンド」の手法を利用して、ボトルの画像の画素値の影響度を徐々に増加させてゆく処理を行えばよい。なお、ボトルの商品画像、「Patent Drink」なる商品名、星型のアニメーションは、予め材料データ格納部330内に材料データとして格納されていたデータを利用してCG画像に組み込まれる。
【0109】
図13は、図12に示す例の変形例である。図12に示す例との相違は、図12(c) に示すように、背景のみの画像提示が行われる状態をなくし、通行人Pの部分のフェードアウトと、ボトルの画像部分のフェードインとが一部重なるように設定した点である。したがって、図13(c) に示すように、通行人Pの部分とボトルの画像部分とが重畳表示される期間が確保される。
【0110】
いずれの例でも、初期画像と同一の背景画像上において、動体画像をフェードアウトし、提示対象物をフェードインすることにより、動体画像から提示対象物への置換が行われる動画が構成されていることになる。しかも、動体画像と置換後の提示対象物とは、ほぼ同じ位置を占めるので、初期画像に含まれていた動体画像が、その同じ位置において別な提示対象物に置き換えられる動画が提示されることになる。通行人Pから見ると、ディスプレイ画面上で注視していた自分自身が、その位置でボトルに変化することになるので、ボトルに対する注目度は非常に大きなものになる。
【0111】
特に、上例の場合、広告の対象物となる「ボトル」の画像を予め材料データとして用意しておき、CG映像の初期画像に含まれていた動体画像(通行人の画像)が、その同じ位置において当該広告対象物に置き換えられるCG映像が提示されるので、当該広告対象物に対して強烈な印象を与えることが可能になる。
【0112】
なお、動体画像と置換後の提示対象物とを同じ位置に配置するためには、たとえば、初期画像上において、図10に示す例のように、動体領域Aの重心Gを求めておき、「ボトル」の画像についても同様に重心G′を求めておき、重心Gの位置に重心G′の位置が重なるように、「ボトル」の画像を配置するようにすればよい。
【0113】
なお、ここで述べる第1の実施形態において、動体画像を提示対象物に置き換える手法は、必ずしも「フェードアウト/フェードイン」という手法に限定されるものではなく、この他にも種々の置換手法を採ることが可能である。たとえば、CGで多用されている手法として、「モーフィング」という手法が広く知られている。したがって、初期画像と同一の背景画像上において、動体画像から提示対象物へのモーフィング処理を行うことにより、動体画像から提示対象物への置換が行われる動画を作成するようにしてもよい。上例の場合、通行人が徐々にボトルに変形してゆく変形態様が、動画として提示されることになる。
【0114】
図14は、動体画像を提示対象物に置き換える別な手法を示す例である。図示のとおり、通行人の頭上から巨大な靴が落下してきて、通行人を踏みつぶす、という現象を示す映像になっている。この場合も、最終的には、動体画像(通行人)が、その同じ位置において別な提示対象物(巨大な靴)に置き換えられている。巨大な靴を表示する水平方向の位置は、通行人の位置(動体領域Aの重心G)に基づいて決定されることになる。この例では、この巨大な靴が広告対象物となっており、通行人に対する靴の広告宣伝効果は非常に大きなものになる。
【0115】
なお、何らかの広告対象物を提示するためのCG映像において、動体画像(通行人)を置換する提示対象物は、必ずしも当該広告対象物それ自身である必要はない。図15は、図12,図13に示す例と同様に、「Patent Drink」なる商品を広告対象物とする広告用のCG映像の例である。まず、図15(a) に示す初期画像の状態から、図15(b) に示すように通行人が消え(動体画像をフェードアウトして消してもよいし、突然消してもよい)、図15(c) に示すように、通行人が立っていた後方の壁面にひび割れが生じ、図15(d) に示すように、壁の中から別な人物が現れ、図15(e) に示すように、当該別な人物が「Patent Drink」なる商品を飲み干す、という構成の動画である。この場合、動体画像(通行人)を置換する別な提示対象物は、「Patent Drink」なる商品自体ではなく、図示する別な人物ということになる。
【0116】
この場合でも、通行人の注意は、自分が立っていた場所に交替して出現した別な人物へ向くことになり、更に、当該別な人物が飲み干した「Patent Drink」なる商品へも向くことになろう。このように、ここで述べる第1の実施形態の特徴は、「初期画像に含まれていた動体画像が、その同じ位置において別な提示対象物に置き換えられる動画」という点にある。特に、背景として初期画像の背景画像をそのまま流用し、動体画像(通行人)の部分のみを別な提示対象物に置換する、という手法を採ると、通行人から見た場合に、自分自身が現在立っている現実の場所において、CG映像として提示された仮想の事柄が起こっているように見え、臨場感をもった、強烈な印象を与えることが可能になる。
【0117】
(2) CG映像の第2の実施形態
続いて説明する第2の実施形態は、「初期画像に含まれていた背景画像が時間的に変化する動画」からなるCG映像というべきものである。たとえば、図16に示す例の場合、図16(a) に示す初期画像は、図8(b) と同一の画像(すなわち、図8(a) に示す切替直前のリアルタイム映像V1と同じ画像)であるが、この後、図16(b) 〜図16(d) に示すように、映像中の通行人Pの部分は変化していないのに、背景部分が時々刻々と変化することになる。具体的には、壁面に飾られていた額絵が順に、飾り壷の中へと吸い込まれてゆくCGアニメーションが提示され、最後に、図16(e) に示すように、通行人Pが消去され、代わりに広告対象物(ボトル)が出現し、「Patent Drink」なる商品名とともに、星型のアニメーションが表示される。
【0118】
このようなCG映像を作成するには、まず、背景用のCGアニメーションを用意しておき、材料データ格納部330内に材料データとして格納しておくようにする。具体的には、図6に示すような背景画像Bkをもとにして、額絵41,42が、飾り壷50内に順番に吸い込まれるようなアニメーションを作成しておけばよい。このアニメーションには、通行人の画像は一切含まれていない。また、最終的に提示することとなる図16(e) に示すようなアニメーションも材料データとして用意しておく。
【0119】
このような材料データを用意しておけば、CG映像作成部320は、図16に例示するようなCG映像を作成することができる。すなわち、用意した背景用のCGアニメーションの上に、動体画像切出部340からリアルタイムで与えられる動体画像Mを重ね合わせた合成アニメーション映像を作成し、その最後に、図16(e) に示すようなアニメーション映像を付加する処理を行えばよい。このようにして作成されたCG映像では、図16(a) 〜(d) に示す通行人の部分は、リアルタイム映像から各時点でリアルタイムに切り出された画像になるので、通行人の実写映像ということになる。このため、極めて臨場感のある映像提示がなされる。
【0120】
このようなCG映像が提示された場合、通行人には、自分自身が、いま現実に立っている場所の景色が、突然、変化し始めたように見えるので、通行人の着目度は極めて高くなる。実際、図16に示す例では、通行人が現在歩行中のホテルの廊下において、額絵が魔法のように壺に吸い込まれてゆくという非現実的な映像が提示されるので、臨場感がありながら、「現実的には決してあり得ない事象」が提示されるので、通行人に与えるインパクトは非常に大きなものになる。結局、CG映像として、初期画像に含まれていた背景画像が時間的に変化する動画を提示すれば、通行人に対して、現実世界にいる臨場感を与えながら、その背景が変化するという仮想世界の体験を与えることができるようになり、強烈な印象を与えることが可能になる。
【0121】
なお、「現実的には決してあり得ない事象」を提示する代わりに、「現実的に起こり得る事象」を提示してもよい。たとえば、「額絵が壺に吸い込まれる」という現実的にはあり得ない事象の代わりに、「額絵が床に落下する」という現実的に起こり得る事象を提示した場合、通行人の反応は別なものになるであろう。ディスプレイ画面上で額絵が落下するのを見た通行人の中には、実際に額絵が落下したものと思って、壁20側を振り返って確認する者もいるであろう。現実世界では、額絵には異常がないことを認識した通行人が再びディスプレイ画面を見たタイミングで、図16(e) のような広告映像が提示されれば、非常にインパクトのある広告効果が得られる。
【0122】
もちろん、「背景画像が時間的に変化する動画」は、必ずしも「背景の個々の構成要素が1つずつ順番に変化してゆく」動画に限定されるものではない。図17は、背景画像の変化の形態を若干変えた実施例を示している。この例の場合、図17(a) に示す初期画像の状態から、図17(b) に示すように、初期画像の表示画面全体がバタンと後方へ倒れ込むようなCGアニメーションが提示され、その結果、図17(c) に示すように、別な背景画像が出現し、図17(d) に示すように、女性が出現して歩み寄り、図17(e) に示すように、英会話教室の宣伝を行う、というCG映像になっている。
【0123】
このCG映像の場合も、通行人が立っている現実世界の背景画像が時間的に変化する動画になっている。このため、通行人には、自分自身が、いま現実に立っている場所の景色が、突然、変化したように見えるので、通行人の着目度は極めて高くなる。図17(b) では、通行人自身の画像(動体画像)も含めて、図17(a) に示す初期画像の平面全体がバタンと倒れるアニメーションになっているが、もちろん、背景画像のみをバタンと倒し、通行人自身の画像(動体画像)をそのまま残すようにすることも可能である。その場合、通行人は、新たな背景画像の中で、英会話教室の宣伝女性に声をかけられるという設定になる。
【0124】
(3) CG映像の第3の実施形態
ここで説明する第3の実施形態は、「現時点で得られている、もしくは過去に得られた動体画像の大きさ、形状、姿勢もしくは色彩に関する特徴を抽出し、抽出した特徴に関連した特徴をもった提示対象物が含まれる動画」からなるCG映像というべきものである。
【0125】
図1に示すとおり、撮影装置100によって撮影されたリアルタイム映像V1は、画像切替部310の切替動作とは無関係に、常に、動体認識部350および動体画像切出部340に与えられている。したがって、ディスプレイ装置200上にCG映像V2が提示されている最中も、動体画像切出部340からは、各時点での動体画像M、すなわち、通行人のその時点でのリアルタイム画像が出力されている。
【0126】
このため、たとえば、通行人が体を一方向へ傾けるような動作を行ったとすると、リアルタイム映像V1に対する動体認識処理によって得られる動体領域Aは、図18のように変化することになる。そこで、動体認識部350からCG映像作成部320に対して、動体領域Aを示す情報を伝達し、CG映像作成部320に、動体領域Aの傾斜度を認識する機能をもたせておき(たとえば、図18にハッチングを施した動体領域Aについて、各水平ラインごとに中心点を求め、これら中心点を上下に連結して得られる線の近似直線の傾斜度を演算すればよい)、当該傾斜度に合致するように提示対象物を傾斜させたCG映像V2を作成させればよい。
【0127】
図19は、図18に示す動体領域A(ハッチング部分)に基づいて認識した通行人の姿勢に関する特徴に関連した特徴をもった提示対象物60(ボトル)が含まれるCG映像V2の一例を示す平面図である。この例では、提示対象物60(ボトル)が、図の左方向へ傾いた例が示されているが、これは、CG映像作成部320によって、ボトル60の向きを、図18に示す動体領域Aの傾きに合致させる処理が行われたためである。要するに、CG映像作成部320は、リアルタイム映像V1から通行人の部分を認識し、その姿勢(体の傾斜方向)に関する特徴を抽出し、抽出した特徴に関連した特徴をもった提示対象物60(ボトル)が含まれるCG映像V2を作成する処理を行うことになる。このため、通行人が体を左右に傾斜させると、ディスプレイ画面に表示されているCG映像V2中の提示対象物60(ボトル)も、通行人の体の動きに合わせて左右に傾斜することになる。
【0128】
このように、通行人の観点からは、CG映像V2内の提示対象物60(ボトル)が、自分の姿勢にシンクロナイズしてその姿勢を変えるので、このようなシンクロナイズ現象に気付いた通行人は、様々な姿勢をとりながら、広告映像に見入ることになろう。その結果、「Patent Drink」なる商品のボトルに対する通行人の注目度は極めて高いものとなり、極めて大きな広告効果が得られることになる。
【0129】
動体画像Mから抽出する特徴は、必ずしも通行人の姿勢に限定されるものではない。たとえば、動体画像Mの大きさ(動体領域Aの面積)を特徴として抽出し、この抽出した大きさに応じて、CG映像V2内の提示対象物60の大きさを変えるような処理を行うことも可能である。具体的には、CG映像作成部320によって、動体領域Aの面積(画素数)を求める処理を行い、背景画像上に提示対象物60(ボトル)を重ねて合成する処理を行う際に、提示対象物60を当該面積に比例した大きさとすればよい。そうすれば、通行人がディスプレイ装置200から離れると(リアルタイム映像V1内の動体領域Aの面積が小さくなると)、CG映像V2内の提示対象物60(ボトル)も小さくなる。結局、通行人がディスプレイ装置200に近づいたり離れたりすると、それにシンクロナイズして、提示対象物60(ボトル)がその大きさを変えることになる。
【0130】
また、リアルタイム映像V1から通行人の部分を認識し、その色彩に関する特徴を抽出し、抽出した特徴に関連した特徴をもった提示対象物が含まれるCG映像V2を作成することも可能である。図20は、このような通行人の色彩に関する特徴と提示対象物70(ボトル)に関する特徴との関連性の一例を示す平面図である。図20(a) は、リアルタイム映像V1から認識された動体画像Mを示しており、図20(b) は、CG映像V2内に表示する提示対象物70(ボトル)を示している。ここで、提示対象物70(ボトル)の各部の色彩を、動体画像M(リアルタイムで得られている動体画像Mではなく、過去の特定タイミングで得られた動体画像でもよい)の各部の色彩に応じて決定するようにする。
【0131】
具体的には、たとえば、リアルタイム映像V1に対する動体認識処理により、図20(a) に示すような動体画像Mを抽出したら、その縦寸法Lを測定し、この縦寸法Lを基準として、下から10%,40%,60%,80%,98%の位置に、それぞれ高さレベルL1,L2,L3,L4,L5を設定する。そして、動体画像Mの画素のうち、高さレベルL5にある画素の色の平均値を、ボトル栓部70Aの色彩とし、高さレベルL1〜L2の範囲内にある画素の色の平均値を、ボトル本体部70Bの色彩とし、高さレベルL3〜L4の範囲内にある画素の色の平均値を、ボトルラベル部70Cの色彩とする。この場合、材料データ格納部330内には、色彩の情報をもたないボトルの画像を材料データとして用意しておき、CG映像作成部320によって、各部の色彩を決定する処理を行えばよい。
【0132】
このような方法で色彩を決定した提示対象物70(ボトル)を用いてCG映像V2を作成すれば、通行人の全身の色彩分布に類似した色彩分布をもつ提示対象物70(ボトル)を提示することができる。たとえば、通行人が赤い帽子、黄色いジャケット、水色のジーンズを着用していたとすると、赤いボトル栓部70A、水色のボトル本体部70B、黄色いラベル部70Cをもったボトル70が、提示対象物として、CG映像V2内に表示されることになる。もちろん、色彩をより細かく反映させるようにすれば、衣服の柄と同じ模様をもったボトルを表示させることも可能である。
【0133】
このように、リアルタイム映像V1から通行人の大きさ、形状、姿勢もしくは色彩に関する特徴を抽出し、抽出した特徴と類似した特徴をもった提示対象物が含まれるCG映像V2を作成すれば、リアルタイム映像V1として撮影された現実世界とCG映像V2として提示される仮想世界とが、当該特徴を介して関連性をもつことになるので、通行人の関心を更に高めることができる。
【0134】
<<< §4.その他の変形例 >>>
ここでは、これまで述べてきた基本的実施形態に対するいくつかの変形例を提案しておく。
【0135】
(1) CG映像終了信号Eの送信方法の変形例
図1に示す映像情報提示装置では、CG映像作成部320が、作成したCG映像V2の提供が終了した時点で、映像切替部310に対してCG映像終了信号Eを送信し、映像切替部310が、このCG映像終了信号Eを受けた時点で選択対象をリアルタイム映像V1に切り替える処理を行うとともに、切替指示部360に対してCG映像終了信号Eを送信し、切替指示部360が、映像切替部310から送信されてきたCG映像終了信号Eを受信することにより、映像切替部310が選択対象をリアルタイム映像V1に切り替えたことを認識する構成をとっていた。
【0136】
しかしながら、切替指示部360へのCG映像終了信号Eの送信は、必ずしも映像切替部310の機能として実行する必要はない。たとえば、CG映像作成部320が、作成したCG映像V2の提供が終了した時点で、映像切替部310および切替指示部360の双方に対してCG映像終了信号Eを送信するようにし、映像切替部310が、このCG映像終了信号Eを受けた時点で選択対象をリアルタイム映像V1に切り替える処理を行い、切替指示部360が、CG映像作成部320から送信されてきたCG映像終了信号Eを受信することにより、映像切替部310が選択対象をリアルタイム映像V1に切り替えたことを認識する構成をとってもかまわない。
【0137】
(2) 背景画像Bkの格納方法の変形例
図1に示す映像情報提示装置では、予め背景画像Bkを用意し、これを材料データ格納部330内に格納しておき、CG映像作成部320が、この予め用意した背景画像Bkを利用してCG映像V2を作成することになる。このとき、もし、日照条件や照明環境などによって背景画像が時間に応じて変動するのであれば、たとえば、朝/昼/夜の3通りの背景画像Bkを用意して、CG映像を作成する時間帯に応じて、用いる背景画像Bkを使い分けるような手法を採ることが可能であることは既に説明した。ここで述べる変形例では、用いる背景画像Bkを、リアルタイム映像V1を利用して作成する方法を採る。
【0138】
図21は、この変形例に係る映像情報提示装置の構成を示すブロック図である。図1に示す装置との相違点は、制御装置300が、新たな構成要素である背景画像生成部370を有する点である。この背景画像生成部370は、撮影装置100によって撮影されたリアルタイム映像V1に基づいて、撮影装置100の撮影視野に写る背景画像Bkを生成し、生成した背景画像Bkを材料データ格納部330に材料データとして格納する処理を行う構成要素である。
【0139】
背景画像生成部370が、所定のタイミングで(たとえば、1時間おきに)、新たな背景画像Bkを生成して、材料データ格納部330内に格納する処理を繰り返し実行するようにすれば、材料データ格納部330内には、常に、最新の背景画像Bkが用意された状態になる。このようにすれば、CG映像作成部320によって作成されるCG映像V2の初期画面の背景画像が、できるだけ現時点の実際の背景に近い画像になるので、時間に応じて背景画像の明るさなどが変動した場合にも、常に、現時点に近い背景画像を用いたCG映像を作成することができるようになる。
【0140】
背景画像生成部370によって、ある時点における背景画像Bkを生成する1つの方法としては、動体認識部350と同様に、所定サンプル期間内の平均画素値を求める方法を採ることができる。すなわち、背景画像生成部370に、リアルタイム映像V1を構成する1コマ1コマの静止画像を構成する個々の画素について、過去の所定サンプル期間内(たとえば、過去1時間の間)の平均画素値を演算する機能をもたせておき、当該平均画素値をもった画素の集合からなる静止画像を、背景画像として、材料データ格納部に格納する処理を行わせればよい。通行人などの動体は、絶えず移動していると考えられるので、所定サンプル期間内の平均画素値をとれば、動体の情報は希釈され、有意な情報としては残らなくなる。
【0141】
別な方法は、通行人がいないときに得られた撮影画像を、そのまま背景画像とする方法である。具体的には、動体認識部350による認識結果を背景画像生成部370へ伝達させるようにし、動体認識部350によって動体が認識されていない時点におけるリアルタイム映像V1を背景画像Bkとして取り込み、これを材料データ格納部330に格納させればよい。たとえば、動体認識部350から背景画像生成部370に対して、動体領域Aの情報を伝達させるようにする。そして、背景画像生成部370は、この動体領域Aの面積が零もしくは所定の微小基準値以下であった場合に、その時点で与えられているリアルタイム映像V1の静止画像を背景画像Bkとして、材料データ格納部330に格納すればよい。
【0142】
(3) 切替前後の画像の同一性
これまでの実施形態では、図8(a) ,(b) に示すように、リアルタイム映像V1からCG映像V2への切替前後においてディスプレイ画面上に提示される画像が、同一であるという説明を行ってきた。そうすることによって、映像を閲覧している通行人に対して、リアルタイム映像V1からCG映像V2への変遷を感じさせず、切替後もリアルタイム映像V1がそのまま継続して表示されているとの錯覚を与えることが可能になる。
【0143】
ただ、本発明の最終目的は、ディスプレイ画面上に表示されるCG映像に対して、通行人の注目度をより向上させることにあり、当該目的を達成する上では、切替前後の画像が完全同一である必要はない。実際、材料データ格納部330内に用意されている背景画像Bkは、リアルタイム映像V1内の個々の時点における背景画像とは正確には一致しないため、図8(a) に示す切替直前のリアルタイム映像V1と、図8(b) に示す切替直後のCG映像V2(動画の初期画像)とは、厳密な意味では同一の画像ではない。
【0144】
このように、切替前後の画像が正確には同一ではなくても、通行人が、切替後に提示されるCG映像の内容を、現実世界の出来事の延長線上の出来事として把握することができれば、通行人に対して臨場感をもった映像提示が可能になり、通行人の注目度を向上させるという作用効果を得ることができる。したがって、本発明を実施する上で、切替前後の画像を厳密に一致させるために大きな労力を費やす必要はない。
【0145】
また、切替前後で、意図的に画質や色相を変えるような方法を採ることも可能である。たとえば、切替直前まではリアルタイム映像V1をモノクロ画像として提示しておき、切替直後はカラーのCG画像V2を提示する、という手法をとってもよい。この場合、図8(a) に示す切替直前のリアルタイム映像V1はモノクロ画像であり、図8(b) に示す切替直後のCG映像V2はカラー画像ということになり、画像としては、もちろん同一ではない。しかしながら、切替前後で描写されている情景は同じであるので、通行人は「モノクロ画像に急に色彩が現れた」という印象をもつであろう。しかも、ディスプレイ画面上に表示されている被写体や背景は変わらないため、やはり臨場感をもった映像提示を行うことができる。
【0146】
<<< §5.映像情報提示方法の手順 >>>
最後に、本発明に係る映像情報提示方法の基本手順を、図22の流れ図を参照しながら説明する。この方法は、通行人の移動経路もしくは立寄場所に設置されたディスプレイ装置200と、このディスプレイ装置200の表示画面を観察中の通行人を撮影するのに適した位置に設置された撮影装置100と、このディスプレイ装置200を制御する制御装置300と、を用いて、通行人に対して映像情報を提示する映像情報提示方法ということになる。ここで、制御装置300は、図22の流れ図に示すように、ステップS1〜S6を順次実行する機能を有する。
【0147】
まず、ステップS1のリアルタイム映像表示開始段階は、撮影装置100によって撮影されたリアルタイム映像V1をディスプレイ装置200に与えて、ディスプレイ装置200の画面上に表示する処理を開始する段階である。図9のタイムチャートでは、時刻t0〜t1の段階ということになる。
【0148】
続く、ステップS2の動体認識段階は、このリアルタイム映像V1の表示が行われているときに、当該リアルタイム映像V1に基づいて動体認識を行う段階である。図9のタイムチャートでは、やはり時刻t0〜t1の段階ということになる。このステップS2において、動体が認識されなかったときは、ステップS3を経て、何度もステップS2が繰り返されることになる。
【0149】
一方、動体認識がなされた場合は、ステップS3からステップS4へと進み、条件判定段階が実行される。この段階では、リアルタイム映像V1上で認識された動体が占める動体領域Aが所定条件を満足するか否かの判定が行われる。具体的な判定条件については、§2で述べたとおりである。このステップS4において、条件満足との判定がなされなかったときは、ステップS5を経て、ステップS2へ戻ることになる。
【0150】
このステップS4の条件判定段階で条件満足との判定がなされたときには、ステップS5を経て、ステップS6のCG映像作成表示段階が実行される。この段階では、CG映像V2を作成し、リアルタイム映像V1の代わりに、作成したCG映像V2をディスプレイ装置200に与え、このディスプレイ装置200の画面上にCG映像V2を表示させる処理が行われる。このCG映像作成表示段階が終了すると、ステップS1のリアルタイム映像表示開始段階へと戻る処理が行われる。
【0151】
ここで重要な点は、ステップS6のCG映像作成表示段階において、「リアルタイム映像V1内の動体画像Mを、撮影装置100の撮影視野に写る背景画像Bk上に配置することにより得られる合成画像」を初期画像とするCG映像が作成される点である。そうすることにより、通行人は、CG映像V2をリアルタイム映像V1に継続した映像と認識し、CG映像V2として提示される内容を、現実世界の出来事の延長線上の出来事として捉えることになる。このため、極めて臨場感の高い映像提示が可能になり、通行人の注目度をより向上させることができる、という作用効果が得られる。
【符号の説明】
【0152】
10:壁
20:壁
30:床
41,42:額絵
43:照明器具
50:飾り壺
60:提示対象物(ボトル)
70:提示対象物(ボトル)
70A:ボトル栓部
70B:ボトル本体部
70C:ボトルラベル部
100:撮影装置
200:ディスプレイ装置
300:制御装置
310:映像切替部
320:CG映像作成部
330:材料データ格納部
340:動体画像切出部
350:動体認識部
360:切替指示部
370:背景画像生成部
A:動体領域
Bk:背景画像
E:CG映像終了信号
G:重心
L:通行人画像の縦寸法
L1〜L5:通行人画像の高さレベル
M:動体画像
P:通行人
S:CG切替信号
S1〜S6:流れ図の各ステップ
t0〜t2:時刻
V:撮影視野
V1:リアルタイム映像
V2:CG映像
Z:検出領域
【特許請求の範囲】
【請求項1】
通行人に対して映像情報を提示する映像情報提示装置であって、
通行人の移動経路もしくは立寄場所に設置されたディスプレイ装置と、
前記ディスプレイ装置の表示画面を観察中の通行人を撮影するのに適した位置に設置された撮影装置と、
前記ディスプレイ装置を制御する制御装置と、
を備え、
前記制御装置は、
前記撮影装置によって撮影されたリアルタイム映像に基づいて動体認識を行い、動体が占める動体領域を決定する動体認識部と、
前記撮影装置によって撮影されたリアルタイム映像における前記動体領域内の画像を動体画像として切り出す動体画像切出部と、
所定のコンピュータプログラムに基づいてCG映像を作成し、これを提供するCG映像作成部と、
前記CG映像作成部による映像作成の材料となる材料データを格納した材料データ格納部と、
前記撮影装置によって撮影されたリアルタイム映像と、前記CG映像作成部から提供されたCG映像と、のいずれか一方を選択して前記ディスプレイ装置に与え、前記ディスプレイ装置の画面上に、選択された映像を表示させる映像切替部と、
前記映像切替部がリアルタイム映像を選択中に、前記動体認識部によって認識された動体領域が所定条件を満たしたときに、前記映像切替部および前記CG映像作成部に対してCG切替信号を出力する切替指示部と、
を有し、
前記映像切替部は、初期状態ではリアルタイム映像を選択し、前記CG切替信号が与えられた時点で選択対象をCG映像に切り替え、選択されたCG映像が終了した時点で再び選択対象をリアルタイム映像に切り替える処理を行い、
前記材料データ格納部には、少なくとも前記撮影装置の撮影視野に写る背景画像が材料データとして格納されており、
前記CG映像作成部は、前記CG切替信号が与えられたときに、前記動体画像切出部によって所定の切出位置から切り出された動体画像を前記背景画像上の前記切出位置に配置することにより得られる合成画像を初期画像とする動画からなるCG映像を作成し、前記映像切替部に与えることを特徴とする映像情報提示装置。
【請求項2】
請求項1に記載の映像情報提示装置において、
切替指示部が、映像切替部がリアルタイム映像を選択中において、動体領域の占有面積が所定のしきい値を超えた時点、もしくは当該時点から所定の遅延時間だけ経過した時点で、CG切替信号を出力することを特徴とする映像情報提示装置。
【請求項3】
請求項1に記載の映像情報提示装置において、
切替指示部が、映像切替部がリアルタイム映像を選択中において、動体領域の占有面積が所定のしきい値を超えた状態が所定期間にわたって継続した時点、もしくは当該時点から所定の遅延時間だけ経過した時点で、CG切替信号を出力することを特徴とする映像情報提示装置。
【請求項4】
請求項1に記載の映像情報提示装置において、
切替指示部が、映像切替部がリアルタイム映像を選択中において、動体領域の重心点が、所定の検出領域内に検出された時点、もしくは当該時点から所定の遅延時間だけ経過した時点で、CG切替信号を出力することを特徴とする映像情報提示装置。
【請求項5】
請求項1に記載の映像情報提示装置において、
切替指示部が、映像切替部がリアルタイム映像を選択中において、動体領域の重心点が、所定の検出領域内に位置する状態が所定期間にわたって継続した時点、もしくは当該時点から所定の遅延時間だけ経過した時点で、CG切替信号を出力することを特徴とする映像情報提示装置。
【請求項6】
請求項1〜5のいずれかに記載の映像情報提示装置において、
CG映像作成部が、作成したCG映像の提供が終了した時点で、映像切替部に対してCG映像終了信号を送信し、
映像切替部は、前記CG映像終了信号を受けた時点で選択対象をリアルタイム映像に切り替える処理を行うとともに、切替指示部に対して前記CG映像終了信号を送信し、
切替指示部は、前記CG映像終了信号の受信により、前記映像切替部が選択対象をリアルタイム映像に切り替えたことを認識することを特徴とする映像情報提示装置。
【請求項7】
請求項1〜5のいずれかに記載の映像情報提示装置において、
CG映像作成部が、作成したCG映像の提供が終了した時点で、映像切替部および切替指示部に対してCG映像終了信号を送信し、
映像切替部は、前記CG映像終了信号を受けた時点で選択対象をリアルタイム映像に切り替える処理を行い、
切替指示部は、前記CG映像終了信号の受信により、前記映像切替部が選択対象をリアルタイム映像に切り替えたことを認識することを特徴とする映像情報提示装置。
【請求項8】
請求項1〜7のいずれかに記載の映像情報提示装置において、
動体認識部が、リアルタイム映像を構成する1コマ1コマの静止画像を構成する個々の画素について、過去の所定サンプル期間内の平均画素値を演算する機能を有し、現時点で得られた現静止画像を構成する個々の画素について、当該画素の現時点の画素値と前記平均画素値との差を求め、求めた差が所定の基準を超える画素の集合からなる領域を、前記現静止画像についての動体領域と決定することを特徴とする映像情報提示装置。
【請求項9】
請求項1〜8のいずれかに記載の映像情報提示装置において、
CG映像作成部が、初期画像に含まれていた動体画像が、その同じ位置において別な提示対象物に置き換えられる動画を作成することを特徴とする映像情報提示装置。
【請求項10】
請求項9に記載の映像情報提示装置において、
CG映像作成部が、初期画像と同一の背景画像上において、動体画像をフェードアウトし、提示対象物をフェードインすることにより、動体画像から提示対象物への置換が行われる動画を作成することを特徴とする映像情報提示装置。
【請求項11】
請求項9に記載の映像情報提示装置において、
CG映像作成部が、初期画像と同一の背景画像上において、動体画像から提示対象物へのモーフィング処理を行うことにより、動体画像から提示対象物への置換が行われる動画を作成することを特徴とする映像情報提示装置。
【請求項12】
請求項1〜11のいずれかに記載の映像情報提示装置において、
CG映像格納部が、初期画像に含まれていた背景画像が時間的に変化する動画を作成することを特徴とする映像情報提示装置。
【請求項13】
請求項1〜12のいずれかに記載の映像情報提示装置において、
CG映像作成部が、現時点で得られている、もしくは過去に得られた動体画像の大きさ、形状、姿勢もしくは色彩に関する特徴を抽出し、抽出した特徴に関連した特徴をもった提示対象物が含まれる動画を作成することを特徴とする映像情報提示装置。
【請求項14】
請求項1〜13のいずれかに記載の映像情報提示装置において、
制御装置が、撮影装置によって撮影されたリアルタイム映像に基づいて、前記撮影装置の撮影視野に写る背景画像を生成し、生成した背景画像を材料データ格納部に材料データとして格納する処理を行う背景画像生成部を更に有することを特徴とする映像情報提示装置。
【請求項15】
請求項14に記載の映像情報提示装置において、
背景画像生成部が、動体認識部によって動体が認識されていない時点におけるリアルタイム映像を背景画像として取り込み、これを材料データ格納部に格納する処理を行うことを特徴とする映像情報提示装置。
【請求項16】
請求項14に記載の映像情報提示装置において、
背景画像生成部が、リアルタイム映像を構成する1コマ1コマの静止画像を構成する個々の画素について、過去の所定サンプル期間内の平均画素値を演算する機能を有し、当該平均画素値をもった画素の集合からなる静止画像を、背景画像として、材料データ格納部に格納する処理を行うことを特徴とする映像情報提示装置。
【請求項17】
請求項1〜16のいずれかに記載の映像情報提示装置における制御装置としてコンピュータを機能させるプログラム。
【請求項18】
通行人の移動経路もしくは立寄場所に設置されたディスプレイ装置と、
前記ディスプレイ装置の表示画面を観察中の通行人を撮影するのに適した位置に設置された撮影装置と、
前記ディスプレイ装置を制御する制御装置と、
を用いて、通行人に対して映像情報を提示する映像情報提示方法であって、
前記制御装置が、
前記撮影装置によって撮影されたリアルタイム映像を前記ディスプレイ装置に与えて、前記ディスプレイ装置の画面上に表示する処理を開始するリアルタイム映像表示開始段階と、
前記リアルタイム映像の表示が行われているときに、前記リアルタイム映像に基づいて動体認識を行う動体認識段階と、
前記動体認識段階で動体が認識されたときに、映像上で認識された動体が占める動体領域が所定条件を満足するか否かを判定する条件判定段階と、
前記条件判定段階で条件満足との判定がなされたときに、CG映像を作成し、前記リアルタイム映像の代わりに、作成した前記CG映像を前記ディスプレイ装置に与えて、前記ディスプレイ装置の画面上に表示するCG映像作成表示段階と、
を実行し、前記CG映像作成表示段階が終了したときに、再び前記リアルタイム映像表示開始段階へと戻る処理を行い、
前記CG映像作成表示段階において、前記リアルタイム映像内の動体画像を前記撮影装置の撮影視野に写る背景画像上に配置することにより得られる合成画像を初期画像とするCG映像を作成し、これを表示することを特徴とする映像情報提示方法。
【請求項1】
通行人に対して映像情報を提示する映像情報提示装置であって、
通行人の移動経路もしくは立寄場所に設置されたディスプレイ装置と、
前記ディスプレイ装置の表示画面を観察中の通行人を撮影するのに適した位置に設置された撮影装置と、
前記ディスプレイ装置を制御する制御装置と、
を備え、
前記制御装置は、
前記撮影装置によって撮影されたリアルタイム映像に基づいて動体認識を行い、動体が占める動体領域を決定する動体認識部と、
前記撮影装置によって撮影されたリアルタイム映像における前記動体領域内の画像を動体画像として切り出す動体画像切出部と、
所定のコンピュータプログラムに基づいてCG映像を作成し、これを提供するCG映像作成部と、
前記CG映像作成部による映像作成の材料となる材料データを格納した材料データ格納部と、
前記撮影装置によって撮影されたリアルタイム映像と、前記CG映像作成部から提供されたCG映像と、のいずれか一方を選択して前記ディスプレイ装置に与え、前記ディスプレイ装置の画面上に、選択された映像を表示させる映像切替部と、
前記映像切替部がリアルタイム映像を選択中に、前記動体認識部によって認識された動体領域が所定条件を満たしたときに、前記映像切替部および前記CG映像作成部に対してCG切替信号を出力する切替指示部と、
を有し、
前記映像切替部は、初期状態ではリアルタイム映像を選択し、前記CG切替信号が与えられた時点で選択対象をCG映像に切り替え、選択されたCG映像が終了した時点で再び選択対象をリアルタイム映像に切り替える処理を行い、
前記材料データ格納部には、少なくとも前記撮影装置の撮影視野に写る背景画像が材料データとして格納されており、
前記CG映像作成部は、前記CG切替信号が与えられたときに、前記動体画像切出部によって所定の切出位置から切り出された動体画像を前記背景画像上の前記切出位置に配置することにより得られる合成画像を初期画像とする動画からなるCG映像を作成し、前記映像切替部に与えることを特徴とする映像情報提示装置。
【請求項2】
請求項1に記載の映像情報提示装置において、
切替指示部が、映像切替部がリアルタイム映像を選択中において、動体領域の占有面積が所定のしきい値を超えた時点、もしくは当該時点から所定の遅延時間だけ経過した時点で、CG切替信号を出力することを特徴とする映像情報提示装置。
【請求項3】
請求項1に記載の映像情報提示装置において、
切替指示部が、映像切替部がリアルタイム映像を選択中において、動体領域の占有面積が所定のしきい値を超えた状態が所定期間にわたって継続した時点、もしくは当該時点から所定の遅延時間だけ経過した時点で、CG切替信号を出力することを特徴とする映像情報提示装置。
【請求項4】
請求項1に記載の映像情報提示装置において、
切替指示部が、映像切替部がリアルタイム映像を選択中において、動体領域の重心点が、所定の検出領域内に検出された時点、もしくは当該時点から所定の遅延時間だけ経過した時点で、CG切替信号を出力することを特徴とする映像情報提示装置。
【請求項5】
請求項1に記載の映像情報提示装置において、
切替指示部が、映像切替部がリアルタイム映像を選択中において、動体領域の重心点が、所定の検出領域内に位置する状態が所定期間にわたって継続した時点、もしくは当該時点から所定の遅延時間だけ経過した時点で、CG切替信号を出力することを特徴とする映像情報提示装置。
【請求項6】
請求項1〜5のいずれかに記載の映像情報提示装置において、
CG映像作成部が、作成したCG映像の提供が終了した時点で、映像切替部に対してCG映像終了信号を送信し、
映像切替部は、前記CG映像終了信号を受けた時点で選択対象をリアルタイム映像に切り替える処理を行うとともに、切替指示部に対して前記CG映像終了信号を送信し、
切替指示部は、前記CG映像終了信号の受信により、前記映像切替部が選択対象をリアルタイム映像に切り替えたことを認識することを特徴とする映像情報提示装置。
【請求項7】
請求項1〜5のいずれかに記載の映像情報提示装置において、
CG映像作成部が、作成したCG映像の提供が終了した時点で、映像切替部および切替指示部に対してCG映像終了信号を送信し、
映像切替部は、前記CG映像終了信号を受けた時点で選択対象をリアルタイム映像に切り替える処理を行い、
切替指示部は、前記CG映像終了信号の受信により、前記映像切替部が選択対象をリアルタイム映像に切り替えたことを認識することを特徴とする映像情報提示装置。
【請求項8】
請求項1〜7のいずれかに記載の映像情報提示装置において、
動体認識部が、リアルタイム映像を構成する1コマ1コマの静止画像を構成する個々の画素について、過去の所定サンプル期間内の平均画素値を演算する機能を有し、現時点で得られた現静止画像を構成する個々の画素について、当該画素の現時点の画素値と前記平均画素値との差を求め、求めた差が所定の基準を超える画素の集合からなる領域を、前記現静止画像についての動体領域と決定することを特徴とする映像情報提示装置。
【請求項9】
請求項1〜8のいずれかに記載の映像情報提示装置において、
CG映像作成部が、初期画像に含まれていた動体画像が、その同じ位置において別な提示対象物に置き換えられる動画を作成することを特徴とする映像情報提示装置。
【請求項10】
請求項9に記載の映像情報提示装置において、
CG映像作成部が、初期画像と同一の背景画像上において、動体画像をフェードアウトし、提示対象物をフェードインすることにより、動体画像から提示対象物への置換が行われる動画を作成することを特徴とする映像情報提示装置。
【請求項11】
請求項9に記載の映像情報提示装置において、
CG映像作成部が、初期画像と同一の背景画像上において、動体画像から提示対象物へのモーフィング処理を行うことにより、動体画像から提示対象物への置換が行われる動画を作成することを特徴とする映像情報提示装置。
【請求項12】
請求項1〜11のいずれかに記載の映像情報提示装置において、
CG映像格納部が、初期画像に含まれていた背景画像が時間的に変化する動画を作成することを特徴とする映像情報提示装置。
【請求項13】
請求項1〜12のいずれかに記載の映像情報提示装置において、
CG映像作成部が、現時点で得られている、もしくは過去に得られた動体画像の大きさ、形状、姿勢もしくは色彩に関する特徴を抽出し、抽出した特徴に関連した特徴をもった提示対象物が含まれる動画を作成することを特徴とする映像情報提示装置。
【請求項14】
請求項1〜13のいずれかに記載の映像情報提示装置において、
制御装置が、撮影装置によって撮影されたリアルタイム映像に基づいて、前記撮影装置の撮影視野に写る背景画像を生成し、生成した背景画像を材料データ格納部に材料データとして格納する処理を行う背景画像生成部を更に有することを特徴とする映像情報提示装置。
【請求項15】
請求項14に記載の映像情報提示装置において、
背景画像生成部が、動体認識部によって動体が認識されていない時点におけるリアルタイム映像を背景画像として取り込み、これを材料データ格納部に格納する処理を行うことを特徴とする映像情報提示装置。
【請求項16】
請求項14に記載の映像情報提示装置において、
背景画像生成部が、リアルタイム映像を構成する1コマ1コマの静止画像を構成する個々の画素について、過去の所定サンプル期間内の平均画素値を演算する機能を有し、当該平均画素値をもった画素の集合からなる静止画像を、背景画像として、材料データ格納部に格納する処理を行うことを特徴とする映像情報提示装置。
【請求項17】
請求項1〜16のいずれかに記載の映像情報提示装置における制御装置としてコンピュータを機能させるプログラム。
【請求項18】
通行人の移動経路もしくは立寄場所に設置されたディスプレイ装置と、
前記ディスプレイ装置の表示画面を観察中の通行人を撮影するのに適した位置に設置された撮影装置と、
前記ディスプレイ装置を制御する制御装置と、
を用いて、通行人に対して映像情報を提示する映像情報提示方法であって、
前記制御装置が、
前記撮影装置によって撮影されたリアルタイム映像を前記ディスプレイ装置に与えて、前記ディスプレイ装置の画面上に表示する処理を開始するリアルタイム映像表示開始段階と、
前記リアルタイム映像の表示が行われているときに、前記リアルタイム映像に基づいて動体認識を行う動体認識段階と、
前記動体認識段階で動体が認識されたときに、映像上で認識された動体が占める動体領域が所定条件を満足するか否かを判定する条件判定段階と、
前記条件判定段階で条件満足との判定がなされたときに、CG映像を作成し、前記リアルタイム映像の代わりに、作成した前記CG映像を前記ディスプレイ装置に与えて、前記ディスプレイ装置の画面上に表示するCG映像作成表示段階と、
を実行し、前記CG映像作成表示段階が終了したときに、再び前記リアルタイム映像表示開始段階へと戻る処理を行い、
前記CG映像作成表示段階において、前記リアルタイム映像内の動体画像を前記撮影装置の撮影視野に写る背景画像上に配置することにより得られる合成画像を初期画像とするCG映像を作成し、これを表示することを特徴とする映像情報提示方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【公開番号】特開2011−175418(P2011−175418A)
【公開日】平成23年9月8日(2011.9.8)
【国際特許分類】
【出願番号】特願2010−38555(P2010−38555)
【出願日】平成22年2月24日(2010.2.24)
【出願人】(000002897)大日本印刷株式会社 (14,506)
【Fターム(参考)】
【公開日】平成23年9月8日(2011.9.8)
【国際特許分類】
【出願日】平成22年2月24日(2010.2.24)
【出願人】(000002897)大日本印刷株式会社 (14,506)
【Fターム(参考)】
[ Back to top ]