説明

映像表示装置およびプログラム

【課題】より簡単に拡張現実の提示を受けることができる映像表示装置およびプログラムを提供する。
【解決手段】実施形態の映像表示装置は、撮像手段と、識別手段と、生成手段と、表示制御手段と、を備える。前記撮像手段は、動画像を撮像する。前記識別手段は、前記撮像された動画像に含まれる物体を識別する。前記生成手段は、前記識別された物体に対応する画像と前記撮像された動画像とを合成した合成画像を生成する。前記表示制御手段は、前記生成した合成画像を表示部に表示する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明の実施形態は、映像表示装置およびプログラムに関する。
【背景技術】
【0002】
近年、コンピュータ等を用いて、撮像装置で撮像された画像などの現実の情報に、付加情報としてバーチャルな物体を電子情報として合成して提示する拡張現実という技術が様々な場面で用いられている。
【発明の概要】
【発明が解決しようとする課題】
【0003】
ところで、従来技術においては、拡張現実による提示を受ける際、現実の情報として撮像された画像に付加情報として合成するバーチャルな物体を、ユーザが自ら選択しなければならなかった。そのため、より簡単に拡張現実による提示を受けることができる技術が求められている。
【課題を解決するための手段】
【0004】
実施形態の映像表示装置は、撮像手段と、識別手段と、生成手段と、表示制御手段と、を備える。前記撮像手段は、動画像を撮像する。前記識別手段は、前記撮像された動画像に含まれる物体を識別する。前記生成手段は、前記識別された物体に対応する画像と前記撮像された動画像とを合成した合成画像を生成する。前記表示制御手段は、前記生成した合成画像を表示部に表示する。
【図面の簡単な説明】
【0005】
【図1】図1は、第1の実施形態にかかる拡張現実システムの構成を示すブロック図である。
【図2】図2は、試着室端末が設置されている試着室を示す斜視図である。
【図3】図3は、試着室端末のハードウェア構成を示すブロック図である。
【図4】図4は、商品ファイルのデータ構成を示す図である。
【図5】図5は、商品分類ファイルのデータ構成を示す図である。
【図6】図6は、クライアント端末のハードウェア構成を示すブロック図である。
【図7】図7は、本実施形態にかかる試着室端末の機能構成を示すブロック図である。
【図8】図8は、試着室端末が行う拡張現実提示処理の手順を示したフローチャートである。
【図9】図9は、複数の画像とカメラにより撮像されたフレーム画像とを重ね合わせた合成画像を生成する処理を説明するための図である。
【図10】図10は、本実施形態にかかるクライアント端末の機能構成を示すブロック図である。
【図11】図11は、クライアント端末が行う拡張現実提示処理の手順を示したフローチャートである。
【図12】図12は、背景の画像とカメラにより撮像されたフレーム画像とを重ね合わせた合成画像を生成する処理を説明するための図である。
【発明を実施するための形態】
【0006】
(第1の実施形態)
図1は、第1の実施形態にかかる拡張現実システムの構成を示すブロック図である。なお、本実施形態では、衣料品等の商品を販売する店舗に拡張現実システム1を適用した例について説明する。
【0007】
本実施形態にかかる拡張現実システム1は、有線または無線の通信回線(例えば、インターネット等)300等を介して相互に電気的に接続されたコンピュータ301や、POS(Point Of Sale)端末501、試着室端末101、クライアント端末401、ハンディーターミナル200等を備えている。
【0008】
本実施形態にかかる拡張現実システム1では、1つまたは複数のコンピュータ301が、所定のサービスを提供するサーバとして機能することができる。この拡張現実システム1では、例えばSaaS(Software as a Service)の形態で、サービスが提供されうる。
【0009】
POS端末501は、店舗の出口付近に設けられたレジカウンタ(図示せず)に設置されている。POS端末501は、商品毎に固有の商品IDを読み取って出力するスキャナ502を備えている。商品IDは、商品に付されているRFID(Radio Frequency Identification)タグ111(図2参照)にバーコードや2次元コード等のコードシンボルの形態で印刷されている。そして、POS端末501は、読み取られた情報に基づいて、商品販売データ処理を実行する。
【0010】
このようなPOS端末501には、通信回線300を介して、コンピュータ301、クライアント端末401、試着室端末101、およびハンディーターミナル200が接続されている。
【0011】
コンピュータ301には、ストレージデバイスとしてHDD(Hard Disk Drive)等の記憶装置が内蔵され、この記憶装置には各種ファイルが記憶されている。
【0012】
クライアント端末401は、拡張現実システム1が導入された店舗を利用する顧客により所有された所謂スマートフォンであり、携帯電話と携帯情報端末機能が付いた携帯端末である。
【0013】
ハンディーターミナル200は、店舗に来店した顧客に貸し出され、顧客により操作される携帯端末である。本実施形態では、ハンディーターミナル200は、アクセスポイント201を介して通信回線300に接続され、コンピュータ301に記憶された各種ファイルにアクセスすることにより、顧客が自ら商品の登録等を行うことができる。
【0014】
試着室端末101は、顧客が商品である衣料品110(図2参照)を持ち込み、持ち込んだ衣料品110を試着する際に使用する試着室100に設置されている。試着室端末101は、顧客が入室した試着室100内の動画像を現実の情報として撮像し、撮像した動画像と、付加情報としての商品(顧客が試着室100内に持ち込んだ衣料品110)の画像とを合成した合成画像を表示する拡張現実提示処理を実行する。
【0015】
衣料品店である店舗には、顧客が衣料品110(図2参照)の試着に使用する試着室100が複数台設置されている。顧客は、試着室100に試着したい衣料品110を持ち込み、試着室端末101により表示された合成画像を見たり、衣料品110を実際に試着したりすることにより、衣料品110の購入を検討する。
【0016】
図2は、試着室端末が設置されている試着室を示す斜視図である。試着室100は、図2に示すように、上面と正面の一部とが開口した直方体形状を有している。試着室100の正面の開口部分は、顧客が出入するための出入口102となっている。出入口102には、布製のカーテン103が図示しないカーテンレールによって開閉自在に取り付けられている。なお、試着室100の出入口102には、カーテン103の代わりに、例えばスライド開閉自在な扉が設けられていても良い。図2では、カーテン103を開いた状態の試着室100を示しているため、試着室100の中を視認できる。試着室100の中の背面側の壁には、試着に際して顧客を映し出すための全身鏡104が取り付けられている。また、全身鏡104の上方位置には、蛍光灯である照明105が取り付けられている。
【0017】
さらに、全身鏡104の上部には、顧客が入室した試着室100内の動画像(つまり、試着室100に入室した顧客および当該顧客が試着室100内に持ち込んだ衣料品110の画像を含む動画像)を撮像する撮像部であるカメラ109が取り付けられている。
【0018】
そして、試着室100内の一方の側壁には、試着室端末101が取り付けられている。試着室端末101は、試着室100の中の顧客に対して情報を表示すると共に、顧客からの操作入力を受け付けるものである。
【0019】
また、試着室端末101は、厚みのある平板状のハウジング106を備えている。ハウジング106には、情報を表示する表示部としてのLCD(Liquid Crystal Display)107が取り付けられている。LCD107は、その表示面に積層配置され、タッチ指定することにより情報を入力可能な操作入力部としてのタッチパネル108を有する。
【0020】
さらに、試着室端末101には、通信回線300を介してコンピュータ301等とデータ通信を実行するための通信インタフェース123(図3参照)が内蔵されている。
【0021】
また、試着室端末101の下方位置には、RFIDタグ111と無線通信を実行するためのRFIDリーダライタ114が取り付けられている。このRFIDリーダライタ114は、その上方に位置する試着室端末101との間でデータ通信可能に有線接続されている。
【0022】
RFIDリーダライタ114が無線通信をするRFIDタグ111は、衣料品110に値札として付されている。衣料品110が顧客によって試着室100の中に持ち込まれた場合に、RFIDリーダライタ114は、その衣料品110に付されたRFIDタグ111と無線通信を実行する。そのため、RFIDリーダライタ114は、試着室100内をその通信可能範囲としている。
【0023】
RFIDタグ111は、電池を内蔵しないパッシブタグであり、ICチップ112とコイル状のタグアンテナ113とが埋設されている。このICチップ112には、商品を特定する特定情報である商品IDのデータが記憶されている。
【0024】
RFIDリーダライタ114とRFIDタグ111とは、例えば13.56MHzの周波数帯を使用する電磁誘導方式によって交信する。つまり、RFIDリーダライタ114とRFIDタグ111とは、RFIDリーダライタ114のアンテナコイル(図示せず)とタグアンテナ113との誘導磁束による誘起電圧を利用することで交信する。このような交信状態を利用して、RFIDリーダライタ114は、ICチップ112に記憶されている商品IDを読み取る。そして、RFIDリーダライタ114は、読み取った商品IDを試着室端末101のCPU119(図3参照)に出力する。
【0025】
また、試着室100の背面には、細長い円柱状のポール115が立設されている。ポール115の先端部には、青色と赤色と緑色とを選択的に発光可能な報知部としての発光部116が設けられている。発光部116は、ポール115を通る図示しないケーブルによって試着室端末101と接続されており、試着室端末101のCPU119(図3参照)によって動作制御を受ける。なお、CPU119による動作制御を受けていない状態では、発光部116は発光動作をしていない。
【0026】
また、試着室100の出入口102の一方の側部には、出入口102を通過する顧客を検出する人感センサとして赤外線センサ117が取り付けられている。この赤外線センサ117は、いわゆる焦電型赤外線センサである。つまり、赤外線センサ117は、出入口102を通過する顧客の人体が発する赤外線を受光し、受光した赤外線を熱変換し、その熱を素子の焦電効果で電荷に変えて出力(検出出力)する。赤外線センサ117は、試着室端末101と図示しないケーブルによって接続されており、赤外線センサ117の検出出力は、試着室端末101のCPU119(図3参照)へと入力される。
【0027】
また、図2では図示しないが、試着室100の床には、感圧センサ118(図3参照)が配置されている。試着室100の床は、詳細は図示しないが二枚の床板が重なって構成されており、この二枚の床板の間に挟まるようにして、複数個の感圧センサ118が配置されている。そのため、顧客が出入口102を通って試着室100の中に入り床をその足で踏むと、いずれかの感圧センサ118に圧力がかかることになる。感圧センサ118は、このような圧変化を内部の感圧素子によって電気信号に変換して出力(検出出力)する。そして、感圧センサ118は、試着室端末101と図示しないケーブルによって接続されており、感圧センサ118の検出出力は、試着室端末101のCPU119(図3参照)へと入力される。
【0028】
図3は、試着室端末のハードウェア構成を示すブロック図である。試着室端末101は、各種演算処理を実行し各部を制御する情報処理部としてのCPU(Central Processing Unit)119を備えている。CPU119には、コンピュータプログラム等の固定データを固定的に記憶保存するROM(Read Only Memory)120と、可変データを書き換え自在に記憶してワークエリアとして使用されるRAM(Random Access Memory)121と、試着室端末101の電源を落としてもデータ内容を保持する不揮発性メモリであるフラッシュメモリ122とがバス接続されている。
【0029】
また、CPU119には、LCD107、タッチパネル108、カメラ109、RFIDリーダライタ114、発光部116、赤外線センサ117、感圧センサ118、および通信インタフェース123、が、いずれも各種の入出力回路(いずれも図示せず)を介して接続され、CPU119によって動作制御される。なお、感圧センサ118は、前述したように実際には複数個設けられているが、図3中では一つの感圧センサ118のみ示している。
【0030】
フラッシュメモリ122には、各種コンピュータプログラムおよび各種ファイルが記憶されている。このようなフラッシュメモリ122に記憶されているコンピュータプログラムやファイルは、試着室端末101の起動時に、その全部又は一部がRAM121にコピーされて使用される。
【0031】
そして、試着室端末101のCPU119は、コンピュータプログラムに従って実行する処理中に各種のファイルにデータアクセスする。アクセスされるファイルは、コンピュータ301の図示しないHDD(Hard Disk Drive)に格納されているファイルである。コンピュータ301は、通信回線300を介して試着室端末101と接続されている。そのため、これらのファイルは、試着室端末101のCPU119によってデータアクセス可能となっている。
【0032】
ここで、図4および図5を用いて、コンピュータ301のHDD(図示しない)に格納され、試着室端末101のCPU119によりデータアクセス可能となっている各種ファイル(商品ファイルF1、商品分類ファイルF2等)について説明する。
【0033】
図4は、商品ファイルのデータ構成を示す図である。商品ファイルF1は、商品を特定する特定情報である商品IDに対応付けて、当該商品IDにより特定される商品の商品名と、当該商品IDにより特定される商品が属する商品分類と、当該商品IDにより特定される商品の単価と、当該商品IDにより特定される商品に対応する画像(本実施形態では、商品画像)と、を記憶するファイルである。
【0034】
図5は、商品分類ファイルのデータ構成を示す図である。商品分類ファイルF2は、商品ファイルF1に記憶された商品分類に対応付けて、所定の位置と、順番と、を記憶する。ここで、所定の位置は、商品分類に応じて予め設定された位置である。例えば、商品分類:「上着」の所定の位置は、カメラ109により撮像された動画像に含まれる顧客(人)のトップスの位置である。また、商品分類:「ズボン」の所定の位置は、カメラ109により撮像された動画像に含まれる顧客(人)のボトムスの位置である。
【0035】
また、順番は、カメラ109により撮像された動画像に複数の商品に対応する複数の画像を重ね合わせる場合に、各商品が属する商品分類に応じて予め設定された順番である。例えば、商品分類:「下着」の順番は、商品分類:「上着」よりも前の順番である。
【0036】
図6は、クライアント端末のハードウェア構成を示すブロック図である。クライアント端末401は、各種演算処理を実行し各部を制御する情報処理部としてのCPU402を備えている。CPU402には、コンピュータプログラム等の固定データを固定的に記憶保存するROM403と、可変データを書き換え自在に記憶してワークエリアとして使用されるRAM404と、クライアント端末401の電源を落としてもデータ内容を保持する不揮発性メモリであるフラッシュメモリ405とがバス接続されている。
【0037】
CPU402には、情報を表示するLCD406、LCD406の表示面に積層配置されてタッチ指定することにより情報を入力可能な操作入力部としてのタッチパネル408、通信回線300を介してコンピュータ301等とデータ通信を実行するための通信インタフェース407、衣料品110等の商品に付されたRFIDタグ111と無線通信を実行するRFIDリーダライタ409、および動画像を撮像する撮像部であるカメラ410が、いずれも各種の入出力回路(いずれも図示せず)を介して接続され、CPU402によって動作制御される。なお、RFIDリーダライタ409は、試着室端末101が備えるRFIDリーダライタ114と同様の構成を有しているため、ここでは説明を省略する。
【0038】
フラッシュメモリ405には、各種コンピュータプログラムおよび各種ファイルが記憶されている。このようなフラッシュメモリ405に記憶されているコンピュータプログラムやファイルは、クライアント端末401の起動時に、その全部又は一部がRAM404にコピーされて使用される。
【0039】
そして、クライアント端末401のCPU402は、コンピュータプログラムに従って実行する処理中に各種のファイル(例えば、商品ファイルF1、商品分類ファイルF2など)にデータアクセスする。アクセスされるファイルは、コンピュータ301の図示しないHDDに格納されているファイルである。コンピュータ301は、通信回線300を介してクライアント端末101とも接続されている。そのため、これらのファイルは、クライアント端末401のCPU402によってもデータアクセス可能となっている。
【0040】
次に、本実施形態にかかる試着室端末101が有する機能について説明する。図7は、本実施形態にかかる試着室端末の機能構成を示すブロック図である。CPU119は、RAM121に展開されたROM120が記憶するプログラムに従って動作することで、図7に示すように、識別部701、生成部702、および表示制御部703として機能する。
【0041】
識別部701は、赤外線センサ117によって顧客が検出されかつ感圧センサ118により圧力の検出が出力されると、試着室100に顧客が入室したと判断して、カメラ109に撮像オン信号を出力してカメラ109に撮像動作を開始させる。そして、識別部701は、カメラ109が撮像した撮像エリアのフレーム画像(動画像)を取り込んで、RAM121に格納する。
【0042】
また、識別部701は、RAM121に格納されたフレーム画像に含まれる物体を識別するものである。本実施形態では、識別部701は、RFIDリーダライタ114を制御して、衣料品110に付されたRFIDタグ111と無線通信を実行して、RFIDタグ111に記憶された商品IDのデータを読み取る。そして、識別部701は、読み取った商品IDにより特定される衣料品110を、RAM121に格納されたフレーム画像に含まれる物体として識別する。
【0043】
なお、本実施形態では、識別部701は、RFIDリーダライタ114により読み取った商品IDにより特定される衣料品110を、RAM121に格納されたフレーム画像に含まれる物体として識別しているが、これに限定するものではない。例えば、識別部701は、商品ファイルF1に記憶された商品画像を参照して、RAM121に格納されたフレーム画像から、特徴量として色合いや表面の凹凸状況等の表面の状態を読み取ることによって特定の物体として商品を認識(識別)する。なお、識別部701は、処理時間の短縮を図るため、商品の輪郭や大きさは考慮しないものとする。
【0044】
このように画像中に含まれる物体を認識することは一般物体認識(generic object recognition)と呼ばれている。このような一般物体認識については、下記の文献において各種認識技術が解説されている。
柳井 啓司,“一般物体認識の現状と今後”,情報処理学会論文誌,Vol.48,No.SIG16 [平成22年8月10日検索],インターネット<URL: http://mm.cs.uec.ac.jp/IPSJ-TCVIM-Yanai.pdf >
【0045】
また、画像をオブジェクトごとに領域分割することによって一般物体認識を行う技術が、下記の文献において解説されている。
Jamie Shottonら,“Semantic Texton Forests for Image Categorization and Segmentation”,[平成22年8月10日検索],インターネット<URL: http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.145.3036&rep=rep1&type=pdf >
【0046】
または、識別部701は、パターン認識やOCR(Optical Character Reader)文字認識により、RAM121に格納されたフレーム画像から文字や絵やシンボル等の特徴を抽出する。そして、識別部701は、抽出した特徴から、フレーム画像に含まれる物体を識別しても良い。
【0047】
生成部702は、RAM121に格納されたフレーム画像と、識別部701により識別された物体に対応する画像と、を合成した合成画像を生成する。本実施形態では、生成部702は、商品ファイルF1から、RFIDリーダライタ114により読み取った商品IDと対応付けられた画像を、識別部701により識別された物体に対応する画像として読み出す。さらに、生成部702は、商品ファイルF1から、RFIDリーダライタ114により読み取った商品IDと対応付けられた商品分類を読み出す。
【0048】
次いで、生成部702は、商品分類ファイルF2から、読み出した商品分類と対応付けられた所定の位置を読み出す。そして、生成部702は、RAM121に格納されたフレーム画像のうち、読み出した所定の位置に当該所定の位置の表示と異なる透過処理を施す。さらに、生成部702は、透過処理を施した部分に、商品ファイルF1から読み出した画像を重ね合わせることにより、合成画像を生成する。
【0049】
また、生成部702は、RFIDリーダライタ114により複数の商品IDが読み取られた場合(つまり、識別部701により複数の物体が識別された場合)、商品ファイルF1から、RFIDリーダライタ114により読み取られた複数の商品IDと対応付けられた商品分類および画像を読み出す。さらに、生成部702は、商品分類ファイルF2から、読み出した商品分類と対応付けられた順番を読み出す。そして、生成部702は、読み出した画像を、読み出した順番に従って、RAM121に格納されたフレーム画像に重ね合わせることにより、合成画像を生成する。
【0050】
表示制御部703は、生成部702により生成された合成画像を、LCD107に表示する。これにより、試着室100に入室した顧客は、試着室100に持ち込んだ衣料品110を実際に試着しなくても、当該衣料品110を自身が試着したイメージを確認することができる。また、合成画像をLCD107に表示させる際(つまり、拡張現実の提示を受ける際)、現実の情報(RAM121に格納されたフレーム画像)に重ね合わせる付加情報(商品画像)を顧客が選択する必要がないので、より簡単に拡張現実の提示を受けることができる。
【0051】
次に、図8を用いて、試着室端末101が行う拡張現実提示処理について説明する。図8は、試着室端末が行う拡張現実提示処理の手順を示したフローチャートである。
【0052】
識別部701は、試着室100に顧客が入室するのを待つ(ステップS801:No)。赤外線センサ117によって顧客が検出されかつ感圧センサ118により圧力の検出が出力されると、識別部701は、試着室100に顧客が入室したと判断して(ステップS801:Yes)、カメラ109に撮像オン信号を出力してカメラ109に撮像動作を開始させる(ステップS802)。そして、識別部701は、カメラ109により撮像された動画像を構成するフレーム画像を取り込んで、RAM121に格納する。
【0053】
次いで、識別部701は、RFIDリーダライタ114を制御して、顧客が試着室100内に持ち込んだ衣料品110に付されたRFIDタグ111と無線通信を実行して、RFIDタグ111に記憶された商品IDを読み取る(ステップS803)。
【0054】
次に、生成部702は、商品ファイルF1から、読み取った商品IDと対応付けて記憶された画像を読み出す。そして、生成部702は、読み出した画像と、RAM121に格納されたフレーム画像とを合成した合成画像を生成する(ステップS804)。
【0055】
ここで、図9を用いて、顧客が試着室100内に持ち込んだ複数の衣料品110(例えば、ジャケット、ワイシャツ、スラックス)に付されたRFIDタグ111から、複数の商品IDが読み取られた場合における合成画像の生成処理について説明する。図9は、複数の画像とカメラにより撮像されたフレーム画像とを重ね合わせた合成画像を生成する処理を説明するための図である。
【0056】
生成部702は、商品ファイルF1から、識別部701により読み取った複数の商品IDと対応付けて記憶された画像(ジャケットの画像、ワイシャツの画像、スラックスの画像)および商品分類(ジャケットの商品分類:「上着」、ワイシャツの商品分類:「下着」、スラックスの商品分類:「パンツ」)を読み出す。次いで、生成部702は、商品分類ファイルF2から、読み出した商品分類(ジャケットの商品分類:「上着」、ワイシャツの商品分類:「下着」、スラックスの商品分類:「パンツ」)と対応付けられた所定の位置(商品分類:「上着」,「下着」と対応付けられた所定の位置:「トップス」、商品分類:「パンツ」と対応付けられた所定の位置:「ボトムス」)を読み出す。
【0057】
さらに、生成部702は、商品分類ファイルF2から、(ジャケットの商品分類:「上着」、ワイシャツの商品分類:「下着」、スラックスの商品分類:「パンツ」)と対応付けられた順番(商品分類:「上着」と対応付けられた順番:「3」、商品分類:「パンツ」と対応付けられた順番:「2」、商品分類:「下着」と対応付けられた順番:「1」)を読み出す。
【0058】
次に、生成部702は、RAM121に記憶されたフレーム画像901のうち、商品分類ファイルF2から読み出した所定の位置903:「フレーム画像901に含まれる顧客のトップスの位置」および所定の位置904:「フレーム画像901に含まれる顧客のボトムスの位置」に透過処理を施す。より具体的には、生成部702は、フレーム画像901に対して物体認識やパターン認識等を行うことにより、当該フレーム画像901における所定の位置903:「フレーム画像901に含まれる顧客のトップスの位置」および所定の位置904:「フレーム画像901に含まれる顧客のボトムスの位置」を抽出する。そして、生成部702は、抽出した所定の位置903,904に対して透過処理を施すものとする。次いで、生成部702は、フレーム画像901において透過処理を施した部分(所定の位置903,904)に、商品ファイルF1から読み出した画像(ジャケットの画像、ワイシャツの画像、およびスラックスの画像)を、商品分類ファイルF2から読み出した順番(商品分類:「上着」と対応付けられた順番:「3」、商品分類:「パンツ」と対応付けられた順番:「2」、商品分類:「下着」と対応付けられた順番:「1」)に重ね合わせた合成画像905を生成する。つまり、生成部702は、フレーム画像901において透過処理を施した部分(所定の位置903,904)に、ワイシャツの画像906、スラックスの画907像、ジャケットの画像908の順に重ね合わせた合成画像905を生成する。
【0059】
図8に戻り、生成部702により合成画像が生成されると、表示制御部703は、生成された合成画像を、LCD107に表示させる(ステップS805)。
【0060】
このように本実施形態にかかる試着室端末101によれば、試着室100内の動画像を撮像するカメラ109と、カメラ109により撮像された動画像を構成するフレーム画像に含まれる物体を識別する識別部701と、カメラ109により撮像された動画像を構成するフレーム画像と、識別部701により識別された物体に対応する画像と、を合成した合成画像を生成する生成部702と、生成部702により生成された合成画像をLCD107に表示する表示制御部703と、を備えることにより、合成画像をLCD107に表示させる際、カメラ109に撮像された動画像を構成するフレーム画像に合成する画像を顧客が選択する必要がなくなるので、より簡単に拡張現実(合成画像)の提示を受けることができる。
【0061】
(第2の実施形態)
本実施形態は、第1の実施形態における拡張現実提示処理をクライアント端末において実行する例である。なお、クライアント端末のハードウェア構成は、第1の実施形態と同様であるため、ここでは説明を省略する。
【0062】
図10は、本実施形態にかかるクライアント端末の機能構成を示すブロック図である。CPU402は、RAM404に展開されたROM403に記憶するプログラムに従って動作することで、図10に示すように、識別部1001、生成部1002、および表示制御部1003として機能する。
【0063】
識別部1001は、クライアント端末401を操作する顧客によってタッチパネル408が操作されて拡張現実の提示が要求されると、カメラ410に撮像オン信号を出力してカメラ410の撮像動作を開始させる。そして、識別部1001は、カメラ410が撮像した撮像エリアのフレーム画像(動画像)を取り込んでRAM404に格納する。
【0064】
また、識別部1001は、RAM404に格納されたフレーム画像に含まれる物体を識別するものである。本実施形態では、識別部1001は、RFIDリーダライタ409を制御して、商品(例えば、ショールーム等に展示された車など)に付されたRFIDタグ111と無線通信を実行して、RFIDタグ111に記憶された商品IDを読み取る。そして、識別部1001は、読み取った商品IDにより特定される商品を、RAM404に格納されたフレーム画像に含まれる物体として識別する。なお、識別部1001は、第1の実施形態にかかる識別部701と同様に、一般物体認識やパターン認識やOCR文字認識等を用いて、フレーム画像に含まれる物体を認識することができる。
【0065】
生成部1002は、RAM404に格納されたフレーム画像と、識別部1001により識別された物体に対応する画像と、を合成した合成画像を生成する。本実施形態では、生成部1001は、商品ファイルF1から、RFIDリーダライタ409により読み取った商品IDと対応付けられた商品分類および画像を読み出す。次いで、生成部1002は、商品分類ファイルF2から、読み出した商品分類と対応付けられた所定の位置(例えば、RAM403に格納されたフレーム画像における背景部分)を読み出す。そして、生成部1002は、RAM404に格納されたフレーム画像のうち、読み出した所定の位置に当該所定の位置の表示と異なる透過処理を施す。さらに、生成部1002は、透過処理を施した部分に、識別部1001により識別された物体に対応する画像(商品ファイルF1から読み出した画像、例えば、背景の動画像など)を重ね合わせた合成画像を生成する。
【0066】
表示制御部1003は、生成部1002により生成された合成画像を、LCD406に表示する。これにより、車のショールーム等を訪れた顧客は、車が実際に公道を走っている様子を見なくても、車が公道を走っているイメージを確認することができる。また、合成画像をLCD406に表示させる際、現実の情報(RAM404に格納されたフレーム画像)に合成する付加情報(背景の画像)を顧客が選択する必要がないので、より簡単に拡張現実の提示を受けることができる。
【0067】
次に、図11を用いて、クライアント端末101が行う拡張現実提示処理について説明する。図11は、クライアント端末が行う拡張現実提示処理の手順を示したフローチャートである。
【0068】
識別部1001は、クライアント端末401を操作する顧客によってタッチパネル408が操作されて拡張現実の提示が要求されるのを待つ(ステップS1101:No)。タッチパネル408が操作されて拡張現実の提示が要求されると(ステップS1101:Yes)、識別部1001は、カメラ410に撮像オン信号を出力してカメラ410に撮像動作を開始させる(ステップS1102)。そして、識別部1001は、カメラ410により撮像された動画像を構成するフレーム画像を取り込んで、RAM404に格納する。
【0069】
次いで、識別部1001は、RFIDリーダライタ409を制御して、ショールーム等の店舗に展示されている車等の商品に付されたRFIDタグ111と無線通信を実行して、RFIDタグ111に記憶された商品IDを読み取る(ステップS1103)。
【0070】
次に、生成部1002は、商品ファイルF1から、読み取った商品IDと対応付けて記憶された画像を読み出す。そして、生成部1002は、読み出した画像を、RAM404に格納されたフレーム画像に合成した合成画像を生成する(ステップS1104)。
【0071】
ここで、図12を用いて、ショールームに展示されている商品(例えば、車)に付されたRFIDタグ111から、商品IDが読み取られた場合における合成画像の生成処理について説明する。図12は、背景の画像とカメラにより撮像されたフレーム画像とを重ね合わせた合成画像を生成する処理を説明するための図である。
【0072】
生成部1002は、商品ファイルF1から、RFIDリーダライタ409により読み取った商品IDと対応付けて記憶された画像(背景の画像)および商品分類(車の商品分類:「オンロード」)を読み出す。次いで、生成部1002は、商品分類ファイルF2から、読み出した商品分類(車の商品分類:「オンロード」)と対応付けられた所定の位置(所定の位置:背景)を読み出す。
【0073】
次に、生成部1002は、RAM404に記憶されたフレーム画像1201に含まれる車の画像1202を除く背景の画像1203に透過処理を施す。次いで、生成部1002は、フレーム画像1201において透過処理を施した部分に、商品ファイルF1から読み出した背景の画像1205を重ね合わせた合成画像1204を生成する。
【0074】
図11に戻り、生成部1002により合成画像が生成されると、表示制御部1003は、生成された合成画像を、LCD406に表示させる(ステップS1105)。
【0075】
このように本実施形態にかかるクライアント端末401によれば、ショールーム内の動画像を撮像するカメラ410と、カメラ410により撮像された動画像を構成するフレーム画像に含まれる物体を識別する識別部1001と、カメラ401により撮像された動画像を構成するフレーム画像と、識別部1001により識別された物体に対応する画像と、を合成した合成画像を生成する生成部1002と、生成部1002により生成された合成画像をLCD406に表示する表示制御部1003と、を備えることにより、合成画像をLCD406に表示させる際に、カメラ410に撮像された動画像を構成するフレーム画像に合成する画像を顧客が選択する必要がなくなるので、より簡単に拡張現実(合成画像)の提示を受けることができる。
【0076】
以上説明したとおり、第1から第2の実施形態によれば、より簡単に拡張現実の提示を受けることができる。
【0077】
なお、本実施形態の試着室端末101およびクライアント端末401で実行されるプログラムは、ROM等に予め組み込まれて提供されるが、これに限定するものではない。例えば、本実施形態の試着室端末101およびクライアント端末401で実行されるプログラムは、インストール可能な形式又は実行可能な形式のファイルでCD−ROM、フレキシブルディスク(FD)、CD−R、DVD(Digital Versatile Disk)等のコンピュータで読み取り可能な記録媒体に記録して提供するように構成してもよい。
【0078】
さらに、本実施形態の試着室端末101およびクライアント端末401で実行されるプログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成しても良い。また、本実施形態の試着室端末101およびクライアント端末401で実行されるプログラムをインターネット等のネットワーク経由で提供または配布するように構成しても良い。
【0079】
本実施形態の試着室端末101およびクライアント端末401で実行されるプログラムは、上述した各部(識別部701,1001、生成部702,1002、表示制御部703,1003)を含むモジュール構成となっており、実際のハードウェアとしてはCPU(プロセッサ)が上記ROMからプログラムを読み出して実行することにより上記各部が主記憶装置上にロードされ、識別部701,1001、生成部702,1002、表示制御部703,1003が主記憶装置上に生成されるようになっている。
【0080】
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
【符号の説明】
【0081】
1 拡張現実システム
101 試着室端末
107,406 LCD
109,410 カメラ
110 衣料品
111 RFIDタグ
112 ICチップ
113 タグアンテナ
114,409 RFIDリーダライタ
119,402 CPU
120,403 ROM
121,404 RAM
123,407 通信インタフェース
300 通信回線
301 コンピュータ
401 クライアント端末
701,1001 識別部
702,1002 生成部
703,1003 表示制御部
F1 商品ファイル
F2 商品分類ファイル
【先行技術文献】
【特許文献】
【0082】
【特許文献1】特開2007−37078号公報

【特許請求の範囲】
【請求項1】
動画像を撮像する撮像手段と、
前記撮像された動画像に含まれる物体を識別する識別手段と、
前記識別された物体に対応する画像と前記撮像された動画像とを合成した合成画像を生成する生成手段と、
前記生成した合成画像を表示部に表示する表示制御手段と、
を備えた映像表示装置。
【請求項2】
前記識別手段は、前記撮像された動画像に含まれる物体を特定する特定情報が記憶されかつ無線通信により前記特定情報が読み取られるタグから、無線通信により前記特定情報を読み取り、前記読み取った特定情報により特定される物体を、前記撮像された動画像に含まれる物体として識別する請求項1に記載の映像表示装置。
【請求項3】
前記生成手段は、前記識別手段により識別された物体に対応する画像を、前記撮像された動画像における所定の位置に合成した前記合成画像を生成する請求項1または2に記載の映像表示装置。
【請求項4】
前記生成手段は、前記撮像された動画像において、前記識別された物体が属する分類に応じて予め設定された前記所定の位置に、前記識別された物体に対応する画像を合成した前記合成画像を生成する請求項3に記載の映像表示装置。
【請求項5】
前記生成手段は、前記識別手段により複数の物体が識別された場合、前記識別された各物体に対応する複数の画像を、前記識別された各物体が属する分類に応じて予め設定された順番に従って前記撮像された動画像に重ね合わせた前記合成画像を生成する請求項1から4のいずれか一に記載の映像表示装置。
【請求項6】
コンピュータを、
撮像部により撮像された動画像に含まれる物体を識別する識別手段と、
前記識別された物体に対応する画像と前記撮像された動画像とを合成した合成画像を生成する生成手段と、
前記生成した合成画像を表示部に表示する表示制御手段と、
として機能させるためのプログラム。






【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate


【公開番号】特開2013−54598(P2013−54598A)
【公開日】平成25年3月21日(2013.3.21)
【国際特許分類】
【出願番号】特願2011−193249(P2011−193249)
【出願日】平成23年9月5日(2011.9.5)
【出願人】(000003562)東芝テック株式会社 (5,631)
【Fターム(参考)】