説明

体感効果再生装置

【課題】コンテンツ制作者の意向やエフェクトの特性を考慮し、違和感のないエフェクトの特殊再生を実現する体感効果再生装置を提供する。
【解決手段】体感効果再生装置1は、コンテンツに同期した体感効果メタデータを復号するメタデータ復号部15と、メタデータ復号部15で復号された体感効果メタデータに基づいて、体感機器である周辺機器10を制御する制御部16とを備える。制御部16は、再生速度の変化を伴う特殊な再生である特殊再生が要求された場合、要求された特殊再生の内容と体感効果メタデータに付与された優先度情報とに応じて、体感効果メタデータが示す体感効果を提示するか否かを制御する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、映像及び/又は音声のコンテンツと連動して体感機器を動作させ、臨場感の高いコンテンツ視聴を実現するための体感効果再生装置に関するものであり、特に、コンテンツの特殊再生時における体感効果の再生制御を行う体感効果再生装置に関する。
【背景技術】
【0002】
近年、映像及び/又は音声のコンテンツと連動して、照明、振動、香りなどの体感効果(エフェクト)を提示することにより、臨場感の高いコンテンツ視聴を実現する方法が提案されている。
【0003】
例えば、特許文献1には、画像表示装置に表示される画像に連動して視聴環境照明を制御することによって、高い臨場感が得られる照明制御方法が開示されている。また、特許文献2には、映像/音声コンテンツと連動した振動エフェクトの特殊再生において、特殊再生モードに対応した重み付けを振動情報に与える振動体感再生装置が開示されている。
【0004】
また、体感効果を記述するメタデータの検討も進められており、国際標準化団体であるMPEG(Moving Picture Experts Group)では、照明、振動、香りなどの各種エフェクトを記述するためのメタデータの規格化が進められている(非特許文献1を参照)。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2000−173783号公報
【特許文献2】特開2007−324829号公報
【非特許文献】
【0006】
【非特許文献1】“Working Draft of ISO/IEC 23005 Sensory Information”、[online]、2009年4月、[平成21年9月29日検索]、インターネット <URL: http://www.chiariglione.org/mpeg/working_documents/mpeg-v/pt3.zip>
【発明の概要】
【発明が解決しようとする課題】
【0007】
コンテンツの視聴時には、しばしば、早送りや早戻しなどの特殊再生が行われる。しかしながら、体感効果の特殊再生では、再生速度が速い場合にすべてのエフェクトを時間的に短縮して提示すると、映像とエフェクトの対応関係が分かりにくくなるなど、違和感を感じてコンテンツ全体の内容の把握が困難になる場合があった。
【0008】
また、例えばこのエフェクトは比較的重要でないため特殊再生時には省略しても構わないといったコンテンツ制作者の意向や、例えば香りエフェクトは拡散に時間がかかるといったエフェクトの特性によっては、エフェクトの特殊再生を制限したい場面があるものの、特許文献1,2や非特許文献1をはじめとする従来の技術ではそのような制限を行うことができなかった。
【0009】
すなわち、従来の技術では、特殊再生がコンテンツ視聴側からの要求により開始される再生であるため、特殊再生時にエフェクトを実行するか否かのコンテンツ制作者側の意向を反映することができず、また、特殊再生が再生速度の変化を伴う再生であるため、特殊再生の時にエフェクトの特性に拘わらずそのエフェクトが実行されてしまう。
【0010】
本発明は、上述のような実状に鑑みてなされたものであって、コンテンツ制作者の意向やエフェクトの特性を考慮し、違和感のないエフェクトの特殊再生を実現する体感効果再生装置を提供することを、その目的とする。
【課題を解決するための手段】
【0011】
上記課題を解決するために、本発明の第1の技術手段は、映像及び/又は音声のコンテンツと連動して体感機器で体感効果を提示する体感効果再生装置であって、前記コンテンツに同期した体感効果メタデータを復号するメタデータ復号部と、前記メタデータ復号部で復号された前記体感効果メタデータに基づいて前記体感機器を制御する制御部とを備え、前記制御部は、再生速度の変化を伴う特殊な再生である特殊再生が要求された場合、要求された特殊再生の内容と前記体感効果メタデータに付与された優先度情報とに応じて、前記体感効果メタデータが示す体感効果を提示するか否かを制御することを特徴としたものである。
【0012】
第2の技術手段は、第1の技術手段において、前記優先度情報は、体感効果のエフェクト単位で付与された優先度値に基づく情報であることを特徴としたものである。
【0013】
第3の技術手段は、第1の技術手段において、前記優先度情報は、PES(Packetized Elementary Stream)パケット単位で付与された優先度値に基づく情報であることを特徴としたものである。
【0014】
第4の技術手段は、第1の技術手段において、前記優先度情報は、TS(Transport Stream)パケット単位で付与された優先度値に基づく情報であることを特徴としたものである。
【発明の効果】
【0015】
本発明に係る体感効果再生装置によれば、コンテンツの特殊再生が要求された場合、体感効果メタデータに付与された優先度情報に基づいて体感効果を提示するか否かを制御するようにしたため、コンテンツ制作者の意向やエフェクトの特性を考慮した、違和感の無いエフェクトの特殊再生を実現することができる。
【図面の簡単な説明】
【0016】
【図1】本発明の一実施形態に係る体感効果再生装置の概略構成例を示す機能ブロック図である。
【図2】図1のメタデータ復号部から出力される体感効果メタデータの例である。
【図3】特殊再生の再生速度と提示する体感効果との関係の一例を示した図である。
【図4】体感効果メタデータのES(Elementary Stream)パケット、PES(Packetized Elementary Stream)パケット、TS(Transport Stream)パケットの関係を示した図である。
【図5】PESパケットヘッダの構成を示した図である。
【図6】TSパケットヘッダの構成を示した図である。
【図7】本発明の一実施形態に係る体感効果再生装置の他の概略構成例を示す機能ブロック図である。
【発明を実施するための形態】
【0017】
本発明に係る体感効果再生装置は、映像及び/又は音声のコンテンツと連動して体感機器で体感効果を提示する(再生させる)装置であり、例えば、テレビ装置、若しくはテレビ装置やモニタ装置に接続されたレコーダやプレーヤなどに、体感機器が接続されて構成される。以下、本発明に係る体感効果再生装置について、図面を参照しながら詳細に説明する。
【0018】
図1は、本発明の一実施形態に係る体感効果再生装置の概略構成例を示す機能ブロック図である。
図1で例示する体感効果再生装置1は、周辺機器10、光ディスク11の駆動装置、データ分離部12、映像復号部13、音声復号部14、メタデータ復号部15、制御部16、操作部17、ディスプレイ18、及びスピーカ19を備える。なお、周辺機器10、光ディスク11の駆動装置、ディスプレイ18、及びスピーカ19などは、体感効果再生装置1の本体の外部に接続されていてもよい。
【0019】
周辺機器10は、臨場感を与えるような体感を視聴者に提示する1又は複数の体感機器であり、照明装置、振動発生装置、香り発生装置などが挙げられる。光ディスク11としては、例えばBD(Blu−ray Disc)、DVD(Digital Versatile Disc)などが挙げられる。また、光ディスク11の代わりに磁気ディスクや半導体の不揮発性メモリなどの可搬メディアを採用してもよい。
【0020】
データ分離部12は、光ディスク11の駆動装置が光ディスク11から読み出した、体感効果を含む映像コンテンツの多重化データに対して逆多重化処理を行い、映像データを映像復号部13へ、音声データを音声復号部14へ、体感効果メタデータをメタデータ復号部15へ出力する。映像復号部13、音声復号部14は、それぞれ映像データ、音声データを復号し、ディスプレイ18、スピーカ19へ出力する。メタデータ復号部15は、コンテンツに同期した体感効果メタデータを復号し、制御部16へ出力する。
【0021】
光ディスク11の記録フォーマットには、MPEG−2 Systems(ISO/IEC 13818−1)で規定されているTS(Transport Stream)を用いることができる。この場合、データ分離部12では、TSパケットに記述されているPID(Packet Identification)に基づき、映像TS、音声TS、及びメタデータTSに分離し、メディア(映像/音声/メタデータ)ごとのPES(Packetized Elementary Stream)パケットを生成する。さらに、データ分離部12では、PESパケットからES(Elementary Stream)を生成し、映像ESを映像復号部13へ、音声ESを音声復号部14へ、メタデータESをメタデータ復号部15へ出力する。
【0022】
映像ESの符号化には、MPEG−4 Visual(ISO/IEC 14496−2)やMPEG−4 AVC(ISO/IEC 14496−10)/H.264等の符号化方式を用いることができる。映像復号部13で復号された映像データは、ディスプレイ18に表示される。
【0023】
音声ESの符号化には、MPEG−2 AAC(ISO/IEC 13818−7)や、MPEG−4 AAC(ISO/IEC 14496−3)等の符号化方式を用いることができる。音声復号部14で復号された音声データは、スピーカ19に出力される。
【0024】
メタデータESの符号化には、非特許文献1で挙げたMPEG−V Sensory Information(ISO/IEC 23005−3)等、XML(Extensible Markup Language)ベースの記述形式を用いることができる。XMLで記述されたメタデータは、テキスト形式のESとして符号化してもよいし、MPEG−7 Systems(ISO/IEC 15938−1)で規定されるバイナリフォーマット(BiM)を用い、バイナリ形式のESとして符号化してもよい。メタデータ復号部15で復号された(ここでは、XMLのパース処理も含むものとする)体感効果メタデータは、制御部16に出力される。
【0025】
次に、制御部16の動作について説明する。
制御部16は、メタデータ復号部15で復号された体感効果メタデータに基づいて周辺機器10を制御する。本発明の主たる特徴として、制御部16は、特殊再生が要求された場合、要求された特殊再生の内容と体感効果メタデータに付与された優先度情報(体感効果の優先度を示す情報)とに応じて、体感効果メタデータが示す体感効果を提示するか否か(つまり周辺機器10で再生させるか否か)を制御する。
【0026】
ここで、特殊再生とは、再生速度の変化を伴う特殊な再生とする。そして、要求された特殊再生の内容とは、特殊再生の種類や再生の速度などの特殊再生の度合いを指し、より具体的には、通常再生、早送り再生、早戻し再生、一時停止等の再生モードのうち、どの再生モードが要求されたのかを示す情報が挙げられる。この例では、制御部16が、メタデータ復号部15より出力された体感効果メタデータ内の優先度情報と、操作部17より出力される再生モードの情報に基づき、周辺機器10を適切に制御することになる。また、特殊再生の要求は、一般的に操作部17によるユーザ操作に基づきなされるが、タイマなどを使用して自動的にコンテンツ再生側である体感効果再生装置1が実行することでなされてもよい。
【0027】
次に、体感効果メタデータ及びそこに含まれる優先度情報について、図2を参照しながら説明する。図2は、メタデータ復号部15から出力される体感効果メタデータの一例を示す図である。図2で例示する体感効果メタデータ2には、提示する各種エフェクト21〜25が時間(si:pts)順に記述されている。
【0028】
照明エフェクト21は、時刻100(si:pts=“100”)より10秒間(duration=“10”)、緑色(color=“#00FF00”)の照明(xsi:type=“sev:LightType”)を強度20%(intensity=“0.2”)で点灯させることを示している。他の照明エフェクト22,25についても記述された値が違うだけである。
【0029】
同様に、振動エフェクト23は、時刻200より5秒間、強度50%で振動(xsi:type=“sev:VibrationType”)を発生させることを示している。同様に、香りエフェクト24は、時刻300より10秒間、強度10%でバラ(scent=“:SCENT:rose”)の香り(xsi:type=“sev:ScentType”)を発生させることを示している。
【0030】
そして、各エフェクト21〜25には、優先度(priority)が指定されている。より具体的には、エフェクト21,22,23,24,25に対してそれぞれ5,1,2,4,3の値が指定されている。この例では、値が小さいほど優先度が高いことを示している。
【0031】
このpriorityは、非特許文献1記載のpriorityである。このように、優先度情報として、非特許文献1記載のpriorityを利用することができる。このpriorityは、エフェクト単位(図2の<Effect>・・・</Effect>単位)に付与が可能な属性であって、同じ種類(xsi:typeの値が同じ)のエフェクトであっても異なる値を取ることができ、逆に種類の異なるエフェクトに対して同じ値を取ることもできる。
【0032】
コンテンツ制作者(体感効果メタデータ制作者)は、クライマックスシーンや、特にユーザに驚きや臨場感を与えたいシーン等で、体感効果の優先度を高く設定して、体感効果メタデータに付与することができる。また、図2の例では体感効果メタデータとして照明、振動、香りで臨場感を体感させるデータのみを挙げたが、これに限定されるものではなく、体感効果メタデータは例えば効果音、風、温度、イオン、霧等で臨場感を体感させるデータであってもよい。その場合、周辺機器10として、それぞれ効果音発生装置、送風機、エアコンディショナー、イオン発生装置、霧発生装置を備えておけばよい。
【0033】
次に、制御部16で実行される、特殊再生の内容と図2の優先度情報とに応じた制御について、図3を参照しながら説明する。図3は、特殊再生の再生速度と提示する体感効果の関係の一例を示した図である。
【0034】
図3で例示する関係テーブル3においては、特殊再生を再生速度が1〜2倍、2〜5倍、5〜10倍、10倍〜、と分類し、それぞれに体感効果の提示方法が記述されており、制御部16はこの記述に従った制御を行う。
【0035】
例えば1〜2倍速(例えば1.5倍速)程度の比較的ゆっくりとした早送り/早戻し再生では、体感効果メタデータ内の優先度(priority)値が4以下の体感効果を提示する。この場合、図2で示した照明エフェクト21は、priority=5のため、提示されない。5〜10倍速(例えば8倍速)の比較的高速な早送り/早戻し再生では、優先度(priority)値が2以下の体感効果を提示する。この場合、照明エフェクト22と振動エフェクト23のみが提示される。なお、早送り/早戻しだけでなく、スロー再生やコマ送り/コマ戻し再生、一時停止時の動作も同様に適用可能である。
【0036】
一方で、特殊再生ではなく通常再生時には、優先度の値に拘わらずすべての体感効果を提示する。関係テーブル3においては通常再生についても説明上、記載しているものの、制御部16は、通常再生時には、優先度の値や関係テーブル3を参照せずにそのまま体感効果を提示するよう制御すればよい。このように、体感効果再生装置1は、優先度情報を通常再生時には参照せず特殊再生時にのみ参照すればよい。
【0037】
以上説明したように、体感効果再生装置1では、優先度を示す情報を体感効果メタデータ内に記述し、それを解読できるように構成しておくことによって、コンテンツ制作者の意向やエフェクトの特性を考慮した体感効果の再生が実現できる。特に、メタデータ内に記述された優先度情報に基づいた特殊再生制御が可能なため、コンテンツ制作者(=メタデータ制作者)の意向、例えばこのエフェクトは比較的重要でないため特殊再生時には省略しても構わないといった意向を、反映することができる。また、例えば拡散に時間がかかる香りエフェクトなどについては、通常再生時には実行する一方で、特殊再生時に実行しないように制限することができる。
【0038】
また、図2では、優先度情報が体感効果のエフェクト単位で(つまり体感効果ごとに)付与された優先度値に基づく情報である例を挙げた。このようにエフェクトごとに付与しておくことで、制御部16が、コンテンツ制作者の意向やエフェクトの特性を考慮した違和感の無いエフェクトの特殊再生をいずれのエフェクトに対しても実行することができる。それにより、エフェクトによって特殊再生時の再生を止めたり実行したりすることができる。また、優先度情報は、体感効果のエフェクト単位で付与された優先度値そのものに限らず、その優先度値から何らかの簡易な演算を施して得た値を利用してもよい。
【0039】
また、上述の例では、優先度情報として、メタデータESレベルの(XML記述レベルの)優先度値を利用して、特殊再生時の体感効果の再生制御を実現したが、MPEG−2トランスポートストリームにおけるPESパケットレベルの優先度値(PESパケット単位で付与された優先度値)や、TSパケットレベルの優先度値(TSパケット単位で付与された優先度値)を利用してもよい。これらの優先度値も、そのまま優先度情報として利用してもよいし、何らかの簡単な演算を施したものを優先度情報として利用してもよい。
【0040】
このような例、すなわち優先度情報としてMPEG−2 SystemsにおけるPES_priorityの値、TS_priorityの値を利用した例について、図4〜図6を参照しながら説明する。また、ここで説明するいずれの値を利用した場合も、コンテンツ制作者の意向やエフェクトの特性を考慮した違和感の無いエフェクトの特殊再生を、いずれのエフェクトに対しても実行するために、優先度情報はエフェクトごとに付与される値であることが好ましい。
【0041】
まず、体感効果メタデータのESパケット、PESパケット、TSパケットの関係について、図4を参照して説明する。図4で示す関係4のように、各エフェクト(ESパケット)41はPESヘッダが付加されてPESパケット42を構成し、さらにPESパケット42は、所定の長さに分割されTSヘッダが付加されTSパケット43を構成する。図4の構成では、1つのエフェクトが1つのPESパケットに(例えば、照明エフェクト21のメタデータESが1つのPESパケットに)格納されているが、これに限らず、1つのエフェクトが複数のPESパケットに格納されていてもよい。
【0042】
図5は、PESパケットヘッダの構成を示した図である。図5で例示するPESパケットヘッダ5には、シンタックス、それに対応するビット数、及びニーモニックが記述されている。シンタックスにはPES_priorityが含まれる。
【0043】
PES_priorityは、PESパケットの優先度を示す1ビットのフラグであり、この例ではフラグが立っている方が優先度が高いものとする。すなわち、この例では、PES_priority=1のPESパケットは、PES_priority=0のPESパケットより優先度が高いことを示している。
【0044】
例えば、図2の例で言うところのpriority=“1”又は“2”のエフェクト(図2の照明エフェクト22及び振動エフェクト23)に対応するPESパケットのPES_priorityを“1”に設定すればよい。そして、それ以外、すなわち図2の例で言うところのpriorityが3以上のエフェクト(図2の照明エフェクト21、香りエフェクト24、及び照明エフェクト25)に対応するPESパケットのPES_priorityを“0”に設定すればよい。
【0045】
早送りや早戻しなどの特殊再生が要求された場合、データ分離部12がPES_priority=0の体感効果メタデータのPESパケットを破棄することによって、制御部16が優先度の高い体感効果のみを提示するよう制御することができる。
【0046】
このように、特殊再生時に、提示しない体感効果に対応するパケットをデータ分離部12で破棄することによって、優先度の高い体感効果のみを提示し、且つ不要なデータはメタデータ復号部15に渡らないため、処理負荷を軽減することができる。
【0047】
図6は、TSパケットヘッダの構成を示した図である。図6で例示するTSパケットヘッダ6には、シンタックス、それに対応するビット数、及びニーモニックが記述されている。シンタックスにはtransport_priorityが含まれる。
【0048】
transport_priorityは、TSパケットの優先度を示す1ビットのフラグであり、この例ではフラグが立っている方が優先度が高いものとする。すなわち、この例では、transport_priority=1のTSパケットは、transport_priority=0のTSパケットより優先度が高いことを示している。
【0049】
例えば、図2の例で言うところのpriority=“1”又は“2”のエフェクト(図2の照明エフェクト22及び振動エフェクト23)に対応するTSパケット、あるいはPES_priorityが1に設定されたPESパケットに対応するTSパケットのtransport_priorityを“1”に設定すればよい。そして、それ以外、すなわち図2の例で言うところのpriorityが3以上のエフェクト(図2の照明エフェクト21、香りエフェクト24、及び照明エフェクト25)に対応するTSパケット、あるいはPES_priorityが0に設定されたPESパケットに対応するTSパケットのtransport_priorityを“0”に設定すればよい。
【0050】
早送りや早戻しなどの特殊再生が要求された場合、データ分離部12がTS_priority=0の体感効果メタデータのTSパケットを破棄することによって、制御部16が優先度の高い体感効果のみを提示するよう制御することができる。この例でも、図5の例と同様に、不要なデータはメタデータ復号部15に渡らないため、処理負荷を軽減することができる。
【0051】
また、上述した図1の構成例では、映像データ、音声データ、及びメタデータ(体感効果を含む)が多重化され光ディスク11に記録されているものを再生対象として説明したが、体感効果メタデータ本体は通信回線等を介して映像・音声コンテンツの再生時に取得する構成を採用してもよい。このような構成例を、図7を参照して説明する。図7は、本発明の一実施形態に係る体感効果再生装置の他の概略構成例を示す機能ブロック図である。
【0052】
図7で例示する体感効果再生装置7は、体感効果メタデータを取得するために、図1の構成に加えて、蓄積部71に接続されたサーバ72に接続可能なようにネットワークアダプタ等を備えており、また、取得制御を含めた全体の制御を行う制御部73が制御部16の代わりに設けられている。この構成では、光ディスク11には、URI(Uniform Resource Identifier)等、体感効果メタデータ本体の場所を示すメタデータのみを多重化しておけばよい。
【0053】
制御部73は、メタデータ復号部15より出力されたメタデータが示す体感効果メタデータ本体のURIに基づき、サーバ72に体感効果メタデータを要求する。サーバ72は、その要求を受信し、蓄積部71に記録されているデータのうち、その要求に対応する体感効果メタデータを検索して制御部73に送信する。
【0054】
また、図7では、光メディア11内にコンテンツ及び体感効果メタデータ本体の場所情報が格納され、蓄積部71に体感効果メタデータが蓄積された例を挙げたが、コンテンツや体感効果メタデータの取得方法としては様々な方法が採用できる。
【0055】
例えば、体感効果再生装置は、コンテンツと体感効果メタデータとを双方、放送波として受信するように構成してもよい。また、体感効果再生装置は、放送波としてコンテンツ及び体感効果メタデータの場所情報を受信し、サーバ72を介して蓄積部71や光ディスク11等の記録メディアから体感効果メタデータを取得するように構成することも可能である。また、体感効果再生装置は、コンテンツと体感効果メタデータの双方を、ビデオオンデマンドで若しくはIP(Internet Protocol)放送などで、サーバ72及び蓄積部71のような外部サーバ及び蓄積部から取得するように構成することができる。そのとき、コンテンツ及び体感効果メタデータ本体の場所情報を最初に取得して、体感効果メタデータ本体は必要なときに別途外部サーバ及び蓄積部から取得するようにしてもよい。
【符号の説明】
【0056】
1,7…体感効果再生装置、2…体感効果メタデータ、3…関係テーブル、4…体感効果メタデータのESパケットとPESパケットとTSパケットの関係、5…PESパケットヘッダ、6…TSパケットヘッダ、10…周辺機器、11…光ディスク、12…データ分離部、13…映像復号部、14…音声復号部、15…メタデータ復号部、16,73…制御部、17…操作部、18…ディスプレイ、19…スピーカ、21,22,25…照明エフェクト、23…振動エフェクト、24…香りエフェクト、41…エフェクト(ESパケット)、42…PESパケット、43…TSパケット、71…蓄積部、72…サーバ。

【特許請求の範囲】
【請求項1】
映像及び/又は音声のコンテンツと連動して体感機器で体感効果を提示する体感効果再生装置であって、
前記コンテンツに同期した体感効果メタデータを復号するメタデータ復号部と、
前記メタデータ復号部で復号された前記体感効果メタデータに基づいて前記体感機器を制御する制御部とを備え、
前記制御部は、再生速度の変化を伴う特殊な再生である特殊再生が要求された場合、要求された特殊再生の内容と前記体感効果メタデータに付与された優先度情報とに応じて、前記体感効果メタデータが示す体感効果を提示するか否かを制御することを特徴とする体感効果再生装置。
【請求項2】
前記優先度情報は、体感効果のエフェクト単位で付与された優先度値に基づく情報であることを特徴とする請求項1に記載の体感効果再生装置。
【請求項3】
前記優先度情報は、PES(Packetized Elementary Stream)パケット単位で付与された優先度値に基づく情報であることを特徴とする請求項1に記載の体感効果再生装置。
【請求項4】
前記優先度情報は、TS(Transport Stream)パケット単位で付与された優先度値に基づく情報であることを特徴とする請求項1に記載の体感効果再生装置。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate


【公開番号】特開2011−119883(P2011−119883A)
【公開日】平成23年6月16日(2011.6.16)
【国際特許分類】
【出願番号】特願2009−274019(P2009−274019)
【出願日】平成21年12月2日(2009.12.2)
【出願人】(000005049)シャープ株式会社 (33,933)
【Fターム(参考)】