映像配信サーバおよび映像再生端末
【課題】ビットレートや伝送遅延に悪影響を与えることなく、かつ再生端末側に高い処理能力を要求することなく、映像ストリーミングを再生端末側からの要求に応じて拡大再生できる映像配信サーバおよび映像再生端末を提供する。
【解決手段】ズーム用符号化ファイルはスライス単位で符号化され、端末ユーザによりズーム率中の拡大再生が要求されると、ズーム率中用の符号化ファイルFbからズーム位置に応じて、スライス境界で仕切られた2行2列の映像範囲(配信解像度)が切り出されてズーム映像として配信される。例えば、左上領域がズーム位置として指定されると4つのスライス[1-1],[1-2],[2-1],[2-2]が切り出されてズーム映像として配信される。
【解決手段】ズーム用符号化ファイルはスライス単位で符号化され、端末ユーザによりズーム率中の拡大再生が要求されると、ズーム率中用の符号化ファイルFbからズーム位置に応じて、スライス境界で仕切られた2行2列の映像範囲(配信解像度)が切り出されてズーム映像として配信される。例えば、左上領域がズーム位置として指定されると4つのスライス[1-1],[1-2],[2-1],[2-2]が切り出されてズーム映像として配信される。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、映像配信サーバおよび映像再生端末に係り、特に、映像配信サーバが映像再生端末からの要求に応じてストリーミング映像を部分的に拡大してズーム映像として配信する映像配信サーバおよび映像再生端末に関する。
【背景技術】
【0002】
ケールブルテレビ等の大画面向けコンテンツを、TVだけでなくPC、携帯電話、スタイラス型可搬端末等のデバイスでも視聴可能にする、いわゆるマルチスクリーンサービスが一般的になりつつある。非特許文献1には、ケーブルテレビ向けコンテンツをPC向けに配信する技術が開示されている。こうしたマルチスクリーンサービスにおいては、ディスプレイが大きなテレビ向けに作成された高解像度のコンテンツを、ディスプレイの小さな携帯電話等向けに低解像度に変換する必要がある。
【0003】
一般的なマルチスクリーンサービスでは、大画面向けコンテンツの全体がそのまま変換(トランスコード)されて携帯電話等にストリーミング配信される。しかしながら、携帯電話等ではディスプレイが小さいのでコンテンツの魅力を十分に発揮されないという問題があった。そのため、ユーザが視聴したい任意の領域を拡大して見ることができるような仕組みが求められていた。
【0004】
映像コンテンツを拡大する技術として、映像中の任意の部分をトリミング(切り出し)して提示するデジタルズームが特許文献1に開示されている。しかしながら、このようなデジタルズーム機能は、映像撮影時の処理として行われるものであり、映像伝送におけるビットレートの制約やリアルタイムでのストリーミングに必要な低遅延性が考慮されておらず、また高負荷な処理が要求されるので、映像ストリーミングへの適用は困難である。
【0005】
このような技術課題の解決方法として、ユーザが希望する拡大映像を、サーバ側でリアルタイムにエンコードして送信する、リアルタイムエンコードを用いる方法が容易に想像できる。しかしながら、ユーザが希望する拡大映像を常にエンコードして送信しようとすればサーバの負荷が大きくなり、さらには、その負荷がサービスを受けるユーザ数に比例して大きくなるため、多数のユーザに対して同時にサービスを提供する用途では現実的では無い。
【0006】
さらに、上記の技術課題の別の解決方法として、非特許文献2には、映像コンテンツをタイル状に分割して符号化し、サーバ側からは全体のタイルの一部分を送信する一方、クライアント側では受信した各タイル毎に映像をデコードし、そのデコード結果を同時に表示することで拡大映像を得る方法が開示されている。しかしながら、この方法では、クライアント側でタイル状に分割された映像を個々にデコードし、同期をとって表示する必要があるので、携帯端末のような処理能力の低い端末への搭載は現実的では無い。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】特開2008-316739号公報
【非特許文献】
【0008】
【非特許文献1】Fancast(http://www.fancast.com/)
【非特許文献2】インタラクティブ・パノラマ映像配信システムにおけるマルチ解像度配信方式の一検討(情報処理学会研究報告 Vol.2010-AVM-70 No.8)
【発明の概要】
【発明が解決しようとする課題】
【0009】
このように、映像配信サーバから配信される映像ストリーミングを再生端末側からの要求に応じて拡大再生させようとすると、映像再生端末側に極めて高い処理能力が要求されたり、あるいはサーバで各ユーザ毎にリアルタイムエンコード処理を行うような、大規模ユーザには適用できない仕組みとなったりするので、映像ストリーミングを再生端末側からの要求に応じて拡大再生させることができなかった。
【0010】
本発明の目的は、上記した従来技術の課題を解決し、再生端末側に高い処理能力が要求されず、かつ大規模ユーザにサービス提供可能な形で、映像ストリーミングを再生端末側からの要求に応じて拡大再生できる映像配信サーバおよび映像再生端末を提供することにある。
【課題を解決するための手段】
【0011】
上記の目的を達成するために、本発明は、ストリーミング形式で配信する映像をズーム要求に応答してズーム映像に切り換える映像配信サーバにおいて、以下のような手段を講じた点に特徴がある。
【0012】
(1)映像コンテンツごとに、配信解像度のズーム無し符号化ファイルおよび配信解像度よりも高解像度の少なくとも一つのズーム用符号化ファイルを記憶する手段と、ズーム倍率およびズーム位置の記述されたズーム要求を検知する手段と、配信中の符号化ファイルに対するズーム要求が検知されると、配信する符号化ファイルを前記ズーム倍率に応じた他の解像度のズーム用符号化ファイルに切り換える手段と、前記切り換えられたズーム用符号化ファイルの前記ズーム位置から前記配信解像度でズーム映像を切り出す手段と、
前記切り出されたズーム映像をストリーミング形式で配信する手段とを具備した。
【0013】
(b)ズーム用符号化ファイルは、論理的な境界線で仕切った複数の分割映像領域から構成されて当該分割映像領域ごとに符号化され、各分割映像領域はズーム位置に応じた複数の集合で前記配信解像度のズーム映像を構成できるように、その位置、形状およびサイズが規定され、ズーム映像を切り出す手段は、切り換えられたズーム用符号化ファイルから、前記ズーム位置に応じた複数の分割映像領域の集合をズーム映像として切り出すようにした。
【0014】
(c)ズーム映像として切り出された複数の分割映像領域のマクロブロックのヘッダ情報を、ズーム映像における各マクロブロックの表示位置に応じて書き換える手段を具備した。
【発明の効果】
【0015】
本発明によれば、以下のような効果が達成される。
【0016】
(1)映像配信サーバには、提供可能なズーム倍率の段階に応じて、解像度の異なる複数のズーム用符号化ファイルが予め用意されており、ズーム要求が検知されると、要求されたズーム倍率に応じたズーム用符号化ファイルからズーム位置の映像を切り出してズーム映像とするので、ズーム要求に対して低負荷でズーム映像を配信できるようになる。
【0017】
(2)ズーム用符号化ファイルは、論理的な境界線で仕切った複数の分割映像領域から構成されて当該分割映像領域ごとに符号化され、ズーム映像は複数の分割映像領域の集合として構成できるので、分割映像領域を単位としてズーム位置を設定することにより、ズーム映像の出しが容易になる。
【0018】
(3)ズーム用符号化ファイルから切り出された複数の分割映像領域の映像ヘッダ情報が、処理能力の低い受信端末でも低負荷で再生できるように映像配信サーバ側で予め書き換えられてから配信されるので、受信端末側ではズーム映像の表示に際して高負荷な処理が不要となる。
【図面の簡単な説明】
【0019】
【図1】本発明の第1実施形態に係る映像配信システムのブロック図である。
【図2】第1実施形態の動作概要を示した図である。
【図3】映像配信サーバに用意される符号化ファイルの一例を示した図である。
【図4】ズーム用符号化ファイルから複数のスライスを切り出してズーム映像を配信する方法を模式的に表現した図である。
【図5】ズーム位置に応じて複数の異なるスライスを切り出す方法を示した図である。
【図6】ズーム映像の再生例を示した図である。
【図7】映像ヘッダ情報の書き換え方法を示した図である。
【図8】映像ヘッダ情報の書き換え前後を比較した図である。
【図9】エフェクト部の動作を示したシーケンスフローである。
【図10】映像切り換え時に挿入されるエフェクトの一例を示した図である。
【図11】第2実施形態の動作概要を示した図である。
【図12】ズーム映像の移動例を示した図である。
【図13】ズーム位置の移動時に挿入されるエフェクトの一例を示した図である。
【図14】第3実施形態の動作概要を示した図である。
【図15】第3実施形態に係る映像配信システムのブロック図である。
【図16】第4実施形態に係る映像配信システムのブロック図である。
【図17】符号化パラメータの書き換え方法を示した図である。
【図18】IDRフレーム情報の一例を示した図である。
【図19】IDRフレーム情報の他の一例を示した図である。
【図20】ズーム要求メッセージの一例を示した図である。
【発明を実施するための形態】
【0020】
[第1実施形態]
図1は、本発明の第1実施形態に係る映像配信システムの構成を示したブロック図であり、映像コンテンツをストリーミング形式で配信する映像配信サーバ1と、前記映像コンテンツを受信して再生する映像再生端末2とが、インターネット等の広域ネットワーク3を介して接続されている。
【0021】
図2は、第1実施形態の動作概要を示した図であり、前記映像配信サーバ1は、大型TV用に撮影、編集された高解像度(例えば、1440×1080画素)の映像コンテンツ[同図(a)]を、配信解像度すなわち映像再生端末2の表示解像度(例えば、640×480画素)に変換して配信[同図(b)]すると共に、端末ユーザからのズーム要求に応答してズーム映像を配信解像度で配信[同図(c)]する。
【0022】
本発明では、このようなズーム映像の配信を、ビットレートや伝送遅延に悪影響を与えることなく、かつ映像再生端末2側に高い処理能力を要求することなく実現すべく、図3に示したように、配信解像度のズーム無し符号化ファイルFaと共に、画像領域の一部から配信解像度のズーム映像を切り出せる複数のズーム用符号化ファイルFb、Fcが、映像コンテンツごとに作成されて予め映像配信サーバ1に蓄積される。
【0023】
本実施形態では、ズーム倍率として3種類(ズーム無し、ズーム率中、ズーム率大)を設定できるものとし、ズーム率中用の符号化ファイルFb[同図(b)]の解像度はズーム無し用符号化ファイルFa[同図(a)]の配信解像度よりも高く設定され、ズーム率大用の符号化ファイルFc[同図(c)]の解像度はズーム率中用の符号化ファイルFa[同図(a)]の解像度よりも更に高く設定されている。
【0024】
前記各ズーム用符号化ファイルFb,Fcに示されている格子線は、後述するスライス境界を表し、例えば、端末ユーザによりズーム率中の拡大再生が要求されると、図4に一例を示したように、ズーム率中用の符号化ファイルFbからズーム位置に応じて、スライス境界で仕切られた2行2列の映像範囲(配信解像度)のみが切り出されてズーム映像として配信される。各スライスは、ズーム位置に応じた複数の集合で配信解像度のズーム映像を構成できるように、その位置、形状およびサイズが規定される。
【0025】
本実施形態では、図5に一例を示したように、ズーム用符号化ファイルごとにズーム基準点O1,O2,O3,O4…が予め設定されており、ズーム用符号化ファイルFbであれば、ズーム基準点O1にはスライス1-1,1-2,2-1、2-2が切り出し対象として対応付けられ、ズーム基準点O2にはスライス1-2,1-3,2-2、2-3が切り出し対象として対応付けられている。そして、要求されたズーム位置から最近傍のズーム基準点がO1であれば、当該ズーム基準点O1に対応した4つのスライス1-1,1-2,2-1、2-2が切り出されてズーム映像とされる。
【0026】
すなわち、図4(a)のズーム無し映像の再生中に、ズーム基準点O1の近傍を指定してズーム率中の拡大再生が要求されると、同図(b)に示したように、4つのスライス[1-1],[1-2],[2-1],[2-2]で構成される左上領域の映像領域がズーム映像として配信される。また、ズーム基準点O2の近傍を指定してズーム率中の拡大再生が要求されると、同図(c)に示したように、4つのスライス[1-2],[1-3],[2-2],[2-3]で構成される右上領域の映像領域がズーム映像として配信される。以下同様に、ズーム基準点O3の近傍が指定されると、同図(d)に示したように、4つのスライス[2-1],[2-2],[3-1],[3-2]で構成される左下領域の映像領域がズーム映像として配信され、ズーム基準点O4の近傍が指定されると、同図(e)に示したように、4つのスライス[2-2],[2-3],[3-2],[3-3]で構成される右下領域の映像領域がズーム映像として配信される。
【0027】
図6は、前記ズーム映像の再生例を示した図であり、映像配信サーバ1から受信したズーム無し用の符号化ファイルFaを復号して再生中[同図(a)]の映像再生端末2においてズーム率中への拡大が要求[同図(b)]されると、映像配信サーバ1では、配信ファイルが前記ズーム無し用の符号化ファイルFaからズーム率中用の符号化ファイルFbに切り換えられ、当該符号化ファイルFbからズーム位置に応じて切り出されたズーム映像が配信される。その結果、映像再生端末2ではズーム率中の映像[同図(c)]が再生される。
【0028】
このズーム映像の再生中に、更にズーム率大への拡大が要求[同図(c)]されると、映像配信サーバ1では配信ファイルが前記ズーム率中の符号化ファイルFbからズーム率大用の符号化ファイルFcに切り換えられ、当該符号化ファイルFcからズーム位置に応じて切り出されたズーム映像が配信される。その結果、映像再生端末2ではズーム率大の映像が再生[同図(d)]される。
【0029】
なお、ズーム無し用の符号化ファイルFaを再生中[同図(a)]にズーム率大への切り換えが要求[同図(e)]された場合も同様に、映像配信サーバ1では配信ファイルが前記ズーム無し用の符号化ファイルFaからズーム率大用の符号化ファイルFcに切り換えられ、当該符号化ファイルFcからズーム位置に応じて切り出されたズーム映像が配信される。その結果、映像再生端末2ではズーム率大の映像コンテンツが再生[同図(d)]される。
【0030】
次いで、前記図1を参照して本発明の構成を詳細に説明する。映像配信サーバ1において、映像分割符号化部101は、配信対象の映像コンテンツ4を符号化圧縮する。本実施形態ではH.264符号化方式が採用され、そのイントラフレームであるIDRフレームの情報がIDRフレーム情報DB102に蓄積され、AudioデータがAudioデータ保存DB103に蓄積され、VideoデータがVideoデータ保存DB104に蓄積される。前記IDRフレーム情報は、IDRフレームが一定間隔で挿入される場合は図18の形式で蓄積され、一定間隔で挿入されない場合には、図19に示したように、全てのIDRフレームのフレーム番号を列挙する様式で蓄積される。
【0031】
前記Videoデータ保存DB104には、設定可能なズーム倍率の種類に応じて解像度の異なる複数の符号化ファイルが映像コンテンツごとに生成されて蓄積される。本実施形態では、前記図3に示したように、ズーム無し用の符号化ファイルFaと共に、ズーム率中用の符号化ファイルFbおよびズーム率大用の符号化ファイルFcの計3つの符号化ファイルが作成、蓄積される。ズーム用の2つの符号化ファイルFb,Fcに関しては、映像コンテンツが論理的な境界線で仕切られた所定の分割映像領域(本実施形態では、H.264符号化方式を採用するのでスライス)ごとに符号化され、フレーム内予測符号化(イントラ符号化)およびフレーム間予測符号化(インター符号化)のいずれのプロセスにおいても、スライス境界を跨ぐ予測が禁止される。これにより、前記図4を参照して説明したように、ズーム位置に応じて複数の異なるスライスを切り出してズーム映像を構築する場合でも、各スライスを復号する際に他のスライス内のマクロブロックが参照されることがないので、復号に破綻が生じることはない。
【0032】
ただし、このようにスライス境界を跨ぐ予測を一律に禁止してしまうと符号化効率が低下してしまう懸念がある。一方、前記図4を参照すれば明らかなように、例えばスライスが3行3列に設定されたズーム用符号化ファイルFbから、ズーム位置に応じて2行2列を切り出してズーム映像を生成する場合、スライス1-1が切り出される場合はスライス1-2、2-1、2-2も必ず切り出される。また、スライス1-2が切り出される場合、スライス2-2も必ず切り出される。したがって、常に同時に切り出されるスライスを予め定義できるならば、当該スライス間ではフレーム内予測符号化およびフレーム間予測符号化のいずれのプロセスにおいても、スライス境界を跨ぐ予測を許容することで符号化効率を向上させることが可能になる。
【0033】
これを一般化すると、ズーム用符号化ファイルのスライス構成がXnum行Ynum列であり、そこから切り出されるズーム映像のスライス構成がw行h列であるとき、注目スライスのIDをx-yとすると、
【0034】
(1)ID x-yのスライスが右方向に予測参照可能なスライスの数Bright = w-x, (但し、負の場合はBright =0, また、Bright≦Xnum - x)
【0035】
(2)ID x-yのスライスが左方向に予測参照可能なスライスの領域Bleft = w-(Xnum -x)-1, (但し、負の場合はBleft =0, また、Bleft≦x-1)
【0036】
(3)ID x-yのスライスが上方向に予測参照可能なスライスの数Bup = h-(Ynum -y)-1, (但し、負の場合はBup =0, また、Bup≦y-1)
【0037】
(4)ID x-yのスライスが下方向に予測参照可能なスライスの数Bdown = h-y, (但し、負の場合はBdown =0, また、Bdown≦Ynum - y)
の各条件が成立する。したがって、上記の条件(1)〜(4)を満足できるスライス同士はスライス境界を跨ぐ予測を符号化に用いることを許容するようにしてもよい。
【0038】
ユーザ操作受信部105は、映像再生端末2から送信されたユーザ操作を受信し、当該ユーザ操作がズーム倍率Zfおよびズーム位置Zpの記述された「ズーム要求」であれば、これを映像切換制御部106へ通知する。
【0039】
映像切換制御部106は、前記Videoデータ保存DB104から読み出して配信する映像を、前記ユーザ操作受信部105で受信されたズーム要求のズーム倍率Zfに対応したズーム用符号化ファイルに切り換える。切り換えられたズーム用符号化ファイルは、前記Audioデータ保存DB103から読み出されるAudioデータと共に出力される。すなわち、ズーム率中のズーム要求であればズーム率中用の符号化ファイルFbに切り換えられ、ズーム率大のズーム要求であればズーム率大用の符号化ファイルFcに切り換えられる。このような映像切換は、全てイントラフレーム(本実施形態では、IDRフレーム)のタイミングで行われる。
【0040】
ズーム映像切出部107は、前記図4を参照して詳述したように、ズーム要求に記述されたズーム位置Zpに応じた複数のスライスを前記切り換えられたズーム用符号化ファイルから切り出し、ズーム映像に変換してスライスデータバッファ108に蓄積する。なお、このようなズーム映像の切り出しは、前記ズーム用符号化ファイルの映像ヘッダ情報を書き換えて単一スライス構造のズーム映像を生成することにより実施される。
【0041】
図7は、前記映像ヘッダ情報の書き換え方法を模式的に表現した図であり、ここでは、ズーム率中の符号化ファイルFbから、その左上領域の4つのスライス1-1,1-2,2-1,2-2を切り出して単一スライス構造のズーム映像を生成する場合を例にして説明する。
【0042】
ズーム用の符号化ファイルFbでは、同図(a)に示したように、スライス1-1,1-2,2-1,2-2ごとに全てのマクロブロックがラスター順の連番で管理されている。しかしながら、処理能力の低い映像再生端末2では、任意形状のスライスを組み合わせて構成される映像をそのまま復号することができない。そこで、本実施形態では各スライスの全てのマクロブロックに、単一スライス構造におけるラスター順で連番を付け直すことで、映像再生端末2では、符号化ファイルFbを単一スライス構造として復号できるようにしている。
【0043】
図8は、書き換え前の符号化ファイルFbの映像ヘッダと書き換え後のズーム映像の映像ヘッダとを比較した図であり、同図(a)の符号化ファイルFbでは、一つのフレームが複数のスライスから構成され、スライスごとに全てのマクロブロックに対して1番から始まる序数が付されている。これに対して、同図(b)のズーム映像では、一つのフレームが前記4つのスライスを連結した一つのスライスで構成され、全てのマクロブロックに一貫した連番(1から1180)が付されている。
【0044】
なお、SPS(Sequence Parameter Set)は、映像シーケンス全体の符号化にかかわる情報が記述されるヘッダであり、映像を符号化する際に使われたツールの種類(プロファイル:profile_idc)、対象とするデコーダの処理能力を表すレベル(level_idc)、画面サイズ(マクロブロックの数で表現された画面サイズ:pic_width_in_mbs_minus1、pic_height_in_map_units_minus1)に関する情報等が含まれる。本実施形態では、このSPSに関しても、プロファイル等の画像サイズに依存しない情報については符号化ファイルFbのSPSがそのままズーム映像にも付与されるが、符号化レベル、画サイズ等の値は、生成されるズーム映像のサイズに応じた値に書き換えられる。
【0045】
さらに、PPS(Picture Parameter Set)は、フレームの符号化に関する情報が記述されるヘッダであり、フレームの符号化に使われている符号化手法の種類(entropy_coding_mode_flag)、フレームを構成するスライスの枚数(num_slice_groups_minus1)、スライスの配置(slice_group_map_type)などの情報が含まれる。本実施形態では、このPPSに関しても、符号化ファイルFbでは、1フレームを複数のスライスで構成するための配置およびスライス数が記述されているが、ズーム映像では、単一スライスが一つのフレームで構成されるように書き換えられる。
【0046】
さらに、マクロブロックの輝度成分を量子化するための量子化パラメータ(QP)の値がマクロブロック毎に制御される場合、スライス境界の右に隣接するマクロブロックについては、そのQPを導出するための差分情報を書き換えることも望ましい。例えば、H.264符号化においては、スライス中のマクロブロックのQPYは次式(1)で与えられる。
【0047】
【数1】
【0048】
ここで、QPY,PREVは図7の順番で数えた場合に直前に位置するマクロブロックのQPYの値、mb_qp_deltaはマクロブロック中に記載されたQPの差分情報、QpBdOffsetYはオフセット値であり、スライスの先頭に位置するマクロブロックでは、QPY,PREVは初期値を取る。そこで、図17に示すように、デフォルトのQP値が24、図中のマクロブロックの格子に記載された値が各マクロブロックのQPだとすると、複数のスライスで構成された映像から単一スライスの映像に変換するときに、マクロブロックの順番が変わることに伴って直前に位置するマクロブロックが変更となる。そこで、mb_qp_deltaの値を以下の通りに変換することで、各マクロブロックのQPYの値を保ち、マクロブロックについて再符号化を不要にできる。
【0049】
即ち、あるマクロブロックがmb_qp_delta_oldを持ち、そのマクロブロックが参照するQPY,PREVの値がQPY,PREV_AからQPY,PREV_Bに変更される場合、そのmb_qp_delta_newを次式(2)で算出する。
【0050】
【数2】
【0051】
このような計算を、スライス境界の右端に位置するマクロブロックに対して行うことで、既に計算済みの最適な量子化パラメータをQPYを、最低限の処理で再利用することが可能となる。なお、当然ながら、フレームを構成するマクロブロックが全て同一の値を取るような場合は、この処理は不要なので実行する必要はない。
【0052】
また、画面内の他のマクロブロックの情報を参照して符号化を行う、イントラ予測の符号化が用いられている場合、スライス境界の右端あるいは上端に隣接するマクロブロックについては、符号化された輝度信号や色差信号についても、マクロブロックの位置に応じて必要な変更を行うことが望ましい。
【0053】
すなわち、イントラ符号化の平均値予測を行う場合、通常は当該マクロブロックの上および左に隣接する32個(16×16マクロブロックの場合)の画素の平均値を用いて当該マクロブロックの信号を符号化するが、スライスの上端に位置するマクロブロックについては、その左に隣接する16個の画素の平均値のみを用いて符号化を行う。したがって、図7に示したように、複数スライスの映像を単一スライスの映像に変換する際に、スライス境界の右端あるいは上端に隣接するマクロブロックでイントラ符号化の平均値予測が用いられている場合は、その予測に用いる平均値を変更し、マクロブロック中の輝度値を再計算することが望ましい。色差信号についても同様である。
【0054】
このような処理を、スライス境界の右端あるいは上端に隣接するマクロブロックについてのみ行い、それ以外のマクロブロックについては、符号化された輝度信号、色差信号をそのまま活用することで、単一スライス化に伴う計算量を最小限に抑えることが可能となる。
【0055】
エフェクト部109は、ストリーミング形式で配信する映像のズーム率を切り換える際に、その切り換え前後の映像間にエフェクト効果を挿入する。エフェクト効果を挿入する際には、その元となる復号済み画像フレームが必要となる。そこで、至近の復号済み画像フレームとして、直後のIDRフレームを取得する。
【0056】
図9は、前記エフェクト部109の動作を示したシーケンスフローであり、ズーム要求が検知されると、その直後(n番目)のIDRフレームの配信タイミングである時刻t1において、配信映像を現在のズーム無し映像からエフェクト映像に切り換え、更に次(n+1番目)のIDRフレームの配信タイミングである時刻t2において、配信映像を前記エフェクト映像からズーム映像に切り換える。
【0057】
図10は、映像再生端末2に表示されるエフェクト効果の一例を示した図であり、同図(a)のズーム無し映像上でズーム再生が要求されると、次のIDRフレームの配信タイミングである時刻t1において、同図(b)に示したように、ズーム領域以外がモザイク処理され、さらに同図(c)に示したように、次のIDRフレームの配信タイミングである時刻t2まで、前記ズーム領域が段階的に拡大され、当該時刻t2において、配信映像がズーム映像に切り換えられる。この際、エフェクト効果の変化に合わせて効果音を発生させるようにしても良い。
【0058】
前記エフェクト画像は、n番目のIDRフレームから(n+1)番目のIDRフレームまで徐々に変化するフレーム画像として生成され、映像データとしてエンコードしてスライスデータバッファ108に書き込まれる。図10のエフェクト画像は、拡大が指示された領域を、例えば線形補間法によって徐々に拡大する一方、その他の領域は、一定領域のセルに分割、等間隔にセルの母点を配置し、モザイクタイル化するような処理を段階的に行うことで実現できる。上記のズーム無し映像、エフェクト映像およびズーム映像は、エフェクトの効果音を重畳する多重化部110および配信部111を経由して映像再生端末2へストリーミング形式で配信される。
【0059】
図1へ戻り、映像再生端末2において、映像受信部201は、ストリーミング形式で配信される映像ストリームを受信する。この映像ストリームには付帯情報として、送信中の映像のズーム率、および送信中の映像の領域の座標がH.264のSEI(Supplemental Enhancement Information)として送信される。
【0060】
表示バッファ202は、受信された映像を一時記憶し、所定のビットレートで読み出して表示部203へ出力する。ユーザ操作受付部204は、映像コンテンツの配信要求、再生中の映像に対するズーム要求、およびズーム再生中の映像に関する移動要求等に関するユーザ操作を受け付ける。前記ズーム要求は、表示部203がタッチパネル機能を備えていれば、拡大したい領域のピンチアウト等によって受け付けることができる。
【0061】
操作判定部205は、受け付けられたズーム要求を映像配信サーバ1が応答できるか否かを判定し、例えば、現在配信中の映像がズーム率中用の符号化ファイルFbに係るストリーミング映像であれば、さらなるズームが可能なので、前記ズーム要求をユーザ操作送信部206から映像配信サーバ1へ送信する。このようなズーム要求は、図20に一例を示したように、RTSPのSET_PARAMETERメッセージに、要求されたズーム倍率Zfおよびズーム位置(座標)Zpを記述して送信される。
【0062】
なお、上記の実施形態では、主にズーム無し映像からズーム有り映像へのズームイン時の切り換えを例にして説明したが、本発明はこれのみに限定されるものではなく、解像度の異なるズーム有り映像間での切り換え、およびズーム有り映像からズーム無し映像へのズームアウト時にも同様に適用できる。
【0063】
本実施形態によれば、映像配信サーバ1には、提供可能なズーム倍率の段階に応じて、解像度の異なる複数のズーム用符号化ファイルが予め用意されており、ズーム要求が検知されると、要求されたズーム倍率Zfに応じたズーム用符号化ファイルからズーム位置Zpの映像を切り出してズーム映像とするので、ズーム要求に対して低負荷でズーム映像を配信できるようになる。
[第2実施形態]
【0064】
次いで、本発明の第2実施形態について説明する。上記の実施形態では、再生中の映像をズームする際の映像切り換えについて説明したが、本発明はこれのみに限定されるものではなく、ズーム映像の再生中にズーム倍率を変更することなくズーム位置のみを移動させる場合にも同様に適用できる。
【0065】
図11は、第2実施形態の動作概要を示した図であり、前記映像配信サーバ1は、大型TV用に撮影、編集された高解像度の映像コンテンツ[同図(a)]を、配信解像度すなわち映像再生端末2の表示解像度に変換して配信[同図(b)]すると共に、端末ユーザからのズーム要求に応答して配信解像度のズーム映像を配信[同図(c)]し、さらには端末ユーザからの移動要求に応答して移動先のズーム映像(同じく、配信解像度)を配信[同図(d)]する。
【0066】
図12は、第2実施形態におけるズーム映像の移動方法を示した図であり、ここでは、ズーム率大の符号化ファイルFcから切り出されたズーム映像の位置を移動する場合を例にして説明する。
【0067】
前記映像配信サーバ1は、符号化ファイルFcから同図(a)に黒枠で示した領域の6つのスライスを切り出して生成した同図(c)のズーム映像をストリーミング形式で配信している。映像配信サーバ1では、この配信中に、同図(d)に示したように右側への移動を指定する移動要求が受信されると、当該移動要求に応答して、前記符号化ファイルFcから同図(b)に黒枠で示した範囲の6つのスライスが切り出される。そして、この6つのスライスから同図(e)に示した新たなズーム映像が作成され、配信映像が前記移動前のズーム映像から移動後のズーム映像に切り換えられる。
【0068】
なお、本実施形態でも図13に一例を示したように、移動前のズーム映像[同図(a)]から移動後のズーム映像[同図(c)]に切り換える際にはエフェクト映像[同図(b)]を挿入することが望ましい。このようなエフェクト映像は、元データの画素値を左方向にずらすと同時に画面の右端については元画像の右端境界部のピクセル値をコピーすることで生成できる。
【0069】
本実施形態によれば、映像配信サーバ1が映像再生端末2から、移動先のズーム位置が記述された移動要求の受信に応答して、移動先のズーム位置に応じたスライスを切り出してズーム映像を生成するので、ズーム位置の移動を簡単に実現できるようになる。
[第3実施形態]
【0070】
次いで、本発明の第3実施形態について説明する。上記の各実施形態では、設定可能なズーム率の上限が、前記映像配信サーバ1に蓄積されているズーム用の符号化ファイルの解像度に依存し、それ以上のズーム率での再生を要求することができなかった。
【0071】
これに対して、本実施形態では映像配信サーバ1に蓄積されているズーム用符号化ファイルによるズーム率を超えるズーム率が指定されると、映像再生端末2がこれを検知し、周知のデジタルズーム機能により前記表示バッファ202上で映像をトレミングして見かけ上の高倍率ズームを実現する。
【0072】
図14は、本実施形態のズーム方法を説明するための図であり、ズーム再生が要求されていなければ、映像配信サーバ1からは同図(a)のズーム無し符号化ファイルFaが配信され、映像再生端末2では同図(b)のズーム無し映像が再生される。
【0073】
ズーム率中のズームが要求されると、映像配信サーバ1からは同図(c)のズーム率中の符号化ファイルFbから切り出されたズーム映像が配信され、映像再生端末2では同図(d)のズーム率中の映像が再生される。また、ズーム率大のズームが要求されると、映像配信サーバ1からは同図(e)のズーム率大の符号化ファイルFcから切り出されたズーム映像が配信され、映像再生端末2では同図(f)のズーム率大の映像が再生される。
【0074】
さらに高倍率のズームが要求されると、同図(g)に示したように、映像再生端末2では表示バッファ202上の映像がズーム位置Zpを中心に要求倍率に応じたサイズにトレミングされて切り出される。切り出されたトレミング画像は、その解像度を補間処理等により配信解像度まで嵩上げすることでリサイズされ、同図(h)のように見かけ上高倍率にズームされているように表示される。
【0075】
図15は、本実施形態の機能ブロック図であり、前記と同一の符号は同一または同等部分を表しているので、その説明は省略する。
【0076】
ローカルズーム部207は、ユーザ操作として受け付けられたズーム要求の倍率が、映像配信サーバ1に用意されているズーム用符号化ファイルからのズーム映像の切り出しにより対応できる範囲を超えていると判定すると、表示バッファ202に展開されているズーム映像を、指定されたズーム位置Zpを中心に、要求されたズーム率Zfに応じたサイズでトレミングし、トレミング画像の画素数が配信解像度の画素数と一致するように、前記トレミング画像に補間処理等を実施することでリサイズする。
【0077】
本実施形態によれば、映像配信サーバ1に予め用意されているズーム用符号化ファイルからのズーム映像の切り出しにより対応できるズーム倍率を超えた高倍率でのズーム再生が可能になる。
[第4実施形態]
【0078】
次いで、本発明の第4実施形態について説明する。上記の実施形態では、エフェクト画像が映像配信サーバ側で挿入されるものとして説明したが、本発明はこれのみに限定されるものではなく、図16に示したように、表示バッファ202に蓄積されている映像に対して加工を行うローカルエフェクト部208を設け、ユーザ操作受付部204に対するズーム要求が検知されると、その直後からの一定時間、ローカルエフェクト部208が表示バッファ202に格納された映像に対して、モザイク化等のエフェクトを挿入することで、ローカルな処理によりユーザに対して操作が受け付けられたことをわかりやすく伝えるようにしても良い。
【0079】
なお、上記の各実施形態では、映像配信サーバ1に蓄積されているコンテンツをユーザ端末からの要求に応じて配信するVDO(Video On Demand)を例にして説明したが、本発明はこれのみに限定されるものではなく、リアルタイムの放送にも同様に適用できる。
【符号の説明】
【0080】
1…映像配信サーバ,2…映像配信端末,101…映像分割符号化部,102…IDRフレーム情報DB,103…Audioデータ保存DB,104…Videoデータ保存DB,105…ユーザ操作受信部,106…映像切換制御部,107…ズーム映像切出部,108…スライスデータバッファ,109…エフェクト部,110…多重化部,111…配信部,201…映像受信部,202…表示バッファ,203…表示部,204…ユーザ操作受付部,205…操作判定部,206…ユーザ操作送信部,207…ローカルズーム部,208…ローカルエフェクト部
【技術分野】
【0001】
本発明は、映像配信サーバおよび映像再生端末に係り、特に、映像配信サーバが映像再生端末からの要求に応じてストリーミング映像を部分的に拡大してズーム映像として配信する映像配信サーバおよび映像再生端末に関する。
【背景技術】
【0002】
ケールブルテレビ等の大画面向けコンテンツを、TVだけでなくPC、携帯電話、スタイラス型可搬端末等のデバイスでも視聴可能にする、いわゆるマルチスクリーンサービスが一般的になりつつある。非特許文献1には、ケーブルテレビ向けコンテンツをPC向けに配信する技術が開示されている。こうしたマルチスクリーンサービスにおいては、ディスプレイが大きなテレビ向けに作成された高解像度のコンテンツを、ディスプレイの小さな携帯電話等向けに低解像度に変換する必要がある。
【0003】
一般的なマルチスクリーンサービスでは、大画面向けコンテンツの全体がそのまま変換(トランスコード)されて携帯電話等にストリーミング配信される。しかしながら、携帯電話等ではディスプレイが小さいのでコンテンツの魅力を十分に発揮されないという問題があった。そのため、ユーザが視聴したい任意の領域を拡大して見ることができるような仕組みが求められていた。
【0004】
映像コンテンツを拡大する技術として、映像中の任意の部分をトリミング(切り出し)して提示するデジタルズームが特許文献1に開示されている。しかしながら、このようなデジタルズーム機能は、映像撮影時の処理として行われるものであり、映像伝送におけるビットレートの制約やリアルタイムでのストリーミングに必要な低遅延性が考慮されておらず、また高負荷な処理が要求されるので、映像ストリーミングへの適用は困難である。
【0005】
このような技術課題の解決方法として、ユーザが希望する拡大映像を、サーバ側でリアルタイムにエンコードして送信する、リアルタイムエンコードを用いる方法が容易に想像できる。しかしながら、ユーザが希望する拡大映像を常にエンコードして送信しようとすればサーバの負荷が大きくなり、さらには、その負荷がサービスを受けるユーザ数に比例して大きくなるため、多数のユーザに対して同時にサービスを提供する用途では現実的では無い。
【0006】
さらに、上記の技術課題の別の解決方法として、非特許文献2には、映像コンテンツをタイル状に分割して符号化し、サーバ側からは全体のタイルの一部分を送信する一方、クライアント側では受信した各タイル毎に映像をデコードし、そのデコード結果を同時に表示することで拡大映像を得る方法が開示されている。しかしながら、この方法では、クライアント側でタイル状に分割された映像を個々にデコードし、同期をとって表示する必要があるので、携帯端末のような処理能力の低い端末への搭載は現実的では無い。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】特開2008-316739号公報
【非特許文献】
【0008】
【非特許文献1】Fancast(http://www.fancast.com/)
【非特許文献2】インタラクティブ・パノラマ映像配信システムにおけるマルチ解像度配信方式の一検討(情報処理学会研究報告 Vol.2010-AVM-70 No.8)
【発明の概要】
【発明が解決しようとする課題】
【0009】
このように、映像配信サーバから配信される映像ストリーミングを再生端末側からの要求に応じて拡大再生させようとすると、映像再生端末側に極めて高い処理能力が要求されたり、あるいはサーバで各ユーザ毎にリアルタイムエンコード処理を行うような、大規模ユーザには適用できない仕組みとなったりするので、映像ストリーミングを再生端末側からの要求に応じて拡大再生させることができなかった。
【0010】
本発明の目的は、上記した従来技術の課題を解決し、再生端末側に高い処理能力が要求されず、かつ大規模ユーザにサービス提供可能な形で、映像ストリーミングを再生端末側からの要求に応じて拡大再生できる映像配信サーバおよび映像再生端末を提供することにある。
【課題を解決するための手段】
【0011】
上記の目的を達成するために、本発明は、ストリーミング形式で配信する映像をズーム要求に応答してズーム映像に切り換える映像配信サーバにおいて、以下のような手段を講じた点に特徴がある。
【0012】
(1)映像コンテンツごとに、配信解像度のズーム無し符号化ファイルおよび配信解像度よりも高解像度の少なくとも一つのズーム用符号化ファイルを記憶する手段と、ズーム倍率およびズーム位置の記述されたズーム要求を検知する手段と、配信中の符号化ファイルに対するズーム要求が検知されると、配信する符号化ファイルを前記ズーム倍率に応じた他の解像度のズーム用符号化ファイルに切り換える手段と、前記切り換えられたズーム用符号化ファイルの前記ズーム位置から前記配信解像度でズーム映像を切り出す手段と、
前記切り出されたズーム映像をストリーミング形式で配信する手段とを具備した。
【0013】
(b)ズーム用符号化ファイルは、論理的な境界線で仕切った複数の分割映像領域から構成されて当該分割映像領域ごとに符号化され、各分割映像領域はズーム位置に応じた複数の集合で前記配信解像度のズーム映像を構成できるように、その位置、形状およびサイズが規定され、ズーム映像を切り出す手段は、切り換えられたズーム用符号化ファイルから、前記ズーム位置に応じた複数の分割映像領域の集合をズーム映像として切り出すようにした。
【0014】
(c)ズーム映像として切り出された複数の分割映像領域のマクロブロックのヘッダ情報を、ズーム映像における各マクロブロックの表示位置に応じて書き換える手段を具備した。
【発明の効果】
【0015】
本発明によれば、以下のような効果が達成される。
【0016】
(1)映像配信サーバには、提供可能なズーム倍率の段階に応じて、解像度の異なる複数のズーム用符号化ファイルが予め用意されており、ズーム要求が検知されると、要求されたズーム倍率に応じたズーム用符号化ファイルからズーム位置の映像を切り出してズーム映像とするので、ズーム要求に対して低負荷でズーム映像を配信できるようになる。
【0017】
(2)ズーム用符号化ファイルは、論理的な境界線で仕切った複数の分割映像領域から構成されて当該分割映像領域ごとに符号化され、ズーム映像は複数の分割映像領域の集合として構成できるので、分割映像領域を単位としてズーム位置を設定することにより、ズーム映像の出しが容易になる。
【0018】
(3)ズーム用符号化ファイルから切り出された複数の分割映像領域の映像ヘッダ情報が、処理能力の低い受信端末でも低負荷で再生できるように映像配信サーバ側で予め書き換えられてから配信されるので、受信端末側ではズーム映像の表示に際して高負荷な処理が不要となる。
【図面の簡単な説明】
【0019】
【図1】本発明の第1実施形態に係る映像配信システムのブロック図である。
【図2】第1実施形態の動作概要を示した図である。
【図3】映像配信サーバに用意される符号化ファイルの一例を示した図である。
【図4】ズーム用符号化ファイルから複数のスライスを切り出してズーム映像を配信する方法を模式的に表現した図である。
【図5】ズーム位置に応じて複数の異なるスライスを切り出す方法を示した図である。
【図6】ズーム映像の再生例を示した図である。
【図7】映像ヘッダ情報の書き換え方法を示した図である。
【図8】映像ヘッダ情報の書き換え前後を比較した図である。
【図9】エフェクト部の動作を示したシーケンスフローである。
【図10】映像切り換え時に挿入されるエフェクトの一例を示した図である。
【図11】第2実施形態の動作概要を示した図である。
【図12】ズーム映像の移動例を示した図である。
【図13】ズーム位置の移動時に挿入されるエフェクトの一例を示した図である。
【図14】第3実施形態の動作概要を示した図である。
【図15】第3実施形態に係る映像配信システムのブロック図である。
【図16】第4実施形態に係る映像配信システムのブロック図である。
【図17】符号化パラメータの書き換え方法を示した図である。
【図18】IDRフレーム情報の一例を示した図である。
【図19】IDRフレーム情報の他の一例を示した図である。
【図20】ズーム要求メッセージの一例を示した図である。
【発明を実施するための形態】
【0020】
[第1実施形態]
図1は、本発明の第1実施形態に係る映像配信システムの構成を示したブロック図であり、映像コンテンツをストリーミング形式で配信する映像配信サーバ1と、前記映像コンテンツを受信して再生する映像再生端末2とが、インターネット等の広域ネットワーク3を介して接続されている。
【0021】
図2は、第1実施形態の動作概要を示した図であり、前記映像配信サーバ1は、大型TV用に撮影、編集された高解像度(例えば、1440×1080画素)の映像コンテンツ[同図(a)]を、配信解像度すなわち映像再生端末2の表示解像度(例えば、640×480画素)に変換して配信[同図(b)]すると共に、端末ユーザからのズーム要求に応答してズーム映像を配信解像度で配信[同図(c)]する。
【0022】
本発明では、このようなズーム映像の配信を、ビットレートや伝送遅延に悪影響を与えることなく、かつ映像再生端末2側に高い処理能力を要求することなく実現すべく、図3に示したように、配信解像度のズーム無し符号化ファイルFaと共に、画像領域の一部から配信解像度のズーム映像を切り出せる複数のズーム用符号化ファイルFb、Fcが、映像コンテンツごとに作成されて予め映像配信サーバ1に蓄積される。
【0023】
本実施形態では、ズーム倍率として3種類(ズーム無し、ズーム率中、ズーム率大)を設定できるものとし、ズーム率中用の符号化ファイルFb[同図(b)]の解像度はズーム無し用符号化ファイルFa[同図(a)]の配信解像度よりも高く設定され、ズーム率大用の符号化ファイルFc[同図(c)]の解像度はズーム率中用の符号化ファイルFa[同図(a)]の解像度よりも更に高く設定されている。
【0024】
前記各ズーム用符号化ファイルFb,Fcに示されている格子線は、後述するスライス境界を表し、例えば、端末ユーザによりズーム率中の拡大再生が要求されると、図4に一例を示したように、ズーム率中用の符号化ファイルFbからズーム位置に応じて、スライス境界で仕切られた2行2列の映像範囲(配信解像度)のみが切り出されてズーム映像として配信される。各スライスは、ズーム位置に応じた複数の集合で配信解像度のズーム映像を構成できるように、その位置、形状およびサイズが規定される。
【0025】
本実施形態では、図5に一例を示したように、ズーム用符号化ファイルごとにズーム基準点O1,O2,O3,O4…が予め設定されており、ズーム用符号化ファイルFbであれば、ズーム基準点O1にはスライス1-1,1-2,2-1、2-2が切り出し対象として対応付けられ、ズーム基準点O2にはスライス1-2,1-3,2-2、2-3が切り出し対象として対応付けられている。そして、要求されたズーム位置から最近傍のズーム基準点がO1であれば、当該ズーム基準点O1に対応した4つのスライス1-1,1-2,2-1、2-2が切り出されてズーム映像とされる。
【0026】
すなわち、図4(a)のズーム無し映像の再生中に、ズーム基準点O1の近傍を指定してズーム率中の拡大再生が要求されると、同図(b)に示したように、4つのスライス[1-1],[1-2],[2-1],[2-2]で構成される左上領域の映像領域がズーム映像として配信される。また、ズーム基準点O2の近傍を指定してズーム率中の拡大再生が要求されると、同図(c)に示したように、4つのスライス[1-2],[1-3],[2-2],[2-3]で構成される右上領域の映像領域がズーム映像として配信される。以下同様に、ズーム基準点O3の近傍が指定されると、同図(d)に示したように、4つのスライス[2-1],[2-2],[3-1],[3-2]で構成される左下領域の映像領域がズーム映像として配信され、ズーム基準点O4の近傍が指定されると、同図(e)に示したように、4つのスライス[2-2],[2-3],[3-2],[3-3]で構成される右下領域の映像領域がズーム映像として配信される。
【0027】
図6は、前記ズーム映像の再生例を示した図であり、映像配信サーバ1から受信したズーム無し用の符号化ファイルFaを復号して再生中[同図(a)]の映像再生端末2においてズーム率中への拡大が要求[同図(b)]されると、映像配信サーバ1では、配信ファイルが前記ズーム無し用の符号化ファイルFaからズーム率中用の符号化ファイルFbに切り換えられ、当該符号化ファイルFbからズーム位置に応じて切り出されたズーム映像が配信される。その結果、映像再生端末2ではズーム率中の映像[同図(c)]が再生される。
【0028】
このズーム映像の再生中に、更にズーム率大への拡大が要求[同図(c)]されると、映像配信サーバ1では配信ファイルが前記ズーム率中の符号化ファイルFbからズーム率大用の符号化ファイルFcに切り換えられ、当該符号化ファイルFcからズーム位置に応じて切り出されたズーム映像が配信される。その結果、映像再生端末2ではズーム率大の映像が再生[同図(d)]される。
【0029】
なお、ズーム無し用の符号化ファイルFaを再生中[同図(a)]にズーム率大への切り換えが要求[同図(e)]された場合も同様に、映像配信サーバ1では配信ファイルが前記ズーム無し用の符号化ファイルFaからズーム率大用の符号化ファイルFcに切り換えられ、当該符号化ファイルFcからズーム位置に応じて切り出されたズーム映像が配信される。その結果、映像再生端末2ではズーム率大の映像コンテンツが再生[同図(d)]される。
【0030】
次いで、前記図1を参照して本発明の構成を詳細に説明する。映像配信サーバ1において、映像分割符号化部101は、配信対象の映像コンテンツ4を符号化圧縮する。本実施形態ではH.264符号化方式が採用され、そのイントラフレームであるIDRフレームの情報がIDRフレーム情報DB102に蓄積され、AudioデータがAudioデータ保存DB103に蓄積され、VideoデータがVideoデータ保存DB104に蓄積される。前記IDRフレーム情報は、IDRフレームが一定間隔で挿入される場合は図18の形式で蓄積され、一定間隔で挿入されない場合には、図19に示したように、全てのIDRフレームのフレーム番号を列挙する様式で蓄積される。
【0031】
前記Videoデータ保存DB104には、設定可能なズーム倍率の種類に応じて解像度の異なる複数の符号化ファイルが映像コンテンツごとに生成されて蓄積される。本実施形態では、前記図3に示したように、ズーム無し用の符号化ファイルFaと共に、ズーム率中用の符号化ファイルFbおよびズーム率大用の符号化ファイルFcの計3つの符号化ファイルが作成、蓄積される。ズーム用の2つの符号化ファイルFb,Fcに関しては、映像コンテンツが論理的な境界線で仕切られた所定の分割映像領域(本実施形態では、H.264符号化方式を採用するのでスライス)ごとに符号化され、フレーム内予測符号化(イントラ符号化)およびフレーム間予測符号化(インター符号化)のいずれのプロセスにおいても、スライス境界を跨ぐ予測が禁止される。これにより、前記図4を参照して説明したように、ズーム位置に応じて複数の異なるスライスを切り出してズーム映像を構築する場合でも、各スライスを復号する際に他のスライス内のマクロブロックが参照されることがないので、復号に破綻が生じることはない。
【0032】
ただし、このようにスライス境界を跨ぐ予測を一律に禁止してしまうと符号化効率が低下してしまう懸念がある。一方、前記図4を参照すれば明らかなように、例えばスライスが3行3列に設定されたズーム用符号化ファイルFbから、ズーム位置に応じて2行2列を切り出してズーム映像を生成する場合、スライス1-1が切り出される場合はスライス1-2、2-1、2-2も必ず切り出される。また、スライス1-2が切り出される場合、スライス2-2も必ず切り出される。したがって、常に同時に切り出されるスライスを予め定義できるならば、当該スライス間ではフレーム内予測符号化およびフレーム間予測符号化のいずれのプロセスにおいても、スライス境界を跨ぐ予測を許容することで符号化効率を向上させることが可能になる。
【0033】
これを一般化すると、ズーム用符号化ファイルのスライス構成がXnum行Ynum列であり、そこから切り出されるズーム映像のスライス構成がw行h列であるとき、注目スライスのIDをx-yとすると、
【0034】
(1)ID x-yのスライスが右方向に予測参照可能なスライスの数Bright = w-x, (但し、負の場合はBright =0, また、Bright≦Xnum - x)
【0035】
(2)ID x-yのスライスが左方向に予測参照可能なスライスの領域Bleft = w-(Xnum -x)-1, (但し、負の場合はBleft =0, また、Bleft≦x-1)
【0036】
(3)ID x-yのスライスが上方向に予測参照可能なスライスの数Bup = h-(Ynum -y)-1, (但し、負の場合はBup =0, また、Bup≦y-1)
【0037】
(4)ID x-yのスライスが下方向に予測参照可能なスライスの数Bdown = h-y, (但し、負の場合はBdown =0, また、Bdown≦Ynum - y)
の各条件が成立する。したがって、上記の条件(1)〜(4)を満足できるスライス同士はスライス境界を跨ぐ予測を符号化に用いることを許容するようにしてもよい。
【0038】
ユーザ操作受信部105は、映像再生端末2から送信されたユーザ操作を受信し、当該ユーザ操作がズーム倍率Zfおよびズーム位置Zpの記述された「ズーム要求」であれば、これを映像切換制御部106へ通知する。
【0039】
映像切換制御部106は、前記Videoデータ保存DB104から読み出して配信する映像を、前記ユーザ操作受信部105で受信されたズーム要求のズーム倍率Zfに対応したズーム用符号化ファイルに切り換える。切り換えられたズーム用符号化ファイルは、前記Audioデータ保存DB103から読み出されるAudioデータと共に出力される。すなわち、ズーム率中のズーム要求であればズーム率中用の符号化ファイルFbに切り換えられ、ズーム率大のズーム要求であればズーム率大用の符号化ファイルFcに切り換えられる。このような映像切換は、全てイントラフレーム(本実施形態では、IDRフレーム)のタイミングで行われる。
【0040】
ズーム映像切出部107は、前記図4を参照して詳述したように、ズーム要求に記述されたズーム位置Zpに応じた複数のスライスを前記切り換えられたズーム用符号化ファイルから切り出し、ズーム映像に変換してスライスデータバッファ108に蓄積する。なお、このようなズーム映像の切り出しは、前記ズーム用符号化ファイルの映像ヘッダ情報を書き換えて単一スライス構造のズーム映像を生成することにより実施される。
【0041】
図7は、前記映像ヘッダ情報の書き換え方法を模式的に表現した図であり、ここでは、ズーム率中の符号化ファイルFbから、その左上領域の4つのスライス1-1,1-2,2-1,2-2を切り出して単一スライス構造のズーム映像を生成する場合を例にして説明する。
【0042】
ズーム用の符号化ファイルFbでは、同図(a)に示したように、スライス1-1,1-2,2-1,2-2ごとに全てのマクロブロックがラスター順の連番で管理されている。しかしながら、処理能力の低い映像再生端末2では、任意形状のスライスを組み合わせて構成される映像をそのまま復号することができない。そこで、本実施形態では各スライスの全てのマクロブロックに、単一スライス構造におけるラスター順で連番を付け直すことで、映像再生端末2では、符号化ファイルFbを単一スライス構造として復号できるようにしている。
【0043】
図8は、書き換え前の符号化ファイルFbの映像ヘッダと書き換え後のズーム映像の映像ヘッダとを比較した図であり、同図(a)の符号化ファイルFbでは、一つのフレームが複数のスライスから構成され、スライスごとに全てのマクロブロックに対して1番から始まる序数が付されている。これに対して、同図(b)のズーム映像では、一つのフレームが前記4つのスライスを連結した一つのスライスで構成され、全てのマクロブロックに一貫した連番(1から1180)が付されている。
【0044】
なお、SPS(Sequence Parameter Set)は、映像シーケンス全体の符号化にかかわる情報が記述されるヘッダであり、映像を符号化する際に使われたツールの種類(プロファイル:profile_idc)、対象とするデコーダの処理能力を表すレベル(level_idc)、画面サイズ(マクロブロックの数で表現された画面サイズ:pic_width_in_mbs_minus1、pic_height_in_map_units_minus1)に関する情報等が含まれる。本実施形態では、このSPSに関しても、プロファイル等の画像サイズに依存しない情報については符号化ファイルFbのSPSがそのままズーム映像にも付与されるが、符号化レベル、画サイズ等の値は、生成されるズーム映像のサイズに応じた値に書き換えられる。
【0045】
さらに、PPS(Picture Parameter Set)は、フレームの符号化に関する情報が記述されるヘッダであり、フレームの符号化に使われている符号化手法の種類(entropy_coding_mode_flag)、フレームを構成するスライスの枚数(num_slice_groups_minus1)、スライスの配置(slice_group_map_type)などの情報が含まれる。本実施形態では、このPPSに関しても、符号化ファイルFbでは、1フレームを複数のスライスで構成するための配置およびスライス数が記述されているが、ズーム映像では、単一スライスが一つのフレームで構成されるように書き換えられる。
【0046】
さらに、マクロブロックの輝度成分を量子化するための量子化パラメータ(QP)の値がマクロブロック毎に制御される場合、スライス境界の右に隣接するマクロブロックについては、そのQPを導出するための差分情報を書き換えることも望ましい。例えば、H.264符号化においては、スライス中のマクロブロックのQPYは次式(1)で与えられる。
【0047】
【数1】
【0048】
ここで、QPY,PREVは図7の順番で数えた場合に直前に位置するマクロブロックのQPYの値、mb_qp_deltaはマクロブロック中に記載されたQPの差分情報、QpBdOffsetYはオフセット値であり、スライスの先頭に位置するマクロブロックでは、QPY,PREVは初期値を取る。そこで、図17に示すように、デフォルトのQP値が24、図中のマクロブロックの格子に記載された値が各マクロブロックのQPだとすると、複数のスライスで構成された映像から単一スライスの映像に変換するときに、マクロブロックの順番が変わることに伴って直前に位置するマクロブロックが変更となる。そこで、mb_qp_deltaの値を以下の通りに変換することで、各マクロブロックのQPYの値を保ち、マクロブロックについて再符号化を不要にできる。
【0049】
即ち、あるマクロブロックがmb_qp_delta_oldを持ち、そのマクロブロックが参照するQPY,PREVの値がQPY,PREV_AからQPY,PREV_Bに変更される場合、そのmb_qp_delta_newを次式(2)で算出する。
【0050】
【数2】
【0051】
このような計算を、スライス境界の右端に位置するマクロブロックに対して行うことで、既に計算済みの最適な量子化パラメータをQPYを、最低限の処理で再利用することが可能となる。なお、当然ながら、フレームを構成するマクロブロックが全て同一の値を取るような場合は、この処理は不要なので実行する必要はない。
【0052】
また、画面内の他のマクロブロックの情報を参照して符号化を行う、イントラ予測の符号化が用いられている場合、スライス境界の右端あるいは上端に隣接するマクロブロックについては、符号化された輝度信号や色差信号についても、マクロブロックの位置に応じて必要な変更を行うことが望ましい。
【0053】
すなわち、イントラ符号化の平均値予測を行う場合、通常は当該マクロブロックの上および左に隣接する32個(16×16マクロブロックの場合)の画素の平均値を用いて当該マクロブロックの信号を符号化するが、スライスの上端に位置するマクロブロックについては、その左に隣接する16個の画素の平均値のみを用いて符号化を行う。したがって、図7に示したように、複数スライスの映像を単一スライスの映像に変換する際に、スライス境界の右端あるいは上端に隣接するマクロブロックでイントラ符号化の平均値予測が用いられている場合は、その予測に用いる平均値を変更し、マクロブロック中の輝度値を再計算することが望ましい。色差信号についても同様である。
【0054】
このような処理を、スライス境界の右端あるいは上端に隣接するマクロブロックについてのみ行い、それ以外のマクロブロックについては、符号化された輝度信号、色差信号をそのまま活用することで、単一スライス化に伴う計算量を最小限に抑えることが可能となる。
【0055】
エフェクト部109は、ストリーミング形式で配信する映像のズーム率を切り換える際に、その切り換え前後の映像間にエフェクト効果を挿入する。エフェクト効果を挿入する際には、その元となる復号済み画像フレームが必要となる。そこで、至近の復号済み画像フレームとして、直後のIDRフレームを取得する。
【0056】
図9は、前記エフェクト部109の動作を示したシーケンスフローであり、ズーム要求が検知されると、その直後(n番目)のIDRフレームの配信タイミングである時刻t1において、配信映像を現在のズーム無し映像からエフェクト映像に切り換え、更に次(n+1番目)のIDRフレームの配信タイミングである時刻t2において、配信映像を前記エフェクト映像からズーム映像に切り換える。
【0057】
図10は、映像再生端末2に表示されるエフェクト効果の一例を示した図であり、同図(a)のズーム無し映像上でズーム再生が要求されると、次のIDRフレームの配信タイミングである時刻t1において、同図(b)に示したように、ズーム領域以外がモザイク処理され、さらに同図(c)に示したように、次のIDRフレームの配信タイミングである時刻t2まで、前記ズーム領域が段階的に拡大され、当該時刻t2において、配信映像がズーム映像に切り換えられる。この際、エフェクト効果の変化に合わせて効果音を発生させるようにしても良い。
【0058】
前記エフェクト画像は、n番目のIDRフレームから(n+1)番目のIDRフレームまで徐々に変化するフレーム画像として生成され、映像データとしてエンコードしてスライスデータバッファ108に書き込まれる。図10のエフェクト画像は、拡大が指示された領域を、例えば線形補間法によって徐々に拡大する一方、その他の領域は、一定領域のセルに分割、等間隔にセルの母点を配置し、モザイクタイル化するような処理を段階的に行うことで実現できる。上記のズーム無し映像、エフェクト映像およびズーム映像は、エフェクトの効果音を重畳する多重化部110および配信部111を経由して映像再生端末2へストリーミング形式で配信される。
【0059】
図1へ戻り、映像再生端末2において、映像受信部201は、ストリーミング形式で配信される映像ストリームを受信する。この映像ストリームには付帯情報として、送信中の映像のズーム率、および送信中の映像の領域の座標がH.264のSEI(Supplemental Enhancement Information)として送信される。
【0060】
表示バッファ202は、受信された映像を一時記憶し、所定のビットレートで読み出して表示部203へ出力する。ユーザ操作受付部204は、映像コンテンツの配信要求、再生中の映像に対するズーム要求、およびズーム再生中の映像に関する移動要求等に関するユーザ操作を受け付ける。前記ズーム要求は、表示部203がタッチパネル機能を備えていれば、拡大したい領域のピンチアウト等によって受け付けることができる。
【0061】
操作判定部205は、受け付けられたズーム要求を映像配信サーバ1が応答できるか否かを判定し、例えば、現在配信中の映像がズーム率中用の符号化ファイルFbに係るストリーミング映像であれば、さらなるズームが可能なので、前記ズーム要求をユーザ操作送信部206から映像配信サーバ1へ送信する。このようなズーム要求は、図20に一例を示したように、RTSPのSET_PARAMETERメッセージに、要求されたズーム倍率Zfおよびズーム位置(座標)Zpを記述して送信される。
【0062】
なお、上記の実施形態では、主にズーム無し映像からズーム有り映像へのズームイン時の切り換えを例にして説明したが、本発明はこれのみに限定されるものではなく、解像度の異なるズーム有り映像間での切り換え、およびズーム有り映像からズーム無し映像へのズームアウト時にも同様に適用できる。
【0063】
本実施形態によれば、映像配信サーバ1には、提供可能なズーム倍率の段階に応じて、解像度の異なる複数のズーム用符号化ファイルが予め用意されており、ズーム要求が検知されると、要求されたズーム倍率Zfに応じたズーム用符号化ファイルからズーム位置Zpの映像を切り出してズーム映像とするので、ズーム要求に対して低負荷でズーム映像を配信できるようになる。
[第2実施形態]
【0064】
次いで、本発明の第2実施形態について説明する。上記の実施形態では、再生中の映像をズームする際の映像切り換えについて説明したが、本発明はこれのみに限定されるものではなく、ズーム映像の再生中にズーム倍率を変更することなくズーム位置のみを移動させる場合にも同様に適用できる。
【0065】
図11は、第2実施形態の動作概要を示した図であり、前記映像配信サーバ1は、大型TV用に撮影、編集された高解像度の映像コンテンツ[同図(a)]を、配信解像度すなわち映像再生端末2の表示解像度に変換して配信[同図(b)]すると共に、端末ユーザからのズーム要求に応答して配信解像度のズーム映像を配信[同図(c)]し、さらには端末ユーザからの移動要求に応答して移動先のズーム映像(同じく、配信解像度)を配信[同図(d)]する。
【0066】
図12は、第2実施形態におけるズーム映像の移動方法を示した図であり、ここでは、ズーム率大の符号化ファイルFcから切り出されたズーム映像の位置を移動する場合を例にして説明する。
【0067】
前記映像配信サーバ1は、符号化ファイルFcから同図(a)に黒枠で示した領域の6つのスライスを切り出して生成した同図(c)のズーム映像をストリーミング形式で配信している。映像配信サーバ1では、この配信中に、同図(d)に示したように右側への移動を指定する移動要求が受信されると、当該移動要求に応答して、前記符号化ファイルFcから同図(b)に黒枠で示した範囲の6つのスライスが切り出される。そして、この6つのスライスから同図(e)に示した新たなズーム映像が作成され、配信映像が前記移動前のズーム映像から移動後のズーム映像に切り換えられる。
【0068】
なお、本実施形態でも図13に一例を示したように、移動前のズーム映像[同図(a)]から移動後のズーム映像[同図(c)]に切り換える際にはエフェクト映像[同図(b)]を挿入することが望ましい。このようなエフェクト映像は、元データの画素値を左方向にずらすと同時に画面の右端については元画像の右端境界部のピクセル値をコピーすることで生成できる。
【0069】
本実施形態によれば、映像配信サーバ1が映像再生端末2から、移動先のズーム位置が記述された移動要求の受信に応答して、移動先のズーム位置に応じたスライスを切り出してズーム映像を生成するので、ズーム位置の移動を簡単に実現できるようになる。
[第3実施形態]
【0070】
次いで、本発明の第3実施形態について説明する。上記の各実施形態では、設定可能なズーム率の上限が、前記映像配信サーバ1に蓄積されているズーム用の符号化ファイルの解像度に依存し、それ以上のズーム率での再生を要求することができなかった。
【0071】
これに対して、本実施形態では映像配信サーバ1に蓄積されているズーム用符号化ファイルによるズーム率を超えるズーム率が指定されると、映像再生端末2がこれを検知し、周知のデジタルズーム機能により前記表示バッファ202上で映像をトレミングして見かけ上の高倍率ズームを実現する。
【0072】
図14は、本実施形態のズーム方法を説明するための図であり、ズーム再生が要求されていなければ、映像配信サーバ1からは同図(a)のズーム無し符号化ファイルFaが配信され、映像再生端末2では同図(b)のズーム無し映像が再生される。
【0073】
ズーム率中のズームが要求されると、映像配信サーバ1からは同図(c)のズーム率中の符号化ファイルFbから切り出されたズーム映像が配信され、映像再生端末2では同図(d)のズーム率中の映像が再生される。また、ズーム率大のズームが要求されると、映像配信サーバ1からは同図(e)のズーム率大の符号化ファイルFcから切り出されたズーム映像が配信され、映像再生端末2では同図(f)のズーム率大の映像が再生される。
【0074】
さらに高倍率のズームが要求されると、同図(g)に示したように、映像再生端末2では表示バッファ202上の映像がズーム位置Zpを中心に要求倍率に応じたサイズにトレミングされて切り出される。切り出されたトレミング画像は、その解像度を補間処理等により配信解像度まで嵩上げすることでリサイズされ、同図(h)のように見かけ上高倍率にズームされているように表示される。
【0075】
図15は、本実施形態の機能ブロック図であり、前記と同一の符号は同一または同等部分を表しているので、その説明は省略する。
【0076】
ローカルズーム部207は、ユーザ操作として受け付けられたズーム要求の倍率が、映像配信サーバ1に用意されているズーム用符号化ファイルからのズーム映像の切り出しにより対応できる範囲を超えていると判定すると、表示バッファ202に展開されているズーム映像を、指定されたズーム位置Zpを中心に、要求されたズーム率Zfに応じたサイズでトレミングし、トレミング画像の画素数が配信解像度の画素数と一致するように、前記トレミング画像に補間処理等を実施することでリサイズする。
【0077】
本実施形態によれば、映像配信サーバ1に予め用意されているズーム用符号化ファイルからのズーム映像の切り出しにより対応できるズーム倍率を超えた高倍率でのズーム再生が可能になる。
[第4実施形態]
【0078】
次いで、本発明の第4実施形態について説明する。上記の実施形態では、エフェクト画像が映像配信サーバ側で挿入されるものとして説明したが、本発明はこれのみに限定されるものではなく、図16に示したように、表示バッファ202に蓄積されている映像に対して加工を行うローカルエフェクト部208を設け、ユーザ操作受付部204に対するズーム要求が検知されると、その直後からの一定時間、ローカルエフェクト部208が表示バッファ202に格納された映像に対して、モザイク化等のエフェクトを挿入することで、ローカルな処理によりユーザに対して操作が受け付けられたことをわかりやすく伝えるようにしても良い。
【0079】
なお、上記の各実施形態では、映像配信サーバ1に蓄積されているコンテンツをユーザ端末からの要求に応じて配信するVDO(Video On Demand)を例にして説明したが、本発明はこれのみに限定されるものではなく、リアルタイムの放送にも同様に適用できる。
【符号の説明】
【0080】
1…映像配信サーバ,2…映像配信端末,101…映像分割符号化部,102…IDRフレーム情報DB,103…Audioデータ保存DB,104…Videoデータ保存DB,105…ユーザ操作受信部,106…映像切換制御部,107…ズーム映像切出部,108…スライスデータバッファ,109…エフェクト部,110…多重化部,111…配信部,201…映像受信部,202…表示バッファ,203…表示部,204…ユーザ操作受付部,205…操作判定部,206…ユーザ操作送信部,207…ローカルズーム部,208…ローカルエフェクト部
【特許請求の範囲】
【請求項1】
ストリーミング形式で配信する映像をズーム要求に応答してズーム映像に切り換える映像配信サーバにおいて、
映像コンテンツごとに、配信解像度のズーム無し符号化ファイルおよび配信解像度よりも高解像度の少なくとも一つのズーム用符号化ファイルを記憶する手段と、
ズーム倍率およびズーム位置の記述されたズーム要求を検知する手段と、
配信中の符号化ファイルに対するズーム要求が検知されると、配信する符号化ファイルを前記ズーム倍率に応じた他の解像度のズーム用符号化ファイルに切り換える手段と、
前記切り換えられたズーム用符号化ファイルの前記ズーム位置から前記配信解像度でズーム映像を切り出す手段と、
前記切り出されたズーム映像をストリーミング形式で配信する手段とを具備したことを特徴とする映像配信サーバ。
【請求項2】
前記ズーム用符号化ファイルは、論理的な境界線で仕切った複数の分割映像領域から構成されて当該分割映像領域ごとに符号化され、
前記各分割映像領域は、前記ズーム位置に応じた複数の集合で前記配信解像度のズーム映像を構成できるように、その位置、形状およびサイズが規定され、
前記ズーム映像を切り出す手段は、前記切り換えられたズーム用符号化ファイルから、前記ズーム位置に応じた複数の分割映像領域の集合をズーム映像として切り出すことを特徴とする請求項1に記載の映像配信サーバ。
【請求項3】
前記ズーム映像として切り出された複数の分割映像領域のマクロブロックのヘッダ情報を、ズーム映像における各マクロブロックの表示位置に応じて書き換える手段を具備したことを特徴とする請求項2に記載の映像配信サーバ。
【請求項4】
前記マクロブロックのヘッダ情報を書き換える手段は、ズーム映像として切り出された複数の分割映像領域が単一の映像領域となるように、各マクロブロックに付される序数を書き換えることを特徴とする請求項3に記載の映像配信サーバ。
【請求項5】
前記マクロブロックのヘッダ情報を書き換える手段は、各マクロブロックが持つ量子化パラメータ情報が、マクロブロックの復号順で直前のマクロブロックが持つ量子化パラメータ情報との差分として格納されている場合に、前記論理的な境界線の右隣りに位置するマクロブロックに対して、その差分情報を、変換された新たなマクロブロック復号順序に応じて書き換えることを特徴とする請求項3に記載の映像配信サーバ。
【請求項6】
映像コンテンツごとに、配信解像度のズーム無し符号化ファイルおよび配信解像度よりも高解像度の少なくとも一つのズーム用符号化ファイルを生成する符号化手段を具備し、
前記符号化手段は、ズーム用符号化ファイルを、論理的な境界線で仕切られた複数の分割映像領域ごとに符号化することを特徴とする請求項1ないし5のいずれかに記載の映像配信サーバ。
【請求項7】
前記符号化手段は、一の分割映像領域の各マクロブロックを符号化する際に他の一の分割領域のマクロブロックを参照しないことを特徴とする請求項6に記載の映像配信サーバ。
【請求項8】
前記符号化手段は、一の分割映像領域の各マクロブロックを符号化する際に、当該一の
分割映像領域と常に同時に切り出されてズーム映像を構成する他の分割映像領域のマクロブロックの参照は許容されることを特徴とする請求項7に記載の映像配信サーバ。
【請求項9】
前記符号化が、イントラ符号化およびインター符号化であることを特徴とする請求項6ないし8のいずれかに記載の映像配信サーバ。
【請求項10】
前記切り換え前後のズーム映像間にエフェクト映像を挿入するエフェクト手段をさらに具備したことを特徴とする請求項1ないし9のいずれかに記載の映像配信サーバ。
【請求項11】
前記映像切換がイントラフレームのタイミングで実行されることを特徴とする請求項1ないし10のいずれかに記載の映像配信サーバ。
【請求項12】
映像配信サーバからストリーミング形式で配信される映像コンテンツを再生する映像再生端末において、
再生中の映像に対するズーム操作を受け付ける手段と、
前記ズーム操作に応答して、ズーム倍率およびズーム位置の記述されたズーム要求を前記映像配信サーバへ送信する手段と、
前記ズーム要求に応答して切り換えられたズーム用符号化ファイルを受信して再生する表示する手段とを具備したことを特徴とする映像再生端末。
【請求項13】
前記ズーム倍率が前記映像配信サーバで配信可能な最高倍率を超えていると、前記ズーム映像の表示バッファ上でズーム位置をトレミングして拡大するデジタルズームにより前記ズーム倍率を実現するローカルズーム手段を具備したことを特徴とする請求項12に記載の映像再生端末。
【請求項14】
前記切り換え前後のズーム映像間にエフェクト映像を挿入するローカルエフェクト手段をさらに具備したことを特徴とする請求項12または13に記載の映像再生端末。
【請求項1】
ストリーミング形式で配信する映像をズーム要求に応答してズーム映像に切り換える映像配信サーバにおいて、
映像コンテンツごとに、配信解像度のズーム無し符号化ファイルおよび配信解像度よりも高解像度の少なくとも一つのズーム用符号化ファイルを記憶する手段と、
ズーム倍率およびズーム位置の記述されたズーム要求を検知する手段と、
配信中の符号化ファイルに対するズーム要求が検知されると、配信する符号化ファイルを前記ズーム倍率に応じた他の解像度のズーム用符号化ファイルに切り換える手段と、
前記切り換えられたズーム用符号化ファイルの前記ズーム位置から前記配信解像度でズーム映像を切り出す手段と、
前記切り出されたズーム映像をストリーミング形式で配信する手段とを具備したことを特徴とする映像配信サーバ。
【請求項2】
前記ズーム用符号化ファイルは、論理的な境界線で仕切った複数の分割映像領域から構成されて当該分割映像領域ごとに符号化され、
前記各分割映像領域は、前記ズーム位置に応じた複数の集合で前記配信解像度のズーム映像を構成できるように、その位置、形状およびサイズが規定され、
前記ズーム映像を切り出す手段は、前記切り換えられたズーム用符号化ファイルから、前記ズーム位置に応じた複数の分割映像領域の集合をズーム映像として切り出すことを特徴とする請求項1に記載の映像配信サーバ。
【請求項3】
前記ズーム映像として切り出された複数の分割映像領域のマクロブロックのヘッダ情報を、ズーム映像における各マクロブロックの表示位置に応じて書き換える手段を具備したことを特徴とする請求項2に記載の映像配信サーバ。
【請求項4】
前記マクロブロックのヘッダ情報を書き換える手段は、ズーム映像として切り出された複数の分割映像領域が単一の映像領域となるように、各マクロブロックに付される序数を書き換えることを特徴とする請求項3に記載の映像配信サーバ。
【請求項5】
前記マクロブロックのヘッダ情報を書き換える手段は、各マクロブロックが持つ量子化パラメータ情報が、マクロブロックの復号順で直前のマクロブロックが持つ量子化パラメータ情報との差分として格納されている場合に、前記論理的な境界線の右隣りに位置するマクロブロックに対して、その差分情報を、変換された新たなマクロブロック復号順序に応じて書き換えることを特徴とする請求項3に記載の映像配信サーバ。
【請求項6】
映像コンテンツごとに、配信解像度のズーム無し符号化ファイルおよび配信解像度よりも高解像度の少なくとも一つのズーム用符号化ファイルを生成する符号化手段を具備し、
前記符号化手段は、ズーム用符号化ファイルを、論理的な境界線で仕切られた複数の分割映像領域ごとに符号化することを特徴とする請求項1ないし5のいずれかに記載の映像配信サーバ。
【請求項7】
前記符号化手段は、一の分割映像領域の各マクロブロックを符号化する際に他の一の分割領域のマクロブロックを参照しないことを特徴とする請求項6に記載の映像配信サーバ。
【請求項8】
前記符号化手段は、一の分割映像領域の各マクロブロックを符号化する際に、当該一の
分割映像領域と常に同時に切り出されてズーム映像を構成する他の分割映像領域のマクロブロックの参照は許容されることを特徴とする請求項7に記載の映像配信サーバ。
【請求項9】
前記符号化が、イントラ符号化およびインター符号化であることを特徴とする請求項6ないし8のいずれかに記載の映像配信サーバ。
【請求項10】
前記切り換え前後のズーム映像間にエフェクト映像を挿入するエフェクト手段をさらに具備したことを特徴とする請求項1ないし9のいずれかに記載の映像配信サーバ。
【請求項11】
前記映像切換がイントラフレームのタイミングで実行されることを特徴とする請求項1ないし10のいずれかに記載の映像配信サーバ。
【請求項12】
映像配信サーバからストリーミング形式で配信される映像コンテンツを再生する映像再生端末において、
再生中の映像に対するズーム操作を受け付ける手段と、
前記ズーム操作に応答して、ズーム倍率およびズーム位置の記述されたズーム要求を前記映像配信サーバへ送信する手段と、
前記ズーム要求に応答して切り換えられたズーム用符号化ファイルを受信して再生する表示する手段とを具備したことを特徴とする映像再生端末。
【請求項13】
前記ズーム倍率が前記映像配信サーバで配信可能な最高倍率を超えていると、前記ズーム映像の表示バッファ上でズーム位置をトレミングして拡大するデジタルズームにより前記ズーム倍率を実現するローカルズーム手段を具備したことを特徴とする請求項12に記載の映像再生端末。
【請求項14】
前記切り換え前後のズーム映像間にエフェクト映像を挿入するローカルエフェクト手段をさらに具備したことを特徴とする請求項12または13に記載の映像再生端末。
【図1】
【図5】
【図7】
【図9】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図2】
【図3】
【図4】
【図6】
【図8】
【図10】
【図11】
【図12】
【図13】
【図14】
【図5】
【図7】
【図9】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図2】
【図3】
【図4】
【図6】
【図8】
【図10】
【図11】
【図12】
【図13】
【図14】
【公開番号】特開2012−75030(P2012−75030A)
【公開日】平成24年4月12日(2012.4.12)
【国際特許分類】
【出願番号】特願2010−219728(P2010−219728)
【出願日】平成22年9月29日(2010.9.29)
【出願人】(000208891)KDDI株式会社 (2,700)
【Fターム(参考)】
【公開日】平成24年4月12日(2012.4.12)
【国際特許分類】
【出願日】平成22年9月29日(2010.9.29)
【出願人】(000208891)KDDI株式会社 (2,700)
【Fターム(参考)】
[ Back to top ]