説明

映像データ送信装置、映像配信システム、映像品質評価方法及びプログラム

【課題】受信側から得られる限られた情報で映像品質測定の実現。
【解決手段】パケット化した映像データを送信するにあたり、各パケットに映像データのどの部分を入れて送信したかを示す送信状態情報を生成しておき、前記送信状態情報と、映像データの受信側から送信されたパケットの受信状況を含むネットワーク状態情報と、に基づいて、送信した映像データのうち受信側で劣化していると推定される劣化部分を推定し、前記劣化部分に基づいて、画質劣化度を算出する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、映像データ送信装置、映像配信システム及び受信側での映像品質の評価を行う映像品質評価方法及びプログラムに関する。
【背景技術】
【0002】
インターネットなど通信網の広帯域化によって、IP(Internet Protocol)ネットワーク上での映像配信サービスの利用が一般化しつつある。しかし、IPネットワークにおいてはパケットロスの発生は不可避であるため、パケットロスにより伝送した映像データが欠損し、ユーザ端末上で表示される映像が乱れたり、表示そのものが止まってしまうなどサービス品質を大きく損なうことがありうる。
【0003】
そこで、ユーザ端末上での品質を管理する方法として、端末上でネットワーク状態を測定し、ネットワーク状態から映像品質を推定する手法が各種提案されている。
【0004】
上記のようにネットワークで映像を配信する場合、MPEG(Moving Picture Experts Group)−2やH.264などの高能率圧縮符号化された映像データが用いられる。この場合、フレーム間予測を用いずフレーム内で符号化処理を行うI(Intra Picture)フレーム、動き補償予測を使い過去から現在を予測し符号化処理を行うP(Predictive Picture)フレーム、双方向予測を使い順方向および逆方向予測し符号化処理を行うB(Bidirectionally Predictive Picture)フレームという3種類のフレームにより映像信号が符号化される。
【0005】
このとき、例えば、ネットワークでパケット損失が生じると、ユーザ端末での復号に際し前後のフレーム情報を使うことから、1パケットの損失による映像品質の劣化が1映像フレームにとどまらず、複数の映像フレームに及ぶことがある。このような場合、次の映像フレームではパケット損失が生じていないにも拘わらず、復号された映像では品質劣化が生じており、ネットワーク上のパケット損失の発生状況(ネットワーク品質)と映像の品質劣化の発生状況とは必ずしも一致しない。どの部分のデータを含むパケットが欠落したかによって、品質に大きな差があるため、品質測定の精度が十分ではないという問題がある。
【0006】
そこで、特許文献1では、端末上でネットワーク品質情報に加え、映像データの復号処理の際にメディア特徴量を抽出し、映像劣化の種別や程度を考慮することでより高精度に映像品質を推定する方法が提案されている。
【0007】
また、特許文献2には、送信側アプリケーション端末から送信されたメディア用パケットの送信状況を示す送信側品質情報と、受信側アプリケーション端末で受信したメディア用パケットの受信状況を示す受信品質情報と、を取得する品質情報取得部と、送信側品質情報及び受信品質情報に基づいてメディア用パケットで送受信した各フレームのうちメディア用パケットの損失による影響を受けた無効フレームの割合(無効フレーム率)を算出する品質解析部と、この無効フレーム率に対応する体感品質値を導出するユーザ体感品質推定部とを備えたユーザ体感品質推定装置が開示されている。なお、上記送信側品質情報に含まれる品質情報としては、各送信メディア用パケットに関する送信順序を示すシーケンス番号、映像フレーム種別、映像フレーム番号、送信パケット数及び送信フレーム数があるとされている。
【0008】
また、特許文献3には、番組コンテンツを分割記録し、それぞれの部分に特定可能な見出しを付け、編集等に用いる番組編集システムが開示されている。
【0009】
【特許文献1】特開2007−19802号公報
【特許文献2】特開2007−135040号公報
【特許文献3】特開2005−252516号公報
【発明の開示】
【発明が解決しようとする課題】
【0010】
特許文献1の方法では、高精度な品質測定を行うためにメディア特徴量を抽出し映像品質を推定する機能を端末側に搭載する必要がある。実サービスにおいて映像配信サービスを受ける端末すべてにこのような品質測定機能を搭載することは難しい。また、メディア特徴量を抽出し、映像品質を推定するという比較的複雑な処理を端末上で行う必要があり、モバイル端末など計算資源の少ない端末では品質測定にかかる負荷を軽視することはできない。
【0011】
また、特許文献2のユーザ体感品質推定装置は、受信アプリケーション端末から受信品質情報を取得し、この受信品質情報をもって無効パケットであるか否かを判定していることから明らかなように、受信側に配置されることを前提とした構成である。更に、特許文献2のユーザ体感品質推定装置は、送信側アプリケーション端末から送信側品質情報が送信されていることが条件となっている。
【0012】
本発明は、上記した背景技術の分析の結果に基づいてなされたものであって、送信側で、受信側から得られる限られた情報で受信側の映像品質測定を行うことのできる映像データ送信装置、映像配信システム、映像品質評価方法及びプログラムを提供することを目的とする。
【課題を解決するための手段】
【0013】
本発明の第1の視点によれば、パケット化した映像データを送信するとともに、各パケットに映像データのどの部分を入れて送信したかを示す送信状態情報を生成する映像データ送信部と、前記送信状態情報と、映像データの受信側から送信されたパケットの受信状況を含むネットワーク状態情報と、に基づいて、送信した映像データのうち受信側で劣化していると推定される劣化部分を推定する劣化部分推定部と、前記劣化部分に基づいて、画質劣化度を算出する映像品質推定部と、を備えた映像データ送信装置が提供される。
【0014】
本発明の第2の視点によれば、上記した映像データ送信装置と、前記映像データ送信装置からパケットを受信した際に、前記受信品質情報を送信する映像データ受信装置と、を含む映像配信システムが提供される。
【0015】
本発明の第3の視点によれば、パケット化した映像データを送信するにあたり、各パケットに映像データのどの部分を入れて送信したかを示す送信状態情報を生成しておき、前記送信状態情報と、映像データの受信側から送信されたパケットの受信状況を含むネットワーク状態情報と、に基づいて、送信した映像データのうち受信側で劣化していると推定される劣化部分を推定し、前記劣化部分に基づいて、画質劣化度を算出する映像品質評価方法が提供される。
【0016】
本発明の第4の視点によれば、コンピュータを上記した映像データ送信装置として機能させるためのプログラムが提供される。このプログラムは、パケット化した映像データを送信するにあたり、各パケットに映像データのどの部分を入れて送信したかを示す送信状態情報を生成する処理と、前記送信状態情報と、映像データの受信側から受信したパケットの受信状況を含むネットワーク状態情報と、に基づいて、送信した映像データのうち受信側で劣化していると推定される劣化部分を推定する処理と、前記劣化部分に基づいて、画質劣化度を算出する処理と、をコンピュータに実行させる。
【発明の効果】
【0017】
本発明によれば、映像受信側でなく、映像データの送信側で、受信側における映像データの劣化状況を精度良く見積もることが可能になる。その理由は、送信側で、各パケットに映像データのどの部分を入れて送信したかを示す送信状態情報を記録しておき、受信側から送られたネットワーク状態情報と、照らし合わせることで劣化部分を推定できるよう構成したことにある。
【発明を実施するための最良の形態】
【0018】
[発明の概要]
はじめに本発明の概要を説明する。図1は、本発明に係る映像データ装置の構成を模式的に表した図である。図1を参照すると、映像データ送信部12と、劣化部分推定部15と、映像品質推定部16とを備えた映像データ送信装置10と、映像データ送信装置10から映像データパケットを受信し、映像データ送信装置10に対してネットワーク状態情報を送信する映像データ受信装置20が示されている。
【0019】
映像データ送信部12は、映像データ受信装置20から要求されたコンテンツの映像データをパケット化し、映像データ受信装置20に対して送信するとともに、映像データをパケット化する際に各パケットに映像データのどの部分を入れて送信したかの対応関係を示す送信状態情報を生成し、劣化部分推定部15に出力する。
【0020】
劣化部分推定部15は、映像データ受信装置20から受信したネットワーク状態情報及び映像データ送信部12から出力された送信状態情報から映像受信端末でパケットが受信できず映像データが欠損したもしくは欠損した可能性の高い部分を特定し、欠損した映像データの位置を劣化部分情報として生成し、映像品質推定部へ渡す。前記ネットワーク状態情報としては、受信側で受信できなかったパケットの情報やパケットロス率等を含めることができる。
【0021】
なお、後記するように、受信側からネットワーク状態情報を受信するネットワーク状態情報受信部を設けることもできる。
【0022】
映像品質推定部16は、劣化部分推定部15から出力された劣化部分情報をもとに映像データ受信装置20における画質劣化度を算出する。また、必要に応じて、前記劣化部分情報と、映像データ送信装置10で保持している映像データとを分析し、詳細に画質劣化度を求めるようにしてもよい。
【0023】
[第1の実施形態]
次に、本発明の第1の実施形態について図面を参照して詳細に説明する。図2は、本発明の第1の実施形態の構成を表した図である。映像受信端末は、映像データ受信装置に相当する。
【0024】
図1を参照すると、本発明の実施の形態は映像配信サーバ110、IPネットワーク120、映像受信端末130から構成され、映像配信サーバ110、映像受信端末130はIPネットワーク120により相互に接続される。
【0025】
映像配信サーバ110、映像受信端末130の各装置はCPU(Central Processing Unit)や主メモリ、出力装置、入力装置、外部記憶装置等を有し、光ディスク駆動装置等を介して、CD−ROM等の記録媒体に記録されたプログラムやデータを外部記憶装置内にインストールした後、この外部記憶装置から主メモリに読み込みCPUで処理することにより、各機能部の処理を実行することを可能とするコンピュータ構成を想定する。ただし、いずれかの機能をハードウェア的に実現したものなど、同等の機能を有するものであれば、この構成に限らない。
【0026】
映像配信サーバ110は映像受信端末130から要求された映像データを、映像受信端末130へ送信する装置であり、上述した映像データ送信装置に相当する。
【0027】
映像配信サーバ110は、映像データ蓄積部111、映像データ送信部112、送信状態情報蓄積部113、ネットワーク状態情報受信部114、劣化部分推定部115、映像品質推定部116及び映像品質情報出力部117を備えて構成される。
【0028】
映像データ蓄積部111には、圧縮符号化された映像データが予め蓄積されている。
【0029】
映像データ送信部112は、RTSP(Real Time Streaming Protocol)等のプロトコルを用いてコンテンツ配信の制御を行うとともに、映像受信端末130から要求された映像データを映像データ蓄積部111から取得し、RTP(Realtime Transport Protocol)等のプロトコルに基づきIPパケット化した上で、映像受信端末130へ送信する(図3参照)。
【0030】
また、各映像データをパケット化する際に、映像データ送信部112は、各IPパケットに映像データのどの部分を入れて送信したかを特定可能な情報として送信状態情報を生成し、送信状態情報蓄積部113へ保存する。
【0031】
送信状態情報蓄積部113は映像データ送信部112により生成された送信状態情報を蓄積する。
【0032】
送信状態情報は、例えば、図4に示されるようなRTPシーケンス番号と、各RTPパケットに入れて送信された映像データの位置情報(映像データ位置)の組を記録して構成される。
【0033】
図4の映像データ位置の数値は、図3に示したように映像データが予めTS(Transport Stream)パケット化されている場合で、各TSパケットに映像データ先頭から振られた番号を表している。その他に、映像データ先頭からのバイト数などによって位置情報を表しても良い。また、図4の送信状態情報には、映像データの送信先を特定可能なユーザIDや送信した映像データを特定可能なID(コンテンツID)及び各RTPパケットの送信時刻などの付随情報が含まれている。
【0034】
ネットワーク状態情報受信部114は、映像受信端末130からRTCP(Real−time Transport Control Protocol)等のプロトコルによって送信されるネットワーク状態情報を受信し、劣化部分推定部115へ渡す。
【0035】
ネットワーク状態情報には、例えば、映像受信端末130で受信できなかったRTPパケットのシーケンス番号や、パケットロス率等のネットワーク統計情報が含まれる。
【0036】
劣化部分推定部115は、ネットワーク状態情報受信部114から引き渡されたネットワーク状態情報と送信状態情報蓄積部113に保存されている送信状態情報をもとに、パケットロスなどにより映像データが欠落した、もしくは、欠落した可能性の高い部分を特定し映像データ内での位置を示す劣化部分情報を生成し、映像品質推定部116へ通知する。
【0037】
映像品質推定部116は、劣化部分推定部115から通知された劣化部分情報を元に、映像データ蓄積部111から劣化部分および必要に応じて劣化部分の前後の映像データを取得し、劣化部分情報で示される映像データが欠落した場合、どのような映像劣化が発生するかを分析することで、映像品質を推定し、映像の劣化の度合いを示す映像劣化度を算出し、映像品質情報出力部117へ渡す。
【0038】
映像品質情報出力部117は、映像品質推定部116により算出された映像劣化度をディスプレイ等の表示装置に表示する。もしくはデータベース等へこの映像劣化度を含む映像品質情報を蓄積する。
【0039】
映像受信端末130は、PC(Personal Computer)もしくは専用のSTB(Set Top Box)として提供される通信端末であり、上述した映像データ受信装置に相当する。映像受信端末130は、ユーザの操作により、ユーザの所望するコンテンツの映像データをIPネットワーク120を介して映像配信サーバ110から取得し、復号処理を行って映像を生成し、生成された映像をディスプレイ等の出力装置に表示する。
【0040】
映像受信端末130は、映像データ受信部131、復号処理部132、ネットワーク状態情報生成部133及びネットワーク状態情報送信部134を備えて構成される。
【0041】
映像データ受信部131は、映像配信サーバ110からRTPパケット化された映像データを受信し、受信したRTPパケットから映像データを取り出して、復号処理部132へ渡す。
【0042】
復号処理部132は、映像データ受信部131から映像データを受け取り、復号処理を行って画像を生成し、出力装置に渡す。
【0043】
ネットワーク状態情報生成部133は、映像データ受信部131でパケットを受信した際にRTPシーケンス番号をチェックし、番号が連続していない場合、欠落パケットとして検出したり、受信状態からパケットロス率やジッタなど各種ネットワーク統計情報を計算しネットワーク状態情報を生成しネットワーク状態情報送信部134へ渡す。
【0044】
ネットワーク状態情報送信部134は、ネットワーク状態情報生成部133によって生成されたネットワーク状態情報をRTCPなどのプロトコルに基づき、パケット化し、映像配信サーバ110へ送信する。
【0045】
続いて、本実施形態の動作について図面を参照して詳細に説明する。図5は、本発明の第1の実施形態の動作を表した図である。
【0046】
図5を参照すると、まず、映像受信端末130はRTSPを用いて映像配信サーバ110に映像データを要求するとともに、映像データの受信を開始する(ステップS1)。
【0047】
映像受信端末から映像データの要求を受けると、映像配信サーバ110の映像データ送信部112が映像データの送信を開始し(ステップS2)、ネットワーク状態情報受信部114がネットワーク状態情報の受信を開始する(ステップS3)。
【0048】
映像データ送信部112は要求されたコンテンツの映像データを映像データ蓄積部111から取得しRTPパケット化し、映像受信端末130へ送信をすると同時に、各RTPパケットに映像データのどの部分を入れて送信したかの対応関係を送信状態情報として、送信状態情報蓄積部113へ保存する(ステップS4)。
【0049】
図3は、映像データがTSパケット化されて映像データ蓄積部111に蓄積されている場合のRTPパケットの構成を表している。図3を参照すると、映像データ送信部112がTSパケットの1番目から5番目(符号511)をRTPシーケンス番号1のRTPパケット501に、TSパケットの6番目から10番目(符号512)がRTPシーケンス番号2のRTPパケット502に、TSパケットの11番目から15番目(符号513)がRTPシーケンス番号3のRTPパケット503に、TSパケットの16番目から20番目(符号514)がRTPシーケンス番号4のRTPパケット504にそれぞれ格納されている。
【0050】
映像データ送信部112は、図3のようにRTPパケットを送信した場合、図4に示されるように、各RTPパケットのシーケンス番号とTSパケットの映像データ先頭からの番号の範囲の組を各RTPパケットの送信時刻とともに送信状態情報として送信状態情報蓄積部113へ保存する。
【0051】
映像データ送信部112は映像データの終端(コンテンツの終了)を検出するまで、ステップS4の映像データの送信と送信状態情報の生成、保存を継続する(ステップS5のNo)。なお、映像データの終端まで映像データの送信を行うと、映像データ送信部112は、処理を終了する(ステップS5のYes)。
【0052】
前記映像データの送信と送信状態情報の生成、保存を継続されている間、映像受信端末130の映像データ受信部131は、受信したパケットから映像データを取り出し、復号処理部132へ渡す。
【0053】
前記映像データ受信部131の動作と並行して、ネットワーク状態情報生成部133は受信したRTPパケットのシーケンス番号を順次走査し、パケットロスがあったか否かを検査する(ステップS6)。前記検査の結果、RTPシーケンス番号に不連続があった場合(ステップS7のYes)、ネットワーク状態情報生成部133は、そのパケットが欠落したものとみなして、ネットワーク状態情報を生成し、ネットワーク状態情報送信部134へ通知する(ステップS9)。
【0054】
例えば、図3に示されるRTPパケットが映像データ送信部112から送信され、図6に示されるRTPパケットが映像受信端末130で受信されたものとする。このとき、映像データ受信部131はRTPパケットからヘッダ部分を取り除き映像データを取り出して、これを復号処理部132へ引き渡すと同時に、ネットワーク状態情報生成部133はRTPシーケンス番号を走査しパケットロスのチェックを行う。図6に示される例では、受信したRTPパケットのシーケンス番号がSeq=1、Seq=2、Seq=4でありSeq=3のRTPシーケンス番号のパケットが受信されていない。このとき、ネットワーク状態情報生成部133は、Seq=3のRTPパケットが欠落したとことをネットワーク状態情報として、ネットワーク状態情報送信部134へ通知する。
【0055】
ネットワーク状態情報送信部134は、ネットワーク状態情報生成部133からネットワーク状態情報を受け取るとRTCP等のプロトコルを用いてパケット化し、映像配信サーバ110へネットワーク状態情報を送信する(ステップS10)。
【0056】
一方、RTPシーケンス番号に不連続が無かった場合で(ステップS7のNo)、かつ、新たに受信したパケットがある場合(ステップS8のNo)、ネットワーク状態情報生成部133はパケットの検査を続ける。ただし、RTPシーケンス番号に不連続が無かった場合も、ネットワーク状態情報生成部133はネットワーク統計情報等をネットワーク状態情報として生成し、送信するものとしてもよい。
【0057】
映像データを終端まで受信し終わった場合(ステップS8のYes)は、映像受信端末130はすべての映像データの受信を完了したことを映像配信サーバ110へ通知し処理を終了する(ステップS11)。
【0058】
ネットワーク状態情報受信部114はネットワーク状態情報を受信すると、劣化部分推定部115に通知する(ステップS12)。
【0059】
劣化部分推定部115は、ネットワーク状態情報に含まれる映像受信端末130で受信できなかったRTPパケットのシーケンス番号をもとに、送信状態情報蓄積部113から対応する映像データの位置情報を取得し、これを劣化部分情報として、映像品質推定部116へ引き渡す(ステップS13)。
【0060】
上記の例の場合、ネットワーク状態情報受信部114はシーケンス番号が3のRTPパケットが欠落したというネットワーク状態情報を映像受信端末130から受信し、これを劣化部分推定部115へ通知する。
【0061】
前記通知を受け取った劣化部分推定部115は、送信状態情報蓄積部113から図4に例示した送信状態情報を検索し、RTPシーケンス番号3のRTPパケットにはTSパケットの11番目から15番目(#11〜#15)を入れて映像受信端末130へ送信したという情報を取得し、TSパケットの11番目から15番目の映像データが欠損したという情報を劣化部分情報として映像品質推定部116へ引き渡す。
【0062】
映像品質推定部116は、劣化部分推定部115から劣化部分情報を受け取ると、欠落した映像データ及び必要に応じて欠落した映像データの前後の映像データを映像データ蓄積部111から取得して解析し、映像データが欠落した場合に発生する映像劣化の度合いを映像劣化度として算出する(ステップS14)。
【0063】
例えば、映像劣化度を映像が連続して劣化したフレーム数と定義した場合を説明する。図3に例示したRTPパケットを送信した場合において、図6に示すように、映像品質推定部116は劣化部分推定部115からTSパケットの11番目から15番目(符号513)のデータが欠落したという情報を受け取ると、映像データ蓄積部111からTSパケットの11番目から15番目(符号513)の映像データを取得し解析する。例えば、TSパケットの11番目から15番目(符号513)の映像データにはフレーム#2、フレーム#3に相当する映像データが含まれており(符号523)、それぞれのピクチャタイプがBであったことがわかる。Bピクチャのフレームは他のフレームから参照されることはないため、他フレームに映像の劣化が伝播することはなく、映像データが欠落したフレーム#2、フレーム#3の2つのフレームの映像が劣化する。よって、ここでは映像劣化度は2と算出される。
【0064】
同様にして、例えばRTPシーケンス番号1のRTPパケット501が欠落した場合は、フレーム#1、ピクチャタイプIのフレームの映像データ(符号521)が欠落する。Iフレームが欠落した場合、このフレームを参照して復号する後続フレームすべてに映像の劣化が伝播する。図6の例ではフレーム#2、フレーム#3、フレーム#4のフレームがフレーム#1を参照して復号されるため映像劣化度は4と算出される。
【0065】
映像品質推定部116は、以上のようにして求めた映像劣化度を映像品質情報出力部117へ引き渡す(ステップS15)。
【0066】
映像品質情報出力部117は映像劣化度をディスプレイ等の表示装置に表示する。
【0067】
映像受信端末130からすべての映像データの受信が完了したことが通知されている場合(ステップS16のYes)、映像配信サーバ110は処理を終了する。映像データの受信が完了していない場合(ステップS16のNo)、映像配信サーバ110は、新たにネットワーク状態情報が受信されるのを待つ。
【0068】
本実施形態ではRTP等のプロトコルを用いた具体的なシーケンスを示したが、異なるプロトコルを用いても同等の機能を実現するものであれば置き換えることが可能である。
また、劣化部分推定部115は、映像データのうち映像受信端末130で受信できなかった可能性の高い部分を特定するものとしてもよい。
【0069】
また例えば、映像受信端末130は受信できなったRTPシーケンス番号をネットワーク状態情報として映像配信サーバ110へ送信し、受信できなかったパケットの再送を映像配信サーバ110へ要求することもできる。この場合、再送したパケットが映像受信端末130で復号処理を行うまでに到達した場合は、映像の劣化が発生しない。
【0070】
このとき、ステップS4において、RTPシーケンス番号と映像データ先頭からのTSパケット番号の範囲および送信時刻の組を送信状態情報として保存しておき、ステップS13において劣化部分推定部115はRTPシーケンス番号に対応する映像データの先頭からのTSパケット番号の範囲及び送信時刻の情報を送信状態情報蓄積部113から取得し、送信時刻、再送要求パケットの到着時刻、ネットワーク統計情報などを元に、再送が間に合ったか間に合わなかったかを推測し、間に合わなかった可能性が高い場合は、TSパケットの番号の範囲を映像データが欠落した可能性が高い部分として特定する。
【0071】
この際に欠落した可能性をパーセンテージなどによって算出しあわせて映像品質推定部116へ通知するものとしても良い。さらに、映像品質推定部は映像劣化度とともに、このパーセンテージを合わせて映像品質情報出力部117へ出力してもよい。
【0072】
また、ステップS14において映像品質推定部116は任意の映像品質推定方法を用いても良い。一例として、映像品質推定部116は劣化部分推定部115から通知された劣化部分情報によって示される映像データを映像データ蓄積部111から取得し、映像データに欠落が無かった場合、映像データが欠落した場合のそれぞれの映像データを復号処理し、PSNR(Peak Signal−to−Noise Ratio)を算出することにより映像劣化度を推定してもよい。
【0073】
また、ステップS14において映像品質推定部116は映像劣化度を、各映像フレーム毎に算出してもよいし、1つのパケットロスが複数のフレームにわたって映像の劣化を引き起こす場合、その一連の映像劣化に対して算出するものとしてもよい。
【0074】
また、一定の時間間隔ごとに算出するものとしても良い。また、映像品質推定値は5段階評価など任意のスケールに変換し出力するものとしても良い。
【0075】
以上、本発明の第1の実施形態を説明したが、図2の構成等はあくまで一例を示したものに過ぎず、各種の変更を加えることができる。例えば、図2の映像配信サーバの各部を、異なる装置上に分散して配置した構成でも、同等の機能を実現することができる。
【0076】
図7は、上記第1の実施形態に変更を加えた例である。図7の映像配信サーバ110の構成は上記した第1の実施形態と同様である。図7の例では、映像配信サーバ110、IPネットワーク120、ゲートウェイ装置230及び映像受信端末240から構成され、映像配信サーバ110、映像受信端末240はIPネットワーク120により相互に接続されるが、映像配信サーバ110と映像受信端末240の間にゲートウェイ装置230が配置される点、および、ネットワーク状態情報生成部232および、ネットワーク状態情報送信部233が映像受信端末240ではなくゲートウェイ装置230上に配置される点で図1に示される構成とは異なる。
【0077】
ゲートウェイ装置230は映像配信サーバ110と映像受信端末240の間に置かれ、映像配信サーバ110と映像受信端末240間の通信を監視し、ネットワーク状態情報を生成し、映像配信サーバ110へ送信する。
【0078】
ゲートウェイ装置230はパケット監視部231、ネットワーク状態情報生成部232及びネットワーク状態情報送信部233を有する。
【0079】
パケット監視部231は、映像配信サーバ110と映像受信端末240間の通信を監視し、RTSPパケットなどを検知することで映像配信が開始されたことを検知すると映像配信サーバ110から映像受信端末240へ送信されるRTPパケットの監視を開始する。
【0080】
ネットワーク状態情報生成部232は映像配信が開始されると、映像配信サーバ110と映像受信端末240の間を流れるRTPパケットを検査し、RTPシーケンス番号に不連続が合った場合、パケットロスが発生したとみなし、欠落したRTPパケット番号をネットワーク状態情報としてネットワーク状態情報送信部233へ通知する。
【0081】
ネットワーク状態情報送信部233はネットワーク状態情報生成部232からネットワーク状態情報を受け取るとこれをRTCPなどのプロトコルにより映像配信サーバ110へ通知する。
【0082】
図7に示される構成では、ゲートウェイ装置230上でパケットを監視し、ネットワーク状態情報を生成して映像配信サーバ110へ送信するものである。映像受信端末240がネットワーク状態情報を生成又は送信する機能を有しない場合であっても、映像品質を測定することが可能である。
【0083】
[第2の実施形態]
次に、本発明の第2の実施形態について図面を参照して詳細に説明する。図8は、本発明の第2の実施形態の構成を表した図である。
【0084】
図8を参照すると、本実施形態は、映像配信サーバ310、IPネットワーク120及び映像受信端末130から構成され、映像配信サーバ310、映像受信端末130はIPネットワーク120により相互に接続される。
【0085】
本実施の形態は第1の実施形態と、映像配信サーバ310がパケット重要度情報蓄積部318を有する点で異なる。
【0086】
パケット重要度情報蓄積部318には、各パケットに含まれる映像データが欠落した場合、映像品質に与える影響の大きさがパケット重要度として予め計算され保存されている。このパケット重要度は、映像品質推定部316あるいは別途パケット重要度算出部(図示省略)を設けて、算出させることができる。
【0087】
本実施形態は第一の実施形態とステップS4の映像データ送信部の動作およびステップS13の劣化部分推定部315の動作、ステップS14の映像品質推定部316の動作のみが異なるため、以下、図5を参照しステップS4、ステップS13、ステップS14のみ説明する。
【0088】
一例として、図3に示されるような映像データに対して、映像データを1パケット分ごとに相当するTSパケットの1番目から5番目(符号511)、TSパケットの6番目から10番目(符号512)、TSパケットの11番目から15番目(符号513)、TSパケットの16番目から20番目(符号514)に切り分け、それぞれA、B、C、DとパケットIDを振る。このときパケット重要度情報蓄積部318には図9に示すような情報が予め保存されているものとする。
【0089】
図9に示す例では、映像データの各パケットが欠落した場合、映像劣化が発生するフレーム数をパケット重要度として算出したものである。
【0090】
ステップS4において、映像データ送信部312は、図9に示すようにパケットIDとRTPシーケンス番号の組み合わせを送信状態情報として送信状態情報蓄積部313に保存する。
【0091】
図9の送信状態情報は、RTPシーケンス番号1、2、3、4のRTPパケットに、それぞれパケットID=A、B、C、DとのパケットIDを付与し、2008年8月3日に、映像受信端末130に送信したことを示している。
【0092】
ステップS13において劣化部分推定部315が、映像受信端末130からネットワーク状態情報としてRTPシーケンス番号3のRTPパケットが欠落したというネットワーク状態情報をネットワーク状態情報受信部314から通知されている場合、劣化部分推定部315は、送信状態情報蓄積部313に保存されている送信状態情報を検索し、シーケンス番号3のRTPパケットにはパケットIDがCの映像データを入れて送信したという情報を取得し、これを劣化部分情報として映像品質推定部316へ通知する。
【0093】
ステップS14において、映像品質推定部316は劣化部分推定部315から劣化部分情報を通知されると、パケット重要度情報蓄積部318より、劣化部分情報(パケットID)に対応する当該パケットの重要度を取得し、これをもとに映像劣化度を算出する。
【0094】
パケット重要度情報蓄積部318には、図10に示されるようにパケット重要度情報が蓄積されており、図9のパケットIDからパケット重要度を求めることが可能になっている。単一のパケット欠落の場合、パケット重要度を用いて映像劣化度を算出する場合の動作を、一例として示す。
【0095】
例えば、映像品質推定部316は、パケットID=3を持つパケットの重要度が2であるという情報を取得し、これをもとに映像劣化度を2と算出することができる。
【0096】
本実施の形態では、第1の実施形態と比較して、各パケットの重要度を予め算出しておくことにより、簡易な処理で映像品質を推定することが可能になり、映像品質推定にかかるサーバ負荷を下げることが可能である。もちろん、このようにして得られた映像劣化度に適宜補正を加えることも可能である。
【0097】
以上、本発明の好適な実施形態を説明したが、本発明は、上記した実施形態に限定されるものではなく、本発明の基本的技術的思想を逸脱しない範囲で、更なる変形・置換・調整を加えることができる。例えば、上記した第2の実施形態の送信状態情報には、パケットIDが記録され、パケット重要度情報蓄積部318からパケット重要度を求めるものとして説明したが、パケットIDに代えてフレーム種別等を用いることも可能である。
【0098】
また例えば、上記した第2の実施形態では、第1の実施形態との違いを明確にするために、パケット重要度情報蓄積部318を設けるものとして説明したが、送信状態情報蓄積部313にパケット重要度を格納するようにしてもよい。
【産業上の利用可能性】
【0099】
本発明は映像配信サービスにおける映像の品質測定、管理に活用可能である。
【図面の簡単な説明】
【0100】
【図1】本発明に係る映像データ装置の構成を模式的に表した図である。
【図2】本発明の第1の実施形態の構成を表した図である。
【図3】本発明の第1の実施形態の映像配信サーバから送信されるRTPパケットの概略構成を表した図である。
【図4】本発明の第1の実施形態の映像配信サーバが作成する送信状態情報を説明するための図である。
【図5】本発明の第1の実施形態の動作を表した図である。
【図6】本発明の第1の実施形態の映像受信端末にて受信されたRTPパケットの例である。
【図7】本発明の第1の実施形態の変形構成を表した図である。
【図8】本発明の第2の実施形態の構成を表した図である。
【図9】本発明の第2の実施形態の映像配信サーバが作成する送信状態情報を説明するための図である。
【図10】図9の送信状態情報のパケットIDに対応するパケット重要度を求めるためのテーブルである。
【符号の説明】
【0101】
10 映像データ送信装置
12 映像データ送信部
15 劣化部分推定部
16 映像品質推定部
20 映像データ受信装置
110 映像配信サーバ
111 映像データ蓄積部
112 映像データ送信部
113 送信状態情報蓄積部
114 ネットワーク状態情報受信部
115 劣化部分推定部
116 映像品質推定部
117 映像品質情報出力部
120 IPネットワーク
130 映像受信端末
131 映像データ受信部
132 復号処理部
133 ネットワーク状態情報生成部
134 ネットワーク状態情報送信部
230 ゲートウェイ装置
231 パケット監視部
232 ネットワーク状態情報生成部
233 ネットワーク状態情報送信部
240 映像受信端末
241 映像データ受信部
242 復号処理部
310 映像配信サーバ
311 映像データ蓄積部
312 映像データ送信部
313 送信状態情報蓄積部
314 ネットワーク状態情報受信部
315 劣化部分推定部
316 映像品質推定部
317 映像品質情報出力部
318 パケット重要度情報蓄積部

【特許請求の範囲】
【請求項1】
パケット化した映像データを送信するとともに、各パケットに映像データのどの部分を入れて送信したかを示す送信状態情報を生成する映像データ送信部と、
前記送信状態情報と、映像データの受信側から送信されたパケットの受信状況を含むネットワーク状態情報と、に基づいて、送信した映像データのうち受信側で劣化していると推定される劣化部分を推定する劣化部分推定部と、
前記劣化部分に基づいて、画質劣化度を算出する映像品質推定部と、
を備えた映像データ送信装置。
【請求項2】
更に、映像データを蓄積する映像データ蓄積部を備え、
前記映像品質推定部は、前記映像データ蓄積部から、前記劣化部分に対応する部分を取り出して、画質劣化度を算出する請求項1に記載の映像データ送信装置。
【請求項3】
更に、前記各パケットに、該パケットが格納する映像データの重要度に応じたパケット重要度が予め付与されており、
前記映像品質推定部は、前記パケット重要度に基づいて画質劣化度を算出する請求項1又は2に記載の映像データ送信装置。
【請求項4】
前記パケット重要度は、当該パケットが欠落した場合に、映像劣化が発生するフレーム数に基づいて決定されている請求項1乃至3いずれか一に記載の映像データ送信装置。
【請求項5】
請求項1乃至4いずれか一に記載の映像データ送信装置と、
前記映像データ送信装置からパケットを受信した際に、前記受信品質情報を送信する映像データ受信装置と、を含む映像配信システム。
【請求項6】
請求項1乃至4いずれか一に記載の映像データ送信装置と、
前記映像データ送信装置と映像データ受信装置との間に配置され、前記映像データ送信装置からパケットを受信した際に、前記受信品質情報を送信するゲートウェイと、を含む映像配信システム。
【請求項7】
パケット化した映像データを送信するにあたり、各パケットに映像データのどの部分を入れて送信したかを示す送信状態情報を生成しておき、
前記送信状態情報と、映像データの受信側から送信されたパケットの受信状況を含むネットワーク状態情報と、に基づいて、送信した映像データのうち受信側で劣化していると推定される劣化部分を推定し、
前記劣化部分に基づいて、画質劣化度を算出する映像品質評価方法。
【請求項8】
更に、映像データを蓄積する映像データ蓄積部から、前記劣化部分に対応する部分を取り出して、画質劣化度を算出する請求項7に記載の映像品質評価方法。
【請求項9】
更に、前記パケット毎に、該パケットが格納する映像データの重要度に応じたパケット重要度を決定しておき、
前記パケット重要度に基づいて画質劣化度を算出する請求項7又は8に記載の映像品質評価方法。
【請求項10】
前記パケット重要度は、当該パケットが欠落した場合に、映像劣化が発生するフレーム数に基づいて決定される請求項7乃至9いずれか一に記載の映像品質評価方法。
【請求項11】
パケット化した映像データを送信するにあたり、各パケットに映像データのどの部分を入れて送信したかを示す送信状態情報を生成する処理と、
前記送信状態情報と、映像データの受信側から受信したパケットの受信状況を含むネットワーク状態情報と、に基づいて、送信した映像データのうち受信側で劣化していると推定される劣化部分を推定する処理と、
前記劣化部分に基づいて、画質劣化度を算出する処理と、
をコンピュータに実行させるプログラム。
【請求項12】
映像データを蓄積する映像データ蓄積部から、前記劣化部分に対応する部分を取り出し、前記コンピュータに、画質劣化度を算出させる請求項11に記載のプログラム。
【請求項13】
更に、前記パケット毎に、該パケットが格納する映像データの重要度に応じたパケット重要度が決定されており、
前記画質劣化度を算出する処理において、前記パケット重要度に基づいて画質劣化度を算出させる請求項11又は12に記載のプログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate


【公開番号】特開2010−63004(P2010−63004A)
【公開日】平成22年3月18日(2010.3.18)
【国際特許分類】
【出願番号】特願2008−228629(P2008−228629)
【出願日】平成20年9月5日(2008.9.5)
【出願人】(000004237)日本電気株式会社 (19,353)
【Fターム(参考)】