説明

客観品質評価方法、客観品質評価装置およびプログラム

【課題】受信パケットのデコードを行わずに計算負荷を低減させると共に精度良く主観品質の推定を行う。
【解決手段】客観品質評価装置は、受信したIPパケットから、符号化映像のビット列であるビットストリーム情報を抽出するビットストリームレイヤ情報抽出部7と、符号化映像をIPネットワークで伝送する映像伝送サービスのプロトコルスタックの各レイヤ情報のうち、ビットストリーム情報と異なるプロトコルスタックレイヤ情報をパケットから抽出するプロトコルスタックレイヤ情報抽出手段(IPレイヤ情報抽出部2、UDPレイヤ情報抽出部3、RTPレイヤ情報抽出部4、映像・オーディオ多重化レイヤ情報抽出部5、PESレイヤ情報抽出部6)と、ビットストリーム情報とプロトコルスタックレイヤ情報に基づいて符号化映像の主観品質を推定する主観品質推定部8とを備える。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、通信伝送路を経た映像を人間が見て体感した品質(主観品質)を評価する場合に、主観品質評価実験を行うことなく、通信の物理的な特徴量から客観的に主観品質を導出する客観品質評価方法に関する技術である。
【背景技術】
【0002】
映像配信や映像コミュニケーション等の映像を利用したサービスにおいては、高品質な映像の授受を実現するために、提供された映像の品質を適切かつ迅速に評価する手法の確立が望まれている。映像品質評価は、ユーザがその映像を実際に観たときに感じる品質を測定する、いわゆる主観品質評価が基本である。しかしながら、主観品質評価は専用の設備と膨大な時間および労力を要する。そこで、映像品質評価をより効率的に行うために、物理的に測定される量から映像の主観品質を推定する技術(これを客観品質評価技術という)の開発が望まれている。
【0003】
従来は、精度良く効率的な客観品質評価を行うため、メディアレイヤ情報に加えて、ビットストリーム情報を利用する客観品質評価技術(非特許文献1参照)やビットストリーム情報のみを利用する客観品質評価技術(非特許文献2参照)が検討されてきた。
【0004】
【非特許文献1】D.Hands,「Quality Assurance for IPTV」,ITU-T Workshop on “”,June,2006
【非特許文献2】間伸一他,「ネットワーク配信映像の視聴品質推定技術」,NTT技術ジャーナル,p.59-63,2005.7
【発明の開示】
【発明が解決しようとする課題】
【0005】
しかし、IP(Internet Protocol )ネットワークで映像を伝送する場合、しばしば伝送損失が発生するが、メディアレイヤ情報による伝送損失の検出では、受信パケットを一旦デコードして抽出した画素情報を品質推定に用いるため、デコードを含め莫大な演算量が必要となるという問題点があった。
また、伝送損失が発生しても偶然ビットストリームの整合性が取れる場合が存在するので、ビットストリームレイヤ情報による伝送損失の検出では、適切にデータ損失を検出できない可能性があった。
【0006】
本発明は、上記課題を解決するためになされたもので、受信パケットのデコードを行わずに計算負荷を低減させると共に精度良く主観品質の推定を行うことができる客観品質評価方法、客観品質評価装置およびプログラムを提供することを目的とする。
【課題を解決するための手段】
【0007】
本発明は、IPネットワークで伝送された映像を人が見たときに体感する主観品質を推定する客観品質評価方法は、IPネットワークで伝送されたパケットから、符号化映像のビット列であるビットストリーム情報を抽出するビットストリームレイヤ情報抽出手順と、前記符号化映像をIPネットワークで伝送する映像伝送サービスのプロトコルスタックの各レイヤ情報のうち、前記ビットストリーム情報と異なるプロトコルスタックレイヤ情報を前記パケットから抽出するプロトコルスタックレイヤ情報抽出手順と、前記ビットストリーム情報とプロトコルスタックレイヤ情報に基づいて前記符号化映像の主観品質を推定する主観品質推定手順とを備えるものである。
また、本発明の客観品質評価方法の1構成例において、前記符号化映像の符号化方式は、H.264方式である。
また、本発明の客観品質評価方法の1構成例において、前記プロトコルスタックは、上から順にメディアレイヤ、ビットストリームレイヤ、PES(Packetized Elementary Stream)レイヤ、TS(Transport Stream)レイヤ、RTCP(RTP Control Protocol)パケットのペイロード情報とヘッダ情報とを含むRTP(Real-time Transport Protocol)レイヤ、UDP(User Datagram Protocol)レイヤ、IP(Internet Protocol)レイヤ、データリンク層、物理層に分かれ、前記プロトコルスタックレイヤ情報抽出手順は、前記プロトコルスタックレイヤ情報として、IPレイヤ情報、UDPレイヤ情報、RTPレイヤ情報、TSレイヤ情報、PESレイヤ情報のうち少なくとも1つを抽出するものである。
また、本発明の客観品質評価方法の1構成例において、前記主観品質推定手順は、前記ビットストリーム情報中に記述されているピクチャ、スライス、マクロブロックまたはサブマクロブロックの情報のうち、ビットレート、マクロブロックタイプ、I(Intra)・P(Predictive)・B(Bidirectionally)属性の少なくとも1つを利用して、符号化映像の主観品質を推定するものである。
【0008】
また、本発明の客観品質評価装置は、IPネットワークで伝送されたパケットから、符号化映像のビット列であるビットストリーム情報を抽出するビットストリームレイヤ情報抽出手段と、前記符号化映像をIPネットワークで伝送する映像伝送サービスのプロトコルスタックの各レイヤ情報のうち、前記ビットストリーム情報と異なるプロトコルスタックレイヤ情報を前記パケットから抽出するプロトコルスタックレイヤ情報抽出手段と、前記ビットストリーム情報とプロトコルスタックレイヤ情報に基づいて前記符号化映像の主観品質を推定する主観品質推定手段とを備えるものである。
また、本発明の客観品質評価プログラムは、IPネットワークで伝送されたパケットから、符号化映像のビット列であるビットストリーム情報を抽出するビットストリームレイヤ情報抽出手順と、前記符号化映像をIPネットワークで伝送する映像伝送サービスのプロトコルスタックの各レイヤ情報のうち、前記ビットストリーム情報と異なるプロトコルスタックレイヤ情報を前記パケットから抽出するプロトコルスタックレイヤ情報抽出手順と、前記ビットストリーム情報とプロトコルスタックレイヤ情報に基づいて前記符号化映像の主観品質を推定する主観品質推定手順とを、コンピュータに実行させるようにしたものである。
【発明の効果】
【0009】
本発明によれば、受信パケットをデコードすることなく、符号化されたままの状態のパケットに含まれるビットストリーム情報とビットストリーム情報以外のプロトコルスタックレイヤ情報とを用いて映像の主観品質を推定するので、従来の技術に比べて、客観品質評価の計算負荷を低減することができる。また、本発明では、ビットストリーム情報に加えて、ビットストリーム情報以外のプロトコルスタックレイヤ情報を相補的に利用することで、IPネットワークにおけるデータ損失が主観品質に与える影響を推定することができ、映像品質の推定精度を飛躍的に高めることが可能となる。その結果、本発明では、主観品質の推定を大規模かつリアルタイムに精度良く行うことが可能となる。
【発明を実施するための最良の形態】
【0010】
以下、本発明の実施の形態について図面を参照して説明する。本実施の形態が対象とする映像伝送サービスのプロトコルスタックを図1に示し、本実施の形態の客観品質評価装置の構成を図2に示す。本実施の形態では符号化方式としてH.264方式を用いる場合を述べる。
【0011】
図1のプロトコルスタックは、上から映像の画素信号やオーディオの波形信号に該当するメディアレイヤ(Media layer)100と、メディアレイヤ情報を符号化して出力されたビットストリーム(Elementary Stream)から構成されるビットストリームレイヤ(Bitstream layer)101と、ビットストリームレイヤ情報がPES(Packetized Elementary Stream)パケットでパケット化されたPESレイヤ(PES layer)102と、PESレイヤ情報がMPEG−2 TS(Transport Stream)パケットやMP4コンテナでパケット化されたTS(MP4)レイヤ(TS(MP4)layer)103と、TSレイヤ情報がRTP(Real-time Transport Protocol)パケットでパケット化されたRTPレイヤ(RTP layer)104と、RTPレイヤ情報がUDP(User Datagram Protocol)パケットでパケット化されたUDPレイヤ(UDP layer)105と、UDPレイヤ情報がIP(Internet Protocol)パケットでパケット化されたIPレイヤ(IP layer)106とに分かれている。なお、図1では記載していないIPレイヤ以下のデータリンク層および物理層は、任意のプロトコルを適用可能である。また、RTPレイヤ104は、RTPレイヤと、RTCP(RTP Control Protocol)パケットのペイロード情報とヘッダ情報とを含む。
【0012】
本実施の形態の客観品質評価装置は、IPパケット受信部1と、IPレイヤ情報抽出部2と、UDPレイヤ情報抽出部3と、RTPレイヤ情報抽出部4と、映像・オーディオ多重化レイヤ情報抽出部5と、PESレイヤ情報抽出部6と、ビットストリームレイヤ情報抽出部7と、主観品質推定部8とを備えている。IPレイヤ情報抽出部2とUDPレイヤ情報抽出部3とRTPレイヤ情報抽出部4と映像・オーディオ多重化レイヤ情報抽出部5とPESレイヤ情報抽出部6とは、プロトコルスタックレイヤ情報抽出手段を構成している。
【0013】
以下、客観品質評価装置の動作の概要について図2を用いて説明する。
IPパケット受信部1は、図示しない映像送信機器から送信されたIPパケット(IP-PKT)をネットワークを介して受信して、IPレイヤ情報抽出部2に送る機能を持つ。
IPレイヤ情報抽出部2は、IPパケットのヘッダ情報(IP-Info)を抽出して主観品質推定部8に送る機能と、IPパケットのペイロード(IP-Payload)を抽出してUDPレイヤ情報抽出部3に送る機能を持つ。
【0014】
UDPレイヤ情報抽出部3は、IPパケットのペイロードからUDPパケットのヘッダ情報(UDP-Info)を抽出して主観品質推定部8に送る機能と、UDPパケットのペイロード(UDP-Payload)を抽出してRTPレイヤ情報抽出部4に送る機能を持つ。
RTPレイヤ情報抽出部4は、UDPパケットのペイロードからRTPパケットのヘッダ情報(RTP-Info)とRTCPパケット情報(RTCP-Info)とを抽出して主観品質推定部8に送る機能と、RTPパケットのペイロード(RTP-Payload)を抽出して映像・オーディオ多重化レイヤ情報抽出部5に送る機能を持つ。
【0015】
映像・オーディオ多重化レイヤ情報抽出部5は、RTPパケットのペイロードからMPEG−2 TSパケットやMP4コンテナのヘッダ情報(Muxed-Info)を抽出して主観品質推定部8に送る機能と、MPEG−2 TSパケットやMP4コンテナのペイロード(Muxed-Payload)を抽出してPESレイヤ情報抽出部6に送る機能を持つ。
PESレイヤ情報抽出部6は、MPEG−2 TSパケットやMP4コンテナのペイロードからPESパケットのヘッダ情報(PES-Info)を抽出して主観品質推定部8に送る機能と、PESパケットのペイロード(Bitstream)を抽出してビットストリームレイヤ情報抽出部7に送る機能を持つ。
【0016】
ビットストリームレイヤ情報抽出部7は、PESパケットのペイロードからビットストリームのシンタックスやセマンティクス情報またはその他の付加情報から構成されるビットストリーム情報(Bitstream-Info)を抽出して主観品質推定部8に送る機能を持つ。
主観品質推定部8は、IPレイヤ情報抽出部2、UDPレイヤ情報抽出部3、RTPレイヤ情報抽出部4、映像・オーディオ多重化レイヤ情報抽出部5、PESレイヤ情報抽出部6、ビットストリームレイヤ情報抽出部7より送信されたIPレイヤ情報(IP-Info)、UDPレイヤ情報(UDP-Info)、RTPレイヤ情報(RTP-Info,RTCP-Info)、TSレイヤ情報(Muxed-Info)、PESレイヤ情報(PES-Info)、ビットストリーム情報(Bitstream-Info)を使用して、映像送信機器から送信された映像の主観品質の推定を行う機能を持つ。
【0017】
以下に客観品質評価装置の各部の詳細を説明する。図3は図2の客観品質評価装置の動作を示すフローチャートである。
IPパケット受信部1は、上記のとおり、IPパケットを受信する(図3ステップS1)。
【0018】
図4はIPレイヤ情報抽出部2の構成を示すブロック図である。IPレイヤ情報抽出部2は、IPバージョン4ヘッダ抽出部2−1と、IPバージョン4ペイロード抽出部2−2と、IPバージョン6ヘッダ抽出部2−3と、IPバージョン6ペイロード抽出部2−4とを有する。
【0019】
IPレイヤ情報抽出部2は、IPパケット受信部1から入力されたIPパケット(IP-PKT)のヘッダのバージョン(Version)フィールドを参照し、IPパケットがIPバージョン4の場合、IPバージョン4ヘッダ抽出部2−1がIPパケットからヘッダ情報(IP-Info)を抽出し、IPバージョン4ペイロード抽出部2−2がペイロード(IP-Payload)を抽出する(ステップS2)。また、IPパケットがIPバージョン6の場合、IPバージョン6ヘッダ抽出部2−3がヘッダ情報(IP-Info)を抽出し、IPバージョン6ペイロード抽出部2−4がペイロード(IP-Payload)を抽出する(ステップS2)。
【0020】
IPバージョン4ヘッダ抽出部2−1で抽出されるIPバージョン4のヘッダ情報の概要を図5に示す。このヘッダ情報は、バージョン(Version)、ヘッダ長(IHL)、サービスタイプ(Type of Service)、パケット長(Total Length)、識別子(Identification)、フラグ(Flags)、フラグメントオフセット(Fragment Offset)、生存時間(Time to Live)、プロトコル(Protocol)、ヘッダチェックサム(Header Checksum)、送信元アドレス(Source Address)、宛先アドレス(Destination Address)、オプション(Options)、パディング(Padding)を含む。IPバージョン4のヘッダ情報の詳細は、参考文献「IETF RFC791,“INTERNETPROTOCOL”,Sep.1981」に記載されている。
【0021】
IPバージョン6ヘッダ抽出部2−3で抽出されるIPバージョン6のヘッダ情報の概要を図6に示す。このヘッダ情報は、バージョン(Version)、プライオリティ(Priority)、フローラベル(Flow Label)、ペイロード長(Payload Length)、次ヘッダ(Next Header)、ホップリミット(Hop Limit)、送信元アドレス(Source Address)、宛先アドレス(Destination Address)を含む。ただし、IPバージョン6の場合は、適宜IPバージョン6の拡張ヘッダ情報を使用できる。IPバージョン6のヘッダ情報の詳細は、参考文献「IETF RFC1883,“Internet Protocol,Version6(IPv6) Specification”,Dec.1995」に記載されている。
【0022】
IPバージョン4ヘッダ抽出部2−1またはIPバージョン6ヘッダ抽出部2−3によって抽出されたヘッダ情報(IP-Info)は主観品質推定部8に送られ、IPバージョン4ペイロード抽出部2−2またはIPバージョン6ペイロード抽出部2−4によって抽出されたペイロード(IP-Payload)はUDPレイヤ情報抽出部3に送られる。
【0023】
IPレイヤ情報抽出部2からUDPレイヤ情報抽出部3に送られたペイロード(IP-Payload)は、UDPパケットの集合である。UDPレイヤ情報抽出部3は、このペイロード(IP-Payload)からUDPパケットのヘッダ情報(UDP-Info)とペイロード(UDP-Payload)とを抽出する(ステップS3)。UDPパケットのヘッダ情報(UDP-Info)の概要を図7に示す。このヘッダ情報は、送信元ポート(Source Port)、宛先ポート(Destination Port)、パケット長(Length)、チェックサム(Checksum)を含む。UDPパケットのヘッダ情報の詳細は、参考文献「IETF RFC768,“User Datagram Protocol”,Aug.1980」に記載されている。UDPパケットのヘッダ情報(UDP-Info)は主観品質推定部8に送られ、ペイロード(UDP-Payload)はRTPレイヤ情報抽出部4に送られる。
【0024】
UDPレイヤ情報抽出部3からRTPレイヤ情報抽出部4に送られたペイロード(UDP-Payload)は、RTPパケットの集合である。RTPレイヤ情報抽出部4は、このペイロード(UDP-Payload)からRTPパケットのヘッダ情報(RTP-Info)とRTCPパケット情報(RTCP-Info)とRTPパケットのペイロード(RTP-Payload)とを抽出する(ステップS4)。RTPパケットのヘッダ情報(RTP-Info)の概要を図8に示す。このヘッダ情報は、バージョン(version(v))、パディング(padding(p))、拡張(extension(x))、CSRC数(csrc count(cc))、マーカー(marker(m))、ペイロードタイプ(payload type)、シーケンス番号(sequence number)、タイムスタンプ(timestamp)、同期送信元識別子(synchrozination source(SSRC) identifier)、寄与送信元識別子(contributing source(CSRC) identifiers)を含む。
【0025】
RTPパケットのヘッダ情報(RTP-Info)とRTCPパケット情報(RTCP-Info)の詳細は、参考文献「IETF RFC1889,“A Transport Protocol for Real-Time Applications”,Sep.1981」に記載されている。
RTPパケットのヘッダ情報(RTP-Info)とRTCPパケット情報(RTCP-Info)は主観品質推定部8に送られ、ペイロード(RTP-Payload)は映像・オーディオ多重化レイヤ情報抽出部5に送られる。
【0026】
RTPレイヤ情報抽出部4から映像・オーディオ多重化レイヤ情報抽出部5に送られたペイロード(RTP-Payload)は、映像データやオーディオデータが多重化されたMPEG−2 TSパケットまたはMP4コンテナの集合である。
図9は映像・オーディオ多重化レイヤ情報抽出部5の構成を示すブロック図である。映像・オーディオ多重化レイヤ情報抽出部5は、MPEG2−TSヘッダ抽出部5−1と、MPEG2−TSペイロード抽出部5−2と、MP4コンテナヘッダ抽出部5−3と、MP4ペイロード抽出部5−4とを有する。
【0027】
映像・オーディオ多重化レイヤ情報抽出部5では、RTPレイヤ情報抽出部4から送られたペイロード(RTP-Payload)に含まれるデータがMPEG−2 TSパケットの場合、MPEG2−TSヘッダ抽出部5−1がペイロード(RTP-Payload)からMPEG−2 TSパケットのヘッダ情報(Muxed-Info)を抽出し、MPEG2−TSペイロード抽出部5−2がMPEG−2 TSパケットのペイロード(Muxed-Payload)を抽出する(ステップS5)。また、ペイロード(RTP-Payload)に含まれるデータがMP4コンテナの場合、MP4コンテナヘッダ抽出部5−3がペイロード(RTP-Payload)からMP4コンテナのヘッダ情報(Muxed-Info)を抽出し、MP4ペイロード抽出部5−4がMP4コンテナのペイロード(Muxed-Payload)を抽出する(ステップS5)。
【0028】
MPEG−2 TSパケットのヘッダ情報の詳細は参考文献「ITU-T H.222,“Audiovisual and Multimedia Systems Infrastructure of Audiovisual Services-Transmission Multiplexing and Synchronization”,Feb.2000」に記載され、MP4コンテナのヘッダ情報の詳細は参考文献「ISO/IEC 14496-14,2003」に記載されている。MPEG−2 TSパケットのヘッダ情報(Muxed-Info)またはMP4コンテナのヘッダ情報(Muxed-Info)は主観品質推定部8に送られ、MPEG−2 TSパケットのペイロード(Muxed-Payload)またはMP4コンテナのペイロード(Muxed-Payload)はPESレイヤ情報抽出部6に送られる。
【0029】
映像・オーディオ多重化レイヤ情報抽出部5からPESレイヤ情報抽出部6に送られたペイロード(Muxed-Payload)は、ビットストリームを分割してパケット化したPESパケットの集合である。PESレイヤ情報抽出部6は、このペイロード(Muxed-Payload)からPESパケットのヘッダ情報(PES-Info)とペイロード(Bitstream)とを抽出する(ステップS6)。PESパケットのヘッダ情報(PES-Info)の詳細は、参考文献「ISO/IEC 14496-14,2003」に記載されている。PESパケットのヘッダ情報(PES-Info)は主観品質推定部8に送られ、ペイロード(Bitstream)はH.264のビットストリームとしてビットストリームレイヤ情報抽出部7に送られる。
【0030】
ビットストリームレイヤ情報抽出部7は、PESレイヤ情報抽出部6から送られたH.264ビットストリーム(Bitstream)からシンタックスやセマンティクス情報を抽出すると共に、SEI(Supplemental Enhancement Information)やVUI(Video Usability Information)を抽出して、これらの抽出したビットストリーム情報(Bitstream-Info)を主観品質推定部8に送信する(ステップS7)。H.264ビットストリームの詳細については参考文献「ITU-T H.264,“Advanced video coding for generic audiovisual services”,Feb.2000」に記載されている。ビットストリーム情報(Bitstream-Info)を利用することにより、シーンの種類の違いが映像の主観品質に及ぼす影響を考慮して精度良く主観品質を推定することが可能となる。
【0031】
主観品質推定部8は、IPレイヤ情報抽出部2、UDPレイヤ情報抽出部3、RTPレイヤ情報抽出部4、映像・オーディオ多重化レイヤ情報抽出部5、PESレイヤ情報抽出部6、ビットストリームレイヤ情報抽出部7より送信されたIPレイヤ情報(IP-Info)、UDPレイヤ情報(UDP-Info)、RTPレイヤ情報(RTP-Info,RTCP-Info)、TSレイヤ情報(Muxed-Info)、PESレイヤ情報(PES-Info)、ビットストリームレイヤ(Bitstream-Info)を使用して、映像送信機器から送信された映像の主観品質の推定を行う(ステップS8)。特に、本実施の形態では、RTPレイヤ情報(RTP-Info)の一部であるRTPパケットヘッダのシーケンス番号(sequence number)と、ビットストリーム情報(Bitstream-Info)に含まれる量子化パラメータ・動きベクトルを使って主観品質の推定を行う。
【0032】
まず、IPパケット受信部1に接続されたIPネットワークでの損失が存在せず、符号化によって主観品質が低下する場合、IPネットワークを介して受信した映像の主観品質EVcodeは以下の式で導出される。
EVcode=a×log10(α)+b ・・・(1)
【0033】
係数a,bは予め主観評価実験を行って、回帰分析により最適化される係数である。その具体的な求め方としては、評価映像から本実施の形態の客観品質評価装置が求めた主観品質EVと人間が評価映像を見て決めた総合的な主観評価値との誤差の二乗を、符号化による様々な劣化条件の評価映像について求め、誤差の二乗の総和が最小になるように、回帰分析に基づいて係数a,bを最適化すればよい。
【0034】
また、式(1)のαは、評価対象の映像を構成する全てのフレームに存在する各マクロブロックのビット量の最大値である。ただし、αは、最大値のみではなく、平均値、最小値もしくはビット量から導出される統計量であっても良い。マクロブロックのビット量は、ビットストリーム情報(Bitstream-Info)中に記述されている。
【0035】
IPネットワークや映像を受信する端末でパケット損失が発生した場合の映像の主観品質EVlossは以下の式で導出される。
EVloss=e×EVcode/(f×LI+g×LP+h×LB+i) ・・・(2)
【0036】
係数e,f,g,h,iは予め主観評価実験を行って、回帰分析により最適化される係数である。その具体的な求め方としては、評価映像から本実施の形態の客観品質評価装置が求めた主観品質EVと人間が評価映像を見て決めた総合的な主観評価値との誤差の二乗を、様々なパケット損失条件の評価映像について求め、誤差の二乗の総和が最小になるように、回帰分析に基づいて係数e,f,g,h,iを最適化すればよい。
【0037】
また、式(2)のEVcodeは符号化による影響を考慮した主観品質、LIはIPネットワーク損失により失われたI(Intra)タイプのスライスの数、LPはIPネットワーク損失により失われたP(Predictive)タイプのスライスの数、LBはIPネットワーク損失により失われたB(Bidirectionally)タイプのスライスの数である。
【0038】
パケット損失の発生の検出については、パケット損失がない正常な場合はRTPパケットヘッダ内に記述されているシーケンス番号(sequence number)が連続に増加することを利用する。すなわち、シーケンス番号(sequence number)の連続性が崩れた場合にパケット損失が発生したと判断する。
MPEG−2TSパケットやMP4コンテナでH.264のビットストリームを伝送する場合は、ビットストリームを構成するNAL(Network Abstraction Layer)ユニット中に、アクセスユニットデリミタと呼ばれるフレーム間を区切る識別子が挿入されている。したがって、損失したIPパケットの前後に存在するNALユニットをチェックすることにより、データ損失が発生したフレームを特定可能である。
【0039】
また、H.264のピクチャパラメータセット(PPS)で、1フレーム中に存在するスライスの形や数を規定している。このため、おり、IPパケット損失により失われたスライスの数は、損失したIPパケットの前後に存在するIPパケットのペイロード(NALユニット)をチェックし、損失したスライスと同一フレームに存在する損失無しのスライスの数をカウントして、1フレーム中に理論上存在するスライスの数から損失無しのスライスの数を減算することで導出可能である。
【0040】
損失したスライスのI(Intra),P(Predictive),B(Bidirectionally)タイプは、アクセスユニットデリミタの「primary_pic_type」でフレーム毎に指定されたタイプで導出できる。スイッチングIスライスやスイッチングPスライスは、それぞれIスライス、Pスライスとカウントする。
以上により、式(2)中のLI,LP,LBのカウントが可能となり、式(1)を式(2)に代入することにより、主観品質EVlossが導出される。
【0041】
IPネットワークや端末におけるパケット損失によるデータの損失は、ビットストリームのシンタックスチェックを実施することでも検出できる場合があるが、ビットストリーム内部のデータ構造によっては、偶然シンタックスチェックを通過する場合が存在する。これに対して、本実施の形態では、IPレイヤ等の映像伝送サービスを構成するプロトコルの情報を相補的に利用することで、映像品質の推定精度を飛躍的に高めることが可能となる。
【0042】
以上説明したように、本実施の形態では、IPネットワークで損失が発生した場合に、ビットストリーム情報に加えてIP伝送情報を利用することにより、主観品質の推定を効率的かつ精度良く行うことが可能となり、人が行う主観品質評価法や非特許文献1,2に記載された従来の客観品質評価法を本実施の形態に置き換えることにより、多大な労力と時間を必要としなくなる。したがって、IPネットワークを利用した映像伝送サービスで、ユーザが感じている主観品質を大規模かつリアルタイムに管理することが可能となる。
【0043】
なお、本実施の形態の客観品質評価装置は、CPU、記憶装置および外部とのインタフェースを備えたコンピュータとこれらのハードウェア資源を制御するプログラムによって実現することができる。このようなコンピュータにおいて、本発明の客観品質評価方法を実現させるための客観品質評価プログラムは、フレキシブルディスク、CD−ROM、DVD−ROM、メモリカードなどの記録媒体に記録された状態で提供される。CPUは、記録媒体から読み込んだプログラムを記憶装置に書き込み、プログラムに従って本実施の形態で説明したような処理を実行する。
【産業上の利用可能性】
【0044】
本発明は、人間が映像を見てその品質を評価する主観品質評価実験を行うことなく、通信の物理的な特徴量から人間の主観品質を推定する技術に適用することができる。
【図面の簡単な説明】
【0045】
【図1】本発明の実施の形態が対象とする映像伝送サービスのプロトコルスタックを示す図である。
【図2】本発明の実施の形態に係る客観品質評価装置の構成を示すブロック図である。
【図3】図2の客観品質評価装置の動作を示すフローチャートである。
【図4】本発明の実施の形態に係る客観品質評価装置のIPレイヤ情報抽出部の構成を示すブロック図である。
【図5】本発明の実施の形態に係る客観品質評価装置のIPレイヤ情報抽出部が抽出するIPバージョン4のヘッダ情報の概要を示す図である。
【図6】本発明の実施の形態に係る客観品質評価装置のIPレイヤ情報抽出部が抽出するIPバージョン6のヘッダ情報の概要を示す図である。
【図7】本発明の実施の形態に係る客観品質評価装置のUDPレイヤ情報抽出部が抽出するUDPパケットのヘッダ情報の概要を示す図である。
【図8】本発明の実施の形態に係る客観品質評価装置のRTPレイヤ情報抽出部が抽出するRTPパケットのヘッダ情報の概要を示す図である。
【図9】本発明の実施の形態に係る客観品質評価装置の映像・オーディオ多重化レイヤ情報抽出部の構成を示すブロック図である。
【符号の説明】
【0046】
1…IPパケット受信部、2…IPレイヤ情報抽出部、3…UDPレイヤ情報抽出部、4…RTPレイヤ情報抽出部、5…映像・オーディオ多重化レイヤ情報抽出部、6…PESレイヤ情報抽出部、7…ビットストリームレイヤ情報抽出部、8…主観品質推定部、2−1…IPバージョン4ヘッダ抽出部、2−2…IPバージョン4ペイロード抽出部、2−3…IPバージョン6ヘッダ抽出部、2−4…IPバージョン6ペイロード抽出部、5−1…MPEG2−TSヘッダ抽出部、5−2…MPEG2−TSペイロード抽出部、5−3…MP4コンテナヘッダ抽出部、5−4…MP4ペイロード抽出部。

【特許請求の範囲】
【請求項1】
IPネットワークで伝送された映像を人が見たときに体感する主観品質を推定する客観品質評価方法において、
IPネットワークで伝送されたパケットから、符号化映像のビット列であるビットストリーム情報を抽出するビットストリームレイヤ情報抽出手順と、
前記符号化映像をIPネットワークで伝送する映像伝送サービスのプロトコルスタックの各レイヤ情報のうち、前記ビットストリーム情報と異なるプロトコルスタックレイヤ情報を前記パケットから抽出するプロトコルスタックレイヤ情報抽出手順と、
前記ビットストリーム情報とプロトコルスタックレイヤ情報に基づいて前記符号化映像の主観品質を推定する主観品質推定手順とを備えることを特徴とする客観品質評価方法。
【請求項2】
請求項1記載の客観品質評価方法において、
前記符号化映像の符号化方式は、H.264方式であることを特徴とする客観品質評価方法。
【請求項3】
請求項1記載の客観品質評価方法において、
前記プロトコルスタックは、上から順にメディアレイヤ、ビットストリームレイヤ、PES(Packetized Elementary Stream)レイヤ、TS(Transport Stream)レイヤ、RTCP(RTP Control Protocol)パケットのペイロード情報とヘッダ情報とを含むRTP(Real-time Transport Protocol)レイヤ、UDP(User Datagram Protocol)レイヤ、IP(Internet Protocol)レイヤ、データリンク層、物理層に分かれ、
前記プロトコルスタックレイヤ情報抽出手順は、前記プロトコルスタックレイヤ情報として、IPレイヤ情報、UDPレイヤ情報、RTPレイヤ情報、TSレイヤ情報、PESレイヤ情報のうち少なくとも1つを抽出することを特徴とする客観品質評価方法。
【請求項4】
請求項1記載の客観品質評価方法において、
前記主観品質推定手順は、前記ビットストリーム情報中に記述されているピクチャ、スライス、マクロブロックまたはサブマクロブロックの情報のうち、ビットレート、マクロブロックタイプ、I(Intra)・P(Predictive)・B(Bidirectionally)属性の少なくとも1つを利用して、符号化映像の主観品質を推定することを特徴とする客観品質評価方法。
【請求項5】
IPネットワークで伝送された映像を人が見たときに体感する主観品質を推定する客観品質評価装置において、
IPネットワークで伝送されたパケットから、符号化映像のビット列であるビットストリーム情報を抽出するビットストリームレイヤ情報抽出手段と、
前記符号化映像をIPネットワークで伝送する映像伝送サービスのプロトコルスタックの各レイヤ情報のうち、前記ビットストリーム情報と異なるプロトコルスタックレイヤ情報を前記パケットから抽出するプロトコルスタックレイヤ情報抽出手段と、
前記ビットストリーム情報とプロトコルスタックレイヤ情報に基づいて前記符号化映像の主観品質を推定する主観品質推定手段とを備えることを特徴とする客観品質評価装置。
【請求項6】
請求項5記載の客観品質評価装置において、
前記符号化映像の符号化方式は、H.264方式であることを特徴とする客観品質評価装置。
【請求項7】
請求項5記載の客観品質評価装置において、
前記プロトコルスタックは、上から順にメディアレイヤ、ビットストリームレイヤ、PES(Packetized Elementary Stream)レイヤ、TS(Transport Stream)レイヤ、RTCP(RTP Control Protocol)パケットのペイロード情報とヘッダ情報とを含むRTP(Real-time Transport Protocol)レイヤ、UDP(User Datagram Protocol)レイヤ、IP(Internet Protocol)レイヤ、データリンク層、物理層に分かれ、
前記プロトコルスタックレイヤ情報抽出手段は、前記プロトコルスタックレイヤ情報として、IPレイヤ情報、UDPレイヤ情報、RTPレイヤ情報、TSレイヤ情報、PESレイヤ情報のうち少なくとも1つを抽出することを特徴とする客観品質評価装置。
【請求項8】
請求項5記載の客観品質評価装置において、
前記主観品質推定手段は、前記ビットストリーム情報中に記述されているピクチャ、スライス、マクロブロックまたはサブマクロブロックの情報のうち、ビットレート、マクロブロックタイプ、I(Intra)・P(Predictive)・B(Bidirectionally)属性の少なくとも1つを利用して、符号化映像の主観品質を推定することを特徴とする客観品質評価装置。
【請求項9】
IPネットワークで伝送された映像を人が見たときに体感する主観品質を推定する客観品質評価装置としてコンピュータを動作させる客観品質評価プログラムにおいて、
IPネットワークで伝送されたパケットから、符号化映像のビット列であるビットストリーム情報を抽出するビットストリームレイヤ情報抽出手順と、
前記符号化映像をIPネットワークで伝送する映像伝送サービスのプロトコルスタックの各レイヤ情報のうち、前記ビットストリーム情報と異なるプロトコルスタックレイヤ情報を前記パケットから抽出するプロトコルスタックレイヤ情報抽出手順と、
前記ビットストリーム情報とプロトコルスタックレイヤ情報に基づいて前記符号化映像の主観品質を推定する主観品質推定手順とを、コンピュータに実行させることを特徴とする客観品質評価プログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate


【公開番号】特開2009−159462(P2009−159462A)
【公開日】平成21年7月16日(2009.7.16)
【国際特許分類】
【出願番号】特願2007−337209(P2007−337209)
【出願日】平成19年12月27日(2007.12.27)
【新規性喪失の例外の表示】特許法第30条第1項適用申請有り 2007年7月5日 社団法人 電子情報通信学会発行の「電子情報通信学会技術研究報告 信学技報 Vol.107 No.134」に発表
【出願人】(000004226)日本電信電話株式会社 (13,992)
【Fターム(参考)】