画像主観品質推定方法、画像主観品質推定装置、画像主観品質推定処理用プログラム及びそのプログラムを記録したコンピュータ読み取り可能な記録媒体
【課題】本発明は、画像に対してのユーザの主観品質を推定するときに、各ユーザの好みの違いに応じた主観品質を推定できるようにする新たな技術の提供を目的とする。
【解決手段】符号化や復号のパラメータを変えて複数の原画像を符号化し復号することで復号画像を生成して、それらの復号画像に対しての被験者の主観品質値を取得し、それらの主観品質値に基づいて、それらの復号画像の中から複数の基準画像を選択して、それらの基準画像に対しての主観品質値に基づいて、被験者を複数のグループに分類して、主観品質値とパラメータ及びグループの識別子との間の関係式を導出する。そして、被験者以外のユーザから、主観品質値の推定要求やパラメータの決定要求があると、そのユーザの属するグループを決定して、この関係式を使って、ユーザの示す主観品質値を算出したり、ユーザの要求する主観品質値を実現するパラメータを決定する。
【解決手段】符号化や復号のパラメータを変えて複数の原画像を符号化し復号することで復号画像を生成して、それらの復号画像に対しての被験者の主観品質値を取得し、それらの主観品質値に基づいて、それらの復号画像の中から複数の基準画像を選択して、それらの基準画像に対しての主観品質値に基づいて、被験者を複数のグループに分類して、主観品質値とパラメータ及びグループの識別子との間の関係式を導出する。そして、被験者以外のユーザから、主観品質値の推定要求やパラメータの決定要求があると、そのユーザの属するグループを決定して、この関係式を使って、ユーザの示す主観品質値を算出したり、ユーザの要求する主観品質値を実現するパラメータを決定する。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像に対してのユーザの主観品質を推定する画像主観品質推定方法及びその装置と、その画像主観品質推定方法の実現に用いられる画像主観品質推定処理用プログラム及びそのプログラムを記録したコンピュータ読み取り可能な記録媒体とに関し、特に、ユーザの好みの違いに応じた主観品質を推定する画像主観品質推定方法及びその装置と、その画像主観品質推定方法の実現に用いられる画像主観品質推定処理用プログラム及びそのプログラムを記録したコンピュータ読み取り可能な記録媒体とに関する。
【背景技術】
【0002】
映像メディアを用いた通信サービスの品質を高めていくためには、画像に対してのユーザの主観品質を推定する技術を構築していく必要がある。
【0003】
このようなことを背景にして、従来技術では、ビットレートと画像特徴量とを用いて「主観値の平均(MOS:Mean Opinion Score)」を推定する方法が検討されている(例えば、非特許文献1,2参照)。
【0004】
この非特許文献1,2には、多くの主観評価実験による平均オピニオン評点(MOS)を少数のパラメータを含む関数で近似して、原画像から得られる特徴量を用いて関数のパラメータを推定し、この推定した関数に対して指定されたビットレートを与えて、その最大点を求めることによって最適フレームレートを得るようにするという発明が記載されている。
【0005】
また、他の従来技術として、下記の特許文献1には、端末間の双方向通信サービスに際する品質劣化の要因として、映像ビットレート、フレームレート、映像無効パケット率、音声無効パケット率、遅延時間を監視して、これらの品質劣化の要因に基づいて、ユーザが受ける品質に対する心理要因として美的感の因子得点S1と躍動感の因子得点S2とを推定して、この推定した因子得点S1,S2に基づいて総合的な品質の評価値MOSを算出するという発明が記載されており、この発明では、この実現にあたって、主観評価実験に基づいて、これらの因子得点S1,S2を求める算出式を導出するようにしている。
【非特許文献1】稲積, 吉田, 酒井, 堀田, 「ビットレート制限下における動画像通信のための最適フレームレート推定」, 信学論(B), vol.J85-B, no.7, pp.1130-1142, Jul.2002
【非特許文献2】宮田, 吉田, 「SNRに基づく動画像の主観画質推定」, 信学論(A), vol.J88-A, no.11, pp.1292-1296, Nov.2005
【特許文献1】特開2006−74333号公報
【発明の開示】
【発明が解決しようとする課題】
【0006】
しかしながら、従来技術では、各ユーザの好みの違いに応じた画像の主観品質を推定することができないという問題があった。
【0007】
前述した非特許文献1でも、その最終頁の「むすび」の欄で、今後の課題として、各ユーザごとの好みに応じて係数を調節するシステムを構築することが必要であると記載しているように、従来技術では、各ユーザの好みの違いに応じた画像の主観品質を推定することができないのである。
【0008】
画像品質の良し悪しを判断するのは各ユーザであり、画像通信サービスを利用する実際のユーザは、必ずしも平均的なユーザとは限らないことから、「主観値の平均(MOS)」の推定では主観品質の推定が十分に当たらないのである。
【0009】
例えば、TV電話などの利用でみるならば、送受信される画像は人物画像が大部分となり、画像内容の違いによる主観値の差より、むしろユーザの違いによる主観値の差の方が大きい。つまり、ユーザの違いを考慮した主観値の推定が必要となる。
【0010】
しかしながら、従来技術に従っていると、各ユーザの好みの違いに応じた画像の主観品質を推定することができないのである。
【0011】
本発明はかかる事情に鑑みてなされたものであって、画像に対してのユーザの主観品質を推定するときに、各ユーザの好みの違いに応じた主観品質を推定できるようにする新たな画像主観品質推定技術の提供を目的とする。
【課題を解決するための手段】
【0012】
この目的を達成するために、本発明の画像主観品質推定装置は、画像に対してのユーザの主観品質を推定することを実現するために、(1)複数の原画像を処理対象として、符号化及び/又は復号のパラメータを変えて処理対象の原画像を符号化し復号することで復号画像を生成する生成手段と、(2)生成手段の生成した復号画像を被験者に提示し、それに対して示される主観品質値を入力することで、それらの復号画像に対しての被験者の主観品質値を入力して記憶手段に保持する実行手段と、(3)復号画像に対しての主観品質値(記憶手段から読み出す)に基づいて、それらの復号画像の中からユーザの主観品質の推定に用いる複数の基準画像を選択する選択手段と、(4)選択手段の選択した基準画像に対しての主観品質値(記憶手段から読み出す)に基づいて、被験者を複数のグループに分類する分類手段と、(5)基準画像に対しての主観品質値と、復号画像の生成の際に用いた符号化及び/又は復号のパラメータと、分類手段の分類したグループの識別子とに基づいて、主観品質値とパラメータ及びグループの識別子との間の関係式(ユーザの主観品質評価特性を示すもの)を導出する導出手段と、(6)被験者以外のユーザが分類手段の分類したグループのいずれに属するのかを判断する判断手段と、(7)判断手段の判断したグループの識別子と、システムで使用されているパラメータと、導出手段の導出した関係式とに基づいて、そのグループに属すると判断したユーザの示す主観品質値を算出する算出手段と、(8)判断手段の判断したグループの識別子と、そのグループに属すると判断したユーザの要求する主観品質値と、導出手段の導出した関係式とに基づいて、そのユーザの要求する主観品質値を実現するパラメータを決定する決定手段とを備えるように構成する。
【0013】
この構成を採るときに、選択手段については備えないようにする構成を採ることがあり、この場合には、分類手段は、復号画像に対しての主観品質値に基づいて、被験者を複数のグループに分類するように処理し、導出手段は、復号画像に対しての主観品質値とパラメータ及びグループの識別子との間の関係式を導出するように処理することになる。
【0014】
以上の各処理手段はコンピュータプログラムでも実現できるものであり、このコンピュータプログラムは、適当なコンピュータ読み取り可能な記録媒体に記録して提供されたり、ネットワークを介して提供され、本発明を実施する際にインストールされてCPUなどの制御手段上で動作することにより本発明を実現することになる。
【0015】
このように構成される本発明の画像主観品質推定装置では、複数の原画像を処理対象として、符号化のパラメータや復号のパラメータを変えて処理対象の原画像を符号化し復号することで復号画像を生成して、それらの復号画像を被験者に提示し、それに対して示される主観品質値を入力することで、それらの復号画像に対しての被験者の主観品質値を入力する。
【0016】
例えば、MPEG4のFGSのような階層符号化方式を用いる場合には、画像品質を大きく変えることができることから、ベース量子化パラメータ値を変えて処理対象の原画像を符号化し、プレーン数を変えて復号することで復号画像を生成して、それらの復号画像を被験者に提示し、それに対して示される主観品質値を入力することで、それらの復号画像に対しての被験者の主観品質値を入力するのである。
【0017】
続いて、入力した復号画像に対しての主観品質値に基づいて、それらの復号画像の中からユーザの主観品質の推定に用いる複数の基準画像を選択する。
【0018】
このとき、復号画像毎に主観品質値のばらつきの大きさ(標準偏差など)を求めて、それに基づいて、復号画像の中から被験者の主観品質の評価が割れているものを選択することで基準画像を選択することがある。
【0019】
また、各原画像についての復号画像の中から同一の数の復号画像を選択することで基準画像を選択することがあり、さらに、この選択にあたって、復号画像毎に主観品質値のばらつきの大きさ(標準偏差など)を求めて、それに基づいて、被験者の主観品質の評価が割れているものを選択することで基準画像を選択することがある。
【0020】
続いて、選択した基準画像に対しての主観品質値に基づいて、被験者を複数のグループに分類する。
【0021】
例えば、選択した基準画像に対しての主観品質値をクラスタ分析することで、被験者を複数のグループに分類するのである。
【0022】
続いて、基準画像に対しての主観品質値と、基準画像の生成に用いた符号化及び/又は復号のパラメータと、分類したグループの識別子とに基づいて、主観品質値とパラメータ及びグループの識別子との間の関係式を導出する。
【0023】
例えば、主観品質値を目的変数とし、パラメータ及びグループの識別子を説明変数とする線形又は非線形の多重回帰分析を行うことで、主観品質値とパラメータ及びグループの識別子との間の関係式を導出するのである。
【0024】
このとき、グループの識別子として、N個のグループを1又は0で表現される(N−1)個のダミー変数で表したものを用いることがある。
【0025】
このようにして、本発明の画像主観品質推定装置では、符号化や復号のパラメータを変えて複数の原画像を符号化し復号することで復号画像を生成して、それらの復号画像に対しての被験者の主観品質値を取得すると、それらの主観品質値に基づいて、それらの復号画像の中から複数の基準画像を選択して、それらの基準画像に対しての主観品質値に基づいて、被験者を複数のグループに分類して、主観品質値とパラメータ及びグループの識別子との間の関係式を導出するのである。
【0026】
このようにして関係式を導出した後に、被験者以外のユーザの示す主観品質値の推定要求があると、そのユーザがどのグループに属するのかを判断する。
【0027】
例えば、ユーザに対して、各グループの示す主観品質レベルの一覧を提示し、その一覧の中から選択される主観品質レベルの指すグループを特定することで、ユーザがどのグループに属するのかを判断したり、この判断方法では客観性に欠けることがあるので、それを避けるために、ユーザから基準画像に対しての主観品質値を得て、そのユーザの示した主観品質値と、各グループ毎に求められるそのグループに属する被験者の示した基準画像に対しての主観品質値の重心との間の距離を求めて、それに基づいてユーザがどのグループに属するのかを判断する。
【0028】
続いて、ユーザの属するグループの識別子と、システムで使用されている符号化や復号のパラメータと、先の処理で求めた関係式とに基づいて、ユーザの示す主観品質値を算出する。
【0029】
また、このようにして関係式を導出した後に、被験者以外のユーザの要求する主観品質値を実現するパラメータの決定要求があると、そのユーザがどのグループに属するのかを判断する。
【0030】
例えば、ユーザに対して、各グループの示す主観品質レベルの一覧を提示し、その一覧の中から選択される主観品質レベルの指すグループを特定することで、ユーザがどのグループに属するのかを判断したり、この判断方法では客観性に欠けることがあるので、それを避けるために、ユーザから基準画像に対しての主観品質値を得て、そのユーザの示した主観品質値と、各グループ毎に求められるそのグループに属する被験者の示した基準画像に対しての主観品質値の重心との間の距離を求めて、それに基づいてユーザがどのグループに属するのかを判断する。
【0031】
続いて、ユーザの属するグループの識別子と、ユーザの要求する主観品質値と、先の処理で求めた関係式とに基づいて、ユーザの要求する主観品質値を実現するパラメータを決定する。
【0032】
このようにして、本発明の画像主観品質推定装置では、被験者の示した基準画像に対しての主観品質値に基づいて、主観品質値とパラメータ及びグループの識別子との間の関係式を導出した後に、被験者以外のユーザの示す主観品質値の推定要求があると、そのユーザがどのグループに属するのかを判断して、そのグループの識別子とシステムで使用されている符号化や復号のパラメータとをその関係式に代入することで、ユーザの示す主観品質値を算出するのである。
【0033】
そして、被験者以外のユーザの要求する主観品質値を実現するパラメータの決定要求があると、そのユーザがどのグループに属するのかを判断して、そのグループの識別子とユーザの要求する主観品質値とをその関係式に代入することで、ユーザの要求する主観品質値を実現するパラメータを決定するのである。
【0034】
例えば、画像符号化方式としてMPEG4のFGSのような階層符号化方式を用いる場合には、その関係式に従って、画像通信サービスの最低主観品質からベース量子化パラメータ値を決定したり、ユーザの属するグループ属性により復号対象のFGSプレーン数を決定することで、ユーザの要求する主観品質を実現する符号化パラメータや復号パラメータを決定するのである。
【0035】
この構成に従って、本発明の画像主観品質推定装置によれば、画像に対してのユーザの主観品質を推定するときに、各ユーザの好みの違いに応じた主観品質を推定することができるようになるとともに、ユーザの要求する主観品質を実現する符号化パラメータや復号パラメータを決定することができるようになる。
【0036】
ここで、多数の復号画像の中から基準画像を選択するようにしているのは、被験者以外のユーザがどのグループに属するのかを判断する場合に、そのユーザに対して、少ない数の基準画像を提示して主観品質値を入力させるようにすればよいからである。また、基準画像の選択にあたって、復号画像の中から被験者の主観品質の評価が割れているものを選択するようにしているのは、ユーザの好みを精度よく分類できるようにするためである。
【発明の効果】
【0037】
本発明によれば、画像通信サービスで用いられる画像を主観評価してもらうことで、各ユーザの違いを考慮した画像の主観品質を推定することができるようになる。
【0038】
このとき、画像通信サービスを代表する基準画像を主観評価してもらうようにすることで、ユーザの負担を軽くすることを実現しつつ、各ユーザの違いを考慮した画像の主観品質を推定することができるようになる。
【0039】
そして、本発明によれば、ユーザの要求する主観品質を実現する画像の符号化パラメータや復号パラメータを決定することができるようになる。
【発明を実施するための最良の形態】
【0040】
以下、実施の形態に従って本発明を詳細に説明する。
【0041】
以下では、MPEG4のFGS符号化・復号器を具体例にしてデータ及び図面を用いて本発明の実施の形態を説明する。ここで、MPEG4のFGS符号化・復号器については、下記の文献で紹介されている。また、以下では、全ユーザの主観品質値の平均を示すMOSとの違いを明らかにするために、各ユーザにおける画像に対しての主観品質値をユーザ主観品質値と表現する。
【0042】
文献:W. Li, "Overview of Fine Granularity Scalability in MPEG-4 Video Stand ard," IEEE Trans. Circuits Syst. Video Technol., vol.11, no.3, pp.301- 317, Mar.2001.
図1に、画像に対してのユーザの主観品質の推定に用いられる主観品質推定式を導出する処理を行う本発明の主観品質推定式導出装置1の装置構成の一例を図示する。
【0043】
この図に示すように、本発明の主観品質推定式導出装置1は、オペレータとの間のインタフェースとなる入出力装置2を備えるとともに、原画像データベース10と、復号画像生成部11と、パラメータ変更情報記憶部12と、復号画像データベース13と、主観品質評価実験実行部14と、評価実験結果データベース15と、主観品質推定式導出部16と、基準画像ID記憶部17と、クラスタ重心記憶部18と、主観品質推定式記憶部19と、パラメータ決定部20と、ユーザ主観品質値算出部21とを備える。
【0044】
ここで、図中に示す3-i(i=1〜n)は被験者の操作する端末装置で、4-i(i=1〜m)は被験者以外のユーザの操作する端末装置であり、ネットワークなどを介して本発明の主観品質推定式導出装置1に接続されることになる。
【0045】
この原画像データベース10は、処理対象となる複数の原画像を格納する。この実施形態例では、A、B、Cという3枚の原画像を格納していることを想定している。
【0046】
復号画像生成部11は、MPEG4のFGSの画像符号化方式で規定されるベース量子化パラメータ値とFGSプレーン数とを変えて、原画像データベース10に格納される原画像を符号化し復号することで復号画像を生成して、復号画像データベース13に格納する。
【0047】
ここで、FGSプレーン数とは、動画像の各フレームにおけるFGSレイヤ符号化対象のDCT係数を2進数で表現したときの最上位プレーンから数えた復号対象のプレーン数である。例えば、1というFGSプレーン数は動画像の各フレームの最上位プレーンのみを復号することを意味する。また、FGSプレーン数が4と設定された場合に、該当の復号対象フレームにおいて復号対象プレーンが3プレーンまでしか存在しない場合には3プレーンまでが復号対象となる。
【0048】
パラメータ変更情報記憶部12は、復号画像生成部11で変更することになるベース量子化パラメータ値及びFGSプレーン数がどのような値であるのかということについて記憶する。復号画像生成部11は、このパラメータ変更情報記憶部12の記憶する値に従って、ベース量子化パラメータ値とFGSプレーン数とを変えて、原画像データベース10に格納される原画像を符号化し復号することで復号画像を生成することになる。
【0049】
主観品質評価実験実行部14は、復号画像データベース13に格納される復号画像を被験者に提示し、それに対して示されるユーザ主観品質値を入力することで、それらの復号画像に対しての被験者のユーザ主観品質値を入力して、評価実験結果データベース15に格納する。
【0050】
主観品質推定式導出部16は、評価実験結果データベース15に格納されるユーザ主観品質値に基づいて、主観品質評価実験実行部14の実験対象となった復号画像の中から複数の基準画像を選択して、そのID情報を基準画像ID記憶部17に記憶してから、それらの基準画像に対してのユーザ主観品質値に基づいて、被験者を複数のクラスタに分類し、各クラスタ毎にユーザ主観品質値の重心を求めて、その重心情報をクラスタ重心記憶部18に格納するとともに、ユーザ主観品質値と復号画像生成部11の変更した符号化・復号パラメータと分類したクラスタの識別子との間の関係式として定義される主観品質推定式(ユーザの主観品質評価特性を示すもの)を導出して、その主観品質推定式の情報を主観品質推定式記憶部19に格納する。
【0051】
パラメータ決定部20は、被験者以外のユーザの要求するユーザ主観品質値を実現するパラメータの決定要求があると、そのユーザから基準画像に対してのユーザ主観品質値を得て、そのユーザの示したユーザ主観品質値とクラスタの重心情報とに基づいて、そのユーザがどのクラスタに属するのかを特定して、その特定したクラスタの識別子とユーザの要求するユーザ主観品質値と主観品質推定式とに基づいて、そのユーザの要求するユーザ主観品質値を実現する符号化・復号パラメータを決定する。
【0052】
ユーザ主観品質値算出部21は、被験者以外のユーザの示すユーザ主観品質値の推定要求があると、そのユーザから基準画像に対してのユーザ主観品質値を得て、そのユーザの示したユーザ主観品質値とクラスタの重心情報とに基づいて、そのユーザがどのクラスタに属するのかを特定して、その特定したクラスタの識別子とシステムで使用されている符号化・復号パラメータと主観品質推定式とに基づいて、そのユーザの示すユーザ主観品質値を算出する。
【0053】
図2に、復号画像生成部11の実行する処理フローの一例を図示し、図3に、主観品質評価実験実行部14の実行する処理フローの一例を図示し、図4に、主観品質推定式導出部16の実行する処理フローの一例を図示し、図5に、パラメータ決定部20の実行する処理フローの一例を図示する。
【0054】
次に、これらの処理フローに従って、このように構成される本発明の主観品質推定式導出装置1の実行する処理について説明する。先ず最初に、図2の処理フローに従って、復号画像生成部11の実行する処理について説明する。
【0055】
復号画像生成部11は、復号画像の生成要求に応答して起動されると、図2の処理フローに示すように、先ず最初に、ステップS10で、原画像データベース10に格納されている原画像の中から、未処理の原画像を1つ選択して読み込む。
【0056】
続いて、ステップS11で、パラメータ変更情報記憶部12の記憶情報に従って定義されている符号化・復号パラメータ値(ベース量子化パラメータ値,FGSプレーン数)の中から未処理のものを1つ選択することで、使用する符号化・復号パラメータ値を設定する。
【0057】
続いて、ステップS12で、選択した原画像を設定した符号化・復号パラメータ値に従って符号化し復号することで復号画像を生成して、復号画像データベース13に格納し、続くステップS13で、全ての符号化・復号パラメータ値を設定したのか否かを判断する。
【0058】
このステップS13の判断処理に従って、全ての符号化・復号パラメータ値を設定していないことを判断するときには、ステップS11の処理に戻り、一方、全ての符号化・復号パラメータ値を設定したことを判断するときには、ステップS14に進んで、全ての原画像を選択したのか否かを判断する。
【0059】
そして、このステップS14の判断処理に従って、全ての原画像を選択していないことを判断するときには、ステップS10の処理に戻り、一方、全ての原画像を選択したことを判断するときには、処理を終了する。
【0060】
このようにして、復号画像生成部11の処理に従って、復号画像データベース13には、図6に示すように、原画像Aについてベース量子化パラメータ値とFGSプレーン数とを変えることで生成された複数の復号画像と、原画像Bについてベース量子化パラメータ値とFGSプレーン数とを変えることで生成された複数の復号画像と、原画像Cについてベース量子化パラメータ値とFGSプレーン数とを変えることで生成された複数の復号画像とが格納されることになる。
【0061】
次に、図3の処理フローに従って、主観品質評価実験実行部14の実行する処理について説明する。
【0062】
主観品質評価実験実行部14は、主観品質評価実験の実行要求に応答して起動されると、図3の処理フローに示すように、先ず最初に、ステップS20で、予め選ばれている被験者の中から、主観品質評価実験を行っていない被験者を一人選択する。
【0063】
続いて、ステップS21で、復号画像データベース13に格納されている復号画像の中から、未処理の復号画像を1つ選択して読み込む。続いて、ステップS22で、選択した復号画像を端末装置3-iを介して選択した被験者に提示して、その復号画像に対してのユーザ主観品質値を取得する。例えば5段階評価の値で示されるユーザ主観品質値を取得するのである。
【0064】
続いて、ステップS23で、取得したユーザ主観品質値を評価実験結果データベース15に格納し、続くステップS24で、全ての復号画像を選択したのか否かを判断する。
【0065】
このステップS24の判断処理に従って、全ての復号画像を選択していないことを判断するときには、ステップS21の処理に戻り、一方、全ての復号画像を選択したことを判断するときには、ステップS25に進んで、全ての被験者を選択したのか否かを判断する。
【0066】
そして、このステップS25の判断処理に従って、全ての被験者を選択していないことを判断するときには、ステップS20の処理に戻り、一方、全ての被験者を選択したことを判断するときには、処理を終了する。
【0067】
このようにして、主観品質評価実験実行部14の処理に従って、評価実験結果データベース15には、図7に示すように、各被験者が各復号画像に対してどのようなユーザ主観品質値を示したのかという情報が格納されることになる。
【0068】
次に、図4の処理フローに従って、主観品質推定式導出部16の実行する処理について説明する。
【0069】
主観品質推定式導出部16は、主観品質推定式の導出要求に応答して起動されると、図4の処理フローに示すように、先ず最初に、ステップS30で、未処理の復号画像を1つ選択して、評価実験結果データベース15から、その選択した復号画像に対しての各被験者のユーザ主観品質値を読み込む。
【0070】
続いて、ステップS31で、読み込んだユーザ主観品質値の標準偏差を算出し、続くステップS32で、全ての復号画像を選択したのか否かを判断して、全ての復号画像を選択していないことを判断するときには、ステップS30の処理に戻る。
【0071】
このようにして、ステップS30〜ステップS32の処理を繰り返していくことで、図8に示すように、各復号画像について標準偏差を算出することになる。
【0072】
続いて、ステップS33で、各原画像毎に、標準偏差の大きさの順番に従って所定の個数の復号画像を選択することで基準画像を設定して、その設定した基準画像のID情報を基準画像ID記憶部17に格納する。
【0073】
例えば、各原画像毎に1個の復号画像を選択する場合には、図8に示す標準偏差に従って、image1という原画像Aについての復号画像と、image2という原画像Bについての復号画像と、image3という原画像Cについての復号画像とを基準画像として設定して、そのID情報を基準画像ID記憶部17に格納するのである。
【0074】
ここで、標準偏差の大きな復号画像を選択して基準画像とするのは、それらの復号画像に対してユーザの主観品質評価が分かれているからであり、これから、そのような復号画像を基準画像として選択すると、ユーザの主観品質評価特性を明瞭な形で導出することができるようになるからである。また、各原画像についての復号画像の中から基準画像を選択するのは、原画像毎にユーザの主観品質評価特性が異なるものとなることを考慮するからである。
【0075】
続いて、ステップS34で、評価実験結果データベース15から、各被験者の基準画像に対してのユーザ主観品質値を読み込む。
【0076】
例えば、image1、image2と、image3という復号画像を基準画像として設定した場合には、図9に示すように、評価実験結果データベース15から、これらの基準画像に対してのユーザ主観品質値を読み込むのである。
【0077】
続いて、ステップS35で、読み込んだユーザ主観品質値を使ってクラスタ分析を行うことで、被験者を所定の個数のクラスタに分類する。
【0078】
被験者のユーザ主観品質値を使うと、被験者と被験者との間のユークリッド距離を定義できる。これから、複数の個体がある場合に、個体間のユークリッド距離に基づいてそれらの個体をクラスタに分類するクラスタ分析の手法を用いることができるので、このステップS35では、読み込んだユーザ主観品質値を使ってクラスタ分析を行うことで、被験者を所定の個数のクラスタに分類するのである。
【0079】
このステップS35の処理に従って、図10に示すように、被験者を例えば3個のクラスタに分類することができる。
【0080】
続いて、ステップS36で、N個のクラスタに対して、1又は0で表現される(N−1)個のダミー変数を割り当てて、分類した各クラスタの番号をこのダミー変数に変換する。
【0081】
例えば、図11に示すように、クラスタ番号の1に対して、(C1=0,C2=0)というダミー変数を割り当て、クラスタ番号の2に対して、(C1=0,C2=1)というダミー変数を割り当て、クラスタ番号の3に対して、(C1=1,C2=0)というダミー変数を割り当て、分類した各クラスタの番号をこのダミー変数に変換するのである。
【0082】
続いて、ステップS37で、各クラスタ毎に、基準画像に対しての主観品質値の重心を算出して、その算出した重心情報をクラスタ重心記憶部18に格納する。
【0083】
例えば、図12に示すように、クラスタ番号1のクラスタについては、image1という基準画像に対してのユーザ主観品質値の平均値と、image2という基準画像に対してのユーザ主観品質値の平均値と、image3という基準画像に対してのユーザ主観品質値の平均値とを算出することで(2.666667,2,2.666667)という重心を算出し、クラスタ番号2のクラスタについては、image1という基準画像に対してのユーザ主観品質値の平均値と、image2という基準画像に対してのユーザ主観品質値の平均値と、image3という基準画像に対してのユーザ主観品質値の平均値とを算出することで(3.7,2.8,3.5)という重心を算出し、クラスタ番号3のクラスタについては、image1という基準画像に対してのユーザ主観品質値の平均値と、image2という基準画像に対してのユーザ主観品質値の平均値と、image3という基準画像に対してのユーザ主観品質値の平均値とを算出することで(4.5,4,4.375)という重心を算出して、その算出した重心情報をクラスタ重心記憶部18に格納するのである。
【0084】
ここで、図12に示すように、この重心の大きさから、クラスタ番号1のクラスタに属する被験者は画像品質に対して厳しいとか、クラスタ番号2のクラスタに属する被験者は画像品質に対して普通であるとか、クラスタ番号3のクラスタに属する被験者は画像品質に対して甘いというような画像品質に対してのレベルを特定することができる。
【0085】
続いて、ステップS38で、ステップS36で得たダミー変数と復号画像作成時の符号化・復号パラメータ(ベース量子化パラメータ値,FGSプレーン数)とを説明変数とし、基準画像に対してのユーザ主観品質値を目的変数とした線形または非線形の多重回帰分析を行うことで主観品質推定式を導出して、その主観品質推定式の情報を主観品質推定式記憶部19に格納して、処理を終了する。
【0086】
このステップS38の処理に従って、GPをユーザ主観品質値、QPをベース量子化パラメータ値、FPを復号対象のFGSプレーン数、C1,C2をダミー変数と表すならば、例えば、
GP=3.5−0.1×QP+0.5×FP+0.5×C1+0.2×C2
というような主観品質推定式を導出することになる。
【0087】
主観品質推定式導出部16は、このようにして導出した主観品質推定式をそのまま主観品質推定式記憶部19に格納することもあるが、最低画像品質BGPを定義して、
GP=BGP+FGP ・・・式(1)
BGP=3.5−0.1×QP ・・・式(2)
FGP=0.5×FP+0.5×C1+0.2×C2 ・・・式(3)
というように変形して主観品質推定式記憶部19に格納することもある。
【0088】
このようなクラスタ分類を行う場合、従来技術では、クラスタ毎に主観品質推定式などのような式を導出するようにしている。例えば、クラスタが3つある場合には3つの主観品質推定式などのような式を導出するようにしている。
【0089】
しかしながら、このような方法を用いていると、ユーザの主観品質評価を推定する場合に、ユーザを統一的に取り扱えないことになる。
【0090】
そこで、主観品質推定式導出部16は、クラスタをダミー変数化することで、各クラスタに属するユーザを統一的に扱える主観品質推定式を多重回帰分析により導出するようにしている。
【0091】
この構成に従って、本発明によれば、例えば、クラスタが3つある場合に、これまでのクラスタ分類の技術からすると主観品質推定式が3つ必要となるのに、それを1つにすることができるようになるのである。
【0092】
また、クラスタ分類を行う場合、一般的に、分類指標をどうするかが問題である。性別、年齢などのユーザ属性を用いたクラスタ分類では、必ずしも、各ユーザの画像品質の評価傾向を反映していないという問題がある。
【0093】
そこで、主観品質推定式導出部16は、ユーザの画像品質評価傾向を反映した主観品質推定式を導出するために、標準偏差の大きな復号画像を基準画像として選択することで、より画像品質評価に影響のある基準画像を用いたクラスタ分類を行うようにしている。
【0094】
この構成に従って、本発明によれば、ユーザの評価傾向に応じた主観品質推定式を導出することができるようになるのである。
【0095】
次に、図5の処理フローに従って、パラメータ決定部20の実行する処理について説明する。
【0096】
パラメータ決定部20は、被験者以外のユーザの操作する端末4-iを介して、ユーザの要求するユーザ主観品質値を実現するパラメータの決定要求があると、図5の処理フローに示すように、先ず最初に、ステップS40で、基準画像ID記憶部17を参照することで基準画像がどれであるのかを取得し、復号画像データベース13からそれらの基準画像を読み込んで、それらの基準画像を端末装置4-iを介してユーザに提示して、その基準画像に対してのユーザ主観品質値を取得する。主観品質評価実験実行部14の取得した例えば5段階評価の値で示されるユーザ主観品質値を取得するのである。
【0097】
続いて、ステップS41で、取得したユーザ主観品質値とクラスタ重心記憶部18に記憶される各クラスタの重心との間のユークリッド距離を算出して、そのユークリッド距離が最小となるクラスタを特定することで、ユーザの属するクラスタを特定する。
【0098】
続いて、ステップS42で、特定したクラスタの番号をダミー変数に変換する。前述したように、クラスタ番号が1である場合には、(C1=0,C2=0)というダミー変数に変換し、クラスタ番号が2である場合には、(C1=0,C2=1)というダミー変数に変換し、クラスタ番号が3である場合には、(C1=1,C2=0)というダミー変数に変換するのである。
【0099】
続いて、ステップS43で、ユーザの要求するユーザ主観品質値を取得する。端末4-iを介して、ユーザの要求するユーザ主観品質値を取得するのである。
【0100】
続いて、ステップS44で、主観品質推定式記憶部19から主観品質推定式を得て、その主観品質推定式に対して、変換したダミー変数と取得したユーザの要求するユーザ主観品質値とを代入することで、ユーザの要求するユーザ主観品質値を実現する符号化・復号パラメータを決定して、処理を終了する。
【0101】
例えば、
GP=BGP+FGP ・・・式(1)
BGP=3.5−0.1×QP ・・・式(2)
FGP=0.5×FP+0.5×C1+0.2×C2 ・・・式(3)
という主観品質推定式が決定されている場合に、最低画像品質をBGP=3とした場合には、式(2)に従ってQP=5を得る。この場合に、画像品質評価に対して「厳しい」クラスタ(C1=0,C2=0)に属するユーザがGP=4を要求した場合には、式(1)に従ってFP=2を決定する。すなわち、画像品質評価に対して「厳しい」クラスタに属するユーザの要求するユーザ主観品質値を実現するために、FGSプレーン数として2を決定するのである。
【0102】
また、画像品質評価に対して「甘い」クラスタ(C1=1,C2=0)に属するユーザがGP=4を要求した場合には、式(1)に従ってFP=1を決定する。すなわち、画像品質評価に対して「甘い」クラスタに属するユーザの要求するユーザ主観品質値を実現するために、FGSプレーン数として1を決定するのである。
【0103】
このことから分かるように、本発明の主観品質推定式導出装置1によれば、サービス提供可能な最低画像品質と各ユーザが要求するユーザ主観品質値とを指定するだけで、ベース量子化パラメータQPとユーザの違いを考慮したFGSプレーン数FPとを決定することができるようになる。
【0104】
図13に、以上に説明した本発明の主観品質推定式導出装置1の実行する処理についての処理フローを図示する。
【0105】
すなわち、本発明の主観品質推定式導出装置1は、図13の処理フローに示すように、先ず最初に、ステップS50で、符号化・復号パラメータを変更しながら原画像を符号化し復号することで、主観品質評価実験に用いる復号画像を生成する。
【0106】
続いて、ステップS51で、被験者に対して、生成した復号画像を用いて主観品質評価実験を行い、復号画像に対してのユーザ主観品質値を取得する。
【0107】
続いて、ステップS52で、各復号画像毎にユーザ主観品質値の標準偏差を算出し、それに基づいて、各原画像毎に標準偏差の大きさの順番に従って所定個数の復号画像を選択することで基準画像を設定する。
【0108】
続いて、ステップS53で、各被験者の示した基準画像に対してのユーザ主観品質値に基づいてクラスタ分析を行うことで、被験者を複数のクラスタに分類する。
【0109】
続いて、ステップS54で、各クラスタ毎に、基準画像に対してのユーザ主観品質値の重心を算出する。
【0110】
続いて、ステップS55で、分類した各クラスタの番号を1と0で表現されるダミー変数に変換する。
【0111】
続いて、ステップS56で、ダミー変数と符号化・復号パラメータとを説明変数とし、基準画像に対してのユーザ主観品質値を目的変数とした多重回帰分析を行うことで主観品質推定式を導出する。
【0112】
続いて、ステップS57で、ユーザの要求するユーザ主観品質値を実現する符号化・復号パラメータを決定処理に入って、被験者以外のユーザに対して、基準画像を用いて主観品質評価実験を行い、基準画像に対してのユーザ主観品質値を取得する。
【0113】
続いて、ステップS58で、ユーザの示した基準画像に対してのユーザ主観品質値とクラスタ重心との間のユークリッド距離に基づいて、ユーザの属するクラスタを特定して、そのクラスタの番号をダミー変数に変換する。
【0114】
続いて、ステップS59で、端末装置4-iを介して、ユーザの要求するユーザ主観品質値を取得する。
【0115】
最後に、ステップS60で、導出した主観品質推定式と、ユーザの属するクラスタの番号についてのダミー変数と、ユーザの要求するユーザ主観品質値とに基づいて、ユーザの要求するユーザ主観品質値を実現する符号化・復号パラメータを決定して、処理を終了する。
【0116】
このようにして、本発明の主観品質推定式導出装置1によれば、被験者以外のユーザに対して、予め設定した基準画像に対してユーザ主観品質値を入力してもらうことで、そのユーザの要求する主観品質を実現する画像の符号化パラメータや復号パラメータを決定することができるようになる。
【0117】
図13の処理フローでは、ステップS57〜ステップS60で、パラメータ決定部20が動作することで説明したが、パラメータ決定部20の代わりにユーザ主観品質値算出部21が動作することもある。
【0118】
次に、図14の処理フローに従って、ユーザ主観品質値算出部21の実行する処理について説明する。
【0119】
ユーザ主観品質値算出部21は、被験者以外のユーザの操作する端末4-iを介して、ユーザの示すユーザ主観品質値の推定要求があると、図14の処理フローに示すように、先ず最初に、ステップS70で、基準画像ID記憶部17を参照することで基準画像がどれであるのかを取得し、復号画像データベース13からそれらの基準画像を読み込んで、それらの基準画像を端末装置4-iを介してユーザに提示して、その基準画像に対してのユーザ主観品質値を取得する。主観品質評価実験実行部14の取得した例えば5段階評価の値で示されるユーザ主観品質値を取得するのである。
【0120】
続いて、ステップS71で、取得したユーザ主観品質値とクラスタ重心記憶部18に記憶される各クラスタの重心との間のユークリッド距離を算出して、そのユークリッド距離が最小となるクラスタを特定することで、ユーザの属するクラスタを特定する。
【0121】
続いて、ステップS72で、特定したクラスタの番号をダミー変数に変換する。前述したように、クラスタ番号が1である場合には、(C1=0,C2=0)というダミー変数に変換し、クラスタ番号が2である場合には、(C1=0,C2=1)というダミー変数に変換し、クラスタ番号が3である場合には、(C1=1,C2=0)というダミー変数に変換するのである。
【0122】
続いて、ステップS73で、入出力装置2を介して、画像通信サービスが現在用いている符号化・復号パラメータを取得する。
【0123】
続いて、ステップS74で、主観品質推定式記憶部19から主観品質推定式を得て、その主観品質推定式に対して、変換したダミー変数と取得した符号化・復号パラメータとを代入することで、ユーザの示すユーザ主観品質値を算出して、処理を終了する。
【0124】
例えば、
GP=3.5−0.1×QP+0.5×FP+0.5×C1+0.2×C2
というような主観品質推定式が得られている場合には、この主観品質推定式に対して、変換したダミー変数C1,C2と、取得した符号化・復号パラメータQP,FPとを代入することで、ユーザの示すユーザ主観品質値GPを算出するのである。
【0125】
このようにして、本発明の主観品質推定式導出装置1によれば、被験者以外のユーザに対して、予め設定した基準画像に対してユーザ主観品質値を入力してもらうことで、そのユーザの示すユーザ主観品質値を算出することができるようになる。
【0126】
図示実施形態例に従って本発明を説明したが、本発明はこれに限定されるものではない。例えば、実施形態例では、生成した復号画像の中から基準画像を選択して、被験者以外のユーザから主観品質値を得る画像としてこの選択した基準画像を用いるという構成を採ることで、ユーザの負担を軽減するという構成を採ったが、基準画像を選択しないようにするという構成を採ることも可能である。
【0127】
また、実施形態例では、被験者以外のユーザから基準画像に対しての主観品質値を得て、それに基づいてユーザの属するクラスタを自動的に特定するという構成を採ったが、ユーザに対してどのようなクラスタに分類したのかということを示す情報(図12に示すような特徴情報や重心情報)を提示するようにして、その中から自分が属すると考えるクラスタを選択させるようにするという構成を採ることも可能である。
【図面の簡単な説明】
【0128】
【図1】本発明の主観品質推定式導出装置の装置構成図である。
【図2】復号画像生成部の実行する処理フローである。
【図3】主観品質評価実験実行部の実行する処理フローである。
【図4】主観品質推定式導出部の実行する処理フローである。
【図5】パラメータ決定部の実行する処理フローである。
【図6】復号画像データベースに格納される復号画像の説明図である。
【図7】評価実験結果データベースに格納される実験結果データの説明図である。
【図8】主観品質推定式導出部の算出する標準偏差の説明図である。
【図9】基準画像に対してのユーザ主観品質値の一例を示す図である。
【図10】クラスタ分析による分類結果の一例を示す図である。
【図11】ダミー変数の説明図である。
【図12】クラスタの重心情報の説明図である。
【図13】本発明の主観品質推定式導出装置の実行する処理フローである。
【図14】ユーザ主観品質値算出部の実行する処理フローである。
【符号の説明】
【0129】
1 主観品質推定式導出装置
2 入出力装置
3 端末装置
4 端末装置
10 原画像データベース
11 復号画像生成部
12 パラメータ変更情報記憶部
13 復号画像データベース
14 主観品質評価実験実行部
15 評価実験結果データベース
16 主観品質推定式導出部
17 基準画像ID記憶部
18 クラスタ重心記憶部
19 主観品質推定式記憶部
20 パラメータ決定部
21 ユーザ主観品質値算出部
【技術分野】
【0001】
本発明は、画像に対してのユーザの主観品質を推定する画像主観品質推定方法及びその装置と、その画像主観品質推定方法の実現に用いられる画像主観品質推定処理用プログラム及びそのプログラムを記録したコンピュータ読み取り可能な記録媒体とに関し、特に、ユーザの好みの違いに応じた主観品質を推定する画像主観品質推定方法及びその装置と、その画像主観品質推定方法の実現に用いられる画像主観品質推定処理用プログラム及びそのプログラムを記録したコンピュータ読み取り可能な記録媒体とに関する。
【背景技術】
【0002】
映像メディアを用いた通信サービスの品質を高めていくためには、画像に対してのユーザの主観品質を推定する技術を構築していく必要がある。
【0003】
このようなことを背景にして、従来技術では、ビットレートと画像特徴量とを用いて「主観値の平均(MOS:Mean Opinion Score)」を推定する方法が検討されている(例えば、非特許文献1,2参照)。
【0004】
この非特許文献1,2には、多くの主観評価実験による平均オピニオン評点(MOS)を少数のパラメータを含む関数で近似して、原画像から得られる特徴量を用いて関数のパラメータを推定し、この推定した関数に対して指定されたビットレートを与えて、その最大点を求めることによって最適フレームレートを得るようにするという発明が記載されている。
【0005】
また、他の従来技術として、下記の特許文献1には、端末間の双方向通信サービスに際する品質劣化の要因として、映像ビットレート、フレームレート、映像無効パケット率、音声無効パケット率、遅延時間を監視して、これらの品質劣化の要因に基づいて、ユーザが受ける品質に対する心理要因として美的感の因子得点S1と躍動感の因子得点S2とを推定して、この推定した因子得点S1,S2に基づいて総合的な品質の評価値MOSを算出するという発明が記載されており、この発明では、この実現にあたって、主観評価実験に基づいて、これらの因子得点S1,S2を求める算出式を導出するようにしている。
【非特許文献1】稲積, 吉田, 酒井, 堀田, 「ビットレート制限下における動画像通信のための最適フレームレート推定」, 信学論(B), vol.J85-B, no.7, pp.1130-1142, Jul.2002
【非特許文献2】宮田, 吉田, 「SNRに基づく動画像の主観画質推定」, 信学論(A), vol.J88-A, no.11, pp.1292-1296, Nov.2005
【特許文献1】特開2006−74333号公報
【発明の開示】
【発明が解決しようとする課題】
【0006】
しかしながら、従来技術では、各ユーザの好みの違いに応じた画像の主観品質を推定することができないという問題があった。
【0007】
前述した非特許文献1でも、その最終頁の「むすび」の欄で、今後の課題として、各ユーザごとの好みに応じて係数を調節するシステムを構築することが必要であると記載しているように、従来技術では、各ユーザの好みの違いに応じた画像の主観品質を推定することができないのである。
【0008】
画像品質の良し悪しを判断するのは各ユーザであり、画像通信サービスを利用する実際のユーザは、必ずしも平均的なユーザとは限らないことから、「主観値の平均(MOS)」の推定では主観品質の推定が十分に当たらないのである。
【0009】
例えば、TV電話などの利用でみるならば、送受信される画像は人物画像が大部分となり、画像内容の違いによる主観値の差より、むしろユーザの違いによる主観値の差の方が大きい。つまり、ユーザの違いを考慮した主観値の推定が必要となる。
【0010】
しかしながら、従来技術に従っていると、各ユーザの好みの違いに応じた画像の主観品質を推定することができないのである。
【0011】
本発明はかかる事情に鑑みてなされたものであって、画像に対してのユーザの主観品質を推定するときに、各ユーザの好みの違いに応じた主観品質を推定できるようにする新たな画像主観品質推定技術の提供を目的とする。
【課題を解決するための手段】
【0012】
この目的を達成するために、本発明の画像主観品質推定装置は、画像に対してのユーザの主観品質を推定することを実現するために、(1)複数の原画像を処理対象として、符号化及び/又は復号のパラメータを変えて処理対象の原画像を符号化し復号することで復号画像を生成する生成手段と、(2)生成手段の生成した復号画像を被験者に提示し、それに対して示される主観品質値を入力することで、それらの復号画像に対しての被験者の主観品質値を入力して記憶手段に保持する実行手段と、(3)復号画像に対しての主観品質値(記憶手段から読み出す)に基づいて、それらの復号画像の中からユーザの主観品質の推定に用いる複数の基準画像を選択する選択手段と、(4)選択手段の選択した基準画像に対しての主観品質値(記憶手段から読み出す)に基づいて、被験者を複数のグループに分類する分類手段と、(5)基準画像に対しての主観品質値と、復号画像の生成の際に用いた符号化及び/又は復号のパラメータと、分類手段の分類したグループの識別子とに基づいて、主観品質値とパラメータ及びグループの識別子との間の関係式(ユーザの主観品質評価特性を示すもの)を導出する導出手段と、(6)被験者以外のユーザが分類手段の分類したグループのいずれに属するのかを判断する判断手段と、(7)判断手段の判断したグループの識別子と、システムで使用されているパラメータと、導出手段の導出した関係式とに基づいて、そのグループに属すると判断したユーザの示す主観品質値を算出する算出手段と、(8)判断手段の判断したグループの識別子と、そのグループに属すると判断したユーザの要求する主観品質値と、導出手段の導出した関係式とに基づいて、そのユーザの要求する主観品質値を実現するパラメータを決定する決定手段とを備えるように構成する。
【0013】
この構成を採るときに、選択手段については備えないようにする構成を採ることがあり、この場合には、分類手段は、復号画像に対しての主観品質値に基づいて、被験者を複数のグループに分類するように処理し、導出手段は、復号画像に対しての主観品質値とパラメータ及びグループの識別子との間の関係式を導出するように処理することになる。
【0014】
以上の各処理手段はコンピュータプログラムでも実現できるものであり、このコンピュータプログラムは、適当なコンピュータ読み取り可能な記録媒体に記録して提供されたり、ネットワークを介して提供され、本発明を実施する際にインストールされてCPUなどの制御手段上で動作することにより本発明を実現することになる。
【0015】
このように構成される本発明の画像主観品質推定装置では、複数の原画像を処理対象として、符号化のパラメータや復号のパラメータを変えて処理対象の原画像を符号化し復号することで復号画像を生成して、それらの復号画像を被験者に提示し、それに対して示される主観品質値を入力することで、それらの復号画像に対しての被験者の主観品質値を入力する。
【0016】
例えば、MPEG4のFGSのような階層符号化方式を用いる場合には、画像品質を大きく変えることができることから、ベース量子化パラメータ値を変えて処理対象の原画像を符号化し、プレーン数を変えて復号することで復号画像を生成して、それらの復号画像を被験者に提示し、それに対して示される主観品質値を入力することで、それらの復号画像に対しての被験者の主観品質値を入力するのである。
【0017】
続いて、入力した復号画像に対しての主観品質値に基づいて、それらの復号画像の中からユーザの主観品質の推定に用いる複数の基準画像を選択する。
【0018】
このとき、復号画像毎に主観品質値のばらつきの大きさ(標準偏差など)を求めて、それに基づいて、復号画像の中から被験者の主観品質の評価が割れているものを選択することで基準画像を選択することがある。
【0019】
また、各原画像についての復号画像の中から同一の数の復号画像を選択することで基準画像を選択することがあり、さらに、この選択にあたって、復号画像毎に主観品質値のばらつきの大きさ(標準偏差など)を求めて、それに基づいて、被験者の主観品質の評価が割れているものを選択することで基準画像を選択することがある。
【0020】
続いて、選択した基準画像に対しての主観品質値に基づいて、被験者を複数のグループに分類する。
【0021】
例えば、選択した基準画像に対しての主観品質値をクラスタ分析することで、被験者を複数のグループに分類するのである。
【0022】
続いて、基準画像に対しての主観品質値と、基準画像の生成に用いた符号化及び/又は復号のパラメータと、分類したグループの識別子とに基づいて、主観品質値とパラメータ及びグループの識別子との間の関係式を導出する。
【0023】
例えば、主観品質値を目的変数とし、パラメータ及びグループの識別子を説明変数とする線形又は非線形の多重回帰分析を行うことで、主観品質値とパラメータ及びグループの識別子との間の関係式を導出するのである。
【0024】
このとき、グループの識別子として、N個のグループを1又は0で表現される(N−1)個のダミー変数で表したものを用いることがある。
【0025】
このようにして、本発明の画像主観品質推定装置では、符号化や復号のパラメータを変えて複数の原画像を符号化し復号することで復号画像を生成して、それらの復号画像に対しての被験者の主観品質値を取得すると、それらの主観品質値に基づいて、それらの復号画像の中から複数の基準画像を選択して、それらの基準画像に対しての主観品質値に基づいて、被験者を複数のグループに分類して、主観品質値とパラメータ及びグループの識別子との間の関係式を導出するのである。
【0026】
このようにして関係式を導出した後に、被験者以外のユーザの示す主観品質値の推定要求があると、そのユーザがどのグループに属するのかを判断する。
【0027】
例えば、ユーザに対して、各グループの示す主観品質レベルの一覧を提示し、その一覧の中から選択される主観品質レベルの指すグループを特定することで、ユーザがどのグループに属するのかを判断したり、この判断方法では客観性に欠けることがあるので、それを避けるために、ユーザから基準画像に対しての主観品質値を得て、そのユーザの示した主観品質値と、各グループ毎に求められるそのグループに属する被験者の示した基準画像に対しての主観品質値の重心との間の距離を求めて、それに基づいてユーザがどのグループに属するのかを判断する。
【0028】
続いて、ユーザの属するグループの識別子と、システムで使用されている符号化や復号のパラメータと、先の処理で求めた関係式とに基づいて、ユーザの示す主観品質値を算出する。
【0029】
また、このようにして関係式を導出した後に、被験者以外のユーザの要求する主観品質値を実現するパラメータの決定要求があると、そのユーザがどのグループに属するのかを判断する。
【0030】
例えば、ユーザに対して、各グループの示す主観品質レベルの一覧を提示し、その一覧の中から選択される主観品質レベルの指すグループを特定することで、ユーザがどのグループに属するのかを判断したり、この判断方法では客観性に欠けることがあるので、それを避けるために、ユーザから基準画像に対しての主観品質値を得て、そのユーザの示した主観品質値と、各グループ毎に求められるそのグループに属する被験者の示した基準画像に対しての主観品質値の重心との間の距離を求めて、それに基づいてユーザがどのグループに属するのかを判断する。
【0031】
続いて、ユーザの属するグループの識別子と、ユーザの要求する主観品質値と、先の処理で求めた関係式とに基づいて、ユーザの要求する主観品質値を実現するパラメータを決定する。
【0032】
このようにして、本発明の画像主観品質推定装置では、被験者の示した基準画像に対しての主観品質値に基づいて、主観品質値とパラメータ及びグループの識別子との間の関係式を導出した後に、被験者以外のユーザの示す主観品質値の推定要求があると、そのユーザがどのグループに属するのかを判断して、そのグループの識別子とシステムで使用されている符号化や復号のパラメータとをその関係式に代入することで、ユーザの示す主観品質値を算出するのである。
【0033】
そして、被験者以外のユーザの要求する主観品質値を実現するパラメータの決定要求があると、そのユーザがどのグループに属するのかを判断して、そのグループの識別子とユーザの要求する主観品質値とをその関係式に代入することで、ユーザの要求する主観品質値を実現するパラメータを決定するのである。
【0034】
例えば、画像符号化方式としてMPEG4のFGSのような階層符号化方式を用いる場合には、その関係式に従って、画像通信サービスの最低主観品質からベース量子化パラメータ値を決定したり、ユーザの属するグループ属性により復号対象のFGSプレーン数を決定することで、ユーザの要求する主観品質を実現する符号化パラメータや復号パラメータを決定するのである。
【0035】
この構成に従って、本発明の画像主観品質推定装置によれば、画像に対してのユーザの主観品質を推定するときに、各ユーザの好みの違いに応じた主観品質を推定することができるようになるとともに、ユーザの要求する主観品質を実現する符号化パラメータや復号パラメータを決定することができるようになる。
【0036】
ここで、多数の復号画像の中から基準画像を選択するようにしているのは、被験者以外のユーザがどのグループに属するのかを判断する場合に、そのユーザに対して、少ない数の基準画像を提示して主観品質値を入力させるようにすればよいからである。また、基準画像の選択にあたって、復号画像の中から被験者の主観品質の評価が割れているものを選択するようにしているのは、ユーザの好みを精度よく分類できるようにするためである。
【発明の効果】
【0037】
本発明によれば、画像通信サービスで用いられる画像を主観評価してもらうことで、各ユーザの違いを考慮した画像の主観品質を推定することができるようになる。
【0038】
このとき、画像通信サービスを代表する基準画像を主観評価してもらうようにすることで、ユーザの負担を軽くすることを実現しつつ、各ユーザの違いを考慮した画像の主観品質を推定することができるようになる。
【0039】
そして、本発明によれば、ユーザの要求する主観品質を実現する画像の符号化パラメータや復号パラメータを決定することができるようになる。
【発明を実施するための最良の形態】
【0040】
以下、実施の形態に従って本発明を詳細に説明する。
【0041】
以下では、MPEG4のFGS符号化・復号器を具体例にしてデータ及び図面を用いて本発明の実施の形態を説明する。ここで、MPEG4のFGS符号化・復号器については、下記の文献で紹介されている。また、以下では、全ユーザの主観品質値の平均を示すMOSとの違いを明らかにするために、各ユーザにおける画像に対しての主観品質値をユーザ主観品質値と表現する。
【0042】
文献:W. Li, "Overview of Fine Granularity Scalability in MPEG-4 Video Stand ard," IEEE Trans. Circuits Syst. Video Technol., vol.11, no.3, pp.301- 317, Mar.2001.
図1に、画像に対してのユーザの主観品質の推定に用いられる主観品質推定式を導出する処理を行う本発明の主観品質推定式導出装置1の装置構成の一例を図示する。
【0043】
この図に示すように、本発明の主観品質推定式導出装置1は、オペレータとの間のインタフェースとなる入出力装置2を備えるとともに、原画像データベース10と、復号画像生成部11と、パラメータ変更情報記憶部12と、復号画像データベース13と、主観品質評価実験実行部14と、評価実験結果データベース15と、主観品質推定式導出部16と、基準画像ID記憶部17と、クラスタ重心記憶部18と、主観品質推定式記憶部19と、パラメータ決定部20と、ユーザ主観品質値算出部21とを備える。
【0044】
ここで、図中に示す3-i(i=1〜n)は被験者の操作する端末装置で、4-i(i=1〜m)は被験者以外のユーザの操作する端末装置であり、ネットワークなどを介して本発明の主観品質推定式導出装置1に接続されることになる。
【0045】
この原画像データベース10は、処理対象となる複数の原画像を格納する。この実施形態例では、A、B、Cという3枚の原画像を格納していることを想定している。
【0046】
復号画像生成部11は、MPEG4のFGSの画像符号化方式で規定されるベース量子化パラメータ値とFGSプレーン数とを変えて、原画像データベース10に格納される原画像を符号化し復号することで復号画像を生成して、復号画像データベース13に格納する。
【0047】
ここで、FGSプレーン数とは、動画像の各フレームにおけるFGSレイヤ符号化対象のDCT係数を2進数で表現したときの最上位プレーンから数えた復号対象のプレーン数である。例えば、1というFGSプレーン数は動画像の各フレームの最上位プレーンのみを復号することを意味する。また、FGSプレーン数が4と設定された場合に、該当の復号対象フレームにおいて復号対象プレーンが3プレーンまでしか存在しない場合には3プレーンまでが復号対象となる。
【0048】
パラメータ変更情報記憶部12は、復号画像生成部11で変更することになるベース量子化パラメータ値及びFGSプレーン数がどのような値であるのかということについて記憶する。復号画像生成部11は、このパラメータ変更情報記憶部12の記憶する値に従って、ベース量子化パラメータ値とFGSプレーン数とを変えて、原画像データベース10に格納される原画像を符号化し復号することで復号画像を生成することになる。
【0049】
主観品質評価実験実行部14は、復号画像データベース13に格納される復号画像を被験者に提示し、それに対して示されるユーザ主観品質値を入力することで、それらの復号画像に対しての被験者のユーザ主観品質値を入力して、評価実験結果データベース15に格納する。
【0050】
主観品質推定式導出部16は、評価実験結果データベース15に格納されるユーザ主観品質値に基づいて、主観品質評価実験実行部14の実験対象となった復号画像の中から複数の基準画像を選択して、そのID情報を基準画像ID記憶部17に記憶してから、それらの基準画像に対してのユーザ主観品質値に基づいて、被験者を複数のクラスタに分類し、各クラスタ毎にユーザ主観品質値の重心を求めて、その重心情報をクラスタ重心記憶部18に格納するとともに、ユーザ主観品質値と復号画像生成部11の変更した符号化・復号パラメータと分類したクラスタの識別子との間の関係式として定義される主観品質推定式(ユーザの主観品質評価特性を示すもの)を導出して、その主観品質推定式の情報を主観品質推定式記憶部19に格納する。
【0051】
パラメータ決定部20は、被験者以外のユーザの要求するユーザ主観品質値を実現するパラメータの決定要求があると、そのユーザから基準画像に対してのユーザ主観品質値を得て、そのユーザの示したユーザ主観品質値とクラスタの重心情報とに基づいて、そのユーザがどのクラスタに属するのかを特定して、その特定したクラスタの識別子とユーザの要求するユーザ主観品質値と主観品質推定式とに基づいて、そのユーザの要求するユーザ主観品質値を実現する符号化・復号パラメータを決定する。
【0052】
ユーザ主観品質値算出部21は、被験者以外のユーザの示すユーザ主観品質値の推定要求があると、そのユーザから基準画像に対してのユーザ主観品質値を得て、そのユーザの示したユーザ主観品質値とクラスタの重心情報とに基づいて、そのユーザがどのクラスタに属するのかを特定して、その特定したクラスタの識別子とシステムで使用されている符号化・復号パラメータと主観品質推定式とに基づいて、そのユーザの示すユーザ主観品質値を算出する。
【0053】
図2に、復号画像生成部11の実行する処理フローの一例を図示し、図3に、主観品質評価実験実行部14の実行する処理フローの一例を図示し、図4に、主観品質推定式導出部16の実行する処理フローの一例を図示し、図5に、パラメータ決定部20の実行する処理フローの一例を図示する。
【0054】
次に、これらの処理フローに従って、このように構成される本発明の主観品質推定式導出装置1の実行する処理について説明する。先ず最初に、図2の処理フローに従って、復号画像生成部11の実行する処理について説明する。
【0055】
復号画像生成部11は、復号画像の生成要求に応答して起動されると、図2の処理フローに示すように、先ず最初に、ステップS10で、原画像データベース10に格納されている原画像の中から、未処理の原画像を1つ選択して読み込む。
【0056】
続いて、ステップS11で、パラメータ変更情報記憶部12の記憶情報に従って定義されている符号化・復号パラメータ値(ベース量子化パラメータ値,FGSプレーン数)の中から未処理のものを1つ選択することで、使用する符号化・復号パラメータ値を設定する。
【0057】
続いて、ステップS12で、選択した原画像を設定した符号化・復号パラメータ値に従って符号化し復号することで復号画像を生成して、復号画像データベース13に格納し、続くステップS13で、全ての符号化・復号パラメータ値を設定したのか否かを判断する。
【0058】
このステップS13の判断処理に従って、全ての符号化・復号パラメータ値を設定していないことを判断するときには、ステップS11の処理に戻り、一方、全ての符号化・復号パラメータ値を設定したことを判断するときには、ステップS14に進んで、全ての原画像を選択したのか否かを判断する。
【0059】
そして、このステップS14の判断処理に従って、全ての原画像を選択していないことを判断するときには、ステップS10の処理に戻り、一方、全ての原画像を選択したことを判断するときには、処理を終了する。
【0060】
このようにして、復号画像生成部11の処理に従って、復号画像データベース13には、図6に示すように、原画像Aについてベース量子化パラメータ値とFGSプレーン数とを変えることで生成された複数の復号画像と、原画像Bについてベース量子化パラメータ値とFGSプレーン数とを変えることで生成された複数の復号画像と、原画像Cについてベース量子化パラメータ値とFGSプレーン数とを変えることで生成された複数の復号画像とが格納されることになる。
【0061】
次に、図3の処理フローに従って、主観品質評価実験実行部14の実行する処理について説明する。
【0062】
主観品質評価実験実行部14は、主観品質評価実験の実行要求に応答して起動されると、図3の処理フローに示すように、先ず最初に、ステップS20で、予め選ばれている被験者の中から、主観品質評価実験を行っていない被験者を一人選択する。
【0063】
続いて、ステップS21で、復号画像データベース13に格納されている復号画像の中から、未処理の復号画像を1つ選択して読み込む。続いて、ステップS22で、選択した復号画像を端末装置3-iを介して選択した被験者に提示して、その復号画像に対してのユーザ主観品質値を取得する。例えば5段階評価の値で示されるユーザ主観品質値を取得するのである。
【0064】
続いて、ステップS23で、取得したユーザ主観品質値を評価実験結果データベース15に格納し、続くステップS24で、全ての復号画像を選択したのか否かを判断する。
【0065】
このステップS24の判断処理に従って、全ての復号画像を選択していないことを判断するときには、ステップS21の処理に戻り、一方、全ての復号画像を選択したことを判断するときには、ステップS25に進んで、全ての被験者を選択したのか否かを判断する。
【0066】
そして、このステップS25の判断処理に従って、全ての被験者を選択していないことを判断するときには、ステップS20の処理に戻り、一方、全ての被験者を選択したことを判断するときには、処理を終了する。
【0067】
このようにして、主観品質評価実験実行部14の処理に従って、評価実験結果データベース15には、図7に示すように、各被験者が各復号画像に対してどのようなユーザ主観品質値を示したのかという情報が格納されることになる。
【0068】
次に、図4の処理フローに従って、主観品質推定式導出部16の実行する処理について説明する。
【0069】
主観品質推定式導出部16は、主観品質推定式の導出要求に応答して起動されると、図4の処理フローに示すように、先ず最初に、ステップS30で、未処理の復号画像を1つ選択して、評価実験結果データベース15から、その選択した復号画像に対しての各被験者のユーザ主観品質値を読み込む。
【0070】
続いて、ステップS31で、読み込んだユーザ主観品質値の標準偏差を算出し、続くステップS32で、全ての復号画像を選択したのか否かを判断して、全ての復号画像を選択していないことを判断するときには、ステップS30の処理に戻る。
【0071】
このようにして、ステップS30〜ステップS32の処理を繰り返していくことで、図8に示すように、各復号画像について標準偏差を算出することになる。
【0072】
続いて、ステップS33で、各原画像毎に、標準偏差の大きさの順番に従って所定の個数の復号画像を選択することで基準画像を設定して、その設定した基準画像のID情報を基準画像ID記憶部17に格納する。
【0073】
例えば、各原画像毎に1個の復号画像を選択する場合には、図8に示す標準偏差に従って、image1という原画像Aについての復号画像と、image2という原画像Bについての復号画像と、image3という原画像Cについての復号画像とを基準画像として設定して、そのID情報を基準画像ID記憶部17に格納するのである。
【0074】
ここで、標準偏差の大きな復号画像を選択して基準画像とするのは、それらの復号画像に対してユーザの主観品質評価が分かれているからであり、これから、そのような復号画像を基準画像として選択すると、ユーザの主観品質評価特性を明瞭な形で導出することができるようになるからである。また、各原画像についての復号画像の中から基準画像を選択するのは、原画像毎にユーザの主観品質評価特性が異なるものとなることを考慮するからである。
【0075】
続いて、ステップS34で、評価実験結果データベース15から、各被験者の基準画像に対してのユーザ主観品質値を読み込む。
【0076】
例えば、image1、image2と、image3という復号画像を基準画像として設定した場合には、図9に示すように、評価実験結果データベース15から、これらの基準画像に対してのユーザ主観品質値を読み込むのである。
【0077】
続いて、ステップS35で、読み込んだユーザ主観品質値を使ってクラスタ分析を行うことで、被験者を所定の個数のクラスタに分類する。
【0078】
被験者のユーザ主観品質値を使うと、被験者と被験者との間のユークリッド距離を定義できる。これから、複数の個体がある場合に、個体間のユークリッド距離に基づいてそれらの個体をクラスタに分類するクラスタ分析の手法を用いることができるので、このステップS35では、読み込んだユーザ主観品質値を使ってクラスタ分析を行うことで、被験者を所定の個数のクラスタに分類するのである。
【0079】
このステップS35の処理に従って、図10に示すように、被験者を例えば3個のクラスタに分類することができる。
【0080】
続いて、ステップS36で、N個のクラスタに対して、1又は0で表現される(N−1)個のダミー変数を割り当てて、分類した各クラスタの番号をこのダミー変数に変換する。
【0081】
例えば、図11に示すように、クラスタ番号の1に対して、(C1=0,C2=0)というダミー変数を割り当て、クラスタ番号の2に対して、(C1=0,C2=1)というダミー変数を割り当て、クラスタ番号の3に対して、(C1=1,C2=0)というダミー変数を割り当て、分類した各クラスタの番号をこのダミー変数に変換するのである。
【0082】
続いて、ステップS37で、各クラスタ毎に、基準画像に対しての主観品質値の重心を算出して、その算出した重心情報をクラスタ重心記憶部18に格納する。
【0083】
例えば、図12に示すように、クラスタ番号1のクラスタについては、image1という基準画像に対してのユーザ主観品質値の平均値と、image2という基準画像に対してのユーザ主観品質値の平均値と、image3という基準画像に対してのユーザ主観品質値の平均値とを算出することで(2.666667,2,2.666667)という重心を算出し、クラスタ番号2のクラスタについては、image1という基準画像に対してのユーザ主観品質値の平均値と、image2という基準画像に対してのユーザ主観品質値の平均値と、image3という基準画像に対してのユーザ主観品質値の平均値とを算出することで(3.7,2.8,3.5)という重心を算出し、クラスタ番号3のクラスタについては、image1という基準画像に対してのユーザ主観品質値の平均値と、image2という基準画像に対してのユーザ主観品質値の平均値と、image3という基準画像に対してのユーザ主観品質値の平均値とを算出することで(4.5,4,4.375)という重心を算出して、その算出した重心情報をクラスタ重心記憶部18に格納するのである。
【0084】
ここで、図12に示すように、この重心の大きさから、クラスタ番号1のクラスタに属する被験者は画像品質に対して厳しいとか、クラスタ番号2のクラスタに属する被験者は画像品質に対して普通であるとか、クラスタ番号3のクラスタに属する被験者は画像品質に対して甘いというような画像品質に対してのレベルを特定することができる。
【0085】
続いて、ステップS38で、ステップS36で得たダミー変数と復号画像作成時の符号化・復号パラメータ(ベース量子化パラメータ値,FGSプレーン数)とを説明変数とし、基準画像に対してのユーザ主観品質値を目的変数とした線形または非線形の多重回帰分析を行うことで主観品質推定式を導出して、その主観品質推定式の情報を主観品質推定式記憶部19に格納して、処理を終了する。
【0086】
このステップS38の処理に従って、GPをユーザ主観品質値、QPをベース量子化パラメータ値、FPを復号対象のFGSプレーン数、C1,C2をダミー変数と表すならば、例えば、
GP=3.5−0.1×QP+0.5×FP+0.5×C1+0.2×C2
というような主観品質推定式を導出することになる。
【0087】
主観品質推定式導出部16は、このようにして導出した主観品質推定式をそのまま主観品質推定式記憶部19に格納することもあるが、最低画像品質BGPを定義して、
GP=BGP+FGP ・・・式(1)
BGP=3.5−0.1×QP ・・・式(2)
FGP=0.5×FP+0.5×C1+0.2×C2 ・・・式(3)
というように変形して主観品質推定式記憶部19に格納することもある。
【0088】
このようなクラスタ分類を行う場合、従来技術では、クラスタ毎に主観品質推定式などのような式を導出するようにしている。例えば、クラスタが3つある場合には3つの主観品質推定式などのような式を導出するようにしている。
【0089】
しかしながら、このような方法を用いていると、ユーザの主観品質評価を推定する場合に、ユーザを統一的に取り扱えないことになる。
【0090】
そこで、主観品質推定式導出部16は、クラスタをダミー変数化することで、各クラスタに属するユーザを統一的に扱える主観品質推定式を多重回帰分析により導出するようにしている。
【0091】
この構成に従って、本発明によれば、例えば、クラスタが3つある場合に、これまでのクラスタ分類の技術からすると主観品質推定式が3つ必要となるのに、それを1つにすることができるようになるのである。
【0092】
また、クラスタ分類を行う場合、一般的に、分類指標をどうするかが問題である。性別、年齢などのユーザ属性を用いたクラスタ分類では、必ずしも、各ユーザの画像品質の評価傾向を反映していないという問題がある。
【0093】
そこで、主観品質推定式導出部16は、ユーザの画像品質評価傾向を反映した主観品質推定式を導出するために、標準偏差の大きな復号画像を基準画像として選択することで、より画像品質評価に影響のある基準画像を用いたクラスタ分類を行うようにしている。
【0094】
この構成に従って、本発明によれば、ユーザの評価傾向に応じた主観品質推定式を導出することができるようになるのである。
【0095】
次に、図5の処理フローに従って、パラメータ決定部20の実行する処理について説明する。
【0096】
パラメータ決定部20は、被験者以外のユーザの操作する端末4-iを介して、ユーザの要求するユーザ主観品質値を実現するパラメータの決定要求があると、図5の処理フローに示すように、先ず最初に、ステップS40で、基準画像ID記憶部17を参照することで基準画像がどれであるのかを取得し、復号画像データベース13からそれらの基準画像を読み込んで、それらの基準画像を端末装置4-iを介してユーザに提示して、その基準画像に対してのユーザ主観品質値を取得する。主観品質評価実験実行部14の取得した例えば5段階評価の値で示されるユーザ主観品質値を取得するのである。
【0097】
続いて、ステップS41で、取得したユーザ主観品質値とクラスタ重心記憶部18に記憶される各クラスタの重心との間のユークリッド距離を算出して、そのユークリッド距離が最小となるクラスタを特定することで、ユーザの属するクラスタを特定する。
【0098】
続いて、ステップS42で、特定したクラスタの番号をダミー変数に変換する。前述したように、クラスタ番号が1である場合には、(C1=0,C2=0)というダミー変数に変換し、クラスタ番号が2である場合には、(C1=0,C2=1)というダミー変数に変換し、クラスタ番号が3である場合には、(C1=1,C2=0)というダミー変数に変換するのである。
【0099】
続いて、ステップS43で、ユーザの要求するユーザ主観品質値を取得する。端末4-iを介して、ユーザの要求するユーザ主観品質値を取得するのである。
【0100】
続いて、ステップS44で、主観品質推定式記憶部19から主観品質推定式を得て、その主観品質推定式に対して、変換したダミー変数と取得したユーザの要求するユーザ主観品質値とを代入することで、ユーザの要求するユーザ主観品質値を実現する符号化・復号パラメータを決定して、処理を終了する。
【0101】
例えば、
GP=BGP+FGP ・・・式(1)
BGP=3.5−0.1×QP ・・・式(2)
FGP=0.5×FP+0.5×C1+0.2×C2 ・・・式(3)
という主観品質推定式が決定されている場合に、最低画像品質をBGP=3とした場合には、式(2)に従ってQP=5を得る。この場合に、画像品質評価に対して「厳しい」クラスタ(C1=0,C2=0)に属するユーザがGP=4を要求した場合には、式(1)に従ってFP=2を決定する。すなわち、画像品質評価に対して「厳しい」クラスタに属するユーザの要求するユーザ主観品質値を実現するために、FGSプレーン数として2を決定するのである。
【0102】
また、画像品質評価に対して「甘い」クラスタ(C1=1,C2=0)に属するユーザがGP=4を要求した場合には、式(1)に従ってFP=1を決定する。すなわち、画像品質評価に対して「甘い」クラスタに属するユーザの要求するユーザ主観品質値を実現するために、FGSプレーン数として1を決定するのである。
【0103】
このことから分かるように、本発明の主観品質推定式導出装置1によれば、サービス提供可能な最低画像品質と各ユーザが要求するユーザ主観品質値とを指定するだけで、ベース量子化パラメータQPとユーザの違いを考慮したFGSプレーン数FPとを決定することができるようになる。
【0104】
図13に、以上に説明した本発明の主観品質推定式導出装置1の実行する処理についての処理フローを図示する。
【0105】
すなわち、本発明の主観品質推定式導出装置1は、図13の処理フローに示すように、先ず最初に、ステップS50で、符号化・復号パラメータを変更しながら原画像を符号化し復号することで、主観品質評価実験に用いる復号画像を生成する。
【0106】
続いて、ステップS51で、被験者に対して、生成した復号画像を用いて主観品質評価実験を行い、復号画像に対してのユーザ主観品質値を取得する。
【0107】
続いて、ステップS52で、各復号画像毎にユーザ主観品質値の標準偏差を算出し、それに基づいて、各原画像毎に標準偏差の大きさの順番に従って所定個数の復号画像を選択することで基準画像を設定する。
【0108】
続いて、ステップS53で、各被験者の示した基準画像に対してのユーザ主観品質値に基づいてクラスタ分析を行うことで、被験者を複数のクラスタに分類する。
【0109】
続いて、ステップS54で、各クラスタ毎に、基準画像に対してのユーザ主観品質値の重心を算出する。
【0110】
続いて、ステップS55で、分類した各クラスタの番号を1と0で表現されるダミー変数に変換する。
【0111】
続いて、ステップS56で、ダミー変数と符号化・復号パラメータとを説明変数とし、基準画像に対してのユーザ主観品質値を目的変数とした多重回帰分析を行うことで主観品質推定式を導出する。
【0112】
続いて、ステップS57で、ユーザの要求するユーザ主観品質値を実現する符号化・復号パラメータを決定処理に入って、被験者以外のユーザに対して、基準画像を用いて主観品質評価実験を行い、基準画像に対してのユーザ主観品質値を取得する。
【0113】
続いて、ステップS58で、ユーザの示した基準画像に対してのユーザ主観品質値とクラスタ重心との間のユークリッド距離に基づいて、ユーザの属するクラスタを特定して、そのクラスタの番号をダミー変数に変換する。
【0114】
続いて、ステップS59で、端末装置4-iを介して、ユーザの要求するユーザ主観品質値を取得する。
【0115】
最後に、ステップS60で、導出した主観品質推定式と、ユーザの属するクラスタの番号についてのダミー変数と、ユーザの要求するユーザ主観品質値とに基づいて、ユーザの要求するユーザ主観品質値を実現する符号化・復号パラメータを決定して、処理を終了する。
【0116】
このようにして、本発明の主観品質推定式導出装置1によれば、被験者以外のユーザに対して、予め設定した基準画像に対してユーザ主観品質値を入力してもらうことで、そのユーザの要求する主観品質を実現する画像の符号化パラメータや復号パラメータを決定することができるようになる。
【0117】
図13の処理フローでは、ステップS57〜ステップS60で、パラメータ決定部20が動作することで説明したが、パラメータ決定部20の代わりにユーザ主観品質値算出部21が動作することもある。
【0118】
次に、図14の処理フローに従って、ユーザ主観品質値算出部21の実行する処理について説明する。
【0119】
ユーザ主観品質値算出部21は、被験者以外のユーザの操作する端末4-iを介して、ユーザの示すユーザ主観品質値の推定要求があると、図14の処理フローに示すように、先ず最初に、ステップS70で、基準画像ID記憶部17を参照することで基準画像がどれであるのかを取得し、復号画像データベース13からそれらの基準画像を読み込んで、それらの基準画像を端末装置4-iを介してユーザに提示して、その基準画像に対してのユーザ主観品質値を取得する。主観品質評価実験実行部14の取得した例えば5段階評価の値で示されるユーザ主観品質値を取得するのである。
【0120】
続いて、ステップS71で、取得したユーザ主観品質値とクラスタ重心記憶部18に記憶される各クラスタの重心との間のユークリッド距離を算出して、そのユークリッド距離が最小となるクラスタを特定することで、ユーザの属するクラスタを特定する。
【0121】
続いて、ステップS72で、特定したクラスタの番号をダミー変数に変換する。前述したように、クラスタ番号が1である場合には、(C1=0,C2=0)というダミー変数に変換し、クラスタ番号が2である場合には、(C1=0,C2=1)というダミー変数に変換し、クラスタ番号が3である場合には、(C1=1,C2=0)というダミー変数に変換するのである。
【0122】
続いて、ステップS73で、入出力装置2を介して、画像通信サービスが現在用いている符号化・復号パラメータを取得する。
【0123】
続いて、ステップS74で、主観品質推定式記憶部19から主観品質推定式を得て、その主観品質推定式に対して、変換したダミー変数と取得した符号化・復号パラメータとを代入することで、ユーザの示すユーザ主観品質値を算出して、処理を終了する。
【0124】
例えば、
GP=3.5−0.1×QP+0.5×FP+0.5×C1+0.2×C2
というような主観品質推定式が得られている場合には、この主観品質推定式に対して、変換したダミー変数C1,C2と、取得した符号化・復号パラメータQP,FPとを代入することで、ユーザの示すユーザ主観品質値GPを算出するのである。
【0125】
このようにして、本発明の主観品質推定式導出装置1によれば、被験者以外のユーザに対して、予め設定した基準画像に対してユーザ主観品質値を入力してもらうことで、そのユーザの示すユーザ主観品質値を算出することができるようになる。
【0126】
図示実施形態例に従って本発明を説明したが、本発明はこれに限定されるものではない。例えば、実施形態例では、生成した復号画像の中から基準画像を選択して、被験者以外のユーザから主観品質値を得る画像としてこの選択した基準画像を用いるという構成を採ることで、ユーザの負担を軽減するという構成を採ったが、基準画像を選択しないようにするという構成を採ることも可能である。
【0127】
また、実施形態例では、被験者以外のユーザから基準画像に対しての主観品質値を得て、それに基づいてユーザの属するクラスタを自動的に特定するという構成を採ったが、ユーザに対してどのようなクラスタに分類したのかということを示す情報(図12に示すような特徴情報や重心情報)を提示するようにして、その中から自分が属すると考えるクラスタを選択させるようにするという構成を採ることも可能である。
【図面の簡単な説明】
【0128】
【図1】本発明の主観品質推定式導出装置の装置構成図である。
【図2】復号画像生成部の実行する処理フローである。
【図3】主観品質評価実験実行部の実行する処理フローである。
【図4】主観品質推定式導出部の実行する処理フローである。
【図5】パラメータ決定部の実行する処理フローである。
【図6】復号画像データベースに格納される復号画像の説明図である。
【図7】評価実験結果データベースに格納される実験結果データの説明図である。
【図8】主観品質推定式導出部の算出する標準偏差の説明図である。
【図9】基準画像に対してのユーザ主観品質値の一例を示す図である。
【図10】クラスタ分析による分類結果の一例を示す図である。
【図11】ダミー変数の説明図である。
【図12】クラスタの重心情報の説明図である。
【図13】本発明の主観品質推定式導出装置の実行する処理フローである。
【図14】ユーザ主観品質値算出部の実行する処理フローである。
【符号の説明】
【0129】
1 主観品質推定式導出装置
2 入出力装置
3 端末装置
4 端末装置
10 原画像データベース
11 復号画像生成部
12 パラメータ変更情報記憶部
13 復号画像データベース
14 主観品質評価実験実行部
15 評価実験結果データベース
16 主観品質推定式導出部
17 基準画像ID記憶部
18 クラスタ重心記憶部
19 主観品質推定式記憶部
20 パラメータ決定部
21 ユーザ主観品質値算出部
【特許請求の範囲】
【請求項1】
画像に対してのユーザの主観品質を推定する画像主観品質推定装置が実行する画像主観品質推定方法であって、
複数の原画像を処理対象として、符号化及び/又は復号のパラメータを変えて処理対象の原画像を符号化し復号することで復号画像を生成する過程と、
前記復号画像を被験者に提示し、それに対して示される主観品質値を入力することで、前記復号画像に対しての被験者の主観品質値を入力して記憶手段に保持する過程と、
前記主観品質値に基づいて、前記被験者を複数のグループに分類する過程と、
前記主観品質値と前記パラメータ及び前記グループの識別子との間の関係式を導出する過程とを備えることを、
特徴とする画像主観品質推定方法。
【請求項2】
画像に対してのユーザの主観品質を推定する画像主観品質推定装置が実行する画像主観品質推定方法であって、
複数の原画像を処理対象として、符号化及び/又は復号のパラメータを変えて処理対象の原画像を符号化し復号することで復号画像を生成する過程と、
前記復号画像を被験者に提示し、それに対して示される主観品質値を入力することで、前記復号画像に対しての被験者の主観品質値を入力して記憶手段に保持する過程と、
前記復号画像に対しての主観品質値に基づいて、前記復号画像の中からユーザの主観品質の推定に用いる複数の基準画像を選択する過程と、
前記基準画像に対しての前記主観品質値に基づいて、前記被験者を複数のグループに分類する過程と、
前記基準画像に対しての前記主観品質値と前記パラメータ及び前記グループの識別子との間の関係式を導出する過程とを備えることを、
特徴とする画像主観品質推定方法。
【請求項3】
請求項2に記載の画像主観品質推定方法において、
前記選択する過程では、前記復号画像毎に前記主観品質値のばらつきの大きさを求めて、それに基づいて、前記復号画像の中から被験者の主観品質の評価が割れているものを前記基準画像として選択することを、
特徴とする画像主観品質推定方法。
【請求項4】
請求項2に記載の画像主観品質推定方法において、
前記選択する過程では、各原画像についての前記復号画像の中から同一の数の復号画像を選択することで前記基準画像を選択することを、
特徴とする画像主観品質推定方法。
【請求項5】
請求項4に記載の画像主観品質推定方法において、
前記選択する過程では、各原画像についての前記復号画像の中から同一の数の復号画像を選択するにあたって、前記復号画像毎に前記主観品質値のばらつきの大きさを求めて、それに基づいて、被験者の主観品質の評価が割れているものを選択することを、
特徴とする画像主観品質推定方法。
【請求項6】
請求項1ないし5のいずれか1項に記載の画像主観品質推定方法において、
前記被験者以外のユーザが前記グループのいずれに属するのかを判断する過程と、
前記判断したグループの識別子と、システムで使用されている前記パラメータと、前記関係式とに基づいて、前記ユーザの示す主観品質値を算出する過程とを備えることを、
特徴とする画像主観品質推定方法。
【請求項7】
請求項1ないし5のいずれか1項に記載の画像主観品質推定方法において、
前記被験者以外のユーザが前記グループのいずれに属するのかを判断する過程と、
前記判断したグループの識別子と、前記ユーザの要求する主観品質値と、前記関係式とに基づいて、前記ユーザの要求する主観品質値を実現する前記パラメータを決定する過程とを備えることを、
特徴とする画像主観品質推定方法。
【請求項8】
請求項6又は7に記載の画像主観品質推定方法において、
前記判断する過程では、前記ユーザに対して、前記各グループの示す主観品質レベルの一覧を提示し、その一覧の中から選択される主観品質レベルの指す前記グループを特定することで、前記ユーザが前記グループのいずれに属するのかを判断することを、
特徴とする画像主観品質推定方法。
【請求項9】
請求項6又は7に記載の画像主観品質推定方法において、
前記判断する過程では、前記グループの分類に用いた全ての画像に対して前記ユーザの示した主観品質値と、前記各グループ毎に求められるそのグループに属する前記被験者の示したそれらの画像に対しての主観品質値の重心との間の距離を求めて、それに基づいて、前記ユーザが前記グループのいずれに属するのかを判断することを、
特徴とする画像主観品質推定方法。
【請求項10】
請求項1ないし9のいずれか1項に記載の画像主観品質推定方法において、
前記分類する過程では、前記主観品質値をクラスタ分析することで、前記被験者を複数のグループに分類することを、
特徴とする画像主観品質推定方法。
【請求項11】
請求項1ないし10のいずれか1項に記載の画像主観品質推定方法において、
前記導出する過程では、前記主観品質値を目的変数とし、前記パラメータ及び前記グループの識別子を説明変数とする線形又は非線形の多重回帰分析を行うことで、前記関係式を導出することを、
特徴とする画像主観品質推定方法。
【請求項12】
請求項11に記載の画像主観品質推定方法において、
前記導出する過程では、前記グループの識別子として、N個の前記グループを1又は0で表現される(N−1)個のダミー変数で表したものを用いることを、
特徴とする画像主観品質推定方法。
【請求項13】
請求項1ないし12のいずれか1項に記載の画像主観品質推定方法において、
前記符号化のパラメータとして、階層符号化方式を用いる場合にはベース量子化パラメータ値を用いることを、
特徴とする画像主観品質推定方法。
【請求項14】
請求項1ないし12のいずれか1項に記載の画像主観品質推定方法において、
前記復号のパラメータとして、階層符号化方式を用いる場合にはプレーン数を用いることを、
特徴とする画像主観品質推定方法。
【請求項15】
画像に対してのユーザの主観品質を推定する画像主観品質推定装置であって、
複数の原画像を処理対象として、符号化及び/又は復号のパラメータを変えて処理対象の原画像を符号化し復号することで復号画像を生成する手段と、
前記復号画像を被験者に提示し、それに対して示される主観品質値を入力することで、前記復号画像に対しての被験者の主観品質値を入力して記憶手段に保持する手段と、
前記主観品質値に基づいて、前記被験者を複数のグループに分類する手段と、
前記主観品質値と前記パラメータ及び前記グループの識別子との間の関係式を導出する手段とを備えることを、
特徴とする画像主観品質推定装置。
【請求項16】
画像に対してのユーザの主観品質を推定する画像主観品質推定装置であって、
複数の原画像を処理対象として、符号化及び/又は復号のパラメータを変えて処理対象の原画像を符号化し復号することで復号画像を生成する手段と、
前記復号画像を被験者に提示し、それに対して示される主観品質値を入力することで、前記復号画像に対しての被験者の主観品質値を入力して記憶手段に保持する手段と、
前記復号画像に対しての主観品質値に基づいて、前記復号画像の中からユーザの主観品質の推定に用いる複数の基準画像を選択する手段と、
前記基準画像に対しての前記主観品質値に基づいて、前記被験者を複数のグループに分類する手段と、
前記基準画像に対しての前記主観品質値と前記パラメータ及び前記グループの識別子との間の関係式を導出する手段とを備えることを、
特徴とする画像主観品質推定装置。
【請求項17】
請求項1ないし14のいずれか1項に記載の画像主観品質推定方法の実現に用いられる処理をコンピュータに実行させるための画像主観品質推定処理用プログラム。
【請求項18】
請求項1ないし14のいずれか1項に記載の画像主観品質推定方法の実現に用いられる処理をコンピュータに実行させるための画像主観品質推定処理用プログラムを記録したコンピュータ読み取り可能な記録媒体。
【請求項1】
画像に対してのユーザの主観品質を推定する画像主観品質推定装置が実行する画像主観品質推定方法であって、
複数の原画像を処理対象として、符号化及び/又は復号のパラメータを変えて処理対象の原画像を符号化し復号することで復号画像を生成する過程と、
前記復号画像を被験者に提示し、それに対して示される主観品質値を入力することで、前記復号画像に対しての被験者の主観品質値を入力して記憶手段に保持する過程と、
前記主観品質値に基づいて、前記被験者を複数のグループに分類する過程と、
前記主観品質値と前記パラメータ及び前記グループの識別子との間の関係式を導出する過程とを備えることを、
特徴とする画像主観品質推定方法。
【請求項2】
画像に対してのユーザの主観品質を推定する画像主観品質推定装置が実行する画像主観品質推定方法であって、
複数の原画像を処理対象として、符号化及び/又は復号のパラメータを変えて処理対象の原画像を符号化し復号することで復号画像を生成する過程と、
前記復号画像を被験者に提示し、それに対して示される主観品質値を入力することで、前記復号画像に対しての被験者の主観品質値を入力して記憶手段に保持する過程と、
前記復号画像に対しての主観品質値に基づいて、前記復号画像の中からユーザの主観品質の推定に用いる複数の基準画像を選択する過程と、
前記基準画像に対しての前記主観品質値に基づいて、前記被験者を複数のグループに分類する過程と、
前記基準画像に対しての前記主観品質値と前記パラメータ及び前記グループの識別子との間の関係式を導出する過程とを備えることを、
特徴とする画像主観品質推定方法。
【請求項3】
請求項2に記載の画像主観品質推定方法において、
前記選択する過程では、前記復号画像毎に前記主観品質値のばらつきの大きさを求めて、それに基づいて、前記復号画像の中から被験者の主観品質の評価が割れているものを前記基準画像として選択することを、
特徴とする画像主観品質推定方法。
【請求項4】
請求項2に記載の画像主観品質推定方法において、
前記選択する過程では、各原画像についての前記復号画像の中から同一の数の復号画像を選択することで前記基準画像を選択することを、
特徴とする画像主観品質推定方法。
【請求項5】
請求項4に記載の画像主観品質推定方法において、
前記選択する過程では、各原画像についての前記復号画像の中から同一の数の復号画像を選択するにあたって、前記復号画像毎に前記主観品質値のばらつきの大きさを求めて、それに基づいて、被験者の主観品質の評価が割れているものを選択することを、
特徴とする画像主観品質推定方法。
【請求項6】
請求項1ないし5のいずれか1項に記載の画像主観品質推定方法において、
前記被験者以外のユーザが前記グループのいずれに属するのかを判断する過程と、
前記判断したグループの識別子と、システムで使用されている前記パラメータと、前記関係式とに基づいて、前記ユーザの示す主観品質値を算出する過程とを備えることを、
特徴とする画像主観品質推定方法。
【請求項7】
請求項1ないし5のいずれか1項に記載の画像主観品質推定方法において、
前記被験者以外のユーザが前記グループのいずれに属するのかを判断する過程と、
前記判断したグループの識別子と、前記ユーザの要求する主観品質値と、前記関係式とに基づいて、前記ユーザの要求する主観品質値を実現する前記パラメータを決定する過程とを備えることを、
特徴とする画像主観品質推定方法。
【請求項8】
請求項6又は7に記載の画像主観品質推定方法において、
前記判断する過程では、前記ユーザに対して、前記各グループの示す主観品質レベルの一覧を提示し、その一覧の中から選択される主観品質レベルの指す前記グループを特定することで、前記ユーザが前記グループのいずれに属するのかを判断することを、
特徴とする画像主観品質推定方法。
【請求項9】
請求項6又は7に記載の画像主観品質推定方法において、
前記判断する過程では、前記グループの分類に用いた全ての画像に対して前記ユーザの示した主観品質値と、前記各グループ毎に求められるそのグループに属する前記被験者の示したそれらの画像に対しての主観品質値の重心との間の距離を求めて、それに基づいて、前記ユーザが前記グループのいずれに属するのかを判断することを、
特徴とする画像主観品質推定方法。
【請求項10】
請求項1ないし9のいずれか1項に記載の画像主観品質推定方法において、
前記分類する過程では、前記主観品質値をクラスタ分析することで、前記被験者を複数のグループに分類することを、
特徴とする画像主観品質推定方法。
【請求項11】
請求項1ないし10のいずれか1項に記載の画像主観品質推定方法において、
前記導出する過程では、前記主観品質値を目的変数とし、前記パラメータ及び前記グループの識別子を説明変数とする線形又は非線形の多重回帰分析を行うことで、前記関係式を導出することを、
特徴とする画像主観品質推定方法。
【請求項12】
請求項11に記載の画像主観品質推定方法において、
前記導出する過程では、前記グループの識別子として、N個の前記グループを1又は0で表現される(N−1)個のダミー変数で表したものを用いることを、
特徴とする画像主観品質推定方法。
【請求項13】
請求項1ないし12のいずれか1項に記載の画像主観品質推定方法において、
前記符号化のパラメータとして、階層符号化方式を用いる場合にはベース量子化パラメータ値を用いることを、
特徴とする画像主観品質推定方法。
【請求項14】
請求項1ないし12のいずれか1項に記載の画像主観品質推定方法において、
前記復号のパラメータとして、階層符号化方式を用いる場合にはプレーン数を用いることを、
特徴とする画像主観品質推定方法。
【請求項15】
画像に対してのユーザの主観品質を推定する画像主観品質推定装置であって、
複数の原画像を処理対象として、符号化及び/又は復号のパラメータを変えて処理対象の原画像を符号化し復号することで復号画像を生成する手段と、
前記復号画像を被験者に提示し、それに対して示される主観品質値を入力することで、前記復号画像に対しての被験者の主観品質値を入力して記憶手段に保持する手段と、
前記主観品質値に基づいて、前記被験者を複数のグループに分類する手段と、
前記主観品質値と前記パラメータ及び前記グループの識別子との間の関係式を導出する手段とを備えることを、
特徴とする画像主観品質推定装置。
【請求項16】
画像に対してのユーザの主観品質を推定する画像主観品質推定装置であって、
複数の原画像を処理対象として、符号化及び/又は復号のパラメータを変えて処理対象の原画像を符号化し復号することで復号画像を生成する手段と、
前記復号画像を被験者に提示し、それに対して示される主観品質値を入力することで、前記復号画像に対しての被験者の主観品質値を入力して記憶手段に保持する手段と、
前記復号画像に対しての主観品質値に基づいて、前記復号画像の中からユーザの主観品質の推定に用いる複数の基準画像を選択する手段と、
前記基準画像に対しての前記主観品質値に基づいて、前記被験者を複数のグループに分類する手段と、
前記基準画像に対しての前記主観品質値と前記パラメータ及び前記グループの識別子との間の関係式を導出する手段とを備えることを、
特徴とする画像主観品質推定装置。
【請求項17】
請求項1ないし14のいずれか1項に記載の画像主観品質推定方法の実現に用いられる処理をコンピュータに実行させるための画像主観品質推定処理用プログラム。
【請求項18】
請求項1ないし14のいずれか1項に記載の画像主観品質推定方法の実現に用いられる処理をコンピュータに実行させるための画像主観品質推定処理用プログラムを記録したコンピュータ読み取り可能な記録媒体。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【公開番号】特開2007−336406(P2007−336406A)
【公開日】平成19年12月27日(2007.12.27)
【国際特許分類】
【出願番号】特願2006−168241(P2006−168241)
【出願日】平成18年6月19日(2006.6.19)
【出願人】(000004226)日本電信電話株式会社 (13,992)
【Fターム(参考)】
【公開日】平成19年12月27日(2007.12.27)
【国際特許分類】
【出願日】平成18年6月19日(2006.6.19)
【出願人】(000004226)日本電信電話株式会社 (13,992)
【Fターム(参考)】
[ Back to top ]