説明

画像圧縮装置、オーサリングシステムおよび画像圧縮方法

【課題】画像内において画像処理の施された部分の画質が圧縮処理によって劣化するのを防止することが可能な技術を提供する。
【解決手段】画像圧縮装置1Aは、第1画像に所定の画像処理を施して、第2画像の画像データを生成する画像生成部101と、第2画像を構成する画素に対して所定の画像処理が施されたか否かの情報を、当該画素の属性情報として取得する属性情報取得部102と、属性情報に基づいて、当該属性情報を反映した圧縮処理を第2画像の画像データに施す圧縮符号化部20Aとを備える。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像データの圧縮技術に関する。
【背景技術】
【0002】
静止画像および動画像を形成する所定画像には、複数の画像を合成することによって生成された画像(合成画像)が含まれることがある。例えば、原画像に特定部分を付加する場合は、当該特定部分を含んだ他の画像を原画像に合成することによって、特定部分を含んだ所望の合成画像が取得される。
【0003】
このような合成画像に対する圧縮処理では、圧縮処理の際に、付加された特定部分を検出することが困難であるため、当該特定部分も他の部分と区別することなく同様の圧縮処理が施されていた。このため、特定部分と他の部分とが同様の圧縮率で圧縮された場合、解凍(伸張)処理後の合成画像において、当該特定部分の画質劣化を許容できない可能性がある。
【0004】
このような合成画像における特定部分の画質劣化を防止する手法として、例えば、特許文献1には、レイヤで構成される画像を、個々のレイヤ画像に分離し、各レイヤ画像に応じた符号化ビット量を割り当てて圧縮処理を行うことによって、レイヤで構成される画像の画質を向上させる技術が記載されている。
【0005】
しかし、当該特許文献1に記載の技術では、分離したレイヤ画像それぞれに対して圧縮処理を施すことになるため、圧縮処理に要する時間が増大することになり、合成画像における特定部分の画質劣化を防止可能な一方で新たな課題が発生することになる。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2000−236551号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
またさらに、このような合成画像の特定部分に関する圧縮処理による不都合は、画像の合成処理によって付加された特定部分に限らず、画像において他の画像処理が施された部分についても生じうる。
【0008】
そこで、本発明は、画像内において画像処理の施された部分の画質が圧縮処理によって劣化するのを防止することが可能な技術を提供することを目的とする。
【課題を解決するための手段】
【0009】
本発明に係る画像圧縮装置は、第1画像に所定の画像処理を施して、第2画像の画像データを生成する画像生成手段と、前記第2画像を構成する画素に対して前記所定の画像処理が施されたか否かの情報を、当該画素の属性情報として取得する情報取得手段と、前記属性情報に基づいて、当該属性情報を反映した圧縮処理を前記第2画像の画像データに施す圧縮符号化手段とを備える。
【0010】
また、本発明に係る画像圧縮装置の一態様では、前記圧縮符号化手段は、前記画像データに基づいて予測画像を出力する予測画像出力手段と、前記第2画像と前記予測画像との差分に、周波数領域への直交変換を施して変換係数を算出する変換手段と、前記変換係数に対して、量子化の粗さを示す量子化情報に基づき量子化を行って量子化係数を算出する量子化部と、前記属性情報を反映して、前記量子化情報を生成する情報生成手段とを有する。
【0011】
また、本発明に係る画像圧縮装置の一態様では、前記予測画像出力手段は、前記画像データに基づいて画面内予測を行い、イントラ予測画像を生成するイントラ予測手段と、前記画像データに基づいて画面間予測を行い、インター予測画像を生成するインター予測手段と、前記イントラ予測画像および前記インター予測画像のうち、いずれか一方を択一的に選択して、前記予測画像として出力する出力制御手段とを含み、前記出力制御手段は、前記属性情報を反映して前記択一的な選択を行う。
【0012】
また、本発明に係る画像圧縮装置の一態様では、前記圧縮処理は、前記第2画像を分割して得られるブロックごとに行われ、前記圧縮符号化手段は、前記ブロックに関連する前記属性情報に基づいて、前記ブロックの種類を特定する特定手段を有し、前記圧縮符号化手段は、前記特定手段によって圧縮処理中の圧縮ブロックが所定種類のブロックであると特定された場合に、前記圧縮ブロックに隣接した圧縮処理済みのブロックの中に、同一種類のブロックが存在したときは、前記圧縮ブロックに対して前記同一種類のブロックと同じ圧縮処理を施す。
【0013】
また、本発明に係る画像圧縮装置の一態様では、前記所定の画像処理は、半透明処理である。
【0014】
また、本発明に係る画像圧縮装置の一態様では、前記所定の画像処理は、フェード処理である。
【0015】
また、本発明に係るオーサリングシステムは、第1映像に所定の画像処理を施して、第2映像を生成する画像処理手段と、前記第2映像を構成する画面の画素に対して前記所定の画像処理が施されたか否かの情報を、当該画素の属性情報として取得する情報取得手段と、前記属性情報に基づいて、当該属性情報を反映した圧縮処理を前記第2映像の映像データに施す圧縮符号化手段とを備える。
【0016】
また、本発明に係る画像圧縮方法は、a)第1画像に所定の画像処理を施して、第2画像の画像データを生成する工程と、b)前記第2画像を構成する画素に対して前記所定の画像処理が施されたか否かの情報を、当該画素の属性情報として取得する工程と、c)前記属性情報に基づいて、当該属性情報を反映した圧縮処理を前記第2画像の画像データに施す工程とを備える。
【発明の効果】
【0017】
本発明によれば、画像内において画像処理の施された部分の画質が、圧縮処理によって劣化するのを防止することが可能になる。
【図面の簡単な説明】
【0018】
【図1】本発明の第1実施形態に係る画像圧縮装置の構成図である。
【図2】画像生成制御部における画像生成の様子を示す図である。
【図3】圧縮符号化部の詳細構成を示すブロック図である。
【図4】圧縮ブロックの種類に応じた符号発生量制御部の動作モードを示す図である。
【図5】画像生成制御部における画像生成の様子を示す図である。
【図6】第2実施形態に係る画像圧縮装置の圧縮符号化部の詳細構成を示すブロック図である。
【図7】圧縮ブロックの種類に応じた、符号発生量制御部の動作モードおよびイントラ/インター切替部の動作モードを示す図である。
【図8】第3実施形態に係るオーサリングシステムの構成を示すブロック図である。
【図9】圧縮ブロックの種類に応じた、符号発生量制御部の動作モードおよびイントラ/インター切替部の動作モードを示す図である。
【発明を実施するための形態】
【0019】
以下、本発明の各実施形態について図面を参照して説明する。
【0020】
<1.第1実施形態>
[1−1.画像圧縮装置の概略]
図1は、本発明の第1実施形態に係る画像圧縮装置1Aの構成図である。図1に示されるように、画像圧縮装置1Aは、画像生成制御部10と圧縮符号化部(圧縮符号化手段)20Aとで構成されている。
【0021】
なお、本明細書では、説明の無用の煩雑化を避けるため、混同のおそれのない範囲で、画像の画像データと、画像そのものとを等しく「画像」とも表現している。
【0022】
画像圧縮装置1Aでは、画像生成制御部10の画像生成部101によって、動画像を形成する画像(画面)の画像データが順次に生成(取得)される。また、画像生成制御部10の属性情報取得部102では、生成された画像を構成する画素の属性情報が取得される。画像データおよび属性情報は、画像生成制御部10から出力され、圧縮符号化部20Aに入力される。
【0023】
圧縮符号化部20Aでは、入力された画像データに対して属性情報に基づいた圧縮処理(圧縮符号化処理)が施され、圧縮画像データが生成される。
【0024】
生成された圧縮画像データは、有線通信または無線通信等によって外部に出力される。なお、外部に送信された圧縮画像データは、例えば、他の表示装置において受信され、当該他の表示装置において伸張されて表示される。また例えば、外部に出力された圧縮画像データを、HDD(Hard Disk Drive)またはメモリ等の記憶媒体に保存してもよい。
【0025】
このように、画像内の属性情報に基づいて、前記属性情報を反映した圧縮処理を当該画像の画像データに施すことによれば、画像を構成する画素の属性に適応した圧縮処理を実現することができる。
【0026】
[1−2.画像圧縮装置の具体的構成]
次に、画像圧縮装置1Aを構成する画像生成制御部10と圧縮符号化部20Aとについて詳述する。図2は、画像生成制御部10における画像生成の様子を示す図である。
【0027】
画像生成制御部10は、GPU(Graphic Processing Unit)を用いて構成され、画像生成部101と属性情報取得部102とを有している。なお、GPUは、汎用のCPUと比較して特に画像処理に特化した設計がなされている半導体チップであり、通常のCPUとは別個に画像圧縮装置1Aに搭載されている。
【0028】
画像生成部101は、動画像を形成する画像の画像データを順次に生成する機能を有している。画像生成部101では、複数の画像を合成して生成される合成画像も生成され、当該合成画像には、図2に示されるように、画像生成部101で生成された2つの画像GT1,GT2を半透明に重ね合わせて合成した画像GCも含まれる。画像生成部101で行われる半透明処理としては、例えば、画像の透明度を示すアルファ値(α値)を用いて2つの画像を合成するアルファブレンディング処理が採用される。当該アルファブレンディング処理が施された画素の画素値は、例えば背景画像となる一方の画像の画素値に(1−α)を掛けたものと、例えば前景画像となる他方の画像の画素値にαを掛けたものとを加えた値として表される。なお、このような半透明処理は、基準となる画像(「基準画像」または「原画像」とも称する)に対して補助画像上の特定部分を付加する画像処理であるとも表現できる。
【0029】
属性情報取得部102は、画像生成部101で生成された画像を構成する各画素の属性情報を取得する。本実施形態では、画素に対するアルファブレンディング処理等の半透明処理の有無が、当該画素の属性情報として取得される。
【0030】
半透明処理が施されているか否かの属性情報は、例えば、画像を構成する画素ごとに持たせてもよく、或いは、画像を複数の領域に分割して得られるブロック(例えば16画素×16画素のブロック)ごとに集約して持たせてもよい。
【0031】
画素単位で属性情報を持たせる場合は、各画素に属性情報用のフラグ(属性フラグ)が割り当てられる。そして、半透明処理の施された画素(「半透明画素」とも称する)にはフラグとして「1」が設定され、半透明処理の施されていない画素(通常画素)にはフラグとして「0」が設定される。例えば、図2では、画像GC内の領域REに含まれる各画素の属性フラグにフラグがセットされることになる。
【0032】
また、ブロック単位に属性情報を集約させる場合は、各ブロックに属性フラグが割り当てられる。そして、半透明処理の施された画素を含むブロックにはフラグとして「1」が設定され、半透明処理の施されていない画素を含むブロックにはフラグとして「0」が設定される。例えば、図2では、画像GCにおいて斜線ハッチングHTが施された各ブロックにフラグがセットされることになる。なお、当該ブロックは、「情報ブロック」とも称され、圧縮処理の対象となる後述の圧縮ブロックに対応していることが好ましい。
【0033】
画像生成部101で生成された画像データおよび属性情報取得部102で取得された属性情報は、それぞれ圧縮符号化部20Aに出力される。
【0034】
圧縮符号化部20Aは、図1に示されるように、属性情報解析部201と圧縮処理部202とを有している。
【0035】
属性情報解析部201は、入力される属性情報を解析して、解析結果を圧縮処理部202に出力する。
【0036】
圧縮処理部202は、入力される画像データに対して、所定の動画像圧縮方式の圧縮処理を施して、圧縮画像データを生成する。動画像圧縮方式としては、例えば、H.264、MPEG(Moving Picture Experts Group)−2、MPEG−4等が採用される。また、圧縮処理部202では、上記圧縮処理に属性情報解析部201の解析結果が反映される。
【0037】
ここで、圧縮符号化部20Aについてさらに詳述する。図3は、圧縮符号化部20Aの詳細構成を示すブロック図である。図4は、圧縮ブロックの種類に応じた符号発生量制御部220の動作モードを示す図である。
【0038】
図3に示されるように、画像生成制御部10から出力された画像データおよび属性情報は、インターフェース(I/F)部211を介してフレームメモリ212に格納される。フレームメモリ212は、画像データをフレームごとに一時的に記憶するとともに、属性情報を記憶する。
【0039】
その後、メモリ読出部213によって、フレームメモリ212から、画像を複数の領域に分割して得られるブロック(例えば16画素×16画素のブロック)単位で、画像データおよび属性情報が読み出される。読み出されたブロック単位の画像データ(「ブロック画像データ」とも称する)51は、圧縮処理部202(詳細には、差分演算部217、イントラ予測部214およびインター予測部215)に入力される。このように、画像圧縮装置1Aでは、ブロック単位で画像データが読み出され、ブロックごとに圧縮処理が施されることになる。なお、ここでは、メモリ読出部213に読み出され、圧縮処理の対象となるブロックを「圧縮ブロック」または「注目ブロック」とも称する。
【0040】
また、メモリ読出部213は、ブロック画像データ51の読み出しに応じて、読み出されたブロックに関連する属性情報(「ブロック関連属性情報」または単に「関連属性情報」とも称する)71をフレームメモリ212から読み出し、属性情報解析部201に出力する。
【0041】
属性情報解析部201は、入力された関連属性情報71に基づいて、圧縮対象となる圧縮ブロックの種類、すなわち圧縮ブロックが特殊領域であるか否かを特定する特定手段として機能する。圧縮ブロックが特殊領域であるか否かは、圧縮符号化部20Aに画素単位で属性情報が入力された場合は、例えば、圧縮ブロックにおける半透明処理の施された領域(「半透明領域」とも称する)の割合に応じて特定することができる。すなわち、圧縮ブロックにおける半透明領域の割合が所定割合(例えば、50%)以上であった場合に、当該圧縮ブロックが特殊領域と特定される。また、情報ブロック単位に集約された属性情報が圧縮符号化部20Aに入力された場合は、圧縮ブロックが特殊領域であるか否かは、圧縮ブロック内にフラグセットされた情報ブロックが含まれるか否かに基づいて特定される。なお、圧縮ブロックにおける半透明領域の割合は、圧縮ブロックを構成する全画素に対する、圧縮ブロックに含まれる半透明画素の割合で表される。なお、圧縮ブロックにおける半透明領域は、画像処理の一種である半透明処理の施された特定部分であるとも表現される。
【0042】
属性情報解析部201は、圧縮ブロックの種類の特定が終了すると、その特定結果(解析結果)72を圧縮処理部202(詳細には、符号発生量制御部220)に出力する。
【0043】
画像圧縮装置1Aの圧縮処理部202で実行される圧縮処理は、大きく分けて3つの処理、すなわち予測画像生成処理と、残差信号符号化処理と、局所復号処理とに大別される。
【0044】
予測画像生成処理は、図3におけるイントラ予測部214と、インター予測部215と、イントラ/インター切替部216とで構成される予測画像出力手段によって実現される。
【0045】
イントラ予測部214は、画面内予測を行ってイントラ予測画像を生成する。具体的には、イントラ予測部214は、ブロック画像データ51および符号化済みデータの局所復号画像52を入力とし、候補となる予測方向の中から符号化効率が最適となる予測方向を決定し、イントラ予測画像(イントラ予測信号)およびイントラ予測情報(予測方向に関する情報)をイントラ情報53として出力する。
【0046】
インター予測部215は、画面間予測を行ってインター予測画像を生成する。具体的には、インター予測部215は、ブロック画像データ51および符号化済みデータの局所復号画像を入力とし、符号化効率が最適となる動きベクトルを決定し、インター予測画像(インター予測信号)およびインター予測情報(動ベクトルに関する情報)をインター情報54として出力する。
【0047】
イントラ/インター切替部216は、イントラ情報53、インター情報54、およびブロック画像データ51を入力とし、イントラ情報53およびインター情報54のうち、いずれか一方を択一的に選択して出力する。イントラ/インター切替部216は、イントラ予測画像とブロック画像データ51との差分値、およびインター予測画像とブロック画像データ51との差分値を算出する。そして、イントラ/インター切替部216は、2つの差分値を比較することによって、イントラ予測画像およびインター予測画像の中からブロック画像データとの差分の小さい方の画像を予測画像55として差分演算部217および加算演算部223に出力する。
【0048】
またさらに、イントラ/インター切替部216は、出力された予測画像55に関する予測情報56をエントロピー符号化部221に出力する。すなわち、イントラ予測画像が予測画像55として出力された場合は、イントラ予測情報が予測情報56として出力され、インター予測画像が予測画像55として出力された場合は、インター予測情報が予測情報56として出力されることになる。
【0049】
残差信号符号化処理は、図3における差分演算部217、変換部218、量子化部219、符号発生量制御部220、およびエントロピー符号化部221で実現される。
【0050】
差分演算部217は、ブロック画像データ51と、予測画像55との間で、画素値の差分を演算し、差分結果の残差信号(差分信号)57を変換部218に対して出力する。
【0051】
変換部218では、いわゆる離散コサイン変換(DCT)が行われ、残差信号57が周波数領域のDCT係数58へと直交変換される。当該変換によって得られたDCT係数58は、量子化部219へと入力される。
【0052】
量子化部219では、DCT係数58に対して量子化が行われ、DCT係数58が量子化係数59へと変換される。このような量子化は、符号発生量制御部220で決定される量子化ステップを用いてDCT係数58を除算することによって実現される。量子化部219で得られた量子化係数59は、エントロピー符号化部221および局所復号部222に入力される。
【0053】
エントロピー符号化部221では、量子化部219から入力される量子化係数59およびイントラ/インター切替部216から入力される予測情報56に対して、例えばハフマン符号化などの可変長符号化処理或いは算術符号化処理が施され、符号化データ60が生成される。符号化データ60は、送信バッファ(不図示)に一旦蓄積された後に、圧縮画像データとして圧縮符号化部20Aの外部に出力される。なお、圧縮画像データには符号化された予測情報56が含まれているため、圧縮画像データを受信し、画像を再構成する復号化装置において、予測情報56を考慮した復号化が可能となる。
【0054】
また、エントロピー符号化部221は、生成した符号化データのデータ量(符号発生量)61を適時に符号発生量制御部220に出力する。
【0055】
符号発生量制御部220は、量子化に用いられる量子化ステップを決定し、当該量子化ステップを量子化情報62として量子化部219に出力する情報生成手段として機能する。量子化ステップは、量子化の粗さを示しており、量子化ステップが小さいほど、画質の劣化は抑えられるが、符号量は多くなる。符号発生量制御部220では、量子化ステップと所定の関係を有する量子化パラメータを制御することによって、量子化ステップが導出される。量子化パラメータの設定制御は、属性情報解析部201による解析結果に応じて2通りの手法で行われる。
【0056】
具体的には、図4に示されるように、圧縮ブロックが特殊領域であった場合、符号発生量制御部220の動作モードは、固定値設定モードに設定され、量子化パラメータが比較的低い値の固定値とされる。
【0057】
一方、圧縮ブロックが非特殊領域(通常領域)であった場合、符号発生量制御部220の動作モードは、自動設定モードに設定される。自動設定モードでは、符号発生量制御部220は、エントロピー符号化部221から入力される過去の符号化データのデータ量61に基づいて、量子化パラメータを自動的に設定する。当該量子化パラメータの自動設定は、目標符号量の発生に最適な量子化ステップを導出可能なように行われる。
【0058】
このように、圧縮ブロックが特殊領域であった場合に、符号発生量制御部220の動作モードを固定値設定モードに設定し、量子化パラメータを比較的低い値の固定値とすることによれば、量子化の粗さが細かくなるので、当該圧縮ブロックの圧縮率を低くすることが可能になり、圧縮ブロックに含まれる特定部分(ここでは、半透明領域)の画質劣化を抑えることができる。
【0059】
なお、量子化パラメータは、量子化ステップと所定の関係を有する変数であり、例えば、MPEG−2では、量子化パラメータは量子化ステップと比例関係を有し、H.264では、量子化パラメータは、量子化ステップの対数と比例関係を有している。
【0060】
局所復号処理は、図3における局所復号部222、加算演算部223、および参照画像メモリ224で実現される。
【0061】
局所復号部222では、量子化係数59に対して逆量子化処理が行われた後に、DCTとは逆の演算(逆DCT)が実行され、演算結果(再構成された残差信号63)が出力される。加算演算部223では、局所復号部222の演算結果に対して、イントラ予測部214或いはインター予測部215で生成された予測画像55を用いた加算処理が行われ、その加算結果の局所復号画像(「参照画像」とも称される)52が出力される。局所復号画像は、参照画像メモリ224に一時的に蓄積される。
【0062】
以上のように、本実施形態の画像圧縮装置1Aは、第1画像に所定の画像処理を施して、第2画像の画像データを生成する画像生成部101と、第2画像を構成する画素に対して所定の画像処理が施されたか否かの情報を、当該画素の属性情報として取得する属性情報取得部102と、属性情報に基づいて、当該属性情報を反映した圧縮処理を第2画像の画像データに施す圧縮符号化部20Aとを備える。このような画像圧縮装置1Aによれば、画像を構成する画素の属性に適した圧縮処理を実行することができるので、画像内において所定の画像処理の施された部分の画質が、圧縮処理によって劣化するのを防止することが可能になる。
【0063】
<2.第2実施形態>
次に、本発明の第2実施形態について説明する。上記第1実施形態の画像圧縮装置1Aでは、画素に対する半透明処理の有無が属性情報として取得されていたが、第2実施形態に係る画像圧縮装置1Bでは、上記半透明処理の有無に加えて、半透明画素の動き(移動)に関する情報も属性情報として取得される。なお、画像圧縮装置1Bは、第1実施形態に係る画像圧縮装置1Aとほぼ同様の構造および機能を有しており、共通する部分については同じ符号を付して説明を省略する。図5は、画像生成制御部10における画像生成の様子を示す図である。図6は、第2実施形態に係る画像圧縮装置1Bの圧縮符号化部20Bの詳細構成を示すブロック図である。図7は、圧縮ブロックの種類に応じた、符号発生量制御部220の動作モードおよびイントラ/インター切替部216の動作モードを示す図である。
【0064】
上述のように、第2実施形態に係る画像圧縮装置1Bでは、画像圧縮装置1Bの画像生成制御部10の属性情報取得部102(図1参照)において、画素に対する半透明処理の有無と半透明画素の動きに関する情報(「動き情報」または「移動情報」とも称する)とが属性情報として取得される。
【0065】
半透明画素の動き情報は、画像生成部101で時系列的に生成される画面(フレーム)において、半透明画素が動きのある半透明領域を構成する画素であるか否かを表し、画像生成部101による画像生成の際の生成情報に基づいて取得される。
【0066】
例えば、図5に示されるように、画像生成部101が時系列的に前後の関係となる第1フレームGC11と第2フレームGC12とを順次に生成する場合を想定する。この場合、第1フレームの生成処理FR1においては、画像生成部101は、背景画像GT11および前景画像GT21を生成した後に、これら2つの画像GT11,GT21を合成することによって、第1フレームGC11を生成する。そして、第2フレームの生成処理FR2においては、画像生成部101は、背景画像GT12および前景画像GT22を生成した後に、これら2つの画像GT12,GT22を合成することによって、第2フレームGC12を生成する。
【0067】
このような状況において、第2フレームGC12に関する前景画像GT22は、画像生成部101によって、1フレーム前の前景画像GT21の半透明処理の対象となる領域RMを或る特定方向に或る特定量分移動させて生成されている。属性情報取得部102は、このような画像生成の際に用いられた、半透明処理の対象となる領域RMの動きに関する生成情報を画像生成部101から取得し、生成画像における半透明画素が動きのある半透明領域を構成する画素であるか否かの情報を当該半透明画素の動き情報として取得する。
【0068】
そして、属性情報取得部102は、画素に対する半透明処理の有無と半透明画素の動き情報とを含む属性情報を圧縮符号化部20Bに出力する。なお、この場合、半透明画素の動き情報が属性情報に追加されたことになるので、各画素または各ブロックに割り当てられる属性フラグの情報量(ビット量)は、情報の追加分だけ増やされることになる。
【0069】
図6に示されるように、圧縮符号化部20Bに入力された属性情報は、インターフェース(I/F)部211を介してフレームメモリ212に格納される。メモリ読出部213は、圧縮ブロック単位のブロック画像データ51の読み出しに応じて、読み出されたブロックに関する関連属性情報71をフレームメモリ212から読み出し、属性情報解析部201に出力する。
【0070】
属性情報解析部201は、入力された関連属性情報71に基づいて、圧縮対象となる圧縮ブロックの種類を特定する。具体的には、属性情報解析部201は、上記第1実施形態と同様の手法で、圧縮ブロックが半透明領域を有する特殊領域であるか否かを特定する。そして、属性情報解析部201は、特殊領域であると特定された圧縮ブロックが、動きのある半透明領域を有する第1特殊領域であるか、或いは動きのない半透明領域を有する第2特殊領域であるかを、関連属性情報71に含まれる半透明画素の動き情報に基づいて特定する。
【0071】
なお、ここでは、圧縮符号化部20Bに画素単位で属性情報が入力された場合、圧縮ブロックに含まれる半透明領域の動きの有無は、例えば、当該半透明領域を構成する画素の中に、動き情報に関する属性フラグにフラグセットされた画素が存在するか否かに応じて判断される。また、情報ブロック単位に集約された属性情報が圧縮符号化部20Bに入力された場合、圧縮ブロックに含まれる半透明領域の動きの有無は、当該半透明領域内に動き情報に関する属性フラグにフラグセットされた情報ブロックが含まれるか否かに応じて判断される。
【0072】
属性情報解析部201は、圧縮ブロックの種類の特定が終了すると、その特定結果72をイントラ/インター切替部216および符号発生量制御部220に出力する。
【0073】
本実施形態のイントラ/インター切替部216は、イントラ情報53、インター情報54、ブロック画像データ51、および属性情報解析部201の特定結果を入力とし、イントラ情報53およびインター情報54のうち、いずれか一方を選択して出力する出力制御手段として機能する。イントラ/インター切替部216によるイントラ情報53およびインター情報54の択一的な出力制御は、属性解析部201の特定結果に応じて2通りの手法で行われる。
【0074】
具体的には、図7に示されるように、圧縮ブロックが第1特殊領域であった場合、イントラ/インター切替部216の動作モードは固定出力モードに設定され、イントラ情報53が固定的に出力される。すなわち、イントラ予測画像が予測画像55として差分演算部217および加算演算部223に出力されるとともに、イントラ予測情報が予測情報56としてエントロピー符号化部221に出力されることになる。
【0075】
一方、圧縮ブロックが第2特殊領域または非特殊領域であった場合、イントラ/インター切替部216の動作モードは自動選択出力モードに設定される。自動選択出力モードでは、上記第1実施形態と同様に、イントラ/インター切替部216は、イントラ予測画像とブロック画像データ51との差分値、およびインター予測画像とブロック画像データ51との差分値を算出する。そして、イントラ/インター切替部216は、2つの差分値を比較することによって、イントラ予測画像およびインター予測画像の中からブロック画像データとの差分の小さい方の画像を予測画像55として差分演算部217および加算演算部223に出力する。またさらに、イントラ/インター切替部216は、出力された予測画像55に関する予測情報56をエントロピー符号化部221に出力する。すなわち、イントラ予測画像が予測画像55として出力された場合は、イントラ予測情報が予測情報56として出力され、インター予測画像が予測画像55として出力された場合は、インター予測情報が予測情報56として出力されることになる。
【0076】
このように、本実施形態のイントラ/インター切替部216は、属性情報を反映して予測画像の択一的な選択動作を行う。
【0077】
イントラ予測は、同一フレーム内のブロック間の相関関係を利用して予測を行うものであるため、同じような模様が一様に広がっていて、比較的動きのない絵柄を有する画像に対して効果を発揮する。一方、インター予測は、異なるフレーム間の相関関係を利用して予測を行うものであるため、特定の模様(例えば、キャラクター)が一定方向に動いているような比較的動きのある絵柄を有する画像に対して効果を発揮する。このため、圧縮ブロックに含まれる半透明領域の動きの有無に応じてイントラ予測とインター予測とを使い分けることによれば、圧縮ブロックの属性に適応した予測画像を選択することができるので、圧縮ブロックに含まれる半透明領域の圧縮処理による画質劣化を防止することが可能になる。
【0078】
また、本実施形態の符号発生量制御部220の動作モードは、圧縮ブロックの種類に応じて変更される。具体的には、図7に示されるように、圧縮ブロックが第1特殊領域であった場合は、符号発生量制御部220の動作モードは第1実施形態と同様の固定出力モードに設定され、圧縮ブロックが第2特殊領域または非特殊領域であった場合は、符号発生量制御部220の動作モードは第1実施形態と同様の自動選択出力モードに設定される。
【0079】
このように、本実施形態では、圧縮ブロックの種類に応じて符号発生量制御部220の動作モードおよびイントラ/インター切替部216の動作モードがそれぞれ変更されることになり、画像を構成する画素の属性に適応した圧縮処理が実現されることになる。これによれば、動きのある半透明領域および動きのない半透明領域の圧縮処理による画質劣化を防止することが可能になる。
【0080】
<3.第3実施形態>
次に、本発明の第3実施形態について説明する。上記各実施形態では、本発明が画像圧縮装置1A,1Bに適用されていたが、第3実施形態では、本発明がオーサリングシステム100に適用される。なお、オーサリングシステム100において、上記各実施形態の画像圧縮装置1A,1Bと同様の構造および機能を有する共通部分については、同じ符号を付して説明を省略する。図8は、オーサリングシステム100の構成を示すブロック図である。
【0081】
図8に示されるように、オーサリングシステム100は、オーサリングツール300と圧縮符号化部20Aとで構成され、撮像部81で取得される映像データ、および記憶部82に記憶されている映像データを入力とし、これらの映像データ(原映像データ)に日付等の情報(付加情報)を加える機能を有している。
【0082】
オーサリングシステム100では、オーサリングツール300における画像処理部301によって、原映像データに日付を表す文字等の付加情報を加えた映像データが生成される。このような画像処理部301による付加情報等の特定部分の付加は、例えばアルファブレンディング処理等の半透明処理を用いて行われる。また、オーサリングツール300の属性情報取得部102では、特定部分を有する映像を構成する画面の画素の属性情報が取得される。特定部分が付加された映像データおよび属性情報は、オーサリングツール300から出力され、圧縮符号化部20Aに入力される。
【0083】
圧縮符号化部20Aの属性情報解析部201では、入力される属性情報が解析され、解析結果が圧縮処理部202に出力される。そして、圧縮処理部202では、属性情報の解析結果を反映した上記第1実施形態または第2実施形態と同様の圧縮処理が映像データに対して施され、圧縮映像データが生成される。
【0084】
このように、オーサリングシステム100によって生成される映像を構成する画素の属性情報を用いて、当該映像の映像データに圧縮処理を施すことによれば、映像を構成する画素の属性に適応した圧縮処理を実現することができるので、映像に付加された特定部分の画質が、圧縮処理によって劣化するのを防止することが可能になる。
【0085】
<4.第4実施形態>
次に、本発明の第4実施形態について説明する。上記第1実施形態の画像圧縮装置1Aでは、画像生成部101において半透明処理の施された画像が生成されていたが、第3実施形態の画像圧縮装置1Cでは、画像生成部101においてフェード処理の施された画像が生成される。なお、画像圧縮装置1Cは、第1実施形態に係る画像圧縮装置1Aとほぼ同様の構造および機能を有しており、共通する部分については同じ符号を付して説明を省略する。
【0086】
上述のように、本実施形態の画像圧縮装置1Cでは、画像生成部101(図1参照)においてフェード処理の施された画像が生成される。
【0087】
ここで、フェード処理とは、時系列的に生成される画像において、画像の明るさを時間的に変化させる処理であり、画像を構成する画素の輝度を時間的に変化させることによって実現される。画像圧縮装置1Cの画像生成部101では、当該フェード処理を用いることによって、暗い状態から明るい状態に徐々に変化させるフェード・インされた映像、明るい状態から暗い状態に徐々に変化させるフェード・アウトされた映像、およびフェード・インとフェード・アウトとを組み合わせることによってクロスフェードされた映像を生成することができる。
【0088】
このようなフェード処理は、画像全体に渡って、或いは画像内の或る部分に対して適用可能な処理であり、画像圧縮装置1Cの属性情報取得部102では、フェード処理の施された部分(「フェード部分」とも称する)に関する情報が属性情報として取得される。より詳細には、属性情報取得部102は、画像生成部101で生成された画像を構成する各画素に対するフェード処理の有無を、各画素の属性情報として取得する。
【0089】
当該属性情報は、上記第1実施形態と同様、各画素に割り当てられた属性フラグを用いて、圧縮符号化部20Aに伝送される。
【0090】
圧縮符号化部20Aの属性情報解析部201では、入力された属性情報が解析され、圧縮ブロックがフェード部分を有しているか否かが特定される。圧縮ブロックがフェード部分を有しているか否かについての解析結果は、圧縮処理部202に出力される。
【0091】
圧縮処理部202は、重み付け係数を用いて画像の明るさを予測する重み付け予測手段を有し、圧縮処理部202では、入力された解析結果に基づいて重み付け予測手段を用いた重み付け予測処理の実行制御を行う。具体的には、圧縮ブロックがフェード部分を有しているとの解析結果が入力された場合は、圧縮処理部202は、重み付け予測処理を実行させる。一方、圧縮ブロックがフェード部分を有していないとの解析結果が入力された場合は、圧縮処理部202は、重み付け予測処理を実行させない。
【0092】
このように、画像内のフェード処理の有無を示す属性情報を用いて、当該画像の画像データに圧縮処理を施すことによれば、圧縮処理の際に用いられる重み付け予測処理の実行制御を的確に行うことが可能になるので、画像内の上記特定部分に相当するフェード部分の圧縮処理による画質劣化を防止することができる。
【0093】
<5.変形例>
以上、この発明の実施の形態について説明したが、この発明は、上記に説明した内容に限定されるものではない。
【0094】
例えば、上記各実施形態では、画像生成制御部10で動画像が生成される場合について例示していたが、これに限定されず、静止画像が生成される態様であってもよい。この場合、圧縮符号化部20A,20Bでは、当該静止画像に対して静止画像を構成する画素の属性情報を反映した圧縮処理が施されることになる。
【0095】
また、上記各実施形態では、圧縮ブロックにおける半透明領域の割合に応じて、圧縮ブロックが特殊領域であるか否かを特定していたが、これに限定されず、圧縮ブロック内に半透明処理の施された画素が存在する場合は、当該圧縮ブロックを特殊領域であると特定するようにしてもよい。
【0096】
また、上記各実施形態において、半透明画素の重要度に関する情報(重要度情報)を属性情報に含めてもよい。
【0097】
この場合、属性情報取得部102によって、半透明画素が重要画素であるか否かの重要度情報が属性情報として取得される。なお、半透明画素が重要画素であるか否かは、当該半透明画素が予め重要な領域として設定された半透明領域に含まれるか否か、或いはユーザによって重要な領域として指定された半透明領域に含まれる否かに基づいて判定される。
【0098】
そして、属性情報解析部201は、特殊領域であると特定された圧縮ブロックが、重要な半透明領域を有するか否かを重要度情報に基づいて特定する。
【0099】
そしてさらに、図9に示されるように、圧縮処理部202は、重要な半透明領域を有する特殊領域であると特定された圧縮ブロックに対しては、上述の各特殊領域に対する各動作モード(詳細には、符号発生量制御部220の動作モードおよびイントラ/インター切替部216の動作モード)と同様の動作モードを採用して圧縮処理を施す。一方、圧縮処理部202は、重要な半透明領域を有さない特殊領域(「低重要特殊領域」とも称する)であると特定された圧縮ブロックに対しては、圧縮処理よる劣化が許容されるため、上述の非特殊領域に対する各動作モードと同様の動作モードを採用して圧縮処理を施す。
【0100】
このように、半透明画素の重要度を反映した圧縮処理を行うことによれば、重要な半透明領域を含まない圧縮ブロックに対して、圧縮率の低い圧縮処理が施されることを防止することができる。換言すれば、半透明領域を含む圧縮ブロックの中で、重要な半透明領域を有する圧縮ブロックに対してのみ圧縮率の低い圧縮処理を施すことが可能になり、符号化データの増大を押さえることができる。
【0101】
また、上記各実施形態では、画像生成部101が半透明処理を用いて合成画像を生成する場合を例示したが、これに限定されず、半透明処理を施すことなく単に複数の画像を重ね合わせて合成画像を生成してもよい。このような場合においても、合成された特定部分の情報を用いて、圧縮処理を施すことによれば、特定部分の圧縮処理による画質劣化を防止することが可能になる。
【0102】
また、上記各実施形態の属性情報解析部201は、順次に入力される関連属性情報71の解析結果を内部または外部の記憶手段に記憶させ、過去の解析結果をも用いて属性情報の解析を行ってもよい。具体的には、属性情報解析部201は、圧縮ブロックの種類に関する過去の解析結果を記憶手段に記憶させる。そして、属性情報解析部201は、現在圧縮処理の対象となっている圧縮ブロックが特殊領域であるとの解析結果が得られた場合、過去の解析結果を参照することによって、当該現在の圧縮ブロックに隣接するブロック(隣接ブロック)の中に同様の解析結果を得たブロックが存在するか否かを特定する。
【0103】
同様の解析結果を得た隣接ブロック(すなわち同じ特殊領域の隣接ブロック)が存在した場合、属性情報解析部201は、現在の圧縮ブロックは、他の圧縮ブロックに含まれる半透明領域と連続した半透明領域を有するブロックであると判断して、その付属情報を解析結果として圧縮処理部202に出力する。なお、付属情報には、現在の圧縮ブロックに含まれる半透明領域と連続した半透明領域を有すると予想される他の圧縮ブロックを特定するための情報が含まれている。
【0104】
圧縮処理部202は、上記付属情報が入力された場合、上記他の圧縮ブロックに対して施した圧縮処理と同じ圧縮処理を、現在の圧縮ブロックに対しても施すように動作する。すなわち、イントラ/インター切替部216は、上記他の圧縮ブロックの圧縮処理の際に選択された手法で予測画像を生成するように切替制御を行う。また、符号発生量制御部220は、上記他の圧縮ブロックの圧縮処理の際に用いられた量子化ステップと同様の量子化ステップを導出可能なように量子化パラメータを設定する。
【0105】
このように、変形例に係る圧縮符号化部では、圧縮処理中の現在の圧縮ブロックが所定種類のブロック(ここでは、特殊領域の圧縮ブロック)であると特定された場合に、現在の圧縮ブロックに隣接した圧縮処理済みの過去の圧縮ブロックの中に、同一種類の圧縮ブロックが存在したときは、現在の圧縮ブロックに対して同一種類の圧縮ブロックと同じ圧縮処理が施される。
【0106】
これによれば、現在の圧縮ブロックおよび過去の圧縮ブロックに含まれる連続した半透明領域に対して同じ圧縮処理を施すことができるので、同一の半透明領域内で画質が異なるという不具合を解消することができる。
【符号の説明】
【0107】
1A,1B,1C 画像圧縮装置
10 画像生成制御部
20A,20B 圧縮符号化部
101 画像生成部
102 属性情報取得部
201 属性情報解析部
202 圧縮処理部
214 イントラ予測部
215 インター予測部
216 イントラ/インター切替部
220 符号発生量制御部

【特許請求の範囲】
【請求項1】
第1画像に所定の画像処理を施して、第2画像の画像データを生成する画像生成手段と、
前記第2画像を構成する画素に対して前記所定の画像処理が施されたか否かの情報を、当該画素の属性情報として取得する情報取得手段と、
前記属性情報に基づいて、当該属性情報を反映した圧縮処理を前記第2画像の画像データに施す圧縮符号化手段と、
を備える画像圧縮装置。
【請求項2】
前記圧縮符号化手段は、
前記画像データに基づいて予測画像を出力する予測画像出力手段と、
前記第2画像と前記予測画像との差分に、周波数領域への直交変換を施して変換係数を算出する変換手段と、
前記変換係数に対して、量子化の粗さを示す量子化情報に基づき量子化を行って量子化係数を算出する量子化部と、
前記属性情報を反映して、前記量子化情報を生成する情報生成手段と、
を有する請求項1に記載の画像圧縮装置。
【請求項3】
前記予測画像出力手段は、
前記画像データに基づいて画面内予測を行い、イントラ予測画像を生成するイントラ予測手段と、
前記画像データに基づいて画面間予測を行い、インター予測画像を生成するインター予測手段と、
前記イントラ予測画像および前記インター予測画像のうち、いずれか一方を択一的に選択して、前記予測画像として出力する出力制御手段と、
を含み、
前記出力制御手段は、前記属性情報を反映して前記択一的な選択を行う請求項2に記載の画像圧縮装置。
【請求項4】
前記圧縮処理は、前記第2画像を分割して得られるブロックごとに行われ、
前記圧縮符号化手段は、
前記ブロックに関連する前記属性情報に基づいて、前記ブロックの種類を特定する特定手段、
を有し、
前記圧縮符号化手段は、
前記特定手段によって圧縮処理中の圧縮ブロックが所定種類のブロックであると特定された場合に、前記圧縮ブロックに隣接した圧縮処理済みのブロックの中に、同一種類のブロックが存在したときは、前記圧縮ブロックに対して前記同一種類のブロックと同じ圧縮処理を施す請求項1から請求項3のいずれかに記載の画像圧縮装置。
【請求項5】
前記所定の画像処理は、半透明処理である請求項1から請求項4のいずれかに記載の画像圧縮装置。
【請求項6】
前記所定の画像処理は、フェード処理である請求項1から請求項4のいずれかに記載の画像圧縮装置。
【請求項7】
第1映像に所定の画像処理を施して、第2映像を生成する画像処理手段と、
前記第2映像を構成する画面の画素に対して前記所定の画像処理が施されたか否かの情報を、当該画素の属性情報として取得する情報取得手段と、
前記属性情報に基づいて、当該属性情報を反映した圧縮処理を前記第2映像の映像データに施す圧縮符号化手段と、
を備えるオーサリングシステム。
【請求項8】
a)第1画像に所定の画像処理を施して、第2画像の画像データを生成する工程と、
b)前記第2画像を構成する画素に対して前記所定の画像処理が施されたか否かの情報を、当該画素の属性情報として取得する工程と、
c)前記属性情報に基づいて、当該属性情報を反映した圧縮処理を前記第2画像の画像データに施す工程と、
を備える画像圧縮方法。

【図1】
image rotate

【図3】
image rotate

【図4】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図2】
image rotate

【図5】
image rotate