復号装置および方法
【課題】加工処理が含まれる場合の復号処理の高速化を図ることができるようにする。
【解決手段】タイムライン情報においては、入力イメージAにおいて、ハッチング部分に対して、拡大のアフィン変換が指示されているので、入力イメージAにおけるハッチング部分がイメージ全体に拡大された出力イメージBが算出される。処理内容判定部は、算出された出力イメージBから入力イメージAにおけるハッチング部分が有効エリアであると、逆写像により求めることができ、ハッチング部分以外の領域が簡易復号処理を行っても影響がない(少ない)エリアであることを判定することができる。本発明は、例えば、符号化されたビットストリームを復号する画像復号装置に適用することができる。
【解決手段】タイムライン情報においては、入力イメージAにおいて、ハッチング部分に対して、拡大のアフィン変換が指示されているので、入力イメージAにおけるハッチング部分がイメージ全体に拡大された出力イメージBが算出される。処理内容判定部は、算出された出力イメージBから入力イメージAにおけるハッチング部分が有効エリアであると、逆写像により求めることができ、ハッチング部分以外の領域が簡易復号処理を行っても影響がない(少ない)エリアであることを判定することができる。本発明は、例えば、符号化されたビットストリームを復号する画像復号装置に適用することができる。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は復号装置および方法に関し、特に、加工処理が含まれる場合の復号処理の高速化を図ることができるようにした復号装置および方法に関する。
【背景技術】
【0002】
従来、加工によって最終的に利用されないデータ(部分、チャンネルなど)に対しても復号され、格納され、転送されて、加工処理が行われていた。
【0003】
その際、プレビュー画像を処理する際などに、簡易復号処理によって処理速度の向上を図る技術がある。また、ビットストリームを解析した結果取得できるパラメータを、再符号化時に利用することで、符号化処理のための画像の解析処理をスキップし、符号化処理を高速化する「パラメータエンコード」という技術もある(特許文献1参照)。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2005−252949号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、簡易復号処理の結果の画質劣化を原因として、加工結果のデータを保存する場合には、従来からある簡易復号処理は採用されにくかった。
【0006】
また、従来のパラメータエンコードにおいては、加工(エフェクトやトランジション)が入ると、適用することが困難であった。
【0007】
本発明は、このような状況に鑑みてなされたものであり、加工処理が含まれる場合の復号処理の高速化を図ることができるものである。
【課題を解決するための手段】
【0008】
本発明の一側面の復号装置は、ビットストリームを加工する際の加工情報に基づき、加工素材であるビットストリームに対して、簡易復号処理を行っても出力画像の表示に対して影響が少ないまたは影響がないエリアを決定する処理内容決定手段と、前記処理内容決定手段により決定されたエリアに対して前記簡易復号処理を行う復号手段とを備える。
【0009】
前記処理内容決定手段は、コーデックの依存関係に基づいて、前記簡易復号処理が有効であると判定した場合に、前記エリアに対しての前記簡易復号処理を、前記復号手段に行わせることができる。
【0010】
前記処理内容決定手段により決定されたエリアに基づいて、前記ビットストリームの符号化パラメータをマージまたは変換することで、加工後のデータの符号化パラメータを生成するパラメータ変換手段をさらに備えることができる。
【0011】
前記エリアは、フレーム全体またはフレーム内における部分領域である。
【0012】
前記簡易復号処理は、フレームドロップ、デブロッキングの省略、フレーム内の部分復号、および一部のチャンネルのみの復号のうちの少なくとも1つである。
【0013】
本発明の一側面の復号方法は、処理内容決定手段と、復号手段とを備える復号装置の復号方法において、前記処理内容決定手段が、ビットストリームを加工する際の加工情報に基づき、加工素材であるビットストリームに対して、簡易復号処理を行っても出力画像の表示に対して影響が少ないまたは影響がないエリアを決定し、前記復号手段が、決定されたエリアに対して前記簡易復号処理を行う。
【0014】
本発明の一側面においては、ビットストリームを加工する際の加工情報に基づき、加工素材であるビットストリームに対して、簡易復号処理を行っても出力画像の表示に対して影響が少ないまたは影響がないエリアが決定され、決定されたエリアに対して前記簡易復号処理が行われる。
【0015】
なお、上述の復号装置は、独立した装置であっても良いし、1つの復号装置を構成している内部ブロックであってもよい。
【発明の効果】
【0016】
本発明の一側面によれば、加工処理が含まれる場合の復号処理の高速化を図ることができる。また、本発明の一側面によれば、簡易復号による復号処理の高速化を図るとともに、画像劣化による再生品質の低下を抑制することができることができる。
【図面の簡単な説明】
【0017】
【図1】本発明を適用した画像復号装置の一実施の形態の構成を示すブロック図である。
【図2】フレーム内の部分復号処理を説明する図である。
【図3】エフェクト処理とトランジション処理における入力イメージと出力イメージの例を示す図である。
【図4】有効エリアの決定方法について説明する図である。
【図5】エフェクト処理が拡大のアフィン変換である場合の有効エリアの決定処理例を説明する図である。
【図6】トランジション処理がクロスフェードである場合の有効エリアの決定処理例を説明する図である。
【図7】トランジション処理がワイプである場合の処理例を有効エリアの決定処理を説明する図である。
【図8】エフェクト処理が字幕やテロップの場合のパラメータ変換例を説明する図である。
【図9】トランジション処理がワイプである場合のパラメータ変換例を説明する図である。
【図10】画像復号装置の処理を説明するフローチャートである。
【図11】図10のステップS11の処理内容判定処理を説明するフローチャートである。
【図12】コンピュータのハードウエアの構成例を示すブロック図である。
【発明を実施するための形態】
【0018】
以下、図を参照して本発明の実施の形態について説明する。
【0019】
[画像復号装置の構成例]
図1は、本発明を適用した画像復号装置の一実施の形態の構成を表している。
【0020】
この画像復号装置11は、符号化されたビットストリームを復号して加工し、加工後の画像を表示したり、再符号化する。画像復号装置11において、加工処理としては、エフェクト処理やトランジション処理がなされる。
【0021】
図1の例において、画像復号装置11は、処理内容判定部21、制御部22、復号部23−1および23−2、エフェクト処理部24−1および24−2、トランジション処理部25、パラメータ変換部26、符号化部27、表示部28、並びに格納部29−1乃至29−5により構成される。なお、図において、太い白矢印は、タイムライン情報、太い黒矢印は、ファイルのインプットまたはアウトプット、点線矢印は制御情報、実線矢印は、データ転送の流れをそれぞれ表している。
【0022】
画像復号装置11においては、図示せぬ操作入力部などから入力された(または、記憶部などに記憶されている)ユーザによる編集加工時のタイムライン情報が処理内容判定部21および制御部22に入力される。タイムライン情報は、ビットストリームを加工する際の編集や加工情報である。また、編集加工時には、図示せぬ画像符号化装置または記憶部などから復号部23−1および復号部23−2に、ファイルとして、符号化されているビットストリームが入力される。
【0023】
処理内容判定部21は、タイムライン情報を受け取り、受け取ったタイムライン情報に基づいて、出力結果に反映される画像、すなわち、入力イメージにおける有効エリア(有効領域)を逆写像により算出し、決定する。
【0024】
逆写像とは、一般的に、写像f:X→Y が任意のXからYの上への1対1の写像ならば、逆に、Yのおのおのの元yに対して、Xのただ1つの元xが対応し、写像Y→Xが定まり、この写像を、fの逆写像といい、f-1で表わされることを言う。ただし、ここでは、入力イメージ(画像)から出力イメージを作成する順方向の処理を写像として、出力イメージから入力イメージを対応付けすることを、逆写像として用いる。
【0025】
処理内容判定部21は、決定した有効エリアに基づいて、有効ではないエリア、すなわち、簡易復号処理を行っても影響が少ないエリアに対して、簡易復号処理することを設定する。また、処理内容判定部21は、有効なエリアに対しては、簡易ではない復号処理を行うように設定する。なお、このエリアには、フレーム全体の意も含まれるし、フレームにおける一部のチャンネルや、フレームにおける一部の領域の意も含まれるものとする。
【0026】
ここで、簡易復号処理とは、フレームまたはフィールドドロップ、復号処理におけるデブロッキング(Deblocking)の省略、簡易動き補償(MC:Motion compensation)、特定のチャンネルのみの復号処理、およびフレーム内の部分復号処理などがあげられる。
【0027】
フレーム内の部分復号処理とは、図2に示されるように、フレームにおいて、利用する部分以外は、復号しない処理のことをいう。通常の復号処理においては、フレームの中央部に、図2に示されるような利用する部分があったとしても、フレーム全体のマクロブロックが復号される。これに対して、フレーム内の部分復号処理においては、フレームの中央部の利用する部分が含まれるマクロブロックより、復号順が後のハッチングされているマクロブロックは、その利用する部分の復号に必要のないマクロブロックであるので、復号されない。
【0028】
すなわち、上述のように、通常の復号処理から工程を省略したり、簡単にしたり、範囲を限定するなどの復号処理を総称して、簡易復号処理という。そして、処理内容判定部21においては、これらの簡易復号処理の中から、有効ではないエリア、すなわち、簡易復号処理を行っても出力画像の表示に対して影響が少ないエリアに対してそのエリアに応じた簡易復号処理を行うように設定される。なお、この設定基準としては、コーディックの依存関係や簡易復号処理をしても目立ちにくいか否かが用いられる。
【0029】
さらに、処理内容判定部21は、決定した有効エリアに基づいて、復号部23−1および23−2から得られる符号化パラメータを、再利用(再符号化)できるように、そのパラメータのマージまたは変換を設定する。なお、以下、パラメータの変換と適宜称するが、その変換には、マージも含むものとする。
【0030】
すなわち、処理内容判定部21においては、有効エリア決定処理が行われ、その決定結果である有効エリアに応じて、復号処理内容の設定や符号化パラメータ変換内容の設定処理が行われる。
【0031】
処理内容判定部21により決定されたエリア、復号方法、およびパラメータの変換の設定の各情報、すなわち、処理内容の情報は、タイムライン情報に加えて、制御部22に供給される。
【0032】
制御部22は、入力されたタイムライン情報および処理内容判定部21からの処理内容の情報が加わったタイムライン情報に基づいて、復号部23−1および復号部23−2、エフェクト処理部24−1および24−2、トランジション処理部25、およびパラメータ変換部26を制御する。
【0033】
復号部23−1および23−2は、それぞれ、符号化されているビットストリームを受け取ると、符号化されているビットストリームから取得されるパラメータ(符号化パラメータ)を、そのままパラメータ変換部26に出力する。
【0034】
また、復号部23−1および23−2は、受け取ったビットストリームに対して、制御部22の制御のもと、所定の復号処理を行い、復号されたデータを、格納部29−1および29−2にそれぞれ出力する。
【0035】
エフェクト処理部24−1および24−2は、それぞれ、格納部29−1および29−2から入力されるデータを受け取り、制御部22の制御のもと、受け取ったデータに対してエフェクト処理を行う。エフェクト処理部24−1および24−2は、エフェクト処理を行った結果のデータを、格納部29−3および29−4にそれぞれ出力する。
【0036】
トランジション処理部25は、格納部29−3および29−4から入力されるデータを受け取り、制御部22の制御のもと、受け取ったデータに対してトランジット処理を行う。トランジション処理部25は、トランジット処理を行った結果のデータ(すなわち、加工後のデータ)を、格納部29−5に出力する。
【0037】
パラメータ変換部26は、復号部23−1および23−2からの符号化パラメータを受け取り、受け取った符号化パラメータに対して、制御部22の制御のもと、マージや変換して、それを符号化部27に供給して、符号化部27に再利用させる。また、再利用できないパラメータに関しては、パラメータ変換部26は、符号化パラメータの生成指示をその符号化パラメータに含ませることで符号化部27に指示する。
【0038】
符号化部27は、格納部29−5から入力される加工後のデータを受け取り、パラメータ変換部26からの符号化パラメータに応じて、受け取った加工後のデータを符号化し、ファイルとして出力する。その際、符号化部27は、パラメータ変換部26からの符号化パラメータにパラメータ生成指示がある場合にはその部分の符号化パラメータを生成し、パラメータ生成指示に、生成した符号化パラメータを上書きして、符号化された加工後のデータのヘッダに付加する。
【0039】
表示部28は、格納部29−5からの加工後のデータに対応する画像を表示する。
【0040】
格納部29−1乃至29−5は、それぞれ、入力されたデータを格納し、必要に応じて、後段へ出力する。なお、格納部29−5は、加工後のデータの処理に応じて、対応するデータを、符号化部27および表示部28の少なくとも一方へ出力する。また、格納部29−5は、トランジション処理の結果を下地にして、さらにエフェクト処理が行われる場合には、加工後のデータを、再度、エフェクト処理部24−2へ出力する。
【0041】
なお、以下、復号部23−1および23−2を個々に区別する必要がない場合、単に復号部23と称し、エフェクト処理部24−1および24−2を個々に区別する必要がない場合、単にエフェクト処理部24と称する。
【0042】
また、図1の例においては、復号部23とエフェクト処理部24を2つずつ構成する例を説明したが、台数は2つに限定されない。例えば、編集加工するビットストリームの数に応じた台数の復号部23とエフェクト処理部24の構成にすることも可能である。
【0043】
[有効エリア決定処理の説明]
次に、処理内容判定部21が行う処理内容判定処理における有効エリア決定処理について具体的に説明する。
【0044】
まず、図3を参照して、エフェクト処理部24とトランジション処理部25における入力イメージと出力イメージについて説明する。
【0045】
エフェクト処理部24は、入力したイメージAのフレームを用いてエフェクト処理を行い、エフェクト処理が施されたイメージA´のフレームを出力する。すなわち、エフェクト処理は、1つの入力に対して、1つの結果を出力する処理である。このようなエフェクト処理には、例えば、フレーム内における拡大や縮小、移動などのアフィン(Affine)変換や特定のチャンネルだけを処理するセピア(Sepia)処理が含まれる。また、アフィン変換は、縮小や移動などを伴うため、下地の情報(単色もしくは画像)の上にイメージAのアフィン変換後の像を出力する場合もある。
【0046】
これに対して、トランジション処理部25は、下段に示されるように、入力したイメージAのフレームとイメージBのフレームを用いてトランジション処理を行い、トランジション処理が施されたイメージCのフレームを出力する。すなわち、トランジション処理は、2つ(複数)の入力に対して、1つの結果を出力する処理である。このようなトランジション処理には、例えば、マスク(Mask)処理やクロスフェード(Cross Fade)処理が含まれる。
【0047】
このようなエフェクト処理やトランジション処理においては、そのパラメータ(タイムラン情報)により、出力側のフレームにおける有効エリアが制限される場合がある。
【0048】
例えば、拡大を行うアフィン変換処理においては、入力フレーム内の一部のみが出力として反映される。マスク処理が行われて、マスクが適用されている場合には、そのマスクによって、フレーム毎に有効エリアが定義される。
【0049】
また、出力側の有効エリアが定義されないエフェクト処理またはトランジション処理の場合における出力側の有効エリアの入力側への対応付けとしては、例えば、アフィン変換であれば、出力の有効エリアの逆写像で対応付けを行うことが可能である。あるいは、その他の例としては、1対1で対応付けを行うことも可能である。
【0050】
すなわち、処理内容判定部21においては、タイムライン情報を参照することで、上述したようなエフェクト処理やトランジション処理の内容がわかるので、出力イメージを算出することができる。したがって、それらの処理を逆順にさかのぼることで、順次有効エリアを導出し、最終的に、入力イメージ上の有効エリアを導出し、決定することが可能となる。
【0051】
例えば、図4に示される処理がタイムライン情報に示されている場合を考える。すなわち、イメージAのフレームに対しては、エフェクト処理部24により、拡大のアフィン変換が行われ、その結果、イメージAの一部領域A´が拡大されたイメージA´のフレームが生成される。そして、イメージA´のフレームが、トランジション処理部25により、イメージA´の一部領域A″以外にマスク処理が施される。
【0052】
また、イメージBのフレームに対しては、トランジション処理部25により、一部領域B´以外にマスク処理が施される。そして、トランジション処理部25においては、さらに、一部領域A″以外にマスク処理がされたイメージと一部領域B´以外にマスク処理がされたイメージが他のイメージ上に合成されたイメージCのフレームが生成される。
【0053】
すなわち、処理内容判定部21においては、タイムライン情報を参照することで、図4のように、一部領域A″と一部領域B´が他の画像上に合成されるイメージCが出力イメージとして算出される。
【0054】
したがって、処理内容判定部21は、算出された出力イメージCから、トランジション処理部25に入力されるイメージBのフレームにおいて、一部領域B´がマスクによる有効エリアであることを導出し、決定することができる。
【0055】
これにより、処理内容判定部21は、イメージBのフレーム上の一部領域B´以外の領域(ハッチング部分)が出力画像の表示に対して簡易復号処理を行っても影響が少ない、あるいは、影響がないエリアであることを決定することができる。
【0056】
また、処理内容判定部21は、算出された出力イメージCから、トランジション処理部25に入力されるイメージA´のフレームにおいて、一部領域A″がマスクによる有効領域であることを導出することができる。すなわち、イメージA´において、一部領域A″以外の領域(ハッチング部分)が有効ではない領域とされる。さらに、処理内容判定部21は、エフェクト処理部24からの出力イメージA´から、アフィン変換の逆写像によって、エフェクト処理部24に入力されるフレームAにおいて、一部領域A″が有効エリアであることを導出し、決定することができる。
【0057】
これにより、処理内容判定部21は、フレームA上の一部領域A″以外の領域(ハッチング部分)が簡易復号処理を行っても出力画像の表示に対して影響が少ない、あるいは、影響がないエリアであることを決定することができる。
【0058】
さらに、図5乃至図7を参照して、エフェクト処理またはトランジション処理の処理例毎に詳しく説明する。
【0059】
図5は、エフェクト処理が拡大のアフィン変換である例を説明する図である。左側は入力イメージを表し、右側は出力イメージを表している。例えば、タイムライン情報においては、入力イメージAにおいて、ハッチング部分に対して、拡大のアフィン変換が指示されているので、その結果、入力イメージAにおけるハッチング部分がイメージ全体に拡大された出力イメージBが算出される。
【0060】
したがって、処理内容判定部21は、算出された出力イメージBから入力イメージAにおけるハッチング部分が有効エリアであると、逆写像により求め、決定することができる。これにより、ハッチング部分以外の領域が簡易復号処理を行っても影響が少ない、あるいは、影響がないエリアであることを決定することができる。
【0061】
その結果に基づいて、画像復号装置11においては、例えば、影響が少ない、あるいは影響がないエリアを復号しないという、簡易復号処理を行うことで、不要な復号処理を行うことが抑制され、処理時間を短くすることができる。
【0062】
なお、縮小のアフィン変換を行う場合には、縮小率に応じて、簡易復号処理を行うか否かや、その簡易復号処理の方法を選択することもできるので、従来のように、単に簡易復号処理を行った場合の画質劣化が目立つことを抑えることができる。
【0063】
図6は、トランジション処理がクロスフェードである例を説明する図である。左側は入力イメージを表し、右側は出力イメージを表している。例えば、タイムライン情報においは、入力イメージAを透過度αで、入力イメージBを透過度(1−α)でブレンドすることが指示されているので、その結果の出力イメージCが算出される。
【0064】
この例の場合、処理内容判定部21は、算出された出力イメージCから、α >> 1−αの状態のときに、イメージA側が有効エリアであることを、逆写像により求め、決定することができる。これにより、処理内容判定部21は、イメージB側が簡易復号処理を行っても影響が少ない、あるいは、影響がないエリアであることを決定することができる。
【0065】
逆に、α << 1−αの状態のときに、イメージB側が有効エリアであり、逆写像により求め、決定することができる。これにより、イメージA側が簡易復号処理を行っても影響が少ない、あるいは、影響がないエリアであることを決定することができる。
【0066】
その結果に基づいて、画像復号装置11においては、例えば、影響が少ない、あるいは影響がないエリアに対して、復号処理を省くような簡易復号処理を行うことができる。これにより、従来のように、単に簡易復号処理を行った場合の画質劣化やフレームドロップによる劣化の目立ちを抑えることができる。
【0067】
図7は、トランジション処理がワイプである例を説明する図である。左側は入力イメージを表し、右側は出力イメージを表している。例えば、タイムライン情報においては、入力イメージAにおける表示される部分、入力イメージBにおける表示される部分、および対応する時間情報がトランジションのパラメータとして指示されているので、その結果の出力イメージCが算出される。
【0068】
したがって、処理内容判定部21は、算出された出力イメージCから、入力イメージAにおけるハッチング部分と、入力イメージBにおけるハッチング部分とが有効エリアであることを、逆写像により求め、決定することができる。これにより、ハッチング部分以外の領域が簡易復号処理を行っても影響が少ない、あるいは、影響がないエリアであることを決定することができる。
【0069】
その結果に基づいて、画像復号装置11においては、簡易復号処理としては、例えば、表示されないエリア(ハッチング部分以外のエリア)の復号を極力行わない方法が用いられる。なお、極力とは、他から参照されるまたは復号処理結果が伝搬される場合には、正しく、または他の簡易復号方法で復号される。
【0070】
以上のように、画像復号装置11においては、タイムライン情報に基づいて、入力イメージにおいて簡易復号処理を行っても出力画像の表示に対して影響が少ない、あるいは、影響がないエリアを決定し、そのエリアに対して簡易復号処理を行うようにした。
【0071】
これにより、処理の時間を短縮するとともに、出力結果の劣化を抑制することができる。
【0072】
[符号化パラメータ設定処理の説明]
次に、処理内容判定部21が行う処理内容判定処理における符号化パラメータ設定処理について具体的に説明する。
【0073】
図8は、エフェクト処理がそのイメージにテキスト(字幕やテロップ)を入れる場合の例を説明する図である。
【0074】
図8の例においては、四角で示される複数のマクロブロックでなるフレームが示されている。このフレームにおいて、ハッチングがなされた領域には、エフェクト処理により、テキストが上書きされる。
【0075】
したがって、処理内容判定部21は、この領域以外のマクロブロックについては、復号部23に入力されるビットストリーム(素材)から得られる符号化パラメータをそのまま利用するように設定する。また、処理内容判定部21は、ハッチングがなされた領域にかかるマクロブロックについては、このテキストを保護するために、素材から得られる符号化パラメータを変換させるように、パラメータ変換部26の処理内容を設定する。
【0076】
例えば、この場合、イントラマクロブロック(イントラ符号化)にしたり、または、量子化パラメータを下げるように、例えば、予測モードや量子化パラメータ値を変更するなど、符号化パラメータの値を変換するように、処理内容が設定される。
【0077】
この設定内容に応じて、パラメータ変換部26は、予測モードや量子化パラメータ値を変更するなど、パラメータ変換を行い、変換した符号化パラメータを符号化部27に供給する。このパラメータ変換部26からの符号化パラメータに基づいて、符号化部27は、加工後のデータを符号化する。
【0078】
図9は、トランジション処理がワイプの場合の例を説明する図である。例えば、素材Aのフレームと素材Bのフレームをワイプさせる場合を考える。
【0079】
図9の例においては、四角で示される複数のマクロブロックでなるフレームが示されている。このフレームにおいて、濃いハッチングがなされた領域は、素材Aのマクロブロックであり、これらのマクロブロックにおいては、素材Aの符号化パラメータをそのまま利用することが可能である。薄いハッチングがなされた領域は、素材Bのマクロブロックであり、これらのマクロブロックにおいては、素材Bの符号化パラメータをそのまま利用することが可能である。
【0080】
一方、白い領域は、素材Aと素材Bがマージされた領域のマクロブロックであり、どちらの素材も利用することができない。
【0081】
したがって、処理内容判定部21は、ハッチングがなされた領域にかかるマクロブロックについては、素材から得られる符号化パラメータを利用して、マージするように設定する。一方、処理内容判定部21は、白い領域にかかるマクロブロックについては、素材から得られる符号化パラメータを利用させないように設定する。
【0082】
これに対応して、パラメータ変換部26は、白い領域にかかるマクロブロックの符号化パラメータに符号化部27に対する符号化パラメータ生成の指示が含ませる変換を行って、ハッチングがなされた領域にかかるマクロブロックの符号化パラメータとマージする。このパラメータ変換部26からの符号化パラメータに基づいて、符号化部27は、加工後のデータを符号化するとともに、必要な(白い領域にかかるマクロブロック)の符号化パラメータを生成し、パラメータ変換部26からの符号化パラメータに上書きする。
【0083】
以上のように、編集加工に用いられないマクロブロックについては、素材から得られる符号化パラメータを利用するようにしたり、編集加工に用いられるマクロブロックであっても、素材から得られる符号化パラメータを利用できる場合には、変換などを行うようにした。これにより、わざわざ、符号化に必要なパラメータを生成する手間が省け、編集加工の際の再符号化を高速に処理することができる。
【0084】
なお、上記説明においては、テキストを入れる場合やワイプの例の場合を説明したが、もちろん、他のエフェクト処理であっても、同様に処理することができる。例えば、トランジション処理が、フェードイン、フェードアウト、クロスフェードの場合は、次のように、符号化パラメータを利用することができる。
【0085】
すなわち、ブレンドの強度(α)として、出力の画素値=Aの画素値×α+Bの画素値×(1−α)とすると、処理内容判定部21は、αが1に近いとき、Aの符号化パラメータをそのまま利用し、αが0に近いとき、Bの符号化パラメータをそのまま利用するように設定する。その他、フェード部分については、処理内容判定部21は、ビット割り当てを増やして画質を保護するように設定する。
【0086】
[画像復号装置の処理]
次に、図10のフローチャートを参照して、図1の画像復号装置11が行う処理であって、符号化されたビットストリームに対して編集加工処理を行い、再び符号化する処理について説明する。
【0087】
図示せぬ操作入力部などから入力されたユーザによる指示に応じて、編集加工時のタイムライン情報が処理内容判定部21および制御部22に入力され、復号部23−1および復号部23−2に、ファイルとして、符号化されているビットストリームが入力される。
【0088】
処理内容判定部21は、タイムライン情報を受け取り、受け取ったタイムライン情報に基づき、ステップS11において、画像復号装置11の各部の処理内容判定処理を実行する。この処理内容判定処理の詳細については、図11を参照して後述される。
【0089】
ステップS11の処理により、有効エリアが判定されて、その判定結果に応じて復号処理や符号化パラメータ変換の処理内容が設定される。処理内容判定部21により設定されたエリア、復号方法、およびパラメータの変換の設定の各情報、すなわち、処理内容の情報は、タイムライン情報に加えられて、制御部22に供給される。
【0090】
制御部22は、ステップS12において、nを1と(初期化)し、ステップS13において、復号部23を制御し、処理内容判定部21により設定された復号方法で、入力されたビットストリームに対して、復号処理を行わせる。例えば、図5乃至図7を参照して上述したように、入力イメージにおいて簡易復号処理を行っても影響が少ない、あるいは、影響がないエリアには、簡易復号処理が行われる。復号部23は、復号処理を行い、復号されたデータを、格納部29−1および29−2にそれぞれ出力するとともに、符号化されているビットストリームから取得されるパラメータ(符号化パラメータ)を、そのままパラメータ変換部26に出力する。
【0091】
制御部22は、ステップS14において、エフェクト処理部24およびトランジション処理部25を制御し、タイムライン情報に基づいて、入力されたデータに対して、加工処理を行わせる。
【0092】
すなわち、エフェクト処理部24−1および24−2は、それぞれ、格納部29−1および29−2から入力されるデータを受け取り、制御部22の制御のもと、受け取ったデータに対してエフェクト処理を行う。エフェクト処理部24−1および24−2は、エフェクト処理を行った結果のデータを、格納部29−3および29−4にそれぞれ出力する。トランジション処理部25は、格納部29−3および29−4から入力されるデータを受け取り、制御部22の制御のもと、受け取ったデータに対してトランジット処理を行う。トランジション処理部25は、トランジット処理を行った結果のデータ(すなわち、加工後のデータ)を、格納部29−5に出力する。
【0093】
制御部22は、ステップS15において、パラメータ変換部26を制御し、処理内容判定部21により設定されたパラメータ変換方法で、復号部23から入力されたパラメータ変換を行わせる。例えば、図8や図9を参照して上述したようなパラメータ変換がなされる。
【0094】
パラメータ変換部26は、復号部23−1および23−2から受け取った符号化パラメータに対して、制御部22の制御のもと、そのまま、あるいは、マージや変換して、それを符号化部27に供給して、符号化部27に再利用させる。また、再利用できないパラメータに関しては、パラメータ変換部26は、符号化パラメータの生成指示をその符号化パラメータに含ませることで符号化部27に指示する。
【0095】
符号化部27は、格納部29−5から入力される加工後のデータを受け取り、ステップS16において、パラメータ変換部26からの符号化パラメータに応じて、受け取った加工後のデータを符号化し、ファイルとして出力する。その際、符号化部27は、パラメータ変換部26からの符号化パラメータにパラメータ生成指示がある場合にはその部分の符号化パラメータを生成し、パラメータ生成指示に、生成した符号化パラメータを上書きして、符号化された加工後のデータのヘッダに付加する。
【0096】
制御部22は、ステップS17において、nを1つ加算し、ステップS18において、nが最後のフレーム番号(Last Frame No.)よりも大きいか否かを判定する。ステップS18において、nが最後のフレーム番号より大きくないと判定された場合、処理は、ステップS13に戻り、それ以降の処理が繰り返される。
【0097】
また、ステップS18において、最後のフレーム番号より大きいと判定された場合、画像復号装置11の処理は終了される。
【0098】
[画像復号装置の処理内容判定処理]
次に、図11のフローチャートを参照して、図10のステップS11における処理内容判定処理について説明する。
【0099】
処理内容判定部21は、タイムライン情報を受け取ると、ステップS31において、nを1と(初期化)し、ステップS32において、受け取ったライムライン情報に基づいて、出力に使われる入力データ(有効エリア)を算出する。図4などを参照して上述したように、逆写像などが用いられて有効エリアが算出される。
【0100】
処理内容判定部21は、ステップS33において、タイムライン情報と、算出した有効エリアにも基づいて、フレームにおける領域限定、またはチャンネル限定が可能であるか否かを判定する。ステップS33において、フレームにおける領域限定、またはチャンネル限定が可能であると判定された場合、処理は、ステップS34に進む。
【0101】
ステップS34において、処理内容判定部21は、番号がn(いまの場合、1)のフレームの部分復号を設定する。例えば、フレームにおける領域限定が可能な場合には、1のフレームにおいて領域の部分復号が設定され、チャンネル限定が可能な場合には、1のフレームにおいてチャンネルの部分復号が設定される。なお、部分復号の場合には、品質の劣化には直接関係しないので、後述するステップS37やS39のような判定は省略される。
【0102】
ステップS33において、領域およびチャンネル限定が可能ではないと判定された場合、ステップS34の処理はスキップされ、処理は、ステップS35に進む。
【0103】
ステップS35において、処理内容判定部21は、コーデックの依存関係などを参照して、例えば、部分復号以外の簡易復号が有効であるか否かを判定する。ステップS35において、簡易復号が有効であると判定された場合、処理は、ステップS36に進む。
【0104】
処理内容判定部21は、ステップS36において、タイムライン情報から、nフレームに対するエフェクト(トランジション含む)の種類、エフェクトのパラメータをチェックし、ステップS37において、そのフレームをフレームドロップしても目立ちにくいか否かを判定する。すなわち、ここでは、フレームドロップなどの時間方向の簡易復号による影響が判定される。ステップS37において、フレームドロップしても目立ちにくいと判定された場合、処理は、ステップS38に進む。
【0105】
ステップS38において、処理内容判定部21は、nフレームは、コピーすることに設定する。すなわち、nフレームは、復号処理無しで、フレームドロップの対象として設定される。その後、処理は、ステップS41に進む。
【0106】
また、ステップS37において、フレームドロップすると目立ってしまうと判定された場合、処理は、ステップS39に進む。ステップS39において、処理内容判定部21は、nフレームに対して、簡易復号しても目立ちにくいか否かを判定する。すなわち、ここでは、例えば、デブロッキングの省略など、画面内、空間方向の簡易復号による影響が判定される。ステップS39において、nフレームに対して、簡易復号しても目立ちにくいと判定された場合、処理は、ステップS40に進む。ステップS40において、処理内容判定部21は、nフレームに対して、例えば、デブロッキングの省略などの簡易復号モードを設定する。その後、処理は、ステップS41に進む。
【0107】
一方、ステップS35において、簡易復号が有効ではないと判定された場合、ステップS36乃至S40の処理はスキップされ、処理は、ステップS41に進む。また、ステップS39において、簡易復号すると目立ちやすいと判定された場合も、処理は、ステップS41に進む。
【0108】
ステップS41において、処理内容判定部21は、算出した有効エリアやタイムライン情報に基づいて、例えば、図8または図9で上述したように、符号化パラメータの変換またはマージを設定する。そして、処理内容判定部21は、これら設定したエリア、復号方法、およびパラメータの変換の設定の各情報、すなわち、処理内容の情報を、タイムライン情報に加えて、制御部22に供給する。
【0109】
ステップS41において、処理内容判定部21は、nを1つ加算し、ステップS42において、nが最後のフレーム番号(Last Frame No.)よりも大きいか否かを判定する。ステップS42において、nが最後のフレーム番号より大きくないと判定された場合、処理は、ステップS32に戻り、それ以降の処理が繰り返される。
【0110】
また、ステップS42において、最後のフレーム番号より大きいと判定された場合、処理内容判定処理は終了される。
【0111】
以上のように、画像復号装置11においては、出力に使われる入力データの有効領域を算出し、それに基づいて、簡易復号処理を設定するようにしたので、加工および転送の処理量の減少による高速化を図ることができる。また、目立たない部分に簡易復号を用いることにより、簡易復号による復号処理の高速化を図るとともに、画像劣化による再生品質の低下を抑制することができる。
【0112】
さらに、画像復号装置11においては、算出した有効領域に基づいて、元データの符号化パラメータをそのまま用いたり、パラメータ変換やマージをすることにより再利用するようにしたので、符号化処理を削減することができ、それにより、処理を高速化することができる。
【0113】
例えば、画像復号装置11においては、符号化方式としてH.264/AVC方式やMPEG2を用いられるが、本発明はこれに限らず、その他の符号化方式/復号方式を適用することができる。
【0114】
なお、本発明は、例えば、MPEG、H.26x等の様に、離散コサイン変換等の直交変換と動き補償によって圧縮された画像情報(ビットストリーム)を、衛星放送、ケーブルテレビジョン、インターネット、または携帯電話機などのネットワークメディアを介して受信する際に用いられる画像符号化装置および画像復号装置に適用することができる。また、本発明は、光、磁気ディスク、およびフラッシュメモリのような記憶メディア上で処理する際に用いられる画像符号化装置および画像復号装置に適用することができる。さらに、本発明は、それらの画像符号化装置および画像復号装置などに含まれる動き予測補償装置にも適用することができる。
【0115】
上述した一連の処理は、ハードウエアにより実行することもできるし、ソフトウエアにより実行することもできる。一連の処理をソフトウエアにより実行する場合には、そのソフトウエアを構成するプログラムが、コンピュータにインストールされる。ここで、コンピュータには、専用のハードウエアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な汎用のパーソナルコンピュータなどが含まれる。
【0116】
[パーソナルコンピュータの構成例]
図12は、上述した一連の処理をプログラムにより実行するコンピュータのハードウエアの構成例を示すブロック図である。
【0117】
コンピュータにおいて、CPU(Central Processing Unit)101、ROM(Read Only Memory)102、RAM(Random Access Memory)103は、バス104により相互に接続されている。
【0118】
バス104には、さらに、入出力インタフェース105が接続されている。入出力インタフェース105には、入力部106、出力部107、記憶部108、通信部109、およびドライブ110が接続されている。
【0119】
入力部106は、キーボード、マウス、マイクロホンなどよりなる。出力部107は、ディスプレイ、スピーカなどよりなる。記憶部108は、ハードディスクや不揮発性のメモリなどよりなる。通信部109は、ネットワークインタフェースなどよりなる。ドライブ110は、磁気ディスク、光ディスク、光磁気ディスク、又は半導体メモリなどのリムーバブルメディア111を駆動する。
【0120】
以上のように構成されるコンピュータでは、CPU101が、例えば、記憶部108に記憶されているプログラムを入出力インタフェース105及びバス104を介してRAM103にロードして実行することにより、上述した一連の処理が行われる。
【0121】
コンピュータ(CPU101)が実行するプログラムは、例えば、パッケージメディア等としてのリムーバブルメディア111に記録して提供することができる。また、プログラムは、ローカルエリアネットワーク、インターネット、デジタル放送といった、有線または無線の伝送媒体を介して提供することができる。
【0122】
コンピュータでは、プログラムは、リムーバブルメディア111をドライブ110に装着することにより、入出力インタフェース105を介して、記憶部108にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部109で受信し、記憶部108にインストールすることができる。その他、プログラムは、ROM102や記憶部108に、あらかじめインストールしておくことができる。
【0123】
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
【0124】
本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。
【符号の説明】
【0125】
11 画像復号装置, 21 処理内容判定部, 22 制御部, 23−1,23−2 復号部, 24−1,24−2 エフェクト処理部, 25 トランジション処理部, 26 パラメータ変換部, 27 符号化部, 28 表示部
【技術分野】
【0001】
本発明は復号装置および方法に関し、特に、加工処理が含まれる場合の復号処理の高速化を図ることができるようにした復号装置および方法に関する。
【背景技術】
【0002】
従来、加工によって最終的に利用されないデータ(部分、チャンネルなど)に対しても復号され、格納され、転送されて、加工処理が行われていた。
【0003】
その際、プレビュー画像を処理する際などに、簡易復号処理によって処理速度の向上を図る技術がある。また、ビットストリームを解析した結果取得できるパラメータを、再符号化時に利用することで、符号化処理のための画像の解析処理をスキップし、符号化処理を高速化する「パラメータエンコード」という技術もある(特許文献1参照)。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2005−252949号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、簡易復号処理の結果の画質劣化を原因として、加工結果のデータを保存する場合には、従来からある簡易復号処理は採用されにくかった。
【0006】
また、従来のパラメータエンコードにおいては、加工(エフェクトやトランジション)が入ると、適用することが困難であった。
【0007】
本発明は、このような状況に鑑みてなされたものであり、加工処理が含まれる場合の復号処理の高速化を図ることができるものである。
【課題を解決するための手段】
【0008】
本発明の一側面の復号装置は、ビットストリームを加工する際の加工情報に基づき、加工素材であるビットストリームに対して、簡易復号処理を行っても出力画像の表示に対して影響が少ないまたは影響がないエリアを決定する処理内容決定手段と、前記処理内容決定手段により決定されたエリアに対して前記簡易復号処理を行う復号手段とを備える。
【0009】
前記処理内容決定手段は、コーデックの依存関係に基づいて、前記簡易復号処理が有効であると判定した場合に、前記エリアに対しての前記簡易復号処理を、前記復号手段に行わせることができる。
【0010】
前記処理内容決定手段により決定されたエリアに基づいて、前記ビットストリームの符号化パラメータをマージまたは変換することで、加工後のデータの符号化パラメータを生成するパラメータ変換手段をさらに備えることができる。
【0011】
前記エリアは、フレーム全体またはフレーム内における部分領域である。
【0012】
前記簡易復号処理は、フレームドロップ、デブロッキングの省略、フレーム内の部分復号、および一部のチャンネルのみの復号のうちの少なくとも1つである。
【0013】
本発明の一側面の復号方法は、処理内容決定手段と、復号手段とを備える復号装置の復号方法において、前記処理内容決定手段が、ビットストリームを加工する際の加工情報に基づき、加工素材であるビットストリームに対して、簡易復号処理を行っても出力画像の表示に対して影響が少ないまたは影響がないエリアを決定し、前記復号手段が、決定されたエリアに対して前記簡易復号処理を行う。
【0014】
本発明の一側面においては、ビットストリームを加工する際の加工情報に基づき、加工素材であるビットストリームに対して、簡易復号処理を行っても出力画像の表示に対して影響が少ないまたは影響がないエリアが決定され、決定されたエリアに対して前記簡易復号処理が行われる。
【0015】
なお、上述の復号装置は、独立した装置であっても良いし、1つの復号装置を構成している内部ブロックであってもよい。
【発明の効果】
【0016】
本発明の一側面によれば、加工処理が含まれる場合の復号処理の高速化を図ることができる。また、本発明の一側面によれば、簡易復号による復号処理の高速化を図るとともに、画像劣化による再生品質の低下を抑制することができることができる。
【図面の簡単な説明】
【0017】
【図1】本発明を適用した画像復号装置の一実施の形態の構成を示すブロック図である。
【図2】フレーム内の部分復号処理を説明する図である。
【図3】エフェクト処理とトランジション処理における入力イメージと出力イメージの例を示す図である。
【図4】有効エリアの決定方法について説明する図である。
【図5】エフェクト処理が拡大のアフィン変換である場合の有効エリアの決定処理例を説明する図である。
【図6】トランジション処理がクロスフェードである場合の有効エリアの決定処理例を説明する図である。
【図7】トランジション処理がワイプである場合の処理例を有効エリアの決定処理を説明する図である。
【図8】エフェクト処理が字幕やテロップの場合のパラメータ変換例を説明する図である。
【図9】トランジション処理がワイプである場合のパラメータ変換例を説明する図である。
【図10】画像復号装置の処理を説明するフローチャートである。
【図11】図10のステップS11の処理内容判定処理を説明するフローチャートである。
【図12】コンピュータのハードウエアの構成例を示すブロック図である。
【発明を実施するための形態】
【0018】
以下、図を参照して本発明の実施の形態について説明する。
【0019】
[画像復号装置の構成例]
図1は、本発明を適用した画像復号装置の一実施の形態の構成を表している。
【0020】
この画像復号装置11は、符号化されたビットストリームを復号して加工し、加工後の画像を表示したり、再符号化する。画像復号装置11において、加工処理としては、エフェクト処理やトランジション処理がなされる。
【0021】
図1の例において、画像復号装置11は、処理内容判定部21、制御部22、復号部23−1および23−2、エフェクト処理部24−1および24−2、トランジション処理部25、パラメータ変換部26、符号化部27、表示部28、並びに格納部29−1乃至29−5により構成される。なお、図において、太い白矢印は、タイムライン情報、太い黒矢印は、ファイルのインプットまたはアウトプット、点線矢印は制御情報、実線矢印は、データ転送の流れをそれぞれ表している。
【0022】
画像復号装置11においては、図示せぬ操作入力部などから入力された(または、記憶部などに記憶されている)ユーザによる編集加工時のタイムライン情報が処理内容判定部21および制御部22に入力される。タイムライン情報は、ビットストリームを加工する際の編集や加工情報である。また、編集加工時には、図示せぬ画像符号化装置または記憶部などから復号部23−1および復号部23−2に、ファイルとして、符号化されているビットストリームが入力される。
【0023】
処理内容判定部21は、タイムライン情報を受け取り、受け取ったタイムライン情報に基づいて、出力結果に反映される画像、すなわち、入力イメージにおける有効エリア(有効領域)を逆写像により算出し、決定する。
【0024】
逆写像とは、一般的に、写像f:X→Y が任意のXからYの上への1対1の写像ならば、逆に、Yのおのおのの元yに対して、Xのただ1つの元xが対応し、写像Y→Xが定まり、この写像を、fの逆写像といい、f-1で表わされることを言う。ただし、ここでは、入力イメージ(画像)から出力イメージを作成する順方向の処理を写像として、出力イメージから入力イメージを対応付けすることを、逆写像として用いる。
【0025】
処理内容判定部21は、決定した有効エリアに基づいて、有効ではないエリア、すなわち、簡易復号処理を行っても影響が少ないエリアに対して、簡易復号処理することを設定する。また、処理内容判定部21は、有効なエリアに対しては、簡易ではない復号処理を行うように設定する。なお、このエリアには、フレーム全体の意も含まれるし、フレームにおける一部のチャンネルや、フレームにおける一部の領域の意も含まれるものとする。
【0026】
ここで、簡易復号処理とは、フレームまたはフィールドドロップ、復号処理におけるデブロッキング(Deblocking)の省略、簡易動き補償(MC:Motion compensation)、特定のチャンネルのみの復号処理、およびフレーム内の部分復号処理などがあげられる。
【0027】
フレーム内の部分復号処理とは、図2に示されるように、フレームにおいて、利用する部分以外は、復号しない処理のことをいう。通常の復号処理においては、フレームの中央部に、図2に示されるような利用する部分があったとしても、フレーム全体のマクロブロックが復号される。これに対して、フレーム内の部分復号処理においては、フレームの中央部の利用する部分が含まれるマクロブロックより、復号順が後のハッチングされているマクロブロックは、その利用する部分の復号に必要のないマクロブロックであるので、復号されない。
【0028】
すなわち、上述のように、通常の復号処理から工程を省略したり、簡単にしたり、範囲を限定するなどの復号処理を総称して、簡易復号処理という。そして、処理内容判定部21においては、これらの簡易復号処理の中から、有効ではないエリア、すなわち、簡易復号処理を行っても出力画像の表示に対して影響が少ないエリアに対してそのエリアに応じた簡易復号処理を行うように設定される。なお、この設定基準としては、コーディックの依存関係や簡易復号処理をしても目立ちにくいか否かが用いられる。
【0029】
さらに、処理内容判定部21は、決定した有効エリアに基づいて、復号部23−1および23−2から得られる符号化パラメータを、再利用(再符号化)できるように、そのパラメータのマージまたは変換を設定する。なお、以下、パラメータの変換と適宜称するが、その変換には、マージも含むものとする。
【0030】
すなわち、処理内容判定部21においては、有効エリア決定処理が行われ、その決定結果である有効エリアに応じて、復号処理内容の設定や符号化パラメータ変換内容の設定処理が行われる。
【0031】
処理内容判定部21により決定されたエリア、復号方法、およびパラメータの変換の設定の各情報、すなわち、処理内容の情報は、タイムライン情報に加えて、制御部22に供給される。
【0032】
制御部22は、入力されたタイムライン情報および処理内容判定部21からの処理内容の情報が加わったタイムライン情報に基づいて、復号部23−1および復号部23−2、エフェクト処理部24−1および24−2、トランジション処理部25、およびパラメータ変換部26を制御する。
【0033】
復号部23−1および23−2は、それぞれ、符号化されているビットストリームを受け取ると、符号化されているビットストリームから取得されるパラメータ(符号化パラメータ)を、そのままパラメータ変換部26に出力する。
【0034】
また、復号部23−1および23−2は、受け取ったビットストリームに対して、制御部22の制御のもと、所定の復号処理を行い、復号されたデータを、格納部29−1および29−2にそれぞれ出力する。
【0035】
エフェクト処理部24−1および24−2は、それぞれ、格納部29−1および29−2から入力されるデータを受け取り、制御部22の制御のもと、受け取ったデータに対してエフェクト処理を行う。エフェクト処理部24−1および24−2は、エフェクト処理を行った結果のデータを、格納部29−3および29−4にそれぞれ出力する。
【0036】
トランジション処理部25は、格納部29−3および29−4から入力されるデータを受け取り、制御部22の制御のもと、受け取ったデータに対してトランジット処理を行う。トランジション処理部25は、トランジット処理を行った結果のデータ(すなわち、加工後のデータ)を、格納部29−5に出力する。
【0037】
パラメータ変換部26は、復号部23−1および23−2からの符号化パラメータを受け取り、受け取った符号化パラメータに対して、制御部22の制御のもと、マージや変換して、それを符号化部27に供給して、符号化部27に再利用させる。また、再利用できないパラメータに関しては、パラメータ変換部26は、符号化パラメータの生成指示をその符号化パラメータに含ませることで符号化部27に指示する。
【0038】
符号化部27は、格納部29−5から入力される加工後のデータを受け取り、パラメータ変換部26からの符号化パラメータに応じて、受け取った加工後のデータを符号化し、ファイルとして出力する。その際、符号化部27は、パラメータ変換部26からの符号化パラメータにパラメータ生成指示がある場合にはその部分の符号化パラメータを生成し、パラメータ生成指示に、生成した符号化パラメータを上書きして、符号化された加工後のデータのヘッダに付加する。
【0039】
表示部28は、格納部29−5からの加工後のデータに対応する画像を表示する。
【0040】
格納部29−1乃至29−5は、それぞれ、入力されたデータを格納し、必要に応じて、後段へ出力する。なお、格納部29−5は、加工後のデータの処理に応じて、対応するデータを、符号化部27および表示部28の少なくとも一方へ出力する。また、格納部29−5は、トランジション処理の結果を下地にして、さらにエフェクト処理が行われる場合には、加工後のデータを、再度、エフェクト処理部24−2へ出力する。
【0041】
なお、以下、復号部23−1および23−2を個々に区別する必要がない場合、単に復号部23と称し、エフェクト処理部24−1および24−2を個々に区別する必要がない場合、単にエフェクト処理部24と称する。
【0042】
また、図1の例においては、復号部23とエフェクト処理部24を2つずつ構成する例を説明したが、台数は2つに限定されない。例えば、編集加工するビットストリームの数に応じた台数の復号部23とエフェクト処理部24の構成にすることも可能である。
【0043】
[有効エリア決定処理の説明]
次に、処理内容判定部21が行う処理内容判定処理における有効エリア決定処理について具体的に説明する。
【0044】
まず、図3を参照して、エフェクト処理部24とトランジション処理部25における入力イメージと出力イメージについて説明する。
【0045】
エフェクト処理部24は、入力したイメージAのフレームを用いてエフェクト処理を行い、エフェクト処理が施されたイメージA´のフレームを出力する。すなわち、エフェクト処理は、1つの入力に対して、1つの結果を出力する処理である。このようなエフェクト処理には、例えば、フレーム内における拡大や縮小、移動などのアフィン(Affine)変換や特定のチャンネルだけを処理するセピア(Sepia)処理が含まれる。また、アフィン変換は、縮小や移動などを伴うため、下地の情報(単色もしくは画像)の上にイメージAのアフィン変換後の像を出力する場合もある。
【0046】
これに対して、トランジション処理部25は、下段に示されるように、入力したイメージAのフレームとイメージBのフレームを用いてトランジション処理を行い、トランジション処理が施されたイメージCのフレームを出力する。すなわち、トランジション処理は、2つ(複数)の入力に対して、1つの結果を出力する処理である。このようなトランジション処理には、例えば、マスク(Mask)処理やクロスフェード(Cross Fade)処理が含まれる。
【0047】
このようなエフェクト処理やトランジション処理においては、そのパラメータ(タイムラン情報)により、出力側のフレームにおける有効エリアが制限される場合がある。
【0048】
例えば、拡大を行うアフィン変換処理においては、入力フレーム内の一部のみが出力として反映される。マスク処理が行われて、マスクが適用されている場合には、そのマスクによって、フレーム毎に有効エリアが定義される。
【0049】
また、出力側の有効エリアが定義されないエフェクト処理またはトランジション処理の場合における出力側の有効エリアの入力側への対応付けとしては、例えば、アフィン変換であれば、出力の有効エリアの逆写像で対応付けを行うことが可能である。あるいは、その他の例としては、1対1で対応付けを行うことも可能である。
【0050】
すなわち、処理内容判定部21においては、タイムライン情報を参照することで、上述したようなエフェクト処理やトランジション処理の内容がわかるので、出力イメージを算出することができる。したがって、それらの処理を逆順にさかのぼることで、順次有効エリアを導出し、最終的に、入力イメージ上の有効エリアを導出し、決定することが可能となる。
【0051】
例えば、図4に示される処理がタイムライン情報に示されている場合を考える。すなわち、イメージAのフレームに対しては、エフェクト処理部24により、拡大のアフィン変換が行われ、その結果、イメージAの一部領域A´が拡大されたイメージA´のフレームが生成される。そして、イメージA´のフレームが、トランジション処理部25により、イメージA´の一部領域A″以外にマスク処理が施される。
【0052】
また、イメージBのフレームに対しては、トランジション処理部25により、一部領域B´以外にマスク処理が施される。そして、トランジション処理部25においては、さらに、一部領域A″以外にマスク処理がされたイメージと一部領域B´以外にマスク処理がされたイメージが他のイメージ上に合成されたイメージCのフレームが生成される。
【0053】
すなわち、処理内容判定部21においては、タイムライン情報を参照することで、図4のように、一部領域A″と一部領域B´が他の画像上に合成されるイメージCが出力イメージとして算出される。
【0054】
したがって、処理内容判定部21は、算出された出力イメージCから、トランジション処理部25に入力されるイメージBのフレームにおいて、一部領域B´がマスクによる有効エリアであることを導出し、決定することができる。
【0055】
これにより、処理内容判定部21は、イメージBのフレーム上の一部領域B´以外の領域(ハッチング部分)が出力画像の表示に対して簡易復号処理を行っても影響が少ない、あるいは、影響がないエリアであることを決定することができる。
【0056】
また、処理内容判定部21は、算出された出力イメージCから、トランジション処理部25に入力されるイメージA´のフレームにおいて、一部領域A″がマスクによる有効領域であることを導出することができる。すなわち、イメージA´において、一部領域A″以外の領域(ハッチング部分)が有効ではない領域とされる。さらに、処理内容判定部21は、エフェクト処理部24からの出力イメージA´から、アフィン変換の逆写像によって、エフェクト処理部24に入力されるフレームAにおいて、一部領域A″が有効エリアであることを導出し、決定することができる。
【0057】
これにより、処理内容判定部21は、フレームA上の一部領域A″以外の領域(ハッチング部分)が簡易復号処理を行っても出力画像の表示に対して影響が少ない、あるいは、影響がないエリアであることを決定することができる。
【0058】
さらに、図5乃至図7を参照して、エフェクト処理またはトランジション処理の処理例毎に詳しく説明する。
【0059】
図5は、エフェクト処理が拡大のアフィン変換である例を説明する図である。左側は入力イメージを表し、右側は出力イメージを表している。例えば、タイムライン情報においては、入力イメージAにおいて、ハッチング部分に対して、拡大のアフィン変換が指示されているので、その結果、入力イメージAにおけるハッチング部分がイメージ全体に拡大された出力イメージBが算出される。
【0060】
したがって、処理内容判定部21は、算出された出力イメージBから入力イメージAにおけるハッチング部分が有効エリアであると、逆写像により求め、決定することができる。これにより、ハッチング部分以外の領域が簡易復号処理を行っても影響が少ない、あるいは、影響がないエリアであることを決定することができる。
【0061】
その結果に基づいて、画像復号装置11においては、例えば、影響が少ない、あるいは影響がないエリアを復号しないという、簡易復号処理を行うことで、不要な復号処理を行うことが抑制され、処理時間を短くすることができる。
【0062】
なお、縮小のアフィン変換を行う場合には、縮小率に応じて、簡易復号処理を行うか否かや、その簡易復号処理の方法を選択することもできるので、従来のように、単に簡易復号処理を行った場合の画質劣化が目立つことを抑えることができる。
【0063】
図6は、トランジション処理がクロスフェードである例を説明する図である。左側は入力イメージを表し、右側は出力イメージを表している。例えば、タイムライン情報においは、入力イメージAを透過度αで、入力イメージBを透過度(1−α)でブレンドすることが指示されているので、その結果の出力イメージCが算出される。
【0064】
この例の場合、処理内容判定部21は、算出された出力イメージCから、α >> 1−αの状態のときに、イメージA側が有効エリアであることを、逆写像により求め、決定することができる。これにより、処理内容判定部21は、イメージB側が簡易復号処理を行っても影響が少ない、あるいは、影響がないエリアであることを決定することができる。
【0065】
逆に、α << 1−αの状態のときに、イメージB側が有効エリアであり、逆写像により求め、決定することができる。これにより、イメージA側が簡易復号処理を行っても影響が少ない、あるいは、影響がないエリアであることを決定することができる。
【0066】
その結果に基づいて、画像復号装置11においては、例えば、影響が少ない、あるいは影響がないエリアに対して、復号処理を省くような簡易復号処理を行うことができる。これにより、従来のように、単に簡易復号処理を行った場合の画質劣化やフレームドロップによる劣化の目立ちを抑えることができる。
【0067】
図7は、トランジション処理がワイプである例を説明する図である。左側は入力イメージを表し、右側は出力イメージを表している。例えば、タイムライン情報においては、入力イメージAにおける表示される部分、入力イメージBにおける表示される部分、および対応する時間情報がトランジションのパラメータとして指示されているので、その結果の出力イメージCが算出される。
【0068】
したがって、処理内容判定部21は、算出された出力イメージCから、入力イメージAにおけるハッチング部分と、入力イメージBにおけるハッチング部分とが有効エリアであることを、逆写像により求め、決定することができる。これにより、ハッチング部分以外の領域が簡易復号処理を行っても影響が少ない、あるいは、影響がないエリアであることを決定することができる。
【0069】
その結果に基づいて、画像復号装置11においては、簡易復号処理としては、例えば、表示されないエリア(ハッチング部分以外のエリア)の復号を極力行わない方法が用いられる。なお、極力とは、他から参照されるまたは復号処理結果が伝搬される場合には、正しく、または他の簡易復号方法で復号される。
【0070】
以上のように、画像復号装置11においては、タイムライン情報に基づいて、入力イメージにおいて簡易復号処理を行っても出力画像の表示に対して影響が少ない、あるいは、影響がないエリアを決定し、そのエリアに対して簡易復号処理を行うようにした。
【0071】
これにより、処理の時間を短縮するとともに、出力結果の劣化を抑制することができる。
【0072】
[符号化パラメータ設定処理の説明]
次に、処理内容判定部21が行う処理内容判定処理における符号化パラメータ設定処理について具体的に説明する。
【0073】
図8は、エフェクト処理がそのイメージにテキスト(字幕やテロップ)を入れる場合の例を説明する図である。
【0074】
図8の例においては、四角で示される複数のマクロブロックでなるフレームが示されている。このフレームにおいて、ハッチングがなされた領域には、エフェクト処理により、テキストが上書きされる。
【0075】
したがって、処理内容判定部21は、この領域以外のマクロブロックについては、復号部23に入力されるビットストリーム(素材)から得られる符号化パラメータをそのまま利用するように設定する。また、処理内容判定部21は、ハッチングがなされた領域にかかるマクロブロックについては、このテキストを保護するために、素材から得られる符号化パラメータを変換させるように、パラメータ変換部26の処理内容を設定する。
【0076】
例えば、この場合、イントラマクロブロック(イントラ符号化)にしたり、または、量子化パラメータを下げるように、例えば、予測モードや量子化パラメータ値を変更するなど、符号化パラメータの値を変換するように、処理内容が設定される。
【0077】
この設定内容に応じて、パラメータ変換部26は、予測モードや量子化パラメータ値を変更するなど、パラメータ変換を行い、変換した符号化パラメータを符号化部27に供給する。このパラメータ変換部26からの符号化パラメータに基づいて、符号化部27は、加工後のデータを符号化する。
【0078】
図9は、トランジション処理がワイプの場合の例を説明する図である。例えば、素材Aのフレームと素材Bのフレームをワイプさせる場合を考える。
【0079】
図9の例においては、四角で示される複数のマクロブロックでなるフレームが示されている。このフレームにおいて、濃いハッチングがなされた領域は、素材Aのマクロブロックであり、これらのマクロブロックにおいては、素材Aの符号化パラメータをそのまま利用することが可能である。薄いハッチングがなされた領域は、素材Bのマクロブロックであり、これらのマクロブロックにおいては、素材Bの符号化パラメータをそのまま利用することが可能である。
【0080】
一方、白い領域は、素材Aと素材Bがマージされた領域のマクロブロックであり、どちらの素材も利用することができない。
【0081】
したがって、処理内容判定部21は、ハッチングがなされた領域にかかるマクロブロックについては、素材から得られる符号化パラメータを利用して、マージするように設定する。一方、処理内容判定部21は、白い領域にかかるマクロブロックについては、素材から得られる符号化パラメータを利用させないように設定する。
【0082】
これに対応して、パラメータ変換部26は、白い領域にかかるマクロブロックの符号化パラメータに符号化部27に対する符号化パラメータ生成の指示が含ませる変換を行って、ハッチングがなされた領域にかかるマクロブロックの符号化パラメータとマージする。このパラメータ変換部26からの符号化パラメータに基づいて、符号化部27は、加工後のデータを符号化するとともに、必要な(白い領域にかかるマクロブロック)の符号化パラメータを生成し、パラメータ変換部26からの符号化パラメータに上書きする。
【0083】
以上のように、編集加工に用いられないマクロブロックについては、素材から得られる符号化パラメータを利用するようにしたり、編集加工に用いられるマクロブロックであっても、素材から得られる符号化パラメータを利用できる場合には、変換などを行うようにした。これにより、わざわざ、符号化に必要なパラメータを生成する手間が省け、編集加工の際の再符号化を高速に処理することができる。
【0084】
なお、上記説明においては、テキストを入れる場合やワイプの例の場合を説明したが、もちろん、他のエフェクト処理であっても、同様に処理することができる。例えば、トランジション処理が、フェードイン、フェードアウト、クロスフェードの場合は、次のように、符号化パラメータを利用することができる。
【0085】
すなわち、ブレンドの強度(α)として、出力の画素値=Aの画素値×α+Bの画素値×(1−α)とすると、処理内容判定部21は、αが1に近いとき、Aの符号化パラメータをそのまま利用し、αが0に近いとき、Bの符号化パラメータをそのまま利用するように設定する。その他、フェード部分については、処理内容判定部21は、ビット割り当てを増やして画質を保護するように設定する。
【0086】
[画像復号装置の処理]
次に、図10のフローチャートを参照して、図1の画像復号装置11が行う処理であって、符号化されたビットストリームに対して編集加工処理を行い、再び符号化する処理について説明する。
【0087】
図示せぬ操作入力部などから入力されたユーザによる指示に応じて、編集加工時のタイムライン情報が処理内容判定部21および制御部22に入力され、復号部23−1および復号部23−2に、ファイルとして、符号化されているビットストリームが入力される。
【0088】
処理内容判定部21は、タイムライン情報を受け取り、受け取ったタイムライン情報に基づき、ステップS11において、画像復号装置11の各部の処理内容判定処理を実行する。この処理内容判定処理の詳細については、図11を参照して後述される。
【0089】
ステップS11の処理により、有効エリアが判定されて、その判定結果に応じて復号処理や符号化パラメータ変換の処理内容が設定される。処理内容判定部21により設定されたエリア、復号方法、およびパラメータの変換の設定の各情報、すなわち、処理内容の情報は、タイムライン情報に加えられて、制御部22に供給される。
【0090】
制御部22は、ステップS12において、nを1と(初期化)し、ステップS13において、復号部23を制御し、処理内容判定部21により設定された復号方法で、入力されたビットストリームに対して、復号処理を行わせる。例えば、図5乃至図7を参照して上述したように、入力イメージにおいて簡易復号処理を行っても影響が少ない、あるいは、影響がないエリアには、簡易復号処理が行われる。復号部23は、復号処理を行い、復号されたデータを、格納部29−1および29−2にそれぞれ出力するとともに、符号化されているビットストリームから取得されるパラメータ(符号化パラメータ)を、そのままパラメータ変換部26に出力する。
【0091】
制御部22は、ステップS14において、エフェクト処理部24およびトランジション処理部25を制御し、タイムライン情報に基づいて、入力されたデータに対して、加工処理を行わせる。
【0092】
すなわち、エフェクト処理部24−1および24−2は、それぞれ、格納部29−1および29−2から入力されるデータを受け取り、制御部22の制御のもと、受け取ったデータに対してエフェクト処理を行う。エフェクト処理部24−1および24−2は、エフェクト処理を行った結果のデータを、格納部29−3および29−4にそれぞれ出力する。トランジション処理部25は、格納部29−3および29−4から入力されるデータを受け取り、制御部22の制御のもと、受け取ったデータに対してトランジット処理を行う。トランジション処理部25は、トランジット処理を行った結果のデータ(すなわち、加工後のデータ)を、格納部29−5に出力する。
【0093】
制御部22は、ステップS15において、パラメータ変換部26を制御し、処理内容判定部21により設定されたパラメータ変換方法で、復号部23から入力されたパラメータ変換を行わせる。例えば、図8や図9を参照して上述したようなパラメータ変換がなされる。
【0094】
パラメータ変換部26は、復号部23−1および23−2から受け取った符号化パラメータに対して、制御部22の制御のもと、そのまま、あるいは、マージや変換して、それを符号化部27に供給して、符号化部27に再利用させる。また、再利用できないパラメータに関しては、パラメータ変換部26は、符号化パラメータの生成指示をその符号化パラメータに含ませることで符号化部27に指示する。
【0095】
符号化部27は、格納部29−5から入力される加工後のデータを受け取り、ステップS16において、パラメータ変換部26からの符号化パラメータに応じて、受け取った加工後のデータを符号化し、ファイルとして出力する。その際、符号化部27は、パラメータ変換部26からの符号化パラメータにパラメータ生成指示がある場合にはその部分の符号化パラメータを生成し、パラメータ生成指示に、生成した符号化パラメータを上書きして、符号化された加工後のデータのヘッダに付加する。
【0096】
制御部22は、ステップS17において、nを1つ加算し、ステップS18において、nが最後のフレーム番号(Last Frame No.)よりも大きいか否かを判定する。ステップS18において、nが最後のフレーム番号より大きくないと判定された場合、処理は、ステップS13に戻り、それ以降の処理が繰り返される。
【0097】
また、ステップS18において、最後のフレーム番号より大きいと判定された場合、画像復号装置11の処理は終了される。
【0098】
[画像復号装置の処理内容判定処理]
次に、図11のフローチャートを参照して、図10のステップS11における処理内容判定処理について説明する。
【0099】
処理内容判定部21は、タイムライン情報を受け取ると、ステップS31において、nを1と(初期化)し、ステップS32において、受け取ったライムライン情報に基づいて、出力に使われる入力データ(有効エリア)を算出する。図4などを参照して上述したように、逆写像などが用いられて有効エリアが算出される。
【0100】
処理内容判定部21は、ステップS33において、タイムライン情報と、算出した有効エリアにも基づいて、フレームにおける領域限定、またはチャンネル限定が可能であるか否かを判定する。ステップS33において、フレームにおける領域限定、またはチャンネル限定が可能であると判定された場合、処理は、ステップS34に進む。
【0101】
ステップS34において、処理内容判定部21は、番号がn(いまの場合、1)のフレームの部分復号を設定する。例えば、フレームにおける領域限定が可能な場合には、1のフレームにおいて領域の部分復号が設定され、チャンネル限定が可能な場合には、1のフレームにおいてチャンネルの部分復号が設定される。なお、部分復号の場合には、品質の劣化には直接関係しないので、後述するステップS37やS39のような判定は省略される。
【0102】
ステップS33において、領域およびチャンネル限定が可能ではないと判定された場合、ステップS34の処理はスキップされ、処理は、ステップS35に進む。
【0103】
ステップS35において、処理内容判定部21は、コーデックの依存関係などを参照して、例えば、部分復号以外の簡易復号が有効であるか否かを判定する。ステップS35において、簡易復号が有効であると判定された場合、処理は、ステップS36に進む。
【0104】
処理内容判定部21は、ステップS36において、タイムライン情報から、nフレームに対するエフェクト(トランジション含む)の種類、エフェクトのパラメータをチェックし、ステップS37において、そのフレームをフレームドロップしても目立ちにくいか否かを判定する。すなわち、ここでは、フレームドロップなどの時間方向の簡易復号による影響が判定される。ステップS37において、フレームドロップしても目立ちにくいと判定された場合、処理は、ステップS38に進む。
【0105】
ステップS38において、処理内容判定部21は、nフレームは、コピーすることに設定する。すなわち、nフレームは、復号処理無しで、フレームドロップの対象として設定される。その後、処理は、ステップS41に進む。
【0106】
また、ステップS37において、フレームドロップすると目立ってしまうと判定された場合、処理は、ステップS39に進む。ステップS39において、処理内容判定部21は、nフレームに対して、簡易復号しても目立ちにくいか否かを判定する。すなわち、ここでは、例えば、デブロッキングの省略など、画面内、空間方向の簡易復号による影響が判定される。ステップS39において、nフレームに対して、簡易復号しても目立ちにくいと判定された場合、処理は、ステップS40に進む。ステップS40において、処理内容判定部21は、nフレームに対して、例えば、デブロッキングの省略などの簡易復号モードを設定する。その後、処理は、ステップS41に進む。
【0107】
一方、ステップS35において、簡易復号が有効ではないと判定された場合、ステップS36乃至S40の処理はスキップされ、処理は、ステップS41に進む。また、ステップS39において、簡易復号すると目立ちやすいと判定された場合も、処理は、ステップS41に進む。
【0108】
ステップS41において、処理内容判定部21は、算出した有効エリアやタイムライン情報に基づいて、例えば、図8または図9で上述したように、符号化パラメータの変換またはマージを設定する。そして、処理内容判定部21は、これら設定したエリア、復号方法、およびパラメータの変換の設定の各情報、すなわち、処理内容の情報を、タイムライン情報に加えて、制御部22に供給する。
【0109】
ステップS41において、処理内容判定部21は、nを1つ加算し、ステップS42において、nが最後のフレーム番号(Last Frame No.)よりも大きいか否かを判定する。ステップS42において、nが最後のフレーム番号より大きくないと判定された場合、処理は、ステップS32に戻り、それ以降の処理が繰り返される。
【0110】
また、ステップS42において、最後のフレーム番号より大きいと判定された場合、処理内容判定処理は終了される。
【0111】
以上のように、画像復号装置11においては、出力に使われる入力データの有効領域を算出し、それに基づいて、簡易復号処理を設定するようにしたので、加工および転送の処理量の減少による高速化を図ることができる。また、目立たない部分に簡易復号を用いることにより、簡易復号による復号処理の高速化を図るとともに、画像劣化による再生品質の低下を抑制することができる。
【0112】
さらに、画像復号装置11においては、算出した有効領域に基づいて、元データの符号化パラメータをそのまま用いたり、パラメータ変換やマージをすることにより再利用するようにしたので、符号化処理を削減することができ、それにより、処理を高速化することができる。
【0113】
例えば、画像復号装置11においては、符号化方式としてH.264/AVC方式やMPEG2を用いられるが、本発明はこれに限らず、その他の符号化方式/復号方式を適用することができる。
【0114】
なお、本発明は、例えば、MPEG、H.26x等の様に、離散コサイン変換等の直交変換と動き補償によって圧縮された画像情報(ビットストリーム)を、衛星放送、ケーブルテレビジョン、インターネット、または携帯電話機などのネットワークメディアを介して受信する際に用いられる画像符号化装置および画像復号装置に適用することができる。また、本発明は、光、磁気ディスク、およびフラッシュメモリのような記憶メディア上で処理する際に用いられる画像符号化装置および画像復号装置に適用することができる。さらに、本発明は、それらの画像符号化装置および画像復号装置などに含まれる動き予測補償装置にも適用することができる。
【0115】
上述した一連の処理は、ハードウエアにより実行することもできるし、ソフトウエアにより実行することもできる。一連の処理をソフトウエアにより実行する場合には、そのソフトウエアを構成するプログラムが、コンピュータにインストールされる。ここで、コンピュータには、専用のハードウエアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な汎用のパーソナルコンピュータなどが含まれる。
【0116】
[パーソナルコンピュータの構成例]
図12は、上述した一連の処理をプログラムにより実行するコンピュータのハードウエアの構成例を示すブロック図である。
【0117】
コンピュータにおいて、CPU(Central Processing Unit)101、ROM(Read Only Memory)102、RAM(Random Access Memory)103は、バス104により相互に接続されている。
【0118】
バス104には、さらに、入出力インタフェース105が接続されている。入出力インタフェース105には、入力部106、出力部107、記憶部108、通信部109、およびドライブ110が接続されている。
【0119】
入力部106は、キーボード、マウス、マイクロホンなどよりなる。出力部107は、ディスプレイ、スピーカなどよりなる。記憶部108は、ハードディスクや不揮発性のメモリなどよりなる。通信部109は、ネットワークインタフェースなどよりなる。ドライブ110は、磁気ディスク、光ディスク、光磁気ディスク、又は半導体メモリなどのリムーバブルメディア111を駆動する。
【0120】
以上のように構成されるコンピュータでは、CPU101が、例えば、記憶部108に記憶されているプログラムを入出力インタフェース105及びバス104を介してRAM103にロードして実行することにより、上述した一連の処理が行われる。
【0121】
コンピュータ(CPU101)が実行するプログラムは、例えば、パッケージメディア等としてのリムーバブルメディア111に記録して提供することができる。また、プログラムは、ローカルエリアネットワーク、インターネット、デジタル放送といった、有線または無線の伝送媒体を介して提供することができる。
【0122】
コンピュータでは、プログラムは、リムーバブルメディア111をドライブ110に装着することにより、入出力インタフェース105を介して、記憶部108にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部109で受信し、記憶部108にインストールすることができる。その他、プログラムは、ROM102や記憶部108に、あらかじめインストールしておくことができる。
【0123】
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
【0124】
本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。
【符号の説明】
【0125】
11 画像復号装置, 21 処理内容判定部, 22 制御部, 23−1,23−2 復号部, 24−1,24−2 エフェクト処理部, 25 トランジション処理部, 26 パラメータ変換部, 27 符号化部, 28 表示部
【特許請求の範囲】
【請求項1】
ビットストリームを加工する際の加工情報に基づき、加工素材であるビットストリームに対して、簡易復号処理を行っても出力画像の表示に対して影響が少ないまたは影響がないエリアを決定する処理内容決定手段と、
前記処理内容決定手段により決定されたエリアに対して前記簡易復号処理を行う復号手段と
を備える復号装置。
【請求項2】
前記処理内容決定手段は、コーデックの依存関係に基づいて、前記簡易復号処理が有効であると判定した場合に、前記エリアに対しての前記簡易復号処理を、前記復号手段に行わせる
請求項1に記載の復号装置。
【請求項3】
前記処理内容決定手段により決定されたエリアに基づいて、前記ビットストリームの符号化パラメータをマージまたは変換することで、加工後のデータの符号化パラメータを生成するパラメータ変換手段と、
前記パラメータ変換手段により生成された前記符号化パラメータを利用して、前記復号手段により前記簡易復号処理が行われたビットストリームを再符号化する符号化手段と
をさらに備える請求項2に記載の復号装置。
【請求項4】
前記エリアは、フレーム全体またはフレーム内における部分領域である
請求項3に記載の復号装置。
【請求項5】
前記簡易復号処理は、フレームドロップ、デブロッキングの省略、フレーム内の部分復号、および一部のチャンネルのみの復号のうちの少なくとも1つである
請求項3に記載の復号装置。
【請求項6】
処理内容決定手段と、復号手段とを備える復号装置の復号方法において、
前記処理内容決定手段が、ビットストリームを加工する際の加工情報に基づき、加工素材であるビットストリームに対して、簡易復号処理を行っても出力画像の表示に対して影響が少ないまたは影響がないエリアを決定し、
前記復号手段が、決定されたエリアに対して前記簡易復号処理を行う
復号方法。
【請求項1】
ビットストリームを加工する際の加工情報に基づき、加工素材であるビットストリームに対して、簡易復号処理を行っても出力画像の表示に対して影響が少ないまたは影響がないエリアを決定する処理内容決定手段と、
前記処理内容決定手段により決定されたエリアに対して前記簡易復号処理を行う復号手段と
を備える復号装置。
【請求項2】
前記処理内容決定手段は、コーデックの依存関係に基づいて、前記簡易復号処理が有効であると判定した場合に、前記エリアに対しての前記簡易復号処理を、前記復号手段に行わせる
請求項1に記載の復号装置。
【請求項3】
前記処理内容決定手段により決定されたエリアに基づいて、前記ビットストリームの符号化パラメータをマージまたは変換することで、加工後のデータの符号化パラメータを生成するパラメータ変換手段と、
前記パラメータ変換手段により生成された前記符号化パラメータを利用して、前記復号手段により前記簡易復号処理が行われたビットストリームを再符号化する符号化手段と
をさらに備える請求項2に記載の復号装置。
【請求項4】
前記エリアは、フレーム全体またはフレーム内における部分領域である
請求項3に記載の復号装置。
【請求項5】
前記簡易復号処理は、フレームドロップ、デブロッキングの省略、フレーム内の部分復号、および一部のチャンネルのみの復号のうちの少なくとも1つである
請求項3に記載の復号装置。
【請求項6】
処理内容決定手段と、復号手段とを備える復号装置の復号方法において、
前記処理内容決定手段が、ビットストリームを加工する際の加工情報に基づき、加工素材であるビットストリームに対して、簡易復号処理を行っても出力画像の表示に対して影響が少ないまたは影響がないエリアを決定し、
前記復号手段が、決定されたエリアに対して前記簡易復号処理を行う
復号方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【公開番号】特開2011−172039(P2011−172039A)
【公開日】平成23年9月1日(2011.9.1)
【国際特許分類】
【出願番号】特願2010−34299(P2010−34299)
【出願日】平成22年2月19日(2010.2.19)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
【公開日】平成23年9月1日(2011.9.1)
【国際特許分類】
【出願日】平成22年2月19日(2010.2.19)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】
[ Back to top ]