説明

画像伝送装置、画像伝送方法、画像受信装置および画像受信方法

【課題】
画像伝送装置が伝送する画像データを圧縮して伝送し、現在規定されている画像サイズより大きなサイズの画像データを伝送する場合、画像データの伝送遅延時間最小化と高圧縮を簡易な構成で両立させる。
【解決手段】
画像データを圧縮し伝送する画像伝送方法において、Y輝度信号との相関を用いた座標変換によりCb又はCr色差信号有効範囲を縮小する色差信号処理を行い、その結果得られたYCbCr輝度色差信号からなる画像データを圧縮処理し、圧縮処理された画像データを、非圧縮画像データのクロックと同期関係を持つクロック信号に同期した画像データを出力することを特徴とする画像伝送方法。

【発明の詳細な説明】
【技術分野】
【0001】
技術分野は、映像情報の送受信に関する。
【背景技術】
【0002】
近年、デジタル画像処理で扱う画素数は、放送のHD(High Definition:1920×1080画素)化、デジタルビデオカメラのイメージセンサやディスプレイの高画素化に伴い、年々増加している。
【0003】
これらの画像データを機器間で伝送する方式について、HDMI(High-Definition Multimedia Interface (HDMI Licensing,LLCの登録商標))規格やVESA(Video Electronics Standards Association)により策定されたDisplayPort(VESAの登録商標または商標)規格などがある。
【0004】
前記のHDMIのデータ伝送方式において、特許文献1には、「非圧縮映像信号またはこの非圧縮映像信号に対して受信装置が対応可能な圧縮方式で圧縮処理を施して得られた圧縮映像信号を選択的に送信するものであり、伝送路の伝送ビットレート内で、所望のビットレートの映像信号を良好に送信できる」(特許文献1[0048]参照)こと、また圧縮方式について、「データ圧縮部121-1〜121-nは、それぞれ、コーデック117から出力された非圧縮の映像信号を所定の圧縮比をもって圧縮処理し、圧縮された映像信号を出力する。データ圧縮部121-1〜121-nは、映像信号圧縮部を構成している。データ圧縮部121-1〜121-nは、それぞれ、互いに異なる圧縮方式でデータ圧縮処理を行う。例えば、圧縮方式としては、「RLE(Run Length Encoding)」、「Wavelet」、「SBM(Super Bit Mapping(ソニーの登録商標))」、「LLVC(Low Latency Video Codec)」、「ZIP」等が考えられる」(特許文献1[0077]参照)ことが記載されている。
【0005】
また、HDMIにおいて、画像データは、TMDS(Transition Minimized Differential Signaling(Silicon Image, Inc.の登録商標))方式のデータ伝送フォーマットが採用されており、その一例として特許文献2が示されている。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2009−213110号公報
【特許文献2】特表2005−514873号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかし、いずれの先行技術文献においても、符号化による遅延時間を抑えながら、より大きなサイズの画像(「映像」とも言う。以下同じ。)データを伝送することは考慮されていない。
【課題を解決するための手段】
【0008】
上記課題を解決するために、例えば特許請求の範囲に記載の構成を採用する。
本願は上記課題を解決する手段を複数含んでいるが、その一例を挙げるならば、画像データを圧縮し伝送する画像伝送装置において、輝度信号との相関を用いた座標変換によって色差信号のとりうる範囲を狭める色差信号処理を行う色差信号処理部と、輝度色差信号からなる画像データを所定の画素数からなる画像データ単位ブロック毎に圧縮処理する水平圧縮部と、輝度色差信号からなる画像データを所定の画素数からなる画像データ単位ブロック毎に圧縮処理する垂直圧縮部と、前記水平圧縮部の出力と前記垂直圧縮部の出力とを少なくとも1水平有効期間記憶する記憶部と、各画像データ単位ブロックの圧縮率と圧縮処理による画像劣化を示す指数に基づいて、圧縮符号方式を選定する圧縮率・画質評価部と、前記圧縮処理された画像データを出力するデータ転送部を有し、該データ転送部は圧縮された画像データと共に前記色差信号処理及び前記圧縮処理に関する圧縮符号情報を出力することを特徴とする。
【発明の効果】
【0009】
上記手段によれば、より大きなサイズの画像データの伝送が可能となる。
【図面の簡単な説明】
【0010】
【図1】第1実施例の画像伝送装置および画像受信装置の一例。
【図2】第1実施例の圧縮処理部の一例。
【図3】一般的なYCb空間の一例。
【図4】第1実施例のYCb空間の一例。
【図5】第1実施例のYCb空間の一例。
【図6】第1実施例のYCb空間とYCr空間の座標例。
【図7】第1実施例の圧縮する画像データの単位の一例。
【図8】第1実施例の圧縮する画像データの単位の一例。
【図9】第1実施例のエラー訂正符号生成部の一例。
【図10】第1実施例のデータ伝送部の一例。
【図11】第1実施例の画像データの有効/ブランキング期間の一例。
【図12】第1実施例の圧縮符号情報パケットのヘッダの一例。
【図13】第1実施例の圧縮符号情報パケットのデータの一例。
【図14】第1実施例の圧縮符号情報パケットのヘッダの一例。
【図15】第1実施例の圧縮符号情報パケットのデータの一例。
【図16】第1実施例の圧縮符号情報の一例。
【図17】第1実施例の画像受信装置のEDID記述の一例。
【図18】第1実施例のデータ受信処理部の一例。
【図19】第1実施例の伸張処理部の一例。
【図20】第1実施例の伸張処理のタイミングの一例。
【図21】第3実施例のデータ受信処理部の一例。
【図22】第4実施例の圧縮処理部と選択部の一例。
【発明を実施するための形態】
【0011】
従来、遅延時間を最小にする画像データ伝送方式として非圧縮画像データ伝送方式があるが、大きなサイズの画像データを送るには高速な伝送路を必要とする課題があった。その解決の為に、画像データを圧縮して伝送する方式が提案されているが、圧縮率を上げると遅延時間が大きくなる課題があり、さらには非圧縮画像データとのタイミング同期を実現しにくい課題があった。
【0012】
以下の実施例では、画像データを圧縮して伝送する伝送方式において、画像伝送装置が伝送する画像データを圧縮して伝送する前にY輝度信号との相関関係を用いてCb又はCr色差信号を座標変換することによってCb又はCr色差信号の有効範囲を制限して画像データの圧縮効率を向上させるプレ処理と、元の非圧縮画像データが想定する画素クロック信号と同期した伝送クロックに基づいた圧縮画像データを伝送し、画像受信装置が圧縮画像データを伸張後にY輝度信号との相関関係を用いて制限されたCb又はCr色差信号を座標変換によって復元するポスト処理を行う。以下、この実施例を、図面を用いて説明する。
【実施例1】
【0013】
以下本実施例における画像伝送装置および画像受信装置について説明する。
【0014】
図1は、本実施例の画像伝送システムを示すブロック図であり、画像伝送装置100と画像受信装置200をケーブル300で接続した構成である。
【0015】
画像伝送装置100は、画像データを伝送する画像伝送装置であり、デジタル放送を受信し視聴できるようにデコードした画像データや、カメラなどで撮影した画像データをHDMIケーブルなどにより、他の機器に画像データを出力する機器である。画像伝送装置100の一例として、レコーダや、レコーダ機能を内蔵したデジタルTVや、レコーダ機能を内蔵したパソコンや、カムコーダや、カメラ機能を搭載した携帯電話などがある。
【0016】
画像受信装置200は、HDMIケーブル等を使用して、画像データを入力しモニタに画像を出力する表示機器である。画像受信装置200の一例として、デジタルTVや、ディスプレイ、プロジェクタなどがある。
【0017】
ケーブル300は、画像伝送装置100と画像受信装置200の機器間で画像データ等のデータ通信を行うデータ伝送路である。ケーブル300の一例として、HDMI規格や、DisplayPort規格に対応した有線ケーブルもしくは、無線方式のデータ通信を行うデータ伝送路などがある。
【0018】
まず、画像伝送装置100の構成について説明する。
入力部101、102、103は、画像データを画像伝送装置100に入力するための入力部である。入力部101に入力される画像データの一例としては、放送局または放送用衛星などの中継局からの電波として入力されるデジタル放送がある。入力部101には、この放送局または放送用衛星などの中継局からの電波が入力される。
【0019】
入力部102に入力される画像データの一例としては、インターネットのブロードバンド接続を利用して、ネットワーク経由で配信されてくるデジタル放送や、情報コンテンツなどがある。
【0020】
入力部103に入力される画像データの一例としては、入力部103に接続された外部の記録メディアに記録されているコンテンツや、画像伝送装置100内に内蔵された記録メディア108に記録されているコンテンツがある。入力部103に接続された外部の記録メディア、もしくは画像伝送装置100内に内蔵された記録メディア108の一例としては、光ディスク、磁気ディスク、半導体メモリなどがある。
【0021】
チューナー受信処理部105は、入力された電波をビットストリームに変換する受信処理部であり、ここでRF帯域(Radio Frequency)の電波はIF帯域 (Intermediate Frequency) に周波数変換され、受信チャネルに依存しない一定の帯域の信号として、復調されたビットストリームに伝送のために施された変調操作を復調する。
【0022】
ビットストリームの一例としては、MPEG2トランスポートストリーム(以降MPEG2−TSとする)や、MPEG2−TSに準じたフォーマットのビットストリーム等がある。以降のビットストリームは、MPEG2−TSを代表として説明を行う。
【0023】
前記チューナー受信処理部105は、さらに伝送途中で発生した符合の誤りを検出し訂正し、誤り訂正されたMPEG2−TSにつきスクランブルの解除を行った後、視聴もしくは記録を行うプログラムが多重化されている1トランスポンダ周波数を選択し、この選択した1トランスポンダ内のビットストリームを1プログラムのオーディオとビデオのパケットに分離化する。
【0024】
前記チューナー受信処理部105からのMPEG2−TSは、データバス181を通してストリーム制御部111に供給される。ストリーム制御部111は、前記チューナー受信処理部105においてパケットを受信した時の間隔を保時する為に、受信したパケット内から時刻管理情報であるPTS(Presentation Time Stamp)と、MPEGシステムの基準復号器内部のSTC(System Time Clock)を検出し、検出結果により補正したタイミングでタイムスタンプを付加する。前記タイムスタンプを付加したパケットをデコーダ112もしくは、記録メディア制御部107のどちらか一方、または双方に供給する。デコーダ112へのデータパス184は画像データを視聴する時の処理に用いられ、記録メディア制御部107へのデータパス183は、画像データを記録メディアに記録する時に用いられる。
【0025】
前記ストリーム制御部111のデータバス182は、入力部102からネットワーク受信処理部106経由で入力されるMPEG2−TSが入力される。前記データパス182は、ネットワーク経由で配信されてくるデジタル放送もしくはデジタルコンテンツを取得する入力部である。
【0026】
さらに前記ストリーム制御部111のデータバス183からは、入力部103に接続された外部の記録メディア、もしくは画像伝送装置100内に内蔵された記録メディア108に記録されているデジタル放送もしくはデジタルコンテンツを、記録メディア制御部107により読み出したMPEG2−TSが入力される。前記ストリーム制御部111は、これらの入力のうち少なくとも1つ以上を選択し、デコーダ112に出力する。
【0027】
デコーダ112は、前記ストリーム制御部111から入力されたMPEG2−TSをデコードし、生成した画像データを表示処理部113に出力する。表示処理部113は、入力された画像データに対して、例えばOSD(On Screen Display)の重畳処理や、拡大もしくは縮小処理を施した後、圧縮処理部114に出力する。
【0028】
圧縮処理部114は、表示処理部113からの画像データに圧縮処理を施し、データ伝送部115に出力する。
【0029】
データ伝送部115は、画像データを伝送に適した形式の信号に変換して出力部116から出力を行う。伝送に適した形式の信号の一例として、ケーブルによる伝送に適した形式がHDMI規格に記載されている。HDMIにおいて、画像データは、TMDS方式のデータ伝送フォーマットが採用されている。
【0030】
入力部104は、画像伝送装置100の動作を制御するための信号を入力するための入力部である。入力部104の一例として、リモコンの受信部などがある。入力部104からの制御信号は、ユーザーIF109に供給される。前記ユーザーIF109は、入力部104からの信号を制御部110に出力する。制御部110は、入力部104の信号に従い、画像伝送装置100全体を制御する。制御部110の一例としては、マイクロプロセッサなどがある。画像伝送装置100からの画像データは、ケーブル300を介して画像受信装置200に供給する。
【0031】
次に画像受信装置200の構成について説明する。
入力部201は、伝送に適した形式の信号が入力される。前記入力部201に入力された信号は、データ受信処理部205に供給される。
【0032】
データ受信処理部205は、伝送に適した形式の信号から所定のデジタルデータに変換する処理を施し、伸張処理部206に変換したデジタルデータを出力する。
【0033】
伸張処理部206は、前記画像伝送装置100内の圧縮処理部114で圧縮された画像データを伸張し、表示処理部207に出力する。
【0034】
表示処理部207は、入力された画像データに対して表示処理を施す。表示処理の一例としては、OSD重畳処理、表示部208の解像度に変換するための拡大もしくは縮小処理、フレームレート変換処理などがある。表示処理部207の出力は表示部208に出力する。
【0035】
表示部208は、入力された画像データを表示方式にあわせた信号に変換し画面に表示する。表示部208の一例として、液晶ディスプレイや、プラズマディスプレイや、有機EL(Electro−Luminescence)ディスプレイなどの表示部がある。
【0036】
入力部202は、画像受信装置200の動作を制御するための信号を入力するための入力部である。入力部202の一例として、リモコンの受信部などがある。入力部202からの制御信号は、ユーザーIF203に供給される。前記ユーザーIF203は、入力部202からの信号を制御部204に出力する。制御部204は、入力部202の信号に従い、画像受信装置200全体を制御する制御部である。
【0037】
図2は、圧縮処理部114の構成の一例を示すブロック図である。
入力部130は、圧縮処理部114へ画像データを入力するための入力部である。入力された画像データは、YCbCr処理部131供給される。YCbCr処理回路は、入力画像データがRGB原色信号であれば、その画像データに付与されたカラリメトリ情報に基づき所定の変換式を使用してYCbCr輝度色差信号に変換する。
【0038】
カラリメトリ情報が付与されていない場合は、画像信号の水平や垂直周波数などのフォーマット情報から、例えばHD画像であればITU−R BT709(以降BT709と略す)、SD映像であればITU−R BT601(以降BT601と略す)規定のカラリメトリ、変換式に基づいて変換処理を行う。入力画像データがYCbCr輝度色差信号である場合はこの変換処理は不要である。
【0039】
さらに、CbとCrの可変域を制限して後の圧縮処理の効率を上げるために、下記の色差信号処理も行う。図3は、HD画像に適用されるBT709規定のYCb空間の説明図である。YとCbの値は正規化された値と8bit量子化された値を併記しているが、これらの定義はBT709規格に詳述されている。通常は正規化Yが0〜1、正規化Cbが−0.5〜+0.5の範囲702が使われ、正規化Yが1を超える領域703をOver White、0未満をOver Blackと呼んでいる。点708と709、710、711で囲まれた平行四辺形状の領域707は、RGB原色信号に変換した際に、各正規化R,G,Bの値が0〜1になる領域を示している。領域707の外は各正規化R,G,Bのいずれかが負になる領域を示しており、通常は使われない領域である。しかしながら、通常は使われない領域707の外側領域と領域705と領域706を利用して色表現範囲を広げたIEC 61996 2−4で定義されたxvYCC規格も知られている。
【0040】
図4は、平行四辺形状の領域707を座標変換によって左右の辺をY軸と平行に変換した平行四辺形状の領域717を示している。図中の矢印は各座標の変換による移動を示している。座標変換によって座標が移動しない中心として正規化(Cb,Y)=(0,0.5)をとっている。座標変換を簡易化するため、Yは変換せず、Cb値のみ移動させている。Yを変換しないことによって、YCr空間でも同様な座標変換によるCr範囲縮小を施す場合でも、同じYを共通に使える利点もある。
【0041】
この座標変換の結果、平行四辺形状の領域717の正規化Cb範囲714は−0.2695〜0.2695と、変換前の平行四辺形状の領域707の正規化Cb範囲−0.5〜0.5に比べて約54%に低減できる。正規化Cb範囲を狭めることで、後段の圧縮符号化を効率よく働かせることができる。
【0042】
尚、図4からもわかるように、xvYCC規格で定義される領域は全てではないが、平行四辺形状の領域707の周囲領域は、座標変換後の平行四辺形状の領域717の周囲に維持されており、xvYCC規格で定義されるCb領域の伝送ができる。この場合、正規化Cbの伝送範囲としては、視感効果の高い平行四辺形状の領域717の周囲に、領域705と領域706の幅に相当する範囲を付加することが広色再現範囲実現に効果であり、例えば(−0.2695−0.067=−0.3365)〜(0.2695+0.063=0.3325)となる。この場合でも、Cb可変範囲−0.567〜0.563に比べて約59%の範囲に低減できる。
【0043】
図5は8bits量子化時の座標変換演算をより簡易化したYCb空間の座標変換の例を示している。座標の移動しない中心点は量子化(Cb,Y)=(128,128)であり、正規化(Cb,Y)=(0,0.5114)の点に相当する。さらに、量子化Cbの移動量は(量子化Y−128)/2として、特に2進数での演算量を削減している。従って座標変換後の量子化Cbは、(量子化Cb+(量子化Y−128)/2)となり、小数部分を切り捨てとする。座標変換後の平行四辺形状の領域727の正規化Cb範囲が−0.2861〜0.2861範囲と、図4に実施例よりは縮小効果は若干減るがそれでも約57%に低減できる。尚、12bit量子化とした場合は、量子化Cbの移動量は(量子化Y−2048)/2とすればよい。
【0044】
図5で示した簡易化計算方法の利点は、座標変換演算量の低減だけでなく、移動量が整数である為に座標変換後に元の座標への復元演算において完全に復元できる可逆演算であることである。移動量を整数で定義しておけば、可逆演算である利点を実現できる。すなわち、上記の移動量(量子化Y−128)/2だけでなく、(量子化Y−128)×5/8などのような数式でもその結果を整数として処理すればよい。
【0045】
図6は、BT709規格のYCb空間とYCr空間において、それぞれCbとCrの範囲を縮小する座標変換前後の、正規化RGB原色信号が0〜1の範囲になる平行四辺形状の領域の頂点座標を示したものである。図4で説明した最小Cb範囲法と図5で説明した簡易処理法による座標変換結果を対比させている。各欄の1行目が正規化、2行目が8bit量子化、3行目が12bit量子化、4行目が12bit量子化、5行目が16bit量子化した座標をそれぞれ記載している。これらの変換結果によって、Crについても、最小Cr範囲が約64%、簡易処理のCr範囲が約72%に圧縮できることがわかる。
【0046】
以上でその動作を説明してきたYCbCr処理部131の出力が、間引き処理部132、水平圧縮部133および垂直圧縮部134に供給される。
【0047】
図7と図8は、入力部130に入力される画像データの一例を示す図である。水平方向にn画素、垂直方向にmラインの輝度信号を示す。色差信号は、444フォーマットの場合、輝度信号と同じフォーマットとなる。画素数n及びライン数mの一例としては、n=1920、m=1080のいわゆるフルHD画像やn=3840、m=2160のいわゆる4k2k画像などがある。
【0048】
ここで、圧縮部114で圧縮する画像データの単位ブロックを、水平方向l画素と垂直方向k画素とする。図7において、501および502はl=32、k=1の例を示し、同じライン内で連続した32画素のデータで構成する。この画像データの単位を水平圧縮部133が圧縮する。
【0049】
図8において、503および504は、l=16、k=2の例を示し、上下する2ライン間で連続する16画素のデータで構成する。この画像データの単位ブロックを垂直圧縮部134が圧縮する。すなわち、垂直方向k画素数(ライン数)が異なるk1とk2(k1<k2)の画像データ単位ブロックを用意し、水平圧縮部133がk1の画像データ単位ブロックを、垂直圧縮部134がk2の画像データ単位ブロックを圧縮する。
【0050】
kが大きいとラインメモリ量が増えて回路コストが上がり、処理時間が増加して映像表示がと遅延する原因となる。以下の説明ではk1=1、k2=2としてコストと処理時間を抑える例を用いる。水平圧縮部133と垂直圧縮部134に加えてさらに異なるk3を持つ圧縮部を追加し、3個以上の圧縮部の出力を選択して用い、さらに圧縮効率を上げることもできる。
【0051】
入力された色差信号が422フォーマットの場合は、色差信号のCb成分とCr成分が1画素ごとに入れ子のデータとなる。例えば4k2k画像においてCb成分とCr成分を合わせてn=3840、m=2160の画像データとして扱ってもよい。一般にCb成分同士、Cr成分同士の相関が高いので、Cb成分とCr成分を分けて、n=1920、m=2160として扱うことにより、同一成分のみで圧縮する画像データの単位ブロックとすることによって、圧縮効率を高めることができる。
【0052】
入力された色差信号が420フォーマットの場合は、色差信号のCb成分とCr成分がY信号4画素に対して1画素分のデータとなる。例えば4k2k画像においてCb成分とCr成分を合わせてn=1920、m=2160の画像データとして扱ってもよい。一般にCb成分同士、Cr成分同士の相関が高いので、Cb成分とCr成分を分けて、n=1920、m=1080として扱うことにより、同一成分のみで圧縮する画像データの単位とすることによって、圧縮効率を高めることができる。
【0053】
水平圧縮部133と垂直圧縮部134は、444フォーマットや422フォーマットの色差信号が入力された際に、所定の圧縮方式では所定の圧縮率に到達しない場合は422フォーマットや420フォーマットに間引いて圧縮効率を高めてもよい。
【0054】
420処理部132は、444フォーマットや422フォーマットが入力された場合、所定の圧縮率に応じて422フォーマットや420フォーマットへ間引き処理を行う。
【0055】
水平圧縮部133は、水平方向の複数の画像データに対して、圧縮を行う圧縮回路により構成される。圧縮方式の一例としては、水平方向にWavelet変換を演算し、その演算結果に対して、符号化した圧縮方式等で構成する。圧縮方式として、アダマール変換や、ランレングス符号化、ハフマン符号化、差分符号化などを適用してもよい。
【0056】
垂直圧縮部134は、垂直方向の複数の画像データに対して、圧縮を行う圧縮回路により構成される。圧縮方式の一例としては、垂直方向に2ライン分、水平方向に16画素分の画像データを圧縮する画像データの単位ブロックとして、まず垂直方向に対し差分をとり、次に水平方向に差分をとる。その結果に対して符号化する圧縮方式等で構成する。
【0057】
間引き処理部132、水平圧縮部133および垂直圧縮部134の圧縮率は、元の非圧縮画像データに対して、例えば圧縮後の画像データを2/3や、1/2、1/3などの所定の圧縮率で圧縮可能な圧縮方式であればよい(しかし、本発明はこの圧縮率に限定されない)。この所定の圧縮率は、元の非圧縮画像データとケーブルで伝送できるデータ量の比から決まる。
【0058】
水平圧縮部133、垂直圧縮部134の圧縮する画像データの単位は、圧縮処理による遅延量を少なくする画素数で構成する。圧縮する画像データの単位の一例として、32画素を例にとって説明したが、64画素や128画素などの単位としてもよい。
【0059】
選択部135は、間引き処理部132と、水平圧縮部133もしくは、垂直圧縮部134の出力の内、所定の圧縮率を満たしかつ画質指数の高いものを選択し、エラー訂正符号生成部136に供給する。画質指数とは、例えば、圧縮画像データを復元した画像データと圧縮前の画像データの差異が小さいほど良い値を示す指数であればよい。圧縮ロスが発生せず、可逆符号化ができた場合が最高値である。
【0060】
画質指数の計算を簡略化するため、圧縮方式別に画質指数の値を用意しておいてもよい。444フォーマットのまま圧縮して圧縮ロスが発生する場合よりも、422フォーマットへ間引き後に可逆符号化できた場合を高い画質指数に定義してもよい。圧縮によって逆にデータ量が増加してしまう場合は、422フォーマットや420フォーマットに間引いて圧縮や、量子化bit数を減らすことによって所定の圧縮率を達成させるが、その間引きや量子bit数減に応じた画質指数を設定する。
【0061】
エラー訂正符号生成部136は、水平圧縮部133や垂直圧縮部134で圧縮された画像データの単位ごとにエラー訂正符号を演算し、圧縮された画像データに付加して、圧縮符号情報付加部137に出力する。エラー訂正の方式の一つとして、CRC(Cyclic Redundancy Check)方式やパリティチェック方式などがある。
【0062】
間引き処理部132で間引かれた画像データはエラー訂正符号を付与しなくてもよい。間引き処理の場合、エラーが生じても、該当画素と隣接した間引き画素のエラーであり、画面全体からみると画質への影響が少ないこと、さらにはケーブルのデータ伝送容量が限られている場合、エラー訂正符号を付与すると画素又は階調をより多く間引くことになり、画面全体の画質劣化につながるためである。伝送容量に余裕があれば間引き処理された画像データにもエラー訂正符号を付加して、エラー耐性を向上させてもよい。間引き画像データへのエラー訂正付加有無のメタデータを合せて伝送することによって、受信側でエラー訂正処理をするかどうかを判別させてもよい。また、間引き画像データと圧縮画像データでエラー訂正処理を変えてエラー耐性レベルを変えてもよいし、どのエラー訂正符号を付与したかを示す情報をメタデータとして加えてもよい。
【0063】
圧縮符号情報付加部137は、エラー訂正符号付の圧縮画像データを後述する図11の有効期間406に出力し、その直前の水平ブランキング期間404に圧縮方式を示す圧縮符号情報を出力する。また、別の方式としては、1ライン分のエラー訂正符号付の圧縮画像データ、及び圧縮方式を示す圧縮符号情報を、1ライン分の有効期間406内に伝送して伝送量の増大を図ってもよい。また、エラー訂正符号を水平ブランキング期間404に出力してエラー訂正の信頼性を向上させてもよい。
【0064】
出力部138からは、圧縮符号情報付加化部137からのエラー訂正符号付圧縮画像データと、圧縮方式を示す圧縮符号情報が出力される。図示していないが、図2の各ブロックは、図1の制御部110の制御信号に従ってその動作を制御される。
【0065】
図9は、エラー訂正符号生成部136の構成の一例を示すブロック図である。入力部150には圧縮された画像データが入力される。圧縮された画像データは、保持部155とエラー訂正符号演算部153に入力される。エラー訂正符号演算部153は、入力された圧縮された画像データに対して、生成多項式で巡回演算をする。
生成多項式の一例としては、
(数1)G(X)=X16+X12+X5+1
がある。この生成多項式は、入力された画像データ中の各ビットにつき排他的論理和をとり巡回演算する。演算の単位は圧縮する画像データの単位とする。
【0066】
入力部151は、圧縮された画像データが入力されている期間を示す信号が入力され、タイミング生成部154に供給される。タイミング生成部154は、圧縮された画像データの有効期間をカウントし、圧縮する画像データの単位ブロック分の演算が処理されたことを示す信号をエラー訂正演算結果出力タイミング信号としてデータ保持部155に出力する。
【0067】
さらに、タイミング生成回路154は、圧縮された画像データの入力期間を示すタイミング信号や、圧縮された画像データとエラー訂正符号演算結果を出力するタイミング信号なども合せてデータ保持部155び出力する。
【0068】
データ保持部155は、タイミング生成部154の示すタイミングに従って、エラー訂正符号演算部153の演算結果と圧縮された画像データを例えばメモリやフリップフロップ、遅延素子等によって一時的に記憶し、それらを順次、出力部157へ出力する。
【0069】
図10は、データ伝送部115の構成の一例を示すブロック図である。
入力部170は、圧縮された画像データをシリアライザ174に出力する。また入力部172は、画像データのクロックが入力され、PLL173と出力部177に出力する。画像データのクロックには、非圧縮画像データの標準的なタイミングフォーマットで使われる画素クロックに同期したクロックを用いる。
【0070】
例えば、非圧縮画像データの画素クロックを2分周したクロックを用いてもよい。この場合、該非圧縮画像データが12bitsの量子化画像データである場合は、クロックで1/2、量子化bit数で8/12となるので、前記した所定の圧縮率は1/3以下を設定する必要がある。
【0071】
クロックは2分周以外に、3/4逓倍や2/3逓倍としてもよい。非圧縮画像データの画素クロックに同期したクロックを圧縮画像データの伝送に使うことにより、受信側で非圧縮画像データを復元する場合に、伝送クロックの2倍や4/3倍、3/2倍などの逓倍したクロックを画素クロックとして使うことにより、復元データのジッタを最小化できる利点がある。
【0072】
PLL173は、入力されたクロックに対して逓倍化もしくは分周したクロックを生成する。逓倍化の一例としては、入力されたクロックの周波数に対して、5倍や10倍などがある。PLL173で生成するクロックは、1種類のクロックとしてもよいし、2種類のクロックとしてもよい。1種類のクロックの例としては、入力されたクロックの10逓倍がある。また2種類のクロックの例としては、データ伝送量を優先した第1のクロック速度と、エラーの発生頻度を下げることを優先した第1のクロック速度より遅い速度の第2のクロック速度のクロックがある。速度の一例としては前記第1のクロック速度を入力クロックの10逓倍、第2のクロック速度を入力クロックの5逓倍などがある。
【0073】
PLL173で生成した逓倍したクロックは、シリアライザ174に出力される。シリアライザ174は、入力されたYCbCr輝度色差信号の圧縮された画像データを、10逓倍したクロックで1bitずつシリアル化し、レベル変換部175に出力する。入力部172に入力された1クロックに対して、入力部170に入力されるデータが8bitある場合、該8bitデータを10bitにマッピングしてシリアル化したビットストリームのDC成分を抑圧するTMDS伝送方法などを用いてもよい。出力部176に接続されるケーブルが3本ある場合は、各ケーブル毎に上記シリアル処理を行うことによって、入力クロック当り24bitの圧縮された画像データを送ることができる。
【0074】
レベル変換部175は、ケーブル伝送に適した形式の信号を出力部176経由で出力する。
【0075】
図11は、1フレーム期間の画像データが重畳される有効領域と画像データが重畳されないブランキング期間を示す図である。
【0076】
400で示す領域が垂直期間を示し、垂直期間400は、垂直ブランキング期間401と垂直有効期間402から構成される。VSYNC信号は、垂直ブランキング期間401の先頭から規定されたライン数の間を1とし、その他の垂直ブランキング期間と垂直有効期間402の間は0とした1bitの信号である。規定されたライン数の一例としては、4ラインなどがある。
【0077】
403で示す領域が水平期間を示し、水平期間403は、水平ブランキング期間404と水平有効期間405から構成される。HSYNC信号は、水平ブランキング期間404の先頭から規定された画素数の間を1とし、その他の水平ブランキング期間と水平有効期間405の間は0とした1bitの信号である。規定された画素数の一例としては、40画素がある。
【0078】
有効期間406は、垂直有効期間402と水平有効期間405の期間に囲まれた領域を示し、この期間に画像データが割り当てられる。また、ブランキング期間407は、垂直ブランキング期間401と水平ブランキング期間404の期間に囲まれた領域である。
【0079】
本実施例においては、上記構成において、垂直ブランキング期間に圧縮伝送方式を示す情報を送信し、有効期間406に圧縮した画像データを送信し、そのラインの水平ブランキング期間404に各圧縮符号化の画像データ単位ブロック毎に選択された圧縮符号情報を送信する。ブランキング期間407は、音声データやその他の付属データをパケット化したデータを伝送している。
【0080】
この音声データ等のパケットをブランキング期間407で信頼性のあるパケットを送る方法は、例えば特表2005−514873号公報に開示されている。
【0081】
この構成で、ブランキング期間のパケットのデータに対しては誤り訂正符号が入っているため、伝送路で発生したエラーに対して補正ができエラー耐性が強くなる。また、ブランキング期間のパケットのデータ伝送用のデータは、物理的に異なる2つのチャンネルに伝送する構成とし、一定時間ごとに伝送するチャンネルを切り替えているため、片側のチャンネルでバースト的に発生したエラーに対して、他方のチャンネルが影響されないため、データエラーの補正を行うことができる。エラーの訂正率は、水平有効期間が10−9に対して、水平ブランキング期間は10−14の改善効果がある。
【0082】
この先行技術文献では、有効期間406では1クロック当り24bitの画像データを伝送し、ブランキング期間407では3byteのヘッダと28byteのデータで構成される1パケットを32クロック期間で伝送している。
【0083】
例えば、水平3840有効画素、垂直2160有効ライン、YCbCr輝度色差信号各12bitを444フォーマット、フレーム周波数60Hzで伝送する場合、891MHzと非常に高いクロック周波数が必要となる。高クロック周波数は送受信部のコストがかかるだけでなく、画像を安定に送ることができるケーブル長も短くなり使い勝手が悪くなる。
【0084】
本実施例によれば、2/3の圧縮で594MHz、1/3の圧縮で297MHzと、実用的なクロック周波数に近づけることができる。また、YCbCr輝度色差信号各8bitの444フォーマットや、各12bitの422フォーマットにおいては、1/2の圧縮で297MHzの実用的なクロック周波数にすることができる。
【0085】
水平3840有効画素、垂直2160有効ラインにおいて、例えば、水平560ブランキング画素、垂直90ブランキングラインになる。以下、水平3840有効画素、垂直2160有効ライン、YCbCr輝度色差信号各12bitを444フォーマット、フレーム周波数60Hzの映像信号を1/3に圧縮する場合を例にとって説明する。
【0086】
圧縮後のクロック周波数は297MHzで、水平1940有効画素、垂直2160有効ライン、水平280ブランキング画素、垂直90ブランキングラインという条件で伝送すると、受信側で2倍の周波数である原クロック594MHzを安定に再生しやすい。水平有効画素期間では、1画素当りYCbCr輝度色差各12bit計36bitを1/3の12bitに圧縮すれば、圧縮後の1画素当り24bit伝送できるので原画素の2画素分の伝送が可能となり、圧縮後のクロック周波数は原クロックの半分となる。
【0087】
32クロック当り1パケットが伝送できるので、圧縮後の水平280ブランキング画素では最大8パケットの伝送が可能となる。一方、音声データは1パケット当り24bit×8chの伝送ができる。画像データの水平周波数は135kHz(=60Hz×(2160+90))なので、192kHzサンプルの24bitリニアPCM音声を8ch伝送する場合は1水平ブランキング期間中に最大2パケット必要である。残りの6パケット、168byte(=28byte×6パケット)以内で圧縮符号方式情報を記述できることが望ましい。
【0088】
一方、前述した32画素を単位ブロックとして圧縮する場合、水平3840有効画素なので120ブロック分のYCbCr輝度色差信号の各圧縮符号方式情報、計360個分の記述スペースが必要である。圧縮符号情報を例えば2bitで表現すると、90bye分の記述スペースとなり、4パケットで伝送できるので、192kHz、8chの大容量音声データ伝送と両立できる。図12〜図15にパケットの一例を示す。
【0089】
図12と図14がパケットのヘッダの一例であり、最初のヘッダブロックHB0に本発明の圧縮符号化伝送方式に関する情報であることを示す共通のヘッダタイプ0Bhを記述する。HB1の各bitとHB2のBit4〜7は将来拡張用として0としている。HB2のBit0〜3に示すEco_Packet#がフレーム内での識別を示している。図13と図15がヘッダに続けて伝送される28byteのデータの一例である。
【0090】
図12のヘッダにおいて、Eco_Packet#は0hを割り当て、図12のヘッダと図13のデータから構成されるパケットが各フレーム内の共通情報であることを示す。このパケットは垂直ブランキング期間中に配置され、各画像フレームに少なくとも1回送信される。以下、図13のデータの内容を説明する。
【0091】
Color_Samplは、カラーサンプル情報を示し、例えば0がYCbCr444フォーマット、1がYCbCr422フォーマット、2がYCbCr420フォーマット、3がRGB444フォーマットを示し、4〜7は将来拡張用である。422や420フォーマットではさらにCbCrのサンプル位置情報を示すBitを追加で割り当ててもよい。
【0092】
CDはColor Depthであり、例えば4hは各YCbCr成分8bitの計24bit Color、5hは各YCbCr成分10bitの計30bit Color、6hは各YCbCr成分12bitの計36bit Color、7hは各YCbCr成分16bitの計48bit Colorを示し、その他は将来拡張用である。この定義はHDMIが既定するDeep Color Modeの定義に準じている。
【0093】
Eco_CbCrは、図4や図5で説明したCbやCrの座標変換の適用情報を示している。0であれば座標変換未適用、1は図5で説明した簡易座標変換、2は図4で説明したCbやCrの範囲を最小化した座標変換、3はCbCr範囲を最小化にした上でさらに係数圧縮した座標変換を示す。4〜7は将来拡張用である。Color_SamplがRGB444フォーマットを指定する場合は、この座標変換は無効なので未適用の0を記述すればよい。次に係数圧縮について、説明する。
【0094】
図4に示すCb範囲最小化の座標変換を行った場合、Cbの有効範囲領域は8bit量子化時に68〜188の範囲であり、範囲幅は121と1bit少ない7bitで表現できる。しかし、図6の最小Cr範囲では8bit量子化時に57〜199の範囲と範囲幅で143と7bitでは表現できない。
【0095】
また、xvYCCなどの拡張色空間をある程度表現したい場合もあるので、係数縮小を行い1bit少ないデータで表現できるようにするものである。CbとCrの各縮小係数は、図13のCb_FactorとCr_Factorの各8bitデータを256で割った値で示す。但し、00h表記は縮小係数1.00すなわち係数圧縮しないことを示す。また、係数縮小後の量子化bit数は元空間の量子化bit数に比べて、Cb_FactorやCr_Factorが129〜255と0は1bit、65〜128は2bit、33〜64は3bit、17〜32は4bit減らすものとする。Y輝度信号に対して、CbCr色差信号の階調数を減らしても画質上への影響は比較的小さいので、本手法によるデータ量圧縮は効果的である。
【0096】
例えば座標変換前の画像データが8bitであって、Eco_CbCr=”3”、Cb_Factorを00h(すなわち係数縮小なし)と設定した場合、RGB原色信号換算値がいずれも正となるCb範囲68〜188(128が正規化Cb=0.0に相当)は、4〜124(64が正規化Cb=0.0に相当)へ変換される。7bit化時において、64を正規化CbCrの0.00として量子化データは1〜126を用いる。座標変換前の0と255はそれぞれ0と127として伝送する。座標変換前が12bitであって、Cb_Factorが128の場合は。係数圧縮後のデータは2bit少ない10bitとなり、512を正規化Cbの0.00として量子化データは1〜1022を用いる。座標変換前の0と4095は0と1023として伝送する。
【0097】
このように、CbやCr色差信号のbit数を圧縮すれば、後段の水平又は垂直圧縮部などを使わないでも、YCbCr輝度色差信号各8bitの合計24bitを1画素として非圧縮伝送の代わりに。Y輝度信号に10bit、CbCr色差信号各7bitの合計24bitを1画素として非圧縮伝送もできる。視感度の高いY輝度信号に2bitを追加して伝送することにより滑らかな階調表現が実現できる。この場合、従来のY輝度信号8bitには10bitのY輝度信号の上位8bitを、CbとCr色差信号各8bitの上位7bitには7bitに縮小したCbとCr色差信号を、CbとCr色差信号各8bitの下位1bitには10bitのY輝度信号の下位2bitを1bitずつ割り当てるとよい。この割り当てにより、万一、このbit割り当てを誤解釈して従来のYCbCr輝度色差信号各8bit割り当てと扱った場合でも、その画質への影響を軽減することができる。
【0098】
尚、上記は座標変換後に係数圧縮と言う2ステップ演算を示唆しているが、これを合せて1つの座標変換としてあつかうと演算量を軽減できる。さらにはRGB原色信号が入力される場合は、YCbCr輝度色差信号へ変換するマトリクス演算の係数に反映させれば1回の演算でよい。
【0099】
Eco_FLMは、フレーム内の全ブロックの圧縮符号方式が同一である場合に1とし、ブロック毎に設定する場合を0としている。1の場合は、後述するEco−CD0とEco−CD1、Eco−CD2にそれぞれY、Cb、Crの圧縮符号方式を記述する。
【0100】
CK_NとCK_Mは、その比(CK_N/CM_M)が、非圧縮画像データの画素クロックと、圧縮後のデータを伝送する通信路のクロック例えばTMDSクロックとの周波数比を示す。例えばCM_N=1でCK_M=2であれば、4k2kの場合の非圧縮画像データの画素クロック594MHzに対して伝送系のTMDSクロックは1/2の297MHzとなる。
【0101】
Eco_Blockは圧縮画素単位ブロックの画素数を示している。Eco_CD0〜Eco_CD3は、各画像データ単位ブロックに適用する圧縮符号化情報の候補を4種類示すものである。図16に一例を示すように、圧縮する画像データ単位の圧縮符号情報Eco_Codeから4種類を選択する。
【0102】
図14のヘッダと図15のデータからなるパケットは、各水平ブランキング期間に1個以上伝送される。図14のヘッダ中のEco_Packet#は、各ラインに伝送される本パケットのシリアル番号を示すものであり、1から始まり順次1ずつ増やしていく。図15に示すCode_0〜Code_111は、図13のEco_CD0〜Eco_CD3で記述した4種類の圧縮符号化情報から選択した番号を、各画像データ単位ブロックにおいて、各Y、Cb,Cr成分を順番に記述する。例えば、最初の画像データ単位ブロックのY成分の圧縮符号情報を示すCode_0が1であれば、Eco_CD1を指す。Eco_CD1が10を示していれば、図16から原画像のデータの444フォーマットY成分を差分符号化方式で圧縮したデータであることを示している。
【0103】
図8に示した垂直2ラインを画像データ単位ブロックとする場合は、1ライン目のCode_0が画像データ単位ブロック503の圧縮符号情報を、2ライン目のCode_0が画像データ単位ブロック504の圧縮符号情報を示す。
【0104】
図13のColor_Samplが444フォーマットを示している場合は、Code_1は、第1画像データ単位ブロックのCbの圧縮符号情報、Code_2は第1画像データ単位のCrの圧縮符号情報、Code_3は第2画像データ単位ブロックのYの圧縮符号情報を示す。Color_Samplが420フォーマットを示している場合は、Code_1は、第2画像データ単位ブロックのYの圧縮符号情報、Code_2は第1と第2画像データ単位のCb(偶数ラインではCr)の圧縮符号情報、Code_3は第3画像データ単位ブロックのYの圧縮符号情報を示す。Color_Samplが422フォーマットを示している場合は、Code_1は、第1と第2画像データ単位ブロックのCbの圧縮符号情報、Code_2は第第2画像データ単位のYの圧縮符号情報、Code_3は第1と第2画像データ単位ブロックのCbの圧縮符号情報を示す。
【0105】
また、Code_0が0であれば、Eco_CD0を指し、Eco_CD0が6を示していれば図16から、原画像のデータの444フォーマット各Y、Cb、Cr成分12bitデータを420フォーマット8ビットに間引いていることを示している。この場合は、Y成分のCode_0のみでCbとCrの伝送形態が決まる為、Cb成分を示すCode_1やCr成分を示すCode_2の情報は不要であり、0を記述しておくよい。
【0106】
さて、図1に図示していないが、画像受信装置200には画像受信装置200の性能を示すEDID(Enhanced Extended Display Identification Data)を格納したROMが搭載されている。このROMの中に画像受信装置200が圧縮伸張に対応しているか否かを判別する情報を付加してもよい。これにより、画像伝送装置100は、画像受信装置200のEDIDを格納したROMから、圧縮伸張に対応しているか否かを判別する情報を読出し、対応している装置であれば、圧縮した画像データを伝送し、非対応の装置であれば、圧縮せず従来のサイズで画像を送信することにより、圧縮処理に非対応の画像受信装置とも互換性を保つことができる。
【0107】
また、画像受信装置が圧縮に非対応であり、従来の画像サイズであることを表示部208に表示することにより、ユーザーに通知することがきる。
【0108】
このEDIDの記述例を図17に示す。図17は、HDMI−VSDBと称される領域へ拡張子した例を示している。6Byte目のBit2に本発明の圧縮符号化伝送方式への対応可否を示すEco_transferフラグを設ける。本領域は予約領域として扱われてきたので、非対応のレガシー機器では0と記載されており、対応機器のみ1と記載することによって後方互換性を維持できる。このEco_transferフラグが1の場合、Byte9とByte10の記述が有効となる。Bit0と1のEco_CbCrは、CbCr色差信号の座標変換対応可否を示し、図13のEco_CbCrの下位2bitに相当する。0であれば座標変換未対応、1は簡易座標変換対応、2は簡易座標変換に加えてCbやCrの範囲を最小化した座標変換にも対応、3は簡易座標変換に加えてCbCr範囲を最小化にした上でさらに係数圧縮した座標変換する機能も3方式全部の座標変換にも対応していることを示している。
【0109】
Block_64とBlock_128は、圧縮する画像データ単位ブロックの大きさがそれぞれ64画素、128画素に対応することを示すフラグである。画像データ単位ブロックの大きさ32画素は本圧縮画像データ伝送対応における必須モードと定義して、EDID記述スペース節約のため、あえて表記していない。Eco−Code1〜4は、それぞれ、図16に一例を示した圧縮符号化方式、Wavelet変換、ランレングス符号化、ハフマン符号化、差分符号化に対応していることを示すフラグである。CLK_1、CLK_3/4、CLK_1/2は、それぞれ非圧縮画像データクロックに対する、TMDS伝送クロックの周波数が1倍、3/4倍、1/2倍となるモードに対応していることを示すフラグである。
【0110】
また、画像伝送装置100を携帯機器として使用する場合に、バッテリー駆動の装置となるため、画像伝送装置100の消費電力が連続使用時間に影響する。この場合、画像データを圧縮して伝送しデータ伝送量を下げ、消費電力を低減できる。この効果は、画像伝送装置100の動作モードとして、例えば「省電力モード」などの機能を付加し、外部から電源が供給されている場合は、非圧縮の画像データで伝送し、バッテリーで駆動されている場合は、画像データを圧縮して伝送することにより、連続使用時間を長く設定することができる。
【0111】
図18は、データ受信処理部205の構成の一例を示すブロック図である。
入力部220は、画像伝送装置100のレベル変換部175にて変換された信号をレベル変換部222に出力する。レベル変換部222は、画像伝送装置100でレベル変換された信号をデジタル信号に変換しデシリアライザ223に出力する。レベル変換の一例としては、差動信号をシングルエンド信号への変換がある。
【0112】
入力部221は、画像伝送装置100から出力されたクロックを入力しPLL224に出力する。PLL224は、入力されたクロックの10倍のクロックを生成し、デシリアライザ223に出力する。またPLL224は、画像受信装置200内で使用する画素クロックを出力部226から出力する。原画像の非圧縮画像データの画素クロックを画像表示装置200内で用いる場合は、入力クロックを図13のパケットデータに基づき、PLL224が(CK_M/CK_N)倍に逓倍したクロックを出力部226から出力する。
【0113】
デシリアライザ223は、シリアル化されたデータをPLL224からのクロックでパラレル化し、出力部225から出力する。デシリアライザ223は、10倍のクロックのデータをパラレル化して所定の例えばTMDS復号により8bitパラレルデータとして出力部225から出力する。
【0114】
図19は、伸張処理部206の構成の一例を示すブロック図である。また、図20は、伸張処理部206の処理概念を示すタイミング説明図である。
入力部250は、伸張処理部206のデータ入力部である。入力部250に入力されるデータには、画像データの同期信号を示すHSYNC(図20(a))およびVSYNCと、有効期間406に圧縮された画像データ512と514、水平ブランキング期間404に圧縮符号情報511と513がある。入力部251には復元後の非圧縮画像データの画素クロックや、圧縮画像データクロック等が入力される。
【0115】
HSYNC、VSYNC、圧縮画像データクロックと復元後の非圧縮画像データの画素クロックは、タイミング生成部252に供給される。タイミング生成部252は、入力されたHSYNC、VSYNCによりカウンタを制御し、垂直ブランキング期間401、垂直有効期間402、水平ブランキング期間404、水平有効期間405、有効期間406などのタイミングを始め、伸張処理部内の各ブロックの制御に必要なタイミングを生成し出力する。
【0116】
圧縮符号情報抽出部253は、水平ブランキング期間に送られてくる各画像データ単位ブロックの圧縮符号情報を抽出して圧縮符号情報記憶部254に記憶させる。その記憶期間を図20(c)に示す。圧縮符号情報511は続く圧縮画像データ512に対応したデータであるので、同情報を2ライン目の圧縮符号情報513が来るまでの記憶期間515で十分である。しかし、例えば2ラインの画像データを垂直圧縮させている場合は、垂直伸張用圧縮符号情報516だけは2ライン目の圧縮画像データを伸張させる期間まで保持させる必要がある。
【0117】
水平有効期間内に送られてくる圧縮画像データはエラー訂正部255で伝送系のエラー訂正処理を行う。 エラー訂正部255は、圧縮された画像データの単位ごとに、エラー訂正符号生成部136と同じエラー訂正符号を演算する。前記演算結果と符号検出部253から入力されるエラー訂正符号とを比較し、比較結果が異なっている場合は、エラー訂正処理を行う。エラー訂正処理の一例としては、CRC演算がある。また、エラー検出のみを行い以降の処理でエラーを補間してもよい。
【0118】
水平有効期間内に送られてくる圧縮画像データの内、間引き画像データはエラー訂正部255を通さず、直接選択部258へ入力している(図19の矢印263)。単なる間引き画像データの場合、エラーがあってもそのエラーは該当画素及び隣接した間引き画素に限定され、画面全体の画質を著しく劣化させるものではないこと、さらにはエラー訂正符号を付加するとさらに多くの画素又は階調を間引くことになって画面全体の画質劣化につながる点を考慮した為である。もちろん、データ転送帯域に余裕があれば、間引き画像データにもエラー訂正処理を付加してもよい。
【0119】
圧縮符号情報記憶部254の情報を基に、水平伸張部256や垂直伸張部257で画像データを伸張して選択部258へ出力する。水平伸張部256出力(図20(d))は圧縮画像データ512と514から復号にかかる時間だけ遅れた水平伸張画像データ518と519を出力する。垂直伸張部257出力(図20(e))は、例えば2ライン画像データ用いた圧縮符号化方式の場合、2ライン期間に渡って1ライン目と2ライン目の垂直伸張画像データ520と521として出力される。
【0120】
選択部258は、圧縮符号情報記憶部の情報に基づき、入力部250へ入力される画像データと、水平伸張部256の出力、垂直伸張部257出力を適宜選択して間引き復元部259へ出力する。上記したように、最も遅れて出力される垂直伸張部出力521に合せて、復元画像データ522が入力圧縮画像データ512よりも1ライン以上遅れて出力することになる。このようなタイミング調整の為、詳細説明は省略するが、選択部258の入力画像データは各伸張方式による処理遅延を適宜吸収するためのメモリ(図示せず)を有する。
【0121】
間引き復元部259は、圧縮符号情報記憶部254の情報を基に、間引き画像データから間引き部の画像データを復元する。間引き復元には、図2の間引き処理部132の間引き対応の他、水平圧縮部133や垂直圧縮部134が444フォーマットから422への間引き処理を施している場合にも対応し、間引き種別に応じた復元を行う。また、出力部261が444フォーマットではなく422や420フォーマット画像データを要求する場合は、間引きの復元処理を停止又は間引きフォーマット変換などを行ってもよい。
【0122】
間引き復元部259は、エラー訂正部255からの信号が該当画像データのエラー有を示しており、かつ水平方向に圧縮されていた場合は左右画像から補完し、垂直方向に圧縮されていた場合は、1ライン前のデータから補完する処理を施してもよい。
【0123】
この構成により、エラーが発生した場合においても相関性が高い画像データにおきかえることができるため、伝送エラーによる画像への影響を少なくすることができる。また圧縮する画像データの単位が十数画素であるため、置き換える画素の範囲もすくなくすむため、伝送エラーの影響をすくなくすることができる。また、圧縮伸張による処理遅延も図20(f)に示すように1ラインで抑えることができる。
【0124】
間引き復元部259の出力を入力とするYCbCr処理部260は、図13に示したパケットデータ情報Eco_CbCrとCb_Factor、Cr_Factorを基に、縮小されていたCbとCrを復元する色差信号処理を担当する。また、出力部261がRGB原色信号を要求する場合は、RGB原色信号への変換処理を行う。このように、YCbCr処理部260は、画像伝送装置における図2のYCbCr処理部131の逆動作を行う位置付けであり、詳細説明は省略する。
【0125】
以上で説明した本実施例によれば、画像伝送装置が伝送する画像データを圧縮して伝送することにより、現在規定している伝送路に、現在規定されている画像サイズより大きなサイズの画像データを伝送することが可能になり、さらに、画像データの伝送領域よりも、エラー耐性を高めた領域にエラー検出や訂正符号を付加することによって、エラー耐性が高い画像伝送を行うことができる。
【0126】
また、現在規定されている画像サイズの画像データを伝送する場合においては、所定時間当たりのデータ伝送量、もしくはデータ伝送クロックを下げることができるため、エラーの発生頻度を下げることができ、且つ、伝送路でのエラーに対して信頼性の高いシステムを構築することができる。
【0127】
また、伝送路でエラーが発生して完全なエラー訂正ができない場合においても、エラーによる画質劣化が目立たないエラー処理を行うシステムを実現することができる。
【実施例2】
【0128】
実施例1において、垂直圧縮の画像データ単位ブロックは図8のように2行以上複数ラインにまたがるため、図20に示すように圧縮画像データに対して1水平周期以上の遅延が生じている。この遅延時間を軽減する為に、垂直圧縮の画像データ単位ブロックも図7の水平圧縮の画像データ単位ブロックと同じ1ラインとする。この場合は、垂直圧縮は前ラインに対する差分の符号化などの符号化方式に限定されるが、実施例1に比べて処理遅延時間が軽減できる利点がある。
【実施例3】
【0129】
実施例1では、画像データ単位ブロック毎の圧縮符号情報を信頼性の高い水平ブランキング期間中のパケットを用いて伝送したが、図20に示すように、受信機側で圧縮符号情報を1水平周期近く保持する必要があった。また、送信機側では、圧縮符号情報を該当するラインの圧縮画像データの直前の水平ブランキング期間に配置する為に、圧縮画像データをラインメモリに記憶させてほぼ1水平周期遅らせて出力させる必要があり、回路規模の増大と画像信号の伝達遅延時間が大きくなる課題があった。そこで、実施例3では、圧画像データ単位の圧縮符号情報を水平ブランキング期間ではなく、水平有効期間内の圧縮画像データと一緒に伝送する方式を採用する。
【0130】
有効期間内に送るべきデータが圧縮画像データだけでなく圧縮符号情報も一緒に送ろうとすると、圧縮画像データの圧縮率を上げざるを得ず、復元時の画像の画質劣化が大きくなる懸念がある。その対策として、水平ブランキング期間を音声データ伝送パケット2個分を送れる程度まで縮小し、水平有効期間を広げる。
【0131】
4k2k画像データを非圧縮画像の画素クロック594MHzの半分の297MHzクロックで伝送する場合、実施例1では、水平有効期間1920、水平ブランキング期間280であった。音声パケット2個分の伝送期間と前後のガードバンドを含めて水平ブランキング期間は96程度あればよいので、残り184を水平有効期間を増やせる。水平有効期間1920を約9.5%程度拡大できる効果がある。
【0132】
この実施例3の場合、水平同期信号の位置や幅などが所定の非圧縮画像データの標準タイミングからずれる為、受信側で非圧縮画像データ再生時に、画像データに付与されているSVD(Short Video Descriptor)メタデータを参考にして、標準タイミングフォーマットとなるようタイミングを復元するとよい。
【0133】
図21に、伸張処理部206の構成の一例を示すブロック図を示す。図19と同様な機能を持つブロックには同じ番号を付している。その差異は、エラー訂正回路255の出力部に第2の映像符号情報抽出部263が加わり、間引き画像データとして入力250から直接ではなくエラー訂正部255を通して選択部258の入力(図21の矢印264参照)になっている点である。
実施例1では、圧縮符号情報抽出部253は垂直ブランキング期間内の圧縮符号情報(図12と図13のパケット)と、水平ブランキング期間内の圧縮符号情報(図14と図15のパケット)を抽出していた。本実施例では、圧縮符号情報抽出部は垂直ブランキング期間内のフレーム内共通情報のみ抽出し、圧縮符号情報記憶部254で記憶する。
【0134】
本実施例では、各圧縮画像データ単位ブロックの圧縮符号情報がブランキング期間内でエラー訂正処理が施されているパケットで送る代わりに、他の圧縮画像データと同様なエラー訂正処理を加えている。このため、第2の圧縮符号情報抽出部262が、エラー訂正部255のエラー訂正処理後のデータと、フレーム単位で抽出された圧縮符合情報記憶部254の出力から、各圧縮画像データ単位ブロックの圧縮符号情報を抽出して、水平伸張部256や垂直伸張部257、選択部258へ出力している。
【0135】
本実施例では、各圧縮画像データ単位ブロックの圧縮画像データと圧縮符号情報がタイミング的に近接しているので、1水平周期に渡る圧縮符号情報記憶は、フレーム内共通の圧縮符号情報を除いて不要となるので、回路規模を削減できる効果がある。
【0136】
さらに、本実施例では、実施例1に比べて前述したように、水平有効期間が9.5%拡張できるので、エラー訂正符号を追加して伝送している。このため、間引き画像データに対してもエラー訂正部255の出力264として選択部258へ入力されているので、間引き画像データのエラーを抑圧でき、よりエラー耐性の強い画像データ伝送が実現できる。
【実施例4】
【0137】
図2に示した画像伝送装置の圧縮処理部の例において、間引き処理部132と水平圧縮部133、垂直圧縮部134、選択部135の実現例を図22に示す。
【0138】
311と312、313は入力部であり、それぞれY輝度信号、Cb色差信号、Cr色差信号が入力される。間引き処理部132は、Cb間引き部322とCr間引き部323から構成され、入力されたY輝度信号はそのまま、Cb色差信号はCb間引き部322で間引きされた信号が、Cr色差信号はCr間引き部323で間引きされた信号が記憶部351へ出力されて記憶される。
【0139】
尚、420フォーマットとして用いる場合は、ライン単位またはフレーム単位でCb色差信号とCr色差信号を選択読出し部353が交互に選択読出しを行えばよい。
【0140】
このCb間引き部322とCr間引き部323の出力を流用することによって、水平圧縮部133と垂直圧縮134の422フォーマット変換機能を切換スイッチ334と335、344、345で簡単に実現している。
【0141】
水平圧縮部133は、Y水平圧縮部331と、Cb水平圧縮部332、Cr水平圧縮部333、切換スイッチ334、335から構成される。入力部311に入力されたY輝度信号はY水平圧縮部331で所定の圧縮画像データ単位ブロック毎に圧縮され、記憶部351へ出力して記憶される。入力部312に入力されたCb色差信号と、Cb間引き部322の出力である間引きCb色差信号のいずれかを切換スイッチ334が選んだ後、Cb水平圧縮部332がで所定の圧縮画像データ単位ブロック毎に圧縮して、記憶部351へ出力して記憶される。入力部313に入力されたCr色差信号と、Cr間引き部323の出力である間引きCr色差信号のいずれかを切換スイッチ335が選んだ後、Cr水平圧縮部333がで所定の圧縮画像データ単位ブロック毎に圧縮して、記憶部351へ出力して記憶される。
【0142】
垂直圧縮部134は、Y垂直圧縮部341と、Cb垂直圧縮部342、Cr垂直圧縮部343、切換スイッチ344、345から構成される。入力部311に入力されたY輝度信号はY垂直圧縮部341で所定の圧縮画像データ単位ブロック毎に圧縮され、記憶部351へ出力して記憶される。入力部312に入力されたCb色差信号と、Cb間引き部322の出力である間引きCb色差信号のいずれかを切換スイッチ344が選んだ後、Cb垂直圧縮部342がで所定の圧縮画像データ単位ブロック毎に圧縮して、記憶部351へ出力して記憶される。入力部313に入力されたCr色差信号と、Cr間引き部323の出力である間引きCr色差信号のいずれかを切換スイッチ345が選んだ後、Cr垂直圧縮部343がで所定の圧縮画像データ単位ブロック毎に圧縮して、記憶部351へ出力して記憶される。
【0143】
Cb間引き部322と、Cr間引き部323、Y水平圧縮部331、Cb水平圧縮部332、Cr水平圧縮部333、Y垂直圧縮部341、Cb垂直圧縮部342、Cr垂直圧縮部343は、それぞれ間引き又は圧縮時に各圧縮画像データ単位ブロック毎に画質指数を計算し、圧縮画像データと共に記憶部351に記憶させる。
【0144】
画質指数とは、例えば、入力部311と312、313に入力される非圧縮のYCbCr輝度色差信号に対し、それぞれのブロックが間引き又は圧縮した画像データを非圧縮画像データに復元したYCbCr輝度色差信号との差を信号成分毎かつ画素毎に求め、それらの2乗合計と定義するとよい。計算を簡略化するため、2乗合計に代えて絶対値の合計や、最大値を各圧縮画像データ単位ブロックの画質指数としてもよい。また、各圧縮処理において得られる評価指数や圧縮によって切り捨てられる係数から概略値を推定してもよい。また、画質への影響が大きいと考えられるY輝度信号の二乗誤差の和にさらに係数をかけて、Cb色差信号やCr色差信号より重視してもよい。さらに、実施例1で述べたように、CbCr色差信号を係数圧縮して量子化bit数を減らしている場合は、それに応じて逆にCbCr色差信号の画質指数計算用係数を大きめに設定してもよい。
【0145】
選択部135は、記憶部351と圧縮率・画質評価部352、選択読出し部353、出力部354から構成される。圧縮率・画質評価部352は、記憶部351に記憶された各圧縮画像データの画質指数とデータ量を基に、各水平有効期間中に伝送できるデータ量の中で、画面算対の画質指数の合計値または最大の画質指数が最小となる組合せを選び出してその組合せ情報を、選択読出し部353に伝える。選択読出し部353は、圧縮率・画質評価部352の指示に基づき、記憶部351から指定された間引き又は圧縮された画像データを順番に読出し、出力部354へ送る。
【0146】
水平周期単位では垂直圧縮部の正しい画質指数や圧縮画像データが得られないので、圧縮画像データ単位ブロックの垂直ライン数(画素数)分の圧縮画像データと画質指数を記憶部351に保管し、その垂直ライン数単位で、画面算対の画質指数の合計値または最大の画質指数が最小となる組合せを選び出してその組合せ情報を、選択読出し部353に伝えるとなおよい。
【0147】
切換スイッチ334と335、344、345は、CbCr色差信号の圧縮を間引き前信号を対象にするか間引き後の信号を対象にするかを切換える働きをしている。どちらを選ぶかは、圧縮前の非圧縮画像データと、画像データを伝送するケーブルで伝送できる画像データ量の比から計算される圧縮率がある判定値より小さい場合は間引き後の信号、大きければ間引き前と判断してもよい。判定値は、水平圧縮部や垂直圧縮部の圧縮アルゴリズムにも依存するが、例えば1/2〜4/5の範囲に設定するとよい。
【0148】
切換スイッチ334と335、344、345は一斉に切換えてもよいし、上記の判定値をスイッチ毎に設定して個別に切換えてもよい。また、これらの切換スイッチを使用せず、Cb水平圧縮部332とCr水平圧縮部333、Cb垂直圧縮部342、Cr垂直圧縮部343を2つずつ備え。間引き前と間引き後の双方の信号をそれぞれ圧縮して記憶部351に記憶させてもよい。圧縮率・画質評価部352の選択範囲を広げ、より高画質な画像データの伝送ができる。
【0149】
本実施例は、圧縮処理部のより具体的な実現例を示したものであり、これまで述べてきた実施例1〜3と組み合わせて使用できることは明らかである。
【実施例5】
【0150】
画像受信装置の他の実施例を、図1を用いて説明する。圧縮画像データを受信して伸張しそれを表示処理部で処理後表示する点については、これまで述べてきた実施例1〜4と同じである。本実施例では、伸張処理部206から表示処理部207へ伸張された非圧縮画像データと共に、各圧縮画像データ単位ブロックの圧縮符号情報や、エラー訂正処理時に得られる伝送エラー情報を伝送する点。
【0151】
当該構成により、表示処理部における解像度(または画素数)変換処理や、超解像処理、画像ノイズ抑圧処理などを、前記圧縮符号情報や伝送エラー情報に応じて、各圧縮画像データブロック毎に処理方法を切換えることで、圧縮画像伝送における画質劣化を最小限に抑えることができる。
【符号の説明】
【0152】
100 画像伝送装置
101,102,103,104,130,150,151,170,172,201,202,220,221,250,251,311,312,313 入力部
105 チューナー受信処理部
106 ネットワーク受信処理部
107 記録メディア制御部
108 記録メディア
109,203ユーザーIF
110,204 制御部
111 ストリーム制御部
112 デコーダ
113,207 表示処理部
114 圧縮処理部
115 データ伝送部
116,138,157,176,177,225,226,261,354 出力部
131 YCbCr処理部
132 間引き処理部
133 水平圧縮部
134 垂直圧縮部
135,258 選択部
136 エラー訂正符号生成部
137 圧縮符号情報付加部
153 エラー訂正符号演算部
154, 251タイミング生成部
155 データ保持部
173,224 PLL
174 シリアライザ
175,222 レベル変換部
200 画像受信装置
205 データ受信処理部
206 伸張処理部
208 表示部
223 デシリアライザ
253,262 圧縮符号情報抽出部
254 圧縮符号情報記憶部
255 エラー訂正部
256 水平伸張部
257 垂直伸張部
259 間引き復元部
260 YCbCr処理部
300 ケーブル
322 Cb間引き部
322 Cr間引き部
331 Y水平圧縮部
332 Cb水平圧縮部
333 Cr水平圧縮部
334,335,336 切換スイッチ
341 Y垂直圧縮部
342 Cb垂直圧縮部
343 Cr垂直圧縮部
351 記憶部
352 圧縮率・画質評価部
353 選択読出し部
400 垂直期間
401 垂直ブランキング期間
402 垂直有効期間
403 水平期間
404 水平ブランキング期間
405 水平有効期間
406 有効期間
407 ブランキング期間
501,502,503,504 圧縮する画像データの単位
512,514 圧縮された画像データ
511,513,515,516,517 圧縮符号情報
518,519 水平伸張画像データ
520,521 垂直伸張画像データ
522 復元画像データ

【特許請求の範囲】
【請求項1】
画像データを圧縮し伝送する画像伝送装置において、
輝度信号との相関を用いた座標変換によって色差信号のとりうる範囲を狭める色差信号処理を行う色差信号処理部と、
輝度色差信号からなる画像データを所定の画素数からなる画像データ単位ブロック毎に圧縮処理する水平圧縮部と、
輝度色差信号からなる画像データを所定の画素数からなる画像データ単位ブロック毎に圧縮処理する垂直圧縮部と、
前記水平圧縮部の出力と前記垂直圧縮部の出力とを少なくとも1水平有効期間記憶する記憶部と、
各画像データ単位ブロックの圧縮率と圧縮処理による画像劣化を示す指数に基づいて、圧縮符号方式を選定する圧縮率・画質評価部と、
前記圧縮処理された画像データを出力するデータ転送部と、を有し、
該データ転送部は圧縮された画像データと共に前記色差信号処理及び前記圧縮処理に関する圧縮符号情報を出力することを特徴とする画像伝送装置。
【請求項2】
請求項1に記載の画像伝送装置において、
前記画像データに基づいてクロック信号を生成するクロック信号生成部を有し、
前記データ転送部は、前記信号生成部の出力するクロックに同期して前記圧縮画像データを出力することを特徴とした画像伝送装置。
【請求項3】
画像データを圧縮し伝送する画像伝送方法において、
輝度信号との相関を用いた座標変換によって色差信号のとりうる範囲を狭める色差信号処理を行うステップと、
輝度色差信号からなる画像データを所定の画素数からなる画像データ単位ブロック毎に水平方向に圧縮処理するステップと
輝度色差信号からなる画像データを所定の画素数からなる画像データ単位ブロック毎に垂直方向に圧縮処理するステップと、
前記水平方向に圧縮処理されたデータと前記垂直方向に圧縮処理されたデータとを少なくとも1水平有効期間記憶するステップと、
各画像データ単位ブロックの圧縮率と圧縮処理による画像劣化を示す指数に基づいて、圧縮符号方式を選定するステップと、
圧縮処理された画像データを前記色差信号処理と前記圧縮処理に関する圧縮符号情報と共に出力するステップと、を有することを特徴とする画像伝送方法。
【請求項4】
請求項3に記載の画像伝送方法において、
前記画像データに基づいてクロック信号を生成するステップと、
前記生成したクロックに同期して前記圧縮画像データを出力するステップと、を有することを特徴とした画像伝送方法。
【請求項5】
圧縮された画像データを受信する画像受信装置において、
圧縮された画像データと当該圧縮された画像データの圧縮処理に関する圧縮符号情報を受信する入力部と、
前記入力部に入力された圧縮符号情報に基づいて前記入力部に入力された圧縮された画像データ伸張する伸張部と、
前記入力部に入力された圧縮符号情報に基づいて、前記伸張部にて伸張された輝度色差形式の画像データに対して輝度信号との相関を用いた座標変換を行い、当該画像データを色差信号として出力する色差信号処理部と、
圧縮画像データ単位ブロック毎の圧縮符号情報及び/または伝送エラー情報に応じて受信した画像データに対する信号処理を変化させる表示信号処理部と、を有することを特徴とした画像受信装置。
【請求項6】
圧縮された画像データを受信する画像受信方法において、
圧縮された画像データと当該圧縮された画像データの圧縮処理に関する圧縮符号情報を受信するステップと、
前記受信した圧縮符号情報に基づいて前記受信した圧縮された画像データ伸張するステップと、
前記受信した圧縮符号情報に基づいて、前記伸張した輝度色差形式の画像データに対して輝度信号との相関を用いた座標変換を行い、当該画像データを色差信号として出力するステップと、
圧縮画像データ単位ブロック毎の圧縮符号情報及び/または伝送エラー情報に応じて受信した画像データに対する信号処理を変化させるステップと、を有することを特徴とした画像受信方法。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate

【図20】
image rotate

【図21】
image rotate

【図22】
image rotate


【公開番号】特開2013−31025(P2013−31025A)
【公開日】平成25年2月7日(2013.2.7)
【国際特許分類】
【出願番号】特願2011−166183(P2011−166183)
【出願日】平成23年7月29日(2011.7.29)
【出願人】(509189444)日立コンシューマエレクトロニクス株式会社 (998)
【Fターム(参考)】