説明

画像送信装置、画像送信方法、及びプログラム

【課題】画像データに応じて、画質の破綻を抑制しつつ適切に符号化することが可能な、新規かつ改良された画像送信装置及び画像送信方法を提供する。
【解決手段】送信される画像データを符号化する符号化部と、前記符号化部による前記画像データの符号化レートを取得するレート取得部と、前記レート取得部により取得された前記符号化レートに応じて、符号化される前記画像データの走査方式をインターレース方式又はプログレッシブ方式に設定する設定部と、を備える。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像送信装置、画像送信方法、及びプログラムに関する。
【背景技術】
【0002】
複数の装置間においてインターネット等のネットワークを介して、画像データとしての映像データの送受信が行われる。映像データの送信側の装置は、映像データを符号化して、受信側の装置に送信する。受信側の装置は、受信した映像データを復号化して、例えば表示装置等に表示させる。
【0003】
従来、映像データの送信側の装置は、ネットワークの通信状況を考慮し、映像データの符号化レートを通信状況に応じて変化させている。また、映像データの符号化に際し、符号化レートに応じて映像データのフレームのレートや解像度を変更する技術が、特許文献1に開示されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2005−151280号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
ところで、符号化される対象の画像データによっては、一定の符号化レート以下に落とすと画像データに破綻が生じる可能性がある。例えば、プログレッシブ方式の画像データの場合には、符号化レートを小さくすると、画質が維持できずに破綻してしまう恐れがある。
【0006】
そこで、本発明は、上記問題に鑑みてなされたものであり、本発明の目的とするところは、画像データに応じて、画質の破綻を抑制しつつ適切に符号化することが可能な、新規かつ改良された画像送信装置及び画像送信方法を提供することにある。
【課題を解決するための手段】
【0007】
上記課題を解決するために、本発明のある観点によれば、送信される画像データを符号化する符号化部と、前記符号化部による前記画像データの符号化レートを取得するレート取得部と、前記レート取得部により取得された前記符号化レートに応じて、符号化される前記画像データの走査方式をインターレース方式又はプログレッシブ方式に設定する設定部と、を備える、画像送信装置が提供される。
【0008】
また、前記符号化レートの大きさと、前記インターレース方式の画像データの画質及び前記プログレッシブ方式の画像データの画質と、を関連づけたテーブル情報を記憶する記憶部を更に備え、前記設定部は、取得された前記符号化レートと、前記記憶部に記憶された前記テーブル情報とに基づいて、前記インターレース方式又は前記プログレッシブ方式を設定することとしても良い。
【0009】
また、前記記憶部は、前記テーブル情報を前記画像データのジャンル毎に記憶し、前記設定部は、取得された前記符号化レートと、符号化される前記画像データのジャンルに対応した前記テーブル情報とに基づいて、前記インターレース方式又は前記プログレッシブ方式を設定することとしても良い。
【0010】
また、前記テーブル情報における前記インターレース方式の画像データの画質及び前記プログレッシブ方式の画像データの画質は、ユーザー評価値によって設定されることとしても良い。
【0011】
また、前記設定部は、取得された前記符号化レートが所定の閾値よりも大きい場合には、前記プログレッシブ方式を設定し、取得された前記符号化レートが所定の閾値よりも小さい場合には、前記インターレース方式を設定することとしても良い。
【0012】
また、符号化される前記画像データは、動画像データであり、前記動画像データのシーンチェンジを検出する画像解析部を更に備え、前記設定部は、前記画像解析部により検出される前記シーンチェンジのタイミング時に、前記符号化レートに応じて前記インターレース方式又は前記プログレッシブ方式を設定することとしても良い。
【0013】
また、前記所定の閾値は、第1閾値であり、前記設定部は、取得された前記符号化レートが、前記第1閾値よりも大きい第2閾値より小さく、かつ前記第1閾値よりも小さい第3閾値よりも大きい場合には、前記シーンチェンジのタイミング時に前記インターレース方式又は前記プログレッシブ方式を設定し、取得された前記符号化レートが、前記第2閾値よりも大きい場合、又は前記第3閾値よりも小さい場合には、前記シーンチェンジのタイミング以外のタイミング時に前記インターレース方式又は前記プログレッシブ方式を設定することとしても良い。
【0014】
また、前記設定部は、前記画像解析部によりシーンチェンジが検出されない場合には、前記符号化レートと前記所定の閾値を比較してから所定期間経過後に、前記符号化レートに応じて前記インターレース方式又は前記プログレッシブ方式を設定することとしても良い。
【0015】
また、上記課題を解決するために、本発明の別の観点によれば、送信される画像データを符号化するステップと、前記画像データの符号化レートを取得するステップと、取得された前記符号化レートに応じて、符号化される前記画像データの走査方式をインターレース方式又はプログレッシブ方式に設定するステップと、を含む、画像送信方法が提供される。
【0016】
また、上記課題を解決するために、本発明の別の観点によれば、送信される画像データを符号化するステップと、前記画像データの符号化レートを取得するステップと、取得された前記符号化レートに応じて、符号化される前記画像データの走査方式をインターレース方式又はプログレッシブ方式に設定するステップと、をコンピュータに実行させるための、プログラムが提供される。
【発明の効果】
【0017】
以上説明したように本発明によれば、画像データに応じて、画質の破綻を抑制しつつ適切に符号化することが可能となる。
【図面の簡単な説明】
【0018】
【図1】画像通信システム1の構成を示す図である。
【図2】画像送信装置10の構成を示す機能ブロック図である。
【図3】品質テーブルを説明するための図である。
【図4】パケットの構造を説明するための図である。
【図5】画像受信装置20の構成を示す機能ブロック図である。
【図6】画像送信処理の第1の処理例を説明するためのフローチャートである。
【図7】画像送信処理の第2の処理例を説明するためのフローチャートである。
【発明を実施するための形態】
【0019】
以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
【0020】
なお、説明は以下の順序で行うものとする。
1.画像通信システムの概要
2.画像送信装置の構成
3.画像受信装置の構成
4.画像送信処理
4−1.第1の処理例
4−2.第2の処理例
5.まとめ
【0021】
<1.画像通信システムの概要>
画像通信システムの概要について、図1を参照しながら説明する。図1は、画像通信システム1の構成を示す図である。
【0022】
図1に示すように、画像通信システム1は、画像送信装置10と、ネットワーク12と、撮像装置14と、表示装置18と、画像受信装置20とを有する。
【0023】
撮像装置14は、例えばビデオカメラであり、被写体を撮像し、静止画または動画などの画像データを取得する。そして、撮像装置14は、画像データを画像送信装置10へ供給する。
【0024】
画像送信装置10は、撮像装置14から供給された画像データを符号化し、符号化された画像データを含むパケットを生成し、当該パケットをネットワーク12を介して画像受信装置20へ送信する通信装置である。また、画像送信装置10は、TFRC(TCP Friendly Rate Control)に従って動作する。すなわち、画像送信装置10は、パケット損失率やRTT(Round Trip Time)などの情報を含むフィードパケットを画像受信装置20から受信すると、フィードバックパケットに基づいてパケットの送信制御を行う。なお、画像送信装置10の詳細構成については、後述する。
【0025】
ネットワーク12は、ネットワーク12に接続されている装置から送信される情報の有線リンク、または無線リンクを含む。例えば、ネットワーク12は、インターネット、電話回線網、衛星通信網などの公衆回線網や、Ethernet(登録商標)を含む各種のLAN(Local Area Network)、WAN(Wide Area Network)などを含んでもよい。
【0026】
画像受信装置20は、画像送信装置10から送信されたパケットをネットワーク12を介して受信し、受信したパケットに基づいて画像データを再構築し、当該画像データを復号化して表示装置18へ供給する通信装置である。また、画像受信装置20は、例えばパケット損失率に関する情報を含むフィードバックパケットを生成し、ネットワーク12を介して画像送信装置10へ送信する。なお、画像受信装置20の詳細構成については、後述する。
【0027】
表示装置18は、画像受信装置20から供給された画像データを表示する。この表示装置18は、例えば、CRT(Cathode Ray Tube)ディスプレイ装置、液晶ディスプレイ(LCD)装置、OLED(Organic Light Emitting Diode)装置などであってもよい。
【0028】
このような画像通信システム1によれば、リアルタイムでの画像データの通信が可能となる。したがって、当該画像通信システム1を例えばテレビジョン電話システムやテレビジョン会議システムに適用できる。また、図1においては一対の通信装置(画像送信装置10および画像受信装置20)のみを示しているが、画像通信システム1にはより多数の通信装置を設けてもよい。
【0029】
ところで、画像通信システム1においては、画像受信装置20に送信される画像データの符号化レートを、ネットワーク12の通信状況に応じて変化させる。ここで、符号化する対象の画像データによっては、一定符号化レート以下に落とすと画像データに破綻が生じる可能性がある。例えば、プログレッシブ方式の画像データの場合には、符号化レートを小さくすると、画質が維持できずに破綻してしまう恐れがある。そこで、本実施形態に係る画像通信システム1は、かかる問題を解決すべく、詳細は後述するが、符号化レートに応じて画像データの走査方式をインターレース方式又はプログレッシブ方式に設定する。
【0030】
<2.画像送信装置の構成>
画像送信装置10の構成について、図2を参照しながら説明する。図2は、画像送信装置10の構成を示す機能ブロック図である。
【0031】
図2に示すように、画像送信装置10は、画像解析部110と、レート取得部の一例であるレート制御部120と、設定部の一例であるI/P制御部130と、記憶部140と、符号化部150と、パケット処理部160と、送信部170を有する。
【0032】
(画像解析部110)
画像解析部110は、撮像装置14から供給された画像データの画像解析を行う。例えば、画像解析部110は、画像データを解析して、画像データのジャンルを判別する。画像解析部110は、解析後に、画像データを符号化部150に供給し、画像データのジャンル情報をI/P制御部130に供給する。
【0033】
なお、上記では、画像解析部110が画像データを解析して、画像データのジャンルを判別することとしたが、これに限定されない。例えば、画像データのメタデータや、EPG(Electronic Program Guide)等の情報も用いて、ジャンルを判別しても良い。
【0034】
本実施形態において、撮像装置14から供給される画像データは、複数のシーンを含む動画像データ(映像データ)である。画像解析部110は、動画像データのシーンチェンジを検出可能である。画像解析部110は、検出したシーンチェンジのタイミングに関する情報を、I/P制御部130に供給する。
【0035】
(レート制御部120)
レート制御部120は、パケット交換ネットワークにおけるネットワーク遅延の発生およびパケットロスの発生を抑制するため、レート制御を行う。レート制御部120は、例えばUDP(User Datagram Protocol)方式の通信では、TFRC(TCP Friendry Rate Control)によって、画像データの符号化レートを決定する。レート制御部120は、決定したレートを、I/P制御部130に供給する。
【0036】
(I/P制御部130と記憶部140)
I/P制御部130は、レート制御部120から供給された符号化レートに応じて、送信される画像データの走査方式をインターレース方式又はプログレッシブ方式に設定する。より具体的には、I/P制御部130は、レート制御部120から供給された符号化レートと、記憶部140に記憶された品質テーブルに基づいて、インターレース方式又はプログレッシブ方式を設定する。これにより、詳細は後述するが、ユーザーが体験する通信品質であるユーザーレベルQoS(Quality of Service)、すなわちQoE(Quality of Experience;ユーザー体感品質)に基づいて、送信する画像データをインターレース方式又はプログレッシブ方式に設定することになる。
【0037】
記憶部140は、各種のデータを記憶する。記憶部140は、符号化レートの大きさと、インターレース方式の画像データの画質及びプログレッシブ方式の画像データの画質と、を関連づけたテーブル情報としての品質テーブルを記憶する。記憶部140は、品質テーブルを画像データのジャンル毎に記憶する。
【0038】
ここで、記憶部140に記憶された品質テーブルについて、図3を参照しながら説明する。図3は、品質テーブルを説明するための図である。品質テーブルは、事前に評価を行って作成されるものであり、ジャンルの異なる複数の映像データを用いて評価し、対応する複数の品質テーブルが作成される。
【0039】
ここで、品質テーブルの具体的な作成方法について説明する。まず、評価対象となる映像データを用意し、異なる符号化レートでインターレース及びプログレッシブの映像データに符号化させる。例えば、対象とする符号化レートを5〜30Mbpsとし、5Mbps間隔でインターレース及びプログレッシブの映像データに符号化する。次に、各映像データに関して複数の被験者(ユーザ)を用いた主観評価、もしくは、評価ツールを用いた客観評価を行い、評価値を0〜100に正規化して、図3に示す品質テーブルを作成する。
【0040】
続いて、図3に示す品質テーブルについて説明する。品質テーブルの評価値については、評価値が0だと映像データの画質が悪く、評価値が100だと映像データの画質が良いものとする。このため、品質テーブルを見ると分かるように、符号化レートが15Mbps以下の場合には、インターレース方式の映像データの画質が、プログレッシブ方式の映像データの画質よりも良い。一方で、符号化レートが20Mbps以上の場合には、プログレッシブ方式の映像データの画質が、インターレース方式の映像データの画質よりも良い。このように、品質テーブルにおけるインターレース方式の画像データの画質及びプログレッシブ方式の画像データの画質は、ユーザーの評価値によって設定される。
【0041】
図3の品質テーブルに含まれていない符号化レート(例えば、17Mbps)に対する評価値は、近傍の値から補間して算出される。符号化レートが例えば17Mbpsの場合の評価値は、15Mbpsと20Mbpsを用いて線形補間を行うと、プログレッシブ評価値は59.14であり、インターレース評価値は67.54である。
【0042】
なお、品質テーブル作成の際の評価対象となる映像データとしては、動きのある映像、静止画に近い映像、実写、アニメーション、CGなど様々な条件の映像を含むデータを用いることができる。
【0043】
ここで、上述した品質テーブルを用いたI/P制御部130の制御内容を説明する。I/P制御部130は、画像解析部110により判別されたジャンルに対応した品質テーブルから、取得された符号化レートに対応するプログレッシブ評価値とインターレース評価値を取得し、2つの評価値を比較する。そして、I/P制御部130は、プログレッシブ評価値がインターレース評価値よりも大きい場合にはプログレッシブ方式に設定し、プログレッシブ評価値がインターレース評価値よりも小さい場合にはインターレース方式を設定する。すなわち、I/P制御部130は、より画質の良い走査方式を設定することになる。
【0044】
また、I/P制御部130は、画像解析部110により検出されたシーンチェンジのタイミング時に、インターレース方式又はプログレッシブ方式を設定する。このように走査方式の設定タイミングを、画像データのシーンがチェンジするタイミングに限定することにより、走査方式の変更に伴う画質の変動を目立たなくすることができる。
【0045】
上記では、I/P制御部130は、品質テーブルのプログレッシブ評価値とインターレース評価値を比較して、インターレース方式又はプログレッシブ方式を設定することとしたが、これに限定されない。例えば、I/P制御部130は、取得された符号化レートが所定の閾値(当該閾値は、記憶部140に記憶されている)より大きいか否かに応じて、プログレッシブ方式又はインターレース方式を設定しても良い。
【0046】
例えば、I/P制御部130は、取得された符号化レートが所定の第1閾値(当該第1閾値は、プログレッシブ評価値がインターレース評価値よりも大きくなる符号化レートの大きさである)よりも大きい場合には、プログレッシブ方式を設定し、取得された符号化レートが所定の閾値よりも小さい場合には、インターレース方式を設定する。かかる場合には、品質テーブルを記憶部140に記憶させる必要が無くなり、記憶部140の容量を有効活用でき、また、符号化レートと閾値の比較のみで走査方式が決定されるので、処理時間を短くできる。
【0047】
また、符号化レートと比較対象の閾値は、段階的に閾値を複数設定しても良い。例えば、第1閾値よりも大きい第2閾値と、第1閾値よりも小さい第3閾値を設定しても良い。第2閾値と第3閾値は、以下のように用いられる。
【0048】
I/P制御部130は、取得された符号化レートが、第2閾値よりも大きい場合、又は第3閾値よりも小さい場合には、シーンチェンジのタイミング以外のタイミング時にインターレース方式又はプログレッシブ方式を設定する。具体的には、レート制御部120より取得された符号化レートが第2閾値よりも大きい場合には、I/P制御部130は、シーンチェンジのタイミングに達していなくても、強制的にプログレッシブ方式を設定する。一方で、符号化レートが第3閾値よりも小さい場合には、I/P制御部130は、シーンチェンジのタイミングに達していなくても、強制的にインターレース方式を設定する。これにより、迅速に、符号化レートに適した走査方式に設定されることとなる。また、このように強制的に走査方式を設定した後に符号化レートが変動しても、符号化レートが大きく変動することは想定し難いので、直ぐに走査方式を切り換える可能性が低い。
【0049】
一方で、I/P制御部130は、取得された符号化レートが、第3閾値と第2閾値の間の大きさの場合には、シーンチェンジのタイミング時にインターレース方式又はプログレッシブ方式を設定する。符号化レートが第3閾値と第2閾値の間の場合には、その後の変動に伴い第1閾値の前後の大きさになって、走査方式の切り替えが頻繁に生じやすくなる。このため、走査方式の設定タイミングを限定することで、走査方式の切り替えが頻繁に生じることを抑制できる。
【0050】
上記では、シーンチェンジのタイミングで走査方式を設定する(切り替える)こととしたが、これに限定されない。例えば、I/P制御部130は、画像解析部110によりシーンチェンジが検出されない場合には、所定期間経過後に、符号化レートに応じてインターレース方式とプログレッシブ方式を設定しても良い。これにより、シーンチェンジが無い場合に、符号化レートに適した走査方式に切り替わらないことを防止できる。
【0051】
(符号化部150)
符号化部150は、画像解析部110から供給される画像データを符号化する。なお、符号化方式としては、例えば、JPEG(Joint Photographic coding Experts Group)、JPEG2000、Motion JPEG、AVC(Advanced Video Coding)、MPEG(Moving Picture Experts Group)1、MPEG2またはMPEG4などがあげられる。
【0052】
符号化150は、画像データを、I/P制御部130によって設定された走査方式にて符号化する。例えば、画像解析部110から供給された画像データがプログレッシブ方式である場合に、I/P制御部130によってプログレッシブ方式が設定されると、画像データの走査方式は変更されずに、符号化される。一方で、I/P制御部130によってインターレース方式が設定されると、画像データの走査方式をインターレース方式に変更されて、符号化される。
【0053】
(パケット処理部160)
パケット処理部160は、符号化部150により符号化された画像データに基づいてパケットを生成し、送信部170へ供給する。具体的には、パケット処理部160は、符号化部150により符号化された画像データを分割し、分割された画像データにTCP(Transmission Control Protocol)/IPヘッダを付加することによりパケットを生成する。または、パケット処理部160は、分割された画像データにUDP(User Datagram Protocol)/IPヘッダを付加することによりパケットを生成してもよい。なお、ヘッダにはパケットの各々を識別するシーケンス番号が含まれる。
【0054】
また、パケット処理部160は、I/P変換するタイミングを画像受信装置20に通知するために、符号化された画像データをパケット化する際に、パケットデータにプログレッシブかインターレースかを示すフラグを付加する。ここで、パケット処理部160により生成されたパケットデータの構造について、図4を参照しながら説明する。図4は、パケットデータの構造を説明するための図である。図4に示すように、パケットデータは、ヘッダとペイロードに加えて、フラグPとフラグFを含む。
【0055】
フラグPは、パケットデータがプログレッシブ方式かインターレース方式かを示すフラグである。例えば、パケットデータがプログレッシブ方式の場合にはフラグPは0と設定され、インターレース方式の場合にはフラグPは1と設定される。フラグFは、パケットデータがインターレース方式の場合に、偶数・奇数フィールドを示すフラグである。例えば、偶数フィールドの場合にはフラグFは0と設定され、奇数フィールドの場合にはフラグFは1と設定される。なお、パケットデータがプログレッシブ方式の場合には、フラグFは設定されない。パケット処理部160は、パケットデータにフラグFとフラグPを付加して、送信部170に供給する。
【0056】
(送信部170)
送信部170は、パケット処理部120から供給されたパケットデータを、ネットワーク12を介して画像受信装置20へ送信する。
【0057】
上述した画像送信装置10の機能構成において、画像解析部110、レート制御部120、I/P制御部130、符号化部150、パケット処理部160は、CPU、DSP(デジタル信号処理装置)等の演算処理装置により構成される。記憶部140は、フラッシュメモリ等の不揮発性メモリ、ハードディスクドライブ、ブルーレイディスクドライブ等の外部記憶装置等により構成される。そして、CPUは、ROM、記憶部140、外部の記憶装置等から読み出されたプログラムをRAM上に展開して実行することで、各種の処理(後述する画像送信処理)を実現する。なお、上記機能構成の少なくとも一部は、専用ロジック等のハードウェアとして構成されてもよい。
【0058】
<3.画像受信装置の構成>
画像受信装置20の構成について、図5を参照しながら説明する。図5は、画像受信装置20の構成を示す機能ブロック図である。
【0059】
図5に示すように、画像受信装置20は、受信部210と、パケット処理部220と、復号化部230と、I/P変換判断部240と、I/P変換装置250を有する。
【0060】
受信部210は、画像送信装置10から送信されたパケットを受信する。受信部210は、受信したパケットをパケット処理部220に供給する。
【0061】
パケット処理部220は、受信部210から供給されたパケットデータに基づいて、画像データを再構成する。すなわち、各パケットデータには分割された画像データが含まれているため、パケット処理部220は、複数のパケットデータに含まれる複数の分割された画像データを組み合わせて画像データを再構成する。
【0062】
復号化部230は、パケット処理部220により再構成された画像データを復号化する。復号化部230は、復号化した画像データをI/P変換判断部240に供給する。
【0063】
I/P変換判断部240は、パケットデータに付加されたフラグP(図4参照)の示す値から、復号化された画像データをI/P変換させるか否かを判断する。例えば、フラグPが0と設定されている(すなわち、画像データの走査方式がプログレッシブ方式である)場合には、I/P変換が不要なので、I/P変換判断部240は、復号されたプログレッシブ方式の画像データを表示装置18に供給する。一方で、フラグPが1と設定されている(すなわち、画像データの走査方式がインターレース方式である)場合には、I/P変換が必要なので、I/P変換判断部240は、復号されたインターレース方式の画像データをI/P変換装置250に供給する。
【0064】
I/P変換装置250は、I/P変換判断部240から供給されたインターレース方式の画像データを、プログレッシブ方式に変換する。I/P変換装置250は、プログレッシブ方式に変換された画像データを、表示装置18に供給する。
【0065】
表示装置18は、I/P変換判断部240又はI/P変換装置250から供給されたプログレッシブ方式の画像データを、リアルタイムに表示する。このように、テレビ、パソコンディスプレイ、ビデオカードなどに搭載されているI/P変換機能を利用することにより、低コストで高品質な解像度変更処理が可能となる。
【0066】
ところで、I/P変換装置250の処理時間に起因して、I/P変換装置250から表示装置18に供給される画像データの表示タイミングと、I/P変換判断部240から表示装置18に供給される画像データの表示タイミングにずれが生じることがある。表示タイミングにずれが生じる場合には、I/P変換判断部240から供給される画像データを一旦バッファリングして表示を遅延させることで、表示タイミングのずれを解消しても良い。
【0067】
なお、上記の実施形態では、I/P変換装置250が画像受信装置20に設けられているが、これに限定されず、例えばI/P変換装置250は表示装置18に設けられていても良い。
【0068】
<4.画像送信処理>
本実施形態に係る画像データの画像送信処理について説明する。本処理は、画像送信装置10のCPUが、記憶部140に記憶されたプログラムを実行することにより、実現される。以下においては、画像送信処理として、第1の処理例と第2の処理例について説明する。
【0069】
(4−1.第1の処理例)
図6は、画像送信処理の第1の処理例を説明するためのフローチャートである。図6のフローチャートは、画像送信装置10の画像解析部110が、撮像装置14から画像データが供給されたところから開始される。
【0070】
まず、レート制御部120は、ネットワーク12の通信状況等から、画像データの符号化レートを取得する(ステップS12)。レート制御部120は、取得した符号化レートをI/P制御部120に供給する。
【0071】
次に、I/P制御部130は、記憶部140の品質テーブルを参照して、レート制御部120から供給された符号化レートに対応するインターレース評価値及びプログレッシブ評価値を取得する(ステップS14)。なお、レート制御部120から供給された符号化レートの値が品質テーブルに存在しない場合には、I/P制御部130は、前述した補間処理によって、対応するインターレース評価値及びプログレッシブ評価値を取得する。
【0072】
ところで、記憶部140にはジャンル毎に品質テーブルが記憶されており、画像解析部110は画像解析の際に画像データのジャンルを判別する。I/P制御部130は、記憶部140の記憶された複数の品質テーブルの中から、画像解析部110が判別したジャンルの品質テーブルを選択する。そして、I/P制御部130は、選択した品質テーブルを参照して、インターレース評価値及びプログレッシブ評価値を取得する。これにより、送信される画像データのジャンルに対応した走査方式を、高精度かつリアルタイムに設定できる。
【0073】
次に、I/P制御部130は、取得したインターレース評価値とプログレッシブ評価値を比較する(ステップS16)。比較結果、プログレッシブ評価値がインターレース評価値よりも大きい場合には(ステップS16:Yes)、I/P制御部130は、プログレッシブ方式を設定する(ステップS18)。
【0074】
一方で、プログレッシブ評価値がインターレース評価値よりも小さい場合には(ステップS16:No)、I/P制御部130は、インターレース方式を設定する(ステップS20)。
【0075】
I/P制御部130は、設定された走査方式に関する情報を符号化部150に供給する。符号化部150は、画像データを、設定された走査方式にて符号化する。例えば、画像解析部110から供給された画像データがプログレッシブ方式である場合に、I/P制御部130によってプログレッシブ方式が設定されると、符号化部150は、画像データの走査方式は変更せずに、符号化する。一方で、I/P制御部130によってインターレース方式が設定されると、符号化部150は、画像データの走査方式をインターレース方式に変更して、符号化する。符号化された画像データは、パケット処理部160によってパケット化された後に、送信部170によって画像受信装置20に送信される。
【0076】
上述した第1の処理例によれば、画像データの画質の破綻を抑制しつつ適切に符号化することが可能となる。撮像装置14から画像送信装置10へプログレッシブ方式の画像データが供給された場合を前提にして、詳細に説明する。
【0077】
プログレッシブ方式の画像データの場合には、図3に示すように、符号化レートが大きい程画質が良い。このため、撮像装置14から供給された画像データがプログレッシブ方式である場合に、レート制御部120により設定された符号化レートが小さいと、符号化部150により符号化されたプログレッシブ方式の画像データの画質が破綻してしまう恐れがある。これに対して、本処理によれば、符号化レートが小さい場合には、プログレッシブ方式からインターレース方式へ走査方式を切り替えることによって、小さい符号化レートであっても画像データの画質の破綻を防止できる。また、符号化レートが大きい場合には、プログレッシブ方式の画像データを符号化することで、高画質を維持したまま画像受信装置20に送信できる。
【0078】
(4−2.第2の処理例)
図7は、画像送信処理の第2の処理例を説明するためのフローチャートである。図7のフローチャートも、図6のフローチャートと同様に、画像送信装置10の画像解析部110が、撮像装置14から画像データを供給されたところから開始される。
【0079】
上述した第1の処理例では、撮像装置14から画像データが供給されると、I/P制御部130は、画像データの走査方式の設定(切り替え)を行う。これに対して、第2の処理例では、I/P制御部130は、画像データである映像データのシーンチェンジのタイミング時のみに、画像データの走査方式の設定(切り替え)を行う。
【0080】
第2の処理例では、まず、画像解析部110が、画像データのシーンチェンジのタイミングに達するか否かを判定する(ステップS32)。画像解析部110がシーンチェンジのタイミングに達すると判定した場合には(ステップS32:Yes)、I/P制御部130は、符号化レートに応じた画像データの走査方式の設定を行うべく、ステップS34〜S42の処理を行う。
【0081】
ステップS34〜S42の処理は、図6のステップS12〜S20の処理と同様である。つまり、I/P制御部130は、符号化レートと品質テーブルに基づいて、画像データの走査方式をインターレース方式又はプログレッシブ方式を設定する。その後、符号化部150は、画像データを、設定された走査方式にて符号化する。これにより、第2の処理例でも、第1の処理例と同様に画像データの画質の破綻を抑制しつつ適切に符号化することが可能となる。
【0082】
一方で、画像解析部110がシーンチェンジのタイミングに達しないと判定した場合には(ステップS34:No)、I/P制御部130による画像データの走査方式の切り替えは行われない。このため、符号化部150は、シーンチェンジが生じる迄は、同じ走査方式で画像データを符号化する。
【0083】
上述した第2の処理例によれば、画像データである映像データのシーンチェンジに合わせて、インターレース方式とプログレッシブ方式を切り替えることができる。これにより、画像データの走査方式の切り替え数が増大することを防止できる。特に、インターレース評価値とプログレッシブ評価値の差が小さい符号化レート(例えば、図3の品質テーブルでは15Mbps〜20Mbps)の場合には、その後の符号化レートの変動に伴い走査方式の切り替えが頻繁に生じ易くなるが、本処理を適用することでかかる問題を改善できる。また、本処理によれば、頻繁に走査方式が切り替わることに起因するユーザーの不快感を軽減させることができる。
【0084】
なお、第2の処理例においては、シーンチェンジにタイミングに達すると判定された場合に、符号化レートに応じた画像データの走査方式の設定を行うこととしたが、これに限定されない。例えば、符号化レートに応じた画像データの走査方式を選択した後に、シーンチェンジのタイミングに達するか否かを判定し、シーンチェンジのタイミングの際に選択された走査方式に切り替えることとしても良い。すなわち、選択された走査方式の切り替えを、シーンチェンジのタイミングまで保留することとなる。なお、保留中に、選択された走査方式(例えば、インターレース方式)と異なる走査方式(例えば、プログレッシブ方式)が新たに選択された場合には、保留状態が解除され、かつ走査方式の切り替えが行われなくても良い。すなわち、画像データの走査方式が、保留前の走査方式(プログレッシブ方式)で維持される。
【0085】
<5.まとめ>
上述したように、本実施形態の画像送信装置10においては、レート制御部120から供給された符号化レートに応じて、ネットワーク12を介して画像受信装置20に送信される画像データの走査方式をインターレース方式又はプログレッシブ方式に設定する。これにより、画像データの画質の破綻を抑制しつつ適切に符号化することが可能となる。具体的には、符号化レートが小さい場合には、プログレッシブ方式からインターレース方式へ走査方式を切り替えることによって、小さい符号化レートであっても画像データの画質の破綻を防止できる。また、符号化レートが大きい場合には、プログレッシブ方式の画像データを符号化することで、高画質を維持したまま画像受信装置20に送信できる。
【0086】
また、画像データの走査方式を切り替えることで、画像データの符号化レートもより自由に変化させることができる。つまり、インターレース方式の画像データの場合には、符号化レートを小さくし、プログレッシブ方式の画像データの場合には、符号化レートを大きくできる。この結果、ネットワークの輻輳が発生し難くなる。
【0087】
また、品質テーブルを用いてインターレース方式又はプログレッシブ方式を設定するので、ユーザーレベルの体感品質を有効に活用することができる。
【0088】
また、映像データのシーンチェンジのタイミングで、インターレース方式とプログレッシブ方式を切り替える場合には、切り替え時の画質の変化を目立たなくさせることができる。例えば、シーンチェンジに合わせてプログレッシブ方式からインターレース方式に切り替えることで、画質の劣化が目立つことを抑制できる。
【0089】
以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。
【0090】
尚、本明細書において、フローチャートに記述されたステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的に又は個別的に実行される処理をも含む。また時系列的に処理されるステップでも、場合によっては適宜順序を変更することが可能であることは言うまでもない。
【符号の説明】
【0091】
1 画像通信システム
10 画像送信装置
12 ネットワーク
14 撮像装置
18 表示装置
20 画像受信装置
110 画像解析部
120 レート制御部
130 I/P制御部
140 記憶部
150 符号化部
160 パケット処理部
170 送信部
210 受信部
220 パケット処理部
230 復号化部
240 I/P変換判断部
250 I/P変換装置

【特許請求の範囲】
【請求項1】
送信される画像データを符号化する符号化部と、
前記符号化部による前記画像データの符号化レートを取得するレート取得部と、
前記レート取得部により取得された前記符号化レートに応じて、符号化される前記画像データの走査方式をインターレース方式又はプログレッシブ方式に設定する設定部と、
を備える、送信装置。
【請求項2】
前記符号化レートの大きさと、前記インターレース方式の画像データの画質及び前記プログレッシブ方式の画像データの画質と、を関連づけたテーブル情報を記憶する記憶部を更に備え、
前記設定部は、取得された前記符号化レートと、前記記憶部に記憶された前記テーブル情報とに基づいて、前記インターレース方式又は前記プログレッシブ方式を設定する、請求項1に記載の送信装置。
【請求項3】
前記記憶部は、前記テーブル情報を前記画像データのジャンル毎に記憶し、
前記設定部は、取得された前記符号化レートと、符号化される前記画像データのジャンルに対応した前記テーブル情報とに基づいて、前記インターレース方式又は前記プログレッシブ方式を設定する、請求項2に記載の送信装置。
【請求項4】
前記テーブル情報における前記インターレース方式の画像データの画質及び前記プログレッシブ方式の画像データの画質は、ユーザー評価値によって設定される、請求項2に記載の送信装置。
【請求項5】
前記設定部は、取得された前記符号化レートが所定の閾値よりも大きい場合には、前記プログレッシブ方式を設定し、取得された前記符号化レートが所定の閾値よりも小さい場合には、前記インターレース方式を設定する、請求項1に記載の送信装置。
【請求項6】
符号化される前記画像データは、動画像データであり、
前記動画像データのシーンチェンジを検出する画像解析部を更に備え、
前記設定部は、前記画像解析部により検出される前記シーンチェンジのタイミング時に、前記符号化レートに応じて前記インターレース方式又は前記プログレッシブ方式を設定する、請求項5に記載の送信装置。
【請求項7】
前記所定の閾値は、第1閾値であり、
前記設定部は、
取得された前記符号化レートが、前記第1閾値よりも大きい第2閾値より小さく、かつ前記第1閾値よりも小さい第3閾値よりも大きい場合には、前記シーンチェンジのタイミング時に前記インターレース方式又は前記プログレッシブ方式を設定し、
取得された前記符号化レートが、前記第2閾値よりも大きい場合、又は前記第3閾値よりも小さい場合には、前記シーンチェンジのタイミング以外のタイミング時に前記インターレース方式又は前記プログレッシブ方式を設定する、請求項6に記載の送信装置。
【請求項8】
前記設定部は、前記画像解析部によりシーンチェンジが検出されない場合には、前記符号化レートと前記所定の閾値を比較してから所定期間経過後に、前記符号化レートに応じて前記インターレース方式又は前記プログレッシブ方式を設定する、請求項6に記載の送信装置。
【請求項9】
送信される画像データを符号化するステップと、
前記画像データの符号化レートを取得するステップと、
取得された前記符号化レートに応じて、符号化される前記画像データの走査方式をインターレース方式又はプログレッシブ方式に設定するステップと、
を含む、送信方法。
【請求項10】
送信される画像データを符号化するステップと、
前記画像データの符号化レートを取得するステップと、
取得された前記符号化レートに応じて、符号化される前記画像データの走査方式をインターレース方式又はプログレッシブ方式に設定するステップと、
をコンピュータに実行させるための、プログラム。


【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate