オーディオ及びビデオの再生を同期するためのシステム及び方法
多数の個別ビデオモニタ及びスピーカにビデオプログラム及び関連付けられたオーディオを同期させて提供しうる、航空機等の乗り物内のデジタルインフライトエンターテイメント(IFE)システムを提供するためのシステム及び方法。このシステム及び方法は、マスタークロックに基づきローカルクロックを調整し、マスタークロックに対して遅延時間を設定し、その遅延に基づきビデオ及びオーディオ再生を調整する等のオペレーションを実行し、オーディオ及びビデオプレーヤーによるオーディオ及びビデオデータの再生を実質的に同期し、それにより、ビデオ及びオーディオ再生を同期する際の、ソース及び負荷に基づくジッタ、ネットワーク遅延、クロックドリフト、ネットワークエラー及びデコーダバッファリング差異の弊害を排除又は少なくとも最小化するため、IFEシステムの少なくとも1つのデコーダにおける処理オペレーションを用いる。
【発明の詳細な説明】
【技術分野】
【0001】
[0001] 本発明は、多数の個別のビデオモニタ及びスピーカにビデオプログラム及び関連付けられたオーディオを、同期された様式で提供できる、航空機等の乗り物内のデジタルインフライトエンターテイメント(IFE)システムを提供するためのシステム及び方法に関する。更に詳細には、本発明は、IFEシステムにおける多数のビデオ及びオーディオの再生装置に亘ってビデオプログラム及び関連付けられたオーディオの同期された再生を達成するためのシステム及び方法に関する。
【背景技術】
【0002】
[0002] 一般に、IFEシステムは、ブロードキャストビデオ素材を配信するためにアナログ配信技術を使用し、オーディオ素材に対してアナログ又はパルス符号変調(PCM)デジタルのいずれかを使用している。典型的には、ビデオプログラムは、単一のソースを源としてRF変調又はベースバンド分配技術を通して航空機全体に亘って配信される。ビデオプログラムがアナログ信号として配信される場合、ソースからビデオプレーヤー又はオーバーヘッド型モニタ等の提供装置までの遅延は、非常に小さく、通常は数マイクロ秒内である。加えて、アナログビデオは、基本的にそれが表示装置によって受信されると提供される。したがって、ベースバンド又はRF変調の信号が全てのビデオプレーヤー及びオーバーヘッド型モニタに配信される場合には、これらの提供装置は、典型的には、数マイクロ秒内で同期される。
【0003】
[0003] PCMデジタル配信を使用するIFEシステムにおいて、オーディオ素材はデジタル配信システムに一致するレートでサンプルされる。オーディオの各サンプルは専用のデジタル配信システムを介して伝送される。多くのシステムは、複数のオーディオプログラムを組み合わせて、多重化されたデジタルデータストリームとするための時分割多重(TDM)方式を使用する。オーディオプレーヤーが、使用される(1つ又は複数の)時間スロットを識別し、所望の(1つ又は複数の)時間スロットからサンプルを抽出し、サンプルを変換してアナログ信号に戻す。オーディオ信号をサンプル毎に伝送すること、及び、この目的のための専用の配信ネットワークを使用することによって、オーディオがそのソースから約1サンプル時間遅延して提供される。
【0004】
[0004] 典型的には、現在のシステムは、多数の視聴者に同時に提供されるプログラムのために、ベースバンド又はRF変調のビデオ配信のいずれかを使用する。提供装置においてほとんど処理が行われず、情報は基本的に実時間で配信されるので、これらの配信及び提供技術は、マイクロ秒内に同期されるビデオ及びオーディオを提供できる。
【発明の概要】
【発明が解決しようとする課題】
【0005】
[0005] デジタルコンテンツによって、ビデオ及びオーディオは、基本的に符号化されずに伝送できる。しかし、1つのビデオプログラムのみで80Mbps超を要求し、1つのステレオオーディオプログラムが約1.2Mbpsを要求することとなる。この極めて高いデータレートの要求がこのような配信技術を非現実的にする。
【0006】
[0006] 航空機内で現在使用されるベースバンド又はRF変調の処理は、同期の維持においてある程度効果的であるが、提供されているビデオ画像の品質を厳しく制限する。当業者によって理解できるように、ベースバンド又はRF変調のシステムは、PAL、SECAM又はNTSC等のアナログビデオ規格を利用し、これらの規格はビデオ解像度を大いに制限する。加えて、これらの規格は、全てのデジタルエンターテイメントネットワークを提供するために所望されるものとは矛盾するアナログ信号配信を要求する。航空機のIFEシステムにおいて、個別のサービスのためのデジタルオーディオ/ビデオ配信とは別のアナログビデオ/オーディオ配信をサポートするための、別のアナログ配線、増幅器及び他の構成要素の包含は非常に望ましくない。
【0007】
[0007] 要求されるコネクタの数を最小化するために、付加される配線をデジタル配線と束にすることができ、追加の機能をサポートする費用及び重量を最小化するために、分離器及び増幅器を組み合わせて他の箱の中に入れることができる。しかし、このようにして費用、重量、電力及び場所への影響が最小化できるとしても、デジタル及びアナログビデオ/オーディオ配信の両方の包含は、システムの費用、重量及び電力を増加する。加えて、デジタル配信システムによって提供されるビデオサービスと比較すると、アナログ配信システムによって提供されるビデオサービスとの間には明らかな視覚的差異が存在する。
【0008】
[0008] オーディオ及びビデオ信号を同期するための技術の一例は、米国特許第6,122,668号において説明される。
【図面の簡単な説明】
【0009】
[0009] 本発明の特定の目的、利点及び新規なフィーチャは、添付の図面を併せて読む場合、以下の詳細な説明からより容易に理解されるだろう。
【0010】
【図1A】[0010] 本発明の一実施形態が利用されている商業用航空機のための座席配置の例を例示する図である。
【図1B】[0010] 本発明の一実施形態が利用されている商業用航空機のための座席配置の例を例示する図である。
【図2】[0011] 図1A及び図1Bに示されているような商業用航空機のための座席内蔵型ビデオプレーヤー配置の一例である。
【図3】[0012] 図1A及び図1Bに示されているような航空機内で利用され、本発明の一実施形態を利用するIFEシステムの一例を例示する概念的ブロック図である。
【図4】[0013] 図3に示されるIFEシステムの構成要素に関連するオペレーションを例示する概念的ブロック図である。
【図5】[0014] 図3に示されているようなシステムにおけるソースジッタの効果の一例を例示するタイミング図である。
【図6】[0015] 図3に示されているようなシステムにおいて利用されるネットワークスイッチの一例を例示するブロック図、及び、図3に示されているようなシステムにおける、負荷に基づくジッタの効果の一例を例示するタイミング図である。
【図7】[0016] 図3に示されているようなシステムにおけるクロックドリフトの効果の一例を例示するタイミング図である。
【図8】[0017] 図3に示されているようなシステムにおけるネットワークエラーの効果の一例を例示するタイミング図である。
【図9】[0018] 図3に示されているようなシステムにおいて実行される一例示的なデコーダの再同期を例示するタイミング図である。
【図10】[0019] 図3に示されているようなシステムに利用されるデコーダの一例を例示する概念的ブロック図である。
【図11】[0020] 本発明の一実施形態による図10に示されているようなデコーダの構成要素に関連して実行されるオペレーションの一例を例示する概念的な図である。
【図12】[0021] 図3に示されるシステムにおける提供装置での、そのシステム内の負荷に基づいたパケット到着時間の一例を例示するグラフである。
【図13】[0022] 本発明の一実施形態による図10に示されているようなデコーダにおけるローカルクロックの確立に関する、実行されるオペレーションの一例を例示するフローチャートである。
【図14】[0023] 本発明の一実施形態による図10に示されているようなデコーダにおける再生時間の調整に関する、実行されるオペレーションの一例を例示するフローチャートである。
【図15】[0024] 本発明の一実施形態による図10に示されるデコーダにおけるビデオ再生の調整に関する、実行されるオペレーションの一例を例示するフローチャートである。
【図16】[0025] 本発明の一実施形態による図10に示されているようなデコーダにおけるオーディオ再生の調整に関する、実行されるオペレーションの一例を例示するフローチャートである。
【図17】[0026] 本発明の一実施形態による図10に示されているようなデコーダにおけるオーディオ及び/又はビデオクロックの調整に関する、実行されるオペレーションの一例を例示するフローチャートである。
【発明を実施するための形態】
【0011】
[0027] 以下に更に詳細に議論されるように、本発明の実施形態は、乗り物内のIFEシステムにおける複数のビデオプレーヤー及び複数のオーディオヘッドセット等の複数の提供装置に、ビデオ及び関連付けられたオーディオを提供するためのシステム及び方法を提供する。この環境は、典型的には、飛行機、列車、バス、ボート、船又は他の複数の乗客用の乗り物であり、そこでは、複数のオーバーヘッド型ビデオモニタが、客席にあるオーディオジャックに差し込まれたヘッドセットを通して、オーバーヘッド型ビデオプログラムに関連付けられたオーディオを聞く複数の乗客によって視聴される。このような環境において、オーバーヘッド型ビデオモニタ上のビデオ画像及び乗客のヘッドセットへのオーディオの提供は、許容できる視聴経験を提供するために十分に同期されるべきである。したがって、本明細書に説明される本発明の実施形態によるシステム及び方法は、IFEシステムにおけるビデオ及びオーディオの復号並びに複数のディスプレイ及びヘッドセットへの提供を同期する。
【0012】
[0028] 図1A及び図1Bは航空機100−1及び100−2のための典型的な座席配置の例を例示する。図示されるように、航空機100−1又は100−2のためのIFEシステムの環境は、並び及び列に編成された、密集して詰められた客席102−1又は102−2(1つ又は複数の座席102として言及される)の集まりを含む。座席は、典型的には、2つから4つの座席のグループに編成され、座席グループは航空機の前部から後部まで伸びる長い並びに配置される。短距離用航空機100−1は、典型的には、出入りのための中央通路104−1を伴って座席グループの2つの並びを有する。長距離用航空機100−2は、典型的には、出入りのための2つの通路104−2を伴って座席グループの3つの並びを有する。図2に示されるように、各客席102は、オーディオヘッドセットが差し込めるヘッドセットジャック106−1又は106−2(1つ又は複数のヘッドセットジャック106として言及される)を備える。
【0013】
[0029] エンターテイメントオーディオは、典型的には、各乗客に各々のヘッドセットを介して提供される。エンターテイメントビデオは、典型的には、オーバーヘッド型ビデオモニタ124(図3を参照)を介してか、又は、座席内蔵型ビデオプレーヤー108−1又は108−2(図2を参照)を介するいずれかの2つの異なる方法で乗客に提供される。オーバーヘッド型ビデオの配置において、航空機100−1又は100−2は、そこにビデオプログラムが提供できる多くのオーバーヘッド型ビデオモニタ124が取り付けられている。オーバーヘッド型ビデオシステムは、航空機の客室の各大きな区画に単一のビデオプロジェクタを提供していたシステムから、天井又は荷物置き場から懸架される多数の個別のモニタを提供する現在のシステムに進化している。現在のシステムにおいて、各乗客は、彼の個人的な視聴に最も便利なオーバーヘッド型モニタを見ることを選択できる。
【0014】
[0030] 座席内蔵型ビデオプレーヤー配置において、航空機100−1又は100−2は、図2に示されるように、各客席102に、(1つ又は複数のビデオプレーヤー108として言及される)個別のビデオプレーヤー108−1又は108−2を装備し、それは個別化されたエンターテイメントの経験を各乗客に提供する。ビデオ提供の両方のタイプを1機の航空機内に兼ね備えることは一般的であり、異なる乗客クラスへのサービスを区別すること(例えば、ファースト及びビジネスクラスには座席内蔵型ビデオで、エコノミークラスにはオーバーヘッド型ビデオ)も一般的である。図3に示され、以下に議論されるように、いずれの場合においても、オーバーヘッド型ビデオモニタ及び座席内蔵型ビデオプレーヤー108がIFEシステム110と通信する。
【0015】
[0031] 当業者によって理解できるように、MPEGのような圧縮技術を使用するデジタルビデオ及びオーディオがIFEシステム110に導入されている。当技術分野で更に理解されるように、ビデオ圧縮は、ビデオ(及び関連付けられたオーディオ)プログラムを再生するために要求されるデジタルデータの量を削減する処理である。生のサンプルされたビデオ(例えば、ビデオドメインにおけるPCMオーディオの等価物)は、単一のビデオプログラムのために80から120Mbpsの間を要求することになる。MPEG等のビデオ圧縮は、このようなプログラムを1.5Mbps以下程度の低いデータレートに削減するために、ビデオの非常に冗長な性質を活用する。MPEGエンコーダは高いレートでサンプルを収集し、様々なアルゴリズムの使用を介して、低いレートのデータストリームを作成し、そこから、元の画像と同じものに全く一致する必要はないが、それに類似する再現物を伴って、デコーダによって元のビデオプログラムが再現できる。
【0016】
[0032] この極めて効果的なデータ削減を実行する処理において、結果として得られるデータストリームは、元のプログラムの「フレーム毎の」特徴を有さない。デコーダによって実行される主要な動作の1つは、間隙的な画像を取り、情報を変換し(例えば、MPEG技術におけるI、P及びBフレーム)、完結したプログラムビデオフレームを再構築することである。理解できるように、デコーダは復号処理を実行するのに時間が掛かり、元のフレームのタイミングがこの処理によって「再構築」される。それによって、一時的なバッファリング、格納、及び、復号アルゴリズムの実行の組合せは、複数のプレーヤーによる画像の実際の提供を僅かに異なるものにさせる傾向がある。
【0017】
[0033] 以下に更に詳細に議論されるように、複数のオーバーヘッド型モニタ124を見ることのできる一乗客が、ビデオプログラムの異なる画像が複数のモニタ上に表示されているのを見ないように、デジタルIFEシステム110全体は、概ね、多数のオーバーヘッド型モニタ124上に特定のビデオプログラムを提供し、それらのモニタ上に提供されるビデオ画像の間の同期を2つのビデオフレームすなわち(毎秒30フレームと仮定すると)66ms内に維持するべきである。
【0018】
[0034] 加えて、デジタルIFEシステム全体は、ビデオプログラムに関連付けられたオーディオを、ビデオプログラムと概ね同期した状態で乗客のヘッドセットに提供するべきである。ビデオとオーディオとの間の、2つのビデオフレーム(66ms)を超える変動は、同期の損失(通常、「リップシンクロ」、すなわち、話者の唇とオーディオとの間の同期の欠如として言及される)として乗客に認識されるだろうことを経験が示す。このような同期に対する要件は、話している人物に限定されないが、オーディオ/ビデオ提供での人物の歩行、手の叩き、水の滴り又は多くの他の態様等のビデオサウンドトラックの他の態様に対して同様に適用できる。ビデオ及びオーディオの再生が、以上に議論されるように、66ms又は約66ms内に実質的に同期されるように、デジタルIFEシステム110全体はまた、航空機内の全てのモニタ(オーバーヘッド型及び座席内蔵型)上に特定のビデオプログラムを提供し、以上に議論されるビデオ及びオーディオ/ビデオの同期を維持できるべきである。
【0019】
[0035] 典型的なIFEシステム110におけるデジタルネットワークの物理的アーキテクチャの一例が図3に更に例示される。基本的な構成要素は、ストリーミングソースとして言及できる1組のヘッドエンドソース112、1つ又は複数のネットワークスイッチ116及び複数の領域スイッチ118を包含できる配信ネットワーク114、ならびに、座席電子ボックス(SEB)120及び傍受ユニット122等の座席の構成要素の列である。ストリーミングソース112は、(あらかじめロードされたMPEGデジタルコンテンツを有する)デジタルサーバ又は入力ビデオ及びオーディオをMPEGデータに変換できる実時間エンコーダであってよい。例えば、ネットワークスイッチ116は、レイヤ2又はレイヤ3イーサネット(登録商標)スイッチであってよく、任意のストリーミングソース112を航空機のIFEシステム110の任意の構成要素に接続するように構成される。領域スイッチ118は、ネットワークスイッチ116を座席の複数の列に接続するために、航空機100−1又は100−2の各領域内に備えられる。この例において、各領域スイッチ118は3つの座席の列に接続するが、領域スイッチ118が接続する座席列の数は、所望により変化できる。
【0020】
[0036] 以上に議論されるような各座席グループはSEB120が取り付けられ、ビデオプレーヤー108及びヘッドセットジャック106等の座席102の構成要素は、座席の列内に配置される多くのSEB120を通して領域スイッチ118から配線される。当業者によって理解できるように、SEB120は、局所的に取り付けられたプレーヤー(デコーダ)に向けられたデータパケットを抽出し、必要によって座席列内の次のSEB120に他のパケットを通過させる。
【0021】
[0037] 図3に更に示されるように、各オーバーヘッド型モニタ124は、典型的には、デコーダ126及びディスプレイ128を含むか、又は、それらに関連付けられる。オーバーヘッド型モニタ124は、この例示的な配置において、SEB120と同一又は類似の機能を実行する1組の傍受ユニット(TU)122を通してIFEシステム110に接続される。また図示されるように、各ヘッドセットジャック160及び座席内蔵型ビデオプレーヤー108は、以上に議論されるように、SEB120に接続されるデコーダ126を含むか、又は、それに関連付けられる。
【0022】
[0038] 多くのIFEシステム110は、サーバ112に格納された複数のビデオプログラムを有する。再生が要求された場合、ビデオプレーヤー(例えば、ビデオプレーヤー108又はオーバーヘッド型モニタ124)がストリーミングソース(例えばサーバ)112から素材を取得し、圧縮されたコンテンツを提供できる形式に復号する。素材が、オーバーヘッド型モニタ124上で、又は、全ての乗客によって同時に視聴されることとなるビデオ告知において提供されることとなる場合には、素材は、典型的には、単一のプレーヤーによって復号でき、上記の背景技術の項目において説明されたアナログ技術を使用して全てのモニタに配信できる。素材が個人を基準として1人の乗客に提供されることとなる場合(例えば、ビデオオンデマンド)には、その乗客は専用のプレーヤー(例えば、ビデオモニタ108)を有し、そのプレーヤーは圧縮されたデジタルプログラムを取得し、その乗客のために、特にそれを復号できる。
【0023】
[0039] ブロードキャストプログラムをサポートするために、ストリーミングソース112は、典型的には、1対多の関係に適するネットワークプロトコルを使用するIFEシステム110のデジタルネットワークの全体に亘って、デジタルストリームを伝送することになる。当業者によって理解できるように、典型的には、TCP/IP通信が1対1の通信のために使用できる。また、1対多のネットワークプロトコルは、通常、「マルチキャスト」と呼ばれ、実時間プロトコル(RTP)等の固定されたレートのストリーミングプロトコルと組み合わせることができる。
【0024】
[0040] 当業者によって更に理解できるように、IPネットワーク上のマルチキャストは、典型的には、各マルチキャストプログラムに特定のマルチキャストIPアドレスを割り当てる。そして、ソース112は、ブロードキャストレイヤ2アドレス及び割り当てられたマルチキャストレイヤ3アドレスを有するネットワーク上にプログラムを(例えば、RTPを使用して)伝送する。IFEシステム110のネットワークは、このストリームを、ビデオプレーヤー108及びオーバーヘッド型モニタ124等の全てのネットワーク装置に対して利用可能できる。プレーヤー(例えば、ビデオプレーヤー108)は、所望のマルチキャストIPアドレスを特定するIGMPプロトコルを使用して、プログラムを「購読」することによって、このプログラムを提供できる。この処理により、ストリーミングソースが単一のデータストリームを伝送し、ネットワーク上の全ての所望のプレーヤーによってそれを受信させることが可能になる。
【0025】
[0041] 図3に関連して以上に説明されたデータネットワークアーキテクチャの例は、ストリーミングソース112が、航空機100−1又は100−2内の全ての所望のビデオプレーヤー108及びオーバーヘッド型モニタ124に対して利用可能な、単一のパケット化されたビデオ/オーディオストリームを作成することを可能にする。この配置は、要求する乗客に対する共通のソースプログラムの個人向けの座席内での提供を可能にする。
【0026】
[0042] 図4は、図3に例示されるIFEシステム110の機能的な概観図であり、問題P1からP6として参照されうるデジタルシステムにおける同期の問題の6つの特定の原因を明らかにする。以下から理解できるように、IFEシステム100において用いられるシステム及び方法は、複数のプレーヤーによるビデオ及びオーディオの同期乃至は実質的に同期した再生を達成するために、これらの6つの問題に対処する。
【0027】
[0043] 問題P1−ソースに基づくジッタ
[0044] この例におけるIFEシステム110が、パケット化されたデータのネットワークであるイーサネット(登録商標)を利用するため、ソース112はパケットでデータを伝送する。当然、IFEシステム110は、有線或いは無線のネットワーク、又は両方の組合せの任意の他の適切なタイプを包含できる。全体の平均のデータレートは、典型的には、素材の再生レートに合致するが、個別のパケットは、パケット間の不感時間を伴うより高い速度で転送される。ソース112が1つのストリームを作成しているだけの場合には、おそらくパケットはまさに通常のレートで伝送されるだろう。しかし、図5のタイミング図500に示されるように、ソース112が複数の機能を実行している場合には、全体のデータレートが正確であることが可能であるが、パケット間の不感時間がパケットによって変化する場合がある。更に、ソース112が実際に複数のストリームを異なるデータレートで作成している場合には、パケットからパケットへの転送レートに重大な変動性が存在する可能性がある。
【0028】
[0045] 問題P2−負荷に基づくジッタ
[0046] 全てのソース112が所望のデータレートに対して、まさに正確な時間でそれらのパケットを作成したとしても、ただ1つのパケットが、任意の時間に任意のネットワークインターフェース上に存在する場合があることによって、ネットワーク上の一時的な時間の遅延、及びしたがってジッタが起こる可能性がある。完全なタイミングでのネットワークスイッチ116(図3を参照)への3つの入力(入力1、入力2及び入力3)が、ジッタとして言及される相当な並び替え及びタイミングの変動を伴うネットワークスイッチ116からの出力を作成する可能性がある様子の一例を図6が示す。タイミング図600に示されるように、パケットが狂った順序で出力されることになる場合、特定のパケットの出力は、ある時点まで遅延するだろう。この例において、入力3からのパケットは結局、スイッチ116から狂った順序で出力され、それによって入力1及び2からのパケットの前に出力されるだろう。
【0029】
[0047] 問題P3−不均一なネットワーク遅延
[0048] 当業者によって理解できるように、IFEシステム110において利用されるようなスイッチ機能付きのイーサネット(登録商標)システムにおいて、各イーサネット(登録商標)スイッチは1500+バイトの最大転送単位(MTU)の全体を受信し、MTUを適切な出力ポートに転送する前にMTUの整合性を検証する。したがって、ルーティング決定をするために、どのようなオーバーヘッド時間がスイッチによって使用されても、MTUプラスを伝送するために必要な時間と等しいか、又は、ほぼ等しいネットワークリンクからネットワークリンクへの遅延が存在する。100BaseTネットワークでは、各MTUは約125マイクロ秒(μs)の転送時間が掛かる。単一のマルチキャストパケットが図3及び図4に例示されるネットワークにおいてソース112から伝送される場合には、メッセージ開始からメッセージ受信までの時間は、パケットが1つのネットワークスイッチ116を通って、次に1つの領域スイッチ118を通って、そして1つのSEB120を通って移動する場合の3×125μsから、パケットが1つのネットワークスイッチ116を通って、次に1つの領域スイッチ118を通って、そして10個のSEB120を通って移動する場合の12×125μsに変化するだろう。したがって、(内部スイッチ決定時間を含まない)最小で、パケットを受信する幾つかの座席102とパケットを受信する他の座席102との間には少なくとも約1msの差異が存在するだろう。より大きいネットワークにおいて、このネットワークトポロジ依存の遅延が一層悪化する可能性がある。
【0030】
[0049] 問題P4−クロックドリフト
[0050] 当業者によって理解できるように、ソース112は、そのローカルクロック発振器に基づくレートでデータを伝送するだろう。ビデオプレーヤー108等のプレーヤーは、そのローカルクロック発振器に基づいて、それが受信するデータを再生するだろう。これら2つの局所的なローカル発振器の間の合致は完全ではない。加えて、同じデータストリームを受信する2つの異なるプレーヤーのローカルクロック発振器も異なるだろう。良好な品質のクリスタル発振器における差異は、典型的には、(初期周波数偏差、経年及び温度効果を含み)約百万分の50と評価される。したがって、正確に一緒に開始した2つのプレーヤーは、図7のタイミング図700に例示されるように、次第にドリフトし離れるだろう。
【0031】
[0051] このドリフトの効果を評価するために、2つのプレーヤー内のクロックが50ppmの分だけ異なり、それらが1.5Mbps(典型的なMPEG−1素材)で素材を再生している場合には、それらの実際のデータ消費レートは毎秒75ビットの分だけ異なることとなる。一方のプレーヤーが他方のものより毎秒75ビット多く消費しているため、そのプログラムにおける位置が他方のものに対してこの量の分だけ進むことになる。このドリフトのために、1つのビデオフレームすなわち33msの等量まで蓄積するのに約660秒すなわち約11分掛かることとなる。短いビデオプログラムには、この現象はそれ程重要ではない。しかし、2時間の映画の期間に亘っては、ドリフトは11個のビデオフレームすなわち360msまで蓄積し、それは非常に顕著な差異である。
【0032】
[0052] 問題P5−ネットワークエラー
[0053] ネットワークエラーは、同期エラーの最も重大な原因の1つとなりうる。単一のイーサネット(登録商標)データリンクは、典型的には、108回に1回と109回に1回との間のエラーレートを有すると評価される。追加的なエラーの原因は、過剰な割り込み待ち時間、バッファオーバーフロー等のような、スイッチバッファオーバーフロー及びネットワークインターフェースの誤作動を含む。また、VOD映画を再生するために要求されるデータの量は、典型的には、エラー耐性が関連してくる程に大きなものである。
【0033】
[0054] 例えば、1つの2時間の映画が、3.5Mbps MPEG−2で符号化でき、それによって、サイズにおいて約2.5×1010ビット(例えば、3.15ギガバイト)になることとなる。この映画が直接接続されたプレーヤーで再生される場合には、典型的には、(1×109ビット/エラーのレートを想定して)2時間の映画の間に約25.2回のエラーが予測されることとなる。しかし、IFEシステム110において、プレーヤー(例えば、ビデオプレーヤー108)はサーバソース112に直接取り付けられない。したがって、ソース112からビデオプレーヤー108への途中で、データは、典型的には、1×109ビット/エラーの想定されるエラーレートを各々が有する平均6つの独立するイーサネット(登録商標)通信リンク(例えば、DSU−ESU、ESU−ADB、ADB−SEB1、SEB1−SEB2、SEB2−SEB3、SEB3−プレーヤー)を移動する。したがって、各ビデオプレーヤー108は、2時間の映画に亘って約151回のエラーを経験することを予測するべきである。
【0034】
[0055] また、個別のプレーヤー(例えば、ビデオプレーヤー108)は、特に、同じプログラムが全てのプレーヤーに配信され、同期が要求される(例えば、オーバーヘッド型ビデオの用途において)ブロードキャスト/マルチキャストの状況では、ネットワークエラーに対して相当な耐性があるべきである。25個のオーバーヘッド型モニタ124を有する300席の航空機に対しては、システム110全体が約49,140回のエラーを経験するだろう。加えて、システムエラーの効果は、どこにエラーが発生するかに非常に依存している。例えば、1つのエラーがSEB120からビデオプレーヤー108へのリンク上で発生する場合には、ただ1つの座席102が影響される。しかし、エラーが2つのSEB120の間のリンク上で発生する場合には、影響されるリンクからトポロジ的に先にある全てのビデオプレーヤー108がエラーを経験するだろう。
【0035】
[0056] 当業者によって更に理解できるように、システム110が、RTPのようなストリーミングプロトコルを使用する場合、ストリームは分割されて、サイズが典型的には64キロバイト未満であるRTPブロックになり、そのブロックはUDPプロトコルによって分割されて、ペイロードのサイズが典型的には1,500バイト以下のMTUになる。エラーが発生する場合、ブロック全体が破棄される。エラーが不定な時点で発生するため、エラーがビデオデータ、オーディオデータ又は両方の欠如に影響する場合がある。MPEGプレーヤーは、データ内の混乱が発生したことを認識し、適切な復号が継続できる点をスキャンする、ある程度の耐性がある。しかし、典型的には、図8のタイミング図800に例示されるように、これはオーディオ及びビデオの再生が同期から外れる原因となる。
【0036】
[0057] 更に、MPEGの符号化は、ストリームのビデオ及びオーディオ部分内に配置される時間タグを設ける。この時間情報は、図3に示されているようなデコーダ126に、オーディオ及びビデオが同期した状態を保っているかどうかを判定するのを許可することを意図する。オーディオ及びビデオが同期から外れていると判定される場合には、デコーダ126は、それらを同期した状態に戻すことを実現する1組のオペレーションを実行できる。当業者によって理解できるように、デコーダ126は復号処理の開始に先立ってデータをバッファに保留する。したがって、オーディオ及びビデオが同期から外れる場合の最も一般的な対応策は、デコーダ126が、図9のタイミング図900に例示されるように、オーディオ及びビデオが同期した状態に戻るまでデータを破棄することである。これを行うことによって、プログラム全体の再生が、元のソース112、及び、相互に同期した状態で同じプログラムを提供しようとする他のプレーヤーに対して、時間的に進む。
【0037】
[0058] 問題P6−デコーダ間のバッファリング差異
[0059] 当業者は、エラー、ジッタ及びクロックドリフトが任意のデジタル配信及び復号システムの基本的な特徴であることを認識する。したがって、データの到着から再生処理を隔離するために、デコーダ126が、以下に更に詳細に議論するようなFIFOとして機能する十分なバッファメモリを備えることは一般的である。大半のデジタルデコーダは、典型的には、再生が開始する前にデータの1/2秒と1秒との間を格納し、それはデジタルセットトップボックスがチャンネルを変えるために1から2秒と同程度の長さが掛かる主な理由である。再生を開始する前にこれ程の量のデータをFIFOに格納することによって、デコーダ126はパケットの欠如、データの到着の遅延、及び使用者に実質的に明白なクロックドリフトを作ることができる。
【0038】
[0060] その性質そのものによって、このようにFIFOを使用することは、プレーヤー(例えば、ビデオプレーヤー108)が1/2から1秒と同程度の間、データの到着との同期から外れること(例えば、予備格納)を可能にすることを意図し、それは、典型的には、比較的孤立した環境における個別のプレーヤーにとって問題ではない。しかし、以上に議論されるように、2つの別の再生が同期した状態を保つことを意図している場合、問題となり得る。このバッファリングのために、典型的なデコーダ126は、相互に同期から外れるように構成される。また、各デコーダは、それ自体の「再生開始」を決定し、それによって、2つの異なるデコーダ(例えば、組み合わされたオーディオ/ビデオエンコーダ及びオーディオエンコーダ)は正確に同じ時間に再生を始めることは考えられない。
【0039】
[0061] 以上から理解できるように、多数の独立した(オーバーヘッド型ビデオのオーバーヘッド部分については)ビデオプレーヤー、(座席内蔵型ビデオについては)ビデオ/オーディオプレーヤー、及び(オーバーヘッド型ビデオの座席に内蔵された部分については)オーディオプレーヤー間の同期を維持するための本発明の一実施形態は、デコーダ126内のフィーチャを利用でき、それによって、それは、デコーダ126が相互に同期した状態を十分に保つことを可能にする。MPEG2トランスポートストリームを復号するためのMPEGデコーダに基づくIPネットワークのアーキテクチャの一例が図10に例示される。多くのこれらの機能は、シリコン又はソフトウェアのアルゴリズムに一体化されることが多い。
【0040】
[0062] エンコーダ126は、復号されることとなる当該マルチキャストビデオストリーム(IPネットワークストリーム)と関連付けられたIPアドレスを有するRTPパケットを通過させるネットワークインターフェース200を含む。RTPパケットは検証され、先入れ先出し(FIFO)メモリとして機能する中間メモリ202内に配置される。不完全なパケット及び特定の狂った順序のパケットは、ネットワークエラーの結果であり、破棄される。図示されるように、ネットワークインターフェース200は、ローカルネットワークの時間スタンプ204を提供することができる。RTPパケット時間及び/又はMPEG−2トランスポートストリームのシステム時間スタンプは、入ってくるデータストリームに対して、相対的な時間を確立するため使用できる。
【0041】
[0063] トランスポートストリームのデマルチプレクサ206は、多重化されたMPEG−2トランスポートストリームをその各々のオーディオ、ビデオ及び補助のデータストリームに分離し、ストリームの各タイプはプログラム識別子(PID)によって識別される。データの各タイプは、FIFOメモリとして機能するビデオバッファ208又はオーディオバッファ210等の中間メモリ内に配置される。
【0042】
[0064] ビデオデコーダ212は、ビデオバッファ208からビデオデータを取得することにより、圧縮されたビデオデータを個別のビデオフレームに変換し、識別されるビデオ圧縮規格に従って、適切な解像度及びビデオフレームレートで完結したビデオフレームを生成する。完結したビデオフレームはビデオフレームバッファ214内に格納される。ビデオバッファ214内のビデオデータは、構築されることとなるビデオ画像に対応しているプログラムの相対的な時間スタンプ216を含む。このビデオ時間は更新でき、システム110による使用のために利用可能にできる。
【0043】
[0065] オーディオデコーダ218は、オーディオバッファ210からデータを取得することにより、圧縮されたオーディオデータをPCMデジタルデータストリームに変換し、識別されるオーディオ圧縮規格に従って、適切なサンプルレートで完結したオーディオサンプルを生成する。完結したオーディオサンプルはオーディオ「フレーム」バッファ220内に格納される。オーディオバッファ220内のオーディオデータは、提供されることとなるオーディオに対応しているプログラムの相対的な時間スタンプ222を含む。このオーディオ時間も更新でき、システム110による使用のために利用可能にできる。
【0044】
[0066] ビデオドライバ224がビデオフレームバッファ214からデータを引き出し、適切な解像度及びフレームレートでビデオアウトプットを作成する。ビデオアウトプットはビデオ再生クロックによってドライブされる。同様に、オーディオドライバ226がオーディオバッファ220からオーディオサンプルを引き出し、それらをデジタルアナログ変換器(D/A変換器)に配置して所望のオーディオ信号を生成する。サンプルがD/A変換器に提供されるレートは、オーディオ再生クロックによって駆動される。
【0045】
[0067] 当業者によって理解できるように、デコーダ126は、以上に説明されたデコーダ126の構成要素のオペレーションを制御するように作動する制御装置228を更に包含又は関連付けできる。
【0046】
[0068] 本発明の一実施形態によると、ソース112(図3及び図4を参照)が、コンテンツに一致するレートでデータネットワーク内にRTPデータストリームを挿入するだろう。それによって、コンテンツが、2つの128Kbpsのオーディオと共に多重化された1.5Mbpsのビデオである場合には、ソース112の平均アウトプットレートは1.76Mbpsになることとなる。使用される多重化する技術は、ビデオ及び各オーディオストリームの両方に独立した時間情報を提供するMPEG−2トランスポートである。RTPデータストリームも、ソースによって確立されるブロック時間パラメータを有する。
【0047】
[0069] RTPパケットがスイッチ機能付きのイーサネット(登録商標)ネットワークを通過してルーティングされると、各再生装置(例えば、ビデオプレーヤー108又はオーバーヘッド型モニタ124)がそれらを受信する。ソース112は、再生システムのマスタータイミングの構成要素を示すことを意図する。デコーダ126は、IFEシステム110のネットワーク上に伝送されるソースデータとビデオ又はオーディオの提供との間の固定された遅延を維持する再生を提供する。全てのビデオ及びオーディオプレーヤー間の同期をソース112の66ms内に維持することが望ましい。
【0048】
[0070] 図11は、以下に更に詳細に議論されるような本発明の一実施形態により、A1からA5までの処理が実行されるデコーダ126における配置の一例の表示を伴って、図10に示されるデコーダのアーキテクチャの一例を例示する。これらの処理の全ては、例えば、デコーダ126内の構成要素に沿って、制御装置228によって実行できる。
【0049】
[0071] 処理A1は、ネットワークの伝搬遅延を無視して、プログラムのマスタークロックの局所的バージョンを、+/−10ms又は約+/−10msの精度に維持するように実行される。これは、変化するシステム遅延(ジッタ)を伴って到着するデータから、共通のシステム全体に亘る、プログラムのマスタークロックを提供する。プログラムのマスタークロックはプログラムに特有で、MPEGコンテンツ自体から導出される。したがって、プログラムストリームが変更される場合、新しいプログラムに特有のマスタークロックが確立される。
【0050】
[0072] MPEG−2トランスポートストリームは幾つかの異なるクロックを含む。この説明の目的のために、プログラムクロックリファレンス(PCR)は、そこからプログラムのマスタークロックが導出されることになるデータ要素として使用される。PCRは、間隙的な188バイトのトランスポートストリームパケット内に提供される33−ビットの数字であり、PCRを含むパケット間には、典型的には、700ms以上が存在できる。
【0051】
[0073] PCRを伴うパケットの到着はプレーヤーのプログラムのマスタークロックを初期化し、調整するために使用される。ポアソン分布である遅延を伴ってパケットがネットワークから到着し、その最小時間はネットワークトポロジ及びパケットが通過するスイッチの数に関連した固定値であろうことが予想される。マスタークロック導出アルゴリズムは、PCRの最初の到着時間(詳細には平均到着時間ではない)に固定された状態を保つクロックを確立することとなる。
【0052】
[0074] 図12は、パケットの到着の予想される分布の一例を示すグラフ1200であり、平均の到着ではなく最初の到着に固定するための基礎となる。以上に議論されるように、ソース112からのパケットは、ソースジッタ(問題P1)、負荷に基づくジッタ(問題P2)、及びネットワークトポロジの遅延(問題P3)に関連付けられた遅延を経験する場合がある。ネットワークトポロジの遅延(P3)はソース装置とプレーヤーとの間のスイッチの数に基づく固定値である。ネットワークトポロジの遅延についての値は、様々なディスプレイの間で変化するが、航空機内のネットワークトポロジの遅延の典型的な変動は、重大であるとは見なされない約1msの変動を有するだろう。
【0053】
[0075] ソース及び負荷に基づくジッタによって生じる変動/ジッタは、本質的に概ね統計学的であろう。所定の負荷での到着の分布は最小時間(零の統計学的遅延)に関してポアソン分布に従うことが予測されることとなる。所定の負荷での最小時間及び平均遅延の両方は固定値である。しかし、IFEシステム110は、典型的には、固定された負荷を有さず、広範に変化する負荷を有する。負荷におけるこの変動は、平均遅延時間における重大な変動の原因となるだろうが、最小遅延には概ね影響しない。全てのリンクが100BaseTであり、座席の列が10深層までデイジーチェーン接続される場合には、パケットが通過する約13個のイーサネット(登録商標)スイッチが存在する。スイッチにおいて最大のバッファが128までバックアップする場合には、約1.5msの最小遅延(13パケットの転送時間)、及び約18msの最大遅延(141パケットの転送時間)が取得される。
【0054】
[0076] 図13のフローチャートに示されるように、マスタークロックの処理は、その周波数が実時間よりも僅かに遅い(約200ppm)自走プレーヤーローカルクロックを確立する。ステップ1300での第1のPCRの到着は、ステップ1310におけるプレーヤーローカルクロックを初期化し、その再生を開始するために使用される。次のPCRがステップ1320で到着する場合、それは自由作動するプレーヤーローカルクロックの値と比較される。自走ローカルクロックの値が、ステップ1330においてPTSに満たない(より早い)と判定される場合には、ステップ1340において、自走クロックは調整されない(パケットは遅延されている)。しかし、自走ローカルクロックの値がPTSより大きい(より遅い)場合には、ステップ1350において、自走クロックがPTSと合致又は実質的に合致するように調整される(自走クロックが遅くなる)。
【0055】
[0077] 図14のフローチャートに示されるように、処理A2が、ステップ1400において、オーディオ及びビデオ再生時間をネットワークの時間と比較し、ステップ1410において、再生とネットワークのマスター時間との間の固定された遅延を維持する調整を開始するように実行される。様々なジッタソースに適応し、再生装置でのデータのアンダーランを防止するために、再生が開始する前に特定の量のデータが格納される。これは、データの実際の到着とデータの再生との間の遅延を結果的にもたらす。全ての再生装置の間の同期を維持するために、ステップ1420においてシステム全体に亘る遅延が確立され、ステップ1430において、再生装置は、この固定された遅延を加えたマスタークロックに同期する。この遅延についての最小値は、システム全体を通る遅延に幾らかのマージンを加えて組み合わされた最悪のケースである。500msの値は安全な値である場合が多い。
【0056】
[0078] 処理A3は、ビデオの提供を+/−1つのビデオフレーム(例えば、33ms)の分だけ移動するように実行される。当技術分野で理解できるように、ビデオプレーヤー108は、提供される実際のビデオフレームに関連付けられた(MPEG材料それ自体から抽出された)PCRのような時間を提供し、ビデオフレームを繰り返す(33msのインクリメントの間のフリーズ)能力をサポートし、ビデオフレームを省略する(33msのインクリメント前にジャンプ)能力をサポートする調整のフィーチャを有する。加えて、ビデオプレーヤー108は、再生の開始、再生のポーズ及び再生の停止を実行し、残っているデータを消去する。
【0057】
[0079] 幾つかのMPEGデコーダ(例えば、IBMのセットトップのデコーダ)は、提供される実際の画像の時間を示すこととなるビデオのプレゼンテーションタイムスタンプ(PTS)として参照されるパラメータを提供する。このパラメータは比較アルゴリズムにおける使用のために、高い信頼性でアクセス可能である。
【0058】
[0080] 図15のフローチャートに示されるように、ビデオは、ステップ1500において、導出されたプログラムのマスタークロックに対して固定された遅延を伴って提供されることとなる。ビデオプレーヤー108は、提供されているビデオフレームに関連付けられたクロックを提供する。これは、提供されているビデオフレームが、固定された遅延を加えたマスタークロックの+/−66ms(2ビデオフレーム)内であることを保証する。ビデオフレームに関連付けられた時間が、ステップ1510においてマスタークロックからterrmsを超えて異なっていると判定される場合には、システム110が完全に同期を喪失していると想定される。システム110が完全に同期を喪失している場合には、ステップ1520において、オーディオ及びビデオは両方が消去(破棄)され、再生が再度開始され、入ってくるストリームに再度同期される。
【0059】
[0081] ステップ1530において、提供されているビデオフレームに関連付けられた時間がマスタークロックからterrmsを超えずに異なっていて、時間がtcorrmsを超える(しかし、terrを超えない)分だけ合計より大きいと判定される場合には、ステップ1540において、ビデオプレーヤー108はビデオフレームを繰り返すように要求される。tcorrについての典型的な値は約45msであり、terrは約200msであることとなるが、任意の適切な値であってよい。ステップ1550において、提供されているビデオフレームに関連付けられた時間がtcorrmsを超える(しかし、terrを超えない)分だけ合計より小さいと判定される場合には、ステップ1560において、ビデオプレーヤー108はビデオフレームを省略するように要求される。
【0060】
[0082] 処理P4は、オーディオの提供を+/−33ms変移するように実行される。ビデオプレーヤーは、典型的には、提供されている実際のオーディオに関連付けられた(MPEGデータそれ自体から抽出された)PCRのような時間を提供し、無音を(33msのインクリメントの間)挿入する能力をサポートし、省略して(例えば、約33msのインクリメント)先に進む能力をサポートする。加えて、オーディオプレーヤーは、再生の開始、再生のポーズ、再生の停止を実行し、残っているデータを消去できる。
【0061】
[0083] 幾つかのMPEGデコーダ(例えば、IBMのセットトップ)は、提供されている実際の音響信号の時間を示すこととなるオーディオのプレゼンテーションタイムスタンプ(PTS)と称され、比較アルゴリズムにおいて使用されるパラメータを提供する。
【0062】
[0084] 図16のフローチャートに示されるように、ステップ1600において、オーディオは、導出されたプログラムのマスタークロックに対してビデオと同じ又は実質的に同じ固定遅延を伴って提供されることとなる。オーディオプレーヤーは、提供されているオーディオに関連付けられたクロックを提供して、提供されているオーディオが、固定された遅延を加えたマスタークロックの+/−66ms(2ビデオフレーム)内であることを保証する。オーディオに関連付けられた時間が、ステップ1610においてマスタークロックからterrmsを超えて異なっていると判定される場合には、システムが完全に同期を喪失していると想定される。システム110が完全に同期を喪失している場合には、ステップ1620において、オーディオ及びビデオは両方が消去(破棄)され、再生がリスタートされ、入ってくるストリームに再度同期される。
【0063】
[0085] ステップ1630において、提供されているビデオフレームに関連付けられた時間がマスタークロックからterrmsを超えずに異なっていて、tcorrmsを超える(しかし、terrを超えない)分だけ合計より大きくないと判定される場合には、ステップ1640において、オーディオプレーヤーは約33msの無音を挿入するように要求される。tcorrについての典型的な値は約45msであり、terrは約200msであることとなるが、任意の適切な値であってよい。ステップ1650において、提供されているオーディオに関連付けられた時間がtcorrmsを超える(しかし、terrを超えない)分だけ合計より小さいと判定される場合には、ステップ1660において、オーディオプレーヤーは約33msのオーディオを省略するように要求される。
【0064】
[0086] 図17のフローチャートに示されるように、処理A5は僅かな量(約100ppm)の分だけオーディオ及び/又はビデオクロックを速めるか、又は、遅くするように実行される。ステップ1700において判定されるように、再生クロックの周波数は100ppmを超えない分だけソースクロックから異なるべきである。再生クロックの周波数が、ソースクロックのそれとほぼ等しい場合には、ステップ1710において、再生クロックは調整されない。しかし、そうでない場合には、ステップ1720において、再生クロックは100ppmずつ速度を速くするか、又は、遅くする(3つのセッティング:100ppm遅く、公称値、100ppm速く)ように調整ができる。
【0065】
[0087] 他の技術が、提供されているオーディオ及びビデオ信号に関連付けられた実際の時間を割り出すために使用できる。オーディオを適切な時間の量の分だけ進めるか、又は、後退させ、ビデオを適切な時間の量の分だけ進めるか、又は、後退させる代替的方法が存在できる。特定のビデオプログラムを再生する全ての装置に亘って、一桁台の数ミリ秒内の正確さであるシステム全体に亘るクロックを確立する代替の方法も存在できる。
【0066】
[0088] 以上の詳細では、本発明の幾つかの例示的実施形態が説明されただけであるが、当業者は、本発明の新規な教示及び利点から実質的に逸脱することなく、例示した実施形態において多くの変更が可能であることを容易に理解できるだろう。例えば、処理において示されるステップの順番及び機能性が、本発明の精神から逸脱することなく、幾つかの点で変更できる。したがって、全てのこのような変更は、以下の特許請求の範囲に定義される本発明の範囲内に含まれることを意図している。
【技術分野】
【0001】
[0001] 本発明は、多数の個別のビデオモニタ及びスピーカにビデオプログラム及び関連付けられたオーディオを、同期された様式で提供できる、航空機等の乗り物内のデジタルインフライトエンターテイメント(IFE)システムを提供するためのシステム及び方法に関する。更に詳細には、本発明は、IFEシステムにおける多数のビデオ及びオーディオの再生装置に亘ってビデオプログラム及び関連付けられたオーディオの同期された再生を達成するためのシステム及び方法に関する。
【背景技術】
【0002】
[0002] 一般に、IFEシステムは、ブロードキャストビデオ素材を配信するためにアナログ配信技術を使用し、オーディオ素材に対してアナログ又はパルス符号変調(PCM)デジタルのいずれかを使用している。典型的には、ビデオプログラムは、単一のソースを源としてRF変調又はベースバンド分配技術を通して航空機全体に亘って配信される。ビデオプログラムがアナログ信号として配信される場合、ソースからビデオプレーヤー又はオーバーヘッド型モニタ等の提供装置までの遅延は、非常に小さく、通常は数マイクロ秒内である。加えて、アナログビデオは、基本的にそれが表示装置によって受信されると提供される。したがって、ベースバンド又はRF変調の信号が全てのビデオプレーヤー及びオーバーヘッド型モニタに配信される場合には、これらの提供装置は、典型的には、数マイクロ秒内で同期される。
【0003】
[0003] PCMデジタル配信を使用するIFEシステムにおいて、オーディオ素材はデジタル配信システムに一致するレートでサンプルされる。オーディオの各サンプルは専用のデジタル配信システムを介して伝送される。多くのシステムは、複数のオーディオプログラムを組み合わせて、多重化されたデジタルデータストリームとするための時分割多重(TDM)方式を使用する。オーディオプレーヤーが、使用される(1つ又は複数の)時間スロットを識別し、所望の(1つ又は複数の)時間スロットからサンプルを抽出し、サンプルを変換してアナログ信号に戻す。オーディオ信号をサンプル毎に伝送すること、及び、この目的のための専用の配信ネットワークを使用することによって、オーディオがそのソースから約1サンプル時間遅延して提供される。
【0004】
[0004] 典型的には、現在のシステムは、多数の視聴者に同時に提供されるプログラムのために、ベースバンド又はRF変調のビデオ配信のいずれかを使用する。提供装置においてほとんど処理が行われず、情報は基本的に実時間で配信されるので、これらの配信及び提供技術は、マイクロ秒内に同期されるビデオ及びオーディオを提供できる。
【発明の概要】
【発明が解決しようとする課題】
【0005】
[0005] デジタルコンテンツによって、ビデオ及びオーディオは、基本的に符号化されずに伝送できる。しかし、1つのビデオプログラムのみで80Mbps超を要求し、1つのステレオオーディオプログラムが約1.2Mbpsを要求することとなる。この極めて高いデータレートの要求がこのような配信技術を非現実的にする。
【0006】
[0006] 航空機内で現在使用されるベースバンド又はRF変調の処理は、同期の維持においてある程度効果的であるが、提供されているビデオ画像の品質を厳しく制限する。当業者によって理解できるように、ベースバンド又はRF変調のシステムは、PAL、SECAM又はNTSC等のアナログビデオ規格を利用し、これらの規格はビデオ解像度を大いに制限する。加えて、これらの規格は、全てのデジタルエンターテイメントネットワークを提供するために所望されるものとは矛盾するアナログ信号配信を要求する。航空機のIFEシステムにおいて、個別のサービスのためのデジタルオーディオ/ビデオ配信とは別のアナログビデオ/オーディオ配信をサポートするための、別のアナログ配線、増幅器及び他の構成要素の包含は非常に望ましくない。
【0007】
[0007] 要求されるコネクタの数を最小化するために、付加される配線をデジタル配線と束にすることができ、追加の機能をサポートする費用及び重量を最小化するために、分離器及び増幅器を組み合わせて他の箱の中に入れることができる。しかし、このようにして費用、重量、電力及び場所への影響が最小化できるとしても、デジタル及びアナログビデオ/オーディオ配信の両方の包含は、システムの費用、重量及び電力を増加する。加えて、デジタル配信システムによって提供されるビデオサービスと比較すると、アナログ配信システムによって提供されるビデオサービスとの間には明らかな視覚的差異が存在する。
【0008】
[0008] オーディオ及びビデオ信号を同期するための技術の一例は、米国特許第6,122,668号において説明される。
【図面の簡単な説明】
【0009】
[0009] 本発明の特定の目的、利点及び新規なフィーチャは、添付の図面を併せて読む場合、以下の詳細な説明からより容易に理解されるだろう。
【0010】
【図1A】[0010] 本発明の一実施形態が利用されている商業用航空機のための座席配置の例を例示する図である。
【図1B】[0010] 本発明の一実施形態が利用されている商業用航空機のための座席配置の例を例示する図である。
【図2】[0011] 図1A及び図1Bに示されているような商業用航空機のための座席内蔵型ビデオプレーヤー配置の一例である。
【図3】[0012] 図1A及び図1Bに示されているような航空機内で利用され、本発明の一実施形態を利用するIFEシステムの一例を例示する概念的ブロック図である。
【図4】[0013] 図3に示されるIFEシステムの構成要素に関連するオペレーションを例示する概念的ブロック図である。
【図5】[0014] 図3に示されているようなシステムにおけるソースジッタの効果の一例を例示するタイミング図である。
【図6】[0015] 図3に示されているようなシステムにおいて利用されるネットワークスイッチの一例を例示するブロック図、及び、図3に示されているようなシステムにおける、負荷に基づくジッタの効果の一例を例示するタイミング図である。
【図7】[0016] 図3に示されているようなシステムにおけるクロックドリフトの効果の一例を例示するタイミング図である。
【図8】[0017] 図3に示されているようなシステムにおけるネットワークエラーの効果の一例を例示するタイミング図である。
【図9】[0018] 図3に示されているようなシステムにおいて実行される一例示的なデコーダの再同期を例示するタイミング図である。
【図10】[0019] 図3に示されているようなシステムに利用されるデコーダの一例を例示する概念的ブロック図である。
【図11】[0020] 本発明の一実施形態による図10に示されているようなデコーダの構成要素に関連して実行されるオペレーションの一例を例示する概念的な図である。
【図12】[0021] 図3に示されるシステムにおける提供装置での、そのシステム内の負荷に基づいたパケット到着時間の一例を例示するグラフである。
【図13】[0022] 本発明の一実施形態による図10に示されているようなデコーダにおけるローカルクロックの確立に関する、実行されるオペレーションの一例を例示するフローチャートである。
【図14】[0023] 本発明の一実施形態による図10に示されているようなデコーダにおける再生時間の調整に関する、実行されるオペレーションの一例を例示するフローチャートである。
【図15】[0024] 本発明の一実施形態による図10に示されるデコーダにおけるビデオ再生の調整に関する、実行されるオペレーションの一例を例示するフローチャートである。
【図16】[0025] 本発明の一実施形態による図10に示されているようなデコーダにおけるオーディオ再生の調整に関する、実行されるオペレーションの一例を例示するフローチャートである。
【図17】[0026] 本発明の一実施形態による図10に示されているようなデコーダにおけるオーディオ及び/又はビデオクロックの調整に関する、実行されるオペレーションの一例を例示するフローチャートである。
【発明を実施するための形態】
【0011】
[0027] 以下に更に詳細に議論されるように、本発明の実施形態は、乗り物内のIFEシステムにおける複数のビデオプレーヤー及び複数のオーディオヘッドセット等の複数の提供装置に、ビデオ及び関連付けられたオーディオを提供するためのシステム及び方法を提供する。この環境は、典型的には、飛行機、列車、バス、ボート、船又は他の複数の乗客用の乗り物であり、そこでは、複数のオーバーヘッド型ビデオモニタが、客席にあるオーディオジャックに差し込まれたヘッドセットを通して、オーバーヘッド型ビデオプログラムに関連付けられたオーディオを聞く複数の乗客によって視聴される。このような環境において、オーバーヘッド型ビデオモニタ上のビデオ画像及び乗客のヘッドセットへのオーディオの提供は、許容できる視聴経験を提供するために十分に同期されるべきである。したがって、本明細書に説明される本発明の実施形態によるシステム及び方法は、IFEシステムにおけるビデオ及びオーディオの復号並びに複数のディスプレイ及びヘッドセットへの提供を同期する。
【0012】
[0028] 図1A及び図1Bは航空機100−1及び100−2のための典型的な座席配置の例を例示する。図示されるように、航空機100−1又は100−2のためのIFEシステムの環境は、並び及び列に編成された、密集して詰められた客席102−1又は102−2(1つ又は複数の座席102として言及される)の集まりを含む。座席は、典型的には、2つから4つの座席のグループに編成され、座席グループは航空機の前部から後部まで伸びる長い並びに配置される。短距離用航空機100−1は、典型的には、出入りのための中央通路104−1を伴って座席グループの2つの並びを有する。長距離用航空機100−2は、典型的には、出入りのための2つの通路104−2を伴って座席グループの3つの並びを有する。図2に示されるように、各客席102は、オーディオヘッドセットが差し込めるヘッドセットジャック106−1又は106−2(1つ又は複数のヘッドセットジャック106として言及される)を備える。
【0013】
[0029] エンターテイメントオーディオは、典型的には、各乗客に各々のヘッドセットを介して提供される。エンターテイメントビデオは、典型的には、オーバーヘッド型ビデオモニタ124(図3を参照)を介してか、又は、座席内蔵型ビデオプレーヤー108−1又は108−2(図2を参照)を介するいずれかの2つの異なる方法で乗客に提供される。オーバーヘッド型ビデオの配置において、航空機100−1又は100−2は、そこにビデオプログラムが提供できる多くのオーバーヘッド型ビデオモニタ124が取り付けられている。オーバーヘッド型ビデオシステムは、航空機の客室の各大きな区画に単一のビデオプロジェクタを提供していたシステムから、天井又は荷物置き場から懸架される多数の個別のモニタを提供する現在のシステムに進化している。現在のシステムにおいて、各乗客は、彼の個人的な視聴に最も便利なオーバーヘッド型モニタを見ることを選択できる。
【0014】
[0030] 座席内蔵型ビデオプレーヤー配置において、航空機100−1又は100−2は、図2に示されるように、各客席102に、(1つ又は複数のビデオプレーヤー108として言及される)個別のビデオプレーヤー108−1又は108−2を装備し、それは個別化されたエンターテイメントの経験を各乗客に提供する。ビデオ提供の両方のタイプを1機の航空機内に兼ね備えることは一般的であり、異なる乗客クラスへのサービスを区別すること(例えば、ファースト及びビジネスクラスには座席内蔵型ビデオで、エコノミークラスにはオーバーヘッド型ビデオ)も一般的である。図3に示され、以下に議論されるように、いずれの場合においても、オーバーヘッド型ビデオモニタ及び座席内蔵型ビデオプレーヤー108がIFEシステム110と通信する。
【0015】
[0031] 当業者によって理解できるように、MPEGのような圧縮技術を使用するデジタルビデオ及びオーディオがIFEシステム110に導入されている。当技術分野で更に理解されるように、ビデオ圧縮は、ビデオ(及び関連付けられたオーディオ)プログラムを再生するために要求されるデジタルデータの量を削減する処理である。生のサンプルされたビデオ(例えば、ビデオドメインにおけるPCMオーディオの等価物)は、単一のビデオプログラムのために80から120Mbpsの間を要求することになる。MPEG等のビデオ圧縮は、このようなプログラムを1.5Mbps以下程度の低いデータレートに削減するために、ビデオの非常に冗長な性質を活用する。MPEGエンコーダは高いレートでサンプルを収集し、様々なアルゴリズムの使用を介して、低いレートのデータストリームを作成し、そこから、元の画像と同じものに全く一致する必要はないが、それに類似する再現物を伴って、デコーダによって元のビデオプログラムが再現できる。
【0016】
[0032] この極めて効果的なデータ削減を実行する処理において、結果として得られるデータストリームは、元のプログラムの「フレーム毎の」特徴を有さない。デコーダによって実行される主要な動作の1つは、間隙的な画像を取り、情報を変換し(例えば、MPEG技術におけるI、P及びBフレーム)、完結したプログラムビデオフレームを再構築することである。理解できるように、デコーダは復号処理を実行するのに時間が掛かり、元のフレームのタイミングがこの処理によって「再構築」される。それによって、一時的なバッファリング、格納、及び、復号アルゴリズムの実行の組合せは、複数のプレーヤーによる画像の実際の提供を僅かに異なるものにさせる傾向がある。
【0017】
[0033] 以下に更に詳細に議論されるように、複数のオーバーヘッド型モニタ124を見ることのできる一乗客が、ビデオプログラムの異なる画像が複数のモニタ上に表示されているのを見ないように、デジタルIFEシステム110全体は、概ね、多数のオーバーヘッド型モニタ124上に特定のビデオプログラムを提供し、それらのモニタ上に提供されるビデオ画像の間の同期を2つのビデオフレームすなわち(毎秒30フレームと仮定すると)66ms内に維持するべきである。
【0018】
[0034] 加えて、デジタルIFEシステム全体は、ビデオプログラムに関連付けられたオーディオを、ビデオプログラムと概ね同期した状態で乗客のヘッドセットに提供するべきである。ビデオとオーディオとの間の、2つのビデオフレーム(66ms)を超える変動は、同期の損失(通常、「リップシンクロ」、すなわち、話者の唇とオーディオとの間の同期の欠如として言及される)として乗客に認識されるだろうことを経験が示す。このような同期に対する要件は、話している人物に限定されないが、オーディオ/ビデオ提供での人物の歩行、手の叩き、水の滴り又は多くの他の態様等のビデオサウンドトラックの他の態様に対して同様に適用できる。ビデオ及びオーディオの再生が、以上に議論されるように、66ms又は約66ms内に実質的に同期されるように、デジタルIFEシステム110全体はまた、航空機内の全てのモニタ(オーバーヘッド型及び座席内蔵型)上に特定のビデオプログラムを提供し、以上に議論されるビデオ及びオーディオ/ビデオの同期を維持できるべきである。
【0019】
[0035] 典型的なIFEシステム110におけるデジタルネットワークの物理的アーキテクチャの一例が図3に更に例示される。基本的な構成要素は、ストリーミングソースとして言及できる1組のヘッドエンドソース112、1つ又は複数のネットワークスイッチ116及び複数の領域スイッチ118を包含できる配信ネットワーク114、ならびに、座席電子ボックス(SEB)120及び傍受ユニット122等の座席の構成要素の列である。ストリーミングソース112は、(あらかじめロードされたMPEGデジタルコンテンツを有する)デジタルサーバ又は入力ビデオ及びオーディオをMPEGデータに変換できる実時間エンコーダであってよい。例えば、ネットワークスイッチ116は、レイヤ2又はレイヤ3イーサネット(登録商標)スイッチであってよく、任意のストリーミングソース112を航空機のIFEシステム110の任意の構成要素に接続するように構成される。領域スイッチ118は、ネットワークスイッチ116を座席の複数の列に接続するために、航空機100−1又は100−2の各領域内に備えられる。この例において、各領域スイッチ118は3つの座席の列に接続するが、領域スイッチ118が接続する座席列の数は、所望により変化できる。
【0020】
[0036] 以上に議論されるような各座席グループはSEB120が取り付けられ、ビデオプレーヤー108及びヘッドセットジャック106等の座席102の構成要素は、座席の列内に配置される多くのSEB120を通して領域スイッチ118から配線される。当業者によって理解できるように、SEB120は、局所的に取り付けられたプレーヤー(デコーダ)に向けられたデータパケットを抽出し、必要によって座席列内の次のSEB120に他のパケットを通過させる。
【0021】
[0037] 図3に更に示されるように、各オーバーヘッド型モニタ124は、典型的には、デコーダ126及びディスプレイ128を含むか、又は、それらに関連付けられる。オーバーヘッド型モニタ124は、この例示的な配置において、SEB120と同一又は類似の機能を実行する1組の傍受ユニット(TU)122を通してIFEシステム110に接続される。また図示されるように、各ヘッドセットジャック160及び座席内蔵型ビデオプレーヤー108は、以上に議論されるように、SEB120に接続されるデコーダ126を含むか、又は、それに関連付けられる。
【0022】
[0038] 多くのIFEシステム110は、サーバ112に格納された複数のビデオプログラムを有する。再生が要求された場合、ビデオプレーヤー(例えば、ビデオプレーヤー108又はオーバーヘッド型モニタ124)がストリーミングソース(例えばサーバ)112から素材を取得し、圧縮されたコンテンツを提供できる形式に復号する。素材が、オーバーヘッド型モニタ124上で、又は、全ての乗客によって同時に視聴されることとなるビデオ告知において提供されることとなる場合には、素材は、典型的には、単一のプレーヤーによって復号でき、上記の背景技術の項目において説明されたアナログ技術を使用して全てのモニタに配信できる。素材が個人を基準として1人の乗客に提供されることとなる場合(例えば、ビデオオンデマンド)には、その乗客は専用のプレーヤー(例えば、ビデオモニタ108)を有し、そのプレーヤーは圧縮されたデジタルプログラムを取得し、その乗客のために、特にそれを復号できる。
【0023】
[0039] ブロードキャストプログラムをサポートするために、ストリーミングソース112は、典型的には、1対多の関係に適するネットワークプロトコルを使用するIFEシステム110のデジタルネットワークの全体に亘って、デジタルストリームを伝送することになる。当業者によって理解できるように、典型的には、TCP/IP通信が1対1の通信のために使用できる。また、1対多のネットワークプロトコルは、通常、「マルチキャスト」と呼ばれ、実時間プロトコル(RTP)等の固定されたレートのストリーミングプロトコルと組み合わせることができる。
【0024】
[0040] 当業者によって更に理解できるように、IPネットワーク上のマルチキャストは、典型的には、各マルチキャストプログラムに特定のマルチキャストIPアドレスを割り当てる。そして、ソース112は、ブロードキャストレイヤ2アドレス及び割り当てられたマルチキャストレイヤ3アドレスを有するネットワーク上にプログラムを(例えば、RTPを使用して)伝送する。IFEシステム110のネットワークは、このストリームを、ビデオプレーヤー108及びオーバーヘッド型モニタ124等の全てのネットワーク装置に対して利用可能できる。プレーヤー(例えば、ビデオプレーヤー108)は、所望のマルチキャストIPアドレスを特定するIGMPプロトコルを使用して、プログラムを「購読」することによって、このプログラムを提供できる。この処理により、ストリーミングソースが単一のデータストリームを伝送し、ネットワーク上の全ての所望のプレーヤーによってそれを受信させることが可能になる。
【0025】
[0041] 図3に関連して以上に説明されたデータネットワークアーキテクチャの例は、ストリーミングソース112が、航空機100−1又は100−2内の全ての所望のビデオプレーヤー108及びオーバーヘッド型モニタ124に対して利用可能な、単一のパケット化されたビデオ/オーディオストリームを作成することを可能にする。この配置は、要求する乗客に対する共通のソースプログラムの個人向けの座席内での提供を可能にする。
【0026】
[0042] 図4は、図3に例示されるIFEシステム110の機能的な概観図であり、問題P1からP6として参照されうるデジタルシステムにおける同期の問題の6つの特定の原因を明らかにする。以下から理解できるように、IFEシステム100において用いられるシステム及び方法は、複数のプレーヤーによるビデオ及びオーディオの同期乃至は実質的に同期した再生を達成するために、これらの6つの問題に対処する。
【0027】
[0043] 問題P1−ソースに基づくジッタ
[0044] この例におけるIFEシステム110が、パケット化されたデータのネットワークであるイーサネット(登録商標)を利用するため、ソース112はパケットでデータを伝送する。当然、IFEシステム110は、有線或いは無線のネットワーク、又は両方の組合せの任意の他の適切なタイプを包含できる。全体の平均のデータレートは、典型的には、素材の再生レートに合致するが、個別のパケットは、パケット間の不感時間を伴うより高い速度で転送される。ソース112が1つのストリームを作成しているだけの場合には、おそらくパケットはまさに通常のレートで伝送されるだろう。しかし、図5のタイミング図500に示されるように、ソース112が複数の機能を実行している場合には、全体のデータレートが正確であることが可能であるが、パケット間の不感時間がパケットによって変化する場合がある。更に、ソース112が実際に複数のストリームを異なるデータレートで作成している場合には、パケットからパケットへの転送レートに重大な変動性が存在する可能性がある。
【0028】
[0045] 問題P2−負荷に基づくジッタ
[0046] 全てのソース112が所望のデータレートに対して、まさに正確な時間でそれらのパケットを作成したとしても、ただ1つのパケットが、任意の時間に任意のネットワークインターフェース上に存在する場合があることによって、ネットワーク上の一時的な時間の遅延、及びしたがってジッタが起こる可能性がある。完全なタイミングでのネットワークスイッチ116(図3を参照)への3つの入力(入力1、入力2及び入力3)が、ジッタとして言及される相当な並び替え及びタイミングの変動を伴うネットワークスイッチ116からの出力を作成する可能性がある様子の一例を図6が示す。タイミング図600に示されるように、パケットが狂った順序で出力されることになる場合、特定のパケットの出力は、ある時点まで遅延するだろう。この例において、入力3からのパケットは結局、スイッチ116から狂った順序で出力され、それによって入力1及び2からのパケットの前に出力されるだろう。
【0029】
[0047] 問題P3−不均一なネットワーク遅延
[0048] 当業者によって理解できるように、IFEシステム110において利用されるようなスイッチ機能付きのイーサネット(登録商標)システムにおいて、各イーサネット(登録商標)スイッチは1500+バイトの最大転送単位(MTU)の全体を受信し、MTUを適切な出力ポートに転送する前にMTUの整合性を検証する。したがって、ルーティング決定をするために、どのようなオーバーヘッド時間がスイッチによって使用されても、MTUプラスを伝送するために必要な時間と等しいか、又は、ほぼ等しいネットワークリンクからネットワークリンクへの遅延が存在する。100BaseTネットワークでは、各MTUは約125マイクロ秒(μs)の転送時間が掛かる。単一のマルチキャストパケットが図3及び図4に例示されるネットワークにおいてソース112から伝送される場合には、メッセージ開始からメッセージ受信までの時間は、パケットが1つのネットワークスイッチ116を通って、次に1つの領域スイッチ118を通って、そして1つのSEB120を通って移動する場合の3×125μsから、パケットが1つのネットワークスイッチ116を通って、次に1つの領域スイッチ118を通って、そして10個のSEB120を通って移動する場合の12×125μsに変化するだろう。したがって、(内部スイッチ決定時間を含まない)最小で、パケットを受信する幾つかの座席102とパケットを受信する他の座席102との間には少なくとも約1msの差異が存在するだろう。より大きいネットワークにおいて、このネットワークトポロジ依存の遅延が一層悪化する可能性がある。
【0030】
[0049] 問題P4−クロックドリフト
[0050] 当業者によって理解できるように、ソース112は、そのローカルクロック発振器に基づくレートでデータを伝送するだろう。ビデオプレーヤー108等のプレーヤーは、そのローカルクロック発振器に基づいて、それが受信するデータを再生するだろう。これら2つの局所的なローカル発振器の間の合致は完全ではない。加えて、同じデータストリームを受信する2つの異なるプレーヤーのローカルクロック発振器も異なるだろう。良好な品質のクリスタル発振器における差異は、典型的には、(初期周波数偏差、経年及び温度効果を含み)約百万分の50と評価される。したがって、正確に一緒に開始した2つのプレーヤーは、図7のタイミング図700に例示されるように、次第にドリフトし離れるだろう。
【0031】
[0051] このドリフトの効果を評価するために、2つのプレーヤー内のクロックが50ppmの分だけ異なり、それらが1.5Mbps(典型的なMPEG−1素材)で素材を再生している場合には、それらの実際のデータ消費レートは毎秒75ビットの分だけ異なることとなる。一方のプレーヤーが他方のものより毎秒75ビット多く消費しているため、そのプログラムにおける位置が他方のものに対してこの量の分だけ進むことになる。このドリフトのために、1つのビデオフレームすなわち33msの等量まで蓄積するのに約660秒すなわち約11分掛かることとなる。短いビデオプログラムには、この現象はそれ程重要ではない。しかし、2時間の映画の期間に亘っては、ドリフトは11個のビデオフレームすなわち360msまで蓄積し、それは非常に顕著な差異である。
【0032】
[0052] 問題P5−ネットワークエラー
[0053] ネットワークエラーは、同期エラーの最も重大な原因の1つとなりうる。単一のイーサネット(登録商標)データリンクは、典型的には、108回に1回と109回に1回との間のエラーレートを有すると評価される。追加的なエラーの原因は、過剰な割り込み待ち時間、バッファオーバーフロー等のような、スイッチバッファオーバーフロー及びネットワークインターフェースの誤作動を含む。また、VOD映画を再生するために要求されるデータの量は、典型的には、エラー耐性が関連してくる程に大きなものである。
【0033】
[0054] 例えば、1つの2時間の映画が、3.5Mbps MPEG−2で符号化でき、それによって、サイズにおいて約2.5×1010ビット(例えば、3.15ギガバイト)になることとなる。この映画が直接接続されたプレーヤーで再生される場合には、典型的には、(1×109ビット/エラーのレートを想定して)2時間の映画の間に約25.2回のエラーが予測されることとなる。しかし、IFEシステム110において、プレーヤー(例えば、ビデオプレーヤー108)はサーバソース112に直接取り付けられない。したがって、ソース112からビデオプレーヤー108への途中で、データは、典型的には、1×109ビット/エラーの想定されるエラーレートを各々が有する平均6つの独立するイーサネット(登録商標)通信リンク(例えば、DSU−ESU、ESU−ADB、ADB−SEB1、SEB1−SEB2、SEB2−SEB3、SEB3−プレーヤー)を移動する。したがって、各ビデオプレーヤー108は、2時間の映画に亘って約151回のエラーを経験することを予測するべきである。
【0034】
[0055] また、個別のプレーヤー(例えば、ビデオプレーヤー108)は、特に、同じプログラムが全てのプレーヤーに配信され、同期が要求される(例えば、オーバーヘッド型ビデオの用途において)ブロードキャスト/マルチキャストの状況では、ネットワークエラーに対して相当な耐性があるべきである。25個のオーバーヘッド型モニタ124を有する300席の航空機に対しては、システム110全体が約49,140回のエラーを経験するだろう。加えて、システムエラーの効果は、どこにエラーが発生するかに非常に依存している。例えば、1つのエラーがSEB120からビデオプレーヤー108へのリンク上で発生する場合には、ただ1つの座席102が影響される。しかし、エラーが2つのSEB120の間のリンク上で発生する場合には、影響されるリンクからトポロジ的に先にある全てのビデオプレーヤー108がエラーを経験するだろう。
【0035】
[0056] 当業者によって更に理解できるように、システム110が、RTPのようなストリーミングプロトコルを使用する場合、ストリームは分割されて、サイズが典型的には64キロバイト未満であるRTPブロックになり、そのブロックはUDPプロトコルによって分割されて、ペイロードのサイズが典型的には1,500バイト以下のMTUになる。エラーが発生する場合、ブロック全体が破棄される。エラーが不定な時点で発生するため、エラーがビデオデータ、オーディオデータ又は両方の欠如に影響する場合がある。MPEGプレーヤーは、データ内の混乱が発生したことを認識し、適切な復号が継続できる点をスキャンする、ある程度の耐性がある。しかし、典型的には、図8のタイミング図800に例示されるように、これはオーディオ及びビデオの再生が同期から外れる原因となる。
【0036】
[0057] 更に、MPEGの符号化は、ストリームのビデオ及びオーディオ部分内に配置される時間タグを設ける。この時間情報は、図3に示されているようなデコーダ126に、オーディオ及びビデオが同期した状態を保っているかどうかを判定するのを許可することを意図する。オーディオ及びビデオが同期から外れていると判定される場合には、デコーダ126は、それらを同期した状態に戻すことを実現する1組のオペレーションを実行できる。当業者によって理解できるように、デコーダ126は復号処理の開始に先立ってデータをバッファに保留する。したがって、オーディオ及びビデオが同期から外れる場合の最も一般的な対応策は、デコーダ126が、図9のタイミング図900に例示されるように、オーディオ及びビデオが同期した状態に戻るまでデータを破棄することである。これを行うことによって、プログラム全体の再生が、元のソース112、及び、相互に同期した状態で同じプログラムを提供しようとする他のプレーヤーに対して、時間的に進む。
【0037】
[0058] 問題P6−デコーダ間のバッファリング差異
[0059] 当業者は、エラー、ジッタ及びクロックドリフトが任意のデジタル配信及び復号システムの基本的な特徴であることを認識する。したがって、データの到着から再生処理を隔離するために、デコーダ126が、以下に更に詳細に議論するようなFIFOとして機能する十分なバッファメモリを備えることは一般的である。大半のデジタルデコーダは、典型的には、再生が開始する前にデータの1/2秒と1秒との間を格納し、それはデジタルセットトップボックスがチャンネルを変えるために1から2秒と同程度の長さが掛かる主な理由である。再生を開始する前にこれ程の量のデータをFIFOに格納することによって、デコーダ126はパケットの欠如、データの到着の遅延、及び使用者に実質的に明白なクロックドリフトを作ることができる。
【0038】
[0060] その性質そのものによって、このようにFIFOを使用することは、プレーヤー(例えば、ビデオプレーヤー108)が1/2から1秒と同程度の間、データの到着との同期から外れること(例えば、予備格納)を可能にすることを意図し、それは、典型的には、比較的孤立した環境における個別のプレーヤーにとって問題ではない。しかし、以上に議論されるように、2つの別の再生が同期した状態を保つことを意図している場合、問題となり得る。このバッファリングのために、典型的なデコーダ126は、相互に同期から外れるように構成される。また、各デコーダは、それ自体の「再生開始」を決定し、それによって、2つの異なるデコーダ(例えば、組み合わされたオーディオ/ビデオエンコーダ及びオーディオエンコーダ)は正確に同じ時間に再生を始めることは考えられない。
【0039】
[0061] 以上から理解できるように、多数の独立した(オーバーヘッド型ビデオのオーバーヘッド部分については)ビデオプレーヤー、(座席内蔵型ビデオについては)ビデオ/オーディオプレーヤー、及び(オーバーヘッド型ビデオの座席に内蔵された部分については)オーディオプレーヤー間の同期を維持するための本発明の一実施形態は、デコーダ126内のフィーチャを利用でき、それによって、それは、デコーダ126が相互に同期した状態を十分に保つことを可能にする。MPEG2トランスポートストリームを復号するためのMPEGデコーダに基づくIPネットワークのアーキテクチャの一例が図10に例示される。多くのこれらの機能は、シリコン又はソフトウェアのアルゴリズムに一体化されることが多い。
【0040】
[0062] エンコーダ126は、復号されることとなる当該マルチキャストビデオストリーム(IPネットワークストリーム)と関連付けられたIPアドレスを有するRTPパケットを通過させるネットワークインターフェース200を含む。RTPパケットは検証され、先入れ先出し(FIFO)メモリとして機能する中間メモリ202内に配置される。不完全なパケット及び特定の狂った順序のパケットは、ネットワークエラーの結果であり、破棄される。図示されるように、ネットワークインターフェース200は、ローカルネットワークの時間スタンプ204を提供することができる。RTPパケット時間及び/又はMPEG−2トランスポートストリームのシステム時間スタンプは、入ってくるデータストリームに対して、相対的な時間を確立するため使用できる。
【0041】
[0063] トランスポートストリームのデマルチプレクサ206は、多重化されたMPEG−2トランスポートストリームをその各々のオーディオ、ビデオ及び補助のデータストリームに分離し、ストリームの各タイプはプログラム識別子(PID)によって識別される。データの各タイプは、FIFOメモリとして機能するビデオバッファ208又はオーディオバッファ210等の中間メモリ内に配置される。
【0042】
[0064] ビデオデコーダ212は、ビデオバッファ208からビデオデータを取得することにより、圧縮されたビデオデータを個別のビデオフレームに変換し、識別されるビデオ圧縮規格に従って、適切な解像度及びビデオフレームレートで完結したビデオフレームを生成する。完結したビデオフレームはビデオフレームバッファ214内に格納される。ビデオバッファ214内のビデオデータは、構築されることとなるビデオ画像に対応しているプログラムの相対的な時間スタンプ216を含む。このビデオ時間は更新でき、システム110による使用のために利用可能にできる。
【0043】
[0065] オーディオデコーダ218は、オーディオバッファ210からデータを取得することにより、圧縮されたオーディオデータをPCMデジタルデータストリームに変換し、識別されるオーディオ圧縮規格に従って、適切なサンプルレートで完結したオーディオサンプルを生成する。完結したオーディオサンプルはオーディオ「フレーム」バッファ220内に格納される。オーディオバッファ220内のオーディオデータは、提供されることとなるオーディオに対応しているプログラムの相対的な時間スタンプ222を含む。このオーディオ時間も更新でき、システム110による使用のために利用可能にできる。
【0044】
[0066] ビデオドライバ224がビデオフレームバッファ214からデータを引き出し、適切な解像度及びフレームレートでビデオアウトプットを作成する。ビデオアウトプットはビデオ再生クロックによってドライブされる。同様に、オーディオドライバ226がオーディオバッファ220からオーディオサンプルを引き出し、それらをデジタルアナログ変換器(D/A変換器)に配置して所望のオーディオ信号を生成する。サンプルがD/A変換器に提供されるレートは、オーディオ再生クロックによって駆動される。
【0045】
[0067] 当業者によって理解できるように、デコーダ126は、以上に説明されたデコーダ126の構成要素のオペレーションを制御するように作動する制御装置228を更に包含又は関連付けできる。
【0046】
[0068] 本発明の一実施形態によると、ソース112(図3及び図4を参照)が、コンテンツに一致するレートでデータネットワーク内にRTPデータストリームを挿入するだろう。それによって、コンテンツが、2つの128Kbpsのオーディオと共に多重化された1.5Mbpsのビデオである場合には、ソース112の平均アウトプットレートは1.76Mbpsになることとなる。使用される多重化する技術は、ビデオ及び各オーディオストリームの両方に独立した時間情報を提供するMPEG−2トランスポートである。RTPデータストリームも、ソースによって確立されるブロック時間パラメータを有する。
【0047】
[0069] RTPパケットがスイッチ機能付きのイーサネット(登録商標)ネットワークを通過してルーティングされると、各再生装置(例えば、ビデオプレーヤー108又はオーバーヘッド型モニタ124)がそれらを受信する。ソース112は、再生システムのマスタータイミングの構成要素を示すことを意図する。デコーダ126は、IFEシステム110のネットワーク上に伝送されるソースデータとビデオ又はオーディオの提供との間の固定された遅延を維持する再生を提供する。全てのビデオ及びオーディオプレーヤー間の同期をソース112の66ms内に維持することが望ましい。
【0048】
[0070] 図11は、以下に更に詳細に議論されるような本発明の一実施形態により、A1からA5までの処理が実行されるデコーダ126における配置の一例の表示を伴って、図10に示されるデコーダのアーキテクチャの一例を例示する。これらの処理の全ては、例えば、デコーダ126内の構成要素に沿って、制御装置228によって実行できる。
【0049】
[0071] 処理A1は、ネットワークの伝搬遅延を無視して、プログラムのマスタークロックの局所的バージョンを、+/−10ms又は約+/−10msの精度に維持するように実行される。これは、変化するシステム遅延(ジッタ)を伴って到着するデータから、共通のシステム全体に亘る、プログラムのマスタークロックを提供する。プログラムのマスタークロックはプログラムに特有で、MPEGコンテンツ自体から導出される。したがって、プログラムストリームが変更される場合、新しいプログラムに特有のマスタークロックが確立される。
【0050】
[0072] MPEG−2トランスポートストリームは幾つかの異なるクロックを含む。この説明の目的のために、プログラムクロックリファレンス(PCR)は、そこからプログラムのマスタークロックが導出されることになるデータ要素として使用される。PCRは、間隙的な188バイトのトランスポートストリームパケット内に提供される33−ビットの数字であり、PCRを含むパケット間には、典型的には、700ms以上が存在できる。
【0051】
[0073] PCRを伴うパケットの到着はプレーヤーのプログラムのマスタークロックを初期化し、調整するために使用される。ポアソン分布である遅延を伴ってパケットがネットワークから到着し、その最小時間はネットワークトポロジ及びパケットが通過するスイッチの数に関連した固定値であろうことが予想される。マスタークロック導出アルゴリズムは、PCRの最初の到着時間(詳細には平均到着時間ではない)に固定された状態を保つクロックを確立することとなる。
【0052】
[0074] 図12は、パケットの到着の予想される分布の一例を示すグラフ1200であり、平均の到着ではなく最初の到着に固定するための基礎となる。以上に議論されるように、ソース112からのパケットは、ソースジッタ(問題P1)、負荷に基づくジッタ(問題P2)、及びネットワークトポロジの遅延(問題P3)に関連付けられた遅延を経験する場合がある。ネットワークトポロジの遅延(P3)はソース装置とプレーヤーとの間のスイッチの数に基づく固定値である。ネットワークトポロジの遅延についての値は、様々なディスプレイの間で変化するが、航空機内のネットワークトポロジの遅延の典型的な変動は、重大であるとは見なされない約1msの変動を有するだろう。
【0053】
[0075] ソース及び負荷に基づくジッタによって生じる変動/ジッタは、本質的に概ね統計学的であろう。所定の負荷での到着の分布は最小時間(零の統計学的遅延)に関してポアソン分布に従うことが予測されることとなる。所定の負荷での最小時間及び平均遅延の両方は固定値である。しかし、IFEシステム110は、典型的には、固定された負荷を有さず、広範に変化する負荷を有する。負荷におけるこの変動は、平均遅延時間における重大な変動の原因となるだろうが、最小遅延には概ね影響しない。全てのリンクが100BaseTであり、座席の列が10深層までデイジーチェーン接続される場合には、パケットが通過する約13個のイーサネット(登録商標)スイッチが存在する。スイッチにおいて最大のバッファが128までバックアップする場合には、約1.5msの最小遅延(13パケットの転送時間)、及び約18msの最大遅延(141パケットの転送時間)が取得される。
【0054】
[0076] 図13のフローチャートに示されるように、マスタークロックの処理は、その周波数が実時間よりも僅かに遅い(約200ppm)自走プレーヤーローカルクロックを確立する。ステップ1300での第1のPCRの到着は、ステップ1310におけるプレーヤーローカルクロックを初期化し、その再生を開始するために使用される。次のPCRがステップ1320で到着する場合、それは自由作動するプレーヤーローカルクロックの値と比較される。自走ローカルクロックの値が、ステップ1330においてPTSに満たない(より早い)と判定される場合には、ステップ1340において、自走クロックは調整されない(パケットは遅延されている)。しかし、自走ローカルクロックの値がPTSより大きい(より遅い)場合には、ステップ1350において、自走クロックがPTSと合致又は実質的に合致するように調整される(自走クロックが遅くなる)。
【0055】
[0077] 図14のフローチャートに示されるように、処理A2が、ステップ1400において、オーディオ及びビデオ再生時間をネットワークの時間と比較し、ステップ1410において、再生とネットワークのマスター時間との間の固定された遅延を維持する調整を開始するように実行される。様々なジッタソースに適応し、再生装置でのデータのアンダーランを防止するために、再生が開始する前に特定の量のデータが格納される。これは、データの実際の到着とデータの再生との間の遅延を結果的にもたらす。全ての再生装置の間の同期を維持するために、ステップ1420においてシステム全体に亘る遅延が確立され、ステップ1430において、再生装置は、この固定された遅延を加えたマスタークロックに同期する。この遅延についての最小値は、システム全体を通る遅延に幾らかのマージンを加えて組み合わされた最悪のケースである。500msの値は安全な値である場合が多い。
【0056】
[0078] 処理A3は、ビデオの提供を+/−1つのビデオフレーム(例えば、33ms)の分だけ移動するように実行される。当技術分野で理解できるように、ビデオプレーヤー108は、提供される実際のビデオフレームに関連付けられた(MPEG材料それ自体から抽出された)PCRのような時間を提供し、ビデオフレームを繰り返す(33msのインクリメントの間のフリーズ)能力をサポートし、ビデオフレームを省略する(33msのインクリメント前にジャンプ)能力をサポートする調整のフィーチャを有する。加えて、ビデオプレーヤー108は、再生の開始、再生のポーズ及び再生の停止を実行し、残っているデータを消去する。
【0057】
[0079] 幾つかのMPEGデコーダ(例えば、IBMのセットトップのデコーダ)は、提供される実際の画像の時間を示すこととなるビデオのプレゼンテーションタイムスタンプ(PTS)として参照されるパラメータを提供する。このパラメータは比較アルゴリズムにおける使用のために、高い信頼性でアクセス可能である。
【0058】
[0080] 図15のフローチャートに示されるように、ビデオは、ステップ1500において、導出されたプログラムのマスタークロックに対して固定された遅延を伴って提供されることとなる。ビデオプレーヤー108は、提供されているビデオフレームに関連付けられたクロックを提供する。これは、提供されているビデオフレームが、固定された遅延を加えたマスタークロックの+/−66ms(2ビデオフレーム)内であることを保証する。ビデオフレームに関連付けられた時間が、ステップ1510においてマスタークロックからterrmsを超えて異なっていると判定される場合には、システム110が完全に同期を喪失していると想定される。システム110が完全に同期を喪失している場合には、ステップ1520において、オーディオ及びビデオは両方が消去(破棄)され、再生が再度開始され、入ってくるストリームに再度同期される。
【0059】
[0081] ステップ1530において、提供されているビデオフレームに関連付けられた時間がマスタークロックからterrmsを超えずに異なっていて、時間がtcorrmsを超える(しかし、terrを超えない)分だけ合計より大きいと判定される場合には、ステップ1540において、ビデオプレーヤー108はビデオフレームを繰り返すように要求される。tcorrについての典型的な値は約45msであり、terrは約200msであることとなるが、任意の適切な値であってよい。ステップ1550において、提供されているビデオフレームに関連付けられた時間がtcorrmsを超える(しかし、terrを超えない)分だけ合計より小さいと判定される場合には、ステップ1560において、ビデオプレーヤー108はビデオフレームを省略するように要求される。
【0060】
[0082] 処理P4は、オーディオの提供を+/−33ms変移するように実行される。ビデオプレーヤーは、典型的には、提供されている実際のオーディオに関連付けられた(MPEGデータそれ自体から抽出された)PCRのような時間を提供し、無音を(33msのインクリメントの間)挿入する能力をサポートし、省略して(例えば、約33msのインクリメント)先に進む能力をサポートする。加えて、オーディオプレーヤーは、再生の開始、再生のポーズ、再生の停止を実行し、残っているデータを消去できる。
【0061】
[0083] 幾つかのMPEGデコーダ(例えば、IBMのセットトップ)は、提供されている実際の音響信号の時間を示すこととなるオーディオのプレゼンテーションタイムスタンプ(PTS)と称され、比較アルゴリズムにおいて使用されるパラメータを提供する。
【0062】
[0084] 図16のフローチャートに示されるように、ステップ1600において、オーディオは、導出されたプログラムのマスタークロックに対してビデオと同じ又は実質的に同じ固定遅延を伴って提供されることとなる。オーディオプレーヤーは、提供されているオーディオに関連付けられたクロックを提供して、提供されているオーディオが、固定された遅延を加えたマスタークロックの+/−66ms(2ビデオフレーム)内であることを保証する。オーディオに関連付けられた時間が、ステップ1610においてマスタークロックからterrmsを超えて異なっていると判定される場合には、システムが完全に同期を喪失していると想定される。システム110が完全に同期を喪失している場合には、ステップ1620において、オーディオ及びビデオは両方が消去(破棄)され、再生がリスタートされ、入ってくるストリームに再度同期される。
【0063】
[0085] ステップ1630において、提供されているビデオフレームに関連付けられた時間がマスタークロックからterrmsを超えずに異なっていて、tcorrmsを超える(しかし、terrを超えない)分だけ合計より大きくないと判定される場合には、ステップ1640において、オーディオプレーヤーは約33msの無音を挿入するように要求される。tcorrについての典型的な値は約45msであり、terrは約200msであることとなるが、任意の適切な値であってよい。ステップ1650において、提供されているオーディオに関連付けられた時間がtcorrmsを超える(しかし、terrを超えない)分だけ合計より小さいと判定される場合には、ステップ1660において、オーディオプレーヤーは約33msのオーディオを省略するように要求される。
【0064】
[0086] 図17のフローチャートに示されるように、処理A5は僅かな量(約100ppm)の分だけオーディオ及び/又はビデオクロックを速めるか、又は、遅くするように実行される。ステップ1700において判定されるように、再生クロックの周波数は100ppmを超えない分だけソースクロックから異なるべきである。再生クロックの周波数が、ソースクロックのそれとほぼ等しい場合には、ステップ1710において、再生クロックは調整されない。しかし、そうでない場合には、ステップ1720において、再生クロックは100ppmずつ速度を速くするか、又は、遅くする(3つのセッティング:100ppm遅く、公称値、100ppm速く)ように調整ができる。
【0065】
[0087] 他の技術が、提供されているオーディオ及びビデオ信号に関連付けられた実際の時間を割り出すために使用できる。オーディオを適切な時間の量の分だけ進めるか、又は、後退させ、ビデオを適切な時間の量の分だけ進めるか、又は、後退させる代替的方法が存在できる。特定のビデオプログラムを再生する全ての装置に亘って、一桁台の数ミリ秒内の正確さであるシステム全体に亘るクロックを確立する代替の方法も存在できる。
【0066】
[0088] 以上の詳細では、本発明の幾つかの例示的実施形態が説明されただけであるが、当業者は、本発明の新規な教示及び利点から実質的に逸脱することなく、例示した実施形態において多くの変更が可能であることを容易に理解できるだろう。例えば、処理において示されるステップの順番及び機能性が、本発明の精神から逸脱することなく、幾つかの点で変更できる。したがって、全てのこのような変更は、以下の特許請求の範囲に定義される本発明の範囲内に含まれることを意図している。
【特許請求の範囲】
【請求項1】
システム内の少なくとも1つのビデオプレーヤー及び少なくとも1つのオーディオプレーヤーによるデジタルビデオ及びオーディオの再生を同期するための方法であって、
前記ビデオ及びオーディオプレーヤーに関連付けられた少なくとも1つのデコーダにデジタルビデオ及びオーディオデータを提供するステップと、
前記データのコンテンツから導出されるマスタークロックに基づきローカルクロックを調整し、前記マスタークロックに関する遅延時間を設定し、前記遅延に基づきビデオ及びオーディオ再生を調整して、前記オーディオ及びビデオプレーヤーによる前記オーディオ及びビデオデータの再生を実質的に同期するように、前記デコーダを作動するステップと、
を含む方法。
【請求項2】
前記ローカルクロックを調整するように前記デコーダを作動する前記ステップが、
プログラムクロックリファレンス(PCR)の受信により、前記ローカルクロックを初期化するステップと、
次のPCRの受信により、プレゼンテーションタイムスタンプ(PTS)に対する前記ローカルクロックの値に基づき前記ローカルクロックを調整するか否かを決定するステップと、
を含む、請求項1に記載の方法。
【請求項3】
前記ローカルクロックを調整するように前記デコーダを作動する前記ステップが、前記ローカルクロックの前記値が前記PTSより大きい場合には、前記ローカルクロックの前記値を前記PTSに実質的に合致するように調整するステップ、を更に含む、請求項2に記載の方法。
【請求項4】
前記マスタークロックに対してビデオ及びオーディオの再生を調整するように前記デコーダを作動する前記ステップが、
前記遅延時間を確立するステップと、
前記オーディオ及びビデオデータの受信により、前記オーディオ及びビデオプレーヤーが、前記遅延時間と等しい時間の間、前記オーディオ及びビデオデータを再生することを抑制するように、前記オーディオ及びビデオプレーヤーの再生時間を設定するステップと、
を含む、請求項1に記載の方法。
【請求項5】
ビデオ再生を調整するように前記デコーダを作動する前記ステップが、
ビデオフレームが前記ビデオプレーヤーによって提供される時間の値を前記マスタークロックの時間と前記遅延時間との合計に対して比較するステップと、
前記比較に基づき、リスタートするように、又は前記ビデオフレームをリプレイ或いはスキップするように、前記ビデオプレーヤーを作動するステップと、
を含む、請求項1に記載の方法。
【請求項6】
前記時間の値が第1の量の分だけ前記合計より大きい場合、ビデオ提供をリスタートするように前記ビデオプレーヤーを作動するステップ、を含む、請求項5に記載の方法。
【請求項7】
前記時間の値が前記第1の量未満である第2の量の分だけ前記合計より大きい場合、前記ビデオフレームを提供することをスキップするように前記ビデオプレーヤーを作動するステップ、を含む、請求項6に記載の方法。
【請求項8】
前記時間の値が前記第1の量未満である第3の量の分だけ前記合計より少ない場合、前記ビデオフレームを提供することを繰り返すように前記ビデオプレーヤーを作動するステップ、を含む、請求項6に記載の方法。
【請求項9】
オーディオの再生を調整するように前記デコーダを作動する前記ステップが、
前記オーディオプレーヤーによってオーディオの瞬間が提供される時間の値を前記マスタークロックの時間と前記遅延時間との合計に対して比較するステップと、
前記比較に基づき、再度開始するように、前記オーディオにおいて省略して先に進むように、又はある期間オーディオを提供することを抑制するように前記オーディオプレーヤーを作動するステップと、
を含む、請求項1に記載の方法。
【請求項10】
前記時間の値が第1の量の分だけ前記合計より大きい場合、オーディオ提供をリスタートするように前記オーディオプレーヤーを作動するステップ、を含む、請求項9に記載の方法。
【請求項11】
前記時間の値が前記第1の量未満である第2の量の分だけ前記合計より大きい場合、前記の期間オーディオを提供することを抑制するように前記オーディオプレーヤーを作動するステップ、を含む、請求項10に記載の方法。
【請求項12】
前記時間の値が前記第1の量未満である第3の量の分だけ前記合計より少ない場合、前記オーディオにおいて省略して先に進むように前記オーディオプレーヤーを作動するステップ、を含む、請求項10に記載の方法。
【請求項13】
前記デジタルビデオ及びオーディオデータを提供するソースに関連付けられたクロックに対して、前記ビデオプレーヤーに関連付けられた再生クロック及び前記オーディオプレーヤーに関連付けられた再生クロックの少なくとも1つの周波数を調整するステップ
を更に含む、請求項1に記載の方法。
【請求項14】
前記システムが複数のビデオ及び複数のオーディオプレーヤーを備え、
前記提供するステップが、前記デジタルビデオ及びオーディオデータを前記ビデオ及びオーディオプレーヤーに関連付けられた複数のデコーダに提供し、
前記作動するステップが、前記マスタークロックに基づき該ローカルクロックを調整し、前記マスタークロックに対する前記遅延時間を設定し、前記遅延に基づきビデオ及びオーディオ再生を調整して、オーディオ及びビデオプレーヤーのそれぞれによる前記オーディオ及びビデオデータの再生を実質的に同期するように前記デコーダのそれぞれを作動する、
請求項1に記載の方法。
【請求項15】
オーディオ及びビデオプレーヤーに関連付けられ、デジタルビデオ及びオーディオデータを提供するデジタルシステムにおいて使用されるためのデコーダであって、
前記デジタルビデオ及びオーディオデータを受信するためのネットワークインターフェースと、
ローカルクロックと、
前記受信されたビデオ及びオーディオデータを復号するためのビデオ及びオーディオデコーダと、
前記関連付けられたビデオ及びオーディオプレーヤーを駆動するためのビデオ及びオーディオドライバと、
前記データのコンテンツから導出されるマスタークロックに基づき前記ローカルクロックを調整し、前記マスタークロックに対する遅延時間を設定し、前記遅延に基づきビデオ及びオーディオ再生を調整して、前記オーディオ及びビデオプレーヤーによる前記オーディオ及びビデオデータの再生を実質的に同期するように作動する制御装置と、
を含むデコーダ。
【請求項16】
プログラムクロックリファレンス(PCR)の受信により、前記ローカルクロックを初期化することによって前記ローカルクロックを調整し、前記インターフェースによる次のPCRの受信により、プレゼンテーションタイムスタンプ(PTS)に対する前記ローカルクロックの値に基づき前記ローカルクロックを調整するように前記制御装置が作動する、
請求項15に記載のデコーダ。
【請求項17】
前記遅延時間を確立すること、及び前記オーディオ及びビデオデータの受信により、前記オーディオ及びビデオプレーヤーが、前記遅延時間と等しい時間の間、前記オーディオ及びビデオデータを再生することを抑制するように、前記オーディオ及びビデオプレーヤーの再生時間を設定するように前記オーディオ及びビデオドライバを制御することによって、前記マスタークロックに関するビデオ及びオーディオ再生を調整するように前記制御装置が作動する、
請求項15に記載のデコーダ。
【請求項18】
ビデオフレームが前記ビデオプレーヤーによって提供される時間の値を前記マスタークロックの時間と前記遅延時間との合計に対して比較すること、及び前記比較に基づき、リスタートするように、又は前記ビデオフレームをリプレイ或いはスキップするように、前記ビデオプレーヤーを作動するように前記ビデオドライバを制御することによって、ビデオ再生を調整するように前記制御装置が作動する、
請求項15に記載のデコーダ。
【請求項19】
前記オーディオプレーヤーによってオーディオの瞬間が提供される時間の値を前記マスタークロックの時間と前記遅延時間との合計に対して比較すること、及び前記比較に基づき、再度開始するように、前記オーディオにおいて省略して先に進むように、又はある期間オーディオを提供することを抑制するように前記オーディオプレーヤーを作動するように前記オーディオドライバを制御することによって、オーディオ再生を調整するように前記制御装置が作動する、
請求項15に記載のデコーダ。
【請求項20】
前記デジタルビデオ及びオーディオデータを提供するソースに関連付けられたクロックに対して、前記ビデオプレーヤーに関連付けられた再生クロック、及び前記オーディオプレーヤーに関連付けられた再生クロックの少なくとも1つの周波数を調整するように前記制御装置が作動する、
請求項15に記載のデコーダ。
【請求項1】
システム内の少なくとも1つのビデオプレーヤー及び少なくとも1つのオーディオプレーヤーによるデジタルビデオ及びオーディオの再生を同期するための方法であって、
前記ビデオ及びオーディオプレーヤーに関連付けられた少なくとも1つのデコーダにデジタルビデオ及びオーディオデータを提供するステップと、
前記データのコンテンツから導出されるマスタークロックに基づきローカルクロックを調整し、前記マスタークロックに関する遅延時間を設定し、前記遅延に基づきビデオ及びオーディオ再生を調整して、前記オーディオ及びビデオプレーヤーによる前記オーディオ及びビデオデータの再生を実質的に同期するように、前記デコーダを作動するステップと、
を含む方法。
【請求項2】
前記ローカルクロックを調整するように前記デコーダを作動する前記ステップが、
プログラムクロックリファレンス(PCR)の受信により、前記ローカルクロックを初期化するステップと、
次のPCRの受信により、プレゼンテーションタイムスタンプ(PTS)に対する前記ローカルクロックの値に基づき前記ローカルクロックを調整するか否かを決定するステップと、
を含む、請求項1に記載の方法。
【請求項3】
前記ローカルクロックを調整するように前記デコーダを作動する前記ステップが、前記ローカルクロックの前記値が前記PTSより大きい場合には、前記ローカルクロックの前記値を前記PTSに実質的に合致するように調整するステップ、を更に含む、請求項2に記載の方法。
【請求項4】
前記マスタークロックに対してビデオ及びオーディオの再生を調整するように前記デコーダを作動する前記ステップが、
前記遅延時間を確立するステップと、
前記オーディオ及びビデオデータの受信により、前記オーディオ及びビデオプレーヤーが、前記遅延時間と等しい時間の間、前記オーディオ及びビデオデータを再生することを抑制するように、前記オーディオ及びビデオプレーヤーの再生時間を設定するステップと、
を含む、請求項1に記載の方法。
【請求項5】
ビデオ再生を調整するように前記デコーダを作動する前記ステップが、
ビデオフレームが前記ビデオプレーヤーによって提供される時間の値を前記マスタークロックの時間と前記遅延時間との合計に対して比較するステップと、
前記比較に基づき、リスタートするように、又は前記ビデオフレームをリプレイ或いはスキップするように、前記ビデオプレーヤーを作動するステップと、
を含む、請求項1に記載の方法。
【請求項6】
前記時間の値が第1の量の分だけ前記合計より大きい場合、ビデオ提供をリスタートするように前記ビデオプレーヤーを作動するステップ、を含む、請求項5に記載の方法。
【請求項7】
前記時間の値が前記第1の量未満である第2の量の分だけ前記合計より大きい場合、前記ビデオフレームを提供することをスキップするように前記ビデオプレーヤーを作動するステップ、を含む、請求項6に記載の方法。
【請求項8】
前記時間の値が前記第1の量未満である第3の量の分だけ前記合計より少ない場合、前記ビデオフレームを提供することを繰り返すように前記ビデオプレーヤーを作動するステップ、を含む、請求項6に記載の方法。
【請求項9】
オーディオの再生を調整するように前記デコーダを作動する前記ステップが、
前記オーディオプレーヤーによってオーディオの瞬間が提供される時間の値を前記マスタークロックの時間と前記遅延時間との合計に対して比較するステップと、
前記比較に基づき、再度開始するように、前記オーディオにおいて省略して先に進むように、又はある期間オーディオを提供することを抑制するように前記オーディオプレーヤーを作動するステップと、
を含む、請求項1に記載の方法。
【請求項10】
前記時間の値が第1の量の分だけ前記合計より大きい場合、オーディオ提供をリスタートするように前記オーディオプレーヤーを作動するステップ、を含む、請求項9に記載の方法。
【請求項11】
前記時間の値が前記第1の量未満である第2の量の分だけ前記合計より大きい場合、前記の期間オーディオを提供することを抑制するように前記オーディオプレーヤーを作動するステップ、を含む、請求項10に記載の方法。
【請求項12】
前記時間の値が前記第1の量未満である第3の量の分だけ前記合計より少ない場合、前記オーディオにおいて省略して先に進むように前記オーディオプレーヤーを作動するステップ、を含む、請求項10に記載の方法。
【請求項13】
前記デジタルビデオ及びオーディオデータを提供するソースに関連付けられたクロックに対して、前記ビデオプレーヤーに関連付けられた再生クロック及び前記オーディオプレーヤーに関連付けられた再生クロックの少なくとも1つの周波数を調整するステップ
を更に含む、請求項1に記載の方法。
【請求項14】
前記システムが複数のビデオ及び複数のオーディオプレーヤーを備え、
前記提供するステップが、前記デジタルビデオ及びオーディオデータを前記ビデオ及びオーディオプレーヤーに関連付けられた複数のデコーダに提供し、
前記作動するステップが、前記マスタークロックに基づき該ローカルクロックを調整し、前記マスタークロックに対する前記遅延時間を設定し、前記遅延に基づきビデオ及びオーディオ再生を調整して、オーディオ及びビデオプレーヤーのそれぞれによる前記オーディオ及びビデオデータの再生を実質的に同期するように前記デコーダのそれぞれを作動する、
請求項1に記載の方法。
【請求項15】
オーディオ及びビデオプレーヤーに関連付けられ、デジタルビデオ及びオーディオデータを提供するデジタルシステムにおいて使用されるためのデコーダであって、
前記デジタルビデオ及びオーディオデータを受信するためのネットワークインターフェースと、
ローカルクロックと、
前記受信されたビデオ及びオーディオデータを復号するためのビデオ及びオーディオデコーダと、
前記関連付けられたビデオ及びオーディオプレーヤーを駆動するためのビデオ及びオーディオドライバと、
前記データのコンテンツから導出されるマスタークロックに基づき前記ローカルクロックを調整し、前記マスタークロックに対する遅延時間を設定し、前記遅延に基づきビデオ及びオーディオ再生を調整して、前記オーディオ及びビデオプレーヤーによる前記オーディオ及びビデオデータの再生を実質的に同期するように作動する制御装置と、
を含むデコーダ。
【請求項16】
プログラムクロックリファレンス(PCR)の受信により、前記ローカルクロックを初期化することによって前記ローカルクロックを調整し、前記インターフェースによる次のPCRの受信により、プレゼンテーションタイムスタンプ(PTS)に対する前記ローカルクロックの値に基づき前記ローカルクロックを調整するように前記制御装置が作動する、
請求項15に記載のデコーダ。
【請求項17】
前記遅延時間を確立すること、及び前記オーディオ及びビデオデータの受信により、前記オーディオ及びビデオプレーヤーが、前記遅延時間と等しい時間の間、前記オーディオ及びビデオデータを再生することを抑制するように、前記オーディオ及びビデオプレーヤーの再生時間を設定するように前記オーディオ及びビデオドライバを制御することによって、前記マスタークロックに関するビデオ及びオーディオ再生を調整するように前記制御装置が作動する、
請求項15に記載のデコーダ。
【請求項18】
ビデオフレームが前記ビデオプレーヤーによって提供される時間の値を前記マスタークロックの時間と前記遅延時間との合計に対して比較すること、及び前記比較に基づき、リスタートするように、又は前記ビデオフレームをリプレイ或いはスキップするように、前記ビデオプレーヤーを作動するように前記ビデオドライバを制御することによって、ビデオ再生を調整するように前記制御装置が作動する、
請求項15に記載のデコーダ。
【請求項19】
前記オーディオプレーヤーによってオーディオの瞬間が提供される時間の値を前記マスタークロックの時間と前記遅延時間との合計に対して比較すること、及び前記比較に基づき、再度開始するように、前記オーディオにおいて省略して先に進むように、又はある期間オーディオを提供することを抑制するように前記オーディオプレーヤーを作動するように前記オーディオドライバを制御することによって、オーディオ再生を調整するように前記制御装置が作動する、
請求項15に記載のデコーダ。
【請求項20】
前記デジタルビデオ及びオーディオデータを提供するソースに関連付けられたクロックに対して、前記ビデオプレーヤーに関連付けられた再生クロック、及び前記オーディオプレーヤーに関連付けられた再生クロックの少なくとも1つの周波数を調整するように前記制御装置が作動する、
請求項15に記載のデコーダ。
【図1A】
【図1B】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図1B】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【公表番号】特表2010−518692(P2010−518692A)
【公表日】平成22年5月27日(2010.5.27)
【国際特許分類】
【出願番号】特願2009−548222(P2009−548222)
【出願日】平成19年11月7日(2007.11.7)
【国際出願番号】PCT/US2007/023475
【国際公開番号】WO2008/097291
【国際公開日】平成20年8月14日(2008.8.14)
【出願人】(503202756)タレス アビオニクス インコーポレイテッド (20)
【Fターム(参考)】
【公表日】平成22年5月27日(2010.5.27)
【国際特許分類】
【出願日】平成19年11月7日(2007.11.7)
【国際出願番号】PCT/US2007/023475
【国際公開番号】WO2008/097291
【国際公開日】平成20年8月14日(2008.8.14)
【出願人】(503202756)タレス アビオニクス インコーポレイテッド (20)
【Fターム(参考)】
[ Back to top ]