ビデオ処理及びアプリケーションのシステム、方法、及び装置
モバイルデバイスへの配信のためのビデオデータを提供して処理するシステム、方法、及び装置。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、概括的には、ビデオ処理及びビデオアプリケーションのシステム、装置、及び方法に関するものである。
【0002】
本出願は、“Video Processing and Applications Server”と題し、2006年6月16日に出願した米国特許出願番号第60/814,383号明細書の優先権を主張するものである。
【0003】
本出願は、本発明の開示と同一の譲受人を有する、“MOBILE IMAGING APPLICATION,DEVICE ARCHITECTURE,SERVICE PLATFORM ARCHITECTURE AND SERVICES”と題し、2006年2月16日に出願した同時係属の米国特許出願番号第11/357,661号に関するものである。その出願の出願人は本出願の出願人でもある。
【0004】
本出願は、本発明の開示と同一の譲受人を有する、“COMPRESSION RATE CONTROL SYSTEM AND METHOD WITH VARIABLE SUBBAND PROCESSING”と題し、2005年9月20日に出願した同時係属の米国特許出願番号第11/232,165号に関するものである。その出願の出願人は本出願の出願人でもある。
【0005】
本出願は更に、本発明の開示と同一の譲受人を有する、“MULTIPLE TECHNIQUE ENTROPY CODING SYSTEM AND METHOD”と題し、2005年9月21日に出願した同時係属の米国特許出願番号第11/232,726号に関するものである。その出願の出願人は本出願の出願人でもある。
【0006】
本出願は更に、本発明の開示と同一の譲受人を有する、“PERMUTATION PROCRASTINATION”と題し、2005年9月21日に出願した同時係属の米国特許出願番号第11/232,725号に関するものである。
【0007】
本出願は更に、本発明の開示と同一の譲受人を有する、“MOBILE IMAGING APPLICATION, DEVICE ARCHITECTURE, SERVICE PLATFORM ARCHITECTURE”と題し、2005年10月12日に出願した同時係属の米国特許出願番号第11/249,561号に関するものである。その出願の出願人は本出願の出願人でもある。
【0008】
本出願は、本発明の開示と同一の譲受人を有する、“VIDEO MONITORING APPLICATION, DEVICE ARCHITECTURE,AND SYSTEM ARCHITECTURE”と題し、2005年10月13日に出願した同時係属の米国特許出願番号第11/250,797号に関するものである。その出願の出願人は本出願の出願人でもある。
【0009】
特許、特許出願及び様々な出版物を含む可能性のある幾つかの引用文献を、本発開示の説明において引用して説明する。これらの引用文献の引用及び/又は説明は、単に本開示の記載を明確にするために提供されたものであり、引用文献が以下に説明する本開示に対する「先行技術」であることを認めるものではない。
【背景技術】
【0010】
直接デジタル化された画像及びビデオはリソース集約に利用でき、画像及びビデオは、保存、送信、及び他の目的のために圧縮可能である。例えば、圧縮は3つの段、即ち変換、量子化、そしてエントロピー符号化によって特徴づけることができる。ほとんどの画像及びビデオ圧縮器は、変更してこの基本アーキテクチャを共有している。
【0011】
ビデオ圧縮器における変換段において、画像又は連続画像における局所的な類似性及びパターンを利用して、元画像のエネルギー又は情報をできるだけコンパクトな形式に圧縮することができる。圧縮器は、典型的には入力毎に異なる圧縮レベルで圧縮する。例えば、圧縮器は「典型的な」入力に対して良好に機能し、「ランダムな」又は「異常な」入力に対する圧縮の失敗を無視するように設計できる。多くの画像圧縮、及びMPEG−2及びMPEG−4などのビデオ圧縮法は、変換段として離散コサイン変換(DCT)を使用している。
【0012】
量子化は、変換段の後に情報を切り捨てる可能性があり、従って、時には再構成されて解凍された画像は元画像を正確に再現しない可能性がある。エントロピー符号化は、概括的にはロスレスな処理であり、即ちこの処理は、量子化後に残された情報を取得し、復号器において再現可能なように符号化する。従ってどの情報を切り捨てるべきかについての設計判断は、次のエントロピー符号化段によって影響されないことになる。
【0013】
DCTベースのビデオ圧縮/解凍(コーデック)技術は、場合によっては、例えばスタジオ作成のビデオコンテンツの放送及びストリーミングのために発展してきたが、例えばコンピュータワークステーション上で高い複雑性を有する符号器を動作させることができるスタジオ環境におけるビデオコンテンツの符号化に関係している。このような計算的に複雑な符号器は、民生用再生デバイスにおいて計算的に単純で比較的安価な復号器(プレーヤ)を導入することを可能にする。
【0014】
しかし図1に示すように、符号器/復号器技術における非対称性のために、再生のみならず、自身においてビデオメッセージのキャプチャと圧縮が同時になされるテレビ電話などのモバイルマルチメディアデバイスにおいて、利用可能なプロセッサ能力を使用した完全なテレビサイズのビデオコンテンツの圧縮をサポートすることが困難になる可能性がある。その結果、図2に示すように、モバイルデバイスにおけるビデオは、他の民生用製品と比較して非常に小さなサイズ及び非常に低いフレームレートに限定されうる。
【0015】
DCTベースの技術を使用したビデオ編集及び他のビデオ処理アプリケーションは、完全に又は部分的に復号化されたビデオを編集、又は他の処理をして、出力及び後の販売のために、その編集又は他の処理がなされたビデオデータの圧縮を行う前に、圧縮ビデオ入力データの完全又は部分的な復号化が必要になる可能性がある。従って、DCTベースのビデオ編集及び他の処理アプリケーションの計算の複雑性は、汎用のパーソナルコンピュータ(PC)の中央演算処理装置(CPU)に基づく多くの標準サーバコンピュータの計算能力を超える可能性がある。
【0016】
むしろ、ビデオ編集及び他の処理アプリケーションは典型的には特有のビデオアプリケーションサーバコンピュータを利用し、ビデオ処理はデジタル信号プロセッサ(DSP)、特定用途集積回路(ASIC)、マルチメディア処理器、及び再構成可能処理デバイス(RPD)を含むがそれらのデバイスに限定されない、特有のデータ処理素子の組み合わせを使用して実行できる。このような特有のビデオデータ処理素子の数、コスト、及び消費電力は、汎用PCのCPUに基づく標準サーバコンピュータと比較して、非常に高いコスト、消費電力へとつながる。しかし、新興のモバイルビデオサービスの商用展開のためには、このようなビデオ編集及び他の処理を多数のサービス加入者に同時に提供し、対応するビデオアプリケーションサーバを展開して、維持するコストをできるだけ低くすることが必要になる。
【発明の概要】
【0017】
本開示の様々な実施例は、例えば以下のようなものを1つ以上を含む、様々なビデオ処理及び他の処理を含むことができる。
・圧縮、
・完全な又は部分的な解凍、
・切り取り、トリミング、遷移効果の挿入、再配置、露出調整、バックライトの補正、カメラ撮像素子(典型的にはCMOS,CCD又は類似の素子)の限定された光感度の補正、カメラモジュールのレンズに由来する歪みの補正、ビデオ記録中に発生するカメラジッタ、画像背景の変更、及び赤目補正を含むがそれらに限定されない、完全に又は部分的に解凍されたビデオの編集、
・本開示のビデオフォーマットと、他の標準規格ベース、及び/又は適切なビデオフォーマットとの間の変換を含むトランスコーディング、
・ビデオ圧縮レベル、ビットレート、フレームレート、画像サイズ、及び異なるデバイスと画面サイズとの間の再生互換性のための圧縮フォーマットを含む変換、
・ビデオ検索アプリケーションのためのメタデータのタグ化及び埋め込み、
・安全性及び権利管理のための電子透かし、
・(データベースにおける場合も含む)ビデオ保存、検索、読み出し、
・ミュージックビート、ビデオカット、場面変更、視点変更、露出及びコントラスト特性、動作レート、動作の方向及び連続性、照明効果(太陽対蛍光など)、顔、赤目、ストックシーン及び電子透かしを含む画像及びビデオコンテンツの認識、測定、及び分類。
【0018】
本開示の幾つかの実施例において、ビデオアプリケーションサーバ上で動作し、上記のビデオ処理機能の様々な組み合わせをサポートするように設計されたビデオアプリケーションは、以下の1つ以上を含むことができるがそれらに限定されない。
・圧縮、
・解凍、
・切り取り、トリミング、遷移効果の挿入、露出の調整、バックライトの補正、赤目補正、音声トラックのビートの同期、ストックタイトル及びストックシーンの挿入、テンプレートの適用、カメラ動作の修正、合成の改良、
・本開示のビデオフォーマットと、他の広く展開された標準規格に基づく適切なビデオフォーマットとの間の変換を含むトランスコーディング、
・ビデオ圧縮レベル、ビットレート、フレームレート、画像サイズ、及び異なるデバイスと画面サイズとの間の再生互換性のための圧縮フォーマットの改良を含む変換、
・ビデオ検索索引付加のためのメタデータのタグ化及び埋め込み、又は他の編集アプリケーション、
・(データベースにおいても含む)ビデオ記録、検索、読み出し、
・デジタル著作権管理(DRM)、
・フィードを介してユーザ作成ビデオを他の受信者に配信するためのRSS(本当に単純なシンジケーション)アプリケーション、
・画像及びビデオコンテンツの認識、評価、及び分類。
【0019】
幾つかの実施例において、ビデオアプリケーションサーバ上で動作して上記のビデオ処理機能の様々な組み合わせをサポートする、上記のビデオアプリケーションの組み合わせによってサポートされるビデオサービスは、以下の1つ以上を含むことができるがそれらに限定されない。
・ビデオメッセージング、共有及びブロギング:非同時の、つまりRSSフィードによる場合も含めた記録と転送、
・ビデオIMS:IPネットワークを超えた瞬間メッセージングサービス、つまり同時のビデオ送信及びストリーミング、
・ビデオ通話:IP、TM又は回路交換方式のネットワークを超えた同時通話、
・ビデオメール:音声メールに類似しており、通話された電話の相手が電話に応答しない場合にビデオメールを残す、
・ビデオ会議、例えば複数のユーザ間のピア・ツー・ピアネットワーク、
・携帯電話上でキャプチャしたビデオクリップの携帯電話又はネットワーク又はウェブベースのサーバ上での手動又は自動編集、
・オンラインビデオ保存、アルバム、ブログなど、
・キャプチャ/編集/保存したビデオクリップ及びアルバムの共有、
・アクセス管理、即ち誰がいつアクセスしたかを明確にし、誰が出現したか又は素材を要求したかを見つける、
・タグ化と、データベースの保存、検索、及び読み出しと、プレビューと、ダウンロード(ソフトコピー)と、ビデオのハードコピー(DVD)の注文
・以下を含む個人のマルチメディア市場サービス、即ち、
○「ソフト」コピー(ダウンロード)又は「ハード」コピー(DVD)のプレビュー、共有、購入、販売、
○索引付加、RSSフィードのためのメディア「タグ化」、
○既存のオンライン市場(例えばイーベイ、グーグル、ヤフー、マイクロソフト、他のポータル)へのインターフェース、
・友人及び公開ソースから購入した素材との比較、対比、並置。
【0020】
幾つかの実施例において、ビデオアプリケーションサーバ上で動作し、上記のビデオ処理機能の様々な組み合わせをサポートする上記のビデオアプリケーションの組み合わせによってサポートされた、上で特定された1つ以上のビデオサービスを展開するためのビデオシステムは、以下の1つ以上を含むことができるがそれらに限定されない。
・回路交換方式のモバイル携帯ネットワーク、固定無線ネットワーク、地上通信線電話ネットワーク、地上ケーブルネットワーク、地上セキュリティネットワーク、又は衛星ネットワーク、
・IPベースのモバイル携帯ネットワーク、モバイルメッシュネットワーク、モバイルアドホックネットワーク、固定無線ネットワーク、地上電話ネットワーク、地上データネットワーク、又は衛星ネットワーク、
・集中型の固定/モバイル無線ネットワーク、
・他の無線又は有線データネットワーク、即ちATMなど。
【0021】
本開示の幾つかの実施例は、以下の1つ以上に対する、方法、デバイス、アプリケーション、システム及びサービスを含むことができる。即ち、
ビデオ画像記録、送信、保存、編集、処理、トランスコーディング、検索、読み出し、共有、配信、及びマーケティング、モバイルデバイス及びビデオ処理/アプリケーションサーバ、対応するモバイルデバイス及びビデオ処理/アプリケーションサーバアーキテクチャ、サービスプラットフォームアーキテクチャ、及び上記に関するネットワーク及び他のシステムサービスのみならず、無線及び有線ネットワーク及びシステムを越えて静止画及びビデオ画像を送信、保存、編集、処理、トランスコーディング、検索、読み出し、共有、配信及びマーケティングし、それらを表示可能デバイス上で視聴する方法及びサービス。
【0022】
本開示の実施例は、画像記録及び処理技術、及びモバイルデバイス、ビデオ処理/アプリケーションサーバのアーキテクチャにおける対応する改良、及びサービスプラットフォームを更に具える。本開示は更に、モバイルビデオサービスの端末相互間機能及び性能を具える。これらは、モバイルデバイス中の撮像装置モジュールにおいてキャプチャされた手ぶれカメラ動き補償情報などの情報を、次の携帯電話デバイス、モバイルネットワークにおけるビデオ処理アプリケーションサーバ、及び/又は受信ビデオ再生デバイスにおけるビデオコーデックの1つ以上に渡すことによって可能になる。
【0023】
次にこれらの情報は、例えば、別の方法で入力ビデオデータからビデオコーデックによって抽出できる追加の動き補償情報を与えることによって、ビデオコーデックの計算要件を更に低減するために使用できる。これらの情報は、モバイルネットワークにおいてビデオ処理アプリケーションサーバにおける次に実行される編集及び更にビデオ処理中に、モバイルデバイスにおいてビデオキャプチャ中に発生するカメラ動作を更に補償するためにも使用できる。これらの情報は、モバイルネットワークにおけるビデオ処理アプリケーションサーバ、及び/又は受信ビデオ再生デバイスにおいて次に実行される編集及び更にビデオ処理中に、モバイルデバイスのカメラモジュール中でのビデオ処理を介して以前に除去された、カメラ動作の効果を再形成するために使用することもできる。
【0024】
本開示の態様は更に、以下の1つ以上を具えることができる。
1.ビデオ又は静止画を圧縮及び/又は解凍するためのソフトウェアビデオコーデック/テレビ電話デバイスアプリケーション、
2.圧縮、解凍、編集、トランスコーディング、検索アプリケーションのためのタグ化及び組み込み、保存、データベース化、検索、読み出し、及び配信するためのソフトウェアビデオ処理アプリケーション、
3.ソフトウェア処理アプリケーションとモバイル携帯電話のためのソフトウェアビデオコーデック/テレビ電話アプリケーションと連動してビデオメッセージを展開してサービスを共有するための、モバイルマルチメディアサービス(MMS)インフラサーバコンピュータ及びアプリケーションを含む、インフラ製品、方法及び処理、
4.モバイルビデオメッセージング、共有、及びブロギングと、ビデオストリーミング及びビデオ通話と、モバイルデバイス上におけるモバイルユーザによって作成されたビデオコンテンツの作成及びマーケティングをサポートするパーソナルメディアプロデューササービスとを含む、革新的なMMSサービスを構築、有効化、販売、及び動作させるための方法、プロセス、及びビジネスプロセス。
【図面の簡単な説明】
【0025】
【図1】一実施例によるビデオコーデックの計算要件を示している。
【図2】一実施例によるモバイルデバイス及びサービスにおけるビデオ画像サイズの制限を示している。
【図3】一実施例によるモバイル画像サービスプラットフォームアーキテクチャを示している。
【図4】一実施例によるモバイル画像携帯電話アーキテクチャを示している。
【図5】一実施例によるビデオ処理及びアプリケーションサーバ機能のブロック線図を示している。
【図6】一実施例によるビデオ処理及びアプリケーションサーバアーキテクチャを示している。
【図7】一実施例による流通したビデオ編集システムアーキテクチャを示している。
【図8】一実施例によるビデオコーデック技術の比較を示している。
【図9】一実施例による、低減されたビデオコーデックの計算要件を示している。
【図10】一実施例による改良されたモバイル画像携帯電話構造を示している。
【図11】一実施例による改良されたビデオ処理及びアプリケーションサーバアーキテクチャを示している。
【図12】一実施例による代替の改良されたビデオ処理及びアプリケーションサーバアーキテクチャを示している。
【図13】一実施例による改良されたビデオ処理及びアプリケーションサーバアーキテクチャの全てがソフトウェアによる実装を示している。
【図14】一実施例による改良されたビデオ処理及びアプリケーションサーバアーキテクチャの全てがハードウェアによる実装を示している。
【図15】一実施例による改良されたビデオ処理及びアプリケーションサーバアーキテクチャのソフトウェアとハードウェアの複合型実装を示している。
【図16】一実施例による改良された流通したビデオ編集システムアーキテクチャを示している。
【図17】一実施例による改良されたモバイル画像サービスプラットフォームアーキテクチャを示している。
【図18】一実施例による、トランスコーディングの必要性を排除して、既存のビデオ処理/アプリケーションサーバがビデオフォーマットを処理可能とする自己復号化ビデオMMSを示している。
【図19】一実施例による展開されたビデオ処理及びアプリケーションサーバのOTN更新を示している。
【図20】一実施例による推定されるメディア生成者サービスを展開するのに必要なビデオ編集サーバの複雑性、コスト及び数を示している。
【図21】一実施例による改良されたビデオメッセージング/共有/通話プラットフォームの機能要素を示している。
【図22】一実施例によるより高品質なマルチメディア携帯電話及びサービスのより高速、低コストの発展及び展開を示している。
【図23】一実施例による広帯域マルチメディアデバイス及びサービスに対するアプリケーションを示している。
【図24a】ユーザ及びシステム管理者と相互作用するビデオ編集システムの一実施例を示している。
【図24b】SSPを介してTIPと通信するためのVESクライアントの一実施例を示している。
【図25】SSPを介してTIPと通信するためのVESクライアントの工程の一実施例を示している。
【図26】SSPを介してTIPを通信するためのVESクライアントの別の工程の一実施例を示している。
【図27】SSPを介してデータベースを通信するVESクライアントの工程の一実施例を示している。
【図28】ウェブサイトと通信するための受信PCの工程の一実施例を示している。
【図29】テンプレートエディタの工程の一実施例を示している。
【図30】テンプレートエディタの別の工程の一実施例を示している。
【図31】スクリーンショットの一実施例を示している。
【図32】スクリーンショットの一実施例を示している。
【図33a】スクリーンショットの一実施例を示している。
【図33b】スクリーンショットの一実施例を示している。
【図34】スクリーンショットの一実施例を示している。
【図35】スクリーンショットの一実施例を示している。
【図36】スクリーンショットの一実施例を示している。
【図37】スクリーンショットの一実施例を示している。
【図38】スクリーンショットの一実施例を示している。
【図39】スクリーンショットの一実施例を示している。
【図40】スクリーンショットの一実施例を示している。
【図41】スクリーンショットの一実施例を示している。
【図42】スクリーンショットの一実施例を示している。
【図43】スクリーンショットの一実施例を示している。
【図44】スクリーンショットの一実施例を示している。
【図45】スクリーンショットの一実施例を示している。
【図46】スクリーンショットの一実施例を示している。
【図47】スクリーンショットの一実施例を示している。
【図48】スクリーンショットの一実施例を示している。
【図49】スクリーンショットの一実施例を示している。
【図50】スクリーンショットの一実施例を示している。
【図51】スクリーンショットの一実施例を示している。
【図52】スクリーンショットの一実施例を示している。
【図53】スクリーンショットの一実施例を示している。
【図54】スクリーンショットの一実施例を示している。
【図55】スクリーンショットの一実施例を示している。
【0026】
以下の説明及び図は概略を示すものであり、それらに限定するものとして解釈されるべきではない。数値的に明確な詳細は、本開示の完全な理解を提供するために記載されている。しかし、場合によっては記載を曖昧にすることを防止するために、既知又は一般的な詳細は記載されていない。本開示における1つの実施例への1つの参照は、同一の実施例への複数の参照とすることができるが、必ずしもそのように解する必要はなく、このような複数の参照は、少なくとも1つの参照を意味している。
【0027】
この明細書における「一実施例」への参照は、実施例に関連して記載された特徴、構造又は特性が、本開示の少なくとも一実施例において含まれていることを意味している。明細書における様々な位置での「一実施例」という語句の出現は、必ずしも全てが同一の実施例を参照しているわけでも、他の実施例を単に除外する別々の又は代替の実施例であるわけでもない。更に、特定の実施例によってのみ示すことができる様々な特徴が記載されている。同様に、特定の実施例にのみ必要となりうる様々な要件が記載されている。
【0028】
画像処理
ウェーブレット変換は、1次元又は2次元以上においてウェーブレットフィルタペアをデータセットに対して繰り返し適用するステップを含むことができる。静止画圧縮のために、2−Dウェーブレット変換(水平及び垂直)を利用できる。本開示によるビデオコーデックは、3−Dウェーブレット変換(水平、垂直、及び時間)を使用できる。単一のコーデックにおいて静止画とビデオ画像の処理に対する同時サポートを可能にするのみならず、モバイルデバイスにおける計算の複雑性及び消費電力をDCTベースコーデックに必要なものより大きく低減するために、対称3−Dウェーブレットベースのビデオ圧縮/解凍(コーデック)デバイスを使用できる。
【0029】
単一のコーデックにおける静止画とビデオ画像に対する同時サポートは、別々のMPEG(ビデオ)及びJPEG(静止画)コーデックの必要性を除去又は低減させ、あるいは、例えばモーションJPEGコーデックに関して圧縮性能つまり保存効率を著しく向上させることができる。対称3−Dウェーブレットベースのビデオ処理デバイスを使用して、計算の複雑性及び消費電力を低減され、ユーザ作成ビデオのデータベースの保存、検索及び読み出しのみならず、ユーザ作成ビデオの自動又は手動の編集をサポートするように利用されるMMSインフラ装置によってサポート可能な、同時モバイル加入者の数が増加する。
【0030】
一実施例の態様は、モバイルビデオメッセージング、共有、及びブロギングと、ビデオストリーミング及びビデオ通話と、モバイルデバイス上においてモバイルユーザによって作成されたビデオコンテンツの作成及びマーケティングとをサポートするパーソナル「メディアプロデューサ」サービスとを含む、新世代の革新的MMSビデオサービスを提供する。本開示の態様によるモバイル画像サービスプラットフォームアーキテクチャの構成要素(図3を参照)は、
・モバイル携帯電話、
・モバイルベースステーション(BTS)、
・ベースステーションコントローラ又はラジオネットワークコントローラ(BSC/RNS)及びモバイルスイッチングセンタ(MSC)、
・ゲートウェイサービスノード(GSN)、
・モバイルマルチメディアサービスコントローラ(MMSC)、
の1つ以上を具えることができる。
【0031】
本発明の開示の態様によるMMSCに含まれる典型的な機能は、
・ビデオゲートウェイ
・電気通信サーバ
・MMSアプリケーションサーバ
・保存サーバ
の1つ以上を具えることができる。
【0032】
本開示の態様によるMMSCにおけるビデオゲートウェイは、撮像サービスプラットフォームによってサポートされる、異なるビデオフォーマット間でトランスコーディングするように機能させることができる。トランスコーディングは、モバイル電話ネットワークにおいて使用される、異なる音声コーデックをサポートするように無線運営者によっても利用され、対応する音声トランスコーダをRNCに統合できる。
【0033】
図3に示すようなアーキテクチャを有するモバイル撮像サービスプラットフォームのアップグレードは、新たな携帯電話を展開及びMMSCビデオゲートウェイに新たなハードウェアの手動による追加を含むことができる。幾つかのモバイルビデオメッセージング及び共有アプリケーションにおいて、トランスコーディングに関するコスト及び複雑性が除去される。本開示の一態様は、送信されたビデオストリームの各々を使用したソフトウェアデコーダを組み込めることであり、共通の携帯電話及びPCビデオプレーヤ上における「自己再生」機能が可能になる。
【0034】
MMSCにおけるMMSアプリケーションサーバは、データベースの保存、検索、及びユーザ作成ビデオの読み出し、及びユーザ作成ビデオの自動又は手動の編集のようなアプリケーションをサポートできる。DCTベースのビデオを使用するこのようなビデオ編集機能及び他の処理アプリケーションの実装に関係する計算の複雑性は、一般的な目的のパーソナルコンピュータ(PC)中央演算処理装置(CPU)に基づく多くの標準サーバコンピュータの計算能力を超える。
【0035】
本開示の態様によれば、将来性のある新たなモバイルビデオサービスの商用展開は、多数の同時サービス受信者に対するビデオ編集及び他の処理の提供、及び対応するビデオアプリケーションサーバの展開及び維持コストを可能な限り低くすることを含むことができる。新たな又は特有のハードウェアが必要な場合には、MMSCインフラのアップグレードにも費用がかかる。携帯電話の自動無線(OTA)ソフトウェアアップグレード、MMSCビデオゲートウェイの無線(OTN)ソフトウェアアップグレード、及び標準PC及びサーバを使用するモバイルビデオアプリケーションのサポートを可能にするために、SWアプリケーション及びサービスプラットフォームが好ましいだろう。
【0036】
本開示の態様は、モバイルデバイスに関連するビデオコンテンツの革新的なキャプチャ、圧縮、送信、編集、保存及び共有に関する新たな方法、サービス及びシステムを具える。本開示の態様は、電気通信会社(無線及び有線プロバイダ双方)及びインターネット、ケーブル、及び固定及びモバイル無線サービスプロバイダを含む他のデータ及びマルチメディア運営者に適用できる。本開示による態様は、よりリッチなコンテンツ、高い帯域幅利用及びユーザ当たりの高い平均収益(ARPU)を提供できる。
【0037】
本開示の態様によるモバイルマルチメディアサービスは、革新的なビデオメッセージング、共有、ブロギング、及び対象の顧客が個人情報に通信することが可能になるパーソナル「メディアプロデューサ」アプリケーションを含む。モバイル画像メッセージング及び共有は、ユーザが送信したいビデオメッセージをキャプチャ(エンコード)して、受信したビデオメッセージを再生(デコード)できるように、モバイル携帯電話に追加のデジタルカメラ機能(静止画)及び/又はテレビ電話機能(ビデオ画像)が必要になる可能性がある。
【0038】
本開示の態様によれば、モバイルデバイスは、統合された民生用マルチメディアエンターテインメントプラットフォームへと発展できる可能性がある。業界における多くの投資は、(ニュースクリップ、スポーツハイライト、及び人気テレビ番組の特別「モビソード」など)再パッケージされた放送テレビプログラミング、及び他の(映画プレビュー及び音楽ビデオなどの)スタジオ作成ビデオコンテンツを、モバイルデバイスに送信して視聴できる技術やプラットフォームに向けられている。この後者の場合において、モバイル加入者はビデオ消費者の新たなクラスとして開拓される。しかしこの後者の場合は、概して大規模な放送企業のサーバにおいて圧縮されたビデオコンテンツを利用する。
【0039】
しかし本開示の態様によれば、世界中のモバイル運営者は、彼らの加入者を単なるメディア消費者ではなく、(本開示の態様によって可能になるように)メディアプロデューサとしてサポートする新たな重要な機会も得る。本開示の態様によって可能になるように、単体のデジタルカメラ及びテレビ電話と同一の品質で、モバイルデバイス上で写真及びビデオをキャプチャして共有できることは、より高速な携帯及び固定無線データネットワークの展開及び集中と共に、これらの新たなサービスに対して技術的に不可欠である。
【0040】
本開示の態様は更に、テレビ電話通話及びビデオメッセージング/共有インフラ装置の双方の開発コスト及び販売価格における著しい低減を可能にし、これは成長した市場及び新興市場双方において、このような新規デバイス及び関連するモバイルマルチメディア/データサービスの大規模な商用採用に対する鍵となりうる。
【0041】
モバイル画像メッセージング/共有サービス及びアプリケーションは、テレビ、パーソナルコンピュータ、デジタルビデオテレビ電話、及びパーソナルメディアプレーヤのような、他のマルチメディアデバイス(図2を参照)において典型的にキャプチャされて表示されるものよりも、非常に小さなサイズで非常に低いフレームレートのビデオ画像のキャプチャ及び送信に限定されうる。本開示の態様によって提供されるように、30fpsのフレームレートにてVGA(又はそれより大きな)ビデオが可能なモバイル画像メッセージングサービス及びアプリケーションであることが好ましい。
【0042】
本開示の態様は、以下の1つ以上を含むことができるソフトウェアモバイル画像アプリケーションサービスプラットフォームを更に具える。
1.展開した携帯電話の自動無線(OTA)ソフトウェアアップグレードのサポート、
2.展開したMMSCの自動ネットワーク越え(OTN)ソフトウェアアップグレードのサポート、
3.標準PC及び標準サーバを使用したモバイルビデオアプリケーション及びサービス展開のサポート、
4.より少数のサーバによる、より多数の同時モバイルビデオサービス加入者のサポートを可能にすること、
5.ネットワークの携帯電話においてビデオトランスコーディングをする必要なく、モバイルビデオアプリケーション及びサービス展開するサポート、
6.デジタルテレビ電話及びテレビのような民生用マルチメディアデバイス上でキャプチャして表示されるのと同様のフルサイズ及びフルフレームレートのビデオ画像をキャプチャして送信することをサポートする、モバイルビデオデバイス、アプリケーション及びサービスを可能にすること、
などである。
【0043】
本開示の態様によるモバイル携帯電話及びMMSサーバアプリケーションのJava実装は、ウイルス、ワーム、及び他の「攻撃」に対する携帯電話/ネットワークの堅強性のために使用でき、一実施例において、モバイルネットワーク運営者が国内の当局者によって要求されるサービスの品質及び信頼性の提供を可能にする。
【0044】
本開示の実施例において、モバイル携帯電話へのデジタルテレビ電話機能の追加は、概括的には、ハードウェア、ソフトウェアにおいて、又はハードウェアとソフトウェアの組み合わせとして、以下の機能の追加に関係している。
・対応するプリアンプ及びアナログ/デジタル(A/D)信号変換回路を有する撮像装置アレイ(典型的にはCOMS又はCCDピクセルのアレイ)
・前処理、符号化/復号化(codec)、後処理などの画像処理機能
・無線又は有線ネットワークに亘る非同時送信又は同時ストリーミングのための処理された画像のバッファリング
・1つ以上の画像表示画面
・内蔵又はリムーバブルメモリ上への局所的な画像の保存
【0045】
MPEG−4のようなDCT変換に基づくコーデックを使用する場合、市販の撮像可能モバイル携帯電話は、テレビ、パーソナルコンピュータ、デジタルビデオテレビ電話及びパーソナルメディアプレーヤのような他のマルチメディアデバイス上で典型的にキャプチャして表示されるものよりも、小さなサイズで低いフレームレートのビデオ画像のキャプチャに限定される。これら後者のデバイスは、典型的にはVGAフォーマット(640x480ピクセル)以上の大きさで、表示速度が30フレーム/秒(fps)にてビデオ画像をキャプチャ/表示するのに対して、市販の撮像可能モバイル携帯電話は、例えばQVGAフォーマット(320x240ピクセル)、QCIFフォーマット(176x144ピクセル)、またはそれより小さなサイズで、例えば15fps以下の表示速度にてビデオ画像をキャプチャすることに限定されうる(例えば図2を参照)。
【0046】
この低減されたビデオキャプチャ能力は、典型的には、DCT変換を使用したビデオ圧縮/解凍に関連する計算ステップの数、型、及びシーケンスを完了するのに必要な大きな計算要件、プロセッサの消費電力、及びバッファメモリによるものとすることができる。
【0047】
市販のビデオコーデック及びマイクロプロセッサ技術の使用は、VGA(又はそれ以上の)ビデオを30fps以上のフレームレートでキャプチャすることを対象にするモバイル画像携帯電話に対して、非常に複雑で電力を必要とする高価なアーキテクチャへとつながる。これらの携帯電話アーキテクチャは、大きなバッファメモリブロック(典型的には1メガバイト以上のメモリ容量)と、縮小命令セットコンピュータ(RISC)プロセッサ、デジタルシグナルプロセッサ(DSP)、特定用途集積回路(ASIC)及び再配置可能処理デバイス(RPD)の組み合わせ上で動作するソフトウェアプログラム及びハードウェアアクセラレータの双方の組み合わせを有するコーデックを利用している。
【0048】
これらのコーデック機能は、RISCプロセッサ、DSP、ASICマルチメディアプロセッサ、及びRPDを、別々の集積回路(IC)として使用して実装でき、又はRISCプロセッサ、DSP、ASICマルチメディアプロセッサ、及びシステム・イン・パッケージ(SIP)又はシステム・オン・チップ(SoC)、及びRPDの1つ以上を、組み合わせて一緒に集積させることができる。
【0049】
RISCプロセッサ又はDSP上で動作するコーデック機能は、ソフトウェアルーチンとすることができ、プログラミングエラーを訂正する又は機能をアップグレードするために変更できる利点を有する。所定の複雑で反復的なコーデック機能をソフトウェアで実装する不利点は、結果として得られる全体のプロセッサリソース及び消費電力要件が、典型的にはモバイル通信デバイスにおけるリソースを超えることである。ASIC及びマルチメディアプロセッサ上で動作するコーデック機能は、典型的には複雑で反復的な計算ステップの固定されたハードウェア実装であり、典型的には特にオーダーメイドのハードウェアアクセラレーションの場合、コーデック全体の消費電力を著しく低減できる利点を有する。
【0050】
固定されたハードウェアに所定のコーデック機能を実装する不利点には、長くより高価な設計サイクル、固定されたシリコンデバイス実装においてエラーが発見された場合における高価な製品リコールの危険性と、新たに開発された特性を画像アプリケーションに追加できる場合における展開された製品において固定されたシリコンデバイス機能をアップグレードできないことが含まれる。RPD上で動作するコーデック機能は、典型的には、完成したモバイル画像携帯電話製品において、ハードウェアアクセラレーション及び機能を追加又は変更する能力の双方を利用するルーチンである。
【0051】
上記のアーキテクチャを簡単化し、量産商用展開と同等のコストを可能にするために、全てがソフトウェアのアーキテクチャを有するモバイル画像携帯電話が、VGA(又はそれ以上の)ビデオを30fpsのフレームレートにてキャプチャできるように、複雑性、反復的なコーデック機能を低減又は削除する画像アプリケーションであることが好ましい。
【0052】
マルチメディア携帯電話は、画像及びビデオメッセージング機能だけでなく、様々な追加のマルチメディア機能(音声、音楽、グラフィック)及び2.5G及び3G携帯アクセス、WiBro,HSDPA,WiFi,無線LAN及びBluetoothを含むがそれらに限定されない、様々な固定及びモバイル無線アクセスモードをサポートすることが要求される。新たな収益を創出するサービス及びアプリケーションをより効率的に展開し、コストのかかる商品リコールを防止するために、これらの製品の開発、展開及びサポートに伴う複雑性及びリスクは、多くの機能及びアプリケーションの無線(OTA)配信及び管理を非常に有益にする。
【0053】
携帯電話製造業者、モバイル通信運営者、及び他のMMSサービスプロバイダによる画像アプリケーションの無線配信及び管理を可能にするように、SW(software)撮像アプリケーションであることが好ましい。本発明はこれらの目的を提供する。
【0054】
本発明の態様は、
1.デジタルテレビ電話及びテレビなどの他の民生用マルチメディアデバイス上において、典型的にキャプチャして表示されるものと同様のフルサイズ及びフルフレームレートのビデオ画像を、キャプチャして送信することをサポートする、モバイルビデオデバイス、アプリケーション及びサービスを可能にすること、
2.展開した携帯電話の自動無線(OTA)ソフトウェアアップグレードをサポートすること、
の1つ以上を含む。
【0055】
本開示の態様によれば、モバイル携帯電話アプリケーションのJava実装は、ウイルス、ワーム及び他の「攻撃」に対する携帯電話/ネットワークの堅強性のために使用でき、一実施例において、モバイルネットワーク運営者は、国内の当局者によって要求されるサービスの品質及び信頼性を提供できる。
【0056】
一実施例において、MMSビデオサービスは、モバイルビデオメッセージング、共有及びブロギングと、ビデオストリーミング及びビデオ通話と、モバイルデバイス上でモバイルユーザによって作成されたビデオコンテンツの作成及びマーケティングをサポートするパーソナル「メディアプロデューサ」サービス、自動ビデオ編集、ビデオ「撮影後編集」及びモバイル携帯電話及び/又はMMSCアプリケーションサーバにおいて提供される他のビデオ処理アプリケーションとを含む。しかし、これらの機能の商用展開は、多くの同時サービスユーザに対するビデオ編集及び他の処理を提供し、対応するビデオアプリケーションサーバのコストを可能な限り低くすることを含む。
【0057】
図5は、一実施例によるビデオ処理及びアプリケーションサーバに対する機能ブロック線図を示している。ビデオ入力データは、典型的には圧縮されたフォーマットにあり、ビデオ処理アルゴリズムをビデオ入力データに実装する前に完全に又は部分的に復号できる。処理されたビデオは、出力、及び後の送信及び配信のために再び圧縮できる。ビデオ処理機能は、
・圧縮、
・解凍、
・切り取り及び遷移効果のような一連の編集、及びカラー補正、フェード、及びジッタ除去のような画像コンテンツ編集を含む編集、
・タイトルの追加、又は選択したビデオのカットを作成テンプレートに挿入するような撮影後編集、
・本ウェーブレットフォーマットと他の一般に展開されている標準規格ベースで適切なビデオフォーマットとの間の変換を含むトランスコーディング、
・圧縮レベル、ビットレート、フレームレート、画像サイズ、及び異なる装置及び画像サイズ間の再生互換性のための圧縮フォーマットの変換、
・検索アプリケーションのためのメタデータのタグ化及び組み込み、
・保存(データベース、検索、読み出しにおける場合を含む)、
・来歴、所有権、承認及びライセンス制限の監査を含むコンテンツの管理、
の1つ以上を含むことができる。
【0058】
DCTベースのビデオ編集及び他の処理アプリケーションの計算の複雑性は、汎用のパーソナルコンピュータ(PC)の中央演算処理装置(CPU)に基づくサーバコンピュータの計算能力を超えうる。ある場合には、ビデオ編集及び他の処理アプリケーションは、特有のビデオアプリケーションサーバコンピュータを利用し、ビデオ処理は、デジタルシグナルプロセッサ(DSP)、特定用途集積回路(ASIC)、マルチメディアプロセッサ、及び再構成可能処理デバイス(RPD)を含むがそれらに限定されない、特有のデータ処理素子の組み合わせを使用して実行できる。
【0059】
図6は、一実施例によるDCTベースのビデオ編集及び他の処理アプリケーションの計算要求を提供するために、代表的なビデオ処理及びアプリケーションサーバアーキテクチャを示している。特有ビデオデータ処理素子の数、コスト及び消費電力は、汎用PCのCPUに基づく標準サーバコンピュータと比較して、特有ビデオサーバの高いコスト及び消費電力へとつながる。
【0060】
本開示の態様は、更に以下の特徴の1つ以上を有するシステムを具えることができる。
1.ビデオ符号化、復号化及び編集のための計算の複雑性を低減すること、
2.モバイルビデオアプリケーションが、特有の高価で電力を必要とするDSP又はASIC以外の低コストで低消費電力のPCのCPUで動作することを可能にすること、
3.多数の特有のビデオアプリケーションサーバに代わるより少ない、高価ではないPCベースのサーバを可能にし、ユーザ当たりの展開稼働コストを低減すること、
4.各ビデオアプリケーションサーバによってサポートできる同時モバイルユーザ数の充分な増加を可能にすること、
5.展開したMMSCビデオアプリケーションサーバの自動無線(OTN)ソフトウェアアップグレードをサポートすること、
6.携帯電話又はネットワークにおいてビデオトランスコーディングする必要なしに、モバイルビデオアプリケーション及びサービスの展開をサポートすること、
などである。
【0061】
[ビデオ編集、アーカイビング、及び読み出しシステム]
一実施例において、モバイルビデオメッセージング、共有及びブロギングや、ビデオストリーミング及びビデオ通話や、モバイルデバイス上でモバイルユーザによって作成されたビデオコンテンツの作成及びマーケティングをサポートするパーソナル「メディアプロデューサ」サービスのようなMMSビデオサービスは、モバイル携帯電話及び/又はMMSCアプリケーションサーバにおける自動ビデオ編集、ビデオの「撮影後編集」、及び他のビデオ処理アプリケーションの1つ以上を提供する。
【0062】
ビデオ作成は、リソースが複数のサイトに亘って物理的に分散された分散プロセスである。例えば、放送産業において、放送業者は所定の作品及び作成後段階のものを特有のスタジオ又は間もなく実現する仮想スタジオに外注する。本開示の態様は更に、モバイルパーソナル「メディアプロデューサ」サービスのための分散仮想スタジオアプリケーションの展開を簡単化して加速する実施例を含む。
【0063】
図7は、一実施例による、ビデオアーカイブ及び読み出し機能をサポートする要素を含む、放送アプリケーションのための分散ビデオ編集システムの機能及び要素を示している。これらのシステムは、放送事業者に分散したビデオの作成後編集に対する完全な解決策を提供する目的で設計されており、保存、読み出し及び編集機能を統合している。
【0064】
一実施例において、本システムは、エンドユーザのためのアーカイブサーバ、編集サーバ、カタログサーバ、及び顧客ステーションを具える。本開示の態様は、単なる放送事業サービス以外に、モバイルパーソナル「メディアプロデューサ」サービスをサポートできる類似の仮想分散スタジオシステムの設計及び商用展開を単純化し、加速することを更に具える。
【0065】
一実施例によれば、図7におけるアーカイブサーバは、低及び高ビットレートにてビデオを保存して、ビデオストリーミング及びファイル転送サービスを提供する。カタログサーバは、ビデオクリップのメタデータが保存されて索引付加されているデータベースを管理できる。顧客ステーションは、低ビットレートにて既存の材料を使用したビデオ編集ばかりでなく、ユーザがアーカイブ及び読み出し作業を行うことを可能にする。放送準備が整った最終的なビデオを作成するために、ユーザが作成した編集リストは次に編集サーバによって処理され、対応する高ビットレート素材に適用される。
【0066】
カタログサーバは、メタデータを抽出するために、自動的にビデオアーカイブの新たなクリップの各々の低ビット版を取得し、それを前処理する。場面間の遷移を検出し、動き特性を分析することによって、ビデオクリップをより小さなセグメントに分解できる。各場面に対して、表示目的のために静止画(キーフレーム)を抽出でき、自動画像索引付加手法が可能になる。動きベクトルから、カメラ及びカメラレンズの動き(例えばパン、チルト、ズーム、静止)特性を計算できる。これらの前処理ステップは、解凍せずに低ビットレートストリーム(典型的にはMPEG−1)上で実行される。
【0067】
一実施例によれば、図7におけるアーカイブツールによって、ドキュメントリストがクリップ前処理アルゴリズムの結果を可視化/編集し、文字注釈を入力することを可能にする。
【0068】
グラフィカルユーザインターフェースは、例えば、ジャーナリスト又はプログラムディレクタが、カタログサーバからの利用可能なメタデータを使用して、アーカイブからビデオ素材を読み出すことを可能にする。項目が選択されたら、それらを編集ツールに出力することが可能である。一実施例によれば、図7における検索ツールによって、文字及び視覚情報を使用してデータベースに問い合わせることが可能になる。文字のクエリーは、アーカイブ処理中に入力された所定の領域にアドレスする。視覚的クエリーは、前処理段の間に抽出されたメタデータにアドレスする。ユーザは画像例を特定し、所望のタイプのカメラ動作を規定する。
【0069】
本開示の実施例は、更に以下を含む。
1.一実施例において、ビデオ符号化、復号化に対する計算の複雑性を低減する。
2.一実施例において、ウェーブレット変換領域におけるビデオ編集ステップ又は作業を実行する。その結果、逆ウェーブレット変換及び順方向ウェーブレット変換の計算の双方を節約し、ピクセルデータ値に対する従来の演算よりも少ないデータ項目にアクセスして変更することによって、計算の節約もできる。
3.一実施例において、モバイルビデオアプリケーションが、特有の高価で電力を必要とするDSP又はASIC以外の低コスト、低消費電力PCのCPU上で実行することが可能になる。
4.一実施例において、より少なく、安価なPCベースサーバが多くの特有ビデオアプリケーションサーバに置き換わることができ、その結果、ユーザ当たりの展開及び動作コストを低減する。
5.一実施例において、オンライン編集システムの全機能の同時実行に必要な計算能力を低減し、これらの同時編集機能のソフトウェア実装を可能にする。
6.一実施例において、モバイル携帯電話、パーソナルメディアプレーヤ、ノート型コンピュータ、及びパーソナルコンピュータ上で、SWクライアントによって自動ビデオ編集及び他の処理に対するエンドユーザサポートを可能にする。
7.モバイルデバイス中の撮像モジュールにおいてキャプチャできる手ぶれカメラ動き補償情報などの情報を、携帯電話デバイスの続くビデオコーデック、モバイルネットワークにおけるビデオ処理アプリケーションサーバ、及び/又は検索ビデオ再生装置の1つ以上に送信することによって可能になる、モバイルビデオサービスの端末相互間機能及び性能の更なる改良を可能にする。
【0070】
ビデオ編集サービス、例えば「自動ビデオ編集システム」は、カメラ、撮像素子(典型的には、CMOS、CCD又は類似のデバイス)の限定された低光感度、及び/又はカメラモジュールレンズに由来する歪みを補正又は訂正してビデオ記録中に発生するカメラジッタを補正するように使用することもできる。
【0071】
一実施例において、このような情報は、次に、例えば入力ビデオデータからビデオコーデックによって別の方法で抽出できる追加の動き補償情報を提供することによって、ビデオコーデックの計算要件を更に低減するように使用することもできる。このような情報は、モバイルデバイスにおけるビデオキャプチャ中に、及びモバイルネットワークにおけるビデオ処理アプリケーションサーバ中で次に実行される編集及び更なるビデオ処理中に発生するカメラ動作を更に補償するように使用することもできる。一実施例によれば、このような情報は、モバイルネットワークにおけるビデオ処理アプリケーションサーバ中、及び/又は検索ビデオ再生装置中で次に実行される編集及び更なるビデオ処理中に、モバイルデバイス中のカメラモジュールにおいてビデオ前処理によって以前に除去されたカメラ動き効果を再形成するように使用することもできる。
【0072】
本開示の実施例を使用して、ここでビデオとホームシネマ品質の放送(例えば30fpsでのVGAフルサイズ画像フォーマット)とを結合させるモバイルビデオサービスが市場に投入される。更に、このような多量の使用データの処理は、モバイル携帯電話における同時ビデオキャプチャ(符号化)に利用可能な計算リソース及びバッテリパワーを超える。
【0073】
場合によっては、放送及びストリーミングアプリケーションのためのビデオコンテンツの符号化は、高複雑性符号器がコンピュータワークステーション上で動作可能なスタジオ環境で実行できる。ビデオメッセージは、携帯電話自身において同時にキャプチャされるため、それらは非常に小さなサイズで非常に低いフレームレートに限定される。
【0074】
本開示の実施例は、モバイル携帯電話及びMMSアプリケーションサーバにアプリケーションとして実装できる、より低い複雑性を有する画像アプリケーション(例えばモバイル携帯電話のためのビデオコーデッククライアント、MMSアプリケーションサーバのためのビデオ編集及び処理アプリケーション)を含み、携帯電話アーキテクチャ及びモバイル画像サービスプラットフォームアーキテクチャの複雑性が低減される。
【0075】
本開示の実施例によれば、ビデオコーデックの解決策は、ベースバンドプロセッサ及びビデオアクセラレータのコスト、及びマルチメディア携帯電話における要件を低減又は削除する。OTAダウンロードによる製造後のコーデックをインストールできることと組み合わせて、この全てがソフトウェアによる解決策は、携帯電話開発及びビデオメッセージングサービスアーキテクチャ及び展開の双方の複雑性、リスク、及びコストを著しく低減する。テレビ電話開発時間の低減及び製品プラットフォームの柔軟性の増加は、更なるテレビ電話コストの低減をもたらす。
【0076】
本開示によるソフトウェアビデオトランスコーダ及び編集、保存、検索、読み出しアプリケーションは、このようなアプリケーションを実行するための標準PC及びサーバの使用のみならず、展開されたMMS制御(MMSC)インフラの自動無線(OTN)アップグレードを可能にする。更に、本発明のウェーブレットトランスコーダは、通信事業者に、ウェーブレットビデオフォーマットと他の標準規格ベース及び独自仕様のビデオフォーマットとの間の完全な相互運用性を与える。本発明の実施例は、送信された各々のビデオストリームに組み込まれたソフトウェア復号器を更に具え、共通の携帯電話及びPVビデオプレーヤ上での「自己再生」機能を可能にし、トランスコーディング全体のコスト及び複雑性を除去する。
【0077】
一実施例において、本ビデオプラットフォームによって新たなMMSサービスの迅速な展開が可能になる。本開示の幾つかの実施例は、他の既存の技術では利用不可能な処理速度及びビデオ作成精度の活用もしている。このような新たなMMSサービスは、それ自身が本発明の態様である。
【0078】
本開示のウェーブレットコーデックは、静止画及びビデオの双方を効率的に処理できる点で唯一でもあり、従って、別々のMPEG及びJPEGコーデックを、モバイルピクチャーメール及びビデオメッセージングサービスの双方を同時にサポート可能な、単一のより低コスト及びより低消費電力の解決策で置き換えられる。本開示の実施例は、手ぶれカメラ動き補償情報のような情報を、携帯電話デバイスにおける次のビデオコーデック、モバイルネットワークにおけるビデオ処理アプリケーションサーバ、及び/又は読み出しビデオ再生デバイスと共有することによって、モバイルビデオサービスの端末相互間機能及び性能を改良することを更に含む。
【0079】
[改良されたウェーブレットベースの画像処理]
本開示の態様は、ビデオ圧縮/解凍(コーデック)デバイスにおいて、例えばDCTベースのコーデックよりも計算の複雑性を極めて小さくする3−Dウェーブレット変換を更に利用している。
【0080】
本発明によれば、図8は、従来のDCT符号器技術と本開示の代表的な技術の相対的な計算要件の比較を提供している。ウェーブレット変換段のアプリケーションもまた、計算の複雑性を大きく低減させた量子化及びエントロピー符号化段の設計を可能にする。
【0081】
一実施例によれば、図9は、本発明の態様によって可能になるビデオコーデックの計算要件の低減を示している。
【0082】
幾つかの実施例において、ウェーブレットコーデック(例えば3−Dウェーブレットコーデック)は、モバイル画像アプリケーション、デバイス、及びサービスに対して、以下の1つ以上を更に具えることができる。
・対称的な低複雑性ビデオ符号化及び復号化、
・ソフトウェア及びハードウェアコーデック実装に対するより低いプロセッサ能力要件、
・ネイティブコード及びJavaアプリケーションの双方として、既存の市販モバイル携帯電話と互換性があるプロセッサ要件を有する30fps(又はそれ以上の)フレームレートでのVGAビデオのソフトウェア符号化及び復号化、
・SoC集積のためのより低いゲートカウントASICコア、
・より低いバッファメモリ要件、
・単一のコーデックによる静止画(JPEG)及びビデオ(MPEG)の双方のサポート、
・より短い画像グループ(GOP,Group of pictures)による簡単化されたビデオ編集(切り取り、挿入、テキストのオーバーレイ)、
・より短い画像グループによる音声コーデックとの簡単化された同期、
・より短い画像グループによる向上したビデオストリーミングに対する小さな待機時間、
・適応型レート制御、マルチキャスティング、及びジョイントソースチャネル符号化に対する堅強な拡張性、
・既存のHDTVビデオフォーマットに対する複雑性の低い性能拡張、
・一般的な携帯電話及びPCビデオプレーヤと互換性を有する「自己再生」ビデオメッセージを可能にするように各々の送信されたビデオストリームに組み込むことができるコンパクトなソフトウェアデコーダ(40kB以下)、
などである。
【0083】
幾つかの実施例において、ウェーブレット変換のアプリケーションは短い2進整数フィルタを利用する。例えば、Haarの2〜6及び5〜3のウェーブレット及びそれらを変更したものを使用できる。
【0084】
一実施例において、リフティング手法計算アルゴリズムを使用できる。例えば、これらのフィルタはリフティング手法を使用して計算され、面内計算を可能にする。これはレジスタ及び一時的なRAM記憶領域の使用を減少させ、キャッシュの高効率使用のために局所的な参照を維持している。
【0085】
一実施例において、カスタマイズしたピラミッド構造を有するピラミッド形式のウェーブレット変換を使用できる。例えば、本開示の幾つかの実施例は、以前のウェーブレットレベルに由来するデータの半分に対して、ウェーブレット変換シーケンスの各レベルを計算するステップを更に含み、全体の計算をこれらのレベルの数からほぼ無関係となるようにする。一実施例において、このピラミッド構造は、上記のリフティング手法を利用して、レジスタ利用及びキャッシュメモリ帯域幅を更に節約するようにカスタマイズされる。
【0086】
一実施例において、ブロック構造を利用できる。例えば、本開示は画像を矩形ブロックに分解して各々のブロックを互いに別々に処理し、これによりメモリ参照を局所的に維持してプロセッサのキャッシュに残っているデータを使用して変換ピラミッドの全体を扱うことができるようにすることで、ほとんどのプロセッサ内でかなりの量のデータ移動を節約できる。本発明のブロック構造は、信号フローにおいて大きな中間記憶容量の要件を防止できるため、ハードウェアの実施例において有益となりうる。
【0087】
一実施例において、ブロック境界フィルタを使用できる。即ち本発明は、米国特許出願第10/418,363号明細書にて説明されている、各ブロックの境界にて明瞭なアーチファクトを防止する改良されたフィルタ計算を使用する。
【0088】
一実施例において、例えば、米国特許出願第10/447,514号明細書で説明されている、1つのGOPに対して単一の色差領域を使用して、色差一時除去を使用できる。
【0089】
一実施例において、3−Dウェーブレットを使用する一時的圧縮を使用できる。即ち、代わりに本開示の所定の実施例は、領域間の一時的ウェーブレット変換を計算する。これは計算コストがずっと低い。リフティング手法を一形態において使用した短い整数フィルタも使用する。
【0090】
一実施例において、動的量子化アルゴリズムを使用できる。即ち、本開示の所定の実施例においては、圧縮過程の量子化ステップは、係数位置の範囲に亘って一様にバイナリシフト演算を使用することによって達成される。
【0091】
一実施例において、杭打ち(piling)アルゴリズムを使用できる。例えば、本開示の幾つかの実施例において、次のエントロピー符号器がラン・オブ・ゼロ(run−of−zero)変換を行うことによって取り扱われるデータ量が低減される。所定の実施例において、米国特許出願第10/447,455号明細書において開示されており、並列処理アーキテクチャ上でゼロの続きを計数するために、その方法及び開示を利用している。
【0092】
一実施例において、サイクル効率のよいエントロピー符号化を使用できる。例えば、圧縮過程のエントロピー符号化ステップは、従来の表参照(table lookup)と入力符号に対する直接計算を組み合わせる技術とを使用して達成できる。符号の分布は特徴化されているため、ライス−ゴロム又は指数ゴロム又は2進単調(dyadic monotonic)のような単純なエントロピー符号器を使用できる。エントロピー符号器の詳細の選択はプロセッサプラットフォーム性能に依存する。ここに内容を挿入した、米国特許出願第10/447,467号明細書及び米国特許出願第11/232,726号明細書に開示された方法を使用できる。
【0093】
本願で開示する態様は、ビデオ編集プロセス又は作業をウェーブレット変換領域において実現可能にし、その結果、逆ウェーブレット変換及び順ウェーブレット変換双方の計算を節約でき、ピクセルデータ値に対する従来の演算に要求されるよりも少ないデータ項目にアクセス及び変更することによって計算の節約もできる。低減された計算を有するウェーブレット変換領域において達成されるこのようなビデオ編集プロセスの例は、更に以下を含むがそれらに限定されない。
【0094】
1.フェード・トゥ・ブラック
一実施例において、ウェーブレット変換データ(ピクセルデータ値よりもむしろ係数)から開始し、画像の輝度DC係数を各時間ステップ毎にある量だけ減少させ、その結果、全体の明るさレベルをスムーズに黒に減少させることができる。この減少は、DCレベルが完全な黒に到達したときに停止させるか、画像の全ての部分が黒に到達したと見なせるまで完全な黒を超えて継続できる。Droplet社の現在の商用コーデックに使用されているようなブロック変換の場合、各時間ステップにてデータの約1/256、非ブロック化完全変換ウェーブレット実装の場合には、約1/300,000がアクセス及び/又は変更されることに注意されたい。
【0095】
2.フェード・トゥ・ホワイト
一実施例によれば、これはDC係数を完全な明るさレベルに向かって次第に増加させる以外は、フェード・トゥ・ブラックと同様である。
【0096】
3.ブラーアウト
一実施例において、同一のウェーブレット変換データ係数から出発して、各々の逐次時間ステップにて、次の係数を高解像度空間から低解像度空間(fine−to−coarse space)となる詳細の順に置き換える。この順序は、JPEG及びMPEG符号化における係数の「逆ジグザグスキャン」順に対応している。最後の時間ステップにて、DC係数を中間グレーを表す値に置き換える。ブロック変換の場合、この置換は画像の各ブロック内で行われる。このプロセスは、情報が無くなるまで画像をぼかす効果を有する。各時間ステップにて、データの約1/256がアクセス及び/又は変更されることに注意されたい。
【0097】
4.チェシャーフェード(詳細な細部へのフェード)
一実施例において、同一のウェーブレット変換データ係数から出発して、第1のステップにて、DC係数を中間グレーを表す値に置き換える。各逐次時間ステップにて、次の係数を高解像度空間から低解像度空間(fine−to−coarse space)となる詳細の順に置き換える。この順序は、JPEG及びMPEG符号化における係数の「逆ジグザグスキャン」順に対応している。この置換は、ブロック変換の場合、画像の各ブロック内で行われる。各時間ステップにて、データの約1/256がアクセス及び/又は変更されることに注意されたい。
【0098】
5.カラー補正
同一のウェーブレット変換データ係数から出発して、色差DC係数のみを変更する。これは画像全体に亘ってカラーバランスを改良する効果を有し、データ要素の約1/256以下にアクセス及び変更する必要があるだけである。
【0099】
[改良されたモバイル画像携帯電話アーキテクチャ]
本発明の一実施例によれば、図10は、本発明の態様によって可能になるモバイル画像携帯電話アーキテクチャを示している。
【0100】
[改良されたビデオ処理及びアプリケーションサーバアーキテクチャ]
本発明の一実施例によれば、図11は、ビデオ処理及びアプリケーションサーバアーキテクチャを示しており、特有のデータ処理素子を含む別々のラインカードは、デジタルシグナルプロセッサ(DSP)、特定用途集積回路(ASIC)、マルチメディアプロセッサ、及び再構成可能処理デバイス(RPD)を含むがそれらに限定されず、汎用のパーソナルコンピュータ(PC)中央演算処理装置(CPU)によって置き換えられる。
【0101】
本開示の一実施例によれば、図12はビデオ処理及びアプリケーションサーバアーキテクチャを示しており、本発明によるウェーブレットベースのSWビデオトランスコーダ及び編集、保存、検索、読み出しアプリケーションが、デジタルシグナルプロセッサ(DSP)、特定用途集積回路(ASIC)、マルチメディアプロセッサ、及び再構成可能処理デバイス(RPD)上で動作しているDCTベースのビデオ処理に置き換わる。
【0102】
本発明の様々な実施例は、MMSアプリケーションサーバアーキテクチャを向上させる。例えば、改良されたビデオ処理及びアプリケーションサーバにおいて(図13を参照)、SWウェーブレットベースのビデオ処理及びアプリケーションに対して幾つかのオプションの実装を考慮できる。OTNダウンロードによって、サーバのマルチメディア処理セクションに撮像アプリケーションをインストールできる。この撮像アプリケーションは、サーバのマルチメディア処理セクションに、製造中、販売店にて、又は設置時にインストールすることもできる。追加のオプションも実装可能である。
【0103】
本開示の態様によれば、モバイルデバイス計算HW(ASIC,DSP,RPD)及び集積技術(SoC,SIP)における継続する進歩を利用するために、HWベースの処理リソースによって幾つかの計算素子を加速させることによって、ビデオ処理及びアプリケーションサーバの性能を改善でき、コスト及び消費電力を低減できる。サーバにこれらのハードウェアベースの処理リソースを統合するために、幾つかの全てがハードウェアによるオプションを実装できる(図14を参照)。
【0104】
一実施例によれば、図15に示すように、本開示の態様によって提供されるビデオ処理アプリケーションのためのハイブリッドアーキテクチャは、幾つかの生産集約型で反復的な固定機能をHWに実装し、製造後及びインストール後に変更することが好ましい又は必要な機能をSWに実装することによって強化できる。
【0105】
[改良されたビデオ編集、アーカイビング、及びシステムの読み出し]
本発明の一実施例によれば、図16は、ビデオアーカイブ及び読み出し機能をサポートする素子を含む、放送アプリケーションのための分散ビデオ編集システムの機能及び素子を示している。本開示の態様は、単なる商用放送サービスと言うよりは、むしろモバイルパーソナル「メディアプロデューサ」サービスをサポート可能な、このような仮想分散スタジオシステムのデザインを簡単化して開発を加速する。本発明の実施例は、以下の1つ以上を更に含む。
1.ビデオ符号化、復号化、及び編集に対する計算の複雑性の低減、
2.ウェーブレット変換領域におけるビデオ編集ステップ又は演算の実行、その結果、逆ウェーブレット変換及び順方向ウェーブレット変換の計算の双方を節約し、ピクセルデータ値に対する従来の演算よりもより少ないデータ項目にアクセスして変更することによって、計算の節約もできるようにする。
3.モバイルビデオアプリケーションが、特有の高価で電力を必要とするDSP又はASIC以外の低コスト、低消費電力のPCのCPUで動作することを可能にすること、
4.より少なく、安価なPCベースサーバは、多くの特有ビデオアプリケーションサーバに置き換わることができるようにして、その結果、ユーザ当たりの展開及び動作コストを低減する。
5.オンライン編集システムの全ての同時機能の実行に必要な計算能力を低減し、これらの同時編集機能のソフトウェア実装を可能にする。
6.モバイル携帯電話、パーソナルメディアプレーヤ、ノート型コンピュータ、及びパーソナルコンピュータ上で、SWクライアントによって自動ビデオ編集及び他の処理に対するエンドユーザサポートを可能にする。
7.モバイルデバイス中の撮像モジュールにおいてキャプチャできる手ぶれカメラ動き補償情報などの情報を、携帯電話デバイスの続くビデオコーデック、モバイルネットワークにおけるビデオ処理アプリケーションサーバ、及び/又は検索ビデオ再生装置の1つ以上に送信することによって可能になる、モバイルビデオサービスの端末相互間機能及び性能の更なる改良を可能にする。次に、このような情報は、例えば入力ビデオデータからビデオコーデックによって別の方法で抽出できる追加の動き補償情報を提供することによって、ビデオコーデックの計算要件を更に低減するように使用することもできる。
【0106】
このような情報は、モバイルデバイスにおけるビデオキャプチャ中、及びモバイルネットワークにおけるビデオ処理アプリケーションサーバ中で次に実行される編集及び更なるビデオ処理中に発生するカメラの動きを更に補償するように使用することもできる。一実施例において、このような情報は、モバイルネットワークにおけるビデオ処理アプリケーションサーバ中、及び/又は検索ビデオ再生装置中で次に実行される編集及び更なるビデオ処理中に、モバイルデバイス中のカメラモジュールにおいてビデオ前処理によって以前に除去していた可能性のあるカメラ動きの効果を再形成するように使用することもできる。
【0107】
本開示の実施例による、改良されたモバイル撮像サービスプラットフォームアーキテクチャは、
・モバイル携帯電話
・モバイルベースステーション(BTS)
・ベースステーションコントローラ又はラジオネットワークコントローラ(BSC/RNC)
・モバイルスイッチングセンタ(MSC)
・ゲートウェイサービスノード(GSN)
・モバイルマルチメディアサービスコントローラ(MMSC)
・画像サービスダウンロードサーバ
の1つ以上を具える。
【0108】
MMSCに含まれる機能(図17を参照)は、
・ビデオゲートウェイ
・電気通信サーバ
・MMSアプリケーションサーバ
・保存サーバ
の1つ以上を具える。
【0109】
改良した画像サービスプラットフォームを展開するためのプロセスを含む本開示の実施例は、
プロセス1.
ビデオ編集/処理アプリケーションが展開されたMMSCを更新するのに利用可能な信号ネットワーク。更新は、自動OTN展開又は手動手続きによってインストールできる。
プロセス2.
自動OTN展開又は手動手続きによるビデオ編集/処理SWアプリケーションのインストール及び設定(図17を参照)。
プロセス3.
モバイルビデオ画像アプリケーションがダウンロード及びインストールに利用可能な信号ユーザ携帯電話。
プロセス4.
ユーザに承認されて取引の合意が成功裏に完了した場合に、モバイルビデオ画像アプリケーションをダウンロードし、インストールする。
プロセス5.
携帯電話アップグレードが完了した信号ネットワーク。サービス及び関連アプリケーションの起動。モバイルビデオ画像アプリケーションに対する新たな課金を反映するようにユーザの月極課金記録を更新。
【0110】
本開示の一実施例によれば、図18はSW復号器を送信ビデオストリームに組み込むことによって達成される「自己復号」ビデオMMS機能を示しており、トランスコーディングの必要性を除去し、既存のビデオ処理/アプリケーションサーバが本開示によって提供されるビデオフォーマットの処理を可能にする。
【0111】
本開示の態様によれば、図19はビデオ処理及びアプリケーションサーバのOTNアップグレードを示している。
【0112】
本開示の一実施例によれば、図20はユーザ作成ビデオのデータベースの保存、検索及び読み出しのみならず、ユーザ作成ビデオの自動又は手動の編集のような、メディアプロデューササービスの展開に必要なビデオアプリケーションサーバの複雑性、コスト及び数の低減を示している。
【0113】
本開示の一実施例によれば、図21は改良されたウェーブレットベースのコーデック/テレビ電話アプリケーション、及び改良されたビデオ編集/処理、及びデータベースの保存、検索及び読み出しビデオメッセージング/共有/通話プラットフォームの機能プロセスを示している。
【0114】
本開示の一実施例によれば、図22は、ユーザ作成オーディオ/ビデオコンテンツの「ソフト」コピー(ダウンロード)又は「ハード」コピー(DVD)をユーザがプレビュー、共有、購入及び販売できる革新的なパーソナルマルチメディア市場プラットフォームを展開する能力を含む、より高品質のマルチメディア携帯電話及びサービスのより早い低コストの開発及び展開に関する利点を示している。本開示により、データベース索引付加及びネットワーク(RSS)フィードのためのより効率的なビデオ「タグ化」も可能になり、イーベイ、グーグル、ヤフー、マイクロソフト、及び他のポータルのような、既存のウェブベース市場に対するインターフェースをサポートする。
【0115】
本開示の一実施例によれば、図23は、固定無線、モバイル無線、及び有線アーキテクチャを組み合わせる「集中型の」ネットワーク固定無線、モバイル無線、及び有線ネットワーク上における新たなビデオサービスを展開するための、改良されたウェーブレットベースのコーデック/テレビ電話アプリケーション、及び改良されたビデオ編集/処理、及びデータベースの保存、検索及び読み出しビデオメッセージング/共有/通話プラットフォームのアプリケーションを示している。
【0116】
一実施例において、本開示は、そのウェーブレットベースのモバイルビデオ画像アプリケーション、携帯電話アーキテクチャ及びサービスプラットフォームアーキテクチャを有し、より高いモバイルビデオ画像の高品質化、携帯電話のコスト及び複雑性の低減、及びサービス展開コストの低減目的を達成している。
【0117】
本発明の撮像についての解決策は、ビデオ編集サーバにおけるプロセッサコスト及び要件を著しく低減させる。OTNダウンロードによってビデオ編集アプリケーション作成後のインストール及びアップグレードできることと組み合わせて、このSWによる解決策はビデオメッセージング及び共有サービス展開の複雑性、危険性及びコストを著しく低減できる。
【0118】
本開示は、モバイル通信運営者に対して消費者及び企業による巨大市場の採用に必要なビデオ品質及びサービス展開コストを供給する、最初のモバイルビデオメッセージング及び共有プラットフォームを提供する。本開示は、大多数のマルチメディア携帯電話に既に組み込まれているRISCプロセッサのみを使用して、30フレーム/秒(fps)にてフル(VGA)サイズ画像のリアルタイムキャプチャが可能なSWテレビ電話アプリケーションを提供する。携帯電話会社に対しては、本開示の複雑性の低いビデオ処理及び分配技術が、既存のモバイル携帯電話及びモバイルマルチメディアメッセージングサービス(MMS)インフラを使用して面倒な初期設定なし展開可能な、強力なソフトウェアプラットフォームに組み込まれている。
【0119】
一実施例によれば、本開示のコンテンツ管理プラットフォームは、上記のSWモバイルテレビ電話アプリケーションを補完するために、本技術に従ってオンザフライ編集、サムネールプレビュー、マルチメディアメールボックス、オンラインレポジトリ、共有、及びマーケティングサービス、及び申し込み管理とともに、圧縮画像及びビデオを完全なモバイルマルチメディアメッセージ及び「着信音」に統合するためのモジュールを携帯電話会社に提供する。
【0120】
典型的なビデオデータセグメントは、典型的には他のタイプのデータも含んで又は組み込むことができる。このような他のデータは、ビデオとともにキャプチャされたオーディオデータを含むことができる。そのデータは、キャプチャ時刻、位置情報(GPSから得られる、携帯電話タワーの位置、カメラ画像データからの場面認識から、無線送信機(例えばWIFI)番号など)ユーザの識別番号、モバイルデバイスの識別番号、ユーザの付加情報(サービスの問い合わせに対するユーザの応答を含み、ビデオサービスの問い合わせ、チルト、ネーミング、後に追加された注釈、オーディオデータを含む)メタデータを含む他のデータを含むこともできる。
【0121】
データは、ビデオキャプチャプロセスからキャプチャされた又は得られたビデオ及びオーディオデータから得られたメタデータを含むこともできる。そのデータは、追加のセンサーデバイスから得られるメタデータ、例えば、ジャイロスコープ又は角速度センサから得られるジッタデータも含むこともできる。この追加データをビデオ編集、保存、検索、読み出し、位置認識、広告の組み込み、カメラユーザへのビデオ供給、及び本出願において記載された他のサービスにおいて様々に使用できる。
【0122】
一実施例において、ビデオ配信はユーザの位置に基づいている。例えば、モバイルデバイス(例えば携帯電話、ブラックベリーなど)はGPS追跡機能を具えることができ、地理的に特有のビデオデータをユーザに配信するために、モバイルデバイスユーザの位置を特定できる。
【0123】
位置に基づくビデオは、ユーザの位置によって決定されるようなシーニックツアー(scenic tour)とすることができる。例えば、ウィーンに馴染みのないイタリアにいる旅行者が、モバイルデバイスからウィーンに特定した情報を要求できる。例えば要求に応じて、及び/又はユーザの設定に基づいて、ライブツアーのストリーミングビデオを自動的にユーザに配信することができる。同様に、特定されたユーザの地理情報に基づいて、ユーザに地理的に特有のビデオテンプレートを提案及び/又は提供できる。
【0124】
このような動的なテンプレートの提案は、ユーザの設定に基づいて、自動的に提供、又は要求に応じて提供できる。例えば、ユーザがニューヨーク市でビデオを撮影している場合、例えば、エンパイアステートビル、自由の女神などのテンプレートをユーザに提供できる。
【0125】
更に、ユーザの地理的な位置に基づいて、ビデオを一層良くできる。例えば、ユーザによって撮影されたビデオを一層良くするために、ユーザの現在の位置の前もって記録されたビデオを、要求に基づいて又は自動的に提供できる。一実施例において、対象の広告、例えば、ユーザデータなどを提供できる。
【0126】
そのユーザデータは、地理的なデータ、年齢データ、申し込みデータとすることができる。ユーザデータは、ユーザから提供される情報、課金情報、申し込み情報、リアルタイムに収集される情報(例えば、通話記録、ユーザの地理的な位置など)などの様々なソースから収集することができる。
【0127】
このようなユーザデータは、対象広告を配信するために、例えばユーザの好み及び趣味などを特定するために利用できる。幾つかの実施例において、視聴した広告に対して、サービス料金割引を提供できる。
【0128】
本開示の1つ以上の実施例を、例えば、代表的な実施例において、以下に説明するビデオ編集サービスシステムなどのシステムにおいて実施できる。
【0129】
[自動化されたビデオ編集サービス(AVES)システム]
本開示の好適な実施例の一例は、自動ビデオ編集サービス(AVES)を含むことができる。図24aは、本開示に従ってAVESの構成を具えることができる要素の可能な概略図を示している。
【0130】
一実施例において、ビデオ編集サービスは、ユーザの要求に応じて、例えばビデオキャプチャ機能を有する携帯デバイスによって生成されたビデオ編集サービスを提供する。そのビデオ編集サービスは、複数のビデオプロセッサへのルーティングシステムによって、複数のユーザに同時に提供できる。
【0131】
一実施例において、新たな処理タスクが動作していないビデオプロセッサにルーティングされるように、又はより少ないタスクキューを有するプロセッサにルーティングされるように、ルータは1つ以上のビデオプロセッサの動作状況を追跡する。このように複数のビデオ処理タスクを同時に行うことができる。
【0132】
一実施例において、ビデオ編集サービスは、モバイルデバイスによって、ユーザに1つ以上のテンプレートを提供する。この1つ以上のテンプレートは、モバイルデバイス上に予め保存できる。幾つかの実施例において、例えばユーザの要求に基づいて、又はユーザの設定に基づいて自動的になど、このテンプレートをモバイルデバイスによってダウンロードできる。幾つかの実施例において、このテンプレートをユーザ特定データに基づいて提供でき、このデータは、例えばGPS機能、携帯電話タワーによって得られる三角測量データ、ユーザ申し込みデータなどの多くのプロセスの1つによって収集できる。一実施例において、このテンプレートをユーザに有料で提供する。
【0133】
ビデオ編集に対する要求は、ユーザによって選択される、ビデオクリップ及びテンプレートを含むことができる。要求を送信する前に、ビデオはユーザが切り取ることができる。ビデオ編集要件を受信したときに、ビデオサーバはその要求を処理し、ユーザによって指定された編集を実行する。この編集は、ユーザによって選択されたテンプレートに関係したビデオ編集を使用することを含むことができる。
【0134】
編集されたビデオの少なくとも一部は、編集の同時検査が可能なように、ユーザに送り返すことができる。ユーザが編集の承認を示したときに、編集されたビデオの完全な長さのバージョンをモバイルデバイスに送り返すことができる。一実施例において、ユーザの要求にて、編集されたビデオをモバイルデバイスによって受信される複数の受信者に送信することができる。幾つかの実施例において、ユーザの設定、例えば特定のテーマに関するビデオを受信するような設定に基づいて、編集したビデオを複数のユーザに提供できる。
【0135】
図24aを参照して、AVESは、ビデオ編集サービスクライアント(VESクライアント)2410を具えることができる。VESクライアントは、設計された如何なるモバイル基本ソフト上でも動作可能なモバイルアプリケーションを含むことができる。VESクライアントは、符号化されるビデオを送信して編集するように、AVESと相互作用するアプリケーションを含むことが好ましい。本発明の一実施例に従って、VESクライアントはWiFiを介してAVESと接続できる。VESクライアントとAVESとを接続するように、既知の方法、又は将来開発される他の方法を使用することができる。
【0136】
VESクライアントは多くの機能を具えることができる。この機能は、タイトルスクリーン(例えば、ビデオを送信する/編集する、マイフレンド、マイスタジオ、マイビデオなどのオプションを含むことができる)、1つ以上のビデオを選択する能力、MP3またはWMAオーディオトラックを有するAVIコンテナのサポート、トリミング能力(つまり、ビデオをある長さに切り取る)、トリミングされた(つまり切り取られた)ビデオのプレビュー能力、トリミングをやり直す能力、ビデオにタイトルを付ける能力、起動されたテンプレートを示す、複数のビデオをつなぎ合わせる、ビデオ及び/又はオーディオシーケンスをAVESに送信する、編集して得られたファイルをプレビューする(幾つかの実施例において、このプレビューはビデオアップロード開始から10秒以内に開始できる)、ユーザの関係に従って受信者リストを表示する(ウェブサイトを通して管理できる)、所望の受信者の電話番号及び/又は電子メールアドレスの入力を直接受信する機能、及びVESクライアントからAVESに送信された最近のN個のビデオの要約を示す(ここでNはどの整数であってもよい)、の1つ以上を含むがこれらに限定されない。一実施例において、ビデオ圧縮にウェーブレットコーデック(例えば3−Dウェーブレットコーデック)を使用できる。
【0137】
一実施例において、AVESは1つ以上のサービススイッチポイント(SSP)2420を具える。図24bはN個のVESクライアント及びX個のTP(ここでN及びXは互いに一致してもしなくてもよい整数である)に接続されたSSPの代表的な実施例を示している。SSPは着信してくるクライアント接続を扱い、それらをビデオ編集に利用可能なテンプレートプロセッサに割り当てるスイッチを具えることができる。SSPは負荷分散を行うことができ、接続できる同時VESクライアントの数を常に見積もるために、例えば、テンプレートプロセッサ又はテンプレートプロセッサのアレイに分散ネットワークを形成できる。
【0138】
SSPは多くの機能を含むことができる。この機能は、1つ以上のVESクライアント及び1つ以上のSSPに接続する1つ以上のテンプレートプロセッサ接続を処理することの1つ以上を具えるがそれらに限定されない。SSPは、設定ファイルにおけるパラメータ値を指定することによって設定できる。
【0139】
一実施例において、システムはユーザログインを承認し、AVESデータベースにおいてログインが正当どうかを判断できる。一実施例において、システムはVESクライアント編集要求を処理するための利用可能なテンプレートプロセッサが存在するかどうかを判断できる。一実施例において、決定されたテンプレートプロセッサステータスに基づいて、ビジーステータスをVESクライアントに伝達できる。一実施例において、システムはAVESデータベースから接続及び/又はテンプレート情報を得て、この情報をVESクライアントに送信できる。一実施例において、システムはVESクライアントから編集要求を受信し、この情報をデータベースに保存する。一実施例において、システムはテンプレート及び編集情報を1つにまとめて、VESクライアントからデータチャンクを受信し、そのデータチャンクをテンプレートプロセッサに転送できる。
【0140】
一実施例において、システムはこのユーザによってアップロードされた既定の数のビデオ(例えば最近の10個のビデオ)の要約をAVESデータベースから得て、この情報をVESクライアントに送信することができ、システムは更にVESクライアントからプレビュー要求を受信し、その要求をテンプレートプロセッサに転送し、テンプレートプロセッサからプレビューのためのデータストリーム(例えばAVIデータストリーム)を受信してVESクライアントに転送し、システムは更に、VESクライアントから「プレビュースキップ」を受信してテンプレートプロセッサに通知することができる。
【0141】
一実施例において、システムは新たに予定されたジョブを特定するため、例えば、テンプレートプロセッサのプロセスを管理するために(例えば開始又は破棄する)、AVESデータベースをスキャンできる。一実施例において、システムは、ビデオが編集された後に、新たなビデオ通知を受信者に送信することができる。
【0142】
AVESは、1つ以上のテンプレートプロセッサ(TP)2430を具えることもできる。このTPはSSPから編集要求を受信できる。例えば、処理のために編集要求をTPに送信でき、TPは、編集されるビデオが構成されているのと同時にVESクライアントにストリームバックするために、ビデオの縮小されたプレビュー版を提供することもできる。一実施例において、TPは更に、ユーザが非常に多くの記憶領域を消費するのを防止するために、各ユーザのディスク使用量を表示できる。
【0143】
TPはAVESのビデオ編集プロセス、又はその一部を遂行するように特に設定されているソフトウェアシステムを具えることができる。複数の別々のTPは、同一のハードウェアプラットフォーム上で同時に動作し、同一のプロセッサ、又はプロセッサのセットを共有できる。SSPがVESクライアントの要求を利用可能な1つのTPに誘導するように、TPをアレイ中に構成できる。こうしてこのアーキテクチャは高度な拡張性を有し、各プラットフォームで利用可能な複数のソフトウェアTPエンジンを有する比較的低コストの一般的なプラットフォーム(つまりオーダーメイドのビデオ編集ハードウェアプラットフォームではない)を使用して構成できる。各ハードウェアプラットフォームは自身のSSPを有することができ、又は幾つかの実施例においては、1つのハードウェアプラットフォーム上の1つのSSPが、異なるハードウェアプラットフォーム上でTPと機能的に動作できる。
【0144】
TPは多くの機能を具えることができる。この機能は、SSPから編集情報を受信すること(例えば、編集されたビデオを生成するように使用される他のメタデータに加えて、編集情報はビデオ編集テンプレートのXML記述を含むことができる)、得られたビデオをどのように構成するかを決定するために編集情報を分析すること、の1つ以上を具えることができるが、これらに限定されない。
【0145】
本開示の一実施例において、SSPからアップロードされた(AVIであってよい)データストリームを受信できる。一実施例において、元の生データファイルをアップロードされるビデオのために保存できる。更に、AVIファイルからのビデオ及び音声を分配できる。更なる実施例は、編集されたビデオ及び音声を受信するステップと(TPは関係するテンプレートに含まれる情報によって指示できる)、再多重化するステップと、及び/又は編集されたデータをAVIファイルとして保存するステップとを含むことができる。
【0146】
一実施例は更に、ビデオをアップロードされたフィードの開始又は最後部分につなぎ合わせる、複数のビデオをつなぎ合わせる、ターゲットの編集したビデオとは異なる解像度を有する静止画を中心に合わせる又は合うように伸縮する、オーディオトラックを混合する、選択したテンプレートに従って、又は場面の遷移を分析することによって、ビデオセグメント間のある遷移効果を生成する(遷移効果は、幾つかある可能性の中から、ワイプ、クロスフェード、分解、フライ、誇張、ブラインド、チェッカー、及び出現、を具えることができる)、ビデオセグメントをブラックアンドホワイト、又はセピアに変換、ビデオにタイムスタンプ、日付スタンプ、及び/又は位置スタンプを追加する、編集したビデオからスライドショーを形成する、プレビューのAVIストリームを生成する(ビデオは低減したフレームサイズ及びフレームレートを含むことができる)能力の1つ以上を具えることができる。
【0147】
本発明の実施例は更に、以下の能力の1つ以上を具える。即ち、SSPから「プレビュー」要求を受信し、次にプレビュービデオデータストリームを送り返す、SSPから「プレビュースキップ」を受信して次にプレビューストリームの生成を停止する、ユーザがどのテンプレートを選択したかに従って幾つかのメディアオブジェクトをAVIファイルにまとめる、ビデオ及び音声効果を適用する(これはユーザが選択したテンプレートに基づくができる)、ビデオセグメントに対してカラーモーフィングする、ビデオセグメントに対してブラックアンドホワイト変換を適用する、ビデオセグメントに対してアニメーション及び背景のオーバーレイをサポートする、及び/又はビデオセグメントに対してテキストキャプションを挿入する能力である。
【0148】
AVESはウェブサイト2440を具えることもできる。ウェブサイトは、自身のビデオのリストを見るためにユーザが使用できる。例えば、ビデオはユーザが作成するか、別のユーザがそのユーザに送信できる。ウェブサイトは、アクセス情報を編集し、テンプレートを起動し、そしてメディアを起動するためにユーザが使用することもできる。一実施例によれば、ウェブサイトはユーザに、友人にビデオを見るように誘う、テンプレートエディタを起動する、オーディオトラックを起動する、位置によってビデオを表示する、アップロード又はユーザに送信されたビデオのリストを表示する、新たなテンプレートを購入する、及びユーザにアクセスリストの維持を可能にする能力の1つ以上を提供することもできる。
【0149】
AVESはテンプレートエディタ(TE)2450を更に具えることもできる。一実施例において、TEはカスタムテンプレートを作成するために使用されるツールである。テンプレートエディタはフラッシュベースとすることができ、ユーザのブラウザにおいて動作できる。一実施例において、TEはインターネット、又はLAN、WANなどの他のタイプのネットワークを越えてAVESとやりとりすることができる。
【0150】
幾つかの実施例において、TEは、遷移効果コンポーネント、背景音楽、及び/又は静止画を含むビデオセグメントを構成できるテンプレートを作成する、メディアをテンプレートに加える、オーディオトラックを混合する、画像、オーディオトラック、及び/又はビデオ素材を混合する、2つのビデオセグメント間に遷移効果を挿入する、特性を画像にセットする(例えば画像が中心に位置させる又は合わせるために伸縮させる必要が有る場合のような)、静止画を表示して遷移するための持続時間、ビデオ枠をテンプレートに挿入する、生成したテンプレートをAVESにアップロードする、テンプレートがどのように機能するかプレビューする、例えば、カラーモーフィング、アニメーション、背景オーバーレイ、及び/又はテキストの見出しなどの各ビデオ及び音声に対する特性をセットする、オーディオトラックが他のトラックにオーバーレイするウェイトをセットする、そしてユーザが起動したテンプレートを表示する、の1つ以上のサービスを更に提供する。
【0151】
AVESは、AVESデータベースにアクセスできるように、ウェブサイト及びTEによって使用されるPHPファイルのセットからなるPHPサービス2460を具えることもできる。これらのPHPファイルは、受信PCアプリケーションに対して、いつ新しいビデオが利用可能になったかについての通知を得るためのサポートを提供することもできる。
【0152】
AVESは、受信PCアプリケーション(受信アプリ)を具えることもできる。受信アプリは、ユーザがサーバに新しいビデオを送信したかどうかを定期的に調査するアプリケーションである。ログインするためにユーザid及びパスワードを要求するようにセットアップできる。新しいビデオが到着したときにウェブサイトを起動するように使用して、ウェーブレットコーデック(例えば3Dウェーブレットコーデック)がインストールされたかどうか検出することもできる。更に、コーデックが存在しない場合には、受信PCがコーデックをインストールできる。コーデックはサーバから得られる。
【0153】
ABESはデータベース2470を具えることもできる。AVESデータベースは、アイテムの中でも、ユーザアカウント、アップロードされたビデオ、編集されたビデオ、メディア、テンプレート、及びTEからのスケジュールされたジョブに関する情報を保持するように構成できる。このデータベースは、所望の如何なる情報をも保存するように構成できることに注意されたい。
【0154】
[AVESのセットアップ例]
この例は、本発明の代表的な実施例のアーキテクチャのセットアップ及び利用パターンの例を示している。
【0155】
(VESクライアント)
1.VESクライアントは、ローカルの設定ファイルからサーバ情報を得て、AVESに接続するためにこの情報を使用する。これは自動的に処理できるので、ユーザはサーバのIPアドレス情報を構成する必要はない。
2.ユーザが初めてAVESにログインする場合、彼/彼女は彼/彼女の電話番号を入力しなければならない。以降、VESクライアントは、この保存された番号を自動的にログインするために使用できる。
3.携帯電話番号がAVESに既知の場合には、ログインは成功する。
4.AVESにログイン後、AVESはテンプレートリスト及び受信者リストをVESクライアントに返送する。
5.ユーザは、テンプレートリストから起動したテンプレートを選択して、ローカルシステム中の幾つかのビデオを選択して、更に要すればそれらの幾つかをトリミングできる。(トリミング作業は他のサブウィンドウ中に実装でき、ユーザは選択したビデオの開始点及び終了点をセットでき、選択した2つの点を使用してビデオをトリミングできる。)ユーザは、選択したビデオを満足するまで繰り返しトリミングできる。
6.既定のテンプレートに対して、ユーザはテンプレート中のスロット数と同数のビデオを選択できる。スロットが幾つのクリップを含んでいるかを示すインジケータがブラケット中に存在できる。
7.ユーザは、アップロードする前にビデオのタイトルを提供することもできる。
8.VESクライアントは、選択したトリミングされたビデオをAVESにアップロードできる。
9.ユーザは、アップロードしている間に、編集したビデオをプレビューできる。ユーザはプレビューを直接キャンセル又はスキップすることもできる。
10.アップロードの完了後に、又はユーザがプレビューをスキップする場合に、ユーザは自らの連絡先リストから関係者(contact)を選択することによって、誰が編集したビデオを受信するか決定できる。ユーザは、電話から自らの関係者を管理できる。
11.編集したビデオを受信者に送信したあと、VESクライアントは、このユーザによってアップロードされた最近の10個のビデオを公開することができる。
12.ユーザはVESクライアント内のホームスクリーンに戻ることができる。
【0156】
[SSP(サービススイッチポイント)]
VESクライアントに対して
1.VESクライアントは、SSPに接続してその携帯電話番号を送信する。SSPはその携帯電話番号がデータベースに存在するかどうかを確認できる。
2.番号が存在しない場合、アカウントのためにサインアップする必要があることがユーザに通知される。
3.ログイン後、SSPはテンプレートのユーザリストを読み出し、AVESデータベースから情報に接触し、それらをVESクライアントに送信することができる。
4.次にSSPはVESクライアントから編集情報を読み出すことができる。
5.SSPはAVESデータベースから選択したテンプレートの詳細を読み出すことができる。次にSSPはテンプレート及び編集情報を1つにまとめ、この編集情報をAVESデータベースに保存できる。
6.次にSSPは、1つにまとめられた情報を対応するTPに送信する。
7.次にSSPは、VESクライアントから到着するデータストリームを受信して、そのデータを直接TPに転送できる。
8.SSPはVESクライアントからプレビュー要求を受信できる。次にSSPは対応するTPにビデオデータストリームを送り返すように命令する。
9.次にSSPはTPからビデオデータストリームを受信して、それをVESクライアントに転送できる。
10.TPは、編集処理が終了したときにSSPに通知できる。SSPはVESクライアントに編集処理が終了し、データベースに注記することを通知できる。
11.SSPは、VESクライアントからタイトル及び受信者情報を受信して、この情報をデータベースに保存することができる。
12.SSPはVESクライアントからヒストリ要求を受信して、次に対応するユーザによって作成された最近の10個のビデオを返送することができる。
13.処理全体が完了したあと、SSPはAVES中の読み出した全てのデータを削除できる(編集処理の間に使用された一時的ビデオファイルやデータベースの記録事項)
【0157】
[TEに対して]
1.SSPは、スケジュールされた「トライ・イット・ナウ」ジョブテーブルを定期的にチェックする。
2.待ち状態のジョブが存在する場合、SSPはそのジョブに対してTPが利用可能かどうかチェックできる。利用可能なTPが存在しない場合、ジョブは利用可能なTPが出現するまで保留される。
3.SSPはジョブに関する情報を読み、新たに作成されたテンプレートをデータベースから読み出すことができる。次にSSPはテンプレート及びジョブのメタデータを1つにまとめることができる。
4.SSPは1つにまとめられたジョブ情報をTPに送信できる。
5.TPが処理を完了したあと、TPはSSPに通知できる。次にSSPは、データベースを更新することによって、ウェブサイトに処理が完了したことを通知できる。
6.処理全体が完了したあと、SSPはAVES中の読み出した全ての情報を削除できる。
【0158】
[TP(テンプレートプロセッサ)]
1.TPは、1つにまとめられたテンプレートを読み出し、分析することができる。
2.TPは、アップロードされたビデオデータストリームを読み出し、それを元ファイルとして保存できる。
3.TPは、そのデータストリームを分析されたテンプレートに従って編集できる。
4.TPは、結果を編集したファイルとして保存できる。
5.TPは、プレビューのためのビデオを作成できる(プレビューはメモリ中に保存される)。
6.TPは、プレビュー要求を受信し、次にプレビューストリームをSSPに返送できる。
7.TPがプレビューをスキップする要求を受信した場合には、次にTPはプレビューデータストリームの作成を停止して、メモリ中の全てのプレビューのデータチャンクを削除することができる。
8.TPの処理が完了したあと、TPはSSPに通知できる。
【0159】
[ウェブサイト]
ウェブサイトは、そのサイトにアクセスするのがユーザか又は管理者かによって異なるオプションを有することができる。ウェブサイトはユーザ及び管理者の双方をログイン及びログアウトさせる能力を有することができる。
【0160】
ユーザに対しては、ウェブサイトは、登録、関係者の管理、ビデオ管理(例えば送信されたビデオ、受信したビデオ、アップロードしたビデオを見るなど)、メディア管理(例えば、音楽を見る、音楽を購入する、背景画像を見る、背景画像を購入する、テンプレートを見る、テンプレートを購入するなど)、新しいテンプレートを作成する能力を提供できる。
【0161】
管理者に対しては、ウェブサイトはメディア管理(例えば、音楽を作成、音楽を削除、背景画像の作成、背景画像の削除など)、及びテンプレート管理(例えば、テンプレートの作成及び削除)の能力を提供できる。
【0162】
[TE(テンプレートエディタ)]
1.ユーザはウェブサイトからTEを起動できる。
2.ユーザは静止画、ビデオ、遷移効果などを時系列に追加できる。
3.ユーザは、背景音楽(及びその持続時間)を時系列にビデオスロットにセットできる。
4.テンプレートの編集が完了したあと、ユーザはそのテンプレートをAVESにアップロードできる。
5.テンプレートをアップロードしたあと、ユーザは「トライ・イット・ナウ」をクリックすることによって効果をプレビューできる。
6.「トライ・イット・ナウ」は、テンプレートの開いたスロットの各々に対して、ユーザに既にAVESにアップロードされたビデオを選択するように指示できる。
7.「トライ・イット・ナウ」ジョブが完了したとき、ユーザは最終結果をウェブサイトから見ることができる。
【0163】
[受信アプリ]
1.ウィンドウズ(登録商標)が起動したときに受信アプリを起動できる。
2.受信アプリが起動したときに、ログインのダイアログボックスがポップアップする(これは、ユーザログイン情報がキャッシュに格納されたあと、初回のみ発生する)。
3.ユーザは、ログインのための自身のドロップレットID及びパスワードを入力する。
4.次に受信アプリはウェブサイトに接続する。
5.受信アプリは、現在のユーザに対する編集されたビデオが存在するかどうかを定期的にチェックできる。
6.現在のユーザに対する編集されたビデオが存在する場合、受信アプリはバルーン通知をポップアップさせる。
7.ユーザがバルーンをクリックした場合、ウェブサイトが起動できる。
8.ウェブサイトを開くために、ユーザは、ウィンドウズ(登録商標)のステータスバーにおける受信アプリアイコンを右クリックできる。
【0164】
[接続]
分配システムとして、AVES構成要素は、一方をTCPに基づく方法、他方をHTTPに基づく方法の2つの方法によって接続できる。
【0165】
[VESクライアント及びSSP]
VESクライアント及びSSP間の接続は、ソケット及びTCPベースとすることができる。どのVESクライアント及びSSP間にも2つの接続が存在しうる。一方は、命令のためのもので、プライベートバイナリプロトコルに基づいている。他方はデータストリームのプレビューのためのものである。
【0166】
[SSP及びTP]
SSP及びTP間の接続はソケット及びTCPに基づくことができる。SSP及びどの既定のTP間にも2つの接続が存在する。一方は、SSPからTPへメッセージを送信するためのものである。他方はTPからSSPへのプレビューデータストリームを受信するためのものである。これらのメッセージはプライベートバイナリプロトコルに基づくことができる。
【0167】
[TE及びPHPサービス]
TE及びPHPサービス間の接続はHTTPベースとすることができる。これらの接続はプライベートHTTPプロトコルの基づくことができる。
【0168】
受信アプリ及びPHPサービス
受信アプリ及びPHPサービス間の接続はHTTPベースとすることができる。これらの接続はプライベートHTTPプロトコルに基づくことができる。
【0169】
[ログイン及びアップロード処理]
図25を参照するに、以下は、AVESのログイン及びアップロード処理に関係する本発明の代表的な実施例の動作フローの例である。
1.VESクライアントは、SSPに携帯電話番号とともにログインメッセージを送信する。
2.SSPはデータベースを確認して携帯電話番号に一致する記録があるかどうかを見る。
3.SSPはVESクライアントが利用可能なTPが存在するかどうかを確認する。
4.携帯電話番号が一致して利用可能なTPが存在する場合、ログインが成功する。次にSSPはVESクライアントは、データベースからテンプレート及び関係者情報を取得する。
5.SSPはテンプレート及び関係者情報をVESクライアントに返送する。
6.ユーザはテンプレート及びビデオを選択して、選択したビデオをトリミングできる。
7.VESクライアントは編集情報をSSPに送信する。
8.SSPは、要求のための対応するテンプレートの詳細をデータベースから取得して、そのテンプレートを編集情報とともに1つにまとめ、この編集情報をデータベースに保存する。
9.SSPは1つにまとめられたテンプレートをTPに送信する。
【0170】
[アップロード及びプレビュー]
図25を参照するに、以下は、AVESのアップロード及びプレビュー処理に関係する、本発明の代表的な実施例の動作フローの例である。
1.SSPは受信ビデオのデータチャンクをTPに送信する。
2.TPはこれらのデータチャンクを元ビデオファイルとして保存する。
3.TPはこれらのチャンクを対応するテンプレートに従って編集する。
4.TPは編集されたチャンクを編集されたビデオファイルとして保存する。
5.TPはチャンクをプレビューのために生成する。
6.ユーザはいつプレビューが開始するか決定することができる。SSPはプレビュー要求をユーザから受信し、次にプレビューを開始するようにTPと通信する。
7.TPはプレビューチャンクをSSPに送信する。
8.SSPはプレビューチャンクをVESクライアントに送信する。
9.VESクライアントは、これらのチャンクをビデオとしてウィンドウズメディアプレーヤ内に表示する。
10.ユーザはプレビューをスキップ又はその終了を待つことができる。
11.ユーザがプレビューをスキップする場合、SSPはTPにプレビューを停止させる。
12.編集が完了したあと、TPはSSPに編集が完了したことを通知する。
13.SSPは必要な情報をデータベースに保存し、データベースを整理する。
【0171】
[アップロード後]
図27を参照すると、以下は、AVESのログイン及びアップロード後に発生する処理に関係する、本発明の代表的な実施例の動作フローの例である。
1.ユーザは編集したビデオを受信する受信者を選択できる。
2.VESクライアントが、選択したタイトル及び受信者情報をSSPに送信する。
3.SSPがこれらの受信者情報をデータベース中に保存する。
4.VESクライアントがアップロードした最近の10個のファイルのヒストリを要求する。
5.SSPがデータベースからヒストリを取得する。
6.SSPはヒストリをVESクライアントに返送する。
7.VESクライアントがヒストリを表示する。
【0172】
[受信]
図28を参照すると、以下は、AVESの受信処理に関係する、本発明の代表的な実施例の作業フローの例である。
1.受信アプリが起動したとき、ログインダイアログボックスがポップアップする。
2.ユーザがid及びパスワードを入力する。
3.受信アプリがPHPページを問い合わせる。
4.PHPページはデータベースをチェックし、ユーザに送信されたビデオがあるかどうかを確認する。
5.ログインが成功した場合、ウェブサイトが起動する。
6.ユーザに送信された新たなビデオが存在する場合、インジケータがポップアップする。
7.ユーザはウェブサイトに行くためにインジケータを確認できる。
8.ウェブサイトにおいて、ユーザはビデオリスト又は利用可能なビデオの案内図を確認できる。
9.ウェブサイトに行くために、ユーザはデスクトップコンピュータ上のアプリケーションクリックすることもできる。
【0173】
[ログイン、編集及びテンプレートのアップロード]
図29を参照するに、以下はAVESのログイン、編集及びテンプレートのアップロードに関係する、本発明の代表的な実施例の動作フローの例である。
【0174】
[編集]
1.ユーザがテンプレートを作成したとき、メディア要素をテンプレートに挿入できる。これらの要素は、タイトル、静止画、ビデオ、音楽トラック、場面の遷移効果などを含むことができる。
2.ユーザが、要素に対するメディアのリソース(例えば画像ファイル)を指定したい場合、TEはPHPサービスに利用可能なリソースリストの要求を送信する。
3.PHPサービスはその要求を受信して、利用可能なリソースを見つけるためにデータメースに問い合わせる。次にPHPサービスはこのリストをTEに返送する。
4.ユーザはこのリストからリソースを選択できる。
【0175】
[テンプレートのアップロード]
1.ユーザがテンプレートの作成を完了したあと、このテンプレートをアップロードするように「アップロード(Upload)」ボタンをクリックできる。
2.アップロード要求がPHPサービスに送信される。
3.PHPサービスはテンプレートスクリプトを受信してデータベース中に記録する。
【0176】
[トライ・イット・ナウ]
図30を参照するに、以下は、AVESテンプレートに対するトライ・イット・ナウに関係する本発明の代表的な実施例の動作フローの例である。
1.ユーザは、「トライ・イット・ナウ(Try It NOW)」ボタンをクリックすることによって、新たに作成されたテンプレートを試すことができる。
2.サーバ上にある利用可能なビデオを問い合わせるために、要求がPHPサービスに送信される。PHPサービスはTEにビデオ情報リストを返送する。
3.ポップアップウィンドウはこれらのビデオを一覧表にする。ユーザはテンプレート中のスロットに対して、リストから適切な数のビデオファイルを選択する。
4.TEは編集要求をPHPサービスに提示する。
5.PHPは、このジョブをデータベースに加えることによって、新しいジョブをスケジューリングする。
6.新たにスケジューリングされたジョブが存在するかどうかを確認するために、SSPは定期的にデータベースを調査する。新たにスケジューリングされたジョブを見つけた場合、それを実行するために利用可能なTPを探す。利用可能なTPが見つかった場合には、このTPはそのジョブを処理し、さもなければ、TEはTPが利用可能になるまで待機しなければならない。TPが処理し終えたあと、SSPはこの新しいジョブを削除し、新たなレコードを結果表に加える。
7.ユーザは、ウェブページ上のビデオリストを確認することによって、ビデオがいつ利用可能かどうかを決定できる。
8.編集プロセスが完了したあと、ユーザはビデオリストページにおいて、編集するビデオのための対応するリンクをクリックできる。これによりプレビューを起動する。
【0177】
[ユーザの使用例]
図31〜55を参照して、本発明の好適な実施例を使用して使用例を説明する。
【0178】
図31は、本発明の一実施例によるユーザナビゲーションマップの例を示している。
【0179】
図32は、VESクライアントのタイトル画面及びホームページの例を示している。図32に示された実施例において、ホーム画面は、ビデオ送信/編集、マイフレンド、マイスタジオ、及びマイビデオの4つのボタンを有している。
【0180】
ビデオ送信/編集ボタンを押すと、ユーザは「ビデオテンプレート選択」ページに案内され、その例が図33a及び33bに示されている。このページにより、ユーザはビデオ及びテンプレートを選択できる。図33a及び33bに図示された可能なボタンの説明は以下の通りである。即ち、
スクリプト(Script):使用するスクリプトを選択する。
ビデオリスト(Video Clip List):選択した全てのビデオを一覧表にする。
追加(Add):ビデオをリストに追加する。
タイトル(Title):ビデオに対するタイトルを付加する。
上げる:位置を1つ上げる。
下げる:位置を1つ下げる。
削除:ビデオを「ビデオリスト」から削除する。
トリム(Trim):選択したビデオをトリミングするようにビデオトリム画面を起動する。トリミングされたビデオは、その隣にトリムアイコンを有している。
アントリム(Untrim):0にて開始し、最後のフレームにて終了するように、フレームポインタをリセットする。
【0181】
[再生:ビデオのプレビュー]
図33a及び33bに示された画面から可能なシナリオを以下に説明する:
1.ユーザはスクリプトを選択できる。
2.ビデオを追加するために、ユーザは「追加」ボタンをクリックできる。
3.ユーザは選択したビデオの順序をセットする。(ユーザは「ビデオリスト」からビデオを選択して、位置を上に移動させるために「上げる」ボタンを押す。ユーザは「ビデオリスト(Video Clip List)」からビデオを選択して、位置を下げるために「下げる」ボタンを押すこともできる)
4.ユーザは「ビデオリスト」からビデオを選択して、「ビデオリスト」からビデオを削除するために「削除」ボタンを押すことができる。
5.ユーザは「ビデオリスト」からビデオを選択して、ビデオをトリミングするために、「ビデオトリム」ページをポップアップさせるように「トリム」ボタンをクリックできる。
6.ユーザは、「ビデオリスト」からトリミングされたビデオを選択して、トリミングをキャンセルするために「アントリム」ボタンをクリックできる。
7.ユーザは、「ビデオリスト」からビデオを選択して、ビデオをプレビューするために「プレビュー」ボタンをクリックできる。
8.ユーザは「テンプレート」ドロップダウンリストからテンプレートを選択できる。
9.ユーザは、「ホーム」メニューをクリックすることによって、VESクライアントホーム画面に戻ることができる。
10. ビデオ及びテンプレートを選択したあと、ユーザは、「アップロード」メニュー項目をクリックできる。これによって、ユーザは「プレビュー」ページに行く。
【0182】
図34は、追加するためにビデオを選択した場合にユーザが見る画面の例を示している。
【0183】
図35は、プレビューするためにビデオを選択した場合にユーザが見る画面の例を示している。
【0184】
図36は、トリミングするためにビデオを選択した場合にユーザが見る画面の例を示している。ビデオをトリミングするために「トリム」を選択したとき、ビデオを再生することができる。左側のメニュー項目は「取り消し」とすることができ、右側のメニュー項目は「開始位置のセット」とすることができる。「開始位置のセット」をクリックした場合、右側のメニュー項目は「停止位置のセット」に変化できる。ビデオの再生が終了したとき、又はユーザが「停止位置のセット」をクリックしたとき、ビデオはポーズし、左側のメニュー項目は「承認」へ変化できる。このビデオトリミングのページは、「開始位置のセット」、「終了位置のセット」、及び「再生完了」の3つのページに分割できる。
【0185】
図37は、「開始位置のセット」ページの例を示している。この例において、ユーザが「取り消し」メニュー項目を選択した場合、ユーザはビデオテンプレート選択画面に戻ることができる。ユーザが「開始位置のセット」メニュー項目を選択した場合、トリム開始位置がセットされ、右側のメニュー項目は自動的に「終了位置のセット」に変化することができる。
【0186】
図38は「終了位置のセット」ページの例を示している。この例において、ユーザは、ビデオ終了位置をセットするために「終了位置のセット」メニュー項目をクリックできる。ユーザが「終了位置のセット」項目を選択しなかった場合、ビデオの最後を終了位置としてセットできる。ユーザは、ビデオを再生して開始及び終了位置をリセットするために、「取り消し」ボタンを選択できる。
【0187】
図39は「トリミングの承認」ページの例を示している。ユーザは、ビデオテンプレート選択ページに戻るために、「取り消し」メニュー項目をクリックできる。次にユーザはトリミングするためにビデオを再び選択、又は現在トリミングした選択したビデオを再生することができる。ユーザは、切り取られたビデオを承認してビデオテンプレート選択ページに戻るために、「承認」メニュー項目をクリックできる。
【0188】
ユーザがプレビューするためにビデオを選択した場合、3つのページを一続きで表示できる。図40はアップロードページを示しており、VESクライアントは最初に表示できる。「プレビュー」ボタンは最初は使用不可能であるが、プレビューが利用可能になったときに選択することができるようにすることができる。ビデオがアップロードされている間に、ある期間、広告を表示できる。
【0189】
図41は、ビデオがアップロードされており、アップロードが継続する間にプレビューが「現在利用可能」であることを示している画面である。
【0190】
「取り消し」を選択した場合、ユーザは「ビデオテンプレート選択」ページに戻ることができる。図42は、ユーザがアップロートのキャンセルを選択したときの画面の例を示している。ビデオのアップロード及びプレビューをキャンセルする意図があることを保証するために、ユーザに促すことができる。ユーザがプレビューするためにビデオを選択した場合、「プレビュー」ボタンを「スキップ」ボタンに変化させることができる。
【0191】
図43は、ユーザにビデオのプレビューを示す画面の例を示している。ユーザがプレビューのスキップを選択した場合、「受信者選択」ページへ向かうことができる。
【0192】
図44は、ユーザがアップロードのキャンセルを選択した場合の画面の例を示している。
【0193】
図45は、プレビューが再生完了した画面の例を示している。「スキップ」ボタンは「完了」に変化できる。ユーザは、アップロードのキャンセル、プレビューのキャンセル、及び「ビデオテンプレート選択」ページに戻るために、「キャンセル」項目を選択できる。ユーザは、「受信者選択」ページに行くために、「完了」を選択できる。
【0194】
図46は、ユーザがビデオを受信する受信者を選択できる、画面の例を示している。ユーザがビデオを送信する受信者を選択する場合、受信者ドロップダウンリストから受信者を選択して、「受信者リスト」に受信者を追加するために「追加」ボタンをクリックできる。ユーザは「受信者リスト」から受信者を選択して、「受信者リスト」からその受信者を削除するために「削除」ボタンをクリックできる。ユーザは、「ビデオテンプレート選択」ページに戻るために、「キャンセル」メニュー項目をクリックできる。受信者を選択したあと、ユーザは、編集したビデオを送信するように「送信」メニュー項目をクリックできる。
【0195】
図46に示された画面項目の説明は以下の通りである。即ち、
送信(Send):アップロードが完了していない場合、この項目は利用不可能になる。
キャンセル(Cancel):ビデオテンプレート選択ページに戻る。
受信者(Recipients):全受信者を一覧表にする。
受信者リスト(Recipients List):選択した全受信者を一覧表にする。
送信(Send):アップロードが完了したとき、この項目が利用可能になる。
【0196】
図47はサマリー(Summary)とヒストリ(History)ページの例を示している。この実施例において、サマリーとヒストリページは、ユーザが送信した最近の10個の編集したビデオのタイトルを示している。ユーザが「ホーム(Home)」メニュー項目を選択した場合、ビデオ編集プログラムがリスタートされ、ユーザを「ビデオテンプレート選択」ページに向かわせることができる。ユーザは「終了」を選択して、VESクライアントアプリケーションを終了させることもできる。
【0197】
図48は、受信PCアプリケーションのためのログインページの例を示している。この代表的な実施例の例において、受信PCアプリケーションは、ウィンドウズアプリケーショントレーに存在するマイクロソフト基礎クラス(MFC)アプリケーションである。
【0198】
図49は、ユーザログインが失敗した場合の画面ショットの例を示している。警告メッセージが出されて、ユーザはユーザ名及びパスワードを再入力することができる。
【0199】
ログインが成功した場合、アイコン(図50の強調された四角の内部に示されるように)がタスクバーに現れ、ウェブサイトを起動できる。ウェブサイトは自動的に起動することが好ましい。ユーザが左のマウスボタンをアイコン上でダブルクリックした場合、アプリケーションはウェブサイトを自動的に開く。ユーザが右ボタンをアイコン上でクリックした場合、図51に示すように、メニューをポップアップさせることができる。ユーザは、ウェブサイトを起動するように「ウェブ(Web)」を選択、アプリケーションがウィンドウズ内で自動実行するかどうかを決定するために「自動スタート」を選択(又は選択解除)、又はアプリケーションを終了するために「終了」を選択することができる。
【0200】
図52は、新たに編集されたビデオが利用可能であることをユーザに警告するためにポップアップできるバブルを示している。ユーザがこのアイコン上で左クリックする場合、アプリケーションはウェブサイトを自動的に起動する。
【0201】
図53,54及び55は、テンプレートエディタの画面ショットの異なる例を示している。テンプレートエディタページのこの代表的な実施例のあるアプリケーション及び特徴の例は以下の通りである。
【0202】
[ビデオパネル]
このパネルは画像、ビデオ及びスロットを含むことができる。
1.画像−静止画のリストをサーバからダウンロードできる。画像を選択した後、実際の画像データをサーバからダウンロードし、ユーザに示すことができる。
2.ビデオ−ビデオのリストのサーバからダウンロードできる。
3.スロット−スロットボタン上でのクリックによって、スロット項目を作成できる。
【0203】
[遷移効果コンポーネントパネル]
このパネルは、遷移効果コンポーネントの異なる例を(ボタンとして)含んでいる。ユーザは、遷移効果ボタン上でクリックしてビデオ時系列において遷移効果項目を作成できる。
【0204】
[ビデオライン]
ビデオ時系列を静止画、サーバ上のビデオ、元ビデオ、及び遷移効果コンポーネントを表す要素からなることができる。要素は時間順に並べられる。要素及び遷移効果コンポーネントが時系列に追加されたあと、ユーザは要素上での右クリックによってこのビデオ要素の特徴を変更し、背景音楽を追加し、又は要素を削除できる。ユーザが背景音楽の追加を選択した場合、音楽ラインが形成される。ユーザは、追加された各々の音楽要素に対するボリュームの重みをセットできる。これらの重みは最終的なビデオにおける重なる音楽をミキシングするために使用できる。
【0205】
[オーディオライン]
各々のビデオ要素は、このバージョンのためのそれに追加された少なくとも1つの音楽トラックを有することができる。使用されているテンプレートエディタの例を以下に示す:
1.ユーザは、TEアプリケーションをウェブサイト上で起動する。
2.ユーザは、「ピクチャ」ボタン上でマウスを移動させる(サーバ上の画像のリストをポップアップウィンドウ中に示すことができる)。
3.ユーザは、リスト中の画像の1つをクリックする(画像要素がビデオライン上に作成することができる)。
4.ユーザは、「遷移効果パネル」中の遷移効果ボタンをクリックする(遷移効果コンポーネントをビデオライン上で作成できる。)
5.ユーザが「スロット」ボタンをクリックする(空いたスロットをビデオライン上に作成できる)。
6.スロット成分上での右クリックにより、メニューを表示することができる。「背景音楽の追加」を選択すると、追加すべき利用可能な音楽トラックのリストが表示される。背景音楽は複数のスロットに亘って完成まで再生できる。
7.ユーザは、ステップ2〜6を繰り返すことができる。
8.ユーザは、テンプレートをサーバにアップロードするように「アップロード(Upload)」ボタンをクリックする(これは「トライ・イット・ナウ」ボタンを利用可能にする)。
9.ユーザは、テンプレートをアップロードしたあと、「トライ・イット・ナウ」ボタンをクリックする(テンプレート中の空いたスロットのためにユーザが以前アップロードしたビデオを選択するように、パネルを示すことができる。ユーザがこのための以前アップロードしたクリップを有していない場合には、AVESはAVESのデフォルトの「トライ・イット・ナウ」クリップを使用できる)。
10.「トライ・イット・ナウ」が実行された場合、TPが作成したあと、ユーザはウェブサイト上で得られたビデオを見ることができる。
【0206】
一実施例において、ここで議論した1つ以上の方法をマシンに実行させるための命令セットをその内部で実行できる、コンピュータシステムの代表的な形式におけるマシンを提供できる。代替の実施例において、マシンは単独のデバイスとして動作、又は他のマシンに接続(例えばネットワーク接続)できる。ネットワーク化された配置において、マシンは、クライアント・サーバネットワーク環境におけるサーバ又はクライアントマシンとして、又はピア・ツー・ピア(又は分散)ネットワーク環境におけるピアマシンとして動作できる。このマシンはサーバコンピュータクライアントコンピュータ、パーソナルコンピュータ(PC)タブレットPC,セットトップボックス(STB)、携帯情報端末(PDA)、携帯電話、ウェブ装置、ネットワークルータ、スイッチ又はブリッジ、又はそのマシンによって取られる行動を指定する(逐次又は他の)命令セットを実行する能力があるどのようなマシンであってもよい。
【0207】
代表的な実施例において、マシンが読み出し可能な手段が、単数の手段であると示されているが、「マシン読み出し可能手段」という言葉は、1つ以上の命令セットを保存する単数又は複数の手段(例えば集中又は分散データベース、及び/又は関連キャッシュ及びサーバ)を含むと解釈されたい。「マシン読み出し可能手段」という言葉は、保存、符号化又は実行のための命令セットをマシンによって実行する能力があり、且つ本発明の1つ以上の方法をマシンに実行させる、如何なる手段を含むとも解釈されたい。概括的に、本発明の実施例を実装するように実行されるルーチンを、基本ソフトの一部、又は特定のアプリケーション、要素、プログラム、オブジェクト、モジュール又は「コンピュータプログラム」として参照されている命令のシーケンスとして実装できる。コンピュータプログラムは、典型的には、コンピュータ中の様々なメモリ及び記憶装置において様々な時に1つ以上の命令セットを含み、コンピュータ中で1つ以上のプロセッサによって読み出されて実行されるとき、本発明の様々な態様を共なる要素を実行するように、コンピュータに作業を行わせる。
【0208】
更に、実施例は完全に機能するコンピュータ及びコンピュータシステムに関連して説明されたが、当業者は、様々な実施例は様々な形式のプログラム製品として販売することが可能であり、本開示が、実際に販売をもたらす特定のタイプのマシン又はコンピュータ読み出し可能手段にかかわらず同様に適用できることを認識されよう。読み出し可能メディアの例は、とりわけ揮発性、不揮発性メモリデバイス、フロッピー及び他のリムーバブルディスク、ハードディスクドライブ、光学ディスク(例えばコンパクトディスクリードオンリーメモリ(CD−ROM)、デジタル多用途ディスク(DVD)など)の記録可能なタイプのメディア、デジタル及びアナログ通信リンクのような送信タイプ手段を含むが、それらに限定されない。
【0209】
実施例は特定の代表的な実施例を参照して説明したが、これらの実施例に対して様々な改良及び変更が可能であることは明らかでる。従って、明細書及び図面は限定的な意味ではなく、概要の意味で考えるべきである。前述の明細書は特定の代表的な実施例を参照して説明を提供している。続く請求項に記載された本発明の上位概念及び範囲から離れることなく、様々な改良が可能であることは明らかである。従って、明細書及び図面は限定的な意味ではなく、概要の意味で考えるべきである。
【技術分野】
【0001】
本開示は、概括的には、ビデオ処理及びビデオアプリケーションのシステム、装置、及び方法に関するものである。
【0002】
本出願は、“Video Processing and Applications Server”と題し、2006年6月16日に出願した米国特許出願番号第60/814,383号明細書の優先権を主張するものである。
【0003】
本出願は、本発明の開示と同一の譲受人を有する、“MOBILE IMAGING APPLICATION,DEVICE ARCHITECTURE,SERVICE PLATFORM ARCHITECTURE AND SERVICES”と題し、2006年2月16日に出願した同時係属の米国特許出願番号第11/357,661号に関するものである。その出願の出願人は本出願の出願人でもある。
【0004】
本出願は、本発明の開示と同一の譲受人を有する、“COMPRESSION RATE CONTROL SYSTEM AND METHOD WITH VARIABLE SUBBAND PROCESSING”と題し、2005年9月20日に出願した同時係属の米国特許出願番号第11/232,165号に関するものである。その出願の出願人は本出願の出願人でもある。
【0005】
本出願は更に、本発明の開示と同一の譲受人を有する、“MULTIPLE TECHNIQUE ENTROPY CODING SYSTEM AND METHOD”と題し、2005年9月21日に出願した同時係属の米国特許出願番号第11/232,726号に関するものである。その出願の出願人は本出願の出願人でもある。
【0006】
本出願は更に、本発明の開示と同一の譲受人を有する、“PERMUTATION PROCRASTINATION”と題し、2005年9月21日に出願した同時係属の米国特許出願番号第11/232,725号に関するものである。
【0007】
本出願は更に、本発明の開示と同一の譲受人を有する、“MOBILE IMAGING APPLICATION, DEVICE ARCHITECTURE, SERVICE PLATFORM ARCHITECTURE”と題し、2005年10月12日に出願した同時係属の米国特許出願番号第11/249,561号に関するものである。その出願の出願人は本出願の出願人でもある。
【0008】
本出願は、本発明の開示と同一の譲受人を有する、“VIDEO MONITORING APPLICATION, DEVICE ARCHITECTURE,AND SYSTEM ARCHITECTURE”と題し、2005年10月13日に出願した同時係属の米国特許出願番号第11/250,797号に関するものである。その出願の出願人は本出願の出願人でもある。
【0009】
特許、特許出願及び様々な出版物を含む可能性のある幾つかの引用文献を、本発開示の説明において引用して説明する。これらの引用文献の引用及び/又は説明は、単に本開示の記載を明確にするために提供されたものであり、引用文献が以下に説明する本開示に対する「先行技術」であることを認めるものではない。
【背景技術】
【0010】
直接デジタル化された画像及びビデオはリソース集約に利用でき、画像及びビデオは、保存、送信、及び他の目的のために圧縮可能である。例えば、圧縮は3つの段、即ち変換、量子化、そしてエントロピー符号化によって特徴づけることができる。ほとんどの画像及びビデオ圧縮器は、変更してこの基本アーキテクチャを共有している。
【0011】
ビデオ圧縮器における変換段において、画像又は連続画像における局所的な類似性及びパターンを利用して、元画像のエネルギー又は情報をできるだけコンパクトな形式に圧縮することができる。圧縮器は、典型的には入力毎に異なる圧縮レベルで圧縮する。例えば、圧縮器は「典型的な」入力に対して良好に機能し、「ランダムな」又は「異常な」入力に対する圧縮の失敗を無視するように設計できる。多くの画像圧縮、及びMPEG−2及びMPEG−4などのビデオ圧縮法は、変換段として離散コサイン変換(DCT)を使用している。
【0012】
量子化は、変換段の後に情報を切り捨てる可能性があり、従って、時には再構成されて解凍された画像は元画像を正確に再現しない可能性がある。エントロピー符号化は、概括的にはロスレスな処理であり、即ちこの処理は、量子化後に残された情報を取得し、復号器において再現可能なように符号化する。従ってどの情報を切り捨てるべきかについての設計判断は、次のエントロピー符号化段によって影響されないことになる。
【0013】
DCTベースのビデオ圧縮/解凍(コーデック)技術は、場合によっては、例えばスタジオ作成のビデオコンテンツの放送及びストリーミングのために発展してきたが、例えばコンピュータワークステーション上で高い複雑性を有する符号器を動作させることができるスタジオ環境におけるビデオコンテンツの符号化に関係している。このような計算的に複雑な符号器は、民生用再生デバイスにおいて計算的に単純で比較的安価な復号器(プレーヤ)を導入することを可能にする。
【0014】
しかし図1に示すように、符号器/復号器技術における非対称性のために、再生のみならず、自身においてビデオメッセージのキャプチャと圧縮が同時になされるテレビ電話などのモバイルマルチメディアデバイスにおいて、利用可能なプロセッサ能力を使用した完全なテレビサイズのビデオコンテンツの圧縮をサポートすることが困難になる可能性がある。その結果、図2に示すように、モバイルデバイスにおけるビデオは、他の民生用製品と比較して非常に小さなサイズ及び非常に低いフレームレートに限定されうる。
【0015】
DCTベースの技術を使用したビデオ編集及び他のビデオ処理アプリケーションは、完全に又は部分的に復号化されたビデオを編集、又は他の処理をして、出力及び後の販売のために、その編集又は他の処理がなされたビデオデータの圧縮を行う前に、圧縮ビデオ入力データの完全又は部分的な復号化が必要になる可能性がある。従って、DCTベースのビデオ編集及び他の処理アプリケーションの計算の複雑性は、汎用のパーソナルコンピュータ(PC)の中央演算処理装置(CPU)に基づく多くの標準サーバコンピュータの計算能力を超える可能性がある。
【0016】
むしろ、ビデオ編集及び他の処理アプリケーションは典型的には特有のビデオアプリケーションサーバコンピュータを利用し、ビデオ処理はデジタル信号プロセッサ(DSP)、特定用途集積回路(ASIC)、マルチメディア処理器、及び再構成可能処理デバイス(RPD)を含むがそれらのデバイスに限定されない、特有のデータ処理素子の組み合わせを使用して実行できる。このような特有のビデオデータ処理素子の数、コスト、及び消費電力は、汎用PCのCPUに基づく標準サーバコンピュータと比較して、非常に高いコスト、消費電力へとつながる。しかし、新興のモバイルビデオサービスの商用展開のためには、このようなビデオ編集及び他の処理を多数のサービス加入者に同時に提供し、対応するビデオアプリケーションサーバを展開して、維持するコストをできるだけ低くすることが必要になる。
【発明の概要】
【0017】
本開示の様々な実施例は、例えば以下のようなものを1つ以上を含む、様々なビデオ処理及び他の処理を含むことができる。
・圧縮、
・完全な又は部分的な解凍、
・切り取り、トリミング、遷移効果の挿入、再配置、露出調整、バックライトの補正、カメラ撮像素子(典型的にはCMOS,CCD又は類似の素子)の限定された光感度の補正、カメラモジュールのレンズに由来する歪みの補正、ビデオ記録中に発生するカメラジッタ、画像背景の変更、及び赤目補正を含むがそれらに限定されない、完全に又は部分的に解凍されたビデオの編集、
・本開示のビデオフォーマットと、他の標準規格ベース、及び/又は適切なビデオフォーマットとの間の変換を含むトランスコーディング、
・ビデオ圧縮レベル、ビットレート、フレームレート、画像サイズ、及び異なるデバイスと画面サイズとの間の再生互換性のための圧縮フォーマットを含む変換、
・ビデオ検索アプリケーションのためのメタデータのタグ化及び埋め込み、
・安全性及び権利管理のための電子透かし、
・(データベースにおける場合も含む)ビデオ保存、検索、読み出し、
・ミュージックビート、ビデオカット、場面変更、視点変更、露出及びコントラスト特性、動作レート、動作の方向及び連続性、照明効果(太陽対蛍光など)、顔、赤目、ストックシーン及び電子透かしを含む画像及びビデオコンテンツの認識、測定、及び分類。
【0018】
本開示の幾つかの実施例において、ビデオアプリケーションサーバ上で動作し、上記のビデオ処理機能の様々な組み合わせをサポートするように設計されたビデオアプリケーションは、以下の1つ以上を含むことができるがそれらに限定されない。
・圧縮、
・解凍、
・切り取り、トリミング、遷移効果の挿入、露出の調整、バックライトの補正、赤目補正、音声トラックのビートの同期、ストックタイトル及びストックシーンの挿入、テンプレートの適用、カメラ動作の修正、合成の改良、
・本開示のビデオフォーマットと、他の広く展開された標準規格に基づく適切なビデオフォーマットとの間の変換を含むトランスコーディング、
・ビデオ圧縮レベル、ビットレート、フレームレート、画像サイズ、及び異なるデバイスと画面サイズとの間の再生互換性のための圧縮フォーマットの改良を含む変換、
・ビデオ検索索引付加のためのメタデータのタグ化及び埋め込み、又は他の編集アプリケーション、
・(データベースにおいても含む)ビデオ記録、検索、読み出し、
・デジタル著作権管理(DRM)、
・フィードを介してユーザ作成ビデオを他の受信者に配信するためのRSS(本当に単純なシンジケーション)アプリケーション、
・画像及びビデオコンテンツの認識、評価、及び分類。
【0019】
幾つかの実施例において、ビデオアプリケーションサーバ上で動作して上記のビデオ処理機能の様々な組み合わせをサポートする、上記のビデオアプリケーションの組み合わせによってサポートされるビデオサービスは、以下の1つ以上を含むことができるがそれらに限定されない。
・ビデオメッセージング、共有及びブロギング:非同時の、つまりRSSフィードによる場合も含めた記録と転送、
・ビデオIMS:IPネットワークを超えた瞬間メッセージングサービス、つまり同時のビデオ送信及びストリーミング、
・ビデオ通話:IP、TM又は回路交換方式のネットワークを超えた同時通話、
・ビデオメール:音声メールに類似しており、通話された電話の相手が電話に応答しない場合にビデオメールを残す、
・ビデオ会議、例えば複数のユーザ間のピア・ツー・ピアネットワーク、
・携帯電話上でキャプチャしたビデオクリップの携帯電話又はネットワーク又はウェブベースのサーバ上での手動又は自動編集、
・オンラインビデオ保存、アルバム、ブログなど、
・キャプチャ/編集/保存したビデオクリップ及びアルバムの共有、
・アクセス管理、即ち誰がいつアクセスしたかを明確にし、誰が出現したか又は素材を要求したかを見つける、
・タグ化と、データベースの保存、検索、及び読み出しと、プレビューと、ダウンロード(ソフトコピー)と、ビデオのハードコピー(DVD)の注文
・以下を含む個人のマルチメディア市場サービス、即ち、
○「ソフト」コピー(ダウンロード)又は「ハード」コピー(DVD)のプレビュー、共有、購入、販売、
○索引付加、RSSフィードのためのメディア「タグ化」、
○既存のオンライン市場(例えばイーベイ、グーグル、ヤフー、マイクロソフト、他のポータル)へのインターフェース、
・友人及び公開ソースから購入した素材との比較、対比、並置。
【0020】
幾つかの実施例において、ビデオアプリケーションサーバ上で動作し、上記のビデオ処理機能の様々な組み合わせをサポートする上記のビデオアプリケーションの組み合わせによってサポートされた、上で特定された1つ以上のビデオサービスを展開するためのビデオシステムは、以下の1つ以上を含むことができるがそれらに限定されない。
・回路交換方式のモバイル携帯ネットワーク、固定無線ネットワーク、地上通信線電話ネットワーク、地上ケーブルネットワーク、地上セキュリティネットワーク、又は衛星ネットワーク、
・IPベースのモバイル携帯ネットワーク、モバイルメッシュネットワーク、モバイルアドホックネットワーク、固定無線ネットワーク、地上電話ネットワーク、地上データネットワーク、又は衛星ネットワーク、
・集中型の固定/モバイル無線ネットワーク、
・他の無線又は有線データネットワーク、即ちATMなど。
【0021】
本開示の幾つかの実施例は、以下の1つ以上に対する、方法、デバイス、アプリケーション、システム及びサービスを含むことができる。即ち、
ビデオ画像記録、送信、保存、編集、処理、トランスコーディング、検索、読み出し、共有、配信、及びマーケティング、モバイルデバイス及びビデオ処理/アプリケーションサーバ、対応するモバイルデバイス及びビデオ処理/アプリケーションサーバアーキテクチャ、サービスプラットフォームアーキテクチャ、及び上記に関するネットワーク及び他のシステムサービスのみならず、無線及び有線ネットワーク及びシステムを越えて静止画及びビデオ画像を送信、保存、編集、処理、トランスコーディング、検索、読み出し、共有、配信及びマーケティングし、それらを表示可能デバイス上で視聴する方法及びサービス。
【0022】
本開示の実施例は、画像記録及び処理技術、及びモバイルデバイス、ビデオ処理/アプリケーションサーバのアーキテクチャにおける対応する改良、及びサービスプラットフォームを更に具える。本開示は更に、モバイルビデオサービスの端末相互間機能及び性能を具える。これらは、モバイルデバイス中の撮像装置モジュールにおいてキャプチャされた手ぶれカメラ動き補償情報などの情報を、次の携帯電話デバイス、モバイルネットワークにおけるビデオ処理アプリケーションサーバ、及び/又は受信ビデオ再生デバイスにおけるビデオコーデックの1つ以上に渡すことによって可能になる。
【0023】
次にこれらの情報は、例えば、別の方法で入力ビデオデータからビデオコーデックによって抽出できる追加の動き補償情報を与えることによって、ビデオコーデックの計算要件を更に低減するために使用できる。これらの情報は、モバイルネットワークにおいてビデオ処理アプリケーションサーバにおける次に実行される編集及び更にビデオ処理中に、モバイルデバイスにおいてビデオキャプチャ中に発生するカメラ動作を更に補償するためにも使用できる。これらの情報は、モバイルネットワークにおけるビデオ処理アプリケーションサーバ、及び/又は受信ビデオ再生デバイスにおいて次に実行される編集及び更にビデオ処理中に、モバイルデバイスのカメラモジュール中でのビデオ処理を介して以前に除去された、カメラ動作の効果を再形成するために使用することもできる。
【0024】
本開示の態様は更に、以下の1つ以上を具えることができる。
1.ビデオ又は静止画を圧縮及び/又は解凍するためのソフトウェアビデオコーデック/テレビ電話デバイスアプリケーション、
2.圧縮、解凍、編集、トランスコーディング、検索アプリケーションのためのタグ化及び組み込み、保存、データベース化、検索、読み出し、及び配信するためのソフトウェアビデオ処理アプリケーション、
3.ソフトウェア処理アプリケーションとモバイル携帯電話のためのソフトウェアビデオコーデック/テレビ電話アプリケーションと連動してビデオメッセージを展開してサービスを共有するための、モバイルマルチメディアサービス(MMS)インフラサーバコンピュータ及びアプリケーションを含む、インフラ製品、方法及び処理、
4.モバイルビデオメッセージング、共有、及びブロギングと、ビデオストリーミング及びビデオ通話と、モバイルデバイス上におけるモバイルユーザによって作成されたビデオコンテンツの作成及びマーケティングをサポートするパーソナルメディアプロデューササービスとを含む、革新的なMMSサービスを構築、有効化、販売、及び動作させるための方法、プロセス、及びビジネスプロセス。
【図面の簡単な説明】
【0025】
【図1】一実施例によるビデオコーデックの計算要件を示している。
【図2】一実施例によるモバイルデバイス及びサービスにおけるビデオ画像サイズの制限を示している。
【図3】一実施例によるモバイル画像サービスプラットフォームアーキテクチャを示している。
【図4】一実施例によるモバイル画像携帯電話アーキテクチャを示している。
【図5】一実施例によるビデオ処理及びアプリケーションサーバ機能のブロック線図を示している。
【図6】一実施例によるビデオ処理及びアプリケーションサーバアーキテクチャを示している。
【図7】一実施例による流通したビデオ編集システムアーキテクチャを示している。
【図8】一実施例によるビデオコーデック技術の比較を示している。
【図9】一実施例による、低減されたビデオコーデックの計算要件を示している。
【図10】一実施例による改良されたモバイル画像携帯電話構造を示している。
【図11】一実施例による改良されたビデオ処理及びアプリケーションサーバアーキテクチャを示している。
【図12】一実施例による代替の改良されたビデオ処理及びアプリケーションサーバアーキテクチャを示している。
【図13】一実施例による改良されたビデオ処理及びアプリケーションサーバアーキテクチャの全てがソフトウェアによる実装を示している。
【図14】一実施例による改良されたビデオ処理及びアプリケーションサーバアーキテクチャの全てがハードウェアによる実装を示している。
【図15】一実施例による改良されたビデオ処理及びアプリケーションサーバアーキテクチャのソフトウェアとハードウェアの複合型実装を示している。
【図16】一実施例による改良された流通したビデオ編集システムアーキテクチャを示している。
【図17】一実施例による改良されたモバイル画像サービスプラットフォームアーキテクチャを示している。
【図18】一実施例による、トランスコーディングの必要性を排除して、既存のビデオ処理/アプリケーションサーバがビデオフォーマットを処理可能とする自己復号化ビデオMMSを示している。
【図19】一実施例による展開されたビデオ処理及びアプリケーションサーバのOTN更新を示している。
【図20】一実施例による推定されるメディア生成者サービスを展開するのに必要なビデオ編集サーバの複雑性、コスト及び数を示している。
【図21】一実施例による改良されたビデオメッセージング/共有/通話プラットフォームの機能要素を示している。
【図22】一実施例によるより高品質なマルチメディア携帯電話及びサービスのより高速、低コストの発展及び展開を示している。
【図23】一実施例による広帯域マルチメディアデバイス及びサービスに対するアプリケーションを示している。
【図24a】ユーザ及びシステム管理者と相互作用するビデオ編集システムの一実施例を示している。
【図24b】SSPを介してTIPと通信するためのVESクライアントの一実施例を示している。
【図25】SSPを介してTIPと通信するためのVESクライアントの工程の一実施例を示している。
【図26】SSPを介してTIPを通信するためのVESクライアントの別の工程の一実施例を示している。
【図27】SSPを介してデータベースを通信するVESクライアントの工程の一実施例を示している。
【図28】ウェブサイトと通信するための受信PCの工程の一実施例を示している。
【図29】テンプレートエディタの工程の一実施例を示している。
【図30】テンプレートエディタの別の工程の一実施例を示している。
【図31】スクリーンショットの一実施例を示している。
【図32】スクリーンショットの一実施例を示している。
【図33a】スクリーンショットの一実施例を示している。
【図33b】スクリーンショットの一実施例を示している。
【図34】スクリーンショットの一実施例を示している。
【図35】スクリーンショットの一実施例を示している。
【図36】スクリーンショットの一実施例を示している。
【図37】スクリーンショットの一実施例を示している。
【図38】スクリーンショットの一実施例を示している。
【図39】スクリーンショットの一実施例を示している。
【図40】スクリーンショットの一実施例を示している。
【図41】スクリーンショットの一実施例を示している。
【図42】スクリーンショットの一実施例を示している。
【図43】スクリーンショットの一実施例を示している。
【図44】スクリーンショットの一実施例を示している。
【図45】スクリーンショットの一実施例を示している。
【図46】スクリーンショットの一実施例を示している。
【図47】スクリーンショットの一実施例を示している。
【図48】スクリーンショットの一実施例を示している。
【図49】スクリーンショットの一実施例を示している。
【図50】スクリーンショットの一実施例を示している。
【図51】スクリーンショットの一実施例を示している。
【図52】スクリーンショットの一実施例を示している。
【図53】スクリーンショットの一実施例を示している。
【図54】スクリーンショットの一実施例を示している。
【図55】スクリーンショットの一実施例を示している。
【0026】
以下の説明及び図は概略を示すものであり、それらに限定するものとして解釈されるべきではない。数値的に明確な詳細は、本開示の完全な理解を提供するために記載されている。しかし、場合によっては記載を曖昧にすることを防止するために、既知又は一般的な詳細は記載されていない。本開示における1つの実施例への1つの参照は、同一の実施例への複数の参照とすることができるが、必ずしもそのように解する必要はなく、このような複数の参照は、少なくとも1つの参照を意味している。
【0027】
この明細書における「一実施例」への参照は、実施例に関連して記載された特徴、構造又は特性が、本開示の少なくとも一実施例において含まれていることを意味している。明細書における様々な位置での「一実施例」という語句の出現は、必ずしも全てが同一の実施例を参照しているわけでも、他の実施例を単に除外する別々の又は代替の実施例であるわけでもない。更に、特定の実施例によってのみ示すことができる様々な特徴が記載されている。同様に、特定の実施例にのみ必要となりうる様々な要件が記載されている。
【0028】
画像処理
ウェーブレット変換は、1次元又は2次元以上においてウェーブレットフィルタペアをデータセットに対して繰り返し適用するステップを含むことができる。静止画圧縮のために、2−Dウェーブレット変換(水平及び垂直)を利用できる。本開示によるビデオコーデックは、3−Dウェーブレット変換(水平、垂直、及び時間)を使用できる。単一のコーデックにおいて静止画とビデオ画像の処理に対する同時サポートを可能にするのみならず、モバイルデバイスにおける計算の複雑性及び消費電力をDCTベースコーデックに必要なものより大きく低減するために、対称3−Dウェーブレットベースのビデオ圧縮/解凍(コーデック)デバイスを使用できる。
【0029】
単一のコーデックにおける静止画とビデオ画像に対する同時サポートは、別々のMPEG(ビデオ)及びJPEG(静止画)コーデックの必要性を除去又は低減させ、あるいは、例えばモーションJPEGコーデックに関して圧縮性能つまり保存効率を著しく向上させることができる。対称3−Dウェーブレットベースのビデオ処理デバイスを使用して、計算の複雑性及び消費電力を低減され、ユーザ作成ビデオのデータベースの保存、検索及び読み出しのみならず、ユーザ作成ビデオの自動又は手動の編集をサポートするように利用されるMMSインフラ装置によってサポート可能な、同時モバイル加入者の数が増加する。
【0030】
一実施例の態様は、モバイルビデオメッセージング、共有、及びブロギングと、ビデオストリーミング及びビデオ通話と、モバイルデバイス上においてモバイルユーザによって作成されたビデオコンテンツの作成及びマーケティングとをサポートするパーソナル「メディアプロデューサ」サービスとを含む、新世代の革新的MMSビデオサービスを提供する。本開示の態様によるモバイル画像サービスプラットフォームアーキテクチャの構成要素(図3を参照)は、
・モバイル携帯電話、
・モバイルベースステーション(BTS)、
・ベースステーションコントローラ又はラジオネットワークコントローラ(BSC/RNS)及びモバイルスイッチングセンタ(MSC)、
・ゲートウェイサービスノード(GSN)、
・モバイルマルチメディアサービスコントローラ(MMSC)、
の1つ以上を具えることができる。
【0031】
本発明の開示の態様によるMMSCに含まれる典型的な機能は、
・ビデオゲートウェイ
・電気通信サーバ
・MMSアプリケーションサーバ
・保存サーバ
の1つ以上を具えることができる。
【0032】
本開示の態様によるMMSCにおけるビデオゲートウェイは、撮像サービスプラットフォームによってサポートされる、異なるビデオフォーマット間でトランスコーディングするように機能させることができる。トランスコーディングは、モバイル電話ネットワークにおいて使用される、異なる音声コーデックをサポートするように無線運営者によっても利用され、対応する音声トランスコーダをRNCに統合できる。
【0033】
図3に示すようなアーキテクチャを有するモバイル撮像サービスプラットフォームのアップグレードは、新たな携帯電話を展開及びMMSCビデオゲートウェイに新たなハードウェアの手動による追加を含むことができる。幾つかのモバイルビデオメッセージング及び共有アプリケーションにおいて、トランスコーディングに関するコスト及び複雑性が除去される。本開示の一態様は、送信されたビデオストリームの各々を使用したソフトウェアデコーダを組み込めることであり、共通の携帯電話及びPCビデオプレーヤ上における「自己再生」機能が可能になる。
【0034】
MMSCにおけるMMSアプリケーションサーバは、データベースの保存、検索、及びユーザ作成ビデオの読み出し、及びユーザ作成ビデオの自動又は手動の編集のようなアプリケーションをサポートできる。DCTベースのビデオを使用するこのようなビデオ編集機能及び他の処理アプリケーションの実装に関係する計算の複雑性は、一般的な目的のパーソナルコンピュータ(PC)中央演算処理装置(CPU)に基づく多くの標準サーバコンピュータの計算能力を超える。
【0035】
本開示の態様によれば、将来性のある新たなモバイルビデオサービスの商用展開は、多数の同時サービス受信者に対するビデオ編集及び他の処理の提供、及び対応するビデオアプリケーションサーバの展開及び維持コストを可能な限り低くすることを含むことができる。新たな又は特有のハードウェアが必要な場合には、MMSCインフラのアップグレードにも費用がかかる。携帯電話の自動無線(OTA)ソフトウェアアップグレード、MMSCビデオゲートウェイの無線(OTN)ソフトウェアアップグレード、及び標準PC及びサーバを使用するモバイルビデオアプリケーションのサポートを可能にするために、SWアプリケーション及びサービスプラットフォームが好ましいだろう。
【0036】
本開示の態様は、モバイルデバイスに関連するビデオコンテンツの革新的なキャプチャ、圧縮、送信、編集、保存及び共有に関する新たな方法、サービス及びシステムを具える。本開示の態様は、電気通信会社(無線及び有線プロバイダ双方)及びインターネット、ケーブル、及び固定及びモバイル無線サービスプロバイダを含む他のデータ及びマルチメディア運営者に適用できる。本開示による態様は、よりリッチなコンテンツ、高い帯域幅利用及びユーザ当たりの高い平均収益(ARPU)を提供できる。
【0037】
本開示の態様によるモバイルマルチメディアサービスは、革新的なビデオメッセージング、共有、ブロギング、及び対象の顧客が個人情報に通信することが可能になるパーソナル「メディアプロデューサ」アプリケーションを含む。モバイル画像メッセージング及び共有は、ユーザが送信したいビデオメッセージをキャプチャ(エンコード)して、受信したビデオメッセージを再生(デコード)できるように、モバイル携帯電話に追加のデジタルカメラ機能(静止画)及び/又はテレビ電話機能(ビデオ画像)が必要になる可能性がある。
【0038】
本開示の態様によれば、モバイルデバイスは、統合された民生用マルチメディアエンターテインメントプラットフォームへと発展できる可能性がある。業界における多くの投資は、(ニュースクリップ、スポーツハイライト、及び人気テレビ番組の特別「モビソード」など)再パッケージされた放送テレビプログラミング、及び他の(映画プレビュー及び音楽ビデオなどの)スタジオ作成ビデオコンテンツを、モバイルデバイスに送信して視聴できる技術やプラットフォームに向けられている。この後者の場合において、モバイル加入者はビデオ消費者の新たなクラスとして開拓される。しかしこの後者の場合は、概して大規模な放送企業のサーバにおいて圧縮されたビデオコンテンツを利用する。
【0039】
しかし本開示の態様によれば、世界中のモバイル運営者は、彼らの加入者を単なるメディア消費者ではなく、(本開示の態様によって可能になるように)メディアプロデューサとしてサポートする新たな重要な機会も得る。本開示の態様によって可能になるように、単体のデジタルカメラ及びテレビ電話と同一の品質で、モバイルデバイス上で写真及びビデオをキャプチャして共有できることは、より高速な携帯及び固定無線データネットワークの展開及び集中と共に、これらの新たなサービスに対して技術的に不可欠である。
【0040】
本開示の態様は更に、テレビ電話通話及びビデオメッセージング/共有インフラ装置の双方の開発コスト及び販売価格における著しい低減を可能にし、これは成長した市場及び新興市場双方において、このような新規デバイス及び関連するモバイルマルチメディア/データサービスの大規模な商用採用に対する鍵となりうる。
【0041】
モバイル画像メッセージング/共有サービス及びアプリケーションは、テレビ、パーソナルコンピュータ、デジタルビデオテレビ電話、及びパーソナルメディアプレーヤのような、他のマルチメディアデバイス(図2を参照)において典型的にキャプチャされて表示されるものよりも、非常に小さなサイズで非常に低いフレームレートのビデオ画像のキャプチャ及び送信に限定されうる。本開示の態様によって提供されるように、30fpsのフレームレートにてVGA(又はそれより大きな)ビデオが可能なモバイル画像メッセージングサービス及びアプリケーションであることが好ましい。
【0042】
本開示の態様は、以下の1つ以上を含むことができるソフトウェアモバイル画像アプリケーションサービスプラットフォームを更に具える。
1.展開した携帯電話の自動無線(OTA)ソフトウェアアップグレードのサポート、
2.展開したMMSCの自動ネットワーク越え(OTN)ソフトウェアアップグレードのサポート、
3.標準PC及び標準サーバを使用したモバイルビデオアプリケーション及びサービス展開のサポート、
4.より少数のサーバによる、より多数の同時モバイルビデオサービス加入者のサポートを可能にすること、
5.ネットワークの携帯電話においてビデオトランスコーディングをする必要なく、モバイルビデオアプリケーション及びサービス展開するサポート、
6.デジタルテレビ電話及びテレビのような民生用マルチメディアデバイス上でキャプチャして表示されるのと同様のフルサイズ及びフルフレームレートのビデオ画像をキャプチャして送信することをサポートする、モバイルビデオデバイス、アプリケーション及びサービスを可能にすること、
などである。
【0043】
本開示の態様によるモバイル携帯電話及びMMSサーバアプリケーションのJava実装は、ウイルス、ワーム、及び他の「攻撃」に対する携帯電話/ネットワークの堅強性のために使用でき、一実施例において、モバイルネットワーク運営者が国内の当局者によって要求されるサービスの品質及び信頼性の提供を可能にする。
【0044】
本開示の実施例において、モバイル携帯電話へのデジタルテレビ電話機能の追加は、概括的には、ハードウェア、ソフトウェアにおいて、又はハードウェアとソフトウェアの組み合わせとして、以下の機能の追加に関係している。
・対応するプリアンプ及びアナログ/デジタル(A/D)信号変換回路を有する撮像装置アレイ(典型的にはCOMS又はCCDピクセルのアレイ)
・前処理、符号化/復号化(codec)、後処理などの画像処理機能
・無線又は有線ネットワークに亘る非同時送信又は同時ストリーミングのための処理された画像のバッファリング
・1つ以上の画像表示画面
・内蔵又はリムーバブルメモリ上への局所的な画像の保存
【0045】
MPEG−4のようなDCT変換に基づくコーデックを使用する場合、市販の撮像可能モバイル携帯電話は、テレビ、パーソナルコンピュータ、デジタルビデオテレビ電話及びパーソナルメディアプレーヤのような他のマルチメディアデバイス上で典型的にキャプチャして表示されるものよりも、小さなサイズで低いフレームレートのビデオ画像のキャプチャに限定される。これら後者のデバイスは、典型的にはVGAフォーマット(640x480ピクセル)以上の大きさで、表示速度が30フレーム/秒(fps)にてビデオ画像をキャプチャ/表示するのに対して、市販の撮像可能モバイル携帯電話は、例えばQVGAフォーマット(320x240ピクセル)、QCIFフォーマット(176x144ピクセル)、またはそれより小さなサイズで、例えば15fps以下の表示速度にてビデオ画像をキャプチャすることに限定されうる(例えば図2を参照)。
【0046】
この低減されたビデオキャプチャ能力は、典型的には、DCT変換を使用したビデオ圧縮/解凍に関連する計算ステップの数、型、及びシーケンスを完了するのに必要な大きな計算要件、プロセッサの消費電力、及びバッファメモリによるものとすることができる。
【0047】
市販のビデオコーデック及びマイクロプロセッサ技術の使用は、VGA(又はそれ以上の)ビデオを30fps以上のフレームレートでキャプチャすることを対象にするモバイル画像携帯電話に対して、非常に複雑で電力を必要とする高価なアーキテクチャへとつながる。これらの携帯電話アーキテクチャは、大きなバッファメモリブロック(典型的には1メガバイト以上のメモリ容量)と、縮小命令セットコンピュータ(RISC)プロセッサ、デジタルシグナルプロセッサ(DSP)、特定用途集積回路(ASIC)及び再配置可能処理デバイス(RPD)の組み合わせ上で動作するソフトウェアプログラム及びハードウェアアクセラレータの双方の組み合わせを有するコーデックを利用している。
【0048】
これらのコーデック機能は、RISCプロセッサ、DSP、ASICマルチメディアプロセッサ、及びRPDを、別々の集積回路(IC)として使用して実装でき、又はRISCプロセッサ、DSP、ASICマルチメディアプロセッサ、及びシステム・イン・パッケージ(SIP)又はシステム・オン・チップ(SoC)、及びRPDの1つ以上を、組み合わせて一緒に集積させることができる。
【0049】
RISCプロセッサ又はDSP上で動作するコーデック機能は、ソフトウェアルーチンとすることができ、プログラミングエラーを訂正する又は機能をアップグレードするために変更できる利点を有する。所定の複雑で反復的なコーデック機能をソフトウェアで実装する不利点は、結果として得られる全体のプロセッサリソース及び消費電力要件が、典型的にはモバイル通信デバイスにおけるリソースを超えることである。ASIC及びマルチメディアプロセッサ上で動作するコーデック機能は、典型的には複雑で反復的な計算ステップの固定されたハードウェア実装であり、典型的には特にオーダーメイドのハードウェアアクセラレーションの場合、コーデック全体の消費電力を著しく低減できる利点を有する。
【0050】
固定されたハードウェアに所定のコーデック機能を実装する不利点には、長くより高価な設計サイクル、固定されたシリコンデバイス実装においてエラーが発見された場合における高価な製品リコールの危険性と、新たに開発された特性を画像アプリケーションに追加できる場合における展開された製品において固定されたシリコンデバイス機能をアップグレードできないことが含まれる。RPD上で動作するコーデック機能は、典型的には、完成したモバイル画像携帯電話製品において、ハードウェアアクセラレーション及び機能を追加又は変更する能力の双方を利用するルーチンである。
【0051】
上記のアーキテクチャを簡単化し、量産商用展開と同等のコストを可能にするために、全てがソフトウェアのアーキテクチャを有するモバイル画像携帯電話が、VGA(又はそれ以上の)ビデオを30fpsのフレームレートにてキャプチャできるように、複雑性、反復的なコーデック機能を低減又は削除する画像アプリケーションであることが好ましい。
【0052】
マルチメディア携帯電話は、画像及びビデオメッセージング機能だけでなく、様々な追加のマルチメディア機能(音声、音楽、グラフィック)及び2.5G及び3G携帯アクセス、WiBro,HSDPA,WiFi,無線LAN及びBluetoothを含むがそれらに限定されない、様々な固定及びモバイル無線アクセスモードをサポートすることが要求される。新たな収益を創出するサービス及びアプリケーションをより効率的に展開し、コストのかかる商品リコールを防止するために、これらの製品の開発、展開及びサポートに伴う複雑性及びリスクは、多くの機能及びアプリケーションの無線(OTA)配信及び管理を非常に有益にする。
【0053】
携帯電話製造業者、モバイル通信運営者、及び他のMMSサービスプロバイダによる画像アプリケーションの無線配信及び管理を可能にするように、SW(software)撮像アプリケーションであることが好ましい。本発明はこれらの目的を提供する。
【0054】
本発明の態様は、
1.デジタルテレビ電話及びテレビなどの他の民生用マルチメディアデバイス上において、典型的にキャプチャして表示されるものと同様のフルサイズ及びフルフレームレートのビデオ画像を、キャプチャして送信することをサポートする、モバイルビデオデバイス、アプリケーション及びサービスを可能にすること、
2.展開した携帯電話の自動無線(OTA)ソフトウェアアップグレードをサポートすること、
の1つ以上を含む。
【0055】
本開示の態様によれば、モバイル携帯電話アプリケーションのJava実装は、ウイルス、ワーム及び他の「攻撃」に対する携帯電話/ネットワークの堅強性のために使用でき、一実施例において、モバイルネットワーク運営者は、国内の当局者によって要求されるサービスの品質及び信頼性を提供できる。
【0056】
一実施例において、MMSビデオサービスは、モバイルビデオメッセージング、共有及びブロギングと、ビデオストリーミング及びビデオ通話と、モバイルデバイス上でモバイルユーザによって作成されたビデオコンテンツの作成及びマーケティングをサポートするパーソナル「メディアプロデューサ」サービス、自動ビデオ編集、ビデオ「撮影後編集」及びモバイル携帯電話及び/又はMMSCアプリケーションサーバにおいて提供される他のビデオ処理アプリケーションとを含む。しかし、これらの機能の商用展開は、多くの同時サービスユーザに対するビデオ編集及び他の処理を提供し、対応するビデオアプリケーションサーバのコストを可能な限り低くすることを含む。
【0057】
図5は、一実施例によるビデオ処理及びアプリケーションサーバに対する機能ブロック線図を示している。ビデオ入力データは、典型的には圧縮されたフォーマットにあり、ビデオ処理アルゴリズムをビデオ入力データに実装する前に完全に又は部分的に復号できる。処理されたビデオは、出力、及び後の送信及び配信のために再び圧縮できる。ビデオ処理機能は、
・圧縮、
・解凍、
・切り取り及び遷移効果のような一連の編集、及びカラー補正、フェード、及びジッタ除去のような画像コンテンツ編集を含む編集、
・タイトルの追加、又は選択したビデオのカットを作成テンプレートに挿入するような撮影後編集、
・本ウェーブレットフォーマットと他の一般に展開されている標準規格ベースで適切なビデオフォーマットとの間の変換を含むトランスコーディング、
・圧縮レベル、ビットレート、フレームレート、画像サイズ、及び異なる装置及び画像サイズ間の再生互換性のための圧縮フォーマットの変換、
・検索アプリケーションのためのメタデータのタグ化及び組み込み、
・保存(データベース、検索、読み出しにおける場合を含む)、
・来歴、所有権、承認及びライセンス制限の監査を含むコンテンツの管理、
の1つ以上を含むことができる。
【0058】
DCTベースのビデオ編集及び他の処理アプリケーションの計算の複雑性は、汎用のパーソナルコンピュータ(PC)の中央演算処理装置(CPU)に基づくサーバコンピュータの計算能力を超えうる。ある場合には、ビデオ編集及び他の処理アプリケーションは、特有のビデオアプリケーションサーバコンピュータを利用し、ビデオ処理は、デジタルシグナルプロセッサ(DSP)、特定用途集積回路(ASIC)、マルチメディアプロセッサ、及び再構成可能処理デバイス(RPD)を含むがそれらに限定されない、特有のデータ処理素子の組み合わせを使用して実行できる。
【0059】
図6は、一実施例によるDCTベースのビデオ編集及び他の処理アプリケーションの計算要求を提供するために、代表的なビデオ処理及びアプリケーションサーバアーキテクチャを示している。特有ビデオデータ処理素子の数、コスト及び消費電力は、汎用PCのCPUに基づく標準サーバコンピュータと比較して、特有ビデオサーバの高いコスト及び消費電力へとつながる。
【0060】
本開示の態様は、更に以下の特徴の1つ以上を有するシステムを具えることができる。
1.ビデオ符号化、復号化及び編集のための計算の複雑性を低減すること、
2.モバイルビデオアプリケーションが、特有の高価で電力を必要とするDSP又はASIC以外の低コストで低消費電力のPCのCPUで動作することを可能にすること、
3.多数の特有のビデオアプリケーションサーバに代わるより少ない、高価ではないPCベースのサーバを可能にし、ユーザ当たりの展開稼働コストを低減すること、
4.各ビデオアプリケーションサーバによってサポートできる同時モバイルユーザ数の充分な増加を可能にすること、
5.展開したMMSCビデオアプリケーションサーバの自動無線(OTN)ソフトウェアアップグレードをサポートすること、
6.携帯電話又はネットワークにおいてビデオトランスコーディングする必要なしに、モバイルビデオアプリケーション及びサービスの展開をサポートすること、
などである。
【0061】
[ビデオ編集、アーカイビング、及び読み出しシステム]
一実施例において、モバイルビデオメッセージング、共有及びブロギングや、ビデオストリーミング及びビデオ通話や、モバイルデバイス上でモバイルユーザによって作成されたビデオコンテンツの作成及びマーケティングをサポートするパーソナル「メディアプロデューサ」サービスのようなMMSビデオサービスは、モバイル携帯電話及び/又はMMSCアプリケーションサーバにおける自動ビデオ編集、ビデオの「撮影後編集」、及び他のビデオ処理アプリケーションの1つ以上を提供する。
【0062】
ビデオ作成は、リソースが複数のサイトに亘って物理的に分散された分散プロセスである。例えば、放送産業において、放送業者は所定の作品及び作成後段階のものを特有のスタジオ又は間もなく実現する仮想スタジオに外注する。本開示の態様は更に、モバイルパーソナル「メディアプロデューサ」サービスのための分散仮想スタジオアプリケーションの展開を簡単化して加速する実施例を含む。
【0063】
図7は、一実施例による、ビデオアーカイブ及び読み出し機能をサポートする要素を含む、放送アプリケーションのための分散ビデオ編集システムの機能及び要素を示している。これらのシステムは、放送事業者に分散したビデオの作成後編集に対する完全な解決策を提供する目的で設計されており、保存、読み出し及び編集機能を統合している。
【0064】
一実施例において、本システムは、エンドユーザのためのアーカイブサーバ、編集サーバ、カタログサーバ、及び顧客ステーションを具える。本開示の態様は、単なる放送事業サービス以外に、モバイルパーソナル「メディアプロデューサ」サービスをサポートできる類似の仮想分散スタジオシステムの設計及び商用展開を単純化し、加速することを更に具える。
【0065】
一実施例によれば、図7におけるアーカイブサーバは、低及び高ビットレートにてビデオを保存して、ビデオストリーミング及びファイル転送サービスを提供する。カタログサーバは、ビデオクリップのメタデータが保存されて索引付加されているデータベースを管理できる。顧客ステーションは、低ビットレートにて既存の材料を使用したビデオ編集ばかりでなく、ユーザがアーカイブ及び読み出し作業を行うことを可能にする。放送準備が整った最終的なビデオを作成するために、ユーザが作成した編集リストは次に編集サーバによって処理され、対応する高ビットレート素材に適用される。
【0066】
カタログサーバは、メタデータを抽出するために、自動的にビデオアーカイブの新たなクリップの各々の低ビット版を取得し、それを前処理する。場面間の遷移を検出し、動き特性を分析することによって、ビデオクリップをより小さなセグメントに分解できる。各場面に対して、表示目的のために静止画(キーフレーム)を抽出でき、自動画像索引付加手法が可能になる。動きベクトルから、カメラ及びカメラレンズの動き(例えばパン、チルト、ズーム、静止)特性を計算できる。これらの前処理ステップは、解凍せずに低ビットレートストリーム(典型的にはMPEG−1)上で実行される。
【0067】
一実施例によれば、図7におけるアーカイブツールによって、ドキュメントリストがクリップ前処理アルゴリズムの結果を可視化/編集し、文字注釈を入力することを可能にする。
【0068】
グラフィカルユーザインターフェースは、例えば、ジャーナリスト又はプログラムディレクタが、カタログサーバからの利用可能なメタデータを使用して、アーカイブからビデオ素材を読み出すことを可能にする。項目が選択されたら、それらを編集ツールに出力することが可能である。一実施例によれば、図7における検索ツールによって、文字及び視覚情報を使用してデータベースに問い合わせることが可能になる。文字のクエリーは、アーカイブ処理中に入力された所定の領域にアドレスする。視覚的クエリーは、前処理段の間に抽出されたメタデータにアドレスする。ユーザは画像例を特定し、所望のタイプのカメラ動作を規定する。
【0069】
本開示の実施例は、更に以下を含む。
1.一実施例において、ビデオ符号化、復号化に対する計算の複雑性を低減する。
2.一実施例において、ウェーブレット変換領域におけるビデオ編集ステップ又は作業を実行する。その結果、逆ウェーブレット変換及び順方向ウェーブレット変換の計算の双方を節約し、ピクセルデータ値に対する従来の演算よりも少ないデータ項目にアクセスして変更することによって、計算の節約もできる。
3.一実施例において、モバイルビデオアプリケーションが、特有の高価で電力を必要とするDSP又はASIC以外の低コスト、低消費電力PCのCPU上で実行することが可能になる。
4.一実施例において、より少なく、安価なPCベースサーバが多くの特有ビデオアプリケーションサーバに置き換わることができ、その結果、ユーザ当たりの展開及び動作コストを低減する。
5.一実施例において、オンライン編集システムの全機能の同時実行に必要な計算能力を低減し、これらの同時編集機能のソフトウェア実装を可能にする。
6.一実施例において、モバイル携帯電話、パーソナルメディアプレーヤ、ノート型コンピュータ、及びパーソナルコンピュータ上で、SWクライアントによって自動ビデオ編集及び他の処理に対するエンドユーザサポートを可能にする。
7.モバイルデバイス中の撮像モジュールにおいてキャプチャできる手ぶれカメラ動き補償情報などの情報を、携帯電話デバイスの続くビデオコーデック、モバイルネットワークにおけるビデオ処理アプリケーションサーバ、及び/又は検索ビデオ再生装置の1つ以上に送信することによって可能になる、モバイルビデオサービスの端末相互間機能及び性能の更なる改良を可能にする。
【0070】
ビデオ編集サービス、例えば「自動ビデオ編集システム」は、カメラ、撮像素子(典型的には、CMOS、CCD又は類似のデバイス)の限定された低光感度、及び/又はカメラモジュールレンズに由来する歪みを補正又は訂正してビデオ記録中に発生するカメラジッタを補正するように使用することもできる。
【0071】
一実施例において、このような情報は、次に、例えば入力ビデオデータからビデオコーデックによって別の方法で抽出できる追加の動き補償情報を提供することによって、ビデオコーデックの計算要件を更に低減するように使用することもできる。このような情報は、モバイルデバイスにおけるビデオキャプチャ中に、及びモバイルネットワークにおけるビデオ処理アプリケーションサーバ中で次に実行される編集及び更なるビデオ処理中に発生するカメラ動作を更に補償するように使用することもできる。一実施例によれば、このような情報は、モバイルネットワークにおけるビデオ処理アプリケーションサーバ中、及び/又は検索ビデオ再生装置中で次に実行される編集及び更なるビデオ処理中に、モバイルデバイス中のカメラモジュールにおいてビデオ前処理によって以前に除去されたカメラ動き効果を再形成するように使用することもできる。
【0072】
本開示の実施例を使用して、ここでビデオとホームシネマ品質の放送(例えば30fpsでのVGAフルサイズ画像フォーマット)とを結合させるモバイルビデオサービスが市場に投入される。更に、このような多量の使用データの処理は、モバイル携帯電話における同時ビデオキャプチャ(符号化)に利用可能な計算リソース及びバッテリパワーを超える。
【0073】
場合によっては、放送及びストリーミングアプリケーションのためのビデオコンテンツの符号化は、高複雑性符号器がコンピュータワークステーション上で動作可能なスタジオ環境で実行できる。ビデオメッセージは、携帯電話自身において同時にキャプチャされるため、それらは非常に小さなサイズで非常に低いフレームレートに限定される。
【0074】
本開示の実施例は、モバイル携帯電話及びMMSアプリケーションサーバにアプリケーションとして実装できる、より低い複雑性を有する画像アプリケーション(例えばモバイル携帯電話のためのビデオコーデッククライアント、MMSアプリケーションサーバのためのビデオ編集及び処理アプリケーション)を含み、携帯電話アーキテクチャ及びモバイル画像サービスプラットフォームアーキテクチャの複雑性が低減される。
【0075】
本開示の実施例によれば、ビデオコーデックの解決策は、ベースバンドプロセッサ及びビデオアクセラレータのコスト、及びマルチメディア携帯電話における要件を低減又は削除する。OTAダウンロードによる製造後のコーデックをインストールできることと組み合わせて、この全てがソフトウェアによる解決策は、携帯電話開発及びビデオメッセージングサービスアーキテクチャ及び展開の双方の複雑性、リスク、及びコストを著しく低減する。テレビ電話開発時間の低減及び製品プラットフォームの柔軟性の増加は、更なるテレビ電話コストの低減をもたらす。
【0076】
本開示によるソフトウェアビデオトランスコーダ及び編集、保存、検索、読み出しアプリケーションは、このようなアプリケーションを実行するための標準PC及びサーバの使用のみならず、展開されたMMS制御(MMSC)インフラの自動無線(OTN)アップグレードを可能にする。更に、本発明のウェーブレットトランスコーダは、通信事業者に、ウェーブレットビデオフォーマットと他の標準規格ベース及び独自仕様のビデオフォーマットとの間の完全な相互運用性を与える。本発明の実施例は、送信された各々のビデオストリームに組み込まれたソフトウェア復号器を更に具え、共通の携帯電話及びPVビデオプレーヤ上での「自己再生」機能を可能にし、トランスコーディング全体のコスト及び複雑性を除去する。
【0077】
一実施例において、本ビデオプラットフォームによって新たなMMSサービスの迅速な展開が可能になる。本開示の幾つかの実施例は、他の既存の技術では利用不可能な処理速度及びビデオ作成精度の活用もしている。このような新たなMMSサービスは、それ自身が本発明の態様である。
【0078】
本開示のウェーブレットコーデックは、静止画及びビデオの双方を効率的に処理できる点で唯一でもあり、従って、別々のMPEG及びJPEGコーデックを、モバイルピクチャーメール及びビデオメッセージングサービスの双方を同時にサポート可能な、単一のより低コスト及びより低消費電力の解決策で置き換えられる。本開示の実施例は、手ぶれカメラ動き補償情報のような情報を、携帯電話デバイスにおける次のビデオコーデック、モバイルネットワークにおけるビデオ処理アプリケーションサーバ、及び/又は読み出しビデオ再生デバイスと共有することによって、モバイルビデオサービスの端末相互間機能及び性能を改良することを更に含む。
【0079】
[改良されたウェーブレットベースの画像処理]
本開示の態様は、ビデオ圧縮/解凍(コーデック)デバイスにおいて、例えばDCTベースのコーデックよりも計算の複雑性を極めて小さくする3−Dウェーブレット変換を更に利用している。
【0080】
本発明によれば、図8は、従来のDCT符号器技術と本開示の代表的な技術の相対的な計算要件の比較を提供している。ウェーブレット変換段のアプリケーションもまた、計算の複雑性を大きく低減させた量子化及びエントロピー符号化段の設計を可能にする。
【0081】
一実施例によれば、図9は、本発明の態様によって可能になるビデオコーデックの計算要件の低減を示している。
【0082】
幾つかの実施例において、ウェーブレットコーデック(例えば3−Dウェーブレットコーデック)は、モバイル画像アプリケーション、デバイス、及びサービスに対して、以下の1つ以上を更に具えることができる。
・対称的な低複雑性ビデオ符号化及び復号化、
・ソフトウェア及びハードウェアコーデック実装に対するより低いプロセッサ能力要件、
・ネイティブコード及びJavaアプリケーションの双方として、既存の市販モバイル携帯電話と互換性があるプロセッサ要件を有する30fps(又はそれ以上の)フレームレートでのVGAビデオのソフトウェア符号化及び復号化、
・SoC集積のためのより低いゲートカウントASICコア、
・より低いバッファメモリ要件、
・単一のコーデックによる静止画(JPEG)及びビデオ(MPEG)の双方のサポート、
・より短い画像グループ(GOP,Group of pictures)による簡単化されたビデオ編集(切り取り、挿入、テキストのオーバーレイ)、
・より短い画像グループによる音声コーデックとの簡単化された同期、
・より短い画像グループによる向上したビデオストリーミングに対する小さな待機時間、
・適応型レート制御、マルチキャスティング、及びジョイントソースチャネル符号化に対する堅強な拡張性、
・既存のHDTVビデオフォーマットに対する複雑性の低い性能拡張、
・一般的な携帯電話及びPCビデオプレーヤと互換性を有する「自己再生」ビデオメッセージを可能にするように各々の送信されたビデオストリームに組み込むことができるコンパクトなソフトウェアデコーダ(40kB以下)、
などである。
【0083】
幾つかの実施例において、ウェーブレット変換のアプリケーションは短い2進整数フィルタを利用する。例えば、Haarの2〜6及び5〜3のウェーブレット及びそれらを変更したものを使用できる。
【0084】
一実施例において、リフティング手法計算アルゴリズムを使用できる。例えば、これらのフィルタはリフティング手法を使用して計算され、面内計算を可能にする。これはレジスタ及び一時的なRAM記憶領域の使用を減少させ、キャッシュの高効率使用のために局所的な参照を維持している。
【0085】
一実施例において、カスタマイズしたピラミッド構造を有するピラミッド形式のウェーブレット変換を使用できる。例えば、本開示の幾つかの実施例は、以前のウェーブレットレベルに由来するデータの半分に対して、ウェーブレット変換シーケンスの各レベルを計算するステップを更に含み、全体の計算をこれらのレベルの数からほぼ無関係となるようにする。一実施例において、このピラミッド構造は、上記のリフティング手法を利用して、レジスタ利用及びキャッシュメモリ帯域幅を更に節約するようにカスタマイズされる。
【0086】
一実施例において、ブロック構造を利用できる。例えば、本開示は画像を矩形ブロックに分解して各々のブロックを互いに別々に処理し、これによりメモリ参照を局所的に維持してプロセッサのキャッシュに残っているデータを使用して変換ピラミッドの全体を扱うことができるようにすることで、ほとんどのプロセッサ内でかなりの量のデータ移動を節約できる。本発明のブロック構造は、信号フローにおいて大きな中間記憶容量の要件を防止できるため、ハードウェアの実施例において有益となりうる。
【0087】
一実施例において、ブロック境界フィルタを使用できる。即ち本発明は、米国特許出願第10/418,363号明細書にて説明されている、各ブロックの境界にて明瞭なアーチファクトを防止する改良されたフィルタ計算を使用する。
【0088】
一実施例において、例えば、米国特許出願第10/447,514号明細書で説明されている、1つのGOPに対して単一の色差領域を使用して、色差一時除去を使用できる。
【0089】
一実施例において、3−Dウェーブレットを使用する一時的圧縮を使用できる。即ち、代わりに本開示の所定の実施例は、領域間の一時的ウェーブレット変換を計算する。これは計算コストがずっと低い。リフティング手法を一形態において使用した短い整数フィルタも使用する。
【0090】
一実施例において、動的量子化アルゴリズムを使用できる。即ち、本開示の所定の実施例においては、圧縮過程の量子化ステップは、係数位置の範囲に亘って一様にバイナリシフト演算を使用することによって達成される。
【0091】
一実施例において、杭打ち(piling)アルゴリズムを使用できる。例えば、本開示の幾つかの実施例において、次のエントロピー符号器がラン・オブ・ゼロ(run−of−zero)変換を行うことによって取り扱われるデータ量が低減される。所定の実施例において、米国特許出願第10/447,455号明細書において開示されており、並列処理アーキテクチャ上でゼロの続きを計数するために、その方法及び開示を利用している。
【0092】
一実施例において、サイクル効率のよいエントロピー符号化を使用できる。例えば、圧縮過程のエントロピー符号化ステップは、従来の表参照(table lookup)と入力符号に対する直接計算を組み合わせる技術とを使用して達成できる。符号の分布は特徴化されているため、ライス−ゴロム又は指数ゴロム又は2進単調(dyadic monotonic)のような単純なエントロピー符号器を使用できる。エントロピー符号器の詳細の選択はプロセッサプラットフォーム性能に依存する。ここに内容を挿入した、米国特許出願第10/447,467号明細書及び米国特許出願第11/232,726号明細書に開示された方法を使用できる。
【0093】
本願で開示する態様は、ビデオ編集プロセス又は作業をウェーブレット変換領域において実現可能にし、その結果、逆ウェーブレット変換及び順ウェーブレット変換双方の計算を節約でき、ピクセルデータ値に対する従来の演算に要求されるよりも少ないデータ項目にアクセス及び変更することによって計算の節約もできる。低減された計算を有するウェーブレット変換領域において達成されるこのようなビデオ編集プロセスの例は、更に以下を含むがそれらに限定されない。
【0094】
1.フェード・トゥ・ブラック
一実施例において、ウェーブレット変換データ(ピクセルデータ値よりもむしろ係数)から開始し、画像の輝度DC係数を各時間ステップ毎にある量だけ減少させ、その結果、全体の明るさレベルをスムーズに黒に減少させることができる。この減少は、DCレベルが完全な黒に到達したときに停止させるか、画像の全ての部分が黒に到達したと見なせるまで完全な黒を超えて継続できる。Droplet社の現在の商用コーデックに使用されているようなブロック変換の場合、各時間ステップにてデータの約1/256、非ブロック化完全変換ウェーブレット実装の場合には、約1/300,000がアクセス及び/又は変更されることに注意されたい。
【0095】
2.フェード・トゥ・ホワイト
一実施例によれば、これはDC係数を完全な明るさレベルに向かって次第に増加させる以外は、フェード・トゥ・ブラックと同様である。
【0096】
3.ブラーアウト
一実施例において、同一のウェーブレット変換データ係数から出発して、各々の逐次時間ステップにて、次の係数を高解像度空間から低解像度空間(fine−to−coarse space)となる詳細の順に置き換える。この順序は、JPEG及びMPEG符号化における係数の「逆ジグザグスキャン」順に対応している。最後の時間ステップにて、DC係数を中間グレーを表す値に置き換える。ブロック変換の場合、この置換は画像の各ブロック内で行われる。このプロセスは、情報が無くなるまで画像をぼかす効果を有する。各時間ステップにて、データの約1/256がアクセス及び/又は変更されることに注意されたい。
【0097】
4.チェシャーフェード(詳細な細部へのフェード)
一実施例において、同一のウェーブレット変換データ係数から出発して、第1のステップにて、DC係数を中間グレーを表す値に置き換える。各逐次時間ステップにて、次の係数を高解像度空間から低解像度空間(fine−to−coarse space)となる詳細の順に置き換える。この順序は、JPEG及びMPEG符号化における係数の「逆ジグザグスキャン」順に対応している。この置換は、ブロック変換の場合、画像の各ブロック内で行われる。各時間ステップにて、データの約1/256がアクセス及び/又は変更されることに注意されたい。
【0098】
5.カラー補正
同一のウェーブレット変換データ係数から出発して、色差DC係数のみを変更する。これは画像全体に亘ってカラーバランスを改良する効果を有し、データ要素の約1/256以下にアクセス及び変更する必要があるだけである。
【0099】
[改良されたモバイル画像携帯電話アーキテクチャ]
本発明の一実施例によれば、図10は、本発明の態様によって可能になるモバイル画像携帯電話アーキテクチャを示している。
【0100】
[改良されたビデオ処理及びアプリケーションサーバアーキテクチャ]
本発明の一実施例によれば、図11は、ビデオ処理及びアプリケーションサーバアーキテクチャを示しており、特有のデータ処理素子を含む別々のラインカードは、デジタルシグナルプロセッサ(DSP)、特定用途集積回路(ASIC)、マルチメディアプロセッサ、及び再構成可能処理デバイス(RPD)を含むがそれらに限定されず、汎用のパーソナルコンピュータ(PC)中央演算処理装置(CPU)によって置き換えられる。
【0101】
本開示の一実施例によれば、図12はビデオ処理及びアプリケーションサーバアーキテクチャを示しており、本発明によるウェーブレットベースのSWビデオトランスコーダ及び編集、保存、検索、読み出しアプリケーションが、デジタルシグナルプロセッサ(DSP)、特定用途集積回路(ASIC)、マルチメディアプロセッサ、及び再構成可能処理デバイス(RPD)上で動作しているDCTベースのビデオ処理に置き換わる。
【0102】
本発明の様々な実施例は、MMSアプリケーションサーバアーキテクチャを向上させる。例えば、改良されたビデオ処理及びアプリケーションサーバにおいて(図13を参照)、SWウェーブレットベースのビデオ処理及びアプリケーションに対して幾つかのオプションの実装を考慮できる。OTNダウンロードによって、サーバのマルチメディア処理セクションに撮像アプリケーションをインストールできる。この撮像アプリケーションは、サーバのマルチメディア処理セクションに、製造中、販売店にて、又は設置時にインストールすることもできる。追加のオプションも実装可能である。
【0103】
本開示の態様によれば、モバイルデバイス計算HW(ASIC,DSP,RPD)及び集積技術(SoC,SIP)における継続する進歩を利用するために、HWベースの処理リソースによって幾つかの計算素子を加速させることによって、ビデオ処理及びアプリケーションサーバの性能を改善でき、コスト及び消費電力を低減できる。サーバにこれらのハードウェアベースの処理リソースを統合するために、幾つかの全てがハードウェアによるオプションを実装できる(図14を参照)。
【0104】
一実施例によれば、図15に示すように、本開示の態様によって提供されるビデオ処理アプリケーションのためのハイブリッドアーキテクチャは、幾つかの生産集約型で反復的な固定機能をHWに実装し、製造後及びインストール後に変更することが好ましい又は必要な機能をSWに実装することによって強化できる。
【0105】
[改良されたビデオ編集、アーカイビング、及びシステムの読み出し]
本発明の一実施例によれば、図16は、ビデオアーカイブ及び読み出し機能をサポートする素子を含む、放送アプリケーションのための分散ビデオ編集システムの機能及び素子を示している。本開示の態様は、単なる商用放送サービスと言うよりは、むしろモバイルパーソナル「メディアプロデューサ」サービスをサポート可能な、このような仮想分散スタジオシステムのデザインを簡単化して開発を加速する。本発明の実施例は、以下の1つ以上を更に含む。
1.ビデオ符号化、復号化、及び編集に対する計算の複雑性の低減、
2.ウェーブレット変換領域におけるビデオ編集ステップ又は演算の実行、その結果、逆ウェーブレット変換及び順方向ウェーブレット変換の計算の双方を節約し、ピクセルデータ値に対する従来の演算よりもより少ないデータ項目にアクセスして変更することによって、計算の節約もできるようにする。
3.モバイルビデオアプリケーションが、特有の高価で電力を必要とするDSP又はASIC以外の低コスト、低消費電力のPCのCPUで動作することを可能にすること、
4.より少なく、安価なPCベースサーバは、多くの特有ビデオアプリケーションサーバに置き換わることができるようにして、その結果、ユーザ当たりの展開及び動作コストを低減する。
5.オンライン編集システムの全ての同時機能の実行に必要な計算能力を低減し、これらの同時編集機能のソフトウェア実装を可能にする。
6.モバイル携帯電話、パーソナルメディアプレーヤ、ノート型コンピュータ、及びパーソナルコンピュータ上で、SWクライアントによって自動ビデオ編集及び他の処理に対するエンドユーザサポートを可能にする。
7.モバイルデバイス中の撮像モジュールにおいてキャプチャできる手ぶれカメラ動き補償情報などの情報を、携帯電話デバイスの続くビデオコーデック、モバイルネットワークにおけるビデオ処理アプリケーションサーバ、及び/又は検索ビデオ再生装置の1つ以上に送信することによって可能になる、モバイルビデオサービスの端末相互間機能及び性能の更なる改良を可能にする。次に、このような情報は、例えば入力ビデオデータからビデオコーデックによって別の方法で抽出できる追加の動き補償情報を提供することによって、ビデオコーデックの計算要件を更に低減するように使用することもできる。
【0106】
このような情報は、モバイルデバイスにおけるビデオキャプチャ中、及びモバイルネットワークにおけるビデオ処理アプリケーションサーバ中で次に実行される編集及び更なるビデオ処理中に発生するカメラの動きを更に補償するように使用することもできる。一実施例において、このような情報は、モバイルネットワークにおけるビデオ処理アプリケーションサーバ中、及び/又は検索ビデオ再生装置中で次に実行される編集及び更なるビデオ処理中に、モバイルデバイス中のカメラモジュールにおいてビデオ前処理によって以前に除去していた可能性のあるカメラ動きの効果を再形成するように使用することもできる。
【0107】
本開示の実施例による、改良されたモバイル撮像サービスプラットフォームアーキテクチャは、
・モバイル携帯電話
・モバイルベースステーション(BTS)
・ベースステーションコントローラ又はラジオネットワークコントローラ(BSC/RNC)
・モバイルスイッチングセンタ(MSC)
・ゲートウェイサービスノード(GSN)
・モバイルマルチメディアサービスコントローラ(MMSC)
・画像サービスダウンロードサーバ
の1つ以上を具える。
【0108】
MMSCに含まれる機能(図17を参照)は、
・ビデオゲートウェイ
・電気通信サーバ
・MMSアプリケーションサーバ
・保存サーバ
の1つ以上を具える。
【0109】
改良した画像サービスプラットフォームを展開するためのプロセスを含む本開示の実施例は、
プロセス1.
ビデオ編集/処理アプリケーションが展開されたMMSCを更新するのに利用可能な信号ネットワーク。更新は、自動OTN展開又は手動手続きによってインストールできる。
プロセス2.
自動OTN展開又は手動手続きによるビデオ編集/処理SWアプリケーションのインストール及び設定(図17を参照)。
プロセス3.
モバイルビデオ画像アプリケーションがダウンロード及びインストールに利用可能な信号ユーザ携帯電話。
プロセス4.
ユーザに承認されて取引の合意が成功裏に完了した場合に、モバイルビデオ画像アプリケーションをダウンロードし、インストールする。
プロセス5.
携帯電話アップグレードが完了した信号ネットワーク。サービス及び関連アプリケーションの起動。モバイルビデオ画像アプリケーションに対する新たな課金を反映するようにユーザの月極課金記録を更新。
【0110】
本開示の一実施例によれば、図18はSW復号器を送信ビデオストリームに組み込むことによって達成される「自己復号」ビデオMMS機能を示しており、トランスコーディングの必要性を除去し、既存のビデオ処理/アプリケーションサーバが本開示によって提供されるビデオフォーマットの処理を可能にする。
【0111】
本開示の態様によれば、図19はビデオ処理及びアプリケーションサーバのOTNアップグレードを示している。
【0112】
本開示の一実施例によれば、図20はユーザ作成ビデオのデータベースの保存、検索及び読み出しのみならず、ユーザ作成ビデオの自動又は手動の編集のような、メディアプロデューササービスの展開に必要なビデオアプリケーションサーバの複雑性、コスト及び数の低減を示している。
【0113】
本開示の一実施例によれば、図21は改良されたウェーブレットベースのコーデック/テレビ電話アプリケーション、及び改良されたビデオ編集/処理、及びデータベースの保存、検索及び読み出しビデオメッセージング/共有/通話プラットフォームの機能プロセスを示している。
【0114】
本開示の一実施例によれば、図22は、ユーザ作成オーディオ/ビデオコンテンツの「ソフト」コピー(ダウンロード)又は「ハード」コピー(DVD)をユーザがプレビュー、共有、購入及び販売できる革新的なパーソナルマルチメディア市場プラットフォームを展開する能力を含む、より高品質のマルチメディア携帯電話及びサービスのより早い低コストの開発及び展開に関する利点を示している。本開示により、データベース索引付加及びネットワーク(RSS)フィードのためのより効率的なビデオ「タグ化」も可能になり、イーベイ、グーグル、ヤフー、マイクロソフト、及び他のポータルのような、既存のウェブベース市場に対するインターフェースをサポートする。
【0115】
本開示の一実施例によれば、図23は、固定無線、モバイル無線、及び有線アーキテクチャを組み合わせる「集中型の」ネットワーク固定無線、モバイル無線、及び有線ネットワーク上における新たなビデオサービスを展開するための、改良されたウェーブレットベースのコーデック/テレビ電話アプリケーション、及び改良されたビデオ編集/処理、及びデータベースの保存、検索及び読み出しビデオメッセージング/共有/通話プラットフォームのアプリケーションを示している。
【0116】
一実施例において、本開示は、そのウェーブレットベースのモバイルビデオ画像アプリケーション、携帯電話アーキテクチャ及びサービスプラットフォームアーキテクチャを有し、より高いモバイルビデオ画像の高品質化、携帯電話のコスト及び複雑性の低減、及びサービス展開コストの低減目的を達成している。
【0117】
本発明の撮像についての解決策は、ビデオ編集サーバにおけるプロセッサコスト及び要件を著しく低減させる。OTNダウンロードによってビデオ編集アプリケーション作成後のインストール及びアップグレードできることと組み合わせて、このSWによる解決策はビデオメッセージング及び共有サービス展開の複雑性、危険性及びコストを著しく低減できる。
【0118】
本開示は、モバイル通信運営者に対して消費者及び企業による巨大市場の採用に必要なビデオ品質及びサービス展開コストを供給する、最初のモバイルビデオメッセージング及び共有プラットフォームを提供する。本開示は、大多数のマルチメディア携帯電話に既に組み込まれているRISCプロセッサのみを使用して、30フレーム/秒(fps)にてフル(VGA)サイズ画像のリアルタイムキャプチャが可能なSWテレビ電話アプリケーションを提供する。携帯電話会社に対しては、本開示の複雑性の低いビデオ処理及び分配技術が、既存のモバイル携帯電話及びモバイルマルチメディアメッセージングサービス(MMS)インフラを使用して面倒な初期設定なし展開可能な、強力なソフトウェアプラットフォームに組み込まれている。
【0119】
一実施例によれば、本開示のコンテンツ管理プラットフォームは、上記のSWモバイルテレビ電話アプリケーションを補完するために、本技術に従ってオンザフライ編集、サムネールプレビュー、マルチメディアメールボックス、オンラインレポジトリ、共有、及びマーケティングサービス、及び申し込み管理とともに、圧縮画像及びビデオを完全なモバイルマルチメディアメッセージ及び「着信音」に統合するためのモジュールを携帯電話会社に提供する。
【0120】
典型的なビデオデータセグメントは、典型的には他のタイプのデータも含んで又は組み込むことができる。このような他のデータは、ビデオとともにキャプチャされたオーディオデータを含むことができる。そのデータは、キャプチャ時刻、位置情報(GPSから得られる、携帯電話タワーの位置、カメラ画像データからの場面認識から、無線送信機(例えばWIFI)番号など)ユーザの識別番号、モバイルデバイスの識別番号、ユーザの付加情報(サービスの問い合わせに対するユーザの応答を含み、ビデオサービスの問い合わせ、チルト、ネーミング、後に追加された注釈、オーディオデータを含む)メタデータを含む他のデータを含むこともできる。
【0121】
データは、ビデオキャプチャプロセスからキャプチャされた又は得られたビデオ及びオーディオデータから得られたメタデータを含むこともできる。そのデータは、追加のセンサーデバイスから得られるメタデータ、例えば、ジャイロスコープ又は角速度センサから得られるジッタデータも含むこともできる。この追加データをビデオ編集、保存、検索、読み出し、位置認識、広告の組み込み、カメラユーザへのビデオ供給、及び本出願において記載された他のサービスにおいて様々に使用できる。
【0122】
一実施例において、ビデオ配信はユーザの位置に基づいている。例えば、モバイルデバイス(例えば携帯電話、ブラックベリーなど)はGPS追跡機能を具えることができ、地理的に特有のビデオデータをユーザに配信するために、モバイルデバイスユーザの位置を特定できる。
【0123】
位置に基づくビデオは、ユーザの位置によって決定されるようなシーニックツアー(scenic tour)とすることができる。例えば、ウィーンに馴染みのないイタリアにいる旅行者が、モバイルデバイスからウィーンに特定した情報を要求できる。例えば要求に応じて、及び/又はユーザの設定に基づいて、ライブツアーのストリーミングビデオを自動的にユーザに配信することができる。同様に、特定されたユーザの地理情報に基づいて、ユーザに地理的に特有のビデオテンプレートを提案及び/又は提供できる。
【0124】
このような動的なテンプレートの提案は、ユーザの設定に基づいて、自動的に提供、又は要求に応じて提供できる。例えば、ユーザがニューヨーク市でビデオを撮影している場合、例えば、エンパイアステートビル、自由の女神などのテンプレートをユーザに提供できる。
【0125】
更に、ユーザの地理的な位置に基づいて、ビデオを一層良くできる。例えば、ユーザによって撮影されたビデオを一層良くするために、ユーザの現在の位置の前もって記録されたビデオを、要求に基づいて又は自動的に提供できる。一実施例において、対象の広告、例えば、ユーザデータなどを提供できる。
【0126】
そのユーザデータは、地理的なデータ、年齢データ、申し込みデータとすることができる。ユーザデータは、ユーザから提供される情報、課金情報、申し込み情報、リアルタイムに収集される情報(例えば、通話記録、ユーザの地理的な位置など)などの様々なソースから収集することができる。
【0127】
このようなユーザデータは、対象広告を配信するために、例えばユーザの好み及び趣味などを特定するために利用できる。幾つかの実施例において、視聴した広告に対して、サービス料金割引を提供できる。
【0128】
本開示の1つ以上の実施例を、例えば、代表的な実施例において、以下に説明するビデオ編集サービスシステムなどのシステムにおいて実施できる。
【0129】
[自動化されたビデオ編集サービス(AVES)システム]
本開示の好適な実施例の一例は、自動ビデオ編集サービス(AVES)を含むことができる。図24aは、本開示に従ってAVESの構成を具えることができる要素の可能な概略図を示している。
【0130】
一実施例において、ビデオ編集サービスは、ユーザの要求に応じて、例えばビデオキャプチャ機能を有する携帯デバイスによって生成されたビデオ編集サービスを提供する。そのビデオ編集サービスは、複数のビデオプロセッサへのルーティングシステムによって、複数のユーザに同時に提供できる。
【0131】
一実施例において、新たな処理タスクが動作していないビデオプロセッサにルーティングされるように、又はより少ないタスクキューを有するプロセッサにルーティングされるように、ルータは1つ以上のビデオプロセッサの動作状況を追跡する。このように複数のビデオ処理タスクを同時に行うことができる。
【0132】
一実施例において、ビデオ編集サービスは、モバイルデバイスによって、ユーザに1つ以上のテンプレートを提供する。この1つ以上のテンプレートは、モバイルデバイス上に予め保存できる。幾つかの実施例において、例えばユーザの要求に基づいて、又はユーザの設定に基づいて自動的になど、このテンプレートをモバイルデバイスによってダウンロードできる。幾つかの実施例において、このテンプレートをユーザ特定データに基づいて提供でき、このデータは、例えばGPS機能、携帯電話タワーによって得られる三角測量データ、ユーザ申し込みデータなどの多くのプロセスの1つによって収集できる。一実施例において、このテンプレートをユーザに有料で提供する。
【0133】
ビデオ編集に対する要求は、ユーザによって選択される、ビデオクリップ及びテンプレートを含むことができる。要求を送信する前に、ビデオはユーザが切り取ることができる。ビデオ編集要件を受信したときに、ビデオサーバはその要求を処理し、ユーザによって指定された編集を実行する。この編集は、ユーザによって選択されたテンプレートに関係したビデオ編集を使用することを含むことができる。
【0134】
編集されたビデオの少なくとも一部は、編集の同時検査が可能なように、ユーザに送り返すことができる。ユーザが編集の承認を示したときに、編集されたビデオの完全な長さのバージョンをモバイルデバイスに送り返すことができる。一実施例において、ユーザの要求にて、編集されたビデオをモバイルデバイスによって受信される複数の受信者に送信することができる。幾つかの実施例において、ユーザの設定、例えば特定のテーマに関するビデオを受信するような設定に基づいて、編集したビデオを複数のユーザに提供できる。
【0135】
図24aを参照して、AVESは、ビデオ編集サービスクライアント(VESクライアント)2410を具えることができる。VESクライアントは、設計された如何なるモバイル基本ソフト上でも動作可能なモバイルアプリケーションを含むことができる。VESクライアントは、符号化されるビデオを送信して編集するように、AVESと相互作用するアプリケーションを含むことが好ましい。本発明の一実施例に従って、VESクライアントはWiFiを介してAVESと接続できる。VESクライアントとAVESとを接続するように、既知の方法、又は将来開発される他の方法を使用することができる。
【0136】
VESクライアントは多くの機能を具えることができる。この機能は、タイトルスクリーン(例えば、ビデオを送信する/編集する、マイフレンド、マイスタジオ、マイビデオなどのオプションを含むことができる)、1つ以上のビデオを選択する能力、MP3またはWMAオーディオトラックを有するAVIコンテナのサポート、トリミング能力(つまり、ビデオをある長さに切り取る)、トリミングされた(つまり切り取られた)ビデオのプレビュー能力、トリミングをやり直す能力、ビデオにタイトルを付ける能力、起動されたテンプレートを示す、複数のビデオをつなぎ合わせる、ビデオ及び/又はオーディオシーケンスをAVESに送信する、編集して得られたファイルをプレビューする(幾つかの実施例において、このプレビューはビデオアップロード開始から10秒以内に開始できる)、ユーザの関係に従って受信者リストを表示する(ウェブサイトを通して管理できる)、所望の受信者の電話番号及び/又は電子メールアドレスの入力を直接受信する機能、及びVESクライアントからAVESに送信された最近のN個のビデオの要約を示す(ここでNはどの整数であってもよい)、の1つ以上を含むがこれらに限定されない。一実施例において、ビデオ圧縮にウェーブレットコーデック(例えば3−Dウェーブレットコーデック)を使用できる。
【0137】
一実施例において、AVESは1つ以上のサービススイッチポイント(SSP)2420を具える。図24bはN個のVESクライアント及びX個のTP(ここでN及びXは互いに一致してもしなくてもよい整数である)に接続されたSSPの代表的な実施例を示している。SSPは着信してくるクライアント接続を扱い、それらをビデオ編集に利用可能なテンプレートプロセッサに割り当てるスイッチを具えることができる。SSPは負荷分散を行うことができ、接続できる同時VESクライアントの数を常に見積もるために、例えば、テンプレートプロセッサ又はテンプレートプロセッサのアレイに分散ネットワークを形成できる。
【0138】
SSPは多くの機能を含むことができる。この機能は、1つ以上のVESクライアント及び1つ以上のSSPに接続する1つ以上のテンプレートプロセッサ接続を処理することの1つ以上を具えるがそれらに限定されない。SSPは、設定ファイルにおけるパラメータ値を指定することによって設定できる。
【0139】
一実施例において、システムはユーザログインを承認し、AVESデータベースにおいてログインが正当どうかを判断できる。一実施例において、システムはVESクライアント編集要求を処理するための利用可能なテンプレートプロセッサが存在するかどうかを判断できる。一実施例において、決定されたテンプレートプロセッサステータスに基づいて、ビジーステータスをVESクライアントに伝達できる。一実施例において、システムはAVESデータベースから接続及び/又はテンプレート情報を得て、この情報をVESクライアントに送信できる。一実施例において、システムはVESクライアントから編集要求を受信し、この情報をデータベースに保存する。一実施例において、システムはテンプレート及び編集情報を1つにまとめて、VESクライアントからデータチャンクを受信し、そのデータチャンクをテンプレートプロセッサに転送できる。
【0140】
一実施例において、システムはこのユーザによってアップロードされた既定の数のビデオ(例えば最近の10個のビデオ)の要約をAVESデータベースから得て、この情報をVESクライアントに送信することができ、システムは更にVESクライアントからプレビュー要求を受信し、その要求をテンプレートプロセッサに転送し、テンプレートプロセッサからプレビューのためのデータストリーム(例えばAVIデータストリーム)を受信してVESクライアントに転送し、システムは更に、VESクライアントから「プレビュースキップ」を受信してテンプレートプロセッサに通知することができる。
【0141】
一実施例において、システムは新たに予定されたジョブを特定するため、例えば、テンプレートプロセッサのプロセスを管理するために(例えば開始又は破棄する)、AVESデータベースをスキャンできる。一実施例において、システムは、ビデオが編集された後に、新たなビデオ通知を受信者に送信することができる。
【0142】
AVESは、1つ以上のテンプレートプロセッサ(TP)2430を具えることもできる。このTPはSSPから編集要求を受信できる。例えば、処理のために編集要求をTPに送信でき、TPは、編集されるビデオが構成されているのと同時にVESクライアントにストリームバックするために、ビデオの縮小されたプレビュー版を提供することもできる。一実施例において、TPは更に、ユーザが非常に多くの記憶領域を消費するのを防止するために、各ユーザのディスク使用量を表示できる。
【0143】
TPはAVESのビデオ編集プロセス、又はその一部を遂行するように特に設定されているソフトウェアシステムを具えることができる。複数の別々のTPは、同一のハードウェアプラットフォーム上で同時に動作し、同一のプロセッサ、又はプロセッサのセットを共有できる。SSPがVESクライアントの要求を利用可能な1つのTPに誘導するように、TPをアレイ中に構成できる。こうしてこのアーキテクチャは高度な拡張性を有し、各プラットフォームで利用可能な複数のソフトウェアTPエンジンを有する比較的低コストの一般的なプラットフォーム(つまりオーダーメイドのビデオ編集ハードウェアプラットフォームではない)を使用して構成できる。各ハードウェアプラットフォームは自身のSSPを有することができ、又は幾つかの実施例においては、1つのハードウェアプラットフォーム上の1つのSSPが、異なるハードウェアプラットフォーム上でTPと機能的に動作できる。
【0144】
TPは多くの機能を具えることができる。この機能は、SSPから編集情報を受信すること(例えば、編集されたビデオを生成するように使用される他のメタデータに加えて、編集情報はビデオ編集テンプレートのXML記述を含むことができる)、得られたビデオをどのように構成するかを決定するために編集情報を分析すること、の1つ以上を具えることができるが、これらに限定されない。
【0145】
本開示の一実施例において、SSPからアップロードされた(AVIであってよい)データストリームを受信できる。一実施例において、元の生データファイルをアップロードされるビデオのために保存できる。更に、AVIファイルからのビデオ及び音声を分配できる。更なる実施例は、編集されたビデオ及び音声を受信するステップと(TPは関係するテンプレートに含まれる情報によって指示できる)、再多重化するステップと、及び/又は編集されたデータをAVIファイルとして保存するステップとを含むことができる。
【0146】
一実施例は更に、ビデオをアップロードされたフィードの開始又は最後部分につなぎ合わせる、複数のビデオをつなぎ合わせる、ターゲットの編集したビデオとは異なる解像度を有する静止画を中心に合わせる又は合うように伸縮する、オーディオトラックを混合する、選択したテンプレートに従って、又は場面の遷移を分析することによって、ビデオセグメント間のある遷移効果を生成する(遷移効果は、幾つかある可能性の中から、ワイプ、クロスフェード、分解、フライ、誇張、ブラインド、チェッカー、及び出現、を具えることができる)、ビデオセグメントをブラックアンドホワイト、又はセピアに変換、ビデオにタイムスタンプ、日付スタンプ、及び/又は位置スタンプを追加する、編集したビデオからスライドショーを形成する、プレビューのAVIストリームを生成する(ビデオは低減したフレームサイズ及びフレームレートを含むことができる)能力の1つ以上を具えることができる。
【0147】
本発明の実施例は更に、以下の能力の1つ以上を具える。即ち、SSPから「プレビュー」要求を受信し、次にプレビュービデオデータストリームを送り返す、SSPから「プレビュースキップ」を受信して次にプレビューストリームの生成を停止する、ユーザがどのテンプレートを選択したかに従って幾つかのメディアオブジェクトをAVIファイルにまとめる、ビデオ及び音声効果を適用する(これはユーザが選択したテンプレートに基づくができる)、ビデオセグメントに対してカラーモーフィングする、ビデオセグメントに対してブラックアンドホワイト変換を適用する、ビデオセグメントに対してアニメーション及び背景のオーバーレイをサポートする、及び/又はビデオセグメントに対してテキストキャプションを挿入する能力である。
【0148】
AVESはウェブサイト2440を具えることもできる。ウェブサイトは、自身のビデオのリストを見るためにユーザが使用できる。例えば、ビデオはユーザが作成するか、別のユーザがそのユーザに送信できる。ウェブサイトは、アクセス情報を編集し、テンプレートを起動し、そしてメディアを起動するためにユーザが使用することもできる。一実施例によれば、ウェブサイトはユーザに、友人にビデオを見るように誘う、テンプレートエディタを起動する、オーディオトラックを起動する、位置によってビデオを表示する、アップロード又はユーザに送信されたビデオのリストを表示する、新たなテンプレートを購入する、及びユーザにアクセスリストの維持を可能にする能力の1つ以上を提供することもできる。
【0149】
AVESはテンプレートエディタ(TE)2450を更に具えることもできる。一実施例において、TEはカスタムテンプレートを作成するために使用されるツールである。テンプレートエディタはフラッシュベースとすることができ、ユーザのブラウザにおいて動作できる。一実施例において、TEはインターネット、又はLAN、WANなどの他のタイプのネットワークを越えてAVESとやりとりすることができる。
【0150】
幾つかの実施例において、TEは、遷移効果コンポーネント、背景音楽、及び/又は静止画を含むビデオセグメントを構成できるテンプレートを作成する、メディアをテンプレートに加える、オーディオトラックを混合する、画像、オーディオトラック、及び/又はビデオ素材を混合する、2つのビデオセグメント間に遷移効果を挿入する、特性を画像にセットする(例えば画像が中心に位置させる又は合わせるために伸縮させる必要が有る場合のような)、静止画を表示して遷移するための持続時間、ビデオ枠をテンプレートに挿入する、生成したテンプレートをAVESにアップロードする、テンプレートがどのように機能するかプレビューする、例えば、カラーモーフィング、アニメーション、背景オーバーレイ、及び/又はテキストの見出しなどの各ビデオ及び音声に対する特性をセットする、オーディオトラックが他のトラックにオーバーレイするウェイトをセットする、そしてユーザが起動したテンプレートを表示する、の1つ以上のサービスを更に提供する。
【0151】
AVESは、AVESデータベースにアクセスできるように、ウェブサイト及びTEによって使用されるPHPファイルのセットからなるPHPサービス2460を具えることもできる。これらのPHPファイルは、受信PCアプリケーションに対して、いつ新しいビデオが利用可能になったかについての通知を得るためのサポートを提供することもできる。
【0152】
AVESは、受信PCアプリケーション(受信アプリ)を具えることもできる。受信アプリは、ユーザがサーバに新しいビデオを送信したかどうかを定期的に調査するアプリケーションである。ログインするためにユーザid及びパスワードを要求するようにセットアップできる。新しいビデオが到着したときにウェブサイトを起動するように使用して、ウェーブレットコーデック(例えば3Dウェーブレットコーデック)がインストールされたかどうか検出することもできる。更に、コーデックが存在しない場合には、受信PCがコーデックをインストールできる。コーデックはサーバから得られる。
【0153】
ABESはデータベース2470を具えることもできる。AVESデータベースは、アイテムの中でも、ユーザアカウント、アップロードされたビデオ、編集されたビデオ、メディア、テンプレート、及びTEからのスケジュールされたジョブに関する情報を保持するように構成できる。このデータベースは、所望の如何なる情報をも保存するように構成できることに注意されたい。
【0154】
[AVESのセットアップ例]
この例は、本発明の代表的な実施例のアーキテクチャのセットアップ及び利用パターンの例を示している。
【0155】
(VESクライアント)
1.VESクライアントは、ローカルの設定ファイルからサーバ情報を得て、AVESに接続するためにこの情報を使用する。これは自動的に処理できるので、ユーザはサーバのIPアドレス情報を構成する必要はない。
2.ユーザが初めてAVESにログインする場合、彼/彼女は彼/彼女の電話番号を入力しなければならない。以降、VESクライアントは、この保存された番号を自動的にログインするために使用できる。
3.携帯電話番号がAVESに既知の場合には、ログインは成功する。
4.AVESにログイン後、AVESはテンプレートリスト及び受信者リストをVESクライアントに返送する。
5.ユーザは、テンプレートリストから起動したテンプレートを選択して、ローカルシステム中の幾つかのビデオを選択して、更に要すればそれらの幾つかをトリミングできる。(トリミング作業は他のサブウィンドウ中に実装でき、ユーザは選択したビデオの開始点及び終了点をセットでき、選択した2つの点を使用してビデオをトリミングできる。)ユーザは、選択したビデオを満足するまで繰り返しトリミングできる。
6.既定のテンプレートに対して、ユーザはテンプレート中のスロット数と同数のビデオを選択できる。スロットが幾つのクリップを含んでいるかを示すインジケータがブラケット中に存在できる。
7.ユーザは、アップロードする前にビデオのタイトルを提供することもできる。
8.VESクライアントは、選択したトリミングされたビデオをAVESにアップロードできる。
9.ユーザは、アップロードしている間に、編集したビデオをプレビューできる。ユーザはプレビューを直接キャンセル又はスキップすることもできる。
10.アップロードの完了後に、又はユーザがプレビューをスキップする場合に、ユーザは自らの連絡先リストから関係者(contact)を選択することによって、誰が編集したビデオを受信するか決定できる。ユーザは、電話から自らの関係者を管理できる。
11.編集したビデオを受信者に送信したあと、VESクライアントは、このユーザによってアップロードされた最近の10個のビデオを公開することができる。
12.ユーザはVESクライアント内のホームスクリーンに戻ることができる。
【0156】
[SSP(サービススイッチポイント)]
VESクライアントに対して
1.VESクライアントは、SSPに接続してその携帯電話番号を送信する。SSPはその携帯電話番号がデータベースに存在するかどうかを確認できる。
2.番号が存在しない場合、アカウントのためにサインアップする必要があることがユーザに通知される。
3.ログイン後、SSPはテンプレートのユーザリストを読み出し、AVESデータベースから情報に接触し、それらをVESクライアントに送信することができる。
4.次にSSPはVESクライアントから編集情報を読み出すことができる。
5.SSPはAVESデータベースから選択したテンプレートの詳細を読み出すことができる。次にSSPはテンプレート及び編集情報を1つにまとめ、この編集情報をAVESデータベースに保存できる。
6.次にSSPは、1つにまとめられた情報を対応するTPに送信する。
7.次にSSPは、VESクライアントから到着するデータストリームを受信して、そのデータを直接TPに転送できる。
8.SSPはVESクライアントからプレビュー要求を受信できる。次にSSPは対応するTPにビデオデータストリームを送り返すように命令する。
9.次にSSPはTPからビデオデータストリームを受信して、それをVESクライアントに転送できる。
10.TPは、編集処理が終了したときにSSPに通知できる。SSPはVESクライアントに編集処理が終了し、データベースに注記することを通知できる。
11.SSPは、VESクライアントからタイトル及び受信者情報を受信して、この情報をデータベースに保存することができる。
12.SSPはVESクライアントからヒストリ要求を受信して、次に対応するユーザによって作成された最近の10個のビデオを返送することができる。
13.処理全体が完了したあと、SSPはAVES中の読み出した全てのデータを削除できる(編集処理の間に使用された一時的ビデオファイルやデータベースの記録事項)
【0157】
[TEに対して]
1.SSPは、スケジュールされた「トライ・イット・ナウ」ジョブテーブルを定期的にチェックする。
2.待ち状態のジョブが存在する場合、SSPはそのジョブに対してTPが利用可能かどうかチェックできる。利用可能なTPが存在しない場合、ジョブは利用可能なTPが出現するまで保留される。
3.SSPはジョブに関する情報を読み、新たに作成されたテンプレートをデータベースから読み出すことができる。次にSSPはテンプレート及びジョブのメタデータを1つにまとめることができる。
4.SSPは1つにまとめられたジョブ情報をTPに送信できる。
5.TPが処理を完了したあと、TPはSSPに通知できる。次にSSPは、データベースを更新することによって、ウェブサイトに処理が完了したことを通知できる。
6.処理全体が完了したあと、SSPはAVES中の読み出した全ての情報を削除できる。
【0158】
[TP(テンプレートプロセッサ)]
1.TPは、1つにまとめられたテンプレートを読み出し、分析することができる。
2.TPは、アップロードされたビデオデータストリームを読み出し、それを元ファイルとして保存できる。
3.TPは、そのデータストリームを分析されたテンプレートに従って編集できる。
4.TPは、結果を編集したファイルとして保存できる。
5.TPは、プレビューのためのビデオを作成できる(プレビューはメモリ中に保存される)。
6.TPは、プレビュー要求を受信し、次にプレビューストリームをSSPに返送できる。
7.TPがプレビューをスキップする要求を受信した場合には、次にTPはプレビューデータストリームの作成を停止して、メモリ中の全てのプレビューのデータチャンクを削除することができる。
8.TPの処理が完了したあと、TPはSSPに通知できる。
【0159】
[ウェブサイト]
ウェブサイトは、そのサイトにアクセスするのがユーザか又は管理者かによって異なるオプションを有することができる。ウェブサイトはユーザ及び管理者の双方をログイン及びログアウトさせる能力を有することができる。
【0160】
ユーザに対しては、ウェブサイトは、登録、関係者の管理、ビデオ管理(例えば送信されたビデオ、受信したビデオ、アップロードしたビデオを見るなど)、メディア管理(例えば、音楽を見る、音楽を購入する、背景画像を見る、背景画像を購入する、テンプレートを見る、テンプレートを購入するなど)、新しいテンプレートを作成する能力を提供できる。
【0161】
管理者に対しては、ウェブサイトはメディア管理(例えば、音楽を作成、音楽を削除、背景画像の作成、背景画像の削除など)、及びテンプレート管理(例えば、テンプレートの作成及び削除)の能力を提供できる。
【0162】
[TE(テンプレートエディタ)]
1.ユーザはウェブサイトからTEを起動できる。
2.ユーザは静止画、ビデオ、遷移効果などを時系列に追加できる。
3.ユーザは、背景音楽(及びその持続時間)を時系列にビデオスロットにセットできる。
4.テンプレートの編集が完了したあと、ユーザはそのテンプレートをAVESにアップロードできる。
5.テンプレートをアップロードしたあと、ユーザは「トライ・イット・ナウ」をクリックすることによって効果をプレビューできる。
6.「トライ・イット・ナウ」は、テンプレートの開いたスロットの各々に対して、ユーザに既にAVESにアップロードされたビデオを選択するように指示できる。
7.「トライ・イット・ナウ」ジョブが完了したとき、ユーザは最終結果をウェブサイトから見ることができる。
【0163】
[受信アプリ]
1.ウィンドウズ(登録商標)が起動したときに受信アプリを起動できる。
2.受信アプリが起動したときに、ログインのダイアログボックスがポップアップする(これは、ユーザログイン情報がキャッシュに格納されたあと、初回のみ発生する)。
3.ユーザは、ログインのための自身のドロップレットID及びパスワードを入力する。
4.次に受信アプリはウェブサイトに接続する。
5.受信アプリは、現在のユーザに対する編集されたビデオが存在するかどうかを定期的にチェックできる。
6.現在のユーザに対する編集されたビデオが存在する場合、受信アプリはバルーン通知をポップアップさせる。
7.ユーザがバルーンをクリックした場合、ウェブサイトが起動できる。
8.ウェブサイトを開くために、ユーザは、ウィンドウズ(登録商標)のステータスバーにおける受信アプリアイコンを右クリックできる。
【0164】
[接続]
分配システムとして、AVES構成要素は、一方をTCPに基づく方法、他方をHTTPに基づく方法の2つの方法によって接続できる。
【0165】
[VESクライアント及びSSP]
VESクライアント及びSSP間の接続は、ソケット及びTCPベースとすることができる。どのVESクライアント及びSSP間にも2つの接続が存在しうる。一方は、命令のためのもので、プライベートバイナリプロトコルに基づいている。他方はデータストリームのプレビューのためのものである。
【0166】
[SSP及びTP]
SSP及びTP間の接続はソケット及びTCPに基づくことができる。SSP及びどの既定のTP間にも2つの接続が存在する。一方は、SSPからTPへメッセージを送信するためのものである。他方はTPからSSPへのプレビューデータストリームを受信するためのものである。これらのメッセージはプライベートバイナリプロトコルに基づくことができる。
【0167】
[TE及びPHPサービス]
TE及びPHPサービス間の接続はHTTPベースとすることができる。これらの接続はプライベートHTTPプロトコルの基づくことができる。
【0168】
受信アプリ及びPHPサービス
受信アプリ及びPHPサービス間の接続はHTTPベースとすることができる。これらの接続はプライベートHTTPプロトコルに基づくことができる。
【0169】
[ログイン及びアップロード処理]
図25を参照するに、以下は、AVESのログイン及びアップロード処理に関係する本発明の代表的な実施例の動作フローの例である。
1.VESクライアントは、SSPに携帯電話番号とともにログインメッセージを送信する。
2.SSPはデータベースを確認して携帯電話番号に一致する記録があるかどうかを見る。
3.SSPはVESクライアントが利用可能なTPが存在するかどうかを確認する。
4.携帯電話番号が一致して利用可能なTPが存在する場合、ログインが成功する。次にSSPはVESクライアントは、データベースからテンプレート及び関係者情報を取得する。
5.SSPはテンプレート及び関係者情報をVESクライアントに返送する。
6.ユーザはテンプレート及びビデオを選択して、選択したビデオをトリミングできる。
7.VESクライアントは編集情報をSSPに送信する。
8.SSPは、要求のための対応するテンプレートの詳細をデータベースから取得して、そのテンプレートを編集情報とともに1つにまとめ、この編集情報をデータベースに保存する。
9.SSPは1つにまとめられたテンプレートをTPに送信する。
【0170】
[アップロード及びプレビュー]
図25を参照するに、以下は、AVESのアップロード及びプレビュー処理に関係する、本発明の代表的な実施例の動作フローの例である。
1.SSPは受信ビデオのデータチャンクをTPに送信する。
2.TPはこれらのデータチャンクを元ビデオファイルとして保存する。
3.TPはこれらのチャンクを対応するテンプレートに従って編集する。
4.TPは編集されたチャンクを編集されたビデオファイルとして保存する。
5.TPはチャンクをプレビューのために生成する。
6.ユーザはいつプレビューが開始するか決定することができる。SSPはプレビュー要求をユーザから受信し、次にプレビューを開始するようにTPと通信する。
7.TPはプレビューチャンクをSSPに送信する。
8.SSPはプレビューチャンクをVESクライアントに送信する。
9.VESクライアントは、これらのチャンクをビデオとしてウィンドウズメディアプレーヤ内に表示する。
10.ユーザはプレビューをスキップ又はその終了を待つことができる。
11.ユーザがプレビューをスキップする場合、SSPはTPにプレビューを停止させる。
12.編集が完了したあと、TPはSSPに編集が完了したことを通知する。
13.SSPは必要な情報をデータベースに保存し、データベースを整理する。
【0171】
[アップロード後]
図27を参照すると、以下は、AVESのログイン及びアップロード後に発生する処理に関係する、本発明の代表的な実施例の動作フローの例である。
1.ユーザは編集したビデオを受信する受信者を選択できる。
2.VESクライアントが、選択したタイトル及び受信者情報をSSPに送信する。
3.SSPがこれらの受信者情報をデータベース中に保存する。
4.VESクライアントがアップロードした最近の10個のファイルのヒストリを要求する。
5.SSPがデータベースからヒストリを取得する。
6.SSPはヒストリをVESクライアントに返送する。
7.VESクライアントがヒストリを表示する。
【0172】
[受信]
図28を参照すると、以下は、AVESの受信処理に関係する、本発明の代表的な実施例の作業フローの例である。
1.受信アプリが起動したとき、ログインダイアログボックスがポップアップする。
2.ユーザがid及びパスワードを入力する。
3.受信アプリがPHPページを問い合わせる。
4.PHPページはデータベースをチェックし、ユーザに送信されたビデオがあるかどうかを確認する。
5.ログインが成功した場合、ウェブサイトが起動する。
6.ユーザに送信された新たなビデオが存在する場合、インジケータがポップアップする。
7.ユーザはウェブサイトに行くためにインジケータを確認できる。
8.ウェブサイトにおいて、ユーザはビデオリスト又は利用可能なビデオの案内図を確認できる。
9.ウェブサイトに行くために、ユーザはデスクトップコンピュータ上のアプリケーションクリックすることもできる。
【0173】
[ログイン、編集及びテンプレートのアップロード]
図29を参照するに、以下はAVESのログイン、編集及びテンプレートのアップロードに関係する、本発明の代表的な実施例の動作フローの例である。
【0174】
[編集]
1.ユーザがテンプレートを作成したとき、メディア要素をテンプレートに挿入できる。これらの要素は、タイトル、静止画、ビデオ、音楽トラック、場面の遷移効果などを含むことができる。
2.ユーザが、要素に対するメディアのリソース(例えば画像ファイル)を指定したい場合、TEはPHPサービスに利用可能なリソースリストの要求を送信する。
3.PHPサービスはその要求を受信して、利用可能なリソースを見つけるためにデータメースに問い合わせる。次にPHPサービスはこのリストをTEに返送する。
4.ユーザはこのリストからリソースを選択できる。
【0175】
[テンプレートのアップロード]
1.ユーザがテンプレートの作成を完了したあと、このテンプレートをアップロードするように「アップロード(Upload)」ボタンをクリックできる。
2.アップロード要求がPHPサービスに送信される。
3.PHPサービスはテンプレートスクリプトを受信してデータベース中に記録する。
【0176】
[トライ・イット・ナウ]
図30を参照するに、以下は、AVESテンプレートに対するトライ・イット・ナウに関係する本発明の代表的な実施例の動作フローの例である。
1.ユーザは、「トライ・イット・ナウ(Try It NOW)」ボタンをクリックすることによって、新たに作成されたテンプレートを試すことができる。
2.サーバ上にある利用可能なビデオを問い合わせるために、要求がPHPサービスに送信される。PHPサービスはTEにビデオ情報リストを返送する。
3.ポップアップウィンドウはこれらのビデオを一覧表にする。ユーザはテンプレート中のスロットに対して、リストから適切な数のビデオファイルを選択する。
4.TEは編集要求をPHPサービスに提示する。
5.PHPは、このジョブをデータベースに加えることによって、新しいジョブをスケジューリングする。
6.新たにスケジューリングされたジョブが存在するかどうかを確認するために、SSPは定期的にデータベースを調査する。新たにスケジューリングされたジョブを見つけた場合、それを実行するために利用可能なTPを探す。利用可能なTPが見つかった場合には、このTPはそのジョブを処理し、さもなければ、TEはTPが利用可能になるまで待機しなければならない。TPが処理し終えたあと、SSPはこの新しいジョブを削除し、新たなレコードを結果表に加える。
7.ユーザは、ウェブページ上のビデオリストを確認することによって、ビデオがいつ利用可能かどうかを決定できる。
8.編集プロセスが完了したあと、ユーザはビデオリストページにおいて、編集するビデオのための対応するリンクをクリックできる。これによりプレビューを起動する。
【0177】
[ユーザの使用例]
図31〜55を参照して、本発明の好適な実施例を使用して使用例を説明する。
【0178】
図31は、本発明の一実施例によるユーザナビゲーションマップの例を示している。
【0179】
図32は、VESクライアントのタイトル画面及びホームページの例を示している。図32に示された実施例において、ホーム画面は、ビデオ送信/編集、マイフレンド、マイスタジオ、及びマイビデオの4つのボタンを有している。
【0180】
ビデオ送信/編集ボタンを押すと、ユーザは「ビデオテンプレート選択」ページに案内され、その例が図33a及び33bに示されている。このページにより、ユーザはビデオ及びテンプレートを選択できる。図33a及び33bに図示された可能なボタンの説明は以下の通りである。即ち、
スクリプト(Script):使用するスクリプトを選択する。
ビデオリスト(Video Clip List):選択した全てのビデオを一覧表にする。
追加(Add):ビデオをリストに追加する。
タイトル(Title):ビデオに対するタイトルを付加する。
上げる:位置を1つ上げる。
下げる:位置を1つ下げる。
削除:ビデオを「ビデオリスト」から削除する。
トリム(Trim):選択したビデオをトリミングするようにビデオトリム画面を起動する。トリミングされたビデオは、その隣にトリムアイコンを有している。
アントリム(Untrim):0にて開始し、最後のフレームにて終了するように、フレームポインタをリセットする。
【0181】
[再生:ビデオのプレビュー]
図33a及び33bに示された画面から可能なシナリオを以下に説明する:
1.ユーザはスクリプトを選択できる。
2.ビデオを追加するために、ユーザは「追加」ボタンをクリックできる。
3.ユーザは選択したビデオの順序をセットする。(ユーザは「ビデオリスト」からビデオを選択して、位置を上に移動させるために「上げる」ボタンを押す。ユーザは「ビデオリスト(Video Clip List)」からビデオを選択して、位置を下げるために「下げる」ボタンを押すこともできる)
4.ユーザは「ビデオリスト」からビデオを選択して、「ビデオリスト」からビデオを削除するために「削除」ボタンを押すことができる。
5.ユーザは「ビデオリスト」からビデオを選択して、ビデオをトリミングするために、「ビデオトリム」ページをポップアップさせるように「トリム」ボタンをクリックできる。
6.ユーザは、「ビデオリスト」からトリミングされたビデオを選択して、トリミングをキャンセルするために「アントリム」ボタンをクリックできる。
7.ユーザは、「ビデオリスト」からビデオを選択して、ビデオをプレビューするために「プレビュー」ボタンをクリックできる。
8.ユーザは「テンプレート」ドロップダウンリストからテンプレートを選択できる。
9.ユーザは、「ホーム」メニューをクリックすることによって、VESクライアントホーム画面に戻ることができる。
10. ビデオ及びテンプレートを選択したあと、ユーザは、「アップロード」メニュー項目をクリックできる。これによって、ユーザは「プレビュー」ページに行く。
【0182】
図34は、追加するためにビデオを選択した場合にユーザが見る画面の例を示している。
【0183】
図35は、プレビューするためにビデオを選択した場合にユーザが見る画面の例を示している。
【0184】
図36は、トリミングするためにビデオを選択した場合にユーザが見る画面の例を示している。ビデオをトリミングするために「トリム」を選択したとき、ビデオを再生することができる。左側のメニュー項目は「取り消し」とすることができ、右側のメニュー項目は「開始位置のセット」とすることができる。「開始位置のセット」をクリックした場合、右側のメニュー項目は「停止位置のセット」に変化できる。ビデオの再生が終了したとき、又はユーザが「停止位置のセット」をクリックしたとき、ビデオはポーズし、左側のメニュー項目は「承認」へ変化できる。このビデオトリミングのページは、「開始位置のセット」、「終了位置のセット」、及び「再生完了」の3つのページに分割できる。
【0185】
図37は、「開始位置のセット」ページの例を示している。この例において、ユーザが「取り消し」メニュー項目を選択した場合、ユーザはビデオテンプレート選択画面に戻ることができる。ユーザが「開始位置のセット」メニュー項目を選択した場合、トリム開始位置がセットされ、右側のメニュー項目は自動的に「終了位置のセット」に変化することができる。
【0186】
図38は「終了位置のセット」ページの例を示している。この例において、ユーザは、ビデオ終了位置をセットするために「終了位置のセット」メニュー項目をクリックできる。ユーザが「終了位置のセット」項目を選択しなかった場合、ビデオの最後を終了位置としてセットできる。ユーザは、ビデオを再生して開始及び終了位置をリセットするために、「取り消し」ボタンを選択できる。
【0187】
図39は「トリミングの承認」ページの例を示している。ユーザは、ビデオテンプレート選択ページに戻るために、「取り消し」メニュー項目をクリックできる。次にユーザはトリミングするためにビデオを再び選択、又は現在トリミングした選択したビデオを再生することができる。ユーザは、切り取られたビデオを承認してビデオテンプレート選択ページに戻るために、「承認」メニュー項目をクリックできる。
【0188】
ユーザがプレビューするためにビデオを選択した場合、3つのページを一続きで表示できる。図40はアップロードページを示しており、VESクライアントは最初に表示できる。「プレビュー」ボタンは最初は使用不可能であるが、プレビューが利用可能になったときに選択することができるようにすることができる。ビデオがアップロードされている間に、ある期間、広告を表示できる。
【0189】
図41は、ビデオがアップロードされており、アップロードが継続する間にプレビューが「現在利用可能」であることを示している画面である。
【0190】
「取り消し」を選択した場合、ユーザは「ビデオテンプレート選択」ページに戻ることができる。図42は、ユーザがアップロートのキャンセルを選択したときの画面の例を示している。ビデオのアップロード及びプレビューをキャンセルする意図があることを保証するために、ユーザに促すことができる。ユーザがプレビューするためにビデオを選択した場合、「プレビュー」ボタンを「スキップ」ボタンに変化させることができる。
【0191】
図43は、ユーザにビデオのプレビューを示す画面の例を示している。ユーザがプレビューのスキップを選択した場合、「受信者選択」ページへ向かうことができる。
【0192】
図44は、ユーザがアップロードのキャンセルを選択した場合の画面の例を示している。
【0193】
図45は、プレビューが再生完了した画面の例を示している。「スキップ」ボタンは「完了」に変化できる。ユーザは、アップロードのキャンセル、プレビューのキャンセル、及び「ビデオテンプレート選択」ページに戻るために、「キャンセル」項目を選択できる。ユーザは、「受信者選択」ページに行くために、「完了」を選択できる。
【0194】
図46は、ユーザがビデオを受信する受信者を選択できる、画面の例を示している。ユーザがビデオを送信する受信者を選択する場合、受信者ドロップダウンリストから受信者を選択して、「受信者リスト」に受信者を追加するために「追加」ボタンをクリックできる。ユーザは「受信者リスト」から受信者を選択して、「受信者リスト」からその受信者を削除するために「削除」ボタンをクリックできる。ユーザは、「ビデオテンプレート選択」ページに戻るために、「キャンセル」メニュー項目をクリックできる。受信者を選択したあと、ユーザは、編集したビデオを送信するように「送信」メニュー項目をクリックできる。
【0195】
図46に示された画面項目の説明は以下の通りである。即ち、
送信(Send):アップロードが完了していない場合、この項目は利用不可能になる。
キャンセル(Cancel):ビデオテンプレート選択ページに戻る。
受信者(Recipients):全受信者を一覧表にする。
受信者リスト(Recipients List):選択した全受信者を一覧表にする。
送信(Send):アップロードが完了したとき、この項目が利用可能になる。
【0196】
図47はサマリー(Summary)とヒストリ(History)ページの例を示している。この実施例において、サマリーとヒストリページは、ユーザが送信した最近の10個の編集したビデオのタイトルを示している。ユーザが「ホーム(Home)」メニュー項目を選択した場合、ビデオ編集プログラムがリスタートされ、ユーザを「ビデオテンプレート選択」ページに向かわせることができる。ユーザは「終了」を選択して、VESクライアントアプリケーションを終了させることもできる。
【0197】
図48は、受信PCアプリケーションのためのログインページの例を示している。この代表的な実施例の例において、受信PCアプリケーションは、ウィンドウズアプリケーショントレーに存在するマイクロソフト基礎クラス(MFC)アプリケーションである。
【0198】
図49は、ユーザログインが失敗した場合の画面ショットの例を示している。警告メッセージが出されて、ユーザはユーザ名及びパスワードを再入力することができる。
【0199】
ログインが成功した場合、アイコン(図50の強調された四角の内部に示されるように)がタスクバーに現れ、ウェブサイトを起動できる。ウェブサイトは自動的に起動することが好ましい。ユーザが左のマウスボタンをアイコン上でダブルクリックした場合、アプリケーションはウェブサイトを自動的に開く。ユーザが右ボタンをアイコン上でクリックした場合、図51に示すように、メニューをポップアップさせることができる。ユーザは、ウェブサイトを起動するように「ウェブ(Web)」を選択、アプリケーションがウィンドウズ内で自動実行するかどうかを決定するために「自動スタート」を選択(又は選択解除)、又はアプリケーションを終了するために「終了」を選択することができる。
【0200】
図52は、新たに編集されたビデオが利用可能であることをユーザに警告するためにポップアップできるバブルを示している。ユーザがこのアイコン上で左クリックする場合、アプリケーションはウェブサイトを自動的に起動する。
【0201】
図53,54及び55は、テンプレートエディタの画面ショットの異なる例を示している。テンプレートエディタページのこの代表的な実施例のあるアプリケーション及び特徴の例は以下の通りである。
【0202】
[ビデオパネル]
このパネルは画像、ビデオ及びスロットを含むことができる。
1.画像−静止画のリストをサーバからダウンロードできる。画像を選択した後、実際の画像データをサーバからダウンロードし、ユーザに示すことができる。
2.ビデオ−ビデオのリストのサーバからダウンロードできる。
3.スロット−スロットボタン上でのクリックによって、スロット項目を作成できる。
【0203】
[遷移効果コンポーネントパネル]
このパネルは、遷移効果コンポーネントの異なる例を(ボタンとして)含んでいる。ユーザは、遷移効果ボタン上でクリックしてビデオ時系列において遷移効果項目を作成できる。
【0204】
[ビデオライン]
ビデオ時系列を静止画、サーバ上のビデオ、元ビデオ、及び遷移効果コンポーネントを表す要素からなることができる。要素は時間順に並べられる。要素及び遷移効果コンポーネントが時系列に追加されたあと、ユーザは要素上での右クリックによってこのビデオ要素の特徴を変更し、背景音楽を追加し、又は要素を削除できる。ユーザが背景音楽の追加を選択した場合、音楽ラインが形成される。ユーザは、追加された各々の音楽要素に対するボリュームの重みをセットできる。これらの重みは最終的なビデオにおける重なる音楽をミキシングするために使用できる。
【0205】
[オーディオライン]
各々のビデオ要素は、このバージョンのためのそれに追加された少なくとも1つの音楽トラックを有することができる。使用されているテンプレートエディタの例を以下に示す:
1.ユーザは、TEアプリケーションをウェブサイト上で起動する。
2.ユーザは、「ピクチャ」ボタン上でマウスを移動させる(サーバ上の画像のリストをポップアップウィンドウ中に示すことができる)。
3.ユーザは、リスト中の画像の1つをクリックする(画像要素がビデオライン上に作成することができる)。
4.ユーザは、「遷移効果パネル」中の遷移効果ボタンをクリックする(遷移効果コンポーネントをビデオライン上で作成できる。)
5.ユーザが「スロット」ボタンをクリックする(空いたスロットをビデオライン上に作成できる)。
6.スロット成分上での右クリックにより、メニューを表示することができる。「背景音楽の追加」を選択すると、追加すべき利用可能な音楽トラックのリストが表示される。背景音楽は複数のスロットに亘って完成まで再生できる。
7.ユーザは、ステップ2〜6を繰り返すことができる。
8.ユーザは、テンプレートをサーバにアップロードするように「アップロード(Upload)」ボタンをクリックする(これは「トライ・イット・ナウ」ボタンを利用可能にする)。
9.ユーザは、テンプレートをアップロードしたあと、「トライ・イット・ナウ」ボタンをクリックする(テンプレート中の空いたスロットのためにユーザが以前アップロードしたビデオを選択するように、パネルを示すことができる。ユーザがこのための以前アップロードしたクリップを有していない場合には、AVESはAVESのデフォルトの「トライ・イット・ナウ」クリップを使用できる)。
10.「トライ・イット・ナウ」が実行された場合、TPが作成したあと、ユーザはウェブサイト上で得られたビデオを見ることができる。
【0206】
一実施例において、ここで議論した1つ以上の方法をマシンに実行させるための命令セットをその内部で実行できる、コンピュータシステムの代表的な形式におけるマシンを提供できる。代替の実施例において、マシンは単独のデバイスとして動作、又は他のマシンに接続(例えばネットワーク接続)できる。ネットワーク化された配置において、マシンは、クライアント・サーバネットワーク環境におけるサーバ又はクライアントマシンとして、又はピア・ツー・ピア(又は分散)ネットワーク環境におけるピアマシンとして動作できる。このマシンはサーバコンピュータクライアントコンピュータ、パーソナルコンピュータ(PC)タブレットPC,セットトップボックス(STB)、携帯情報端末(PDA)、携帯電話、ウェブ装置、ネットワークルータ、スイッチ又はブリッジ、又はそのマシンによって取られる行動を指定する(逐次又は他の)命令セットを実行する能力があるどのようなマシンであってもよい。
【0207】
代表的な実施例において、マシンが読み出し可能な手段が、単数の手段であると示されているが、「マシン読み出し可能手段」という言葉は、1つ以上の命令セットを保存する単数又は複数の手段(例えば集中又は分散データベース、及び/又は関連キャッシュ及びサーバ)を含むと解釈されたい。「マシン読み出し可能手段」という言葉は、保存、符号化又は実行のための命令セットをマシンによって実行する能力があり、且つ本発明の1つ以上の方法をマシンに実行させる、如何なる手段を含むとも解釈されたい。概括的に、本発明の実施例を実装するように実行されるルーチンを、基本ソフトの一部、又は特定のアプリケーション、要素、プログラム、オブジェクト、モジュール又は「コンピュータプログラム」として参照されている命令のシーケンスとして実装できる。コンピュータプログラムは、典型的には、コンピュータ中の様々なメモリ及び記憶装置において様々な時に1つ以上の命令セットを含み、コンピュータ中で1つ以上のプロセッサによって読み出されて実行されるとき、本発明の様々な態様を共なる要素を実行するように、コンピュータに作業を行わせる。
【0208】
更に、実施例は完全に機能するコンピュータ及びコンピュータシステムに関連して説明されたが、当業者は、様々な実施例は様々な形式のプログラム製品として販売することが可能であり、本開示が、実際に販売をもたらす特定のタイプのマシン又はコンピュータ読み出し可能手段にかかわらず同様に適用できることを認識されよう。読み出し可能メディアの例は、とりわけ揮発性、不揮発性メモリデバイス、フロッピー及び他のリムーバブルディスク、ハードディスクドライブ、光学ディスク(例えばコンパクトディスクリードオンリーメモリ(CD−ROM)、デジタル多用途ディスク(DVD)など)の記録可能なタイプのメディア、デジタル及びアナログ通信リンクのような送信タイプ手段を含むが、それらに限定されない。
【0209】
実施例は特定の代表的な実施例を参照して説明したが、これらの実施例に対して様々な改良及び変更が可能であることは明らかでる。従って、明細書及び図面は限定的な意味ではなく、概要の意味で考えるべきである。前述の明細書は特定の代表的な実施例を参照して説明を提供している。続く請求項に記載された本発明の上位概念及び範囲から離れることなく、様々な改良が可能であることは明らかである。従って、明細書及び図面は限定的な意味ではなく、概要の意味で考えるべきである。
【特許請求の範囲】
【請求項1】
ビデオデータを処理するステップと、
処理されたビデオをモバイル配信のために提供するステップと、
を含むことを特徴とする方法。
【請求項1】
ビデオデータを処理するステップと、
処理されたビデオをモバイル配信のために提供するステップと、
を含むことを特徴とする方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24a】
【図24b】
【図25】
【図26】
【図27】
【図28】
【図29】
【図30】
【図31】
【図32】
【図33a】
【図33b】
【図34】
【図35】
【図36】
【図37】
【図38】
【図39】
【図40】
【図41】
【図42】
【図43】
【図44】
【図45】
【図46】
【図47】
【図48】
【図49】
【図50】
【図51】
【図52】
【図53】
【図54】
【図55】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24a】
【図24b】
【図25】
【図26】
【図27】
【図28】
【図29】
【図30】
【図31】
【図32】
【図33a】
【図33b】
【図34】
【図35】
【図36】
【図37】
【図38】
【図39】
【図40】
【図41】
【図42】
【図43】
【図44】
【図45】
【図46】
【図47】
【図48】
【図49】
【図50】
【図51】
【図52】
【図53】
【図54】
【図55】
【公表番号】特表2009−542046(P2009−542046A)
【公表日】平成21年11月26日(2009.11.26)
【国際特許分類】
【出願番号】特願2009−515536(P2009−515536)
【出願日】平成19年6月18日(2007.6.18)
【国際出願番号】PCT/US2007/014292
【国際公開番号】WO2007/149444
【国際公開日】平成19年12月27日(2007.12.27)
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.JAVA
2.Bluetooth
3.フロッピー
【出願人】(507091738)ドロップレット テクノロジー インコーポレイテッド (8)
【Fターム(参考)】
【公表日】平成21年11月26日(2009.11.26)
【国際特許分類】
【出願日】平成19年6月18日(2007.6.18)
【国際出願番号】PCT/US2007/014292
【国際公開番号】WO2007/149444
【国際公開日】平成19年12月27日(2007.12.27)
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.JAVA
2.Bluetooth
3.フロッピー
【出願人】(507091738)ドロップレット テクノロジー インコーポレイテッド (8)
【Fターム(参考)】
[ Back to top ]