命令入力装置及び方法、メディア信号のユーザインタフェース表示方法及びその具現装置、並びにミックス信号処理装置及びその方法
本発明は、ミックス信号を制御するために必要な命令を入力できる入力装置及び入力方法に関するもので、入力部と、該入力部を通じて受信した入力信号をソース別メニュー表示命令に変換した後、該ソース別メニュー表示命令によって、ミックス信号に該当するソース情報に基づいてソース別メニュー表示画面が出力されるようにする制御部と、該ソース別メニュー表示画面が出力されるディスプレイと、を含む。
本発明によると、ビデオ信号及びオーディオ信号などのようなミックス信号に含まれているソース信号別に音量レベルを調整したりアンビエンス(相対的位置)を調整することができる他、ミックス信号(または合成オブジェクト信号)と関連しているソース信号(またはオブジェクト信号)に関する情報をユーザが常に確認できるようにすることができる。
本発明によると、ビデオ信号及びオーディオ信号などのようなミックス信号に含まれているソース信号別に音量レベルを調整したりアンビエンス(相対的位置)を調整することができる他、ミックス信号(または合成オブジェクト信号)と関連しているソース信号(またはオブジェクト信号)に関する情報をユーザが常に確認できるようにすることができる。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、入力装置及び入力方法に関するものであり、より詳細には、ミックス信号を制御するために必要な命令を入力できる入力装置及び入力方法に関する。また、本発明は、ミックス信号のインタフェース表示方法及び装置に関するものであり、より詳細には、オーディオ信号、ビデオ信号などのミックス信号に関してユーザにインタフェースを提供できるミックス信号のインタフェース表示方法及び装置に関する。また、本発明は、ミックス信号処理方法及び装置に関する。
【背景技術】
【0002】
一般に、ステレオ信号が最も頻繁に生成されて、消費者たちに最も広く用いられている。最近では、マルチャンネル信号が益々広く利用されている。しかし、該ミックス信号は、ミックス信号を構成するソース信号単位ではなく、チャネル信号単位に処理されるという限界がある。そのため、チャネル信号単位にミックス信号を処理する場合、ミックス信号を構成する特定ソース信号のみを独立して処理できないという問題点がある。例えば、映画を見る際に、俳優たちの音声に対する音量は一定に維持しながら、背景音楽の音量のみを上げることは不可能である。
【0003】
のみならず、ユーザがミックス信号(または合成オブジェクト信号)をソース別に、すなわち、特定ソース信号別に独立的に処理してリミキシングするためには、ソース信号別に音量レベルを上げたり下げたりするか(レベルを0にして音をミュートするか)、ソース信号の相対的位置を調節したりしなければならない。ところが、従来のリモートコントローラはミックス信号全体の音量レベルを調整することができるだけで、ミックス信号に含まれているソース信号のそれぞれの音量レベルを調整したりアンビエンスを調整することはできないという問題点がある。
【0004】
また、ユーザがミックス信号(または合成オブジェクト信号)をソース別に、すなわち、ソース信号別にリミキシングするためには、該当ミックス信号に含まれているソース信号にはどのようなものがあるか知らなければならない。例えば、ミックス信号が音楽ファイルの場合、ユーザは、この音楽ファイルに関連するソース信号が、ピアノ、バイオリン、フルートなどであるか確認しなければならない。ところが、従来はミックス信号(または合成オブジェクト信号)の情報が表示されるだけで、ミックス信号と関連しているソース信号の情報がどのようなものかは表示されないという問題点があった。
【発明の概要】
【発明が解決しようとする課題】
【0005】
本発明は、上記のような問題点を解決するために案出されたもので、その目的は、ビデオ信号及びオーディオ信号などのようなミックス信号に含まれているソース信号別に音量レベルを調整したりアンビエンス(相対的位置)を調整することができる入力装置及び入力方法を提供することにある。
【0006】
本発明の他の目的は、ミックス信号(または合成オブジェクト信号)と関連しているソース信号(またはオブジェクト信号)に関する情報をユーザが常に確認できるようにディスプレイすることができるミックス信号のインタフェース表示方法及び装置を提供することにある。
【0007】
本発明のさらに他の目的は、ミックス信号(または、合成オブジェクト信号)と関連しているソース信号(またはオブジェクト信号)に関する情報をグラフィックユーザインタフェース(GUI:Graphic User Interface)を通じて提供できるミックス信号のインタフェース表示方法及び装置を提供することにある。
【0008】
本発明のさらに他の目的は、オーディオ信号、ビデオ信号などのミックス信号(または合成オブジェクト信号)が再生される間に、ミックス信号(または合成オブジェクト信号)と関連しているソース信号を表すイメージを時間別に様々に変化させて表現できるミックス信号のインタフェース表示方法及び装置を提供することにある。
【0009】
本発明のさらに他の目的は、ミックス信号に含まれたソース信号が別に存在しない場合に、該ソース信号と類似する信号を用いてソース信号別付加情報を生成する方法を提供することにある。
【0010】
本発明のさらに他の目的は、デコーディング装置でミックス信号を用いて該ミックス信号をリミックスするための付加情報を生成する方法及び装置を提供することにある。
【0011】
本発明のさらに他の目的は、ミックス信号に含まれた特定のソース信号をユーザが提供するソース信号に変える方法及び装置を提供することにある。
【0012】
本発明のさらに他の目的は、ユーザがソース信号を用いてミックス信号を変形できる信号処理方法及び装置を提供することにある。
【0013】
本発明のさらに他の目的は、ユーザがミックス信号をソース信号単位に制御できる信号処理方法及び装置を提供することにある。
【0014】
本発明のさらに他の目的は、ユーザがリミックス情報提供サーバーから所望のリミックス情報を受け取ることができる信号処理方法及び装置を提供することにある。
【0015】
本発明のさらに他の目的は、ユーザの生成したリミックス情報をリミックス情報提供サーバーにアップロードできる信号処理方法及び装置を提供することにある。
【0016】
本発明のさらに他の目的は、一部ソース信号が除外されたミックス信号を受け取ったり生成できる信号処理方法及び装置を提供することにある。
【課題を解決するための手段】
【0017】
上記目的を達成するために本発明による入力装置は、入力部;前記入力部を通じて受信した入力信号をソース別メニュー表示命令に変換した後、前記ソース別メニュー表示命令によって、ミックス信号に該当するソース情報に基づいてソース別メニュー表示画面が出力されるようにする制御部;及び、前記ソース別メニュー表示画面が出力されるディスプレイを含む入力装置とする。
【0018】
本発明によると、ポインティングデバイスをさらに含み、前記制御部は、前記ポインティングデバイスを通じて受信した入力信号をソース別レベル調整命令に変換することができる。
【0019】
本発明によると、方向移動キーをさらに含み、前記制御部は、前記方向移動キーを通じて受信した入力信号をソース別レベル調整命令に変換することができる。
【0020】
本発明の他の態様によると、入力部;前記入力部を通じて受信した入力信号をソース別メニュー表示命令に変換する制御部;及び、前記制御部により変換された命令を外部装置に伝送するための無線通信部を含む入力装置が提供される。
【0021】
本発明によると、前記無線通信部は、ソース別メニュー画面に関するデータを前記外部装置から受信するためのもので、前記ソース別メニュー画面が表示されるディスプレイをさらに含むことができる。
【0022】
本発明のさらに他の態様によると、入力部;及び、前記入力部を通じて受信した入力信号を音声ミュート命令に変換し、前記音声ミュート命令に基づいてミックス信号に関する制御情報を出力する制御部を含む入力装置が提供される。
【0023】
本発明のさらに他の態様によると、入力部;及び、前記入力部を通じて受信した入力信号を音声レベル調整命令に変換し、前記音声レベル調整命令に基づいてミックス信号に関する制御情報を出力する制御部を含む入力装置が提供される。
【0024】
本発明のさらに他の態様によると、入力部;及び、前記入力部を通じて受信した入力信号をアンビエンス画面表示命令に変換し、前記アンビエンス画面表示命令に応じて、ミックス信号に該当するソース情報に基づいてアンビエンス画面が出力されるようにする制御部;及び、前記アンビエンス画面が出力されるディスプレイを含む入力装置が提供される。
【0025】
本発明によると、ポインティングデバイスまたは方向移動キーをさらに含み、前記制御部は、前記ポインティングデバイスを通じて受信した入力信号をアンビエンス調整命令に変換し、前記アンビエンス調整命令に基づいてミックス信号に関する制御情報を出力することができる。
【0026】
本発明のさらに他の態様によると、入力部;前記入力部を通じて受信した入力信号をソース音ミュート命令に変換し、前記ソース音ミュート命令に基づいてミックス信号に関する制御情報を出力する制御部を含み、前記ソース音ミュート命令は、前記ミックス信号に含まれる特定ソース信号が再生されないようにするための命令である入力装置が提供される。
【0027】
本発明のさらに他の態様によると、ショートカットキー登録命令を受信する段階;複数のキーのうち一つのキー、複数のソースのうち一つのソース、一つ以上の機能のうち一つの機能が選択される段階;及び、前記選択されたキーに、前記選択されたソースに対して前記選択された機能をマッチングさせて保存する段階を含み、前記複数のソースは、オーディオ信号のソース、及びビデオ信号のソースのうち一つ以上を含み、前記一つ以上の機能は、音ミュート及びアンビエンス調整のうち一つ以上を含む入力方法が提供される。
【0028】
本発明によると、前記選択される段階は、複数の数字キーから一つの数字キーが選択される段階でありうる。
【0029】
本発明のさらに他の態様によると、複数のキーのうち一つのキー、複数のソースのうち一つのソース、及び一つ以上の機能のうち一つの機能を選択するための入力部;各キー別命令情報が保存される記憶部;及び、前記入力部により前記選択されたキーに、前記選択されたソースに対して前記選択された機能をマッチングさせて前記記憶部に保存する制御部を含み、前記複数のソースは、オーディオ信号の客体、及びビデオ信号の客体のうち一つ以上を含み、前記一つ以上の機能は、音ミュート及びアンビエンス調整のうち一つ以上を含む入力装置が提供される。
【0030】
本発明によるインタフェース表示方法は、ユーザにより特定ミックス信号が選択される段階;及び、前記ミックス信号に対応するソース信号情報を照会して、前記ソース信号のリストをディスプレイに表示する段階を含み、前記表示は、前記ミックス信号が選択されている間に維持され続く。
【0031】
本発明によると、前記ソース信号情報は、前記ミックス信号に対応する付加情報から抽出されることができる。
【0032】
本発明によると、前記ソース信号のリストは、前記ミックス信号に含まれているソース信号の楽器名、歌手名、及び登場人物名のうち一つ以上でありうる。
【0033】
本発明によると、ユーザにより前記ソース信号のリストから一つのソースが選択される段階;及び、前記選択されたソースに関するメタデータをさらに表示する段階をさらに含むことができる。
【0034】
本発明によると、前記メタデータは、前記ミックス信号に対応する付加情報から抽出されたもので、前記ソース信号の楽器演奏者名、製作日時のうち一つ以上を含むことができる。
【0035】
本発明によると、ユーザにより前記ソース信号のリストから一つのソースが選択される段階;及び、前記選択されたソースに対する音量レベル調整画面をさらに表示する段階をさらに含むことができる。
【0036】
本発明によると、ユーザにより前記ソース信号のリストから一つのソースが選択される段階;及び、前記選択されたソースに対するイコライザ調整画面をより表示する段階をさらに含むことができる。
【0037】
本発明によると、ユーザにより前記ソース信号のリストから一つのソースが選択される段階;及び、前記選択されたソースに対するアンビエンス調整画面をさらに表示する段階をさらに含むことができる。
【0038】
本発明のさらに他の態様によると、複数のミックス信号から一つを選択するための入力部;前記ミックス信号に対応するソース信号情報を照会して、前記ソース信号のリストを表示する制御部;及び、前記ソース信号のリストを表示するためのディスプレイを含み、前記表示は、前記ミックス信号が選択されている間に維持され続く、ミックス信号のインタフェース表示装置が提供される。
【0039】
本発明によると、第2ディスプレイをさらに含み、前記入力部は、前記ソース信号のリストから一つのソースを選択することができ、前記制御部は、前記選択されたソースに対するメタデータ、音量レベル調整画面、イコライザ調整画面、アンビエンス調整画面のうち一つ以上を、前記第2ディスプレイに表示することができる。
【0040】
本発明によると、前記ディスプレイは、複数の発光素子の点滅により前記ソース信号のリストを表示することができる。
【0041】
本発明によると、前記ディスプレイ及び前記第2ディスプレイは、一つのパネルで構成されることができる。
【0042】
本発明によるミックス信号のインタフェース表示方法は、ユーザにより特定ミックス信号が選択される段階;及び、前記ミックス信号に対応するソース信号情報を照会して、前記ソース信号情報に基づいて前記ソース信号に該当するアイコンを表示する段階を含む。
【0043】
本発明によると、前記ソース信号情報は、前記ミックス信号に対応する付加情報から抽出される。
【0044】
本発明によると、前記ミックス信号に対応するメタデータを抽出する段階を含み、前記アイコンは、前記メタデータとマッチングされるイメージでありうる。
【0045】
本発明によると、前記メタデータは、前記ミックス信号に対応する付加情報から抽出されるもので、前記ソース信号の楽器演奏者名、声楽家名のうち一つ以上を含むことができる。
【0046】
本発明によると、前記アイコンのうち一つに対する実行命令を受信すると、選択されたアイコンに該当するソース信号のレベル調整画面を表示する段階をさらに含むことができる。
【0047】
本発明によると、レベル調整に関する命令を受信すると、調整されたレベルに従って前記選択されたアイコンの形状を変化させる段階をさらに含み、前記アイコンの形状は、大きさ、色相、明るさのうち一つ以上を含むことができる。
【0048】
本発明によると、レベル調整に関する命令を受信すると、前記選択されたアイコンに該当するソース信号のレベルを調整して、前記ミックス信号をリミキシングする段階をさらに含むことができる。
【0049】
本発明によると、前記アイコンのうち一つが選択されると、選択されたアイコンに該当するソース信号のイコライザ画面を表示する段階をさらに含むことができる。
【0050】
本発明によると、サブバンド別レベル調整に関する命令を受信すると、調整されたサブバンド別レベルに従って前記選択されたアイコンの形状を部分的に変化させる段階をさらに含み、前記アイコンの形状は、大きさ、色相、明るさのうち一つ以上を含むことができる。
【0051】
本発明によると、サブバンド別レベル調整に関する命令を受信すると、前記選択されたアイコンに該当するソース信号のサブバンドレベルを調整し、前記ミックス信号をリミキシングする段階をさらに含むことができる。
【0052】
本発明によると、前記アイコンのうち一つが選択されると、選択されたアイコンに該当するソース信号のアンビエンス調整画面を表示する段階をさらに含み、前記アンビエンス調整画面は、ソース信号別の相対的位置が表示された画面でありうる。
【0053】
本発明によると、アンビエンス調整に関する命令を受信すると、調整されたアンビエンスによって前記選択されたアイコンの形状を変化させる段階をさらに含み、前記アイコンの形状は、大きさ、色相、明るさのうち一つ以上を含むことができる。
【0054】
本発明によると、アンビエンス調整命令に関する信号を受信すると、前記選択されたアイコンに該当するソース信号の相対的位置を調整し、前記ミックス信号をリミキシングする段階をさらに含み、前記相対的位置は、他のソース信号の位置及び仮想ユーザ位置によって決定されることができる。
【0055】
本発明のさらに他の態様によると、複数のミックス信号のうち一つを選択するための入力部;前記入力部により選択されたミックス信号に対応するソース信号情報を照会した後、前記ソース信号情報に基づいて前記ソース信号に該当するアイコンを表示する制御部;及び、前記ソース信号に該当するアイコンを表示するためのディスプレイ部を含む、ミックス信号のインタフェース表示装置が提供される。
【0056】
本発明によると、アイコン別イメージデータが保存されている記憶部をさらに含み、前記アイコンは、前記記憶部に保存されているイメージデータでありうる。
【0057】
本発明のさらに他の態様によると、ユーザからミックス信号に対する再生命令を受信する段階;及び、前記ミックス信号に対応するソース信号のレベルが時間別に変化するに従って前記ソース信号のイメージの形状を時間別に変化させて表示する段階を含み、前記イメージの形状は、大きさ、色相、明るさ、画面内位置のうち一つ以上を含む、ミックス信号のインタフェース表示方法が提供される。
【0058】
本発明によると、前記ソース信号のレベルは、前記ソース信号のサブバンド別レベルであり、前記表示する段階は、前記ソース信号のイメージの形状を部分的に変化させる段階でありうる。
【0059】
本発明によると、前記表示する段階は、特定時点におけるレベルが最も高いソース信号以外のソース信号のイメージの大きさが0である。
【0060】
本発明によると、前記イメージは、前記ミックス信号に対応するメタデータとマッチングすることができる。
【0061】
本発明のさらに他の態様によると、ミックス信号に対する再生命令を入力するための入力部;前記ミックス信号に対応するソース信号のレベルが時間別に変化するに従って前記ソース信号のイメージの形状を時間別に変化させて表示されるように制御する制御部;前記ソース信号に該当するイメージを表示するためのディスプレイ部を含み、前記イメージの形状は、大きさ、色相、明るさ、画面内位置のうち一つ以上を含む、ミックス信号のインタフェース表示装置が提供される。
【0062】
本発明は、通信網を通じてユーザ端末と結合するリミックス情報提供サーバーが、ユーザ端末からリミックス情報の要請を受ける段階;及び、前記要請されたリミックス情報を前記ユーザ端末に伝送する段階を含み、前記リミックス情報は、ミックス信号、前記ミックス信号に含まれているソース信号、前記ミックス信号を前記ソース信号別に制御するためのミックスパラメータ、前記ミックス信号をアップミックスするためのアップミックスパラメータ、前記ソース信号を表現するためのアイコンまたは顔文字のうち少なくとも一つを含むことを特徴とする信号処理方法を提供する。
【0063】
前記リミックス情報は、前記ミックス信号に含まれている前記ソース信号から一部のソース信号が除外された変形されたミックス信号を含む。
【0064】
前記ユーザ端末から前記変形されたミックス信号伝送の要請を受ける場合、前記方法は、前記ミックス信号から除外するソース信号が選択される段階と、前記選択されたソース信号が除外された変形されたミックス信号を生成する段階と、をさらに含み、前記伝送する段階は、前記変形されたミックス信号を前記ユーザ端末に伝送する。
【0065】
前記伝送する段階は、前記リミックス情報に対する決済が完了すると、前記リミックス情報を前記ユーザ端末に伝送する段階を含む。
【0066】
前記リミックス情報提供サーバーは、金融機関または移動通信事業者と通信網を通じて結合し、前記決済は、前記ユーザ端末にユーザ端末認証情報を要請する段階と、前記ユーザ端末から入力された前記認証情報を、前記金融機関または前記移動通信事業者に伝送して認証を要請する段階と、前記ユーザ端末認証が完了すると、前記金融機関または前記移動通信事業者に決済情報を伝送して決済を要請する段階と、を含む。
【0067】
本発明は、リミックス情報提供サーバーと通信網を通じて結合するユーザ端末で行なう信号処理方法であって、前記サーバーに接続してリミックス情報を要請する段階と、前記サーバーから要請された決済情報を前記サーバーに伝送する段階と、決済が完了すると、前記サーバーから前記リミックス情報を受信する段階と、を含み、前記リミックス情報は、ミックス信号、前記ミックス信号に含まれているソース信号、前記ミックス信号を前記ソース信号別に制御するためのミックスパラメータ、前記ミックス信号をアップミックスするためのアップミックスパラメータ、前記ソース信号を表現するためのアイコンまたは顔文字のうち少なくとも一つを含むことを特徴とする信号処理方法を提供する。
【0068】
本発明は、ユーザ端末と通信網を通じて結合するリミックス情報提供サーバーであって、前記ユーザ端末からリミックス情報が要請され、該要請されたリミックス情報を前記ユーザ端末に伝送する送受信部と、前記ユーザ端末の要請に応じて、前記要請されたリミックス情報を抽出するデータベース部と、前記リミックス情報使用が有料である場合、前記リミックス情報使用に対する決済を処理する決済処理部と、前記ユーザ端末が要請した前記リミックス情報を、前記ユーザ端末に伝送するようにする制御部と、を含み、前記リミックス情報は、ミックス信号、前記ミックス信号に含まれているソース信号、前記ミックス信号を前記ソース信号別に制御するためのミックスパラメータ、前記ミックス信号をアップミックスするためのアップミックスパラメータ、前記ソース信号を表現するためのアイコンまたは顔文字のうち少なくとも一つを含むことを特徴とするリミックス情報提供サーバーを提供する。
【0069】
本発明は、リミックス情報提供サーバーと通信網を通じて結合するユーザ端末であって、前記リミックス情報提供サーバーにリミックス情報を要請し、前記要請したリミックス情報を受信する通信部と、制御情報を受信するユーザインタフェースと、前記リミックス情報及び前記制御情報を用いて、ミックス信号に含まれているソース信号をリミックスするリミックスレンダリング部と、前記ユーザ端末の全般を制御して、前記ミックス信号に含まれている前記ソース信号をリミックスするようにする制御部と、を含み、前記リミックス情報は、ミックス信号、前記ミックス信号に含まれているソース信号、前記ミックス信号を前記ソース信号別に制御するためのミックスパラメータ、前記ミックス信号をアップミックスするためのアップミックスパラメータ、前記ソース信号を表現するためのアイコンまたは顔文字のうち少なくとも一つを含むことを特徴とするユーザ端末を提供する。
【0070】
これまでの一般的な説明及び以降の詳細な説明は、例示であり、特許請求の範囲を更に説明するためのものである。
【発明の効果】
【0071】
本発明の一態様によると、ビデオ信号及びオーディオ信号などのようなミックス信号に含まれているソース信号別に音量レベルを調整したりアンビエンス(相対的位置)を調整することができるため、ユーザはミックス信号を非常に容易くリミキシングすることができる。
【0072】
本発明の他の態様によると、ミックス信号に含まれているソースから、人の音声のみを音ミュートさせたり音声の音量レベルのみを調整することができるため、歌ファイルが再生される間に入力装置(リモートコントローラ)を用いてユーザは非常に簡単に歌手の音声のみをミュートさせ、伴奏音楽のみを聞くことができる。
【0073】
本発明のさらに他の態様によると、ユーザが頻繁にリミックスするソース(例:ピアノ)を特定キー(例:1番数字キー)などにショートカットキーとして登録しておいた後、ショートカットキーを用いてソース別にレベル調整やアンビエンスを調整する場合、ユーザは、自身の好みに合わせて設定しておいた入力装置(リモートコントローラ)を用いて非常に便利にリミキシングすることができる。
【0074】
本発明のさらに他の態様によると、ミックス信号(または合成オブジェクト信号)と関連しているソース信号(またはオブジェクト信号)に関する情報が画面に継続してディスプレイされているため、ユーザはミックス信号を再生したりリミキシングする間に、ミックス信号に含まれているソースがどんなものかを確認することができる。
【0075】
本発明のさらに他の態様によると、ミックス信号が再生されたりリミキシングされる間に、ユーザはミックス信号別にどんなソース(楽器別オーディオ信号等)が含まれているか常に確認することができるため、ソース別にレベルを調整したりアンビエンスを調整する前に、該当ミックス信号にどんなソースが含まれているか確認する手順を行なう必要がない。
【0076】
本発明のさらに他の態様によると、ミックス信号(または合成オブジェクト信号)と関連しているソース信号(またはオブジェクト信号)に関する情報が画面に継続してディスプレイされているため、ユーザはミックス信号を再生したりリミキシングする間にミックス信号に含まれているソースがどんなものかを確認することができる。
【0077】
本発明のさらに他の態様によると、ミックス信号が再生されたりリミキシングされる間に、ユーザはミックス信号別にどんなソース(楽器別オーディオ信号等)が含まれているか常に確認することができるため、ソース別にレベルを調整したりアンビエンスを調整する前に、該当のミックス信号に含まれたソースがどんなものか確認する手順を行なう必要がない。
【0078】
また、本発明による信号処理方法は、ユーザがリミックス情報をリミックス情報提供サーバーから受け取って利用することができる。
【0079】
また、本発明による信号処理方法及び装置は、ミックス信号から特定ソース信号が除外された、変形されたミックス信号を受け取って利用することができる。
【0080】
また、本発明による信号処理方法は、ユーザがリミックス情報を生成したり変形し、これをリミックス情報提供サーバーにアップロードすることができる。
【図面の簡単な説明】
【0081】
【図1】本発明の一実施例による第1リミックス信号エンコーディング装置のブロック図である。
【図2】ステレオ信号を用いる場合の図1の第1リミックス信号エンコーディング装置の詳細ブロック図である。
【図3】本発明の一実施例によるミックス信号を処理するためのドメインのグラフである。
【図4】本発明の一実施例による第2リミックス信号エンコーディング装置のブロック図である。
【図5】本発明の一実施例による第1リミックス信号デコーディング装置のブロック図である。
【図6】ステレオ信号を用いる場合の図5の第1リミックス信号デコーディング装置の詳細図である。
【図7】本発明の一実施例による第2リミックス信号デコーディング装置のブロック図である。
【図8】通常のエンコーディング装置及び本発明の一実施例によるリミックス信号エンコーディング装置との結合を示すブロック図である。
【図9】従来のデコーディング装置と結合して用いられる本発明の一実施例による第2リミックス信号デコーディング装置のブロック図である。
【図10】本発明の一実施例によるリミックス信号デコーディング装置の詳細ブロック図である。
【図11】本発明の一実施例による入力装置の構成図である。
【図12】本発明の一実施例による入力装置の具現例である。
【図13】第1入力部(ソースメニューキー)が入力された後に表示される画面の一例である。
【図14】第2入力部(音声ミュートキー)が入力された後に表示される画面の一例である。
【図15】第3入力部(音声調整キー)が入力された後に表示される画面の一例である。
【図16】第4入力部(アンビエンス調整キー)が入力された後に表示される画面の一例である。
【図17】第5入力部のうち第1ソースキー(ピアノキー)が入力された後に表示される画面の一例である。
【図18】第5入力部のうち第2ソースキー(バイオリンキー)が入力された後に表示される画面の一例である。
【図19】本発明の他の実施例による入力装置の構成図である。
【図20】本発明の一実施例による入力装置が関連し合っている第1リミックス信号デコーディング装置の構成を示す図である。
【図21】本発明の他の実施例による入力装置が関連し合っている第2リミックス信号デコーディング装置及び第2インタフェース装置の構成を示す図である。
【図22】本発明の実施例による入力方法のフローチャートである。
【図23】ショートカットキー登録命令が入力された後に表示される画面の一例である。
【図24】本発明の一実施例によるインタフェース表示装置の構成図である。
【図25A】本発明の一実施例によるインタフェース表示装置の具現例である。
【図25B】本発明の一実施例によるインタフェース表示装置の具現例である。
【図26】特定ソースが選択された場合の第1ディスプレイ及び第2ディスプレイに表示される画面の一例である。
【図27】特定ソースが選択された場合の第1ディスプレイ及び第2ディスプレイに表示される画面の他の例である。
【図28】特定ソースが選択された場合の第1ディスプレイ及び第2ディスプレイに表示される画面のさらに他の例である。
【図29】特定ソースが選択された場合の第1ディスプレイ及び第2ディスプレイに表示される画面のさらに他の例である。
【図30】本発明の他の実施例によるインタフェース表示装置の構成図である。
【図31】本発明の実施例によるインタフェース表示方法のフローチャートである。
【図32】本発明の一実施例によるインタフェース表示装置の構成図である。
【図33A】本発明の一実施例によるインタフェース表示装置の具現例である。
【図33B】本発明の一実施例によるインタフェース表示装置の具現例である。
【図33C】本発明の一実施例によるインタフェース表示装置の具現例である。
【図33D】本発明の一実施例によるインタフェース表示装置の具現例である。
【図34】本発明の他の実施例によるインタフェース表示装置の構成図である。
【図35A】本発明の一実施例によるインタフェース表示方法のフローチャートである。
【図35B】本発明の一実施例によるインタフェース表示方法のフローチャートである。
【図36A】特定ミックス信号のソース信号別アイコンが表示された画面の一例である。
【図36B】特定ミックス信号のソース信号別アイコンがメタデータを表現する画面の一例である。
【図37A】レベル調整画面の一例である。
【図37B】調整されたレベルに従ってアイコンの形状が変化された画面の一例である。
【図38】イコライザ画面(サブバンド別レベル調整画面)の一例である。
【図39】アンビエンス調整画面(相対的位置調整画面)の一例である。
【図40】本発明のさらに他の実施例によるインタフェース表示装置の構成図である。
【図41】本発明のさらに他の実施例によるインタフェース表示装置の構成図である。
【図42】本発明の他の実施例によるインタフェース表示方法のフローチャートである。
【図43】ソース信号のレベルに比例してイメージの大きさが変化する画面の一例である。
【図44】ソース信号のレベルに比例してイメージの明るさが変化する画面の一例である。
【図45】ソース信号のうち、現在最も大きいレベルを持つイメージのみが表示される画面の例である。
【図46】ソース信号のうち、現在最も大きいレベルを持つイメージのみが表示される画面の例である。
【図47】本発明の実施例によるリミックス情報提供システムを示す図である。
【図48】本発明の実施例によるリミックス情報提供サーバーの構成図である。
【図49】本発明の実施例によるリミックス情報提供サーバーのモジュール構成図である。
【図50】本発明の実施例によってリミックス情報提供サーバーがリミックス情報を提供する方法を示すフローチャートである。
【図51】本発明の実施例によってユーザ端末がリミックス情報を受信する方法を示すフローチャートである。
【図52】本発明の実施例によってユーザがリミックス情報をリミックス情報提供サーバーに伝送する方法を示すフローチャートである。
【発明を実施するための形態】
【0082】
以下、添付の図面を参照しつつ、本発明の好ましい実施例について詳細に説明する。
【0083】
特に、本明細書における‘入力部’または‘キー’という用語は、特定入力信号を入力するための手段として理解すべきであり、ボタンキー、タッチセンサーなどの入力方式に限定されない。
【0084】
特に、本発明におけるミックス信号は、オーディオ信号、ビデオ信号などを含むもので、本明細書の合成オブジェクト信号まで含む概念として理解しなければならない。
【0085】
本発明は、ミックス信号をソース(object)信号単位に処理できるアルゴリズムを提供する。ミックス信号をソース信号単位に処理する場合、非常に様々な効果を生成することができる。例えば、映画を見る際に俳優たちの音声に対する音量は一定に維持しながら、背景音楽の音量のみを上げることが可能である。本発明でいうソース信号は、ミックス信号を構成する一つ以上のソース(source)(例えば、ピアノ)を含む。ソース信号単位の処理とは、ミックス信号を処理するにあたり、ミックス信号を構成する特定のソース信号と関連している特性(例えば、ローカル化(localization)、ゲイン(gain))を“個別的に(individually)”修正できるということを意味する。この“個別的に”とは、特定のソースと関連している特性を修正することが、他のソース信号の特性に影響を及ぼさないか、知覚的に感じにくいような小さい影響のみを及ぼすことを意味する。説明の便宜上、以下ではステレオ信号を例に上げて記述するが、本発明はステレオ信号に限定されない。本発明では、通常のミックス信号のフォーマット(例えば、PCM、MP3、MPEG−AAC)の他に、少ない量の付加情報(side information)が伝送される。これらミックス信号及び付加情報を用いてリミックス信号を生成することができる。
【0086】
図1は、本発明の一実施例による第1リミックス信号エンコーダのブロック図である。この第1リミックス信号エンコーダは、付加情報生成部103及び付加情報エンコーディング部105を含む。
【0087】
図1を参照すると、付加情報生成部103は、通常のミックス信号101及び該ミックス信号を構成するソース信号102を用いて付加情報104を生成する。ミックス信号101は、モノ(mono)、ステレオ(stereo)及びマルチチャネルオーディオ信号(multi-channel audio signal)になることができる。ソース信号102は、ミックス信号101を構成するソース信号の一部または全部になることができる。付加情報104とは、ミックス信号をソース信号単位に処理するのに用いられる情報のことをいう。付加情報104は、ミックス信号をリミキシングするためのミックスパラメータを含む。このミックスパラメータは、エンコーダでソース信号を用いて生成されたエンコーダミックスパラメータ(Encoder mix parameter)を含み、選択的にミックス信号のみを用いて生成されたブラインドミックスパラメータ(Blind mix parameter)を含むことができる。これらミックスパラメータの例には、それぞれのソース信号に対するゲイン値及びサブバンドパワー(subband power)などがある。付加情報104についての具体的な定義及び生成方法は、図2で記述される。本発明は、また、ミックス信号を構成するソース信号102のみを用いて付加情報104を生成する方法を含む。付加情報エンコーディング部105は、生成された付加情報104をエンコーディングし、符号化された付加情報信号106を生成する。ミックス信号101及び付加情報信号106はデコーディング装置に伝送される。
【0088】
図2は、ミックス信号がステレオ信号である場合、図1の第1リミックス信号エンコーディング装置の詳細ブロック図である。前述したように、本発明で用いられるミックス信号は、モノ、ステレオ及びマルチチャネルオーディオ信号になりうるが、便宜上、ステレオ信号201を基準にして説明する。
【0089】
【数1】
【0090】
【数2】
【0091】
【数3】
【0092】
本発明の目的は、M個(0≦M≦I)のソース信号がリミックスされるように、これらのソース信号を含むステレオ信号を修正することにある。これらのソース信号を、それぞれ異なるゲインファクタを有しながらステレオ信号にリミックスすることができる。リミックス信号は、下の数学式2のように表現されることができる。
【0093】
【数4】
【0094】
ここで、Ci及びdiは、リミックスされるM個のソース信号に対する新しいゲインファクタである。これらCi及びdiを、デコーダ端で提供することができる。この場合に、付加情報生成部206は、ステレオ信号201及びM個のソース信号202を用いて付加情報207を生成することができる。
【0095】
上述のように、本発明の目的は、通常のステレオ信号と若干の付加情報が与えられる場合に、該ステレオ信号をソース信号単位にリミックスすることにある。本発明のように、非常に少ない量の付加情報を用いて、式1で表現されるミックス信号から数学式2で表現されるリミックス信号を完壁に生成することができない。
【数5】
【0096】
図2を参照すると、第1リミックス信号エンコーディング装置に通常のステレオ信号201及びステレオ信号201に含まれるM個のソース信号202が入力される。ステレオ信号201は、付加情報と同期化するためにある程度ディレーされ、出力信号として直接用いることができる。付加情報を生成するために、ステレオ信号201及びソース信号202は、フィルタバンク203を通して時間−周波数ドメインのサブバンド別信号204及び205に分解される。すなわち、ステレオ信号201及びソース信号は、時間−周波数ドメインで処理される。この時間−周波数ドメインについては後述する。サブバンド別信号204は、各サブバンドの中心周波数で類似にプロセシングされる。特定の周波数でステレオ信号201のサブバンド対204はx1(k)及びx2(k)で表示される。ここで、kは、サブバンド信号の時間インデックス(time index)である。同様に、M個のソース信号202のサブバンド信号205は、S1(k)、S2(k)、…、SM(k)で表示される。明瞭な表現のために、サブバンド(周波数)インデックスを使用しなかった。
【0097】
【数6】
また、付加情報生成部206は、ステレオ信号201のサブバンド対204を用いて、サブバンド別にゲインファクタai及びbiを生成する。ゲインファクタ ai及びbiは外部から直接与えられることができる。サブバンド別ショート−タイムサブバンドパワー及びゲインファクタを用いてサブバンド別付加情報207が生成される。付加情報生成部206は、ショート−タイムサブバンドパワー及びゲインファクタの他に、ステレオ信号に関連している他の情報を付加情報207として生成することができる。付加情報エンコーディング部208は、サブバンド別付加情報207を用いて、符号化された付加情報信号209を生成する。
【0098】
複数のステレオ信号201に対して、ゲインファクタai及びbiは固定でありうる。、ai及びbiが時間kによって可変であるとすれば、これらゲインファクタは、時間の関数として生成される。これらゲインファクタを直接量子化及び符号化する代わりに、より量子化及び符号化に適合する他の値に変換することができる。
【数7】
【0099】
【数8】
【0100】
【数9】
【0101】
【数10】
【0102】
【数11】
【0103】
【数12】
【0104】
【数13】
【0105】
【数14】
【0106】
ここで、fsは、サブバンドサンプリング周波数を表す。例えば、T=40msを用いることができる。
【数15】
【0107】
【数16】
【0108】
同様に、biは、下の数学式8のように計算される。
【0109】
【数17】
【0110】
図3は、本発明の一実施例によるオーディオ信号を処理するためのドメインを示す。前述したように、オーディオ信号及び付加情報は、図3に示すように、時間−周波数ドメインのサブバンド別信号として処理される。この時間−周波数ドメインのサブバンド別信号は知覚的に誘導される。例えば、約20msの長さを有するサイン波分析窓及び統合窓(sine analysis and synthesis window)を持つSTFT(Short Time Fourier transform)を用いてサブバンド別信号を生成することができる。この時、STFT係数は、一つのグループがERB(equivalent rectangular bandwidth)の約2倍になる帯域幅を有するようにグループ化されることができる。
【0111】
図4は、本発明の一実施例による第2リミックス信号エンコーディング装置のブロック図である。
【0112】
図4を参照すると、ダウンミキシング部406は、複数のソース信号401を合算して一つの和信号(sum signal)を生成する。第2リミックス信号エンコーディング装置は、第1リミックス信号エンコーディング装置とは違い、ステレオ信号を伝送する代わりに和信号404を伝送する。付加情報生成部403は、ソース信号401を用いて付加情報405を生成する。付加情報405は、各ソース信号に対応するサブバンドパワー及びゲインファクタを含む。また、付加情報405は、リミックスレンダリング部におけるディレーに対応するパラメータを含むことができる。第1リミックス信号エンコーディング装置と類似に、付加情報405は、より量子化及び符号化に適合した他の値に変換されて伝送されることができる。付加情報エンコーディング部は、生成された付加情報405を用いて、符号化された付加情報信号407を生成する。生成された和信号404及び付加情報信号407は、デコーディング装置に伝送される。本発明は、また、ダウンミキシング部402を有しないエンコーディング装置を含む。この場合に、ソース信号401は、和信号404に変換されず、各ソース信号401が直接伝送される。
【0113】
図5は、本発明の一実施例による第1リミックス信号デコーディング装置のブロック図である。この第1リミックス信号デコーディング装置は、付加情報デコーディング部503及びリミックスレンダリング部505を含む。
【0114】
図5を参照すると、ミックス信号501及び付加情報信号502が第1リミックス信号デコーディング装置に入力される。このミックス信号501は、モノ、ステレオまたはマルチチャネルオーディオ信号になることができる。付加情報デコーディング部503は、付加情報信号502をデコーディングして付加情報504を生成する。付加情報504は、伝送されたオーディオ信号501に含まれたソース信号のゲインファクタ及びサブバンドパワーなどを含む。リミックスレンダリング部505には、ユーザが直接提供する制御情報を用いて生成されたユーザミックスパラメータ(user−mix parameter)506を入力することができる。リミックスレンダリング部505は、ミックス信号501、伝送された付加情報504及びユーザミックスパラメータ506を用いてリミックス信号507を生成する。このリミックス信号を生成する方法に関する具体的な説明は、図6で後述する。リミックス信号507を、伝送されたミックス信号のチャネル数と同じチャネル数を持つEq−チャネルミックス信号(Eq−channel mix signal)として生成し、または、ミックス信号のチャネル数よりも多いチャネル数を持つアップチャネルミックス信号(Up−channel mix signal)として生成することができる。
【0115】
図6は、ステレオ信号を用いる場合における、図5の第1リミックス信号デコーディング装置の詳細図である。前述したように、伝送されたミックス信号は、モノ、ステレオ及びマルチチャネルオーディオ信号になることができ、便宜上、以下ではステレオ信号601を基準にして説明する。
【0116】
図6を参照すると、ステレオ信号601は、フィルタバンク603を通して時間−周波数ドメインのサブバンド別信号604に分解される。図6に示すように、特定の周波数におけるサブバンド別信号604は、x1(k)及びx2(k)で表現される。付加情報デコーディング部605は、伝送された付加情報信号602を復号化し、サブバンド別付加情報606を生成する。また、リミックスレンダリング部607に、ユーザが提供する制御情報を用いて生成されたユーザミックスパラメータ608を入力することができる。このユーザミックスパラメータ608を、サブバンド別に提供することができる。
【数18】
【数19】
【0117】
リミックスレンダリング部607で生成されたリミックス信号609を生成する方法は、次の通りである。
【数20】
【0118】
【数21】
【0119】
サブバンド別リミックス信号609は、下の式10のように表現することができる。
【0120】
【数22】
【0121】
リミックス信号609を生成するために、最小二乗推定法(least squares estimation)を用いることができる。サブバンド別ミックス信号604 x1(k)及びx2(k)が与えられると、下の式11のように互いに異なるゲインを持つサブバンド別リミックス信号609を、サブバンド別ミックス信号604の線形組合せとして推定することができる。
【0122】
【数23】
【0123】
ここで、w11(k)、w12(k)、w21(k)及びw22(k)は、重み係数(weighting factors)である。この時、生成される推定誤差(estimation error)を、下の式12のように定義することができる。
【0124】
【数24】
【0125】
【数25】
【0126】
【数26】
【0127】
【数27】
【0128】
【数28】
【0129】
同様に、w21及びw22を、下の式15のように生成することができる。
【0130】
【数29】
【0131】
【数30】
【0132】
【数31】
【0133】
ミックス信号604の位相が互いに同期されたり(coherent)、または、ほとんど同期化されると、下の式17のように表現される値が1に近づくようになる。
【0134】
【数32】
【0135】
この時、上記重み値を、下の式18のように表現することができる。
【0136】
【数33】
【0137】
このように生成されたサブバンド別リミックス信号609は、前述したように、逆フィルタバンク610を通じて時間−ドメインのリミックス信号611に変換される。リミックス信号611は、ユーザが提供した制御情報を用いて生成されたユーザミックスパラメータci及びdiを用いてそれぞれのソース信号を独立的にリミックスして生成されたリミックス信号のように聞こえる。
【0138】
以上では2チャネルステレオ信号のリミキシングを中心に説明した。しかし、前述したように、本発明は、ステレオ信号に制限されず、マルチチャネルオーディオ信号、例えば、5.1チャネルオーディオ信号のリミキシングまで拡大することができる。当業者は、本明細書で記述されたステレオ信号と同様に、マルチチャネルオーディオ信号をリミキシングすることができる。この場合に、式11は、下の式19のように示されることができる。
【0139】
【数34】
【0140】
選択的に、ミックス信号のチャネルのうち特定のチャネルはリミックスせずに残すことができる。例えば、5.1サラウンドチャネルに対して、2個の後側チャネルは修正せずに前側チャネルにのみリミキシングを適用させることができる。この場合に、2または3チャネルリミキシングアルゴリズムが前側チャネルに適用される。
【0141】
図7は、本発明の一実施例による第2リミックス信号デコーディング装置のブロック図である。この第2リミックス信号デコーディング装置は、付加情報デコーディング部703、空間情報統合部705及びリミックスレンダリング部707を含む。
【0142】
図7を参照すると、ソース信号の和信号701及び付加情報信号702が第2リミックス信号デコーディング装置に入力される。付加情報デコーディング部703は、付加情報信号702をデコーディングし、付加情報704を生成する。付加情報704は、ゲインファクタ、ディレー定数及びサブバンドパワーなどを含む。付加情報統合部705は、付加情報704を用いて、和信号701を複数のソース信号706に分離する。リミックスレンダリング部707は、ソース信号706を用いてリミックス信号709を生成することができる。この時、リミックスレンダリング部707は、付加情報として伝送されたミックスパラメータを用いてリミックス信号709を生成することができる。また、リミックスレンダリング部707は、選択的に、ユーザが提供する制御情報を用いて生成されたユーザミックスパラメータ708を用いてリミックス信号709を生成することができる。
【0143】
図8は、通常のエンコーディング装置及び本発明の一実施例によるリミックス信号エンコーディング装置との結合を示すブロック図である。ミックス信号801を、通常のエンコーディング装置803により符号化し、符号化されたミックス信号805に変換することができる。ミックス信号801は、チャネル別信号またはソース信号になることができる。通常のエンコーディング装置803は、AAC、MP3エンコーダなどのような従来のエンコーディング装置だけでなく、今後開発されるエンコーディング装置を含む。本発明によるリミックス信号エンコーディング装置804は、ミックス信号801及び該ミックス信号に含まれるソース信号802を用いて付加情報信号806を生成する。多重化部807は、符号化されたミックス信号805及び付加情報信号806を用いてビットストリーム808を生成する。前述したように、付加情報信号806は従来装置と互換性を持つように、従来ミックス信号フォーマット内の補助データ領域に挿入されることができる。
【0144】
図9は、通常のデコーディング装置及び本発明の一実施例による信号処理装置との結合を示すブロック図である。逆多重化部902は、伝送されたビットストリーム901から、符号化されたミックス信号903及び付加情報信号904を分離する。その後、通常のデコーディング装置905は、符号化されたミックス信号903をデコーディングし、本発明によるリミックス信号デコーディング装置907で用いられうるようなミックス信号906を生成する。通常のデコーディング装置905は、AAC、MP3デコーダなどのような従来のエンコーディング装置の他に、今後開発されるエンコーディング装置を含む。ミックス信号906は、チャネル別信号またはソース信号になることができる。本発明によるリミックス信号デコーディング装置907は、付加情報信号904及びユーザミックスパラメータ909のうち少なくとも一つを用いて、ミックス信号906をリミックス信号908に変換することができる。
【0145】
図10は、本発明の一実施例による第5信号処理装置のブロック図である。図10を参照すると、第5信号処理装置は、ミックス信号デコーディング部1001、パラメータ生成部1002、及びリミックスレンダリング部1008を含む。選択的に、エフェクタ(Effecter)1011を含むことができる。パラメータ生成部1002は、ブラインドミックスパラメータ生成部1003、ユーザミックスパラメータ生成部1004、及びリミックスパラメータ生成部1005を含むことができる。リミックスパラメータ生成部1005は、eq−ミックスパラメータ生成部1006を含み、選択的にアップミックスパラメータ生成部1007を含むことができる。また、リミックスレンダリング部1008はeq−ミックスレンダリング部1009を含み、選択的に、アップミックスレンダリング部1010を含むことができる。
【0146】
ミックス信号デコーディング部1001は、エンコーディング端から伝送された符号化されたミックス信号をデコーディングしてミックス信号を生成する。パラメータ生成部1002は、エンコーディング端から伝送された付加情報及びユーザ制御情報、または、構成情報を受信する。ユーザ制御情報を、エンコーダ端から伝送する代わりに、デコーダ端で生成することができる。ユーザミックスパラメータ生成部1004は、ユーザ制御情報を用いてユーザミックスパラメータを生成する。エンコーダ端から伝送された付加情報には、エンコーダミックスパラメータ(Encoder Mix Parameter)を含めることができる。また、ブラインドミックスパラメータ生成部1003は、ミックス信号を用いてブラインドミックスパラメータ(Blind−Mix Parameter)を生成することができる。エンコーダミックスパラメータとブラインドミックスパラメータは択一的にリミックスパラメータ生成部1005に入力される。
【0147】
リミックスパラメータ生成部1005は、付加情報及びユーザミックスパラメータを用いてリミックスパラメータを生成する。このリミックスパラメータを、リミックス信号のチャネルに適用可能なように生成することができる。リミックスパラメータ生成部1005に含まれるeq−ミックスパラメータ生成部1006は、ミックス信号のチャネル数と同じチャネル数を持つリミックス信号を生成するのに用いられるリミックスパラメータを生成し、リミックスパラメータ生成部1005に含むことができるアップミックスパラメータ生成部1007は、ミックス信号のチャネル数よりも多いチャネル数を持つリミックス信号を生成するのに用いられるリミックスパラメータを生成する。これらのリミックスパラメータは、リミックスレンダリング部1008に入力される。
【0148】
リミックスレンダリング部1008に含まれるeq−ミックスレンダリング部1009は、リミックスパラメータ及びミックス信号を用いて、ミックス信号のチャネル数と同じチャネル数を持つeq−チャネルリミックス信号(Eq−channel remix signal)を生成する。リミックスレンダリング部1008に含むことができるアップミックスレンダリング部1010は、アップミックスパラメータ生成部1007で生成されたリミックスパラメータ及びミックス信号を用いて、ミックス信号のチャネル数よりも多いチャネル数を持つアップチャネルリミックス信号(Up−channel remix signal)を生成する。アップミックスレンダリング部1010は、eq−チャネルレンダリング部1009で生成されたリミックス信号を用いてアップチャネルリミックス信号を生成することができる。
【0149】
したがって、第5信号処理装置は、エンコーディング端から伝送したミックス信号をそのまま出力したり、eq−チャネルリミックス信号として出力したり、または、アップチャネルリミックス信号として出力することができる。選択的に、リミックスレンダリング部は、エフェクタ1011から提供される情報を用いて、リミックス信号に様々な効果を与えることができる。
【0150】
図11は、本発明の一実施例による入力装置の構成を示す図であり、図12は、本発明の一実施例による入力装置の具現例を示す図である。図11及び図12を参照すると、本発明の一実施例による入力装置1000(以下、‘入力装置1000’と略す)は、第1リミックス信号デコーディング装置500と関連し合っており、第1入力部1110(ソースメニューキー)、第2入力部1120(音声ミュートキー)、第3入力部1130(音声調整キー)、第4入力部1140(アンビエンス調整キー)、第5入力部1150(第1ソースキー1150a(ピアノキー)、第2ソースキー1150b(バイオリンキー)、方向移動キー1160a、ポインティングデバイス1160b、数字キー1170、記憶部1200、制御部1300及びディスプレイ1400を含む。
【0151】
まず、第1リミックス信号デコーディング装置500は、図5で説明された第1リミックス信号デコーディング装置とその構成が同一なので、その構成要素についての具体的な説明は省略する。以下では、入力装置1000の各構成要素について具体的に説明する。
【0152】
第1入力部1110(ソースメニューキー)は、その入力信号を制御部1300によりソース別メニュー表示命令に変換する入力装置である。ソース別メニューとは、特定ミックス信号に含まれているソースのリストが表示される画面であって、ソース別メニューが表示された状態でソース別に音量レベルなどを調整することができる。第1入力部(ソースメニューキー)が入力された後に表示される画面(ソース別メニュー表示画面)の一例を、図13に示す。ここでソース別メニュー表示画面を、第1インタフェース装置550のディスプレイ1400に表示することができる。第1入力部1110(ソースメニューキー)を、押される回数によって命令実行及び取消が反復されるトグル方式のボタンキーやタッチセンサーで具現することができるが、本発明はこれに限定されない。
【0153】
第2入力部1120(音声ミュートキー)は、その入力信号が制御部1300によって音声ミュート命令に変換される入力装置である。音声ミュート命令とは、特定ミックス信号に含まれているソースにおいて人の音声(voice)のレベルが0となるようにするための命令である。第2入力部(音声ミュートキー)が入力された後に表示される画面の一例を、図14に示す。第2入力部1120(音声ミュートキー)も同様に、押される回数によって命令実行及び取消が反復されるトグル方式のボタンキーやタッチセンサーで具現することができるが、本発明はこれに限定されない。
【0154】
第3入力部1130(音声調整キー)は、その入力信号が制御部1300により音声レベル調整命令に変換される入力装置である。音声レベル調整命令とは、特定ミックス信号に含まれているソースのうち、人の音声(voice)のレベルのみを上げたり下げたりするようにするための命令である。第3入力部(音声調整キー)が入力された後に表示される画面の一例を、図15に示す。第2入力部1120(音声ミュートキー)も、レベル上昇命令及びレベル下降命令を入力するためのものであり、2個のボタンキー、ジョグシャトル、2方向のジョグボタン、2方向のタッチスクロール、2個のタッチセンサー、タッチホイールなどで具現することができるが、本発明はこれに限定されない。
【0155】
第4入力部1140(アンビエンス調整キー)は、その入力信号が制御部1300によりアンビエンス画面表示命令に変換される入力装置である。アンビエンス画面とは、特定ミックス信号に含まれているソースの相対的位置が表示され、方向移動キー1160aやポインティングデバイス1160bを用いてソースそれぞれの位置を変更できる画面である。第4入力部(アンビエンス調整キー)が入力された後に表示される画面(アンビエンス画面)の一例を、図16に示す。第4入力部1140(音声ミュートキー)も同様に、押される回数によって命令実行及び取消が反復されるトグル方式のボタンキーやタッチセンサーで具現することができるが、本発明はこれに限定されない。
【0156】
第5入力部1150は、その入力信号が制御部1300によりソース音ミュート命令に変換される入力装置である。ソース音ミュート命令は、特定楽器に該当するソース信号が再生されないようにするための命令である。第5入力部1150は、例えば、‘ピアノ’に該当するソース信号のレベルを略0にするための第1ソースキー1150a(ピアノキー)であっても良く、‘バイオリン’に該当するソース信号のレベルを略0にするための第2ソースキー1150b(バイオリンキー)であっても良い。第5入力部のうち、第1ソースキー(ピアノキー)が入力された後に表示される画面の一例を、図17に示し、第5入力部のうち、第2ソースキー(バイオリンキー)が入力された後に表示される画面の一例を、図18に示す。第5入力部1150の第1ソースキー、第2ソースキーもそれぞれ、押される回数によって命令実行及び取消が反復されるトグル方式のボタンキーやタッチセンサーで具現することができるが、本発明はこれに限定されない。
【0157】
方向移動キー1160aは、その入力信号が制御部1300により方向移動に関する命令に変換される入力装置である。方向移動に関する命令は、ソース別メニュー画面が表示された状態では特定ソースレベル調整命令になることができ、アンビエンス画面が表示された状態では特定ソースの位置調整命令になることができる。方向移動キー1160aは、4個のボタンキー、4個のタッチセンサー、4方向のタッチスクロール、タッチホイール等で具現することができるが、本発明はこれに限定されない。
【0158】
ポインティングデバイス1160bは、その入力信号が制御部1300により位置指定に関する命令に変換される入力装置である。位置指定に関する命令は、方向移動キー1160aと同様に、ソース別メニュー画面が表示された状態では特定ソースレベル調整命令になることができ、アンビエンス画面が表示された状態では特定ソースの位置調整命令になることができる。ポインティングデバイス1160bは、マウス、トラックボール、タッチパッド、タッチスクリーン、タッチパネル(及びスタイラスペン)などで具現することができるが、本発明はこれに限定されない。
【0159】
数字キー1170は、その入力信号が制御部1300により数字入力に関する命令に変換される入力装置である。数字入力に関する命令は、ソース別メニュー画面やアンビエンス画面が表示された状態では、その数字とマッチングされる特定ソースを選択するための命令になることができる。例えば、ソース別メニュー画面に“1.音声、2.ピアノ、3.バイオリン、4.フルート”と表示されている場合、ユーザが数字キー1170のうち、“3番キー”を選択すると、3番とマッチングされる‘バイオリン’が選択される。数字キー1170は、10個のボタンキー、10個のタッチセンサー、タッチパネルなどで具現することができるが、本発明はこれに限定されない。
【0160】
記憶部1200には、各キー別命令情報が保存されている。各キー別命令情報とは、各入力部(第1入力部1110、第2入力部1120等)(数字キー1170を含む)とそれに該当する命令(ソース別メニュー表示命令、音声ミュート命令等)を意味する。一方、ユーザによるショートカットキー登録過程を通じて各キー別命令情報を新しく保存したり変更することができ、このショートカットキー登録過程についての具体的な説明は、図22を参照して後述する。一方、記憶部1200には、ソース別メニュー画面、音声ミュート画面、音声調整画面、アンビエンス調整画面などに関するデータがさらに保存されている。
【0161】
制御部1300は、入力部(1110,1120,1130,1140,1150等)から受信した入力信号を、記憶部1200に保存されている各キー別命令情報に基づいて、各命令に変換する。具体的には、第1入力部1110を通じて受信した入力信号を、ソース別メニュー表示命令に変換し、第2入力部1120を通じて受信した入力信号を、音声ミュート命令に変換した後に、音声ミュート命令に基づいてミックス信号に関する制御情報506を出力し、第3入力部1130を通じて受信した入力信号を、音声レベル調整命令に変換し、第4入力部1140を通じて受信した入力信号を、アンビエンス画面表示命令に変換し、第5入力部1150を通じて受信した入力信号を、ソース音ミュート命令に変換する。
【0162】
また、制御部1300は、入力部(1110,1140等)の入力によって第1リミックス信号デコーディング装置500から受信したソース情報siに基づいてインタフェース画面が表示されるようにする。例えば、第1入力部1110を通じてソース別メニュー表示命令が入力された場合、ソース情報siに基づいてディスプレイ1400にソース別メニューを表示し、第4入力部1140を通じてアンビエンス画面表示命令が入力された場合、ミックス信号に該当するソース信号情報siに基づいてアンビエンス画面が表示されるようにする。
【0163】
また、制御部1300は、入力部(1120,1130,1140等)を通じた命令に基づいて、ミックス信号に関する制御情報506を出力し、第1リミックス信号デコーディング装置500に入力されるようにする。ここで、制御情報506は、図5と共に既に説明したので、その具体的な説明は省略する。具体的に、また、制御部1300は、ソース別メニュー画面がディスプレイに表示された状態である場合、ポインティングデバイス1160bまたは方向移動キー1160aを通じて受信した入力信号を、ソース別レベル調整命令に変換し、アンビエンス画面がディスプレイに表示された状態である場合、ポインティングデバイス1160bまたは方向移動キー1160aを通じて受信した入力信号を、アンビエンス調整命令に変換する。制御部1300がこれらの入力信号を該当の命令に変換する過程で、記憶部1200に保存された各キー別命令情報を参照することができる。このように変換された命令(ソース別レベル調整命令、アンビエンス調整命令等)に基づいてミックス信号に関する制御情報506を出力することができる。
【0164】
ディスプレイ1400は、制御部1300の制御によってソース別メニュー画面またはアンビエンス画面などがディスプレイされる表示装置である。さらに、各入力部(第1入力部1110等)が入力された後に表示される画面(図14、図15、図17、図18等)を表示することもできる。
【0165】
図19は、本発明の他の実施例による入力装置の構成を示す図である。図19を参照すると、本発明の他の実施例の入力装置2000(以下、入力装置2000と略す)は、第1リミックス信号デコーディング装置500及び第1インタフェース装置550と関連し合っており、第1入力部2110(ソースメニューキー)、第2入力部2120(音声ミュートキー)、第3入力部2130(音声調整キー)、第4入力部2140(アンビエンス調整キー)、第5入力部2150(第1ソースキー2150a(ピアノキー)、第2ソースキー2150b(バイオリンキー)、方向移動キー2160a、ポインティングデバイス2160b、数字キー2170、記憶部2200、制御部2300、ディスプレイ2400、無線通信部2500を含む。このうち、制御部2300及び無線通信部2500以外の構成要素は、上の図11及び図12と共に説明された本発明の一実施例の構成要素のうち同一名称の構成要素と略同一なので、その説明は省略する。
【0166】
また、第1リミックス信号デコーディング装置500は、図5と共に説明された第1リミックス信号デコーディング装置とその構成が同一なので、その構成要素についての具体的な説明は省略する。
【0167】
一方、第1インタフェース装置550は、第1リミックス信号デコーディング装置500から入力装置2000にインタフェースを提供する装置であり、無線通信部552、記憶部554、インタフェース制御部556、ディスプレイ部558を含む。
【0168】
第1インタフェース装置550の無線通信部552は、入力装置2000と無線通信をするための装置であり、ここでの無線通信方式は、赤外線通信方式に限定されない。記憶部554には、ソース別メニュー画面、音声ミュート画面、音声調整画面、アンビエンス調整画面などに関するデータが保存されている。インタフェース制御部556は、第1リミックス信号デコーディング装置500から受信したソース情報siに基づいてインタフェース画面を表示し、入力装置2000から受信した命令に基づいて第1リミックス信号デコーディング装置500に制御情報506を入力する。ここで、制御情報506は、上の図5と共に説明したので、その具体的な説明は省略する。ディスプレイ558は、インタフェース制御部556の制御によってインタフェース画面が表示される表示装置である。入力装置2000にディスプレイ2400が備えられる場合、第1インタフェース装置550のディスプレイ558は省かれても良い。
【0169】
以下では、入力装置2000の各構成要素のうち、制御部2300及び無線通信部2500について説明する。
【0170】
制御部2300は、第1入力部2110を通じて受信した入力信号を、ソース別メニュー表示命令に変換し、第2入力部2120を通じて受信した入力信号を、音声ミュート命令に変換し、第3入力部2130を通じて受信した入力信号を、音声レベル調整命令に変換し、第4入力部2140を通じて受信した入力信号を、アンビエンス画面表示命令に変換し、第5入力部2150を通じて受信した入力信号を、ソース音ミュート命令に変換する。また、制御部2300は、ソース別メニュー画面がディスプレイに表示された状態である場合、ポインティングデバイス2160bまたは方向移動キー2160aを通じて受信した入力信号を、ソース別レベル調整命令に変換し、アンビエンス画面がディスプレイに表示された状態である場合、ポインティングデバイス2160bまたは方向移動キー2160aを通じて受信した入力信号を、アンビエンス調整命令に変換する。制御部2300がこれらの入力信号を該当の命令に変換する過程で、記憶部2200に保存された各キー別命令情報を参照することができる。
【0171】
無線通信部2500は、制御部2300により変換された命令を外部装置、特に、第1インタフェース装置550に伝送する。また、第1インタフェース装置550がソース別メニュー画面に関するデータまたはアンビエンス画面に関するデータを伝送する場合、無線通信部2500はこれを受信する。
【0172】
図20は、本発明の一実施例による入力装置と関連し合う第2リミックス信号デコーディング装置及び第2インタフェース装置の構成を示す図である。図20を参照すると、入力装置1000が 第2リミックス信号デコーディング装置700と関連し合っている。 第2リミックス信号デコーディング装置700は、上の 図7と共に説明されたので、その具体的な説明は省略する。第2インタフェース装置750は、第1リミックス信号デコーディング装置500ではなく第2リミックス信号デコーディング装置700からソース情報siを受信し、第2リミックス信号デコーディング装置700に制御情報708を入力する以外は、その構成要素752,754,756,758が、第1インタフェース装置550における同一名称の構成要素552,554,556,558とそれぞれ略同一なので、その説明は省略する。
【0173】
図21は、本発明の他の実施例による入力装置が関連し合う第2リミックス信号デコーディング装置及び第2インタフェース装置の構成を示す図である。図21を参照すると、入力装置2000が第2リミックス信号デコーディング装置700及び第2インタフェース装置750と関連し合っている。第2リミックス信号デコーディング装置700は、上の図7と共に詳述したので、その具体的な説明は省略する。第2インタフェース装置750は、第1リミックス信号デコーディング装置500ではなく第2リミックス信号デコーディング装置700からソース情報siを受信し、第2リミックス信号デコーディング装置700に制御情報708を入力する以外は、その構成要素752,754,756,758が第1インタフェース装置550における同一名称の構成要素552,554,556,558とそれぞれ略同一なので、その説明は省略する。
【0174】
図22は、本発明の実施例による入力方法を示すフローチャートである。図22を参照すると、ユーザがショートカットキー登録を選択すると、入力装置は、ショートカットキー登録命令を受信する(S110段階)。ショートカットキー登録命令が入力された後に表示される画面の一例が、図23に示されている。その後、ユーザが入力装置に備えられた複数のキー(例:数字キー)の中からショートカットキーとして使用するキー(例:1番キー)を選択する(S120段階)。入力装置は、ミックス信号に用いられうるソースのリストを表示する(S130段階)。例えば、ミックス信号に用いられうるソースは、音声オーディオ信号または楽器別オーディオ信号(音声、ピアノ、バイオリン、フルート等)になることができる。すると、ユーザは、ソースのリストから一つを選択する方法で、ショートカットキーとマッチングさせるソースを選択する(S140段階)。例えば、ピアノを選択することができる。その後、ユーザが一つ以上の機能(例:音ミュート、アンビエンス調整)からショートカットキーに使用する機能(例:音ミュート)を選択する(S150段階)。このようにユーザがS120段階、S140段階、S150段階でキー、ソース、機能を選択すると、入力装置は、選択されたキー、選択されたソース、選択された機能をショートカットキー登録情報として保存する(S160段階)。例えば、1番キーにピアノ信号の音ミュート命令をマッチングさせて保存する。すると、1番キーが入力された時、入力装置は、1番キーの入力信号をピアノ信号の音ミュート命令に変換する。
【0175】
図24は、本発明の一実施例によるインタフェース表示装置の構成を示す図である。図25A及び図25Bは、本発明の一実施例によるインタフェース表示装置の具現例である。図24、図25A、及び図25Bを参照すると、本発明の一実施例によるインタフェース表示装置3000は、第1リミックス信号デコーディング装置500と関連し合っており、入力部3100、制御部3200、第1ディスプレイ3300a、第2ディスプレイ3300bを含む。ここで、第1リミックス信号デコーディング装置500は、付加情報デコーディング部503及びリミックスレンダリング部505を含むもので、上の図5と共に説明された第1リミックス信号デコーディング装置と構成及び機能が略同一なので、その具体的な説明は省略する。
【0176】
入力部3100は、複数のミックス信号のうち一つを選択するための入力装置である。ここで、ミックス信号とは、上の図5と共に説明されたチャネル別オーディオ信号501でありうる。複数のミックス信号のうち、入力部3100により選択されたミックス信号501p、及びミックス信号501pの付加情報信号502pが、第1リミックス信号デコーディング装置500に入力される。入力部3100はまた、ミックス信号に含まれているソースから一つを選択するためのものであっても良く、さらに、ソース信号のレベル調整に関する命令、ソース信号のサブバンド別レベル調整(イコライザ調整)に関する命令、及びソース信号のアンビエンス調整に関する命令を入力するためのものであっても良い。入力部3100は、マウス、トラックボール、タッチパッドなどのようなポインティングデバイスの他に、方向移動キー、タッチホイール等で具現されても良く、赤外線通信などの無線通信を用いたリモートコントローラで具現されても良いことはもちろんである。
【0177】
制御部3200は、入力部3100により選択されたミックス信号501pに対応するソース信号情報siを照会した後、ソース信号情報siに基づいてソース信号のリスト(以下、ソースのリスト)を構成し、それを第1ディスプレイ3300aに表示する。ここで、ソース信号情報siは、入力部3100により選択されたミックス信号501pに含まれているソース信号に関する情報で、各ソース信号の楽器名などを含む情報でありうる。ソース信号情報siは、上の図1と共に説明したソース信号102の情報であっても良い。一方、ソース信号情報siは、メタデータ(楽器演奏者名、製作日時等)をさらに含むことができる。一方、ソース信号情報siは、制御部3200が第1リミックス信号デコーディング装置500の付加情報デコーディング部503から受信したものでありうる。ここで、ソースのリストは、ソース信号502pの楽器名、歌手名、及び登場人物名のうち一つ以上を含むことができる。
【0178】
制御部3200はまた、入力部3100からリミキシングに関する様々な命令(ソース信号のレベル調整に関する命令、ソース信号のサブバンド別レベル調整に関する命令、及びソース信号のアンビエンス調整に関する命令など)が受信されると、その命令を制御情報506に変換してリミックスレンダリング部505に入力する。ここで、制御情報506は、上の図5と共に説明された制御情報506及び図6と共に説明された制御情報608と同一であるので、その具体的な説明は省略する。
【0179】
第1ディスプレイ3300aは、制御部3200の制御によってソースのリストが表示されるディスプレイである。第1ディスプレイ3300aに表示されるソースのリストは、ミックス信号が選択されている間には継続して第1ディスプレイ3300aに表示される。‘ミックス信号が選択されている間’とは、例えば、選択されたミックス信号が再生されているか、リミキシング(レベル調整、アンビエンス調整等)されている間であるということを意味する。もし、ユーザにより他のミックス信号が選択される場合、他のミックス信号とマッチングされるソースのリストが、第1ディスプレイ3300aに表示される。第1ディスプレイ3300aは、LCDなどで具現されることもでき、複数の発光素子のマトリクスでも具現されることができるが、本発明はこれに限定されない。第1ディスプレイ3300aが複数の発光素子で具現される場合、複数の発光素子の点滅によってソースのリストが表示される。
【0180】
第2ディスプレイ3300bは、制御部3200の制御によってメタデータ、音量レベル調整画面、イコライザ調整画面、アンビエンス調整画面などが表示されるディスプレイである。図26〜図29は、特定ソースが選択された場合、第1ディスプレイ及び第2ディスプレイに表示される画面の例である。図26は、第1ディスプレイ3300aに表示されたソースリストから‘1.音声’が選択された場合、選択されたソース(1.音声)のメタデータが第2ディスプレイ3300bに表示された例であり、図27は、選択されたソース(1.音声)の音量レベル調整画面が第2ディスプレイ3300bに表示された例である。図28は、選択されたソース(3.バイオリン)のイコライザ調整画面(サブバンド別レベル調整画面)が第2ディスプレイ3300bに表示された例であり、図29は、選択されたソース(2.ピアノ)のアンビエンス調整画面が第2ディスプレイ3300bに表示された例である。図26〜図29を比較すると、第2ディスプレイ3300bに表示される画面が変わっても、ソースのリストは第1ディスプレイ3300aに表示され続くということがわかる。
【0181】
一方、第2ディスプレイ3300b及び第1ディスプレイ3300aは、必ずしも機械的にまたは装置的に分離される必要はなく、よって、第2ディスプレイ3300b及び第1ディスプレイ3300aは一つのパネルとして具現されても良いことは無論である。
【0182】
図30は、本発明の他の実施例によるインタフェース表示装置の構成を示す図である。同図を参照すると、本発明の他の実施例によるインタフェース表示装置4000は、入力部4100、制御部4200、第1ディスプレイ4300a、第2ディスプレイ4300bを含み、第2リミックス信号デコーディング装置700と関連し合っている。ここで、第1リミックス信号デコーディング装置700は、付加情報デコーディング部703、付加情報統合部705及びリミックスレンダリング部707を含むもので、上の図7と共に説明された第2リミックス信号デコーディング装置の構成及び機能が略同一なので、その具体的な説明は省略する。
【0183】
一方、本発明の他の実施例によるインタフェース表示装置4000は、本発明の一実施例によるインタフェース表示装置3000と対比すると、第1リミックス信号デコーディング装置500ではなく第2リミックス信号デコーディング装置700と関連し合っており、ミックス信号501pではなく合成オブジェクト信号701pが入力されるという点が異なるだけで、その構成要素4100,4200,4300a,4300bは、本発明の一実施例によるインタフェース表示装置3000と同一名称の構成要素3100,3200,3300a,3300bとそれぞれ略同一なので、その構成要素に関する説明は省略する。
【0184】
図31は、本発明の実施例によるインタフェース表示方法を示すフローチャートである。以下で用いられるミックス信号という用語は、合成オブジェクト信号の概念まで含まれる概念として理解すべきである。本発明の一実施例によるインタフェース表示方法は、上述した本発明の一実施例によるインタフェース表示装置3000によって行なわれても良く、本発明の他の実施例によるインタフェース表示装置4000によって行なわれても良い。
【0185】
図31を参照すると、まず、インタフェース表示装置は、既に保存されていたり伝送されることができる一つ以上のミックス信号の情報を、ミックス信号のリストとしてディスプレイに表示する(S210段階)。すると、ユーザは、S210段階で、表示されたミックス信号のリストから、再生したいまたはリミキシングしたい特定ミックス信号を、入力装置を用いて選択する(S220段階)。すると、インタフェース表示装置は、S220段階で選択されたミックス信号に対応する付加情報から、該ミックス信号に対応するソース信号情報を抽出する(S230段階)。
【0186】
インタフェース表示装置は、S230段階で抽出されたソース信号情報に基づいてソースのリストを構成する(S240段階)。その後、インタフェース表示装置は、ソースのリストを第1ディスプレイに表示する(S250段階)。
【0187】
ユーザが第1ディスプレイに表示されたソースのリストを確認し、その中から一つのソースを選択する(S260段階)。すると、インタフェース表示装置は、S260段階で選択されたソースのメタデータ(設定によって、音量レベル調整画面、イコライザ調整画面、アンビエンス調整画面等)を第2ディスプレイに表示する(S270段階)。
【0188】
その後、S220段階で選択されたミックス信号の選択が終了すると(例えば、ユーザが該当のミックス信号の再生を終了させたり、他のミックス信号を選択する場合)(S280段階の‘Yes’)、S250段階から始まったソースのリストの表示を終了する(S290段階)。
【0189】
図32は、本発明の一実施例によるインタフェース表示装置の構成を示す図である。同図を参照すると、本発明の一実施例によるインタフェース表示装置5100は、入力部5110、記憶部5120、制御部5130、ディスプレイ5140を含み、第1リミックス信号デコーディング装置500と関連し合っている。ここで、第1リミックス信号デコーディング装置500は、付加情報デコーディング部503及びリミキシングレンダリング部506を含むもので、上の図5と共に説明された第1リミックス信号デコーディング装置と構成及び機能が略同一なので、その具体的な説明は省略する。
【0190】
入力部5110は、複数のミックス信号から一つを選択するための入力装置である。ここで、ミックス信号は、上の図5と共に説明されたミックス信号(チャネル別オーディオ信号)501でありうる。複数のミックス信号から入力部5110により選択されたミックス信号501p、及びミックス信号501pの付加情報信号502pが第1リミックス信号デコーディング装置500に入力される。入力部5110はまた、ソース信号のレベル調整に関する命令、ソース信号のサブバンド別レベル調整に関する命令、及びソース信号のアンビエンス調整に関する命令を入力する機能を果たしても良い。入力部5110は、マウス、トラックボール、タッチパッドなどのようなポインティングデバイスの他に、方向移動キー、タッチホイール等で具現されることもでき、赤外線通信などの無線通信を利用したリモートコントローラで具現することもできる。
【0191】
記憶部5120は、アイコン別イメージデータが保存されている記憶装置である。具体的には、アイコンに該当するカテゴリー、キーワードと一緒に保存されていることができる。イメージデータを用いてアイコンをテキストの他にイメージで表示することもできる。
【0192】
制御部5130は、入力部5110により選択されたミックス信号501pに対応するソース信号情報siを照会した後、ソース信号情報siに基づいてソース信号に該当するアイコンを表示する。ここで、ソース信号情報siは、入力部5110により選択されたミックス信号501pに含まれているソース信号に関する情報で、各ソース信号の楽器名などを含む情報でありうる。また、ソース信号情報siは、上の図1と共に説明したソース信号102の情報であっても良い。一方、ソース信号情報siは、メタデータ(楽器演奏者名、声楽家名等)をさらに含むことができる。一方、ソース信号情報siは、制御部5130が第1リミックス信号デコーディング装置500の付加情報デコーディング部503から受信することができる。
【0193】
一方、ソース信号に該当するアイコンは、テキストで表示されても良いが、記憶部5120に保存されているイメージデータを用いてイメージで表示されても良い。
【0194】
制御部5130はまた、入力部5110からリミキシングに関する様々な命令(ソース信号のレベル調整に関する命令、ソース信号のサブバンド別レベル調整に関する命令、及びソース信号のアンビエンス調整に関する命令など)を受信すると、その命令を制御情報506に変換してリミキシングレンダリング部505に入力する。ここで、制御情報506は、上の図5と共に説明された制御情報506及び図6と共に説明された制御情報608と同一なので、その具体的な説明は省略する。
【0195】
ディスプレイ5140は、制御部5130の制御によってソース信号に該当するアイコンが表示される表示装置である。
【0196】
図33A〜図33Dはそれぞれ、本発明の一実施例によるインタフェース表示装置が具現された例である。まず、図33Aは、本発明の一実施例によるインタフェース表示装置が、第1リミックス信号デコーディング装置500と一体型に移動端末機で具現された例である。図33Bは、本発明の一実施例によるインタフェース表示装置5100の入力部5110が、第1リミックス信号デコーディング装置500に有線で連結されたマウス及びタッチペンで具現された例であり、ディスプレイ5140も入力部5110と同様に、第1リミックス信号デコーディング装置500に有線で連結されたモニターとした。図33Dは、本発明の一実施例によるインタフェース表示装置5100のディスプレイ5140は、第1リミックス信号デコーディング装置500と有線で連結されており、入力装置5110は、第1リミックス信号デコーディング装置500と無線通信をするリモートコントローラで具現された例である。図33Dを参照すると、本発明の一実施例によるインタフェース表示装置5100の入力部5110は、図33Cの場合と同様にリモートコントローラで具現されており、ディスプレイ5140は、リモートコントローラに設けられていることがわかる。このように、本発明の一実施例によるインタフェース表示装置5100及び第1リミックス信号デコーディング装置500は多様に具現されることができる。
【0197】
図34は、本発明の他の実施例によるインタフェース表示装置の構成を示す図である。同図を参照すると、本発明の他の実施例によるインタフェース表示装置5200は、入力部5210、記憶部5220、制御部5230、ディスプレイ5240を含み、第2リミックス信号デコーディング装置700と関連し合っている。ここで、第1リミックス信号デコーディング装置700は、付加情報デコーディング部703、付加情報統合部705及びリミキシングレンダリング部708を含もので、上の図7と共に説明された第2リミックス信号デコーディング装置と構成及び機能が略同一なので、その具体的な説明は省略する。
【0198】
一方、本発明の他の実施例によるインタフェース表示装置5200は、本発明の一実施例によるインタフェース表示装置5100と比較すると、第1リミックス信号デコーディング装置500の代わりに第2リミックス信号デコーディング装置700と関連し合っており、ミックス信号501pの代わりに合成オブジェクト信号701pが入力されるという点が異なるだけで、その構成要素5210,5220,5230,5240は、本発明の一実施例によるインタフェース表示装置5100における同一名称の構成要素5110,5120,5130,5140とそれぞれ略同一なので、その構成要素に関する説明は省略する。
【0199】
図35A及び図35Bは、本発明の一実施例によるインタフェース表示方法を示すフローチャートである。以下で用いられるミックス信号という用語は、合成オブジェクト信号の概念まで含まれる概念として理解すべきである。本発明の一実施例によるインタフェース表示方法は、上で説明された本発明の一実施例によるインタフェース表示装置5100により行なわれても良く、本発明の他の実施例によるインタフェース表示装置5200により行なわれても良い。
【0200】
まず、図35Aを参照すると、インタフェース表示装置は、既に保存されていたり伝送することができる一つ以上のミックス信号の情報を、ミックス信号のリストとしてディスプレイに表示する(S410段階)。すると、ユーザは、S420段階で、表示されたミックス信号のリストから、再生したいまたはソース信号情報を確認したい特定ミックス信号を入力装置を用いて選択する(S420段階)。すると、インタフェース表示装置は、S420段階で選択されたミックス信号に対応する付加情報から、該ミックス信号に対応するソース信号情報を抽出する(S430段階)。そして、S430段階で抽出されたソース信号情報にミックス信号のメタデータが含まれている場合、ソース信号情報からメタデータを抽出する(S440段階)。
【0201】
その後、インタフェース表示装置は、S430段階で抽出されたソース信号情報に基づいてソース信号に該当するアイコンを照会する(S450段階)。ここで、アイコンは、テキストまたはイメージで構成されることができる。そして、もし、S440段階でメタデータが抽出された場合、メタデータとマッチングされるイメージを照会することができる。その後、S450段階で照会されたアイコンをディスプレイに表示する(S460段階)。特定ミックス信号のソース信号別アイコンが表示された画面の一例が、図36Aに示されている。図36Aは、ソース信号情報が‘ピアノ、バイオリン、声楽家(女子)、フルート’の場合、ピアノ、バイオリン、声楽家(女子)、フルートに該当するアイコンがそれぞれ表示された画面である。このように、本発明の実施例によるインタフェース表示方法は、S410段階〜S450段階を行なって特定ミックス信号に対するアイコンを表示する。特定ミックス信号のソース信号別アイコンがメタデータを表現する画面の一例が、図36Bに示されている。図36Bは、ソース信号情報に含まれているメタデータが“ピアノ演奏者:チョン・ミュン=フン”、“声楽家:チョ・スミ”の場合、ピアノに該当するアイコンがチョン・ミュン=フンの写真で構成され、声楽に該当するアイコンがチョ・スミの写真で構成される画面である。以下では、このような過程を通じて表示されたアイコンのうち特定アイコンが実行された以降の過程について説明する。
【0202】
図35Bを参照すると、ユーザが、S450段階で表示されたアイコンから一つを選択し、特定アイコンに関する実行命令を入力すると、インタフェース表示装置は、選択されたアイコンに対する実行命令を受信する(S510段階)。アイコンの実行命令、すなわち、アイコンを実行させた時に行なわれる過程は、設定によって様々でありうるが、以下では、3つの場合(レベル調整、イコライザ調整、アンビエンス調整)について説明する。
【0203】
もし、アイコンの実行命令がレベル調整(音量調整)と設定されている場合(S520段階の‘Yes’)、S510段階で実行されたアイコンに該当するソース信号のレベル調整画面を表示する(S522段階)。レベル調整画面の一例が、図37Aに示されている。図37Aは、合計4個のアイコンのうち“フルート”アイコンが実行された場合、フルートのレベル(音量)を調整できるコントロールバーが表示された画面である。ユーザは、図37Aのような画面上で、ポインティングデバイスを用いてコントロールバーを動かしたり、キーパッドの方向キーなどを用いて、特定ソース信号(例:フルート)のレベル調整に関する命令を入力することができる。このようなレベル調整に関する命令を受信すると(S524段階の‘Yes’)、調整されたレベルに従ってアイコンの形状を変化させる(S526段階)。ここで、アイコンの形状は、大きさ、色相、明るさのうち一つ以上を含む概念である。調整されたレベルに従ってアイコンの形状が変化された画面の一例が、図37Bに示されている。図37Bを参照すると、フルートのレベルが高く調整されるに従って、フルートに該当するアイコンの大きさが大きくなることがわかる。その後、S524段階で入力されたレベル調整命令を制御情報に変換することによって、S420段階で選択されたミックス信号をリミキシングする(S550段階)。ここで、制御情報は、第1リミックス信号デコーディング装置または第2リミックス信号デコーディング装置に入力される情報で、上で本発明の一実施例によるインタフェース表示装置と共に説明したので、その説明は省略する。
【0204】
もし、アイコンの実行命令がイコライザ調整(サブバンド別レベル調整)に設定されている場合(S530段階の‘Yes’)、S510段階で実行されたアイコンに該当するソース信号のレベル調整画面を表示する(S532段階)。イコライザ画面(サブバンド別レベル調整画面)の一例が、図38に示されている。図38は、合計4個のアイコンのうち“ピアノ”アイコンが実行された場合、ピアノのイコライザを調整できるようにサブバンド別コントロールバーが表示された画面である。ユーザは、図38のような画面上で、ポインティングデバイスを用いてサブバンド別コントロールバーをそれぞれ動かして、特定ソース信号(例:ピアノ)のサブバンド別レベル調整に関する命令を入力することができる。このようなサブバンド別レベル調整に関する命令が受信されると(S534段階の‘Yes’)、調整されたサブバンド別レベルに従ってアイコンの形状を部分的に変化させる(S536段階)。例えば、低周波バンドのレベルが高く調整された場合、アイコンの左側に該当する部分の明るさを暗くすることができる。その後、S534段階で入力されたサブバンド別レベル調整命令を制御情報に変換することによって、S420段階で選択されたミックス信号をリミキシングする(S550段階)。
【0205】
もし、アイコンの実行命令がアンビエンス調整(相対的位置調整)に設定されている場合(S540段階の‘Yes’)、S510段階で実行されたアイコンに該当するソース信号のアンビエンス調整画面(相対的位置調整画面)を表示する(S542段階)。アンビエンス調整画面(相対的位置調整画面)の一例が、図39に示されている。図39は、合計4個のアイコンのうち“ピアノ”アイコンが実行された場合、ピアノのアンビエンスを調整することができるようにピアノの相対的位置が表示された画面である。ユーザは、図39のような画面上で、ポインティングデバイスや方向キーなどを用いてアイコンを動かして、特定ソース信号(例:ピアノ)のアンビエンス調整に関する命令を入力することができる。このようなアンビエンス調整に関する命令が受信されると(S544段階の‘Yes’)、調整されたサブバンド別レベルに従ってアイコンの形状を変化させる(S546段階)。例えば、調整されたソース信号の相対的位置がユーザ(聴取者)の位置に近づいた場合、該当のアイコンの明るさを明るくすることができる。その後、S544段階で、入力されたアンビエンス調整命令を制御情報に変換することによって、S420段階で選択されたミックス信号をリミキシングする(S550段階)。
【0206】
図40は、本発明のさらに他の実施例によるインタフェース表示装置の構成図である。図40を参照すると、本発明のさらに他の実施例によるインタフェース表示装置6100は、入力部6110、記憶部6120、制御部6130、ディスプレイ6140を含み、第1リミックス信号デコーディング装置500と関連し合っている。ここで、第1リミックス信号デコーディング装置500は、付加情報デコーディング部503及びリミキシングレンダリング部506を含むもので、同様に、上の図5と共に説明された第1リミックス信号デコーディング装置と構成及び機能が略同様なので、その具体的な説明は省略する。
【0207】
入力部6110は、ミックス信号に対する再生命令を入力するための入力装置である。入力部6110は、マウス、トラックボール、タッチパッドなどのようなポインティングデバイスの他に、方向移動キー、タッチホイールなどで具現されることもできることは勿論である。
【0208】
記憶部6120は、ソース信号別イメージが保存されている保存装置である。例えば、楽器別イメージ(ピアノイメージ、バイオリンイメージ、フルートイメージ等)、及び演奏者別写真(ジョン・ミョンフン写真、ジョ・スミ写真等)などを保存することができる。
【0209】
制御部6130は、ミックス信号に対応するソース信号のレベルが時間別に変化するに従ってソース信号のイメージの形状を時間別に変化させて表示されるように制御する。ここで、イメージは、第1リミックス信号デコーディング装置500の付加情報エンコーディング部503またはリミキシングレンダリング部505から受信したソース信号情報siに基づいて、記憶部6120から照会したソース信号別イメージでありうる。そして、ソース信号の時間別レベルは、第1リミックス信号デコーディング装置500のリミキシングレンダリング部505から受信したソース信号レベル情報slから抽出したものでありうる。
【0210】
例えば、合計再生時間が3分45秒である場合、再生開始(t=0分0秒)から再生完了(t=3分45秒)まで、毎秒のソース信号(ピアノ、バイオリン、フルート)のそれぞれのレベルを感知し、そのそれぞれに該当するイメージ(ピアノイメージ、バイオリンイメージ、フルートイメージ)の形状(大きさ、色相、明るさ、画面内位置等)を変化させて表示する。特定時点におけるピアノ(またはバイオリン等)のレベルが大きい場合、ピアノイメージ(またはバイオリンイメージ等)の大きさを大きく変化させることができ、特定時点でピアノ(またはバイオリン等)のレベルが大きい場合、ピアノイメージ(またはバイオリン等)の明るさを明るく変化させることができる。
【0211】
ディスプレイ6140は、ソース信号に該当するイメージを表示するための表示装置である。
【0212】
図41は、本発明のさらに他の実施例によるインタフェース表示装置の構成を示す図である。同図を参照すると、本発明のさらに他の実施例によるインタフェース表示装置6200は、入力部6210、記憶部6220、制御部6230、ディスプレイ6240を含み、第2リミックス信号デコーディング装置700と関連し合っている。ここで、第1リミックス信号デコーディング装置700は、付加情報デコーディング部703、付加情報統合部705及びリミキシングレンダリング部708を含むもので、同様に、上の図7と共に説明された第2リミックス信号デコーディング装置とその構成及び機能が略同一なので、その具体的な説明は省略する。
【0213】
一方、本発明のさらに他の実施例によるインタフェース表示装置6200は、本発明のさらに他の実施例によるインタフェース表示装置6100と比較する時、第1リミックス信号デコーディング装置500の代わりに第2リミックス信号デコーディング装置700と関連し合っており、ミックス信号501の代わりに合成オブジェクト信号701が入力されるという点が異なる以外は、本発明の一実施例によるインタフェース表示装置6100と略同様なので、その構成要素についての説明は省略する。
【0214】
図42は、本発明の他の実施例によるインタフェース表示方法を示すフローチャートである。以下で用いられるミックス信号という用語は、合成オブジェクト信号の概念まで含まれる概念として理解すべきである。本発明の他の実施例によるインタフェース表示方法は、上に説明された本発明のさらに他の実施例によるインタフェース表示装置6100により行なわれても良く、本発明のさらに他の実施例によるインタフェース表示装置6200により行なわれても良い。
【0215】
図42を参照すると、ユーザが入力装置を用いて特定ミックス信号に対する再生命令を入力すると、インタフェース表示装置は、これを受信する(S610段階)。その後、インタフェース表示装置は、このミックス信号に対応するソース信号情報を受信する(S620段階)。インタフェース表示装置は、S620段階で受信したソース信号情報に基づいて、各ソース信号に該当するイメージを照会する(S630段階)。
【0216】
その後、ミックス信号の再生が始まると(S640段階の‘Yes’)、インタフェース表示装置は、ミックス信号に該当するソース信号のレベル(またはサブバンド別レベル)を時間別に感知する(S650段階)。その後、S640段階で照会されたレベル(サブバンド別レベル)によって、S630段階で照会されたイメージの形状(大きさ、色相、明るさ、画面内位置等)を時間によって変化させて表示する(S660段階)。ソース信号のレベルに比例してイメージの大きさが変化する画面の一例を、図43に示す。図43で、各オブジェクト別イメージの大きさを見ると、現在再生時間が‘t1’の時、女子声楽家のレベルは高い反面、女子声楽家以外の楽器(ピアノ、バイオリン、フルート)のレベルは低いことがわかる。現在再生時間が‘t2’の時は、女子声楽家のレベルがその他の楽器に比べて低く、現在再生時間が‘t3’の時は、ピアノと女子声楽家のレベルのみが高いことがわかる。ソース信号のレベルに比例してイメージの明るさが変化する画面の一例が、図44に示されている。図44を参照すると、現在時間がそれぞれt1、t2、t3の時点において、ソース信号のレベルがそれぞれ変化するに従ってオブジェクト別イメージの明るさが変化することがわかる。
【0217】
一方、ソース信号のレベルが変化するに従ってソース信号に該当するイメージの大きさを変化させることもでき、例えば、特定時点でレベルの最も高いソース信号のイメージのみを表示し、それ以外のソース信号のイメージの大きさを0として画面に表示させないこともできる。ソース信号のうち、現在最も大きいレベルを持つイメージのみが表示される画面の例を、図45及び図46に示す。図45を参照すると、再生が始まってから再生時間t1において、合計4個のソース信号のうちピアノのレベルが最も高いため、他のソース信号(バイオリン、声楽家、フルート)のイメージは消え、ピアノイメージ(ピアノ演奏者であるチョン・ミュン=フンの写真)のみが画面に表示されることがわかり、再生時間t2では、合計4個のソース信号のうち声楽家(女子)のレベルが最も高いため、声楽家(女子)イメージ(声楽家であるチョ・スミの写真)のみが画面に表示されることがわかる。図46を参照すると、再生が始まってから再生時間t1において、レベルの最も高い3番目の歌手のイメージが中心部に配置され、再生時間t2では、レベルの最も高い1番目の歌手のイメージが中心部に配置されることがわかる。
【0218】
もし、ソース信号のサブバンド別レベルに従ってイメージを変化させる場合には、ソース信号のイメージの形状を部分的に変化させることもできる。例えば、イメージの横軸をソース信号の周波数帯域軸に対応させ、イメージの縦軸をソース信号のレベル軸に対応させることで、低周波帯域のレベルが高く、高周波帯域のレベルが高い場合、イメージの左側は薄く表現し、イメージの右側は濃く表現することができる。上記S650段階及びS660段階は、ミックス信号の再生が終了するまで続く(S670段階)。
【0219】
ユーザは、リミックス情報を提供するサーバー(以下、リミックス情報提供サーバーという)からリミックス情報を受け取ることができる。リミックス情報提供サーバーは、ミックス信号に含まれているソース信号のうち一部ソース信号が除外されている変形されたミックス信号を提供することもできる。すなわち、ミックス信号が複数のソース信号からなっているとする時、リミックス情報提供サーバーは、ミックス信号を構成するソース信号のうち一つ以上のソース信号が除外されている変形されたミックス信号を提供することもできる。以下、ミックス信号に含まれているソース信号のうち一部のソース信号が除外されているミックス信号を、元来のミックス信号と区別するために‘変形されたミックス信号’という。リミックス情報提供サーバーが、変形されたミックス信号を提供する場合、ユーザは、ミックス信号を受信する前に、変形されたミックス信号をまず受信して聴取することができる。ユーザが、変形されたミックス信号を聴取した後にソース信号の除外されていない元来のミックス信号が聞きたい場合、リミックス情報提供サーバーに、ソース信号が全て含まれている元来のミックス信号の伝送を要請することができる。
【0220】
リミックス情報提供サーバーは、無料でリミックス情報をユーザに提供するこもできるが、一部または全部のリミックス情報を有料でユーザに提供することもできる。リミックス情報提供サーバーがリミックス情報を有料でユーザに提供する場合、ユーザは、リミックス情報使用料を決済した後に、リミックス情報を受け取ることができる。リミックス情報提供サーバーは、変形されたミックス信号を無料で、元来のミックス信号を有料でユーザに提供することもできる。以下、図47〜図52では、ユーザがリミックス情報提供サーバーから、ミックス信号のうち一部のソース信号が欠如されている変形されたミックス信号を受け取り、それを用いる方法について説明し、また、リミックス情報提供サーバーが有料でリミックス情報を提供する場合における決済方法について説明する。
【0221】
図47は、本発明の実施例によるリミックス情報提供システムを示す図である。図47を参照すると、リミックス情報提供システムは、ユーザ端末7001、リミックス情報提供サーバー7002、金融機関7003及び移動通信事業者7004を含む。ユーザは、ソース信号をリミックスするためにミックス信号またはソース信号とこれに対する付加情報を必要とする。付加情報は、エンコーディング装置が生成したエンコーダミックスパラメータ、デコーディング装置が生成したブラインドミックスパラメータ、ユーザが入力した制御情報を用いて生成されたユーザーミックスパラメータなどを含む。ユーザは、ユーザ端末7001に含まれているユーザーインタフェース(図示せず)等を介して各ソース信号を表現するアイコンを調節し、リミックスされたミックス信号に含まれているソース信号を調節することができる。ユーザは、ソース信号を表現するアイコンを調節することによってソース信号の大きさや位置、声の特色などを変化させることができる。アイコンは、人の感情を表現する顔文字、歌手や楽器演奏者の写真やカリカチュア、または楽器の写真や絵などを含むことができる。以下、ミックス信号、各音源のソース信号、ミックス信号をソース信号別に制御するためのミックスパラメータ、ミックス信号をアップミックスするためのアップミックスパラメータ、ソース信号を表現するためのアイコンなど、ミックス信号をソース信号別にリミックスするために必要な一切の情報をリミックス情報という。
【0222】
ユーザは、ユーザ端末7001を用いてリミックス情報提供サーバー7002にアクセスする。ユーザ端末7001は、ノートブックやデスクトップなどのユーザPC、携帯電話などの移動端末機、PDA(personal digital assistants)、PMP(portable multimedia player)等、他のユーザ端末と有無線通信ができ、ミックス信号を再生できる装置を含む。ユーザ端末7001は、リミックス情報提供サーバー7002から所望のリミックス情報を選択する。リミックス情報提供サーバー7002は、データベース(図示せず)からユーザの選択したリミックス情報を検索してそれを抽出する。リミックス情報提供サーバー7002は、抽出したリミックス情報をユーザ端末7001に伝送する。リミックス情報提供サーバー7002は、ミックス信号の特定区間またはミックス信号に含まれているソース信号のうち一定のソース信号が除外されている変形されたミックス信号を提供することができる。例えば、ユーザが、ピアノ、バイオリン、チェロ編成のチャイコフスキーの‘偉大な芸術家の思い出’というピアノ三重奏を聴取したい場合、ユーザは、ミックス信号を聞く前にそれに対する変形されたミックス信号をまず聴取することができる。ユーザが、リミックス情報提供サーバー7002に‘偉大な芸術家の思い出’というピアノ三重奏曲に対する変形されたミックス信号を要請する場合、リミックス情報提供サーバー7002は、チェロ信号の除外された‘偉大な芸術家の思い出’という変形されたミックス信号をデータベースから抽出してユーザに伝送することができる。リミックス情報提供サーバー7002は、‘偉大な芸術家の思い出’に対する変形されたミックス信号がデータベースに保存されていない場合、ミックス信号に含まれているソース信号、すなわち、ピアノ、バイオリン、チェロ信号のうち一定のソース信号を除外することでミックス信号を様々に変形することができる。リミックス情報提供サーバー7002は、ミックス信号に含まれているソース信号から、ランダムにまたはユーザの要請に応じて特定のソース信号を除外することで、変形されたミックス信号を生成することができる。ユーザが、ミックス信号に含まれているソース信号からピアノ信号を除外して、変形されたミックス信号を生成するように要請すると、リミックス情報提供サーバー7002は、バイオリン及びチェロ信号のみを含む変形されたミックス信号を生成してユーザに伝送することができる。ユーザは、リミックス情報提供サーバー7002から変形されたミックス信号を受信し、それを聴取する。ユーザは、変形されたミックス信号を聴取した後にミックス信号を聴取したい場合は、リミックス情報提供サーバー7002に‘偉大な芸術家の思い出’に対するミックス信号伝送を要請する。ユーザは、ユーザ端末7001を用いてリミックス情報提供サーバー7002から受け取った変形されたミックス信号またはミックス信号を聴取することができる。ユーザは、ミックス信号などを用いてユーザ端末7001、例えば、移動端末の通話音や移動端末のベル音等として用いることができる。また、ユーザは、ミックス信号などをホームページなどの背景音楽として用いることもできる。また、ユーザは、リミックス情報提供サーバー7002からミックス信号または変形されたミックス信号に対する付加情報を受信し、これを用いてミックス信号などをソース信号別に調節することで、リミックスされたミックス信号を生成することができる。
【0223】
場合によって、リミックス情報提供サーバー7002は、全部または一部のリミックス情報を有料で提供することもできる。基本的なリミックス情報は無料で提供し、その他リミックス情報は有料で提供することもできる。リミックス情報使用が有料である場合、リミックス情報提供サーバー7002は、ユーザに決済を要請する。決済処理にあたり、リミックス情報提供サーバー7002は、ユーザが有効なユーザなのかを確認するためにユーザ端末7001に認証情報を要請することができる。ユーザは、リミックス情報提供サーバー7002の要請に応じてユーザ端末7001に認証のためのユーザ情報を入力する。リミックス情報提供サーバー7002は、ユーザ端末7001からユーザの入力したユーザ情報を受信し、ユーザが有効なユーザなのか認証することができる。
【0224】
ユーザがリミックス情報使用料金をクレジットカードで決済しようとする場合、リミックス情報提供サーバー7002は、ユーザ情報をカード社や銀行などの金融機関7003に伝送して、ユーザ有効有無の確認を要請する。金融機関7003は、ユーザ情報を用いてユーザが金融機関に加入した有効なユーザなのか否かを確認し、その結果をリミックス情報提供サーバー7002に伝送する。リミックス情報提供サーバー7002は、ユーザが有効なユーザである場合、金融機関7003にリミックス情報使用料決済を要請する。金融機関7003は、ユーザの口座からリミックス情報使用料を引き出し、決済が完了したことをリミックス情報提供サーバー7002に通知する。金融機関7003は、引き出したリミックス情報使用料を実時間でまたは一定時間間隔にリミックス情報提供サーバー7002の口座に振り替える。ユーザがリミックス情報使用料金を口座振替方法で決済しようとする場合、金融機関7003は、ユーザがリミックス情報提供サーバー7002の口座にリミックス情報使用料を入金したことを通知する。リミックス情報提供サーバー7002は、金融機関7003から決済完了の通知を受けた後、ユーザの選択したリミックス情報を抽出してユーザ端末7001に伝送する。ユーザ端末7001は、リミックス情報提供サーバー7002からリミックス情報を受け取り、それをそのまま聴取しても良いが、リミックス情報をユーザが変形して用いても良い。この場合、ユーザ端末7001は、リミキシングを処理するための信号デコーディング装置を含むことができる。ユーザは、ソース信号とミックス信号、付加情報を共にまたは別に受信し、ユーザ端末7001を用いてソース信号をリミックスすることができる。ユーザ端末7001がリミックス情報提供サーバー7002からミックス信号のみを受け取った場合、ユーザ端末7001は、ミックス信号に対する付加情報を直接生成し、生成した付加情報を用いてミックス信号をソース信号別に調節することができる。ユーザは、ミックス信号をソース信号別に調節して、リミックスされたミックス信号を生成し、リミックスされたミックス信号をリミックス情報提供サーバー7002にアップロードすることができる。また、ユーザは、ソース信号を表現するアイコンを生成したり、リミックス情報提供サーバー7002から受信したアイコンを変形して、リミックス情報提供サーバー7002にアップロードすることができる。この時、リミックス情報は、ユーザがアップロードしたリミックスされたミックス信号及び変形や生成してアップロードしたアイコンなどを含む。リミックス情報提供サーバー7002は、ユーザがユーザ端末7001を用いてアップロードしたリミックスされたミックス信号を、データベース(図示せず)に保存する。リミックス情報提供サーバー7002は、他の第2ユーザが該リミックスされたミックス信号の伝送を要請すると、それを第2ユーザ端末に有料または無料で伝送することができる。リミックス情報提供サーバー7002、リミックスされたミックス信号またはアイコンなどをリミックス情報提供サーバー7002にアップロードしたユーザ及びリミックスされたミックス信号またはアイコンなどを使用しようとする第2ユーザは、あらかじめ定められた約定に従って相互間にリミックス情報使用料を支払うことができる。リミックス情報提供サーバー7002は、有料で第2ユーザにリミックスされたミックス信号を伝送する場合、前述したような方法で第2ユーザに決済を要請することができる。リミックス情報提供サーバー7002は、リミックスされたミックス信号またはアイコンなどをリミックス情報提供サーバー7002にアップロードしたユーザに、第2ユーザが支払ったリミックス情報使用料の一定分を支払っても良い。
【0225】
ユーザは、携帯電話などのユーザ端末7001を用いてリミックス情報使用料を決済することもできる。ユーザが、リミックス情報提供サーバー7002に携帯電話などのユーザ端末7001番号を入力すると、リミックス情報提供サーバー7002は、移動通信事業者7004にユーザのユーザ端末7001番号を伝送し、ユーザ認証のための認証番号を要請する。移動通信事業者7004は、リミックス情報提供サーバー7002の要請に応じて認証番号をリミックス情報提供サーバー7002及びユーザ端末7001に伝送する。ユーザは、ユーザ端末7001に伝送された認証番号をユーザ端末7001を用いてリミックス情報提供サーバー7002に入力する。リミックス情報提供サーバー7002は、ユーザの入力した認証番号が移動通信事業者7004から伝送された認証番号と一致すると、該ユーザを有効なユーザと判断する。リミックス情報提供サーバー7002は、有効なユーザと判断すると、移動通信事業者7004にリミックス情報使用料決済を要請する。移動通信事業者7004は、ユーザ端末7001の使用料金にリミックス情報使用料を加算する。移動通信事業者7004は、リミックス情報使用料に対する決済が完了すると、決済の完了したことをリミックス情報提供サーバー7002に通知する。リミックス情報提供サーバー7002は、決済完了の通知を受けた後、ユーザが選択したリミックス情報をユーザ端末7001に伝送する。ユーザは、ユーザ端末7001に伝送されたリミックス情報を用いてリミックスされたミックス信号を生成する。ユーザは、ユーザ端末7001を用いてソース信号の大きさや位置、音色などを調節することで独特のミックス信号を生成することができる。ユーザは、ユーザ端末7001を用いて、リミックスされたミックス信号をリミックス情報提供サーバー7002にアップロードすることができる。前述したように、第2ユーザは、他のユーザがリミックス情報提供サーバー7002にアップロードしたリミックスされたミックス信号をダウンロードして利用することができる。
【0226】
図48は、本発明の実施例によるリミックス情報提供サーバーの構成図である。図48を参照すると、リミックス情報提供サーバー7002は、記憶装置7001、中央処理装置(Central Processing Unit:CPU)7104、入出力装置7108及び通信装置7109を含む。中央処理装置7104は、計算を行なうためのALU(Arithmetic Logic Unit)7105、データ及び命令語の一時保存のためのレジスタ7106及びリミックス情報提供サーバー7002の動作を制御するためのコントローラ7107を含む。メモリーシステム7001は通常、RAM(Random Access Memory)、ROM(Read Only Memory)のような記憶媒体形態である高速の主記憶装置7102と、フロッピー(登録商標)ディスク、ハードディスク、テープ、CD−ROM、フラッシュメモリーなどの長期(long-term)記憶媒体形態の補助記憶装置7103及び電気、磁気、光学やその他の記憶媒体を用いてデータを保存する装置を含む。メインメモリー7102は、ディスプレイ装置を通じてミックス信号または変形されたミックス信号の目録やアイコンなどのリミックス情報をディスプレイするビデオディスプレイメモリーを含むことができる。入出力装置7108は、キーボード、マウス、例えばタッチスクリーンまたはマイクロホンのような物理的変換器(Physical transducer)などを含むことができる。通信装置7109には、ユーザ端末7001と有線または無線通信を行なうためのネットワークインタフェースまたはRF送受信アンテナのような装置が用いられることができる。
【0227】
図49は、本発明の実施例によるリミックス情報提供サーバーのモジュール構成図である。図49を参照すると、リミックス情報提供サーバー7002は、ユーザ端末7001及び金融機関7003、移動通信事業者7004との通信を処理するための送受信処理モジュール7213、ミックス信号、変形されたミックス信号などを含むリミックス情報を保存して管理するデータベース管理モジュール7214、変形されたミックス信号を生成するミックス信号変形モジュール7215、及びリミックス情報が有料である場合、ユーザが有効かを認証して決済を処理する課金処理モジュール7216を含むことができる。このような応用モジュールを通じてリミックス情報提供サーバーの全体的な構成について説明すると、次の通りである。リミックス情報提供サーバーは、様々なOS(Operating System)をシステムのOSとして使用することができる。このようなOSは、API(Application Program Interface)7201にハイレベル命令語を提供して、各応用モジュール7204の動作を制御する。リミックス情報提供サーバーは、API 7201から提供されるハイレベル命令語によって対応する各応用モジュール7204を識別し、ハイレベル命令語をデコーディングし、それを該当する所に提供するハイレベル命令語処理部7202を含む。応用モジュール制御部7203は、ハイレベル命令語処理部7202から提供された命令語によって応用モジュール7204の動作を制御する。すなわち、ハイレベル命令語処理部7202は、API 7201から提供されたハイレベル命令語に対応する応用モジュール7204が存在するか識別し、対応する応用モジュール7204が存在する場合、該当する応用モジュール7204で認識可能な命令語にデコーディングして該当のマッピング部に伝送したり、メッセージ伝送を制御する。したがって、応用モジュール制御部7203は、送受信処理モジュール7213、データベース管理モジュール7214、ミックス信号変形モジュール7215及び課金処理モジュール7216に対するマッピング部7205,7207,7209,7211とインタフェース部7206,7208,7210,7212をそれぞれ含む。
【0228】
送受信処理モジュールマッピング部7205は、ハイレベル命令語処理部7202からユーザ端末7001や金融機関7003または移動通信事業者7004との通信を行なうためのハイレベルの命令語を受信し、送受信処理モジュール7213で処理できるようなデバイスレベルにマッピングし、送受信処理モジュールインタフェース部7206を通じて送受信処理モジュール7213に提供する。データベース管理モジュールマッピング部7207及びデータベース管理モジュールインタフェース部7208は、ミックス信号または変形されたミックス信号を保存し、ユーザ端末7001からミックス信号または変形されたミックス信号要請があるとそれを抽出する。データベース管理モジュールマッピング部7207は、ハイレベル命令語処理部7202からデータベース管理モジュール7214を用いるためのハイレベル命令語を受信しそれをデバイスレベルの命令語にマッピングし、データベース管理モジュールインタフェース部7208を通じてデータベース管理モジュール7214に提供する。ミックス信号変形モジュール7215は、ユーザにより変形されたミックス信号が要請される場合などミックス信号を変形しなければならない場合、ミックス信号に含まれている一定のソース信号を除外して、変形されたミックス信号を生成する。ミックス信号変形モジュールマッピング部7209は、ハイレベル命令語処理部7202から印加されたハイレベル命令語を受信し、変形された信号変形モジュール7215が認識できるようなデバイスレベルの命令語にマッピングする。デバイスレベルの命令語は、ミックス信号変形モジュールインタフェース部7210を通じてミックス信号変形モジュール7215に提供される。課金処理モジュール7216は、ユーザが有効なユーザなのか確認し、有効なユーザである場合、リミックス情報使用料を課金する機能を果たす。また、課金処理モジュール7216は、第2ユーザが、他のユーザが生成してアップロードしたリミックスされたミックス信号使用を希望する場合、リミックス情報提供サーバー7002、リミックスされたミックス信号をアップロードしたユーザ、及び第2ユーザ間においてリミックス情報使用料を処理する機能を果たす。課金処理モジュールマッピング部7211は、ハイレベル命令語処理部7202から印加されたハイレベル命令語を受信し、課金処理モジュール7216が認識できるようなデバイスレベルの命令語にマッピングする。デバイスレベルの命令語は、課金処理モジュールインタフェース部7212を通じて課金処理モジュール7216に提供される。
【0229】
図50は、本発明の実施例によるリミックス情報提供サーバーがリミックス情報を提供する方法を示すフローチャートである。図50を参照すると、ユーザは、ユーザ端末7001を用いてリミックス情報提供サーバー7002に接続する。リミックス情報提供サーバー7002からユーザ端末7001はリミックス情報を選択する(段階S701)。リミックス情報提供サーバー7002は、ユーザの選択したリミックス情報をユーザ端末7001に無料で伝送しても良く、有料で伝送しても良い。リミックス情報提供サーバー7002は、ユーザの選択したリミックス情報が有料か無料かを判断する(段階S703)。リミックス情報提供サーバー7002は、ユーザの選択したリミックス情報が有料である場合、ユーザに決済を要請する(段階S705)。決済のために、リミックス情報提供サーバー7002は、ユーザが有効なユーザなのかを確認するユーザ認証を行なうことができる。リミックス情報提供サーバー7002は、ユーザ端末7001にクレジットカード番号、口座番号、住民番号、パスワードなど、ユーザ認証のためのユーザ認証情報入力を要請することができる。ユーザがユーザ端末7001を用いてユーザ認証情報を入力すると、リミックス情報提供サーバー7002は、ユーザの入力したユーザ認証情報を金融機関7003や移動通信事業者7004などに伝送し、ユーザが有効か否かを確認することを要請する。金融機関7003または移動通信事業者7004は、データベース(図示せず)からリミックス情報提供サーバー7002が伝送したユーザ認証情報を検索し、その結果をリミックス情報提供サーバー7002に通知する。リミックス情報提供サーバー7002は、ユーザが有効であると判断すると、金融機関7003または移動通信事業者7004に決済情報を伝送し、決済を要請する。リミックス情報提供サーバー7002は、ミックス信号変形部(図示せず)を含むことができる。リミックス情報提供サーバー7002は、決済が完了すると(段階707の‘はい’)、ユーザにより選択されたリミックス情報が、一部ソース信号が除外された変形されたミックス信号か否かを判断する(段階S709)。リミックス情報提供サーバー7002は、ユーザーが希望するリミックス情報が、変形されたミックス信号である場合、ミックス信号変形部を用いてミックス信号を変形したり、既に保存されている変形されたミックス信号を抽出する(段階S711)。リミックス情報提供サーバー7002は、変形されたミックス信号をユーザ端末7001に提供する(段階S715)。リミックス情報提供サーバー7002は、ユーザにより選択されたリミックス情報が変形されたミックス信号でない場合、既に保存されているリミックス情報を抽出する(段階S713)。リミックス情報提供サーバー7002は、抽出したリミックス情報をユーザ端末7001に提供する(段階S715)。
【0230】
図51は、本発明の実施例によってユーザ端末がリミックス情報を受信する方法を示すフローチャートである。図51を参照すると、ユーザは、ユーザ端末7001を用いてリミックス情報提供サーバー7002に接続する(段階S801)。ユーザは、ユーザ端末7001を用いて、リミックス情報提供サーバー7002が提供するリミックス情報から所望の情報を選択する(段階S803)。前述したように、リミックス情報は、ミックス信号、変形されたミックス信号、ソース信号、付加情報、ソース信号を表現するアイコン、顔文字などを含む。また、リミックス情報は、他のユーザがリミックス情報提供サーバー7002にアップロードしたリミックス情報などを含む。ユーザ端末7001は、ユーザが選択したリミックス情報が有料なのか判断する(段階S805)。ユーザは、選択したリミックス情報が有料である場合、リミックス情報使用料を決済する(段階S807)。リミックス情報使用料は、リミックス情報の種類や容量、ビット率等によって変わることができる。例えば、ユーザが特定ソース信号のみを受けたい場合、ユーザは、ソース信号を含むミックス信号を受信する場合に比べてより少ない使用料を支払うことができる。ユーザがミックス信号またはミックス信号に含まれていないソース信号に関する付加情報を受信する場合、ユーザが決済する金額は変わることができる。決済が完了すると、ユーザは、リミックス情報提供サーバー7002からリミックス情報を受信する(段階S809)。
【0231】
図52は、本発明の実施例によってユーザがリミックス情報をリミックス情報提供サーバーに伝送する方法を示すフローチャートである。図52を参照すると、ユーザは、ユーザ端末7001を用いてリミックス情報を受信する。リミックス情報は、リミックス情報提供サーバー7002等のエンコーディング装置から受け取ることができる。ユーザ端末7001は、リミックス情報及び制御情報を用いてミックス信号に含まれているソース信号をリミックスするリミックスレンダリング部(図示せず)を含むことができる。ユーザ端末7001がリミックスレンダリング部を含む場合、ユーザは、ユーザ端末7001を用いてミックス信号、ソース信号及びこれに関する付加情報を用いて直接リミックス情報を生成することができる。ユーザは、リミックスレンダリング部を用いてユーザ端末7001に保存されているリミックス情報を変形して、新しいリミックス情報を生成することもできる(段階S901)。すなわち、ユーザは、持っているリミックス情報を用いてソース信号の大きさや位置、音色などを調節することで、リミックスされたミックス信号を生成することができる。また、ユーザは、ソース信号を表現するアイコンや顔文字などを変形したり、直接アイコンなどを生成することができる。ユーザは、生成したリミックス情報をリミックス情報提供サーバー7002に伝送してアップロードする(段階S903)。リミックス情報提供サーバー7002は、ユーザがアップロードした新しいリミックス情報をデータベースに保存し、これを第2ユーザが希望すると、データベースから抽出して第2ユーザ端末に伝送する。
【産業上の利用可能性】
【0232】
本発明は、メディア信号プレイヤーの入力装置またはリモートコントローラなどに適用されることができる。また、本発明は、メディア信号プレイヤーのインタフェース制御装置などに適用されることができる。本発明は、メディア信号情報提供サーバーなどに適用されることができる。
以上ではたとえ限定された実施例と図面に基づいて本発明を説明してきたが、本発明はそれらに限定されものではなく、本発明の属する技術分野における通常の知識を持つ者にとっては、本発明の技術思想と添付した特許請求の範囲と均等な範囲内で様々な修正及び変形が可能であるということが明らかである。
【技術分野】
【0001】
本発明は、入力装置及び入力方法に関するものであり、より詳細には、ミックス信号を制御するために必要な命令を入力できる入力装置及び入力方法に関する。また、本発明は、ミックス信号のインタフェース表示方法及び装置に関するものであり、より詳細には、オーディオ信号、ビデオ信号などのミックス信号に関してユーザにインタフェースを提供できるミックス信号のインタフェース表示方法及び装置に関する。また、本発明は、ミックス信号処理方法及び装置に関する。
【背景技術】
【0002】
一般に、ステレオ信号が最も頻繁に生成されて、消費者たちに最も広く用いられている。最近では、マルチャンネル信号が益々広く利用されている。しかし、該ミックス信号は、ミックス信号を構成するソース信号単位ではなく、チャネル信号単位に処理されるという限界がある。そのため、チャネル信号単位にミックス信号を処理する場合、ミックス信号を構成する特定ソース信号のみを独立して処理できないという問題点がある。例えば、映画を見る際に、俳優たちの音声に対する音量は一定に維持しながら、背景音楽の音量のみを上げることは不可能である。
【0003】
のみならず、ユーザがミックス信号(または合成オブジェクト信号)をソース別に、すなわち、特定ソース信号別に独立的に処理してリミキシングするためには、ソース信号別に音量レベルを上げたり下げたりするか(レベルを0にして音をミュートするか)、ソース信号の相対的位置を調節したりしなければならない。ところが、従来のリモートコントローラはミックス信号全体の音量レベルを調整することができるだけで、ミックス信号に含まれているソース信号のそれぞれの音量レベルを調整したりアンビエンスを調整することはできないという問題点がある。
【0004】
また、ユーザがミックス信号(または合成オブジェクト信号)をソース別に、すなわち、ソース信号別にリミキシングするためには、該当ミックス信号に含まれているソース信号にはどのようなものがあるか知らなければならない。例えば、ミックス信号が音楽ファイルの場合、ユーザは、この音楽ファイルに関連するソース信号が、ピアノ、バイオリン、フルートなどであるか確認しなければならない。ところが、従来はミックス信号(または合成オブジェクト信号)の情報が表示されるだけで、ミックス信号と関連しているソース信号の情報がどのようなものかは表示されないという問題点があった。
【発明の概要】
【発明が解決しようとする課題】
【0005】
本発明は、上記のような問題点を解決するために案出されたもので、その目的は、ビデオ信号及びオーディオ信号などのようなミックス信号に含まれているソース信号別に音量レベルを調整したりアンビエンス(相対的位置)を調整することができる入力装置及び入力方法を提供することにある。
【0006】
本発明の他の目的は、ミックス信号(または合成オブジェクト信号)と関連しているソース信号(またはオブジェクト信号)に関する情報をユーザが常に確認できるようにディスプレイすることができるミックス信号のインタフェース表示方法及び装置を提供することにある。
【0007】
本発明のさらに他の目的は、ミックス信号(または、合成オブジェクト信号)と関連しているソース信号(またはオブジェクト信号)に関する情報をグラフィックユーザインタフェース(GUI:Graphic User Interface)を通じて提供できるミックス信号のインタフェース表示方法及び装置を提供することにある。
【0008】
本発明のさらに他の目的は、オーディオ信号、ビデオ信号などのミックス信号(または合成オブジェクト信号)が再生される間に、ミックス信号(または合成オブジェクト信号)と関連しているソース信号を表すイメージを時間別に様々に変化させて表現できるミックス信号のインタフェース表示方法及び装置を提供することにある。
【0009】
本発明のさらに他の目的は、ミックス信号に含まれたソース信号が別に存在しない場合に、該ソース信号と類似する信号を用いてソース信号別付加情報を生成する方法を提供することにある。
【0010】
本発明のさらに他の目的は、デコーディング装置でミックス信号を用いて該ミックス信号をリミックスするための付加情報を生成する方法及び装置を提供することにある。
【0011】
本発明のさらに他の目的は、ミックス信号に含まれた特定のソース信号をユーザが提供するソース信号に変える方法及び装置を提供することにある。
【0012】
本発明のさらに他の目的は、ユーザがソース信号を用いてミックス信号を変形できる信号処理方法及び装置を提供することにある。
【0013】
本発明のさらに他の目的は、ユーザがミックス信号をソース信号単位に制御できる信号処理方法及び装置を提供することにある。
【0014】
本発明のさらに他の目的は、ユーザがリミックス情報提供サーバーから所望のリミックス情報を受け取ることができる信号処理方法及び装置を提供することにある。
【0015】
本発明のさらに他の目的は、ユーザの生成したリミックス情報をリミックス情報提供サーバーにアップロードできる信号処理方法及び装置を提供することにある。
【0016】
本発明のさらに他の目的は、一部ソース信号が除外されたミックス信号を受け取ったり生成できる信号処理方法及び装置を提供することにある。
【課題を解決するための手段】
【0017】
上記目的を達成するために本発明による入力装置は、入力部;前記入力部を通じて受信した入力信号をソース別メニュー表示命令に変換した後、前記ソース別メニュー表示命令によって、ミックス信号に該当するソース情報に基づいてソース別メニュー表示画面が出力されるようにする制御部;及び、前記ソース別メニュー表示画面が出力されるディスプレイを含む入力装置とする。
【0018】
本発明によると、ポインティングデバイスをさらに含み、前記制御部は、前記ポインティングデバイスを通じて受信した入力信号をソース別レベル調整命令に変換することができる。
【0019】
本発明によると、方向移動キーをさらに含み、前記制御部は、前記方向移動キーを通じて受信した入力信号をソース別レベル調整命令に変換することができる。
【0020】
本発明の他の態様によると、入力部;前記入力部を通じて受信した入力信号をソース別メニュー表示命令に変換する制御部;及び、前記制御部により変換された命令を外部装置に伝送するための無線通信部を含む入力装置が提供される。
【0021】
本発明によると、前記無線通信部は、ソース別メニュー画面に関するデータを前記外部装置から受信するためのもので、前記ソース別メニュー画面が表示されるディスプレイをさらに含むことができる。
【0022】
本発明のさらに他の態様によると、入力部;及び、前記入力部を通じて受信した入力信号を音声ミュート命令に変換し、前記音声ミュート命令に基づいてミックス信号に関する制御情報を出力する制御部を含む入力装置が提供される。
【0023】
本発明のさらに他の態様によると、入力部;及び、前記入力部を通じて受信した入力信号を音声レベル調整命令に変換し、前記音声レベル調整命令に基づいてミックス信号に関する制御情報を出力する制御部を含む入力装置が提供される。
【0024】
本発明のさらに他の態様によると、入力部;及び、前記入力部を通じて受信した入力信号をアンビエンス画面表示命令に変換し、前記アンビエンス画面表示命令に応じて、ミックス信号に該当するソース情報に基づいてアンビエンス画面が出力されるようにする制御部;及び、前記アンビエンス画面が出力されるディスプレイを含む入力装置が提供される。
【0025】
本発明によると、ポインティングデバイスまたは方向移動キーをさらに含み、前記制御部は、前記ポインティングデバイスを通じて受信した入力信号をアンビエンス調整命令に変換し、前記アンビエンス調整命令に基づいてミックス信号に関する制御情報を出力することができる。
【0026】
本発明のさらに他の態様によると、入力部;前記入力部を通じて受信した入力信号をソース音ミュート命令に変換し、前記ソース音ミュート命令に基づいてミックス信号に関する制御情報を出力する制御部を含み、前記ソース音ミュート命令は、前記ミックス信号に含まれる特定ソース信号が再生されないようにするための命令である入力装置が提供される。
【0027】
本発明のさらに他の態様によると、ショートカットキー登録命令を受信する段階;複数のキーのうち一つのキー、複数のソースのうち一つのソース、一つ以上の機能のうち一つの機能が選択される段階;及び、前記選択されたキーに、前記選択されたソースに対して前記選択された機能をマッチングさせて保存する段階を含み、前記複数のソースは、オーディオ信号のソース、及びビデオ信号のソースのうち一つ以上を含み、前記一つ以上の機能は、音ミュート及びアンビエンス調整のうち一つ以上を含む入力方法が提供される。
【0028】
本発明によると、前記選択される段階は、複数の数字キーから一つの数字キーが選択される段階でありうる。
【0029】
本発明のさらに他の態様によると、複数のキーのうち一つのキー、複数のソースのうち一つのソース、及び一つ以上の機能のうち一つの機能を選択するための入力部;各キー別命令情報が保存される記憶部;及び、前記入力部により前記選択されたキーに、前記選択されたソースに対して前記選択された機能をマッチングさせて前記記憶部に保存する制御部を含み、前記複数のソースは、オーディオ信号の客体、及びビデオ信号の客体のうち一つ以上を含み、前記一つ以上の機能は、音ミュート及びアンビエンス調整のうち一つ以上を含む入力装置が提供される。
【0030】
本発明によるインタフェース表示方法は、ユーザにより特定ミックス信号が選択される段階;及び、前記ミックス信号に対応するソース信号情報を照会して、前記ソース信号のリストをディスプレイに表示する段階を含み、前記表示は、前記ミックス信号が選択されている間に維持され続く。
【0031】
本発明によると、前記ソース信号情報は、前記ミックス信号に対応する付加情報から抽出されることができる。
【0032】
本発明によると、前記ソース信号のリストは、前記ミックス信号に含まれているソース信号の楽器名、歌手名、及び登場人物名のうち一つ以上でありうる。
【0033】
本発明によると、ユーザにより前記ソース信号のリストから一つのソースが選択される段階;及び、前記選択されたソースに関するメタデータをさらに表示する段階をさらに含むことができる。
【0034】
本発明によると、前記メタデータは、前記ミックス信号に対応する付加情報から抽出されたもので、前記ソース信号の楽器演奏者名、製作日時のうち一つ以上を含むことができる。
【0035】
本発明によると、ユーザにより前記ソース信号のリストから一つのソースが選択される段階;及び、前記選択されたソースに対する音量レベル調整画面をさらに表示する段階をさらに含むことができる。
【0036】
本発明によると、ユーザにより前記ソース信号のリストから一つのソースが選択される段階;及び、前記選択されたソースに対するイコライザ調整画面をより表示する段階をさらに含むことができる。
【0037】
本発明によると、ユーザにより前記ソース信号のリストから一つのソースが選択される段階;及び、前記選択されたソースに対するアンビエンス調整画面をさらに表示する段階をさらに含むことができる。
【0038】
本発明のさらに他の態様によると、複数のミックス信号から一つを選択するための入力部;前記ミックス信号に対応するソース信号情報を照会して、前記ソース信号のリストを表示する制御部;及び、前記ソース信号のリストを表示するためのディスプレイを含み、前記表示は、前記ミックス信号が選択されている間に維持され続く、ミックス信号のインタフェース表示装置が提供される。
【0039】
本発明によると、第2ディスプレイをさらに含み、前記入力部は、前記ソース信号のリストから一つのソースを選択することができ、前記制御部は、前記選択されたソースに対するメタデータ、音量レベル調整画面、イコライザ調整画面、アンビエンス調整画面のうち一つ以上を、前記第2ディスプレイに表示することができる。
【0040】
本発明によると、前記ディスプレイは、複数の発光素子の点滅により前記ソース信号のリストを表示することができる。
【0041】
本発明によると、前記ディスプレイ及び前記第2ディスプレイは、一つのパネルで構成されることができる。
【0042】
本発明によるミックス信号のインタフェース表示方法は、ユーザにより特定ミックス信号が選択される段階;及び、前記ミックス信号に対応するソース信号情報を照会して、前記ソース信号情報に基づいて前記ソース信号に該当するアイコンを表示する段階を含む。
【0043】
本発明によると、前記ソース信号情報は、前記ミックス信号に対応する付加情報から抽出される。
【0044】
本発明によると、前記ミックス信号に対応するメタデータを抽出する段階を含み、前記アイコンは、前記メタデータとマッチングされるイメージでありうる。
【0045】
本発明によると、前記メタデータは、前記ミックス信号に対応する付加情報から抽出されるもので、前記ソース信号の楽器演奏者名、声楽家名のうち一つ以上を含むことができる。
【0046】
本発明によると、前記アイコンのうち一つに対する実行命令を受信すると、選択されたアイコンに該当するソース信号のレベル調整画面を表示する段階をさらに含むことができる。
【0047】
本発明によると、レベル調整に関する命令を受信すると、調整されたレベルに従って前記選択されたアイコンの形状を変化させる段階をさらに含み、前記アイコンの形状は、大きさ、色相、明るさのうち一つ以上を含むことができる。
【0048】
本発明によると、レベル調整に関する命令を受信すると、前記選択されたアイコンに該当するソース信号のレベルを調整して、前記ミックス信号をリミキシングする段階をさらに含むことができる。
【0049】
本発明によると、前記アイコンのうち一つが選択されると、選択されたアイコンに該当するソース信号のイコライザ画面を表示する段階をさらに含むことができる。
【0050】
本発明によると、サブバンド別レベル調整に関する命令を受信すると、調整されたサブバンド別レベルに従って前記選択されたアイコンの形状を部分的に変化させる段階をさらに含み、前記アイコンの形状は、大きさ、色相、明るさのうち一つ以上を含むことができる。
【0051】
本発明によると、サブバンド別レベル調整に関する命令を受信すると、前記選択されたアイコンに該当するソース信号のサブバンドレベルを調整し、前記ミックス信号をリミキシングする段階をさらに含むことができる。
【0052】
本発明によると、前記アイコンのうち一つが選択されると、選択されたアイコンに該当するソース信号のアンビエンス調整画面を表示する段階をさらに含み、前記アンビエンス調整画面は、ソース信号別の相対的位置が表示された画面でありうる。
【0053】
本発明によると、アンビエンス調整に関する命令を受信すると、調整されたアンビエンスによって前記選択されたアイコンの形状を変化させる段階をさらに含み、前記アイコンの形状は、大きさ、色相、明るさのうち一つ以上を含むことができる。
【0054】
本発明によると、アンビエンス調整命令に関する信号を受信すると、前記選択されたアイコンに該当するソース信号の相対的位置を調整し、前記ミックス信号をリミキシングする段階をさらに含み、前記相対的位置は、他のソース信号の位置及び仮想ユーザ位置によって決定されることができる。
【0055】
本発明のさらに他の態様によると、複数のミックス信号のうち一つを選択するための入力部;前記入力部により選択されたミックス信号に対応するソース信号情報を照会した後、前記ソース信号情報に基づいて前記ソース信号に該当するアイコンを表示する制御部;及び、前記ソース信号に該当するアイコンを表示するためのディスプレイ部を含む、ミックス信号のインタフェース表示装置が提供される。
【0056】
本発明によると、アイコン別イメージデータが保存されている記憶部をさらに含み、前記アイコンは、前記記憶部に保存されているイメージデータでありうる。
【0057】
本発明のさらに他の態様によると、ユーザからミックス信号に対する再生命令を受信する段階;及び、前記ミックス信号に対応するソース信号のレベルが時間別に変化するに従って前記ソース信号のイメージの形状を時間別に変化させて表示する段階を含み、前記イメージの形状は、大きさ、色相、明るさ、画面内位置のうち一つ以上を含む、ミックス信号のインタフェース表示方法が提供される。
【0058】
本発明によると、前記ソース信号のレベルは、前記ソース信号のサブバンド別レベルであり、前記表示する段階は、前記ソース信号のイメージの形状を部分的に変化させる段階でありうる。
【0059】
本発明によると、前記表示する段階は、特定時点におけるレベルが最も高いソース信号以外のソース信号のイメージの大きさが0である。
【0060】
本発明によると、前記イメージは、前記ミックス信号に対応するメタデータとマッチングすることができる。
【0061】
本発明のさらに他の態様によると、ミックス信号に対する再生命令を入力するための入力部;前記ミックス信号に対応するソース信号のレベルが時間別に変化するに従って前記ソース信号のイメージの形状を時間別に変化させて表示されるように制御する制御部;前記ソース信号に該当するイメージを表示するためのディスプレイ部を含み、前記イメージの形状は、大きさ、色相、明るさ、画面内位置のうち一つ以上を含む、ミックス信号のインタフェース表示装置が提供される。
【0062】
本発明は、通信網を通じてユーザ端末と結合するリミックス情報提供サーバーが、ユーザ端末からリミックス情報の要請を受ける段階;及び、前記要請されたリミックス情報を前記ユーザ端末に伝送する段階を含み、前記リミックス情報は、ミックス信号、前記ミックス信号に含まれているソース信号、前記ミックス信号を前記ソース信号別に制御するためのミックスパラメータ、前記ミックス信号をアップミックスするためのアップミックスパラメータ、前記ソース信号を表現するためのアイコンまたは顔文字のうち少なくとも一つを含むことを特徴とする信号処理方法を提供する。
【0063】
前記リミックス情報は、前記ミックス信号に含まれている前記ソース信号から一部のソース信号が除外された変形されたミックス信号を含む。
【0064】
前記ユーザ端末から前記変形されたミックス信号伝送の要請を受ける場合、前記方法は、前記ミックス信号から除外するソース信号が選択される段階と、前記選択されたソース信号が除外された変形されたミックス信号を生成する段階と、をさらに含み、前記伝送する段階は、前記変形されたミックス信号を前記ユーザ端末に伝送する。
【0065】
前記伝送する段階は、前記リミックス情報に対する決済が完了すると、前記リミックス情報を前記ユーザ端末に伝送する段階を含む。
【0066】
前記リミックス情報提供サーバーは、金融機関または移動通信事業者と通信網を通じて結合し、前記決済は、前記ユーザ端末にユーザ端末認証情報を要請する段階と、前記ユーザ端末から入力された前記認証情報を、前記金融機関または前記移動通信事業者に伝送して認証を要請する段階と、前記ユーザ端末認証が完了すると、前記金融機関または前記移動通信事業者に決済情報を伝送して決済を要請する段階と、を含む。
【0067】
本発明は、リミックス情報提供サーバーと通信網を通じて結合するユーザ端末で行なう信号処理方法であって、前記サーバーに接続してリミックス情報を要請する段階と、前記サーバーから要請された決済情報を前記サーバーに伝送する段階と、決済が完了すると、前記サーバーから前記リミックス情報を受信する段階と、を含み、前記リミックス情報は、ミックス信号、前記ミックス信号に含まれているソース信号、前記ミックス信号を前記ソース信号別に制御するためのミックスパラメータ、前記ミックス信号をアップミックスするためのアップミックスパラメータ、前記ソース信号を表現するためのアイコンまたは顔文字のうち少なくとも一つを含むことを特徴とする信号処理方法を提供する。
【0068】
本発明は、ユーザ端末と通信網を通じて結合するリミックス情報提供サーバーであって、前記ユーザ端末からリミックス情報が要請され、該要請されたリミックス情報を前記ユーザ端末に伝送する送受信部と、前記ユーザ端末の要請に応じて、前記要請されたリミックス情報を抽出するデータベース部と、前記リミックス情報使用が有料である場合、前記リミックス情報使用に対する決済を処理する決済処理部と、前記ユーザ端末が要請した前記リミックス情報を、前記ユーザ端末に伝送するようにする制御部と、を含み、前記リミックス情報は、ミックス信号、前記ミックス信号に含まれているソース信号、前記ミックス信号を前記ソース信号別に制御するためのミックスパラメータ、前記ミックス信号をアップミックスするためのアップミックスパラメータ、前記ソース信号を表現するためのアイコンまたは顔文字のうち少なくとも一つを含むことを特徴とするリミックス情報提供サーバーを提供する。
【0069】
本発明は、リミックス情報提供サーバーと通信網を通じて結合するユーザ端末であって、前記リミックス情報提供サーバーにリミックス情報を要請し、前記要請したリミックス情報を受信する通信部と、制御情報を受信するユーザインタフェースと、前記リミックス情報及び前記制御情報を用いて、ミックス信号に含まれているソース信号をリミックスするリミックスレンダリング部と、前記ユーザ端末の全般を制御して、前記ミックス信号に含まれている前記ソース信号をリミックスするようにする制御部と、を含み、前記リミックス情報は、ミックス信号、前記ミックス信号に含まれているソース信号、前記ミックス信号を前記ソース信号別に制御するためのミックスパラメータ、前記ミックス信号をアップミックスするためのアップミックスパラメータ、前記ソース信号を表現するためのアイコンまたは顔文字のうち少なくとも一つを含むことを特徴とするユーザ端末を提供する。
【0070】
これまでの一般的な説明及び以降の詳細な説明は、例示であり、特許請求の範囲を更に説明するためのものである。
【発明の効果】
【0071】
本発明の一態様によると、ビデオ信号及びオーディオ信号などのようなミックス信号に含まれているソース信号別に音量レベルを調整したりアンビエンス(相対的位置)を調整することができるため、ユーザはミックス信号を非常に容易くリミキシングすることができる。
【0072】
本発明の他の態様によると、ミックス信号に含まれているソースから、人の音声のみを音ミュートさせたり音声の音量レベルのみを調整することができるため、歌ファイルが再生される間に入力装置(リモートコントローラ)を用いてユーザは非常に簡単に歌手の音声のみをミュートさせ、伴奏音楽のみを聞くことができる。
【0073】
本発明のさらに他の態様によると、ユーザが頻繁にリミックスするソース(例:ピアノ)を特定キー(例:1番数字キー)などにショートカットキーとして登録しておいた後、ショートカットキーを用いてソース別にレベル調整やアンビエンスを調整する場合、ユーザは、自身の好みに合わせて設定しておいた入力装置(リモートコントローラ)を用いて非常に便利にリミキシングすることができる。
【0074】
本発明のさらに他の態様によると、ミックス信号(または合成オブジェクト信号)と関連しているソース信号(またはオブジェクト信号)に関する情報が画面に継続してディスプレイされているため、ユーザはミックス信号を再生したりリミキシングする間に、ミックス信号に含まれているソースがどんなものかを確認することができる。
【0075】
本発明のさらに他の態様によると、ミックス信号が再生されたりリミキシングされる間に、ユーザはミックス信号別にどんなソース(楽器別オーディオ信号等)が含まれているか常に確認することができるため、ソース別にレベルを調整したりアンビエンスを調整する前に、該当ミックス信号にどんなソースが含まれているか確認する手順を行なう必要がない。
【0076】
本発明のさらに他の態様によると、ミックス信号(または合成オブジェクト信号)と関連しているソース信号(またはオブジェクト信号)に関する情報が画面に継続してディスプレイされているため、ユーザはミックス信号を再生したりリミキシングする間にミックス信号に含まれているソースがどんなものかを確認することができる。
【0077】
本発明のさらに他の態様によると、ミックス信号が再生されたりリミキシングされる間に、ユーザはミックス信号別にどんなソース(楽器別オーディオ信号等)が含まれているか常に確認することができるため、ソース別にレベルを調整したりアンビエンスを調整する前に、該当のミックス信号に含まれたソースがどんなものか確認する手順を行なう必要がない。
【0078】
また、本発明による信号処理方法は、ユーザがリミックス情報をリミックス情報提供サーバーから受け取って利用することができる。
【0079】
また、本発明による信号処理方法及び装置は、ミックス信号から特定ソース信号が除外された、変形されたミックス信号を受け取って利用することができる。
【0080】
また、本発明による信号処理方法は、ユーザがリミックス情報を生成したり変形し、これをリミックス情報提供サーバーにアップロードすることができる。
【図面の簡単な説明】
【0081】
【図1】本発明の一実施例による第1リミックス信号エンコーディング装置のブロック図である。
【図2】ステレオ信号を用いる場合の図1の第1リミックス信号エンコーディング装置の詳細ブロック図である。
【図3】本発明の一実施例によるミックス信号を処理するためのドメインのグラフである。
【図4】本発明の一実施例による第2リミックス信号エンコーディング装置のブロック図である。
【図5】本発明の一実施例による第1リミックス信号デコーディング装置のブロック図である。
【図6】ステレオ信号を用いる場合の図5の第1リミックス信号デコーディング装置の詳細図である。
【図7】本発明の一実施例による第2リミックス信号デコーディング装置のブロック図である。
【図8】通常のエンコーディング装置及び本発明の一実施例によるリミックス信号エンコーディング装置との結合を示すブロック図である。
【図9】従来のデコーディング装置と結合して用いられる本発明の一実施例による第2リミックス信号デコーディング装置のブロック図である。
【図10】本発明の一実施例によるリミックス信号デコーディング装置の詳細ブロック図である。
【図11】本発明の一実施例による入力装置の構成図である。
【図12】本発明の一実施例による入力装置の具現例である。
【図13】第1入力部(ソースメニューキー)が入力された後に表示される画面の一例である。
【図14】第2入力部(音声ミュートキー)が入力された後に表示される画面の一例である。
【図15】第3入力部(音声調整キー)が入力された後に表示される画面の一例である。
【図16】第4入力部(アンビエンス調整キー)が入力された後に表示される画面の一例である。
【図17】第5入力部のうち第1ソースキー(ピアノキー)が入力された後に表示される画面の一例である。
【図18】第5入力部のうち第2ソースキー(バイオリンキー)が入力された後に表示される画面の一例である。
【図19】本発明の他の実施例による入力装置の構成図である。
【図20】本発明の一実施例による入力装置が関連し合っている第1リミックス信号デコーディング装置の構成を示す図である。
【図21】本発明の他の実施例による入力装置が関連し合っている第2リミックス信号デコーディング装置及び第2インタフェース装置の構成を示す図である。
【図22】本発明の実施例による入力方法のフローチャートである。
【図23】ショートカットキー登録命令が入力された後に表示される画面の一例である。
【図24】本発明の一実施例によるインタフェース表示装置の構成図である。
【図25A】本発明の一実施例によるインタフェース表示装置の具現例である。
【図25B】本発明の一実施例によるインタフェース表示装置の具現例である。
【図26】特定ソースが選択された場合の第1ディスプレイ及び第2ディスプレイに表示される画面の一例である。
【図27】特定ソースが選択された場合の第1ディスプレイ及び第2ディスプレイに表示される画面の他の例である。
【図28】特定ソースが選択された場合の第1ディスプレイ及び第2ディスプレイに表示される画面のさらに他の例である。
【図29】特定ソースが選択された場合の第1ディスプレイ及び第2ディスプレイに表示される画面のさらに他の例である。
【図30】本発明の他の実施例によるインタフェース表示装置の構成図である。
【図31】本発明の実施例によるインタフェース表示方法のフローチャートである。
【図32】本発明の一実施例によるインタフェース表示装置の構成図である。
【図33A】本発明の一実施例によるインタフェース表示装置の具現例である。
【図33B】本発明の一実施例によるインタフェース表示装置の具現例である。
【図33C】本発明の一実施例によるインタフェース表示装置の具現例である。
【図33D】本発明の一実施例によるインタフェース表示装置の具現例である。
【図34】本発明の他の実施例によるインタフェース表示装置の構成図である。
【図35A】本発明の一実施例によるインタフェース表示方法のフローチャートである。
【図35B】本発明の一実施例によるインタフェース表示方法のフローチャートである。
【図36A】特定ミックス信号のソース信号別アイコンが表示された画面の一例である。
【図36B】特定ミックス信号のソース信号別アイコンがメタデータを表現する画面の一例である。
【図37A】レベル調整画面の一例である。
【図37B】調整されたレベルに従ってアイコンの形状が変化された画面の一例である。
【図38】イコライザ画面(サブバンド別レベル調整画面)の一例である。
【図39】アンビエンス調整画面(相対的位置調整画面)の一例である。
【図40】本発明のさらに他の実施例によるインタフェース表示装置の構成図である。
【図41】本発明のさらに他の実施例によるインタフェース表示装置の構成図である。
【図42】本発明の他の実施例によるインタフェース表示方法のフローチャートである。
【図43】ソース信号のレベルに比例してイメージの大きさが変化する画面の一例である。
【図44】ソース信号のレベルに比例してイメージの明るさが変化する画面の一例である。
【図45】ソース信号のうち、現在最も大きいレベルを持つイメージのみが表示される画面の例である。
【図46】ソース信号のうち、現在最も大きいレベルを持つイメージのみが表示される画面の例である。
【図47】本発明の実施例によるリミックス情報提供システムを示す図である。
【図48】本発明の実施例によるリミックス情報提供サーバーの構成図である。
【図49】本発明の実施例によるリミックス情報提供サーバーのモジュール構成図である。
【図50】本発明の実施例によってリミックス情報提供サーバーがリミックス情報を提供する方法を示すフローチャートである。
【図51】本発明の実施例によってユーザ端末がリミックス情報を受信する方法を示すフローチャートである。
【図52】本発明の実施例によってユーザがリミックス情報をリミックス情報提供サーバーに伝送する方法を示すフローチャートである。
【発明を実施するための形態】
【0082】
以下、添付の図面を参照しつつ、本発明の好ましい実施例について詳細に説明する。
【0083】
特に、本明細書における‘入力部’または‘キー’という用語は、特定入力信号を入力するための手段として理解すべきであり、ボタンキー、タッチセンサーなどの入力方式に限定されない。
【0084】
特に、本発明におけるミックス信号は、オーディオ信号、ビデオ信号などを含むもので、本明細書の合成オブジェクト信号まで含む概念として理解しなければならない。
【0085】
本発明は、ミックス信号をソース(object)信号単位に処理できるアルゴリズムを提供する。ミックス信号をソース信号単位に処理する場合、非常に様々な効果を生成することができる。例えば、映画を見る際に俳優たちの音声に対する音量は一定に維持しながら、背景音楽の音量のみを上げることが可能である。本発明でいうソース信号は、ミックス信号を構成する一つ以上のソース(source)(例えば、ピアノ)を含む。ソース信号単位の処理とは、ミックス信号を処理するにあたり、ミックス信号を構成する特定のソース信号と関連している特性(例えば、ローカル化(localization)、ゲイン(gain))を“個別的に(individually)”修正できるということを意味する。この“個別的に”とは、特定のソースと関連している特性を修正することが、他のソース信号の特性に影響を及ぼさないか、知覚的に感じにくいような小さい影響のみを及ぼすことを意味する。説明の便宜上、以下ではステレオ信号を例に上げて記述するが、本発明はステレオ信号に限定されない。本発明では、通常のミックス信号のフォーマット(例えば、PCM、MP3、MPEG−AAC)の他に、少ない量の付加情報(side information)が伝送される。これらミックス信号及び付加情報を用いてリミックス信号を生成することができる。
【0086】
図1は、本発明の一実施例による第1リミックス信号エンコーダのブロック図である。この第1リミックス信号エンコーダは、付加情報生成部103及び付加情報エンコーディング部105を含む。
【0087】
図1を参照すると、付加情報生成部103は、通常のミックス信号101及び該ミックス信号を構成するソース信号102を用いて付加情報104を生成する。ミックス信号101は、モノ(mono)、ステレオ(stereo)及びマルチチャネルオーディオ信号(multi-channel audio signal)になることができる。ソース信号102は、ミックス信号101を構成するソース信号の一部または全部になることができる。付加情報104とは、ミックス信号をソース信号単位に処理するのに用いられる情報のことをいう。付加情報104は、ミックス信号をリミキシングするためのミックスパラメータを含む。このミックスパラメータは、エンコーダでソース信号を用いて生成されたエンコーダミックスパラメータ(Encoder mix parameter)を含み、選択的にミックス信号のみを用いて生成されたブラインドミックスパラメータ(Blind mix parameter)を含むことができる。これらミックスパラメータの例には、それぞれのソース信号に対するゲイン値及びサブバンドパワー(subband power)などがある。付加情報104についての具体的な定義及び生成方法は、図2で記述される。本発明は、また、ミックス信号を構成するソース信号102のみを用いて付加情報104を生成する方法を含む。付加情報エンコーディング部105は、生成された付加情報104をエンコーディングし、符号化された付加情報信号106を生成する。ミックス信号101及び付加情報信号106はデコーディング装置に伝送される。
【0088】
図2は、ミックス信号がステレオ信号である場合、図1の第1リミックス信号エンコーディング装置の詳細ブロック図である。前述したように、本発明で用いられるミックス信号は、モノ、ステレオ及びマルチチャネルオーディオ信号になりうるが、便宜上、ステレオ信号201を基準にして説明する。
【0089】
【数1】
【0090】
【数2】
【0091】
【数3】
【0092】
本発明の目的は、M個(0≦M≦I)のソース信号がリミックスされるように、これらのソース信号を含むステレオ信号を修正することにある。これらのソース信号を、それぞれ異なるゲインファクタを有しながらステレオ信号にリミックスすることができる。リミックス信号は、下の数学式2のように表現されることができる。
【0093】
【数4】
【0094】
ここで、Ci及びdiは、リミックスされるM個のソース信号に対する新しいゲインファクタである。これらCi及びdiを、デコーダ端で提供することができる。この場合に、付加情報生成部206は、ステレオ信号201及びM個のソース信号202を用いて付加情報207を生成することができる。
【0095】
上述のように、本発明の目的は、通常のステレオ信号と若干の付加情報が与えられる場合に、該ステレオ信号をソース信号単位にリミックスすることにある。本発明のように、非常に少ない量の付加情報を用いて、式1で表現されるミックス信号から数学式2で表現されるリミックス信号を完壁に生成することができない。
【数5】
【0096】
図2を参照すると、第1リミックス信号エンコーディング装置に通常のステレオ信号201及びステレオ信号201に含まれるM個のソース信号202が入力される。ステレオ信号201は、付加情報と同期化するためにある程度ディレーされ、出力信号として直接用いることができる。付加情報を生成するために、ステレオ信号201及びソース信号202は、フィルタバンク203を通して時間−周波数ドメインのサブバンド別信号204及び205に分解される。すなわち、ステレオ信号201及びソース信号は、時間−周波数ドメインで処理される。この時間−周波数ドメインについては後述する。サブバンド別信号204は、各サブバンドの中心周波数で類似にプロセシングされる。特定の周波数でステレオ信号201のサブバンド対204はx1(k)及びx2(k)で表示される。ここで、kは、サブバンド信号の時間インデックス(time index)である。同様に、M個のソース信号202のサブバンド信号205は、S1(k)、S2(k)、…、SM(k)で表示される。明瞭な表現のために、サブバンド(周波数)インデックスを使用しなかった。
【0097】
【数6】
また、付加情報生成部206は、ステレオ信号201のサブバンド対204を用いて、サブバンド別にゲインファクタai及びbiを生成する。ゲインファクタ ai及びbiは外部から直接与えられることができる。サブバンド別ショート−タイムサブバンドパワー及びゲインファクタを用いてサブバンド別付加情報207が生成される。付加情報生成部206は、ショート−タイムサブバンドパワー及びゲインファクタの他に、ステレオ信号に関連している他の情報を付加情報207として生成することができる。付加情報エンコーディング部208は、サブバンド別付加情報207を用いて、符号化された付加情報信号209を生成する。
【0098】
複数のステレオ信号201に対して、ゲインファクタai及びbiは固定でありうる。、ai及びbiが時間kによって可変であるとすれば、これらゲインファクタは、時間の関数として生成される。これらゲインファクタを直接量子化及び符号化する代わりに、より量子化及び符号化に適合する他の値に変換することができる。
【数7】
【0099】
【数8】
【0100】
【数9】
【0101】
【数10】
【0102】
【数11】
【0103】
【数12】
【0104】
【数13】
【0105】
【数14】
【0106】
ここで、fsは、サブバンドサンプリング周波数を表す。例えば、T=40msを用いることができる。
【数15】
【0107】
【数16】
【0108】
同様に、biは、下の数学式8のように計算される。
【0109】
【数17】
【0110】
図3は、本発明の一実施例によるオーディオ信号を処理するためのドメインを示す。前述したように、オーディオ信号及び付加情報は、図3に示すように、時間−周波数ドメインのサブバンド別信号として処理される。この時間−周波数ドメインのサブバンド別信号は知覚的に誘導される。例えば、約20msの長さを有するサイン波分析窓及び統合窓(sine analysis and synthesis window)を持つSTFT(Short Time Fourier transform)を用いてサブバンド別信号を生成することができる。この時、STFT係数は、一つのグループがERB(equivalent rectangular bandwidth)の約2倍になる帯域幅を有するようにグループ化されることができる。
【0111】
図4は、本発明の一実施例による第2リミックス信号エンコーディング装置のブロック図である。
【0112】
図4を参照すると、ダウンミキシング部406は、複数のソース信号401を合算して一つの和信号(sum signal)を生成する。第2リミックス信号エンコーディング装置は、第1リミックス信号エンコーディング装置とは違い、ステレオ信号を伝送する代わりに和信号404を伝送する。付加情報生成部403は、ソース信号401を用いて付加情報405を生成する。付加情報405は、各ソース信号に対応するサブバンドパワー及びゲインファクタを含む。また、付加情報405は、リミックスレンダリング部におけるディレーに対応するパラメータを含むことができる。第1リミックス信号エンコーディング装置と類似に、付加情報405は、より量子化及び符号化に適合した他の値に変換されて伝送されることができる。付加情報エンコーディング部は、生成された付加情報405を用いて、符号化された付加情報信号407を生成する。生成された和信号404及び付加情報信号407は、デコーディング装置に伝送される。本発明は、また、ダウンミキシング部402を有しないエンコーディング装置を含む。この場合に、ソース信号401は、和信号404に変換されず、各ソース信号401が直接伝送される。
【0113】
図5は、本発明の一実施例による第1リミックス信号デコーディング装置のブロック図である。この第1リミックス信号デコーディング装置は、付加情報デコーディング部503及びリミックスレンダリング部505を含む。
【0114】
図5を参照すると、ミックス信号501及び付加情報信号502が第1リミックス信号デコーディング装置に入力される。このミックス信号501は、モノ、ステレオまたはマルチチャネルオーディオ信号になることができる。付加情報デコーディング部503は、付加情報信号502をデコーディングして付加情報504を生成する。付加情報504は、伝送されたオーディオ信号501に含まれたソース信号のゲインファクタ及びサブバンドパワーなどを含む。リミックスレンダリング部505には、ユーザが直接提供する制御情報を用いて生成されたユーザミックスパラメータ(user−mix parameter)506を入力することができる。リミックスレンダリング部505は、ミックス信号501、伝送された付加情報504及びユーザミックスパラメータ506を用いてリミックス信号507を生成する。このリミックス信号を生成する方法に関する具体的な説明は、図6で後述する。リミックス信号507を、伝送されたミックス信号のチャネル数と同じチャネル数を持つEq−チャネルミックス信号(Eq−channel mix signal)として生成し、または、ミックス信号のチャネル数よりも多いチャネル数を持つアップチャネルミックス信号(Up−channel mix signal)として生成することができる。
【0115】
図6は、ステレオ信号を用いる場合における、図5の第1リミックス信号デコーディング装置の詳細図である。前述したように、伝送されたミックス信号は、モノ、ステレオ及びマルチチャネルオーディオ信号になることができ、便宜上、以下ではステレオ信号601を基準にして説明する。
【0116】
図6を参照すると、ステレオ信号601は、フィルタバンク603を通して時間−周波数ドメインのサブバンド別信号604に分解される。図6に示すように、特定の周波数におけるサブバンド別信号604は、x1(k)及びx2(k)で表現される。付加情報デコーディング部605は、伝送された付加情報信号602を復号化し、サブバンド別付加情報606を生成する。また、リミックスレンダリング部607に、ユーザが提供する制御情報を用いて生成されたユーザミックスパラメータ608を入力することができる。このユーザミックスパラメータ608を、サブバンド別に提供することができる。
【数18】
【数19】
【0117】
リミックスレンダリング部607で生成されたリミックス信号609を生成する方法は、次の通りである。
【数20】
【0118】
【数21】
【0119】
サブバンド別リミックス信号609は、下の式10のように表現することができる。
【0120】
【数22】
【0121】
リミックス信号609を生成するために、最小二乗推定法(least squares estimation)を用いることができる。サブバンド別ミックス信号604 x1(k)及びx2(k)が与えられると、下の式11のように互いに異なるゲインを持つサブバンド別リミックス信号609を、サブバンド別ミックス信号604の線形組合せとして推定することができる。
【0122】
【数23】
【0123】
ここで、w11(k)、w12(k)、w21(k)及びw22(k)は、重み係数(weighting factors)である。この時、生成される推定誤差(estimation error)を、下の式12のように定義することができる。
【0124】
【数24】
【0125】
【数25】
【0126】
【数26】
【0127】
【数27】
【0128】
【数28】
【0129】
同様に、w21及びw22を、下の式15のように生成することができる。
【0130】
【数29】
【0131】
【数30】
【0132】
【数31】
【0133】
ミックス信号604の位相が互いに同期されたり(coherent)、または、ほとんど同期化されると、下の式17のように表現される値が1に近づくようになる。
【0134】
【数32】
【0135】
この時、上記重み値を、下の式18のように表現することができる。
【0136】
【数33】
【0137】
このように生成されたサブバンド別リミックス信号609は、前述したように、逆フィルタバンク610を通じて時間−ドメインのリミックス信号611に変換される。リミックス信号611は、ユーザが提供した制御情報を用いて生成されたユーザミックスパラメータci及びdiを用いてそれぞれのソース信号を独立的にリミックスして生成されたリミックス信号のように聞こえる。
【0138】
以上では2チャネルステレオ信号のリミキシングを中心に説明した。しかし、前述したように、本発明は、ステレオ信号に制限されず、マルチチャネルオーディオ信号、例えば、5.1チャネルオーディオ信号のリミキシングまで拡大することができる。当業者は、本明細書で記述されたステレオ信号と同様に、マルチチャネルオーディオ信号をリミキシングすることができる。この場合に、式11は、下の式19のように示されることができる。
【0139】
【数34】
【0140】
選択的に、ミックス信号のチャネルのうち特定のチャネルはリミックスせずに残すことができる。例えば、5.1サラウンドチャネルに対して、2個の後側チャネルは修正せずに前側チャネルにのみリミキシングを適用させることができる。この場合に、2または3チャネルリミキシングアルゴリズムが前側チャネルに適用される。
【0141】
図7は、本発明の一実施例による第2リミックス信号デコーディング装置のブロック図である。この第2リミックス信号デコーディング装置は、付加情報デコーディング部703、空間情報統合部705及びリミックスレンダリング部707を含む。
【0142】
図7を参照すると、ソース信号の和信号701及び付加情報信号702が第2リミックス信号デコーディング装置に入力される。付加情報デコーディング部703は、付加情報信号702をデコーディングし、付加情報704を生成する。付加情報704は、ゲインファクタ、ディレー定数及びサブバンドパワーなどを含む。付加情報統合部705は、付加情報704を用いて、和信号701を複数のソース信号706に分離する。リミックスレンダリング部707は、ソース信号706を用いてリミックス信号709を生成することができる。この時、リミックスレンダリング部707は、付加情報として伝送されたミックスパラメータを用いてリミックス信号709を生成することができる。また、リミックスレンダリング部707は、選択的に、ユーザが提供する制御情報を用いて生成されたユーザミックスパラメータ708を用いてリミックス信号709を生成することができる。
【0143】
図8は、通常のエンコーディング装置及び本発明の一実施例によるリミックス信号エンコーディング装置との結合を示すブロック図である。ミックス信号801を、通常のエンコーディング装置803により符号化し、符号化されたミックス信号805に変換することができる。ミックス信号801は、チャネル別信号またはソース信号になることができる。通常のエンコーディング装置803は、AAC、MP3エンコーダなどのような従来のエンコーディング装置だけでなく、今後開発されるエンコーディング装置を含む。本発明によるリミックス信号エンコーディング装置804は、ミックス信号801及び該ミックス信号に含まれるソース信号802を用いて付加情報信号806を生成する。多重化部807は、符号化されたミックス信号805及び付加情報信号806を用いてビットストリーム808を生成する。前述したように、付加情報信号806は従来装置と互換性を持つように、従来ミックス信号フォーマット内の補助データ領域に挿入されることができる。
【0144】
図9は、通常のデコーディング装置及び本発明の一実施例による信号処理装置との結合を示すブロック図である。逆多重化部902は、伝送されたビットストリーム901から、符号化されたミックス信号903及び付加情報信号904を分離する。その後、通常のデコーディング装置905は、符号化されたミックス信号903をデコーディングし、本発明によるリミックス信号デコーディング装置907で用いられうるようなミックス信号906を生成する。通常のデコーディング装置905は、AAC、MP3デコーダなどのような従来のエンコーディング装置の他に、今後開発されるエンコーディング装置を含む。ミックス信号906は、チャネル別信号またはソース信号になることができる。本発明によるリミックス信号デコーディング装置907は、付加情報信号904及びユーザミックスパラメータ909のうち少なくとも一つを用いて、ミックス信号906をリミックス信号908に変換することができる。
【0145】
図10は、本発明の一実施例による第5信号処理装置のブロック図である。図10を参照すると、第5信号処理装置は、ミックス信号デコーディング部1001、パラメータ生成部1002、及びリミックスレンダリング部1008を含む。選択的に、エフェクタ(Effecter)1011を含むことができる。パラメータ生成部1002は、ブラインドミックスパラメータ生成部1003、ユーザミックスパラメータ生成部1004、及びリミックスパラメータ生成部1005を含むことができる。リミックスパラメータ生成部1005は、eq−ミックスパラメータ生成部1006を含み、選択的にアップミックスパラメータ生成部1007を含むことができる。また、リミックスレンダリング部1008はeq−ミックスレンダリング部1009を含み、選択的に、アップミックスレンダリング部1010を含むことができる。
【0146】
ミックス信号デコーディング部1001は、エンコーディング端から伝送された符号化されたミックス信号をデコーディングしてミックス信号を生成する。パラメータ生成部1002は、エンコーディング端から伝送された付加情報及びユーザ制御情報、または、構成情報を受信する。ユーザ制御情報を、エンコーダ端から伝送する代わりに、デコーダ端で生成することができる。ユーザミックスパラメータ生成部1004は、ユーザ制御情報を用いてユーザミックスパラメータを生成する。エンコーダ端から伝送された付加情報には、エンコーダミックスパラメータ(Encoder Mix Parameter)を含めることができる。また、ブラインドミックスパラメータ生成部1003は、ミックス信号を用いてブラインドミックスパラメータ(Blind−Mix Parameter)を生成することができる。エンコーダミックスパラメータとブラインドミックスパラメータは択一的にリミックスパラメータ生成部1005に入力される。
【0147】
リミックスパラメータ生成部1005は、付加情報及びユーザミックスパラメータを用いてリミックスパラメータを生成する。このリミックスパラメータを、リミックス信号のチャネルに適用可能なように生成することができる。リミックスパラメータ生成部1005に含まれるeq−ミックスパラメータ生成部1006は、ミックス信号のチャネル数と同じチャネル数を持つリミックス信号を生成するのに用いられるリミックスパラメータを生成し、リミックスパラメータ生成部1005に含むことができるアップミックスパラメータ生成部1007は、ミックス信号のチャネル数よりも多いチャネル数を持つリミックス信号を生成するのに用いられるリミックスパラメータを生成する。これらのリミックスパラメータは、リミックスレンダリング部1008に入力される。
【0148】
リミックスレンダリング部1008に含まれるeq−ミックスレンダリング部1009は、リミックスパラメータ及びミックス信号を用いて、ミックス信号のチャネル数と同じチャネル数を持つeq−チャネルリミックス信号(Eq−channel remix signal)を生成する。リミックスレンダリング部1008に含むことができるアップミックスレンダリング部1010は、アップミックスパラメータ生成部1007で生成されたリミックスパラメータ及びミックス信号を用いて、ミックス信号のチャネル数よりも多いチャネル数を持つアップチャネルリミックス信号(Up−channel remix signal)を生成する。アップミックスレンダリング部1010は、eq−チャネルレンダリング部1009で生成されたリミックス信号を用いてアップチャネルリミックス信号を生成することができる。
【0149】
したがって、第5信号処理装置は、エンコーディング端から伝送したミックス信号をそのまま出力したり、eq−チャネルリミックス信号として出力したり、または、アップチャネルリミックス信号として出力することができる。選択的に、リミックスレンダリング部は、エフェクタ1011から提供される情報を用いて、リミックス信号に様々な効果を与えることができる。
【0150】
図11は、本発明の一実施例による入力装置の構成を示す図であり、図12は、本発明の一実施例による入力装置の具現例を示す図である。図11及び図12を参照すると、本発明の一実施例による入力装置1000(以下、‘入力装置1000’と略す)は、第1リミックス信号デコーディング装置500と関連し合っており、第1入力部1110(ソースメニューキー)、第2入力部1120(音声ミュートキー)、第3入力部1130(音声調整キー)、第4入力部1140(アンビエンス調整キー)、第5入力部1150(第1ソースキー1150a(ピアノキー)、第2ソースキー1150b(バイオリンキー)、方向移動キー1160a、ポインティングデバイス1160b、数字キー1170、記憶部1200、制御部1300及びディスプレイ1400を含む。
【0151】
まず、第1リミックス信号デコーディング装置500は、図5で説明された第1リミックス信号デコーディング装置とその構成が同一なので、その構成要素についての具体的な説明は省略する。以下では、入力装置1000の各構成要素について具体的に説明する。
【0152】
第1入力部1110(ソースメニューキー)は、その入力信号を制御部1300によりソース別メニュー表示命令に変換する入力装置である。ソース別メニューとは、特定ミックス信号に含まれているソースのリストが表示される画面であって、ソース別メニューが表示された状態でソース別に音量レベルなどを調整することができる。第1入力部(ソースメニューキー)が入力された後に表示される画面(ソース別メニュー表示画面)の一例を、図13に示す。ここでソース別メニュー表示画面を、第1インタフェース装置550のディスプレイ1400に表示することができる。第1入力部1110(ソースメニューキー)を、押される回数によって命令実行及び取消が反復されるトグル方式のボタンキーやタッチセンサーで具現することができるが、本発明はこれに限定されない。
【0153】
第2入力部1120(音声ミュートキー)は、その入力信号が制御部1300によって音声ミュート命令に変換される入力装置である。音声ミュート命令とは、特定ミックス信号に含まれているソースにおいて人の音声(voice)のレベルが0となるようにするための命令である。第2入力部(音声ミュートキー)が入力された後に表示される画面の一例を、図14に示す。第2入力部1120(音声ミュートキー)も同様に、押される回数によって命令実行及び取消が反復されるトグル方式のボタンキーやタッチセンサーで具現することができるが、本発明はこれに限定されない。
【0154】
第3入力部1130(音声調整キー)は、その入力信号が制御部1300により音声レベル調整命令に変換される入力装置である。音声レベル調整命令とは、特定ミックス信号に含まれているソースのうち、人の音声(voice)のレベルのみを上げたり下げたりするようにするための命令である。第3入力部(音声調整キー)が入力された後に表示される画面の一例を、図15に示す。第2入力部1120(音声ミュートキー)も、レベル上昇命令及びレベル下降命令を入力するためのものであり、2個のボタンキー、ジョグシャトル、2方向のジョグボタン、2方向のタッチスクロール、2個のタッチセンサー、タッチホイールなどで具現することができるが、本発明はこれに限定されない。
【0155】
第4入力部1140(アンビエンス調整キー)は、その入力信号が制御部1300によりアンビエンス画面表示命令に変換される入力装置である。アンビエンス画面とは、特定ミックス信号に含まれているソースの相対的位置が表示され、方向移動キー1160aやポインティングデバイス1160bを用いてソースそれぞれの位置を変更できる画面である。第4入力部(アンビエンス調整キー)が入力された後に表示される画面(アンビエンス画面)の一例を、図16に示す。第4入力部1140(音声ミュートキー)も同様に、押される回数によって命令実行及び取消が反復されるトグル方式のボタンキーやタッチセンサーで具現することができるが、本発明はこれに限定されない。
【0156】
第5入力部1150は、その入力信号が制御部1300によりソース音ミュート命令に変換される入力装置である。ソース音ミュート命令は、特定楽器に該当するソース信号が再生されないようにするための命令である。第5入力部1150は、例えば、‘ピアノ’に該当するソース信号のレベルを略0にするための第1ソースキー1150a(ピアノキー)であっても良く、‘バイオリン’に該当するソース信号のレベルを略0にするための第2ソースキー1150b(バイオリンキー)であっても良い。第5入力部のうち、第1ソースキー(ピアノキー)が入力された後に表示される画面の一例を、図17に示し、第5入力部のうち、第2ソースキー(バイオリンキー)が入力された後に表示される画面の一例を、図18に示す。第5入力部1150の第1ソースキー、第2ソースキーもそれぞれ、押される回数によって命令実行及び取消が反復されるトグル方式のボタンキーやタッチセンサーで具現することができるが、本発明はこれに限定されない。
【0157】
方向移動キー1160aは、その入力信号が制御部1300により方向移動に関する命令に変換される入力装置である。方向移動に関する命令は、ソース別メニュー画面が表示された状態では特定ソースレベル調整命令になることができ、アンビエンス画面が表示された状態では特定ソースの位置調整命令になることができる。方向移動キー1160aは、4個のボタンキー、4個のタッチセンサー、4方向のタッチスクロール、タッチホイール等で具現することができるが、本発明はこれに限定されない。
【0158】
ポインティングデバイス1160bは、その入力信号が制御部1300により位置指定に関する命令に変換される入力装置である。位置指定に関する命令は、方向移動キー1160aと同様に、ソース別メニュー画面が表示された状態では特定ソースレベル調整命令になることができ、アンビエンス画面が表示された状態では特定ソースの位置調整命令になることができる。ポインティングデバイス1160bは、マウス、トラックボール、タッチパッド、タッチスクリーン、タッチパネル(及びスタイラスペン)などで具現することができるが、本発明はこれに限定されない。
【0159】
数字キー1170は、その入力信号が制御部1300により数字入力に関する命令に変換される入力装置である。数字入力に関する命令は、ソース別メニュー画面やアンビエンス画面が表示された状態では、その数字とマッチングされる特定ソースを選択するための命令になることができる。例えば、ソース別メニュー画面に“1.音声、2.ピアノ、3.バイオリン、4.フルート”と表示されている場合、ユーザが数字キー1170のうち、“3番キー”を選択すると、3番とマッチングされる‘バイオリン’が選択される。数字キー1170は、10個のボタンキー、10個のタッチセンサー、タッチパネルなどで具現することができるが、本発明はこれに限定されない。
【0160】
記憶部1200には、各キー別命令情報が保存されている。各キー別命令情報とは、各入力部(第1入力部1110、第2入力部1120等)(数字キー1170を含む)とそれに該当する命令(ソース別メニュー表示命令、音声ミュート命令等)を意味する。一方、ユーザによるショートカットキー登録過程を通じて各キー別命令情報を新しく保存したり変更することができ、このショートカットキー登録過程についての具体的な説明は、図22を参照して後述する。一方、記憶部1200には、ソース別メニュー画面、音声ミュート画面、音声調整画面、アンビエンス調整画面などに関するデータがさらに保存されている。
【0161】
制御部1300は、入力部(1110,1120,1130,1140,1150等)から受信した入力信号を、記憶部1200に保存されている各キー別命令情報に基づいて、各命令に変換する。具体的には、第1入力部1110を通じて受信した入力信号を、ソース別メニュー表示命令に変換し、第2入力部1120を通じて受信した入力信号を、音声ミュート命令に変換した後に、音声ミュート命令に基づいてミックス信号に関する制御情報506を出力し、第3入力部1130を通じて受信した入力信号を、音声レベル調整命令に変換し、第4入力部1140を通じて受信した入力信号を、アンビエンス画面表示命令に変換し、第5入力部1150を通じて受信した入力信号を、ソース音ミュート命令に変換する。
【0162】
また、制御部1300は、入力部(1110,1140等)の入力によって第1リミックス信号デコーディング装置500から受信したソース情報siに基づいてインタフェース画面が表示されるようにする。例えば、第1入力部1110を通じてソース別メニュー表示命令が入力された場合、ソース情報siに基づいてディスプレイ1400にソース別メニューを表示し、第4入力部1140を通じてアンビエンス画面表示命令が入力された場合、ミックス信号に該当するソース信号情報siに基づいてアンビエンス画面が表示されるようにする。
【0163】
また、制御部1300は、入力部(1120,1130,1140等)を通じた命令に基づいて、ミックス信号に関する制御情報506を出力し、第1リミックス信号デコーディング装置500に入力されるようにする。ここで、制御情報506は、図5と共に既に説明したので、その具体的な説明は省略する。具体的に、また、制御部1300は、ソース別メニュー画面がディスプレイに表示された状態である場合、ポインティングデバイス1160bまたは方向移動キー1160aを通じて受信した入力信号を、ソース別レベル調整命令に変換し、アンビエンス画面がディスプレイに表示された状態である場合、ポインティングデバイス1160bまたは方向移動キー1160aを通じて受信した入力信号を、アンビエンス調整命令に変換する。制御部1300がこれらの入力信号を該当の命令に変換する過程で、記憶部1200に保存された各キー別命令情報を参照することができる。このように変換された命令(ソース別レベル調整命令、アンビエンス調整命令等)に基づいてミックス信号に関する制御情報506を出力することができる。
【0164】
ディスプレイ1400は、制御部1300の制御によってソース別メニュー画面またはアンビエンス画面などがディスプレイされる表示装置である。さらに、各入力部(第1入力部1110等)が入力された後に表示される画面(図14、図15、図17、図18等)を表示することもできる。
【0165】
図19は、本発明の他の実施例による入力装置の構成を示す図である。図19を参照すると、本発明の他の実施例の入力装置2000(以下、入力装置2000と略す)は、第1リミックス信号デコーディング装置500及び第1インタフェース装置550と関連し合っており、第1入力部2110(ソースメニューキー)、第2入力部2120(音声ミュートキー)、第3入力部2130(音声調整キー)、第4入力部2140(アンビエンス調整キー)、第5入力部2150(第1ソースキー2150a(ピアノキー)、第2ソースキー2150b(バイオリンキー)、方向移動キー2160a、ポインティングデバイス2160b、数字キー2170、記憶部2200、制御部2300、ディスプレイ2400、無線通信部2500を含む。このうち、制御部2300及び無線通信部2500以外の構成要素は、上の図11及び図12と共に説明された本発明の一実施例の構成要素のうち同一名称の構成要素と略同一なので、その説明は省略する。
【0166】
また、第1リミックス信号デコーディング装置500は、図5と共に説明された第1リミックス信号デコーディング装置とその構成が同一なので、その構成要素についての具体的な説明は省略する。
【0167】
一方、第1インタフェース装置550は、第1リミックス信号デコーディング装置500から入力装置2000にインタフェースを提供する装置であり、無線通信部552、記憶部554、インタフェース制御部556、ディスプレイ部558を含む。
【0168】
第1インタフェース装置550の無線通信部552は、入力装置2000と無線通信をするための装置であり、ここでの無線通信方式は、赤外線通信方式に限定されない。記憶部554には、ソース別メニュー画面、音声ミュート画面、音声調整画面、アンビエンス調整画面などに関するデータが保存されている。インタフェース制御部556は、第1リミックス信号デコーディング装置500から受信したソース情報siに基づいてインタフェース画面を表示し、入力装置2000から受信した命令に基づいて第1リミックス信号デコーディング装置500に制御情報506を入力する。ここで、制御情報506は、上の図5と共に説明したので、その具体的な説明は省略する。ディスプレイ558は、インタフェース制御部556の制御によってインタフェース画面が表示される表示装置である。入力装置2000にディスプレイ2400が備えられる場合、第1インタフェース装置550のディスプレイ558は省かれても良い。
【0169】
以下では、入力装置2000の各構成要素のうち、制御部2300及び無線通信部2500について説明する。
【0170】
制御部2300は、第1入力部2110を通じて受信した入力信号を、ソース別メニュー表示命令に変換し、第2入力部2120を通じて受信した入力信号を、音声ミュート命令に変換し、第3入力部2130を通じて受信した入力信号を、音声レベル調整命令に変換し、第4入力部2140を通じて受信した入力信号を、アンビエンス画面表示命令に変換し、第5入力部2150を通じて受信した入力信号を、ソース音ミュート命令に変換する。また、制御部2300は、ソース別メニュー画面がディスプレイに表示された状態である場合、ポインティングデバイス2160bまたは方向移動キー2160aを通じて受信した入力信号を、ソース別レベル調整命令に変換し、アンビエンス画面がディスプレイに表示された状態である場合、ポインティングデバイス2160bまたは方向移動キー2160aを通じて受信した入力信号を、アンビエンス調整命令に変換する。制御部2300がこれらの入力信号を該当の命令に変換する過程で、記憶部2200に保存された各キー別命令情報を参照することができる。
【0171】
無線通信部2500は、制御部2300により変換された命令を外部装置、特に、第1インタフェース装置550に伝送する。また、第1インタフェース装置550がソース別メニュー画面に関するデータまたはアンビエンス画面に関するデータを伝送する場合、無線通信部2500はこれを受信する。
【0172】
図20は、本発明の一実施例による入力装置と関連し合う第2リミックス信号デコーディング装置及び第2インタフェース装置の構成を示す図である。図20を参照すると、入力装置1000が 第2リミックス信号デコーディング装置700と関連し合っている。 第2リミックス信号デコーディング装置700は、上の 図7と共に説明されたので、その具体的な説明は省略する。第2インタフェース装置750は、第1リミックス信号デコーディング装置500ではなく第2リミックス信号デコーディング装置700からソース情報siを受信し、第2リミックス信号デコーディング装置700に制御情報708を入力する以外は、その構成要素752,754,756,758が、第1インタフェース装置550における同一名称の構成要素552,554,556,558とそれぞれ略同一なので、その説明は省略する。
【0173】
図21は、本発明の他の実施例による入力装置が関連し合う第2リミックス信号デコーディング装置及び第2インタフェース装置の構成を示す図である。図21を参照すると、入力装置2000が第2リミックス信号デコーディング装置700及び第2インタフェース装置750と関連し合っている。第2リミックス信号デコーディング装置700は、上の図7と共に詳述したので、その具体的な説明は省略する。第2インタフェース装置750は、第1リミックス信号デコーディング装置500ではなく第2リミックス信号デコーディング装置700からソース情報siを受信し、第2リミックス信号デコーディング装置700に制御情報708を入力する以外は、その構成要素752,754,756,758が第1インタフェース装置550における同一名称の構成要素552,554,556,558とそれぞれ略同一なので、その説明は省略する。
【0174】
図22は、本発明の実施例による入力方法を示すフローチャートである。図22を参照すると、ユーザがショートカットキー登録を選択すると、入力装置は、ショートカットキー登録命令を受信する(S110段階)。ショートカットキー登録命令が入力された後に表示される画面の一例が、図23に示されている。その後、ユーザが入力装置に備えられた複数のキー(例:数字キー)の中からショートカットキーとして使用するキー(例:1番キー)を選択する(S120段階)。入力装置は、ミックス信号に用いられうるソースのリストを表示する(S130段階)。例えば、ミックス信号に用いられうるソースは、音声オーディオ信号または楽器別オーディオ信号(音声、ピアノ、バイオリン、フルート等)になることができる。すると、ユーザは、ソースのリストから一つを選択する方法で、ショートカットキーとマッチングさせるソースを選択する(S140段階)。例えば、ピアノを選択することができる。その後、ユーザが一つ以上の機能(例:音ミュート、アンビエンス調整)からショートカットキーに使用する機能(例:音ミュート)を選択する(S150段階)。このようにユーザがS120段階、S140段階、S150段階でキー、ソース、機能を選択すると、入力装置は、選択されたキー、選択されたソース、選択された機能をショートカットキー登録情報として保存する(S160段階)。例えば、1番キーにピアノ信号の音ミュート命令をマッチングさせて保存する。すると、1番キーが入力された時、入力装置は、1番キーの入力信号をピアノ信号の音ミュート命令に変換する。
【0175】
図24は、本発明の一実施例によるインタフェース表示装置の構成を示す図である。図25A及び図25Bは、本発明の一実施例によるインタフェース表示装置の具現例である。図24、図25A、及び図25Bを参照すると、本発明の一実施例によるインタフェース表示装置3000は、第1リミックス信号デコーディング装置500と関連し合っており、入力部3100、制御部3200、第1ディスプレイ3300a、第2ディスプレイ3300bを含む。ここで、第1リミックス信号デコーディング装置500は、付加情報デコーディング部503及びリミックスレンダリング部505を含むもので、上の図5と共に説明された第1リミックス信号デコーディング装置と構成及び機能が略同一なので、その具体的な説明は省略する。
【0176】
入力部3100は、複数のミックス信号のうち一つを選択するための入力装置である。ここで、ミックス信号とは、上の図5と共に説明されたチャネル別オーディオ信号501でありうる。複数のミックス信号のうち、入力部3100により選択されたミックス信号501p、及びミックス信号501pの付加情報信号502pが、第1リミックス信号デコーディング装置500に入力される。入力部3100はまた、ミックス信号に含まれているソースから一つを選択するためのものであっても良く、さらに、ソース信号のレベル調整に関する命令、ソース信号のサブバンド別レベル調整(イコライザ調整)に関する命令、及びソース信号のアンビエンス調整に関する命令を入力するためのものであっても良い。入力部3100は、マウス、トラックボール、タッチパッドなどのようなポインティングデバイスの他に、方向移動キー、タッチホイール等で具現されても良く、赤外線通信などの無線通信を用いたリモートコントローラで具現されても良いことはもちろんである。
【0177】
制御部3200は、入力部3100により選択されたミックス信号501pに対応するソース信号情報siを照会した後、ソース信号情報siに基づいてソース信号のリスト(以下、ソースのリスト)を構成し、それを第1ディスプレイ3300aに表示する。ここで、ソース信号情報siは、入力部3100により選択されたミックス信号501pに含まれているソース信号に関する情報で、各ソース信号の楽器名などを含む情報でありうる。ソース信号情報siは、上の図1と共に説明したソース信号102の情報であっても良い。一方、ソース信号情報siは、メタデータ(楽器演奏者名、製作日時等)をさらに含むことができる。一方、ソース信号情報siは、制御部3200が第1リミックス信号デコーディング装置500の付加情報デコーディング部503から受信したものでありうる。ここで、ソースのリストは、ソース信号502pの楽器名、歌手名、及び登場人物名のうち一つ以上を含むことができる。
【0178】
制御部3200はまた、入力部3100からリミキシングに関する様々な命令(ソース信号のレベル調整に関する命令、ソース信号のサブバンド別レベル調整に関する命令、及びソース信号のアンビエンス調整に関する命令など)が受信されると、その命令を制御情報506に変換してリミックスレンダリング部505に入力する。ここで、制御情報506は、上の図5と共に説明された制御情報506及び図6と共に説明された制御情報608と同一であるので、その具体的な説明は省略する。
【0179】
第1ディスプレイ3300aは、制御部3200の制御によってソースのリストが表示されるディスプレイである。第1ディスプレイ3300aに表示されるソースのリストは、ミックス信号が選択されている間には継続して第1ディスプレイ3300aに表示される。‘ミックス信号が選択されている間’とは、例えば、選択されたミックス信号が再生されているか、リミキシング(レベル調整、アンビエンス調整等)されている間であるということを意味する。もし、ユーザにより他のミックス信号が選択される場合、他のミックス信号とマッチングされるソースのリストが、第1ディスプレイ3300aに表示される。第1ディスプレイ3300aは、LCDなどで具現されることもでき、複数の発光素子のマトリクスでも具現されることができるが、本発明はこれに限定されない。第1ディスプレイ3300aが複数の発光素子で具現される場合、複数の発光素子の点滅によってソースのリストが表示される。
【0180】
第2ディスプレイ3300bは、制御部3200の制御によってメタデータ、音量レベル調整画面、イコライザ調整画面、アンビエンス調整画面などが表示されるディスプレイである。図26〜図29は、特定ソースが選択された場合、第1ディスプレイ及び第2ディスプレイに表示される画面の例である。図26は、第1ディスプレイ3300aに表示されたソースリストから‘1.音声’が選択された場合、選択されたソース(1.音声)のメタデータが第2ディスプレイ3300bに表示された例であり、図27は、選択されたソース(1.音声)の音量レベル調整画面が第2ディスプレイ3300bに表示された例である。図28は、選択されたソース(3.バイオリン)のイコライザ調整画面(サブバンド別レベル調整画面)が第2ディスプレイ3300bに表示された例であり、図29は、選択されたソース(2.ピアノ)のアンビエンス調整画面が第2ディスプレイ3300bに表示された例である。図26〜図29を比較すると、第2ディスプレイ3300bに表示される画面が変わっても、ソースのリストは第1ディスプレイ3300aに表示され続くということがわかる。
【0181】
一方、第2ディスプレイ3300b及び第1ディスプレイ3300aは、必ずしも機械的にまたは装置的に分離される必要はなく、よって、第2ディスプレイ3300b及び第1ディスプレイ3300aは一つのパネルとして具現されても良いことは無論である。
【0182】
図30は、本発明の他の実施例によるインタフェース表示装置の構成を示す図である。同図を参照すると、本発明の他の実施例によるインタフェース表示装置4000は、入力部4100、制御部4200、第1ディスプレイ4300a、第2ディスプレイ4300bを含み、第2リミックス信号デコーディング装置700と関連し合っている。ここで、第1リミックス信号デコーディング装置700は、付加情報デコーディング部703、付加情報統合部705及びリミックスレンダリング部707を含むもので、上の図7と共に説明された第2リミックス信号デコーディング装置の構成及び機能が略同一なので、その具体的な説明は省略する。
【0183】
一方、本発明の他の実施例によるインタフェース表示装置4000は、本発明の一実施例によるインタフェース表示装置3000と対比すると、第1リミックス信号デコーディング装置500ではなく第2リミックス信号デコーディング装置700と関連し合っており、ミックス信号501pではなく合成オブジェクト信号701pが入力されるという点が異なるだけで、その構成要素4100,4200,4300a,4300bは、本発明の一実施例によるインタフェース表示装置3000と同一名称の構成要素3100,3200,3300a,3300bとそれぞれ略同一なので、その構成要素に関する説明は省略する。
【0184】
図31は、本発明の実施例によるインタフェース表示方法を示すフローチャートである。以下で用いられるミックス信号という用語は、合成オブジェクト信号の概念まで含まれる概念として理解すべきである。本発明の一実施例によるインタフェース表示方法は、上述した本発明の一実施例によるインタフェース表示装置3000によって行なわれても良く、本発明の他の実施例によるインタフェース表示装置4000によって行なわれても良い。
【0185】
図31を参照すると、まず、インタフェース表示装置は、既に保存されていたり伝送されることができる一つ以上のミックス信号の情報を、ミックス信号のリストとしてディスプレイに表示する(S210段階)。すると、ユーザは、S210段階で、表示されたミックス信号のリストから、再生したいまたはリミキシングしたい特定ミックス信号を、入力装置を用いて選択する(S220段階)。すると、インタフェース表示装置は、S220段階で選択されたミックス信号に対応する付加情報から、該ミックス信号に対応するソース信号情報を抽出する(S230段階)。
【0186】
インタフェース表示装置は、S230段階で抽出されたソース信号情報に基づいてソースのリストを構成する(S240段階)。その後、インタフェース表示装置は、ソースのリストを第1ディスプレイに表示する(S250段階)。
【0187】
ユーザが第1ディスプレイに表示されたソースのリストを確認し、その中から一つのソースを選択する(S260段階)。すると、インタフェース表示装置は、S260段階で選択されたソースのメタデータ(設定によって、音量レベル調整画面、イコライザ調整画面、アンビエンス調整画面等)を第2ディスプレイに表示する(S270段階)。
【0188】
その後、S220段階で選択されたミックス信号の選択が終了すると(例えば、ユーザが該当のミックス信号の再生を終了させたり、他のミックス信号を選択する場合)(S280段階の‘Yes’)、S250段階から始まったソースのリストの表示を終了する(S290段階)。
【0189】
図32は、本発明の一実施例によるインタフェース表示装置の構成を示す図である。同図を参照すると、本発明の一実施例によるインタフェース表示装置5100は、入力部5110、記憶部5120、制御部5130、ディスプレイ5140を含み、第1リミックス信号デコーディング装置500と関連し合っている。ここで、第1リミックス信号デコーディング装置500は、付加情報デコーディング部503及びリミキシングレンダリング部506を含むもので、上の図5と共に説明された第1リミックス信号デコーディング装置と構成及び機能が略同一なので、その具体的な説明は省略する。
【0190】
入力部5110は、複数のミックス信号から一つを選択するための入力装置である。ここで、ミックス信号は、上の図5と共に説明されたミックス信号(チャネル別オーディオ信号)501でありうる。複数のミックス信号から入力部5110により選択されたミックス信号501p、及びミックス信号501pの付加情報信号502pが第1リミックス信号デコーディング装置500に入力される。入力部5110はまた、ソース信号のレベル調整に関する命令、ソース信号のサブバンド別レベル調整に関する命令、及びソース信号のアンビエンス調整に関する命令を入力する機能を果たしても良い。入力部5110は、マウス、トラックボール、タッチパッドなどのようなポインティングデバイスの他に、方向移動キー、タッチホイール等で具現されることもでき、赤外線通信などの無線通信を利用したリモートコントローラで具現することもできる。
【0191】
記憶部5120は、アイコン別イメージデータが保存されている記憶装置である。具体的には、アイコンに該当するカテゴリー、キーワードと一緒に保存されていることができる。イメージデータを用いてアイコンをテキストの他にイメージで表示することもできる。
【0192】
制御部5130は、入力部5110により選択されたミックス信号501pに対応するソース信号情報siを照会した後、ソース信号情報siに基づいてソース信号に該当するアイコンを表示する。ここで、ソース信号情報siは、入力部5110により選択されたミックス信号501pに含まれているソース信号に関する情報で、各ソース信号の楽器名などを含む情報でありうる。また、ソース信号情報siは、上の図1と共に説明したソース信号102の情報であっても良い。一方、ソース信号情報siは、メタデータ(楽器演奏者名、声楽家名等)をさらに含むことができる。一方、ソース信号情報siは、制御部5130が第1リミックス信号デコーディング装置500の付加情報デコーディング部503から受信することができる。
【0193】
一方、ソース信号に該当するアイコンは、テキストで表示されても良いが、記憶部5120に保存されているイメージデータを用いてイメージで表示されても良い。
【0194】
制御部5130はまた、入力部5110からリミキシングに関する様々な命令(ソース信号のレベル調整に関する命令、ソース信号のサブバンド別レベル調整に関する命令、及びソース信号のアンビエンス調整に関する命令など)を受信すると、その命令を制御情報506に変換してリミキシングレンダリング部505に入力する。ここで、制御情報506は、上の図5と共に説明された制御情報506及び図6と共に説明された制御情報608と同一なので、その具体的な説明は省略する。
【0195】
ディスプレイ5140は、制御部5130の制御によってソース信号に該当するアイコンが表示される表示装置である。
【0196】
図33A〜図33Dはそれぞれ、本発明の一実施例によるインタフェース表示装置が具現された例である。まず、図33Aは、本発明の一実施例によるインタフェース表示装置が、第1リミックス信号デコーディング装置500と一体型に移動端末機で具現された例である。図33Bは、本発明の一実施例によるインタフェース表示装置5100の入力部5110が、第1リミックス信号デコーディング装置500に有線で連結されたマウス及びタッチペンで具現された例であり、ディスプレイ5140も入力部5110と同様に、第1リミックス信号デコーディング装置500に有線で連結されたモニターとした。図33Dは、本発明の一実施例によるインタフェース表示装置5100のディスプレイ5140は、第1リミックス信号デコーディング装置500と有線で連結されており、入力装置5110は、第1リミックス信号デコーディング装置500と無線通信をするリモートコントローラで具現された例である。図33Dを参照すると、本発明の一実施例によるインタフェース表示装置5100の入力部5110は、図33Cの場合と同様にリモートコントローラで具現されており、ディスプレイ5140は、リモートコントローラに設けられていることがわかる。このように、本発明の一実施例によるインタフェース表示装置5100及び第1リミックス信号デコーディング装置500は多様に具現されることができる。
【0197】
図34は、本発明の他の実施例によるインタフェース表示装置の構成を示す図である。同図を参照すると、本発明の他の実施例によるインタフェース表示装置5200は、入力部5210、記憶部5220、制御部5230、ディスプレイ5240を含み、第2リミックス信号デコーディング装置700と関連し合っている。ここで、第1リミックス信号デコーディング装置700は、付加情報デコーディング部703、付加情報統合部705及びリミキシングレンダリング部708を含もので、上の図7と共に説明された第2リミックス信号デコーディング装置と構成及び機能が略同一なので、その具体的な説明は省略する。
【0198】
一方、本発明の他の実施例によるインタフェース表示装置5200は、本発明の一実施例によるインタフェース表示装置5100と比較すると、第1リミックス信号デコーディング装置500の代わりに第2リミックス信号デコーディング装置700と関連し合っており、ミックス信号501pの代わりに合成オブジェクト信号701pが入力されるという点が異なるだけで、その構成要素5210,5220,5230,5240は、本発明の一実施例によるインタフェース表示装置5100における同一名称の構成要素5110,5120,5130,5140とそれぞれ略同一なので、その構成要素に関する説明は省略する。
【0199】
図35A及び図35Bは、本発明の一実施例によるインタフェース表示方法を示すフローチャートである。以下で用いられるミックス信号という用語は、合成オブジェクト信号の概念まで含まれる概念として理解すべきである。本発明の一実施例によるインタフェース表示方法は、上で説明された本発明の一実施例によるインタフェース表示装置5100により行なわれても良く、本発明の他の実施例によるインタフェース表示装置5200により行なわれても良い。
【0200】
まず、図35Aを参照すると、インタフェース表示装置は、既に保存されていたり伝送することができる一つ以上のミックス信号の情報を、ミックス信号のリストとしてディスプレイに表示する(S410段階)。すると、ユーザは、S420段階で、表示されたミックス信号のリストから、再生したいまたはソース信号情報を確認したい特定ミックス信号を入力装置を用いて選択する(S420段階)。すると、インタフェース表示装置は、S420段階で選択されたミックス信号に対応する付加情報から、該ミックス信号に対応するソース信号情報を抽出する(S430段階)。そして、S430段階で抽出されたソース信号情報にミックス信号のメタデータが含まれている場合、ソース信号情報からメタデータを抽出する(S440段階)。
【0201】
その後、インタフェース表示装置は、S430段階で抽出されたソース信号情報に基づいてソース信号に該当するアイコンを照会する(S450段階)。ここで、アイコンは、テキストまたはイメージで構成されることができる。そして、もし、S440段階でメタデータが抽出された場合、メタデータとマッチングされるイメージを照会することができる。その後、S450段階で照会されたアイコンをディスプレイに表示する(S460段階)。特定ミックス信号のソース信号別アイコンが表示された画面の一例が、図36Aに示されている。図36Aは、ソース信号情報が‘ピアノ、バイオリン、声楽家(女子)、フルート’の場合、ピアノ、バイオリン、声楽家(女子)、フルートに該当するアイコンがそれぞれ表示された画面である。このように、本発明の実施例によるインタフェース表示方法は、S410段階〜S450段階を行なって特定ミックス信号に対するアイコンを表示する。特定ミックス信号のソース信号別アイコンがメタデータを表現する画面の一例が、図36Bに示されている。図36Bは、ソース信号情報に含まれているメタデータが“ピアノ演奏者:チョン・ミュン=フン”、“声楽家:チョ・スミ”の場合、ピアノに該当するアイコンがチョン・ミュン=フンの写真で構成され、声楽に該当するアイコンがチョ・スミの写真で構成される画面である。以下では、このような過程を通じて表示されたアイコンのうち特定アイコンが実行された以降の過程について説明する。
【0202】
図35Bを参照すると、ユーザが、S450段階で表示されたアイコンから一つを選択し、特定アイコンに関する実行命令を入力すると、インタフェース表示装置は、選択されたアイコンに対する実行命令を受信する(S510段階)。アイコンの実行命令、すなわち、アイコンを実行させた時に行なわれる過程は、設定によって様々でありうるが、以下では、3つの場合(レベル調整、イコライザ調整、アンビエンス調整)について説明する。
【0203】
もし、アイコンの実行命令がレベル調整(音量調整)と設定されている場合(S520段階の‘Yes’)、S510段階で実行されたアイコンに該当するソース信号のレベル調整画面を表示する(S522段階)。レベル調整画面の一例が、図37Aに示されている。図37Aは、合計4個のアイコンのうち“フルート”アイコンが実行された場合、フルートのレベル(音量)を調整できるコントロールバーが表示された画面である。ユーザは、図37Aのような画面上で、ポインティングデバイスを用いてコントロールバーを動かしたり、キーパッドの方向キーなどを用いて、特定ソース信号(例:フルート)のレベル調整に関する命令を入力することができる。このようなレベル調整に関する命令を受信すると(S524段階の‘Yes’)、調整されたレベルに従ってアイコンの形状を変化させる(S526段階)。ここで、アイコンの形状は、大きさ、色相、明るさのうち一つ以上を含む概念である。調整されたレベルに従ってアイコンの形状が変化された画面の一例が、図37Bに示されている。図37Bを参照すると、フルートのレベルが高く調整されるに従って、フルートに該当するアイコンの大きさが大きくなることがわかる。その後、S524段階で入力されたレベル調整命令を制御情報に変換することによって、S420段階で選択されたミックス信号をリミキシングする(S550段階)。ここで、制御情報は、第1リミックス信号デコーディング装置または第2リミックス信号デコーディング装置に入力される情報で、上で本発明の一実施例によるインタフェース表示装置と共に説明したので、その説明は省略する。
【0204】
もし、アイコンの実行命令がイコライザ調整(サブバンド別レベル調整)に設定されている場合(S530段階の‘Yes’)、S510段階で実行されたアイコンに該当するソース信号のレベル調整画面を表示する(S532段階)。イコライザ画面(サブバンド別レベル調整画面)の一例が、図38に示されている。図38は、合計4個のアイコンのうち“ピアノ”アイコンが実行された場合、ピアノのイコライザを調整できるようにサブバンド別コントロールバーが表示された画面である。ユーザは、図38のような画面上で、ポインティングデバイスを用いてサブバンド別コントロールバーをそれぞれ動かして、特定ソース信号(例:ピアノ)のサブバンド別レベル調整に関する命令を入力することができる。このようなサブバンド別レベル調整に関する命令が受信されると(S534段階の‘Yes’)、調整されたサブバンド別レベルに従ってアイコンの形状を部分的に変化させる(S536段階)。例えば、低周波バンドのレベルが高く調整された場合、アイコンの左側に該当する部分の明るさを暗くすることができる。その後、S534段階で入力されたサブバンド別レベル調整命令を制御情報に変換することによって、S420段階で選択されたミックス信号をリミキシングする(S550段階)。
【0205】
もし、アイコンの実行命令がアンビエンス調整(相対的位置調整)に設定されている場合(S540段階の‘Yes’)、S510段階で実行されたアイコンに該当するソース信号のアンビエンス調整画面(相対的位置調整画面)を表示する(S542段階)。アンビエンス調整画面(相対的位置調整画面)の一例が、図39に示されている。図39は、合計4個のアイコンのうち“ピアノ”アイコンが実行された場合、ピアノのアンビエンスを調整することができるようにピアノの相対的位置が表示された画面である。ユーザは、図39のような画面上で、ポインティングデバイスや方向キーなどを用いてアイコンを動かして、特定ソース信号(例:ピアノ)のアンビエンス調整に関する命令を入力することができる。このようなアンビエンス調整に関する命令が受信されると(S544段階の‘Yes’)、調整されたサブバンド別レベルに従ってアイコンの形状を変化させる(S546段階)。例えば、調整されたソース信号の相対的位置がユーザ(聴取者)の位置に近づいた場合、該当のアイコンの明るさを明るくすることができる。その後、S544段階で、入力されたアンビエンス調整命令を制御情報に変換することによって、S420段階で選択されたミックス信号をリミキシングする(S550段階)。
【0206】
図40は、本発明のさらに他の実施例によるインタフェース表示装置の構成図である。図40を参照すると、本発明のさらに他の実施例によるインタフェース表示装置6100は、入力部6110、記憶部6120、制御部6130、ディスプレイ6140を含み、第1リミックス信号デコーディング装置500と関連し合っている。ここで、第1リミックス信号デコーディング装置500は、付加情報デコーディング部503及びリミキシングレンダリング部506を含むもので、同様に、上の図5と共に説明された第1リミックス信号デコーディング装置と構成及び機能が略同様なので、その具体的な説明は省略する。
【0207】
入力部6110は、ミックス信号に対する再生命令を入力するための入力装置である。入力部6110は、マウス、トラックボール、タッチパッドなどのようなポインティングデバイスの他に、方向移動キー、タッチホイールなどで具現されることもできることは勿論である。
【0208】
記憶部6120は、ソース信号別イメージが保存されている保存装置である。例えば、楽器別イメージ(ピアノイメージ、バイオリンイメージ、フルートイメージ等)、及び演奏者別写真(ジョン・ミョンフン写真、ジョ・スミ写真等)などを保存することができる。
【0209】
制御部6130は、ミックス信号に対応するソース信号のレベルが時間別に変化するに従ってソース信号のイメージの形状を時間別に変化させて表示されるように制御する。ここで、イメージは、第1リミックス信号デコーディング装置500の付加情報エンコーディング部503またはリミキシングレンダリング部505から受信したソース信号情報siに基づいて、記憶部6120から照会したソース信号別イメージでありうる。そして、ソース信号の時間別レベルは、第1リミックス信号デコーディング装置500のリミキシングレンダリング部505から受信したソース信号レベル情報slから抽出したものでありうる。
【0210】
例えば、合計再生時間が3分45秒である場合、再生開始(t=0分0秒)から再生完了(t=3分45秒)まで、毎秒のソース信号(ピアノ、バイオリン、フルート)のそれぞれのレベルを感知し、そのそれぞれに該当するイメージ(ピアノイメージ、バイオリンイメージ、フルートイメージ)の形状(大きさ、色相、明るさ、画面内位置等)を変化させて表示する。特定時点におけるピアノ(またはバイオリン等)のレベルが大きい場合、ピアノイメージ(またはバイオリンイメージ等)の大きさを大きく変化させることができ、特定時点でピアノ(またはバイオリン等)のレベルが大きい場合、ピアノイメージ(またはバイオリン等)の明るさを明るく変化させることができる。
【0211】
ディスプレイ6140は、ソース信号に該当するイメージを表示するための表示装置である。
【0212】
図41は、本発明のさらに他の実施例によるインタフェース表示装置の構成を示す図である。同図を参照すると、本発明のさらに他の実施例によるインタフェース表示装置6200は、入力部6210、記憶部6220、制御部6230、ディスプレイ6240を含み、第2リミックス信号デコーディング装置700と関連し合っている。ここで、第1リミックス信号デコーディング装置700は、付加情報デコーディング部703、付加情報統合部705及びリミキシングレンダリング部708を含むもので、同様に、上の図7と共に説明された第2リミックス信号デコーディング装置とその構成及び機能が略同一なので、その具体的な説明は省略する。
【0213】
一方、本発明のさらに他の実施例によるインタフェース表示装置6200は、本発明のさらに他の実施例によるインタフェース表示装置6100と比較する時、第1リミックス信号デコーディング装置500の代わりに第2リミックス信号デコーディング装置700と関連し合っており、ミックス信号501の代わりに合成オブジェクト信号701が入力されるという点が異なる以外は、本発明の一実施例によるインタフェース表示装置6100と略同様なので、その構成要素についての説明は省略する。
【0214】
図42は、本発明の他の実施例によるインタフェース表示方法を示すフローチャートである。以下で用いられるミックス信号という用語は、合成オブジェクト信号の概念まで含まれる概念として理解すべきである。本発明の他の実施例によるインタフェース表示方法は、上に説明された本発明のさらに他の実施例によるインタフェース表示装置6100により行なわれても良く、本発明のさらに他の実施例によるインタフェース表示装置6200により行なわれても良い。
【0215】
図42を参照すると、ユーザが入力装置を用いて特定ミックス信号に対する再生命令を入力すると、インタフェース表示装置は、これを受信する(S610段階)。その後、インタフェース表示装置は、このミックス信号に対応するソース信号情報を受信する(S620段階)。インタフェース表示装置は、S620段階で受信したソース信号情報に基づいて、各ソース信号に該当するイメージを照会する(S630段階)。
【0216】
その後、ミックス信号の再生が始まると(S640段階の‘Yes’)、インタフェース表示装置は、ミックス信号に該当するソース信号のレベル(またはサブバンド別レベル)を時間別に感知する(S650段階)。その後、S640段階で照会されたレベル(サブバンド別レベル)によって、S630段階で照会されたイメージの形状(大きさ、色相、明るさ、画面内位置等)を時間によって変化させて表示する(S660段階)。ソース信号のレベルに比例してイメージの大きさが変化する画面の一例を、図43に示す。図43で、各オブジェクト別イメージの大きさを見ると、現在再生時間が‘t1’の時、女子声楽家のレベルは高い反面、女子声楽家以外の楽器(ピアノ、バイオリン、フルート)のレベルは低いことがわかる。現在再生時間が‘t2’の時は、女子声楽家のレベルがその他の楽器に比べて低く、現在再生時間が‘t3’の時は、ピアノと女子声楽家のレベルのみが高いことがわかる。ソース信号のレベルに比例してイメージの明るさが変化する画面の一例が、図44に示されている。図44を参照すると、現在時間がそれぞれt1、t2、t3の時点において、ソース信号のレベルがそれぞれ変化するに従ってオブジェクト別イメージの明るさが変化することがわかる。
【0217】
一方、ソース信号のレベルが変化するに従ってソース信号に該当するイメージの大きさを変化させることもでき、例えば、特定時点でレベルの最も高いソース信号のイメージのみを表示し、それ以外のソース信号のイメージの大きさを0として画面に表示させないこともできる。ソース信号のうち、現在最も大きいレベルを持つイメージのみが表示される画面の例を、図45及び図46に示す。図45を参照すると、再生が始まってから再生時間t1において、合計4個のソース信号のうちピアノのレベルが最も高いため、他のソース信号(バイオリン、声楽家、フルート)のイメージは消え、ピアノイメージ(ピアノ演奏者であるチョン・ミュン=フンの写真)のみが画面に表示されることがわかり、再生時間t2では、合計4個のソース信号のうち声楽家(女子)のレベルが最も高いため、声楽家(女子)イメージ(声楽家であるチョ・スミの写真)のみが画面に表示されることがわかる。図46を参照すると、再生が始まってから再生時間t1において、レベルの最も高い3番目の歌手のイメージが中心部に配置され、再生時間t2では、レベルの最も高い1番目の歌手のイメージが中心部に配置されることがわかる。
【0218】
もし、ソース信号のサブバンド別レベルに従ってイメージを変化させる場合には、ソース信号のイメージの形状を部分的に変化させることもできる。例えば、イメージの横軸をソース信号の周波数帯域軸に対応させ、イメージの縦軸をソース信号のレベル軸に対応させることで、低周波帯域のレベルが高く、高周波帯域のレベルが高い場合、イメージの左側は薄く表現し、イメージの右側は濃く表現することができる。上記S650段階及びS660段階は、ミックス信号の再生が終了するまで続く(S670段階)。
【0219】
ユーザは、リミックス情報を提供するサーバー(以下、リミックス情報提供サーバーという)からリミックス情報を受け取ることができる。リミックス情報提供サーバーは、ミックス信号に含まれているソース信号のうち一部ソース信号が除外されている変形されたミックス信号を提供することもできる。すなわち、ミックス信号が複数のソース信号からなっているとする時、リミックス情報提供サーバーは、ミックス信号を構成するソース信号のうち一つ以上のソース信号が除外されている変形されたミックス信号を提供することもできる。以下、ミックス信号に含まれているソース信号のうち一部のソース信号が除外されているミックス信号を、元来のミックス信号と区別するために‘変形されたミックス信号’という。リミックス情報提供サーバーが、変形されたミックス信号を提供する場合、ユーザは、ミックス信号を受信する前に、変形されたミックス信号をまず受信して聴取することができる。ユーザが、変形されたミックス信号を聴取した後にソース信号の除外されていない元来のミックス信号が聞きたい場合、リミックス情報提供サーバーに、ソース信号が全て含まれている元来のミックス信号の伝送を要請することができる。
【0220】
リミックス情報提供サーバーは、無料でリミックス情報をユーザに提供するこもできるが、一部または全部のリミックス情報を有料でユーザに提供することもできる。リミックス情報提供サーバーがリミックス情報を有料でユーザに提供する場合、ユーザは、リミックス情報使用料を決済した後に、リミックス情報を受け取ることができる。リミックス情報提供サーバーは、変形されたミックス信号を無料で、元来のミックス信号を有料でユーザに提供することもできる。以下、図47〜図52では、ユーザがリミックス情報提供サーバーから、ミックス信号のうち一部のソース信号が欠如されている変形されたミックス信号を受け取り、それを用いる方法について説明し、また、リミックス情報提供サーバーが有料でリミックス情報を提供する場合における決済方法について説明する。
【0221】
図47は、本発明の実施例によるリミックス情報提供システムを示す図である。図47を参照すると、リミックス情報提供システムは、ユーザ端末7001、リミックス情報提供サーバー7002、金融機関7003及び移動通信事業者7004を含む。ユーザは、ソース信号をリミックスするためにミックス信号またはソース信号とこれに対する付加情報を必要とする。付加情報は、エンコーディング装置が生成したエンコーダミックスパラメータ、デコーディング装置が生成したブラインドミックスパラメータ、ユーザが入力した制御情報を用いて生成されたユーザーミックスパラメータなどを含む。ユーザは、ユーザ端末7001に含まれているユーザーインタフェース(図示せず)等を介して各ソース信号を表現するアイコンを調節し、リミックスされたミックス信号に含まれているソース信号を調節することができる。ユーザは、ソース信号を表現するアイコンを調節することによってソース信号の大きさや位置、声の特色などを変化させることができる。アイコンは、人の感情を表現する顔文字、歌手や楽器演奏者の写真やカリカチュア、または楽器の写真や絵などを含むことができる。以下、ミックス信号、各音源のソース信号、ミックス信号をソース信号別に制御するためのミックスパラメータ、ミックス信号をアップミックスするためのアップミックスパラメータ、ソース信号を表現するためのアイコンなど、ミックス信号をソース信号別にリミックスするために必要な一切の情報をリミックス情報という。
【0222】
ユーザは、ユーザ端末7001を用いてリミックス情報提供サーバー7002にアクセスする。ユーザ端末7001は、ノートブックやデスクトップなどのユーザPC、携帯電話などの移動端末機、PDA(personal digital assistants)、PMP(portable multimedia player)等、他のユーザ端末と有無線通信ができ、ミックス信号を再生できる装置を含む。ユーザ端末7001は、リミックス情報提供サーバー7002から所望のリミックス情報を選択する。リミックス情報提供サーバー7002は、データベース(図示せず)からユーザの選択したリミックス情報を検索してそれを抽出する。リミックス情報提供サーバー7002は、抽出したリミックス情報をユーザ端末7001に伝送する。リミックス情報提供サーバー7002は、ミックス信号の特定区間またはミックス信号に含まれているソース信号のうち一定のソース信号が除外されている変形されたミックス信号を提供することができる。例えば、ユーザが、ピアノ、バイオリン、チェロ編成のチャイコフスキーの‘偉大な芸術家の思い出’というピアノ三重奏を聴取したい場合、ユーザは、ミックス信号を聞く前にそれに対する変形されたミックス信号をまず聴取することができる。ユーザが、リミックス情報提供サーバー7002に‘偉大な芸術家の思い出’というピアノ三重奏曲に対する変形されたミックス信号を要請する場合、リミックス情報提供サーバー7002は、チェロ信号の除外された‘偉大な芸術家の思い出’という変形されたミックス信号をデータベースから抽出してユーザに伝送することができる。リミックス情報提供サーバー7002は、‘偉大な芸術家の思い出’に対する変形されたミックス信号がデータベースに保存されていない場合、ミックス信号に含まれているソース信号、すなわち、ピアノ、バイオリン、チェロ信号のうち一定のソース信号を除外することでミックス信号を様々に変形することができる。リミックス情報提供サーバー7002は、ミックス信号に含まれているソース信号から、ランダムにまたはユーザの要請に応じて特定のソース信号を除外することで、変形されたミックス信号を生成することができる。ユーザが、ミックス信号に含まれているソース信号からピアノ信号を除外して、変形されたミックス信号を生成するように要請すると、リミックス情報提供サーバー7002は、バイオリン及びチェロ信号のみを含む変形されたミックス信号を生成してユーザに伝送することができる。ユーザは、リミックス情報提供サーバー7002から変形されたミックス信号を受信し、それを聴取する。ユーザは、変形されたミックス信号を聴取した後にミックス信号を聴取したい場合は、リミックス情報提供サーバー7002に‘偉大な芸術家の思い出’に対するミックス信号伝送を要請する。ユーザは、ユーザ端末7001を用いてリミックス情報提供サーバー7002から受け取った変形されたミックス信号またはミックス信号を聴取することができる。ユーザは、ミックス信号などを用いてユーザ端末7001、例えば、移動端末の通話音や移動端末のベル音等として用いることができる。また、ユーザは、ミックス信号などをホームページなどの背景音楽として用いることもできる。また、ユーザは、リミックス情報提供サーバー7002からミックス信号または変形されたミックス信号に対する付加情報を受信し、これを用いてミックス信号などをソース信号別に調節することで、リミックスされたミックス信号を生成することができる。
【0223】
場合によって、リミックス情報提供サーバー7002は、全部または一部のリミックス情報を有料で提供することもできる。基本的なリミックス情報は無料で提供し、その他リミックス情報は有料で提供することもできる。リミックス情報使用が有料である場合、リミックス情報提供サーバー7002は、ユーザに決済を要請する。決済処理にあたり、リミックス情報提供サーバー7002は、ユーザが有効なユーザなのかを確認するためにユーザ端末7001に認証情報を要請することができる。ユーザは、リミックス情報提供サーバー7002の要請に応じてユーザ端末7001に認証のためのユーザ情報を入力する。リミックス情報提供サーバー7002は、ユーザ端末7001からユーザの入力したユーザ情報を受信し、ユーザが有効なユーザなのか認証することができる。
【0224】
ユーザがリミックス情報使用料金をクレジットカードで決済しようとする場合、リミックス情報提供サーバー7002は、ユーザ情報をカード社や銀行などの金融機関7003に伝送して、ユーザ有効有無の確認を要請する。金融機関7003は、ユーザ情報を用いてユーザが金融機関に加入した有効なユーザなのか否かを確認し、その結果をリミックス情報提供サーバー7002に伝送する。リミックス情報提供サーバー7002は、ユーザが有効なユーザである場合、金融機関7003にリミックス情報使用料決済を要請する。金融機関7003は、ユーザの口座からリミックス情報使用料を引き出し、決済が完了したことをリミックス情報提供サーバー7002に通知する。金融機関7003は、引き出したリミックス情報使用料を実時間でまたは一定時間間隔にリミックス情報提供サーバー7002の口座に振り替える。ユーザがリミックス情報使用料金を口座振替方法で決済しようとする場合、金融機関7003は、ユーザがリミックス情報提供サーバー7002の口座にリミックス情報使用料を入金したことを通知する。リミックス情報提供サーバー7002は、金融機関7003から決済完了の通知を受けた後、ユーザの選択したリミックス情報を抽出してユーザ端末7001に伝送する。ユーザ端末7001は、リミックス情報提供サーバー7002からリミックス情報を受け取り、それをそのまま聴取しても良いが、リミックス情報をユーザが変形して用いても良い。この場合、ユーザ端末7001は、リミキシングを処理するための信号デコーディング装置を含むことができる。ユーザは、ソース信号とミックス信号、付加情報を共にまたは別に受信し、ユーザ端末7001を用いてソース信号をリミックスすることができる。ユーザ端末7001がリミックス情報提供サーバー7002からミックス信号のみを受け取った場合、ユーザ端末7001は、ミックス信号に対する付加情報を直接生成し、生成した付加情報を用いてミックス信号をソース信号別に調節することができる。ユーザは、ミックス信号をソース信号別に調節して、リミックスされたミックス信号を生成し、リミックスされたミックス信号をリミックス情報提供サーバー7002にアップロードすることができる。また、ユーザは、ソース信号を表現するアイコンを生成したり、リミックス情報提供サーバー7002から受信したアイコンを変形して、リミックス情報提供サーバー7002にアップロードすることができる。この時、リミックス情報は、ユーザがアップロードしたリミックスされたミックス信号及び変形や生成してアップロードしたアイコンなどを含む。リミックス情報提供サーバー7002は、ユーザがユーザ端末7001を用いてアップロードしたリミックスされたミックス信号を、データベース(図示せず)に保存する。リミックス情報提供サーバー7002は、他の第2ユーザが該リミックスされたミックス信号の伝送を要請すると、それを第2ユーザ端末に有料または無料で伝送することができる。リミックス情報提供サーバー7002、リミックスされたミックス信号またはアイコンなどをリミックス情報提供サーバー7002にアップロードしたユーザ及びリミックスされたミックス信号またはアイコンなどを使用しようとする第2ユーザは、あらかじめ定められた約定に従って相互間にリミックス情報使用料を支払うことができる。リミックス情報提供サーバー7002は、有料で第2ユーザにリミックスされたミックス信号を伝送する場合、前述したような方法で第2ユーザに決済を要請することができる。リミックス情報提供サーバー7002は、リミックスされたミックス信号またはアイコンなどをリミックス情報提供サーバー7002にアップロードしたユーザに、第2ユーザが支払ったリミックス情報使用料の一定分を支払っても良い。
【0225】
ユーザは、携帯電話などのユーザ端末7001を用いてリミックス情報使用料を決済することもできる。ユーザが、リミックス情報提供サーバー7002に携帯電話などのユーザ端末7001番号を入力すると、リミックス情報提供サーバー7002は、移動通信事業者7004にユーザのユーザ端末7001番号を伝送し、ユーザ認証のための認証番号を要請する。移動通信事業者7004は、リミックス情報提供サーバー7002の要請に応じて認証番号をリミックス情報提供サーバー7002及びユーザ端末7001に伝送する。ユーザは、ユーザ端末7001に伝送された認証番号をユーザ端末7001を用いてリミックス情報提供サーバー7002に入力する。リミックス情報提供サーバー7002は、ユーザの入力した認証番号が移動通信事業者7004から伝送された認証番号と一致すると、該ユーザを有効なユーザと判断する。リミックス情報提供サーバー7002は、有効なユーザと判断すると、移動通信事業者7004にリミックス情報使用料決済を要請する。移動通信事業者7004は、ユーザ端末7001の使用料金にリミックス情報使用料を加算する。移動通信事業者7004は、リミックス情報使用料に対する決済が完了すると、決済の完了したことをリミックス情報提供サーバー7002に通知する。リミックス情報提供サーバー7002は、決済完了の通知を受けた後、ユーザが選択したリミックス情報をユーザ端末7001に伝送する。ユーザは、ユーザ端末7001に伝送されたリミックス情報を用いてリミックスされたミックス信号を生成する。ユーザは、ユーザ端末7001を用いてソース信号の大きさや位置、音色などを調節することで独特のミックス信号を生成することができる。ユーザは、ユーザ端末7001を用いて、リミックスされたミックス信号をリミックス情報提供サーバー7002にアップロードすることができる。前述したように、第2ユーザは、他のユーザがリミックス情報提供サーバー7002にアップロードしたリミックスされたミックス信号をダウンロードして利用することができる。
【0226】
図48は、本発明の実施例によるリミックス情報提供サーバーの構成図である。図48を参照すると、リミックス情報提供サーバー7002は、記憶装置7001、中央処理装置(Central Processing Unit:CPU)7104、入出力装置7108及び通信装置7109を含む。中央処理装置7104は、計算を行なうためのALU(Arithmetic Logic Unit)7105、データ及び命令語の一時保存のためのレジスタ7106及びリミックス情報提供サーバー7002の動作を制御するためのコントローラ7107を含む。メモリーシステム7001は通常、RAM(Random Access Memory)、ROM(Read Only Memory)のような記憶媒体形態である高速の主記憶装置7102と、フロッピー(登録商標)ディスク、ハードディスク、テープ、CD−ROM、フラッシュメモリーなどの長期(long-term)記憶媒体形態の補助記憶装置7103及び電気、磁気、光学やその他の記憶媒体を用いてデータを保存する装置を含む。メインメモリー7102は、ディスプレイ装置を通じてミックス信号または変形されたミックス信号の目録やアイコンなどのリミックス情報をディスプレイするビデオディスプレイメモリーを含むことができる。入出力装置7108は、キーボード、マウス、例えばタッチスクリーンまたはマイクロホンのような物理的変換器(Physical transducer)などを含むことができる。通信装置7109には、ユーザ端末7001と有線または無線通信を行なうためのネットワークインタフェースまたはRF送受信アンテナのような装置が用いられることができる。
【0227】
図49は、本発明の実施例によるリミックス情報提供サーバーのモジュール構成図である。図49を参照すると、リミックス情報提供サーバー7002は、ユーザ端末7001及び金融機関7003、移動通信事業者7004との通信を処理するための送受信処理モジュール7213、ミックス信号、変形されたミックス信号などを含むリミックス情報を保存して管理するデータベース管理モジュール7214、変形されたミックス信号を生成するミックス信号変形モジュール7215、及びリミックス情報が有料である場合、ユーザが有効かを認証して決済を処理する課金処理モジュール7216を含むことができる。このような応用モジュールを通じてリミックス情報提供サーバーの全体的な構成について説明すると、次の通りである。リミックス情報提供サーバーは、様々なOS(Operating System)をシステムのOSとして使用することができる。このようなOSは、API(Application Program Interface)7201にハイレベル命令語を提供して、各応用モジュール7204の動作を制御する。リミックス情報提供サーバーは、API 7201から提供されるハイレベル命令語によって対応する各応用モジュール7204を識別し、ハイレベル命令語をデコーディングし、それを該当する所に提供するハイレベル命令語処理部7202を含む。応用モジュール制御部7203は、ハイレベル命令語処理部7202から提供された命令語によって応用モジュール7204の動作を制御する。すなわち、ハイレベル命令語処理部7202は、API 7201から提供されたハイレベル命令語に対応する応用モジュール7204が存在するか識別し、対応する応用モジュール7204が存在する場合、該当する応用モジュール7204で認識可能な命令語にデコーディングして該当のマッピング部に伝送したり、メッセージ伝送を制御する。したがって、応用モジュール制御部7203は、送受信処理モジュール7213、データベース管理モジュール7214、ミックス信号変形モジュール7215及び課金処理モジュール7216に対するマッピング部7205,7207,7209,7211とインタフェース部7206,7208,7210,7212をそれぞれ含む。
【0228】
送受信処理モジュールマッピング部7205は、ハイレベル命令語処理部7202からユーザ端末7001や金融機関7003または移動通信事業者7004との通信を行なうためのハイレベルの命令語を受信し、送受信処理モジュール7213で処理できるようなデバイスレベルにマッピングし、送受信処理モジュールインタフェース部7206を通じて送受信処理モジュール7213に提供する。データベース管理モジュールマッピング部7207及びデータベース管理モジュールインタフェース部7208は、ミックス信号または変形されたミックス信号を保存し、ユーザ端末7001からミックス信号または変形されたミックス信号要請があるとそれを抽出する。データベース管理モジュールマッピング部7207は、ハイレベル命令語処理部7202からデータベース管理モジュール7214を用いるためのハイレベル命令語を受信しそれをデバイスレベルの命令語にマッピングし、データベース管理モジュールインタフェース部7208を通じてデータベース管理モジュール7214に提供する。ミックス信号変形モジュール7215は、ユーザにより変形されたミックス信号が要請される場合などミックス信号を変形しなければならない場合、ミックス信号に含まれている一定のソース信号を除外して、変形されたミックス信号を生成する。ミックス信号変形モジュールマッピング部7209は、ハイレベル命令語処理部7202から印加されたハイレベル命令語を受信し、変形された信号変形モジュール7215が認識できるようなデバイスレベルの命令語にマッピングする。デバイスレベルの命令語は、ミックス信号変形モジュールインタフェース部7210を通じてミックス信号変形モジュール7215に提供される。課金処理モジュール7216は、ユーザが有効なユーザなのか確認し、有効なユーザである場合、リミックス情報使用料を課金する機能を果たす。また、課金処理モジュール7216は、第2ユーザが、他のユーザが生成してアップロードしたリミックスされたミックス信号使用を希望する場合、リミックス情報提供サーバー7002、リミックスされたミックス信号をアップロードしたユーザ、及び第2ユーザ間においてリミックス情報使用料を処理する機能を果たす。課金処理モジュールマッピング部7211は、ハイレベル命令語処理部7202から印加されたハイレベル命令語を受信し、課金処理モジュール7216が認識できるようなデバイスレベルの命令語にマッピングする。デバイスレベルの命令語は、課金処理モジュールインタフェース部7212を通じて課金処理モジュール7216に提供される。
【0229】
図50は、本発明の実施例によるリミックス情報提供サーバーがリミックス情報を提供する方法を示すフローチャートである。図50を参照すると、ユーザは、ユーザ端末7001を用いてリミックス情報提供サーバー7002に接続する。リミックス情報提供サーバー7002からユーザ端末7001はリミックス情報を選択する(段階S701)。リミックス情報提供サーバー7002は、ユーザの選択したリミックス情報をユーザ端末7001に無料で伝送しても良く、有料で伝送しても良い。リミックス情報提供サーバー7002は、ユーザの選択したリミックス情報が有料か無料かを判断する(段階S703)。リミックス情報提供サーバー7002は、ユーザの選択したリミックス情報が有料である場合、ユーザに決済を要請する(段階S705)。決済のために、リミックス情報提供サーバー7002は、ユーザが有効なユーザなのかを確認するユーザ認証を行なうことができる。リミックス情報提供サーバー7002は、ユーザ端末7001にクレジットカード番号、口座番号、住民番号、パスワードなど、ユーザ認証のためのユーザ認証情報入力を要請することができる。ユーザがユーザ端末7001を用いてユーザ認証情報を入力すると、リミックス情報提供サーバー7002は、ユーザの入力したユーザ認証情報を金融機関7003や移動通信事業者7004などに伝送し、ユーザが有効か否かを確認することを要請する。金融機関7003または移動通信事業者7004は、データベース(図示せず)からリミックス情報提供サーバー7002が伝送したユーザ認証情報を検索し、その結果をリミックス情報提供サーバー7002に通知する。リミックス情報提供サーバー7002は、ユーザが有効であると判断すると、金融機関7003または移動通信事業者7004に決済情報を伝送し、決済を要請する。リミックス情報提供サーバー7002は、ミックス信号変形部(図示せず)を含むことができる。リミックス情報提供サーバー7002は、決済が完了すると(段階707の‘はい’)、ユーザにより選択されたリミックス情報が、一部ソース信号が除外された変形されたミックス信号か否かを判断する(段階S709)。リミックス情報提供サーバー7002は、ユーザーが希望するリミックス情報が、変形されたミックス信号である場合、ミックス信号変形部を用いてミックス信号を変形したり、既に保存されている変形されたミックス信号を抽出する(段階S711)。リミックス情報提供サーバー7002は、変形されたミックス信号をユーザ端末7001に提供する(段階S715)。リミックス情報提供サーバー7002は、ユーザにより選択されたリミックス情報が変形されたミックス信号でない場合、既に保存されているリミックス情報を抽出する(段階S713)。リミックス情報提供サーバー7002は、抽出したリミックス情報をユーザ端末7001に提供する(段階S715)。
【0230】
図51は、本発明の実施例によってユーザ端末がリミックス情報を受信する方法を示すフローチャートである。図51を参照すると、ユーザは、ユーザ端末7001を用いてリミックス情報提供サーバー7002に接続する(段階S801)。ユーザは、ユーザ端末7001を用いて、リミックス情報提供サーバー7002が提供するリミックス情報から所望の情報を選択する(段階S803)。前述したように、リミックス情報は、ミックス信号、変形されたミックス信号、ソース信号、付加情報、ソース信号を表現するアイコン、顔文字などを含む。また、リミックス情報は、他のユーザがリミックス情報提供サーバー7002にアップロードしたリミックス情報などを含む。ユーザ端末7001は、ユーザが選択したリミックス情報が有料なのか判断する(段階S805)。ユーザは、選択したリミックス情報が有料である場合、リミックス情報使用料を決済する(段階S807)。リミックス情報使用料は、リミックス情報の種類や容量、ビット率等によって変わることができる。例えば、ユーザが特定ソース信号のみを受けたい場合、ユーザは、ソース信号を含むミックス信号を受信する場合に比べてより少ない使用料を支払うことができる。ユーザがミックス信号またはミックス信号に含まれていないソース信号に関する付加情報を受信する場合、ユーザが決済する金額は変わることができる。決済が完了すると、ユーザは、リミックス情報提供サーバー7002からリミックス情報を受信する(段階S809)。
【0231】
図52は、本発明の実施例によってユーザがリミックス情報をリミックス情報提供サーバーに伝送する方法を示すフローチャートである。図52を参照すると、ユーザは、ユーザ端末7001を用いてリミックス情報を受信する。リミックス情報は、リミックス情報提供サーバー7002等のエンコーディング装置から受け取ることができる。ユーザ端末7001は、リミックス情報及び制御情報を用いてミックス信号に含まれているソース信号をリミックスするリミックスレンダリング部(図示せず)を含むことができる。ユーザ端末7001がリミックスレンダリング部を含む場合、ユーザは、ユーザ端末7001を用いてミックス信号、ソース信号及びこれに関する付加情報を用いて直接リミックス情報を生成することができる。ユーザは、リミックスレンダリング部を用いてユーザ端末7001に保存されているリミックス情報を変形して、新しいリミックス情報を生成することもできる(段階S901)。すなわち、ユーザは、持っているリミックス情報を用いてソース信号の大きさや位置、音色などを調節することで、リミックスされたミックス信号を生成することができる。また、ユーザは、ソース信号を表現するアイコンや顔文字などを変形したり、直接アイコンなどを生成することができる。ユーザは、生成したリミックス情報をリミックス情報提供サーバー7002に伝送してアップロードする(段階S903)。リミックス情報提供サーバー7002は、ユーザがアップロードした新しいリミックス情報をデータベースに保存し、これを第2ユーザが希望すると、データベースから抽出して第2ユーザ端末に伝送する。
【産業上の利用可能性】
【0232】
本発明は、メディア信号プレイヤーの入力装置またはリモートコントローラなどに適用されることができる。また、本発明は、メディア信号プレイヤーのインタフェース制御装置などに適用されることができる。本発明は、メディア信号情報提供サーバーなどに適用されることができる。
以上ではたとえ限定された実施例と図面に基づいて本発明を説明してきたが、本発明はそれらに限定されものではなく、本発明の属する技術分野における通常の知識を持つ者にとっては、本発明の技術思想と添付した特許請求の範囲と均等な範囲内で様々な修正及び変形が可能であるということが明らかである。
【特許請求の範囲】
【請求項1】
入力部と、
前記入力部を通じて受信した入力信号をソース別メニュー表示命令に変換した後、前記ソース別メニュー表示命令によって、ミックス信号に該当するソース情報に基づいてソース別メニュー表示画面が出力されるようにする制御部と、
前記ソース別メニュー表示画面が出力されるディスプレイと、
を含むことを特徴とする入力装置。
【請求項2】
ポインティングデバイスまたは方向移動キーをさらに含み、
前記制御部は、前記ポインティングデバイスまたは方向移動キーを通じて受信した入力信号を、ソース別レベル調整命令に変換することを特徴とする請求項1に記載の入力装置。
【請求項3】
入力部と、
前記入力部を通じて受信した入力信号を、ソース別メニュー表示命令に変換する制御部と、
前記制御部により変換された命令を、外部装置に伝送するための無線通信部と、
を含むことを特徴とする入力装置。
【請求項4】
入力部と、
前記入力部を通じて受信した入力信号を、音声ミュート命令または音声レベル調整命令に変換し、前記音声ミュート命令または音声レベル調整に基づいてミックス信号に関する制御情報を出力する制御部と、
を含むことを特徴とする入力装置。
【請求項5】
入力部と、
前記入力部を通じて受信した入力信号をアンビエンス画面表示命令に変換し、前記アンビエンス画面表示命令によって、ミックス信号に該当するソース情報に基づいてアンビエンス画面が出力されるようにする制御部と、
前記アンビエンス画面が出力されるディスプレイと、
を含むことを特徴とする入力装置。
【請求項6】
ポインティングデバイスまたは方向移動キーをさらに含み、
前記制御部は、前記ポインティングデバイスまたは方向移動キーを通じて受信した入力信号をアンビエンス調整命令に変換し、前記アンビエンス調整命令に基づいてミックス信号に関する制御情報を出力することを特徴とする請求項5に記載の入力装置。
【請求項7】
ショートカットキー登録命令を受信する段階と、
複数のキーのうち一つのキー、複数のソースのうち一つのソース、一つ以上の機能のうち一つの機能が選択される段階と、
前記選択されたキーに、前記選択されたソースに対して前記選択された機能をマッチングさせて保存する段階と、
を含み、
前記複数のソースは、オーディオ信号のソース、及びビデオ信号のソースのうち一つ以上を含み、
前記一つ以上の機能は、音ミュート、アンビエンス調整、及びレベル調整のうち一つ以上を含むことを特徴とする入力方法。
【請求項8】
複数のキーのうち一つのキー、複数のソースのうち一つのソース、及び一つ以上の機能のうち一つの機能を選択するための入力部と、
各キー別命令情報が保存される記憶部と、
前記入力部により前記選択されたキーに、前記選択されたソースに対して前記選択された機能をマッチングさせて前記記憶部に保存する制御部と、
を含み、
前記複数のソースは、オーディオ信号の客体、及びビデオ信号の客体のうち一つ以上を含み、
前記一つ以上の機能は、音ミュート、アンビエンス調整、及びレベル調整のうち一つ以上を含むことを特徴とする入力装置。
【請求項9】
特定ミックス信号が選択される段階と、
前記ミックス信号に対応するソース信号情報を照会して、前記ソース信号のリストをディスプレイに表示する段階と、
を含み、
前記表示は、前記ミックス信号が選択されている間に維持されることを特徴とするミックス信号のインタフェース表示方法。
【請求項10】
前記ソース信号情報は、前記ミックス信号に対応する付加情報から抽出されることを特徴とする請求項9に記載のミックス信号のインタフェース表示方法。
【請求項11】
前記ソース信号のリストは、前記ミックス信号に含まれているソース信号の楽器名、歌手名、及び登場人物名のうち一つ以上であることを特徴とする請求項9に記載のミックス信号のインタフェース表示方法。
【請求項12】
前記ソース信号のリストから一つのソースが選択される段階と、
前記選択されたソースに対する音量レベル調整画面をさらに表示する段階と、
をさらに含むことを特徴とする請求項9に記載のミックス信号のインタフェース表示方法。
【請求項13】
前記ソース信号のリストから一つのソースが選択される段階と、
前記選択されたソースに対するイコライザ調整画面またはアンビエンス調整画面を表示する段階と、
をさらに含むことを特徴とする請求項9に記載のミックス信号のインタフェース表示方法。
【請求項14】
複数のミックス信号から一つを選択するための入力部と、
前記ミックス信号に対応するソース信号情報を照会して、前記ソース信号のリストを表示する制御部と、
前記ソース信号のリストを表示するためのディスプレイと、
を含み、
前記表示は、前記ミックス信号が選択されている間に維持されることを特徴とするミックス信号のインタフェース表示装置。
【請求項15】
第2ディスプレイをさらに含み、
前記入力部は、前記ソース信号のリストから一つのソースを選択するためのものであり、
前記制御部は、前記選択されたソースに対するメタデータ、音量レベル調整画面、イコライザ調整画面、アンビエンス調整画面のうち一つ以上を前記第2ディスプレイに表示させることを特徴とする請求項14に記載のミックス信号のインタフェース表示装置。
【請求項16】
特定ミックス信号が選択される段階と、
前記ミックス信号に対応するソース信号情報を照会して、前記ソース信号情報に基づいて前記ソース信号に該当するアイコンを表示する段階と、
を含むことを特徴とするミックス信号のインタフェース表示方法。
【請求項17】
前記ソース信号情報は、前記ミックス信号に対応する付加情報から抽出されることを特徴とする請求項16に記載のミックス信号のインタフェース表示方法。
【請求項18】
前記アイコンのうち一つに対する実行命令を受信すると、選択されたアイコンに該当するソース信号のレベル調整画面を表示する段階をさらに含むことを特徴とする請求項16に記載のミックス信号のインタフェース表示方法。
【請求項19】
レベル調整に関する命令を受信すると、調整されたレベルに従って前記選択されたアイコンの形状を変化させる段階をさらに含み、
前記アイコンの形状は、大きさ、色相、明るさ、及び画面内位置のうち一つ以上を含むことを特徴とする請求項18に記載のミックス信号のインタフェース表示方法。
【請求項20】
前記アイコンのうち一つが選択されると、選択されたアイコンに該当するソース信号のイコライザ画面を表示する段階をさらに含むことを特徴とする請求項16に記載のミックス信号のインタフェース表示方法。
【請求項21】
サブバンド別レベル調整に関する命令を受信すると、前記選択されたアイコンに該当するソース信号のサブバンドレベルを調整して、前記ミックス信号をリミキシングする段階をさらに含むことを特徴とする請求項20に記載のミックス信号のインタフェース表示方法。
【請求項22】
前記アイコンのうち一つが選択されると、選択されたアイコンに該当するソース信号のアンビエンス調整画面を表示する段階をさらに含み、
前記アンビエンス調整画面は、ソース信号別相対的位置が表示された画面であることを特徴とする請求項16に記載のミックス信号のインタフェース表示方法。
【請求項23】
複数のミックス信号から一つを選択するための入力部と、
前記入力部により選択されたミックス信号に対応するソース信号情報に基づいて、前記ソース信号に該当するアイコンを表示する制御部と、
前記ソース信号に該当するアイコンを表示するためのディスプレイ部と、
を含むことを特徴とするミックス信号のインタフェース表示装置。
【請求項24】
ミックス信号に対する再生命令を受信する段階と、
前記ミックス信号に対応するソース信号のレベルが時間別に変化するに従って、前記ソース信号のイメージの形状を時間別に変化させて表示する段階と、
を含み、
前記イメージの形状は、大きさ、色相、明るさ、画面内位置のうち一つ以上を含むことを特徴とするミックス信号のインタフェース表示方法。
【請求項25】
ミックス信号に対する再生命令を入力するための入力部と、
前記ミックス信号に対応するソース信号のレベルが時間別に変化するに従って、前記ソース信号のイメージの形状を時間別に変化させて表示されるように制御する制御部と、
前記ソース信号に該当するイメージを表示するディスプレイ部と、
を含み、
前記イメージの形状は、大きさ、色相、明るさ、画面内位置のうち一つ以上を含むことを特徴とするミックス信号のインタフェース表示装置。
【請求項26】
通信網を通じてユーザ端末と結合するリミックス情報提供サーバーで行なう信号処理方法であって、
前記ユーザ端末からリミックス情報の要請を受ける段階と、
前記要請されたリミックス情報を前記ユーザ端末に伝送する段階と、
を含み、
前記リミックス情報は、ミックス信号、前記ミックス信号に含まれているソース信号、前記ミックス信号を前記ソース信号別に制御するためのミックスパラメータ、前記ミックス信号をアップミックスするためのアップミックスパラメータ、前記ソース信号を表現するためのアイコンまたは顔文字のうち少なくとも一つを含むことを特徴とする信号処理方法。
【請求項27】
前記リミックス情報は、
前記ミックス信号に含まれている前記ソース信号から一部のソース信号が除外された変形されたミックス信号を含むことを特徴とする請求項26に記載の信号処理方法。
【請求項28】
前記ユーザ端末から前記変形されたミックス信号伝送の要請を受ける場合、
前記方法は、前記ミックス信号から除外するソース信号が選択される段階と、
前記選択されたソース信号が除外された変形されたミックス信号を生成する段階と、
をさらに含み、
前記伝送する段階は、前記変形されたミックス信号を前記ユーザ端末に伝送することを特徴とする請求項27に記載の信号処理方法。
【請求項29】
前記伝送する段階は、
前記リミックス情報に対する決済が完了すると、前記リミックス情報を前記ユーザ端末に伝送する段階を含むことを特徴とする請求項26〜28のいずれか1項に記載の信号処理方法。
【請求項30】
前記リミックス情報提供サーバーは、金融機関または移動通信事業者と通信網を通じて結合し、前記決済は、
前記ユーザ端末にユーザ端末認証情報を要請する段階と、
前記ユーザ端末から入力された前記認証情報を、前記金融機関または前記移動通信事業者に伝送して認証を要請する段階と、
前記ユーザ端末認証が完了すると、前記金融機関または前記移動通信事業者に決済情報を伝送して決済を要請する段階と、
を含むことを特徴とする請求項29に記載の信号処理方法。
【請求項31】
リミックス情報提供サーバーと通信網を通じて結合するユーザ端末で行なう信号処理方法であって、
前記サーバーに接続してリミックス情報を要請する段階と、
前記サーバーから要請された決済情報を前記サーバーに伝送する段階と、
決済が完了すると、前記サーバーから前記リミックス情報を受信する段階と、
を含み、
前記リミックス情報は、ミックス信号、前記ミックス信号に含まれているソース信号、前記ミックス信号を前記ソース信号別に制御するためのミックスパラメータ、前記ミックス信号をアップミックスするためのアップミックスパラメータ、前記ソース信号を表現するためのアイコンまたは顔文字のうち少なくとも一つを含むことを特徴とする信号処理方法。
【請求項32】
ユーザ端末と通信網を通じて結合するリミックス情報提供サーバーであって、
前記ユーザ端末からリミックス情報が要請され、該要請されたリミックス情報を前記ユーザ端末に伝送する送受信部と、
前記ユーザ端末の要請に応じて、前記要請されたリミックス情報を抽出するデータベース部と、
前記リミックス情報使用が有料である場合、前記リミックス情報使用に対する決済を処理する決済処理部と、
前記ユーザ端末が要請した前記リミックス情報を、前記ユーザ端末に伝送するようにする制御部と、
を含み、
前記リミックス情報は、ミックス信号、前記ミックス信号に含まれているソース信号、前記ミックス信号を前記ソース信号別に制御するためのミックスパラメータ、前記ミックス信号をアップミックスするためのアップミックスパラメータ、前記ソース信号を表現するためのアイコンまたは顔文字のうち少なくとも一つを含むことを特徴とするリミックス情報提供サーバー。
【請求項33】
リミックス情報提供サーバーと通信網を通じて結合するユーザ端末であって、
前記リミックス情報提供サーバーにリミックス情報を要請し、前記要請したリミックス情報を受信する通信部と、
制御情報を受信するユーザインタフェースと、
前記リミックス情報及び前記制御情報を用いて、ミックス信号に含まれているソース信号をリミックスするリミックスレンダリング部と、
前記ユーザ端末の全般を制御して、前記ミックス信号に含まれている前記ソース信号をリミックスするようにする制御部と、
を含み、
前記リミックス情報は、ミックス信号、前記ミックス信号に含まれているソース信号、前記ミックス信号を前記ソース信号別に制御するためのミックスパラメータ、前記ミックス信号をアップミックスするためのアップミックスパラメータ、前記ソース信号を表現するためのアイコンまたは顔文字のうち少なくとも一つを含むことを特徴とするユーザ端末。
【請求項1】
入力部と、
前記入力部を通じて受信した入力信号をソース別メニュー表示命令に変換した後、前記ソース別メニュー表示命令によって、ミックス信号に該当するソース情報に基づいてソース別メニュー表示画面が出力されるようにする制御部と、
前記ソース別メニュー表示画面が出力されるディスプレイと、
を含むことを特徴とする入力装置。
【請求項2】
ポインティングデバイスまたは方向移動キーをさらに含み、
前記制御部は、前記ポインティングデバイスまたは方向移動キーを通じて受信した入力信号を、ソース別レベル調整命令に変換することを特徴とする請求項1に記載の入力装置。
【請求項3】
入力部と、
前記入力部を通じて受信した入力信号を、ソース別メニュー表示命令に変換する制御部と、
前記制御部により変換された命令を、外部装置に伝送するための無線通信部と、
を含むことを特徴とする入力装置。
【請求項4】
入力部と、
前記入力部を通じて受信した入力信号を、音声ミュート命令または音声レベル調整命令に変換し、前記音声ミュート命令または音声レベル調整に基づいてミックス信号に関する制御情報を出力する制御部と、
を含むことを特徴とする入力装置。
【請求項5】
入力部と、
前記入力部を通じて受信した入力信号をアンビエンス画面表示命令に変換し、前記アンビエンス画面表示命令によって、ミックス信号に該当するソース情報に基づいてアンビエンス画面が出力されるようにする制御部と、
前記アンビエンス画面が出力されるディスプレイと、
を含むことを特徴とする入力装置。
【請求項6】
ポインティングデバイスまたは方向移動キーをさらに含み、
前記制御部は、前記ポインティングデバイスまたは方向移動キーを通じて受信した入力信号をアンビエンス調整命令に変換し、前記アンビエンス調整命令に基づいてミックス信号に関する制御情報を出力することを特徴とする請求項5に記載の入力装置。
【請求項7】
ショートカットキー登録命令を受信する段階と、
複数のキーのうち一つのキー、複数のソースのうち一つのソース、一つ以上の機能のうち一つの機能が選択される段階と、
前記選択されたキーに、前記選択されたソースに対して前記選択された機能をマッチングさせて保存する段階と、
を含み、
前記複数のソースは、オーディオ信号のソース、及びビデオ信号のソースのうち一つ以上を含み、
前記一つ以上の機能は、音ミュート、アンビエンス調整、及びレベル調整のうち一つ以上を含むことを特徴とする入力方法。
【請求項8】
複数のキーのうち一つのキー、複数のソースのうち一つのソース、及び一つ以上の機能のうち一つの機能を選択するための入力部と、
各キー別命令情報が保存される記憶部と、
前記入力部により前記選択されたキーに、前記選択されたソースに対して前記選択された機能をマッチングさせて前記記憶部に保存する制御部と、
を含み、
前記複数のソースは、オーディオ信号の客体、及びビデオ信号の客体のうち一つ以上を含み、
前記一つ以上の機能は、音ミュート、アンビエンス調整、及びレベル調整のうち一つ以上を含むことを特徴とする入力装置。
【請求項9】
特定ミックス信号が選択される段階と、
前記ミックス信号に対応するソース信号情報を照会して、前記ソース信号のリストをディスプレイに表示する段階と、
を含み、
前記表示は、前記ミックス信号が選択されている間に維持されることを特徴とするミックス信号のインタフェース表示方法。
【請求項10】
前記ソース信号情報は、前記ミックス信号に対応する付加情報から抽出されることを特徴とする請求項9に記載のミックス信号のインタフェース表示方法。
【請求項11】
前記ソース信号のリストは、前記ミックス信号に含まれているソース信号の楽器名、歌手名、及び登場人物名のうち一つ以上であることを特徴とする請求項9に記載のミックス信号のインタフェース表示方法。
【請求項12】
前記ソース信号のリストから一つのソースが選択される段階と、
前記選択されたソースに対する音量レベル調整画面をさらに表示する段階と、
をさらに含むことを特徴とする請求項9に記載のミックス信号のインタフェース表示方法。
【請求項13】
前記ソース信号のリストから一つのソースが選択される段階と、
前記選択されたソースに対するイコライザ調整画面またはアンビエンス調整画面を表示する段階と、
をさらに含むことを特徴とする請求項9に記載のミックス信号のインタフェース表示方法。
【請求項14】
複数のミックス信号から一つを選択するための入力部と、
前記ミックス信号に対応するソース信号情報を照会して、前記ソース信号のリストを表示する制御部と、
前記ソース信号のリストを表示するためのディスプレイと、
を含み、
前記表示は、前記ミックス信号が選択されている間に維持されることを特徴とするミックス信号のインタフェース表示装置。
【請求項15】
第2ディスプレイをさらに含み、
前記入力部は、前記ソース信号のリストから一つのソースを選択するためのものであり、
前記制御部は、前記選択されたソースに対するメタデータ、音量レベル調整画面、イコライザ調整画面、アンビエンス調整画面のうち一つ以上を前記第2ディスプレイに表示させることを特徴とする請求項14に記載のミックス信号のインタフェース表示装置。
【請求項16】
特定ミックス信号が選択される段階と、
前記ミックス信号に対応するソース信号情報を照会して、前記ソース信号情報に基づいて前記ソース信号に該当するアイコンを表示する段階と、
を含むことを特徴とするミックス信号のインタフェース表示方法。
【請求項17】
前記ソース信号情報は、前記ミックス信号に対応する付加情報から抽出されることを特徴とする請求項16に記載のミックス信号のインタフェース表示方法。
【請求項18】
前記アイコンのうち一つに対する実行命令を受信すると、選択されたアイコンに該当するソース信号のレベル調整画面を表示する段階をさらに含むことを特徴とする請求項16に記載のミックス信号のインタフェース表示方法。
【請求項19】
レベル調整に関する命令を受信すると、調整されたレベルに従って前記選択されたアイコンの形状を変化させる段階をさらに含み、
前記アイコンの形状は、大きさ、色相、明るさ、及び画面内位置のうち一つ以上を含むことを特徴とする請求項18に記載のミックス信号のインタフェース表示方法。
【請求項20】
前記アイコンのうち一つが選択されると、選択されたアイコンに該当するソース信号のイコライザ画面を表示する段階をさらに含むことを特徴とする請求項16に記載のミックス信号のインタフェース表示方法。
【請求項21】
サブバンド別レベル調整に関する命令を受信すると、前記選択されたアイコンに該当するソース信号のサブバンドレベルを調整して、前記ミックス信号をリミキシングする段階をさらに含むことを特徴とする請求項20に記載のミックス信号のインタフェース表示方法。
【請求項22】
前記アイコンのうち一つが選択されると、選択されたアイコンに該当するソース信号のアンビエンス調整画面を表示する段階をさらに含み、
前記アンビエンス調整画面は、ソース信号別相対的位置が表示された画面であることを特徴とする請求項16に記載のミックス信号のインタフェース表示方法。
【請求項23】
複数のミックス信号から一つを選択するための入力部と、
前記入力部により選択されたミックス信号に対応するソース信号情報に基づいて、前記ソース信号に該当するアイコンを表示する制御部と、
前記ソース信号に該当するアイコンを表示するためのディスプレイ部と、
を含むことを特徴とするミックス信号のインタフェース表示装置。
【請求項24】
ミックス信号に対する再生命令を受信する段階と、
前記ミックス信号に対応するソース信号のレベルが時間別に変化するに従って、前記ソース信号のイメージの形状を時間別に変化させて表示する段階と、
を含み、
前記イメージの形状は、大きさ、色相、明るさ、画面内位置のうち一つ以上を含むことを特徴とするミックス信号のインタフェース表示方法。
【請求項25】
ミックス信号に対する再生命令を入力するための入力部と、
前記ミックス信号に対応するソース信号のレベルが時間別に変化するに従って、前記ソース信号のイメージの形状を時間別に変化させて表示されるように制御する制御部と、
前記ソース信号に該当するイメージを表示するディスプレイ部と、
を含み、
前記イメージの形状は、大きさ、色相、明るさ、画面内位置のうち一つ以上を含むことを特徴とするミックス信号のインタフェース表示装置。
【請求項26】
通信網を通じてユーザ端末と結合するリミックス情報提供サーバーで行なう信号処理方法であって、
前記ユーザ端末からリミックス情報の要請を受ける段階と、
前記要請されたリミックス情報を前記ユーザ端末に伝送する段階と、
を含み、
前記リミックス情報は、ミックス信号、前記ミックス信号に含まれているソース信号、前記ミックス信号を前記ソース信号別に制御するためのミックスパラメータ、前記ミックス信号をアップミックスするためのアップミックスパラメータ、前記ソース信号を表現するためのアイコンまたは顔文字のうち少なくとも一つを含むことを特徴とする信号処理方法。
【請求項27】
前記リミックス情報は、
前記ミックス信号に含まれている前記ソース信号から一部のソース信号が除外された変形されたミックス信号を含むことを特徴とする請求項26に記載の信号処理方法。
【請求項28】
前記ユーザ端末から前記変形されたミックス信号伝送の要請を受ける場合、
前記方法は、前記ミックス信号から除外するソース信号が選択される段階と、
前記選択されたソース信号が除外された変形されたミックス信号を生成する段階と、
をさらに含み、
前記伝送する段階は、前記変形されたミックス信号を前記ユーザ端末に伝送することを特徴とする請求項27に記載の信号処理方法。
【請求項29】
前記伝送する段階は、
前記リミックス情報に対する決済が完了すると、前記リミックス情報を前記ユーザ端末に伝送する段階を含むことを特徴とする請求項26〜28のいずれか1項に記載の信号処理方法。
【請求項30】
前記リミックス情報提供サーバーは、金融機関または移動通信事業者と通信網を通じて結合し、前記決済は、
前記ユーザ端末にユーザ端末認証情報を要請する段階と、
前記ユーザ端末から入力された前記認証情報を、前記金融機関または前記移動通信事業者に伝送して認証を要請する段階と、
前記ユーザ端末認証が完了すると、前記金融機関または前記移動通信事業者に決済情報を伝送して決済を要請する段階と、
を含むことを特徴とする請求項29に記載の信号処理方法。
【請求項31】
リミックス情報提供サーバーと通信網を通じて結合するユーザ端末で行なう信号処理方法であって、
前記サーバーに接続してリミックス情報を要請する段階と、
前記サーバーから要請された決済情報を前記サーバーに伝送する段階と、
決済が完了すると、前記サーバーから前記リミックス情報を受信する段階と、
を含み、
前記リミックス情報は、ミックス信号、前記ミックス信号に含まれているソース信号、前記ミックス信号を前記ソース信号別に制御するためのミックスパラメータ、前記ミックス信号をアップミックスするためのアップミックスパラメータ、前記ソース信号を表現するためのアイコンまたは顔文字のうち少なくとも一つを含むことを特徴とする信号処理方法。
【請求項32】
ユーザ端末と通信網を通じて結合するリミックス情報提供サーバーであって、
前記ユーザ端末からリミックス情報が要請され、該要請されたリミックス情報を前記ユーザ端末に伝送する送受信部と、
前記ユーザ端末の要請に応じて、前記要請されたリミックス情報を抽出するデータベース部と、
前記リミックス情報使用が有料である場合、前記リミックス情報使用に対する決済を処理する決済処理部と、
前記ユーザ端末が要請した前記リミックス情報を、前記ユーザ端末に伝送するようにする制御部と、
を含み、
前記リミックス情報は、ミックス信号、前記ミックス信号に含まれているソース信号、前記ミックス信号を前記ソース信号別に制御するためのミックスパラメータ、前記ミックス信号をアップミックスするためのアップミックスパラメータ、前記ソース信号を表現するためのアイコンまたは顔文字のうち少なくとも一つを含むことを特徴とするリミックス情報提供サーバー。
【請求項33】
リミックス情報提供サーバーと通信網を通じて結合するユーザ端末であって、
前記リミックス情報提供サーバーにリミックス情報を要請し、前記要請したリミックス情報を受信する通信部と、
制御情報を受信するユーザインタフェースと、
前記リミックス情報及び前記制御情報を用いて、ミックス信号に含まれているソース信号をリミックスするリミックスレンダリング部と、
前記ユーザ端末の全般を制御して、前記ミックス信号に含まれている前記ソース信号をリミックスするようにする制御部と、
を含み、
前記リミックス情報は、ミックス信号、前記ミックス信号に含まれているソース信号、前記ミックス信号を前記ソース信号別に制御するためのミックスパラメータ、前記ミックス信号をアップミックスするためのアップミックスパラメータ、前記ソース信号を表現するためのアイコンまたは顔文字のうち少なくとも一つを含むことを特徴とするユーザ端末。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25A】
【図25B】
【図26】
【図27】
【図28】
【図29】
【図30】
【図31】
【図32】
【図33A】
【図33B】
【図33C】
【図33D】
【図34】
【図35A】
【図35B】
【図36A】
【図36B】
【図37A】
【図37B】
【図38】
【図39】
【図40】
【図41】
【図42】
【図43】
【図44】
【図45】
【図46】
【図47】
【図48】
【図49】
【図50】
【図51】
【図52】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25A】
【図25B】
【図26】
【図27】
【図28】
【図29】
【図30】
【図31】
【図32】
【図33A】
【図33B】
【図33C】
【図33D】
【図34】
【図35A】
【図35B】
【図36A】
【図36B】
【図37A】
【図37B】
【図38】
【図39】
【図40】
【図41】
【図42】
【図43】
【図44】
【図45】
【図46】
【図47】
【図48】
【図49】
【図50】
【図51】
【図52】
【公表番号】特表2010−512042(P2010−512042A)
【公表日】平成22年4月15日(2010.4.15)
【国際特許分類】
【出願番号】特願2009−539193(P2009−539193)
【出願日】平成19年12月3日(2007.12.3)
【国際出願番号】PCT/KR2007/006198
【国際公開番号】WO2008/066364
【国際公開日】平成20年6月5日(2008.6.5)
【出願人】(502032105)エルジー エレクトロニクス インコーポレイティド (2,269)
【Fターム(参考)】
【公表日】平成22年4月15日(2010.4.15)
【国際特許分類】
【出願日】平成19年12月3日(2007.12.3)
【国際出願番号】PCT/KR2007/006198
【国際公開番号】WO2008/066364
【国際公開日】平成20年6月5日(2008.6.5)
【出願人】(502032105)エルジー エレクトロニクス インコーポレイティド (2,269)
【Fターム(参考)】
[ Back to top ]