説明

プログラム、情報記憶媒体及び画像生成システム

【課題】 音に反応して振動する物体の動きをリアルに表現することができるプログラム、情報記憶媒体及び画像生成システムを提供する。
【解決手段】 フレームレートより高いサンプリングレートでサンプリングされた音データが再生出力される際に、その音データに対応するデータであって、フレームレートでサンプリングされた振動データに基づいて、オブジェクトを構成する頂点を移動させる頂点シェーディングを行ってオブジェクト空間における所与の視点から見える画像を生成する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、プログラム、情報記憶媒体及び画像生成システムに関する。
【背景技術】
【0002】
従来より、キャラクタなどのオブジェクトが配置設定されるオブジェクト空間(仮想的な3次元空間)において仮想カメラ(所与の視点)から見える画像を生成する画像生成システム(ゲームシステム)が知られており、いわゆる仮想現実を体験できるものとして人気が高い。
【0003】
このような画像生成システムでは、プレーヤの仮想現実感を高めるために、例えばスピーカの振動板(コーン)などのように複雑な振動(脈動)を行うオブジェクトの動きについても実際に再生出力される音に対応させてリアルに表現できることが望まれている。
【特許文献1】特開2001−269483号公報
【発明の開示】
【発明が解決しようとする課題】
【0004】
本発明は、上記事情に鑑みてなされたものであり、音に反応して振動する物体の動きをリアルに表現することができるプログラム、情報記憶媒体及び画像生成システムを提供することにある。
【課題を解決するための手段】
【0005】
本発明は、オブジェクト空間における所与の視点から見える画像を生成するための画像生成システムであって、フレームレートより高いサンプリングレートでサンプリングされた音データを記憶する音データ記憶部と、前記音データに対応するデータであって、前記フレームレートでサンプリングされた振動データを記憶する振動データ記憶部と、前記音データが再生出力される際に、その再生フレームに対応する前記振動データを取得して、その振動データに基づいて、オブジェクトを構成する頂点を移動させる頂点シェーディングを行う画像生成部と、を含む画像生成システムに関係する。また本発明は、上記各部としてコンピュータを機能させるプログラムに関係する。また本発明は、コンピュータにより読取可能な情報記憶媒体であって、上記各部としてコンピュータを機能させるプログラムを記憶(記録)した情報記憶媒体に関係する。
【0006】
本発明によれば、音データの再生フレームに対応した振動データを用いてオブジェクトを構成する頂点を移動させることによって、オブジェクトを変形させる。これにより、再生される音の変化に合わせて物体が振動する様子をリアルに表現することができるようになる。
【0007】
また本発明の画像生成システムでは、前記音データを取得して、その音データの再生フレームに対応する前記振動データを生成する振動データ生成部を含み、前記振動データ生成部が、第Nの再生フレームにおいて再生出力される前記音データの複数のサンプリングデータのフィルタリング処理を行って、前記第Nの再生フレームに対応する前記振動データを生成するようにしてもよい。また本発明のプログラム及び情報記憶媒体では、上記振動データ生成部としてコンピュータを機能させるようにしてもよい。このようにすれば、同一の再生フレーム内で再生出力される音データに含まれる複数のサンプリングデータから、その再生フレームにおいてオブジェクトを変形させるのに好適な振動データを得ることができる。
【0008】
また本発明の画像生成システム、プログラム及び情報記憶媒体では、前記振動データ生成部が、前記第Nの再生フレームにおいて再生出力される前記音データの複数のサンプリングデータを平均化する処理を前記フィルタリング処理として行うようにしてもよい。このようにすれば、音データの低周波成分を振動データとして抽出することができ、例えば、ウーファーの振動板が振動する様子をリアルに表現することができるようになる。
【0009】
また本発明の画像生成システム、プログラム及び情報記憶媒体では、前記振動データ生成部が、前記第Nの再生フレームにおいて再生出力される前記音データの複数のサンプリングデータの中から振幅が最大あるいは最小のサンプリングデータを抽出する処理を前記フィルタリング処理として行うようにしてもよい。このようにすれば、簡便な処理で音データから振動データを生成することができる。例えば、振幅が最大となるサンプリングデータと振幅が最小になるサンプリングデータを複数の再生フレームにおいて交互に抽出するようにすれば、振動データを得ることができる。
【0010】
また本発明の画像生成システム、プログラム及び情報記憶媒体では、前記振動データ生成部が、音検出部の検出音を前記フレームレートより高いサンプリングレートでサンプリングした音データを取得し、取得した前記検出音に対応する音データに基づいて前記振動データを生成するようにしてもよい。このようにすれば、マイクなどに自由に入力された音に応じてオブジェクトを変形させて、物体が振動する様子をリアルに表現することができる。
【0011】
また本発明の画像生成システム、プログラム及び情報記憶媒体では、前記振動データ生成部が、第Nの再生フレーム用の前記音データに対応する前記振動データを、少なくとも第N−1の再生フレームが終了するまでに生成するようにしてもよい。このようにすれば、音データの再生のタイミングとオブジェクトの振動の様子とのズレを軽減することができ、リアルタイムに近い状態で音に反応した物体の振動の様子を表現することができるようになる。
【0012】
また本発明の画像生成システム、プログラム及び情報記憶媒体では、前記画像生成部が、前記振動データと前記オブジェクトに対応して設定された属性データとに基づいて、該オブジェクトの頂点を移動させる頂点シェーディングを行うようにしてもよい。このようにすれば、物体の硬さや振動特性などの違いに応じてその振動の様子が異なるように表現することができる。
【0013】
また本発明の画像生成システム、プログラム及び情報記憶媒体では、前記画像生成部が、前記振動データの補間処理によって前記オブジェクトを構成する複数の頂点の移動情報を求め、該移動情報に基づいて各頂点を移動させる頂点シェーディングを行うようにしてもよい。このようにすれば、複数の頂点について1つの振動データから異なる移動情報を求めることができ、物体の振動の様子を多様に表現することができるようになる。
【0014】
また本発明の画像生成システム、プログラム及び情報記憶媒体では、前記画像生成部が、前記振動データと前記オブジェクトを構成する各頂点に対して予め設定された移動ベクトルとに基づいて該各頂点の移動情報を求め、該移動情報に基づいて各頂点を移動させる頂点シェーディングを行うようにしてもよい。このようにすれば、複数の頂点について1つの振動データから異なる移動情報を求めることができ、物体の振動の様子を多様に表現することができるようになる。
【発明を実施するための最良の形態】
【0015】
以下、本実施形態について説明する。なお、以下に説明する本実施形態は、特許請求の範囲に記載された本発明の内容を不当に限定するものではない。また本実施形態で説明される構成の全てが、本発明の必須構成要件であるとは限らない。
【0016】
1.構成
図1に本実施形態の画像生成システム(ゲームシステム)の機能ブロック図の例を示す。なお本実施形態の画像生成システムは図1の構成要素(各部)の一部を省略した構成としてもよい。
【0017】
入力部160は、プレーヤがオブジェクト(例えば、プレーヤキャラクタ)の操作データを入力するためのものである。入力部160は、操作部162と音検出部164とを含み、操作部162は、例えば、レバー、ボタン、ステアリング、タッチパネル型ディスプレイなどにより実現できる。音検出部164は、例えば、マイク(マイクロフォン)により実現できる。記憶部170は、処理部100や通信部196などのワーク領域となるもので、その機能はRAM(VRAM)などにより実現できる。
【0018】
情報記憶媒体180(コンピュータにより読み取り可能な媒体)は、プログラムやデータなどを格納するものであり、その機能は、光ディスク(CD、DVD)、光磁気ディスク(MO)、磁気ディスク、ハードディスク、磁気テープ、或いはメモリ(ROM)などにより実現できる。処理部100は、情報記憶媒体180に格納されるプログラム(データ)に基づいて本実施形態の種々の処理を行う。即ち情報記憶媒体180には、本実施形態の各部としてコンピュータを機能させるためのプログラム(各部の処理をコンピュータに実行させるためのプログラム)が記憶される。
【0019】
表示部190は、本実施形態により生成された画像を出力するものであり、その機能は、CRT、LCD、タッチパネル型ディスプレイ、或いはHMD(ヘッドマウントディスプレイ)などにより実現できる。音出力部192は、本実施形態により生成された音を出力するものであり、その機能は、スピーカ、或いはヘッドフォンなどにより実現できる。
【0020】
携帯型情報記憶装置194は、プレーヤの個人データやゲームのセーブデータなどが記憶されるものであり、この携帯型情報記憶装置194としては、メモリカードや携帯型ゲーム装置などがある。通信部196は外部(例えばホスト装置や他の画像生成システム)との間で通信を行うための各種制御を行うものであり、その機能は、各種プロセッサ又は通信用ASICなどのハードウェアや、プログラムなどにより実現できる。
【0021】
なお本実施形態の各部としてコンピュータを機能させるためのプログラム(データ)は、ホスト装置(サーバー)が有する情報記憶媒体からネットワーク及び通信部196を介して情報記憶媒体180(あるいは記憶部170)に配信してもよい。このようなホスト装置(サーバー)の情報記憶媒体の使用も本発明の範囲内に含めることができる。
【0022】
処理部100(プロセッサ)は、操作部160からの操作データやプログラムなどに基づいて、ゲーム処理、画像生成処理、或いは音生成処理などの処理を行う。ここでゲーム処理としては、ゲーム開始条件が満たされた場合にゲームを開始する処理、ゲームを進行させる処理、キャラクタやマップなどのオブジェクトを配置する処理、オブジェクトを表示する処理、ゲーム結果を演算する処理、或いはゲーム終了条件が満たされた場合にゲームを終了する処理などがある。この処理部100は記憶部170内の主記憶部172をワーク領域として各種処理を行う。処理部100の機能は各種プロセッサ(CPU、DSP等)、ASIC(ゲートアレイ等)などのハードウェアや、プログラムにより実現できる。
【0023】
処理部100は、オブジェクト空間設定部110、移動・動作処理部112、仮想カメラ制御部114、振動データ生成部116、画像生成部120、音生成部130を含む。なおこれらの一部を省略する構成としてもよい。
【0024】
オブジェクト空間設定部110は、キャラクタ、建物、球場、車、樹木、柱、壁、マップ(地形)などの表示物を表す各種オブジェクト(ポリゴン、自由曲面又はサブディビジョンサーフェイスなどのプリミティブ面で構成されるオブジェクト)をオブジェクト空間に配置設定する処理を行う。即ちワールド座標系でのオブジェクトの位置や回転角度(向き、方向と同義)を決定し、その位置(X、Y、Z)にその回転角度(X、Y、Z軸回りでの回転角度)でオブジェクトを配置する。
【0025】
移動・動作処理部112は、オブジェクト(キャラクタ、車、又は飛行機等)の移動・動作演算(移動・動作シミュレーション)を行う。即ち操作部160によりプレーヤが入力した操作データや、プログラム(移動・動作アルゴリズム)や、各種データ(モーションデータ)などに基づいて、モデルオブジェクトをオブジェクト空間内で移動させたり、オブジェクトを動作(モーション、アニメーション)させる処理を行う。具体的には、オブジェクトの移動情報(位置、回転角度、速度、或いは加速度)や動作情報(パーツオブジェクトの位置、或いは回転角度)を、1フレーム(1/60秒)毎に順次求めるシミュレーション処理を行う。なおフレームは、オブジェクトの移動・動作処理(シミュレーション処理)や画像生成処理を行う時間の単位である。
【0026】
仮想カメラ制御部114は、オブジェクト空間内の所与(任意)の視点から見える画像を生成するための仮想カメラ(視点)の制御処理を行う。具体的には、仮想カメラの位置(X、Y、Z)又は回転角度(X、Y、Z軸回りでの回転角度)を制御する処理(視点位置や視線方向を制御する処理)を行う。
【0027】
例えば仮想カメラによりオブジェクト(例えばキャラクタ、ボール、車)を後方から撮影する場合には、オブジェクトの位置又は回転の変化に仮想カメラが追従するように、仮想カメラの位置又は回転角度(仮想カメラの向き)を制御する。この場合には、移動・動作処理部112で得られたオブジェクトの位置、回転角度又は速度などの情報に基づいて、仮想カメラを制御できる。或いは、仮想カメラを、予め決められた回転角度で回転させたり、予め決められた移動経路で移動させる制御を行ってもよい。この場合には、仮想カメラの位置(移動経路)又は回転角度を特定するための仮想カメラデータに基づいて仮想カメラを制御する。なお、仮想カメラ(視点)が複数存在する場合には、それぞれの仮想カメラについて上記の制御処理が行われる。
【0028】
振動データ生成部116は、音データを取得して、その音データの再生フレームに対応する振動データを生成する処理を行う。生成された振動データは、振動データ記憶部178に記憶される。音データは、音データ記憶部176から取得する。音データ記憶部176には、音検出部164の検出音に対応する音データや情報記憶媒体180から読み出された音データが記憶されている。この音データは、描画処理の単位期間であるフレームレート(例えば、1/60秒)よりも十分に高いサンプリングレートでサンプリングされたデータである。例えば、情報記憶媒体180となりうるCDやDVDのPCMデータを例に取ると、サンプリングレートは、1/44100秒(44.1kHz)である。なお、マイクなどの音検出部164から音を取得する場合には、振動データ生成部116は、音検出部164での検出音に対応する音データから振動データを生成する場合においては、音検出部164の検出音をフレームレートより高いサンプリングレートでサンプリングした音データを音データ記憶部176にバッファリングしておき、その検出音に対応する音データを取得する。このようにすれば、マイクなどに自由に入力された音に応じてオブジェクトを変形させて、物体が振動する様子をリアルに表現することができる。
【0029】
また振動データ生成部116は、取得した音データに含まれる複数のサンプリングデータのフィルタリング処理によって振動データを生成する。フィルタリング処理としては、例えば、1フレーム内で再生される音データのサンプリングデータを平均化する処理や、1フレーム内で再生される音データのサンプリングデータの中から振幅が最大のサンプリングデータと振幅が最小のサンプリングデータとを交互に抽出する処理がある。
【0030】
画像生成部120は、処理部100で行われる種々の処理(ゲーム処理)の結果に基づいて描画処理を行い、これにより画像を生成し、表示部190に出力する。いわゆる3次元ゲーム画像を生成する場合には、まずオブジェクトの各頂点の頂点データ(頂点の位置座標、テクスチャ座標、色データ、法線ベクトル或いはα値等)を含む頂点リストが入力され、入力された頂点リストに含まれる頂点データに基づいて、頂点シェーディング(広義には、頂点処理)が行われる。なお頂点シェーディングを行う際に、必要に応じてポリゴンを再分割するための頂点生成処理(テッセレーション、曲面分割、ポリゴン分割)を行うこともできる。頂点シェーディングでは、頂点シェーダプログラム(広義には、第1のシェーダプログラム)に従って、頂点の移動処理や、座標変換(ワールド座標変換、カメラ座標変換)、クリッピング処理、あるいは透視変換等のジオメトリ処理が行われ、その処理結果に基づいて、オブジェクトを構成する頂点群について与えられた頂点データを変更(更新、調整)する。そして、頂点シェーディング後の頂点データに基づいてラスタライズ(走査変換)が行われ、フレーム画像を構成するピクセル(表示画面を構成するフラグメント)を描画するピクセルシェーディング(広義には、ピクセル処理、フラグメント処理)が行われる。ピクセルシェーディングでは、ピクセルシェーダプログラム(第2のシェーダプログラム)に従って、テクスチャの読出し(テクスチャマッピング)、色データの設定/変更、半透明合成、アンチエイリアス等の各種処理を行って、フレーム画像のピクセルの最終的な描画色を決定し、透視変換されたオブジェクトの描画色を描画バッファ174(ピクセル単位で画像情報を記憶できるバッファ。VRAM)に出力(描画)する。すなわち、ピクセルシェーディングでは、フレーム画像の画像情報(色、法線、輝度、α値等)をピクセル単位で設定あるいは変更するパーピクセル処理を行う。これにより、オブジェクト空間内において仮想カメラ(所与の視点)から見える画像(フレーム画像)が生成される。なお、仮想カメラ(視点)が複数存在する場合には、それぞれの仮想カメラから見える画像を分割画像として1画面に表示できるようにフレーム画像を生成することができる。
【0031】
画像生成部120は、頂点シェーダ部122、ピクセルシェーダ部124を含む。なお、これらの一部を省略する構成としてもよい。
【0032】
頂点シェーダ部122は、頂点単位で行われる処理である頂点シェーディングを実行するプログラマブルシェーダの一種である。特に、頂点シェーダ部122は、音データが音出力部192から再生出力される際に、その再生フレームに対応する振動データを振動データ記憶部178から取得して、取得された振動データに基づいて、オブジェクトを構成する頂点を移動(変位)させる頂点シェーディングを行う。具体的には、振動データ及び必要に応じて頂点毎に設定される他のパラメータを含む各頂点の移動情報に基づいて移動後(変位後)の各頂点の位置座標を求めて、求められた位置座標に各頂点を移動させる処理を行う。
【0033】
移動情報は、頂点の移動後の位置座標を求めるに際して、頂点の移動量(移動距離)および移動方向を与える情報である。この移動情報において、頂点の移動量は、振動データによって与えることができる。このときオブジェクトを構成する1又は複数の頂点を代表頂点(基準頂点)として予め設定しておき、代表頂点およびその周囲の頂点の移動量を振動データの補間処理によって得ることができる。また予め頂点データの中に各頂点の移動量を決定するための係数(移動量係数)を設定しておき、その係数と振動データとの乗算処理によって、各頂点の移動量を得ることができる。また予め頂点データの中に各頂点の移動量及び移動方向を決定するための基準移動ベクトルを設定しておき、そのベクトルデータと振動データとによって、各頂点の移動量及び移動方向を得ることができる。なお基準移動ベクトルは、その大きさが正規化(単位ベクトル化)されているものであってもよい。この場合には、基準移動ベクトルによって頂点の移動方向のみが与えられる。また移動情報に含まれるパラメータとしては、上記の他に属性データが挙げられる。属性データは、物体の固有振動数(共振周波数)、あるいは物体の弾性係数(堅さ、柔らかさ)など物体の振動のしやすさを与えるためのデータである。例えば金属からなる物体は振動しにくく、紙などの物体は振動しやすいなどといったオブジェクトのマテリアルに応じて、その振動の様子を変化させるためのパラメータとして属性データを利用することができる。
【0034】
ピクセルシェーダ部124では、テクスチャマッピング、隠面消去処理、αブレンディングなどを行うことができる。
【0035】
テクスチャマッピングは、記憶部170のテクスチャ領域(図示省略)に記憶されるテクスチャ(テクセル値)をオブジェクトにマッピングするための処理である。具体的には、オブジェクトの頂点に設定(付与)されるテクスチャ座標等を用いて記憶部170のテクスチャ領域からテクスチャ(色、α値などの表面プロパティ)を読み出す。そして、2次元の画像であるテクスチャをオブジェクトにマッピングする。この場合に、ピクセルとテクセルとを対応づける処理やバイリニア補間(テクセル補間)などを行う。
【0036】
隠面消去処理としては、描画ピクセルのZ値(奥行き情報)が格納されるZバッファ(奥行きバッファ)を用いたZバッファ法(奥行き比較法、Zテスト)による隠面消去処理を行うことができる。すなわちオブジェクトのプリミティブに対応する描画ピクセルを描画する際に、Zバッファに格納されるZ値を参照する。そして参照されたZバッファのZ値と、プリミティブの描画ピクセルでのZ値とを比較し、描画ピクセルでのZ値が、仮想カメラから見て手前側となるZ値(例えば小さなZ値)である場合には、その描画ピクセルの描画処理を行うとともにZバッファのZ値を新たなZ値に更新する。
【0037】
αブレンディング(α合成)は、α値(A値)に基づく半透明合成処理(通常αブレンディング、加算αブレンディング又は減算αブレンディング等)のことである。例えば通常αブレンディングの場合には下式(1)〜(3)の処理が行われる。
【0038】
=(1−α)×R+α×R (1)
=(1−α)×G+α×G (2)
=(1−α)×B+α×B (3)
また、加算αブレンディングの場合には下式(4)〜(6)の処理が行われる。
【0039】
=R+α×R (4)
=G+α×G (5)
=B+α×B (6)
また、減算αブレンディングの場合には下式(7)〜(9)の処理が行われる。
【0040】
=R−α×R (7)
=G−α×G (8)
=B−α×B (9)
ここで、R、G、Bは、描画バッファ174に既に描画されている画像(元画像)のRGB成分であり、R、G、Bは、描画バッファ174に描画すべき画像のRGB成分である。また、R、G、Bは、αブレンディングにより得られる画像のRGB成分である。なお、α値は、各ピクセル(テクセル、ドット)に関連づけて記憶できる情報であり、例えば色情報以外のプラスアルファの情報である。α値は、マスク情報、半透明度(透明度、不透明度と等価)、バンプ情報などとして使用できる。
【0041】
ここで先に述べた頂点シェーダ部122やピクセルシェーダ部124は、シェーディング言語によって記述されたシェーダプログラムによって、ポリゴン(プリミティブ)の描画処理をプログラム可能にするハードウェア、いわゆるプログラマブルシェーダの一種である。プログラマブルシェーダでは、頂点単位の処理やピクセル単位の処理がプログラム可能になることでポリゴン描画の処理内容の自由度が高く、従来のハードウェアによる固定的な画像生成処理に比べて表現力を大幅に向上させることができる。
【0042】
音生成部130は、処理部100で行われる種々の処理の結果に基づいて音処理を行い、BGM、効果音、又は音声などのゲーム音を生成し、音出力部192に出力する。
【0043】
なお、本実施形態の画像生成システムは、1人のプレーヤのみがプレイできるシングルプレーヤモード専用のシステムにしてもよいし、複数のプレーヤがプレイできるマルチプレーヤモードも備えるシステムにしてもよい。また複数のプレーヤがプレイする場合に、これらの複数のプレーヤに提供するゲーム画像やゲーム音を、1つの端末を用いて生成してもよいし、ネットワーク(伝送ライン、通信回線)などで接続された複数の端末(ゲーム機、携帯電話)を用いて分散処理により生成してもよい。
【0044】
2.本実施形態の手法
2.1 音データに応じたオブジェクトの変形手法
本実施形態では、音出力部から再生出力される音データに応じてオブジェクトの頂点を移動させて、オブジェクトを変形させることにより、物体が振動する様子を表現する手法を採用する。
【0045】
例えば、図2(A)に示すようなスピーカのモデルオブジェクトMOBの場合には、振動板(コーン)のパーツオブジェクトPOBを変形させて、再生出力される音データに同期した振動板の振動の様子を表現することができる。例えば、振動板のパーツオブジェクトPOBを構成する頂点を、音データに対応する振動データに基づいて、図2(B)及び図2(C)に示すように、振動板が縮む方向(+(正)の振動方向)と膨らむ方向(−(負)の振動方向)とに移動させることにより振動板が振動している様子が表現できる。
【0046】
例えば、振動板が縮む方向にパーツオブジェクトPOBを変形させる場合には、図3(A)に示すように、パーツオブジェクトPOBを構成する頂点を基準移動ベクトルの向きを移動方向として移動させる。また例えば、振動板が縮む方向にパーツオブジェクトPOBを移動させる場合にはおいても、図3(B)に示すように、パーツオブジェクトPOBを構成する頂点を基準移動ベクトルの向きを移動方向として移動させる。図3(A)に示す場合と図3(B)に示す場合とでは、振動方向が異なるため、基準移動ベクトルは互いに逆の向きで与えられる。基準移動ベクトルは、各頂点に対して1つだけ設定しておけばよく、一方の振動方向に移動させる場合を正の方向とし、他方の振動方向に移動させる場合を負の方向とすれば、振動方向の極性に応じて、正方向あるいは負方向に設定したベクトルを反転させることで、負方向あるいは正方向の基準移動ベクトルを与えることができる。振動方向の設定については、後述にて別途説明する。
【0047】
また図3(A)及び図3(B)に示す各場合において、頂点の移動量は、基準移動ベクトルの大きさと振動データから得られる振動量とを乗算した結果より得ることができる。ここで、基準移動ベクトルの大きさは、頂点の移動量を決めるための移動係数を表している。この移動係数は、基準移動ベクトルとは別のパラメータによって与えるようにしてもよい。なお、基準移動ベクトルは、法線ベクトルのように、その大きさを正規化(単位ベクトル化)したものであってもよい。この場合には、基準移動ベクトルによって、各頂点の移動方向のみが与えられる。
【0048】
具体的には、図4(A)に示すように、正側(+側)の振動方向(広義には、第1の振動方向)に対する基準移動ベクトルと負側(−側)の振動方向(広義には、第2の振動方向)に対する基準移動ベクトルとを、元のモデルの面(ポリゴン、プリミティブ)に対して鏡像反転(フリップ)した関係を有するように設定することができる。このようにすれば、元のモデルに対して大きく膨張変化する部分の偏り(むら)を抑えることができる。また簡易モデルで振動表現を行う場合には、図4(B)に示すように、オブジェクトの各頂点に与えられる法線方向の単位ベクトル(法線ベクトル)を基準移動ベクトルとすることもできる。この場合には、正側(+側)の振動方向(広義には、第1の振動方向)に対する基準移動ベクトルと負側(−側)の振動方向(広義には、第2の振動方向)に対する基準移動ベクトルとが、元のモデルの面(ポリゴン、プリミティブ)に対して単純に反転した関係を有していればよい。
【0049】
また移動係数は、振動データによって得られる振動量の影響度を表す係数である。例えば、移動量を大きくする必要がある頂点については大きい移動係数(例えば、1)を設定し、頂点の移動量を小さくする必要がある頂点にについては小さい移動係数(例えば、1未満)に設定すると、振動板の縮み具合や膨らみ具合をリアルに表現することができる。言い換えれば、振動板の真ん中付近の頂点は、移動係数を高めに設定しておき、端部の頂点は、移動係数を低めに設定しておくことができる。なお移動係数は、任意の値域で設定できる。
【0050】
このように頂点の移動量を決めるための移動係数を振動データから得られる振動量とは別に設定すれば、1つの振動データから複数の頂点の移動量を決めることができるようになる。なお頂点毎に移動係数を設定することなく、1の振動データから各頂点の移動量を求める手法は、他にも考えられる。例えば、補間処理を用いる手法である。この場合には、移動量を大きくする必要がある1又は複数の頂点を代表頂点(基準頂点)として設定しておく。この場合には、代表頂点については、振動データから得られる振動量を頂点の移動量として用いる。そして代表頂点の周囲の頂点については、代表頂点からの距離に応じて代表頂点に与えられた振動量を補間して求めた補間振動量を、その頂点の移動量として求めることができる。
【0051】
また振動板の材質(マテリアル)に応じた振動の様子を表現するためには、上述したパラメータとは別に属性データを設定することもできる。この属性データとしては、固有振動数(共振周波数)や弾性係数などが考えられる。例えば、固有振動数(共振周波数)を属性データとして設定しておけば、ある特定の周波数帯の音データが再生出力される場合に、その振動が増幅される様子を表現することができるようになる。
【0052】
次に、図5(A)〜図5(C)にスピーカの振動板付近のパーツオブジェクトの振動を詳細に表現する場合の例を示す。図5(A)は、手前側(+側、正側)への振動量(振幅)が最大のときを示し、図5(B)は、ニュートラル状態(無振動状態、振幅ゼロ状態)を示し、図5(C)は、奥側(−側、負側)への振動量(振幅)が最大のときを示している。
【0053】
振動板付近のパーツオブジェクトとしては、コーン(振動板)、センターキャップ、エッジなどが含まれる。このモデルでは、センターキャップを構成する頂点を音データから抽出した振動データに基づいて求めた移動量Δd(+Δd、−Δd)だけ前後(手前・奥)に移動させるとともに、コーンを構成する頂点を移動させている。この場合、コーンおよびセンターキャップを構成する各頂点を移動させる方向を設定する基準移動ベクトルは、共通化することができる。もちろん各頂点毎に個別に設定するようにしてもよいが、基準移動ベクトルを共通化することにより、メモリの消費量を節約することができる。また各頂点の移動量を定める移動係数は、頂点毎に与えることができる。例えば、コーンを構成する頂点については、エッジ付近の頂点の移動量は小さくなり、センターキャップ付近の頂点の移動量は大きくなるように移動係数を設定することができる。
【0054】
また図5(A)〜図5(C)に示す詳細モデルにおいて、コーン部分の変形(頂点の移動)は、図3(A)及び図3(B)に示す態様としてもよい。このようにすれば、視覚的な効果が向上し、コーンが振動していることが認識できるように表現することができる。
【0055】
またよりリアルな表現を実現するために、エッジ部分を振動させるようにしてもよく、さらにコーン部分にマッピングされるテクスチャの模様を単色ではなく、コーン部分のポリゴンの伸び縮みが把握できるような模様(色、線など)のテクスチャを用いるようにしてもよい。
【0056】
2.2 振動データの生成手法
本実施形態では、音データの再生フレーム内で出力される音データの複数のサンプリングデータをフィルタリングすることにより音データに対応する振動データを生成する手法を採用している。なお、振動データは、リアルタイムに生成してもよいし、予め生成しておいたものをバッファリングしておくこともできる。なおリアルタイムに振動データを生成する場合には、予め音データを数フレーム分バッファリングしておき、その再生フレームよりも前のフレームにおいて振動データを生成しておくことが望ましい。このようにすれば、音データの再生フレームが到来したときに、その再生フレームで再生出力される音データに対応した振動データを用いて頂点の移動処理を行うことができ、実際に再生出力される音データとオブジェクトの変形による物体の振動の様子とのズレを軽減することができる。
【0057】
図6(A)に音データの例を示す。この音データは、フレームレートよりも高いサンプリングレートでサンプリングされたサンプリングデータ群からなり、1フレーム内に複数のサンプリングデータが含まれている。この場合に、各サンプリングデータの音量情報を振動データとすることも考えられる。しかし、オブジェクトの描画処理は、フレームレート単位で行われるため、このサンプリングレートに忠実に追従した画像を生成することは極めて困難である。またCDやDVD等に記録された音データの場合は、そのサンプリングレートが44.1KHzとフレームレート(60Hz)に比べて非常に高いものであるため、現実のスピーカの振動を再現しようとしても人間の目には、その振動の様子が認識できない。
【0058】
そこで、本実施形態では、1再生フレーム内で再生出力される音データの複数のサンプリングデータをフィルタリング処理することにより、オブジェクトの頂点を移動させるための振動データを生成している。
【0059】
具体的には、各再生フレームF1〜F9において再生出力される音データのサンプリングデータ群を平均化する処理によって、図6(B)に示すように、音データの低周波成分を抽出して、振動データを生成することができる。言い換えれば、サンプリングデータ群の音量情報を累積加算して、その加算値をサンプリング点の数で除算することにより、各再生フレームF1〜F9における音量情報の平均音量を算出し、その平均音量を振動データとして求めることができる。このとき、任意のしきい値音量を設定しておくことで、しきい値音量を上回る平均音量の振動データは、正の振動方向の振動量を表すデータとして扱い、しきい値を下回る平均音量の振動データは負の振動方向の振動量を表すデータとして扱うことができる。すなわち、平均音量からしきい値音量を減算することによって、振動データに極性を与えることができる。また平均音量としきい値音量との差分の絶対値を各振動方向への振動量とすることができる。そして、この振動データの極性に応じて頂点の移動方向が正負いずれの振動方向となるべきかを決定することができる。
【0060】
この手法によれば、音データの低周波成分を振動データとして抽出することによって、例えば、ウーファーの振動板が振動する様子をリアルに表現することができる。
【0061】
また振動データを生成する手法としては、図6(C)に示すように、各再生フレームF1〜F9内で再生出力される音データに含まれるサンプリングデータ群の中から最大音量のサンプリングデータと最小音量のサンプリングデータを1再生フレーム毎に交互に検出して、最大音量と最小音量との差分を振幅とする振動データを生成することができる。すなわち、この手法では、振動データのピークを検出するピークフィルタリングをしていることになる。なおこの手法においても、任意のしきい値音量を設定しておくことで、振動データに極性をもたせることができ、各再生フレームF1〜F9における振動データに対応する音量情報としきい値音量との差分を各振動方向への振動量とすることができる。このようにすれば、大きな振幅を有する振動データを生成することができる。
【0062】
3.本実施形態の処理
次に、本実施形態の詳細な処理例について図7〜図9のフローチャートを用いて説明する。
【0063】
図7に示すように、まずフレーム更新(1/60秒)のタイミングか否かを判断する(ステップS10)。そしてフレーム更新のタイミングである場合には(ステップS10でYES)、音データ記憶部にバッファリングされた音データのうち1フレーム分のサンプリングデータを取得する(ステップS11)。次に、振動データの生成処理を行う(ステップS12)。すなわち、図6(B)あるいは図6(C)で示したように、複数のサンプリングデータの平均化処理やピーク検出処理を行うフィルタリングを行って、振動データを得る。
【0064】
次に、頂点シェーダ用及びピクセルシェーダ用のシェーダプログラムの転送とシェーダプログラムを実行して描画処理を行うために必要な各種パラメータの設定及び転送を行う(ステップS13、S14)。例えば、基準移動ベクトルや振動データ、必要に応じて属性データをパラメータとして描画プロセッサに転送する。そして、モデルオブジェクトの頂点リストを描画プロセッサへ転送し(ステップS15)、ステップS13で転送した頂点シェーダプログラム及びピクセルシェーダプログラムを順次を実行する(ステップS16、S17)。
【0065】
また振動データを再生フレーム前に生成してバッファリングしておく場合には、図8に示すフローチャートに従って処理を行う。
【0066】
まずフレーム更新(1/60秒)のタイミングか否かを判断する(ステップS10a)。そしてフレーム更新のタイミングである場合には(ステップS10aでYES)、振動データ記憶部にバッファリングされた現在のフレーム(本フレーム)に対応する振動データを取得する(ステップS11a)。
【0067】
次に、頂点シェーダ用及びピクセルシェーダ用のシェーダプログラムの転送とシェーダプログラムを実行して描画処理を行うために必要な各種パラメータの設定及び転送を行う(ステップS12a、S13a)。そして、モデルオブジェクトの頂点リストを描画プロセッサへ転送し(ステップS14a)、ステップS13aで転送した頂点シェーダプログラム及びピクセルシェーダプログラムを順次を実行する(ステップS15a、S16a)。
【0068】
その後、次フレーム用の振動データの生成を行う。具体的には、音データ記憶部にバッファリングされた音データ群から次フレームの1フレーム分のサンプリングデータを取得する(ステップS17a)。そして取得したサンプリングデータ群をフィルタリング処理することにより次フレーム用の振動データを生成し(ステップS18a)、生成された振動データを振動データ記憶部にバッファリングして処理を終了する。
【0069】
ところで、頂点シェーダでは、図9に示すフローチャートに沿って頂点シェーディングを行う。まず転送された頂点リストに含まれる各頂点について、頂点移動処理の対象となる頂点かどうかを判断する(ステップS20)、頂点移動処理の対象となる頂点である場合には(ステップS20でYES)、振動データの極性に基づいて、頂点の振動方向を決定する(ステップS21)。すなわち、図2(B)及び図2(C)、図4(A)及び図4(B)あるいは図5(A)及び図5(C)に示したように正(+)の振動方向なのか、負(−)の振動方向なのかを判定して、基準移動ベクトルの向きを決定する。次に振動データ、振動方向、および各頂点に設定された基準移動ベクトルに基づいて頂点の移動後の座標を求め、求められた座標に従って頂点を移動させる(ステップS22)。すなわち、マトリクス演算(ベクトル演算)によって、頂点の位置座標を変換する処理を行う。次に、透視変換等のジオメトリ処理によって座標系の変換処理を行い、頂点のスクリーン座標を計算する(ステップS23)。このときテクスチャ座標の設定なども行われる。最終的には、作成された頂点データをピクセルシェーダ側に転送して(ステップS24)、頂点シェーダプログラムを終了する。
【0070】
4.ハードウェア構成
図10に本実施形態を実現できるハードウェア構成の例を示す。メインプロセッサ900は、DVD982(情報記憶媒体。CDでもよい。)に格納されたプログラム、通信インターフェース990を介してダウンロードされたプログラム、或いはROM950に格納されたプログラムなどに基づき動作し、ゲーム処理、画像処理、音処理などを実行する。コプロセッサ902は、メインプロセッサ900の処理を補助するものであり、マトリクス演算(ベクトル演算)を高速に実行する。例えばオブジェクトを移動させたり動作(モーション)させる物理シミュレーションに、マトリクス演算処理が必要な場合には、メインプロセッサ900上で動作するプログラムが、その処理をコプロセッサ902に指示(依頼)する。
【0071】
ジオメトリプロセッサ904は、メインプロセッサ900上で動作するプログラムからの指示に基づいて、座標変換、透視変換、光源計算、曲面生成などのジオメトリ処理を行うものであり、マトリクス演算を高速に実行する。データ伸張プロセッサ906は、圧縮された画像データや音データのデコード処理を行ったり、メインプロセッサ900のデコード処理をアクセラレートする。これにより、オープニング画面やゲーム画面において、MPEG方式等で圧縮された動画像を表示できる。
【0072】
描画プロセッサ910は、ポリゴンや曲面などのプリミティブ面で構成されるオブジェクトの描画(レンダリング)処理を実行する。オブジェクトの描画の際には、メインプロセッサ900は、DMAコントローラ970を利用して、描画データ(頂点データや他のパラメータ)を描画プロセッサ910に渡すと共に、必要であればテクスチャ記憶部924にテクスチャを転送する。すると描画プロセッサ910は、描画データやテクスチャに基づいて、Zバッファなどを利用した隠面消去を行いながら、オブジェクトをフレームバッファ922に描画する。また描画プロセッサ910は、αブレンディング(半透明処理)、デプスキューイング、ミップマッピング、フォグ処理、バイリニア・フィルタリング、トライリニア・フィルタリング、アンチエイリアシング、シェーディング処理なども行う。頂点シェーダやピクセルシェーダなどのプログラマブルシェーダも描画プロセッサ910に実装されており、本実施形態の手法を実現するシェーダプログラムに従って、頂点データの作成・変更(更新)やピクセル(あるいはフラグメント)の描画色の決定を行う。1フレーム分の画像がフレームバッファ922に書き込まれるとその画像はディスプレイ912に表示される。
【0073】
サウンドプロセッサ930は、多チャンネルのADPCM音源などを内蔵し、BGM、効果音、音声などのゲーム音を生成し、スピーカ932を介して出力する。ゲームコントローラ942やメモリカード944からのデータはシリアルインターフェース940を介して入力される。
【0074】
ROM950にはシステムプログラムなどが格納される。業務用ゲームシステムの場合にはROM950が情報記憶媒体として機能し、ROM950に各種プログラムが格納される。なおROM950の代わりにハードディスクを利用してもよい。RAM960は各種プロセッサの作業領域となる。DMAコントローラ970は、プロセッサ、メモリ間でのDMA転送を制御する。DVDドライブ980(CDドライブでもよい。)は、プログラム、画像データ、或いは音データなどが格納されるDVD982(CDでもよい。)にアクセスする。通信インターフェース990はネットワーク(通信回線、高速シリアルバス)を介して外部との間でデータ転送を行う。
【0075】
なお本実施形態の各部(各手段)の処理は、その全てをハードウェアのみにより実現してもよいし、情報記憶媒体に格納されるプログラムや通信インターフェースを介して配信されるプログラムにより実現してもよい。或いは、ハードウェアとプログラムの両方により実現してもよい。
【0076】
そして本実施形態の各部の処理をハードウェアとプログラムの両方により実現する場合には、情報記憶媒体には、ハードウェア(コンピュータ)を本実施形態の各部として機能させるためのプログラムが格納される。より具体的には、上記プログラムが、ハードウェアである各プロセッサ902、904、906、910、930に処理を指示すると共に、必要であればデータを渡す。そして、各プロセッサ902、904、906、910、930は、その指示と渡されたデータとに基づいて本発明の各部の処理を実現する。
【0077】
なお本発明は、上記実施形態で説明したものに限らず、種々の変形実施が可能である。例えば、明細書又は図面中の記載において広義や同義な用語として引用された用語は、明細書又は図面中の他の記載においても広義や同義な用語に置き換えることができる。また頂点の移動手法、あるいは振動データの生成手法も、本実施形態で説明したものに限定されず、これらと均等な手法も本発明の範囲に含まれる。
【0078】
また本実施の形態では、スピーカの振動板の振動の様子を表現する場合を例に採り説明したが、本発明はこれに限定されず、例えば、スピーカなどから出力される大音量の音でガラスが振動する様子を表現する場合などにも適用することもできる。また本実施の形態では、モデルオブジェクトを構成するパーツオブジェクトの頂点を移動させる場合を説明したが、モデルオブジェクトの全体の頂点を移動させる場合にも本実施形態の手法は適用することができる。
【0079】
また本発明は種々のゲーム(格闘ゲーム、シューティングゲーム、ロボット対戦ゲーム、スポーツゲーム、競争ゲーム、ロールプレイングゲーム、音楽演奏ゲーム、ダンスゲーム等)に適用できる。また本発明は、業務用ゲームシステム、家庭用ゲームシステム、多数のプレーヤが参加する大型アトラクションシステム、シミュレータ、マルチメディア端末、ゲーム画像を生成するシステムボード、携帯電話等の種々の画像生成システムに適用できる。
【図面の簡単な説明】
【0080】
【図1】本実施形態の画像生成システムの機能ブロック図。
【図2】図2(A)〜図2(C)は、本実施形態の手法の説明図。
【図3】図3(A)及び図3(B)は、本実施形態の手法の説明図。
【図4】図4(A)及び図4(B)は、本実施形態の手法の説明図。
【図5】図5(A)〜図5(C)は、本実施形態の手法の説明図。
【図6】図6(A)〜図6(C)は、本実施形態の手法の説明図。
【図7】本実施形態の具体的な処理例を示すフローチャート。
【図8】本実施形態の具体的な処理例を示すフローチャート。
【図9】本実施形態の具体的な処理例を示すフローチャート。
【図10】ハードウェア構成例。
【符号の説明】
【0081】
MOB モデルオブジェクト、POB パーツオブジェクト、
100 処理部、
110 オブジェクト空間設定部、112 移動・動作処理部、
114 仮想カメラ制御部、116 振動データ生成部、
120 画像生成部、122 頂点シェーダ部、124 ピクセルシェーダ部、
130 音生成部、160 入力部、162 操作部、164 音検出部、
170 記憶部、
172 主記憶部、174 描画バッファ、
176 音データ記憶部、178 振動データ記憶部、
180 情報記憶媒体、190 表示部、192 音出力部、
194 携帯型情報記憶装置、196 通信部

【特許請求の範囲】
【請求項1】
オブジェクト空間における所与の視点から見える画像を生成するためのプログラムであって、
フレームレートより高いサンプリングレートでサンプリングされた音データを記憶する音データ記憶部と、
前記音データに対応するデータであって、前記フレームレートでサンプリングされた振動データを記憶する振動データ記憶部と、
前記音データが再生出力される際に、その再生フレームに対応する前記振動データを取得して、その振動データに基づいて、オブジェクトを構成する頂点を移動させる頂点シェーディングを行う画像生成部として、
コンピュータを機能させることを特徴とするプログラム。
【請求項2】
請求項1において、
前記音データを取得して、その音データの再生フレームに対応する前記振動データを生成する振動データ生成部としてコンピュータを機能させ、
前記振動データ生成部が、
第Nの再生フレームにおいて再生出力される前記音データの複数のサンプリングデータのフィルタリング処理を行って、前記第Nの再生フレームに対応する前記振動データを生成することを特徴とするプログラム。
【請求項3】
請求項2において、
前記振動データ生成部が、
前記第Nの再生フレームにおいて再生出力される前記音データの複数のサンプリングデータを平均化する処理を前記フィルタリング処理として行うことを特徴とするプログラム。
【請求項4】
請求項2において、
前記振動データ生成部が、
前記第Nの再生フレームにおいて再生出力される前記音データの複数のサンプリングデータの中から振幅が最大あるいは最小のサンプリングデータを抽出する処理を前記フィルタリング処理として行うことを特徴とするプログラム。
【請求項5】
請求項2〜4のいずれかにおいて、
前記振動データ生成部が、
音検出部の検出音を前記フレームレートより高いサンプリングレートでサンプリングした音データを取得し、取得した前記検出音に対応する音データに基づいて前記振動データを生成することを特徴とするプログラム。
【請求項6】
請求項2〜5のいずれかにおいて、
前記振動データ生成部が、
第Nの再生フレーム用の前記音データに対応する前記振動データを、少なくとも第N−1の再生フレームが終了するまでに生成することを特徴とするプログラム。
【請求項7】
請求項1〜6のいずれかにおいて、
前記画像生成部が、
前記振動データと前記オブジェクトに対応して設定された属性データとに基づいて、該オブジェクトの頂点を移動させる頂点シェーディングを行うことを特徴とするプログラム。
【請求項8】
請求項1〜7のいずれかにおいて、
前記画像生成部が、
前記振動データの補間処理によって前記オブジェクトを構成する複数の頂点の移動情報を求め、該移動情報に基づいて各頂点を移動させる頂点シェーディングを行うことを特徴とするプログラム。
【請求項9】
請求項1〜7のいずれかにおいて、
前記画像生成部が、
前記振動データと前記オブジェクトを構成する各頂点に対して予め設定された移動ベクトルとに基づいて該各頂点の移動情報を求め、該移動情報に基づいて各頂点を移動させる頂点シェーディングを行うことを特徴とするプログラム。
【請求項10】
コンピュータにより読取可能な情報記憶媒体であって、請求項1〜9のいずれかに記載のプログラムを記憶することを特徴とする情報記憶媒体。
【請求項11】
オブジェクト空間における所与の視点から見える画像を生成するための画像生成システムであって、
フレームレートより高いサンプリングレートでサンプリングされた音データを記憶する音データ記憶部と、
前記音データに対応するデータであって、前記フレームレートでサンプリングされた振動データを記憶する振動データ記憶部と、
前記音データが再生出力される際に、その再生フレームに対応する前記振動データを取得して、その振動データに基づいて、オブジェクトを構成する頂点を移動させる頂点シェーディングを行う画像生成部と、
を含むことを特徴とする画像生成システム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate