説明

コンテンツ作成支援装置、画像処理装置、コンテンツ作成支援方法、画像処理方法、および画像表示コンテンツのデータ構造

【課題】表示画像に対する視点を自動で移動させるための設定は困難である。
【解決手段】まず作成者がコンテンツを作成したい旨の入力を行うと(S30)、目標視点情報取得部は目標視点座標の時間変化を取得する(S32)。次に補正手法特定部は、S30で作成者が入力した、コンテンツを実行する装置の識別情報に基づき、当該装置でなされる視点座標の補正手法を特定する(S34)。するとシナリオデータ生成部は、特定された視点座標の補正手法から、シナリオデータの生成式を導出する(S36)。そしてS32で取得した目標視点座標の時間変化のデータに基づき、S36で導出した生成式を用いて各時刻についてシナリオデータに設定する視点座標を算出する(S38)。生成したシナリオデータは画像データとともにコンテンツファイルとして格納する(S40)。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、表示画像に対する視点を変化させて画像表示を行う情報処理技術に関する。
【背景技術】
【0002】
ゲームプログラムを実行するだけでなく、動画を再生できる家庭用エンタテインメントシステムが提案されている。この家庭用エンタテインメントシステムでは、GPUがポリゴンを用いた三次元画像を生成する(例えば特許文献1参照)。
【0003】
ゲームなどの三次元画像に限らず、ユーザが表示中の画像を見ながら入力装置の方向指示キーなどで移動入力を行うと、それに応じて画面の表示領域が変化する技術は、様々なコンテンツで広く用いられている。このような技術では一般的に、入力装置の操作を行う手などの動きと表示領域の移動方向を揃えることにより、入力情報と出力結果の関係をユーザが直感的に把握し易くなっている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】米国特許第6563999号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
上述と同様の技術で、あらかじめ設定した順序で表示領域を自動的に移動させる技術も、デモンストレーションや広告媒体など幅広い分野で導入されつつある。この場合、表示順序の設定と実際の表示が別個の処理となるため、実際の表示を確認すると設定者が意図した通りに表示されず、設定後の調整を余儀なくされたり、設定に専門的な知識を要したり、といった課題があった。
【0006】
本発明はこのような課題に鑑みてなされたものであり、その目的は、あらかじめ設定した表示順で画像を変化させる態様において設定作業を容易にすることのできる技術を提供することにある。
【課題を解決するための手段】
【0007】
本発明のある態様はコンテンツ作成支援装置に関する。このコンテンツ作成支援装置は、ユーザが入力する視点移動要求に応じて表示中の画像の表示領域を変化させる画像処理装置において、視点移動要求によらず視点座標の変化をあらかじめ設定したシナリオデータに基づき表示領域を変化させる画像表示を行わせるコンテンツの作成を支援するコンテンツ作成支援装置であって、コンテンツ作成者が表示を意図する目標領域に対応した視点座標を取得する目標視点情報取得部と、画像処理装置においてなされる、ユーザが入力した視点移動要求の信号を逐次換算して得られる視点座標を補正する手法を特定する補正手法特定部と、シナリオデータに設定された視点座標を、当該補正する手法により補正したとき目標領域に対応した視点座標が得られるように、シナリオデータを生成するシナリオデータ生成部と、を備えたことを特徴とする。
【0008】
本発明の別の態様は画像処理装置に関する。この画像処理装置は、ユーザが入力する視点移動要求または視点座標の変化をあらかじめ設定したシナリオデータに基づき、表示中の画像の表示領域を変化させる画像処理装置であって、ユーザが入力した視点移動要求の信号を逐次換算して得られる視点座標を所定の手法により補正し、補正後の視点座標に対応する領域を表示すべき領域として決定する表示領域決定部と、表示すべき領域の画像を描画する表示画像処理部と、を備え、シナリオデータには、設定された視点座標を所定の手法により補正したとき、シナリオデータ作成者が表示を意図する目標領域に対応した視点座標が得られるように視点座標の変化が設定され、表示領域決定部は、シナリオデータに設定された視点座標もまた、所定の手法により補正し、表示すべき領域を決定することを特徴とする。
【0009】
本発明のさらに別の態様はコンテンツ作成支援方法に関する。このコンテンツ作成支援方法は、ユーザが入力する視点移動要求に応じて表示中の画像の表示領域を変化させる画像処理装置において、視点移動要求によらず視点座標の変化をあらかじめ設定したシナリオデータに基づき表示領域を変化させる画像表示を行わせるコンテンツの作成を支援するコンテンツ作成支援方法であって、コンテンツ作成者が表示を意図する目標領域に対応した視点座標の指定を受け付け、メモリに記録するステップと、画像処理装置においてなされる、ユーザが入力した視点移動要求の信号を逐次換算して得られる視点座標を補正する手法を特定するステップと、目標領域に対応した視点座標をメモリより読み出し、シナリオデータに設定された視点座標を当該補正する手法により補正したとき目標領域に対応した視点座標が得られるように、前記シナリオデータを生成するステップと、を含むことを特徴とする。
【0010】
本発明のさらに別の態様は画像処理方法に関する。この画像処理方法は、ユーザが入力する視点移動要求または視点座標の変化をあらかじめ設定したシナリオデータに基づき、表示中の画像の表示領域を変化させる画像処理方法であって、ユーザが入力した視点移動要求の信号を逐次換算して得られる視点座標を所定の手法により補正するステップと、補正後の視点座標に対応する領域を表示すべき領域として決定するステップと、表示すべき領域の画像のデータをメモリより読み出し描画するステップと、を備え、シナリオデータには、設定された視点座標を当該所定の手法により補正したとき、シナリオデータ作成者が表示を意図する目標領域に対応した視点座標が得られるように視点座標の変化が設定され、補正するステップは、当該シナリオデータに設定された視点座標もまた、所定の手法により補正することを特徴とする。
【0011】
本発明のさらに別の態様は画像表示コンテンツのデータ構造に関する。このデータ構造は、画像のデータと、ユーザが入力する視点移動要求に応じて表示中の画像の表示領域を変化させる画像処理装置において、前記視点移動要求によらず表示領域を変化させて当該画像の表示を行わせるために視点座標の変化をあらかじめ設定したシナリオデータと、を対応づけ、シナリオデータには、画像処理装置においてなされる、ユーザが入力した視点移動要求の信号を逐次換算して得られる視点座標を補正する手法により、設定された視点座標を補正したとき、シナリオデータ作成者が表示を意図する目標領域に対応した視点座標が得られるように視点座標の変化が設定されていることを特徴とする。
【0012】
なお、以上の構成要素の任意の組合せ、本発明の表現を方法、装置、システム、コンピュータプログラム、コンピュータプログラムを記録した記録媒体などの間で変換したものもまた、本発明の態様として有効である。
【発明の効果】
【0013】
本発明によると、ユーザが入力する視点移動要求に応じた表示領域変化と、視点座標の変化をあらかじめ設定したシナリオデータに基づく表示領域変化とを容易に両立させることができる。
【図面の簡単な説明】
【0014】
【図1】本発明の実施の形態にかかる画像処理システムの使用環境を示す図である。
【図2】図1の画像処理システムに適用できる入力装置の外観構成を示す図である。
【図3】本実施の形態における情報処理装置の構成を示す図である。
【図4】本実施の形態におけるシナリオデータを概念的に示す図である。
【図5】本実施の形態における画像を表示する機能を有する制御部の構成を詳細に示す図である。
【図6】本実施の形態における視点座標の補正例を示す図である。
【図7】本実施の形態におけるシナリオデータ作成機能を有する制御部の構成を詳細に示す図である。
【図8】本実施の形態における目標視点座標とシナリオデータの関係について説明するための図である。
【図9】本実施の形態のコンテンツを実行する装置における視点座標の補正の様子を概念的に表す図である。
【図10】本実施の形態におけるシナリオデータの生成手法を説明する図である。
【図11】本実施の形態のコンテンツ生成手順を示すフローチャートである。
【図12】本実施の形態のコンテンツを実行する手順を示すフローチャートである。
【発明を実施するための形態】
【0015】
図1は、本発明の実施の形態で利用できる情報処理システム1の構成を示す。情報処理システム1は、画像を含むコンテンツを処理する情報処理装置10と、情報処理装置10による処理結果を出力する表示装置12とを備える。表示装置12は、画像を出力するディスプレイおよび音声を出力するスピーカを有するテレビであってよい。表示装置12は、情報処理装置10に有線ケーブルで接続されてよく、また無線LAN(Local Area Network)などにより無線接続されてもよい。なお情報処理装置10は、無線通信により外部ネットワークに接続してもよい。
【0016】
ユーザが、表示装置12に表示された画像を見ながら、表示領域の拡大/縮小、上下左右方向へのスクロールを要求する入力を入力装置に対して行うと、入力装置はそれに応じて、表示領域の拡大縮小およびスクロールの要求信号を情報処理装置10に送信する。情報処理装置10は当該信号に応じて、表示装置12の画面に表示する領域を変化させる。この処理はユーザにとっては、表示されている画像に対する自らの視点を移動させることと同等である。以後、このような表示領域の変化を「視点の移動」とも呼ぶ。
【0017】
図2は、入力装置20の外観構成例を示す。入力装置20は、ユーザが操作可能な操作手段として、十字キー21、アナログスティック27a、27b、4種の操作ボタン26、持ち手部分28a、28bを備える。4種の操作ボタン26は、○ボタン22、×ボタン23、□ボタン24および△ボタン25で構成される。
【0018】
情報処理システム1において、入力装置20の操作手段には、コンテンツの起動/終了要求、コンテンツに応じた各種機能の実行要求のほか、表示領域の拡大/縮小要求、および上下左右方向へのスクロール要求を入力するための機能が割り当てられる。たとえば、画像の拡大/縮小要求の入力機能は、右側のアナログスティック27bに割り当てられる。ユーザはアナログスティック27bを手前に引くことで、表示画像の縮小要求を入力でき、また手前から押すことで、表示画像の拡大要求を入力できる。このとき、アナログスティック27bを傾ける角度によって拡大率の変更速度を調節できるようにしてもよい。
【0019】
また、表示領域のスクロールの入力機能は、アナログスティック27aに割り当てられる。ユーザはアナログスティック27aをいずれかの方向に傾けることで、当該方向へのスクロール要求を入力できる。このとき、傾ける角度によってスクロールの移動速度を調節できるようにしてもよい。なお、表示領域移動の要求を入力する機能は別の操作手段に割り当てられてもよく、たとえば十字キー21にスクロール要求の入力機能が割り当てられてもよい。
【0020】
入力装置20は、入力された各種要求信号を情報処理装置10に伝送する機能をもち、本実施の形態では情報処理装置10との間で無線通信可能に構成される。入力装置20と情報処理装置10は、Bluetooth(ブルートゥース)(登録商標)プロトコルやIEEE802.11プロトコルなどを用いて無線接続を確立してもよい。なお入力装置20は、情報処理装置10とケーブルを介して接続して、各種要求信号を情報処理装置10に伝送してもよい。
【0021】
次に本実施の形態の情報処理装置の基本構成を説明する。図3は情報処理装置10の構成を示している。情報処理装置10は、無線インタフェース40、スイッチ42、表示処理部44、ハードディスクドライブ50、記録媒体装着部52、ディスクドライブ54、メインメモリ60、バッファメモリ70および制御部100を有して構成される。表示処理部44は、表示装置12のディスプレイに表示するデータをバッファするフレームメモリを有する。
【0022】
スイッチ42は、イーサネットスイッチ(イーサネットは登録商標)であって、外部の機器と有線または無線で接続して、データの送受信を行うデバイスである。またスイッチ42は無線インタフェース40に接続し、無線インタフェース40は、所定の無線通信プロトコルで入力装置20と接続する。入力装置20においてユーザから入力された各種要求信号は、無線インタフェース40、スイッチ42を経由して、制御部100に供給される。
【0023】
ハードディスクドライブ50は、表示対象の画像データを含むコンテンツのデータを記憶する記憶装置として機能する。記録媒体装着部52は、メモリカードなどのリムーバブル記録媒体が装着されると、リムーバブル記録媒体からデータを読み出す。ディスクドライブ54は、読み出し専用のROMディスクが装着されると、ROMディスクを駆動して認識し、データを読み出す。ROMディスクは、光ディスクや光磁気ディスクなどであってよい。画像データなど各種データはリムーバブル記録媒体に記録されていてもよい。
【0024】
制御部100は、マルチコアCPUを備え、1つのCPUの中に1つの汎用的なプロセッサコアと、複数のシンプルなプロセッサコアを有する。汎用プロセッサコアはPPU(Power Processing Unit)と呼ばれ、残りのプロセッサコアはSPU(Synergistic-Processing Unit)と呼ばれる。
【0025】
制御部100は、メインメモリ60およびバッファメモリ70に接続するメモリコントローラを備える。PPUはレジスタを有し、演算実行主体としてメインプロセッサを備えて、実行するアプリケーションにおける基本処理単位としてのタスクを各SPUに効率的に割り当てる。なお、PPU自身がタスクを実行してもよい。SPUはレジスタを有し、演算実行主体としてのサブプロセッサとローカルな記憶領域としてのローカルメモリを備える。ローカルメモリは、バッファメモリ70として使用されてもよい。
【0026】
メインメモリ60およびバッファメモリ70は記憶装置であり、RAM(ランダムアクセスメモリ)として構成される。SPUは制御ユニットとして専用のDMA(Direct Memory Access)コントローラをもち、メインメモリ60とバッファメモリ70の間のデータ転送を高速に行うことができ、また表示処理部44におけるフレームメモリとバッファメモリ70の間で高速なデータ転送を実現できる。本実施の形態の制御部100は、複数のSPUを並列動作させることで、高速な画像処理機能を実現する。表示処理部44は、表示装置12に接続されて、ユーザからの要求に応じた処理結果を出力する。
【0027】
情報処理装置10は、表示領域の移動に伴い表示画像を円滑に更新するために、あらかじめ画像データの少なくとも一部をハードディスクドライブ50からメインメモリ60にロードしておいてもよい。またそれまでの視点の移動方向をもとに、将来表示させる領域を予測し、メインメモリ60にロードした画像データのさらに一部をデコードしてバッファメモリ70に格納してもよい。これにより、後の必要なタイミングで、表示画像の生成に使用する画像を瞬時に切り替えることが可能となる。
【0028】
本実施の形態では、入力装置20に対するユーザの視点移動入力によって視点を移動させて画像を表示する情報処理装置10において、視点移動入力のない状態で自動で表示領域を移動させるコンテンツを実行する。またそのコンテンツの作成を支援する。具体的には、コンテンツとして表示対象の画像データに対応づける、当該画像の視点座標の変化を規定するシナリオデータを作成する。
【0029】
図4はシナリオデータの概念図である。シナリオデータは基本的に画像を俯瞰する視点の移動を規定したデータであり、同図に示すように時間の経過に対する視点座標の変化200で表される。視点座標は、表示領域の縦横方向のスクロールのみを許す場合は画像平面と平行な水平面を構成する2次元上の座標であり、画像の拡大、縮小を可能とする場合は当該水平面と垂直な軸を含む3次元であるが、同図では理解を容易にするため縦軸の1次元で表している。またシナリオデータは時間に対して離散的に設定した複数の視点座標で構成してもよい。
【0030】
情報処理装置10においてシナリオデータを対応づけたコンテンツを実行する際は、ユーザからの視点移動入力を受け付けるモードと、シナリオデータに基づき自動で視点を移動させるモードとを、同一の画像に対し両立させてもよい。以後、前者を「マニュアルモード」、後者を「シナリオモード」と呼ぶ。例えばシナリオモードで画像を表示中、ユーザが入力装置20を操作して視点移動入力を行った際、マニュアルモードに移行し、所定時間、視点移動入力がなされなかったらシナリオモードに移行する、といったモードの切り替え規則を導入してもよい。一方、シナリオモードのみが可能なコンテンツでもよい。
【0031】
なお生成するコンテンツには、シナリオデータの他、音楽や別の画像、例えば動画などが同時に再生、表示されるように、音楽データ、画像データがさらに含まれていてもよい。このコンテンツを用いると、ある画像の表示領域を変化させながら表示と同期するように音楽を流したり、複数の画像素材を、同期をとりながら同時に表示、再生したりできる。このようなコンテンツによって、各種映像作品やデモンストレーション用データなどを作成することができる。
【0032】
まず、作成したコンテンツを実行する装置について説明する。このとき情報処理装置10のハードディスクドライブ50には、シナリオデータを対応づけた画像データを含むコンテンツを記憶させる。なおコンテンツには上述のとおり、画像データ以外のデータ、例えばゲームプログラム、音楽データ、別の動画データなどがコンテンツに応じて含まれていてよいが、それらの処理はデータの種類に応じて一般的な手法を適用すればよく、以下、その説明を省略する。
【0033】
図5は画像を表示する機能を有する制御部100aの構成を詳細に示している。制御部100aは、入力装置20に対しユーザが行った操作に係る情報を取得する入力情報取得部102、コンテンツ処理に必要なデータをハードディスクドライブ50からロードするロード部103、ユーザの操作またはシナリオデータに応じて逐次表示領域を決定する表示領域決定部104、圧縮画像データをデコードするデコード部106、表示画像を描画する表示画像処理部114を含む。
【0034】
図5および後の図7において、さまざまな処理を行う機能ブロックとして記載される各要素は、ハードウェア的には、CPU(Central Processing Unit)、メモリ、その他のLSIで構成することができ、ソフトウェア的には、メモリにロードされたプログラムなどによって実現される。既述したように、制御部100は1つのPPUと複数のSPUとを有し、PPUおよびSPUがそれぞれ単独または協同して、各機能ブロックを構成できる。したがって、これらの機能ブロックがハードウェアのみ、ソフトウェアのみ、またはそれらの組合せによっていろいろな形で実現できることは当業者には理解されるところであり、いずれかに限定されるものではない。
【0035】
入力情報取得部102は、入力装置20のユーザによる操作に従い、コンテンツの起動/終了、視点移動などの要求信号を入力装置20より取得し、当該情報を必要に応じて表示領域決定部104、ロード部103に通知する。ロード部103は、入力情報取得部102からコンテンツの起動要求がなされたことを通知されたら、初期画像の画像データ、シナリオデータ、プログラムなど画像表示に必要なデータをハードディスクドライブ50から読み出し、メインメモリ60に格納する。初期画像は適宜、デコード部106がデコードし、表示画像処理部114が表示処理部44のフレームメモリに描画することにより表示装置12に表示される。
【0036】
ユーザが入力装置20に対し、シナリオモードの実行を指示する入力を行った場合、あるいはマニュアルモードの実行を指示する入力を所定時間行わなかった場合、表示領域決定部104はその旨の通知を入力情報取得部102から受け付け、メインメモリ60に格納されたシナリオデータに基づき、次の表示領域の4隅の座標、すなわちフレーム座標を各時刻の視点座標から決定する。ここで「次の表示領域」とは、「前の表示領域」の表示から更新が可能な時間間隔を経過した後に表示する表示領域であり、当該時間間隔は表示装置の垂直同期周波数などに依存する。
【0037】
一方ユーザが、マニュアルモードの実行を指示する入力を行った場合は、表示領域決定部104は、ユーザが入力した視点移動要求信号を入力情報取得部102から受け付け、当該移動要求信号を視点座標に換算したうえ、次の表示領域のフレーム座標を決定する。
【0038】
なお「視点座標」や「フレーム座標」は、入力装置20からの視点移動要求信号によって導出され、最終的な表示領域を決定づける中間パラメータであればその定義は特に限定されない。ただし後に述べるように本実施の形態では、マニュアルモードで用いるパラメータをシナリオモードでもそのまま使用することにより、両モードを実装することによる実装コストの増大やモード切り替えに要する時間を抑制する。
【0039】
デコード部106は、メインメモリ60から画像データの一部を読み出しデコードし、バッファメモリ70にデコード後のデータを格納する。デコード部106がデコードするデータは、表示領域を含む所定サイズの画像データでよい。あらかじめ広範囲の画像データをデコードし、バッファメモリ70に格納しておくことにより、メインメモリ60からの読み出し回数を削減でき、円滑な表示領域移動を実現できる。表示画像処理部114は、表示領域決定部104が決定した、表示すべき領域のフレーム座標を取得し、バッファメモリ70から対応する画像データを読み出して、表示処理部44のフレームメモリに描画する。
【0040】
今、上記のような構成の装置においてマニュアルモードで画像を表示する場合を考える。このとき、視点移動要求信号によって定まる視点座標をそのままその時点のフレーム座標に反映させると次のような問題が生じることが考えられる。まずユーザが視点移動入力を行っている途中で目標とする領域が表示されても、即座に視点移動入力の操作を止めることができず行き過ぎてしまったり、目標を見失ったり、移動が急激過ぎて見づらかったりといったことが起こり得る。また移動が速すぎることによって、ハードディスクドライブ50からメインメモリ60への画像データのロードやデコード部106によるデコードが間に合わなかったりすることも考えられる。
【0041】
したがって本実施の形態では、入力装置20の操作に対する反応性を維持しながら、そのような問題の発生を抑制するため、表示領域決定部104は、各時刻の視点移動要求信号から直接得られる視点座標を補正し、視点の急激な変化を緩和させる。ここで「直接得られる視点座標」とは、例えばアナログスティック27aの傾きから得られる移動速度に次の画像表示までの時間を乗算した距離分、前の視点座標から移動した視点座標のことである。
【0042】
このように時刻毎に算出される視点座標の急激な変化を緩和させるため、直前の視点座標の動きを考慮して補正を行う。例えば、各時刻で直接得られる視点座標を時間に対するガウス関数に置き換えたうえ、コンボリューションフィルタを用いて前の時刻の視点座標からの畳み込み演算を行う。あるいは前の所定数の時刻の視点座標とともに重み付け加算を行う。
【0043】
図6は視点座標の補正例を示している。同図において破線202は視点移動要求信号から直接得られる視点座標の時間変化例を示している。これを上述のように補正すると、実線204のような視点座標の時間変化が得られる。このように補正することにより、視点座標の急激な変化が緩和され、上述のような問題を軽減させることができる。
【0044】
上述のとおり制御部100aを含む情報処理装置10は、マニュアルモードとシナリオモードを両立させる。このとき、両モードで「視点座標」なる同一のパラメータを導入することにより、後段の処理を等しくできる。これにより、視点座標の情報源を、視点移動要求信号/シナリオデータ、と切り替えるのみでモードの切り替えが実現でき、切り替えに要する時間や実装コストを軽減できる。
【0045】
しかしながらこのような実装において、マニュアルモードで実施する上述の視点座標の補正が問題となる。具体的には、コンテンツ作成者は、表示させたいと意図する目標領域へ表示を誘導するためにシナリオデータを作成するが、そのようにして作成したシナリオデータの視点座標が表示時に補正されてしまうことにより、当該目標領域まで表示が到達しなかったり、表示タイミングがずれてしまったりすることが考えられる。この問題は、マニュアルモードでは画像内を探索するために視点移動がなされるが、シナリオモードでは明確な目標領域へ向けて視点移動する、という態様の違いによってもたらされる。
【0046】
例えば図6の視点座標206を目標領域に対応させて設定し、破線202のようなシナリオデータを作成しても、コンテンツ実行時に実線204のように視点座標が補正されてしまうと、目標領域は表示されなくなってしまう。さらに同一画面で別の動画や音楽を再生するコンテンツの場合、作成したシナリオデータで考慮した動画や音楽との同期が補正によりずれてしまう、といったことも発生し得る。このような場合、シナリオデータをどのように修正すれば目的を達成するかを試行錯誤で求めていくことになり、コンテンツの作成時に多大な負担となる。
【0047】
そこで本実施の形態では、コンテンツ実行時の視点座標の補正を考慮し、コンテンツ作成時にシナリオデータ自身に補正を施す。基本的な装置構成は、図3で示した情報処理装置10で実現することができる。図7はシナリオデータ作成機能を有する制御部100bの構成を詳細に示している。制御部100bは、図5に示した画像を表示する機能を有する制御部100aと一体的に、情報処理装置10に設けてもよい。この場合、シナリオデータやそれを用いたコンテンツの作成と、実際の画像表示を含むコンテンツの実行とを同一の装置で実現できる。一方、制御部100bのみを備えたオーサリング装置として情報処理装置10を構成してもよい。あるいは別のアプリケーションソフトウェアを起動させることにより、コンテンツの実行とオーサリングの実行を同一の情報処理装置10で個別に実現できるようにしてもよい。
【0048】
制御部100bは、コンテンツ作成者が設定する目標領域に対応する視点座標に係る情報を取得する目標視点情報取得部120、コンテンツを実行する装置における視点座標の補正手法を特定する補正手法特定部122、視点座標の補正を考慮してシナリオデータを作成するシナリオデータ生成部124を含む。目標視点情報取得部120は、入力装置20に対してコンテンツ作成者が入力した、目標領域に係る情報を受け付け、それに対応する目標視点座標を取得してメインメモリ60に格納する。例えばシナリオデータ作成用のGUI(Graphical User Interface)を表示装置12に表示させるなどしてコンテンツ作成者に目標領域を登録させ、それに対応する目標視点座標を導出する。あるいはあらかじめハードディスクドライブ50に格納された、シナリオデータに準じた形式の、目標視点座標の時間変化のデータを読み出してもよい。
【0049】
前者の場合、目標視点情報取得部120は、例えば図5で示した表示機能を有する制御部100aと同様の構成とする。そしてコンテンツ作成者は表示装置12に表示させた画像を確認しながら入力装置20を用いて視点座標を移動させ、目標領域を表示させた状態で入力装置20の所定のボタンを押下するなどして対応する視点座標を登録する。目標視点情報取得部120は、必要に応じて、登録された複数の目標視点座標を直線または所定の曲線で補間することにより、シナリオデータに準じた形式に変換する。
【0050】
後者の場合コンテンツ作成者は、入力装置20を用いてハードディスクドライブ50に格納された、目標視点座標の時間変化のデータの名前を入力する。そのため目標視点情報取得部120は、表示装置12に、ハードディスクドライブ50に格納された目標視点座標の時間変化のデータの選択画面を表示させ、コンテンツ作成者が入力装置20を用いて選択するようにする。
【0051】
あるいは目標視点情報取得部120は、テキスト編集画面を表示装置12に表示させ、コンテンツ作成者が入力装置20のキーボード(不図示)などを用いて文字列を入力していくことにより目標領域の情報を登録するようにしてもよい。例えばXML文書などのマークアップ言語で、目標領域とその領域の表示時間、次の目標領域へ到達するまでの移動時間といった項目をコンテンツ作成者に設定させる。目標視点情報取得部120はそのように離散的に登録された目標領域からそれぞれ導出した視点座標と時間との対応を補間して目標視点座標の時間変化のデータを作成する。
【0052】
補正手法特定部122は、入力装置20に対してコンテンツ作成者が入力した、作成するコンテンツを実行する装置に係る情報に基づき、当該装置でなされる視点座標の補正手法を特定する。このためハードディスクドライブ50には、コンテンツを実行する装置の機種名とその機種で用いられる補正手法とを対応づけた補正手法テーブルを格納しておく。機種名に代わり、アプリケーションソフトウェアの名前や、機種の識別情報、型格情報などでもよい。補正手法とは、コンボリューションフィルタや重み付け加算など導入される補正手法の識別情報や各手法で用いられるパラメータの値などである。
【0053】
シナリオデータ生成部124はメインメモリ60から読み出した目標視点座標の時間変化のデータに対し、コンテンツを実行する装置の補正手法の逆演算を施す。例えばコンテンツを実行する装置でなされる補正式の入力変数を未知数とし、出力変数を目標視点座標として、各時刻に対し当該未知数について解く。補正式が行列演算の場合は逆行列を利用するなど、逆演算の手法は補正手法に依存して数学的に導出できる。そのように得られた値を視点座標として時系列順に記載することにより、視点座標の補正を考慮したシナリオデータが生成される。
【0054】
図8は目標視点座標とシナリオデータの関係について説明するための図である。同図において破線208は目標視点座標の時間変化であり図4のシナリオデータと同一である。すなわちコンテンツ作成者はシナリオモードにおいて破線208のような視点の動きを望んでいる。このような目標視点座標の時間変化を目標視点情報取得部120が取得、あるいは生成すると、シナリオデータ生成部124が上述の逆演算を行い、実線210のような視点座標の時間変化を得る。これを最終的なシナリオデータとして、ハードディスクドライブ50に格納する。そして当該シナリオデータを画像データに対応づけてコンテンツファイルとする。コンテンツとしては上述のとおり、別の動画データ、音楽データ、プログラムなどを適宜追加する。
【0055】
次に視点座標の補正手法と、シナリオデータの生成手法の具体例を説明する。図9はコンテンツを実行する装置における視点座標の補正の様子を概念的に表している。同図において白丸Pn−2,Pn−1,Pn,Pn+1,・・・は、画像フレームを更新する時刻n−2,n−1,n,n+1,・・・において入力値となる視点座標、黒丸P’,P’n+1,・・・は時刻n,n+1,・・・において実際に表示するフレームに対応する補正後の視点座標である。入力値となる視点座標はマニュアルモードにおいて視点移動要求信号から直接導出される視点座標である。
【0056】
ここでこの装置は、直前の2フレーム分と補正対象のフレームとの3時刻における補正前の視点座標に対し、順に1/4、1/2、1/4の重み付け加算を行い補正後の視点座標とする。すなわち、時刻nにおける補正後の視点座標P’nは以下のように表される。
【0057】
【数1】

【0058】
このような手法で補正を行う装置にて実行されるコンテンツのシナリオデータを作成する場合、図9における黒丸が目標視点座標となる。そして白丸は、目標視点座標を得るために入力すべき視点座標、すなわちシナリオデータに表すべき視点座標となる。図10はシナリオデータの生成手法を説明する図である。同図において横軸は時間経過を表し、下段はコンテンツ実行時における各時刻の目標視点座標、上段はそのために入力すべき各時刻の視点座標、すなわちシナリオデータに設定する視点座標を示している。
【0059】
式1によれば、3フレーム分の入力視点座標を用いて現在の補正後の視点座標が導出されるため、時刻t1における目標視点座標Pを得るためには、入力値として当該時刻の入力視点座標aの他、1つ前のフレームの入力視点座標z、2つ前のフレームの入力視点座標zを用いて次のような式がたてられる。
【0060】
【数2】

【0061】
したがって時刻t1においてコンテンツを実行する装置に入力すべき視点座標、すなわちシナリオデータに設定する視点座標は次のように求められる。
【0062】
【数3】

【0063】
後続の時刻t2、t3、・・・に入力すべき視点座標b、c、・・・も同様に、例えば次のように求められる。
【0064】
【数4】

【0065】
【数5】

【0066】
ここでP、Pは時刻t2、t3における目標視点座標である。上記計算を各時刻に対して繰り返すことにより、入力すべき視点座標の時間変化、すなわちシナリオデータが求められる。
【0067】
式3〜5は、式1に表される視点座標の補正を行う装置でコンテンツを実行するためにシナリオデータを生成する式である。当然、視点座標の補正手法によってシナリオデータの生成式も異なるが、入力すべき視点座標を未知数として同様に解くことにより求めることができる。シナリオデータの生成式は、想定される視点座標の補正手法に対応づけてあらかじめ求めておき、ハードディスクドライブ50に格納しておいてもよいし、シナリオデータ生成時にシナリオデータ生成部124が求めてもよい。またコンテンツを実行する装置の機種などと直接対応づけておくことにより、補正手法特定部122は視点座標の補正手法に代えて、シナリオデータの生成式をハードディスクドライブ50に格納したテーブルから取得するようにしてもよい。
【0068】
次に、以上の構成によって実現できる、動作について説明する。図11は図7に示した制御部100bを含む情報処理装置10によってなされる、本実施の形態のコンテンツ生成手順を示すフローチャートである。まず作成者がコンテンツを作成したい旨の入力を行うと(S30)、目標視点情報取得部120は目標視点座標の時間変化を取得しメインメモリ60に格納する(S32)。S30で作成者は、コンテンツを実行する装置の識別情報を同時に入力する。
【0069】
S32の処理は上述のとおり、ユーザが選択した目標視点座標の時間変化のデータをハードディスクドライブ50より読み出してもよいし、作成者が目標領域に係る情報を入力したら当該情報から目標視点座標の時間変化を導出してもよい。またコンテンツ作成の観点からは、作成者は画像データの作成、その他動画データ、音楽データ、プログラムの指定、などを同時に行ってよいが、同図では図示を省略している。
【0070】
次に補正手法特定部122は、S30で作成者が入力した、コンテンツを実行する装置の識別情報に基づきハードディスクドライブ50に格納されたテーブルを参照することにより、当該装置でなされる視点座標の補正手法を特定する(S34)。するとシナリオデータ生成部124は、特定された視点座標の補正手法から、シナリオデータの生成式を導出する(S36)。
【0071】
そしてS32で取得した目標視点座標の時間変化のデータをメインメモリ60より読み出し、S36で導出した生成式を用いて各時刻についてシナリオデータに設定する視点座標を算出し、時系列順に並べることによりシナリオデータを作成する(S38)。生成したシナリオデータは、画像データやその他のデータとともにハードディスクドライブ50にコンテンツファイルとして格納する(S40)。
【0072】
図12は図5に示した制御部100aを含む情報処理装置10によってなされる、本実施の形態のコンテンツを実行する手順を示すフローチャートである。まずユーザがコンテンツを実行したい旨の入力を行うと(S42)、デコード部106はそれに応じてメインメモリ60より初期画像のデータを読み出しデコードし、表示画像処理部114、表示処理部44によって表示装置12に初期画像を表示させる(S46)。
【0073】
ユーザが視点移動入力を行うなどによりマニュアルモードとなったら(S44のY)、当該入力によって得られる視点移動要求信号を表示領域決定部104が取得し(S46)、当該信号から直接得られる視点座標をあらかじめ定めた補正手法により補正する(S52)。一方、視点移動入力が所定時間なされなかったなどによりシナリオモードとなったら(S44のN、S48のY)、表示領域決定部104はメインメモリ60よりシナリオデータを読み出し(S50)、そこに規定される視点座標を上記と同じ補正手法により補正する(S52)。
【0074】
そしてマニュアルモード、シナリオモードのいずれの場合も、補正された視点座標からフレーム座標を決定する(S54)。そしてデコード部106、表示画像処理部114、表示処理部44の協働により画像フレームを更新する(S56)。コンテンツの内容によってマニュアルモード、シナリオモードのいずれでもない状態が発生する場合は(S44のN、S48のN)、コンテンツ終了指示がユーザからなされない限り状態を維持する(S58のN)。S44〜S58のNの動作をコンテンツ終了指示がなされるまで繰り返す(S58のY)。これにより、いずれのモードにおいても同様の処理で視点移動が可能となる。
【0075】
以上述べた本実施の形態によれば、ユーザによる視点移動入力が可能なコンテンツ実行装置においてなされる視点座標の補正手法を取得し、その逆演算を行うことにより、目標視点座標からシナリオデータを生成する。当該シナリオデータと画像データを含めてコンテンツとすることにより、同じコンテンツ実行装置で、ユーザによる視点移動入力のモードと、シナリオデータによる視点移動のモードとを両立させることができる。すなわち前者のモードでは、視点の急激な移動による見づらさ、画像描画の遅延といった問題を回避しつつ、後者のモードでコンテンツ作成者の意図通りの表示を行うことができる。シナリオデータの作成にあたっては、表示したい領域が思い通りに表示されるように試行錯誤を繰り返す、といったシナリオデータ作成者の負担が軽減される。
【0076】
またコンテンツの実行装置において、ユーザによる視点移動入力のモードと、シナリオデータによる視点移動のモードとで、視点座標補正を含め処理を統一できる。これにより、両モードの切り替えに要する時間を抑制できるため、同一の表示画像に対しモードを頻繁に切り替える、といった態様にも対応でき、適用できるコンテンツの幅が増す。また2つのモードを装備しても処理を一本化できるため、実装コストが抑えられる。
【0077】
以上、本発明を実施の形態をもとに説明した。上記実施の形態は例示であり、それらの各構成要素や各処理プロセスの組合せにいろいろな変形例が可能なこと、またそうした変形例も本発明の範囲にあることは当業者に理解されるところである。
【0078】
例えば本実施の形態では、ユーザが指定した装置でコンテンツ実行時になされる視点座標の補正手法を特定し、当該装置に対応するシナリオデータを作成した。一方、ユーザが指定した、またはあらかじめ定めた複数の装置に対応する複数のシナリオデータを同時に作成するようにしてもよい。このときも本実施の形態と同様に補正手法デーブルを参照し、各装置でなされる補正手法を特定したうえ、それぞれの補正式の逆演算をすることで装置ごとにシナリオデータを作成する。
【0079】
作成したシナリオデータは装置の識別情報に対応づけてコンテンツファイルに含めておく。コンテンツを実行する際は、実行する装置に対応づけられたシナリオデータをコンテンツファイルから読み出すことにより、本実施の形態と同様のシナリオモードを実現できる。このようにすることで、汎用性の高いコンテンツファイルを生成することができる。
【0080】
また本実施の形態では、コンテンツ作成者の意図が表示に反映されるようにシナリオデータを作成した。そのため、コンテンツ実行時にシナリオデータで記述された視点座標を補正してもなお視点移動が速すぎ、画像データのロードやデコードなどの処理が間に合わなくなる場合が考えられる。そこで、シナリオデータ作成機能を有する情報処理装置において、あらかじめ視点移動速度に上限を設けてもよい。この場合、例えばシナリオ作成時に作成者が入力した目標領域に係る情報から導出する目標視点座標の時間変化の微分値が当該上限を超えないかを、目標視点情報取得部120が確認する。
【0081】
目標視点座標の時間変化において、当該上限を超える箇所が存在する場合、目標視点情報取得部120は、作成者が入力した目標領域への視点を補間する際、その移動速度を遅くしたり、移動経路を変化させたり、といった調整を行うことにより、視点の移動速度が上限を超えないようにする。または視点移動速度が上限を超えてしまう旨の警告を表示装置12に表示し、作成者に目標領域に係る情報の見直しを促すようにしてもよい。このようにすることで、ユーザの意図を確実に反映できるシナリオデータを作成することができる。
【符号の説明】
【0082】
1 情報処理システム、 10 情報処理装置、 12 表示装置、 20 入力装置、 44 表示処理部、 50 ハードディスクドライブ、 60 メインメモリ、 70 バッファメモリ、 100 制御部、 102 入力情報取得部、 103 ロード部、 104 表示領域決定部、 106 デコード部、 114 表示画像処理部、 120 目標視点情報取得部、 122 補正手法特定部、 124 シナリオデータ生成部。

【特許請求の範囲】
【請求項1】
ユーザが入力する視点移動要求に応じて表示中の画像の表示領域を変化させる画像処理装置において、前記視点移動要求によらず視点座標の変化をあらかじめ設定したシナリオデータに基づき表示領域を変化させる画像表示を行わせるコンテンツの作成を支援するコンテンツ作成支援装置であって、
コンテンツ作成者が表示を意図する目標領域に対応した視点座標を取得する目標視点情報取得部と、
前記画像処理装置においてなされる、ユーザが入力した前記視点移動要求の信号を逐次換算して得られる視点座標を補正する手法を特定する補正手法特定部と、
前記シナリオデータに設定された視点座標を前記補正する手法により補正したとき前記目標領域に対応した視点座標が得られるように、前記シナリオデータを生成するシナリオデータ生成部と、
を備えたことを特徴とするコンテンツ作成支援装置。
【請求項2】
前記シナリオデータ生成部は、前記補正する手法で用いられる演算式の出力変数を前記目標領域に対応した視点座標に設定したうえ、当該演算式の入力変数について解くことにより、前記シナリオデータに設定する視点座標を導出することを特徴とする請求項1に記載のコンテンツ作成支援装置。
【請求項3】
前記補正手法特定部は、前記画像処理装置の識別情報と前記補正する手法とを対応づけたテーブルを参照し、コンテンツ作成者が指定した前記識別情報に基づき前記補正する手法を特定することを特徴とする請求項1または2に記載のコンテンツ作成支援装置。
【請求項4】
前記目標視点情報取得部は、複数の前記目標領域の指定をコンテンツ作成者より受け付け、各目標領域に対応する複数の視点座標を補間することにより目標領域に対応した視点座標の時間変化を取得することを特徴とする請求項1から3のいずれかに記載のコンテンツ作成支援装置。
【請求項5】
ユーザが入力する視点移動要求または視点座標の変化をあらかじめ設定したシナリオデータに基づき、表示中の画像の表示領域を変化させる画像処理装置であって、
ユーザが入力した視点移動要求の信号を逐次換算して得られる視点座標を所定の手法により補正し、補正後の視点座標に対応する領域を表示すべき領域として決定する表示領域決定部と、
前記表示すべき領域の画像を描画する表示画像処理部と、
を備え、
前記シナリオデータには、設定された視点座標を前記所定の手法により補正したとき、シナリオデータ作成者が表示を意図する目標領域に対応した視点座標が得られるように視点座標の変化が設定され、
前記表示領域決定部は、前記シナリオデータに設定された視点座標もまた、前記所定の手法により補正し、表示すべき領域を決定することを特徴とする画像処理装置。
【請求項6】
前記表示領域決定部は、前記視点移動要求の信号を逐次換算して得られる視点座標と過去の所定数の視点座標を重み付け加算することにより、前記逐次換算して得られる視点座標を補正することを特徴とする請求項5に記載の画像処理装置。
【請求項7】
ユーザが入力する視点移動要求に応じて表示中の画像の表示領域を変化させる画像処理装置において、前記視点移動要求によらず視点座標の変化をあらかじめ設定したシナリオデータに基づき前記表示領域を変化させる画像表示を行わせるコンテンツの作成を支援するコンテンツ作成支援方法であって、
コンテンツ作成者が表示を意図する目標領域に対応した視点座標の指定を受け付け、メモリに記録するステップと、
前記画像処理装置においてなされる、ユーザが入力した前記視点移動要求の信号を逐次換算して得られる視点座標を補正する手法を特定するステップと、
前記目標領域に対応した視点座標をメモリより読み出し、前記シナリオデータに設定された視点座標を前記補正する手法により補正したとき前記目標領域に対応した視点座標が得られるように、前記シナリオデータを生成するステップと、
を含むことを特徴とするコンテンツ作成支援方法。
【請求項8】
ユーザが入力する視点移動要求または視点座標の変化をあらかじめ設定したシナリオデータに基づき、表示中の画像の表示領域を変化させる画像処理方法であって、
ユーザが入力した視点移動要求の信号を逐次換算して得られる視点座標を所定の手法により補正するステップと、
補正後の視点座標に対応する領域を表示すべき領域として決定するステップと、
前記表示すべき領域の画像のデータをメモリより読み出し描画するステップと、
を備え、
前記シナリオデータには、設定された視点座標を前記所定の手法により補正したとき、シナリオデータ作成者が表示を意図する目標領域に対応した視点座標が得られるように視点座標の変化が設定され、
前記補正するステップは、前記シナリオデータに設定された視点座標もまた、前記所定の手法により補正することを特徴とする画像処理方法。
【請求項9】
ユーザが入力する視点移動要求に応じて表示中の画像の表示領域を変化させる画像処理装置において、前記視点移動要求によらず視点座標の変化をあらかじめ設定したシナリオデータに基づき前記表示領域を変化させる画像表示を行わせるコンテンツの作成支援をコンピュータに実現させるコンピュータプログラムであって、
コンテンツ作成者が表示を意図する目標領域に対応した視点座標の指定を受け付け、メモリに記録する機能と、
前記画像処理装置においてなされる、ユーザが入力した前記視点移動要求の信号を逐次換算して得られる視点座標を補正する手法を特定する機能と、
前記目標領域に対応した視点座標をメモリより読み出し、前記シナリオデータに設定された視点座標を前記補正する手法により補正したとき前記目標領域に対応した視点座標が得られるように、前記シナリオデータを生成する機能と、
をコンピュータに実現させることを特徴とするコンピュータプログラム。
【請求項10】
ユーザが入力する視点移動要求または視点座標の変化をあらかじめ設定したシナリオデータに基づき、表示中の画像の表示領域を変化させる画像処理をコンピュータに実現させるコンピュータプログラムであって、
ユーザが入力した視点移動要求の信号を逐次換算して得られる視点座標を所定の手法により補正する機能と、
補正後の視点座標に対応する領域を表示すべき領域として決定する機能と、
前記表示すべき領域の画像のデータをメモリより読み出し描画する機能と、
をコンピュータに実現させ、
前記シナリオデータには、設定された視点座標を前記所定の手法により補正したとき、シナリオデータ作成者が表示を意図する目標領域に対応した視点座標が得られるように視点座標の変化が設定され、
前記補正する機能は、前記シナリオデータに設定された視点座標もまた、前記所定の手法により補正することを特徴とするコンピュータプログラム。
【請求項11】
ユーザが入力する視点移動要求に応じて表示中の画像の表示領域を変化させる画像処理装置において、前記視点移動要求によらず視点座標の変化をあらかじめ設定したシナリオデータに基づき前記表示領域を変化させる画像表示を行わせるコンテンツの作成支援をコンピュータに実現させるコンピュータプログラムを記録した記録媒体であって、
コンテンツ作成者が表示を意図する目標領域に対応した視点座標の指定を受け付け、メモリに記録する機能と、
前記画像処理装置においてなされる、ユーザが入力した前記視点移動要求の信号を逐次換算して得られる視点座標を補正する手法を特定する機能と、
前記目標領域に対応した視点座標をメモリより読み出し、前記シナリオデータに設定された視点座標を前記補正する手法により補正したとき前記目標領域に対応した視点座標が得られるように、前記シナリオデータを生成する機能と、
をコンピュータに実現させることを特徴とするコンピュータプログラムを記録した記録媒体。
【請求項12】
ユーザが入力する視点移動要求または視点座標の変化をあらかじめ設定したシナリオデータに基づき、表示中の画像の表示領域を変化させる画像処理をコンピュータに実現させるコンピュータプログラムを記録した記録媒体であって、
ユーザが入力した視点移動要求の信号を逐次換算して得られる視点座標を所定の手法により補正する機能と、
補正後の視点座標に対応する領域を表示すべき領域として決定する機能と、
前記表示すべき領域の画像のデータをメモリより読み出し描画する機能と、
をコンピュータに実現させ、
前記シナリオデータには、設定された視点座標を前記所定の手法により補正したとき、シナリオデータ作成者が表示を意図する目標領域に対応した視点座標が得られるように視点座標の変化が設定され、
前記補正する機能は、前記シナリオデータに設定された視点座標もまた、前記所定の手法により補正することを特徴とするコンピュータプログラムを記録した記録媒体。
【請求項13】
画像のデータと、
ユーザが入力する視点移動要求に応じて表示中の画像の表示領域を変化させる画像処理装置において、前記視点移動要求によらず表示領域を変化させて前記画像の表示を行わせるために視点座標の変化をあらかじめ設定したシナリオデータと、
を対応づけ、
前記シナリオデータには、前記画像処理装置においてなされる、ユーザが入力した前記視点移動要求の信号を逐次換算して得られる視点座標を補正する手法により、設定された視点座標を補正したとき、シナリオデータ作成者が表示を意図する目標領域に対応した視点座標が得られるように視点座標の変化が設定されていることを特徴とする画像表示コンテンツのデータ構造。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate


【公開番号】特開2011−39993(P2011−39993A)
【公開日】平成23年2月24日(2011.2.24)
【国際特許分類】
【出願番号】特願2009−189374(P2009−189374)
【出願日】平成21年8月18日(2009.8.18)
【出願人】(310021766)株式会社ソニー・コンピュータエンタテインメント (417)
【Fターム(参考)】