画像処理方法、画像処理装置及び移動通信端末装置
着目像情報抽出部31が、着目像の領域を原画像において特定し、原画像中における着目像の領域の位置及び大きさに関連する情報を含む着目像情報を抽出する。引き続き、マスク画像作成部31が、着目像情報と、マスク画像情報ファイルに登録されたマスク画像情報とに基づいて、原画像上に重ねて表示させるマスク画像を作成する。この結果、原画像における着目像の領域における所望の位置に、所望の大きさで、マスク画像情報に含まれる要素画像選択情報により選択された要素画像から構成されるマスク画像が作成される。そして、合成画像作成部33が、原画像上にマスク画像を重ねた合成画像が作成される。この結果、静止画像であるか動画像であるかにかかわらず、原画像に対して利用者の演出を施した画像を簡易にかつ適切に作成される。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理方法、画像処理装置及び移動通信端末装置に係り、より詳しくは原画像上にマスク画像を重ねた合成画像を作成する画像処理方法、当該画像処理方法を使用する画像処理装置、及び当該画像処理装置を備える移動通信端末装置に関するものである。
【背景技術】
【0002】
従来から、取得された原画像を処理する画像処理が様々な手法で行われている。こうした画像処理の技術としては、例えば、デジタルカメラ等により取得された原画像に人の顔像が存在することを認識する顔認識技術がある。また、この顔認識を更に進めて、顔の形状特徴を抽出し、個人を特定する顔認証技術もある(非特許文献1、特許文献1、2等参照)。
【0003】
こうした顔像に関する画像処理技術の存在を背景として、例えば、送信側端末装置のカメラで撮像された画像がそのまま送信されて、受信側端末装置に表示されるばかりではなく、送信側端末装置の利用者のプライバシを保護するために、撮像結果における背景像を他の画像に変更する画像処理を行った後に、受信側端末装置へ送信するテレビ電話の技術も提案されている(特許文献3参照)。この技術では、まず、送信側端末装置のカメラで撮像された画像における送信側話者像を抽出する。そして、抽出された話者像を、予め用意しておいた背景像上に重ね合わせた合成画像を作成し、当該合成画像を送信側端末装置から受信側端末装置へ送信する。この結果、送信側話者の所在位置というプライバシ情報を受信側話者に知らせることなく、違和感のない対面会話を行うことができるようになっている。
【0004】
また、送信側端末装置の利用者のプライバシを保護するために、送信側話者のリアルタイム画像を使用せずに、予め用意しておいた当該送信側話者あるいは他の話者についての複数の静止画像から送信側話者の音声に合わせて選択した画像を、受信側端末装置へ送信する技術も提案されている(特許文献3参照)。なお、この場合にも、選択された話者像を、予め用意しておいた背景像上に重ね合わせた合成画像を作成し、当該合成画像を送信側端末装置から受信側端末装置へ送信することができる。
【0005】
この技術では、予め利用者又は他の者について、例えば母音及び必要に応じて撥音の発音時ごとの静止像を用意しておく。そして、利用者の話中における発生音を解析し、解析結果として得られた発生音に対する画像を選択する。引き続き、選択された画像を、予め用意しておいた背景像上に重ね合わせた合成画像を作成し、当該合成画像を送信側端末装置から受信側端末装置へ送信する。この結果、入浴中である等のリアルタイム画像を送信することがプライバシ保護の観点から不適切な場合にも、画像を参照しつつ違和感のない会話を行うことができるようになっている。
【0006】
【非特許文献1】アイマティックジャパン株式会社、“技術情報”、[2003年12月29日検索]、インターネット<URL:http://www.eyematic.co.jp/tech.html>
【特許文献1】特許公開2003−271958号公報
【特許文献2】特許公開2003−296735号公報
【特許文献3】特許公開2003−309829号公報
【発明の開示】
【発明が解決しようとする課題】
【0007】
上述した従来の画像認識、画像認証、画像トラッキングなどの画像処理技術は、動画に適用できる非常に優れたものであり、様々な応用が考えられる。しかしながら、こうした画像処理技術では、利用者が、自身の趣味感に合わせて原画像を加工し、自身の内心等を表現するということは、技術的な視野には入っていなかった。このため、例えば、テレビ電話に従来の画像処理技術を適用しても、テレビ電話の機能を発揮させつつ、送信側話者の趣味感を反映した画像を伴った楽しい会話を行うという観点からは、十分なものとはなっていなかった。
【0008】
すなわち、従来の画像処理技術では、原画像に対して利用者の感情の強調等を当該利用者の趣味感に合わせた演出を施したものとすることができれば、利用者にとっての楽しさを増進させることができると考えられるが、こうした演出を画像に施すことは、特に原画像が動画である場合にはできなかった。
【0009】
こうした画像の演出は、原画像が固定的な静止画像である場合には、その静止画像の所望の位置に所望の大きさで所望の形状や色のアクセサリ画像を重ねて表示することにより行うことができる。しかし、送信する画像が、時間の経過に伴い刻々と変化する動画像又は動画像に相当する画像である場合には、表示画面の固定的な位置にアクセサリ像を重ねて表示するのでは、違和感のある表示画像となってしまう。
【0010】
例えば、利用者の顔像が含まれる原画像における当該顔像の目の位置にハートマークをほぼ目の大きさで表示させる演出を行う際に、ハートマークを表示画面の固定位置に重ねて表示するのでは、刻々と変化する動画像における顔像の目の位置にハートマークを表示させることはできない。また、表示位置だけでなく、ハートマークの表示の大きさについても、動画像における顔像の大きさに応じたものとしなければ、違和感のある表示画像となってしまう。
【0011】
本発明は、上記の事情を鑑みてなされたものであり、静止画像であるか動画像であるかにかかわらず、原画像に対して利用者の演出を施した画像を簡易にかつ適切に作成することができる画像処理方法及び画像処理方法を提供することを目的とする。
【0012】
また、本発明は、静止画像であるか動画像であるかにかかわらず、原画像に対して利用者の演出を適切に施した画像を送信することができる移動通信端末装置を提供することを目的とする。
【課題を解決するための手段】
【0013】
本発明の画像処理方法は、画像の処理を行う画像処理方法であって、着目すべき像の領域である着目像領域を原画像において特定し、前記原画像中における前記着目像領域の位置及び大きさに関連する情報を含む着目像情報を抽出する着目像情報抽出工程と;前記着目像情報と、前記着目像領域との位置及び大きさの関係を示す少なくとも1つの関係情報、前記関係情報それぞれに対応して特定の要素画像の情報を選択したことを示す要素画像選択情報、並びに前記要素画像選択情報により選択される少なくとも1つの要素画像情報が含まれたマスク画像情報ファイルに登録されたマスク画像情報とに基づいて、前記原画像上に重ねて表示させるマスク画像を作成するマスク画像作成工程と;前記着目像領域内の着目像を前記原画像における場合と同一の位置に同一の大きさで含む着目像含有画像上に前記マスク画像を重ねた合成画像を作成する合成画像作成工程と;を備える画像処理方法である。
【0014】
この画像処理方法では、予めマスク画像情報ファイルに着目像領域との位置及び大きさの関係を示す少なくとも1つの関係情報、関係情報それぞれに対応して特定の要素画像の情報を選択したことを示す要素画像選択情報、並びに前記要素画像選択情報により選択される少なくとも1つの要素画像情報が含まれたマスク画像情報を登録しておく。ここで、「着目像領域」とは、例えば人物像を含む原画像における当該人物の顔の領域等であり、原画像となり得る想定される画像中において画像的特徴により特定可能な領域である。
【0015】
かかるマスク画像情報ファイルの存在を前提として、まず、着目像情報抽出工程において、着目像領域を原画像において特定し、原画像中における着目像領域の位置及び大きさに関連する情報を含む着目像情報を抽出する。引き続き、マスク画像データ作成工程において、着目像情報と、マスク画像情報ファイルに登録されたマスク画像情報とに基づいて、原画像上に重ねて表示させるマスク画像を作成する。この結果、原画像における着目像領域の位置に関連する情報とマスク画像情報に含まれる関係情報における着目像領域の位置との関係を示す情報とにより定まる位置に、原画像における着目像領域の大きさに関連する情報と当該関係情報における着目像領域の大きさの関係を示す情報とにより定まる大きさで、マスク画像情報に含まれる要素画像選択情報により選択された要素画像から構成されるマスク画像が作成される。そして、合成画像作成工程において、例えば、顔領域内の顔像のような着目像領域内の着目像を前記原画像における場合と同一の位置に同一の大きさで含む着目像含有画像上にマスク画像を重ねた合成画像が作成される。
【0016】
したがって、本発明の画像処理方法によれば、原画像が静止画像であるか動画像であるかにかかわらず、着目像含有画像に対して利用者の趣味感に応じた演出を施した画像を簡易にかつ適切に作成することができる。
【0017】
本発明の画像処理方法では、前記着目像含有画像を前記原画像とすることができる。この場合には、原画像に対して利用者の趣味感に応じた演出を、マスク画像を選択することにより行うことができる。
【0018】
また、本発明の画像処理方法では、前記マスク画像情報ファイルが、特定の背景像の情報を選択したことを示す背景画像選択情報を更に含むとともに、前記合成画像作成工程において、前記着目像を含む特定表示像を前記原画像から切り出して、前記特定表示像を前記原画像における場合と同一の位置に同一の大きさで前記特定の背景像に重ねた背景付加像を前記着目像含有画像とした後に前記合成画像を作成することとすることができる。
【0019】
この場合には、合成画像作成工程において、まず、例えば、着目像が顔像である場合における人物像のような着目像を含む特定表示像が原画像から切り出される。引き続き、マスク画像情報ファイルに含まれる背景画像選択情報により指定された背景像上に特定表示画像が重ねられ、背景付加像が作成される。そして、当該背景付加像を着目像含有画像として、この着目像含有画像上に上述のマスク画像が重ねられる。したがって、人物像等の特定表示画像に対する利用者の趣味感に応じた演出を、マスク画像及び背景像を選択することにより施すことができる。
【0020】
また、本発明の画像処理方法では、前記着目像領域の位置に関連する情報には、前記原画像における前記着目像領域の代表点の位置情報が含まれることとすることができる。この場合には、マスク画像情報に含まれる関係情報における着目像領域の位置との関係を示す情報を、着目像領域の代表点に対する相対位置を示す情報とすることができ、関係情報における着目像領域の位置との関係を示す情報を簡易なものとすることができる。なお、関係情報における着目像領域の位置との関係を示す情報を着目像領域の代表点に対する相対位置を示す情報とする場合には、その相対位置情報を着目像領域が基準の大きさを有する場合における相対位置情報とし、原画像における着目像領域の大きさと当該基準となっている着目象領域の大きさとの比に応じて当該相対位置情報の値を原画像における着目像領域の大きさに応じた値に換算することとすることができる。また、当該相対位置情報の値を、原画像における着目像領域の大きさで正規化された後の値としておき、相対位置情報の値に原画像における着目像領域の大きさに応じた値に換算するようにしてもよい。
【0021】
ここで、前記着目像領域の位置に関連する情報には、前記原画像における前記着目像領域の傾き情報が更に含まれることとすることができる。この場合には、原画像における着目像領域の傾き情報を使用することにより、着目像領域の原画像における傾きに応じた位置に、所望の要素画像を重ねて表示した合成画像を作成することができる。また、表示する要素画像に着目像領域の原画像における傾きに応じた傾きを持たせて表示させることができる。なお、傾き情報は、着目像の2次元的な傾きを示す1つの角度情報であってもよいし、着目像の3次元的な傾きを示す2つ又は3つの角度情報であってもよい。
【0022】
以上のように、着目像領域の位置に関連する情報に原画像における着目像領域の代表点の位置情報及び原画像における前記着目像領域の傾き情報が含まれる場合には、前記関係情報には、前記着目像領域の代表点を原点とし、前記着目像領域の傾きに基づいて座標軸の方向が定められる座標系における座標位置情報が、前記特定の要素画像の表示位置情報として含まれることとすることができる。この場合には、関係情報における着目像領域の位置との関係を示す情報を着目像領域の代表点に対する相対位置を示す情報を、着目像領域の代表点を原点とし、前記着目像領域の傾きに基づいて座標軸の方向が定められる座標系における座標位置情報という簡易かつ取り扱いが容易なものとすることができる。
【0023】
本発明の画像処理方法では、前記関係情報には、前記着目像領域の大きさと前記特定の要素画像の表示時における大きさとの比率情報が含まれることとすることができる。この場合には、原画像内で着目像領域の大きさが刻々と変化する場合であっても、着目像領域の大きさに適合した大きさの要素画像を含むマスク画像を作成することができる。
【0024】
また、本発明の画像処理方法では、前記マスク画像情報には、前記関係情報及び前記関係情報に対応する要素画像選択情報との組合せで定まる要素画像表示それぞれの実行時間情報が更に含まれることとすることができる。この場合には、当該実行時間情報に従ってマスク画像を作成することにより、所望の要素画像それぞれを所望の時間に設定した表示実行時間だけ表示することができ、ダイナミックに変化するマスク画像を作成することができる。
【0025】
ここで、前記マスク画像情報には、前記関係情報及び前記関係情報に対応する要素画像選択情報の組合せで定まる複数種類の要素画像表示を時間順次に表示するとともに、時間順次表示を繰り返すことを指定する時間順次表示指定の情報が更に含まれることとすることができる。この場合には、当該時間順次表示指定の情報に従ってマスク画像を作成することにより、原画像上に複数の要素画像を所望の時間ごとに時間順次に繰り返し表示することができる。
【0026】
また、本発明の画像処理方法では、前記マスク画像情報には、前記関係情報及び前記関係情報に対応する要素画像選択情報の組合せで定まる複数種類の要素画像表示を同時に表示することを指定する同時表示指定の情報が更に含まれることとすることができる。この場合には、所望の複数の要素画像それぞれが、所望の位置に表示されるマスク画像を作成することができ、様々なバリエーションのマスク画像を作成することができる。
【0027】
なお、本発明の画像処理方法では、前記原画像を動画像とすることができる。この場合には、原画像における着目像の位置、傾き及び大きさが変化する動画像に対して、ダイナミックかつ違和感なく、利用者の趣味感に応じた合成画像を作成することができる。
【0028】
ここで、前記着目像情報に基づいて前記着目像領域において予め定められた現象が発生したか否かを判定する所定現象発生判定工程を更に備えるとともに、前記所定現象発生判定工程において肯定的な判定がされた後に、マスク画像データ作成工程及び前記合成画像データ作成工程を開始することとすることができる。この場合には、所定現象発生判定工程において前記着目像領域において予め定められた現象が発生したとき、マスク画像データ作成工程及び前記合成画像作成工程を開始させるので、当該その現象に合わせた演出を行ったマスク画像を作成することができ、そのマスク画像が原画像上に重ねた合成画像を作成することができる。例えば着目像が人の顔の場合に、着目像における瞼が閉じられたときに、目の位置から涙が流れる合成画像を作成することができる。
【0029】
本発明の画像処理装置は、画像の処理を行う画像処理装置であって、着目すべき像の領域である着目像領域を原画像において特定し、前記原画像中における前記着目像領域の位置及び大きさに関連する情報を含む着目像情報を抽出する着目像情報抽出手段と;前記着目像領域との位置及び大きさの関係を示す少なくとも1つの関係情報、前記関係情報それぞれに対応して特定の要素画像の情報を選択したことを示す要素画像選択情報、並びに前記要素画像選択情報により選択される少なくとも1つの要素画像情報が含まれたマスク画像情報が登録されたマスク画像情報ファイルを格納する記憶手段と;前記着目像情報と、前記マスク画像情報とに基づいて、前記原画像上に重ねて表示されるマスク画像のデータを作成するマスク画像データ作成手段と;前記着目像領域内の着目像を前記原画像における場合と同一の位置に同一の大きさで含む着目像含有画像上に前記マスク画像を重ねた合成画像を作成する合成画像作成手段と;を備える画像処理装置である。
【0030】
この画像処理装置では、着目像情報抽出手段が、着目像領域を原画像において特定し、原画像中における着目像領域の位置及び大きさに関連する情報を含む着目像情報を抽出する。引き続き、マスク画像データ作成手段が、着目像情報と、マスク画像情報ファイルに登録されたマスク画像情報とに基づいて、原画像上に重ねて表示させるマスク画像を作成する。そして、合成画像作成手段が、着目像領域内の着目像を前記原画像における場合と同一の位置に同一の大きさで含む着目像含有画像上にマスク画像を重ねた合成画像を作成する。
【0031】
すなわち、本発明の画像処理装置では、本発明の画像処理方法を使用して、合成画像を作成する。したがって、本発明の画像処理装置によれば、原画像が静止画像であるか動画像であるかにかかわらず、着目像含有画像に対して利用者の趣味感に応じた演出を施した画像を簡易にかつ適切に作成することができる。
【0032】
本発明の画像処理装置では、前記着目像含有画像を前記原画像とする構成とすることができる。この場合には、原画像に対して利用者の趣味感に応じた演出を、マスク画像を選択することにより行うことができる。
【0033】
本発明の画像処理装置では、前記マスク画像情報ファイルが、特定の背景像の情報を選択したことを示す背景画像選択情報を更に含むとともに、前記合成画像作成手段が、前記着目像を含む特定表示像を前記原画像から切り出して、前記特定表示像を前記原画像における場合と同一の位置に同一の大きさで前記特定の背景像に重ねた背景付加像を前記着目像含有画像とした後に前記合成画像を作成する構成とすることができる。
【0034】
この場合には、合成画像作成手段は、まず、着目像を含む特定表示像を原画像から切り出す。引き続き、合成画像作成手段は、マスク画像情報ファイルに含まれる背景画像選択情報により指定された背景像上に特定表示画像を重ね、背景付加像を作成する。そして、合成画像作成手段は、当該背景付加像上に上述のマスク画像を重ねる。したがって、人物像等の特定表示画像に対する利用者の趣味感に応じた演出を、マスク画像及び背景像を選択することにより施すことができる。
【0035】
また、本発明の画像処理装置では、前記合成画像を表示する表示手段を更に備える構成とすることができる。この場合には、表示手段により合成画像を表示することにより、合成画像の作成者が、自身の趣味感による演出が施されて作成された合成画像を確認することができる。
【0036】
本発明の画像処理装置では、前記合成画像データを送信する送信手段を更に備える構成とすることができる。この場合には、送信側における合成画像の作成者の趣味感による演出が施されて作成された合成画像を受信側へ向けて送信することができるので、受信者に対して、作成者の趣味感による演出が施されて作成された合成画像を通知することができる。
【0037】
本発明の画像処理装置では、前記原画像を取得するための撮像手段を更に備える構成とすることができる。この場合には、撮像手段により撮像により取得した画像を原画像とすることができ、当該原画像に対して、作成者の趣味感に応じた演出を施した画像を簡易にかつ適切に作成することができる。なお、撮像手段により取得される画像は、静止画像であってもよいし、動画像であってもよい。
【0038】
本発明の移動通信端末装置は、本発明の画像処理装置を備える移動通信端末装置である。この移動通信端末装置では、本発明の画像処理装置によって作成された合成画像を受信側端末装置に向けて送信することができるので、静止画像であるか動画像であるかにかかわらず、原画像に対して利用者の演出を適切に施した画像を送信することができる。
【発明の効果】
【0039】
以上説明したように、本発明の画像処理方法によれば、静止画像であるか動画像であるかにかかわらず、原画像に対して利用者の演出を施した画像を簡易にかつ適切に作成することができる。
【0040】
また、本発明の画像処理装置によれば、本発明の画像処理方法を使用して合成画像を作成するので、静止画像であるか動画像であるかにかかわらず、原画像に対して利用者の演出を施した画像を簡易にかつ適切に作成することができる。
【0041】
また、本発明の移動通信端末装置によれば、本発明の画像処理装置を備えるので、静止画像であるか動画像であるかにかかわらず、原画像に対して利用者の演出を適切に施した画像を送信することができる。
【図面の簡単な説明】
【0042】
【図1A】本発明の第1実施形態に係る携帯電話装置の正面側の外観構成を概略的に示す図である。
【図1B】本発明の第1実施形態に係る携帯電話装置の背面側の外観構成を概略的に示す図である。
【図2】図1A及び図1Bの携帯電話装置の内部構成を説明するための機能ブロック図である。
【図3】図2のマスク画像処理部の内部構成を説明するための機能ブロック図である。
【図4A】着目像領域情報を説明するための図(その1)である。
【図4B】着目像領域情報を説明するための図(その2)である。
【図5A】図2のマスク画像情報ファイルの構成を説明するための図である。
【図5B】図5Aの要素画像ファイルの構成を説明するための図である。
【図6】要素画像の例を示す図(その1)である。
【図7】図5Aの表示指定ファイルの内容例を示す図(その1)である。
【図8A】図5Aの表示指定ファイルの内容例を示す図(その2)である。
【図8B】図5Aの表示指定ファイルの内容例を示す図(その3)である。
【図9A】着目像の例を示す図である。
【図9B】図9Aにおける着目像座標系の例を説明するための示す図である。
【図10A】原画像の例を示す図である。
【図10B】マスク画像の例を示す図(その1)である。
【図11】第1実施形態における合成画像の例を示す図(その1)である。
【図12A】要素画像の例を示す図(その2)である。
【図12B】要素画像の例を示す図(その3)である。
【図12C】要素画像の例を示す図(その4)である。
【図13】マスク画像の例を示す図(その2)である。
【図14】第1実施形態における合成画像の例を示す図(その2)である。
【図15A】要素画像の例を示す図(その5)である。
【図15B】要素画像の例を示す図(その6)である。
【図15C】要素画像の例を示す図(その7)である。
【図16】マスク画像の例を示す図(その3)である。
【図17】第1実施形態における合成画像の例を示す図(その3)である。
【図18】本発明の第2実施形態に係る携帯電話装置の内部構成を説明するための機能ブロック図である。
【図19】図18のマスク画像処理部の内部構成を説明するための機能ブロック図である。
【図20】図18のマスク画像情報ファイルの構成を説明するための図である。
【図21】図20の表示指定ファイルの内容例を示す図である。
【図22】背景像の例を示す図である。
【図23】特定表示画像の例を示す図である。
【図24】図19の合成画像作成部における合成画像作成動作を説明するための図である。
【発明を実施するための最良の形態】
【0043】
<第1実施形態>
以下、本発明の第1実施形態を、図1A〜図17を参照して説明する。図1及び図2には、一実施形態に移動通信端末装置である携帯電話装置10の構成が概略的に示されている。ここで、図1Aには、携帯電話装置10の外観の正面図が示され、図1Bには、携帯電話装置10の外観の背面図が示されている。また、図2には、携帯電話装置10の機能ブロック構成が示されている。
【0044】
図1A、図1B及び図2において総合的に示されるように、携帯電話装置10は、(a)後述する制御部21等を備える携帯電話本体11と、(b)電話番号を制御部21へ入力するためのテンキー、及び、動作モードの切替等の各種指令を制御部21へ入力するためのファンクションキーを有する操作部12と、(c)制御部21による指令に応じて、操作案内、動作状況、受信メッセージ等を表示する液晶表示装置を有する表示部13とを備えている。また、携帯電話装置10は、(d)通話時に通信相手から送られてきた音声信号を再生する通話用スピーカ14と、通話時に音声を入力するためのマイクロフォン15と、(e)制御部21による指令に応じて、着信音や案内音を発生するための案内用スピーカ16とを備えている。更に、携帯電話装置10は、(f)送受信部22と接続され、基地局との間で無線信号を授受するためのアンテナ17とを備えている。さらに、携帯電話装置10は、(g)表示部13における表示を見ながら操作部12を操作する操作者側を撮影する、すなわち、いわゆる自分撮りの態様で撮影を行うための撮像光学系18と、(h)当該操作者の視線方向を視野方向とする撮影を行う、すなわち、いわゆる相手撮りの態様で撮影を行うための撮像光学系19とを備えている。
【0045】
携帯電話本体11は、図2に示されるように、(i)携帯電話装置10の全体の動作を統括制御するとともに、様々なデータ処理を行う制御部21と、(ii)基地局との間でアンテナ17を介して無線信号を送受信するための送受信部22と、(iii)様々なデータを記憶するための記憶部23とを備えている。また、携帯電話本体11は、制御部21の制御に応じて、撮像光学系18を介した光及び撮像光学系19を介した光のいずれかを、後述する撮像素子25へ向けて射出する切換光学系24と、(iv)切換光学系24を介した光が受光面に形成する光学像を撮像するCCD素子等の撮像素子25とを備えている。ここで、撮像素子25は、制御部21の制御のもとで撮像動作を行い、撮像結果を制御部21へ通知するようになっている。
【0046】
制御部21は、基本制御部29と、マスク画像処理部30とを備えている。ここで、基本制御部29は、マスク画像処理部30の動作の開始及び停止を制御するとともに、制御部21の外部に配置された各要素の制御、及び、後述するマスク画像作成の画像処理以外のデータ処理を行う。
【0047】
上記のマスク画像処理部30は、図3に示されるように、着目像情報抽出部31と、マスク画像作成部32と、合成画像作成部33とを備えている。着目像情報抽出部31は、撮像素子25からの原画像データOMDに基づいて、例えば原画像における特定人物(例えば、携帯電話装置10の利用者)の顔領域等の着目像領域を特定し、原画像における着目像領域の代表点の位置情報、原画像における着目像領域の傾き情報及び着目像領域の大きさ情報から成る着目像情報WMDを抽出する。
【0048】
ここで、着目像情報WMDの抽出について、詳述する。なお、以下においては、説明を簡易に行う都合上、原画像における被撮影体の表示面に対する構造を考慮せずに2次元的に取り扱うこととし、表示面における奥行き方向の沿った被撮影体の構造は考えないものとする。また、図4A及び図4Bに示されるように、原画像領域OMRにおける着目像領域WMRが特定されるものとする。ここで、図4Aには、着目像領域WMRが基準となる傾きである(すなわち、傾き角θW=0)場合が模式的に表されている。また、図4Bには、基準傾きからθ0だけ傾いている(すなわち、傾き角θW=θ0)場合が示されている。また、原画像領域OMRにおける各画素位置は、原画像座標系であるXSYS座標系における座標値によって表されるものとする。また、着目像領域WMRについては、代表点OWを原点とするとともに、傾き角θW=0の場合にXS軸と平行な軸をXW軸とし、YS軸と平行な軸をYW軸とする着目像座標系(すなわち、XWYW座標系)が定義されるものとする。また、傾き角θWは反時計回りの角度で表されるものとする。
【0049】
図4Aの場合には、着目像情報抽出部31は、原画像領域OMRにおける着目像領域WMRを特定した後、まず、着目像領域WMRの代表点の位置情報として、代表点OWの原画像座標系における座標位置OW(XSW1,YSW1)を求める。ここで、着目像領域WMRの代表点としては、着目像領域WMRの重心位置、着目像が特定人物の顔像である場合における当該顔像における鼻の突端位置等といった画像解析によって得られる着目像領域における特徴的な点を採用することができる。
【0050】
次に、着目像情報抽出部31は、着目像領域WMRの原画像領域OMRにおける傾き情報として、XS軸とXW軸との交差角θW(すなわち、上述の傾き角θW)を求める。傾き角θWは、予め傾き角θWが「0」であると定義された着目像領域WMRにおける着目像として特徴的な方向とXS軸との交差角と、原画像内における着目像おける当該特徴的な方向とXS軸との交差角との差を算出することより求められる。こうした特徴的な方向としては、例えば、着目像領域WMRの形状が楕円近似できる場合には近似楕円の長軸方向若しくは短軸方向、又は、着目像が特定人物の顔像である場合における当該顔像における両目の中心位置を結ぶ方向等を採用することができる。こうして、傾き角θW(図4Aの場合には、θW=0)が求められると、原画像領域OMR中におけるXWYW座標系(着目座標系)が求められることになる。
【0051】
次いで、着目像情報抽出部31は、着目像領域WMRの大きさ情報として、着目像領域WMRに関する特徴的な長さを求める。本実施形態においては、XW軸上における着目像領域WMRの幅を当該特徴的な長さ(図4Aにおける幅LXW)としている。なお、着目像領域WMRの大きさ情報としては、XW軸上における着目像領域WMRの幅LXW以外に、YW軸上における着目像領域WMRの幅、XW軸(若しくはYW軸)方向における着目像領域WMRの最大幅、又は着目像領域における特徴的な2点間の距離(例えば、着目像が特定人物の顔像である場合における当該顔像における両目の中心間距離)、当該距離のXW軸成分の長さ若しくは当該距離のYW軸成分の長さ等を採用することができる。
【0052】
図4Bの場合にも、着目像情報抽出部31は、上述した図4Aの場合と同様に、原画像領域OMRにおける着目像領域WMRを特定した後、着目像領域WMRにおける代表点の位置情報、傾き情報及び大きさ情報を求める。なお、図4Bの場合には、代表点の位置情報として代表点OWの原画像座標系における座標位置OW(XSW2,YSW2)が求められ、着目像領域WMRの傾き情報として傾き角θW=θ0が求められ、着目像領域WMRの大きさ情報として、XW軸上における着目像領域WMRの幅LXWが求められる。
【0053】
上記のマスク画像作成部32は、着目像情報抽出部31によって抽出された着目像情報WMDと、上述した記憶部23に記憶されたマスク画像情報MDDとに基づいて、マスク画像データMMDを作成する。なお、マスク画像情報MDD及びマスク画像作成部32によるマスク画像データMMDの作成については、後述する。
【0054】
上記の合成画像作成部33は、原画像データOMD及びマスク画像データMMDに基づいて、原画像上にマスク画像を重ねた合成画像データSMDを作成する。なお、合成画像作成部33によって作成された合成画像データSMDは、基本制御部29へ通知されるようになっている。
【0055】
なお、本実施形態においては、制御部21は、中央処理装置(CPU)、デジタル信号処理装置(DSP)等を備えている。そして、制御部21で実行されるプログラムとして構成された基本処理部29やマスク画像処理部30により、メール送受信処理を含む携帯電話機能を実現するために、様々なデータ処理を行うとともに、上述した他の構成要素の動作制御を行うようになっている。
【0056】
図2に戻り、記憶部23には、マスク画像情報ファイル40が記憶されている。このマスク画像情報ファイル40は、図5Aに示されるように、(i)原画像における着目像領域と関連してどのようにマスク画像を表示するかを指定する表示指定記述が格納された表示指定ファイル41jと、(ii)表示指定ファイル41jにおける表示指定記述によって指定される要素画像データが格納された要素画像ファイル42jとから構成されている。なお、マスク画像情報ファイル40は、携帯電話装置10に対して、コンテンツプロバイダから無線回線を介して提供されたり、利用者がパーソナルコンピュータ等により作成した後に記憶媒体や不図示の外部インターフェースを介して提供されたりする。
【0057】
要素画像ファイル42jには、図5Bに示されるように、要素画像が格納されている。なお、要素画像ファイル42jに格納されている第i番目の要素画像を以下においては、要素画像EMMjiと記すものとする。なお、図5Bでは、要素画像ファイル42jに格納されている要素画像が複数ある場合が示されているが、要素画像ファイル42jに格納されている要素画像の数は1つの場合もあるし、2つ以上の場合もある。要素画像EMMjiとしては、例えば、ハート図形画像、唇図形画像等がある。
【0058】
こうした、要素画像EMMjiは、図6において要素画像EMM11について代表的に示されるように、要素画像に固有の座標系、すなわち要素画像EMMjiの代表点(図6では、要素画像EMM11の中心点)を原点OEとするXEYE座標系において作成されている。そして、要素画像EMMjiの大きさ情報としては、XE軸方向における最大幅LXEi(図6においては、最大幅LXE1)を使用するようになっている。図6においては、要素画像EMMjiをハート図形の要素画像EMM11としたが、形状や大きさの異なる要素画像であっても、同様である。
【0059】
上記の表示指定ファイル41jにおける表示指定記述の例が、図7、図8A及び図8Bに示されている。なお、本実施形態における表示指定記述は、SMIL(Synchronized Multimedia Integration Language)形式に準じた形式で記述されるようになっている。
【0060】
図7には、着目像領域の位置、傾き、及び大きさに応じて定まる2つの位置(例えば、着目像が特定の人物の顔像である場合における両目の位置)に、定常的に同一の要素画像が同時を表示させる表示指定を行うための例が表示指定ファイル411として示されている。すなわち、<同時表示指定>により、これと<同時表示指定終了>との間に記述された<付加画像1指定>及び<付加画像2指定>によって指定される付加画像1及び付加画像2が同時に表示されることが指定される。
【0061】
付加画像1は、<付加画像1指定>と<付加画像1指定終了>と間の記述によって指定される。すなわち、「表示位置指定」によって指定されるように、着目像領域WMRの大きさ情報が予め定められた基準となる値LXW0である場合におけるXWYW座標系の座標位置(XW11,YW11)に、「要素画像指定」によって指定される要素画像EMM11が表示される。また、「大きさ指定」によって指定されるように、表示時における要素画像EMM11のXW軸方向の最大幅が、着目像領域WMRの大きさLXWに対して比率R1の長さとされる。なお。後述する表示時間指定がなされていないことから、付加画像1における要素画像EMM11は常時表示されることが指定されている。
【0062】
付加画像2は、<付加画像2指定>と<付加画像2指定終了>と間の記述によって指定される。すなわち、「表示位置指定」によって指定されるように、着目像領域WMRの大きさ情報が予め定められた基準となる値LXW0である場合におけるXWYW座標系の座標位置(XW12,YW12)に、「要素画像指定」によって指定される要素画像EMM11が表示される。これ以外の指定については、付加画像1の場合と同様の指定が行われていることから、付加画像1の場合と同様の表示指定が行われている。
【0063】
なお、図7のような表示指定ファイル411の場合には、表示指定ファイル411に対応する要素画像ファイル421には、要素画像として、要素画像EMM11のみが格納される。
【0064】
図8Aには、着目像領域の位置、傾き、及び大きさに応じて定まる1つの位置(例えば、着目像が特定の人物の顔像である場合における口の位置)に、表示内容が時間的に変化する1つの付加画像1が表示させる表示指定を行うための例が表示指定ファイル412として例が示されている。なお、図8Aの表示指定ファイル412では、複数の要素画像を同時に表示させないので、図7における同時表示に関連する<同時表示指定>及び<同時表示指定終了>が記述されていない。
【0065】
付加画像1は、<付加画像1指定>と<付加画像1指定終了>と間の記述によって指定される。すなわち、まず、第1の「要素画像指定」によって指定される要素画像EMM21が、第1の「表示位置指定」によって指定される着目像領域が予め定められた基準となる大きさ情報LXEが値LXE0である場合におけるXWYW座標系の座標位置(XW21,YW21)に表示される。また、第1の「大きさ指定」によって指定されるように、要素画像EMM21の表示時のXE軸方向の最大幅が、着目像領域WMRの大きさLXWに対して比率R21の長さとされる。また、第1の「表示時間指定」によって指定されるように、要素画像EMM21が、時間T21にわたって表示される。
【0066】
要素画像EMM21の時間T21の表示が終了すると、次に、第2の「要素画像指定」によって指定される要素画像EMM22が、第2の「表示位置指定」によって指定される位置、すなわち要素画像EMM21の場合と同様の位置に表示される。また、第2の「大きさ指定」によって指定されるように、要素画像EMM22の表示時におけるXE軸方向の最大幅が、着目像領域WMRの大きさLXWに対して比率R22の長さとされる。また、第2の「表示時間指定」によって指定されるように、要素画像EMM22が、時間T22にわたって表示される。
【0067】
要素画像EMM22の時間T22の表示が終了すると、次に、第3の「要素画像指定」によって指定される要素画像EMM23が、第3の「表示位置指定」によって指定される位置、すなわち要素画像EMM21の場合と同様の位置に表示される。また、第3の「大きさ指定」によって指定されるように、要素画像EMM23の表示時におけるXE軸方向の最大幅が、着目像領域WMRの大きさLXWに対して比率R23の長さとされる。また、第3の「表示時間指定」によって指定されるように、要素画像EMM23が、時間T23にわたって表示される。
【0068】
こうして、要素画像EMM21、要素画像EMM22及び要素画像EMM23の時間順次の表示が終了すると、再度、上記と同様の態様で要素画像EMM21、要素画像EMM22及び要素画像EMM23の時間順次の表示がされる。こうして、要素画像EMM21、要素画像EMM22及び要素画像EMM23の指定態様による表示が、時間順次に繰り返される。
【0069】
図8Bには、着目像領域の位置、傾き、及び大きさに応じて定まる1つの位置に、常時1つの要素画像を表示させるとともに、着目像領域の位置、傾き、及び大きさに応じて定まる他の2つの位置に、時間順次に異なる2つの要素画像を択一的に表示させる表示指定を行うための例が表示指定ファイル413として例が示されている。すなわち、<同時表示指定>により、これと<同時表示指定終了>との間に記述された<付加画像1指定>及び<付加画像2指定>によって指定される付加画像1及び付加画像2が同時に表示されることが指定される。
【0070】
付加画像1は、<付加画像1指定>と<付加画像1指定終了>と間の記述によって指定される。すなわち、「表示位置指定」によって指定されるように、着目像領域WMRの大きさ情報が予め定められた基準となる値LXW0である場合におけるXWYW座標系の座標位置(XW31,YW31)に、「要素画像指定」によって指定される要素画像EMM31が表示される。また、「大きさ指定」によって指定されるように、表示時における要素画像EMM31のXW軸方向の最大幅が、着目像領域WMRの大きさLXWに対して比率R31の長さとされる。なお、表示時間指定がなされていないことから、付加画像1における要素画像EMM31は常時表示されることが指定されている。
【0071】
付加画像2は、<付加画像2指定>と<付加画像2指定終了>と間の記述によって指定される。すなわち、まず、第1の「表示位置指定」によって指定されるように、着目像領域WMRの大きさ情報が予め定められた基準となる値LXW0である場合におけるXWYW座標系の座標位置(XW32,YW32)に、第1の「要素画像指定」によって指定される要素画像EMM32が表示される。また、「大きさ指定」によって指定されるように、表示時における要素画像EMM32のXW軸方向の最大幅が、着目像領域WMRの大きさLXWに対して比率R32の長さとされる。また、第1の「表示時間指定」によって指定されるように、要素画像EMM32が、時間T32にわたって表示される。
【0072】
付加画像2においては、要素画像EMM32の時間T32の表示が終了すると、次に、第2の「表示位置指定」によって指定されるように、着目像領域WMRの大きさ情報が予め定められた基準となる値LX0である場合におけるXWYW座標系の座標位置(XW33,YW33)に、第2の「要素画像指定」によって指定される要素画像EMM33が表示される。また、「大きさ指定」によって指定されるように、表示時における要素画像EMM33のXW軸方向の最大幅が、着目像領域WMRの大きさLXWに対して比率R33の長さとされる。また、第2の「表示時間指定」によって指定されるように、要素画像EMM33が、時間T33にわたって表示される。
【0073】
こうして、付加画像1と付加画像2とを合わせて、要素画像EMM31及び要素画像EMM32の同時表示と、要素画像EMM31及び要素画像EMM33の同時表示とが時間順次に行われる。これらの表示が終了すると、再度、上記と同様の態様で、要素画像EMM31及び要素画像EMM32の同時表示と、要素画像EMM31及び要素画像EMM33の同時表示とが時間順次に行われる。こうして、要素画像EMM31及び要素画像EMM32の同時表示と、要素画像EMM31及び要素画像EMM33の同時表示とが時間順次に繰り返される。
【0074】
以下、上記のように構成された携帯電話装置10における、原画像にマスク画像を重ねた合成画像の作成の動作について説明する。
【0075】
前提として、マクス画像作成部32は、記憶部23におけるマスク画像情報ファイル40の内容をマスク画像情報MDDとして既に読み込んでいるものとする。また、原画像は、撮像光学系18及び切換光学系24を介し、撮像素子25の撮像面に結像された像であるものとする。また、着目像WMMは、図9Aに示されるような特定の人物の顔像であるものものとする。そして、図9Bに示されるように、着目像WMMにおける鼻の突端位置を原点OWとし、両面を結ぶ方向をXW軸方向とし、当該XW軸方向と垂直な方向をYW軸方向とするXWYW座標系(着目像座標系)が定義されるものとする。なお、原点OW及びXW軸方向は、原画像における着目像を画像解析して求められ、YW軸方向は、求められたXW軸方向に基づいて求められるものとする。
【0076】
《第1の合成画像作成例》
まず、第1の合成画像作成例を説明する。この例は、上述した図7において、両目の位置を表示位置とし、要素画像EMM11が、図6に示されるハート型図形画像であり、当該要素画像EMM11が着目像WMMの大きさを表す長さ値LXWに対して比率R1の大きさで表示されるマスク画像が、原画像に重ねて表示される合成画像の例である。
【0077】
まず、撮像素子25において撮像された原画像OMMのデータである原画像データOMDが、着目像情報抽出部31へ通知される。なお、原画像データOMDは、同時に合成画像作成部33へも通知される(図3参照)。ここで、得られた原画像OMMの例が、図10Aに示されている。
【0078】
着目像情報抽出部31は、通知された原画像OMMを画像処理して、着目像WMMの領域を抽出する。引き続き、着目像情報抽出部31は、着目像WMMを解析して、原画像座標系(XSYS座標系)における着目像WMMにおける鼻の突端位置(XSW,YSW)を着目像座標(XWYW座標系)の原点OWの位置として求めるとともに、両目の瞳の中央位置同士を結ぶ線分が延びる方向をXWYW座標系のXW軸方向として求める。そして、求められたXW軸方向とXS軸方向との交差角度θWを求める。さらに、着目像情報抽出部31は、着目像WMMのXW軸上における幅LXWを求める。そして、着目像情報抽出部31は、着目像情報データWMDとして、着目像領域の位置情報としての位置(XSW,YSW)を、着目像領域の傾き情報としての角度θWを、着目像領域の大きさ情報としての長さLXWを、マスク画像作成部32へ通知する。
【0079】
着目像情報データWMDを受けたマスク画像作成部32は、まず、付加画像1における要素画像EMM11のXSYS座標系における表示位置(XE11,YE11)を、次の(1)式及び(2)式により算出する。
XE11=(LXW/LX0)(XW11・cosθW+YW11・sinθW)+XSW …(1)
YE11=(LXW/LX0)(−XW11・sinθW+YW11・cosθW)+YSW …(2)
【0080】
次に、マスク画像作成部32は、付加画像1における要素画像EMM11の拡大又は縮小の倍率M11を、次の(3)式により算出する。
M11=R1・LXW/LXE1 …(3)
【0081】
次いで、マスク画像作成部32は、要素画像EMM11をXSYS座標系において原点OEを中心として倍率M11で拡大又は縮小を行う。引き続き、マスク画像作成部32は、拡大又は縮小された要素画像EMM11をXEYE座標系において原点OEを中心として角度θWだけ回転させる。そして、拡大又は縮小され、かつ、回転された要素画像EMM11を、XSYS座標系における座標位置(XE11,YE11)が原点OEの位置となるようにXSYS座標系に配置する。
【0082】
次に、マスク画像作成部32は、付加画像1の場合と同様にして、付加画像2における要素画像EMM11のXSYS座標系における表示位置(XE12,YE12)を、次の(4)式及び(5)式により算出する。
XE12=(LXW/LX0)(XW12・cosθW+YW12・sinθW)+XSW …(4)
YE12=(LXW/LX0)(−XW12・sinθW+YW12・cosθW)+YSW …(5)
【0083】
引き続き、マスク画像作成部32は、付加画像1の場合と同様にして、付加画像2における要素画像EMM11の拡大又は縮小の倍率M12を、次の(6)式により算出する。
M12=R1・LXW/LXE1 …(6)
【0084】
次いで、マスク画像作成部32は、要素画像EMM11をXSYS座標系において原点OEを中心として倍率M12で拡大又は縮小を行う。引き続き、マスク画像作成部32は、拡大又は縮小された要素画像EMM11をXEYE座標系において原点OEを中心として角度θWだけ回転させる。そして、拡大又は縮小され、かつ、回転された要素画像EMM11を、XSYS座標系における座標位置(XE12,YE12)が原点OEの位置となるようにXSYS座標系に配置する。
【0085】
以上の結果、図10Bにおいて画像F10Bとして示されるようなマスク画像MMMAが作成される。そして、マスク画像作成部32は、作成されたマスク画像MMMAのデータをマスク画像データMMDとして合成画像作成部33へ通知する。
【0086】
マスク画像データMMD及び原画像データOMDを受けた合成画像作成部33は、原画像データOMM上にマスク画像MMMAを重ねた合成画像SMMAを作成する。こうして作成された合成画像SMMAが図11において画像F11Aとして示されている。
【0087】
以上のようにして、本例の場合における合成画像が作成される。このため、撮像中の原画像における着目像WMMが上記の例から平行移動したとしても、画像F11Bとして示されるように、上記の場合と同様に、着目像WMMの両目の位置に要素画像EMM11が着目像領域の大きさに応じて指定された比率の大きさで表示されたマスク画像が原画像上に重ねられた合成画像SMMBが作成される。
【0088】
また、撮像中の原画像における着目像WMMが縮小したとしても、画像F11Cとして示されるように、上記の場合と同様に、着目像WMMの両目の位置に要素画像EMM11が着目像領域の大きさに応じて指定された比率の大きさで表示されたマスク画像が原画像上に重ねられた合成画像SMMCが作成される。また、撮像中の原画像における着目像WMMが回転したとしても、画像F11Dとして示されるように、上記の場合と同様に、着目像WMMの両目の位置に要素画像EMM11が着目像領域の大きさに応じて指定された比率の大きさを有し、かつ、着目像WMMの原画像中における傾きと同一の傾きを持って表示されたマスク画像が原画像上に重ねられた合成画像SMMDが作成される。なお、撮像中の原画像における着目像WMMが縮小、拡大又は回転した場合には、一般に、着目像領域における鼻の突端位置の原画像座標系(XSYS座標系)における座標位置の変化を伴うこととなる。
【0089】
《第2の合成画像作成例》
次に、第2の合成画像作成例を説明する。この例は、上述した図8Aにおいて、口の位置を表示位置とし、図12Aに示される要素画像EMM21、図12Bに示される要素画像EMM22、及び図12Cに示される要素画像EMM23が時間順次に繰り返して表示されるマスク画像が、原画像に重ねて表示される合成画像の例である。
【0090】
なお、図8Aの記述で指定されている「大きさ情報」に応じた大きさで要素画像EMM21,EMM22,EMM23が表示される。すなわち、要素画像EMM21は着目像WMMの大きさを表す長さ値LXWに対して比率R21の大きさで表示される。また、要素画像EMM22は長さ値LXWに対して比率R22の大きさで表示される。さらに、要素画像EMM23は長さ値LXWに対して比率R23の大きさで表示される。
【0091】
まず、上記の第1の合成画像作成例と同様にして、撮像素子25において撮像された原画像OMMのデータが原画像データOMDとして着目像情報抽出部31へ通知される。引き続き、着目像情報抽出部31が、通知された原画像OMMを画像処理して、着目像WMMの領域を特定し、着目像情報WMRを抽出する。そして、着目像情報抽出部31は、着目像情報データWMDとして、着目像領域の位置情報としての位置(XSW,YSW)を、着目像領域の傾き情報としての角度θWを、着目像領域の大きさ情報としての長さLXWを、マスク画像作成部32へ通知する。
【0092】
着目像情報データWMDを受けたマスク画像作成部32は、まず、付加画像1における第1要素画像EMM21のXSYS座標系における表示位置(XE2,YE2)を、次の(7)式及び(8)式により算出する。
XE2=(LXW/LX0)(XW2・cosθW+YW2・sinθW)+XSW …(7)
YE2=(LXW/LX0)(−XW2・sinθW+YW2・cosθW)+YSW …(8)
【0093】
次に、マスク画像作成部32は、第1の要素画像EMM21の拡大又は縮小の倍率M21を、次の(9)式により算出する。
M21=R21・LXW/LXE21 …(9)
【0094】
次いで、マスク画像作成部32は、上記の第1の合成画像作成と同様にして、要素画像EMM21をXSYS座標系において原点OEを中心として倍率M21で拡大又は縮小を行う。引き続き、マスク画像作成部32は、拡大又は縮小された要素画像EMM21をXEYE座標系において原点OEを中心として角度θWだけ回転させる。そして、拡大又は縮小され、かつ、回転された要素画像EMM21を、XSYS座標系における座標位置(XE2,YE2)が原点OEの位置となるようにXSYS座標系に配置する。
【0095】
以上の結果、図13において、画像F13Aとして示されるようなマスク画像MMM21が作成される。そして、マスク画像作成部32は、作成されたマスク画像MMM21のデータをマスク画像データMMDとして合成画像作成部33へ通知する。
【0096】
このマスク画像データMMD及び原画像データOMDを受けた合成画像作成部33は、原画像OMM上にマスク画像MMMを重ねた合成画像SMM21を作成する。こうして作成された合成画像SMM21が図14において画像F14Aとして示されている。
【0097】
以後、マスク画像作成部32は、時間T21にわたって、着目像WMMの口の位置を表示位置として、要素画像EMM21を、着目像WMMの大きさを表す長さ値LXWに対する比率R21の大きさで表示するマスク画像を作成する。この結果、合成画像作成部33は、原画像の着目像WMMにおける口の位置に要素画像EMM21を倍率M21で拡大又は縮小したマスク画像を重ねた合成画像を、時間T21にわたって逐次作成する。
【0098】
こうして、時間T21が経過すると、マスク画像作成部32は、付加画像1における第2要素画像EMM22のXSYS座標系における表示位置(XE2,YE2)を、上記の(7)式及び(8)式により算出する。引き続き、マスク画像作成部32は、第2の要素画像EMM22の拡大又は縮小の倍率M22を、次の(10)式により算出する。
M22=R22・LXW/LXE22 …(10)
【0099】
次に、マスク画像作成部32は、上記の第1の要素画像EMM21の場合と同様にして、要素画像EMM22をXEYE座標系において原点OEを中心として倍率M22で拡大又は縮小を行う。引き続き、マスク画像作成部32は、拡大又は縮小された要素画像EMM22をXEYE座標系において原点OEを中心として角度θWだけ回転させる。そして、拡大又は縮小され、かつ、回転された要素画像EMM22を、XSYS座標系における座標位置(XE2,YE2)が原点OEの位置となるようにXSYS座標系に配置する。
【0100】
以上の結果、図13において画像F13Bとして示されるようなマスク画像MMM22が作成される。そして、マスク画像作成部32は、作成されたマスク画像MMM22のデータをマスク画像データMMDとして合成画像作成部33へ通知する。
【0101】
このマスク画像データMMD及び原画像データOMDを受けた合成画像作成部33は、原画像OMM上にマスク画像MMMを重ねた合成画像SMM22を作成する。こうして作成された合成画像SMM22が図14においてF14Bとして示されている。
【0102】
以後、マスク画像作成部32は、時間T22にわたって、着目像WMMの口の位置を表示位置として、要素画像EMM22を、着目像WMMの大きさを表す長さ値LXWに対する比率R22の大きさで表示するマスク画像を生成する。この結果、合成画像作成部33は、原画像の着目像WMMにおける口の位置に要素画像EMM22を倍率M22で拡大又は縮小したマスク画像を重ねた合成画像を、時間T22にわたって作成する。
【0103】
こうして、時間T22が経過すると、マスク画像作成部32は、付加画像1における第3要素画像EMM23のXSYS座標系における表示位置(XE2,YE2)を、上記の(7)式及び(8)式により算出する。引き続き、マスク画像作成部32は、第3の要素画像EMM23の拡大又は縮小の倍率M23を、次の(11)式により算出する。
M23=R23・LXW/LXE23 …(11)
【0104】
次に、マスク画像作成部32は、上記の第1の要素画像EMM21の場合と同様にして、要素画像EMM23をXEYE座標系において原点OEを中心として倍率M23で拡大又は縮小を行う。引き続き、マスク画像作成部32は、拡大又は縮小された要素画像EMM23をXEYE座標系において原点OEを中心として角度θWだけ回転させる。そして、拡大又は縮小され、かつ、回転された要素画像EMM23を、XSYS座標系における座標位置(XE2,YE2)が原点OEの位置となるようにXSYS座標系に配置する。
【0105】
以上の結果、図13において画像F13Cとして示されるようなマスク画像MMM23が作成される。そして、マスク画像作成部32は、作成されたマスク画像MMM23のデータをマスク画像データMMDとして合成画像作成部33へ通知する。
【0106】
このマスク画像データMMD及び原画像データOMDを受けた合成画像作成部33は、原画像OMM上にマスク画像MMM23を重ねた合成画像SMM23を作成する。こうして作成された合成画像SMM23が図14において画像F14Cとして示されている。
【0107】
以後、マスク画像作成部32は、時間T23にわたって、着目像WMMの口の位置を表示位置として、要素画像EMM23を、着目像WMMの大きさを表す長さ値LXWに対する比率R23の大きさで表示するマスク画像を生成する。この結果、合成画像作成部33は、原画像の着目像WMMにおける口の位置に要素画像EMM23を倍率M23で拡大又は縮小したマスク画像を重ねた合成画像を、時間T23にわたって作成する。
【0108】
こうして、時間T23が経過すると、マスク画像作成部32は、上記と同様にして、上述した要素画像EMM21を使用したマスク画像、要素画像EMM22を使用したマスク画像及び要素画像EMM23を使用したマスク画像の時間順次の作成を繰り返す。そして、合成画像作成部33は、原画像データOMDとマスク画像データMMDとに基づいて、原画像における着目像の口の位置に指定の大きさに拡大又は縮小された要素画像EMM21、要素画像EMM22、及び要素画像EMM23からなるマスク画像が重ねられた合成画像を逐次作成する。
【0109】
《第3の合成画像作成例》
次に、第3の合成画像作成例を説明する。この例は、上述の図8におけるマスク画像指定に対応するものであり、要素画像及び着目像に対する表示位置が固定的な表示である付加画像1、並びに、要素画像及び着目像に対する表示位置が時間的に変化する付加画像2を同時表示するマスク画像が、原画像に重ねて表示される合成画像の例である。
【0110】
ここで、付加画像1における要素画像EMM31は、図15Aに示されるものであるものとする。また、付加画像2における第1要素画像EMM32は、図15Bに示されるものであり、また、付加画像2における第2要素画像EMM33は、図15Cに示されるものであるものとする。
【0111】
なお、図8の記述で指定されている「大きさ情報」に応じた大きさで要素画像EMM31,EMM32,EMM33が表示される。すなわち、要素画像EMM31は着目像WMMの大きさを表す長さ値LXWに対する比率R31の大きさで表示される。また、要素画像EMM32は長さ値LXWに対する比率R32の大きさで表示される。さらに、要素画像EMM33は着目像WMMの大きさを表す長さ値LXWに対する比率R33の大きさで表示される。
【0112】
まず、上記の第1又は第2の合成画像作成と同様にして、撮像素子25において撮像された原画像データOMDが、着目像情報抽出部31へ通知される。引き続き、着目像情報抽出部31が、通知された原画像OMMを画像処理して、着目像WMMの領域を特定し、着目像情報を抽出する。そして、着目像情報抽出部31は、着目像情報データWMDとして、着目像領域の位置情報としての位置(XSW,YSW)を、着目像領域の傾き情報としての角度θWを、着目像領域の大きさ情報としての長さLXWを、マスク画像作成部32へ通知する。
【0113】
着目像情報データWMDを受けたマスク画像作成部32は、まず、付加画像1における第1要素画像EMM31のXSYS座標系における表示位置(XE31,YE31)を、次の(12)式及び(13)式により算出する。
XE31=(LXW/LX0)(XW31・cosθW+YW31・sinθW)+XSW …(12)
YE31=(LXW/LX0)(−XW31・sinθW+YW31・cosθW)+YSW …(13)
【0114】
次に、マスク画像作成部32は、第1の要素画像EMM11の拡大又は縮小の倍率M31を、次の(14)式により算出する。
M31=R31・LXW/LXE31 …(14)
【0115】
次いで、マスク画像作成部32は、上記の第1又は第2の合成画像作成と同様にして、要素画像EMM31をXEYE座標系において原点OEを中心として倍率M31で拡大又は縮小を行う。引き続き、マスク画像作成部32は、拡大又は縮小された要素画像EMM31をXEYE座標系において原点OEを中心として角度θWだけ回転させる。そして、拡大又は縮小され、かつ、回転された要素画像EMM31を、XSYS座標系における座標位置(XE31,YE31)が原点OEの位置となるようにXSYS座標系に配置する。
【0116】
次に、マスク画像作成部32は、付加画像1における第1要素画像EMM31の場合と同様に、付加画像2における第2要素画像EMM32のXSYS座標系における表示位置(XE32,YE32)を、次の(15)式及び(16)式により算出する。
XE32=(LXW/LX0)(XW32・cosθW+YW32・sinθW)+XSW …(15)
YE32=(LXW/LX0)(−XW32・sinθW+YW32・cosθW)+YSW …(16)
【0117】
次に、マスク画像作成部32は、第2の要素画像EMM32の拡大又は縮小の倍率M32を、次の(17)式により算出する。
M32=R32・LXW/LXE32 …(17)
【0118】
次いで、マスク画像作成部32は、上記の要素画像EMM31の場合と同様にして、要素画像EMM32をXEYE座標系において原点OEを中心として倍率M32で拡大又は縮小を行う。引き続き、マスク画像作成部32は、拡大又は縮小された要素画像EMM32をXEYE座標系において原点OEを中心として角度θWだけ回転させる。そして、拡大又は縮小され、かつ、回転された要素画像EMM31を、XSYS座標系における座標位置(XE32,YE32)が原点OEの位置となるようにXSYS座標系に配置する。
【0119】
以上の結果、図16において画像F16Aとして示されるようなマスク画像MMM31が作成される。そして、マスク画像作成部32は、作成されたマスク画像MMM31のデータをマスク画像データMMDとして合成画像作成部33へ通知する。
【0120】
このマスク画像データMMD及び原画像データOMDを受けた合成画像作成部33は、原画像OMM上にマスク画像MMM31を重ねた合成画像SMM31を作成する。こうして作成された合成画像SMM31が図17において画像F17Aとして示されている。
【0121】
以後、マスク画像作成部32は、時間T31にわたって、着目像WMMと指定された関係にある位置に、要素画像EMM31を着目像WMMの大きさを表す長さ値LXWに対する比率R31の大きさで表示し、かつ、要素画像EMM32を長さ値LXWに対する比率R32の大きさで表示マスク画像を生成する。そして、合成画像作成部33は、マスク画像作成部32から通知されたマスク画像データMMDが表すマスク画像が原画像上に重ねられた合成画像を、時間T31にわたって作成する。
【0122】
こうして、時間T31が経過すると、マスク画像作成部32は、付加画像1における第1要素画像EMM31のXSYS座標系における表示位置(XE31,YE31)及び倍率M31を、上記の(12)式〜(14)式により算出する。そして、マスク画像作成部32は、XEYE座標系において原点OEを中心として、要素画像EMM31を倍率M31で拡大又は縮小した後に角度θWだけ回転させる。そして、拡大又は縮小され、かつ、回転された要素画像EMM2を、XSYS座標系における座標位置(XE31,YE31)が原点OEの位置となるようにXSYS座標系に配置する。
【0123】
次に、マスク画像作成部32は、付加画像1における第1要素画像EMM11の場合と同様に、付加画像2における要素画像EMM33のXSYS座標系における表示位置(XE33,YE33)を、次の(18)式及び(19)式により算出する。
XE33=(LXW/LX0)(XW33・cosθW+YW33・sinθ)+XSW …(18)
YE33=(LXW/LX0)(−XW33・sinθW+YW33・cosθ)+YSW …(19)
【0124】
次に、マスク画像作成部32は、第3要素画像EMM33の拡大又は縮小の倍率M33を、次の(20)式により算出する。
M33=R33・LXW/LXE33 …(20)
【0125】
次いで、マスク画像作成部32は、上記の第1要素画像EMM31の場合と同様にして、要素画像EMM33をXEYE座標系において原点OEを中心として倍率M33で拡大又は縮小を行う。引き続き、マスク画像作成部32は、拡大又は縮小された要素画像EMM33をXEYE座標系において原点OEを中心として角度θWだけ回転させる。そして、拡大又は縮小され、かつ、回転された要素画像EMM33を、XSYS座標系における座標位置(XE33,YE33)が原点OEの位置となるようにXSYS座標系に配置する。
【0126】
以上の結果、図16において画像F16Bとして示されるようなマスク画像MMM32が作成される。そして、マスク画像作成部32は、作成されたマスク画像MMM32のデータをマスク画像データMMDとして合成画像作成部33へ通知する。
【0127】
このマスク画像データMMD及び原画像データOMDを受けた合成画像作成部33は、原画像OMM上にマスク画像MMM32を重ねた合成画像SMM32を作成する。こうして作成された合成画像SMM32が図17において画像F17Bとして示されている。
【0128】
以後、マスク画像作成部32は、時間T32にわたって、着目像WMMと指定された関係にある位置に、要素画像EMM31を着目像WMMの大きさを表す長さ値LXWに対する比率R31の大きさで表示し、かつ、要素画像EMM33を長さ値LXWに対する比率R33の大きさで表示マスク画像を生成する。そして、合成画像作成部33は、マスク画像作成部32から通知されたマスク画像データMMDが表すマスク画像が原画像上に重ねられた合成画像を、時間T32にわたって作成する。
【0129】
こうして、時間T32が経過すると、マスク画像作成部32は、上記と同様にして、上述した要素画像EMM31及び要素画像EMM32を使用したマスク画像、並びに要素画像EMM31及要素画像EMM33を使用したマスク画像の時間順次の作成を繰り返す。そして、合成画像作成部33は、マスク画像作成部32から通知されたマスク画像データMMDが表すマスク画像が原画像上に重ねられた合成画像を逐次作成する。
【0130】
以上の第1、第2又は第3合成画像作成例のようにして作成された合成画像の情報データSMDは、合成画像作成部33から基本制御部29へ通知される。この合成画像情報データを受けた基本制御部29は、予め利用者が操作部12を操作して行った指令に従って、合成画像SMMを表示部13に表示したり、送受信部21を介して、通話相手先へ送信したりする。
【0131】
以上説明したように、本実施形態では、着目像WMMの領域を原画像において特定し、原画像中における着目像WMMの領域の位置及び大きさに関連する情報を含む着目像情報WMDを抽出する。引き続き、着目像情報WMDと、マスク画像情報ファイル40に登録されたマスク画像情報とに基づいて、原画像OMM上に重ねて表示させるマスク画像MMMを作成する。この結果、原画像OMMにおける着目像WMMの領域の位置に関連する情報と、マスク画像情報に含まれる着目像領域の位置との関係を示す情報とにより定まる位置に、原画像OMMにおける着目像WMMの領域の大きさに関連する情報と、着目像領域の大きさの関係を示す情報とにより定まる大きさで、マスク画像情報に含まれる要素画像選択情報により選択された要素画像から構成されるマスク画像が作成される。そして、原画像上にマスク画像を重ねた合成画像が作成される。
【0132】
したがって、本実施形態によれば、原画像に対して利用者の趣味感に応じた演出を施した画像を簡易にかつ適切に作成することができる。
【0133】
また、本実施形態では、マスク画像情報に含まれる着目像領域の位置に関連する情報には、原画像OMMにおける着目像領域WMRの代表点の位置情報が含まれている。このため、マスク画像情報に含まれる着目像領域の位置との関係を示す情報を、着目像領域の代表点に対する相対位置を示す情報とすることができ、関係情報における着目像領域の位置との関係を示す情報を簡易なものとすることができる。
【0134】
また、本実施形態では、マスク画像情報に含まれる着目像領域の位置に関連する情報には、原画像OMMにおける着目像領域の傾き情報が更に含まれている。このため、原画像OMMにおける着目像領域の傾き情報を使用することにより、着目像領域の原画像における傾きに応じた位置に、所望の要素画像を重ねて表示した合成画像を作成することができる。また、表示する要素画像に着目像領域の原画像における傾きに応じた傾きを持たせて表示させることができる。
【0135】
また、本実施形態では、マスク画像情報に含まれる着目像領域の位置に関連する情報として、着目像領域の代表点を原点とし、原画像における着目像領域の傾きに基づいて座標軸の方向が定められる座標系における座標位置情報が、要素画像の表示位置情報として含まれている。このため、着目像領域の位置との関係を示す情報を、着目像領域の代表点を原点とし、着目像領域の傾きに基づいて座標軸の方向が定められる座標系における座標位置情報という簡易かつ取り扱いが容易なものとすることができる。
【0136】
また、本実施形態では、マスク画像情報が、着目像領域の大きさと要素画像EMMの表示時における大きさとの比率情報を含むことすることができる。この場合には、原画像OMM内で着目像領域の大きさが刻々と変化する場合であっても、着目像領域の大きさに適合した大きさの要素画像EMMを含むマスク画像MMMを作成することができる。
【0137】
また、本実施形態では、マスク画像情報が、要素画像EMMそれぞれの表示の実行時間情報を含むことができる。この場合には、当該実行時間情報に従ってマスク画像WMMを作成することにより、所望の要素画像EMMそれぞれを所望の時間に設定した表示実行時間だけ表示することができ、ダイナミックに変化するマスク画像MMMを作成することができる。
【0138】
また、本実施形態では、マスク画像情報が、複数の要素画像EMMの表示を時間順次に表示するとともに、時間順次表示を繰り返すことを指定する時間順次表示指定の情報を含むことができる。この場合には、当該時間順次表示指定の情報に従ってマスク画像WMMを作成することにより、原画像OMM上に複数の要素画像を所望の時間ごとに時間順次に繰り返し表示することができる。
【0139】
また、本実施形態では、マスク画像情報が、複数の要素画像表示を同時に表示することを指定する同時表示指定の情報を含むことができる。この場合には、所望の複数の要素画像EMMそれぞれが、所望の位置に表示されるマスク画像を作成することができ、様々なバリエーションのマスク画像WMMを作成することができる。
【0140】
<第2実施形態>
次に、本発明の第2実施形態を、図18〜図24を主に参照しつつ、適宜他の図面を参照して説明する。なお、上述した第1実施形態の場合と同一又は同様の要素には同一符号を付し、重複する説明は省略する。
【0141】
本実施形態は、第1実施形態と比べて、人物像の背景に原画像のものとは異なる画像を用いることができる点が相違している。以下、当該相違点に主に着目して説明する。
【0142】
本実施形態の携帯電話装置10’は、図18に示されるように、携帯電話本体11内部において、制御部21が、マスク画像処理部30’を備えている点と、記憶部23にマスク画像情報ファイル40’が格納されている点とが、第1実施形態の携帯電話装置10と相違している。
【0143】
マスク画像処理部30’は、図19に示されるように、着目像情報抽出部31と、マスク画像作成部32’と、合成画像作成部33’とを備えている。ここで、着目像情報抽出部31は、第1実施形態の場合と同様に動作する。
【0144】
マスク画像作成部32’は、第1実施形態のマスク画像作成部32と同様に、着目像情報抽出部31によって抽出された着目像情報WMDと、上述した記憶部23のマスク画像情報ファイル40’に記憶されたマスク画像情報MDDとに基づいて、マスク画像データMMDを作成する。さらに、マスク画像作成部32’は、マスク画像情報ファイル40’に記憶されたマスク画像情報MDDに基づいて、背景像指定の有無を示す背景像指定情報と、背景像指定情報において背景像指定が有る場合における背景像データBDDの格納位置情報から成る背景像情報BPNを作成する。
【0145】
合成画像作成部33’は、背景像情報BPNにより背景像指定が有る旨が通知された場合には、まず、原画像データOMD及び背景像データBDDに基づいて、背景像データBDDによる背景像上に原画像中の特定表示画像である人物像を重ねた画像を背景像含有画像として作成する。引き続き、合成画像作成部33’は、当該背景像含有画像上にマスク画像情報MDDにより表されたマスク画像を重ねた合成画像データSMD’を作成する。
【0146】
一方、背景像情報BPNにより背景像指定が無い旨が通知された場合には、合成画像作成部33’は、原画像を背景像含有画像として作成する。引き続き、合成画像作成部33’は、当該背景像含有画像上にマスク画像情報MDDにより表されたマスク画像を重ねた合成画像データSMD’を作成する。この場合には、合成画像データSMD’は、第1実施形態の合成画像データSMDと同様となる。
【0147】
なお、合成画像作成部33によって作成された合成画像データSMD’は、基本制御部29へ通知されるようになっている。
【0148】
記憶部23内のマスク画像情報ファイル40’は、図20Aに示されるように、(i)原画像における着目像領域と関連してどのようにマスク画像を表示するかを指定する表示指定記述、及び、背景像指定記述が格納された表示指定ファイル41’と、(ii)上述した要素画像ファイル42と、(iii)背景像データBDDを格納した背景像ファイル43とから構成されている。なお、マスク画像情報ファイル40’は、携帯電話装置10に対して、コンテンツプロバイダーから無線回線を介して提供されたり、利用者がパーソナルコンピュータ等により作成した後に記憶媒体や不図示の外部インターフェースを介して提供されたりする。
【0149】
本実施形態の表示指定ファイル41’における表示指定記述の例が、図21に示されている。なお、図21に示される記述例は、第1実施形態の場合における図7の記述例に背景像指定がある旨を加えたものである。すなわち、図21の表示指定記述では、<同時表示指定>から<同時表示指定終了>までの間において、図7の付加画像1及び付加画像2についての記述に加えて、<背景像指定>及び<背景像指定終了>、並びにこれらの間における「背景像指定」の記述により同時表示すべき背景像が指定されている。ここで、「背景像指定」としては、背景像ファイル43の記憶部23における先頭アドレスBMMAが指定される。以下の説明においては、背景像ファイル43には、図22に示されるような原画像領域OMRと同一の形状及び大きさを有する背景像領域BMR内の背景像BMMを表す背景像データBDDが格納されているものとする。
【0150】
なお、<背景像指定>から<背景像指定指定終了>までの記述が無い場合には、背景像指定が無いことを示すようになっている。また、背景像ファイル43の先頭アドレスBMMA値として「0」が記述されている場合にも、背景像指定が無いことを示すようになっている。
【0151】
以下、上記のように構成された携帯電話装置10’における、合成画像の作成の動作について説明する。
【0152】
上述した第1実施形態における合成画像の作成の動作についての前提に加えて、図23に示される原画像領域OMR内の人物像SDMが、原画像OMMから切り出されるべき特定表示画像であるものとする。
【0153】
まず、第1実施形態における第1の合成画像作成例の場合と同様に、撮像素子25において撮像された原画像OMMのデータである原画像データOMDが、着目像情報抽出部31へ通知され、着目像情報抽出部31により着目像情報データWMDが作成される。こうして作成された着目像情報データWMDは、着目像情報抽出部31からマスク画像作成部32‘へ通知される。
【0154】
着目像情報データWMDを受けたマスク画像作成部32’は、第1実施形態における第1の合成画像作成例の場合と同様に、着目像情報データWMD及びマスク画像情報MDDに基づいて、マスク画像MMMAのデータを作成し、マスク画像データMMDとして合成画像作成部33’へ通知する。また、マスク画像作成部32’は、マスク画像情報MDDに基づいて、背景像指定が有るか否か、及び、背景像指定が有る場合における背景像ファイル43の先頭アドレスから成る背景像情報BPNを作成し、合成画像作成部33’へ通知する。ここで、表示指定ファイル41’には、上述した図21のように、背景像指定が記述されているので、背景像情報BPNとしては、背景像指定が有る旨、及び、背景像ファイル43の先頭アドレスが含まれることになる。
【0155】
マスク画像データMMD、原画像データOMD及び背景像情報BPNを受けた合成画像作成部33’は、まず、背景像情報BPNに基づいて、背景像指定が有るか否かを判定する。今回の場合は、上記のように背景像指定があるので、判定結果は肯定的となる。引き続き、合成画像作成部33’は、背景像情報BPN中の背景像ファイル43の先頭アドレスを利用して、背景像ファイル43から背景像データBDDを読み出す。
【0156】
こうして、マスク画像データMMD及び原画像データOMDに加えて背景象データBDDを取得した合成画像作成部33’は、次のようにして、合成画像を作成する。
【0157】
まず、合成画像作成部33’は、図24において画像F24Aとして示される原画像OMMから、画像F24Bとして示されるように特定表示画像である人物像SDMを切り出す。かかる切り出しは、人物像一般の特徴から人物像SDMの輪郭を特定した後、当該輪郭内の画像を抽出することにより行われる。
【0158】
引き続き、合成画像作成部33’は、特定表示像SDMを、原画像OMRにおける場合と同一の位置に同一の大きさで、画像F24Cとして示される背景像BMMに重ねる。この結果、画像F24Dとして示される背景付加像BAMが作成される。
【0159】
次に、合成画像作成部33’は、画像F24Eとして示されるマスク画像MMMAを背景付加像BAMに重ねる。この結果、画像F24Fとして示される合成画像SMMA’が作成される。
【0160】
こうして作成された合成画像SMMA’のデータSMD’は、合成画像作成部33から基本制御部29へ通知される。この合成画像情報データを受けた基本制御部29は、予め利用者が操作部12を操作して行った指令に従って、合成画像SMMA’を表示部13に表示したり、送受信部21を介して、通話相手先へ送信したりする。
【0161】
なお、表示指定ファイル41’に背景像指定が記述されていない場合や、背景像データBDDの格納先頭アドレスが「0」であった場合には、マスク画像作成部32’は、背景像指定が無い旨のみを含む背景像情報BPNを作成し、合成画像作成部33’へ通知する。こうした背景像情報BPNを受けた合成画像作成部33’は、背景像指定が無いと判定し、原画像OMMにマスク画像MMMAを重ねて、合成画像を作成する。この結果、第1実施形態における第1の合成画像作成例の場合と同一の合成画像SMMAが作成される。
【0162】
また、上記では、表示指定ファイル41’にマスク画像指定が記述されておらず、背景像指定のみが記述されている場合には、合成画像作成部33’においては、背景付加像BAMが最終的な合成画像として作成される。
【0163】
また、上記では、第1実施形態における第1の合成画像作成例の場合と同様のマスク画像指定に加えて、背景像指定をした例を説明したが、第1実施形態における第2又は第3の合成画像作成例の場合と同様のマスク画像指定に加えて、背景像指定をすることが可能なことは勿論である。
【0164】
以上説明したように、本実施形態では、合成画像作成部33’が、着目像である顔画像を含む人物像SDMを特定表示像として原画像OMMから切り出して、指定された背景像BMM上に重ね、着目像含有画像としての背景付加像BAMを作成する。そして、合成画像作成部33’は、当該背景付加像BAMにマスク画像MMMAを重ねる。したがって、人物像SDM等の特定表示画像に対する利用者の趣味感に応じた演出を、マスク画像及び背景像を選択することにより施すことができる。
【0165】
なお、上記の第2実施形態では、マスク画像情報ファイル40’が、背景像ファイル43を含んでいることとした。これに対して、背景像ファイル43を、マスク画像情報ファイル外の領域に置くことにすることもできる。
【0166】
また、上記の第1及び第2実施形態では、原画像を動画としたが、原画像が静止画であっても、本発明を適用することができる。
【0167】
また、上記の第1及び第2実施形態では、いわゆる自分撮りの態様で撮像される撮像光学系18を介した光の結像結果を原画像としたが、いわゆる相手撮りの態様で撮像される撮像光学系19を介した光の結像結果を原画像とすることもできる。さらに、記憶部23に記憶されている画像を原画像とすることもできる。
【0168】
また、上記の第1及び第2実施形態では、原画像における着目像領域における着目物体について奥行きに沿った構造を考慮せず、マスク画像に利用する要素画像も2次元モデルで作成されたものとした。これに対し、着目像領域における着目物体について奥行きに沿った構造を考慮し、マスク画像に利用する要素画像を3次元モデルで作成されたものとすることもできる。この場合には、着目物体が、表示面と平行な軸の回りの回転成分を有する動きをしたときであっても、その回転に追従しつつ違和感のないマスク画像を作成することができる。
【0169】
また、同時に表示する要素画像の数は任意である。さらに、時間順次表示を行う要素画像の数も任意である。
【0170】
また、上記の第1及び第2実施形態では、マスク画像情報ファイルが、表示指定ファイルと、要素画像ファイルとから構成されることとした。これに対して、マスク画像情報ファイルが、要素画像プレビューファイルを更に有することとし、要素画像のプレビューを指定された場合には、当該要素画像プレビューファイルを参照して、表示部13において要素画像のプレビューを行うこととしてもよい。
【0171】
また、着目像情報に基づいて着目像領域において予め定められた現象が発生したか否かを判定する所定現象発生したことを判定することとし、当該所定現象が発生したことをトリガとしてマスク画像の作成を開始させることもできる。例えば、特定人物の顔像を着目画像としたときに、瞼が閉じられたときに、目の位置から涙が流れる合成画像を作成することとすることもできる。
【0172】
また、上記の第1及び第2実施形態では、携帯電話装置に本発明を適用したが、他の種類の移動通信端末装置にも本発明を適用することができる。さらに、パーソナルコンピュータ等の一般の電子機器にも本発明を適用することができる。
【産業上の利用可能性】
【0173】
以上説明したように、本発明の画像処理方法及び画像処理方法は、取得された原画像の加工処理に適用することができる。また、本発明の移動通信端末装置は、画像メール機能やテレビ電話機能を有する移動通信端末装置に適用することができる。
【技術分野】
【0001】
本発明は、画像処理方法、画像処理装置及び移動通信端末装置に係り、より詳しくは原画像上にマスク画像を重ねた合成画像を作成する画像処理方法、当該画像処理方法を使用する画像処理装置、及び当該画像処理装置を備える移動通信端末装置に関するものである。
【背景技術】
【0002】
従来から、取得された原画像を処理する画像処理が様々な手法で行われている。こうした画像処理の技術としては、例えば、デジタルカメラ等により取得された原画像に人の顔像が存在することを認識する顔認識技術がある。また、この顔認識を更に進めて、顔の形状特徴を抽出し、個人を特定する顔認証技術もある(非特許文献1、特許文献1、2等参照)。
【0003】
こうした顔像に関する画像処理技術の存在を背景として、例えば、送信側端末装置のカメラで撮像された画像がそのまま送信されて、受信側端末装置に表示されるばかりではなく、送信側端末装置の利用者のプライバシを保護するために、撮像結果における背景像を他の画像に変更する画像処理を行った後に、受信側端末装置へ送信するテレビ電話の技術も提案されている(特許文献3参照)。この技術では、まず、送信側端末装置のカメラで撮像された画像における送信側話者像を抽出する。そして、抽出された話者像を、予め用意しておいた背景像上に重ね合わせた合成画像を作成し、当該合成画像を送信側端末装置から受信側端末装置へ送信する。この結果、送信側話者の所在位置というプライバシ情報を受信側話者に知らせることなく、違和感のない対面会話を行うことができるようになっている。
【0004】
また、送信側端末装置の利用者のプライバシを保護するために、送信側話者のリアルタイム画像を使用せずに、予め用意しておいた当該送信側話者あるいは他の話者についての複数の静止画像から送信側話者の音声に合わせて選択した画像を、受信側端末装置へ送信する技術も提案されている(特許文献3参照)。なお、この場合にも、選択された話者像を、予め用意しておいた背景像上に重ね合わせた合成画像を作成し、当該合成画像を送信側端末装置から受信側端末装置へ送信することができる。
【0005】
この技術では、予め利用者又は他の者について、例えば母音及び必要に応じて撥音の発音時ごとの静止像を用意しておく。そして、利用者の話中における発生音を解析し、解析結果として得られた発生音に対する画像を選択する。引き続き、選択された画像を、予め用意しておいた背景像上に重ね合わせた合成画像を作成し、当該合成画像を送信側端末装置から受信側端末装置へ送信する。この結果、入浴中である等のリアルタイム画像を送信することがプライバシ保護の観点から不適切な場合にも、画像を参照しつつ違和感のない会話を行うことができるようになっている。
【0006】
【非特許文献1】アイマティックジャパン株式会社、“技術情報”、[2003年12月29日検索]、インターネット<URL:http://www.eyematic.co.jp/tech.html>
【特許文献1】特許公開2003−271958号公報
【特許文献2】特許公開2003−296735号公報
【特許文献3】特許公開2003−309829号公報
【発明の開示】
【発明が解決しようとする課題】
【0007】
上述した従来の画像認識、画像認証、画像トラッキングなどの画像処理技術は、動画に適用できる非常に優れたものであり、様々な応用が考えられる。しかしながら、こうした画像処理技術では、利用者が、自身の趣味感に合わせて原画像を加工し、自身の内心等を表現するということは、技術的な視野には入っていなかった。このため、例えば、テレビ電話に従来の画像処理技術を適用しても、テレビ電話の機能を発揮させつつ、送信側話者の趣味感を反映した画像を伴った楽しい会話を行うという観点からは、十分なものとはなっていなかった。
【0008】
すなわち、従来の画像処理技術では、原画像に対して利用者の感情の強調等を当該利用者の趣味感に合わせた演出を施したものとすることができれば、利用者にとっての楽しさを増進させることができると考えられるが、こうした演出を画像に施すことは、特に原画像が動画である場合にはできなかった。
【0009】
こうした画像の演出は、原画像が固定的な静止画像である場合には、その静止画像の所望の位置に所望の大きさで所望の形状や色のアクセサリ画像を重ねて表示することにより行うことができる。しかし、送信する画像が、時間の経過に伴い刻々と変化する動画像又は動画像に相当する画像である場合には、表示画面の固定的な位置にアクセサリ像を重ねて表示するのでは、違和感のある表示画像となってしまう。
【0010】
例えば、利用者の顔像が含まれる原画像における当該顔像の目の位置にハートマークをほぼ目の大きさで表示させる演出を行う際に、ハートマークを表示画面の固定位置に重ねて表示するのでは、刻々と変化する動画像における顔像の目の位置にハートマークを表示させることはできない。また、表示位置だけでなく、ハートマークの表示の大きさについても、動画像における顔像の大きさに応じたものとしなければ、違和感のある表示画像となってしまう。
【0011】
本発明は、上記の事情を鑑みてなされたものであり、静止画像であるか動画像であるかにかかわらず、原画像に対して利用者の演出を施した画像を簡易にかつ適切に作成することができる画像処理方法及び画像処理方法を提供することを目的とする。
【0012】
また、本発明は、静止画像であるか動画像であるかにかかわらず、原画像に対して利用者の演出を適切に施した画像を送信することができる移動通信端末装置を提供することを目的とする。
【課題を解決するための手段】
【0013】
本発明の画像処理方法は、画像の処理を行う画像処理方法であって、着目すべき像の領域である着目像領域を原画像において特定し、前記原画像中における前記着目像領域の位置及び大きさに関連する情報を含む着目像情報を抽出する着目像情報抽出工程と;前記着目像情報と、前記着目像領域との位置及び大きさの関係を示す少なくとも1つの関係情報、前記関係情報それぞれに対応して特定の要素画像の情報を選択したことを示す要素画像選択情報、並びに前記要素画像選択情報により選択される少なくとも1つの要素画像情報が含まれたマスク画像情報ファイルに登録されたマスク画像情報とに基づいて、前記原画像上に重ねて表示させるマスク画像を作成するマスク画像作成工程と;前記着目像領域内の着目像を前記原画像における場合と同一の位置に同一の大きさで含む着目像含有画像上に前記マスク画像を重ねた合成画像を作成する合成画像作成工程と;を備える画像処理方法である。
【0014】
この画像処理方法では、予めマスク画像情報ファイルに着目像領域との位置及び大きさの関係を示す少なくとも1つの関係情報、関係情報それぞれに対応して特定の要素画像の情報を選択したことを示す要素画像選択情報、並びに前記要素画像選択情報により選択される少なくとも1つの要素画像情報が含まれたマスク画像情報を登録しておく。ここで、「着目像領域」とは、例えば人物像を含む原画像における当該人物の顔の領域等であり、原画像となり得る想定される画像中において画像的特徴により特定可能な領域である。
【0015】
かかるマスク画像情報ファイルの存在を前提として、まず、着目像情報抽出工程において、着目像領域を原画像において特定し、原画像中における着目像領域の位置及び大きさに関連する情報を含む着目像情報を抽出する。引き続き、マスク画像データ作成工程において、着目像情報と、マスク画像情報ファイルに登録されたマスク画像情報とに基づいて、原画像上に重ねて表示させるマスク画像を作成する。この結果、原画像における着目像領域の位置に関連する情報とマスク画像情報に含まれる関係情報における着目像領域の位置との関係を示す情報とにより定まる位置に、原画像における着目像領域の大きさに関連する情報と当該関係情報における着目像領域の大きさの関係を示す情報とにより定まる大きさで、マスク画像情報に含まれる要素画像選択情報により選択された要素画像から構成されるマスク画像が作成される。そして、合成画像作成工程において、例えば、顔領域内の顔像のような着目像領域内の着目像を前記原画像における場合と同一の位置に同一の大きさで含む着目像含有画像上にマスク画像を重ねた合成画像が作成される。
【0016】
したがって、本発明の画像処理方法によれば、原画像が静止画像であるか動画像であるかにかかわらず、着目像含有画像に対して利用者の趣味感に応じた演出を施した画像を簡易にかつ適切に作成することができる。
【0017】
本発明の画像処理方法では、前記着目像含有画像を前記原画像とすることができる。この場合には、原画像に対して利用者の趣味感に応じた演出を、マスク画像を選択することにより行うことができる。
【0018】
また、本発明の画像処理方法では、前記マスク画像情報ファイルが、特定の背景像の情報を選択したことを示す背景画像選択情報を更に含むとともに、前記合成画像作成工程において、前記着目像を含む特定表示像を前記原画像から切り出して、前記特定表示像を前記原画像における場合と同一の位置に同一の大きさで前記特定の背景像に重ねた背景付加像を前記着目像含有画像とした後に前記合成画像を作成することとすることができる。
【0019】
この場合には、合成画像作成工程において、まず、例えば、着目像が顔像である場合における人物像のような着目像を含む特定表示像が原画像から切り出される。引き続き、マスク画像情報ファイルに含まれる背景画像選択情報により指定された背景像上に特定表示画像が重ねられ、背景付加像が作成される。そして、当該背景付加像を着目像含有画像として、この着目像含有画像上に上述のマスク画像が重ねられる。したがって、人物像等の特定表示画像に対する利用者の趣味感に応じた演出を、マスク画像及び背景像を選択することにより施すことができる。
【0020】
また、本発明の画像処理方法では、前記着目像領域の位置に関連する情報には、前記原画像における前記着目像領域の代表点の位置情報が含まれることとすることができる。この場合には、マスク画像情報に含まれる関係情報における着目像領域の位置との関係を示す情報を、着目像領域の代表点に対する相対位置を示す情報とすることができ、関係情報における着目像領域の位置との関係を示す情報を簡易なものとすることができる。なお、関係情報における着目像領域の位置との関係を示す情報を着目像領域の代表点に対する相対位置を示す情報とする場合には、その相対位置情報を着目像領域が基準の大きさを有する場合における相対位置情報とし、原画像における着目像領域の大きさと当該基準となっている着目象領域の大きさとの比に応じて当該相対位置情報の値を原画像における着目像領域の大きさに応じた値に換算することとすることができる。また、当該相対位置情報の値を、原画像における着目像領域の大きさで正規化された後の値としておき、相対位置情報の値に原画像における着目像領域の大きさに応じた値に換算するようにしてもよい。
【0021】
ここで、前記着目像領域の位置に関連する情報には、前記原画像における前記着目像領域の傾き情報が更に含まれることとすることができる。この場合には、原画像における着目像領域の傾き情報を使用することにより、着目像領域の原画像における傾きに応じた位置に、所望の要素画像を重ねて表示した合成画像を作成することができる。また、表示する要素画像に着目像領域の原画像における傾きに応じた傾きを持たせて表示させることができる。なお、傾き情報は、着目像の2次元的な傾きを示す1つの角度情報であってもよいし、着目像の3次元的な傾きを示す2つ又は3つの角度情報であってもよい。
【0022】
以上のように、着目像領域の位置に関連する情報に原画像における着目像領域の代表点の位置情報及び原画像における前記着目像領域の傾き情報が含まれる場合には、前記関係情報には、前記着目像領域の代表点を原点とし、前記着目像領域の傾きに基づいて座標軸の方向が定められる座標系における座標位置情報が、前記特定の要素画像の表示位置情報として含まれることとすることができる。この場合には、関係情報における着目像領域の位置との関係を示す情報を着目像領域の代表点に対する相対位置を示す情報を、着目像領域の代表点を原点とし、前記着目像領域の傾きに基づいて座標軸の方向が定められる座標系における座標位置情報という簡易かつ取り扱いが容易なものとすることができる。
【0023】
本発明の画像処理方法では、前記関係情報には、前記着目像領域の大きさと前記特定の要素画像の表示時における大きさとの比率情報が含まれることとすることができる。この場合には、原画像内で着目像領域の大きさが刻々と変化する場合であっても、着目像領域の大きさに適合した大きさの要素画像を含むマスク画像を作成することができる。
【0024】
また、本発明の画像処理方法では、前記マスク画像情報には、前記関係情報及び前記関係情報に対応する要素画像選択情報との組合せで定まる要素画像表示それぞれの実行時間情報が更に含まれることとすることができる。この場合には、当該実行時間情報に従ってマスク画像を作成することにより、所望の要素画像それぞれを所望の時間に設定した表示実行時間だけ表示することができ、ダイナミックに変化するマスク画像を作成することができる。
【0025】
ここで、前記マスク画像情報には、前記関係情報及び前記関係情報に対応する要素画像選択情報の組合せで定まる複数種類の要素画像表示を時間順次に表示するとともに、時間順次表示を繰り返すことを指定する時間順次表示指定の情報が更に含まれることとすることができる。この場合には、当該時間順次表示指定の情報に従ってマスク画像を作成することにより、原画像上に複数の要素画像を所望の時間ごとに時間順次に繰り返し表示することができる。
【0026】
また、本発明の画像処理方法では、前記マスク画像情報には、前記関係情報及び前記関係情報に対応する要素画像選択情報の組合せで定まる複数種類の要素画像表示を同時に表示することを指定する同時表示指定の情報が更に含まれることとすることができる。この場合には、所望の複数の要素画像それぞれが、所望の位置に表示されるマスク画像を作成することができ、様々なバリエーションのマスク画像を作成することができる。
【0027】
なお、本発明の画像処理方法では、前記原画像を動画像とすることができる。この場合には、原画像における着目像の位置、傾き及び大きさが変化する動画像に対して、ダイナミックかつ違和感なく、利用者の趣味感に応じた合成画像を作成することができる。
【0028】
ここで、前記着目像情報に基づいて前記着目像領域において予め定められた現象が発生したか否かを判定する所定現象発生判定工程を更に備えるとともに、前記所定現象発生判定工程において肯定的な判定がされた後に、マスク画像データ作成工程及び前記合成画像データ作成工程を開始することとすることができる。この場合には、所定現象発生判定工程において前記着目像領域において予め定められた現象が発生したとき、マスク画像データ作成工程及び前記合成画像作成工程を開始させるので、当該その現象に合わせた演出を行ったマスク画像を作成することができ、そのマスク画像が原画像上に重ねた合成画像を作成することができる。例えば着目像が人の顔の場合に、着目像における瞼が閉じられたときに、目の位置から涙が流れる合成画像を作成することができる。
【0029】
本発明の画像処理装置は、画像の処理を行う画像処理装置であって、着目すべき像の領域である着目像領域を原画像において特定し、前記原画像中における前記着目像領域の位置及び大きさに関連する情報を含む着目像情報を抽出する着目像情報抽出手段と;前記着目像領域との位置及び大きさの関係を示す少なくとも1つの関係情報、前記関係情報それぞれに対応して特定の要素画像の情報を選択したことを示す要素画像選択情報、並びに前記要素画像選択情報により選択される少なくとも1つの要素画像情報が含まれたマスク画像情報が登録されたマスク画像情報ファイルを格納する記憶手段と;前記着目像情報と、前記マスク画像情報とに基づいて、前記原画像上に重ねて表示されるマスク画像のデータを作成するマスク画像データ作成手段と;前記着目像領域内の着目像を前記原画像における場合と同一の位置に同一の大きさで含む着目像含有画像上に前記マスク画像を重ねた合成画像を作成する合成画像作成手段と;を備える画像処理装置である。
【0030】
この画像処理装置では、着目像情報抽出手段が、着目像領域を原画像において特定し、原画像中における着目像領域の位置及び大きさに関連する情報を含む着目像情報を抽出する。引き続き、マスク画像データ作成手段が、着目像情報と、マスク画像情報ファイルに登録されたマスク画像情報とに基づいて、原画像上に重ねて表示させるマスク画像を作成する。そして、合成画像作成手段が、着目像領域内の着目像を前記原画像における場合と同一の位置に同一の大きさで含む着目像含有画像上にマスク画像を重ねた合成画像を作成する。
【0031】
すなわち、本発明の画像処理装置では、本発明の画像処理方法を使用して、合成画像を作成する。したがって、本発明の画像処理装置によれば、原画像が静止画像であるか動画像であるかにかかわらず、着目像含有画像に対して利用者の趣味感に応じた演出を施した画像を簡易にかつ適切に作成することができる。
【0032】
本発明の画像処理装置では、前記着目像含有画像を前記原画像とする構成とすることができる。この場合には、原画像に対して利用者の趣味感に応じた演出を、マスク画像を選択することにより行うことができる。
【0033】
本発明の画像処理装置では、前記マスク画像情報ファイルが、特定の背景像の情報を選択したことを示す背景画像選択情報を更に含むとともに、前記合成画像作成手段が、前記着目像を含む特定表示像を前記原画像から切り出して、前記特定表示像を前記原画像における場合と同一の位置に同一の大きさで前記特定の背景像に重ねた背景付加像を前記着目像含有画像とした後に前記合成画像を作成する構成とすることができる。
【0034】
この場合には、合成画像作成手段は、まず、着目像を含む特定表示像を原画像から切り出す。引き続き、合成画像作成手段は、マスク画像情報ファイルに含まれる背景画像選択情報により指定された背景像上に特定表示画像を重ね、背景付加像を作成する。そして、合成画像作成手段は、当該背景付加像上に上述のマスク画像を重ねる。したがって、人物像等の特定表示画像に対する利用者の趣味感に応じた演出を、マスク画像及び背景像を選択することにより施すことができる。
【0035】
また、本発明の画像処理装置では、前記合成画像を表示する表示手段を更に備える構成とすることができる。この場合には、表示手段により合成画像を表示することにより、合成画像の作成者が、自身の趣味感による演出が施されて作成された合成画像を確認することができる。
【0036】
本発明の画像処理装置では、前記合成画像データを送信する送信手段を更に備える構成とすることができる。この場合には、送信側における合成画像の作成者の趣味感による演出が施されて作成された合成画像を受信側へ向けて送信することができるので、受信者に対して、作成者の趣味感による演出が施されて作成された合成画像を通知することができる。
【0037】
本発明の画像処理装置では、前記原画像を取得するための撮像手段を更に備える構成とすることができる。この場合には、撮像手段により撮像により取得した画像を原画像とすることができ、当該原画像に対して、作成者の趣味感に応じた演出を施した画像を簡易にかつ適切に作成することができる。なお、撮像手段により取得される画像は、静止画像であってもよいし、動画像であってもよい。
【0038】
本発明の移動通信端末装置は、本発明の画像処理装置を備える移動通信端末装置である。この移動通信端末装置では、本発明の画像処理装置によって作成された合成画像を受信側端末装置に向けて送信することができるので、静止画像であるか動画像であるかにかかわらず、原画像に対して利用者の演出を適切に施した画像を送信することができる。
【発明の効果】
【0039】
以上説明したように、本発明の画像処理方法によれば、静止画像であるか動画像であるかにかかわらず、原画像に対して利用者の演出を施した画像を簡易にかつ適切に作成することができる。
【0040】
また、本発明の画像処理装置によれば、本発明の画像処理方法を使用して合成画像を作成するので、静止画像であるか動画像であるかにかかわらず、原画像に対して利用者の演出を施した画像を簡易にかつ適切に作成することができる。
【0041】
また、本発明の移動通信端末装置によれば、本発明の画像処理装置を備えるので、静止画像であるか動画像であるかにかかわらず、原画像に対して利用者の演出を適切に施した画像を送信することができる。
【図面の簡単な説明】
【0042】
【図1A】本発明の第1実施形態に係る携帯電話装置の正面側の外観構成を概略的に示す図である。
【図1B】本発明の第1実施形態に係る携帯電話装置の背面側の外観構成を概略的に示す図である。
【図2】図1A及び図1Bの携帯電話装置の内部構成を説明するための機能ブロック図である。
【図3】図2のマスク画像処理部の内部構成を説明するための機能ブロック図である。
【図4A】着目像領域情報を説明するための図(その1)である。
【図4B】着目像領域情報を説明するための図(その2)である。
【図5A】図2のマスク画像情報ファイルの構成を説明するための図である。
【図5B】図5Aの要素画像ファイルの構成を説明するための図である。
【図6】要素画像の例を示す図(その1)である。
【図7】図5Aの表示指定ファイルの内容例を示す図(その1)である。
【図8A】図5Aの表示指定ファイルの内容例を示す図(その2)である。
【図8B】図5Aの表示指定ファイルの内容例を示す図(その3)である。
【図9A】着目像の例を示す図である。
【図9B】図9Aにおける着目像座標系の例を説明するための示す図である。
【図10A】原画像の例を示す図である。
【図10B】マスク画像の例を示す図(その1)である。
【図11】第1実施形態における合成画像の例を示す図(その1)である。
【図12A】要素画像の例を示す図(その2)である。
【図12B】要素画像の例を示す図(その3)である。
【図12C】要素画像の例を示す図(その4)である。
【図13】マスク画像の例を示す図(その2)である。
【図14】第1実施形態における合成画像の例を示す図(その2)である。
【図15A】要素画像の例を示す図(その5)である。
【図15B】要素画像の例を示す図(その6)である。
【図15C】要素画像の例を示す図(その7)である。
【図16】マスク画像の例を示す図(その3)である。
【図17】第1実施形態における合成画像の例を示す図(その3)である。
【図18】本発明の第2実施形態に係る携帯電話装置の内部構成を説明するための機能ブロック図である。
【図19】図18のマスク画像処理部の内部構成を説明するための機能ブロック図である。
【図20】図18のマスク画像情報ファイルの構成を説明するための図である。
【図21】図20の表示指定ファイルの内容例を示す図である。
【図22】背景像の例を示す図である。
【図23】特定表示画像の例を示す図である。
【図24】図19の合成画像作成部における合成画像作成動作を説明するための図である。
【発明を実施するための最良の形態】
【0043】
<第1実施形態>
以下、本発明の第1実施形態を、図1A〜図17を参照して説明する。図1及び図2には、一実施形態に移動通信端末装置である携帯電話装置10の構成が概略的に示されている。ここで、図1Aには、携帯電話装置10の外観の正面図が示され、図1Bには、携帯電話装置10の外観の背面図が示されている。また、図2には、携帯電話装置10の機能ブロック構成が示されている。
【0044】
図1A、図1B及び図2において総合的に示されるように、携帯電話装置10は、(a)後述する制御部21等を備える携帯電話本体11と、(b)電話番号を制御部21へ入力するためのテンキー、及び、動作モードの切替等の各種指令を制御部21へ入力するためのファンクションキーを有する操作部12と、(c)制御部21による指令に応じて、操作案内、動作状況、受信メッセージ等を表示する液晶表示装置を有する表示部13とを備えている。また、携帯電話装置10は、(d)通話時に通信相手から送られてきた音声信号を再生する通話用スピーカ14と、通話時に音声を入力するためのマイクロフォン15と、(e)制御部21による指令に応じて、着信音や案内音を発生するための案内用スピーカ16とを備えている。更に、携帯電話装置10は、(f)送受信部22と接続され、基地局との間で無線信号を授受するためのアンテナ17とを備えている。さらに、携帯電話装置10は、(g)表示部13における表示を見ながら操作部12を操作する操作者側を撮影する、すなわち、いわゆる自分撮りの態様で撮影を行うための撮像光学系18と、(h)当該操作者の視線方向を視野方向とする撮影を行う、すなわち、いわゆる相手撮りの態様で撮影を行うための撮像光学系19とを備えている。
【0045】
携帯電話本体11は、図2に示されるように、(i)携帯電話装置10の全体の動作を統括制御するとともに、様々なデータ処理を行う制御部21と、(ii)基地局との間でアンテナ17を介して無線信号を送受信するための送受信部22と、(iii)様々なデータを記憶するための記憶部23とを備えている。また、携帯電話本体11は、制御部21の制御に応じて、撮像光学系18を介した光及び撮像光学系19を介した光のいずれかを、後述する撮像素子25へ向けて射出する切換光学系24と、(iv)切換光学系24を介した光が受光面に形成する光学像を撮像するCCD素子等の撮像素子25とを備えている。ここで、撮像素子25は、制御部21の制御のもとで撮像動作を行い、撮像結果を制御部21へ通知するようになっている。
【0046】
制御部21は、基本制御部29と、マスク画像処理部30とを備えている。ここで、基本制御部29は、マスク画像処理部30の動作の開始及び停止を制御するとともに、制御部21の外部に配置された各要素の制御、及び、後述するマスク画像作成の画像処理以外のデータ処理を行う。
【0047】
上記のマスク画像処理部30は、図3に示されるように、着目像情報抽出部31と、マスク画像作成部32と、合成画像作成部33とを備えている。着目像情報抽出部31は、撮像素子25からの原画像データOMDに基づいて、例えば原画像における特定人物(例えば、携帯電話装置10の利用者)の顔領域等の着目像領域を特定し、原画像における着目像領域の代表点の位置情報、原画像における着目像領域の傾き情報及び着目像領域の大きさ情報から成る着目像情報WMDを抽出する。
【0048】
ここで、着目像情報WMDの抽出について、詳述する。なお、以下においては、説明を簡易に行う都合上、原画像における被撮影体の表示面に対する構造を考慮せずに2次元的に取り扱うこととし、表示面における奥行き方向の沿った被撮影体の構造は考えないものとする。また、図4A及び図4Bに示されるように、原画像領域OMRにおける着目像領域WMRが特定されるものとする。ここで、図4Aには、着目像領域WMRが基準となる傾きである(すなわち、傾き角θW=0)場合が模式的に表されている。また、図4Bには、基準傾きからθ0だけ傾いている(すなわち、傾き角θW=θ0)場合が示されている。また、原画像領域OMRにおける各画素位置は、原画像座標系であるXSYS座標系における座標値によって表されるものとする。また、着目像領域WMRについては、代表点OWを原点とするとともに、傾き角θW=0の場合にXS軸と平行な軸をXW軸とし、YS軸と平行な軸をYW軸とする着目像座標系(すなわち、XWYW座標系)が定義されるものとする。また、傾き角θWは反時計回りの角度で表されるものとする。
【0049】
図4Aの場合には、着目像情報抽出部31は、原画像領域OMRにおける着目像領域WMRを特定した後、まず、着目像領域WMRの代表点の位置情報として、代表点OWの原画像座標系における座標位置OW(XSW1,YSW1)を求める。ここで、着目像領域WMRの代表点としては、着目像領域WMRの重心位置、着目像が特定人物の顔像である場合における当該顔像における鼻の突端位置等といった画像解析によって得られる着目像領域における特徴的な点を採用することができる。
【0050】
次に、着目像情報抽出部31は、着目像領域WMRの原画像領域OMRにおける傾き情報として、XS軸とXW軸との交差角θW(すなわち、上述の傾き角θW)を求める。傾き角θWは、予め傾き角θWが「0」であると定義された着目像領域WMRにおける着目像として特徴的な方向とXS軸との交差角と、原画像内における着目像おける当該特徴的な方向とXS軸との交差角との差を算出することより求められる。こうした特徴的な方向としては、例えば、着目像領域WMRの形状が楕円近似できる場合には近似楕円の長軸方向若しくは短軸方向、又は、着目像が特定人物の顔像である場合における当該顔像における両目の中心位置を結ぶ方向等を採用することができる。こうして、傾き角θW(図4Aの場合には、θW=0)が求められると、原画像領域OMR中におけるXWYW座標系(着目座標系)が求められることになる。
【0051】
次いで、着目像情報抽出部31は、着目像領域WMRの大きさ情報として、着目像領域WMRに関する特徴的な長さを求める。本実施形態においては、XW軸上における着目像領域WMRの幅を当該特徴的な長さ(図4Aにおける幅LXW)としている。なお、着目像領域WMRの大きさ情報としては、XW軸上における着目像領域WMRの幅LXW以外に、YW軸上における着目像領域WMRの幅、XW軸(若しくはYW軸)方向における着目像領域WMRの最大幅、又は着目像領域における特徴的な2点間の距離(例えば、着目像が特定人物の顔像である場合における当該顔像における両目の中心間距離)、当該距離のXW軸成分の長さ若しくは当該距離のYW軸成分の長さ等を採用することができる。
【0052】
図4Bの場合にも、着目像情報抽出部31は、上述した図4Aの場合と同様に、原画像領域OMRにおける着目像領域WMRを特定した後、着目像領域WMRにおける代表点の位置情報、傾き情報及び大きさ情報を求める。なお、図4Bの場合には、代表点の位置情報として代表点OWの原画像座標系における座標位置OW(XSW2,YSW2)が求められ、着目像領域WMRの傾き情報として傾き角θW=θ0が求められ、着目像領域WMRの大きさ情報として、XW軸上における着目像領域WMRの幅LXWが求められる。
【0053】
上記のマスク画像作成部32は、着目像情報抽出部31によって抽出された着目像情報WMDと、上述した記憶部23に記憶されたマスク画像情報MDDとに基づいて、マスク画像データMMDを作成する。なお、マスク画像情報MDD及びマスク画像作成部32によるマスク画像データMMDの作成については、後述する。
【0054】
上記の合成画像作成部33は、原画像データOMD及びマスク画像データMMDに基づいて、原画像上にマスク画像を重ねた合成画像データSMDを作成する。なお、合成画像作成部33によって作成された合成画像データSMDは、基本制御部29へ通知されるようになっている。
【0055】
なお、本実施形態においては、制御部21は、中央処理装置(CPU)、デジタル信号処理装置(DSP)等を備えている。そして、制御部21で実行されるプログラムとして構成された基本処理部29やマスク画像処理部30により、メール送受信処理を含む携帯電話機能を実現するために、様々なデータ処理を行うとともに、上述した他の構成要素の動作制御を行うようになっている。
【0056】
図2に戻り、記憶部23には、マスク画像情報ファイル40が記憶されている。このマスク画像情報ファイル40は、図5Aに示されるように、(i)原画像における着目像領域と関連してどのようにマスク画像を表示するかを指定する表示指定記述が格納された表示指定ファイル41jと、(ii)表示指定ファイル41jにおける表示指定記述によって指定される要素画像データが格納された要素画像ファイル42jとから構成されている。なお、マスク画像情報ファイル40は、携帯電話装置10に対して、コンテンツプロバイダから無線回線を介して提供されたり、利用者がパーソナルコンピュータ等により作成した後に記憶媒体や不図示の外部インターフェースを介して提供されたりする。
【0057】
要素画像ファイル42jには、図5Bに示されるように、要素画像が格納されている。なお、要素画像ファイル42jに格納されている第i番目の要素画像を以下においては、要素画像EMMjiと記すものとする。なお、図5Bでは、要素画像ファイル42jに格納されている要素画像が複数ある場合が示されているが、要素画像ファイル42jに格納されている要素画像の数は1つの場合もあるし、2つ以上の場合もある。要素画像EMMjiとしては、例えば、ハート図形画像、唇図形画像等がある。
【0058】
こうした、要素画像EMMjiは、図6において要素画像EMM11について代表的に示されるように、要素画像に固有の座標系、すなわち要素画像EMMjiの代表点(図6では、要素画像EMM11の中心点)を原点OEとするXEYE座標系において作成されている。そして、要素画像EMMjiの大きさ情報としては、XE軸方向における最大幅LXEi(図6においては、最大幅LXE1)を使用するようになっている。図6においては、要素画像EMMjiをハート図形の要素画像EMM11としたが、形状や大きさの異なる要素画像であっても、同様である。
【0059】
上記の表示指定ファイル41jにおける表示指定記述の例が、図7、図8A及び図8Bに示されている。なお、本実施形態における表示指定記述は、SMIL(Synchronized Multimedia Integration Language)形式に準じた形式で記述されるようになっている。
【0060】
図7には、着目像領域の位置、傾き、及び大きさに応じて定まる2つの位置(例えば、着目像が特定の人物の顔像である場合における両目の位置)に、定常的に同一の要素画像が同時を表示させる表示指定を行うための例が表示指定ファイル411として示されている。すなわち、<同時表示指定>により、これと<同時表示指定終了>との間に記述された<付加画像1指定>及び<付加画像2指定>によって指定される付加画像1及び付加画像2が同時に表示されることが指定される。
【0061】
付加画像1は、<付加画像1指定>と<付加画像1指定終了>と間の記述によって指定される。すなわち、「表示位置指定」によって指定されるように、着目像領域WMRの大きさ情報が予め定められた基準となる値LXW0である場合におけるXWYW座標系の座標位置(XW11,YW11)に、「要素画像指定」によって指定される要素画像EMM11が表示される。また、「大きさ指定」によって指定されるように、表示時における要素画像EMM11のXW軸方向の最大幅が、着目像領域WMRの大きさLXWに対して比率R1の長さとされる。なお。後述する表示時間指定がなされていないことから、付加画像1における要素画像EMM11は常時表示されることが指定されている。
【0062】
付加画像2は、<付加画像2指定>と<付加画像2指定終了>と間の記述によって指定される。すなわち、「表示位置指定」によって指定されるように、着目像領域WMRの大きさ情報が予め定められた基準となる値LXW0である場合におけるXWYW座標系の座標位置(XW12,YW12)に、「要素画像指定」によって指定される要素画像EMM11が表示される。これ以外の指定については、付加画像1の場合と同様の指定が行われていることから、付加画像1の場合と同様の表示指定が行われている。
【0063】
なお、図7のような表示指定ファイル411の場合には、表示指定ファイル411に対応する要素画像ファイル421には、要素画像として、要素画像EMM11のみが格納される。
【0064】
図8Aには、着目像領域の位置、傾き、及び大きさに応じて定まる1つの位置(例えば、着目像が特定の人物の顔像である場合における口の位置)に、表示内容が時間的に変化する1つの付加画像1が表示させる表示指定を行うための例が表示指定ファイル412として例が示されている。なお、図8Aの表示指定ファイル412では、複数の要素画像を同時に表示させないので、図7における同時表示に関連する<同時表示指定>及び<同時表示指定終了>が記述されていない。
【0065】
付加画像1は、<付加画像1指定>と<付加画像1指定終了>と間の記述によって指定される。すなわち、まず、第1の「要素画像指定」によって指定される要素画像EMM21が、第1の「表示位置指定」によって指定される着目像領域が予め定められた基準となる大きさ情報LXEが値LXE0である場合におけるXWYW座標系の座標位置(XW21,YW21)に表示される。また、第1の「大きさ指定」によって指定されるように、要素画像EMM21の表示時のXE軸方向の最大幅が、着目像領域WMRの大きさLXWに対して比率R21の長さとされる。また、第1の「表示時間指定」によって指定されるように、要素画像EMM21が、時間T21にわたって表示される。
【0066】
要素画像EMM21の時間T21の表示が終了すると、次に、第2の「要素画像指定」によって指定される要素画像EMM22が、第2の「表示位置指定」によって指定される位置、すなわち要素画像EMM21の場合と同様の位置に表示される。また、第2の「大きさ指定」によって指定されるように、要素画像EMM22の表示時におけるXE軸方向の最大幅が、着目像領域WMRの大きさLXWに対して比率R22の長さとされる。また、第2の「表示時間指定」によって指定されるように、要素画像EMM22が、時間T22にわたって表示される。
【0067】
要素画像EMM22の時間T22の表示が終了すると、次に、第3の「要素画像指定」によって指定される要素画像EMM23が、第3の「表示位置指定」によって指定される位置、すなわち要素画像EMM21の場合と同様の位置に表示される。また、第3の「大きさ指定」によって指定されるように、要素画像EMM23の表示時におけるXE軸方向の最大幅が、着目像領域WMRの大きさLXWに対して比率R23の長さとされる。また、第3の「表示時間指定」によって指定されるように、要素画像EMM23が、時間T23にわたって表示される。
【0068】
こうして、要素画像EMM21、要素画像EMM22及び要素画像EMM23の時間順次の表示が終了すると、再度、上記と同様の態様で要素画像EMM21、要素画像EMM22及び要素画像EMM23の時間順次の表示がされる。こうして、要素画像EMM21、要素画像EMM22及び要素画像EMM23の指定態様による表示が、時間順次に繰り返される。
【0069】
図8Bには、着目像領域の位置、傾き、及び大きさに応じて定まる1つの位置に、常時1つの要素画像を表示させるとともに、着目像領域の位置、傾き、及び大きさに応じて定まる他の2つの位置に、時間順次に異なる2つの要素画像を択一的に表示させる表示指定を行うための例が表示指定ファイル413として例が示されている。すなわち、<同時表示指定>により、これと<同時表示指定終了>との間に記述された<付加画像1指定>及び<付加画像2指定>によって指定される付加画像1及び付加画像2が同時に表示されることが指定される。
【0070】
付加画像1は、<付加画像1指定>と<付加画像1指定終了>と間の記述によって指定される。すなわち、「表示位置指定」によって指定されるように、着目像領域WMRの大きさ情報が予め定められた基準となる値LXW0である場合におけるXWYW座標系の座標位置(XW31,YW31)に、「要素画像指定」によって指定される要素画像EMM31が表示される。また、「大きさ指定」によって指定されるように、表示時における要素画像EMM31のXW軸方向の最大幅が、着目像領域WMRの大きさLXWに対して比率R31の長さとされる。なお、表示時間指定がなされていないことから、付加画像1における要素画像EMM31は常時表示されることが指定されている。
【0071】
付加画像2は、<付加画像2指定>と<付加画像2指定終了>と間の記述によって指定される。すなわち、まず、第1の「表示位置指定」によって指定されるように、着目像領域WMRの大きさ情報が予め定められた基準となる値LXW0である場合におけるXWYW座標系の座標位置(XW32,YW32)に、第1の「要素画像指定」によって指定される要素画像EMM32が表示される。また、「大きさ指定」によって指定されるように、表示時における要素画像EMM32のXW軸方向の最大幅が、着目像領域WMRの大きさLXWに対して比率R32の長さとされる。また、第1の「表示時間指定」によって指定されるように、要素画像EMM32が、時間T32にわたって表示される。
【0072】
付加画像2においては、要素画像EMM32の時間T32の表示が終了すると、次に、第2の「表示位置指定」によって指定されるように、着目像領域WMRの大きさ情報が予め定められた基準となる値LX0である場合におけるXWYW座標系の座標位置(XW33,YW33)に、第2の「要素画像指定」によって指定される要素画像EMM33が表示される。また、「大きさ指定」によって指定されるように、表示時における要素画像EMM33のXW軸方向の最大幅が、着目像領域WMRの大きさLXWに対して比率R33の長さとされる。また、第2の「表示時間指定」によって指定されるように、要素画像EMM33が、時間T33にわたって表示される。
【0073】
こうして、付加画像1と付加画像2とを合わせて、要素画像EMM31及び要素画像EMM32の同時表示と、要素画像EMM31及び要素画像EMM33の同時表示とが時間順次に行われる。これらの表示が終了すると、再度、上記と同様の態様で、要素画像EMM31及び要素画像EMM32の同時表示と、要素画像EMM31及び要素画像EMM33の同時表示とが時間順次に行われる。こうして、要素画像EMM31及び要素画像EMM32の同時表示と、要素画像EMM31及び要素画像EMM33の同時表示とが時間順次に繰り返される。
【0074】
以下、上記のように構成された携帯電話装置10における、原画像にマスク画像を重ねた合成画像の作成の動作について説明する。
【0075】
前提として、マクス画像作成部32は、記憶部23におけるマスク画像情報ファイル40の内容をマスク画像情報MDDとして既に読み込んでいるものとする。また、原画像は、撮像光学系18及び切換光学系24を介し、撮像素子25の撮像面に結像された像であるものとする。また、着目像WMMは、図9Aに示されるような特定の人物の顔像であるものものとする。そして、図9Bに示されるように、着目像WMMにおける鼻の突端位置を原点OWとし、両面を結ぶ方向をXW軸方向とし、当該XW軸方向と垂直な方向をYW軸方向とするXWYW座標系(着目像座標系)が定義されるものとする。なお、原点OW及びXW軸方向は、原画像における着目像を画像解析して求められ、YW軸方向は、求められたXW軸方向に基づいて求められるものとする。
【0076】
《第1の合成画像作成例》
まず、第1の合成画像作成例を説明する。この例は、上述した図7において、両目の位置を表示位置とし、要素画像EMM11が、図6に示されるハート型図形画像であり、当該要素画像EMM11が着目像WMMの大きさを表す長さ値LXWに対して比率R1の大きさで表示されるマスク画像が、原画像に重ねて表示される合成画像の例である。
【0077】
まず、撮像素子25において撮像された原画像OMMのデータである原画像データOMDが、着目像情報抽出部31へ通知される。なお、原画像データOMDは、同時に合成画像作成部33へも通知される(図3参照)。ここで、得られた原画像OMMの例が、図10Aに示されている。
【0078】
着目像情報抽出部31は、通知された原画像OMMを画像処理して、着目像WMMの領域を抽出する。引き続き、着目像情報抽出部31は、着目像WMMを解析して、原画像座標系(XSYS座標系)における着目像WMMにおける鼻の突端位置(XSW,YSW)を着目像座標(XWYW座標系)の原点OWの位置として求めるとともに、両目の瞳の中央位置同士を結ぶ線分が延びる方向をXWYW座標系のXW軸方向として求める。そして、求められたXW軸方向とXS軸方向との交差角度θWを求める。さらに、着目像情報抽出部31は、着目像WMMのXW軸上における幅LXWを求める。そして、着目像情報抽出部31は、着目像情報データWMDとして、着目像領域の位置情報としての位置(XSW,YSW)を、着目像領域の傾き情報としての角度θWを、着目像領域の大きさ情報としての長さLXWを、マスク画像作成部32へ通知する。
【0079】
着目像情報データWMDを受けたマスク画像作成部32は、まず、付加画像1における要素画像EMM11のXSYS座標系における表示位置(XE11,YE11)を、次の(1)式及び(2)式により算出する。
XE11=(LXW/LX0)(XW11・cosθW+YW11・sinθW)+XSW …(1)
YE11=(LXW/LX0)(−XW11・sinθW+YW11・cosθW)+YSW …(2)
【0080】
次に、マスク画像作成部32は、付加画像1における要素画像EMM11の拡大又は縮小の倍率M11を、次の(3)式により算出する。
M11=R1・LXW/LXE1 …(3)
【0081】
次いで、マスク画像作成部32は、要素画像EMM11をXSYS座標系において原点OEを中心として倍率M11で拡大又は縮小を行う。引き続き、マスク画像作成部32は、拡大又は縮小された要素画像EMM11をXEYE座標系において原点OEを中心として角度θWだけ回転させる。そして、拡大又は縮小され、かつ、回転された要素画像EMM11を、XSYS座標系における座標位置(XE11,YE11)が原点OEの位置となるようにXSYS座標系に配置する。
【0082】
次に、マスク画像作成部32は、付加画像1の場合と同様にして、付加画像2における要素画像EMM11のXSYS座標系における表示位置(XE12,YE12)を、次の(4)式及び(5)式により算出する。
XE12=(LXW/LX0)(XW12・cosθW+YW12・sinθW)+XSW …(4)
YE12=(LXW/LX0)(−XW12・sinθW+YW12・cosθW)+YSW …(5)
【0083】
引き続き、マスク画像作成部32は、付加画像1の場合と同様にして、付加画像2における要素画像EMM11の拡大又は縮小の倍率M12を、次の(6)式により算出する。
M12=R1・LXW/LXE1 …(6)
【0084】
次いで、マスク画像作成部32は、要素画像EMM11をXSYS座標系において原点OEを中心として倍率M12で拡大又は縮小を行う。引き続き、マスク画像作成部32は、拡大又は縮小された要素画像EMM11をXEYE座標系において原点OEを中心として角度θWだけ回転させる。そして、拡大又は縮小され、かつ、回転された要素画像EMM11を、XSYS座標系における座標位置(XE12,YE12)が原点OEの位置となるようにXSYS座標系に配置する。
【0085】
以上の結果、図10Bにおいて画像F10Bとして示されるようなマスク画像MMMAが作成される。そして、マスク画像作成部32は、作成されたマスク画像MMMAのデータをマスク画像データMMDとして合成画像作成部33へ通知する。
【0086】
マスク画像データMMD及び原画像データOMDを受けた合成画像作成部33は、原画像データOMM上にマスク画像MMMAを重ねた合成画像SMMAを作成する。こうして作成された合成画像SMMAが図11において画像F11Aとして示されている。
【0087】
以上のようにして、本例の場合における合成画像が作成される。このため、撮像中の原画像における着目像WMMが上記の例から平行移動したとしても、画像F11Bとして示されるように、上記の場合と同様に、着目像WMMの両目の位置に要素画像EMM11が着目像領域の大きさに応じて指定された比率の大きさで表示されたマスク画像が原画像上に重ねられた合成画像SMMBが作成される。
【0088】
また、撮像中の原画像における着目像WMMが縮小したとしても、画像F11Cとして示されるように、上記の場合と同様に、着目像WMMの両目の位置に要素画像EMM11が着目像領域の大きさに応じて指定された比率の大きさで表示されたマスク画像が原画像上に重ねられた合成画像SMMCが作成される。また、撮像中の原画像における着目像WMMが回転したとしても、画像F11Dとして示されるように、上記の場合と同様に、着目像WMMの両目の位置に要素画像EMM11が着目像領域の大きさに応じて指定された比率の大きさを有し、かつ、着目像WMMの原画像中における傾きと同一の傾きを持って表示されたマスク画像が原画像上に重ねられた合成画像SMMDが作成される。なお、撮像中の原画像における着目像WMMが縮小、拡大又は回転した場合には、一般に、着目像領域における鼻の突端位置の原画像座標系(XSYS座標系)における座標位置の変化を伴うこととなる。
【0089】
《第2の合成画像作成例》
次に、第2の合成画像作成例を説明する。この例は、上述した図8Aにおいて、口の位置を表示位置とし、図12Aに示される要素画像EMM21、図12Bに示される要素画像EMM22、及び図12Cに示される要素画像EMM23が時間順次に繰り返して表示されるマスク画像が、原画像に重ねて表示される合成画像の例である。
【0090】
なお、図8Aの記述で指定されている「大きさ情報」に応じた大きさで要素画像EMM21,EMM22,EMM23が表示される。すなわち、要素画像EMM21は着目像WMMの大きさを表す長さ値LXWに対して比率R21の大きさで表示される。また、要素画像EMM22は長さ値LXWに対して比率R22の大きさで表示される。さらに、要素画像EMM23は長さ値LXWに対して比率R23の大きさで表示される。
【0091】
まず、上記の第1の合成画像作成例と同様にして、撮像素子25において撮像された原画像OMMのデータが原画像データOMDとして着目像情報抽出部31へ通知される。引き続き、着目像情報抽出部31が、通知された原画像OMMを画像処理して、着目像WMMの領域を特定し、着目像情報WMRを抽出する。そして、着目像情報抽出部31は、着目像情報データWMDとして、着目像領域の位置情報としての位置(XSW,YSW)を、着目像領域の傾き情報としての角度θWを、着目像領域の大きさ情報としての長さLXWを、マスク画像作成部32へ通知する。
【0092】
着目像情報データWMDを受けたマスク画像作成部32は、まず、付加画像1における第1要素画像EMM21のXSYS座標系における表示位置(XE2,YE2)を、次の(7)式及び(8)式により算出する。
XE2=(LXW/LX0)(XW2・cosθW+YW2・sinθW)+XSW …(7)
YE2=(LXW/LX0)(−XW2・sinθW+YW2・cosθW)+YSW …(8)
【0093】
次に、マスク画像作成部32は、第1の要素画像EMM21の拡大又は縮小の倍率M21を、次の(9)式により算出する。
M21=R21・LXW/LXE21 …(9)
【0094】
次いで、マスク画像作成部32は、上記の第1の合成画像作成と同様にして、要素画像EMM21をXSYS座標系において原点OEを中心として倍率M21で拡大又は縮小を行う。引き続き、マスク画像作成部32は、拡大又は縮小された要素画像EMM21をXEYE座標系において原点OEを中心として角度θWだけ回転させる。そして、拡大又は縮小され、かつ、回転された要素画像EMM21を、XSYS座標系における座標位置(XE2,YE2)が原点OEの位置となるようにXSYS座標系に配置する。
【0095】
以上の結果、図13において、画像F13Aとして示されるようなマスク画像MMM21が作成される。そして、マスク画像作成部32は、作成されたマスク画像MMM21のデータをマスク画像データMMDとして合成画像作成部33へ通知する。
【0096】
このマスク画像データMMD及び原画像データOMDを受けた合成画像作成部33は、原画像OMM上にマスク画像MMMを重ねた合成画像SMM21を作成する。こうして作成された合成画像SMM21が図14において画像F14Aとして示されている。
【0097】
以後、マスク画像作成部32は、時間T21にわたって、着目像WMMの口の位置を表示位置として、要素画像EMM21を、着目像WMMの大きさを表す長さ値LXWに対する比率R21の大きさで表示するマスク画像を作成する。この結果、合成画像作成部33は、原画像の着目像WMMにおける口の位置に要素画像EMM21を倍率M21で拡大又は縮小したマスク画像を重ねた合成画像を、時間T21にわたって逐次作成する。
【0098】
こうして、時間T21が経過すると、マスク画像作成部32は、付加画像1における第2要素画像EMM22のXSYS座標系における表示位置(XE2,YE2)を、上記の(7)式及び(8)式により算出する。引き続き、マスク画像作成部32は、第2の要素画像EMM22の拡大又は縮小の倍率M22を、次の(10)式により算出する。
M22=R22・LXW/LXE22 …(10)
【0099】
次に、マスク画像作成部32は、上記の第1の要素画像EMM21の場合と同様にして、要素画像EMM22をXEYE座標系において原点OEを中心として倍率M22で拡大又は縮小を行う。引き続き、マスク画像作成部32は、拡大又は縮小された要素画像EMM22をXEYE座標系において原点OEを中心として角度θWだけ回転させる。そして、拡大又は縮小され、かつ、回転された要素画像EMM22を、XSYS座標系における座標位置(XE2,YE2)が原点OEの位置となるようにXSYS座標系に配置する。
【0100】
以上の結果、図13において画像F13Bとして示されるようなマスク画像MMM22が作成される。そして、マスク画像作成部32は、作成されたマスク画像MMM22のデータをマスク画像データMMDとして合成画像作成部33へ通知する。
【0101】
このマスク画像データMMD及び原画像データOMDを受けた合成画像作成部33は、原画像OMM上にマスク画像MMMを重ねた合成画像SMM22を作成する。こうして作成された合成画像SMM22が図14においてF14Bとして示されている。
【0102】
以後、マスク画像作成部32は、時間T22にわたって、着目像WMMの口の位置を表示位置として、要素画像EMM22を、着目像WMMの大きさを表す長さ値LXWに対する比率R22の大きさで表示するマスク画像を生成する。この結果、合成画像作成部33は、原画像の着目像WMMにおける口の位置に要素画像EMM22を倍率M22で拡大又は縮小したマスク画像を重ねた合成画像を、時間T22にわたって作成する。
【0103】
こうして、時間T22が経過すると、マスク画像作成部32は、付加画像1における第3要素画像EMM23のXSYS座標系における表示位置(XE2,YE2)を、上記の(7)式及び(8)式により算出する。引き続き、マスク画像作成部32は、第3の要素画像EMM23の拡大又は縮小の倍率M23を、次の(11)式により算出する。
M23=R23・LXW/LXE23 …(11)
【0104】
次に、マスク画像作成部32は、上記の第1の要素画像EMM21の場合と同様にして、要素画像EMM23をXEYE座標系において原点OEを中心として倍率M23で拡大又は縮小を行う。引き続き、マスク画像作成部32は、拡大又は縮小された要素画像EMM23をXEYE座標系において原点OEを中心として角度θWだけ回転させる。そして、拡大又は縮小され、かつ、回転された要素画像EMM23を、XSYS座標系における座標位置(XE2,YE2)が原点OEの位置となるようにXSYS座標系に配置する。
【0105】
以上の結果、図13において画像F13Cとして示されるようなマスク画像MMM23が作成される。そして、マスク画像作成部32は、作成されたマスク画像MMM23のデータをマスク画像データMMDとして合成画像作成部33へ通知する。
【0106】
このマスク画像データMMD及び原画像データOMDを受けた合成画像作成部33は、原画像OMM上にマスク画像MMM23を重ねた合成画像SMM23を作成する。こうして作成された合成画像SMM23が図14において画像F14Cとして示されている。
【0107】
以後、マスク画像作成部32は、時間T23にわたって、着目像WMMの口の位置を表示位置として、要素画像EMM23を、着目像WMMの大きさを表す長さ値LXWに対する比率R23の大きさで表示するマスク画像を生成する。この結果、合成画像作成部33は、原画像の着目像WMMにおける口の位置に要素画像EMM23を倍率M23で拡大又は縮小したマスク画像を重ねた合成画像を、時間T23にわたって作成する。
【0108】
こうして、時間T23が経過すると、マスク画像作成部32は、上記と同様にして、上述した要素画像EMM21を使用したマスク画像、要素画像EMM22を使用したマスク画像及び要素画像EMM23を使用したマスク画像の時間順次の作成を繰り返す。そして、合成画像作成部33は、原画像データOMDとマスク画像データMMDとに基づいて、原画像における着目像の口の位置に指定の大きさに拡大又は縮小された要素画像EMM21、要素画像EMM22、及び要素画像EMM23からなるマスク画像が重ねられた合成画像を逐次作成する。
【0109】
《第3の合成画像作成例》
次に、第3の合成画像作成例を説明する。この例は、上述の図8におけるマスク画像指定に対応するものであり、要素画像及び着目像に対する表示位置が固定的な表示である付加画像1、並びに、要素画像及び着目像に対する表示位置が時間的に変化する付加画像2を同時表示するマスク画像が、原画像に重ねて表示される合成画像の例である。
【0110】
ここで、付加画像1における要素画像EMM31は、図15Aに示されるものであるものとする。また、付加画像2における第1要素画像EMM32は、図15Bに示されるものであり、また、付加画像2における第2要素画像EMM33は、図15Cに示されるものであるものとする。
【0111】
なお、図8の記述で指定されている「大きさ情報」に応じた大きさで要素画像EMM31,EMM32,EMM33が表示される。すなわち、要素画像EMM31は着目像WMMの大きさを表す長さ値LXWに対する比率R31の大きさで表示される。また、要素画像EMM32は長さ値LXWに対する比率R32の大きさで表示される。さらに、要素画像EMM33は着目像WMMの大きさを表す長さ値LXWに対する比率R33の大きさで表示される。
【0112】
まず、上記の第1又は第2の合成画像作成と同様にして、撮像素子25において撮像された原画像データOMDが、着目像情報抽出部31へ通知される。引き続き、着目像情報抽出部31が、通知された原画像OMMを画像処理して、着目像WMMの領域を特定し、着目像情報を抽出する。そして、着目像情報抽出部31は、着目像情報データWMDとして、着目像領域の位置情報としての位置(XSW,YSW)を、着目像領域の傾き情報としての角度θWを、着目像領域の大きさ情報としての長さLXWを、マスク画像作成部32へ通知する。
【0113】
着目像情報データWMDを受けたマスク画像作成部32は、まず、付加画像1における第1要素画像EMM31のXSYS座標系における表示位置(XE31,YE31)を、次の(12)式及び(13)式により算出する。
XE31=(LXW/LX0)(XW31・cosθW+YW31・sinθW)+XSW …(12)
YE31=(LXW/LX0)(−XW31・sinθW+YW31・cosθW)+YSW …(13)
【0114】
次に、マスク画像作成部32は、第1の要素画像EMM11の拡大又は縮小の倍率M31を、次の(14)式により算出する。
M31=R31・LXW/LXE31 …(14)
【0115】
次いで、マスク画像作成部32は、上記の第1又は第2の合成画像作成と同様にして、要素画像EMM31をXEYE座標系において原点OEを中心として倍率M31で拡大又は縮小を行う。引き続き、マスク画像作成部32は、拡大又は縮小された要素画像EMM31をXEYE座標系において原点OEを中心として角度θWだけ回転させる。そして、拡大又は縮小され、かつ、回転された要素画像EMM31を、XSYS座標系における座標位置(XE31,YE31)が原点OEの位置となるようにXSYS座標系に配置する。
【0116】
次に、マスク画像作成部32は、付加画像1における第1要素画像EMM31の場合と同様に、付加画像2における第2要素画像EMM32のXSYS座標系における表示位置(XE32,YE32)を、次の(15)式及び(16)式により算出する。
XE32=(LXW/LX0)(XW32・cosθW+YW32・sinθW)+XSW …(15)
YE32=(LXW/LX0)(−XW32・sinθW+YW32・cosθW)+YSW …(16)
【0117】
次に、マスク画像作成部32は、第2の要素画像EMM32の拡大又は縮小の倍率M32を、次の(17)式により算出する。
M32=R32・LXW/LXE32 …(17)
【0118】
次いで、マスク画像作成部32は、上記の要素画像EMM31の場合と同様にして、要素画像EMM32をXEYE座標系において原点OEを中心として倍率M32で拡大又は縮小を行う。引き続き、マスク画像作成部32は、拡大又は縮小された要素画像EMM32をXEYE座標系において原点OEを中心として角度θWだけ回転させる。そして、拡大又は縮小され、かつ、回転された要素画像EMM31を、XSYS座標系における座標位置(XE32,YE32)が原点OEの位置となるようにXSYS座標系に配置する。
【0119】
以上の結果、図16において画像F16Aとして示されるようなマスク画像MMM31が作成される。そして、マスク画像作成部32は、作成されたマスク画像MMM31のデータをマスク画像データMMDとして合成画像作成部33へ通知する。
【0120】
このマスク画像データMMD及び原画像データOMDを受けた合成画像作成部33は、原画像OMM上にマスク画像MMM31を重ねた合成画像SMM31を作成する。こうして作成された合成画像SMM31が図17において画像F17Aとして示されている。
【0121】
以後、マスク画像作成部32は、時間T31にわたって、着目像WMMと指定された関係にある位置に、要素画像EMM31を着目像WMMの大きさを表す長さ値LXWに対する比率R31の大きさで表示し、かつ、要素画像EMM32を長さ値LXWに対する比率R32の大きさで表示マスク画像を生成する。そして、合成画像作成部33は、マスク画像作成部32から通知されたマスク画像データMMDが表すマスク画像が原画像上に重ねられた合成画像を、時間T31にわたって作成する。
【0122】
こうして、時間T31が経過すると、マスク画像作成部32は、付加画像1における第1要素画像EMM31のXSYS座標系における表示位置(XE31,YE31)及び倍率M31を、上記の(12)式〜(14)式により算出する。そして、マスク画像作成部32は、XEYE座標系において原点OEを中心として、要素画像EMM31を倍率M31で拡大又は縮小した後に角度θWだけ回転させる。そして、拡大又は縮小され、かつ、回転された要素画像EMM2を、XSYS座標系における座標位置(XE31,YE31)が原点OEの位置となるようにXSYS座標系に配置する。
【0123】
次に、マスク画像作成部32は、付加画像1における第1要素画像EMM11の場合と同様に、付加画像2における要素画像EMM33のXSYS座標系における表示位置(XE33,YE33)を、次の(18)式及び(19)式により算出する。
XE33=(LXW/LX0)(XW33・cosθW+YW33・sinθ)+XSW …(18)
YE33=(LXW/LX0)(−XW33・sinθW+YW33・cosθ)+YSW …(19)
【0124】
次に、マスク画像作成部32は、第3要素画像EMM33の拡大又は縮小の倍率M33を、次の(20)式により算出する。
M33=R33・LXW/LXE33 …(20)
【0125】
次いで、マスク画像作成部32は、上記の第1要素画像EMM31の場合と同様にして、要素画像EMM33をXEYE座標系において原点OEを中心として倍率M33で拡大又は縮小を行う。引き続き、マスク画像作成部32は、拡大又は縮小された要素画像EMM33をXEYE座標系において原点OEを中心として角度θWだけ回転させる。そして、拡大又は縮小され、かつ、回転された要素画像EMM33を、XSYS座標系における座標位置(XE33,YE33)が原点OEの位置となるようにXSYS座標系に配置する。
【0126】
以上の結果、図16において画像F16Bとして示されるようなマスク画像MMM32が作成される。そして、マスク画像作成部32は、作成されたマスク画像MMM32のデータをマスク画像データMMDとして合成画像作成部33へ通知する。
【0127】
このマスク画像データMMD及び原画像データOMDを受けた合成画像作成部33は、原画像OMM上にマスク画像MMM32を重ねた合成画像SMM32を作成する。こうして作成された合成画像SMM32が図17において画像F17Bとして示されている。
【0128】
以後、マスク画像作成部32は、時間T32にわたって、着目像WMMと指定された関係にある位置に、要素画像EMM31を着目像WMMの大きさを表す長さ値LXWに対する比率R31の大きさで表示し、かつ、要素画像EMM33を長さ値LXWに対する比率R33の大きさで表示マスク画像を生成する。そして、合成画像作成部33は、マスク画像作成部32から通知されたマスク画像データMMDが表すマスク画像が原画像上に重ねられた合成画像を、時間T32にわたって作成する。
【0129】
こうして、時間T32が経過すると、マスク画像作成部32は、上記と同様にして、上述した要素画像EMM31及び要素画像EMM32を使用したマスク画像、並びに要素画像EMM31及要素画像EMM33を使用したマスク画像の時間順次の作成を繰り返す。そして、合成画像作成部33は、マスク画像作成部32から通知されたマスク画像データMMDが表すマスク画像が原画像上に重ねられた合成画像を逐次作成する。
【0130】
以上の第1、第2又は第3合成画像作成例のようにして作成された合成画像の情報データSMDは、合成画像作成部33から基本制御部29へ通知される。この合成画像情報データを受けた基本制御部29は、予め利用者が操作部12を操作して行った指令に従って、合成画像SMMを表示部13に表示したり、送受信部21を介して、通話相手先へ送信したりする。
【0131】
以上説明したように、本実施形態では、着目像WMMの領域を原画像において特定し、原画像中における着目像WMMの領域の位置及び大きさに関連する情報を含む着目像情報WMDを抽出する。引き続き、着目像情報WMDと、マスク画像情報ファイル40に登録されたマスク画像情報とに基づいて、原画像OMM上に重ねて表示させるマスク画像MMMを作成する。この結果、原画像OMMにおける着目像WMMの領域の位置に関連する情報と、マスク画像情報に含まれる着目像領域の位置との関係を示す情報とにより定まる位置に、原画像OMMにおける着目像WMMの領域の大きさに関連する情報と、着目像領域の大きさの関係を示す情報とにより定まる大きさで、マスク画像情報に含まれる要素画像選択情報により選択された要素画像から構成されるマスク画像が作成される。そして、原画像上にマスク画像を重ねた合成画像が作成される。
【0132】
したがって、本実施形態によれば、原画像に対して利用者の趣味感に応じた演出を施した画像を簡易にかつ適切に作成することができる。
【0133】
また、本実施形態では、マスク画像情報に含まれる着目像領域の位置に関連する情報には、原画像OMMにおける着目像領域WMRの代表点の位置情報が含まれている。このため、マスク画像情報に含まれる着目像領域の位置との関係を示す情報を、着目像領域の代表点に対する相対位置を示す情報とすることができ、関係情報における着目像領域の位置との関係を示す情報を簡易なものとすることができる。
【0134】
また、本実施形態では、マスク画像情報に含まれる着目像領域の位置に関連する情報には、原画像OMMにおける着目像領域の傾き情報が更に含まれている。このため、原画像OMMにおける着目像領域の傾き情報を使用することにより、着目像領域の原画像における傾きに応じた位置に、所望の要素画像を重ねて表示した合成画像を作成することができる。また、表示する要素画像に着目像領域の原画像における傾きに応じた傾きを持たせて表示させることができる。
【0135】
また、本実施形態では、マスク画像情報に含まれる着目像領域の位置に関連する情報として、着目像領域の代表点を原点とし、原画像における着目像領域の傾きに基づいて座標軸の方向が定められる座標系における座標位置情報が、要素画像の表示位置情報として含まれている。このため、着目像領域の位置との関係を示す情報を、着目像領域の代表点を原点とし、着目像領域の傾きに基づいて座標軸の方向が定められる座標系における座標位置情報という簡易かつ取り扱いが容易なものとすることができる。
【0136】
また、本実施形態では、マスク画像情報が、着目像領域の大きさと要素画像EMMの表示時における大きさとの比率情報を含むことすることができる。この場合には、原画像OMM内で着目像領域の大きさが刻々と変化する場合であっても、着目像領域の大きさに適合した大きさの要素画像EMMを含むマスク画像MMMを作成することができる。
【0137】
また、本実施形態では、マスク画像情報が、要素画像EMMそれぞれの表示の実行時間情報を含むことができる。この場合には、当該実行時間情報に従ってマスク画像WMMを作成することにより、所望の要素画像EMMそれぞれを所望の時間に設定した表示実行時間だけ表示することができ、ダイナミックに変化するマスク画像MMMを作成することができる。
【0138】
また、本実施形態では、マスク画像情報が、複数の要素画像EMMの表示を時間順次に表示するとともに、時間順次表示を繰り返すことを指定する時間順次表示指定の情報を含むことができる。この場合には、当該時間順次表示指定の情報に従ってマスク画像WMMを作成することにより、原画像OMM上に複数の要素画像を所望の時間ごとに時間順次に繰り返し表示することができる。
【0139】
また、本実施形態では、マスク画像情報が、複数の要素画像表示を同時に表示することを指定する同時表示指定の情報を含むことができる。この場合には、所望の複数の要素画像EMMそれぞれが、所望の位置に表示されるマスク画像を作成することができ、様々なバリエーションのマスク画像WMMを作成することができる。
【0140】
<第2実施形態>
次に、本発明の第2実施形態を、図18〜図24を主に参照しつつ、適宜他の図面を参照して説明する。なお、上述した第1実施形態の場合と同一又は同様の要素には同一符号を付し、重複する説明は省略する。
【0141】
本実施形態は、第1実施形態と比べて、人物像の背景に原画像のものとは異なる画像を用いることができる点が相違している。以下、当該相違点に主に着目して説明する。
【0142】
本実施形態の携帯電話装置10’は、図18に示されるように、携帯電話本体11内部において、制御部21が、マスク画像処理部30’を備えている点と、記憶部23にマスク画像情報ファイル40’が格納されている点とが、第1実施形態の携帯電話装置10と相違している。
【0143】
マスク画像処理部30’は、図19に示されるように、着目像情報抽出部31と、マスク画像作成部32’と、合成画像作成部33’とを備えている。ここで、着目像情報抽出部31は、第1実施形態の場合と同様に動作する。
【0144】
マスク画像作成部32’は、第1実施形態のマスク画像作成部32と同様に、着目像情報抽出部31によって抽出された着目像情報WMDと、上述した記憶部23のマスク画像情報ファイル40’に記憶されたマスク画像情報MDDとに基づいて、マスク画像データMMDを作成する。さらに、マスク画像作成部32’は、マスク画像情報ファイル40’に記憶されたマスク画像情報MDDに基づいて、背景像指定の有無を示す背景像指定情報と、背景像指定情報において背景像指定が有る場合における背景像データBDDの格納位置情報から成る背景像情報BPNを作成する。
【0145】
合成画像作成部33’は、背景像情報BPNにより背景像指定が有る旨が通知された場合には、まず、原画像データOMD及び背景像データBDDに基づいて、背景像データBDDによる背景像上に原画像中の特定表示画像である人物像を重ねた画像を背景像含有画像として作成する。引き続き、合成画像作成部33’は、当該背景像含有画像上にマスク画像情報MDDにより表されたマスク画像を重ねた合成画像データSMD’を作成する。
【0146】
一方、背景像情報BPNにより背景像指定が無い旨が通知された場合には、合成画像作成部33’は、原画像を背景像含有画像として作成する。引き続き、合成画像作成部33’は、当該背景像含有画像上にマスク画像情報MDDにより表されたマスク画像を重ねた合成画像データSMD’を作成する。この場合には、合成画像データSMD’は、第1実施形態の合成画像データSMDと同様となる。
【0147】
なお、合成画像作成部33によって作成された合成画像データSMD’は、基本制御部29へ通知されるようになっている。
【0148】
記憶部23内のマスク画像情報ファイル40’は、図20Aに示されるように、(i)原画像における着目像領域と関連してどのようにマスク画像を表示するかを指定する表示指定記述、及び、背景像指定記述が格納された表示指定ファイル41’と、(ii)上述した要素画像ファイル42と、(iii)背景像データBDDを格納した背景像ファイル43とから構成されている。なお、マスク画像情報ファイル40’は、携帯電話装置10に対して、コンテンツプロバイダーから無線回線を介して提供されたり、利用者がパーソナルコンピュータ等により作成した後に記憶媒体や不図示の外部インターフェースを介して提供されたりする。
【0149】
本実施形態の表示指定ファイル41’における表示指定記述の例が、図21に示されている。なお、図21に示される記述例は、第1実施形態の場合における図7の記述例に背景像指定がある旨を加えたものである。すなわち、図21の表示指定記述では、<同時表示指定>から<同時表示指定終了>までの間において、図7の付加画像1及び付加画像2についての記述に加えて、<背景像指定>及び<背景像指定終了>、並びにこれらの間における「背景像指定」の記述により同時表示すべき背景像が指定されている。ここで、「背景像指定」としては、背景像ファイル43の記憶部23における先頭アドレスBMMAが指定される。以下の説明においては、背景像ファイル43には、図22に示されるような原画像領域OMRと同一の形状及び大きさを有する背景像領域BMR内の背景像BMMを表す背景像データBDDが格納されているものとする。
【0150】
なお、<背景像指定>から<背景像指定指定終了>までの記述が無い場合には、背景像指定が無いことを示すようになっている。また、背景像ファイル43の先頭アドレスBMMA値として「0」が記述されている場合にも、背景像指定が無いことを示すようになっている。
【0151】
以下、上記のように構成された携帯電話装置10’における、合成画像の作成の動作について説明する。
【0152】
上述した第1実施形態における合成画像の作成の動作についての前提に加えて、図23に示される原画像領域OMR内の人物像SDMが、原画像OMMから切り出されるべき特定表示画像であるものとする。
【0153】
まず、第1実施形態における第1の合成画像作成例の場合と同様に、撮像素子25において撮像された原画像OMMのデータである原画像データOMDが、着目像情報抽出部31へ通知され、着目像情報抽出部31により着目像情報データWMDが作成される。こうして作成された着目像情報データWMDは、着目像情報抽出部31からマスク画像作成部32‘へ通知される。
【0154】
着目像情報データWMDを受けたマスク画像作成部32’は、第1実施形態における第1の合成画像作成例の場合と同様に、着目像情報データWMD及びマスク画像情報MDDに基づいて、マスク画像MMMAのデータを作成し、マスク画像データMMDとして合成画像作成部33’へ通知する。また、マスク画像作成部32’は、マスク画像情報MDDに基づいて、背景像指定が有るか否か、及び、背景像指定が有る場合における背景像ファイル43の先頭アドレスから成る背景像情報BPNを作成し、合成画像作成部33’へ通知する。ここで、表示指定ファイル41’には、上述した図21のように、背景像指定が記述されているので、背景像情報BPNとしては、背景像指定が有る旨、及び、背景像ファイル43の先頭アドレスが含まれることになる。
【0155】
マスク画像データMMD、原画像データOMD及び背景像情報BPNを受けた合成画像作成部33’は、まず、背景像情報BPNに基づいて、背景像指定が有るか否かを判定する。今回の場合は、上記のように背景像指定があるので、判定結果は肯定的となる。引き続き、合成画像作成部33’は、背景像情報BPN中の背景像ファイル43の先頭アドレスを利用して、背景像ファイル43から背景像データBDDを読み出す。
【0156】
こうして、マスク画像データMMD及び原画像データOMDに加えて背景象データBDDを取得した合成画像作成部33’は、次のようにして、合成画像を作成する。
【0157】
まず、合成画像作成部33’は、図24において画像F24Aとして示される原画像OMMから、画像F24Bとして示されるように特定表示画像である人物像SDMを切り出す。かかる切り出しは、人物像一般の特徴から人物像SDMの輪郭を特定した後、当該輪郭内の画像を抽出することにより行われる。
【0158】
引き続き、合成画像作成部33’は、特定表示像SDMを、原画像OMRにおける場合と同一の位置に同一の大きさで、画像F24Cとして示される背景像BMMに重ねる。この結果、画像F24Dとして示される背景付加像BAMが作成される。
【0159】
次に、合成画像作成部33’は、画像F24Eとして示されるマスク画像MMMAを背景付加像BAMに重ねる。この結果、画像F24Fとして示される合成画像SMMA’が作成される。
【0160】
こうして作成された合成画像SMMA’のデータSMD’は、合成画像作成部33から基本制御部29へ通知される。この合成画像情報データを受けた基本制御部29は、予め利用者が操作部12を操作して行った指令に従って、合成画像SMMA’を表示部13に表示したり、送受信部21を介して、通話相手先へ送信したりする。
【0161】
なお、表示指定ファイル41’に背景像指定が記述されていない場合や、背景像データBDDの格納先頭アドレスが「0」であった場合には、マスク画像作成部32’は、背景像指定が無い旨のみを含む背景像情報BPNを作成し、合成画像作成部33’へ通知する。こうした背景像情報BPNを受けた合成画像作成部33’は、背景像指定が無いと判定し、原画像OMMにマスク画像MMMAを重ねて、合成画像を作成する。この結果、第1実施形態における第1の合成画像作成例の場合と同一の合成画像SMMAが作成される。
【0162】
また、上記では、表示指定ファイル41’にマスク画像指定が記述されておらず、背景像指定のみが記述されている場合には、合成画像作成部33’においては、背景付加像BAMが最終的な合成画像として作成される。
【0163】
また、上記では、第1実施形態における第1の合成画像作成例の場合と同様のマスク画像指定に加えて、背景像指定をした例を説明したが、第1実施形態における第2又は第3の合成画像作成例の場合と同様のマスク画像指定に加えて、背景像指定をすることが可能なことは勿論である。
【0164】
以上説明したように、本実施形態では、合成画像作成部33’が、着目像である顔画像を含む人物像SDMを特定表示像として原画像OMMから切り出して、指定された背景像BMM上に重ね、着目像含有画像としての背景付加像BAMを作成する。そして、合成画像作成部33’は、当該背景付加像BAMにマスク画像MMMAを重ねる。したがって、人物像SDM等の特定表示画像に対する利用者の趣味感に応じた演出を、マスク画像及び背景像を選択することにより施すことができる。
【0165】
なお、上記の第2実施形態では、マスク画像情報ファイル40’が、背景像ファイル43を含んでいることとした。これに対して、背景像ファイル43を、マスク画像情報ファイル外の領域に置くことにすることもできる。
【0166】
また、上記の第1及び第2実施形態では、原画像を動画としたが、原画像が静止画であっても、本発明を適用することができる。
【0167】
また、上記の第1及び第2実施形態では、いわゆる自分撮りの態様で撮像される撮像光学系18を介した光の結像結果を原画像としたが、いわゆる相手撮りの態様で撮像される撮像光学系19を介した光の結像結果を原画像とすることもできる。さらに、記憶部23に記憶されている画像を原画像とすることもできる。
【0168】
また、上記の第1及び第2実施形態では、原画像における着目像領域における着目物体について奥行きに沿った構造を考慮せず、マスク画像に利用する要素画像も2次元モデルで作成されたものとした。これに対し、着目像領域における着目物体について奥行きに沿った構造を考慮し、マスク画像に利用する要素画像を3次元モデルで作成されたものとすることもできる。この場合には、着目物体が、表示面と平行な軸の回りの回転成分を有する動きをしたときであっても、その回転に追従しつつ違和感のないマスク画像を作成することができる。
【0169】
また、同時に表示する要素画像の数は任意である。さらに、時間順次表示を行う要素画像の数も任意である。
【0170】
また、上記の第1及び第2実施形態では、マスク画像情報ファイルが、表示指定ファイルと、要素画像ファイルとから構成されることとした。これに対して、マスク画像情報ファイルが、要素画像プレビューファイルを更に有することとし、要素画像のプレビューを指定された場合には、当該要素画像プレビューファイルを参照して、表示部13において要素画像のプレビューを行うこととしてもよい。
【0171】
また、着目像情報に基づいて着目像領域において予め定められた現象が発生したか否かを判定する所定現象発生したことを判定することとし、当該所定現象が発生したことをトリガとしてマスク画像の作成を開始させることもできる。例えば、特定人物の顔像を着目画像としたときに、瞼が閉じられたときに、目の位置から涙が流れる合成画像を作成することとすることもできる。
【0172】
また、上記の第1及び第2実施形態では、携帯電話装置に本発明を適用したが、他の種類の移動通信端末装置にも本発明を適用することができる。さらに、パーソナルコンピュータ等の一般の電子機器にも本発明を適用することができる。
【産業上の利用可能性】
【0173】
以上説明したように、本発明の画像処理方法及び画像処理方法は、取得された原画像の加工処理に適用することができる。また、本発明の移動通信端末装置は、画像メール機能やテレビ電話機能を有する移動通信端末装置に適用することができる。
【特許請求の範囲】
【請求項1】
画像の処理を行う画像処理方法であって、
着目すべき像の領域である着目像領域を原画像において特定し、前記原画像中における前記着目像領域の位置及び大きさに関連する情報を含む着目像情報を抽出する着目像情報抽出工程と;
前記着目像情報と、前記着目像領域との位置及び大きさの関係を示す少なくとも1つの関係情報、前記関係情報それぞれに対応して特定の要素画像の情報を選択したことを示す要素画像選択情報、並びに前記要素画像選択情報により選択される少なくとも1つの要素画像情報が含まれたマスク画像情報ファイルに登録されたマスク画像情報とに基づいて、前記原画像上に重ねて表示させるマスク画像を作成するマスク画像作成工程と;
前記着目像領域内の着目像を前記原画像における場合と同一の位置に同一の大きさで含む着目像含有画像上に前記マスク画像を重ねた合成画像を作成する合成画像作成工程と;を備える画像処理方法。
【請求項2】
前記着目像含有画像は前記原画像である、ことを特徴とする請求項1に記載の画像処理方法。
【請求項3】
前記マスク画像情報ファイルは、特定の背景像の情報を選択したことを示す背景像選択情報を更に含み、
前記合成画像作成工程では、前記着目像を含む特定表示像を前記原画像から切り出して、前記特定表示像を前記原画像における場合と同一の位置に同一の大きさで前記特定の背景像に重ねた背景付加像を前記着目像含有画像とした後に前記合成画像を作成する、ことを特徴とする請求項1に記載の画像処理方法。
【請求項4】
前記着目像領域の位置に関連する情報には、前記原画像における前記着目像領域の代表点の位置情報が含まれる、ことを特徴とする請求項1に記載の画像処理方法。
【請求項5】
前記着目像領域の位置に関連する情報には、前記原画像における前記着目像領域の傾き情報が含まれる、ことを特徴とする請求項4に記載の画像処理方法。
【請求項6】
前記関係情報には、前記着目像領域の代表点を原点とし、前記着目像領域の傾きに基づいて座標軸の方向が定められる座標系における座標位置情報が、前記特定の図形の表示位置情報として含まれる、ことを特徴とする請求項4に記載の画像処理方法。
【請求項7】
前記関係情報には、前記着目像領域の大きさと前記特定の図形の表示時における大きさとの比率情報が含まれる、ことを特徴とする請求項1に記載の画像処理方法。
【請求項8】
前記マスク画像情報には、前記関係情報及び前記関係情報に対応する図形選択情報との組合せで定まる図形表示それぞれの実行時間情報が更に含まれる、ことを特徴とする請求項1に記載の画像処理方法。
【請求項9】
前記マスク画像情報には、前記関係情報及び前記関係情報に対応する図形選択情報の組合せで定まる複数種類の図形表示を時間順次に表示するとともに、時間順次表示を繰り返すことを指定する時間順次表示指定の情報が更に含まれる、ことを特徴とする請求項8に記載の画像処理方法。
【請求項10】
前記マスク画像情報には、前記関係情報及び前記関係情報に対応する図形選択情報の組合せで定まる複数種類の図形表示を同時に表示することを指定する同時表示指定の情報が更に含まれる、ことを特徴とする請求項1に記載の画像処理方法。
【請求項11】
前記原画像は動画像である、ことを特徴する請求項1に記載の画像処理方法。
【請求項12】
前記着目像情報に基づいて前記着目像領域において予め定められた現象が発生したか否かを判定する所定現象発生判定工程を更に備え、
前記所定現象発生判定工程において肯定的な判定がされた後に、前記マスク画像作成工程を開始する、ことを特徴とする請求項11に記載の画像処理方法。
【請求項13】
画像の処理を行う画像処理装置であって、
着目すべき像の領域である着目像領域を原画像において特定し、前記原画像中における前記着目像領域の位置及び大きさに関連する情報を含む着目像情報を抽出する着目像情報抽出手段と;
前記着目像領域との位置及び大きさの関係を示す少なくとも1つの関係情報、前記関係情報それぞれに対応して特定の要素画像の情報を選択したことを示す要素画像選択情報、並びに前記要素画像選択情報により選択される少なくとも1つの要素画像情報が含まれたマスク画像情報が登録されたマスク画像情報ファイルを格納する記憶手段と;
前記着目像情報と、前記マスク画像情報とに基づいて、前記原画像上に重ねて表示されるマスク画像を作成するマスク画像作成手段と;
前記着目像領域内の着目像を前記原画像における場合と同一の位置に同一の大きさで含む着目像含有画像上に前記マスク画像を重ねた合成画像を作成する合成画像作成手段と;を備える画像処理装置。
【請求項14】
前記着目像含有画像は前記原画像である、ことを特徴とする請求項13に記載の画像処理装置。
【請求項15】
前記マスク画像情報ファイルは、特定の背景像の情報を選択したことを示す背景画像選択情報を更に含み、
前記合成画像作成手段は、前記着目像を含む特定表示像を前記原画像から切り出して、前記特定表示像を前記原画像における場合と同一の位置に同一の大きさで前記特定の背景像に重ねた背景付加像を前記着目像含有画像とした後に前記合成画像を作成する、ことを特徴とする請求項13記載の画像処理装置。
【請求項16】
前記合成画像を表示する表示手段を更に備える、ことを特徴とする請求項13に記載の画像処理装置。
【請求項17】
前記合成画像データを送信する送信手段を更に備える、ことを特徴とする請求項13に記載の画像処理装置。
【請求項18】
前記原画像を取得するための撮像手段を更に備える、ことを特徴とする請求項13に記載の画像処理装置。
【請求項19】
請求項13に記載の画像処理装置を備える、ことを特徴とする移動通信端末装置。
【請求項1】
画像の処理を行う画像処理方法であって、
着目すべき像の領域である着目像領域を原画像において特定し、前記原画像中における前記着目像領域の位置及び大きさに関連する情報を含む着目像情報を抽出する着目像情報抽出工程と;
前記着目像情報と、前記着目像領域との位置及び大きさの関係を示す少なくとも1つの関係情報、前記関係情報それぞれに対応して特定の要素画像の情報を選択したことを示す要素画像選択情報、並びに前記要素画像選択情報により選択される少なくとも1つの要素画像情報が含まれたマスク画像情報ファイルに登録されたマスク画像情報とに基づいて、前記原画像上に重ねて表示させるマスク画像を作成するマスク画像作成工程と;
前記着目像領域内の着目像を前記原画像における場合と同一の位置に同一の大きさで含む着目像含有画像上に前記マスク画像を重ねた合成画像を作成する合成画像作成工程と;を備える画像処理方法。
【請求項2】
前記着目像含有画像は前記原画像である、ことを特徴とする請求項1に記載の画像処理方法。
【請求項3】
前記マスク画像情報ファイルは、特定の背景像の情報を選択したことを示す背景像選択情報を更に含み、
前記合成画像作成工程では、前記着目像を含む特定表示像を前記原画像から切り出して、前記特定表示像を前記原画像における場合と同一の位置に同一の大きさで前記特定の背景像に重ねた背景付加像を前記着目像含有画像とした後に前記合成画像を作成する、ことを特徴とする請求項1に記載の画像処理方法。
【請求項4】
前記着目像領域の位置に関連する情報には、前記原画像における前記着目像領域の代表点の位置情報が含まれる、ことを特徴とする請求項1に記載の画像処理方法。
【請求項5】
前記着目像領域の位置に関連する情報には、前記原画像における前記着目像領域の傾き情報が含まれる、ことを特徴とする請求項4に記載の画像処理方法。
【請求項6】
前記関係情報には、前記着目像領域の代表点を原点とし、前記着目像領域の傾きに基づいて座標軸の方向が定められる座標系における座標位置情報が、前記特定の図形の表示位置情報として含まれる、ことを特徴とする請求項4に記載の画像処理方法。
【請求項7】
前記関係情報には、前記着目像領域の大きさと前記特定の図形の表示時における大きさとの比率情報が含まれる、ことを特徴とする請求項1に記載の画像処理方法。
【請求項8】
前記マスク画像情報には、前記関係情報及び前記関係情報に対応する図形選択情報との組合せで定まる図形表示それぞれの実行時間情報が更に含まれる、ことを特徴とする請求項1に記載の画像処理方法。
【請求項9】
前記マスク画像情報には、前記関係情報及び前記関係情報に対応する図形選択情報の組合せで定まる複数種類の図形表示を時間順次に表示するとともに、時間順次表示を繰り返すことを指定する時間順次表示指定の情報が更に含まれる、ことを特徴とする請求項8に記載の画像処理方法。
【請求項10】
前記マスク画像情報には、前記関係情報及び前記関係情報に対応する図形選択情報の組合せで定まる複数種類の図形表示を同時に表示することを指定する同時表示指定の情報が更に含まれる、ことを特徴とする請求項1に記載の画像処理方法。
【請求項11】
前記原画像は動画像である、ことを特徴する請求項1に記載の画像処理方法。
【請求項12】
前記着目像情報に基づいて前記着目像領域において予め定められた現象が発生したか否かを判定する所定現象発生判定工程を更に備え、
前記所定現象発生判定工程において肯定的な判定がされた後に、前記マスク画像作成工程を開始する、ことを特徴とする請求項11に記載の画像処理方法。
【請求項13】
画像の処理を行う画像処理装置であって、
着目すべき像の領域である着目像領域を原画像において特定し、前記原画像中における前記着目像領域の位置及び大きさに関連する情報を含む着目像情報を抽出する着目像情報抽出手段と;
前記着目像領域との位置及び大きさの関係を示す少なくとも1つの関係情報、前記関係情報それぞれに対応して特定の要素画像の情報を選択したことを示す要素画像選択情報、並びに前記要素画像選択情報により選択される少なくとも1つの要素画像情報が含まれたマスク画像情報が登録されたマスク画像情報ファイルを格納する記憶手段と;
前記着目像情報と、前記マスク画像情報とに基づいて、前記原画像上に重ねて表示されるマスク画像を作成するマスク画像作成手段と;
前記着目像領域内の着目像を前記原画像における場合と同一の位置に同一の大きさで含む着目像含有画像上に前記マスク画像を重ねた合成画像を作成する合成画像作成手段と;を備える画像処理装置。
【請求項14】
前記着目像含有画像は前記原画像である、ことを特徴とする請求項13に記載の画像処理装置。
【請求項15】
前記マスク画像情報ファイルは、特定の背景像の情報を選択したことを示す背景画像選択情報を更に含み、
前記合成画像作成手段は、前記着目像を含む特定表示像を前記原画像から切り出して、前記特定表示像を前記原画像における場合と同一の位置に同一の大きさで前記特定の背景像に重ねた背景付加像を前記着目像含有画像とした後に前記合成画像を作成する、ことを特徴とする請求項13記載の画像処理装置。
【請求項16】
前記合成画像を表示する表示手段を更に備える、ことを特徴とする請求項13に記載の画像処理装置。
【請求項17】
前記合成画像データを送信する送信手段を更に備える、ことを特徴とする請求項13に記載の画像処理装置。
【請求項18】
前記原画像を取得するための撮像手段を更に備える、ことを特徴とする請求項13に記載の画像処理装置。
【請求項19】
請求項13に記載の画像処理装置を備える、ことを特徴とする移動通信端末装置。
【図1A】
【図1B】
【図2】
【図3】
【図4A】
【図4B】
【図5A】
【図5B】
【図7】
【図8A】
【図8B】
【図9A】
【図9B】
【図18】
【図19】
【図20】
【図21】
【図23】
【図6】
【図10A】
【図10B】
【図11】
【図12A】
【図12B】
【図12C】
【図13】
【図14】
【図15A】
【図15B】
【図15C】
【図16】
【図17】
【図22】
【図24】
【図1B】
【図2】
【図3】
【図4A】
【図4B】
【図5A】
【図5B】
【図7】
【図8A】
【図8B】
【図9A】
【図9B】
【図18】
【図19】
【図20】
【図21】
【図23】
【図6】
【図10A】
【図10B】
【図11】
【図12A】
【図12B】
【図12C】
【図13】
【図14】
【図15A】
【図15B】
【図15C】
【図16】
【図17】
【図22】
【図24】
【国際公開番号】WO2005/076210
【国際公開日】平成17年8月18日(2005.8.18)
【発行日】平成19年10月18日(2007.10.18)
【国際特許分類】
【出願番号】特願2005−517765(P2005−517765)
【国際出願番号】PCT/JP2005/001753
【国際出願日】平成17年2月7日(2005.2.7)
【出願人】(501440684)ソフトバンクモバイル株式会社 (654)
【Fターム(参考)】
【国際公開日】平成17年8月18日(2005.8.18)
【発行日】平成19年10月18日(2007.10.18)
【国際特許分類】
【国際出願番号】PCT/JP2005/001753
【国際出願日】平成17年2月7日(2005.2.7)
【出願人】(501440684)ソフトバンクモバイル株式会社 (654)
【Fターム(参考)】
[ Back to top ]