説明

画像生成装置、画像加工方法、および、プログラム

【課題】ユーザの視線方向を適切に修正した画像を生成できる画像生成装置等を提供する。
【解決手段】撮影部110は、ユーザを含む撮影画像を撮影する。顔検出部120は、撮影された撮影画像から、顔認識によりユーザの顔画像を検出する。また、画像特定部130は、顔検出部120により検出された顔画像から眼部画像を特定する。また、画像加工部140は、画像特定部130により特定された眼部画像における瞳の位置を、その眼部画像の中央となるように加工する。そして、画像送信部151は、眼部画像が加工された顔画像を含む撮影画像を、他の装置に送信する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ユーザの視線方向を適切に修正した画像を生成できる画像生成装置、画像加工方法、および、プログラムに関する。
【背景技術】
【0002】
近年、ノート型のパソコン(パーソナルコンピュータ)等において、カメラ(CCD等の撮像ユニット)を備えた製品が販売されている。このカメラは、例えば、表示部(液晶等のディスプレイ)を支える周縁枠(上部枠や、下部枠等)に組み込まれており、ユーザ(顔等)を撮影可能となっている。
このようなカメラは、例えば、ビデオチャットを行う際に利用される。つまり、通信可能に接続された各パソコンにおいて、カメラで撮影された画像が相互に送られるため、各ユーザは相手の顔等を見ながら、チャットを行うことができるようになっている。
【0003】
最近では、携帯型のゲーム装置等にも、このようなカメラが組み込まれた製品が販売されている。また、最初からカメラが組み込まれていなくとも、周辺機器のカメラをプレイヤが取り付けて使用できるゲーム装置が知られている。
【0004】
このようなビデオチャットが行えるゲーム装置等において、一方のユーザ端末で映像に同期して発声した音声等を、他方のユーザ端末で映像に同期させて出力する技術も開示されている(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2007−222411号公報 (第9−19頁、第3図)
【発明の概要】
【発明が解決しようとする課題】
【0006】
上述したビデオチャットが行えるゲーム装置等において、ユーザは、表示部に表示されている相手ユーザの画像を見ながら会話を進めることになる。なお、上述したように、カメラは、表示部を支える周縁枠に組み込まれているため、カメラの光軸方向とユーザの視線方向とが揃わずに、ずれが生じてしまう。つまり、視線を逸らした(視線が外れた)ユーザの画像が撮影されてしまうことになる。
例えば、カメラが表示部の上部枠に組み込まれている場合では、上方からユーザを撮影することになり、視線を下方に向けたユーザの画像が撮影される。そして、撮影されたその画像が相手側の装置に送られると、相手ユーザは、ユーザ(送信元のユーザ)が、絶えずうつむいているように見えてしまい、会話を楽しめない場合も多かった。
【0007】
なお、相手側の装置でも同様に、視線を逸らしたユーザ(相手ユーザ)の画像が撮影されて送られて来ることになる。そのため、従来のビデオチャットでは、ユーザ同士が、互いに視線を逸らして会話している状況となり、極めて不自然であった。
【0008】
そのため、このような不自然な状況を生じさせずに、ビデオチャットが行えるゲーム装置(画像生成装置)等の開発が求められていた。
【0009】
本発明は、上記実状に鑑みてなされたもので、ユーザの視線方向を適切に修正した画像を生成できる画像生成装置、画像加工方法、および、プログラムを提供することを目的とする。
【課題を解決するための手段】
【0010】
本発明の第1の観点に係る画像生成装置は、顔検出部、画像特定部、及び、画像加工部を備えて構成される。
【0011】
まず、顔検出部は、例えば、カメラ等により撮影された撮影画像から人物の顔画像を検出する。また、画像特定部は、検出された当該顔画像から眼部画像(例えば、皮膚に隠れた部分も含めた略円形の眼部画像)を特定する。そして、画像加工部は、特定された当該眼部画像における瞳の位置を、例えば、眼部画像の中央となるように加工する。
【0012】
すなわち、本願発明では、撮影画像から人物の顔画像(ユーザの顔画像)を検出し、その顔画像から眼部画像を特定する。そして、特定した眼部画像の瞳の位置を、例えば、眼部画像の中央となるように加工する。つまり、ユーザがこちら(カメラ)に視線を向けているように、眼部画像を加工する。
この結果、ユーザの視線方向を適切に修正した画像を生成できる。
【0013】
本発明の第2の観点に係る画像生成装置は、撮影部、顔検出部、画像特定部、画像加工部、及び、画像送信部を備えて構成される。
【0014】
まず、撮影部は、人物を含む撮影画像を撮影する。また、顔検出部は、撮影された撮影画像から、顔認識により当該人物の顔画像を検出する。また、画像特定部は、検出された当該顔画像から眼部画像(例えば、皮膚に隠れた部分も含めた略円形の眼部画像)を特定する。また、画像加工部は、特定された当該眼部画像における瞳の位置を、当該眼部画像の中央となるように加工する。そして、画像送信部は、当該眼部画像が加工された顔画像を含む撮影画像を、他の装置に送信する。
【0015】
すなわち、本願発明では、撮影画像から検出した人物(ユーザ)の顔画像から眼部画像を特定する。そして、特定した眼部画像の瞳の位置を、眼部画像の中央となるように加工し、眼部を加工した顔画像を含む撮影画像を他の装置に送信する。つまり、ユーザがこちら(カメラ)に視線を向けているように、眼部画像を加工した撮影画像を他の装置に送信する。このため、相手側(他の装置)では、自分(相手ユーザ)に視線を向けているユーザの画像が得られるため、ビデオチャット等を違和感なく自然に行うことができる。
この結果、ユーザの視線方向を適切に修正した画像を生成できる。
【0016】
画像加工部は、加工した当該眼部画像の瞳の一部に、更に輝点を合成してもよい。つまり、キャッチライト加工を更に行うことにより、ユーザの瞳を輝かせる。
この場合、キャッチライト加工により、ユーザの表情をより豊かに見せることができる。
【0017】
上記画像生成装置は、検出された当該顔画像から、当該人物の視線方向を算定する算定部を更に備え、
画像加工部は、算定された当該視線方向が所定範囲内である場合に、当該眼部画像における瞳の位置を加工してもよい。
つまり、ユーザの視線が大きく外れている場合では、眼部画像の瞳の位置を中央とする加工を行っても、不自然な顔画像となってしまう。そのため、視線が大きく外れている場な場合ではあえて加工を行わず、無理のない視線範囲に限り、眼部画像の瞳の位置を加工する。
この場合、不自然とならない範囲で、ユーザの視線方向を修正した画像を生成できる。
【0018】
本発明の第3の観点に係る画像加工方法は、顔検出部と、画像特定部と、画像加工部とを有する画像生成装置における画像加工方法であって、顔検出ステップ、画像特定ステップ、及び、画像加工ステップを備えて構成される。
【0019】
まず、顔検出ステップでは、例えば、カメラ等により撮影された撮影画像から人物の顔画像を検出する。また、画像特定ステップでは、検出された当該顔画像から眼部画像(例えば、皮膚に隠れた部分も含めた略円形の眼部画像)を特定する。そして、画像加工ステップでは、特定された当該眼部画像における瞳の位置を、例えば、眼部画像の中央となるように加工する。
【0020】
すなわち、本願発明では、撮影画像から人物の顔画像(ユーザの顔画像)を検出し、その顔画像から眼部画像を特定する。そして、特定した眼部画像の瞳の位置を、例えば、眼部画像の中央となるように加工する。つまり、ユーザがこちら(カメラ)に視線を向けているように、眼部画像を加工する。
この結果、ユーザの視線方向を適切に修正した画像を生成できる。
【0021】
本発明の第4の観点に係るプログラムは、コンピュータ(電子機器を含む。)を、上記の画像生成装置として機能させるように構成する。
【0022】
このプログラムは、コンパクトディスク、フレキシブルディスク、ハードディスク、光磁気ディスク、ディジタルビデオディスク、磁気テープ、半導体メモリ等のコンピュータ読取可能な情報記録媒体に記録することができる。
【0023】
上記プログラムは、当該プログラムが実行されるコンピュータとは独立して、コンピュータ通信網を介して配布・販売することができる。また、上記情報記録媒体は、当該コンピュータとは独立して配布・販売することができる。
【発明の効果】
【0024】
本発明によれば、ユーザの視線方向を適切に修正した画像を生成できる。
【図面の簡単な説明】
【0025】
【図1】本実施形態に係るゲーム装置の外観を示す模式図である。
【図2】本実施形態に係るゲーム装置の概要構成を示すブロック図である。
【図3】本実施形態に係る画像生成装置の構成を示すブロック図である。
【図4】(a),(b)共に、人物(ユーザ)を検出する様子を説明するための模式図である。
【図5】(a)〜(e)全て、上目遣い気味の眼部画像を特定する様子を説明するための模式図である。
【図6】(a)〜(d)全て、伏し目がちの眼部画像を特定する様子を説明するための模式図である。
【図7】(a)〜(f)全て、眼部画像における瞳の位置を加工する様子を説明するための模式図である。
【図8】(a),(b)が、キャッチライト加工の一例を示す模式図であり、(c)が、加工後の顔画像(眼部画像)の一例を示す模式図である。
【図9】(a),(b)共に、表示部に表示されるビデオチャット画面の一例を示す模式図である。
【図10】本実施形態に係る画像加工処理を説明するためのフローチャートである。
【図11】他の実施形態に係る画像生成装置の構成を示すブロック図である。
【図12】(a)〜(e)全て、ユーザの視線方向を算定する様子を説明するための模式図である。
【発明を実施するための形態】
【0026】
以下に本発明の実施形態を説明する。以下では、理解を容易にするため、携帯型ゲーム機(ゲーム装置)に本発明が適用される実施形態を説明するが、各種のコンピュータ、PDA、携帯電話などの情報処理装置においても同様に本発明を適用することができる。すなわち、以下に記載する実施形態は説明のためのものであり、本願発明の範囲を制限するものではない。したがって、当業者であればこれらの各要素または全要素をこれと均等なものに置換した実施形態を採用することが可能であるが、これらの実施形態も本発明の範囲に含まれる。
【0027】
(実施形態1)
図1は、本発明の実施の形態に係る画像生成装置が実現される典型的なゲーム装置の外観を示す模式図である。このゲーム装置1は、一例として、携帯型のゲーム機器であって、第1の表示部18と、第2の表示部19とを有しており、それらの間に、カメラ21が配置されている。また、第2の表示部19の前面にはタッチパネル20が配置されている。
【0028】
図2は、このゲーム装置1の概要構成を示す模式図である。以下、本図を参照してゲーム装置1について説明する。
【0029】
ゲーム装置1は、処理制御部10と、コネクタ11と、カートリッジ12と、無線通信部13と、通信コントローラ14と、サウンドアンプ15と、スピーカ16と、操作キー17と、第1の表示部18と、第2の表示部19と、タッチパネル20と、カメラ21とを備える。
【0030】
処理制御部10は、CPU(Central Processing Unit)コア10aと、画像処理部10bと、DMA(Direct Memory Access)コントローラ10cと、VRAM(Video Random Access Memory)10dと、WRAM(Work RAM)10eと、LCD(Liquid Crystal Display)コントローラ10fと、タッチパネルコントローラ10gとを備える。
【0031】
CPUコア10aは、ゲーム装置1全体の動作を制御し、各構成要素と接続され制御信号やデータをやりとりする。具体的には、カートリッジ12がコネクタ11に装着された状態で、カートリッジ12内のROM(Read Only Memory)12aに記憶されたプログラムやデータを読み出して、所定の処理を実行する。
【0032】
画像処理部10bは、カートリッジ12内のROM 12aから読み出されたデータや、CPUコア10aにて処理されたデータを加工処理した後、これをVRAM 10dに格納する。例えば、WRAM 10eに記憶された画像を加工して、VRAM 10dに格納する。
【0033】
DMAコントローラ10cは、カメラ21によって撮影された撮影画像をWRAM 10e等に転送する。
【0034】
VRAM 10dは、表示用の情報を記憶するメモリであり、画像処理部10b等により加工された画像情報を記憶する。
WRAM 10eは、CPUコア10aがプログラムに従った各種処理を実行する際に必要となるワークデータ等を記憶する。
また、WRAM 10eは、DMAコントローラ10cから転送された画像を一時的に記憶する。
【0035】
LCDコントローラ10fは、第1の表示部18および、第2の表示部19を制御し、所定の表示用画像を表示させる。例えば、LCDコントローラ10fは、VRAM 10dに記憶された画像情報を、所定の同期タイミングで表示信号に変換し、第1の表示部18に出力する。また、LCDコントローラ10fは、同様に、第2の表示部19に所定の表示用画像を表示する。
【0036】
タッチパネルコントローラ10gは、タッチペンやプレイヤの指によって、タッチパネル20が押下されると、その座標(入力座標)を取得する。
【0037】
コネクタ11は、カートリッジ12と脱着自在に接続可能な端子であり、カートリッジ12が接続された際に、カートリッジ12との間で所定のデータを送受信する。
【0038】
カートリッジ12は、ROM 12aと、RAM(Random Access Memory)12bとを備える。
ROM 12aには、ゲームを実現するためのプログラムとゲームに付随する画像データや音声データ等が記録される。
RAM 12bには、ゲームの進行状況等を示す種々のデータが記憶される。
【0039】
無線通信部13は、他のゲーム装置1の無線通信部13との間で、無線通信を行うユニットであり、図示せぬアンテナ(内蔵アンテナ等)を介して所定のデータを送受信する。
なお、無線通信部13は、所定の無線アクセスポイントとの間で、無線通信を行うこともできる。また、無線通信部13には、固有のMAC(Media Access Control)アドレスが採番されている。
【0040】
通信コントローラ14は、無線通信部13を制御し、所定のプロトコルに沿って、処理制御部10と他のゲーム装置1の処理制御部10との間で行われる無線通信の仲立ちをする。
また、ゲーム装置1が、近傍の無線アクセスポイント等を介してインターネットに接続する際には、無線LANに準拠したプロトコルに沿って、処理制御部10と無線アクセスポイント等との間で行われる無線通信の仲立ちをする。
【0041】
サウンドアンプ15は、処理制御部10にて生成された音声信号を増幅し、スピーカ16に供給する。
スピーカ16は、例えば、ステレオスピーカ等からなり、サウンドアンプ15にて増幅された音声信号に従って、所定の楽曲音や効果音等を出力する。
【0042】
操作キー17は、ゲーム装置1に適宜配置された複数のキースイッチ等からなり、ユーザの操作に従って、所定の指示入力を受け付ける。
【0043】
第1の表示部18および、第2の表示部19は、LCD等からなり、LCDコントローラ10fに制御され、ゲーム画像等を適宜表示する。
【0044】
タッチパネル20は、第2の表示部19の前面に重畳して配置され、タッチペンやプレイヤの指による入力を検出する。
例えば、タッチパネル20は、抵抗膜方式のタッチセンサパネル等からなり、タッチペン等による押圧(押下)を検知し、その座標に応じた情報(信号等)を出力する。
【0045】
カメラ21は、一例として、単焦点のレンズ及び、所定画素数の撮像素子(CMOSやCCD等)を含んで構成される。そして、カメラ21は、第1の表示部18の正面方向を光軸として所定の撮影範囲の画像を撮影する。例えば、ビデオチャットを行うユーザ等の被写体を撮影する。
【0046】
このような構成において、ROM 12aにビデオチャット用のプログラムおよびデータが記録されたカートリッジ12が装着され、ゲーム装置1の電源が投入されると、当該プログラムが実行され、本実施形態に係る画像生成装置が実現される。
以下、このようなゲーム装置1によって実現される画像生成装置について説明する。
【0047】
(画像生成装置の概要)
図3は、本実施の形態に係る画像生成装置100の概要構成を示すブロック図である。この画像生成装置100は、一例として、所定のネットワークを介して接続された他の画像生成装置100との間で、ビデオチャットを行うために用いられる装置であり、上述した第1の表示部18等に、相手側のユーザ等の画像を表示しつつ、カメラ21で撮影した自分(ユーザ自身)の画像を送信可能な装置である。以下、このようなビデオチャットが行われる場合を一例として、本図を参照して画像生成装置100について説明する。
【0048】
図3に示すように、画像生成装置100は、撮影部110と、顔検出部120と、画像特定部130と、画像加工部140と、通信部150と、表示制御部160と、表示部170とを備える。
【0049】
まず、撮影部110は、所定の被写体を撮影した撮影画像を撮影する。例えば、ビデオチャットを行うユーザ(人物)を含む撮影画像を撮影する。
具体的に撮影部110は、ビデオチャットを行う際に、ユーザを含む画像を順次撮影し、撮影した撮影画像(一例として、動画)を、顔検出部120等に供給する。
なお、上述したカメラ21が、このような撮影部110として機能しうる。
【0050】
顔検出部120は、撮影部110によって撮影された撮影画像からユーザの顔画像を検出する。
例えば、顔検出部120は、顔認識によって、撮影画像に写っているユーザの顔画像を検出する。具体的に顔検出部120は、図4(a)に示すような撮影画像SGから、肌色の領域A1〜A4をサーチし、それらの領域内から人間の顔の特徴部位が抽出できるかどうかを判断する。この場合、図4(b)に示すように、領域A1内から、少なくとも、両眼、口を含む特徴部位が抽出でき、人間の顔面として認識できるため、顔検出部120は、ユーザの顔画像K1を検出する。
なお、このようなユーザ(人物)の顔画像を検出する手法は、一例であり、他の手法を用いてもよい。例えば、肌色領域をエッジ処理により輪郭を抽出し、所定形状(略楕円形状等)であるかどうかを判別して、ユーザの画像画像を検出してもよい。
そして、上述した処理制御部10のCPUコア10aや画像処理部10b等が、このような顔検出部120として機能しうる。
【0051】
図3に戻って、画像特定部130は、顔検出部120により検出されたユーザの顔画像から眼部画像を特定する。
例えば、画像特定部130は、検出された顔画像中の特徴点の位置関係等から、顔画像における眼部画像を特定する。
具体的に画像特定部130は、図5(a)に示すような顔画像KGから、両眼の眼部画像G1,G2を特定する。なお、この図5(a)の画像は、ユーザが第1の表示部18に注目している(視線を向けている)場合の一例である。つまり、図5(b)に示すように、ユーザYが第1の表示部18に視線L1を向けており、第1の表示部18の下枠に埋設されたカメラ21から光軸L2にて撮影した場合の一例である。
この場合、ユーザの眼部を円(より詳細には球)と仮定すると、図5(c)に示すように、視線L1と光軸L2とがずれており、眼部の中心CPよりも上部に瞳Hが位置するように撮影される。そのため、画像特定部130は、図5(a)等に示すような、少し上目遣い気味の眼部画像G1,G2を特定する。なお、より詳細に画像特定部130は、皮膚に隠れた部分も含めた略円形の眼部画像を特定する。一例として、図5(d)に示すような眼部画像G1,G2において、皮膚に隠れている点線部CRまでを、眼部を略円形であると仮定して特定する。つまり、画像特定部130は、両眼について、図5(e)に示すような、白目SRと瞳(つまり、黒目:虹彩と瞳孔)Hとが含まれる略円形の眼部画像GBを特定する。なお、瞳Hの一部が皮膚(まぶた等)に隠れていた場合には、瞳Hを略円形と仮定し、隠れていた部分を補完した眼部画像GBを特定する。
一方、図6(a)に示すように、ユーザYが第2の表示部19に視線L3を向けており、第2の表示部19の上枠(第1の表示部18の下枠)に埋設されたカメラ21から光軸L2にて撮影した場合では、図6(b)に示すように、視線L3と光軸L2とがずれており、眼部の中心CPよりも下部にに瞳Hが位置するように撮影される。そのため、画像特定部130は、図6(c)に示すような、少し伏し目がちの眼部画像G1,G2を特定する。この場合も、皮膚に隠れている点線部CRまでを、眼部を略円形であると仮定して特定するため、画像特定部130は、両眼について、図6(d)に示すような、白目SRと瞳H(一部が皮膚に隠れていた場合には、補完した瞳H)とが含まれる略円形の眼部画像GBを特定する。
なお、ユーザが表示部170(第1の表示部18若しくは、第2の表示部19)を見ている限り、顔の向きに拘わらず、瞳(瞳孔)が撮影されている。つまり、ユーザが顔を上げて(あごを突き出して)いたり、顔を俯いて(あごを引いて)いるような場合では、瞳の一部が皮膚(上下のまぶた等)に隠れることがあるものの、視線と光軸との関係は、図5(c)や図6(b)のような関係となる。そのため、画像特定部130は、図5(e)や図6(d)のような眼部画像GBを特定する。
そして、上述した処理制御部10のCPUコア10aや画像処理部10b等が、このような画像特定部130として機能しうる。
【0052】
図3に戻って、画像加工部140は、画像特定部130により特定された眼部画像における瞳の位置を加工する。
例えば、画像加工部140は、特定された各眼部画像における瞳の位置を、眼部画像の中央となるように加工する。具体的にユーザが第1の表示部18に注目している場合に、画像加工部140は、両眼について、図7(a)に示すような少し上目遣い気味の眼部画像GBの瞳Hを、図7(b)に示すように、眼部画像GBの中央、つまり、略円形の中央に移動させる加工を行う。また、ユーザが第2の表示部19に注目している場合に、画像加工部140は、両眼について、図7(c)に示すような少し伏し目がちの眼部画像GBの瞳Hを、図7(d)に示すように、眼部画像GBの中央に移動させる加工を行う。
なお、瞳の位置を眼部画像の中央に移動させる際に、画像加工部140は、瞳(虹彩)における瞳孔の位置も適宜移動させてもよい。つまり、図7(e)に示すように、瞳Hだけでなく、瞳孔Dも、眼部画像GBの中央に移動させる。そして、画像加工部140は、皮膚に隠れている部分を切り取り(取り除き)、図7(f)に示すような眼部画像G1,G2に戻す。
また、画像加工部140は、加工した瞳の一部に輝点(光輝点:ハイライト)を合成する。つまり、キャッチライト加工を行う。具体的には、図8(a)に示すように、所定の仮想光源からの光を反射した輝点KT1を生成し、眼部画像G1,G2における瞳H内の所定箇所(一例として、瞳孔の周縁等)に合成する。なお、合成する輝点の形状や大きさ、そして、合成位置等は任意である。例えば、図8(b)に示すような略三日月形状の輝点KT2を瞳H内に合成してもよい。
このような加工を、両眼について行うことにより、画像加工部140は、最終的に、図8(c)に示すようなユーザが撮影部110(カメラ21)に視線を向けている(カメラ目線の)顔画像KGを生成する。
なお、上述した処理制御部10のCPUコア10aや画像処理部10b等が、このような画像加工部140として機能しうる。
【0053】
図3に戻って、通信部150は、所定のネットワークを介して接続された他の画像生成装置100との間の通信を制御する。
具体的に、通信部150は、画像送信部151と画像受信部152とを含んで構成される。
画像送信部151は、画像加工部140により加工された顔画像(眼部画像)を含む撮影画像を、他の画像生成装置100に送信する。つまり、ユーザの顔画像における眼部画像を加工した撮影画像を、ビデオチャット相手の画像生成装置100に送信する。
一方、画像受信部152は、他の画像生成装置100から送信された画像を受信する。つまり、ビデオチャット相手の画像生成装置100でも、同様にこのような加工された顔画像(眼部画像)を含む撮影画像を受信する。
なお、上述した無線通信部13や通信コントローラ14等が、このような通信部150として機能しうる。
【0054】
表示制御部160は、画像受信部152によって受信された画像と、画像加工部140によってユーザ(自身)の顔画像(眼部画像)が加工された撮影画像とを合成したビデオチャット画面を表示部170に表示する。
例えば、表示制御部160は、画像受信部152が受信した画像をメインとし、その一部に、画像加工部140が顔画像を加工した撮影画像を適宜縮小して合成する。具体的に表示制御部160は、図9(a)に示すように、ビデオチャットの相手からの画像ATG1の右上に、縮小した撮影画像KSG1を合成したビデオチャット画面を生成する。
なお、表示制御部160の合成手法は、一例であり、他の手法により両画像を合成してもよい。例えば、図9(b)に示すように、ビデオチャットの相手からの画像ATG2と、中央をトリミングした加工撮影画像KSG2とを並べて合成してもよい。
そして、上述した処理制御部10のCPUコア10aや画像処理部10b等が、このような表示制御部160として機能しうる。
【0055】
表示部170は、表示制御部160により合成されたビデオチャット画面を表示する。つまり、上述した図9(a),(b)等に示すようなビデオチャット画面を表示する。
なお、上述した第1の表示部18や第2の表示部19が、このような表示部170として機能しうる。
【0056】
(画像生成装置の動作の概要)
以下、このような構成の画像生成装置100の動作について図面を参照して説明する。一例として、ビデオチャット時における処理動作を、図10を参照して説明する。図10は、画像生成装置100にて実行される画像加工処理の流れを示すフローチャートである。
【0057】
まず、画像生成装置100は、ユーザを含む撮影画像を撮影する(ステップS201)。
すなわち、撮影部110は、ビデオチャットを行うユーザを含む画像を順次撮影し、撮影した撮影画像(一例として、動画)を顔検出部120に供給する。
【0058】
画像生成装置100は、撮影された撮影画像からユーザ(人物)の顔画像を検出する(ステップS202)。
すなわち、顔検出部120は、顔認識によって、撮影画像に写っているユーザの顔画像を検出する。つまり、上述した図4(a),(b)に示すように、ユーザの顔画像を検出する。
【0059】
画像生成装置100は、検出されたユーザの顔画像から眼部画像を特定する(ステップS203)。
すなわち、画像特定部130は、検出された顔画像中の特徴点の位置関係等から、顔画像における眼部画像を特定する。すなわち、上述した図5(d),(e)や図6(c),(d)に示すように、検出された顔画像から眼部画像を特定する。
【0060】
画像生成装置100は、特定された眼部画像における瞳の位置等を加工する(ステップS204)。
例えば、画像加工部140は、上述した図7(a),(c)に示すような眼部画像GBの中心から外れいている瞳H(瞳孔D)の位置を、図7(e)に示すように、中心に移動させる加工を行う。また、画像加工部140は、上述した図8(a),(b)に示すように、加工した瞳の一部に輝点を合成する。
すなわち、画像加工部140は、このような加工を、両眼について行うことにより、最終的に、上述した図8(c)に示すようなユーザが撮影部110に視線を向けている顔画像KGを生成する。
【0061】
画像生成装置100は、顔画像(眼部画像)を加工した撮影画像を、他の画像生成装置100に送信し、また、他の画像生成装置100から送られる画像を受信する(ステップS205)。
すなわち、画像送信部151は、画像加工部140により加工された顔画像(眼部画像)を含む撮影画像を、ビデオチャット相手の画像生成装置100に送信する。一方、画像受信部152は、ビデオチャット相手の画像生成装置100から送信された画像を受信する。
【0062】
画像生成装置100は、受信した画像と、ユーザ(自身)の顔画像(眼部画像)が加工された撮影画像とを適宜合成して表示する(ステップS206)。
すなわち、表示制御部160は、画像受信部152によって受信された画像と、画像加工部140によって加工された自身の顔画像を含む撮影画像とを合成し、上述した図9(a),(b)に示すようなビデオチャット画面を表示部170に表示する。
【0063】
画像生成装置100は、ビデオチャットが終了したか否かを判別する(ステップS207)。
画像生成装置100は、ビデオチャットが終了していないと判別すると(ステップS207;No)、ステップS201に処理を戻し、上述したステップS201〜S207の処理を繰り返し実行する。
一方、ビデオチャットが終了したと判別した場合に(ステップS207;Yes)、画像生成装置100は、画像加工処理を終える。
【0064】
このような画像加工処理において、撮影画像から検出した人物(ユーザ)の顔画像から眼部画像が特定される。つまり、上述した図7(a)や図7(c)のように、視線のずれた(カメラ目線でない)眼部画像GBが特定される。
そして、画像生成装置100は、特定した眼部画像の瞳の位置等を、眼部画像の中央となるように加工し、更にキャッチライト加工を行う。つまり、上述した図7(e)に示すように瞳H等を眼部画像GBの中心に移動させ、また、図8(a)等に示すように、瞳Hの所定位置に輝点KT1等を合成する。
このように、略円形の眼部画像を特定し、その中の瞳を眼部画像の中心に移動させることで、ユーザの顔の向きや視線方向に拘わらず、ユーザの視線をカメラ目線とすることができる。
そして、画像生成装置100は、このように加工した眼部画像(顔画像)を含む撮影画像を他の装置に送信する。つまり、ユーザが撮影部110に視線を向けている(カメラ目線の)顔画像に加工した顔画像を含む撮影画像を他の装置に送信する。このため、相手側(他の装置)では、自分(相手ユーザ)に視線を向けているユーザの画像が得られるため、ビデオチャット等を違和感なく自然に行うことができる。
この結果、ユーザの視線方向を適切に修正した画像を生成できる。
【0065】
(他の実施形態)
上記の実施形態では、ユーザの顔画像(眼部画像)における瞳の位置を、無条件で眼部画像の中央となるように加工したが、ユーザの視線方向によっては、不都合が生じる場合がある。例えば、ユーザの視線が表示部170から大きく外れている場合(よそ見をしている場合等)では、眼部画像の瞳の位置を中央とする加工をおこなうと、不自然な顔画像となってしまう。そのため、ユーザの視線方向を算定し、無理のない視線範囲内に限り、眼部画像の瞳の位置を加工するようにしてもよい。
以下、このように、ユーザの視線方向を確認した上で、眼部画像の瞳の位置を加工することを特徴とする他の実施形態について、図面を参照して説明する。
【0066】
図11は、本発明の他の実施形態に係る画像生成装置300の概要構成を示すブロック図である。この表示生成装置300は、上述した図3の画像生成装置100に、算定部310を加えた構成となっている。
つまり、撮影部110〜表示部170の構成は、図3の画像生成装置100と同様である。
【0067】
算定部310は、顔検出部120により検出された顔画像から、ユーザの視線方向を算定する。例えば、算定部310は、以下の算定手法により、ユーザの視線方向を算定する。
算定部310は、人間が正面を向いた場合における特徴部位の位置関係を示す形状を予め記憶しておく。具体的に算定部310は、図12(a)に示すように、一例として、標準的な人物の顔を、一定距離を離れて正面から撮影した画像における、両眼と口とを直線で結んだ平面(具体的には三角形)の基準形状SFを予め記憶しておく。なお、この基準形状SFは、実際のユーザを正面から一定距離を隔てて撮影した画像から得たものであってもよい。
この基準形状SFを予め記憶した状態で、図12(b)に示すように、検出されたユーザの顔画像KGにおける両眼と口とを直線で結んだ平面の形状Fを得ると、この形状Fと基準形状SFとを比較することにより、算定部310は、観察者の視線方向を算定する。
例えば、図12(c)のように、得られた形状F1が基準形状SFと相似形である場合に、算定部310は、真正面となる視線方向GL1を算定する。一方、図12(d)のように、得られた形状F2が、基準形状SFと相似形でない場合に、算定部310は、形状F2における各点の位置関係や各辺の長さから、形状F2の歪み(基準形状SFを基準とした歪み)を求める。そして、その歪みに基づいて、斜め方向となる視線方向GL2を算定する。つまり、図12(e)に示すような大きく視線を外しているユーザの視線方向も算定できる。
なお、このようなユーザの視線方向を算定する手法は、一例であり、他の手法を用いてもよい。例えば、算定部310は、よりシンプルに、両眼の位置関係に基づいて、ユーザの視線方向を簡易に算定してもよい。
算定部310は、このようにして算定したユーザの視線方向を、画像加工部140に供給する。
そして、上述した処理制御部10のCPUコア10aや画像処理部10b等が、このような算定部310として機能しうる。
【0068】
図11に戻って、このような算定部310により、ユーザの視線方向が算定されると、画像加工部140は、算定された視線方向が所定範囲内(一例として、撮影部110の光軸とのずれが比較的少ないとされる範囲内)である場合に限り、眼部画像の瞳の位置を加工する。
つまり、算定された視線方向が所定範囲を超えており、ユーザの視線が大きく外れている場合では、画像加工部140は、あえて眼部画像の瞳の位置を中央とする加工を行わずに、瞳の一部に輝点を合成する加工にとどめる。
すなわち、画像加工部140は、ユーザの視線方向を確認した上で、無理のない視線範囲に限り、眼部画像の瞳の位置を加工する。
【0069】
このため、図11に示す画像生成装置300では、不自然とならない範囲で、ユーザの視線方向を修正した画像を生成できる。
【0070】
上記の実施形態では、携帯型のゲーム装置1に、本願の画像生成装置100,300が適用される場合について説明したが、このような携帯型のゲーム装置1に限られず、例えば、ノート型のパソコン等であってもよい。
【産業上の利用可能性】
【0071】
以上説明したように、本発明によれば、ユーザの視線方向を適切に修正した画像を生成できる画像生成装置、画像加工方法、および、プログラムを提供することができる。
【符号の説明】
【0072】
1 ゲーム装置
10 処理制御部
11 コネクタ
12 カートリッジ
13 無線通信部
14 通信コントローラ
15 サウンドアンプ
16 スピーカ
17 操作キー
18 第1の表示部
19 第2の表示部
20 タッチパネル
21 カメラ
100,300 画像生成装置
110 撮影部
120 顔検出部
130 画像特定部
140 画像加工部
150 通信部
160 表示制御部
170 表示部
310 算定部

【特許請求の範囲】
【請求項1】
撮影画像から人物の顔画像を検出する顔検出部と、
検出された当該顔画像から眼部画像を特定する画像特定部と、
特定された当該眼部画像における瞳の位置を加工する画像加工部と、を備える、
ことを特徴とする画像生成装置。
【請求項2】
人物を含む撮影画像を撮影する撮影部と、
撮影された当該撮影画像から、顔認識により当該人物の顔画像を検出する顔検出部と、
検出された当該顔画像から眼部画像を特定する画像特定部と、
特定された当該眼部画像における瞳の位置を、当該眼部画像の中央となるように加工する画像加工部と、
当該眼部画像が加工された顔画像を含む撮影画像を、他の装置に送信する画像送信部と、を備える、
ことを特徴とする画像生成装置。
【請求項3】
請求項1又は2に記載の画像生成装置であって、
前記画像加工部は、加工した当該眼部画像の瞳の一部に、更に輝点を合成する、
ことを特徴とする画像生成装置。
【請求項4】
請求項1乃至3の何れか1項に記載の画像生成装置であって、
検出された当該顔画像から、当該人物の視線方向を算定する算定部を更に備え、
前記画像加工部は、算定された当該視線方向が所定範囲内である場合に、当該眼部画像における瞳の位置を加工する、
ことを特徴とする画像生成装置。
【請求項5】
顔検出部と、画像特定部と、画像加工部とを有する画像生成装置における画像加工方法であって、
前記顔検出部が、撮影画像から人物の顔画像を検出する顔検出ステップと、
前記画像特定部が、検出された当該顔画像から眼部画像を特定する画像特定ステップと、
前記画像加工部が、特定された当該眼部画像における瞳の位置を加工する画像加工ステップと、を備える、
ことを特徴とする画像加工方法。
【請求項6】
コンピュータを、
撮影画像から人物の顔画像を検出する顔検出部、
検出された当該顔画像から眼部画像を特定する画像特定部、
特定された当該眼部画像における瞳の位置を加工する画像加工部、
として機能させることを特徴とするプログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate


【公開番号】特開2011−204182(P2011−204182A)
【公開日】平成23年10月13日(2011.10.13)
【国際特許分類】
【出願番号】特願2010−73388(P2010−73388)
【出願日】平成22年3月26日(2010.3.26)
【出願人】(506113602)株式会社コナミデジタルエンタテインメント (1,441)
【Fターム(参考)】