説明

画像表示装置、及び、プログラム

【課題】 ユーザの感情の変化に合わせて臨機応変に表示する画像を切り替えることのできる画像表示装置及びプログラムを提供する。
【解決手段】 複数の画像の中から予め定められた時間間隔毎に選択した画像を切り替えて表示部に表示させる画像表示装置において、表示部に表示された画像を閲覧する閲覧者の顔位置を含む範囲を撮影する撮影手段と、撮影手段による閲覧者の撮影データに基づいて閲覧者の顔の表情を認識する表情認識手段と、表情認識手段による認識結果に基づいて表示部に表示されている画像に対する閲覧者の好感度を示す好感度指標を設定する設定手段と、設定手段により設定された好感度指標を画像と関連付けて記憶する好感度記憶手段と、好感度記憶手段に記憶された好感度指標に基づいて表示部に表示させる画像を選択する制御手段と、を備えている。

【発明の詳細な説明】
【技術分野】
【0001】
この発明は、デジタル画像を順番に切り替えて表示する画像表示装置、及び、プログラムに関する。
【背景技術】
【0002】
デジタル画像を順次切り替えて表示させるデジタルフォトフレーム(デジタル写真立て)がある。このデジタルフォトフレームでは、複数の画像データをメモリや記憶装置に入力すると、所定の間隔で順番に、又は、ランダムにこれらの画像をデジタルフォトフレームのディスプレイ上に表示させることができる。
【0003】
しかしながら、ランダムに、或いは、所定の順番で画像を表示させると、ユーザが見たい写真が見たいタイミングで表示されるとは限らない。むしろ、ユーザの気分にそぐわない写真が表示された結果、ユーザの感情を損ねる場合があるという問題がある。
【0004】
従来、複数の画像データを視聴者に合わせて切り替える技術として、店舗や公共の場所で用いられる電子看板がある(例えば、特許文献1)。この電子看板のシステムでは、カメラを搭載し、ディスプレイを視聴している人の顔を撮影して性別や年齢を判定することで、判定されたカテゴリを対象とする商品の広告映像をこのディスプレイに表示したり、広告映像の表示中に視聴者が退屈な表情をした場合には、他の画像に切り替えたりする技術が開示されている。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2005−267611号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、従来の画像選択方法は、年齢や性別において同一カテゴリに属する不特定多数の人々の平均的な嗜好に合わせて切り替えるものであり、従って、デジタルフォトフレームのように限られたユーザが繰り返し閲覧する場合において、ユーザ各々の感情の変化に合わせて臨機応変に切り替えることができないという課題があった。
【0007】
この発明の目的は、ユーザの感情の変化に合わせて臨機応変に表示する画像を切り替えることのできる画像表示装置及びプログラムを提供することにある。
【課題を解決するための手段】
【0008】
上記目的を達成するため、請求項1に記載の発明は、
複数の画像の中から予め定められた時間間隔毎に選択した画像を切り替えて表示部に表示させる画像表示装置において、
前記表示部に表示された画像を閲覧する閲覧者の顔位置を含む範囲を撮影する撮影手段と、
前記撮影手段による閲覧者の撮影データに基づいて当該閲覧者の顔の表情を認識する表情認識手段と、
前記表情認識手段による認識結果に基づいて前記表示部に表示されている画像に対する閲覧者の好感度を示す好感度指標を設定する設定手段と、
前記設定手段により設定された前記好感度指標を当該画像と関連付けて記憶する好感度記憶手段と、
前記好感度記憶手段に記憶された前記好感度指標に基づいて前記表示部に表示させる画像を選択する制御手段と、
を備えている。
【0009】
請求項2記載の発明は、請求項1記載の画像表示装置において、
前記設定手段は、前記表示部に表示される画像の切り替え前に表示されていた画像に対する前記好感度指標と、前記表示部に表示される画像の切り替え前後で前記表情認識手段により認識された表情変化の方向とに基づいて、当該切り替え後に表示された画像に対する前記好感度指標を設定する
ことを特徴としている。
【0010】
請求項3記載の発明は、請求項2記載の画像表示装置において、
前記設定手段は、前記表示部に表示される画像の切り替え前に表示されていた画像に対する前記好感度指標と、前記表示部に表示される画像の切り替え前後で前記表情認識手段により認識された表情変化の度合いとに基づいて、当該切り替え後の表示画像に対する前記好感度指標を設定する
ことを特徴としている。
【0011】
請求項4記載の発明は、請求項1記載の画像表示装置において、
前記設定手段は、前記表示部に表示される画像の切り替え前後で前記表情認識手段により認識された表情変化の度合いと、当該切り替え前後の画像に対する前記好感度指標の差との比較結果に基づいて、前記切り替え後の表示画像に対する前記好感度指標を変化させる
ことを特徴としている。
【0012】
請求項5記載の発明は、請求項1記載の画像表示装置において、
前記設定手段は、前記表示部に表示される画像の切り替え前後で前記表情認識手段により認識された表情変化の方向に基づいて、当該切り替え後の表示画像に対する前記好感度指標を変化させる
ことを特徴としている。
【0013】
請求項6記載の発明は、請求項1〜5の何れか一項に記載の画像表示装置において、
前記制御手段は、一の画像に関連付けられた前記好感度指標が示す好感度が予め定められたレベルより低い場合には、当該画像を前記表示部に表示させる画像として選択しない
ことを特徴としている。
【0014】
請求項7記載の発明は、請求項1〜5の何れか一項に記載の画像表示装置において、
前記制御手段は、前記表情認識手段により最初に認識された表情の種別に基づいて前記好感度指標の選択範囲を設定し、当該選択範囲内の好感度指標に関連付けられている画像を前記表示部に表示させる画像として選択する
ことを特徴としている。
【0015】
請求項8記載の発明は、請求項7記載の画像表示装置において、
前記制御手段は、前記表情認識手段により認識された表情の累積的な変化に基づいて、前記好感度指標の前記選択範囲を変更する
ことを特徴としている。
【0016】
請求項9記載の発明は、請求項1〜8の何れか一項に記載の画像表示装置において、
登録されている閲覧者の顔を識別する際に用いられる情報を記憶する閲覧者情報記憶手段と、
前記撮影手段による閲覧者の撮影データと、前記閲覧者情報記憶手段に記憶された情報とに基づいて、当該閲覧者を識別する閲覧者識別手段と、
を備え、
前記設定手段は、前記表情認識手段による認識結果に基づいて、前記表示部に表示されている画像に対する前記好感度指標を前記閲覧者識別手段により識別された閲覧者毎に設定し、
前記好感度記憶手段は、前記設定手段により設定された前記好感度指標を当該画像の画像データと関連付けて、前記閲覧者識別手段により識別された閲覧者毎に記憶する
ことを特徴としている。
【0017】
請求項10記載の発明は、
画像を表示する表示部と、当該表示部に表示された画像を閲覧する閲覧者の顔位置を撮影する撮影手段と、を備え、複数の画像の中から予め定められた時間間隔毎に選択した画像を切り替えて前記表示部に表示させる画像表示装置に用いられるコンピュータを、
前記撮影手段による閲覧者の撮影データに基づいて当該閲覧者の顔の表情を認識する表情認識手段と、
前記表情認識手段による認識結果に基づいて前記表示部に表示されている画像に対する閲覧者の好感度を示す好感度指標を設定する設定手段と、
前記設定手段により設定された前記好感度指標を当該画像と関連付けて記憶する好感度記憶手段と、
前記好感度記憶手段に記憶された前記好感度指標に基づいて前記表示部に表示させる画像を選択する制御手段と、
として機能させるためのプログラムである。
【発明の効果】
【0018】
本発明に従うと、複数の画像の中から予め定められた時間間隔毎に選択した画像を切り替えて表示部に表示させる画像表示装置およびプログラムにおいて、撮影手段により表示部の閲覧者を撮影し、表情認識手段により認識されたこの閲覧者の顔の表情に基づいて前記表示部に表示されている画像に対する好感度指標を設定する設定手段と、前記好感度指標に基づいて表示部に表示させる画像を選択する制御手段と、を備えているので、ユーザの感情の変化に合わせて臨機応変に表示する画像を切り替えることができるという効果がある。
【図面の簡単な説明】
【0019】
【図1】本発明の実施形態としてのデジタルフォトフレームの外観図である。
【図2】デジタルフォトフレームの内部構成を示すブロック図である。
【図3】不揮発性メモリに記憶させた各画像の好感度パラメータについて説明する図である。
【図4】画像表示装置の表示部に画像を順次表示する際に実行される表示制御処理の手順を示すフローチャートである。
【図5】表示制御処理の中で呼び出されて実行される画像選定処理の手順を示すフローチャートである。
【図6】表示制御処理の中で呼び出されて実行される好感度設定処理の手順の例を示すフローチャートである。
【図7】第2実施形態において不揮発性メモリに記憶させた各画像の好感度パラメータについて説明する図である。
【図8】第2実施形態における表示制御処理の手順を示すフローチャートである。
【発明を実施するための形態】
【0020】
以下、本発明の実施の形態を図面に基づいて説明する。
【0021】
[第1実施形態]
図1は、第1実施形態の画像表示装置としてのデジタルフォトフレームの外観図である。
【0022】
このデジタルフォトフレーム1(以下、DPF1と記す)は、図1(a)の正面付近から見た図に示されているように、前面には、表示部2と、表示部2の側面を囲むフレーム3と、フレーム3の前面上側に設けられた撮影手段としてのカメラ6などが備えられている。また、図1(b)の側面やや後方から見た図に示されているように、フレーム3の背面には、箱体4がフレーム3と接して備えられ、この箱体4の側面には、操作ボタン8a〜8dを備えた操作部8と、リムーバブルメディアMを挿入するメディア挿入部9と、電源入力端子11と、外部のネットワークと接続するためのネットワーク接続端子10などが備えられている。また、箱体4の後面には、脚部5と、スピーカ7などが備えられている。
【0023】
表示部2は、例えば、光沢液晶パネルを用いた液晶ディスプレイである。或いは、有機EL(Electro-Luminescent)ディスプレイなどの他の表示方式のものであっても良い。
【0024】
カメラ6は、DPF1の正面から表示部2に表示される画像を閲覧するユーザを連続的に撮影するためのものであり、ユーザの一般的な閲覧時の顔位置に対応させて、表示部2正面の角度α、および、距離L〜Lに亘って撮影可能となっている。
【0025】
スピーカ7は、それぞれ箱体4の背面側に左右に分かれて設けられて、ステレオ音声を出力する左スピーカ7aと右スピーカ7bとにより構成されている。或いは、1個のスピーカを備えてモノラル音声のみを出力可能としても良い。このスピーカ7からは、操作部8からの操作指令により、例えば、ユーザをリラックスさせるために予め設定されたBGMを流したり、ユーザが記憶部に記憶させた音楽を流したりすることが可能となっている。或いは、カメラ6により撮影されたユーザの表情が特に険しい場合などには、自動的にユーザをリラックスさせるためのBGMを流すように構成することとしても良い。
【0026】
操作部8に設けられた操作ボタン8a〜8dは、例えば、それぞれ、電源スイッチ、メニュースイッチ、及び、次の画像に切り替えたり、一つ前の画像を再表示させたりするスイッチである。その他、スピーカ7の音量を調整するスイッチや入力切替スイッチなどを独立に備えることとしても良い。
【0027】
メディア挿入部9は、例えば、SDメモリカードを挿入するためのスロットである。或いは、miniSDカード、microSDカード、MMC(マルチメディアカード)、および、USBフラッシュメモリといった各種のリムーバブルメディアを着脱可能な構成とすることができる。また、ネットワーク接続端子10は、例えば、100Base‐TXなどのLANケーブルが接続可能な端子である。
【0028】
図2は、DPF1の内部構成を示すブロック図である。
【0029】
DPF1の箱体4の内部には、DPF1の動作全体に係る制御統括を行う制御部16と、電源部14と、記憶部15と、メディアI/F部12と、入出力制御部13などが備えられている。また、制御部16には、表示部2と、カメラ6と、スピーカ7と、操作部8とが更に接続されている。
【0030】
電源部14は、電源入力端子11に電源ケーブルを介して接続された外部電源から送られる電力に基づいて、制御部16の他、DPF1の各部に必要な電力を供給する。また、この電源部14は、例えば、外部から送られる電力が一時的に途切れた際に、電力を独自に供給可能な蓄電池を備えることとしても良い。
【0031】
記憶部15は、表示部2に表示させる画像データや、スピーカ7から出力する音声データを格納する記憶装置である。この記憶部15は、例えば、フラッシュメモリ、SSD(Solid State Drive)といった不揮発性メモリや、HDD(Hard Disk Drive)である。画像データは、静止画像データ(例えば、JPEG)だけではなく、動画(例えば、MPEG)を含むこととしても良い。
【0032】
或いは、表示画像や音声は、リムーバブルメディアMや外部ネットワークから取得することも可能である。メディアI/F部12は、メディア挿入部9に挿入されたリムーバブルメディアMと制御部16とを接続するインターフェイスである。また、入出力制御部13は、ネットワーク接続端子10に接続されたLANケーブルを介して外部ネットワークとの間でやり取りされる情報の入出力を制御する。この入出力制御部13は、ワイヤレスLAN、ブルートゥース(Bluetooth:登録商標)といった無線通信を利用して行う情報の入出力制御もできるように構成しても良い。
【0033】
制御部16には、制御処理や演算を実行するCPU(Central Processing Unit)161(表情認識手段、設定手段、制御手段、閲覧者識別手段)に加えて、RAM(Random Access Memory)162、ROM(Read Only Memory)163、および、EEPROM(Electrically Erasable and Programmable Read Only Memory)164(好感度記憶手段、閲覧者情報記憶手段)などが備えられている。
【0034】
RAM162は、CPU161に作業用メモリ空間を提供し、また、一時データを記憶する。ROM163には、CPU161が実行する種々の制御用のプログラム161aや初期設定データが格納されている。EEPROM164は、CPU161が実行する表示制御プログラムにおいて設定される各画像の好感度パラメータが配列された好感度テーブルを保存している。この好感度テーブルは、必要に応じて上書き更新される。
【0035】
図3には、EEPROM164に保存された好感度テーブルの例を示す。
【0036】
この好感度テーブル164aには、記憶部15やメディア挿入部9に挿入された状態のリムーバブルメディアMに記憶されて、或いは、外部ネットワークから取得可能な画像としてリスト化され、表示部2に表示可能な各画像データのIDと、これらの画像に対する閲覧者の好感度パラメータとが関連付けて記憶されている。この画像IDとしては、DPF1で独自の番号を振ってもよいし、画像ファイル名をそのまま利用しても良い。好感度パラメータは、本実施形態のDPF1では、1〜10の整数で示されている。或いは、−5〜+5のように正負の値を用いても良いし、ステップ数は任意に設定可能である。また、新規に追加された画像データでまだ一度もユーザによって閲覧されていないものの好感度パラメータは、例えば、一括して“5”としても良いし、或いは、暖色系の画像では“6”、寒色系の画像では“5”に分類して設定しても良い。
【0037】
また、この制御部16では、記憶部15などに記憶されたデジタルデータのうち、符号化された動画データや音声データ(例えば、MP3)を表示部2やスピーカ7から出力可能なデータ信号へデコードすることが可能である。
【0038】
次に、第1実施形態のDPF1における画像の表示制御動作について説明する。
【0039】
図4は、第1実施形態のDPF1において、制御部16のCPU161が実行する表示制御処理の手順を示したフローチャートである。
【0040】
この表示制御処理は、例えば、ユーザがDPF1の電源をオンすることで自動的に開始される処理である。表示制御処理が開始されると、先ず、CPU161は、カメラ6に信号を送ってカメラ撮影動作を開始させる(ステップS101)。
【0041】
CPU161は、カメラ6の撮影データに基づいてユーザの表情の認識処理を行い、表示制御処理の開始時における初期表情の判別を行う(ステップS104)。この表情の認識手法としては、従来知られている任意の手法を用いることができる。例えば、FACS(Facial Action Coding System)を利用し、表示画像を切り替えてから所定の時間経過したタイミングで撮影された画像データに基づいて表情の基本動作単位であるAU(Action Unit)を検出して、この検出されたAUの組み合わせにより喜怒哀楽や嫌悪などの各表情に分類する。また、表示画像を切り替える前後に亘るカメラの動画撮影データに基づいて、感情の変化に伴う表情の動的変化や視線の変化を、例えば、表情譜を併用して認識することで、画像の閲覧による自発的な微笑みと外的な要因による笑顔とを分類するといったより詳細な感情およびその変化の方向や度合いを識別することとしても良い。また、舌打ちや嫌悪感を示す言葉といった特定のキーワードに対し、動画データに基づいて読唇することにより感情変化を読み取ることができるように構成しても良い。
【0042】
次に、CPU161は、判別された初期表情に基づいて、後述する画像選定処理を実行する(ステップS105)。CPU161は、この画像選定処理で選定された画像を表示部2に表示させる(ステップS106)。このとき、前の表示画像から新たに選定された画像へと表示を切り替える際には、CPU161は、前の画像を表示し始めてから予め定められた時間が経過した後に画像の切り替えを行う。
【0043】
続いて、CPU161は、カメラ6の撮影データに基づいて、画像データの切り替え前後におけるユーザの表情の変化を認識する。そして、CPU161は、ユーザの表情がどの程度ポジティブな方向に変化したかを示す表情の変化量を数値化する(ステップS107)。この処理では、CPU161は、上記のFACSなどを用いて行う表情の識別処理において、特に、楽しい、嬉しい、幸せ、穏やか、および、和やかといった肯定的な感情を示す表情の度合いを数値化する。この数値(表情パラメータ)は、特に制限されないが、例えば、各画像に対する好感度パラメータのステップ数やステップ間隔の設定基準と同等に設定することができる。そして、前回の表示画像に対するユーザの表情パラメータと、現在の表示画像に対するユーザの表情パラメータとの差分値を表情の変化量として取得する。
【0044】
そして、取得された表情の変化量の値に基づいて、CPU161は、後述する好感度設定処理を行い、表示されている画像に対するユーザの好感度パラメータの値を設定する(ステップS108)。CPU161は、EEPROM164に記憶されている元の好感度パラメータの値をこの新たに設定された好感度パラメータの値で上書き更新する(ステップS109)。
【0045】
CPU161は、所定時間の経過後にステップS105の処理へ戻って、ステップS105〜S109の処理を繰り返す。この表示制御処理は、例えば、ユーザが電源スイッチを押下したり終了タイマーを設定したりして電源をオフするか、メニュースイッチを押下して他のコマンドを実行する場合に終了される。
【0046】
次に、上記の表示制御処理で呼び出された画像選定処理について説明する。
【0047】
図5は、画像選定処理の制御手順を示したフローチャートである。
【0048】
画像選定処理が呼び出されると、CPU161は、初期表情のデータを取得し、何れの種類の表情であるかを判別する。初期表情が楽しい表情であったと判別された場合には(ステップS201で“YES”)、CPU161は、先ず、最初の選択対象画像の初期好感度パラメータを“9”に設定する(ステップS202)。それから、ユーザの気分を良い状態で保つように、CPU161は、次回、表示部2に表示させる画像として好感度パラメータ“5”〜“10”の範囲から、特に、好感度パラメータ“9”の画像が優先的に選択されるような重み付けを各好感度パラメータに設定して、画像を選択する(ステップS203)。そして、CPU161の処理は、1回画像が選択される毎に、表示制御処理へ戻る。
【0049】
初期表情が怒った表情であったと判別された場合には(ステップS201で“NO”、ステップS211で“YES”)、CPU161は、先ず、最初の選択対象画像の初期好感度パラメータを“5”または“6”に設定する(ステップS212)。それから、CPU161は、2度目以降の選択対象とする画像の好感度パラメータの範囲をやや狭く設定して(例えば、初期段階で好感度パラメータ“5”〜“7”)、毎回好感度パラメータを上下させながら画像を選択する(ステップS213)。また、CPU161は、ユーザの表情の変化を確認しながら表情パラメータの上昇に合わせて選択対象とする画像の好感度パラメータの範囲を徐々に上昇させていく。そして、CPU161の処理は、1回画像が選択される毎に、表示制御処理へ戻る。
【0050】
初期表情が哀しい表情であったと判別された場合には(ステップS201、S211で“NO”、ステップS221で“YES”)、CPU161は、先ず、最初の選択対象画像の初期好感度パラメータを“6”または“7”に設定する(ステップS222)。それから、CPU161は、ユーザの表情の変化を毎回確認しながら表情パラメータに合う好感度パラメータの画像を優先的に選択する。また、CPU161は、表情パラメータの上昇に合わせて選択対象とする画像の好感度パラメータの範囲を少しずつゆっくりと上昇させていく(ステップS223)。そして、CPU161の処理は、1回画像が選択される毎に、表示制御処理へ戻る。
【0051】
初期表情が上記のいずれでもないと判別された場合、例えば、その他、特別な感情表現の出ていない普通の表情、或いは、無表情であった場合には(ステップS201、S211、S221で“NO”)、CPU161は、先ず、最初の選択対象画像の初期好感度パラメータを“7”に設定する(ステップS232)。それから、ユーザの気分を向上させるように、CPU161は、次回の表示画像として、好感度パラメータ“7”を中心に好感度パラメータが“5”〜“9”の範囲から画像が選択されるような重み付けを各好感度パラメータに対して行った上で、画像を選択する。また、CPU161は、画像選定処理が呼び出される回数が増えるに従って徐々に好感度パラメータの大きい画像が優先的に選択されるようにこの重みを変更していく(ステップS233)。そして、CPU161の処理は、1回画像が選択される毎に、表示制御処理へ戻る。
【0052】
なお、上記の画像選定処理は、表示制御処理の開始時に判別された初期表情に基づいて継続的に繰り返し実行されるが、例えば、中途で初期表情から大きく表情が変化した場合には、改めて初期表情を設定しなおしても良いし、或いは、初期表情のデータは、判別内容に拠らず所定の時間有効としても良い。
【0053】
次に、表示制御処理の中で呼び出されて実行される好感度設定処理について説明する。
【0054】
図6は、好感度設定処理の種々の例を示すフローチャートである。
【0055】
図6(a)は、好感度設定処理の例その1である。この好感度設定処理が呼び出されると、CPU161は、現在表示されている画像の好感度パラメータとして、表情の変化量の値を前回表示した画像の好感度パラメータに加算した値に設定し、好感度テーブル164aのデータを更新する。そして、表示制御処理に戻る。
【0056】
図6(b)は、好感度設定処理の例その2である。この好感度設定処理が呼び出されると、CPU161は、先ず、現在の表示画像への切り替えの前後における表情変化量の値が正であるか否かを判別する(ステップS311)。表情変化量が正であると判別され、即ち、ユーザの気分が改善されたと判断された場合には、ステップS312へ移行し、CPU161は、現在表示中の画像の好感度パラメータを前回表示した画像の好感度パラメータより1大きい値に設定する(ステップS312)。そして、CPU161の処理は、表示制御処理へ戻る。一方、表情変化量が正ではないと判別され、即ち、ユーザの気分が改善されなかったと判断された場合には、ステップS313へ移行し、CPU161は、現在表示中の画像の好感度パラメータを前回表示した画像の好感度パラメータより1小さい値に設定する。そして、CPU161の処理は、表示制御処理へ戻る。
【0057】
図6(c)は、好感度設定処理の例その3である。この好感度設定処理が呼び出されると、CPU161は、ユーザの現在の表示画像に対する好感度パラメータと前回表示した画像に対する好感度パラメータとの差が、前回の表示画像から現在の表示画像への切り替えの前後における表情変化量の値よりも、大きいか否かを判別する(ステップS321)。好感度パラメータの差が表情変化量よりも大きいと判別された場合には、“YES”へ分岐し、CPU161は、表示画像の好感度パラメータを前画像の好感度パラメータから1減じた値に設定する(ステップS322)。そして、CPU161の処理は、表示制御処理に戻る。一方、好感度パラメータの差が表情変化量の値よりも小さいと判別された場合には、“NO”に分岐して、CPU161は、表示画像の好感度パラメータを前画像の好感度パラメータに1を加算した値に設定する(ステップS323)。そして、CPU161の処理は、表示制御処理に戻る。ここで、表示画像の元の好感度パラメータが上記の設定により上昇する好感度パラメータの値より更に大きい場合や、上記の設定により低下する好感度パラメータの値より更に小さい場合などには、表示画像に対する好感度パラメータを算出された設定値に変更しないこととしても良い。
【0058】
図6(d)は、好感度設定処理の例その4である。この好感度設定処理が呼び出されると、CPU161は、現在の表示画像への切り替えの前後における表情変化量の値が正であるか否かを判別する(ステップS331)。表情変化量が正であると判別され、即ち、ユーザの気分が改善されたと判断された場合には、ステップS332へ移行し、CPU161は、現在表示中の画像の好感度パラメータの値を1増加させる。それからCPU161の処理は、表示制御処理へ戻る。一方、表情変化量が正ではないと判別され、即ち、ユーザの気分が改善されなかったと判断された場合には、CPU161は、現在表示中の画像の好感度パラメータを1減少させる(ステップS333)。それから、CPU161の処理は、表示制御処理へ戻る。
【0059】
図6(e)は、好感度設定処理の例その5である。この好感度設定処理が呼び出されると、CPU161は、現在の表示画像に対するユーザの好感度パラメータと前回表示した画像に対するユーザの好感度パラメータとの差が、前回の表示画像から現在の表示画像への切り替えの前後における表情変化量の値よりも大きいか否かを判別する(ステップS341)。好感度パラメータの差が表情変化量よりも大きいと判別された場合には、“YES”へ分岐し、CPU161は、現在表示中の画像の好感度パラメータの値を1減少させる(ステップS342)。それからCPU161の処理は、表示制御処理へ戻る。一方、好感度パラメータの差が表情変化量よりも小さいと判別された場合には、“NO”に分岐して、CPU161は、現在表示中の画像の好感度パラメータの値を1増加させる(ステップS343)。それから、CPU161の処理は、表示制御処理へ戻る。
【0060】
以上のように、第1実施形態のDPF1によれば、DPF1の表面に設けられたカメラ6によって表示部2に表示された画像を閲覧するユーザの顔を撮影し、この撮影された画像データに基づいてユーザの表情を認識するとともに、この認識結果に基づきユーザの表示画像に対する好感度を設定することができる。そして、この設定された好感度を示すパラメータをEEPROM164に記憶させ、また、当該ユーザに対して表示する画像の選択基準として用いることができるので、複数の画像の中からユーザの閲覧時の気分に適した画像を選択的に表示部2に表示させることができる。
【0061】
また、画像の切り替えによって表情がポジティブに変化したか否かにより、画像の切り替え前の表示画像に対する好感度パラメータを基準として、切り替え後の表示画像に対する好感度パラメータを毎回設定するので、ユーザの閲覧時の気分に対応する相対的な好感度を素早く反映して、ユーザの気分に適した画像を選択的に表示部2に表示させることができる。
【0062】
また、画像の切り替え前の表示画像に対する好感度パラメータを基準として、画像の切り替え前後での表情の変化の変化量に基づいて切り替え後の表示画像に対する好感度パラメータを設定することで、前回表示された際には好ましい画像であったものであっても今回の気分にそぐわない場合などには、臨機応変に好感度パラメータを変化させて表示の制御を行うことができる。
【0063】
また、表示画像の切り替え前後での表情変化の変化量と、切り替え前後の画像に設定されていた好感度パラメータの差とを比較して、表情の変化量の方が好感度パラメータの差よりも大きい場合には、好感度パラメータの差を大きくするように切り替え後の表示画像に対する好感度パラメータを変更し、表情の変化量よりも好感度パラメータの差の方が大きい場合には、好感度パラメータの差を小さくするように画像切り替え後の表示画像に対する好感度を変更することができるので、表示画像に対し、相対的な表情の変化量を適切に反映した好感度パラメータを設定することで、よりユーザの気分に適した画像を選択することができる。
【0064】
また、表示画像の切り替え前後での表情変化の方向に基づいて、切り替え後の画像に設定されていた好感度パラメータを増減させるので、ユーザの気分を改善する方向へ変化させる画像に対して容易により高い好感度パラメータの設定をすることができる。
【0065】
また、表示画像の選択から好感度パラメータが低い画像を排除することができるので、ユーザを不快な気分にさせず、気持ちよく画像を閲覧させることができる。特に、他人から貰った画像についても、データを整理する手間をかけることなくユーザにとって好ましい画像を選択して表示部2に表示させることができる。
【0066】
また、画像表示を開始する際のユーザの表情を判別し、喜怒哀楽の各表情に基づいて、その後表示させる画像の好感度パラメータの範囲を設定することにより、楽しい気分を維持させるのに適した画像、哀しい気分を紛らわし、リフレッシュさせるのに適した画像、或いは、腹立たしい気分を転換してリラックスさせるのに適した画像をそれぞれ適切に選択することで、ユーザの気分を向上させることができる。
【0067】
また、表示画像を選択する好感度パラメータの範囲を、各ユーザの表情が初期表情から変化するのに合わせて逐次変更していくことにより、スムーズにユーザの気分の向上に合った画像を表示させ続けることができる。
【0068】
[第2実施形態]
次に、第2実施形態の画像表示装置としてのDPFについて説明する。この第2実施形態のDPFでは、複数のユーザに対し、各画像に対する各々の好感度パラメータおよび表情に応じてそれぞれ画像を選択して表示させることができる。第2実施形態におけるDPF1の構成は、図1、および、図2に示した第1実施形態のDPF1の構成と同一であり、同一の符号を付して説明を省略する。
【0069】
図7は、第2実施形態のDPF1においてEEPROM164に記憶させた各画像の好感度パラメータについて説明する図である。
【0070】
図7(a)、(b)に示すように、このEEPROM164には、2つのテーブルが記憶されている。一方のテーブルは、図7(a)に示すように、複数のユーザ(P01〜P03)それぞれの各画像(1001〜)に対する好感度パラメータを保存する好感度テーブル164bである。他方のテーブルは、ユーザ登録テーブル164cであり、図7(b)に示すように、複数のユーザを識別するためのユーザIDと、各ユーザに対応する顔データの特徴を示すデータとが関連付けられて保存されている。
【0071】
図8は、第2実施形態のDPF1において、CPU161が実行する表示制御処理の手順を示したフローチャートである。図4に示した第1実施形態のDPF1における表示制御処理と同一の処理に関しては、同一の符号を付して説明を省略する。
【0072】
第2実施形態における表示制御処理では、カメラ撮影を開始させた(ステップS101)後に、CPU161は、カメラ6による撮影データに基づいてDPF1の表示画像を閲覧するユーザの識別処理を行う(ステップS102)。CPU161は、撮影データに含まれる顔の特徴的なパラメータを抽出し、ユーザ登録テーブル164cに記憶された各々のユーザの顔の特徴データと比較参照して、登録ユーザ中から抽出された特徴的なパラメータが一致するユーザを識別する。
【0073】
ステップS102の処理によりユーザが識別されると、CPU161は、識別されたユーザのユーザIDに基づいて好感度テーブル164bのうちから当該ユーザの好感度パラメータに対応する列を指定して、必要な好感度パラメータのデータを取得する(ステップS103)。そして、CPU161の処理は、ステップS104へ移行する。
【0074】
また、ステップS108の好感度設定処理で表示画像に対する好感度パラメータが設定されると、CPU161は、好感度テーブル164bにおいて、当該ユーザに対応する列の表示画像に対する好感度パラメータの値を更新する(ステップS109a)。そして、CPU161の処理は、ステップS105へ戻る。
【0075】
以上のように、第2実施形態のDPF1によれば、カメラ6の撮影画像に基づいて複数のユーザの顔をそれぞれ識別することができる。また、EEPROM164には、好感度パラメータの設定をユーザ毎に行うことができるので、複数のユーザがDPF1を利用する場合であっても、認識されたユーザ毎に画像を選択して表示部2に表示させることができるので、各々のユーザにとって不快な画像を排除し、気分に合った適切な画像を選択表示させることができる。
【0076】
なお、本発明は、上記実施の形態に限られるものではなく、様々な変更が可能である。例えば、上記の実施の形態では、好感度パラメータとしてスカラー値を設定したが、これに限られない。例えば、喜度値や弛緩値といった複数のパラメータを設定し、二次元や三次元ベクトル値に基づいて積極的な楽しみや喜びと、穏やかさや和み具合といった安定性とを識別することで、表示画像の選択をより細かく制御しても良い。また、好感度パラメータは数値に限られず、例えば、アルファベットを利用することとしても良い。
【0077】
また、上記の実施の形態では、カメラ6によりユーザの可視光画像を撮影したが、赤外線撮影画像を併用して、例えば、ユーザの発熱具合を表情の判断材料に加えることとしても良い。
【0078】
また、上記の実施の形態では、毎回1枚の画像を選択して表示させたが、複数枚の画像を組み合わせて表示させても良い。
【0079】
また、上記の実施形態では、好感度が4以下に下がった画像は、以降表示されないが、例えば、所定の時間間隔以上表示されなかった画像に関しては、ユーザの表情がとても楽しげな場合に限って再度表示させることとしても良い。或いは、好感度が非常に低い画像を記憶部15から消去可能に構成することとしてもよい。
【0080】
また、上記実施の形態では、ユーザの表情の相対的な変化に基づいて好感度パラメータの値を設定したが、表情パラメータの絶対値に基づいて好感度パラメータを設定することとしても良い。
【0081】
また、上記の実施形態で示した表示画像の選択方法は、一例であり、各回に選択する画像の好感度パラメータの範囲の設定方法やこの範囲内での重み付け方法は、任意に設定可能である。
【0082】
また、上記の実施形態では、初期表情の分類として楽しみ、怒り、哀しみ、無表情やその他という4パターンを設定したが、この分類パターンに限られない。より多くの分類パターンを設けても良いし、逆に、分類せずに一定の基準に基づいて表示画像を選択しても良い。
【0083】
また、上記の第2の実施形態では、複数のユーザをユーザ登録テーブル164cに登録し、また、各々のユーザに対して個別の好感度テーブル164bを設定したが、この複数のユーザは、事前に操作部8からの入力により登録設定を行っても良いし、或いは、所定の回数以上検出されたユーザに対して自動的に登録することとしても良い。また、逆に、一定期間以上検出されないユーザの登録設定を消去可能としてもよい。また、表示部2の閲覧者がユーザ登録テーブル164cに登録されていないと判別された場合には、例えば、設定されている好感度パラメータの平均値と、当該閲覧者の表情の変化量とに基づいて表示画像の選択制御を行い、また、好感度テーブルのデータの更新は行わないこととしても良いし、或いは、最初から表示画像の選択制御を行わずに、完全にランダムな表示画像の選択を行うこととしても良い。
【0084】
また、上記実施の形態の説明では、本発明に係るプログラムのコンピュータ読み取り可能な媒体としてROM163を使用した例を開示したが、この例に限定されない。その他のコンピュータ読み取り可能な媒体として、フラッシュメモリなどの不揮発性メモリ、CD−ROMなどの可搬型記録媒体を適用することが可能である。また、通信回線を介して本発明に係るプログラムのデータを提供する媒体として、キャリアウェーブ(搬送波)も本発明に適用される。
【0085】
また、上記実施の形態では、画像表示装置としてデジタルフォトフレームを例に挙げて説明したが、これに限られない。例えば、携帯電話、PDA(Personal Digital Assistant)、スマートフォンなどの携帯機器に適用しても良い。或いは、カメラおよびディスプレイが接続されたPCやビデオ装置の画像表示機能としても利用可能である。その他、上記の実施形態に示した具体的な構成や配置、数値などの細部は、発明の趣旨を逸脱しない限りにおいて適宜変更可能である。
【符号の説明】
【0086】
1 デジタルフォトフレーム(DPF)
2 表示部
3 フレーム
4 箱体
5 脚部
6 カメラ
7 スピーカ
7a 左スピーカ
7b 右スピーカ
8 操作部
8a-8d 操作ボタン
9 メディア挿入部
10 ネットワーク接続端子
11 電源入力端子
12 メディアI/F部
13 入出力制御部
14 電源部
15 記憶部
16 制御部
161 CPU
161a プログラム
162 RAM
163 ROM
164 EEPROM
164a、164b 好感度テーブル
164c ユーザ登録テーブル
M リムーバブルメディア

【特許請求の範囲】
【請求項1】
複数の画像の中から予め定められた時間間隔毎に選択した画像を切り替えて表示部に表示させる画像表示装置において、
前記表示部に表示された画像を閲覧する閲覧者の顔位置を含む範囲を撮影する撮影手段と、
前記撮影手段による閲覧者の撮影データに基づいて当該閲覧者の顔の表情を認識する表情認識手段と、
前記表情認識手段による認識結果に基づいて前記表示部に表示されている画像に対する閲覧者の好感度を示す好感度指標を設定する設定手段と、
前記設定手段により設定された前記好感度指標を当該画像と関連付けて記憶する好感度記憶手段と、
前記好感度記憶手段に記憶された前記好感度指標に基づいて前記表示部に表示させる画像を選択する制御手段と、
を備える画像表示装置。
【請求項2】
前記設定手段は、前記表示部に表示される画像の切り替え前に表示されていた画像に対する前記好感度指標と、前記表示部に表示される画像の切り替え前後で前記表情認識手段により認識された表情変化の方向とに基づいて、当該切り替え後に表示された画像に対する前記好感度指標を設定する
ことを特徴とする請求項1記載の画像表示装置。
【請求項3】
前記設定手段は、前記表示部に表示される画像の切り替え前に表示されていた画像に対する前記好感度指標と、前記表示部に表示される画像の切り替え前後で前記表情認識手段により認識された表情変化の度合いとに基づいて、当該切り替え後の表示画像に対する前記好感度指標を設定する
ことを特徴とする請求項2記載の画像表示装置。
【請求項4】
前記設定手段は、前記表示部に表示される画像の切り替え前後で前記表情認識手段により認識された表情変化の度合いと、当該切り替え前後の画像に対する前記好感度指標の差との比較結果に基づいて、前記切り替え後の表示画像に対する前記好感度指標を変化させる
ことを特徴とする請求項1記載の画像表示装置。
【請求項5】
前記設定手段は、前記表示部に表示される画像の切り替え前後で前記表情認識手段により認識された表情変化の方向に基づいて、当該切り替え後の表示画像に対する前記好感度指標を変化させる
ことを特徴とする請求項1記載の画像表示装置。
【請求項6】
前記制御手段は、一の画像に関連付けられた前記好感度指標が示す好感度が予め定められたレベルより低い場合には、当該画像を前記表示部に表示させる画像として選択しない
ことを特徴とする請求項1〜5の何れか一項に記載の画像表示装置。
【請求項7】
前記制御手段は、前記表情認識手段により最初に認識された表情の種別に基づいて前記好感度指標の選択範囲を設定し、当該選択範囲内の好感度指標に関連付けられている画像を前記表示部に表示させる画像として選択する
ことを特徴とする請求項1〜5の何れか一項に記載の画像表示装置。
【請求項8】
前記制御手段は、前記表情認識手段により認識された表情の累積的な変化に基づいて、前記好感度指標の前記選択範囲を変更する
ことを特徴とする請求項7記載の画像表示装置。
【請求項9】
登録されている閲覧者の顔を識別する際に用いられる情報を記憶する閲覧者情報記憶手段と、
前記撮影手段による閲覧者の撮影データと、前記閲覧者情報記憶手段に記憶された情報とに基づいて、当該閲覧者を識別する閲覧者識別手段と、
を備え、
前記設定手段は、前記表情認識手段による認識結果に基づいて、前記表示部に表示されている画像に対する前記好感度指標を前記閲覧者識別手段により識別された閲覧者毎に設定し、
前記好感度記憶手段は、前記設定手段により設定された前記好感度指標を当該画像の画像データと関連付けて、前記閲覧者識別手段により識別された閲覧者毎に記憶する
ことを特徴とする請求項1〜8の何れか一項に記載の画像表示装置。
【請求項10】
画像を表示する表示部と、当該表示部に表示された画像を閲覧する閲覧者の顔位置を撮影する撮影手段と、を備え、複数の画像の中から予め定められた時間間隔毎に選択した画像を切り替えて前記表示部に表示させる画像表示装置に用いられるコンピュータを、
前記撮影手段による閲覧者の撮影データに基づいて当該閲覧者の顔の表情を認識する表情認識手段と、
前記表情認識手段による認識結果に基づいて前記表示部に表示されている画像に対する閲覧者の好感度を示す好感度指標を設定する設定手段と、
前記設定手段により設定された前記好感度指標を当該画像と関連付けて記憶する好感度記憶手段と、
前記好感度記憶手段に記憶された前記好感度指標に基づいて前記表示部に表示させる画像を選択する制御手段と、
として機能させるためのプログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate


【公開番号】特開2012−78461(P2012−78461A)
【公開日】平成24年4月19日(2012.4.19)
【国際特許分類】
【出願番号】特願2010−222012(P2010−222012)
【出願日】平成22年9月30日(2010.9.30)
【出願人】(000001443)カシオ計算機株式会社 (8,748)
【Fターム(参考)】