説明

画像表示装置、画像データ変換方法、画像配信システム、及びプログラム

【課題】画像表示装置で遠方のライブ映像配信サイトからのライブ画像を受信し、その画像を絵画変換して表示できるとともに、ライブ映像配信サイトの環境に応じて絵画の雰囲気を変化させる。
【解決手段】ライブ映像配信サイト530にセンサ40を設置し、現場の環境情報を収集し、その環境情報に応じて画像表示装置1のパラメータメモリに記憶されている絵画変換の各種パラメータを変更することにより、配信された画像を絵画変換エンジンで絵画調に変換する際、変換される絵画の雰囲気を変え、遠方にある現場の環境に応じて変換された絵画を楽しむことができる画像表示装置、画像データ変換方法、画像配信システム、及びプログラムを提供する。更に、画像表示装置1の閲覧者の興味情報と環境情報を関連付け、環境情報と興味情報に応じて絵画変換のパラメータを変化させる。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、特に、インターネットを利用した画像配信に係る画像表示装置、画像データ変換方法、画像配信システム、及びプログラムに関する。
【背景技術】
【0002】
近年、デジタルカメラの普及により、写真は、デジタル画像データとして保存することが一般的となっている。従来のフィルムカメラによる撮影の場合、プリントを伴うことが多かったが、画像データの場合、撮影したデジタルカメラで閲覧したり、画像データを取り込んだパーソナルコンピュータなどで閲覧したりすることができるため、写真の楽しみ方にも変化が生じている。まず、このような技術や写真文化の流れについて特許文献を参照しながら簡単に説明する。
【0003】
上記のような状況において、画像データでも従来のプリント写真と同様の楽しみ方ができるようにするため、いわゆるデジタルフォトフレームが実現され普及している(例えば、特許文献1参照)。
このようなデジタルフォトフレームでは、撮影した写真を再生して好きなときに鑑賞したり、スライドショー表示したり、画像データを保存するアルバム端末として使用することができる。
【0004】
そして、ネットワークに接続し、メールの送受信も可能なデジタルフォトフレームも提案されている(例えば、特許文献2参照)。
【0005】
また、複数人に閲覧可能とし、複数の閲覧者の情報を登録しておき、閲覧する人に応じて表示のさせ方等を変えるものも提案されている(例えば、特許文献3参照)。
【0006】
更に、画像処理を加えることで、元の写真をベースとしつつも趣の異なる画調の画像(例えば、絵画調など)を生成して表示することができるようにした技術も提案されている(例えば、特許文献4参照)。
【0007】
特許文献4の技術を発展させ、実際に画家が描いた絵画の画像から色彩情報と筆蝕情報等の特徴を抽出し、撮影された画像に抽出した特徴を付与することにより、原画像全体を勘案して、芸術性の高い絵画調画像に変換する技術も提案されるに至っている(例えば、特許文献5参照)。
【0008】
また、絵画調などの画質を変更することによって変化をもたせるものも提案されている。(例えば、特許文献6参照)。
【0009】
更にまた、スライドショーのように複数の画像を順次切り替え表示する場合、表示に適さない画像が不用意に表示されてしまうことを効果的に防止できるようにしたものも提案されている(例えば、特許文献7参照)。
【0010】
他方、メモリカードの容量が大きくなり、価格も安くなっているために、家族が複数のデジタルカメラで複数のメモリカードに写真を撮りためたまま、メモリカードの整理がつかなくなっているケースが増えている。どのメモリカードに誰が何の写真を撮ったか分からなくなると、いちいちカメラやデジタルフォトフレームで再生して確認してから、改めてパソコンなどにフォルダ分けをして整理した上で保存しなければならないという背景がある。
そこで、大量の画像をパソコンに保存する際に、予め設定した内容に沿って、自動的にフォルダ分けを行い、その分類内容によって画像整理を効率よく行わせる技術が提案されている(例えば、特許文献8参照)。
【0011】
さて、このような従来のデジタルフォトフレームにおいては、内蔵若しくはメモリカードに記録されている画像を表示するだけなので物足りないという課題があった。
そこで、デジタルフォトフレームをインターネットに接続し、様々なコンテンツ画像を有料若しくは無料で配信することが提案されている(例えば、特許文献9参照)。
【0012】
特許文献9記載の技術によれば、デジタルフォトフレームにおいて、ニュースや広告など、無料若しくは有料の複数のジャンルのコンテンツ配信を受けることができる。
【0013】
コンテンツ配信には、遠方のライブカメラのライブ映像を配信するものもある。このコンテンツ配信技術と前記したような絵画変換技術を組み合わせれば、ライブ映像の絵画変換も可能である。ライブ映像には、リアルタイムの動画若しくは一定時間ごとに切り替わる静止画の画像データをサーバーにアップするもの、あるいは所定時間例えば5分間を繰り返し表示してダイナミック感を持たせるもの等がある。
そのライブ映像を絵画変換する際、従来のデジタルフォトフレームでは遠方のライブ配信側の現場の環境に応じて絵画変換の雰囲気を変化させることはできなかった。
【先行技術文献】
【特許文献】
【0014】
【特許文献1】特開2009−141678号公報
【特許文献2】特開2010−61246号公報
【特許文献3】特開2010−86914号公報
【特許文献4】特開平08−44867号公報
【特許文献5】特開2004−213598号公報
【特許文献6】特公平01−46905号公報
【特許文献7】特開2009−288507号公報
【特許文献8】特開2009−87099号公報
【特許文献9】特開2003−91675号公報
【発明の概要】
【発明が解決しようとする課題】
【0015】
本発明は上記事情に鑑みてなされたもので、ライブ映像配信サイトにセンサを設置し、現場の環境情報を収集し、その環境に応じて、デジタルフォトフレーム側の表示画調を画調変換の各種パラメータを変化させることにより雰囲気を変え、例えば富士山が好天に恵まれているときは明るいタッチで、吹雪のときは重いタッチでなど遠方にある現場の環境に応じた画調でライブ映像を楽しむことができる画像表示装置、画像データ変換方法、画像配信システム、及びプログラムを提供することを目的とする。
【0016】
本発明は、ライブ映像配信サイトからのライブ映像を画像表示装置で受信し、画調変換できるとともに、遠方のライブ映像配信サイトにセンサと環境情報収集システムを設け、その環境情報に応じてデジタルフォトフレーム側の画調変換のパラメータを変化させることを特徴とする。
【0017】
更に、本発明の他の発展的な実施形態として、閲覧者を認識して閲覧者の興味情報を分析し、この興味情報と環境情報を関連付け、環境情報と興味情報によって画調変換のパラメータを変化させることを他の特徴とする。またそれを蓄積・フイードバックすることにより今後のコンテンツ配信に反映していくことにも利用できる。
【課題を解決するための手段】
【0018】
前記課題を解決するため、請求項1記載の発明は、画像データを記憶し表示する画像表示装置であって、画像データを所定のパラメータに基づいて画調変換する画調変換手段と、当該画像表示装置と離れた場所に設置されたサーバーから送られてくる環境情報を受信し、この環境情報に応じて前記パラメータを変更する変更手段と、前記サーバーから配信される画像データを受信する受信手段と、を備え、前記画調変換手段は、前記変更手段により変更されたパラメータにより前記受信された画像データを画調変換することを特徴とする画像表示装置を提供するものである。
【0019】
請求項2記載の発明は、前記環境情報は、少なくとも温度、気圧、風速、湿度のいずれかを含む気象情報であることを特徴とする請求項1記載の画像表示装置を提供するものである。
【0020】
請求項3記載の発明は、前記環境情報は、少なくとも緯度、経度、高度、地域のいずれかを含む位置情報であることを特徴とする請求項1記載の画像表示装置を提供するものである。
【0021】
請求項4記載の発明は、前記環境情報は、時刻、年、月、日、季節のいずれかを含む時間情報であることを特徴とする請求項1記載の画像表示装置を提供するものである。
【0022】
請求項5記載の発明は、前記環境情報を、前記サーバーとは異なったサーバーから受信することを特徴とする請求項1記載の画像表示装置を提供するものである。
【0023】
請求項6記載の発明は、前記画像表示装置の閲覧者の興味情報と前記環境情報を関連付け、該環境情報と興味情報によって前記所定のパラメータを変化させることを特徴とする請求項1記載の画像表示装置を提供するものである。
【0024】
請求項7記載の発明は、前記興味情報は、閲覧者の少なくとも見た回数、見た時間、見た距離、見た角度、見ている際の移動状況のいずれかを含むことを特徴とする請求項6記載の画像表示装置を提供するものである。
【0025】
請求項8記載の発明は、画像データをサーバーから配信し、前記配信された画像データを受信し、受信した画像データの画調を所定のパラメータに基づいて変換する画像データ変換方法において、前記サーバー付近に設けられたセンサにより環境に関係する環境情報を収集し、該環境情報に応じて前記パラメータを変換させ、該変換されたパラメータにより前記画像データを変換することを特徴とする画像データ変換方法を提供するものである。
【0026】
請求項9記載の発明は、前記環境情報は、少なくとも温度、気圧、風速、湿度のいずれかを含むことを特徴とする請求項8載の画像データ変換方法を提供するものである。
【0027】
請求項10記載の発明は、前記環境情報は、少なくとも位置を示す情報を含むことを特徴とする請求項8記載の画像データ変換方法を提供するものである。
【0028】
請求項11記載の発明は、前記環境情報は、時刻情報、月日情報、季節情報のいずれかを含むことを特徴とする請求項6記載の画像データ変換方法を提供するものである。
【0029】
請求項12記載の発明は、前記環境情報は、当該サーバー外のサーバーからインターネットを介して受信されることを特徴とする請求項8記載の画像データ変換方法を提供するものである。
【0030】
請求項13記載の発明は、画像データを撮像する手段を備えた画像配信サイトと、前記画像配信サイトから配信される画像データを受信し表示する画像表示装置と、前記画像表示装置に設けられ、受信した画像データの画調を変換する画調変換手段と、前記画像配信サイトに設けられる環境に関係する環境情報を収集する環境情報収集手段と、を備え、前記画調変換手段は前記環境情報に応じて画調を変換することを特徴とする画像配信システムを提供するものである。
【0031】
請求項14記載の発明は、ライブ映像配信サイトから配信されるライブ映像を画像表示装置に表示するとともに、配信されたライブ映像の画像データを所定のパラメータに応じて絵画風の画調に変換する画像配信システムにおいて、前記退部映像配信サイトにセンサを設置し、該センサにより現場の環境情報を収集し、その環境に応じて前記画像表示装置側の調画調変換のための前記所定のパラメータを変更することにより画調の雰囲気を変え、遠方にある現場の環境に応じて絵画変換を行うことを特徴とする画像配信システムを提供するものである。
【0032】
請求項15記載の発明は、更に、前記画像表示装置の閲覧者の興味情報と前記環境情報を関連付け、該環境情報と興味情報によって前記絵画変換のパラメータを変化させることを特徴とする請求項14記載の画像配信システムを提供するものである。
【0033】
請求項16記載の発明は、前記環境情報と興味情報を関連づけて蓄積またはフイードバックすることにより今後の配信に反映させることを特徴とする請求項15記載の画像配信システムを提供するものである。
【0034】
請求項17記載の発明は、前記興味情報は、閲覧者の少なくとも見た回数、見た時間、見た距離、見た角度、見ている際の移動状況のいずれかを含むことを特徴とする請求項15または16いずれかに記載の画像配信システムを提供するものである。
【0035】
請求項18記載の発明は、コンピュータにより読み取られ実行可能なプログラムであって、遠方にあるサーバーから配信された画像データを受信するプログラムステップと、前記サーバー付近に設けられたセンサにより収集された環境に関係する環境情報を受信するプログラムステップと、画像データを所定のパラメータに従って画調変換するプログラムステップと、前記受信した環境情報に応じて前記パラメータを変更するプログラムステップと、該変更されたパラメータにより前記受信した画像データの画調を変換するプログラムステップと、を含むプログラムを提供するものである。
【0036】
請求項19記載の発明は、更に、閲覧者の閲覧情報を収集するプログラムステップと、前記パラメータを前記閲覧情報に応じて変更するプログラムステップと、を含む請求項18記載のプログラムを提供するものである。
【発明の効果】
【0037】
本発明によれば、画像表示装置において、離れた場所から配信されてくる画像を、その現場の環境に応じた画調に変換することができる。
【図面の簡単な説明】
【0038】
【図1】本発明を適用した実施形態による画像表示装置1を示す外観図である。
【図2】本実施形態による画像表示装置1の電気的構成を示したブロック図である。
【図3】本実施形態による画像表示装置1が適用されるネットワーク系の構成を示すブロック図である。
【図4】本実施形態による表示装置1のメモリカード60に記憶されている画像ファイルの構造を示す概念図である。
【図5】本実施形態による表示装置1の内部メモリ14内のフォルダ構成を示す概念図である。
【図6】本実施形態による表示装置1の内部メモリ14内に構成されるアドレス帳33の構成を示す概念図である。
【図7】本実施形態による画像表示装置1の初期設定の際に、ユーザの顔とユーザのメールアドレスとを対応づけて登録するための手順を示すフローチャートである。
【図8】本実施形態による画像表示装置1において、SDカードなどのメモリカード60がメモリカードスロット6に差し込まれた際に、メモリカード60に記憶されている画像を内部メモリ14に保存する際の手順を示すフローチャートである。
【図9】本実施形態による画像表示装置1でメールを受信したときの手順を示すフローチャートである。
【図10】本実施形態による画像表示装置1の再生動作について説明するフローチャートである。
【図11】本実施形態による画像表示装置1の再生動作の中のスライドショー再生の手順を示すフローチャートである。
【図12】本実施形態の変形例による画像表示装置のフォルダ構成を示す概念図である。
【図13】本実施形態による画像配信システムに係る、ネットワークによるコンテンツ配信サービスの一例を示すブロック図である。
【図14】本実施形態によるログ情報の解析について説明するための概念図である。
【図15】本実施形態による画像表示装置1でのログ記録の概略動作を示すフローチャートである。
【図16】本実施形態において、配信コンテンツサイト530から配信され、ネットワークサービスサイト520のコンテンツサーバー524に一時的に記憶されるコンテンツのファイル構成の一例を示す概念図である。
【図17】本実施形態による絵画タッチの状態を示す図である。
【図18】本実施形態による絵画変換の手順を示すフローチャートである。
【図19】本実施形態による環境情報に応じて画調を変える例を示す図である。
【図20】本実施形態による環境情報に応じて画調を変える他の例を示す図である。
【図21】本実施形態による環境情報に応じて画調を変える他の例を示す図である。
【図22】本実施形態による環境情報に応じて画調を変える他の例を示す図である。
【図23】本実施形態による環境情報に応じて画調を変える他の例を示す図である。
【図24】本実施形態による環境情報に応じて画調を変える他の例を示す図である。
【発明を実施するための形態】
【0039】
以下、本発明の実施の形態について図面を参照して説明する。
【0040】
A.実施形態の画像表示装置
図1は、本発明を適用した実施形態による画像表示装置1を示す外観図である。画像表示装置1の正面には、本体2に保持された液晶表示パネル3によって構成される表示部が設けられている。この液晶表示パネル3には、タッチパネル5が一体的に構成されており、指でタッチすることにより操作可能となっている。本体2の前面上部右側には、撮像素子8が設けられ、側面には、メモリカードスロット6が設けられている。更に、本体上部にGPS(Global Positioning System)アンテナ7、全面上部左側にセンサ40が設けられている。
【0041】
図2は、本実施形態による画像表示装置1の電気的構成を示したブロック図である。画像表示装置1は、CPU(Central Processing Unit)11と、CPU11に接続されたROM(Read Only Memory)12と、RAM(Random Access memory)13と、内部メモリ14とを備え、ROM12には、CPU11に後述するフローチャートに示す動作を行わせるためのプログラムが記憶されている。また、CPU11は、撮像素子8で撮像した顔を認識処理するための顔認識エンジン100と、写真画像を絵画調の画像に変換する絵画変換エンジン200、並びに環境情報を収集分析する環境情報エンジン400とを含んでいる。
【0042】
顔認識エンジン100は、写真の中に複数の顔が写っている場合、それぞれの顔を認識する能力を備えている。
【0043】
絵画変換エンジン200は、例えば、特開平8−44867号公報(特許文献4)、特開2004−213598号公報(特許文献5)などに開示されているような絵画変換処理を行う。絵画変換エンジン200による絵画変換処理は、メモリカード60に記憶されている表示対象の画像あるいはインターネット500を介して受信した画像を、絵画が有する特徴を備えた絵画調画像、つまり特定の効果を与えた絵画調画像に変換し、変換後の絵画調画像を液晶表示パネル3に表示する処理である。
【0044】
また、絵画調画像への変換に際して目標とする絵画の種類、つまり変換画調画像にする特徴(画調、画風)が選択可能である。本実施形態において、選択可能な画調は、油絵調、水彩画風、油彩画風、パステル調、色鉛筆画調、クレヨン画調、イラスト画調、点描画調、エアブラシ、シルクスクリーン風、刺繍絵風、コラージュ(糊付け)風とする。
しかし、これに限ることなく、ゴッホ調、モネ調、ピカソ調など、画家の特徴を加味した変換の選択を可能としても良い。また、別の画調のアルゴリズムを後述するメモリカード60で提供することもできる。画調の描画タッチとして筆の太さも選択可能である。
【0045】
環境情報エンジン400は、センサ40で得られる人の近接情報(人感情報)、温度、湿度、気圧、風速などを得るとともに、後述するGPS制御部20からの緯度、経度、高度等の位置情報、年月日、時刻、季節等の時間情報、撮像素子8から得られる画像情報、インターネット500を介して他のサイトから得られる天気予報情報などを収集して環境情報を得るためものである。
【0046】
これら顔認識エンジン100、絵画変換エンジン200、環境情報エンジン400はCPU11と協働するASIC(Application Specific Integrated Circuit:特定用途向け集積回路)、若しくはDSP(Digital Signal Processor)、あるいはリコンフィギュラブルLSI(C言語などのプログラムによって再構成可能なLSI)によって構成される。
【0047】
RAM13は、CPU11が必要に応じて種々のデータを一時的に記憶する作業用のメモリである。内部メモリ14は、ハードディスク、またはフラッシュメモリによる大容量不揮発性メモリであり、詳細は後述するが、フォルダが形成されて多数の画像を保存可能となっている。また、電話帳33、反応ログメモリ300も含む。
【0048】
表示制御部16は、CPU11から供給される表示用の画像データに基づいて液晶表示パネル3を駆動することにより、画像や、各種メニューを液晶表示パネル3に表示させる。キー入力部制御部17は、CPU11の制御に基づいてタッチパネル5の操作信号を入力するものである。
【0049】
タッチパネル5は、静電容量方式、光学方式、抵抗膜方式、表面弾性波方式、超音波方式、電磁誘導方式など様々存在する中から、適宜選択することができる。指紋認証や、静脈認証の機能を組み込むことも可能である。
【0050】
メモリカードインターフェース18は、メモリカードスロット6に着脱自在に装着された各種のメモリカード60と、CPU11との間におけるデータの入出力を制御する入出力インターフェースである。
【0051】
撮像制御部19は、撮像素子8を駆動して被写体の画像を取り込む制御を行う。ベイヤーデータで取り込まれた画像データは、YUV、及びRGBデータに変換後、JPEG(Joint Photographic Experts Group)データに圧縮されて内部メモリ14またはメモリカード60に記録される。
【0052】
GPS制御部20は、GPSアンテナ7で受信した情報を元に位置情報を取得する。これにより、画像表示装置1の現在位置を知ることができる。
電源制御部70は、電源プラグ31を介してAC電源を取り入れ、直流に変換して各部に主電源71若しくは待機電源72の電力を供給する。
【0053】
センサ40は、環境情報を得るためのセンサで、人感センサ、ラインセンサ、温度センサ、湿度センサ、気圧センサ、風速センサ、照度センサ等を含み、CPU11、顔認識エンジン100、環境情報エンジン400、及び撮像素子8と協働することにより各種環境情報を得ることができる。
【0054】
例えば近くに人がいるかどうかを検知し、近くに人がいない状態が所定時間以上続くと電源制御部70をCPU11により制御し、自動的に主電源71を切って待機電源72だけ供給しておき、節電を図り(オートパワーオフ)、再度、センサ40が人の接近を検知すると、主電源71をオンする。
【0055】
また、閲覧者の角度や、距離を測定することができる。更に、閲覧者の顔を認識し、誰が閲覧しているかによって電源の制御が可能であるとともに、誰がどの角度で、近くから見ているか遠くから見ているかも検出することができる。
【0056】
通信制御部30は、電話回線31若しくは無線LAN32を経由してインターネット500に接続し、メールの送受信や、コンテンツの送受信を含む通信制御を行う。アドレス帳33は、メール送受信に用いられ、実際は、内部メモリ14内に設けられる。
【0057】
反応ログメモリ300は、内部メモリ14内に設けられ、上述した撮像素子8で撮像し、顔認識エンジン100で認識した結果や、人感センサ19の反応結果、タッチパネル5のタッチ結果などにより、閲覧者の反応ログ(履歴)を記憶する。
【0058】
次に、図3は、本実施形態による画像表示装置1が適用されるネットワーク系の構成を示すブロック図である。510はパーソナルコンピュータであり、無線LAN32等で通信制御部30を介して画像表示装置1と接続でき、画像表示装置1では設定できない複雑な設定等をすることができる。
【0059】
520は、インターネット500を介して接続されるネットワークサービスサイトであり、少なくとも認証サーバー521、メールサーバー522、課金サーバー523、コンテンツサーバー524、絵画変換サーバー525、環境情報サーバー526を含む。表示装置1のネットワークプロバイダの役割もしている。
【0060】
絵画変換サーバー525は前期絵画変換エンジン200をサーバー側にも持たせたものであり、環境情報サーバー526は環境情報エンジン400をサーバー側にも持たせたものである。更に、配信コンテンツサイト530にも環境情報エンジン400を持たせる。これにより、遠方の配信コンテンツ供給元の環境情報を画像表示装置1で知ることができる。なお、環境情報エンジン400はセンサ40とセットで設けられるものである。
【0061】
530は、表示装置1に表示させるための各種コンテンツを配信するための配信コンテンツサイトで、多数のコンテンツや、画像などを有しており、インターネット500を介して画像表示装置1若しくはネットワークサービスサイト520へデータを配信することができる。
【0062】
配信コンテンツサイトの例としては、ライブカメラ映像を設置しライブ映像を配信するライブ映像コンテンツ配信サイトがある。山や空、ビル群などを常時撮影していて、動画若しくは静止画でネットワークサービスサイト520へ配信する。
【0063】
図4は、本実施形態による表示装置1のメモリカード60に記憶されている画像ファイルの構造を示す概念図である。各画像ファイルは、EXIF(Exchangeable Image File Format)などのデータを有するヘッダG1と、撮影された画像であり本画像である画像データG2と、その画像データG2の縮小画像であるサムネイルG3の画像データを含む。なお、表示画面の大きさにより、画面に表示すべき縮小画像の大きさが異なるため、サムネイルとは別に表示用のプレビュー画像を作成して記憶しておく場合もある。本実施形態では、プレビュー画像も含めてサムネイルと表現している。
【0064】
つまり、画像ファイルは、一般的なデジタルカメラのファイルフォーマットに準拠し、デジタルカメラで撮像したSDカード(メモリカード60)をメモリカードスロット6に差し込むだけで使用できるようになっている。画像ファイルのフォーマットとしては、JPEG、GIF(Graphics Interchange Format)、AVI(Audio Video Interleave)、PNG(Portable Network Graphics)など種々のフォーマットに適宜対応可能である。
【0065】
以下は、本実施形態に特有のデータである。まず、G4は、画像の保存操作を行った人物を示す個人識別コードであり、人物の特定は、顔認識により識別する。例えば、お父さんであれば“1001”、お母さんであれば“1002”のように、個人別に識別コードが割り振られる。
【0066】
G5は、画像の用途を示し、仕事用、プライベート用などに分類した分類コードである。例えば、仕事用であれば“01”、プライベート用であれば“02”、旅行用であれば“03”の分類コードが記録される。この分類は、自分の画像について自由に分類分けを行うことができる。
【0067】
G6は、その画像をシークレット設定するかどうかを示すシークレットフラグであり、シークレット設定にする場合には“1”、そうでない場合には“0”とする。
【0068】
G7は、表示している画像を閲覧している人物を示す閲覧者コードである。閲覧者の特定は、画像を表示している際に撮像素子8で撮像した人物を顔認識し、既に登録されている人物であれば、該当人物の識別コードを閲覧者コードとして記録し、登録されていない新規な人物であれば、新たに閲覧者コードを発行して記録していく。
【0069】
G8は、閲覧者別の閲覧回数を記憶する。G7とG8は、便宜上、別々に示しているが、閲覧者コードと閲覧回数とをセットで記憶していくものである。すなわち、この画像をAさんが2回見ていれば、Aさんの閲覧者コード“1101”×2、Bさんが3回見ていれば、Bさんの閲覧者コード“1052”×3、ということになる。
【0070】
図5は、本実施形態による表示装置1の内部メモリ14内のフォルダ構成を示す概念図である。本実施形態では、内部メモリ14に画像認識により識別された個人毎のフォルダが作成される。図4には、1つの画像ファイルの構成を示したが、基本的には、この画像ファイルの個人識別コードG7毎にフォルダを形成する。例えばお父さんの識別コード“1001”に対応するフォルダF1、お母さんの識別コード“1002”に対応するフォルダF2、…のようになる。また、個人のフォルダ内に、画像ファイルの分類コードG5に応じて、あるいはシークレットフラグを付けたものについてサブフォルダSFを形成する。例えば、仕事用サブフォルダSF1、プライベート用サブフォルダSF2、シークレットフラグを立てたサブフォルダSF3、メールで受信した画像用のサブフォルダSF4が形成される。なお、これらのフォルダは、論理フォルダであって物理的にメモリエリアが区分けされているわけではない。
【0071】
図6は、本実施形態による表示装置1の内部メモリ14内に構成されるアドレス帳33の構成を示す概念図である。331は、プロファイルと呼ばれる保有者のメールアドレス情報を記憶するエリアであり、332は、送受信する相手先のメールアドレス情報を記憶するエリアである。M2は、メールアドレスそのものが記録されるエリアであり、M1は、該当メールアドレスの保有者の名前が記録されるエリアである。名前は、自由に付けることができる。M3は、該当メールアドレスの個人の顔画像を登録するエリアである。M4は、上述した個人識別コードが記録されるエリアである。M5は、その他の各種情報、例えば、住所、着信拒否、…が必要に応じて適宜記録されるエリアである。
【0072】
以下、本実施形態の画像表示装置1及びネットワークシステムの具体的な動作についてフローチャートを参照しながら説明する。なお、説明を分かりやすくするために、フローチャートは、操作者の操作手順に沿った表現となっているが、これに伴って回路やデータの動きについて説明をしていく。
【0073】
図7は、本実施形態による画像表示装置1の初期設定の際に、ユーザの顔とユーザのメールアドレスとを対応づけて登録するための手順を示すフローチャートである。まず、ユーザのメールアドレスを設定する(ステップS10)。このユーザのメールアドレスの設定方法について説明する。初回起動時に画像表示装置1と認証サーバー521とをネット接続し、認証を受けたらメールサーバー522から画像表示装置1に対してユニークなメールアドレスが発行され、付与される。パーソナルコンピュータ510からメールサーバー522にアクセスして、上記ユニークなメールアドレスを好きなメールアドレスに変更する。このメールアドレスを家族や友人に知らせれば、画像メールの送受信が可能となる。これは、基本的には、パーソナルコンピュータや携帯端末などのアドレス初期設定と同様である。
【0074】
次に、画像表示装置1のユーザ(保有者を含む使用者:複数可)が自分の顔を登録する。撮像素子8は、電源オン中、ほぼ常時撮像をしているが、ユーザが、自分のメールアドレスが液晶表示パネル3に表示されている状態で(ステップS12)、液晶表示パネル3に表示される顔登録ボタンをタッチパネル5でタッチすると(ステップS14)、CPU11は、顔認識エンジン100によりユーザの顔を認識し、上記ユーザのメールアドレスとユーザの顔とを対応付けてアドレス帳33に登録する(ステップS16)。
【0075】
図8は、本実施形態による画像表示装置1において、SDカードなどのメモリカード60がメモリカードスロット6に差し込まれた際に、メモリカード60に記憶されている画像を内部メモリ14に保存する際の手順を示すフローチャートである。まず、メモリカード60がメモリカードスロット6に挿入されたか否かを判断し(ステップS20)、メモリカード60がメモリカードスロット6に挿入されると、CPU11は、そのとき撮像素子8により撮影されているユーザの顔に対して、顔認識エンジン100を用いて顔認識を行う(ステップS22)。
【0076】
次に、顔認識した顔に対して、個人識別コードが登録されているか否かを判断する(ステップS24)。すなわち、図5に示したように、個人識別コードに対応してフォルダが構成されているので、認識した人のフォルダが存在しているか否かを判断することになる。例えば、存在していない新しいユーザであれば、新たに識別コードを発行して顔を登録するとともに、フォルダを作成する(ステップS26)。一方、操作しているユーザが識別コード“1001”のお父さんであれば、フォルダF1を選択する(ステップS28)。登録されていないユーザの画像保存はできないようにしてもよい。
【0077】
次に、液晶表示パネル3に表示されている保存ボタンが押されたか否かを判断し(ステップS30)、保存ボタンがタッチキー5を介して押されると、メモリカード60に記録されている画像を、該当するフォルダにコピーする(ステップS32)。すなわち、ユーザ(操作者)は、特に意識することなく、自分のフォルダに画像を保存することができる。その後、適宜、メニューに従ってフォルダ内での分類によるサブフォルダ作成や、シークレットフラグの設定を行うことができる。
【0078】
図9は、本実施形態による画像表示装置1でメールを受信したときの手順を示すフローチャートである。画像表示装置1に自己のメールアドレスが設定されていなければ、そもそもメールを受信できないが、設定されている場合には、例えば、お父さんのメールアドレス(father@***.**.jp)で受信したとすると(ステップS40)、受信したメールアドレスに対応するフォルダが存在しているかを判断する(ステップS42)。そして、対応するフォルダが存在しないと判断された場合には、受信したメールを共用フォルダF6に保存する(ステップS44)。一方、対応するフォルダ、例えば、お父さんのメールアドレスに対応するフォルダF1が存在していると判断された場合には、対応するフォルダF1にメールが保存されるとともに、メールに画像が添付されている場合には、その画像を画像メール用サブフォルダSF4に保存する(ステップS46)。
【0079】
図10は、本実施形態による画像表示装置1の再生動作について説明するフローチャートである。再生には、内部メモリ14に記憶された画像を再生する場合、挿入されたメモリカード60に記憶された画像を再生する場合、1枚だけ再生する場合、スライドショー再生する場合などがある。
【0080】
ユーザ(操作者:登録されているユーザと登録されていないユーザとを含む)が画像を再生しようとして画像表示装置1の前に来ると、撮像素子8が撮像しているので、CPU11と顔認識エンジン100とが協働して操作者の顔を認識し(ステップS50)、再生操作があったか否かを判断し(ステップS52)、再生操作があると、認識した顔のユーザが登録されているか否かを判断する(ステップS54)。そして、顔が登録されていれば、画像表示装置1のユーザであると推定できるので、対応するフォルダ、例えば、認識されたのがお父さんであれば、お父さんフォルダF1に保存されている画像と共用フォルダF6に保存されている画像とを再生可能にする(ステップS56)。他の人のフォルダ、例えばお母さんフォルダF2、妹フォルダF4などは勝手に再生できない。一方、顔が登録されていなければ、共用フォルダF6に保存されている画像のみを再生可能にする(ステップS58)。そして、ステップS60へ進み、所定の再生操作を行う。
【0081】
ただし、顔認識エンジン100は、画像に写っている複数のユーザの顔を認識可能なので、お父さんと一緒にお母さんも写っていれば、お母さんフォルダF2の内容も再生可能となる。
なお、複数のユーザの顔が認識され、登録されているユーザと登録されていないユーザとが混在している場合の制御については後述する。
【0082】
図11は、本実施形態による画像表示装置1の再生動作の中のスライドショー再生の手順を示すフローチャートである。図10のステップS52に相当する再生操作の有無の判断を行ったとき(ステップS70)、それがスライドショー再生か否かを判断する(ステップS72)。そして、スライドショー再生でなければ他の処理へ進む。
【0083】
一方、スライドショー再生であれば、まず、1枚目の画像を読み出す(ステップS74)。スライドショー再生としては、特定フォルダ内再生、古い順再生、または新しい順再生、ランダム再生などがある。次に、現在見ている閲覧者(登録されているユーザと登録されていないユーザとを含む)の顔認識を行う(ステップS76)。そして、顔認識された顔が前に閲覧した閲覧者の顔か否かを判断する(ステップS78)。図4に示すように、画像毎に閲覧者コードG7が用意されており、一度閲覧すると閲覧者コードG7と閲覧回数G8とが組になって登録されている。
【0084】
そこで、顔認識された顔が前に閲覧した閲覧者の顔でないと判断された場合、再生対象の画像は、該顔認識された閲覧者が見たことがない画像であるので、その画像の表示を行い(ステップS80)、閲覧者コードを発行し、顔画像の登録と閲覧回数の加算を行う(ステップS82)。一方、顔認識された顔が前に閲覧した閲覧者の顔であると判断された場合、再生対象の画像を、顔認識された閲覧者が前に見たことがあった場合であるので、ステップS80、S82をスキップして、ステップS84へ進む。
【0085】
次に、インタラプトが無いか否かを判断する(ステップS84)。すなわち、画像を表示中に、現在見ている閲覧者が変わった場合、あるいは新たな閲覧者が加わった場合の処理である。本実施形態では、表示する画像を選択する前に顔認識を行っているが、スライドショーは、数秒間同じ画像を表示し続けているので、当然、その間に閲覧者がいなくなったり、増えたり、変更したりすることが考えられる。
【0086】
ここでは、表示中の画像が特定の人、あるいは所有者以外には見られては相応しくない場合の対策を想定する。例えば、家族以外の人の顔を検出した場合、すなわち、インタラプトがあった場合には、表示を停止させるか、別の画像を読み出して差し替える(ステップS86)。差し替え用の特定の画像を用意しておいても良い。このインタラプト処理は、便宜上、フローチャートのこの位置に表現したが、インタラプト信号によりいつでも受け付けるようにすることもできる。
【0087】
また、シークレットフラグを立てたサブフォルダSF3から読み出された画像を表示中に、その保有者以外の新たな閲覧者が加わった場合も、ステップS86へ進み、表示を停止させるか、別の画像を読み出して差し替える。
【0088】
そして、終了指示があったか否かを判断し(ステップS88)、終了指示がなければ、ステップS74に戻って次の画像を読み出し、上述した処理を繰り返す。一方、終了指示があれば、当該処理を終了する。
【0089】
すなわち、本実施形態においては、スライドショーを表示する際、長時間になると同じ画像の繰り返しとなってくるので、見飽きてくる可能性があり、閲覧者を顔認識することによって、該閲覧者がまだ見ていない画像を表示するようにしている。
【0090】
なお、図11に示すフローチャートには、詳細まで記載していないが、閲覧者が複数の場合には、誰も見ていない画像>見たことがない人が混じっている>全員が見たことがある、の順で優先順位付けを行う。つまり、誰も見ていない画像を第1優先、見たことがない人が混じっている画像を第2優先、全員が見たことがある画像を第3優先として類別する。
【0091】
そして、まず、第1優先に属する画像をスライドショー表示し、第1優先に属する画像を全て表示し終えたならば、第2優先に属する画像をスライドショー表示する。第2優先に属する画像を全て表示し終えたならば、第3優先に属する画像をスライドショー表示し、第3優先に属する画像を全て表示し終えたならば、第1優先に属する画像からのスライドショー表示を再度実行する。
【0092】
無論、上記処理は、ある瞬間における閲覧者の数、または構成員が変化しない状態での動作であり、閲覧者の数、または構成員が変化する都度、新たに上記第1、第2、第3優先の類別は変化することとなる。
【0093】
更に、シークレットフラグG6がついている画像は、最初から表示対象としない。顔認識によりその画像の保有者本人であると認識されたときのみ表示しても良く、その際はステップS84により他人の顔が検出された瞬間、ステップS86で表示停止とする。
【0094】
なお、図10及び図12に示したフローチャートにより表示される画像は、画調変換されていない画像に関するものであり、画調変換された画像に関しては、何らの制限もなくスライド表示可能である。この場合、例えば、画調変換した画像をスライドショーモードが設定されたことを条件として、特定のフォルダ内の画像を画調変換して表示、古い順または新しい順で画像を画調変換して表示、ランダムに画像を画調変換して表示のいずれであってもよい。
【0095】
B.本実施形態の変形例
ここで、本発明の実施形態の変形例について説明する。
図12は、本変形例による画像表示装置のフォルダ構成を示す概念図である。第1実施の形態においては、図5に示すように、個人識別コードによる保有者別のフォルダを形成した。これに対し、本変形例では、図12に示すように、複数のメモリカード毎に、内部メモリ14にフォルダを形成して保存する。
【0096】
現在、カメラのSDカードや、携帯電話のミニSDカード、マイクロSDカード等を何枚もそのまま保管していて、どれがどれだか分からなくなってしまうケースも多い。複数のカメラで複数のSDカードを使用した場合も、どのSDカードをどのカメラでいつ撮影して何が記録されているかが分からなくなってしまうケースもある。
【0097】
そこで、図8のフローで示したと同様、特別な操作を行うことなくメモリカード60を画像表示装置1に差し込むだけで、例えば、A社のSDカード(1)F11、A社のSDカード(2)F12,B社のSDカード(1)F13、携帯電話のマイクロSDカードF14、…のようにフォルダ分けされる。A社、B社と言っているのは、カメラ、または携帯のメーカー名である。もちろん、顔認識により個人識別コードを付けることで、保有者は明確になっている。すなわち、SDカード(1)を挿入したのがお父さんであれば、フォルダF11の保有者はお父さんである。
【0098】
つまり、実施形態と同様、特別な操作を行うことなくメモリカード60を画像表示装置1に挿入して画像を保存していけば、カード別のフォルダが自動的にできるので、家庭用アルバム端末として好適である。
【0099】
なお、図12において、下段のフォルダは、画像を何らかの形で加工したものが記憶される。例えば、フォルダF15は、絵画変換した画像、フォルダF16は、シークレットフラグを設定した画像、フォルダF17は、修正加工を行った画像、そして、フォルダF18は、お気に入り画像が保存されるフォルダである。
【0100】
この変形例においても、顔認識によって誰が挿入したメモリカードかが分かるので、図5における個人別フォルダの中に、これらのフォルダをサブフォルダとして設けても良い。
【0101】
C.本実施形態の画像配信システム
次に、本発明の実施形態の画像配信システムについて説明する。
図13は、本実施形態による画像配信システムに係る、ネットワークによるコンテンツ配信サービスの一例を示すブロック図である。1は、図2における画像表示装置、520は、図3におけるネットワークサービスサイト、530は、同じく配信コンテンツサイトに対応する。
【0102】
配信コンテンツサイト530からは、コンテンツが配信されるが、図13に示すように、複数枚の静止画データと、テロップ用文字データと、音声データとから構成される。これらのコンテンツは、基本的に配信コンテンツサイト530からコンテンツサーバー524の中に置かれる。それを画像表示装置1の液晶表示パネル3に表示することになる。静止画のみを表示したり、その上にテロップ文字を流したり、音声や、音楽を流すことができる。
【0103】
図14は、本実施形態の特徴であるログ情報の解析について説明するための概念図である。CPU11は、撮像素子8で撮像されたユーザ(閲覧者)の画像を解析し、液晶表示パネル3に表示されている画像を閲覧している閲覧者の閲覧角度情報、距離情報を算出する。図4で説明したように、閲覧者の閲覧回数は、顔認識により、画像毎、あるいはコンテンツ毎にカウント可能である。ここで興味指数という概念を導入する。
【0104】
図14において、CPU11は、撮像素子8による撮像結果から、閲覧者と画像表示装置1との角度θ1、θ2、θ3を判断するとともに、画像表示装置1に対する閲覧者との距離L1、L2、L3を判断する。そして、角度と距離でそのコンテンツの注目度を解析し、興味指数としてログ情報に反映する。閲覧時間や、閲覧回数に加えて、閲覧者の顔、液晶表示パネル3に対する距離、角度、動きを認識すれば、様々な興味指数の取得が可能である。
【0105】
液晶表示パネル3に対する動きとしては、例えば、顔認識により、コンテンツに注目しているときの閲覧者の液晶表示パネル3に対する閲覧角度の角度θ1から角度θ3への変化や、閲覧者の液晶表示パネル3に対する閲覧距離の距離L3から距離L2への変化を、アルゴリズム化してコンテンツへの興味指数としてログ情報に反映する。
【0106】
また、事前に家族の顔認識をしておき、何のコンテンツを誰がどのぐらい見ていたかの情報をログ情報に反映してもよい。あるいは、家族の表情を認識しておき、そのコンテンツを見たときの反応(笑う、関心する、驚く)等の情報も反映してもよい。更に、1日、1週間、…等、画像表示装置1の設置場所での家族の滞在状況もログ情報に反映してもよい。また、認識情報だけでなく、お気に入りに登録したか、全画面表示にしたか等の操作も興味指数として反映してもよい。
【0107】
図15は、本実施形態による画像表示装置1でのログ記録の概略動作を示すフローチャートである。画像表示装置1が無線LANなどでネットワークに接続されている前提で、CPU11は、コンテンツ表示モードにする(ステップS90)。コンテンツ表示モードとは、配信コンテンツサイト530から配信されるコンテンツを受信して表示するモードであり、例えば、天気予報チャンネル、ファッションチャンネル、着こなし提案チャンネル、株価チャンネル、ライブカメラチャンネル、…などがある。コンテンツ情報は、図13で説明したように、一旦、ネットワークサービスサイト520のコンテンツサーバー524に置かれ、そこから画像表示装置1に通信制御部30を介してダウンロードされる。
【0108】
そこで、CPU11は、ユーザに希望のチャンネルを選択させる(ステップS92)。ユーザがチャンネルを選択すると、選択されたチャンネルの所定ページを表示する(ステップS94)。撮像素子8は、基本的に常時撮影を行っており、顔認識エンジン100により操作者(閲覧者)の顔を認識する(ステップS96)。その後、CPU11は、閲覧者までの距離、閲覧者の閲覧方向を示す、垂直方向(画面から見て正面)からの角度を演算により求める(ステップS98、ステップS100)。更に、認識された顔が移動した場合、移動した距離や、角度を検出する(ステップS102)。図14で説明したように、閲覧者の閲覧方向が、角度θ1から角度θ3へ変化したら、斜めから正面へ移動したということで興味指数が高いとみなす。また、画像表示装置1と閲覧者との距離が、距離L3から距離L1へ変化したら、画面に近づいたということで、やはり興味指数が高いとみなす。
【0109】
CPU11は、これらの情報を総合して興味指数を演算する(ステップS104)。興味指数の演算方法は、いろいろ考えられるが、例えば、個人識別コード“1001”の「お父さん」のそのコンテンツに対する興味指数は、「見た回数」、「見た時間」、「見た距離」、「見た角度」、「見ている際の移動状況」、「お気に入り登録操作」、「全画面表示操作」に依存する。これをログ情報として反応ログメモリ300に記録する(ステップS106)。
【0110】
この状態において、何らかの操作が行われたか否かを判断し(ステップS108)、例えば、別のチャンネル選択操作が行われた場合には、ステップS92へ戻り(A)、同じチャンネルの別の画面を指定する操作が行われた場合には、ステップS94へ戻る(B)。それ以外の操作が行われた場合には、その操作に従って必要な処理フローへ進む(ステップS110のC)。
【0111】
このログ情報は、ネットワークサービスサイト520にとっては、どんなコンテンツの購入を行うか、どのような表示をさせるかの重要な情報となり、配信コンテンツサイト530にとっては、コンテンツ作成上、また課金金額を決定するための重要な情報となる。更に、閲覧者の顔を認識してその人の興味のあるコンテンツを自動的に表示することも可能である。
【0112】
図16は、本実施形態において、配信コンテンツサイト530から配信され、ネットワークサービスサイト520のコンテンツサーバー524に一時的に記憶されるコンテンツのファイル構成の一例を示す概念図である。C1は、ヘッダで、配信会社情報、データの種類、データのサイズなど、コンテンツファイル自身の特徴を示すデータが書き込まれる。C2は、アプリケーションであり、このコンテンツがプログラムで動く場合のプログラムが書き込まれる。例えば、アドビフラッシュ(アドビ社の商標)、JAVA(登録商標)(サンマイクロシステムズ社の商標)などである。C3は、コンテンツの主体である実際に表示されるデータ部分である。C4は、音声データ、C5は、図13に示したようなテロップを含む文字データ、C6は、上記アプリケーションC2が使うパーツデータ、C7は、配信先、配信時間などを含む配信情報、C8は、有料コンテンツの場合の課金情報、C9は、広告を含む場合の広告情報である。
【0113】
C10は、上述したように認識結果である個人識別コードを含む閲覧者情報、C11は、上述したように「見た回数」、「見た時間」、「見た距離」、「見た角度」、「見ている際の移動状況」、「お気に入り登録操作」、「全画面表示操作」から算出された興味指数情報である。この閲覧者情報C10と興味指数情報C11とは、このコンテンツを特定するヘッダC1とともに反応ログメモリ300に保存される。
【0114】
なお、本実施形態では、撮像素子による認証を行ったが、タッチパネル5やボタン部に指紋認証や静脈認証技術を設けることもできる。指紋認証や静脈認証によるログ情報の解析の例としては以下のようなものがある。
例えば個人割り当てのボタンを用意してチャンネル選択の時間帯等を情報化する、広告ウインドウを閉じたかどうか、更に詳細情報を見たかどうか、詳細情報をダウンロードしたかどうか、コンテンツ配信側が出す案内情報のウインドウの選択状況、画像の静止ボタンやダウンロードボタンを何のコンテンツで誰が押したか、などの情報を興味指数に取り入れログ情報として解析することができる。
【0115】
次に、環境情報に応じた絵画変換を行う例について説明する。
絵画変換とは、上述したように写真などの画像を油絵調、水彩画風、油彩画風、パステル調、色鉛筆画調、クレヨン画調、イラスト画調、点描画調、エアブラシ、シルクスクリーン風、刺繍絵風、コラージュ(糊付け)風など、いわゆる絵画調に変換するものである。画調(〜調)と画風(〜風)は同様の意味であり、画風の方がより絵画的な表現であるが、技術的には相違はない。
【0116】
画像処理技術は基本的にフォトレタッチソフト等で知られている各種エフェクト処理(フィルター処理)のパラメータを調整・組み合わせて絵画調に見えるように変換する。
【0117】
パラメータとは画素にエフェクト処理をかけるための要素である。すなわち、画素は一般的にRGB各複数ビットの階調で表現されるが、そのビットデータに演算をかけるための要素である。具体例は下記に示すが、例えば赤を強調するときにR×2、G×0.9、B×0.5、のような演算をする場合の前記“2”、“0.9”、“0.5”はパラメータの一種である。あるいは、予め演算要素がプログラミングされており、赤の強調度1のときはR×1.1、強調度2のときはR×1.2、強調度3のときはR×1.3のような演算をする場合の強調度もパラメータの一種である。
【0118】
また、注目画素と隣接画素の間で所定の演算をかける場合もある。例えば注目画素P5(RGB)を中心に画素P1(RGB)、P2(RGB)、P3(RGB)、P4(RGB)、P5(RGB)、P6(RGB)、P7(RGB)、P8(RGB)、P9(RGB)が上下左右に並んでいるとき、P5(R)に対してP5(R)=P1(R)×n1+P2(R)×n2+P3(R)×n3+P4(R)×n4+P5(R)×n5+P6(R)×n6+P7(R)×n7+P8(R)×n8+P9(R)×n9という演算を行い、G、Bについても同様の演算を行う。nがパラメータであり、この数値(係数)を変えることにより異なったエフェクト処理ができる。
【0119】
エフェクト処理や絵画変換処理はこのような画素に対する複雑な演算処理が予めプログラミングされているものである。
【0120】
エフェクト処理の例としては、例えば画像にテクスチャをマッピングし、特殊な質感を与えるテクスチャ処理、画像を輪郭部・細かい模様などのテクスチャ部・平坦部に分類し、それぞれに適宜処理を施すことで、質感と解像感を高める解像度処理、色を色相(Hue)、彩度(Saturation)、明度(Value)の3要素に分類して調整するHSV処理、画像のR(赤)G(緑)B(青)各色の度合いを調整するRGB処理、R→G→Bの方向に交換するRGB交換処理、ラプラシアンフィルタと呼ばれるフィルタをかけるエッジ抽出処理、メディアンフィルタと呼ばれるフィルタをかける中間濃度抽出処理、隣接する画素のRGBのヒストグラムを抽出し、画素間のヒストグラムを適宜分布させ、コントラスト修正を行ったり画像のヒストグラムを引き伸ばすイコライズ処理、明るい部分と暗い部分を維持して中間的な明るさを調節するガンマ補正処理、画像の暗い領域を明るくしたり、明るい領域を暗くしたりするシャドー処理、各ピクセルのRGB値が、しきい値以上の明るさの時に、そのRGB値を反転するソラリゼーション処理、ランダムにドットを描画し、ノイズを発生させ、ノイズの量や色を調整するノイズ付加処理、などがある。
【0121】
また、タッチ(筆触)が異なるように加工するエフェクト処理もある。
具体的には、画像データを構成する画素から、色などを基準として相関の高い画素を集め、グループを形成する。続いて、それぞれのグループの画素に対して、同一のグループの画素については色を該グループの代表色に置き換える。こうして色を代表色に置き換えられた画素のグループがそれぞれの筆触を形成する。かかる画像加工処理によると、グループとして集められる画素の相関の取り方、及び同一の色(代表色)の画素により構成されるグループの形状(長さ(距離)、扁平度)を変化させることによって、形成される筆触を変化させることができ、結果的に、画像データが表す画像の画調を様々な絵画調に変更することができる。そして各種画調毎に、それぞれの処理で用いる相関度、グループの形状を表す長さ、扁平度などのパラメータの最適な組み合わせが設定されており、この情報がパラメータメモリ410に記憶されている。絵画変換エンジン200はパラメータメモリ410に記憶された情報に基づいて各種画調への変更を行う。
【0122】
複数の画像データの各々を異なる筆触に変更することは、画調を変更する際に、筆触を構成する画素を集めたグループの形状、例えば、グループの扁平度を調整することによって実現できる。筆触を表す同一の色の画素によって構成されるグループの扁平度を大きくすると、筆触は太くなり、結果として画像のタッチは荒く表示される。同一の色の画素によって構成されるグループの扁平度を小さくすると、小さな筆触を作り出すことができ、結果として、画像のタッチが細かく表示される。
【0123】
図17に、このようにして生成される筆触を表す画素のグループの一例を示す。例えば、図17(a)に示すように、筆触を表す同一の色の画素によって構成されるグループの扁平度を大きくすると、筆触は太くなり、結果として画像のタッチは荒く表示される。図17(c)に示すように、同一の色の画素によって構成されるグループの扁平度を小さくすると、小さな筆触を作り出すことができ、結果として、画像のタッチが細かく表示される。図17(b)に示すグループは標準的な筆触を表している。
【0124】
図18は、絵画変換の概要を示すフローチャートである。まず、メモリカード60から絵画変換したい画像をRAM13に読み込む(ステップS202)。画素毎にR(赤)G(緑)B(青)に対する調整を行うためビットマップデータに変換する(ステップS204)。
そしてどの画調にしたいかを選択する(ステップS206)。画調毎に各種パラメータが予めプログラミングされているので、そのパラメータをパラメータメモリ410から読み込んで設定する(ステップS208)。そして対象画像に対してそのパラメータで変換処理を行う(ステップS210)。
【0125】
例えば、水彩画風であれば隣接する画素のRGBのヒストグラムを抽出し、ヒストグラムの分布パラメータを最小濃度側に細かく、最大濃度側に粗くなるようフィルタリングする。更に、画素にガウスフィルタと呼ばれるぼかしフィルタをかけることによって線数の少ないディテールを加え、かすんだような画調を作る。
【0126】
次に、環境情報エンジン400で収集された環境情報を読み込み(ステップS212)、環境情報に応じてステップS208で設定したパラメータに対して所定の変換処理を行う(ステップS214)。すなわち、環境情報に応じて画調を更に変更するものである。そして、変更されたパラメータに従って絵画変換処理を行う(ステップS216)。これにより、同じカメラで同じ場所を撮影した画像であっても、そのカメラが設置されている場所の環境によって異なった画調の画像を得ることができる。環境情報によって画調を変える例は図19〜24により後述する。なお、環境情報を反映させる前の絵画変換画像が必要なければステップS210の絵画変換処理は省略してしてもよい。
ステップS216で絵画変換された画像はJPEGデータに変換して圧縮し(ステップS218)、内部メモリ14またはメモリカード60に保存する(ステップS220)。
【0127】
以下、環境情報に応じて画調を変更する例を説明する。図19(a)、(b)は、環境情報エンジン200により生成される環境情報の例を表す。環境情報が示す環境の一つは、例えば配信コンテンツサイト530の位置(地理的意味で言う位置)である。(図中では環境情報の中の位置を環境データと表記)。位置は、緯度と経度との組み合わせや、郵便番号などで表される。あるいは、住所、電話番号、インターネット500に接続するためのアクセスポイントの固定IPアドレス、宅配業者等が管理する配送センターコード、などで表されてもよい。日時は、日にちと時刻によって表されてもよいし、ある基準となる地点(例えば、環境情報サーバー526が設置されている建物の位置や、グリニッジ標準時GMTの基準点など)との時差で表されてもよい(図中では環境情報としての日時、天気、気温、湿度、風速などを特徴データと表記)。
【0128】
環境情報エンジン400は、これらの環境情報を、定期的なタイミングで取得し、適宜更新する。図19(b)は、図19(a)に示す位置にある配信コンテンツサービスサイト530の環境情報が更新された後の環境情報の例を表す図である。
【0129】
図20は、パラメータの一つである「変換アルゴリズム」を表す。
例えば、配信コンテンツサイト530の環境情報サーバー526から“快晴”を示す情報が送られると、CPU11は、環境情報サーバー526から受信した画像データに対して、色鉛筆で描かれたような画像になるようにエフェクト処理を施す。
天気の分類の仕方や変換アルゴリズムの分類の仕方は、任意である。また、天気と変換アルゴリズムとの対応付けを任意に変更した実施形態を採用することも可能である。
【0130】
図21は、パラメータの一つである「デフォルメ」を表す。
例えば、環境情報サーバー526から“気温10℃未満”を示す情報が送られると、CPU11は、配信コンテンツサイト530から受信した画像データに対して、非常におとなしい程度に特徴部分を誇張した画像となるようにエフェクト処理を施す。
気温の分類の仕方やデフォルメの程度の分類の仕方は、任意である。また、気温とデフォルメの程度との対応付けを任意に変更した実施形態を採用することも可能である。
【0131】
図22は、パラメータの一つである「筆の太さ」を表す。
例えば、環境情報サーバー526から“風速1メートル未満”を示す情報が送られると、CPU11は、配信コンテンツサイト530から受信した画像データに対して、画像に含まれる輪郭線や特徴線が細くなるようにエフェクト処理を施す。
風速の分類の仕方や筆の太さの程度の分類の仕方は、任意である。また、風速と筆の太さの程度との対応付けを任意に変更した実施形態を採用することも可能である。
【0132】
図23は、センサ40による得られる気圧、湿度、照度等の情報から天気情報を収集し、あるいは他の配信コンテンツサイト530からの天報情報を取得して、その環境情報に応じて絵画変換のアルゴリズム(画調)とパラメータの一つである「筆の太さ」を変える例を示す。例えば快晴の日は非常に細い筆の太さで色鉛筆画風に変換し、雨の日は普通の筆の太さでパステル調に変換する。
【0133】
図24は、時刻情報に応じて絵画の雰囲気を変える例を示す。各種パラメータを調整することにより絵画印刷される素材イメージの画調を変更する例を示し、例えば00:00〜02:00の間は「なめらかな紙に描いたように」画調変換し、02:00〜04:00は「目の粗い紙に描いたように」画調変換する。この素材イメージは正確に定義されるものではなく作者の感性による部分も大きいので、アルゴリズム作成時に予めパラメータを設定し、変換雰囲気を用意しておく。
【0134】
以上説明したように、本発明の実施態様によれば、配信コンテンツサイト530から受信した環境情報に応じて表示画像の画調を変えることができる。
【符号の説明】
【0135】
1 画像表示装置
2 本体
3 液晶表示パネル
5 タッチパネル
6 メモリカードスロット
7 GPSアンテナ
8 撮像素子
11 CPU
12 ROM
13 RAM
14 内部メモリ
16 表示制御部
17 キー入力制御部
18 メモリカードインターフェース
19 撮像制御部
20 GPS制御部
30 通信制御部
33 アドレス帳
40 センサ
60 メモリカード
70 電源制御部
100 顔認識エンジン
200 絵画変換エンジン
300 反応ログメモリ
400 環境情報エンジン
500 インターネット
510 パーソナルコンピュータ
520 ネットワークサービスサイト
521 認証サーバー
522 メールサーバー
523 課金サーバー
524 コンテンツサーバー
525 絵画変換サーバー
526 環境情報サーバー
530 配信コンテンツサイト

【特許請求の範囲】
【請求項1】
画像データを記憶し表示する画像表示装置であって、
画像データを所定のパラメータに基づいて画調変換する画調変換手段と、
当該画像表示装置と離れた場所に設置されたサーバーから送られてくる環境情報を受信し、この環境情報に応じて前記パラメータを変更する変更手段と、
前記サーバーから配信される画像データを受信する受信手段と、を備え、
前記画調変換手段は、前記変更手段により変更されたパラメータにより前記受信された画像データを画調変換することを特徴とする画像表示装置。
【請求項2】
前記環境情報は、少なくとも温度、風速、気圧、湿度のいずれかを含む気象情報であることを特徴とする請求項1記載の画像表示装置。
【請求項3】
前記環境情報は、少なくとも緯度、経度、高度、地域のいずれかを含む位置情報であることを特徴とする請求項1記載の画像表示装置。
【請求項4】
前記環境情報は、少なくとも時刻、年、月、日、季節のいずれかを含む時間情報であることを特徴とする請求項1記載の画像表示装置。
【請求項5】
前記変更手段は、前記環境情報を請求項1記載のサーバーとは異なったサーバーから受信することを特徴とする請求項1記載の画像表示装置。
【請求項6】
前記画像表示装置の閲覧者の興味情報と前記環境情報を関連付け、該環境情報と興味情報によって前記所定のパラメータを変化させることを特徴とする請求項1記載の画像表示装置。
【請求項7】
前記興味情報は、閲覧者の少なくとも見た回数、見た時間、見た距離、見た角度、見ている際の移動状況のいずれかを含むことを特徴とする請求項6記載の画像表示装置。
【請求項8】
画像データをサーバーから配信し、前記配信された画像データを受信し、受信した画像データの画調を所定のパラメータに基づいて変換する画像データ変換方法において、
前記サーバー付近に設けられたセンサにより環境に関係する環境情報を収集し、該環境情報に応じて前記パラメータを変化させ、該変化したパラメータにより前記画像データを変換することを特徴とする画像データ変換方法。
【請求項9】
前記環境情報は、少なくとも温度、気圧、風速、湿度、照度、人感情報のいずれかを含むことを特徴とする請求項8載の画像データ変換方法。
【請求項10】
前記環境情報は、少なくとも緯度、経度、高度、地域のいずれかを含むことを特徴とする請求項8記載の画像データ変換方法。
【請求項11】
前記環境情報は、少なくとも時刻、年、月、日、季節のいずれかを含むことを特徴とする請求項8記載の画像データ変換方法。
【請求項12】
前記環境情報は、当該サーバー外のサーバーからインターネットを介して受信されることを特徴とする請求項8記載の画像データ変換方法。
【請求項13】
画像データを撮像する手段を備えた画像配信サイトと、
前記画像配信サイトから配信される画像データを受信し表示する画像表示装置と、
前記画像表示装置に設けられ、受信した画像データの画調を変換する画調変換手段と、
前記画像配信サイトに設けられる環境に関係する環境情報を収集する環境情報収集手段と、を備え、
前記画調変換手段は前記環境情報に応じて画調を変換することを特徴とする画像配信システム。
【請求項14】
ライブ映像配信サイトから配信されるライブ映像を画像表示装置に表示するとともに、配信されたライブ映像の画像データを所定のパラメータに応じて絵画風の画調に変換する画像配信システムにおいて、
前記退部映像配信サイトにセンサを設置し、該センサにより現場の環境情報を収集し、その環境に応じて前記画像表示装置側の調画調変換のための前記所定のパラメータを変更することにより画調の雰囲気を変え、遠方にある現場の環境に応じて絵画変換を行うことを特徴とする画像配信システム。
【請求項15】
前記画像表示装置の閲覧者の興味情報と前記環境情報を関連付け、該環境情報と興味情報によって前記絵画変換のパラメータを変化させることを特徴とする請求項14記載の画像配信システム。
【請求項16】
前記環境情報と興味情報を関連づけて蓄積またはフイードバックすることにより今後の配信に反映させることを特徴とする請求項14記載の画像配信システム。
【請求項17】
前記興味情報は、閲覧者の少なくとも見た回数、見た時間、見た距離、見た角度、見ている際の移動状況のいずれかを含むことを特徴とする請求項15または16いずれかに記載の画像配信システム。
【請求項18】
コンピュータにより読み取られ実行可能なプログラムであって、
遠方にあるサーバーから配信された画像データを受信するプログラムステップと、
前記サーバー付近に設けられたセンサにより収集された環境に関係する環境情報を受信するプログラムステップと、
画像データを所定のパラメータに従って画調変換するプログラムステップと、
前記受信した環境情報に応じて前記パラメータを変更するプログラムステップと、
該変更されたパラメータにより前記受信した画像データの画調を変換するプログラムステップと、を含むプログラム。
【請求項19】
更に、閲覧者の閲覧情報を収集するプログラムステップと、
前記パラメータを前記閲覧情報に応じて変更するプログラムステップと、を含む請求項18記載のプログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate

【図20】
image rotate

【図21】
image rotate

【図22】
image rotate

【図23】
image rotate

【図24】
image rotate


【公開番号】特開2012−49850(P2012−49850A)
【公開日】平成24年3月8日(2012.3.8)
【国際特許分類】
【出願番号】特願2010−190387(P2010−190387)
【出願日】平成22年8月27日(2010.8.27)
【出願人】(000001443)カシオ計算機株式会社 (8,748)
【Fターム(参考)】