説明

情報処理装置及び方法、並びにプログラム

【課題】 写真等の画像に被写体として含まれるものの名前や説明を適切に得ることができるようにする。
【解決手段】 写真関連情報取得部は、所定の画像に関連する情報を画像関連情報として取得する。キーワード生成部は、写真関連情報取得部により取得された画像関連情報に基づいてキーワードを生成する。表示文字列候補生成部は、キーワード生成部により生成されたキーワードを1つ以上用いて、表示対象の候補となる文字列を、表示文字列候補として生成する。本技術は、SNSを利用する情報処理装置に適用することができる。

【発明の詳細な説明】
【技術分野】
【0001】
本技術は、情報処理装置及び方法、並びにプログラムに関し、特に、写真等の画像に被写体として含まれるものの名前や説明を適切に得ることができる、情報処理装置及び方法、並びにプログラムに関する。
【背景技術】
【0002】
人は、未知なものに出会った時、その名前やその説明を知りたいと要望するものである。また、人は、名前の無いものを創作したとき、例えば手作り料理等して新たな食べ物を創作したとき、そのものに対して名前や説明をつけたいと要望するものである。
【0003】
このような要望に応えるために、未知なものや名前の無いものを被写体とする写真を撮り、当該写真を解析することで当該写真に関連したタグを生成するという技術が存在する(例えば、特許文献1,2参照)。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2008−165303号公報
【特許文献2】特開2010−218227号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、特許文献1,2に記載された従来の技術は、写真の整理や検索に用いるためのものであり、同一の被写体からは同一のタグが常に生成される。従って、名前の無いものが被写体の場合に生成されたタグは、当該名前の無いものにつける新たな名前として採用することまでは可能であるが、当該名前の無いものにつける説明として採用することは不適当である。さらに、名前や説明は本来存在するがそれらが未知なものが被写体の場合に生成されたタグから、それらの名前や説明を知ることは非常に困難である。
【0006】
本技術は、このような状況に鑑みてなされたものであり、写真等の画像に被写体として含まれるものの名前や説明を適切に得ることができるようにしたものである。
【課題を解決するための手段】
【0007】
本技術の一側面の情報処理装置は、所定の画像に関連する情報を画像関連情報として取得する画像関連情報取得部と、前記画像関連情報取得部により取得された前記画像関連情報に基づいてキーワードを生成するキーワード生成部と、前記キーワード生成部により生成された前記キーワードを1つ以上用いて、表示対象の候補となる文字列を、表示文字列候補として生成する表示文字列候補生成部とを備える。
【0008】
前記表示文字列候補生成部により生成された前記表示文字列候補の中から、表示対象の文字列を表示文字列として選択する表示文字列選択部とを備えることができる。
【0009】
前記表示文字列選択部により選択された前記表示文字列と、前記所定の画像のデータとを関連付けて、他の情報処理装置に送信する通信部とを備えることができる。
【0010】
前記表示文字列選択部は、さらに、前記表示文字列候補のそれぞれに対してスコアを算出し、前記表示文字列候補のそれぞれに対して算出された前記スコアに基づいて、前記表示文字列を選択することができる。
【0011】
他の情報処理装置から送信されてきた前記所定の画像のデータを受信する通信部をさらに備え、前記画像関連情報取得部、前記キーワード生成部、及び前記表示文字列候補生成部は、前記通信部に受信された前記所定の画像のデータに基づいて、それぞれの処理を実行し、前記通信部は、前記表示文字列候補生成部により生成された前記表示文字列候補を、前記他の情報処理装置に送信することができる。
【0012】
前記画像関連情報取得部は、前記所定の画像のデータの解析結果を用いて、所定の言語で前記画像関連情報を生成し、前記キーワード生成部は、前記所定の言語で前記キーワードを生成し、前記表示文字列候補生成部は、前記所定の言語で前記表示文字列候補を生成することができる。
【0013】
前記画像関連情報取得部は、前記所定の画像のデータの解析結果を示す情報を、前記画像関連情報の一種である画像解析情報として取得する画像解析情報取得部と、前記所定の画像のデータに付加された情報を、前記画像関連情報の一種である画像付加情報として取得する画像付加情報取得部と、前記所定の画像の撮影者または前記所定の画像が属するコミュニティへの投稿者の情報を、前記画像関連情報の一種である撮影者投稿者情報として取得する撮影者投稿者情報取得部とを備えることができる。
【0014】
前記画像関連情報取得部は、前記所定の画像に付属している情報を、前記画像関連情報の一種である画像付属情報として取得する画像付属情報取得部と、前記所定の画像が属する前記コミュニティにおける前記所定の画像の閲覧者に関する情報、または前記所定の画像の閲覧環境に関する情報を、前記画像関連情報の一種である閲覧者閲覧環境情報として取得する閲覧者閲覧環境情報取得部とをさらに備えることができる。
【0015】
前記キーワード生成部は、前記画像関連情報そのもの、または前記画像関連情報を所定のルール若しくはデータベースを用いて変換したものを、前記キーワードとして生成することができる。
【0016】
前記表示文字列候補生成部は、前記キーワードそのもの、前記キーワードを複数連結したもの、または前記キーワードを所定のルール若しくはデータベースを用いて変換したものを、前記表示文字列候補として生成することができる。
【0017】
本技術の一側面の情報処理方法及びプログラムは、上述した本技術の一側面の情報処理装置に対応する方法及びプログラムである。
【0018】
本技術の一側面の情報処理装置及び方法並びにプログラムにおいては、所定の画像に関連する情報が画像関連情報として取得され、取得された前記画像関連情報に基づいてキーワードが生成され、生成された前記キーワードが1つ以上用いられて、表示対象の候補となる文字列が、表示文字列候補として生成される。
【発明の効果】
【0019】
以上のごとく、本技術によれば、写真等の画像に被写体として含まれるものの名前や説明を適切に得ることができる。
【図面の簡単な説明】
【0020】
【図1】本技術の第1実施形態が適用される表示文字列自動生成システムの構成を示すブロック図である。
【図2】文字列自動生成システムのうちのサーバの機能的構成例を示すブロック図である。
【図3】サーバと端末装置との間の処理の関係を説明するフローチャートである。
【図4】写真関連情報取得部により取得された写真関連情報の例を示す図である。
【図5】キーワード生成部により生成されたキーワードの例を示す図である。
【図6】表示文字列候補生成部により生成された表示文字列候補の例を示す図である。
【図7】表示文字列選択部により選択された表示文字列の例を示す図である。
【図8】端末装置により表示された表示文字列と写真の例を示す図である。
【図9】サーバと端末装置との間の処理の関係を説明するフローチャートである。
【図10】写真関連情報取得部により取得された写真関連情報の例を示す図である。
【図11】表示文字列を選択するための操作画像の例を示す図である。
【図12】海外のレストランでのメニューの例を示す図である。
【図13】サーバと端末装置との間の処理の関係を説明するフローチャートである。
【図14】メニューの写真に重畳される表示文字列の例を示す図である。
【発明を実施するための形態】
【0021】
本技術の実施形態として、3つの実施形態(以下、それぞれ第1実施形態乃至第3実施形態と称する)について、以下の順序で説明する。
1.第1実施形態(写真閲覧時の表示文字列の自動生成の例)
2.第2実施形態(写真アップロード時の表示文字列候補の自動生成の例)
3.第3実施形態(メニュー翻訳アプリケーションを用いた表示文字列の自動生成の例)
【0022】
以下、図面を参照して、本技術の実施の形態について説明する。
【0023】
<1.第1実施形態>
[本技術が適用される文字列自動生成システム1の構成例]
図1は、本技術の第1実施形態が適用される文字列自動生成システムの構成を示すブロック図である。
【0024】
図1の文字列自動生成システム1は、サーバ11、端末装置12−1乃至12−N(Nは1以上の任意の整数値)、及びネットワーク13から構成されている。なお、以下、端末装置12−1乃至12−Nを個々に区別する必要がない場合、これらをまとめて端末装置12と称する。
【0025】
サーバ11は、所定のSNS(Social Network Service)を提供するか又は支援するサーバであり、本実施形態では少なくとも次の機能を有する。即ち、サーバ11は、ネットワーク13に接続された任意の端末装置12からアップロードされた画像のデータを受信して記録する機能を有する。また、サーバ11は、記録した画像のデータを解析して、当該画像に含まれるオブジェクトを処理対象として、処理対象の名前や説明を生成する機能を有する。ここでいう「生成」とは、名前の無いものが処理対象となっている場合に、新たな名前や新たな説明を創造して付けることのみならず、名前や説明が本来存在するがそれらが未知なものが処理対象となっている場合に、未知な状態を脱して名前や説明を表現することを含む。そして、サーバ11は、生成した名前や説明を示すデータを、記録された画像のデータと共に任意の端末装置12に送信する機能を有する。サーバ11のさらなる詳細については後述する。
【0026】
端末装置12は、サーバ11により提供又は支援されるSNSを利用するユーザにより操作され、ネットワーク13に接続されたサーバ11や他の端末装置12との間で各種情報を送受信することができる。例えば、端末装置12は、SNSを利用するユーザと他のユーザとが写真等の画像を共有すべく、当該画像のデータをネットワーク13を介してサーバ11にアップロードすることができる。このようにしてサーバ11にアップロードされた画像のデータは、上述したように、サーバ11により生成されたオブジェクトの名前や説明を示すデータと共に他の端末装置12に送信される。換言すると、他の端末装置12からサーバ11にアップロードされた画像のデータは、サーバ11により生成されたオブジェクトの名前や説明を示すデータと共に端末装置12に送信されてくる。このような場合、端末装置12は、これらのデータを受信して、当該画像と共に当該オブジェクトの名前や説明をディスプレイ等に表示する。
【0027】
ネットワーク13は、例えば本実施の形態ではインターネットである。なお、以下、文字列自動生成システム1は、画像のデータのうち特に写真のデータを処理対象とするものとする。この場合、オブジェクトは、写真に含まれる被写体であるものとする。
【0028】
[サーバ11の構成例]
図2は、図1の文字列自動生成システム1のうちのサーバ11の機能的構成例を示すブロック図である。
【0029】
サーバ11は、通信部21、記録部22、制御部23、ドライブ24、及びドライブ25を含むように構成される。
【0030】
通信部21は、例えばネットワークインタフェースなどよりなり、ネットワーク13を介して端末装置12と通信することで、各種情報を授受する。例えば、通信部21は、端末装置12から送信されてきた写真のデータを受信する。また、通信部21は、当該写真に含まれる被写体の名前や説明を示すデータを記録部22から読み出して、ネットワーク13を介して端末装置12に送信する。また、通信部21は、必要に応じて、写真のデータと当該写真に含まれる被写体の名前や説明を示すデータとを関連付けて、ネットワーク13を介して端末装置12に送信する。
【0031】
記録部22は、例えばハードディスクや不揮発性のメモリなどよりなり、各種データを記録する。例えば記録部22は、通信部21に受信された写真のデータを記録する。また、記録部22は、制御部23における処理に必要なデータや、制御部23により生成されたデータ等も必要に応じて記録する。
【0032】
制御部23は、例えばCPU(Central Processing Unit)、ROM(Read Only Memory)、及びRAM(Random Access Memory)等よりなる。CPUは、ROMに記録されているプログラム、又は、記録部22からRAMにロードされたプログラムに従って各種の処理を実行する。RAMには、CPUが各種の処理を実行する上において必要なデータ等も適宜記憶される。
【0033】
制御部23は、機能的には、写真関連情報取得部31、キーワード生成部32、表示文字列候補生成部33、及び表示文字列選択部34を有している。
【0034】
写真関連情報取得部31は、記録部22に記録されている写真に関連する各種の情報(以下、これらの情報をまとめて写真関連情報と称する)を取得する。例えば、写真解析エンジンによる写真の解析結果を示す情報(以下、写真解析情報と称する)や、写真に付加されている撮影日時等の情報(以下、写真付加情報と称する)が、写真関連情報の一種として取得される。また例えば、写真が属しているSNSのグループ、コミュニティ等(以下、コミュニティと略称する)の情報であって写真に付属する情報(以下、写真付属情報と称する)、撮影者又は投稿者に関する情報(以下、撮影者・投稿者情報と称する)、閲覧者や閲覧環境に関する情報(以下、閲覧者・閲覧環境情報と称する)等が、写真関連情報の一種として取得される。
【0035】
写真関連情報取得部31は、上述したような各種写真関連情報を取得するために、写真解析情報取得部41、写真付加情報取得部42、写真付属情報取得部43、撮影者・投稿者情報取得部44、及び閲覧者・閲覧環境情報取得部45を含むように構成される。
【0036】
写真解析情報取得部41は、各種の写真解析エンジンが、記録部22に記録されている写真を解析することによって得られる写真解析情報を取得する。ここで、写真解析エンジンの搭載場所は、サーバ11内とするが、特にこれに限定されず任意の場所でよい。サーバ11を複数の装置でクラウドシステムとして構成してもよい。
【0037】
また、写真解析エンジンの種類も、特に限定されないが、本実施形態では、次の写真解析エンジンが採用されている。
【0038】
例えば、本実施形態では、物体認識用の写真解析エンジンが採用されている。当該物体認識用の写真解析エンジンにより得られる写真解析情報には、写真に含まれる被写体が、例えば、料理なのか、自動車なのか等、被写体が何の物体であるのかといった物体認識の結果が含まれる。
【0039】
また、例えば、本実施形態では、顔・人物認識用の写真解析エンジンが採用されている。当該顔・人物認識用の写真解析エンジンにより得られる写真解析情報には、写真に含まれる人物の顔の位置や角度、感情、年齢、性別等の情報や、当該人物を特定する情報等の顔・人物認識の結果が含まれる。
【0040】
また、例えば、本実施形態では、料理認識用の写真解析エンジンが採用されている。当該料理認識用の写真解析エンジンにより得られる写真解析情報には、写真に含まれる料理の位置、カテゴリ、名前、素材、カロリー、栄養素等の料理認識の結果が含まれる。
【0041】
また、例えば、本実施形態では、構図解析用の写真解析エンジンが採用されている。当該構図解析用の写真解析エンジンにより得られる写真解析情報には、写真中の被写体の分布、メインとして撮影された被写体等の構図解析の結果が含まれる。
【0042】
また、例えば、本実施形態では、シーン解析用の写真解析エンジンが採用されている。当該シーン解析用の写真解析エンジンにより得られる写真解析情報には、写真が風景写真なのか、人物写真なのか等のシーン解析の結果が含まれる。
【0043】
また、例えば、本実施形態では、注目領域認識用の写真解析エンジンが採用されている。当該注目領域認識用の写真解析エンジンにより得られる写真解析情報には、写真の中で人に注目され易い領域等の注目領域認識の結果が含まれる。
【0044】
このような各種の写真解析エンジンは組み合わせて用いられる場合がある。この場合、写真解析情報取得部41は、組み合わせて用いられた各種の写真解析エンジンの各々により得られる、各種の写真解析情報を取得する。
【0045】
写真付加情報取得部42は、写真の撮影日時、撮影場所、撮影モード等の写真付加情報を取得する。
【0046】
撮影日時からは、写真が撮影された日時や季節等がわかる。撮影場所とは、GPS(Global Positioning System)等に基づく位置情報であり、写真が撮影された場所の名前や住所等がわかる。撮影モードは、写真の撮影時のカメラの撮影モードである。例えば、撮影モードが風景モードを示す場合には、風景写真が撮影されたことがわかる。また例えば、撮影モードがポートレートモードを示す場合には人物写真が撮影されたことがわかる。
【0047】
写真付属情報取得部43は、写真が属しているコミュニティや、写真に付加されたタグやコメント等の写真付属情報を取得する。
【0048】
写真が属しているコミュニティの情報とは、写真がアップロードされているSNS等の情報であり、投稿者や閲覧者の反応によって変化し得る。写真に付加されたタグとは、写真を撮影したユーザによって付加されたタグの他、写真のタイトル名等、写真の検索や整理のためにユーザの知識により付加された、写真の一般的な特徴を表わすものをいう。写真に付加されたコメントとは、写真がアップロードされているコミュニティで付加されたコメントや、「いいね」のような評価のコメント等であり、付加されるタイミングによって適宜変化する。
【0049】
従って、後述するキーワード生成部32は、写真付属情報取得部43により取得される写真付属情報に基づいて、投稿者や閲覧者の反応によって変化し得るキーワード、タイミングによって変化するキーワードを生成することができる。
【0050】
撮影者・投稿者情報取得部44は、写真の撮影者または投稿者が属しているコミュニティのアカウント情報等である撮影者・投稿者情報を取得する。なお、アカウント情報には、コミュニティを利用している撮影者または投稿者の氏名、住所、好み等の情報が含まれる。
【0051】
閲覧者・閲覧環境情報取得部45は、写真の閲覧者が属しているコミュニティにおけるアカウント情報等や、閲覧環境の情報等である閲覧者・閲覧環境情報を取得する。
【0052】
撮影者・投稿者情報、閲覧者・閲覧環境情報によって、撮影者または投稿者と閲覧者との関係性や、コミュニティでのつながり等がわかる。後述するキーワード生成部32は、これらの情報を用いることにより、撮影者若しくは投稿者毎に、また、閲覧者毎に異なるキーワードを生成することができる。
【0053】
キーワード生成部32は、写真関連情報取得部31によって取得された各種の写真関連情報に基づいて、キーワードを生成する。生成されるキーワードは、写真関連情報そのものであっても、写真関連情報が所定のルール若しくはデータベースを用いて変換されたものであってもよい。また、複数の写真関連情報から1つのキーワードが生成されても、1つの写真関連情報から複数のキーワードが生成されてもよい。いずれにしても、上述のように、同じ被写体に対しても状況に応じて異なる写真関連情報が取得されるので、同じ被写体に対しても状況に応じて異なるキーワードが生成される。
【0054】
キーワードとしては、例えば、写真全体から写真中の対象の環境や状態を説明する単語がキーワードとして生成される。また、例えば、撮影時の時間、場所、または環境に関連する単語がキーワードとして生成される。また、例えば、写真が属するコミュニティに関する単語がキーワードとして生成される。なお、コミュニティ等に関連する単語とは、コミュニティにおいて写真が属するアルバムの名前等を示す単語や、コミュニティで撮影時や投稿時に流行していた単語(いわゆるバズワード)等である。また、例えば、撮影者や閲覧者に関連した単語がキーワードとして生成される。
【0055】
表示文字列候補生成部33は、キーワード生成部32により生成されたキーワードを1つ以上用いて、写真に含まれる被写体の名前や説明である文字列を表示文字列候補として生成する。生成される表示文字列候補は、キーワードそのものであっても、キーワードを複数連結したものであってもよい。また、生成される表示文字列候補は、キーワードが所定のルール若しくはデータベースを用いて変換されたものであってもよい。いずれにしても、上述のように、同じ被写体に対しても状況に応じて異なる単語がキーワードとして生成されるので、同じ被写体に対しても状況に応じて異なる表示文字列候補が生成される。
【0056】
表示文字列候補として、例えば、対象そのものを説明する名詞であるキーワードと、対象の様子や状態を表わす形容詞であるキーワードとを連結した文字列が表示文字列候補として生成され得る。
【0057】
また例えば、名詞だけを連結した文字列も表示文字列候補として生成され得る。なお、名詞だけを連結した文字列が表示文字列候補として生成される場合、末尾に対象そのものを説明する名詞を配置することで自然な文字列が生成される。
【0058】
また例えば、所定のテンプレートにキーワードを当てはめた文字列が表示文字列候補として生成され得る。なお、所定のテンプレートとしては、例えば、「AA風BB(例えば、タイ風カレー)」というテンプレートが用いられる。この場合、「AA」には地名を表わすキーワードが当てはめられ、「BB」には対象そのものを説明する名詞であるキーワードが当てはめられて、表示文字列候補が生成される。
【0059】
表示文字列選択部34は、表示文字列候補生成部33により生成された複数の表示文字列候補の中から、所定のルールに則って、表示対象の文字列となる最適な表示文字列を選択する。
【0060】
所定のルールとして、例えば、生成された表示文字列候補のそれぞれに対してスコアを算出し、当該スコアに基づいて最適な表示文字列を選択する、というルールを採用することができる。写真全体に対して1つの表示文字列を表示させる場合には、生成された全ての表示文字列候補の中から表示文字列が選択される。これに対して、写真の所定の領域に対する表示文字列を表示させる場合には、当該所定の領域から取得された写真関連情報から生成されたキーワードによって生成された表示文字列候補の中から表示文字列が選択される。
【0061】
なお、表示文字列が選択される必要がない場合、例えば、非閲覧時の前処理等の場合においては、生成された全ての表示文字列候補が記録部22に記録される。また、ユーザが手動で表示文字列を選択する場合には、生成された表示文字列候補を全て表示させる。この場合、スコアの算出は省略される。
【0062】
スコアの算出手法として、例えば、表示文字列候補の文字列の長さに応じてスコアが算出される第1の算出手法を採用することができる。端末装置12のディスプレイ等で表示文字列が表示されるとき、多くの場合、表示領域が限られている。したがって、当該表示領域の表示可能文字数から表示文字列候補の文字数を減算した数値をスコアとして算出するようにしてもよい。この場合、算出されたスコアのうち、0以上で最大のスコアが付加された表示文字列候補、即ち最短の文字列を有する表示文字列候補が、表示文字列として選択されるようにする。なお、最長の文字列を有する表示文字列候補が選択されるようにしてもよい。
【0063】
また、他のスコアの算出手法として、例えば、表示文字列候補に含まれるキーワードの数に応じてスコアが算出される第2の算出手法を採用することができる。写真に含まれる被写体を説明する場合、多くのキーワードが用いられている方が分かりやすいと判断されることがある。したがって、表示文字列候補に含まれるキーワードの数に応じてスコアが算出されるようにしてもよい。この場合、最大のスコアが付加された表示文字列候補、即ちキーワードが多く含まれる表示文字列候補が、表示文字列として選択されるようにする。なお、含まれるキーワードが少ない表示文字列候補が選択されるようにしてもよい。
【0064】
また、他のスコアの算出手法として、写真関連情報取得部31によって取得された写真関連情報の種類に応じて写真関連情報にスコアを付加し、当該スコアに基づいて、表示文字列候補のスコアが算出される第3の算出手法を採用することができる。例えば、SNSを提供するサーバ11にアップロードされた写真が閲覧される場合には、写真関連情報に基づいて生成されたキーワードのうち、写真付属情報、撮影者・投稿者情報、または閲覧者・閲覧環境情報を多く含むキーワードに基づいて生成された表示文字列候補ほど、SNSの利用者にとっては有益な情報を含むものとなる。したがって、写真関連情報のうち、写真付属情報、撮影者・投稿者情報、及び閲覧者・閲覧環境情報に付加されるスコアを、写真解析情報及び写真付加情報に付加されるスコアよりも大きくする。
【0065】
そして、写真関連情報に基づいて生成されたキーワードに対してもスコアが付加される。即ち、キーワードの生成の基となった写真関連情報に付加されているスコアの加算値が、当該キーワードのスコアとなる。さらに、キーワードに基づいて生成された表示文字列候補のスコアが算出される。即ち、表示文字列候補の生成の基となったキーワードに付加されているスコアの加算値が、当該表示文字列候補のスコアとなる。この場合、最大のスコアが付加された表示文字列候補、即ち写真付属情報、撮影者・投稿者情報、または閲覧者・閲覧環境情報が多く含まれる表示文字列候補が、表示文字列として選択されるようにする。なお、大きなスコアを付加する写真関連情報の種類を変えてもよい。
【0066】
さらに、第1乃至第3の算出手法のうちの2以上の任意の手法を適宜組み合わせたスコアの算出手法を採用することができる。例えば、第3の算出手法により算出されたスコアのうち、スコアの大きな表示文字列候補に対して、再度第1の算出手法によりスコアが算出されるようにしてもよい。これにより、表示文字列候補の意味を考慮しながら文字列の長さにより表示文字列が選択されるようにすることができる。
【0067】
制御部23のそれぞれにおける処理に必要なデータや、制御部23のそれぞれにより生成されたデータ等は、必要に応じて記録部22に記録される。したがって、処理対象とされた写真を再度処理対象としたり、同じキーワード等を再度生成する必要がなくなることから、効率的な処理が可能となる。
【0068】
ドライブ24は、磁気ディスク、光ディスク、光磁気ディスク、又は半導体メモリなどのリムーバブルメディア25を駆動する。
【0069】
[写真閲覧時の表示文字列の自動生成処理]
次に、所定の端末装置12のユーザによって、サーバ11に記録されている写真のデータが閲覧対象とされる場合の、サーバ11と端末装置12との間の処理の関係について、図3を参照して説明する。
【0070】
図3は、サーバ11と端末装置12との間の処理の関係を説明するフローチャートである。
【0071】
図3の例では、端末装置12のうちの任意の1つ(図3の例においては端末装置12−1)によってサーバ11にアップロードされた写真のデータが他の端末装置12(図3の例においては端末装置12−2)に受信されて、当該写真が端末装置12−2のユーザによって閲覧される。そして、サーバ11において、1以上の表示文字列が自動的に生成される。そこで、以下、端末装置12−1が実行する処理を、写真アップロード処理と称し、端末装置12−2が実行する処理を、写真閲覧処理と称する。また、サーバ11が実行する処理を、写真閲覧時の表示文字列の自動生成処理と称する。
【0072】
ステップS1において、端末装置12−1は、写真のデータをサーバ11にアップロードする。
【0073】
即ち、サーバ11の視点に立つと、ステップS21において、サーバ11の通信部21は、端末装置12−1からの写真のデータを受信する。
【0074】
ステップS22において、サーバ11の記録部22は、ステップS21の処理で通信部21に受信された写真のデータを記録する。
【0075】
このようにしてサーバ11の記録部22に写真のデータが記録された状態で、ステップS41において、端末装置12−2は、サーバ11にアクセスして、ステップS22の処理でサーバ11の記録部22に記録された写真のデータの取得を、サーバ11に対して要求する。
【0076】
ステップS23において、サーバ11の写真関連情報取得部31は、端末装置12−2から要求された写真のデータを記録部22から取得する。
【0077】
ステップS24において、サーバ11の写真関連情報取得部31は、ステップS23の処理で取得された写真のデータに関連する写真関連情報を取得する。取得される写真関連情報及びその取得手法等、ステップS24の処理の詳細については、図4を参照して後述する。
【0078】
ステップS25において、サーバ11のキーワード生成部32は、ステップS24の処理で取得された写真関連情報に基づいてキーワードを生成する。生成されるキーワード及びその生成手法等、ステップS25の処理の詳細については、図5を参照して後述する。
【0079】
ステップS26において、サーバ11の表示文字列候補生成部33は、ステップS25の処理で生成されたキーワードを用いて表示文字列候補を生成する。生成される表示文字列候補及びその生成手法等、ステップS26の処理の詳細については、図6を参照して後述する。
【0080】
ステップS27において、サーバ11の表示文字列選択部34は、ステップS26の処理で生成された表示文字列候補の中から、表示文字列を選択する。選択される表示文字列及びその選択手法等、ステップS27の処理の詳細については、図7を参照して後述する。
【0081】
ステップS28において、サーバ11の通信部21は、ステップS27の処理で選択された表示文字列と写真のデータを関連付けて、端末装置12−2に送信する。
【0082】
表示文字列と写真のデータが送信されると、端末装置12−2は、ステップS42の処理を実行する。即ち、ステップS42において、端末装置12−2は、表示文字列と写真のデータを受信する。
【0083】
ステップS43において、端末装置12−2は、表示文字列と写真を表示する。端末装置12−2において表示される表示文字列と写真の詳細については、図8を参照して後述する。
【0084】
これにより、サーバ11と端末装置12の処理は終了する。
【0085】
さらに以下、図4乃至図8を参照して、サーバ11によるステップS24乃至ステップS27の処理、及び端末装置12−2によるステップS43の処理の詳細について説明する。
【0086】
[写真関連情報]
上述したように写真のデータが取得されると(ステップS23)、図4に示されるような写真関連情報が写真関連情報取得部31により取得される(ステップS24)。
【0087】
図4は、ステップS24の処理で、写真関連情報取得部31により取得された写真関連情報の例を示す図である。
【0088】
図4に示される写真P1は、ステップS23の処理で、記録部22から取得されたデータに対応する写真である。写真P1には、写真閲覧時の表示文字列の自動生成処理の対象となる被写体として、カレーライスの被写体Cとサラダの被写体Sが含まれている。
【0089】
写真解析情報取得部41は、写真P1の写真解析情報として、料理写真を示す情報IAA1(以下、料理写真情報IAA1と称する)及び注目領域座標情報IAA2を含む写真解析情報IAAを取得する。
【0090】
具体的には、写真解析エンジンは物体認識処理を行い、写真P1に含まれる被写体は料理であると認識する。また、写真解析エンジンは注目領域認識処理を行い、写真P1の領域の中央に配置されているカレーライスの被写体Cの領域を注目領域として認識し、当該注目領域の座標(画面中央の座標であり、以下注目領域座標と称する)を取得する。このようにして、写真解析情報IAAには、料理写真情報(対象の写真は料理の写真であることを表わす情報)IAA1と、注目領域座標情報IAA2が含まれるようになる。
【0091】
また、写真解析情報取得部41は、写真P1に含まれるサラダの被写体Sの写真解析情報として、料理領域座標情報IAS1、サラダ情報(被写体Sのカテゴリはサラダであることを表わす情報)IAS2、キャベツ情報(被写体Sの素材はキャベツであることを表わす情報)IAS3、20kcal(被写体Sのカロリーは20kcalであることを表わす情報)情報IAS4を含む写真解析情報IASを取得する。
【0092】
具体的には、写真解析エンジンは料理認識処理を行い、被写体Sの位置(画面右上の座標であり、以下、料理領域座標と称する)を取得する。また、写真解析エンジンは料理認識処理を行い、被写体Sのカテゴリ、素材、カロリーを認識する。このようにして、写真解析情報IASには、料理領域座標情報IAS1、サラダ情報IAS2、キャベツ情報IAS3、及び20kcal情報IAS4が含まれるようになる。
【0093】
また、写真解析情報取得部41は、写真P1に含まれるカレーライスの被写体Cに対する写真解析情報として、料理領域座標情報IAC1、カレー情報(被写体Cのカテゴリはカレーであることを表わす情報)IAC2、かぼちゃ情報(被写体Cの素材はかぼちゃであることを表わす情報)IAC3、ナス情報(被写体Cの素材はナスであることを表わす情報)IAC4、アスパラ情報(被写体Cの素材はアスバラであることを表わす情報)IAC5、れんこん情報(被写体Cの素材はれんこんであることを表わす情報)IAC6、ご飯(被写体Cの素材はご飯であることを表わす情報)情報IAC7、及び500kcal情報(被写体Cのカロリーは500kcalであることを表わす情報)IAC8を含む写真解析情報IACを取得する。
【0094】
具体的には、写真解析エンジンは料理認識処理を行い、被写体Cの位置(画面中央の座標)を取得する。また、写真解析エンジンは料理認識処理を行い、被写体Cのカテゴリ、素材、カロリーを認識する。このようにして、写真解析情報IACには、料理領域座標情報IAC1、カレー情報IAC2、かぼちゃ情報IAC3、ナス情報IAC4、アスパラ情報IAC5、れんこん情報IAC6、ご飯情報IAC7、及び500kcal情報IAC8が含まれるようになる。
【0095】
また、写真付加情報取得部42は、写真P1の写真付加情報として、品川駅周辺情報(対象の写真の撮影場所は品川駅周辺であることを表わす情報)IB1、CCレストラン情報(対象の写真の撮影場所の名前はCCレストランであることを表わす情報)IB2、2008/08/15 12:10情報(対象の写真の撮影日時は2008/08/15 12:10であることを表わす情報)IB3、マクロモード情報(対象の写真の撮影モードはマクロモードであることを表わす情報)IB4、及び焦点距離DDmm情報(対象の写真の焦点距離は焦点距離DDmmであることを表わす情報)IB5を含む写真付加情報IBを取得する。
【0096】
具体的には、写真P1が撮影された撮影場所、撮影場所の名前、日時、撮影モード、焦点距離が取得される。このようにして、写真付加情報IBには、品川駅周辺情報IB1、CCレストラン情報IB2、2008/08/15 12:10情報IB3、マクロモード情報IB4、及び焦点距離DDmm情報IB5が含まれるようになる。
【0097】
また、写真付属情報取得部43は、写真P1の写真付属情報として、「Aさんがお気に入りに登録」というメッセージ情報IC1と、「”おいしそー”byBさん」というメッセージ情報IC2を含む写真付属情報ICを取得する。
【0098】
具体的には、写真P1がアップロードされているコミュニティでのステータス、写真P1がアップロードされているコミュニティで付加されたコメントが取得される。このようにして、写真付属情報ICには、「Aさんがお気に入りに登録」というメッセージ情報IC1と、「”おいしそー”byBさん」というメッセージ情報IC2を含む写真付属情報ICが含まれるようになる。
【0099】
また、撮影者・投稿者情報取得部44は、写真P1の撮影者・投稿者情報として、「CCレストランで写真を撮影するのは今月で5回目」というメッセージ情報IDS1と、「好きな食べ物はカレー」というメッセージ情報IDS2を含む撮影者・投稿者情報IDSを取得する。
【0100】
具体的には、撮影者または投稿者(即ち、いまの場合、端末装置12−1のユーザの情報)が属しているSNSのアカウント情報から、写真撮影が行われた場所と回数、食事の好みの情報が取得される。このようにして、撮影者・投稿者情報IDSには、「CCレストランで写真を撮影するのは今月で5回目」というメッセージ情報IDS1と、「好きな食べ物はカレー」というメッセージ情報IDS2が含まれるようになる。
【0101】
また、閲覧者・閲覧環境情報取得部45は、写真P1の閲覧者・閲覧環境情報として、「Aさんを知っている」というメッセージ情報IDR1と、「Bさんを知らない」というメッセージ情報IDR2を含む閲覧者・閲覧環境情報IDRを取得する。
【0102】
具体的には、閲覧者(即ち、いまの場合、端末装置12−2のユーザ)が属しているSNSのアカウント情報から、閲覧者と投稿者との関係性、SNSでのつながりが取得される。このようにして、閲覧者・閲覧環境情報IDRには、「Aさんを知っている」というメッセージ情報IDR1と、「Bさんを知らない」というメッセージ情報IDR2が含まれるようになる。
【0103】
[キーワード]
また、上述したように、写真関連情報取得部31によって、図4に示される写真関連情報が取得されると(ステップS24)、図5に示されるようなキーワードがキーワード生成部32により生成される(ステップS25)。
【0104】
図5は、ステップS25の処理で、キーワード生成部32により生成されたキーワードの例を示す図である。
【0105】
図5の左側には、写真関連情報取得部31により取得された写真関連情報の例が示されている。図5の右側には、写真関連情報に基づいて生成されたキーワードの例が示されている。
【0106】
キーワード生成部32は、写真解析情報IAAに含まれる料理写真情報IAA1から、写真P1全体の状態として「料理」を認識し、「料理」という単語のキーワードkey1を生成する。
【0107】
また、キーワード生成部32は、写真解析情報IAAに含まれる注目領域座標情報IAA2、写真解析情報IASに含まれる料理領域座標情報IAS1、並びに写真解析情報IACに含まれる料理領域座標情報IAC1及びカレー情報IAC2から、「カレー」を認識し、「カレー」という単語のキーワードkey2を生成する。
【0108】
具体的には、注目領域座標情報IAA2に料理領域座標情報IAC1が含まれることから、写真P1の主要被写体は「カレー」であることが認識され、その「カレー」を示す単語がキーワードkey2として生成される。
【0109】
また、キーワード生成部32は、写真解析情報IASに含まれるサラダ情報IAS2から、「サラダ」を認識し、「サラダ」という単語のキーワードkey3を生成する。
【0110】
具体的には、料理のカテゴリを示すサラダ情報IAS2がそのままキーワードとして認識され、その「サラダ」を示す単語がキーワードkey3として生成される。
【0111】
また、キーワード生成部32は、写真解析情報IASに含まれるキャベツ情報IAS3から、「キャベツ」を認識し、「キャベツ」という単語のキーワードkey4を生成する。
【0112】
具体的には、料理の素材を示す写真関連情報の中で、大きな領域を占める素材を示す写真関連情報があれば、それがキーワードとして採用される。この場合、サラダの被写体Sの素材を示す写真関連情報はキャベツ情報IAS3のみである。したがって、写真解析情報IASに含まれるキャベツ情報IAS3がキーワードとして認識され、その「キャベツ」を示す単語がキーワードkey4として生成される。
【0113】
また、キーワード生成部32は、写真解析情報IACに含まれるカレー情報IAC2から、「カレー」を認識し、「カレー」という単語のキーワードkey5を生成する。
【0114】
具体的には、料理のカテゴリを示すカレー情報IAC2がそのままキーワードとして認識され、その「カレー」を示す単語がキーワードkey5として生成される。
【0115】
また、キーワード生成部32は、写真解析情報IACに含まれるカレー情報IAC2及びご飯情報IAC7から、「カレーライス」を認識し、「カレーライス」という単語のキーワードkey6を生成する。
【0116】
具体的には、カレー情報IAC2とご飯情報IAC7から、「カレーライス」という料理名が認識され、その「カレーライス」を示す単語がキーワードkey6として生成される。
【0117】
また、キーワード生成部32は、写真解析情報IACに含まれるかぼちゃ情報IAC3、ナス情報IAC4、アスパラ情報IAC5、及びれんこん情報IAC6から、「夏野菜」を認識し、「夏野菜」という単語のキーワードkey7を生成する。
【0118】
具体的には、かぼちゃ情報IAC3、ナス情報IAC4、アスパラ情報IAC5、及びれんこん情報IAC6から、「夏野菜」という共通の属性が認識され、その「夏野菜」を示す単語がキーワードkey7として生成される。なお、料理(即ちカレー)の素材の中で、大きな領域を占める素材を示す写真関連情報があれば、それがキーワードとして採用されてもよい。いまの場合、大きな領域を占める素材が特にないので、全ての素材が並列にキーワードとして生成される。
【0119】
また、キーワード生成部32は、写真解析情報IACに含まれるカレー情報IAC2及び500kcal情報IAC8から、「低カロリー」を認識し、「低カロリー」という単語のキーワードkey8を生成する。
【0120】
具体的には、一般的なカレーのカロリーが700kcalであるのに対して、500kcalは低いので、「低カロリー」であると認識され、その「低カロリー」を示す単語がキーワードkey8として生成される。なお、写真解析情報IASに含まれる20kcal情報IAS4は、サラダのカロリーとしては一般的なカロリーと差が小さく特徴的ではないと認識されるので、20kcal情報IAS4は、キーワードの生成には用いられない。
【0121】
また、キーワード生成部32は、写真解析情報IAAに含まれる料理写真情報IAA1、写真付加情報IBに含まれるCCレストラン情報IB2及び2008/08/15 12:10情報IB3から、「ランチ」を認識し、「ランチ」という単語のキーワードkey9を生成する。
【0122】
具体的には、写真関連情報の中に、「撮影日時がランチの時間帯、撮影場所の名前がレストラン名、写真が料理写真」というルールに当てはまる写真関連情報がある場合には、それらから「ランチ」が認識され、「ランチ」を示す単語がキーワードとして用いられる。いまの場合、料理写真情報IAA1、CCレストラン情報IB2、及び2008/08/15 12:10情報IB3が当該ルールに当てはまるので、「ランチ」が認識され、その「ランチ」を示す単語がキーワードkey9として生成される。
【0123】
また、キーワード生成部32は、写真付加情報IBに含まれるCCレストラン情報IB2から、「CCレストラン」を認識し、「CCレストラン」という単語のキーワードkey10を生成する。
【0124】
具体的には、レストランの名前のような固有名詞を示す写真関連情報は、対象を説明するのに有用であり、そのままキーワードとして用いられる。いまの場合、CCレストラン情報IB2は固有名詞を示すので、その「CCレストラン」を示す単語がキーワードkey10として生成される。
【0125】
また、キーワード生成部32は、写真付加情報IBに含まれる2008/08/15 12:10情報IB3から、「夏」を認識し、「夏」という単語のキーワードkey11を生成する。
【0126】
具体的には、撮影日時を示す写真関連情報が単純に四季に変換されて、キーワードとして用いられる。いまの場合、2008/08/15 12:10情報IB3が四季に変換されて「夏」が認識され、その「夏」を示す単語がキーワードkey11として生成される。
【0127】
また、キーワード生成部32は、写真付加情報IBに含まれるCCレストラン情報IB2と撮影者・投稿者情報IDSに含まれる「CCレストランで写真を撮影するのは今月で5回目」というメッセージ情報IDS1から、「行きつけの店」を認識し、「行きつけの店」という単語のキーワードkey12を生成する。
【0128】
具体的には、位置情報を示す写真関連情報と、投稿者がCCレストランに頻繁に行っているという写真関連情報から、「行きつけの店」であることが認識され、その「行きつけの店」を示す単語がキーワードkey12として生成される。
【0129】
また、キーワード生成部32は、写真解析情報IACに含まれるカレー情報IAC2と撮影者・投稿者情報IDSに含まれる「好きな食べ物はカレー」というメッセージ情報IDS2から、「好物」を認識し、「好物」という単語のキーワードkey13を生成する。
【0130】
具体的には、写真P1の被写体としてカレー被写体Cが含まれることと、投稿者の好きな食べ物がカレーであるという写真関連情報から、「好物」であることが認識され、その「好物」を示す単語がキーワードkey13として生成される。
【0131】
また、キーワード生成部32は、写真付属情報ICに含まれる「Aさんがお気に入りに登録」というメッセージ情報IC1と閲覧者・閲覧環境情報IDRに含まれる「Aさんを知っている」というメッセージ情報IDR1から、「Aさんにも人気」を認識し、「Aさんにも人気」という単語のキーワードkey14を生成する。
【0132】
具体的には、「Aさんが写真P1をお気に入りに登録した」という写真関連情報と、「Aさんを知っている」という写真関連情報から、「Aさんにも人気」であると認識され、その「Aさんにも人気」を示す単語がキーワードkey14として生成される。なお、仮に閲覧者がAさんを知らない場合には、このようなキーワードは生成されない。また、写真付属情報ICに含まれる「”おいしそー”byBさん」というメッセージ情報IC2から、Bさんが写真P1に対してコメントを付加していることが分かる。しかしながら、閲覧者・閲覧環境情報IDRに含まれる「Bさんを知らない」というメッセージ情報IDR2から、閲覧者にとってはBさんに関する情報は不要であると認識され、Bさんに関するキーワードは生成されない。
【0133】
[表示文字列候補]
上述したように、キーワード生成部32によって、図5に示されるキーワードが生成されると(ステップS25)、図6に示されるような表示文字列候補が表示文字列候補生成部33により生成される(ステップS26)。
【0134】
図6は、ステップS26の処理で、表示文字列候補生成部33により生成された表示文字列候補の例を示す図である。
【0135】
図6の左側には、キーワード生成部32により生成されたキーワードの例が示されている。図6の右側には、キーワードに基づいて生成された表示文字列候補の例が示されている。
【0136】
表示文字列候補生成部33は、「サラダ」という単語のキーワードkey3と、「キャベツ」という単語のキーワードkey4から、「キャベツのサラダ」という表示文字列候補DW1を生成する。
【0137】
具体的には、キーワードkey1が示す「サラダ」という単語と、キーワードkey2が示す「キャベツ」という単語とから、サラダの一種である「キャベツのサラダ」という文字列が、表示文字列候補DW1として生成される。
【0138】
また、表示文字列候補生成部33は、「サラダ」という単語のキーワードkey3、「カレー」という単語のキーワードkey5、及び「ランチ」という単語のキーワードkey9から、「サラダとカレーのランチ」という表示文字列候補DW2を生成する。
【0139】
具体的には、キーワードkey3が示す「ランチ」という単語に、その説明として、「ランチ」を構成するキーワードkey1が示す「サラダ」という単語、及びキーワードkey5が示す「カレー」という単語が接続される。これにより、ランチの説明として「サラダとカレーのランチ」という文字列が、表示文字列候補DW2として生成される。
【0140】
また、表示文字列候補生成部33は、「カレーライス」という単語のキーワードkey6と「行きつけの店」という単語のキーワードkey12から、「行きつけの店のカレーライス」という表示文字列候補DW3を生成する。
【0141】
具体的には、キーワードkey6が示す「カレーライス」という対象そのものを説明する単語に、キーワードkey12が示す「行きつけの店」という対象そのものを限定する単語が接続される。これにより、カレーライスを限定する説明として「行きつけの店のカレーライス」という文字列が、表示文字列候補DW3として生成される。
【0142】
また、表示文字列候補生成部33は、「カレー」という単語のキーワードkey5、「夏野菜」という単語のキーワードkey7、及び「低カロリー」という単語のキーワードkey8から、「低カロリー夏野菜カレー」という表示文字列候補DW4を生成する。
【0143】
具体的には、キーワードkey5が示す「カレー」という対象そのものを説明する単語に、キーワードkey7が示す「夏野菜」及びキーワードkey8が示す「低カロリー」という対象を修飾する単語が接続される。これにより、カレーの一種として「低カロリー夏野菜カレー」という文字列が、表示文字列候補DW4として生成される。
【0144】
また、表示文字列候補生成部33は、「カレー」という単語のキーワードkey5、「CCレストラン」という単語のキーワードkey10、及び「Aさんにも人気」という単語のキーワードkey14から、「Aさんオススメ!CCレストランのカレー」という表示文字列候補DW5を生成する。
【0145】
具体的には、「<お気に入りに登録した人の名前>さんオススメ!<場所>の<対象を説明する名詞>」というテンプレートに、キーワードが当てはめられる。いまの場合、<お気に入りに登録した人の名前>としてキーワードkey14が示す「Aさんにも人気」から「Aさん」という単語が当てはめられる。また、<場所>としてキーワードkey10が示す「CCレストラン」という単語が当てはめられる。また、<対象を説明する名詞>としてキーワードkey5が示す「カレー」という単語が当てはめられる。これにより、「Aさんオススメ!CCレストランのカレー」という文字列が、表示文字列候補DW5として生成される。
【0146】
[表示文字列候補の選択]
さらに上述したように、表示文字列候補生成部33によって、図6に示される表示文字列候補が生成されると(ステップS26)、図7に示されるように、表示文字列選択部34によって表示文字列が選択される(ステップS27)。
【0147】
図7は、ステップS27の処理で、表示文字列選択部34により選択された表示文字列の例を示す図である。
【0148】
図7の左側には、写真関連情報取得部31により取得された写真関連情報の例が示されている。図7の中央には、キーワード生成部32により生成されたキーワードのうち、表示文字列候補の生成に用いられたキーワードの例が示されている。図7の右上側には、表示文字列候補生成部33により生成された表示文字列候補の例が示されている。
【0149】
そして、図7の右下側には、図7の右上側に示された表示文字列候補の中から、表示文字列選択部34により選択された表示文字列DA1が示されている。以下、このような図7において表示文字列DA1が選択されるまでの流れの具体例について説明する。
【0150】
ここで、図7は、所定のSNSで運用されるサーバ11にアップロードされた写真が閲覧される場合について、表示文字列選択部34により選択された表示文字列DA1の例を示している。また、表示文字列選択部34は、所定のルールに則って、表示文字列DA1を選択する。このような所定のルールとして、上述した第3の算出手法により算出されたスコアに基づいて表示文字列を選択する、というルールを採用すると好適である。ここで、第3の算出手法によれば、SNSの特徴を活かすため、上述したように、写真関連情報のうち、撮影者・投稿者情報、写真付属情報、及び閲覧者・閲覧環境情報に付加されるスコアは大きくなる
【0151】
したがって、図7の左側に示されるように、写真関連情報のうち、撮影者・投稿者情報、写真付属情報、及び閲覧者・閲覧環境情報には大きいスコアが付加される。具体的には本例では、撮影者・投稿者情報IDSと写真付属情報ICには、それぞれスコア3が付加され、閲覧者・閲覧環境情報IDRにはスコア5が付加されたものとする。一方、写真関連情報のうち、写真解析情報及び写真付加情報には小さいスコアが付加される。具体的には本例では、写真解析情報IAA,IAS,IAC及び写真付加情報IBには、それぞれスコア1が付加されたものとする。
【0152】
次に、「サラダ」という単語のキーワードkey3には、図7の中央に示されるように、スコア1が付加される。具体的には、キーワードkey3は、サラダ情報IAS2に含まれる「サラダ」のみから生成される。したがって、キーワードkey3のスコアは、当該サラダ情報IAS2のスコアがそのまま採用される。即ち、サラダ情報IAS2は写真解析情報IASに属しているので、当該写真解析情報IASのスコア1が、当該サラダ情報IAS2のスコアになり、その結果、キーワードkey3のスコアとして採用される。
【0153】
同様に、「キャベツ」という単語のキーワードkey4には、スコア1が付加される。
【0154】
同様に、「カレー」という単語のキーワードkey5には、スコア1が付加される。
【0155】
また、「カレーライス」という単語のキーワードkey6には、スコア2が付加される。具体的には、キーワードkey6は、カレー情報IAC2と、ご飯情報IAC7とから生成される。したがって、カレー情報IAC2のスコアと、ご飯情報IAC7のスコアとの加算値が、キーワードkey6のスコアとして採用される。即ち、カレー情報IAC2は写真解析情報IACに属しているので、当該写真解析情報IACのスコア1がそのまま、当該カレー情報IAC2のスコアになる。また、ご飯情報IAC7は写真解析情報IACに属しているので、当該写真解析情報IACのスコア1がそのまま、当該ご飯情報IAC7のスコアになる。したがって、カレー情報IAC2のスコア1とご飯情報IAC7のスコア1とが加算された結果、即ちスコア2が、キーワードkey6のスコアとして採用される。
【0156】
同様に、「夏野菜」という単語のキーワードkey7には、スコア4が付加される。
【0157】
同様に、「低カロリー」という単語のキーワードkey8には、スコア2が付加される。
【0158】
また、「ランチ」という単語のキーワードkey9には、スコア3が付加される。具体的には、キーワードkey9は、料理写真情報IAA1、CCレストラン情報IB2、及び2008/08/15 12:10情報IB3とから生成される。したがって、料理写真情報IAA1のスコア、CCレストラン情報IB2のスコア、及び2008/08/15 12:10情報IB3のスコアの加算値が、キーワードkey9のスコアとして採用される。即ち、料理写真情報IAA1は写真解析情報IAAに属しているので、当該写真解析情報IAAのスコア1がそのまま、料理写真情報IAA1のスコアになる。また、CCレストラン情報IB2は写真付加情報IBに属しているので、当該写真付加情報IBのスコア1がそのまま、当該CCレストラン情報IB2のスコアになる。また、2008/08/15 12:10情報IB3は写真付加情報IBに属しているので、当該写真付加情報IBのスコア1がそのまま、当該2008/08/15 12:10情報IB3のスコアになる。したがって、料理写真情報IAA1のスコア1、CCレストラン情報IB2のスコア1、及び2008/08/15 12:10情報IB3のスコア1が加算された結果、即ちスコア3が、キーワードkey9のスコアとして採用される。
【0159】
同様に、「CCレストラン」という単語のキーワードkey10には、スコア1が付加される。
【0160】
同様に、「行きつけの店」という単語のキーワードkey12には、スコア4が付加される。
【0161】
同様に、「Aさんにも人気」という単語のキーワードkey14には、スコア8が付加される。
【0162】
次に、「キャベツのサラダ」という表示文字列候補DW1には、図7の右上側に示されるように、スコア2が付加される。具体的には、表示文字列候補DW1は、「サラダ」という単語のキーワードkey3と「キャベツ」という単語のキーワードkey4とから生成される。したがって、キーワードkey3のスコアとキーワードkey4のスコアとの加算値が、表示文字列候補DW1のスコアとして採用される。即ち、キーワードkey3のスコア1とキーワードkey4のスコア1とが加算された結果、即ちスコア2が、表示文字列候補DW1のスコアとして採用される。
【0163】
同様に、「サラダとカレーのランチ」という表示文字列候補DW2には、スコア5が付加される。
【0164】
同様に、「行きつけの店のカレーライス」という表示文字列候補DW3には、スコア6が付加される。
【0165】
同様に、「低カロリー夏野菜カレー」という表示文字列候補DW4には、スコア7が付加される。
【0166】
同様に、「Aさんオススメ!CCレストランのカレー」という表示文字列候補DW5には、スコア10が付加される。
【0167】
すべての表示文字列候補に対してスコアが付加されると、表示文字列選択部34は、表示文字列候補の中で、最大のスコアを有するものを表示文字列として選択する。具体的には図7の例では、最大のスコア10が付加された「Aさんオススメ!CCレストランのカレー」という表示文字列候補DW5が、表示文字列DA1として選択される。
【0168】
なお、表示文字列として選択されなかった表示文字列候補、図7の例では表示文字列候補DW1乃至DW4については、その取り扱いは特に限定されず、表示対象から除外してもよいが、本実施形態では、写真内に、各被写体を説明するための文字列として重畳表示させるようにしている。このような被写体を説明するために写真内に重畳される文字列を、説明用文字列と称する。
【0169】
なお、最大のスコアが付加された表示文字列候補が複数存在した場合には、例えば、それらの中からランダムに選択された1つが、表示文字列とされてもよい。また、例えば、第1の算出手法と第3の算出手法を組み合わせて、最大のスコアが付加された表示文字列候補の中から、最長(或いは最短)の文字列が表示文字列として選択されてもよい。
【0170】
[表示例]
上述したように、表示文字列と写真のデータが送信されると、端末装置12−2は、表示文字列と写真のデータを受信し(ステップS42)、当該表示文字列と写真をディスプレイ等に表示する(ステップS43)。
【0171】
図8は、ステップS43の処理で、端末装置12−2により表示された表示文字列と写真の例を示す図である。
【0172】
図8に示される例では、端末装置12−2のディスプレイ51には、端末装置12−2のユーザが利用するSNS(例えば、写真共有サービス)で用いられるサーバ11から提供された写真P1が表示されている。
【0173】
図8に示されるように、写真P1の上方には、写真P1のタイトルとして、「Aさんオススメ!CCレストランのカレー」という表示文字列DA1が表示されている。また、写真解析情報取得部41によって認識された写真P1に含まれる物体像、即ちサラダの被写体Sとカレーの被写体Cの各々に対して説明用文字列が表示される。具体的には、サラダの被写体Sに対して、サラダの被写体Sが表示されている領域に重畳するように「キャベツのサラダ」という説明用文字列DA11(図7の表示文字列候補DW1に相当)が表示される。また、カレーの被写体Cに対して、カレーの被写体Cが表示されている領域に重畳するように「低カロリー夏野菜カレー」という説明用文字列DA12(図7の表示文字列候補DW4に相当)が表示される。なお、写真P1に含まれる被写体に対する説明用文字列の表示タイミングは、特に限定されないが、本実施形態では、それぞれの被写体が表示されている領域上に、端末装置12−2のマウス等のポインティグデバイスのカーソルが配置された時が採用されている。
【0174】
ディスプレイ51には、写真P1の下方に、SNSを利用するユーザが写真P1に対して書き込んだコメントが表示される。図8の例では、AさんのコメントCMAとして「お気に入りに登録しました」が表示される。また、BさんのコメントCMBとして「おいしそー」が表示される。これらの情報は、写真P1の写真付属情報として取得されている。即ち、AさんのコメントCMAから、写真P1の写真付属情報ICに含まれる、「Aさんがお気に入りに登録」というメッセージ情報IC1が取得される。また、BさんのコメントCMBから、写真P1の写真付属情報ICに含まれる、「”おいしそー”byBさん」というメッセージ情報IC2が取得される。
【0175】
端末装置12−2のユーザによって写真P1が閲覧されるときに、写真P1の全体を説明する表示文字列、及び写真P1に含まれる被写体C,Sのそれぞれを説明するための説明用文字列が表示される。その結果、端末装置12−2のユーザは、写真P1全体の説明、及び写真P1に含まれる被写体C,Sの各々の名前や説明を容易に認識することができる。これにより、端末装置12−2のユーザは、ディスプレイ51に配置されたコメント入力欄CMIに、写真P1、又は写真P1に含まれる被写体C若しくは被写体Sに対して、適切なコメントを入力することができるようになる。
【0176】
このように、文字列自動生成システム1においては、端末装置12のユーザが写真P1を閲覧する場合、写真P1と共にその説明となる文字列が表示される。写真P1の説明となる文字列が生成される場合、写真P1に付加された情報、写真P1に付属する情報、撮影者や閲覧者の情報等が用いられる。したがって、例えば、投稿者や閲覧者が反応したタイミング、或いは閲覧されるタイミングに応じて、ユーザ毎に可変する表示文字列候補が生成される。そして、このような表示文字列候補から表示文字列が選択されて表示される。このようにして表示された表示文字列は、ユーザ毎に個人化されていると把握でき、その分だけ、各々のユーザにとって馴染みやすく理解しやすいものになっている。
【0177】
<2.第2実施形態>
第1実施形態においては、所定の端末装置12によって、サーバ11に記録されている写真のデータ(当該端末装置12からアップロードされたもの以外のデータ)が取得された場合に、当該端末装置12で表示される表示文字列が生成された。この場合、表示される表示文字列は、閲覧者に応じて変化したり、閲覧のタイミングに応じて変化した。第2実施形態においては、所定の端末装置12から、写真のデータがサーバ11にアップロードされた場合に、1以上の表示文字列候補が生成されて、当該端末装置12において写真と共に表示される。この場合、写真をアップロードする者(即ち、投稿者)は、端末装置12を操作することで、当該端末装置12に表示された1以上の表示文字列候補の中から、写真と共に表示される表示文字列を選択することができる。
【0178】
なお、第2実施形態のサーバ11の構成自体は、図2に示される第1実施形態と同様であるとする。したがって、その説明は繰り返しになるので省略する。
【0179】
[写真アップロード時の表示文字列候補の自動生成処理]
はじめに、所定の端末装置12を操作するユーザによって、サーバ11に対して写真のデータがアップロードされる場合の、サーバ11と端末装置12との間の処理の関係について、図9を参照して説明する。
【0180】
図9は、サーバ11と端末装置12との間の処理の関係を説明するフローチャートである。
【0181】
図9の例では、所定の端末装置12(図9の例においては端末装置12−1)によってサーバ11に対して写真のデータがアップロードされる。そして、サーバ11において、1以上の表示文字列候補が自動的に生成される。そこで、以下、端末装置12−1が実行する処理を、写真アップロード処理と称する。また、サーバ11が実行する処理を、写真アップロード時の表示文字列候補の自動生成処理と称する。
【0182】
ステップS61において、端末装置12−1は、写真のデータをサーバ11にアップロードする。
【0183】
即ち、サーバ11の視点に立つと、ステップS81において、サーバ11の通信部21は、端末装置12−1からの写真のデータを受信する。
【0184】
ステップS82において、サーバ11の写真関連情報取得部31は、ステップS81の処理で受信された写真のデータに関連する写真関連情報を取得する。取得される写真関連情報について、図10を参照して説明する。
【0185】
[写真関連情報]
写真のデータが受信されると(ステップS81)、図10に示されるような写真関連情報が写真関連情報取得部31により取得される(ステップS82)。
【0186】
図10は、ステップS82の処理で、写真関連情報取得部31により取得された写真関連情報の例を示す図である。
【0187】
図10に示される写真P1は、ステップS81の処理で、端末装置12−1から送信されてサーバ11に受信されたデータに対応する写真である。写真P1には、図4の例と同様に、カレーライスの被写体Cとサラダの被写体Sが含まれている。
【0188】
ここで、ステップS82の処理で取得される写真関連情報は、第1実施形態におけるサーバ11の写真閲覧時の表示文字列の自動生成処理のステップS24の処理で取得される写真関連情報(図4参照)と基本的に同様である。
【0189】
しかしながら、上述の第1実施形態では、別の端末装置12(端末装置12−1)によってサーバ11にアップロードされた写真P1が、所定の端末装置12(端末装置12−2)において閲覧される。つまり、写真P1の投稿者(なお、撮影者であるとは限らない)と、写真P1の閲覧者とは異なる。これに対して、第2実施形態においては、端末装置12−1自身によってサーバ11にアップロードされた写真P1が、当該端末装置12−1自身において閲覧される。つまり、写真P1の投稿者(なお、撮影者であるとは限らない)と、写真P1の閲覧者とは同一になる。したがって、閲覧者・閲覧環境情報取得部45によって、閲覧者や閲覧環境に関する閲覧者・閲覧環境情報IDRの取得はされない。
【0190】
さらに、写真のデータがアップロードされる場合、当該写真は、まだコミュニティに属していないため、タグやコメント等は付加されていない。したがって、写真付属情報取得部43によって、写真付属情報ICの取得はされない。
【0191】
このように、第2実施形態においては、写真関連情報取得部31により取得される写真関連情報には、閲覧者・閲覧環境情報IDRと写真付属情報ICは含まれない。
【0192】
即ち、図10に示されるように、ステップS82の処理で写真関連情報取得部31により取得された写真関連情報には、写真解析情報IAA,IAS,IAC、写真付加情報IB、及び撮影者・投稿者情報IDSのみが含まれる。これらの説明については、繰り返しになるので省略する。
【0193】
図9の説明に戻り、ステップS82の処理で写真関連情報が取得されると、ステップS83において、サーバ11のキーワード生成部32は、ステップS82の処理で取得された写真関連情報に基づいてキーワードを生成する。
【0194】
ここで、ステップS83の処理で生成されるキーワードは、第1実施形態におけるサーバ11の表示文字列の自動生成処理のステップS25の処理で生成されるキーワード(図5参照)と基本的に同様である。
【0195】
しかしながら、第2実施形態においては、ステップS82の処理で、閲覧者・閲覧環境情報IDRと写真付属情報ICは取得されない。したがって、キーワード生成部32によって、閲覧者・閲覧環境情報IDRと写真付属情報ICを用いたキーワードの生成は行われない。
【0196】
即ち、ステップS83の処理で生成されるキーワードには、図5に示されるキーワードのうち、写真付属情報ICに含まれる「Aさんがお気に入りに登録」というメッセージ情報IC1と閲覧者・閲覧環境情報IDRに含まれる「Aさんを知っている」というメッセージ情報IDR1から生成される「Aさんにも人気」という単語のキーワードkey14は含まれない。
【0197】
図9の説明に戻り、ステップS83の処理でキーワードが生成されると、ステップS84において、サーバ11の表示文字列候補生成部33は、ステップS83の処理で生成されたキーワードを用いて表示文字列候補を生成する。
【0198】
ここで、ステップS84の処理で生成される表示文字列候補は、第1実施形態におけるサーバ11の表示文字列の自動生成処理のステップS26の処理で生成される表示文字列候補(図6参照)と基本的に同様である。
【0199】
しかしながら、第2実施形態においては、ステップS83の処理で、閲覧者・閲覧環境情報IDRと写真付属情報ICを用いたキーワードの生成は行われない。したがって、表示文字列候補生成部33によって、閲覧者・閲覧環境情報IDRと写真付属情報ICに基づいて生成されたキーワードを用いた表示文字列候補の生成は行われない。
【0200】
即ち、ステップS84の処理で生成される表示文字列候補には、図6に示される表示文字列候補のうち、閲覧者・閲覧環境情報IDRと写真付属情報ICに基づいて生成された「Aさんにも人気」という単語のキーワードkey14を用いて生成される「Aさんオススメ!CCレストランのカレー」という表示文字列候補DW5は含まれない。
【0201】
図9の説明に戻り、ステップS84の処理で表示文字列候補が生成されると、ステップS85において、サーバ11の通信部21は、ステップS84の処理で生成された表示文字列候補を端末装置12−2に送信する。
【0202】
表示文字列候補が送信されると、端末装置12−1は、ステップS62の処理を実行する。即ち、ステップS62において、端末装置12−1は、表示文字列候補を受信する。
【0203】
ステップS63において、端末装置12−1は、表示文字列を選択する。即ち、端末装置12−1は、ステップS62の処理で受信した複数の表示文字列候補をディスプレイ51に表示して、その中からユーザの操作に従って表示文字列を選択する。
【0204】
[表示文字列の選択]
図11は、複数の表示文字列候補の中からユーザが表示文字列を選択するための操作画像の例を示す図である。
【0205】
図11に示される例では、端末装置12−1のディスプレイ71には、当該端末装置12−1自身からサーバ11へのアップロード対象の写真P1が表示されている。
【0206】
図11に示されるように、ディスプレイ71の上方には、「写真がアップロードされました!タイトルや説明を入力してください。」という指示メッセージDが表示されている。ユーザは、指示メッセージDに従い、端末装置12−1を操作して写真P1のタイトルや説明を入力する。
【0207】
具体的には、写真P1の上方に「タイトルを選択してください」という指示メッセージが表示された選択欄SL1が配置されている。ユーザが、端末装置12−1のポインティグデバイスのカーソルを用いて選択欄SL1の逆三角形のマークを選択すると、選択欄SL1には、写真P1のタイトルとして選択され得る表示文字列候補が表示される(図示せず)。したがって、ユーザは、表示される表示文字列候補の中から、写真P1のタイトルとして他の端末装置12に表示させる表示文字列を選択する。選択された表示文字列は、後述するように、写真P1のタイトルとしてサーバ11に記録される。
【0208】
同様に、写真P1のうち、サラダの被写体Sが表示されている領域には、「選択してください」という指示メッセージが表示された選択欄SL2が配置されている。選択欄SL2の逆三角形のマークが選択されると、選択欄SL2には、サラダの被写体Sの説明として選択され得る表示文字列候補が表示される(図示せず)。したがって、ユーザは、表示される表示文字列候補の中から、サラダの被写体Sの説明として他の端末装置12に表示させる表示文字列を選択する。選択された表示文字列は、後述するように、サラダの被写体Sの説明としてサーバ11に記録される。
【0209】
同様に、写真P1のうち、カレーの被写体Cが表示されている領域には、「選択してください」という指示メッセージが表示された選択欄SL3が配置される。選択欄SL3の逆三角形のマークが選択されると、図11に示されるように、カレーの被写体Cの説明として選択され得る表示文字列候補が表示される。具体的には、「行きつけの店のカレーライス」という表示文字列候補DW3や「低カロリー夏野菜カレー」という表示文字列候補DW4がカレーの被写体Cの説明として選択欄SL3に表示される。したがって、ユーザは、表示される表示文字列候補の中から、カレーの被写体Cの説明として他の端末装置12に表示させる表示文字列を選択する。選択された表示文字列は、後述するように、カレーの被写体Cの説明としてサーバ11に記録される。
【0210】
なお、写真P1の表示文字列が、写真P1の閲覧者が端末装置12−1のユーザの知人か否で変化するように、選択候補となる表示文字列候補の少なくとも一部を適宜変更するようにしてもよい。
【0211】
また、ステップS82乃至S84の処理によって、表示文字列候補が多く生成された場合、ユーザが、選択欄SL1乃至SL3に表示された表示文字列候補の中から文字列を選択するのが困難になるおそれがある。このような場合には、第1実施形態で説明したように、表示文字列選択部34による表示文字列の選択によって、表示される表示文字列候補の数をある程度減らすようにしてもよい。また、表示文字列選択部34による表示文字列の選択によって、例えば、最もスコアの高い表示文字列候補が、予め選択欄SL1乃至SL3に表示されるようにしてもよい。この場合、ユーザは、予め表示された表示文字列候補を、他の表示文字列候補に容易に変更可能とする。例えば、ユーザは、予め表示された表示文字列候補を、選択欄SL1乃至SL3のそれぞれの逆三角形のマークを選択することにより表示される他の表示文字列候補に変更可能としてもよい。
【0212】
また、ユーザは、表示文字列候補の文字を修正することも、新たに作成することもできるようにしてもよい。
【0213】
図9の説明に戻り、ステップS63の処理で表示文字列が選択されると、ステップS64において、端末装置12−1は、選択された表示文字列をサーバ11に送信する。いまの場合、選択欄SL1乃至SL3において選択された表示文字列が、サーバ11に送信される。
【0214】
表示文字列が送信されると、サーバ11は、ステップS86において、表示文字列を受信する。
【0215】
ステップS87において、サーバ11は、ステップS86で受信した表示文字列を記録する。即ち、いまの場合、写真P1のタイトルとして選択欄SL1で選択された表示文字列、サラダの被写体Sの説明として選択欄SL2で選択された表示文字列、及びカレーの被写体Cの説明として選択欄SL3で選択された表示文字列のそれぞれが記録される。
【0216】
これにより、サーバ11と端末装置12の処理は終了する。
【0217】
したがって、他の端末装置12のユーザが写真P1の閲覧をした場合、他の端末装置12には、写真P1と共に、写真P1のタイトルとして選択欄SL1で選択された表示文字列、サラダの被写体Sの説明として選択欄SL2で選択された表示文字列、及びカレーの被写体Cの説明として選択欄SL3で選択された表示文字列のそれぞれが表示される。
【0218】
このように、文字列自動生成システム1においては、端末装置12が写真P1をアップロードする場合、ユーザは、当該端末装置12自身に表示された複数の表示文字列候補の中から、写真P1と共に表示させる表示文字列を選択するといった容易な操作をするだけでよい。したがって、ユーザは、写真P1の説明文を一から作成するといった手間がかかる操作を省くことができる。
【0219】
<3.第3実施形態>
第3実施形態においては、端末装置12は、例えば携帯電話機等、ユーザが自在に持ち運び可能な携帯端末である。端末装置12は、文字列自動生成システム1を利用するアプリケーションを用いることにより、例えば以下のようなサービスを受けることができる。
【0220】
海外旅行先のレストランでメニューを見ても、現地の言語で表記されているために、具体的な料理の内容が分からないことがある。このような場合に、端末装置12のユーザは、当該端末装置12を操作してアプリケーションを用いることにより、メニューの内容を知ることができるようになる。以下、このようなアプリケーションをメニュー翻訳アプリケーションと称する。ただし、ここで注意すべき点は、ここでいう「翻訳」は、一般的に行われている言語的な翻訳処理は行わずに、サーバ11と端末装置12との協同作業による画像的な解析により実現されている点である。
【0221】
図12は、海外のレストランでのメニューの例を示す図である。
【0222】
図12に示されるように、メニューMNには、料理写真M1乃至M3と、現地の言語で表記された各料理写真M1乃至M3の説明文が掲載されている。このように、端末装置12のユーザにとっては、料理写真M1乃至M3の各々には、それぞれの説明文が付されているが、現地の言語で表記されているために、具体的な料理の内容が分からない状態であるものとする。
【0223】
このような場合、端末装置12は、ユーザの操作に従って、メニューMNを撮影して、撮影した写真のデータをサーバ11にアップロードする。すると、サーバ11は、メニューMNに含まれる料理写真M1乃至M3のデータを解析して、料理写真M1乃至M3の各々により表される名前や説明を、ユーザの母国語の表示文字列として生成する。そして、サーバ11は、生成した表示文字列を端末装置12に送信する。端末装置12は、受信した表示文字列を、料理写真M1乃至M3の名前や説明として表示する。これにより、端末装置12のユーザは、具体的な料理の名前や説明を母国語で認知できるようになる。
【0224】
なお、第3実施形態のサーバ11の構成自体は、図2に示される第1実施形態と同様であるとする。したがって、その説明は繰り返しになるので省略する。
【0225】
[表示文字列の自動生成]
はじめに、所定の端末装置12のユーザによって、メニュー翻訳アプリケーションが用いられる場合の、サーバ11と端末装置12との間の処理の関係について、図13を参照して説明する。
【0226】
図13は、サーバ11と端末装置12との間の処理の関係を説明するフローチャートである。
【0227】
図13の例では、メニュー翻訳アプリケーションを用いる端末装置12−1によってサーバ11にメニューMNの写真のデータがアップロードされる。そして、サーバ11において、1以上の表示文字列が自動的に生成され、端末装置12−1に送信される。そこで、以下、端末装置12−1が実行する処理を、写真アップロード処理と称する。また、サーバ11が実行する処理を、表示文字列の自動生成処理と称する。
【0228】
ステップS101において、端末装置12−1は、メニューMNの写真のデータをサーバ11にアップロードする。
【0229】
即ち、サーバ11の視点に立つと、ステップS121において、サーバ11の通信部21は、端末装置12−1からのメニューMNの写真のデータを受信する。
【0230】
ステップS122において、サーバ11の写真関連情報取得部31は、ステップS121の処理で受信されたメニューMNの写真のデータに関連する写真関連情報を取得する。即ち、写真関連情報取得部31は、メニューMNに含まれる料理写真M1乃至M3のデータに関連する写真関連情報を取得する。
【0231】
この場合、端末装置12−1によってサーバ11にアップロードされたメニューMNの写真のデータが、当該端末装置12−1において閲覧される。つまり、メニューMNの写真の投稿者(なお、撮影者であるとは限らない)と、メニューMNの写真の閲覧者とは同一になる。したがって、閲覧者・閲覧環境情報取得部45によって、閲覧者や閲覧環境に関する閲覧者・閲覧環境情報IDRの取得はされない。
【0232】
さらに、メニューMNの写真のデータがアップロードされる場合、当該写真は、コミュニティに属していないため、タグやコメント等も付加されていない。したがって、写真付属情報取得部43によって、写真付属情報ICの取得はされない。
【0233】
このように、第3実施形態においては、第2実施形態と同様に、写真関連情報取得部31により取得される写真関連情報には、閲覧者・閲覧環境情報IDRと写真付属情報ICは含まれない。
【0234】
即ち、ステップS122の処理で写真関連情報取得部31により取得される写真関連情報には、写真解析情報IAA,IAS,IAC、写真付加情報IB、及び撮影者・投稿者情報IDSのみが含まれる。これらの説明については、繰り返しになるので省略する。
【0235】
ステップS123において、サーバ11のキーワード生成部32は、ステップS122の処理で取得された写真関連情報に基づいてキーワードを生成する。
【0236】
この場合、ステップS122の処理で、閲覧者・閲覧環境情報IDRと写真付属情報ICは取得されない。したがって、キーワード生成部32によって、閲覧者・閲覧環境情報IDRと写真付属情報ICを用いたキーワードの生成は行われない。
【0237】
即ち、ステップS123の処理で生成されるキーワードには、写真付属情報ICと閲覧者・閲覧環境情報IDRを用いて生成されるキーワードは含まれない。
【0238】
ステップS124において、サーバ11の表示文字列候補生成部33は、ステップS123の処理で生成されたキーワードを用いて表示文字列候補を生成する。
【0239】
この場合、ステップS123の処理で、閲覧者・閲覧環境情報IDRと写真付属情報ICを用いたキーワードの生成は行われない。したがって、表示文字列候補生成部33によって、閲覧者・閲覧環境情報IDRと写真付属情報ICに基づいて生成されたキーワードを用いた表示文字列候補の生成は行われない。
【0240】
ステップS125において、サーバ11の表示文字列選択部34は、ステップS124の処理で生成された表示文字列候補の中から、表示文字列を選択する。
【0241】
この場合、表示文字列選択部34は、所定のルールに則って、表示文字列を選択する。このような所定のルールとして、上述した第1の算出手法により算出されたスコアに基づいて表示文字列を選択する、というルールを採用すると好適である。なぜならば、本実施形態においては、端末装置12−1は、例えば携帯電話機であることから、ディスプレイ等の面積が小さく、表示文字列の表示領域が限られている。したがって、表示文字列候補の文字列の長さに応じてスコアが算出される第1の算出手法が採用されるとよい。即ち、ステップS124の処理で生成された表示文字列候補の中から、最短の文字列を有する表示文字列候補が選択される。
【0242】
ステップS126において、サーバ11の通信部21は、ステップS125の処理で選択された表示文字列のデータを端末装置12−1に送信する。
【0243】
表示文字列のデータが送信されると、端末装置12−1は、ステップS102の処理を実行する。即ち、ステップS102において、端末装置12−1は、表示文字列のデータを受信する。
【0244】
ステップS103において、端末装置12−1は、表示文字列を表示する。端末装置12−1で表示される表示文字列について、図14を参照して説明する。
【0245】
[メニューMNの写真に重畳される表示文字列]
図14は、メニューMNの写真P11に重畳される表示文字列の例を示す図である。
【0246】
図14に示されるように、メニューMNの写真P11には、料理写真M1乃至M3の、それぞれの料理を説明する説明用文字列(即ちユーザの母国語、本例では日本語の文字列)が重畳されて表示される。具体的には、料理写真M1に対しては、「スパイシーポテトフライ」という日本語の説明用文字列DA21が表示される。また、料理写真M2に対しては、「ポテトフライタルタル添え」という日本語の説明用文字列DA22が表示される。また、料理写真M3に対しては、「サーモンのカルパッチョ」という日本語の説明用文字列DA23が表示される。
【0247】
端末装置12−1の処理能力が低く、メニューMNの写真P11に説明用文字列DA21乃至DA23を重畳して表示させることが困難な場合には、サーバ11上で当該処理が行われてもよい。即ち、ステップS126の処理で、通信部21は、メニューMNの写真P11に説明用文字列DA21乃至DA23が重畳されたデータを、端末装置12−1に送信するようにしてもよい。この場合、端末装置12−1は、受信したメニューMNの写真P11のデータを表示させることにより、同時に説明用文字列DA21乃至DA23も表示させることができる。
【0248】
このように、本実施形態では、端末装置12−1により、第1言語(例えばユーザにとって他国語)で表記されたメニューMNの写真P11が撮影されて、サーバ11に送信される。そして、サーバ11において、当該写真P11に含まれる被写体に対する画像的な解析によって、メニューMNに含まれる料理の名前や説明等が、第2言語(例えばユーザにとって母国語)の表示文字列として生成されて、端末装置12−1に送信される。これにより、端末装置12−1は、第1言語から第2言語に翻訳する(言語的な)翻訳ソフトウエアを搭載していなくても、第1言語で表記されたメニューMNの写真P11に対して、当該メニューMNに含まれる料理の名前や説明等を第2言語で重畳表示することができる。
【0249】
即ち、ユーザは、端末装置12−1にとって高負荷がかかる大容量、場合によって高コストの翻訳ソフトウエアを特に導入することなく、かつ、電子辞書等のその他の電子機器を携帯することがなくとも、端末装置12−1に対する簡単な操作のみで、当該メニューMNに含まれる料理の名前や説明等を第2言語(母国語)で認知できる。
【0250】
なお、上述の例では、表示文字列選択部34により選択された表示文字列のデータが、所定の端末装置12に送信され、当該所定の端末装置12において表示文字列が表示された。しかしながら、表示文字列選択部34により選択された表示文字列についての所定の端末装置12での提示の形態は、特に表示に限定されず、例えば音声出力でもよい。これにより、端末装置12は、例えば表示機能を有していなくても、表示文字列選択部34により選択された表示文字列を、ユーザに対して適切に提示することができる。
【0251】
具体的には例えば、所定の端末装置12として、表示機能を有しない、眼鏡に装着可能なカメラ付き端末装置が採用される場合がある。このような場合、所定の端末装置12により撮影される写真のデータがサーバ11にアップロードされる。サーバ11は、受信された写真のデータを解析して、当該写真に含まれる被写体の名前や説明の表示文字列のデータを生成する。そして、サーバ11は、生成した表示文字列のデータを所定の端末装置12に送信する。所定の端末装置12は、表示文字列のデータを受信すると、表示機能を有しないため、当該表示文字列を音声により出力する。これにより、当該所定の端末装置12が装着された眼鏡をかけたユーザは、視認したもの(所定の端末装置12により撮影されたもの)の名前や説明を、音声により認知することができる。
【0252】
また、所定の端末装置12からサーバ11にアップロードされる対象は、上述の例では、写真(すなわち、静止画像)のデータとされていたが、画像のデータであれば足り、例えば動画像のデータでもよい。具体的には例えば、所定の端末装置12が、動画像の撮影機能を有している場合には、スルー画像やライブビュー画像と称される、撮影最中の動画像(特に記録を前提としない動画像)をリアルタイムに表示させる機能を有していることが多い。このような機能を有する所定の端末装置12は、スルー画像のデータをサーバ11にアップロードすることができる。
【0253】
サーバ11は、受信されたスルー画像(動画像)のデータを解析して、当該スルー画像に含まれる被写体の名前や説明の表示文字列のデータを生成する。そして、サーバ11は、生成した表示文字列のデータを所定の端末装置12に送信する。所定の端末装置12は、表示文字列のデータを受信すると、被写体に対して、当該表示文字列を重畳表示させたスルー画像を表示する。これにより、ユーザは、動画像の撮影中に被写体となるものの名前や説明を、適切に認知することができる。
【0254】
[本技術のプログラムへの適用]
上述した一連の処理は、ハードウエアにより実行することもできるし、ソフトウエアにより実行することもできる。一連の処理をソフトウエアにより実行する場合には、そのソフトウエアを構成するプログラムが、コンピュータにインストールされる。ここで、コンピュータには、専用のハードウエアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどが含まれる。
【0255】
例えば、コンピュータの一例である図2のサーバ11において、制御部23内のCPUが、記録部22に記憶されているプログラムを、制御部23内のRAMにロードして実行することにより、上述した一連の処理が行われる。
【0256】
コンピュータが実行するプログラムは、例えば、パッケージメディア等としてのリムーバブルメディア25に記録して提供することができる。また、プログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供することができる。
【0257】
コンピュータでは、プログラムは、リムーバブルメディア25をドライブ24に装着することにより、記録部22にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部21で受信し、記録部22にインストールすることができる。その他、プログラムは、制御部23内のROMや記録部22に、あらかじめインストールしておくことができる。
【0258】
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
【0259】
本技術は、例えば、SNSを利用する情報処理装置に適用することができる。
【0260】
本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
【0261】
例えば、本技術は、1つの機能をネットワークを介して複数の装置で分担、共同して処理するクラウドコンピューティングの構成をとることができる。
【0262】
また、上述のフローチャートで説明した各ステップは、1つの装置で実行する他、複数の装置で分担して実行することができる。
【0263】
さらに、1つのステップに複数の処理が含まれる場合には、その1つのステップに含まれる複数の処理は、1つの装置で実行する他、複数の装置で分担して実行することができる。
【0264】
なお、本技術は、以下のような構成もとることができる。
(1)
所定の画像に関連する情報を画像関連情報として取得する画像関連情報取得部と、
前記画像関連情報取得部により取得された前記画像関連情報に基づいてキーワードを生成するキーワード生成部と、
前記キーワード生成部により生成された前記キーワードを1つ以上用いて、表示対象の候補となる文字列を、表示文字列候補として生成する表示文字列候補生成部と
を備える情報処理装置。
情報処理装置。
(2)
前記表示文字列候補生成部により生成された前記表示文字列候補の中から、表示対象の文字列を表示文字列として選択する表示文字列選択部と
を備える
前記(1)に記載の情報処理装置。
(3)
前記表示文字列選択部により選択された前記表示文字列と、前記所定の画像のデータとを関連付けて、他の情報処理装置に送信する通信部と
を備える
前記(1)または(2)に記載の情報処理装置。
(4)
前記表示文字列選択部は、さらに、前記表示文字列候補のそれぞれに対してスコアを算出し、前記表示文字列候補のそれぞれに対して算出された前記スコアに基づいて、前記表示文字列を選択する
前記(1)乃至(3)のいずれかに記載の情報処理装置。
(5)
他の情報処理装置から送信されてきた前記所定の画像のデータを受信する通信部をさらに備え、
前記画像関連情報取得部、前記キーワード生成部、及び前記表示文字列候補生成部は、前記通信部に受信された前記所定の画像のデータに基づいて、それぞれの処理を実行し、
前記通信部は、前記表示文字列候補生成部により生成された前記表示文字列候補を、前記他の情報処理装置に送信する
前記(1)乃至(4)のいずれかに記載の情報処理装置。
(6)
前記画像関連情報取得部は、前記所定の画像のデータの解析結果を用いて、所定の言語で前記画像関連情報を生成し、
前記キーワード生成部は、前記所定の言語で前記キーワードを生成し、
前記表示文字列候補生成部は、前記所定の言語で前記表示文字列候補を生成する
前記(1)乃至(5)のいずれかに記載の情報処理装置。
(7)
前記画像関連情報取得部は、
前記所定の画像のデータの解析結果を示す情報を、前記画像関連情報の一種である画像解析情報として取得する画像解析情報取得部と、
前記所定の画像のデータに付加された情報を、前記画像関連情報の一種である画像付加情報として取得する画像付加情報取得部と、
前記所定の画像の撮影者または前記所定の画像が属するコミュニティへの投稿者の情報を、前記画像関連情報の一種である撮影者投稿者情報として取得する撮影者投稿者情報取得部と
を備える
前記(1)乃至(6)のいずれかに記載の情報処理装置。
(8)
前記画像関連情報取得部は、
前記所定の画像に付属している情報を、前記画像関連情報の一種である画像付属情報として取得する画像付属情報取得部と、
前記所定の画像が属する前記コミュニティにおける前記所定の画像の閲覧者に関する情報、または前記所定の画像の閲覧環境に関する情報を、前記画像関連情報の一種である閲覧者閲覧環境情報として取得する閲覧者閲覧環境情報取得部と
をさらに備える
前記(1)乃至(7)のいずれかに記載の情報処理装置。
(9)
前記キーワード生成部は、前記画像関連情報そのもの、または前記画像関連情報を所定のルール若しくはデータベースを用いて変換したものを、前記キーワードとして生成する
前記(1)乃至(8)のいずれかに記載の情報処理装置。
(10)
前記表示文字列候補生成部は、前記キーワードそのもの、前記キーワードを複数連結したもの、または前記キーワードを所定のルール若しくはデータベースを用いて変換したものを、前記表示文字列候補として生成する
前記(1)乃至(9)のいずれかに記載の情報処理装置。
【0265】
本技術は、コンテンツを編集する編集装置に適用することができる。
【符号の説明】
【0266】
1 文字列自動生成システム, 11 サーバ, 12 端末装置, 13 ネットワーク, 21 通信部, 22 記録部, 23 制御部, 24 ドライブ, 25 リムーバブルメディア, 31 写真関連情報取得部, 32 キーワード生成部, 33 表示文字列候補生成部, 34 表示文字列選択部, 41 写真解析情報取得部, 42 写真付加情報取得部, 43 写真付属情報取得部, 44 撮影者・投稿者情報取得部, 45 閲覧者・閲覧環境情報取得部, 51,71 ディスプレイ

【特許請求の範囲】
【請求項1】
所定の画像に関連する情報を画像関連情報として取得する画像関連情報取得部と、
前記画像関連情報取得部により取得された前記画像関連情報に基づいてキーワードを生成するキーワード生成部と、
前記キーワード生成部により生成された前記キーワードを1つ以上用いて、表示対象の候補となる文字列を、表示文字列候補として生成する表示文字列候補生成部と
を備える情報処理装置。
【請求項2】
前記表示文字列候補生成部により生成された前記表示文字列候補の中から、表示対象の文字列を表示文字列として選択する表示文字列選択部と
を備える請求項1に記載の情報処理装置。
【請求項3】
前記表示文字列選択部により選択された前記表示文字列と、前記所定の画像のデータとを関連付けて、他の情報処理装置に送信する通信部と
を備える請求項2に記載の情報処理装置。
【請求項4】
前記表示文字列選択部は、さらに、前記表示文字列候補のそれぞれに対してスコアを算出し、前記表示文字列候補のそれぞれに対して算出された前記スコアに基づいて、前記表示文字列を選択する
請求項2に記載の情報処理装置。
【請求項5】
他の情報処理装置から送信されてきた前記所定の画像のデータを受信する通信部をさらに備え、
前記画像関連情報取得部、前記キーワード生成部、及び前記表示文字列候補生成部は、前記通信部に受信された前記所定の画像のデータに基づいて、それぞれの処理を実行し、
前記通信部は、前記表示文字列候補生成部により生成された前記表示文字列候補を、前記他の情報処理装置に送信する
請求項1に記載の情報処理装置。
【請求項6】
前記画像関連情報取得部は、前記所定の画像のデータの解析結果を用いて、所定の言語で前記画像関連情報を生成し、
前記キーワード生成部は、前記所定の言語で前記キーワードを生成し、
前記表示文字列候補生成部は、前記所定の言語で前記表示文字列候補を生成する
請求項1に記載の情報処理装置。
【請求項7】
前記画像関連情報取得部は、
前記所定の画像のデータの解析結果を示す情報を、前記画像関連情報の一種である画像解析情報として取得する画像解析情報取得部と、
前記所定の画像のデータに付加された情報を、前記画像関連情報の一種である画像付加情報として取得する画像付加情報取得部と、
前記所定の画像の撮影者または前記所定の画像が属するコミュニティへの投稿者の情報を、前記画像関連情報の一種である撮影者投稿者情報として取得する撮影者投稿者情報取得部と
を備える請求項1に記載の情報処理装置。
【請求項8】
前記画像関連情報取得部は、
前記所定の画像に付属している情報を、前記画像関連情報の一種である画像付属情報として取得する画像付属情報取得部と、
前記所定の画像が属する前記コミュニティにおける前記所定の画像の閲覧者に関する情報、または前記所定の画像の閲覧環境に関する情報を、前記画像関連情報の一種である閲覧者閲覧環境情報として取得する閲覧者閲覧環境情報取得部と
をさらに備える請求項7に記載の情報処理装置。
【請求項9】
前記キーワード生成部は、前記画像関連情報そのもの、または前記画像関連情報を所定のルール若しくはデータベースを用いて変換したものを、前記キーワードとして生成する
請求項1に記載の情報処理装置。
【請求項10】
前記表示文字列候補生成部は、前記キーワードそのもの、前記キーワードを複数連結したもの、または前記キーワードを所定のルール若しくはデータベースを用いて変換したものを、前記表示文字列候補として生成する
請求項1に記載の情報処理装置。
【請求項11】
情報処理装置の情報処理方法において、
前記情報処理装置が、
所定の画像に関連する情報を画像関連情報として取得し、
取得された前記画像関連情報に基づいてキーワードを生成し、
生成された前記キーワードを1つ以上用いて、表示対象の候補となる文字列を、表示文字列候補として生成する
ステップを含む情報処理方法。
【請求項12】
コンピュータを、
所定の画像に関連する情報を画像関連情報として取得する画像関連情報取得部と、
前記画像関連情報取得部により取得された前記画像関連情報に基づいてキーワードを生成するキーワード生成部と、
前記キーワード生成部により生成された前記キーワードを1つ以上用いて、表示対象の候補となる文字列を、表示文字列候補として生成する表示文字列候補生成部と
して機能させるためのプログラム。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate


【公開番号】特開2013−101450(P2013−101450A)
【公開日】平成25年5月23日(2013.5.23)
【国際特許分類】
【出願番号】特願2011−244162(P2011−244162)
【出願日】平成23年11月8日(2011.11.8)
【出願人】(000002185)ソニー株式会社 (34,172)
【Fターム(参考)】