説明

検出装置、該検出装置を備えた表示制御装置および撮影制御装置、物体検出方法、制御プログラム、ならびに、記録媒体

【課題】画像から動物と人物とをそれぞれ認識し、検出する検出装置を実現する。
【解決手段】画像から動物を検出する動物検出部21と、上記画像から人物を検出する人物検出部22と、動物かつ人物が検出された場合に、目的の物体が検出されたことを示す情報を検出結果として出力する検出結果出力部23とを備えていることを特徴としている。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像認識によって特定の物体を検出する検出装置、該検出装置を備えた表示制御装置および撮影制御装置、物体検出方法、制御プログラム、ならびに、記録媒体に関するものである。
【背景技術】
【0002】
従来、画像認識の技術は様々なシーンに広く応用され、活用されてきた。
【0003】
例えば、特許文献1には、表示させる広告を、人物の特徴に合わせて自動的に切り換えることにより、広告や表示画像の効果や価値を高めることのできる画像表示方法が開示されている。特許文献1に記載された画像表示システムは、画像センサで人物を撮影し、抽出された人物の第1の特徴を検出し、この特徴に応じて、画像表示媒体に表示する画像を切り換えている。
【0004】
特許文献2には、複数の人物によって形成されるグループのグループ属性を推定するグループ属性推定方法および装置が開示されている。特許文献2に記載されたグループ属性推定装置は、店舗内が撮像された場面画像から、顧客を抽出する人物抽出処理を行い、抽出された複数の顧客から同一のグループを形成する顧客らを推定する。さらには、グループ属性推定装置は、グループ化された顧客ごとに人物属性の推定を行って、グループ属性を推定している。
【0005】
特許文献3には、歩行者と、それ以外の所定の動物とを判別する画像認識装置が開示されている。特許文献3に記載された画像認識装置は、画像から検出された判別の候補となる物体の輪郭の大きさや形状に基づいて、歩行者以外の所定の動物を判別する。
【0006】
特許文献4には、検出された人物のペットのペット画像を検出するペット画像検出システムおよび方法が開示されている。特許文献4に記載されたペット画像検出システムは、まず、被写体像の中から人物像を検出し、その人物像の人物を識別する。そして、ペット画像検出システムは、個人情報テーブルにおいて予め識別した人物に関連付けられているペット情報に基づいて、ペット画像を被写体像から見つける。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】特開2002−073321号公報(2002年3月12日公開)
【特許文献2】特開2004−054376号公報(2004年2月19日公開)
【特許文献3】特開2008−021035号公報(2008年1月31日公開)
【特許文献4】特開2010−134910号公報(2010年6月17日公開)
【発明の概要】
【発明が解決しようとする課題】
【0008】
しかしながら、上記特許文献1および2の技術は、人物を検出するためのものである。そのため、人物以外の動物を検出するという目的で利用することはできない。
【0009】
また、特許文献3の技術は、抽出された判別対象となる物体の1つ1つについて、それが歩行者であるか歩行者以外の動物であるのかを判別するためのものである。そのため、複数の特定の物体を検出するという目的で利用することはできない。
【0010】
さらに、特許文献4のペット画像検出システムは、人物のペットを検出するためには、事前に、人物とそのペットのペット情報とを関連付けた個人情報テーブルを作成する必要があり、個人情報テーブルに登録されていない(不特定の)人物とペットとを検出することはできない。そのため、例えば、不特定の人物と動物とを検出するという目的で利用することはできない。
【0011】
本発明は、上記の問題点に鑑みてなされたものであり、その目的は、静止画または動画(以下、特に区別する必要がないときは単に画像と称する)から動物と人物とを認識し、検出する検出装置、該検出装置を備えた表示制御装置および撮影制御装置、物体検出方法、制御プログラム、ならびに、記録媒体を実現することにある。
【課題を解決するための手段】
【0012】
本発明の検出装置は、上記課題を解決するために、撮像された画像から動物を検出する動物検出手段と、上記画像から人物を検出する人物検出手段と、上記画像から、上記動物検出手段によって動物が検出され、かつ、上記人物検出手段によって人物が検出された場合に、目的の物体が検出されたことを示す情報を少なくとも含む検出結果を出力する検出結果出力手段とを備えていることを特徴としている。
【0013】
上記構成によれば、動物検出手段は、検出の処理の対象となる画像に動物が写っていれば、それを動物として認識し、検出する。一方、人物検出手段は、上記画像に人物が写っていれば、それを人物として認識し、検出する。
【0014】
検出結果出力手段は、動物検出手段によって動物が検出され、なおかつ、人物検出手段によって人物が検出された場合に、目的の物体が検出されたことを示す情報を少なくとも含む検出結果を出力する。
【0015】
以上のとおり、動物および人物の両方を画像から認識し、そのことを以って、「目的の物体が検出された」と判断する検出装置を実現することができる。
【0016】
つまり、画像を上記検出装置の処理にかけると、検出装置が出力した検出結果から、その画像から動物および人物の両方が検出されたか否かが判明する。これにより、上記検出結果を利用する側の構成要素または装置においては、動物と人物とがともに検出されたのか、そうでないのかの状況の違いに応じて、異なる処理を実行することが可能となる。
【0017】
本発明の検出装置は、さらに、上記画像から、上記動物検出手段によって検出された動物について、当該動物が、人によって飼われているペットであるのか否かを判定するペット判定手段を備え、上記検出結果出力手段は、上記画像から、上記ペット判定手段によってペットと判定された動物が検出され、かつ、上記人物検出手段によって人物が検出された場合に、目的の物体が検出されたことを示す情報を含む上記検出結果を出力してもよい。
【0018】
上記構成によれば、動物検出手段が、上記画像から動物を検出し、一方、人物検出手段が、上記画像から人物を検出する。これに加えて、ペット判定手段は、上記画像から検出された1以上の動物について、その動物がペットであるのか否かを判定する。「ペットである」とは、「人によって飼われている動物である」ということを意味する。
【0019】
検出結果出力手段は、動物および人物が検出され、なおかつ、検出された動物がペットであると判定された場合に、目的の物体が検出されたことを示す情報を少なくとも含む検出結果を出力する。検出された動物が複数であれば、少なくとも1つの動物がペットであると判定されればよい。
【0020】
以上のとおり、ペットである動物および人物の両方を画像から認識し、そのことを以って、「目的の物体が検出された」と判断する検出装置を実現することができる。
【0021】
つまり、画像を上記検出装置の処理にかけると、検出装置が出力した検出結果から、その画像からペットおよび人物の両方が検出されたか否かが判明する。これにより、上記検出結果を利用する側の構成要素または装置においては、ペットと人物とがともに検出されたのか、そうでないのかの状況の違いに応じて、異なる処理を実行することが可能となる。つまり、検出結果を利用する側の構成要素または装置は、さらに、ペット以外の動物および人物が検出された場合と、ペットおよび人物が検出された場合とを区別できる。そのため、より詳細な状況の違いに応じて、異なる処理を実行することが可能となり、より細やかな対応ができる。
【0022】
本発明の検出装置は、あるいは、上記画像から、上記人物検出手段によって検出された人物について、当該人物が、動物を飼っている飼い主であるのか否かを判定する飼い主判定手段を備え、上記検出結果出力手段は、上記画像から、上記飼い主判定手段によって飼い主と判定された人物が検出され、かつ、上記動物検出手段によって動物が検出された場合に、目的の物体が検出されたことを示す情報を含む上記検出結果を出力してもよい。
【0023】
上記構成によれば、動物検出手段が、上記画像から動物を検出し、一方、人物検出手段が、上記画像から人物を検出する。これに加えて、飼い主判定手段は、上記画像から検出された1以上の人物について、その人物が飼い主であるのか否かを判定する。「飼い主である」とは、「ペットを飼っている人物である」ということを意味する。
【0024】
検出結果出力手段は、動物および人物が検出され、なおかつ、検出された人物が飼い主であると判定された場合に、目的の物体が検出されたことを示す情報を少なくとも含む検出結果を出力する。検出された人物が複数であれば、少なくとも1つの人物が飼い主であると判定されればよい。
【0025】
以上のとおり、動物および飼い主である人物の両方を画像から認識し、そのことを以って、「目的の物体が検出された」と判断する検出装置を実現することができる。
【0026】
つまり、画像を上記検出装置の処理にかけると、検出装置が出力した検出結果から、その画像から動物および飼い主の両方が検出されたか否かが判明する。これにより、上記検出結果を利用する側の構成要素または装置においては、動物と飼い主とがともに検出されたのか、そうでないのかの状況の違いに応じて、異なる処理を実行することが可能となる。つまり、検出結果を利用する側の構成要素または装置は、さらに、動物および飼い主以外の人物が検出された場合と、動物および飼い主が検出された場合とを区別できる。そのため、より詳細な状況の違いに応じて、異なる処理を実行することが可能となり、より細やかな対応ができる。
【0027】
本発明の検出装置は、あるいは、上記画像から、上記動物検出手段によって検出された動物について、当該動物が、人によって飼われているペットであるのか否かを判定するペット判定手段と、上記画像から、上記人物検出手段によって検出された人物について、当該人物が、動物を飼っている飼い主であるのか否かを判定する飼い主判定手段とを備え、上記検出結果出力手段は、上記画像から、上記ペット判定手段によってペットと判定された動物が検出され、かつ、上記飼い主判定手段によって飼い主と判定された人物が検出された場合に、目的の物体が検出されたことを示す情報を含む上記検出結果を出力することが好ましい。
【0028】
上記構成によれば、動物検出手段が、上記画像から動物を検出し、一方、人物検出手段が、上記画像から人物を検出する。これに加えて、ペット判定手段は、上記画像から検出された1以上の動物について、その動物がペットであるのか否かを判定する。「ペットである」とは、「人によって飼われている動物である」ということを意味する。さらに、飼い主判定手段は、上記画像から検出された1以上の人物について、その人物が飼い主であるのか否かを判定する。「飼い主である」とは、「ペットを飼っている人物である」ということを意味する。
【0029】
検出結果出力手段は、動物および人物が検出された場合、かつ、検出された動物がペットであると判定された場合、かつ、検出された人物が飼い主であると判定された場合に、目的の物体が検出されたことを示す情報を少なくとも含む検出結果を出力する。検出された動物が複数であれば、少なくとも1つの動物がペットであると判定されればよい。また、検出された人物が複数であれば、少なくとも1つの人物が飼い主であると判定されればよい。
【0030】
以上のとおり、ペットである動物および飼い主である人物の両方を画像から認識し、そのことを以って、「目的の物体が検出された」と判断する検出装置を実現することができる。
【0031】
つまり、画像を上記検出装置の処理にかけると、検出装置が出力した検出結果から、その画像からペットおよび飼い主の両方が検出されたか否かが判明する。これにより、上記検出結果を利用する側の構成要素または装置においては、ペットと飼い主とがともに検出されたのか、そうでないのかの状況の違いに応じて、異なる処理を実行することが可能となる。つまり、検出結果を利用する側の構成要素または装置は、さらに、動物および人物が検出された場合であっても、ペットおよび飼い主が検出されなかった場合と、ペットおよび飼い主が検出された場合とを区別できる。そのため、より詳細な状況の違いに応じて、異なる処理を実行することが可能となり、より細やかな対応ができる。つまり、上記検出結果を利用する側の構成要素または装置は、「ペットおよび飼い主が検出された」という特別な状況に最適な処理を実行することが可能となる。
【0032】
本発明の検出装置において、上記ペット判定手段は、上記画像上の上記動物を含む動物領域から抽出された、当該動物の特徴を反映した特徴量データを、ペットらしき特徴またはペットらしくない特徴を反映したモデルの特徴量データと比較することにより、上記動物がペットであるのか否かを判定してもよい。
【0033】
上記構成によれば、ペット判定手段は、上記動物の上記特徴量データが、ペットらしきモデルの特徴量データと類似または合致しているほど、当該動物がペットである可能性が高いと判断できるし、ペットらしくないモデルの特徴量データと類似または合致しているほど、当該動物がペットである可能性が低いと判断できる。
【0034】
本発明の検出装置において、上記飼い主判定手段は、上記画像上の上記人物を含む人物領域から抽出された、当該人物の特徴を反映した特徴量データを、飼い主らしき特徴または飼い主らしくない特徴を反映したモデルの特徴量データと比較することにより、上記人物が飼い主であるのか否かを判定してもよい。
【0035】
上記構成によれば、飼い主判定手段は、上記人物の上記特徴量データが、飼い主らしきモデルの特徴量データと類似または合致しているほど、当該人物が飼い主である可能性が高いと判断できるし、飼い主らしくないモデルの特徴量データと類似または合致しているほど、当該人物が飼い主である可能性が低いと判断できる。
【0036】
本発明の検出装置は、さらに、上記ペット判定手段は、さらに、ペットであると判定した動物の属性を判定するものであり、上記検出結果出力手段は、上記ペット判定手段によって判定された上記ペットの属性を示すペット属性情報を、上記検出結果に含めてもよい。
【0037】
上記構成によれば、ペット判定手段は、検出された動物のうち、ペットと判定された動物の属性、つまりは、ペットの属性をさらに判定する。
【0038】
検出結果出力手段は、ペットが検出され、かつ、人物が検出された場合に、目的の物体が検出されたことを示す情報を検出結果に含める。さらに、検出結果出力手段は、上記ペット判定手段によって判定された、上記ペットの属性を示す情報、すなわち、ペット属性情報を、上記検出結果に含める。
【0039】
よって、目的の物体が検出されたことを示す情報と、検出されたペットのペット属性情報とを含む検出結果が出力される。
【0040】
以上のとおり、ペットである動物および人物の両方を画像から認識し、そのことを以って、「目的の物体が検出された」と判断する検出装置を実現することができる。加えて、当該検出装置は、検出した目的の物体のうち、ペットについては、そのペットのペット属性情報を出力することができる。
【0041】
つまり、画像を上記検出装置の処理にかけると、検出装置が出力した検出結果から、その画像からペットおよび人物の両方が検出されたか否かが判明する。そして、その検出されたペットとはどのようなペットであるのか(ペットの属性)が判明する。
【0042】
これにより、上記検出結果を利用する側の構成要素または装置においては、ペットおよび人物の両方が検出された場合に、さらに、どのようなペットが検出されたのかという状況の違いに応じて、異なる処理を実行することが可能となる。つまり、検出結果を利用する側の構成要素または装置は、検出されたペットが、より詳細には、どのようなペットであるのか、その属性を区別できる。そのため、ペットの属性の違いに応じて、異なる処理を実行することが可能となり、より一層細やかな対応ができる。
【0043】
なお、本発明の検出装置において、上記飼い主判定手段は、さらに、飼い主と判定した人物の属性を判定するものであってもよい。この場合、上記検出結果出力手段は、上記飼い主判定手段によって判定された上記飼い主の属性を示す飼い主属性情報を、上記検出結果に含めてもよい。
【0044】
上記構成によれば、目的の物体が検出されたことを示す情報と、検出された飼い主の飼い主属性情報とを含む検出結果が出力される。
【0045】
以上のとおり、動物および飼い主である人物の両方を画像から認識し、そのことを以って、「目的の物体が検出された」と判断する検出装置を実現することができる。加えて、当該検出装置は、検出した目的の物体のうち、飼い主については、その飼い主の飼い主属性情報を出力することができる。
【0046】
つまり、画像を上記検出装置の処理にかけると、その検出された飼い主とはどのような飼い主であるのか(飼い主の属性)が判明する。
【0047】
これにより、上記検出結果を利用する側の構成要素または装置においては、動物(またはペット)および飼い主の両方が検出された場合に、さらに、どのような飼い主が検出されたのかという状況の違いに応じて、異なる処理を実行することが可能となる。つまり、検出結果を利用する側の構成要素または装置は、検出された飼い主が、より詳細には、どのような飼い主であるのか、その属性を区別できる。そのため、飼い主の属性の違いに応じて、異なる処理を実行することが可能となり、より一層細やかな対応ができる。
【0048】
本発明の検出装置は、さらに、上記画像から、上記動物検出手段によって検出された動物と、上記人物検出手段によって検出された人物とを対応付けて対にするペアリング手段を備え、上記検出結果出力手段は、上記ペアリング手段によって対にされた動物および人物の対応関係を示す対応情報を、上記検出結果に含めてもよい。
【0049】
上記構成によれば、ペアリング手段は、検出された動物と、検出された人物とを対応付けて対にする。上記検出結果出力手段は、上記ペアリング手段が、どの動物とどの人物とを対応付けたのかを示す対応情報を、上記検出結果に含める。
【0050】
したがって、目的の物体が検出されたことを示す情報と、上記対応情報とを含む検出結果が当該検出装置から出力される。
【0051】
これにより、上記検出結果を利用する側の構成要素または装置においては、動物および人物の両方が検出された場合に、さらに、どの動物とどの人物とが対であるのかという情報に基づいて、その対(ペア)をターゲットにしたさまざまな処理を実行することが可能となる。動物と人物とが対であるということは、当該動物は、当該人物に飼われていて、当該人物は当該動物を飼っているという関係が成り立つということを意味する。
【0052】
つまり、検出結果を利用する側の構成要素または装置は、検出された動物と人物との関係性を考慮して、異なる処理を実行することが可能となり、より一層細やかな対応ができる。
【0053】
本発明の検出装置において、上記ペアリング手段は、上記画像から検出された動物および人物のうち、距離が最も短い動物および人物同士を対にしてもよい。
【0054】
上記構成によれば、互いに近くにいる動物と人物とが対であると判断され、そのことを示す対応情報が、検出結果に含められて出力される。
【0055】
上記対の関係性を有している動物と人物とは互いに近くに居る可能性が高い。よって、上記ペアリング手段は、精度よくペアリング処理を実行することができる。
【0056】
あるいは、本発明の検出装置において、上記ペアリング手段は、上記画像から、上記動物と上記人物とを接続する線形の物体をリードとして認識し、上記画像から検出された動物および人物のうち、認識された上記リードで接続されている動物および人物同士を対にしてもよい。
【0057】
上記構成によれば、リード(または、紐、鎖、手綱)のような物体を介して、動物と人物とがつながれている場合に、そのつながれた動物と人物とが対であると判断される。
【0058】
上記対の関係性を有している人物は、飼っている動物をリードなどでつないで引率している可能性が高い。よって、上記ペアリング手段は、精度よくペアリング処理を実行することができる。
【0059】
あるいは、本発明の検出装置において、上記画像から、上記動物検出手段によって検出された動物について、当該動物が、人によって飼われているペットであるのか否かを判定するペット判定手段と、上記画像から、上記人物検出手段によって検出された人物について、当該人物が、動物を飼っている飼い主であるのか否かを判定する飼い主判定手段とを備え、上記ペアリング手段は、上記画像から検出された動物および人物のうち、ペットであると判定された動物と、飼い主であると判定された人物とを対にしてもよい。
【0060】
上記構成によれば、ペアリング手段は、ペットと判定された動物と、飼い主と判定された人物とを対にする。
【0061】
上述したとおり、動物と人物とが対であるということは、当該動物は、当該人物に飼われていて、当該人物は当該動物を飼っているという関係が成り立つということを意味する。すなわち、対になる動物はペットであり、人物は飼い主である。
【0062】
これにより、上記ペアリング手段は、ペットではない動物または飼い主でない人物を誤って対にしてしまうことがなくなる。よって、上記ペアリング手段は、精度よくペアリング処理を実行することができる。
【0063】
本発明の表示制御装置は、上記課題を解決するために、上述の検出装置から出力された検出結果に応じて、表示部を制御する表示制御手段を備え、上記画像は、上記表示部を視認できる位置にある物体を撮像した画像であり、上記表示制御手段は、上記検出結果に、目的の物体が検出されたことを示す情報が含まれている場合に、ペットに関連するペット関連画像を上記表示部に表示させることを特徴としている。
【0064】
これにより、上述の検出装置から出力される上記検出結果を利用する側の表示制御装置が実現される。
【0065】
表示制御装置は、上記構成によって、動物と人物とがともに検出されたのか、そうでないのかの状況の違いに応じて、異なる表示制御処理を実行することが可能となる。具体的には、表示制御装置は、動物と人物とがともに検出された場合に、ペットに関連するペット関連画像を上記表示部に表示させることが可能となる。上記画像から動物と人物とがともに検出されたということは、動物とともに居る人物は、表示を視認可能な位置に居るということである。
【0066】
動物とともに居る人物は、表示部に表示されたペット関連画像に興味を示す可能性が高く、ペット関連画像が表示部に表示された場合に、当該画像が周囲に居る人物に注目される可能性を高めることが可能である。
【0067】
本発明の表示制御装置は、さらに、上述の検出装置から出力された検出結果に応じて、表示部を制御する表示制御手段を備え、上記画像は、上記表示部を視認できる位置にある物体を撮像した画像であり、上記表示制御手段は、上記検出結果に含まれている上記ペット属性情報に応じて、上記ペット関連画像のうち、上記ペットの属性に対応するペット関連画像を上記表示部に表示させてもよい。
【0068】
上記構成によれば、表示制御装置は、ペットと人物とが検出されたのか否かと、当該ペットがどのようなペットであるのか(ペット属性情報)とに応じて、異なる表示制御処理を実行することが可能となる。
【0069】
より詳細には、表示制御手段が、ペットと人物とが検出された場合に、ペット関連画像を表示させる際、表示制御手段は、さらに、ペット属性情報を考慮して、ペット関連画像の中でも、そのペットの属性に対応するペット関連画像を表示部に表示させる。
【0070】
ペットとともに居る人物は、そのペットの属性に対応したペット関連画像にとりわけ興味を示すと考えられる。よって、そのペットの属性に対応したペット関連画像が表示部に表示された場合に、当該画像が周囲に居る人物に注目される可能性をより一層高めることが可能である。
【0071】
本発明の撮影制御装置は、上記課題を解決するために、上述の検出装置から出力された検出結果に応じて、カメラを制御する撮影制御手段を備え、上記画像は、上記カメラによって撮像されたライブビュー画像であり、上記撮影制御手段は、上記検出結果に含まれている上記対応情報が示す動物および人物の対を目的の被写体として特定し、当該目的の被写体が鮮鋭に撮影されるように上記カメラを制御することを特徴としている。
【0072】
これにより、上述の検出装置から出力される上記検出結果を利用する側の撮影制御装置が実現される。
【0073】
撮影制御装置は、上記構成によって、動物と人物とがともに検出され、それらの検出された目的の物体が、対である、すなわち、飼われている/飼っているの関係性があるか否かを考慮する。目的の物体が対であると判定した場合には、撮影制御装置は、当該目的の物体(動物および人物)を撮影するべき目的の被写体として特定する。
【0074】
そして、撮影制御装置は、目的の被写体を、その他の背景と区別して、鮮鋭に撮影されるように上記カメラを制御することができる。
【0075】
本発明の物体検出方法は、上記課題を解決するために、撮像された画像から動物を検出する動物検出ステップと、上記画像から人物を検出する人物検出ステップと、上記画像から、上記動物検出ステップによって動物が検出され、かつ、上記人物検出ステップによって人物が検出された場合に、目的の物体が検出されたことを示す情報を少なくとも含む検出結果を出力する検出結果出力ステップとを含むことを特徴としている。
【0076】
なお、上記検出装置は、コンピュータによって実現してもよく、この場合には、コンピュータを上記検出装置の上記各手段として動作させることにより上記検出装置をコンピュータにて実現させる検出装置の制御プログラム、およびそれを記録したコンピュータ読み取り可能な記録媒体も、本発明の範疇に入る。また、コンピュータを上記表示制御装置の上記各手段として動作させることにより上記表示制御装置をコンピュータにて実現させる表示制御装置の制御プログラム、およびそれを記録したコンピュータ読み取り可能な記録媒体も、本発明の範疇に入る。また、コンピュータを上記撮影制御装置の上記各手段として動作させることにより上記撮影制御装置をコンピュータにて実現させる撮影制御装置の制御プログラム、およびそれを記録したコンピュータ読み取り可能な記録媒体も、本発明の範疇に入る。
【発明の効果】
【0077】
本発明の検出装置は、上記課題を解決するために、撮像された画像から動物を検出する動物検出手段と、上記画像から人物を検出する人物検出手段と、上記画像から、上記動物検出手段によって動物が検出され、かつ、上記人物検出手段によって人物が検出された場合に、目的の物体が検出されたことを示す情報を少なくとも含む検出結果を出力する検出結果出力手段とを備えていることを特徴としている。
【0078】
本発明の物体検出方法は、上記課題を解決するために、撮像された画像から動物を検出する動物検出ステップと、上記画像から人物を検出する人物検出ステップと、上記画像から、上記動物検出ステップによって動物が検出され、かつ、上記人物検出ステップによって人物が検出された場合に、目的の物体が検出されたことを示す情報を少なくとも含む検出結果を出力する検出結果出力ステップとを含むことを特徴としている。
【0079】
これにより、画像から動物と人物とを認識し、そのことを以って、「目的の物体が検出された」と判断する検出装置を実現することができる。
【図面の簡単な説明】
【0080】
【図1】本発明の実施形態の表示装置における、検出装置および表示制御装置の要部構成を示すブロック図である。
【図2】本発明の実施形態における表示装置の利用シーンと、表示装置の概略構成とを示す図である。
【図3】(a)〜(d)は、検出装置の画像入力部が、動物検出部および人物検出部に入力する、物体検出処理の対象となる画像(入力画像)の具体例を示す図である。
【図4】上記の各入力画像において、検出装置の動物検出部および人物検出部による物体検出処理によって、動物および人物の領域が特定された様子を示す図である。
【図5】検出装置の検出結果出力部の動作の一例を具体的に説明する図である。
【図6】表示制御装置の表示規則記憶部に記憶されている表示規則の一例を示す図である。
【図7】「動物+人物」が表示装置周辺に存在しない場合に、この場合に対応する広告が表示されたときの、表示部の表示画面の一例を示す図である。
【図8】「動物+人物」が表示装置周辺に存在する場合に、ペット関連広告が表示されたときの、表示部の表示画面の一例を示す図である。
【図9】本発明の実施形態の表示装置における処理の流れを示すフローチャートである。
【図10】本発明の変形例に基づく検出装置の要部構成を示す図である。
【図11】(a)は、上記変形例において、検出装置の検出結果出力部が生成する検出結果識別情報の具体例を示す図であり、(b)は、上記変形例において、表示制御装置の表示制御部が参照する表示規則の具体例を示す図である。
【図12】他の実施形態の表示装置における、検出装置および表示制御装置の要部構成を示すブロック図である。
【図13】検出装置のペット判定部および動物特徴量記憶部の要部構成を示すブロック図である。
【図14】上記他の実施形態の表示装置における処理の流れを示すフローチャートである。
【図15】さらに他の実施形態の表示装置における、検出装置および表示制御装置の要部構成を示すブロック図である。
【図16】検出装置の飼い主判定部および人物特徴量記憶部の要部構成を示すブロック図である。
【図17】上記さらに他の実施形態の表示装置における処理の流れを示すフローチャートである。
【図18】さらに他の実施形態の表示装置における、検出装置および表示制御装置の要部構成を示すブロック図である。
【図19】上記さらに他の実施形態の表示装置における処理の流れを示すフローチャートである。
【図20】撮像部によって撮像されたある時点の入力画像において、動物検出部および人物検出部による物体検出処理によって、動物および人物の領域が特定された様子を示す図である。
【図21】検出装置の検出結果出力部の動作の一例を具体的に説明する図であり、検出結果出力部が生成するペット属性情報の一例を示す図である。
【図22】表示制御装置の表示規則記憶部に記憶されている表示規則の他の例を示す図である。
【図23】本発明の実施形態のデジタルカメラにおける、検出装置および撮影制御装置の要部構成を示すブロック図である。
【図24】(a)および(b)は、動物および人物の領域が特定された入力画像において、検出装置のペアリング部によるペアリング処理によって、動物および人物の領域が対にされた様子を示す図である。
【図25】本発明の実施形態におけるデジタルカメラの利用シーンを示す図である。
【発明を実施するための形態】
【0081】
≪実施形態1≫
本発明の実施形態について、図1〜図11に基づいて説明すると以下の通りである。
【0082】
以下で説明する実施形態では、本発明の検出装置を、表示装置に適用した場合について説明する。
【0083】
〔表示装置の概要〕
図2は、本実施形態における表示装置の利用シーンと、表示装置の概略構成とを示す図である。
【0084】
本実施形態では、表示装置1は、一例として、不特定多数の人物が往来する街頭に設置されたデジタルサイネージである。上記表示装置1は、電子データ(静止画、動画、音声などを含む)である広告画像を、不特定多数の人物によって視認されるように、表示装置1が備える表示部5(液晶ディスプレイ、プラズマディスプレイ、ELディスプレイ、有機ELディスプレイ、LEDディスプレイ、プロジェクタなど)に表示するものである。
【0085】
表示装置1は、さらに、本発明の検出装置2、表示制御装置3、および、撮像部4を備えている。
【0086】
撮像部4は、静止画または動画を撮像し、検出装置2に供給するものである。撮像部4は、表示部5に表示された広告を視認可能な位置にいる人物を撮影できるように、画角などが調節され、適切な位置に設置されることが好ましい。
【0087】
検出装置2は、撮像部4から供給された画像を処理して、特定の物体を認識し、検出するものである。本実施形態では、検出装置2は、画像から、人物と動物とを検出する。
【0088】
表示制御装置3は、検出装置2による検出結果に応じて、表示装置1の表示を制御するものである。
【0089】
すなわち、本実施形態では、表示装置1において、検出装置2は、広告を視認可能な位置にいる人物および当該人物の近隣にいる動物を検出し、表示制御装置3は、その検出結果に応じて、表示部5に表示される広告画像を制御する。
【0090】
これにより、表示装置1は、広告を視認可能な位置に何が存在するのかに応じて、表示される広告画像を切り換えることができる。
【0091】
次に、表示装置1(検出装置2および表示制御装置3)の構成の詳細について、図1を参照しながら説明する。
【0092】
〔表示装置の構成〕
図1は、本実施形態の表示装置1における、検出装置2および表示制御装置3の要部構成を示すブロック図である。図1に示すとおり、表示装置1は、ハードウェア構成として概略的には、少なくとも、撮像部4、表示部5、制御部10、および、記憶部11を備えている。なお、図示しないが、表示装置1は、さらに、通信部を備えていてもよい。この場合、表示装置1は、通信部によってネットワークを介して、外部の装置と接続され、外部の装置からの命令にしたがって広告画像を表示したり、表示すべき広告画像を外部の装置から受信したりすることができる。
【0093】
撮像部4は、上述したとおり、表示装置1の周辺を撮像し、静止画または動画を得るためのものである。撮像部4は、例えば、CCD(Charge Coupled Devices)カメラまたはCMOS(Complementary Metal-Oxide-Semiconductor)カメラなどで実現されるが、その他の撮像装置を撮像部4として用いてもよい。撮像部4が撮像して得られた静止画または動画は、表示装置1に搭載された検出装置2に供給される。
【0094】
表示部5は、上述したとおり、広告画像を表示するためのものである。表示部5は、例えば、LCD(液晶ディスプレイ)などで実現される。
【0095】
記憶部11は、制御部10が実行する(1)制御プログラム、(2)OSプログラム、(3)制御部10が、表示装置1が有する各種機能を実行するためのアプリケーションプログラム、および、(4)該アプリケーションプログラムを実行するときに読み出す各種データを記憶するものである。あるいは、(5)制御部10が各種機能を実行する過程で演算に使用するデータおよび演算結果等を記憶するものである。例えば、上記の(1)〜(4)のデータは、ROM(read only memory)、フラッシュメモリ、EPROM(Erasable Programmable ROM)、EEPROM(Electrically EPROM)、NVRAM(non-Volatile random access memory)などの不揮発性記憶装置に記憶される。例えば、上記の(5)のデータは、RAM(Random Access Memory)などの揮発性記憶装置に記憶される。どのデータをどの記憶装置に記憶するのかについては、表示装置1の使用目的、利便性、コスト、物理的な制約などから適宜決定される。
【0096】
制御部10は、表示装置1が備える各部を統括制御するものである。制御部10は、例えば、CPU(central processing unit)などで実現され、表示装置1が備える機能は、制御部10としてのCPUが、ROMなどに記憶されているプログラムを、RAMなどに読み出して実行することで実現される。
【0097】
とりわけ、記憶部11は、少なくとも、表示装置1に搭載された検出装置2が実行する物体検出機能を実現するために読み出す各種プログラム、データを記憶している。具体的には、記憶部11には、動物特徴量記憶部40および人物特徴量記憶部41が含まれる。
【0098】
とりわけ、制御部10は、機能ブロックとして、少なくとも、画像入力部20、動物検出部21、人物検出部22および検出結果出力部23を備えている。これらの機能ブロックは、表示装置1において、検出装置2として機能するソフトウェア構成を表している。
【0099】
本実施形態では、記憶部11は、さらに、表示装置1に搭載された表示制御装置3が実行する広告制御機能を実現するために読み出す各種プログラム、データを記憶していてもよい。具体的には、記憶部11には、表示規則記憶部42および広告記憶部43が含まれる。
【0100】
また、制御部10は、機能ブロックとして、さらに、表示制御部30を備えていてもよい。機能ブロックである表示制御部30は、表示装置1において、表示制御装置3として機能するソフトウェア構成を表している。
【0101】
上述した制御部10の各機能ブロックは、CPUが、ROM、NVRAM等で実現された記憶装置(記憶部11)に記憶されているデータ管理機能のプログラムを不図示のRAM(random access memory)等に読み出して実行することで実現できる。
【0102】
画像入力部20は、撮像部4によって取得された画像(静止画または動画)の中から、物体検出処理の対象となる画像を取得して、動物検出部21および人物検出部22に入力するものである。画像入力部20は、動画を構成する各フレームを、逐次、動物検出部21および人物検出部22に供給してもよい。あるいは、画像入力部20は、動画の全てのフレームを物体検出処理にかけることが負荷の問題上困難な場合には、所定枚数または所定秒間隔でフレームを間引きして、動物検出部21および人物検出部22に供給してもよい。画像入力部20が画像を入力するタイミングは特に限定されない。ただし、街頭における表示装置1周辺の状況は刻一刻と変化するため、表示装置1において、変化に対応してより正確に状況が把握されなければならない。そのため、画像入力部20は、撮像部4によって撮像された画像を、ほぼリアルタイムで動物検出部21および人物検出部22に入力することが好ましい。
【0103】
例えば、画像入力部20は、撮像部4が撮像した画像のうち、図3の(a)〜(d)に示す各画像を動物検出部21および人物検出部22に供給する。図3の(a)〜(d)は、画像入力部20が、動物検出部21および人物検出部22に入力する、物体検出処理の対象となる画像の具体例を示す図である。物体検出処理とは、所定の物体を画像から認識し、検出するための処理のことであり、動物検出部21が実行する動物検出処理、および、人物検出部22が実行する人物検出処理を含む。
【0104】
動物検出部21は、画像入力部20を介して入力された物体検出処理の対象となる画像に動物が写っている場合に、それを検出するものである。ここで、動物は、人間以外のあらゆる生物を含んでいる。動物検出部21は、動物特徴量記憶部40に記憶されている、動物の特徴を反映した特徴量データに基づいて、入力された画像を走査する。すなわち、動物の特徴量データと、画像から抽出される特徴量データとを比較する。動物検出部21は、比較の結果、動物の特徴量データと合致する、あるいは、類似度が高い領域を特定できた場合には、当該領域に写っている物体を、動物として検出する。
【0105】
どのような内容の特徴量データを動物特徴量記憶部40に記憶するのかは特に限定されない。しかし、動物は種類によって、色も形状も様々である。そこで、より正確に動物を検出するためには、想定されている動物の種類ごとに、その動物の特徴を反映した、モデルとなる特徴量データを用意しておくことが好ましい。例えば、人に飼われているペットとして人とともに行動する(ここでは、屋外に外出する)ことが想定される動物、あるいは、運搬されることが想定される動物(犬、猫、鳥、虫、あるいは、その他の小動物など)を検出できるように、それぞれの特徴量データを動物特徴量記憶部40に記憶しておくことが考えられる。
【0106】
特徴量データは、画像そのものであってもよいし、所定の画像処理によって画像から抽出されるあらゆる情報であってもよい。例えば、特徴量データは、その動物特有の色を示す色情報であってもよいし、その動物特有の形状を示す形状情報であってもよいし、人間の大きさに対してその動物がどのくらいの大きさであるのかを示す大きさ情報であってもよいし、また、それらの情報を複数含む複合データであってもよい。
【0107】
例えば、動物の形状や大きさなどは、公知の画像処理(エッジ検出処理など)によって、画像から抽出される。
【0108】
人物検出部22は、画像入力部20を介して入力された物体検出処理の対象となる画像に人物が写っている場合に、それを検出するものである。人物検出部22は、人物特徴量記憶部41に記憶されている人間の特徴を反映した特徴量データに基づいて、入力された画像を走査する。すなわち、人間の特徴量データと、画像から抽出される特徴量データとを比較する。
【0109】
どのような内容の特徴量データを人物特徴量記憶部41に記憶するのかは特に限定されない。しかし、人間であると検出するために、他の動物と区別し易く、且つ、あらゆる人種に共通する顕著な特徴を示した情報が特徴量データに含まれていることが好ましい。
【0110】
例えば、人の特徴量データは、人体の形状を示す形状情報であってもよいし、眉、目、鼻、口の位置関係を示した人の顔のモデル情報であってもよいし、また、それらの情報を複数含む複合データであってもよい。例えば、人の顔、人体の形状などは、公知の画像処理(エッジ検出処理など)によって、画像から抽出される。
【0111】
例えば、動物検出部21および人物検出部22は、それぞれ、入力された図3の(a)〜(d)に示す各画像について、図4の(a)〜(d)に示すとおりに、動物および人物が検出された領域を特定する。図4の(a)〜(d)は、図3の(a)〜(d)に示す各入力画像において、動物検出部21および人物検出部22による物体検出処理によって、動物および人物の領域が特定された様子を示す図である。
【0112】
動物検出部21は、図3の(a)の入力画像を走査して、図4の(a)に示すとおり、動物(ここでは、犬)が写っている領域(二重線枠で囲まれた領域)を特定する。一方、人物検出部22は、図3の(a)の入力画像を走査して、図4の(a)に示すとおり、人物が写っている領域(破線枠で囲まれた領域)を特定する。
【0113】
図4の(a)に示す例では、動物検出部21は、犬と思しき複雑な形状に対する外接矩形を、動物が検出された動物領域(二重線枠で囲まれた領域)として特定している。一方、人物検出部22は、人と思しき複雑な形状に対する外接矩形を、人物が検出された人物領域(破線枠で囲まれた領域)として特定している。なお、図3の(a)に示す入力画像は、人物が二人写っていたので、人物検出部22は、図4の(a)に示すとおり、認識された人物それぞれについて、人物領域を特定することができる。
【0114】
しかし、動物検出部21および人物検出部22が物体領域を特定する方法は、上記に限定されない。動物検出部21および人物検出部22は、外接矩形に限らず、上記複雑な形状そのものを動物領域および人物領域として特定してもよいし、当該複雑な形状が含まれるような円、楕円またはその他の幾何学的形状を動物領域および人物領域として特定してもよい。
【0115】
図3の(b)〜(d)に示す入力画像についても、動物検出部21および人物検出部22の物体検出処理により、それぞれ、図4の(b)〜(d)に示すとおり、動物領域および人物領域が特定される。
【0116】
検出結果出力部23は、動物検出部21によって動物が検出されたか否か、および、人物検出部22によって人物が検出されたか否かに基づいて、検出結果のデータを生成し、出力するものである。
【0117】
図5は、検出結果出力部23の動作の一例を具体的に説明する図である。
【0118】
本実施形態では、検出装置2は、「少なくとも1の動物、かつ、少なくとも1の人物」を1つの画像から検出することを目的としている。つまり、検出装置2が検出すること目的としている物体は、「動物+人物」であると言える。
【0119】
そこで、本実施形態では、図5に示すとおり、検出結果出力部23は、目的の物体が検出されたことを意味する第1の識別情報、および、目的の物体が検出されなかったことを意味する第2の識別情報のいずれか一方を示す、検出結果識別情報51を少なくとも含む検出結果50を生成し、出力する。上記第1の識別情報は、図5に示す例では、目的の物体、すなわち、動物および人物がともに検出されたことを示す識別情報「1」である。また、上記第2の識別情報は、動物および人物の一方が検出されなかった、もしくは、両方検出されなかったことを示す識別情報「0」である。
【0120】
なお、図5に示す、検出結果50、および、検出結果識別情報51のデータ構造は、一例であって、検出結果出力部23が生成する検出結果50の内容は、図5に示す例に限定されない。
【0121】
本実施形態では、検出結果出力部23によって生成された検出結果50は、表示制御部30に供給される。これにより、表示制御部30は、検出結果50に基づいて、広告画像の表示制御を実行することが可能になる。
【0122】
表示制御部30は、検出結果出力部23によって出力された検出結果50に応じて、表示部5の表示制御を行うものである。より具体的には、表示制御部30は、検出結果50に含まれている検出結果識別情報51に基づいて、表示規則記憶部42に記憶されている表示規則にしたがって、当該検出結果識別情報51に対応する広告画像を特定する。そして、特定した広告画像が表示部5に表示されるように、表示部5を制御する。
【0123】
図6は、表示規則記憶部42に記憶されている表示規則の一例を示す図である。
【0124】
図6に示すとおり、表示規則のテーブルには、検出結果出力部23によって生成される検出結果の識別情報(例えば、検出結果識別情報51)ごとに、その識別情報に対応する広告画像が対応付けられている。
【0125】
具体的には、識別情報「0」、つまり、「『動物+人物』が検出されなかった場合」には、ペットのカテゴリに特化していない、不特定多数の視聴者に向けて発信される通常の広告画像(通常広告)が対応付けられている。また、識別情報「1」、つまり、「『動物+人物』が検出された場合」には、ペットに関心がある視聴者に向けて発信される、ペットのカテゴリに特化した広告画像(ペット関連広告)が対応付けられている。
【0126】
表示制御部30は、表示規則記憶部42に記憶されている表示規則にしたがって特定した広告画像を、広告記憶部43から読み出し、表示部5に、当該広告画像の映像信号(あるいは、さらに音声信号)を出力して、検出結果に対応する広告を表示させる。
【0127】
具体的には、上記表示規則にしたがうことにより、表示制御部30は、表示装置1周辺の広告を視認可能な位置に、目的の物体、すなわち、「動物+人物」が存在しない場合に、通常広告を表示部5に表示させ(図7)、一方、「動物+人物」が存在する場合に、ペット関連広告(ペット関連画像)を表示部5に表示させる(図8)、といった表示制御を行うことが可能となる。図7は、「動物+人物」が表示装置1周辺に存在しない場合に、通常広告が表示されたときの、表示部5の表示画面の一例を示す図であり、図8は、「動物+人物」が表示装置1周辺に存在する場合に、ペット関連広告が表示されたときの表示部5の表示画面の一例を示す図である。
【0128】
なお、広告記憶部43には、表示装置1が視聴者に向けて発信するあらゆる広告画像が記憶されている。各広告画像は、一意に識別可能なように広告IDが付与されていてもよいし、各広告の宣伝内容、宣伝目的、宣伝対象などに応じて、予め定義されたカテゴリを識別するカテゴリIDが付与されていてもよい。
【0129】
例えば、ペットに餌を与えるための商品(ペットフィーダー)の広告画像は、それを一意に識別するための広告IDと、ペット関連広告に属することを示すカテゴリIDとが関連付けられて広告記憶部43に記憶されている。
【0130】
上記表示規則において、検出結果の識別情報に対応付けられているのは、広告画像を一意に識別する広告IDであってもよいし、いくつかの広告が属するカテゴリを示すカテゴリIDであってもよい。
【0131】
例えば、上記ペットフィーダーの広告を特定する広告IDが、識別情報「1」に対応付けられている場合には、「動物+人物」が存在する間、ペットフィーダーの広告が表示されるように、表示制御部30が表示部5を制御する。あるいは、ペット関連広告のカテゴリIDが、識別情報「1」に対応付けられている場合には、「動物+人物」が存在する間、ペットフィーダーの広告を含む、ペット関連広告のカテゴリIDが対応付けられている全ての広告が順次表示されるように、表示制御部30が表示部5を制御する。
【0132】
なお、広告が表示されている間、より視聴者からの注意を引けるように、音声データが併せて出力されてもよい(例えば、図8に示すペットフィーダーの広告の表示中に、「オートマティックペットフィーダー!時間を見て自動でエサを出してくれるよ!」などの音声データが、表示装置1の周辺にいる人物に聞こえる音量で出力される、など)。
【0133】
あるいは、表示装置1は、表示部5および音声出力部に加えて、さらに、ニオイ発生部を備えていることが想定される。この場合、上記広告画像に関連付けて、ニオイのデータが記憶されており、当該広告画像が表示されている間、上記ニオイ発生部が、上記ニオイのデータによって指定されるニオイを表示装置1の周辺に発生させてもよい。広告画像に関連して発生させるニオイは、その広告画像の内容に関連していることが望ましい。特に、ペット関連広告の各広告画像には、動物(または、ペット)の注意を引くことができるニオイを関連付けておくことが好ましい。
【0134】
上記構成によれば、ペット関連広告が表示されている間、動物が気になるニオイを表示装置1周辺に発生させることができる。これにより、表示装置1周辺で検出されている動物は、そのニオイに引き付けられて表示装置1の表示部5に近寄ってくると予想される。このように動物(ペット)に行動を起こさせると、それを引率している飼い主に、より確実に、表示部5の表示内容(すなわち、ペット関連広告)に気付かせることが可能となる。
【0135】
また、図6に示す表示規則によれば、表示装置1は、目的の物体が検出されるか否かにかかわらず、表示部5には、常に、何らかの広告画像が表示されるという構成である。しかし、表示規則は図6の例に限定されない。例えば、識別情報「0」には、いずれの広告画像も対応付けられなくてもよい。すなわち、識別情報「0」には、「広告を表示しない」という動作が対応付けられていてもよい。このような表示規則にしたがえば、表示制御部30は、表示装置1周辺の、広告を視認可能な位置に、「動物+人物」が存在しない間は、表示部5に何も表示させず、例えば、表示部5のバックライトを消灯したり、表示部5を待機状態にしたりして、表示部5を省エネモードに維持することができる。
【0136】
また、広告記憶部43は、必ずしも、表示装置1の記憶部11にローカルに保存されていなくてもよい。広告記憶部43が外部の装置に設けられている場合には、表示制御部30は、図示しない通信部を介して特定した広告画像を上記外部の装置に対してリクエストし、当該外部の装置から受信した広告画像を表示部5に表示する構成であってもよい。
【0137】
なお、図6において表示規則をテーブル形式のデータ構造にて示したことは一例であって、表示規則のデータ構造を限定する意図はない。検出結果出力部23によって出力される検出結果の識別情報と、選択されるべき広告画像との対応関係を、表示制御部30が認識可能であれば、表示規則はどのようなデータ構造で構成されてもよい。このことは、以下のいずれの実施形態においても同様である。
【0138】
〔表示装置の処理フロー〕
図9は、本実施形態の表示装置1における処理の流れを示すフローチャートである。
【0139】
まず、撮像部4が、表示装置1の周辺の撮像を行う(S101)。撮像部4は、静止画撮影、および、動画撮影のいずれを行ってもよいが、ここでは、撮像部4は、動画撮影を行うものとする。撮像部4によって撮影されたライブビュー画像は、逐次、図示しない一時記憶部に一旦格納され、当該一時記憶部を介して、表示装置1の検出装置2に供給されるものとする。
【0140】
検出装置2において、画像入力部20は、所定の条件(毎フレーム、数フレームごと、あるいは、数秒ごと)にしたがって、物体(動物または人物)検出処理にかける画像を上記一時記憶部から取得する(S102)。そして、取得した画像を入力画像として、動物検出部21または人物検出部22に供給する。
【0141】
動物検出部21は、画像入力部20から受け取った入力画像に対して、動物検出処理を実行する(S103)。動物検出処理とは、上述したとおり、上記入力画像に動物が写っている場合に、それを検出する処理のことである。より詳細には、入力画像の全領域の中らから、動物検出部21は、動物特徴量記憶部40に記憶されている動物の特徴量データに基づいて、それと合致する、あるいは、類似度が高い領域を特定する。動物検出部21は、そのような動物領域が特定されたか否かを検出結果出力部23に対して伝達する。動物検出部21は、図4の(a)〜(d)に示すように、特定した動物領域を定義した情報を検出結果出力部23に対して伝達してもよい。
【0142】
S103において動物が検出されなかった場合には(S104においてNO)、検出結果出力部23は、この時点で、「動物+人物が検出されなかった」旨を表す検出結果識別情報51を生成し、これを含む検出結果50を出力してもよい(S108)。
【0143】
一方、S103において動物が検出された場合には(S104においてYES)、続いて、人物検出部22が、画像入力部20から受け取った入力画像に対して、人物検出処理を実行する(S105)。人物検出処理とは、上述したとおり、上記入力画像に人物が写っている場合に、それを検出する処理のことである。より詳細には、入力画像の全領域の中らから、人物検出部22は、人物特徴量記憶部41に記憶されている人物の特徴量データに基づいて、それと合致する、あるいは、類似度が高い領域を特定する。人物検出部22は、そのような人物領域が特定されたか否かを検出結果出力部23に対して伝達する。人物検出部22は、図4の(a)〜(d)に示すように、特定した人物領域を定義した情報を検出結果出力部23に対して伝達してもよい。
【0144】
S105において人物が検出されなかった場合には(S106においてNO)、検出結果出力部23は、「動物+人物が検出されなかった」旨を表す検出結果識別情報51を生成し、これを含む検出結果50を出力する(S108)。
【0145】
一方、S105において人物が検出された場合、すなわち、S103において動物が、S105において人物が、ともに検出された場合には(S106においてYES)、検出結果出力部23は、「動物+人物が検出された」旨を表す検出結果識別情報51を生成し、これを含む検出結果50を出力する(S107)。
【0146】
S107またはS108にて出力された検出結果50は、表示制御部30に供給される。
【0147】
表示制御装置3において、表示制御部30は、検出結果出力部23から供給された検出結果50に含まれる検出結果識別情報51に基づいて、当該検出結果識別情報51と対応する広告画像を特定する。
【0148】
具体的には、検出結果識別情報51が、「動物+人物が検出された」旨を表す識別情報「1」を示す場合には(S109において1)、表示規則記憶部42に記憶されている表示規則(例えば、図6)にしたがって、表示制御部30は、表示すべき広告画像を「ペット関連広告に属する広告」と特定する。
【0149】
そして、ペット関連広告のカテゴリIDが対応付けられている1以上の広告画像を、広告記憶部43から読み出して、ペット関連広告を表示部5に表示する(S110)。
【0150】
一方、検出結果識別情報51が、「動物+人物が検出されなかった」旨を表す識別情報「0」を示す場合には(S109において0)、上記表示規則にしたがって、表示制御部30は、表示すべき広告画像を「通常広告に属する広告」と特定する。
【0151】
そして、通常広告のカテゴリIDが対応付けられている1以上の広告画像、あるいは、特定のカテゴリIDが何も対応付けられていない1以上の広告画像を、広告記憶部43から読み出し、通常広告を表示部5に表示する(S111)。
【0152】
なお、撮像部4による撮像処理、および、検出装置2における物体検出処理は、外部から表示装置1に対する処理終了指示が入力されない限り継続されればよい。そして、物体検出処理が繰り返された結果、検出結果が前回から変更が無い場合には、表示制御部30は、そのまま、同じ広告または同じカテゴリの広告の表示を継続すればよい。一方、検出結果が前回から変更された場合には、表示制御部30は、新たな検出結果に対応する別の広告または別のカテゴリの広告が表示されるように表示を切り換えればよい。
【0153】
例えば、表示制御部30が、「動物+人物」が検出されないために、図7に示す通常広告を表示部5に表示した後に、犬を散歩させる人物が表示装置1に接近した場合には、「動物+人物」が検出されるので、表示制御部30は、図7に示す通常広告から、図8に示すペット関連広告へと表示部5の表示を切り換える。
【0154】
また、図9に示す例では、まず、動物検出部21が動物検出処理を実行し、動物が検出された場合に、次に、人物検出部22が人物検出処理を実行するという順序で処理の流れを説明した。しかし、表示装置1が実行する処理順序は、これに限定されない。例えば、動物検出部21が行う処理と、人物検出部22が行う処理の順序は、入れ替えることが可能である。
【0155】
上記構成および方法によれば、動物検出部21は、入力画像に動物が写っていれば、それを動物(領域)として認識し、検出する。一方、人物検出部22は、上記入力画像に人物が写っていれば、それを人物(領域)として認識し、検出する。
【0156】
検出結果出力部23は、動物検出部21によって動物が検出され、なおかつ、人物検出部22によって人物が検出された場合に、目的の物体が検出された旨を表す検出結果を出力する。
【0157】
検出結果出力部23によって出力された検出結果は、それを利用する各部(例えば、表示制御部30など)に供給される。
【0158】
これにより、動物と人物とを認識し、そのことを以って、「目的の物体が検出された」と判断する検出装置を実現することができる。
【0159】
結果として、この検出結果を利用する側の構成要素または装置(表示制御部30など)においては、動物と人物とがともに検出されたのか、そうでないのかの状況の違いに応じて、異なる処理を実行することが可能となる。
【0160】
例えば、表示制御部30は、図4の(a)〜(d)のシーンのうち、図4の(a)および(d)のシーンの間、ペット関連広告が表示されるように表示部5を制御することができる。
【0161】
≪変形例1≫
上述の実施形態では、動物検出部21および人物検出部22が、それぞれの物体検出処理を順次行うことにより、目的の物体(動物+人物)を検出する構成であったが、本発明の検出装置2の構成はこれに限定されない。例えば、以下のような構成によって、目的の物体(動物+人物)を検出してもよい。
【0162】
図10は、本変形例に基づく検出装置2の要部構成を示す図である。なお、以降の各図において、各構成要素に付された符号に関し、同じ符号は、同じ構成要素を示している。したがって、以下のすべての実施形態の説明において、既に説明した構成要素についての重複する説明は省略する。
【0163】
図10に示す検出装置2が、図1に示す検出装置2と異なる点は、検出装置2が、機能ブロックとして、さらに、対象物検出部24を備えている点である。
【0164】
対象物検出部24は、動物検出部21または人物検出部22によって検出されるべき目的の物体の候補を検出するものである。ここでは、対象物検出部24は、動物または人物と思しき物体を検出する。対象物検出部24が物体を検出する方法としては、公知の技術を採用することが可能である。
【0165】
例えば、対象物検出部24は、静止画において、背景領域を画素の色値に基づいて分離して、前景領域から物体を検出したり、人物または動物に特徴的な色彩を有する領域から物体を検出したりすることが考えられる。あるいは、動画において、動く物体があればそれを候補の物体として検出したり、長時間変化がない領域を背景領域として分離して、前景領域から物体を検出したりすることが考えられる。
【0166】
ここでは、対象物検出部24は、正確に動物または人物を検出する必要はなく、動物検出部21および人物検出部22の処理効率化のために、目的の物体と思しき候補の領域を特定するだけでよい。
【0167】
本変形例では、動物検出部21および人物検出部22は、対象物検出部24によって特定された候補の領域のそれぞれについて、物体(動物または人物)検出処理を実行し、これにより、候補領域のそれぞれに対し、動物領域または人物領域のラベルが付与される。ここで、動物検出部21および人物検出部22の両方から、それぞれ、動物領域および人物領域のラベルを付与された候補領域があってもよい。この場合、図示しない判定部が、動物特徴量記憶部40および人物特徴量記憶部41に記憶されているより詳細な特徴量データに基づいて、所定の規則にしたがって、当該候補領域が、動物領域および人物領域のいずれであるのかを判定する。
【0168】
検出結果出力部23は、各候補領域に付与されたラベルに基づいて、動物領域のラベルが付与された少なくとも1つの候補領域と、人物領域のラベルが付与された少なくとも1つの候補領域とが存在する場合に、目的の物体(「動物+人物」)が検出されたと判断してもよい。
【0169】
図10に示す検出装置2の構成は、以下のいずれの実施形態においても同様に適用され得るものである。
【0170】
≪変形例2≫
上述の実施形態では、検出結果出力部23は、検出結果を2種類のケースに分類し、2種類の識別情報のいずれかを、検出結果識別情報として生成する構成であったが、本発明の検出装置2の構成はこれに限定されない。例えば、検出結果を以下のように4種類のケースに分類して、4種類の識別情報のいずれかを、検出結果識別情報として生成してもよい。この場合、表示制御装置3の表示制御部30は、4種類のいずれかの検出結果識別情報に対応する広告画像を表示規則にしたがって特定して、表示部5に表示する構成である。
【0171】
図11の(a)は、本変形例において、検出結果出力部23が生成する検出結果識別情報52の具体例を示す図である。
【0172】
検出結果出力部23は、動物検出部21が動物を検出せず、人物検出部22が人物を検出しなかった場合に、動物および人物がともに検出されなかったことを表す識別情報「00」を示す検出結果識別情報52を生成する。
【0173】
検出結果出力部23は、動物検出部21が動物を検出せず、人物検出部22が人物を検出した場合に、人物は検出されたが動物は検出されなかったことを表す識別情報「01」を示す検出結果識別情報52を生成する。
【0174】
検出結果出力部23は、動物検出部21が動物を検出し、人物検出部22が人物を検出しなかった場合に、動物は検出されたが人物は検出されなかったことを表す識別情報「10」を示す検出結果識別情報52を生成する。
【0175】
検出結果出力部23は、動物検出部21が動物を検出し、人物検出部22が人物を検出した場合に、動物および人物がともに検出されたことを表す識別情報「11」を示す検出結果識別情報52を生成する。
【0176】
以上のとおり、本変形例では、検出結果出力部23から表示制御部30へ、識別情報「00」、「01」、「10」、「11」のいずれかを示す検出結果識別情報52を含む検出結果50が出力される。
【0177】
表示制御部30は、検出結果識別情報52に応じて表示部5の表示内容を制御する。
【0178】
図11の(b)は、本変形例において、表示制御部30が参照する表示規則の具体例を示す図である。図11の(b)に示す表示規則は、表示規則記憶部42に記憶されている。
【0179】
図11の(b)に示すとおり、表示規則のテーブルには、上述の4種類の識別情報ごとに、その識別情報に対応する広告画像(あるいは、表示しないという動作)が対応付けられている。
【0180】
図11の(b)に示す例では、識別情報「00」および「10」には、「広告を表示しない」という動作が対応付けられている。つまり、表示制御部30は、この表示規則にしたがって、表示装置1の周辺に人物(視聴者)が居なければ、広告を表示せずに、表示部5を省エネモードに設定することができる。
【0181】
また、識別情報「01」には、「通常広告」というカテゴリが対応付けられている。つまり、表示制御部30は、この表示規則にしたがって、表示装置1の周辺に、動物は居ないけれども、人物(視聴者)が居る場合には、ペットのカテゴリに特化せず、通常のカテゴリに属する広告画像を表示部5に表示することができる。
【0182】
さらに、識別情報「11」には、「ペット関連広告」というカテゴリが対応付けられている。つまり、表示制御部30は、この表示規則にしたがって、表示装置1の周辺に、人物が居てなおかつ動物も居る場合には、その人物がペットに関心がある可能性が高いとして、ペットのカテゴリに特化したペット関連広告を表示部5に表示することができる。
【0183】
上記構成によれば、広告を視認可能な位置にいる視聴者が、動物に関心のある人物であるのか否かを、人物の近隣に動物が存在するのか否かに基づいて判断することができる。そして、動物に関心のある人物が表示装置1の広告を視認可能な位置にいると判断された場合に、ペットのカテゴリに特化したペット関連広告を表示することができる。
【0184】
このように、表示装置1は、動物と人物とを認識することによって、人物にとってより関心のある内容に特化したカテゴリの広告を、その人物が広告を見られる位置にいるタイミングで効果的に表示させることが可能となる。
【0185】
≪実施形態2≫
本発明の検出装置(および表示装置)に関する他の実施形態について、図12〜図14に基づいて説明すれば、以下のとおりである。なお、説明の便宜上、上述の実施形態1にて説明した図面と同じ機能を有する部材については、同じ符号を付記し、その説明を省略する。
【0186】
〔表示装置の構成〕
図12は、本実施形態の表示装置1における、検出装置2および表示制御装置3の要部構成を示すブロック図である。図12に示す表示装置1において、図1に示す表示装置1と異なる点は、検出装置2が、さらに、ペット判定部25およびペットスコア記憶部44を備えている点である。ペット判定部25は、機能ブロックとして、制御部10に含まれている。ペットスコア記憶部44は、記憶部11に含まれている。
【0187】
ペット判定部25は、動物検出部21によって検出された動物、すなわち、動物検出部21が特定した動物領域に写っている動物が、ペットであるか否かを判定するものである。本実施形態において、「ペットである」とは、「人によって飼われている動物である」ということを意味し、動物の種類は問わない。
【0188】
ペットスコア記憶部44は、ペットスコアを記憶するものである。ペットスコアは、動物検出部21によって検出された動物がペットである可能性の高さを示す値である。ペットスコアは、動物検出部21が特定した動物領域の特徴量データをペット判定部25が評価することにより求められる。本実施形態では、ペットスコアが高ければ高いほど、その動物領域に写っている動物がペットである可能性が高いということを意味する。
【0189】
ペット判定部25が参照する動物特徴量記憶部40には、動物検出部21が動物であることを検出するためのモデルの特徴量データに加えて、以下のような特徴量データが記憶されている。例えば、ペットらしき特徴(または、ペット特有の特徴)を反映したモデルの特徴量データ、および、ペットらしくない特徴(または、ペットでは有り得ない特徴)を反映したモデルの特徴量データが記憶されている。
【0190】
ペット判定部25は、動物検出部21によって特定された動物領域ごとにペットスコアを算出し、ペットスコア記憶部44に格納する。ペットスコア記憶部44は、例えば、揮発性記憶装置によって実現されていてもよい。この場合、ペットスコアは一時的に格納され、ペット判定部25が、その動物がペットであるのか否かを最終判定するときに、ペット判定部25によって適宜読み出される。
【0191】
ペット判定部25がペットスコアを算出する方法の一具体例について、図13を参照してより詳細に説明する。
【0192】
〔ペット判定処理について〕
図13は、ペット判定部25および動物特徴量記憶部40の要部構成を示すブロック図である。ここでは、一例として、動物の種類が犬である場合に、ペット判定部25が、その犬がペットの犬であるのか、誰に飼われているわけでもない犬(野良犬など)であるのかを判定する場合の構成を示す。
【0193】
図13に示すとおり、ペット判定部25は、機能ブロックとして、犬種推定部250、衣類推定部251、ジェスチャ推定部252、毛並み推定部253、および、表情推定部254を備えている。動物特徴量記憶部40は、犬種別特徴量記憶部400、衣類特徴量記憶部401、ジェスチャ特徴量記憶部402、毛並み特徴量記憶部403、および、表情特徴量記憶部404を含んでいる。
【0194】
ペット判定部25の各推定部は、動物検出部21から入力された、動物領域が特定された入力画像d1に対し、ペット判定処理を実行する。入力画像d1は、例えば、図4の(a)、(c)、および、(d)に示す画像である。あるいは、動物検出部21からペット判定部25に入力されるデータは、図4の(a)、(c)、および、(d)に示す画像から切り取られた二重線枠内の動物領域のそれぞれであってもよい。あるいは、入力画像d1は、動画であって、二重線枠が動く動物領域を追尾するものであってもよい。
【0195】
犬種推定部250は、動物検出部21によって検出された動物(動物領域に含まれる動物)が犬である場合に、さらに、その犬の種類を推定するものであり、犬種に基づいて、ペットである可能性を評価するものである。
【0196】
具体的には、犬種別特徴量記憶部400には、予め、既知の犬種ごとにモデルの特徴量データが記憶されている。例えば、犬種「柴犬」の色、体型、顔の形、尻尾の形、その他顕著な特徴部分の情報などの特徴量データが、犬種「柴犬」に関連付けて、犬種別特徴量記憶部400に格納されている。その他の様々な犬種(チワワ、プードル、・・・)ごとにも、特徴量データが格納されている。
【0197】
犬種推定部250は、動物領域(例えば、図4の(a)の二重線枠、以下、動物領域Aとする)から抽出される特徴量データと、犬種別のモデルの特徴量データとを比較して、その類似度に基づいて、動物領域Aの犬の犬種を推定する。本実施形態では、犬種推定部250は、比較の結果、いずれの犬種のモデルにも当てはまらない(いずれも低い類似度しか得られない)場合には、犬種を「雑種」と推定する。
【0198】
犬種推定部250は、推定した犬種に応じて事前に割り当てられている犬種に関するスコアを犬種別特徴量記憶部400から取得し、例えば、ペットスコア記憶部44に記憶されている動物領域Aのペットスコアに加算する。事前に割り当てられているスコアについて、例えば、血統書付きの高価な、あるいは、希少価値の高い犬種の犬が、誰にも飼われずに野良犬であるとは考えにくい。そこで、そのような犬種には、高いスコアを割り当てておき、一方、雑種には、低いスコアを割り当てておくことが考えられる。
【0199】
なお、比較の結果、いずれの犬種のモデルにも当てはまらない場合には、ペット判定部25は、他の種類の動物(猫、鳥など)の種別を推定する各部(図示せず)に、種別の推定を行わせてもよい。
【0200】
衣類推定部251は、動物が身に付けている物品を画像認識して、それに基づいて、当該動物がペットである可能性を評価するものである。人に飼われているペットは、首輪、リボン、洋服などの装飾品を身につけていることがあり、誰にも飼われていない犬がそのような装飾品を身に付けているとは考えにくい。また、人に飼われているペットは、ボールやフライングディスクなどの遊び道具をくわえていることがある。
【0201】
そこで、衣類推定部251は、衣類特徴量記憶部401に記憶されている物品の特徴量データに基づいて、動物が身に付けている物品を画像認識する。そして、上述のような物品を身に付けていると画像認識された動物領域(例えば、動物領域A)について、衣類に関するスコアを、衣類特徴量記憶部401から取得し、動物領域Aのペットスコアに加算する。衣類推定部251は、認識された物品ごとに割り当てられたスコアを加算してもよい。例えば、洋服を着ていたら10点、首輪をつけていたら3点、などである。あるいは、物品が認識されたか否かに応じて、10点、または、0点のスコアを、上記ペットスコアに加算してもよい。
【0202】
また、ペットの犬が身に付けている物品は、ペットではない犬が身に付けている物品よりも清潔で鮮やかに写ると考えられることから、衣類推定部251は、認識された物品の色情報に応じて、スコアを加算してもよい。
【0203】
また、動物が身に付けている物品に限らず、動物が何らかのケースに収容されている場合にも、ペットである可能性が高いと考えられる。例えば、小型犬がカバンに収容されて、そのカバンの口から顔をのぞかせているシーンなどが想定される。そこで、衣類推定部251は、さらに、動物を収容している物品(カバン、檻、ゲージなど)が認識された場合には、その中に収容されている動物に対して、首輪などと同等、もしくはそれ以上のペットスコアを加算することができる。
【0204】
ジェスチャ推定部252は、動物検出部21によって検出された動物の動き(ジェスチャ)を認識して、それに基づいて、当該動物がペットである可能性を評価するものである。人に飼われている犬は、人馴れしており、人物のそばを動き回ったり、尻尾を振ったり、健康状態が良好で活発に動くと考えられる。飼われていない犬は、その逆であると考えられる。
【0205】
そこで、ジェスチャ推定部252は、ジェスチャ特徴量記憶部402に記憶されている、ペット特有のジェスチャおよびペットらしいジェスチャと、動物検出部21によって検出された動物のジェスチャとを比較する。例えば、ジェスチャ推定部252は、モデルのジェスチャと、動物領域Aに含まれている犬のジェスチャとを比較する。そして、ジェスチャ推定部252は、比較結果に応じて、動物領域Aの動物のジェスチャのペットらしさを推定する。ジェスチャ推定部252は、ペット特有の(ペットらしい)ジェスチャと類似または一致するジェスチャが、多く見つかった動物ほど、高得点になるように、ジェスチャに関するスコアを、ジェスチャ特徴量記憶部402から取得し、上記動物のペットスコアに加算する。
【0206】
毛並み推定部253は、動物検出部21によって検出された動物の毛並みを画像認識して、その毛並みの良し悪しに基づいて、当該動物がペットである可能性を評価するものである。飼われているペットは人によって手入れされているため、毛並みが整っており、色艶も良いと考えられる。飼われていない犬は、その逆であると考えられる。
【0207】
そこで、毛並み推定部253は、毛並み特徴量記憶部403に記憶されている、毛並みが良好な状態の特徴量データと、毛並みが不良の状態の特徴量データとを読み出す。そして、毛並み推定部253は、読み出した上記のモデルの特徴量データと、例えば、入力画像d1から得られる、動物領域Aに含まれる動物の毛並みの特徴量データとを比較する。毛並み推定部253は、動物の毛並みの特徴量データが、良好な状態の特徴量データとより類似していれば、当該動物の毛並みは良好であると推定する。一方、毛並み推定部253は、動物の毛並みの特徴量データが、不良の状態の特徴量データとより類似していれば、当該動物の毛並みは不良であると推定する。当然のことながら、毛並み推定部253は、毛並みが不良であるよりも、良好であると推定された場合により高得点となるように、毛並みに関するスコアを、上記動物領域Aのペットスコアに加算する。なお、毛並みについて、毛並み推定部253は、「良好」と「不良」の間の状態である「普通」と推定してもよい。
【0208】
表情推定部254は、動物検出部21によって検出された動物の表情(または、体全体で表現される感情)などを画像認識して、その認識結果に基づいて、当該動物がペットである可能性を評価するものである。
【0209】
例えば、ペットは飼い主と行動をともにしており、特に屋外では散歩などでよく動き回るため、息が上がり疲れていると考えられる。また、ペットは、飼い主に世話され守られており、怒る機会よりも喜ぶ機会に恵まれていると考えられる。飼われていない犬は、その逆であると考えられる。
【0210】
そこで、表情特徴量記憶部404には、犬の顔についてさまざまな表情のモデルの特徴量データ、および、犬の体について、さまざまな感情表現のモデルの特徴量データを記憶させておく。表情推定部254は、モデルの特徴量データと、動物領域Aから抽出される動物の特徴量データとを比較して、当該動物の表情や感情を推定する。そして、ペットらしい表情(または感情)が認識された場合に、認識された表情ごとに割り当てられたスコアを、表情特徴量記憶部404から取得して、動物領域Aのペットスコアに加算する。表情特徴量記憶部404において、ペットらしい表情(感情)ほど、より高得点のスコアが割り当てられている。例えば、「喜び」は10点、「怒り」は2点、「無表情」は1点、などである。
【0211】
上述したように、1つの動物領域(例えば、図4の(a)に示す二重線枠内、動物領域A)について、ペット判定部25における、一部またはすべての各推定部が、動物領域Aの動物がペットである可能性について推定を行う。各推定部が推定を行った後に、ペットスコア記憶部44に格納されている、動物領域Aに関連付けられたペットスコアが、当該動物領域Aの動物の最終的なペットスコアである。
【0212】
ペット判定部25は、ペットスコア記憶部44に記憶されている動物領域Aのペットスコアを読み出して、動物領域Aの動物がペットであるか否かを判定する。本実施形態では、ペット判定部25は、ペットスコアが所定の閾値未満であれば、動物領域Aの動物はペットでないと判定し、上記ペットスコアが所定の閾値以上であれば、上記動物はペットであると判定する。
【0213】
例えば、動物領域A(図4の(a)の二重線枠内)の犬は、首輪などの物品を身に付けておらず、雑種であり、活発に動いていない様子から、ペットスコアが延びず、例えば、10点であるとする。閾値が50点であるとすれば、ペット判定部25は、10点<50点で、動物領域Aの犬は、ペットではないと判定する。
【0214】
ペット判定部25は、動物領域Aの動物がペットであるのか否かを示す情報、すなわち、ペット判定結果d2を、検出結果出力部23に供給する。
【0215】
なお、図13には、一例として、動物の種類が犬である場合に、ペット判定部25が、その犬がペットの犬であるのか、誰に飼われているわけでもない犬(野良犬など)であるのかを判定する場合の構成を示した。しかし、ペット判定部25および動物特徴量記憶部40の構成は、これに限定されない。本願発明の検出装置2は、ペット判定部25が、あらゆる種類の動物のペット判定を行えるよう、各種推定部を備え、動物特徴量記憶部40において、適宜必要な特徴量データが保持される構成である。
【0216】
本実施形態では、検出装置2は、「少なくとも1のペット、かつ、少なくとも1の人物」を1つの画像から検出することを目的としている。つまり、検出装置2が検出すること目的としている物体は、「ペット+人物」であると言える。
【0217】
したがって、検出結果出力部23は、動物検出部21によって動物が検出され、人物検出部22によって人物が検出され、なおかつ、検出された動物が、ペット判定部25によってペットであると判定された場合に、目的の物体(「ペット+人物」)が検出されたと判断する。検出結果出力部23は、「ペット+人物」が検出された場合のみ、目的の物体が検出されたことを表す識別情報「1」を示す検出結果識別情報を生成する。それ以外は、目的の物体が検出されなかったことを表す識別情報「0」を示す検出結果識別情報を生成する。動物が検出されても、それがペットでなければ、「目的の物体が検出されなかった」と判断される点が、実施形態1と異なっている。
【0218】
例えば、上述の例を用いて説明すると、図4の(a)の入力画像に対して、実施形態1の構成では、検出装置2は、「動物+人物」が検出されたと判断するので、表示制御装置3において、ペット関連広告が表示される制御が行われることになる。しかしながら、図4の(a)に示すとおり、たまたま表示装置1周辺に、野良犬と、当該犬とは関係がない人物とが居合わせる可能性もある。その人物が動物好きではなく、ペットに関心がない可能性もあり、このような場合に、ペット関連広告が表示されても、広告の効果を高めることはできない虞がある。
【0219】
一方、本実施形態の構成によれば、上述のとおり、ペット判定部25によって、動物領域Aの犬はペットではないと判定される。検出結果出力部23は、この判定結果にしたがって、識別情報「0」を示す検出結果識別情報を表示制御部30に対して出力する。
【0220】
したがって、表示制御部30は、図4の(a)のようなシーンでは、ペット関連広告に特化せず、例えば、通常広告が表示されるように制御する。図4の(a)のシーンでは、ペットに関心を持った人物が、広告を視認可能な位置にいるとは限らないので、上記の広告制御は、よりシーンにマッチした広告制御であると言える。
【0221】
結果として、本実施形態の検出装置2および表示制御装置3は、周辺の状況をより正確に把握して、より効果的なタイミングで、より効果的な内容の広告が表示されるように表示装置1を制御することが可能となる。
【0222】
〔表示装置の処理フロー〕
図14は、本実施形態の表示装置1における処理の流れを示すフローチャートである。
【0223】
S201からS206までの各ステップにおける検出装置2の動作は、図9に示すS101からS106までの各ステップにおける検出装置2の動作と同様であるので、ここでは、重複する説明は省略する。
【0224】
S203において動物が検出されなかったり(S204においてNO)、S205において人物が検出されなかったり(S206においてNO)した場合には、検出結果出力部23は、「ペット+人物が検出されなかった」旨を表す検出結果識別情報を生成し、これを含む検出結果50を出力する(S210)。
【0225】
一方、動物および人物がともに検出された場合には(S204においてYES、かつ、S206においてYES)、次に、ペット判定部25は、動物検出部21によって画像から検出された1以上の動物についてペット判定処理を実施する(S207)。ペット判定処理の内容は、図13を参照して説明したとおりである。ペット判定部25は、検出された動物ごとに、ペットスコアを算出し、所定閾値以上のペットスコアが算出された動物を、ペットであると判定する。
【0226】
ここで、ペット判定部25が、検出された動物がペットではないと判定した場合には(S208においてNO)、上述のケースと同様に、検出結果出力部23は、「ペット+人物が検出されなかった」旨を表す検出結果識別情報を生成し、これを含む検出結果50を出力する(S210)。
【0227】
これに対し、ペット判定部25が、検出された動物がペットであると判定した場合には(S208においてYES)、検出結果出力部23は、「ペット+人物が検出された」旨を表す検出結果識別情報を生成し、これを含む検出結果50を出力する(S209)。
【0228】
なお、検出された動物が複数あって、そのそれぞれについて、ペットであるか否かが判定された場合、検出結果出力部23は、少なくとも1つの動物がペットであると判定されれば、「ペット+人物が検出された」と判断してよい。
【0229】
表示制御装置3において、表示制御部30は、検出結果出力部23から供給された検出結果50に含まれる検出結果識別情報に基づいて、当該検出結果識別情報と対応する広告画像を特定する。
【0230】
S211からS213までの各ステップにおける検出装置2の動作は、図9に示すS109からS111までの各ステップにおける検出装置2の動作と同様であるので、ここでは、重複する説明は省略する。
【0231】
上記方法によれば、画像から動物が検出されたとしても、それが、人と関わりを持ったペットであるのか否かがさらに判定される。そして、上記動物がペットではないと判定された場合には、検出装置2は、目的の物体は検出されなかったと判断することができる。
【0232】
具体例を挙げれば、ペット判定部25によって、動物領域A(図4の(a)の二重線枠内)の犬はペットではないと判定される。検出結果出力部23は、この判定結果にしたがって、識別情報「0」を示す検出結果識別情報を表示制御部30に対して出力する。
【0233】
したがって、表示制御部30は、図4の(a)のシーンでは、ペット関連広告に特化せず、例えば、通常広告が表示されるように制御する。図4の(a)のシーンでは、ペットがおらず、ペットに関心を持った人物が、広告を視認可能な位置にいる可能は低いので、上記の広告制御は、よりシーンにマッチした広告制御であると言える。
【0234】
結果として、本実施形態の検出装置2および表示制御装置3は、周辺の状況をより正確に把握して、より効果的なタイミングで、より効果的な内容の広告が表示されるように表示装置1を制御することが可能となる。
【0235】
なお、図14に示す例では、検出装置2の動物検出処理が人物検出処理よりも先に実行される構成であるが、表示装置1における処理順序は、これに限定されない。例えば、動物検出部21が行う動物検出処理と、人物検出部22が行う人物検出処理の順序は、入れ替えることが可能である。また、ペット判定部25が行うペット判定処理は、動物検出部21の動物検出処理の後であればいつのタイミングで実行されてもよい。例えば、人物検出部22の人物検出処理の前に実行されてもよい。ただし、ペット判定部25が行うペット判定処理の負荷が最も大きい場合には、図14に示す方法が好ましい。つまり、動物検出処理と人物検出処理とを先に実行し、動物と人物とが検出された場合にだけペット判定処理が実行されるという処理順序が、高負荷処理をできるだけ回避するという観点から最も好ましい。
【0236】
≪実施形態3≫
本発明の検出装置(および表示装置)に関する他の実施形態について、図15〜図17に基づいて説明すれば、以下のとおりである。なお、説明の便宜上、上述の各実施形態にて説明した図面と同じ機能を有する部材については、同じ符号を付記し、その説明を省略する。
【0237】
〔表示装置の構成〕
図15は、本実施形態の表示装置1における、検出装置2および表示制御装置3の要部構成を示すブロック図である。図15に示す表示装置1において、図1または図12に示す表示装置1と異なる点は、検出装置2が、さらに、飼い主判定部26および飼い主スコア記憶部45を備えている点である。飼い主判定部26は、機能ブロックとして、制御部10に含まれている。飼い主スコア記憶部45は、記憶部11に含まれている。
【0238】
飼い主判定部26は、人物検出部22によって検出された人物、すなわち、人物検出部22が特定した人物領域に写っている人物が、飼い主であるか否かを判定するものである。本実施形態において、「飼い主である」とは、「動物(ペット)を飼っている人物である」ということを意味する。本実施形態では、人物がその場に自分が所有している動物を連れている場合に限らず、動物(ペット)と関わりがあり、動物(ペット)に関心がある人物は、「飼い主である」と判断される。
【0239】
飼い主スコア記憶部45は、飼い主スコアを記憶するものである。飼い主スコアは、人物検出部22によって検出された人物が飼い主である(動物と関わるがある)可能性の高さを示す値である。飼い主スコアは、人物検出部22が特定した人物領域の特徴量データを飼い主判定部26が評価することにより求められる。本実施形態では、飼い主スコアが高ければ高いほど、その人物領域に写っている人物が飼い主である可能性が高いということを意味する。
【0240】
飼い主判定部26が参照する人物特徴量記憶部41には、人物検出部22が人物であることを検出するためのモデルの特徴量データに加えて、以下のような特徴量データが記憶されている。例えば、飼い主らしき特徴(または、飼い主特有の特徴)を反映したモデルの特徴量データ、および、飼い主らしくない特徴(または、飼い主では有り得ない特徴)を反映したモデルの特徴量データが記憶されている。
【0241】
飼い主判定部26は、人物検出部22によって特定された人物領域ごとに飼い主スコアを算出し、飼い主スコア記憶部45に格納する。飼い主スコア記憶部45は、例えば、揮発性記憶装置によって実現されていてもよい。この場合、飼い主スコアは一時的に格納され、飼い主判定部26が、その人物が飼い主であるのか否かを最終判定するときに、飼い主判定部26によって適宜読み出される。
【0242】
飼い主判定部26が飼い主スコアを算出する方法の一具体例について、図16を参照してより詳細に説明する。
【0243】
〔飼い主判定処理について〕
図16は、飼い主判定部26および人物特徴量記憶部41の要部構成を示すブロック図である。
【0244】
図16に示すとおり、飼い主判定部26は、機能ブロックとして、グッズ推定部260、リード位置推定部261、ジェスチャ推定部262、表情推定部263、類似度推定部264、および、距離推定部265を備えている。人物特徴量記憶部41は、グッズ特徴量記憶部410、リード位置特徴量記憶部411、ジェスチャ特徴量記憶部412、および、表情特徴量記憶部413を含んでいる。
【0245】
飼い主判定部26の各推定部は、人物検出部22から入力された、人物領域が特定された入力画像d1に対し、飼い主判定処理を実行する。入力画像d1は、例えば、図4の(a)、(b)、および、(d)に示す画像である。
【0246】
あるいは、人物検出部22から飼い主判定部26に入力されるデータは、図4の(a)、(b)、および、(d)に示す画像から切り取られた破線枠内の人物領域のそれぞれであってもよい。以下では、図4の(a)に示す入力画像d1の破線枠内の領域を、左から順に、人物領域B、人物領域B’とする。また、図4の(d)に示す入力画像d1の破線枠内の領域を、人物領域B”とする。
【0247】
グッズ推定部260は、人物が身に付けている物品を画像認識して、それに基づいて、当該人物が飼い主である可能性を評価するものである。飼い主は、例えば、ペットと散歩中であれば、リード、ゲージ、ペットのゴミを回収する袋などのペットに関するグッズを手にしていることがある。また、飼い主は、ペットと遊ぶための、ボール、フライングディスクなどの遊び道具を手にしていることも考えられる。
【0248】
そこで、グッズ推定部260は、グッズ特徴量記憶部410に記憶されている物品の特徴量データに基づいて、人物が身に付けている物品を画像認識する。そして、上述のようなペットに関するグッズを身に付けている画像認識された人物領域について、グッズに関するスコアを、グッズ特徴量記憶部410から取得し、上記人物領域の飼い主スコアに加算する。グッズ特徴量記憶部410において、認識されたグッズごとにスコアが割り当てられている。例えば、リードやゲージを持っていたら10点、ボールを持っていたら3点、などである。あるいは、ペット関連グッズが認識されたか否かに応じて、10点、または、0点のスコアを、上記飼い主スコアに加算してもよい。
【0249】
なお、飼い主スコアは、人物領域ごとに、飼い主スコア記憶部45に記憶されている。例えば、図4の(a)の入力画像d1から検出された、2つの人物領域B、B’のそれぞれについて、飼い主スコアが記憶されている。
【0250】
また、人物が身に付けている物品の中で、ペットに関するグッズとして認識できるものとしては、上述の例の他に、小型のペットを収容できるバッグなどがある。人物がバッグを保有しており、そのバッグの口から動物らしき物体が顔をのぞかせているような画像が認識できたとする。この場合、グッズ推定部260は、当該人物がより確実にペットを飼っている飼い主であると推定することができ、その人物に対してリードやゲージと同等、もしくはそれ以上の飼い主スコアを加算することができる。
【0251】
リード位置推定部261は、人物と動物との間に存在するリード(紐、鎖、手綱など)らしき物体を認識し、それによって、上記人物が上記動物を引率していることを推定するものである。人物が、リードによって動物を引率していれば、当該人物が飼い主であることは明らかである。
【0252】
例えば、リード位置特徴量記憶部411には、リードを画像認識するためのリードの特徴量データが記憶されている。例えば、多く見られるリードの柄、形状などの情報が記憶されている。リード位置推定部261は、それらの特徴量データを用いて、画像からリードらしき物体を認識する。あるいは、リード位置特徴量記憶部411は、画像のエッジ検出を行って、線形の物体をリードらしき物体として検出してもよい。
【0253】
続いて、リード位置推定部261は、検出した線形の物体について、一方の先端と、もう一方の先端とがどこに接続されているのかを画像認識する。なお、この例では、入力画像d1は、例えば、図4の(a)の画像全体であって、リード位置推定部261は、人物領域だけでなく、動物領域の位置も把握できる構成である。
【0254】
リード位置推定部261は、線形の物体の一方の先端が人物に、もう一方の先端が動物に接続されていると認識した場合に、上記人物が、上記動物を引率していると推定する。さらに詳細には、リード位置推定部261は、線形の物体の一方の先端が人物の手に、もう一方の先端が動物に接続されていると認識した場合に、上記人物が、上記動物を引率していると推定することができる。これにより、意図しない線形の物体をリードと誤認識した場合に、上記人物が上記動物を引率していると誤って推定することを防止することができる。なぜなら、人物がリードを手に持たずに動物を引率することはあまり考えられないからである。
【0255】
リード位置推定部261は、人物が動物を引率していると推定した場合に、当該人物の人物領域の飼い主スコアが高得点になるように、リード位置に関するスコアを加算する。例えば、リード位置推定部261は、人物(例えば、図4の(d)の人物領域B”の人物)が動物を引率していると推定した場合には、人物領域B”の飼い主スコアに10点を加算する。あるいは、リード位置推定部261は、人物(例えば、図4の(a)の人物領域B)が動物を引率していないと推定した場合には、人物領域Bの飼い主スコアに0点を加算する。
【0256】
ジェスチャ推定部262は、人物検出部22によって検出された人物の動き(ジェスチャ)を認識して、それに基づいて、当該人物が飼い主である可能性を評価するものである。ペットを飼っている人物は、動物好きで動物に近寄って触ったり、抱いたり、一緒に遊んだりする。あるいは、上記人物が飼っている動物の方から寄ってきてじゃれたり、その人物の周りを走り回ったりすることが考えられる。また、人物が動物(ペット)を連れて散歩している場合、ペットと人物とは、同じ動きをすると考えられる。例えば、変わらない距離間(同じ速度)で移動することが考えられる。
【0257】
そこで、ジェスチャ推定部262は、ジェスチャ特徴量記憶部412に記憶されている、飼い主らしいジェスチャ(モデルのジェスチャ)と、人物検出部22によって検出された人物のジェスチャとを比較する。飼い主らしいジェスチャは、動物の位置やジェスチャとの関係において定義されることもある。よって、ジェスチャ特徴量記憶部412に記憶されている飼い主のモデルのジェスチャは、動物の位置やジェスチャなどの情報を含んでいてもよい。
【0258】
そして、ジェスチャ推定部262は、比較結果に応じて、各人物領域の人物のジェスチャの飼い主らしさを推定する。ジェスチャ推定部262は、飼い主らしいジェスチャと類似または一致するジェスチャが、多く見つかった人物ほど、高得点になるように、ジェスチャに関するスコアを、ジェスチャ特徴量記憶部412から取得し、上記人物の飼い主スコアに加算する。
【0259】
表情推定部263は、人物検出部22によって検出された人物の表情(どんな感情か、口が動いているか、顔または目線はどこを向いているかなど)を画像認識して、その認識結果に基づいて、当該人物が飼い主である可能性を評価するものである。
【0260】
飼い主は、動物(特に、自分のペット)と接しているときは、顔つきが和らいで、にこやかな表情になると考えられる。飼い主は、動物に関心があるので、長時間または頻繁に動物の方に顔を向けたり、動物を見たりすると考えられる。また、飼い主は、動物に話しかけたりすると考えられる。
【0261】
そこで、表情特徴量記憶部413には、人物の顔についてさまざまな表情のモデルの特徴量データを記憶させておく。表情推定部263は、モデルの特徴量データと、人物領域、特に、人物の顔の領域から抽出される特徴量データとを比較して、当該人物の表情を推定する。そして、飼い主らしい表情が認識された場合に、認識された表情ごとに割り当てられたスコアを、表情特徴量記憶部413から取得して、人物領域B、B’、B”などのそれぞれの飼い主スコアに加算する。表情特徴量記憶部413において、飼い主らしい表情ほど、より高得点のスコアが割り当てられている。
【0262】
例えば、「動物に話しかけるように口が動いている」は10点、「目線が動物に向いている」は9点、「動物が前にいるとき喜んでいる」は8点、「動物から顔をそむけている」は2点などである。
【0263】
類似度推定部264は、人物が身に付けているものと、動物が身に付けているものとの類似度を求めて、その類似度に基づいて、当該人物が飼い主である可能性を評価するものである。
【0264】
飼い主は、同じ柄を取り入れたおそろいのグッズを自分が着用し、ペットにも身に付けさせるということは十分考えられる。また、飼い主がある有名ブランドの服や鞄を好んで身に付けているとする。その飼い主が、自分が飼っているペットにも、同じ有名ブランドの首輪、リード、服などを身に付けさせることは十分考えられることである。
【0265】
そこで、類似度推定部264は、人物が身に付けている物品を画像認識するとともに、動物が身に付けている物品を画像認識し、両者を比較する。そして、類似度推定部264は、色、柄、シンボルなどが共通しているなど、類似性の高い物品が検出された場合には、類似度に関するスコアを、上記人物に対応する飼い主スコアに加算する。類似度推定部264は、物品の類似度が高いほど、あるいは、類似性のある物品が多数検出されるほど、高得点になるようにスコアを加算する。
【0266】
距離推定部265は、入力画像d1における、人物領域と動物領域との距離に基づいて、上記人物領域の人物が飼い主である可能性を評価するものである。距離推定部265は、人物が、動物を抱きかかえていたり、直接触れたりして、人物と動物との距離が近いほど、飼い主スコアが高得点になるように、距離に関するスコアを加算する。
【0267】
上述したように、個々の人物領域(例えば、図4の(a)に示す破線枠内、人物領域B、B’のそれぞれ)について、飼い主判定部26における、一部またはすべての各推定部が、上記人物領域の人物が飼い主である可能性について推定を行う。各推定部が推定を行った後に、飼い主スコア記憶部45に格納されている、人物領域に関連付けられた飼い主スコアが、当該人物領域の人物の最終的な飼い主スコアである。
【0268】
飼い主判定部26は、飼い主スコア記憶部45に記憶されている人物領域の飼い主スコアを読み出して、人物領域の人物が飼い主であるか否かを判定する。本実施形態では、飼い主判定部26は、飼い主スコアが所定の閾値未満であれば、人物領域の人物は飼い主でないと判定し、上記飼い主スコアが所定の閾値以上であれば、上記人物は飼い主であると判定する。
【0269】
例えば、人物領域B(図4の(a)の左の破線枠内)の人物は、ペットに関連するグッズを持ってない。さらに、上記人物は、検出されている動物(動物領域A)の方に向いておらず、上記動物に関心を寄せていない。人物領域B’の人物も、ペットに関連するグッズを持っておらず、上記動物から距離が離れている。したがって、飼い主スコアが延びず、人物領域Bおよび人物領域B’の飼い主スコアは、それぞれ、10点、15点であったとする。閾値が50点であるとすれば、飼い主判定部26は、10点<50点、および、15点<50点で、人物領域Bおよび人物領域B’の人物は、いずれも飼い主ではないと判定する。
【0270】
飼い主判定部26は、人物領域Bおよび人物領域B’のそれぞれについて、人物が飼い主であるのか否かを示す情報、すなわち、飼い主判定結果d3を、検出結果出力部23に供給する。
【0271】
本実施形態では、検出装置2は、「少なくとも1の動物、かつ、少なくとも1の飼い主」を1つの画像から検出することを目的としている。つまり、検出装置2が検出すること目的としている物体は、「動物+飼い主」であると言える。
【0272】
したがって、検出結果出力部23は、動物検出部21によって動物が検出され、人物検出部22によって人物が検出され、なおかつ、検出された人物が、飼い主判定部26によって飼い主であると判定された場合に、目的の物体(「動物+飼い主」)が検出されたと判断する。検出結果出力部23は、「動物+飼い主」が検出された場合のみ、目的の物体が検出されたことを表す識別情報「1」を示す検出結果識別情報を生成する。それ以外は、目的の物体が検出されなかったことを表す識別情報「0」を示す検出結果識別情報を生成する。人物が検出されても、それが飼い主でなければ、「目的の物体が検出されなかった」と判断される点が、実施形態1および実施形態2と異なっている。
【0273】
例えば、上述の例を用いて説明すると、図4の(a)の入力画像に対して、実施形態1の構成では、検出装置2は、「動物+人物」が検出されたと判断するので、表示制御装置3において、ペット関連広告が表示される制御が行われることになる。しかしながら、図4の(a)のシーンは、たまたま表示装置1周辺に、犬と当該犬とは関係がない人物とが居合わせたシーンである可能性もある。その人物が動物好きではなく、ペットに関心がない可能性もあり、このような場合に、ペット関連広告が表示されても、広告の効果を高めることはできない虞がある。
【0274】
一方、本実施形態の構成によれば、上述のとおり、飼い主判定部26によって、人物領域B、B’の人物は飼い主ではないと判定される。検出結果出力部23は、この判定結果にしたがって、識別情報「0」を示す検出結果識別情報を表示制御部30に対して出力する。
【0275】
したがって、表示制御部30は、図4の(a)のシーンでは、ペット関連広告に特化せず、例えば、通常広告が表示されるように制御する。図4の(a)のシーンでは、ペットに関心を持った人物が、広告を視認可能な位置にいるとは限らないので、上記の広告制御は、よりシーンにマッチした広告制御であると言える。
【0276】
結果として、本実施形態の検出装置2および表示制御装置3は、周辺の状況をより正確に把握して、より効果的なタイミングで、より効果的な内容の広告が表示されるように表示装置1を制御することが可能となる。
【0277】
〔表示装置の処理フロー〕
図17は、本実施形態の表示装置1における処理の流れを示すフローチャートである。
【0278】
S301からS306までの各ステップにおける検出装置2の動作は、図9に示すS101からS106までの各ステップにおける検出装置2の動作と同様であるので、ここでは、重複する説明は省略する。
【0279】
S303において動物が検出されなかったり(S304においてNO)、S305において人物が検出されなかったり(S306においてNO)した場合には、検出結果出力部23は、「動物+飼い主が検出されなかった」旨を表す検出結果識別情報を生成し、これを含む検出結果50を出力する(S310)。
【0280】
一方、動物および人物がともに検出された場合には(S304においてYES、かつ、S306においてYES)、次に、飼い主判定部26は、人物検出部22によって画像から検出された1以上の人物について飼い主判定処理を実施する(S307)。飼い主判定処理の内容は、図16を参照して説明したとおりである。飼い主判定部26は、検出された人物ごとに、飼い主スコアを算出し、所定閾値以上の飼い主スコアが算出された人物を、飼い主であると判定する。
【0281】
ここで、飼い主判定部26が、検出された人物が飼い主ではないと判定した場合には(S308においてNO)、上述のケースと同様に、検出結果出力部23は、「動物+飼い主が検出されなかった」旨を表す検出結果識別情報を生成し、これを含む検出結果50を出力する(S310)。
【0282】
これに対し、飼い主判定部26が、検出された人物が飼い主であると判定した場合には(S308においてYES)、検出結果出力部23は、「動物+飼い主が検出された」旨を表す検出結果識別情報を生成し、これを含む検出結果50を出力する(S309)。
【0283】
なお、検出された人物が複数あって、そのそれぞれについて、飼い主であるか否かが判定された場合、検出結果出力部23は、少なくとも1つの人物が飼い主であると判定されれば、「動物+飼い主が検出された」と判断してよい。
【0284】
表示制御装置3において、表示制御部30は、検出結果出力部23から供給された検出結果50に含まれる検出結果識別情報に基づいて、当該検出結果識別情報と対応する広告画像を特定する。
【0285】
S311からS313までの各ステップにおける検出装置2の動作は、図9に示すS109からS111までの各ステップにおける検出装置2の動作と同様であるので、ここでは、重複する説明は省略する。
【0286】
上記方法によれば、画像から人物が検出されたとしても、それが、動物に関心を持った飼い主であるのか否かがさらに判定される。そして、上記人物が飼い主ではないと判定された場合には、検出装置2は、目的の物体は検出されなかったと判断することができる。
【0287】
具体例を挙げれば、飼い主判定部26によって、人物領域B(図4の(a)の破線枠内)の人物は飼い主ではないと判定される。検出結果出力部23は、この判定結果にしたがって、識別情報「0」を示す検出結果識別情報を表示制御部30に対して出力する。
【0288】
したがって、表示制御部30は、図4の(a)のシーンでは、ペット関連広告に特化せず、例えば、通常広告が表示されるように制御する。図4の(a)のシーンでは、ペットと関わりを持つ人物が存在せず、動物に関心を持った人物が、広告を視認可能な位置にいるとは限らないので、上記の広告制御は、よりシーンにマッチした広告制御であると言える。
【0289】
一方、人物領域B”の人物は飼い主であると判定される。検出結果出力部23は、動物と飼い主とが検出されたという判定結果にしたがって、識別情報「1」を示す検出結果識別情報を表示制御部30に対して出力する。
【0290】
したがって、表示制御部30は、図4の(d)のシーンでは、ペット関連広告が表示されるように制御する。図4の(d)のシーンでは、人物領域B”は、動物を引率しており、動物(ペット)に関心を持った人物である可能性が高い。そのような人物が、広告を視認可能な位置にいるときに、ペット関連広告が表示されるので、上記の広告制御は、よりシーンにマッチした広告制御であると言える。
【0291】
結果として、本実施形態の検出装置2および表示制御装置3は、周辺の状況をより正確に把握して、より効果的なタイミングで、より効果的な内容の広告が表示されるように表示装置1を制御することが可能となる。
【0292】
なお、図17に示す例では、検出装置2の動物検出処理が人物検出処理よりも先に実行される構成であるが、表示装置1における処理順序は、これに限定されない。例えば、動物検出部21が行う動物検出処理と、人物検出部22が行う人物検出処理の順序は、入れ替えることが可能である。また、飼い主判定部26が行う飼い主判定処理は、人物検出部22の人物検出処理の後であればいつのタイミングで実行されてもよい。例えば、動物検出部21の動物検出処理の前に実行されてもよい。
【0293】
ただし、飼い主判定部26が行う飼い主判定処理の負荷が最も大きい場合には、図17に示す方法が好ましい。つまり、動物検出処理と人物検出処理とを先に実行し、動物と人物とが検出された場合にだけ飼い主判定処理が実行されるという処理順序が、高負荷処理をできるだけ回避するという観点から最も好ましい。また、飼い主判定処理は、動物検出処理の結果と、人物検出処理の結果とを両方利用することがあるので、この場合には、動物検出処理と人物検出処理とを先に実行することが必須となる。
【0294】
≪実施形態4≫
本発明の検出装置(および表示装置)に関する他の実施形態について、図18〜図20に基づいて説明すれば、以下のとおりである。なお、説明の便宜上、上述の各実施形態にて説明した図面と同じ機能を有する部材については、同じ符号を付記し、その説明を省略する。
【0295】
〔表示装置の構成〕
図18は、本実施形態の表示装置1における、検出装置2および表示制御装置3の要部構成を示すブロック図である。図18に示す表示装置1において、図1、図12および図15に示す表示装置1と異なるは、検出装置2が、ペット判定部25およびペットスコア記憶部44、ならびに、飼い主判定部26および飼い主スコア記憶部45を、ともに備えている点である。ペット判定部25および飼い主判定部26は、機能ブロックとして、制御部10に含まれている。ペットスコア記憶部44および飼い主スコア記憶部45は、記憶部11に含まれている。
【0296】
本実施形態では、検出装置2は、「少なくとも1のペット、かつ、少なくとも1の飼い主」を1つの画像から検出することを目的としている。つまり、検出装置2が検出すること目的としている物体は、「ペット+飼い主」であると言える。
【0297】
したがって、検出結果出力部23は、動物検出部21によって動物が検出され、人物検出部22によって人物が検出され、検出された動物が、ペット判定部25によってペットであると判定され、なおかつ、検出された人物が、飼い主判定部26によって飼い主であると判定された場合に、目的の物体(「ペット+飼い主」)が検出されたと判断する。検出結果出力部23は、「ペット+飼い主」が検出された場合のみ、目的の物体が検出されたことを表す識別情報「1」を示す検出結果識別情報を生成する。それ以外は、目的の物体が検出されなかったことを表す識別情報「0」を示す検出結果識別情報を生成する。たとえ、動物+人物が検出されても、動物がペットでなかったり、人物が飼い主でなかったりした場合には、「目的の物体が検出されなかった」と判断される点が、実施形態1〜3と異なっている。
【0298】
〔表示装置の処理フロー〕
図19は、本実施形態の表示装置1における処理の流れを示すフローチャートである。
【0299】
S401からS406までの各ステップにおける検出装置2の動作は、図9に示すS101からS106までの各ステップにおける検出装置2の動作と同様であるので、ここでは、重複する説明は省略する。
【0300】
S403において動物が検出されなかったり(S404においてNO)、S405において人物が検出されなかったり(S406においてNO)した場合には、検出結果出力部23は、「ペット+飼い主が検出されなかった」旨を表す検出結果識別情報を生成し、これを含む検出結果50を出力する(S412)。
【0301】
一方、動物および人物がともに検出された場合には(S404においてYES、かつ、S406においてYES)、次に、ペット判定部25は、動物検出部21によって画像から検出された1以上の動物についてペット判定処理を実施する(S407)。ペット判定処理の内容は、図13を参照して説明したとおりである。
【0302】
ここで、ペット判定部25が、検出された動物がペットではないと判定した場合には(S408においてNO)、上述のケースと同様に、検出結果出力部23は、「ペット+飼い主が検出されなかった」旨を表す検出結果識別情報を生成し、これを含む検出結果50を出力する(S412)。
【0303】
これに対し、ペット判定部25が、検出された動物がペットであると判定した場合には(S408においてYES)、次に、飼い主判定部26は、人物検出部22によって画像から検出された1以上の人物について飼い主判定処理を実施する(S409)。飼い主判定処理の内容は、図16を参照して説明したとおりである。
【0304】
ここで、飼い主判定部26が、検出された人物が飼い主ではないと判定した場合には(S410においてNO)、上述のケースと同様に、検出結果出力部23は、「ペット+飼い主が検出されなかった」旨を表す検出結果識別情報を生成し、これを含む検出結果50を出力する(S412)。
【0305】
これに対し、飼い主判定部26が、検出された人物が飼い主であると判定した場合には(S410においてYES)、検出結果出力部23は、「ペット+飼い主が検出された」旨を表す検出結果識別情報を生成し、これを含む検出結果50を出力する(S411)。
【0306】
なお、検出された動物が複数あって、そのそれぞれについて、ペットであるか否かが判定された場合、検出結果出力部23は、少なくとも1つの動物がペットであると判定されれば、「ペットが検出された」と判断してよい。また、検出された人物が複数あって、そのそれぞれについて、飼い主であるか否かが判定された場合、検出結果出力部23は、少なくとも1つの人物が飼い主であると判定されれば、「飼い主が検出された」と判断してよい。
【0307】
表示制御装置3において、表示制御部30は、検出結果出力部23から供給された検出結果50に含まれる検出結果識別情報に基づいて、当該検出結果識別情報と対応する広告画像を特定する。
【0308】
S413からS415までの各ステップにおける検出装置2の動作は、図9に示すS109からS111までの各ステップにおける検出装置2の動作と同様であるので、ここでは、重複する説明は省略する。
【0309】
なお、図19に示す例では、検出装置2の動物検出処理が人物検出処理よりも先に実行される構成であるが、表示装置1における処理順序は、これに限定されない。例えば、動物検出部21が行う動物検出処理と、人物検出部22が行う人物検出処理の順序は、入れ替えることが可能である。
【0310】
また、ペット判定部25が行うペット判定処理は、動物検出部21の動物検出処理の後であればいつのタイミングで実行されてもよい。例えば、人物検出部22の人物検出処理の前に実行されてもよい。あるいは、飼い主判定部26が行う飼い主判定処理は、人物検出部22の人物検出処理の後であればいつのタイミングで実行されてもよい。例えば、動物検出部21の動物検出処理の前に実行されてもよい。
【0311】
ただし、ペット判定部25が行うペット判定処理、および、飼い主判定部26が行う飼い主判定処理の負荷が、上記動物検出処理および上記人物検出処理よりも大きい場合には、図19に示す方法が好ましい。つまり、動物検出処理と人物検出処理とを先に実行し、動物と人物とが検出された場合にだけ、ペット判定処理および飼い主判定処理が実行されるという処理順序が、高負荷処理をできるだけ回避するという観点から最も好ましい。
【0312】
さらに、図19に示す例では、検出装置2のペット判定処理が飼い主判定処理よりも先に実行される構成であるが、表示装置1における処理順序は、これに限定されない。例えば、ペット判定部25が行うペット判定処理と、飼い主判定部26が行う飼い主判定処理の順序は、入れ替えることが可能である。
【0313】
上記構成および方法によれば、動物検出部21は、入力画像に動物が写っていれば、それを動物(領域)として認識し、検出する。一方、人物検出部22は、上記入力画像に人物が写っていれば、それを人物(領域)として認識し、検出する。
【0314】
さらに、ペット判定部25は、動物検出部21によって検出された各動物が、ペットであるか否かを判定する。一方、飼い主判定部26は、人物検出部22によって検出された各人物が、飼い主であるか否かを判定する。
【0315】
検出結果出力部23は、動物検出部21によって動物が検出され、人物検出部22によって人物が検出され、検出された少なくとも1の動物がペットであると判定され、なおかつ、検出された少なくとも1の人物が飼い主であると判定された場合に、目的の物体が検出された旨を表す検出結果を出力する。
【0316】
検出結果出力部23によって出力された検出結果は、それを利用する各部(例えば、表示制御部30など)に供給される。
【0317】
これにより、ペットと飼い主とを認識し、そのことを以って、「目的の物体が検出された」と判断する検出装置を実現することができる。
【0318】
結果として、この検出結果を利用する側の構成要素または装置(表示制御部30など)においては、ペットと飼い主とがともに検出されたのか、そうでないのかの状況の違いに応じて、異なる処理を実行することが可能となる。
【0319】
例えば、図20に示すシーンを例に挙げて説明する。図20は、撮像部4によって撮像された、ある時点の入力画像において、動物検出部21および人物検出部22による物体検出処理によって、動物および人物の領域が特定された様子を示す図である。
【0320】
図20の入力画像に対して、実施形態1または実施形態2の構成では、検出装置2は、「動物(ペット)+人物」が検出されたと判断するので、表示制御装置3において、ペット関連広告が表示される制御が行われることになる。
【0321】
しかしながら、図20のシーンは、たまたま表示装置1周辺に、ペットと当該ペットとは関係がない人物とが居合わせたシーンである可能性もある。その人物が動物好きではなく、ペットに関心がない可能性もあり、このような場合に、ペット関連広告が表示されても、広告の効果を高めることはできない虞がある。
【0322】
このような不都合に対し、本実施形態の構成によれば、飼い主判定部26によって、図20の入力画像に写る人物は飼い主ではないと判定される。例えば、人物の手と、ペットとが、リード(らしき物体)で接続されていないこと、人物とペットとの距離が離れていること、人物がペットの方を向いていないことなどに基づいて、飼い主判定部26は、上記人物は、上記ペットの飼い主ではないと判定される。
【0323】
検出結果出力部23は、この判定結果にしたがって、識別情報「0」を示す検出結果識別情報を表示制御部30に対して出力する。
【0324】
したがって、表示制御部30は、図20のシーンでは、ペット関連広告に特化せず、例えば、通常広告が表示されるように制御する。図20のシーンでは、広告を視認可能な位置にいる人物は、ペットに関心がない可能性が高いので、上記の広告制御は、よりシーンにマッチした広告制御であると言える。
【0325】
結果として、本実施形態の検出装置2および表示制御装置3は、周辺の状況をより正確に把握して、より効果的なタイミングで、より効果的な内容の広告が表示されるように表示装置1を制御することが可能となる。
【0326】
なお、上述の各実施形態では、ペット判定部25および飼い主判定部26の各推定部は、加点方式によって、それぞれ、ペットスコアおよび飼い主スコアを算出する構成であった。しかし、本発明のペット判定部25の各推定部は、ペットらしくない特徴を動物領域から見出した場合に、ペットスコアを減点する構成であってもよい。また、飼い主判定部26の各推定部は、飼い主らしくない特徴を人物領域から見出した場合に、飼い主スコアを減点する構成であってもよい。上記減点方式のペット判定部25および飼い主判定部26の構成は、以下の実施形態においても適用可能である。
【0327】
≪実施形態5≫
上述の実施形態2および実施形態4では、ペット判定部25およびペット判定部25の各推定部は、各動物につき、ペットか否かを判定するためのペットスコアを算出する構成であった。しかし、上記の構成に限定されず、ペット判定部25およびペット判定部25の各推定部は、さらに、ペットの属性を判定する構成であってもよい。なお、本実施形態における表示装置1の要部構成は、図12または図18に示すとおりである。
【0328】
ペット判定部25によって判定されたペットの属性に基づいて、検出結果出力部23は、ペットの属性を示すペット属性情報を生成する。
【0329】
図21は、検出結果出力部23の動作の一例を具体的に説明する図であり、検出結果出力部23が生成するペット属性情報の一例を示す図である。
【0330】
例えば、図13に示すペット判定部25の各推定部が、以下のような推定結果をペット判定結果d2に含めて検出結果出力部23に出力したとする。
【0331】
具体的には、犬種推定部250は、ある動物領域に写っている動物を画像認識し、当該動物の犬種を推定する。ここでは、犬種推定部250は、例えば、柴犬であると推定する。また、犬種推定部250は、柴犬の一般的な大きさの情報に基づいて、当該動物の体型が、柴犬として、大きいか、普通か、小さいかを推定する。例えば、犬種推定部250は、普通であると推定する。
【0332】
衣類推定部251は、上記動物周囲の物品の画像認識を行う。そして、例えば、上記動物が衣類(洋服および首輪など)を身に付けていて、さらに、グッズ(ボールなど)をくわえていると推定する。
【0333】
ジェスチャ推定部252は、上記動物のジェスチャ認識を行う。そして、例えば、活発に歩いているか否かに基づいて、体調が、良好か、普通か、不良かを推定する。例えば、上記動物が活発に足を動かし前進している場合に、ジェスチャ推定部252は、上記動物の体調は良好であると推定する。なお、ジェスチャ推定部252は、動きの活発さに応じて、体調について、普通、不良などと推定してもよい。
【0334】
さらに、ジェスチャ推定部252は、上記動物について、しつけの良し悪しを推定する。例えば、上記動物について、飼い主と異なる進行方向へ前進したり、飼い主以外の物体(他の動物、他の人物など)に向けて急に駆け寄ったりする動きが検出された場合に、上記動物のしつけは「問題あり」と推定する。なお、反対に、ジェスチャ推定部252は、上記動物について急激な動きの変化が見られない、飼い主とほぼ同じ速度でほぼ同じ進行方向に動いている、などの動きが検出された場合に、上記動物のしつけは、「問題なし」と推定することもできる。
【0335】
なお、動物の体調としつけについて、ジェスチャ推定部252の代わりに、あるいは、ジェスチャ推定部252とともに、表情推定部254が推定してもよい。表情推定部254は、息が上がっていない、喜んでいる、などの動物の表情に基づいて、当該動物の体調が良好であると推定できる。反対に、息が上がって疲れている、苦しい、悲しい、などの動物の表情に基づいて、当該動物の体調が不良であると推定できる。また、表情推定部254は、長時間、いろいろな方向に向いて吠えている、怒っている、などの動物の表情が見られるか否かに基づいて、当該動物のしつけに問題があるか否かを推定できる。
【0336】
毛並み推定部253は、動物の体毛と思われる領域について画像認識を行う。そして、当該動物の毛並みの良し悪し、および、体毛の長短を推定する。例えば、毛並み推定部253は、体毛に艶があって、毛並みが整っていれば、毛並みは良好であると推定する。毛並み推定部253は、他にも、毛並みについて、普通、不良などと推定することもできる。さらに、毛並み推定部253は、毛の長さについても「長」、「普通」または「短」と推定する。例えば、柴犬の体毛であれば、毛並み推定部253は、毛の長さを「短」と推定する。なお、毛の長さは、犬種推定部250によって犬種が推定されたときに、犬種に応じて自動的に定まるものであっても構わない。
【0337】
例えば、以上の各推定部による推定結果が、図13に示すペット判定結果d2に含められて、ペット判定部25から検出結果出力部23に供給される。検出結果出力部23は、ペット判定結果d2に含まれる上記推定結果に基づいて、図21に示すとおり、ペット属性情報53を生成する。
【0338】
検出結果出力部23は、上記動物について、図21に示すような、ペット属性情報53のテーブルを生成する。そして、犬種推定部250は、上記動物の犬種を「柴犬」と推定したので、検出結果出力部23は、属性項目「種類」のセルに「柴犬」を格納する。また、犬種推定部250は上記動物の体型を「普通」と推定したので、検出結果出力部23は、属性項目「体型」のセルに「普通」を格納する。
【0339】
衣類推定部251は、上記動物が衣類およびグッズを身に付けていると推定したので、検出結果出力部23は、属性項目「衣類」および「グッズ」のセルに「あり」を格納する。
【0340】
ジェスチャ推定部252(および/または、表情推定部254)は、上記動物の体調を良好と推定したので、検出結果出力部23は、属性項目「体調」のセルに「良好」を格納する。また、ジェスチャ推定部252は、上記動物のしつけについて「問題あり」と推定したので、検出結果出力部23は、属性項目「しつけ」のセルに「問題あり」を格納する。
【0341】
毛並み推定部253は、上記動物の毛並みを良好と推定したので、検出結果出力部23は、属性項目「毛並み」のセルに「良好」を格納する。また、毛並み推定部253は、上記動物の毛の長さを短いと推定したので、検出結果出力部23は、属性項目「毛の長さ」のセルに「短」を格納する。
【0342】
検出結果出力部23は、これまでの各実施形態で説明した、検出結果識別情報(例えば、検出結果識別情報51)と、上述のようにして生成したペット属性情報53とを含む検出結果50を生成する。検出結果出力部23は、生成した検出結果50を表示制御部30に出力する。
【0343】
なお、本実施形態では、ペット属性情報53が生成されるのは、識別情報「1」の場合、すなわち、目的の物体「ペット+人物(または飼い主)」が検出された場合のみである。識別情報「0」の場合には、そのことを表す検出結果識別情報51のみを検出結果50として出力すればよい。
【0344】
また、図21においてペット属性情報53をテーブル形式のデータ構造にて示したことは一例であって、ペット属性情報53のデータ構造を限定する意図はない。ペットの属性について、項目とその内容との対応関係を、表示制御部30が認識可能であれば、ペット属性情報53はどのようなデータ構造で構成されてもよい。このことは、いずれの実施形態においても同様である。
【0345】
表示制御装置3において、表示制御部30は、検出結果出力部23から検出結果50を取得する。検出結果50に、識別情報「1」の検出結果識別情報51と、ペット属性情報53とが含まれているとする。この場合、表示制御部30は、表示規則記憶部42に記憶されている表示規則にしたがって、表示装置1の周辺で検出されたペットの属性に応じて、表示部5に表示させる広告画像を制御する。一方、検出結果50に、識別情報「0」の検出結果識別情報51が含まれているとする。この場合、表示制御部30は、表示規則記憶部42に記憶されている表示規則にしたがって、識別情報「0」の場合に対応した、広告(例えば、通常広告)を表示部5に表示させる。
【0346】
上述の各実施形態では、広告記憶部43は、各広告画像を、いくつかのカテゴリ(例えば、ペット関連広告、通常広告など)に分類して管理していた。本実施形態では、上記カテゴリは「メインカテゴリ」として利用され、1つのメインカテゴリに属する各広告画像は、それぞれの広告内容に応じて、さらに詳細に分類される。このさらに詳細な分類に利用するカテゴリをここでは、サブカテゴリと称する。
【0347】
本実施形態では、一例として、メインカテゴリ「ペット関連広告」に属する各広告画像は、その内容に基づいて、サブカテゴリ、すなわち、「柴犬関連広告」(および、その他犬種別関連広告)、「ペット衣料関連広告」、「ペットグッズ関連広告」、「トリマー関連広告」、「ペットフード関連広告」、「トレーナー関連広告」、「動物病院関連広告」などのいずれかに分類される。
【0348】
各広告画像は、広告ID、メインカテゴリID、および、サブカテゴリIDが関連付けられて、広告記憶部43に記憶されている。これにより、どの広告が、どのメインカテゴリおよびどのサブカテゴリに属しているのかを、表示制御部30が認識することができる。
【0349】
本実施形態では、表示規則記憶部42は、図6に示す表示規則のテーブルを第1のテーブルとして保持し、さらに、図22に示す表示規則のテーブルを第2のテーブルとして保持する。図22は、表示規則記憶部42に記憶されている表示規則の一例を示す図である。
【0350】
表示制御部30は、まず、第1のテーブルを参照する。図6に示す例では、検出結果識別情報51が識別情報「0」の場合には、「通常広告」が関連付けられている。よって、表示制御部30は、識別情報「0」の場合には、「通常広告」のメインカテゴリに属する各広告画像を広告記憶部43から読み出して、表示部5に表示する。
【0351】
一方、検出結果識別情報51が識別情報「1」の場合には、「ペット関連広告」が関連付けられている。よって、表示制御部30は、識別情報「1」の場合には、次に、第2のテーブルを参照する。第2のテーブルとは、ここでは、メインカテゴリ「ペット関連広告」において、検出されたペットの属性と、そのような属性のペットが現れたときに表示すべき広告画像のサブカテゴリとを対応付けた第2の表示規則のテーブルである。
【0352】
図22に示すとおり、上記第2の表示規則のテーブルには、検出結果出力部23によって生成される各属性項目の推定結果ごとに、その推定結果に対応する、広告画像のサブカテゴリIDが対応付けられている。なお、個々の広告画像(または広告ID)が、対応付けられてもよい。
【0353】
例えば、ペット属性情報53において、属性項目「種類」のセルに「柴犬」が格納されている場合には、表示制御部30は、図22に示す表示規則に基づいて、サブカテゴリ「柴犬関連広告」に属する表示画像を表示すべき広告画像として特定する。
【0354】
同様に、表示制御部30は、ペット属性情報53に含まれているすべての属性項目に対応する広告画像を、上記表示規則に基づいて、特定する。
【0355】
表示制御部30は、特定した広告画像を広告記憶部43から読み出して、表示部5に表示する。
【0356】
上記構成によれば、検出装置2によって、表示部5に表示された広告を視認可能な位置に、人物(または飼い主)、かつ、ペットが検出された場合には、検出装置2の検出結果出力部23は、「ペット+人物(飼い主)」が検出されたことを示す検出結果識別情報51に加えて、ペット属性情報53を検出結果50に含めて出力する。ペット属性情報53には、表示部5に表示された広告を視認可能な位置に(すなわち、同様に検出された上記人物の近くに)存在するとして検出されたペットの属性を表す各種情報が含まれている。検出されたペットが複数存在する場合には、検出結果出力部23は、ペットごとにペット属性情報53を生成してもよいし、代表となる1匹のペットについてだけペット属性情報53を生成してもよい。代表となる1匹のペットとして、例えば、検出された人物に最も近い位置にいるペット、あるいは、表示部5の最も近い位置いるペットなどが選択されればよい。
【0357】
表示制御装置3の表示制御部30は、検出結果識別情報51が、「ペット+人物(飼い主)」が検出されたことを示す場合には、ペット属性情報53に応じた広告画像を、表示規則にしたがって特定する。具体的には、表示制御部30は、表示規則記憶部42に記憶されている表示規則のテーブルにおいて、ペット属性情報53に含まれる各属性項目の推定結果に対応付けられた広告画像(または、広告画像のサブカテゴリ)を特定する。
【0358】
これにより、表示部5に表示された広告を視認可能な位置に、人物(または飼い主)とペットとが検出された場合に、表示部5に、上記ペットの属性に応じたペット関連広告を表示させることが可能となる。
【0359】
上記ペットと同時に検出された人物は、上記ペットの飼い主である可能性が高く、上記ペットの属性に関連して表示された広告画像に、特に興味を持つと考えられる。具体的には、例えば、ペットに洋服を着せる飼い主は、ペットの洋服に関するペット衣料関連広告に注目する可能性が高い。毛の長いペットを飼っている飼い主は、トリマー関連広告に注目する可能性が高い。ペットのしつけに悩んでいる飼い主は、ペットのトレーナー関連広告に注目する可能性が高い。ペットの体型が、極端に太りすぎであったり、やせすぎであったりする場合、飼い主は、ペットフード関連項目に注目する可能性が高い。
【0360】
このように、ペットの属性に応じてペット関連広告をサブカテゴリ別に表示するという広告制御は、よりシーンにマッチした広告制御であると言える。
【0361】
結果として、本実施形態の検出装置2および表示制御装置3は、周辺の状況(特に、ペットの属性、および、それに関わる飼い主の関心)をより正確に把握して、より効果的なタイミングで、より効果的な内容の広告が表示されるように表示装置1を制御することが可能となる。
【0362】
なお、本実施形態5では、ペット判定部25およびその各推定部がさらにペットの属性を判定する構成について説明した。本発明の検出装置2は、これに限定されず、飼い主判定部26およびその各推定部が、飼い主の属性を判定する構成であってもよい。
【0363】
この場合、検出結果出力部23は、飼い主判定部26によって判定された飼い主の属性に基づいて、飼い主の属性を示す飼い主属性情報を生成する。
【0364】
飼い主属性情報は、検出結果50に含められて検出結果識別情報51とともに、例えば、表示制御部30に供給される。これにより、表示制御部30は、飼い主の属性を把握することができ、表示部5周辺にいる飼い主の興味をより引きそうな広告画像を選択して、表示部5に表示することが可能となる。
【0365】
≪実施形態6≫
上述の各実施形態では、検出装置2において、検出結果出力部23は、目的の物体「動物(ペット)+人物(飼い主)」が検出されたのか否かを示す検出結果識別情報を、表示制御装置3に供給する構成であった。より詳細には、検出結果出力部23は、動物検出部21、人物検出部22、ペット判定部25、および、飼い主判定部26(または、これらの一部)によって出力される処理結果に基づいて、上記検出結果識別情報51を検出結果50として生成する構成であった。
【0366】
しかし、本発明の検出装置2の構成は、上記に限定されない。検出装置2は、検出目的の物体が、「動物(ペット)+人物(飼い主)」のように2種類の物体である場合に、ともに検出された異種の物体同士を対にする(ペアリングする)構成であってもよい。そして、検出結果出力部23が、その対応関係を示す情報(対応情報)を生成し、検出結果50の一部として、表示制御装置3または検出結果50を利用するその他の装置に供給する構成であってもよい。
【0367】
さらに、上述の各実施形態では、本発明の検出装置2を表示装置1(デジタルサイネージ)に適用した場合について説明した。しかし、本発明の検出装置2は、表示装置1に限らず、検出装置2が出力する検出結果50を利用するあらゆる装置に適用することが可能である。例えば、本発明の検出装置2は、静止画または動画の撮影を行うデジタルカメラに適用できる。
【0368】
以下で説明する実施形態では、本発明の検出装置2をデジタルカメラに適用した場合について説明する。さらに本実施形態における検出装置2は、目的の物体、すなわち、動物(ペット)および人物(飼い主)をペアリングする機能を有している。
【0369】
〔デジタルカメラの構成〕
図23は、本実施形態のデジタルカメラ8における、検出装置2および撮影制御装置3aの要部構成を示すブロック図である。なお、デジタルカメラ8は、以下に説明または図示する以外にも、当該デジタルカメラ8が、公知のデジタルカメラとして機能するために備えておくべき標準的なハードウェア構成およびソフトウェア構成を備えているものとする。
【0370】
図23に示すとおり、デジタルカメラ8は、ハードウェア構成として、概略的には、少なくとも、ライブビュー画像取得部6、レンズ部7a、ストロボ部7b、制御部10、および、記憶部11を備えている。
【0371】
ライブビュー画像取得部6は、ライブビュー画像を取得するものである。ライブビュー画像は、レンズ部7aを介して撮像素子において受光された像、つまり、静止画撮影前のプレビュー画像である。ライブビュー画像取得部6は、例えば、デジタルカメラ8の本体に内蔵され、図示しないミラー機構、撮像素子、A/Dコンバータ、画像表示回路などの各種機構および回路で構成されている。これらのライブビュー画像取得部6の各部は、デジタルカメラ8において、撮影制御装置3aとして機能する撮影制御部31によって制御される。
【0372】
ライブビュー画像取得部6によって取得されたライブビュー画像は、図示しない表示部に表示されて、撮影者が実際にシャッターを切る前に、どのような静止画が撮影されるのかを確認するのに用いられたりする。
【0373】
本発明では、ライブビュー画像取得部6によって取得されたライブビュー画像は、検出装置2の画像入力部20に供給され、検出装置2によって目的の物体を検出するのに利用される。
【0374】
レンズ部7aは、被写体像がデジタルカメラ8の本体に内蔵される撮像素子に受光されるように、被写体からの撮影光束を本体内に導くものである。レンズ部7aは、例えば、複数のレンズ群、絞り、レンズ制御回路、絞り制御回路などの各種機構および回路で構成されている。これらのレンズ部7aの各部は、デジタルカメラ8において、撮影制御装置3aとして機能する撮影制御部31によって制御される。
【0375】
ストロボ部7bは、被写体に向けて閃光を照射し、撮影に必要な光量を確保するための発光装置である。ストロボ部7bは、例えば、光源、発光制御回路、充電回路、電源などの各種機構および回路で構成されている。これらのストロボ部7bの各部は、デジタルカメラ8において、撮影制御装置3aとして機能する撮影制御部31によって制御される。
【0376】
制御部10は、デジタルカメラ8が備える各部を統括制御するものである。制御部10は、例えば、CPU(central processing unit)などで実現され、デジタルカメラ8が備える機能は、制御部10としてのCPUが、ROM(記憶部11)などに記憶されているプログラムを、RAM(記憶部11)などに読み出して実行することで実現される。
【0377】
とりわけ、記憶部11は、少なくとも、デジタルカメラ8に搭載された検出装置2が実行する物体検出機能を実現するために読み出す各種プログラム、データを記憶している。具体的には、記憶部11には、動物特徴量記憶部40および人物特徴量記憶部41が含まれる。さらに、記憶部11は、必要に応じて、ペットスコア記憶部44および飼い主スコア記憶部45を含んでいてもよい。
【0378】
とりわけ、制御部10は、機能ブロックとして、少なくとも、画像入力部20、動物検出部21、人物検出部22および検出結果出力部23を備えている。これらの機能ブロックは、デジタルカメラ8において、検出装置2として機能するソフトウェア構成を表している。さらに、制御部10は、検出装置2の機能ブロックとして、必要に応じて、ペット判定部25、飼い主判定部26およびペアリング部27、もしくは、その一部を備えていてもよい。
【0379】
本実施形態では、記憶部11は、さらに、デジタルカメラ8に搭載された撮影制御装置3aが実行する撮影制御機能を実現するために読み出す、図示しない各種プログラム、データを記憶していてもよい。
【0380】
また、制御部10は、機能ブロックとして、さらに、撮影制御部31を備えていてもよい。機能ブロックである撮影制御部31は、デジタルカメラ8において、撮影制御装置3aとして機能するソフトウェア構成を表している。撮影制御部31は、デジタルカメラ8を構成する本体、レンズ部7aおよびストロボ部7bの各機構および回路を統括的に制御し、撮影機能を実現するものである。
【0381】
上述した制御部10の各機能ブロックは、CPUが、ROM、NVRAM等で実現された記憶装置(記憶部11)に記憶されているデータ管理機能のプログラムを不図示のRAM(random access memory)等に読み出して実行することで実現できる。
【0382】
画像入力部20は、本実施形態では、ライブビュー画像取得部6によって取得されたライブビュー画像から、物体検出処理の対象となる画像を取得して、動物検出部21および人物検出部22に入力するものである。
【0383】
ペアリング部27は、動物検出部21またはペット判定部25によって検出された、動物(またはペット)と、人物検出部22または飼い主判定部26によって検出された、人物(または飼い主)とを対応付けて対にするペアリング処理を実行するものである。
【0384】
(パターン1)動物と人物とをペアリングする
検出装置2が、動物検出部21および人物検出部22を備えている構成の場合、ペアリング部27は、動物検出部21および人物検出部22がそれぞれ検出した動物と人物とを対にする。
【0385】
例えば、図20に示すように、入力画像から、動物と人物とがそれぞれ1つずつ検出された場合には、ペアリング部27は、それらを対応付けて対にしてもよい。
【0386】
一方、図4の(a)に示すように、人物が複数検出された場合には、ペアリング部27は、検出された動物(動物領域Aの動物)と、当該動物の最も近くに位置する人物(ここでは、人物領域Bの人物)とを対にしてもよい。
【0387】
また、図4の(d)に示すように、動物が複数検出された場合も同様に、ペアリング部27は、検出された人物(人物領域B”の人物)と、当該人物の最も近くに位置する動物(ここでは、動物領域A’の動物)とを対にしてもよい。
【0388】
ペアリング部27は、どの動物とどの人物とを対にしたのかを示す対応情報を検出結果出力部23に対して出力する。
【0389】
図24の(a)および(b)は、図4の(a)および(d)に示す、動物および人物の領域が特定された入力画像において、ペアリング部27によるペアリング処理によって、動物および人物の領域が対にされた様子を示す図である。
【0390】
図24の(a)および(b)に示す例では、ペアリング部27は、1つの動物領域と1つの人物領域とに1つの枠(太線枠)を割り当てて、当該、1つの動物領域と当該1つの人物領域とが対になっていることを示している。
【0391】
ペアリング部27は、対応情報を、上記太線枠によって実現せずに、各領域に固有に割り当てられた識別情報を用いて実現してもよい。例えば、図24の(a)に示す例では、動物領域Aと人物領域Bとが対応付けられているので、対応情報「A−B」を検出結果出力部23に対して出力する。この場合、検出結果出力部23は、どの領域がAで、どの領域がBで、どの領域が動物領域で、どの領域が人物領域であるのかという情報を予め、動物検出部21または人物検出部22から取得しておくことが好ましい。
【0392】
(パターン2)ペットと人物とをペアリングする
検出装置2が、動物検出部21および人物検出部22に加えて、さらに、ペット判定部25を備えている構成の場合、ペアリング部27は、動物検出部21によって検出された動物のうち、ペット判定部25によってペットと判定された動物と、人物検出部22によって検出された人物とを対にする。
【0393】
上記構成によれば、図24の(a)に示すシーンにおいて、動物領域Aの動物が、ペット判定部25によってペットではないと判定される。例えば、ペット判定部25およびペット判定部25の各推定部は、首輪がない、リードがない、雑種である、人物の方を向いていないなどの画像解析を行って、動物領域Aの動物はペットではないと結論付ける。
【0394】
そして、ペアリング部27は、ペットでなければ人物とは対にしないと決定する。本パターンでは、図24の(a)に示すシーンにおいて、ペアリング部27は、対を見出さない。
【0395】
パターン1では誤って関係のない動物と人物とがペアリングされるところであるが、そのような誤りを回避することが可能となる。結果として、ペアリングの精度を向上させることができる。
【0396】
なお、ペットが複数検出された場合には、ペアリング部27は、検出された人物と、当該人物の最も近くに位置するペットとを対にすることができる。
【0397】
(パターン3)動物と飼い主とをペアリングする
検出装置2が、動物検出部21および人物検出部22に加えて、さらに、飼い主判定部26を備えている構成の場合、ペアリング部27は、動物検出部21によって検出された動物と、人物検出部22によって検出された人物のうち、飼い主判定部26によって飼い主と判定された人物とを対にする。
【0398】
上記構成によれば、図20に示すシーンにおいて、動物領域A’と人物領域Bとが検出されるが、人物領域Bの人物は、飼い主判定部26によって飼い主ではないと判定される。例えば、飼い主判定部26および飼い主判定部26の各推定部は、グッズを持っていない、リードを持っていない、リードらしき物体によって動物領域A’と人物領域Bとが接続されていない、人物の目線が動物に向いていないなどの画像解析を行って、人物領域Bの人物は飼い主ではないと結論付ける。
【0399】
そして、ペアリング部27は、飼い主でなければ動物とは対にしないと決定する。本パターンでは、図20に示すシーンにおいて、ペアリング部27は、対を見出さない。
【0400】
パターン1では誤って関係のない動物と人物とがペアリングされるところであるが、そのような誤りを回避することが可能となる。結果として、ペアリングの精度を向上させることができる。
【0401】
なお、飼い主が複数検出された場合には、ペアリング部27は、検出された動物と、当該動物の最も近くに位置する飼い主とを対にすることができる。
【0402】
(パターン4)ペットと飼い主とをペアリングする
検出装置2が、動物検出部21および人物検出部22に加えて、さらに、ペット判定部25を備えており、さらに、飼い主判定部26を備えている構成の場合、ペアリング部27は、動物検出部21によって検出された動物のうち、ペット判定部25によってペットと判定された動物と、人物検出部22によって検出された人物のうち、飼い主判定部26によって飼い主と判定された人物とを対にする。
【0403】
上記構成によれば、図24の(a)に示すシーンにおいて、動物領域Aの動物がペットではない判定されたとき、または、人物領域Bの人物が飼い主ではないと判定されたとき、ペアリング部27は、当然のことながら、これらの動物および人物を対にしない。
【0404】
さらに、図24の(b)に示すシーンを参照して、たとえ、動物領域Aの動物の方が、
動物領域A’の動物よりも人物領域B”の人物に近い位置にいたとしても、ペアリング部27は、誤って、動物領域Aの動物と人物領域B”の人物とを対にすることはない。動物領域Aの動物はペットではないと判定されているからである。
【0405】
パターン3では誤って関係のない動物と飼い主とがペアリングされるところであるが、そのような誤りを回避することが可能となる。結果として、ペアリングの精度を向上させることができる。
【0406】
また、図24の(b)に示すシーンを参照して、たとえ、図24の(a)に示す人物領域Bの人物の方が、人物領域B”の人物よりも、動物領域A’の動物に近い位置にいたとしても、ペアリング部27は、誤って、人物領域Bの人物と動物領域A’の動物とを対にすることはない。人物領域Bの人物は飼い主ではないと判定されている、あるいは、人物領域B”の人物の方がより飼い主らしい(飼い主スコアが高い)と判定されているからである。
【0407】
パターン2では誤って関係のないペットと人物とがペアリングされるところであるが、そのような誤りを回避することが可能となる。結果として、ペアリングの精度をさらに向上させることができる。
【0408】
なお、ペットおよび飼い主がともに複数検出された場合には、ペアリング部27は、最も近くに位置するペットと飼い主同士を対にすることができる。
【0409】
(パターン5)リード位置によってペアリングする
検出装置2が、動物検出部21および人物検出部22に加えて、さらに、飼い主判定部26のリード位置推定部261を備えている構成が考えられる。
【0410】
この場合、ペアリング部27は、リード位置推定部261を介して、入力画像から、動物(動物領域)と人物(人物領域)とを接続する線形の物体をリードとして認識する。そして、上記入力画像から検出された動物および人物のうち、認識された上記リードで接続されている動物および人物同士を対にする。
【0411】
人物が、リードによって動物を引率していれば、その人物とその動物との間に、飼い主とペットという関係があることは明らかである。
【0412】
上述の各パターンでは、関係のない動物と人物とがたまたま接近している場合に、誤ったペアリング処理がなされる虞があるが、そのような誤りを回避することが可能となる。結果として、ペアリングの精度をさらに向上させることができる。パターン4のペアリング処理に、パターン5のペアリング処理を組み合わせれば、対にされる動物と人物との条件がより厳しくなり、結果として、ペアリングの精度をより一層向上させることができる。
【0413】
なお、人物は、リードのような物品に限らず、小型のペットであれば、ケース(カバンやゲージなど)に収容してペットを運搬することが考えられる。そこで、グッズ推定部260によって、動物が収容されているケース、および、そのケースを運搬する人物が認識された場合には、ペアリング部27は、当該動物と当該人物とを対にしてもよい。
【0414】
検出結果出力部23は、ペアリング部27によって生成された対応情報を含む検出結果50を生成し、撮影制御部31に供給する。検出結果出力部23は、上述の各実施形態で記載した、検出結果識別情報51、または、検出結果識別情報52、さらには、ペット属性情報53を、本実施形態においても、検出結果50に含めてもよい。
【0415】
これにより、撮影制御部31は、検出結果50に基づいて、デジタルカメラ8における撮影制御を実行することが可能になる。
【0416】
撮影制御部31は、上述したとおり、デジタルカメラ8の撮影機能に係る各部を統括的に制御するものである。ここで、撮影機能は、静止画を撮影する機能であっても、動画を撮影する機能であってもよい。
【0417】
本実施形態では、撮影制御部31は、目的の被写体が、その他の背景よりも優先して、明るくきれいに、ピントが合った状態で撮影されるように、例えば、露出値、絞り値、合焦位置、ストロボ発光の有無、シャッタースピードなどを制御する。
【0418】
撮影制御部31は、まず、検出結果出力部23から出力された対応情報に基づいて、ライブビュー画像に写っている物体が、目的の被写体か、背景かを判断する。
【0419】
例えば、図24の(b)に示すように、検出結果出力部23によって生成された対応情報が、人物領域B”の人物と、動物領域A’の動物とが対であることを示しているとする。この場合、撮影制御部31は、目的の被写体は、人物領域B”の人物および動物領域A’の動物であると判断する。撮影制御部31は、それ以外(例えば、動物領域Aの動物など)が背景であると判断する。
【0420】
この判断に基づいて、撮影制御部31は、目的の被写体である、人物領域B”の人物および動物領域A’の動物が、鮮鋭に撮影されるように、デジタルカメラ8の各部、すなわち、レンズ部7a、および、ストロボ部7bなどを制御する。例えば、露出値、絞り値、合焦位置、ストロボ発光の有無、シャッタースピードなどを制御する。
【0421】
図25は、本実施形態におけるデジタルカメラの利用シーンを示す図である。
【0422】
撮影制御部31は、例えば、上記対応情報に基づいて、目的の被写体である、人物領域B”の人物(または動物領域A’の動物)にピントが合うようにレンズ部7aを制御する。図25に示す例では、デジタルカメラ8は、撮影制御部31の制御にしたがって、人物領域B”の人物の顔(一点鎖線の位置)に合焦する。
【0423】
目的の被写体である、「動物および人物」のどちらに合焦するかはあらかじめ定められた規則にしたがって撮影制御部31が決定すればよい。「人物優先」の規則にしたがえば、図25に示すように、撮影制御部31は、目的の被写体のうち、人物の顔にピントを合わせることができる。「動物優先」の規則にしたがえば、撮影制御部31は、目的の被写体のうち、動物(動物領域A’)の顔にピントを合わせることができる。
【0424】
さらに、撮影制御部31は、レンズ部7aに含まれる図示しない絞り機構を制御して、絞り値を制御してもよい。撮影制御部31は、絞り機構を制御することにより、被写界深度を調節することができる。合焦位置(一点鎖線の位置)の前後に位置する他の目的の被写体についても鮮鋭な像を結ぶことができるように、撮影制御部31は、絞り値を制御する。
【0425】
例えば、対応情報が、人物領域B”の人物と、動物領域A’の動物とが対であることを示している場合には、撮影制御部31は、被写界深度がR3となるような絞り値を求め、上記絞り機構を制御する。これにより、人物領域B”の人物と、動物領域A’の動物とだけが鮮鋭に写り、その他の被写体は背景として暈けている画像を撮影することが可能となる。
【0426】
他の例では、対応情報が、人物領域B”の人物と、動物領域Aの動物とが対であることを示している場合には、撮影制御部31は、上記人物と上記動物とがともに目的の被写体であると判断する。そして、撮影制御部31は、目的の被写体である人物領域B”の人物と、動物領域Aの動物とがともに鮮鋭に像を結ぶように、被写界深度がR1となるような絞り値を求め、上記絞り機構を制御する。これにより、被写界深度R1に収まる人物領域B”の人物と、動物領域Aの動物とがともに鮮鋭に写された画像を撮影することが可能となる。
【0427】
本願発明の上記構成によれば、デジタルカメラ8が撮影できる範囲に、複数の動物および人物が存在する場合でも、どの動物とどの人物との組み合わせが目的の被写体であるのかを対応情報に基づいて判断することができる。
【0428】
動物と関わりを持っている人物が目的の被写体であれば、その人物と関わりを持っている動物は、離れた位置にいても目的の被写体である可能性は高い。一方、上記人物の近くに別の動物がいるとしても、その別の動物が当該人物と関わりがない動物であれば、目的の被写体である可能性は低い。
【0429】
上記構成によれば、ペアリング部27が、検出された動物と人物との関係を、画像認識によって推定するので、「動物+人物」という目的の被写体をより精度よく特定することが可能となる。
【0430】
これにより、デジタルカメラ8は、撮影者の意図どおりに、目的の被写体を鮮鋭に撮影することができる。また、撮影者が意図しない被写体(例えば、図25の動物領域Aの動物など)に意図せず合焦してしまうことを防止することもできる。
【0431】
本発明は上述した各実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、異なる実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。
【0432】
〔ソフトウェアによる実現例〕
最後に、検出装置2(および表示制御装置3)の各ブロック、特に、画像入力部20、動物検出部21、人物検出部22、検出結果出力部23、対象物検出部24、ペット判定部25、飼い主判定部26およびペアリング部27、ならびに、表示制御部30および撮影制御部31は、ハードウェアロジックによって構成してもよいし、次のようにCPUを用いてソフトウェアによって実現してもよい。
【0433】
すなわち、検出装置2(表示制御装置3)は、各機能を実現する制御プログラムの命令を実行するCPU(central processing unit)、上記プログラムを格納したROM(read only memory)、上記プログラムを展開するRAM(random access memory)、上記プログラムおよび各種データを格納するメモリ等の記憶装置(記録媒体)などを備えている。そして、本発明の目的は、上述した機能を実現するソフトウェアである検出装置2(表示制御装置3)の制御プログラムのプログラムコード(実行形式プログラム、中間コードプログラム、ソースプログラム)をコンピュータで読み取り可能に記録した記録媒体を、上記検出装置2(表示制御装置3)に供給し、そのコンピュータ(またはCPUやMPU)が記録媒体に記録されているプログラムコードを読み出し実行することによっても、達成可能である。
【0434】
上記記録媒体としては、例えば、磁気テープやカセットテープ等のテープ系、フロッピー(登録商標)ディスク/ハードディスク等の磁気ディスクやCD−ROM/MO/MD/DVD/CD−R等の光ディスクを含むディスク系、ICカード(メモリカードを含む)/光カード等のカード系、あるいはマスクROM/EPROM/EEPROM/フラッシュROM等の半導体メモリ系などを用いることができる。
【0435】
また、検出装置2(表示制御装置3)を通信ネットワークと接続可能に構成し、上記プログラムコードを、通信ネットワークを介して供給してもよい。この通信ネットワークとしては、特に限定されず、例えば、インターネット、イントラネット、エキストラネット、LAN、ISDN、VAN、CATV通信網、仮想専用網(virtual private network)、電話回線網、移動体通信網、衛星通信網等が利用可能である。また、通信ネットワークを構成する伝送媒体としては、特に限定されず、例えば、IEEE1394、USB、電力線搬送、ケーブルTV回線、電話線、ADSL回線等の有線でも、IrDAやリモコンのような赤外線、Bluetooth(登録商標)、802.11無線、HDR(High Data Rate)、携帯電話網、衛星回線、地上波デジタル網等の無線でも利用可能である。なお、本発明は、上記プログラムコードが電子的な伝送で具現化された、搬送波に埋め込まれたコンピュータデータ信号の形態でも実現され得る。
【産業上の利用可能性】
【0436】
本発明の検出装置は、当該検出装置が出力する検出結果を利用して、該検出結果に応じて異なる処理を実行する各種情報処理装置に広く適用することができる。本発明の検出装置を表示制御装置に適用することができ、表示制御装置は、検出結果に応じて異なる画像を表示装置に表示させることができる。また、本発明の検出装置を撮影制御装置に適用することができ、撮影制御装置は、検出結果に応じて異なる被写体が鮮鋭に撮影されるようにカメラを制御することができる。
【符号の説明】
【0437】
1 表示装置
2 検出装置
3 表示制御装置
3a 撮影制御装置
4 撮像部
5 表示部
6 ライブビュー画像取得部
7a レンズ部
7b ストロボ部
8 デジタルカメラ(カメラ)
10 制御部
11 記憶部
20 画像入力部(画像入力手段)
21 動物検出部(動物検出手段)
22 人物検出部(人物検出手段)
23 検出結果出力部(検出結果出力手段)
24 対象物検出部(対象物検出手段)
25 ペット判定部(ペット判定手段)
26 飼い主判定部(飼い主判定手段)
27 ペアリング部(ペアリング手段)
30 表示制御部(表示制御手段)
31 撮影制御部(撮影制御手段)
40 動物特徴量記憶部
41 人物特徴量記憶部
42 表示規則記憶部
43 広告記憶部(画像記憶部)
44 ペットスコア記憶部
45 飼い主スコア記憶部
50 検出結果
51 検出結果識別情報
52 検出結果識別情報
53 ペット属性情報
250 犬種推定部
251 衣類推定部
252 ジェスチャ推定部
253 毛並み推定部
254 表情推定部
260 グッズ推定部
261 リード位置推定部
262 ジェスチャ推定部
263 表情推定部
264 類似度推定部
265 距離推定部
400 犬種別特徴量記憶部
401 衣類特徴量記憶部
402 ジェスチャ特徴量記憶部
403 毛並み特徴量記憶部
404 表情特徴量記憶部
410 グッズ特徴量記憶部
411 リード位置特徴量記憶部
412 ジェスチャ特徴量記憶部
413 表情特徴量記憶部

【特許請求の範囲】
【請求項1】
撮像された画像から動物を検出する動物検出手段と、
上記画像から人物を検出する人物検出手段と、
上記画像から、上記動物検出手段によって動物が検出され、かつ、上記人物検出手段によって人物が検出された場合に、目的の物体が検出されたことを示す情報を少なくとも含む検出結果を出力する検出結果出力手段とを備えていることを特徴とする検出装置。
【請求項2】
上記画像から、上記動物検出手段によって検出された動物について、当該動物が、人によって飼われているペットであるのか否かを判定するペット判定手段を備え、
上記検出結果出力手段は、上記画像から、上記ペット判定手段によってペットと判定された動物が検出され、かつ、上記人物検出手段によって人物が検出された場合に、目的の物体が検出されたことを示す情報を含む上記検出結果を出力することを特徴とする請求項1に記載の検出装置。
【請求項3】
上記画像から、上記人物検出手段によって検出された人物について、当該人物が、動物を飼っている飼い主であるのか否かを判定する飼い主判定手段を備え、
上記検出結果出力手段は、
上記画像から、上記飼い主判定手段によって飼い主と判定された人物が検出され、かつ、上記動物検出手段によって動物が検出された場合に、目的の物体が検出されたことを示す情報を含む上記検出結果を出力することを特徴とする請求項1に記載の検出装置。
【請求項4】
上記画像から、上記動物検出手段によって検出された動物について、当該動物が、人によって飼われているペットであるのか否かを判定するペット判定手段と、
上記画像から、上記人物検出手段によって検出された人物について、当該人物が、動物を飼っている飼い主であるのか否かを判定する飼い主判定手段とを備え、
上記検出結果出力手段は、
上記画像から、上記ペット判定手段によってペットと判定された動物が検出され、かつ、上記飼い主判定手段によって飼い主と判定された人物が検出された場合に、目的の物体が検出されたことを示す情報を含む上記検出結果を出力することを特徴とする請求項1に記載の検出装置。
【請求項5】
上記ペット判定手段は、
上記画像上の上記動物を含む動物領域から抽出された、当該動物の特徴を反映した特徴量データを、ペットらしき特徴またはペットらしくない特徴を反映したモデルの特徴量データと比較することにより、上記動物がペットであるのか否かを判定することを特徴とする請求項2または4に記載の検出装置。
【請求項6】
上記飼い主判定手段は、
上記画像上の上記人物を含む人物領域から抽出された、当該人物の特徴を反映した特徴量データを、飼い主らしき特徴または飼い主らしくない特徴を反映したモデルの特徴量データと比較することにより、上記人物が飼い主であるのか否かを判定することを特徴とする請求項3または4に記載の検出装置。
【請求項7】
上記ペット判定手段は、さらに、ペットであると判定した動物の属性を判定するものであり、
上記検出結果出力手段は、上記ペット判定手段によって判定された上記ペットの属性を示すペット属性情報を、上記検出結果に含めることを特徴とする請求項2、4、または、5に記載の検出装置。
【請求項8】
上記画像から、上記動物検出手段によって検出された動物と、上記人物検出手段によって検出された人物とを対応付けて対にするペアリング手段を備え、
上記検出結果出力手段は、
上記ペアリング手段によって対にされた動物および人物の対応関係を示す対応情報を、上記検出結果に含めることを特徴とする請求項1から7までのいずれか1項に記載の検出装置。
【請求項9】
上記ペアリング手段は、
上記画像から検出された動物および人物のうち、距離が最も短い動物および人物同士を対にすることを特徴とする請求項8に記載の検出装置。
【請求項10】
上記ペアリング手段は、
上記画像から、上記動物と上記人物とを接続する線形の物体をリードとして認識し、
上記画像から検出された動物および人物のうち、認識された上記リードで接続されている動物および人物同士を対にすることを特徴とする請求項8または9に記載の検出装置。
【請求項11】
上記画像から、上記動物検出手段によって検出された動物について、当該動物が、人によって飼われているペットであるのか否かを判定するペット判定手段と、
上記画像から、上記人物検出手段によって検出された人物について、当該人物が、動物を飼っている飼い主であるのか否かを判定する飼い主判定手段とを備え、
上記ペアリング手段は、
上記画像から検出された動物および人物のうち、ペットであると判定された動物と、飼い主であると判定された人物とを対にすることを特徴とする請求項8から10までのいずれか1項に記載の検出装置。
【請求項12】
請求項1から7までのいずれか1項に記載の検出装置から出力された検出結果に応じて、表示部を制御する表示制御手段を備え、
上記画像は、上記表示部を視認できる位置にある物体を撮像した画像であり、
上記表示制御手段は、
上記検出結果に、目的の物体が検出されたことを示す情報が含まれている場合に、ペットに関連するペット関連画像を上記表示部に表示させることを特徴とする表示制御装置。
【請求項13】
請求項7に記載の検出装置から出力された検出結果に応じて、表示部を制御する表示制御手段を備え、
上記画像は、上記表示部を視認できる位置にある物体を撮像した画像であり、
上記表示制御手段は、
上記検出結果に含まれている上記ペット属性情報に応じて、上記ペット関連画像のうち、上記ペットの属性に対応するペット関連画像を上記表示部に表示させることを特徴とする請求項12に記載の表示制御装置。
【請求項14】
請求項8から11までのいずれか1項に記載の検出装置から出力された検出結果に応じて、カメラを制御する撮影制御手段を備え、
上記画像は、上記カメラによって撮像されたライブビュー画像であり、
上記撮影制御手段は、
上記検出結果に含まれている上記対応情報が示す動物および人物の対を目的の被写体として特定し、当該目的の被写体が鮮鋭に撮影されるように上記カメラを制御することを特徴とする撮影制御装置。
【請求項15】
撮像された画像から動物を検出する動物検出ステップと、
上記画像から人物を検出する人物検出ステップと、
上記画像から、上記動物検出ステップによって動物が検出され、かつ、上記人物検出ステップによって人物が検出された場合に、目的の物体が検出されたことを示す情報を少なくとも含む検出結果を出力する検出結果出力ステップとを含むことを特徴とする物体検出方法。
【請求項16】
コンピュータを、請求項1から11までのいずれか1項に記載の検出装置の各手段として機能させるための制御プログラム。
【請求項17】
請求項16に記載の制御プログラムを記録したコンピュータ読み取り可能な記録媒体。

【図1】
image rotate

【図2】
image rotate

【図3】
image rotate

【図4】
image rotate

【図5】
image rotate

【図6】
image rotate

【図7】
image rotate

【図8】
image rotate

【図9】
image rotate

【図10】
image rotate

【図11】
image rotate

【図12】
image rotate

【図13】
image rotate

【図14】
image rotate

【図15】
image rotate

【図16】
image rotate

【図17】
image rotate

【図18】
image rotate

【図19】
image rotate

【図20】
image rotate

【図21】
image rotate

【図22】
image rotate

【図23】
image rotate

【図24】
image rotate

【図25】
image rotate