画像検索システム
【課題】
ナンバプレートの画像特徴量を用いた画像検索において、操作者が用意に検索のキーとなる画像を取得できる。
【解決手段】
ナンバプレートを含む画角で車両を撮影するカメラと、画像からナンバプレートを切出すプレート画像切出し部と、ナンバプレートの画像から画像特徴量を抽出するプレート画像特徴抽出部と、少なくともナンバプレートの画像と画像特徴量とを組にして蓄積する検索データベースと、検索データベース中から操作者が指定した画像と画像特徴量の類似度が高い画像を検索する検索部と、操作者から検索対象の車番情報を受け取るプレート合成指定部と、プレート合成指定部の受け取った合成条件に応じたナンバプレートの画像を合成するプレート画像合成部と、合成したプレート画像を一覧表示して操作者の選択を受け取るプレート選択部と、検索結果を表示する検索結果表示部を備えることを最も主な特徴とする。
ナンバプレートの画像特徴量を用いた画像検索において、操作者が用意に検索のキーとなる画像を取得できる。
【解決手段】
ナンバプレートを含む画角で車両を撮影するカメラと、画像からナンバプレートを切出すプレート画像切出し部と、ナンバプレートの画像から画像特徴量を抽出するプレート画像特徴抽出部と、少なくともナンバプレートの画像と画像特徴量とを組にして蓄積する検索データベースと、検索データベース中から操作者が指定した画像と画像特徴量の類似度が高い画像を検索する検索部と、操作者から検索対象の車番情報を受け取るプレート合成指定部と、プレート合成指定部の受け取った合成条件に応じたナンバプレートの画像を合成するプレート画像合成部と、合成したプレート画像を一覧表示して操作者の選択を受け取るプレート選択部と、検索結果を表示する検索結果表示部を備えることを最も主な特徴とする。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は路上に設置したカメラによって撮影された車両の画像から、画像処理によって抽出した画像特徴量を用いて車両を検索するシステムに関する。
【背景技術】
【0002】
従来から車両画像を入力とした画像処理によって自動認識したナンバプレートの車番情報や、車両画像のテクスチャや色の画像特徴量を用いて車両を検索する技術が開示されている。例えば特許文献1では、路上の定点カメラで撮影した車両の画像からナンバプレートの車番情報や色やテクスチャなどの画像特徴量を抽出してデータベース中に蓄積しておき、操作者が車番情報あるいは画像特徴量の検索条件を指定すると、該当車両の画像の2次元空間あるいは3次元空間に一覧表示する車両検索の技術が開示されている。
【0003】
ここでナンバプレートの自動認識には、車両の所持者が故意に認識を妨害する目的で大きな角度で傾けた場合等には、カメラが撮影する画像中のナンバプレートが歪んで自動認識による車番情報の取得が不可能になる問題があった。あるいは、ナンバプレートの自動認識には車両の所持者に故意の意図が無くても、ナンバプレートにカバーを装着してナンバプレート画像のコントラストが低下した場合や、ナンバプレートに枠を装着してナンバプレート中の文字と接触した場合には、自動認識による車番情報の取得が困難になる問題があった。道路交通網の長期に渡る通過車両の画像を扱う大規模なシステムに特許文献1の技術を適用すると、車番情報が取得できない場合においては色やテクスチャなどの画像特徴量だけ検索する必要があるが、道路交通網の中には検索対象の車両以外にも同一の車種や色の車が多数通過するために該当車両が非常に多くなり総数を目視で確認することは多くの労力を要してしまう。
【0004】
上記の問題の解決のために、車両の識別情報を含むナンバプレート部位を画像から切出して、ナンバプレート部位の画像特徴量を用いて画像検索の検索精度を向上させることが考えられる。画像中のナンバプレート部位の切出しは特許文献2の技術で実現でき、画像中の特定部位の画像特徴量および特定部位と画像全体の画像特徴量とを複合させた画像検索は特許文献3の技術で実現できる。ただし、画像検索において操作者は検索キーの画像特徴量の数値あるいは画像特徴量を抽出する画像を指定する必要があるが、操作者が直接的にナンバプレート画像を代表する画像の色やテクスチャの数値を直接指定することは困難である。一方で、操作者が検索のキーとなるナンバプレートの画像を指定するには、カメラで撮影した画像をデータベースに蓄積しておき、データベース中の画像を閲覧して選択する方法や、システム外部のカメラで撮影した画像からナンバプレートを自動あるいは手動により切出す方法があるが、前者はデータベースの多くの画像を閲覧する手間を要求し、後者は検索対象の撮影画像がない場合には適用できない問題がある。
【0005】
【特許文献1】特開2005−209177号公報
【特許文献2】特開2004−30552号公報
【特許文献3】特開2007−88814号公報
【発明の開示】
【発明が解決しようとする課題】
【0006】
本発明は上記問題点を解決するために、操作者が指定した車番情報と適合したナンバプレート画像を合成して検索キーとすること、およびデータベース中において繰り返し出現するナンバプレート画像を操作者が検索キーに指定することを可能にした画像検索システムを提供することを目的とする。
【課題を解決するための手段】
【0007】
本発明は、撮像手段,演算手段,記憶手段,通信手段を有するカメラと、演算手段,記憶手段,通信手段を有するサーバと、表示手段,入力手段,演算手段,通信手段を有する計算機と、を有する画像検索システムにおいて、カメラは、ナンバプレートを含む画角で車両を撮影し、サーバは、画像からナンバプレートを切出すプレート画像切出し部と、ナンバプレートの画像から画像特徴量を抽出するプレート画像特徴抽出部と、少なくともナンバプレートの画像と画像特徴量とを組にして蓄積する検索データベースと、検索データベース中から操作者が指定した画像と画像特徴量の類似度が高い画像を検索する検索部と、を備え、計算機が、操作者から検索対象の車番情報を受け取るプレート合成指定部と、
プレート合成指定部の受け取った合成条件に応じたナンバプレートの画像を合成するプレート画像合成部と、合成したプレート画像を一覧表示して操作者の選択を受け取るプレート選択部と、検索結果を表示する検索結果表示部と、を備えることを第1の特徴とする。
【0008】
また、画像検索システムは、前記プレート合成指定部の合成したナンバプレートを加工する指定を操作者から受け取るプレート加工指定部と、前記ナンバプレートを加工するプレート画像加工部とを備えることを第2の特徴とする。
【0009】
さらに、画像検索システムは、プレート画像合成部が合成したプレート画像あるいはプレート画像合成部が合成語にプレート画像加工部が加工したプレート画像の画像特徴量と、車両画像の画像特徴量とを複合させて検索することを第3の特徴とする。
【0010】
また、画像検索システムは、ナンバプレートを含む画角で車両を撮影するカメラと、画像からナンバプレートを切出すプレート画像切出し部と、ナンバプレートの画像から画像特徴量を抽出するプレート画像特徴抽出部と、少なくともナンバプレートの画像と画像特徴量とを組にして蓄積する検索データベースと、検索データベース中から操作者が指定した画像と画像特徴量の類似度が高い画像を検索する検索部と、検索結果を表示する検索結果表示部と、検索データベースの中から画像特徴量の集約度が高いデータを抽出する頻出車両抽出部と、頻出車両抽出部が選択したデータの表示と検索キーの指定を受け取る頻出車両選択部とを備えることを第4の特徴とする。
【発明の効果】
【0011】
本発明の画像検索システムによれば第1の特徴により、車両のナンバプレートが自動認識できない場合でも、操作者が検索したい車番情報に応じたナンバプレートの画像を合成することによって、合成したナンバプレート画像の画像特徴量を用いた画像検索によって、データベース中の車両を効率的に検索することが可能になる。
【0012】
本発明の画像検索システムによれば第2の特徴により、前記の合成したナンバプレート画像を実際の車両のナンバプレートに近づける加工を施すことにより、画像特徴量の精度を高めて画像検索の精度を向上させることができる。
【0013】
本発明の画像検索システムによれば第3の特徴により、合成あるいは加工したナンバプレート画像の画像特徴量と、車両画像の画像特徴量とを複合させることによって、検索したい車両の車番情報と外観の情報とを複合させて画像検索の精度を向上させることができる。
【0014】
本発明の画像検索システムによれば第4の特徴により、ナンバプレート画像の画像特徴量あるいはナンバプレート画像と車両画像の画像特徴量のデータベース中における集約度から、繰り返し出現する車両を検索キーの候補を一覧表示することで、操作者がデータベースの中から検索キーを容易に指定して画像検索を実施することが可能になる。
【発明を実施するための最良の形態】
【0015】
以下、本発明にかかる車両検索システムのより具体的な実施形態について、図面を参照しながら説明する。なお、本実施形態では、車両の一例として自動車を挙げて説明を行うが発明にかかる「車両」とは自動車に限定されず、路上を走行するあらゆる種類の乗り物を含む。
【実施例1】
【0016】
図1は、本発明の実施例1の機能構成の概略を示すブロック図である。
【0017】
図1において、カメラ1とサーバ2とクライアント3は、通信ネットワークで相互に接続されている。カメラ1およびクライアント3の数は、1以上で複数であってもよい。
【0018】
カメラ1は撮像装置,演算装置,記憶装置,通信装置を有すカメラで路上に設置されている。カメラ1は演算装置のフレーム間差分処理によって通行する車両を検出し、車両の前面あるいは後面のナンバプレートを含む画角で画像を自動的に撮影する。カメラ1は、撮影画像および記憶装置内の地点および演算装置が保持する日時を組にしてサーバ2に送信する。
【0019】
サーバ2は、演算装置,記憶装置,通信装置を持つ汎用的な計算機である。クライアント3は操作者に情報を表示するディスプレイのような表示装置,キーボードやマウスなどの操作者からの入力をうけとる入力装置,演算装置,通信装置を持つ。クライアント3は、たとえば汎用的な計算機で実現できる。
【0020】
図1において、103,104,107,108,109はサーバ2の機能、201,202,204,210,212,215,220はクライアント3の機能である。
【0021】
図1において管理DB109は、図示していない接続線で103,104,107,108,109,201,202,204,210,212,215,220等の各機能と接続されていて、各機能の信号処理に必要なパラメータを蓄積している。なお、個々のクライアント3管理DB109の一部コピーを保持していても同じ機能を実現できる。
【0022】
図1においてプレート画像切出し部103は、カメラ1から受け取った車両の画像から特定物体の切出しアルゴリズムを適用して、プレート画像の外接矩形で切出す。特定物体の切出しアルゴリズムは、公知文献1に記載された一般的なハール状特徴を用いたアルゴリズムを適用することで実現できるがこの例に限らない。
【0023】
図1(a)はプレート画像切出し部103が、車両画像15から特定物体の切出しアルゴリズムによって切出したプレート画像10の例である。図1(b)は、特定物体の切出しアルゴリズムが車両画像15においてナンバプレートに類似したいくつかの候補を切出した結果の例である。このように複数の候補を抽出しておくと、特定物体の切出しアルゴリズムの精度が低くても正しいナンバプレート画像を高い精度で切出すことができる。
【0024】
プレート画像切出し部103は特定物体の切出しアルゴリズム以外でも、車両画像10中においてナンバプレートの出現頻度が高い領域をプレート画像の候補にとることができる。図1(c)はプレート画像切出し部103が、車両の下端12、および左右中心軸13を抽出して車両の基準位置14を抽出した後に、基準位置14と統計的にナンバプレートの出現頻度が高い矩形領域を、プレートの切出し画像10として切出した例を示している。前記出現頻度が高い矩形領域の数は、図1(c)では2つ示しているがこの数に限らず1つ以上の任意の数であってよい。図1(c)の下端12および左右中心軸13は公知文献2の手法により抽出できる。また、統計的にナンバプレートの出現頻度が高い矩形領域は、手作業により抽出した基準位置14と切出したプレート画像10の画像上の縦横の位置の差の頻度ヒストグラムから作成することができる。なお、車両の基準位置14は図2(c)に例示した車両の左右中心軸と下端の交点以外でもよい。
【0025】
プレート画像切出し部103は管理DB109に記された設定条件にしたがって、特定物体の切出しアルゴリズムあるいはナンバプレートの出現頻度を基準としたアルゴリズムによって車両画像15からプレート画像10を切出す。
【0026】
ナンバプレートが傾けられていたり、ナンバプレートに透過率の低いカバーが取り付けられている場合には、車両画像15中のナンバプレート部位は歪んだりコントラストが低下して特定物体の切出しアルゴリズム単体で精度よくプレート画像10を切出すことは困難になるが、プレート画像切出し部103は図1(b)のように特定物体のアルゴリズムから複数の候補や、図1(c)のように車両画像15中において統計的にナンバプレートの出現頻度が高い領域を出力することで、高い精度でプレート画像10を切出すことを可能としている。
【0027】
図1においてプレート画像特徴抽出部104は、プレート画像切出し部103が切出したプレート画像から色とテクスチャの画像特徴量を抽出する。色の画像特徴量はHSIのヒストグラム、テクスチャの画像特徴量には高次局所自己相関を用いることで実現できるが、この例に限らない。
【0028】
図1において、検索DB107はプレート画像特徴抽出部104が切出したプレート画像10の画像特徴量、カメラ1から受信した撮影画像の日時,地点、プレート画像10を組にして蓄積する。
【0029】
図15は検索DB107が蓄積するデータを示してあり、検索DB107はデータにID7を付加して管理する。検索DB107は、図15のほか、車両に関連する参照情報として車両画像15など任意の情報もID7と組にして記録してもよい。
【0030】
図1においてプレート合成指定部210は、操作者からユーザインタフェースを介して、操作者から検索したい車両の車番情報の指定を受ける。
【0031】
図3(a)はプレート合成指定部210の画面例でありG1,G2,G3,G4はそれぞれナンバプレート上の一連番号,用途コード,車種コード,陸支コードの入力を受けとるテキストボックスである。G9は車両サイズを大型,普通,軽自動車,バイク,原付の5区分で受け取るテキストボックスである。G10は用途区分を自家用,事業用の2区分で受け取るテキストボックスである。G5,G6,G7,G8はそれぞれ、一連番号,用途コード,車種コード,陸支コードのフォントの選択するためのサブメニューを呼び出すためのボタンである。図3(b)はG6のボタンを押したときの用途コードのフォントを選択するサブメニューの画面の一例であり、G14は全フォントの一覧であり、G13はG14の各フォントに対応したチェックボックスであり、操作者からひとつ以上の選択を受けとる。操作者はG14の画面を目視しながらG13を選択することで、検索した車両のフォントの候補を指定,確認することができる。G15のチェックボックスは、G14のチェックボックスを全てオンにする機能をもつチェックボックスであり、操作者のG14への入力の手間を軽減する。G5,G7,G8のボタンを操作者が選択した場合、図3(b)のようなレイアウトのサブメニューが出現して、それぞれ一連番号,車種コード,陸支コードのフォントを指定することができる。
【0032】
G11は地域別のフォントを設定するチェックボックスでありオンにすると、G4の陸支コードの指定に応じて、あらかじめ陸支ごとに設定された一連番号,用途コード,車種コードのフォントのうちいずれかひとつ以上を選択することができる。G11のチェックボックスの選択により、ナンバプレートの各コードのフォントが地域別に違うこと、陸支コードがおおよそ地域に対応していることを反映してフォントを指定することが可能になる。
【0033】
G12のチェックボックスはオンにすることにより、一連番号,用途コード,車種コード,車種コードの全てのコードの全てのフォントを選択する機能を持つ。
【0034】
図1において、プレート画像合成部201は、プレート合成指定部210の操作者の指定に応じたナンバプレート画像を合成する。図4を用いて、プレート画像合成部201の処理を説明すると、まずプレート合成指定部210の指定結果から、ナンバプレート上の各コードの文字の種類およびフォントの指定を読み込む(S2)。次に、各コードのナンバプレート中の位置,大きさのレイアウトをG9の車両サイズの区分に応じて決定する(S3)。次に、G10で選択された用途区分とG9で選択された車両サイズから、ナンバプレートの背面と文字の色の組み合わせを定める(S4)。具体的に述べるとS4は一例として、G10の用途区分が事業用かつG9で選択された車両サイズが軽自動車以外の場合には、ナンバプレートの背面を緑、ナンバプレートの文字を白色、G10の用途区分が事業用かつG9で選択された車両サイズが軽自動車の場合にはナンバプレートの背面を黒色、ナンバプレートの文字を黄色、G10の用途区分が自家用かつG9で選択された車両サイズが軽自動車の場合にはナンバプレートの背面を黄色、ナンバプレートの文字を黒色、G10の用途区分とG9の車両サイズが前記以外の場合には、ナンバプレートの背面を白色、ナンバプレートの文字を緑色とする。次に、S2で読み込んだナンバプレート上の文字とフォントを組み合わせで変えながら(S5からS7のループ)、文字とフォントとS2で決定したレイアウトとプレートの背面とプレートの文字の色に従ってプレート画像を合成する(S6)。なお、G1あるいはG2あるいはG3あるいはG4の中に文字の指定がない場合、平均的な画像特徴量が求まるように、全文字種,全フォントの平均画像を代用に用いる。S6の処理に必要なデータは、全て管理DB109内のデータを用いる。
【0035】
図5(a)と図5(b)はプレート画像合成部201が出力したプレート画像C10の例であり、図3(a)と図3(b)のプレート合成指定部210の図3の入力例に対応している。図5(a)と図5(b)において、C1,C2,C3,C4はそれぞれ普通車両の一連番号,用途コード,車種コード,陸支コードのレイアウト枠を示してあり実際の画像上には描画されない。G9の車両サイズが普通以外(大型,軽自動車,バイク,原付)の場合、C1,C2,C3,C4それぞれの位置や大きさは、図5(a)および(b)から車両のサイズの指定に応じて変更される。図5(a)のC3内の用途コードは図3(b)のG14aのフォントに対応し、図5(b)のC3内の用途コードは図3(b)のG14bのフォントに対応している。図3の車両サイズの指定が普通であることより、図5(a)と図5(b)の背面の色は白色,文字の色は緑色である。
【0036】
以上述べたプレート合成指定部210への入力とプレート画像合成部201の処理によって、操作者は検索したい車両の車番情報およびフォント指定に応じたナンバプレート画像を合成することができる。
【0037】
図1においてプレート加工指定部212は、操作者からユーザインタフェースを介して、操作者から検索したいナンバプレートの加工条件の指定を受けとる。
【0038】
図6(a)においてG80はプレート加工指定210の画面例である。図6(a)において、G31はナンバプレートの傾きの加工の有無の指定するチェックボックスであり、G41は傾きの加工の詳細を指定するサブメニューを呼び出すためのボタンである。図7(b)は傾きの加工のサブメニューG81の画面の一例であり、G50,G51,G52は順番に加工後のカメラの空間中の位置(X,Y,Z)を入力するテキストボックスであり、G53,G54,G55は順番に加工後カメラの空間中の角度(P,T,R)を入力するテキストボックス、である。また、G60,G61,G62は順番に加工後プレートの空間中の位置(X,Y,Z)を入力するテキストボックスであり、G63,G64,G65は順番に加工後プレートの空間中の角度(P,T,R)を入力するテキストボックス、である。
【0039】
図8は、カメラおよびプレートの空間中の位置と角度の一例を示す図であり、21は原点をO、座標軸をXYZ、X軸周りの角度をT、Y軸周りの角度をR、Z軸周りの角度をPとした座標系である。座標系21は例えば車両24が走行する車線22の進行方向をY軸、鉛直方向をZ軸、車線に直行する方向をX軸、原点OをX軸について車線22の中央線23かつY軸についてカメラ1と同じ位置かつZ軸について地上面とすることができる。カメラ1およびプレート4の位置と角度は座標系21によって定義される。
【0040】
なお、G50からG55およびG60からG65の各テキストックスは代表値のほか範囲を入力することも可能であり、例えばG50にカメラ角度Pを−30度から+30度まで5度刻みのような指定によって、操作者が範囲を指定することを可能とする。
【0041】
図6(a)において、G32はナンバプレートの枠の加工の有無の選択を受け取るチェックボックスであり、G42は枠の加工の詳細を指定するサブメニューを呼び出すためのボタンである。
【0042】
図7(c)においてG82は枠の加工の詳細を指定するサブメニューの画面の一例であり、G71はナンバプレートの枠の一覧であり、G70はG71の個々の枠を選択するチェックボックスであり、ひとつ以上の選択を受け付ける。G71の枠には様々なデザイン、色のものが含まれるが、これは例えばナンバプレート枠の製造メーカのカタログから作成することができる。
【0043】
図6(a)において、G33はナンバプレートのカバーの加工の有無の指定を受け取るチェックボックスであり、G43はナンバプレートのカバーの加工条件の詳細を入力するサブメニューを呼び出すためのボタンである。
【0044】
図7(d)においてG83はカバーの加工の詳細を指定するサブメニューの画面の一例であり、G72はカバーの一覧であり、G73はG72の個々のカバーを選択するチェックボックスであり、ひとつ以上の選択を受け付ける。G73のカバーには様々なデザイン、色のものが含まれる。G73は例えばナンバプレートのカバーの製造メーカのカタログから作成することができる。
【0045】
図6(a)において、G34はナンバプレートの字発光の加工の有無の指定を受け取るチェックボックスであり、G44は字発光の加工の詳細を指定するサブメニューを呼び出すためのボタンである。
【0046】
図7(e)においてG84は字発光の加工の詳細を指定するサブメニューの画面の一例であり、G74は字発光の方式の一覧であり、G75はG74の個々の字発光の方式を選択するチェックボックスであり、ひとつ以上の選択を受け付ける。G74の一覧は図示すような種別の文字のほか、各方式を代表するアイコンであってもよい。
【0047】
プレート画像加工部202は、プレート加工指定部212が受け取ったナンバプレート画像の加工の指定に応じて、プレート画像合成部201が合成したプレート画像C10を加工する。なお、プレート加工指定部212が操作者からひとつも加工の指定を受け取らなかった場合、プレート画像加工部202はプレート画像C10に何の処理もしない。
【0048】
図9を用いてプレート画像加工部202の処理を説明すると、まず最初にプレート画像合成部201が合成したプレート画像C10を全て読み込み(S20)、次にプレート加工指定部212が受け取ったプレート画像の加工条件を全て読み込む(S21)。
【0049】
次に、プレート画像合成部201が合成した各々のプレート画像C10について(S23からS34のループ)、プレート加工指定部212が受け取った加工の指定を総当りの組み合わせで変えながら(S24からS33のループ)、S25からS32の処理を繰り返す。S24からS33のループは、G70やG72やG74のチェックボックスが複数の選択を受け取った場合には、詳細条件も組み合わせも繰り返す。またS24からS33のループは、S50,S51,S52,G53,S54,S60,S61,S62,S63,S64,S65のひとつ以上が範囲で指定を受け取ったときには、範囲内で変化する複数の角度あるいは位置の組み合わせも前記の詳細条件と同様に組み合わせに含む。
【0050】
S26では、S24のループが指定する加工条件の中に枠の加工が含まれるとき(S25の判定がyes)、S23のループが指定するプレート画像C10上に枠を描画する。枠の描画は、G70の1つのチェックボックスの選択に応じた枠の画像データおよびプレート画像C10上の枠の位置と大きさを管理DB109から呼び出し、プレート画像C10上に上書きする。
【0051】
S28では、S24のループが指定する加工条件の中にカバーの加工が含まれるとき(S27の判定がyes)、S23のループが指定するプレート画像C10にカバー装着を模擬した加工を施す。前記のカバー装着を模擬した加工とは、G73の1つのチェックボックスの選択に応じたカバーのプレート画像C10上の位置と大きさとカバーの色相とカバーの透過率のデータを管理DB109から呼び出し、プレート画像C10上においてカバーと重なる領域の色相と彩度に前記のカバーの色相と彩度を加算し、プレート画像C10上においてカバーと重なる領域の明度を前記のカバーの透過率だけ減衰させることである。
【0052】
S30では、S24のループが指定する加工条件の中に字発光の加工が含まれるとき(S29の判定がyes)、S23のループが指定するプレート画像C10に字発光を模擬した加工を施す。
【0053】
図21は字発光をS30の加工を説明する図であり、30はナンバプレート盤面、31はナンバプレート盤面30の文字部、32はナンバプレート盤面30の背面部、33は発光体である、34は筐体枠である。筐体枠34はナンバプレート盤面30と発光体33を保持し、車両に取り付けられる。なお発光体33は図11に示した例に限らず、G75に一覧表示された字発光の種別毎に、数,配置,サイズが異なる。また、光源33の発光強度および発光パターンはG75に一覧表示された字発光の種別毎に異なる。S30は、S24のループが指定する発光光33の数,配置,サイズ,発光強度,発光パターンおよびナンバプレート盤面30発光体33の距離および文字部31の透過率と背面部30の透過率から、一般的なコンピュータグラフィクスにおける発光体の合成の技術を用いてプレートC10の明度と彩度と色相を加工する。
【0054】
なお、S30の処理で必要な発光光33の数,配置,サイズ,発光強度,発光パターンおよびナンバプレート盤面30,発光体33の距離および文字部31の透過率と背面部30の透過率のデータは、管理部109が蓄積するデータを用いる。前記の発光体33およびプレート盤面30のデータは、例えば製造メーカのカタログから作成することができる。
【0055】
なお、プレート画像C10上においてS26,S28,S30の加工が重複する領域がある場合、個々の加工について明度,彩度,色相のプレート画像C10からの差分を求めておき、各加工のプレート画像C10からの差分の総和をプレート画像C10の明度,彩度,色相に加工する。
【0056】
S32では、S24のループが指定する加工条件の中にカバーの加工が含まれるとき(S31の判定がyes)、S23のループが指定するプレート画像C10に傾きの加工を施す。前記傾きの加工とは、カメラおよびプレートの位置と角度を基準の値から、G81のサブメニューで指定を受けたカメラおよびプレートの位置と角度に変化させたときのプレート画像C10の見え方を一般的な射影変換でモデル化して、前記の射影変換をプレート画像C10に施すことで実現できる。前記のカメラおよびプレートの位置と角度の基準の値は管理DB109が保持する値を用いる。前記のカメラおよびプレートの位置と角度の基準の値は例えば、カメラの位置を座標系21でX=0,Y=0,Z=0.5m、カメラの角度をP=0,T=0,R=0、プレートの位置をX=0,Y=10,Z=0.5m、P=180°,T=0,R=0、のように車線の中心線23上においてプレートの平均的な地上高0.5mで10m離して正面を向け合うように設定できる。
【0057】
図1においてプレート画像選択部213は、プレート画像合成部201が合成したプレート画像C10およびプレート画像加工部202がプレート画像C10を加工したナンバプレートの画像を一覧表示し、操作者から検索キーの指定を受け取る。
【0058】
図10においてG100はプレート画像選択部213のインタフェース画面の例であり、C30はおよびプレート画像加工部202がプレート画像C10を加工したプレート画像、G90は加工したプレート画像C30それぞれに対応したチェックボックスであり操作者から1つ以上の選択を受け付ける。C30aはプレート画像C10にカバーを加工した例であり、C30bはプレート画像C10に枠を加工した例であり、C30cはプレート画像C10に傾きと枠を組み合わせて加工したプレート画像の例である。G90a,G90b,G90cは、それぞれC30a,C30b,C30cに対応したチェックボックスを示している。図10においてインタフェース画面G100には加工したプレート画像を3つ表示しているが、表示する数はこの数に限らない。また、インタフェース画面G100は画面の大きさや解像度の制限でプレート画像C30を全て表示できない場合には、スクロールバーによる表示範囲の推移等によりプレート画像C30の中で表示する範囲を変えて表示する。また、プレート画像選択部213は加工以前のプレート画像C10も加工したプレート画像C30のうちに含めて、チェックボックスと組にして表示する。
【0059】
図10においてG99はG100上の全てのプレート画像C30を選択するチェックボックスであり、操作者はG99の選択により、G90の個別のチェックボックスを選択する手間を省くことができる。
【0060】
図1においてプレート画像特徴抽出部204は、プレート画像選択部213が操作者からの選択を受けたプレート画像C30から、プレート画像特徴抽出部104と同一の信号処理によって、色とテクスチャの画像特徴量を抽出する。
【0061】
検索範囲指定部215は、検索部108が検索する検索DB107の範囲を限定する。検索範囲指定部215はテキストボックス他のユーザインタフェースを介して、操作者から日時や地点や画像特徴量の数値の指定をテキストボックス他のユーザインタフェースを介して受け取る。操作者が日時と地点の検索範囲を指定しない場合、検索DB107中の全データが検索部108の処理の対象範囲となる。なお、検索範囲指定部215は実施例1において必須ではなく省略が可能であり、省略する場合は検索範囲指定部215に操作者が入力を与えない場合と等価になる。
【0062】
検索部108は検索キーの画像特徴量と検索DB107中の各データの画像特徴量の類似度を計算する機能と、計算した類似度をソートする機能と、ソートした類似度の順位が高いデータのID7を出力する機能を持つ。
【0063】
まず検索キーがひとつの場合、検索部108は検索キーの画像特徴量と検索DB107中のあるID7の画像特徴量の類似度を下記の数式1によって計算する。
(数1)
S=(Σi=1,Nαidist(yi,xi))-1
数式1においてΣi=1,Nは添え字iについて1からNで和をとることを意味し、αiは特徴量のi番目の要素の荷重係数、yiはプレート画像特徴抽出部204が抽出した画像特徴量のi番目の要素、xiは検索DB中の一枚の画像特徴量のi番目の要素、dist()はxiとyiのユークリッド距離を計算する関数、Sは類似度である。数式1において画像特徴量の数Nは2であり、画像特徴量の1番目の要素はプレート画像10およびプC30のテクスチャ、2番目の要素はプレート画像10およびC30の色を示す。なお荷重係数αiには、管理DB109が蓄積するデータを用いる。検索DB107中のプレート画像10の中で数式1の類似度Sが高いものは、操作者が検索キーに選択したプレート画像C30と色やテクスチャが近い傾向をもつ。次に検索キーが複数の場合には、全ての検索キーの画像特徴量とあるID7の画像特徴量との間で数式1の類似度を計算した後に最大値を計算する。
【0064】
検索部108は、検索範囲指定部215が指定する検索DB107の範囲あるいは検索DB107中の全範囲について数式1の類似度を計算した後、類似度が高い順にソートする。検索部108は前記の類似度をソートした後、類似度が高い順に上位から検索DB107中のID7を出力する。
【0065】
検索結果表示部220は、検索部108が類似度の高い順にソートした検索DB107中のデータを上位から順番に一覧表示する。
【0066】
図11において検索結果表示部109の表示画面の一例であり、G200はプレート画像C30aをキー画像に選択したことを想定した検索結果を示している。G200は検索部108が計算した画像特徴量の類似度が高い順番に最上行の左から右、次に2行目の左から右の順番にプレート画像10を表示している。
【0067】
図12においてG201は検索結果表示部109の表示画面のもうひとつの例であり、同じくプレート画像C30aをキー画像に選択したことを想定している。G201は検索部108が計算した画像特徴量の類似度が高い順番に最上行の左から右、次に2行目の左から右の順番に、車両画像15とプレート画像10とを組にして表示している。
【0068】
検索結果表示部109は、G200に例を示したプレート画像10の一覧や、G201に例を示したプレート画像10と車両画像15の一覧以外にもの変わりに検索DB107がID7で組にしているデータ、例えば日時や地点などを表示してもよい。
【0069】
以上述べた実施例1における図1の機能構成によって、操作者はプレート合成指定部210に検索対象の車番条件を入力することによって、プレート画像合成部201が車番条件に応じて合成したプレート画像C30を検索キーとした検索部108の画像検索処理によって、検索結果表示部220の画面上に検索DB107中における検索対象の候補を一覧表示を取得することが可能になる。
【0070】
また、実施例1の図1の機能構成において、操作者はプレート加工指定部212にナンバプレートの加工条件を入力することによって、プレート画像合成部210が合成したプレート画像C10をより実際のプレート画像10に近づけることによって(プレート画像C30)、プレート画像特徴抽出部204が計算する画像特徴量を実際のプレート画像10の画像特徴量に近づけて検索部108の検索精度および検索結果表示部220の検索結果の精度を向上させることが可能となる。
【実施例2】
【0071】
実施例2の機能構成を図13に示す。図13において、103,104,109,210,212,201,202,213,204,215,220の機能は実施例1と共通である。図13において、車両画像特徴抽出部102はカメラ1が撮影した車両画像15から色とテクスチャの特徴量を抽出する。色の画像特徴量はHSIのヒストグラム、テクスチャの画像特徴量には高次局所自己相関を用いることで実現できるが、この例に限らない。図13において検索DB107は、図15に示したデータに加えて、車両画像15の画像特徴量をID7と組にして記録する。
【0072】
図13において、車両画像選択部214は操作者から車両画像の検索キーの選択を受け取る。図14において、G202は車両画像選択部214のユーザインタフェースの一例であり、C31は検索DB107からランダム抽出された車両画像の一覧であり、G91はC31の個々の車両画像に対応したチェックボックスであり、操作者から検索キーの選択を1つ以上受け取る。車両画像選択部214はG202に例を示したユーザインタフェース以外でも例えば、操作者が手持ちの画像をアップロードするような形式をとることができる。
【0073】
図13において車両画像特徴抽出部207は、車両画像特徴抽出部102と同じ信号処理によって、車両画像選択部214で指定された車両画像C31から画像特徴量を抽出する。
【0074】
図13において検索部108は、検索キーの画像特徴量と検索DB107中のデータの画像特徴量の類似度の計算の機能を数式1の画像特徴量の数Nを4として、画像特徴量の1番目の要素をプレート画像C10およびC30のテクスチャ、画像特徴量の2番目の要素をプレート画像C10およびC30の色、画像特徴量の3番目の要素を車両画像15およびC31のテクスチャ、画像特徴量の4番目の要素を車両画像15およびC31の色として類似度を計算する。検索DB107中のデータから類似度を計算した後の類似度のソートする機能および、類似度が高いデータのID7を出力する機能は実施例1と同一である。
【0075】
本発明の実施例2では、操作者は車番情報と車両画像の見え方を複合させた検索が可能となる。例えば、普通車の特定番号のナンバプレートを装着したトラックや、大きな角度で傾けた赤いスポーツカーなどの条件を操作者が指定して検索をすることが可能になる。
【実施例3】
【0076】
実施例3の機能構成を図16に示す。図16において、103,104,107,108,109,215,220の機能は実施例1と共通である。
【0077】
頻出探索条件指定部216は操作者から検索DB107中において、繰り返し出現する車両を探索する条件の指定を受け取る。
【0078】
図17においてG300は頻出探索条件指定部216の画面例であり、G301は検索DB107において頻出車両の候補を探す範囲を入力するテキストボックスであり、G302は頻出車両の出現を探索する範囲を入力するテキストボックスである。G302およびG302のテキストボックスで指定する範囲は日時,地点のほか、画像特徴量の値を直接してもよい。G303は頻出車両がG302で指定した範囲で何回出現するかを指定するテキストボックスである。G301の範囲はたとえばある1地点のカメラ1から正午前後に受信したデータであり、G302の範囲は前記地点と前記地点の周辺地点のカメラ1から正午から日没までに受信したデータである。
【0079】
G301,G302,G303のテキストボックスに入力がない場合には、管理DB109内のデフォルト値が入力されたものとする。あるいは、G301,G302,G303のうちひとつ以上はテキストボックスを設けず、管理DB109内のデフォルト値を使うようにしてもよい。
【0080】
図16において頻出車両抽出部205は、検索DB107に格納されたデータの中から、画像特徴量の集約度が高いデータを抽出する。図18を用いて頻出車両抽出部205の処理を説明すると頻出車両抽出部205はまず、G301で指定された検索DB107中のID7を変えながら(S40からS43のループ)、S40のループが指定するID7のプレート画像10の画像特徴量を検索のキーとして、G302で指定された検索DB107の範囲を検索部108と等価な信号処理で類似度を計算し上位からソートする(S41)。S42はS41で上位からソートされた類似度の集約度を、1位からG303で指定された順位までの平均値で計算する。
【0081】
ここで検索部108の計算する類似度は検索キーと検索DB107のデータのプレート画像10の色とテクスチャが近いほど高くなり、反対に検索部108の計算する類似度は検索キーと検索DB107のデータのプレート画像10の色あるいはテクスチャが離れるほど低くなる。そこで、S40のループが指定するID7の車両と同一の車両がG302の範囲内にいくつも含まれる場合には、S41で計算する類似度の中には高いものがいくつか含まれるのでソートした上位には高い類似度が集中して、S42が計算する集約度は高くなる。一方で、S40のループが指定するID7の車両と同一の車両がG302の範囲内にひとつも含まれない場合には、S41で計算する類似度はどれも低いのでソートした上位の類似度もいずれも低く、S42が計算する集約度は低くなる。よって、S42の集約度は、S40のループが指定するID7の車両と同一の車両がG302の範囲で繰り返し出現する程度の基準とみなすことができる。
【0082】
なお、S42で計算する集約度は類似度の平均のほか、メジアンやモーメントのようなほかの統計量でも平均と同様の効果を発揮できる。
【0083】
S44はS40からS43のループで計算されたS42の集約度を高い順にソートして、集約度が高いデータのID7を上位から順番に出力する。
【0084】
頻出車両選択部217は、頻出車両抽出部205が出力した集約度が上位のデータを一覧表示し、操作者から検索のキーの指定を受ける。図19においてG400は頻出車両選択部217の画面の一例であり、C32は頻出車両抽出部205が出力した集約度が高い順に左から右に表示したプレート画像10の一覧表示、G92は個々の頻出候補C32に対応して操作者から検索キーの指定を受け取るチェックボックスである。図19において、C33はC32の画像それぞれを検索キーとしてS41で検索した検索結果を上位から順に上から下へ表示したものであり、C33a,C33b,C33cはそれぞれ、C32a,C32b,C33cの検索結果である。
【0085】
検索結果C33aの1位,2位,3位いずれのプレート画像10も検索キーとしたC32aと同一であり、一覧表示C32の中にはC32aのように検索結果C33の中にC32と同じプレート画像10が多数含まれるほどS42の集約度が高く上位の左側に表示される傾向がある。検索結果C33bの1位は検索キーとしたC32bと同一のプレート画像10であり残る2位,3位はC32bと異なるプレート画像10である。一覧表示C32の中にはC32aのように検索結果C33の中に同一のプレート画像10が多数含まれるものの次に、検索結果C33の中に少なくとも1つはC32と同じものが含まれるものほどS42の集約度が比較的高く上位の左側に表示される傾向がある。検索結果C33c中のどのプレート画像10も検索キーとしたC32cとは異なり、一覧表示C32の中にはC32cのように検索結果C33cの中にC32と同じプレート画像がひとつも含まれないものはS42の集約度が低く下位の右側に表示される傾向にある。
【0086】
頻出車両抽出部205は、操作者が確認するためにC42のように頻出候補C32の集約度を表示してもよい。また、頻出候補C32や頻出候補の検索結果C33の画像には、操作者が車両画像も確認できるように、G400に示したプレート画像10のほか車両画像15やG201に例示したようなプレート画像10と車両画像15の組み合わせであってもよい。
【0087】
頻出車両抽出部205は、一覧表示32の画像の数が多い場合にはスライドバーのようなユーザインタフェースにより表示する範囲を変えてもよい。また、表示画面のレイアウトを簡素にする場合には、頻出候補の検索結果C33を省略してもよい。
【0088】
実施例3において操作者は、頻出探索条件指定部216および頻出車両選択部217のインタフェースによって、プレート画像10の画像特徴量の集約度を用いて検索DB107中でも繰り返し出現するデータに絞って検索キーを指定することが可能となる。
【実施例4】
【0089】
本発明の実施例4の機能構成の概略を図20に示す。図20において、103,104,109,215,220の各機能は実施例1と同一であり、102,107,108の各機能は実施例2と同一であり、216,217の各機能は実施例3と同一である。
【0090】
図20の頻出車両抽出部205はS41の類似度およびS42の集約度をプレート画像10と車両画像15の画像特徴量から計算する。
【0091】
実施例4において操作者は、頻出探索条件指定部216および頻出車両選択部217のインタフェースによって、プレート画像10と車両画像15の画像特徴量の集約度を用いて検索DB107中でも繰り返し出現するデータに絞って検索キーを指定することが可能となる。
【0092】
補足として実施例1および実施例2および実施例3および実施例4において、カメラ1からサーバ2へのデータ通信量および検索DB107の記録量を削減するために、カメラ1内の処理装置によってプレート画像切出し部103と同様の処理を実施して車両画像15をプレート画像10周辺にクリッピングしてもよい。あるいは上記と同様の処理をサーバ2内の処理装置で実施してもよい。
【0093】
補足として実施例1および実施例2および実施例3および実施例4において、検索部108の検索範囲を絞り込むために、カメラ1内の処理装置によって、ナンバプレート上の文字や車体色の自動認識等を行い、認識結果を車両画像10と組にして検索DB107に蓄積しておき、操作者が検索するときに検索範囲指定部215において日時や地点にくわえて前記の自動認識結果で検索部108が検索する検索DB107の範囲を絞る構成をとってもよい。実施例3および実施例4では頻出探索条件指定部216のG301およびG302で指定する検索DB107の範囲に、前記の自動認識の結果を加えてもよい。また上記の自動認識の少なくとも一部をサーバ2の処理装置で実施してもよい。
【0094】
補足として実施例1および実施例2および実施例3および実施例4において検索部108の検索範囲を絞り込むために、カメラ1の周辺に赤外線方式による車両センサや照度センサ等の外部センサや自動料金収受装置の路側アンテナのような通信装置を設置しておき、外部センサのセンサ情報や通信情報をカメラ1の撮影画像と同期を取ってサーバ2に送信するとともに検索DB10中にプレート画像10と組にして蓄積しておき、操作者が検索するときに検索範囲指定部215において日時や地点にくわえて前記のセンサ情報や通信情報で検索部108が検索する範囲を絞る構成をとってもよい。実施例3および実施例4では頻出探索条件指定部216のG301およびG302で指定する検索DB107の範囲に、センサ情報あるいは通信情報を加えてもよい。
【0095】
補足として実施例1および実施例2および実施例3および実施例4において、カメラ1とサーバ2内の計算負荷の分散の観点から、カメラ1内の信号処理の一部以上をサーバ2で分担したり、プレート画像切出し部103やプレート画像特徴抽出部104,車両画像特徴抽出部102の処理の一部以上をカメラ1で分担してもよい。またサーバ2とクライアント3の計算負荷の分散の観点から、検索部108や検索DB107の一部以上をクライアント3で分担したり、プレート画像合成部201やプレート画像加工部202やプレート画像特徴抽出部204や車両画像特徴抽出部207や頻出車両抽出部205などの処理の一部以上を一部以上をサーバ2で分担してもよい。サーバ2内の全ての機能をカメラ1,クライアント3のいずれかひとつ以上で分担した場合、クライアント3の計算機がサーバ2を兼ねてもよい。
【0096】
補足として実施例1および実施例2において説明したプレート合成指定部210,プレート加工指定部212,プレート画像選択部213,車両画像選択部214のユーザインタフェースはあくまで一例であり、G1をはじめとしたテキストボックスはプルダウンメニューなどのほかのユーザインタフェースに置き換え可能であり、G5をはじめとしたボタンはメニュー選択など他のユーザインタフェースに置き換え可能であり、G11をはじめとしたチェックボックスも他のユーザインタフェースに置き換え可能である。また、プレート合成指定部210,プレート加工指定部212,プレート画像選択部213,車両画像選択部214,検索結果表示部220のうち1つ以上をまとめて1つの画面に構成してもよい。
【産業上の利用可能性】
【0097】
ナンバプレートのような特定フォーマット上に特定の文字やマークが描画された識別タグを備えた物体一般の画像検索に適用することが可能である。
【図面の簡単な説明】
【0098】
【図1】本発明の実施例1の機能構成の概略を示すブロック図である。
【図2】本発明の実施例のプレート画像切出し部103を補足する図である。
【図3】本発明の実施例のプレート画像合成指定部210のユーザインタフェースの一例である。
【図4】本発明の実施例のプレート画像合成部201のフローである。
【図5】本発明の実施例のプレート画像合成部201が合成したプレート画像C10の一例である。
【図6】本発明の実施例のプレート加工指定部211のユーザインタフェースの一例である。
【図7】本発明の実施例のプレート加工指定部211のユーザインタフェースの一例である。
【図8】本発明の実施例のプレート加工指定部211の傾きの指定を説明する図である。
【図9】本発明の実施例のプレート画像加工部202のフローである。
【図10】本発明の実施例のプレート画像選択部213のインタフェースの一例である。
【図11】本発明の実施例の検索結果表示部220の画面の一例である。
【図12】本発明の実施例の検索結果表示部220の画面のもうひとつの一例である。
【図13】本発明の実施例2の機能構成の概略を示すブロック図である。
【図14】本発明の実施例の車両画像選択部214のインタフェース画面の一例である。
【図15】本発明の実施例の検索DB107が蓄積するデータを説明する図である。
【図16】本発明の実施例3の機能構成の概略を示すブロック図である。
【図17】本発明の実施例の頻出探索条件指定部216のインタフェース画面の一例である。
【図18】本発明の実施例の頻出車両抽出部205のフローである。
【図19】本発明の実施例の頻出車両選択部217のインタフェース画面の一例である。
【図20】本発明の実施例4の機能構成の概略を示すブロック図である。
【図21】本発明の実施例の字発光をS30の加工を説明する図である。
【符号の説明】
【0099】
1 カメラ
2 サーバ
3 クライアント
106 特徴抽出部
107 検索DB
108 検索部
201 プレート画像合成部
202 プレート画像加工部
205 頻出車両抽出部
217 頻出車両選択部
【技術分野】
【0001】
本発明は路上に設置したカメラによって撮影された車両の画像から、画像処理によって抽出した画像特徴量を用いて車両を検索するシステムに関する。
【背景技術】
【0002】
従来から車両画像を入力とした画像処理によって自動認識したナンバプレートの車番情報や、車両画像のテクスチャや色の画像特徴量を用いて車両を検索する技術が開示されている。例えば特許文献1では、路上の定点カメラで撮影した車両の画像からナンバプレートの車番情報や色やテクスチャなどの画像特徴量を抽出してデータベース中に蓄積しておき、操作者が車番情報あるいは画像特徴量の検索条件を指定すると、該当車両の画像の2次元空間あるいは3次元空間に一覧表示する車両検索の技術が開示されている。
【0003】
ここでナンバプレートの自動認識には、車両の所持者が故意に認識を妨害する目的で大きな角度で傾けた場合等には、カメラが撮影する画像中のナンバプレートが歪んで自動認識による車番情報の取得が不可能になる問題があった。あるいは、ナンバプレートの自動認識には車両の所持者に故意の意図が無くても、ナンバプレートにカバーを装着してナンバプレート画像のコントラストが低下した場合や、ナンバプレートに枠を装着してナンバプレート中の文字と接触した場合には、自動認識による車番情報の取得が困難になる問題があった。道路交通網の長期に渡る通過車両の画像を扱う大規模なシステムに特許文献1の技術を適用すると、車番情報が取得できない場合においては色やテクスチャなどの画像特徴量だけ検索する必要があるが、道路交通網の中には検索対象の車両以外にも同一の車種や色の車が多数通過するために該当車両が非常に多くなり総数を目視で確認することは多くの労力を要してしまう。
【0004】
上記の問題の解決のために、車両の識別情報を含むナンバプレート部位を画像から切出して、ナンバプレート部位の画像特徴量を用いて画像検索の検索精度を向上させることが考えられる。画像中のナンバプレート部位の切出しは特許文献2の技術で実現でき、画像中の特定部位の画像特徴量および特定部位と画像全体の画像特徴量とを複合させた画像検索は特許文献3の技術で実現できる。ただし、画像検索において操作者は検索キーの画像特徴量の数値あるいは画像特徴量を抽出する画像を指定する必要があるが、操作者が直接的にナンバプレート画像を代表する画像の色やテクスチャの数値を直接指定することは困難である。一方で、操作者が検索のキーとなるナンバプレートの画像を指定するには、カメラで撮影した画像をデータベースに蓄積しておき、データベース中の画像を閲覧して選択する方法や、システム外部のカメラで撮影した画像からナンバプレートを自動あるいは手動により切出す方法があるが、前者はデータベースの多くの画像を閲覧する手間を要求し、後者は検索対象の撮影画像がない場合には適用できない問題がある。
【0005】
【特許文献1】特開2005−209177号公報
【特許文献2】特開2004−30552号公報
【特許文献3】特開2007−88814号公報
【発明の開示】
【発明が解決しようとする課題】
【0006】
本発明は上記問題点を解決するために、操作者が指定した車番情報と適合したナンバプレート画像を合成して検索キーとすること、およびデータベース中において繰り返し出現するナンバプレート画像を操作者が検索キーに指定することを可能にした画像検索システムを提供することを目的とする。
【課題を解決するための手段】
【0007】
本発明は、撮像手段,演算手段,記憶手段,通信手段を有するカメラと、演算手段,記憶手段,通信手段を有するサーバと、表示手段,入力手段,演算手段,通信手段を有する計算機と、を有する画像検索システムにおいて、カメラは、ナンバプレートを含む画角で車両を撮影し、サーバは、画像からナンバプレートを切出すプレート画像切出し部と、ナンバプレートの画像から画像特徴量を抽出するプレート画像特徴抽出部と、少なくともナンバプレートの画像と画像特徴量とを組にして蓄積する検索データベースと、検索データベース中から操作者が指定した画像と画像特徴量の類似度が高い画像を検索する検索部と、を備え、計算機が、操作者から検索対象の車番情報を受け取るプレート合成指定部と、
プレート合成指定部の受け取った合成条件に応じたナンバプレートの画像を合成するプレート画像合成部と、合成したプレート画像を一覧表示して操作者の選択を受け取るプレート選択部と、検索結果を表示する検索結果表示部と、を備えることを第1の特徴とする。
【0008】
また、画像検索システムは、前記プレート合成指定部の合成したナンバプレートを加工する指定を操作者から受け取るプレート加工指定部と、前記ナンバプレートを加工するプレート画像加工部とを備えることを第2の特徴とする。
【0009】
さらに、画像検索システムは、プレート画像合成部が合成したプレート画像あるいはプレート画像合成部が合成語にプレート画像加工部が加工したプレート画像の画像特徴量と、車両画像の画像特徴量とを複合させて検索することを第3の特徴とする。
【0010】
また、画像検索システムは、ナンバプレートを含む画角で車両を撮影するカメラと、画像からナンバプレートを切出すプレート画像切出し部と、ナンバプレートの画像から画像特徴量を抽出するプレート画像特徴抽出部と、少なくともナンバプレートの画像と画像特徴量とを組にして蓄積する検索データベースと、検索データベース中から操作者が指定した画像と画像特徴量の類似度が高い画像を検索する検索部と、検索結果を表示する検索結果表示部と、検索データベースの中から画像特徴量の集約度が高いデータを抽出する頻出車両抽出部と、頻出車両抽出部が選択したデータの表示と検索キーの指定を受け取る頻出車両選択部とを備えることを第4の特徴とする。
【発明の効果】
【0011】
本発明の画像検索システムによれば第1の特徴により、車両のナンバプレートが自動認識できない場合でも、操作者が検索したい車番情報に応じたナンバプレートの画像を合成することによって、合成したナンバプレート画像の画像特徴量を用いた画像検索によって、データベース中の車両を効率的に検索することが可能になる。
【0012】
本発明の画像検索システムによれば第2の特徴により、前記の合成したナンバプレート画像を実際の車両のナンバプレートに近づける加工を施すことにより、画像特徴量の精度を高めて画像検索の精度を向上させることができる。
【0013】
本発明の画像検索システムによれば第3の特徴により、合成あるいは加工したナンバプレート画像の画像特徴量と、車両画像の画像特徴量とを複合させることによって、検索したい車両の車番情報と外観の情報とを複合させて画像検索の精度を向上させることができる。
【0014】
本発明の画像検索システムによれば第4の特徴により、ナンバプレート画像の画像特徴量あるいはナンバプレート画像と車両画像の画像特徴量のデータベース中における集約度から、繰り返し出現する車両を検索キーの候補を一覧表示することで、操作者がデータベースの中から検索キーを容易に指定して画像検索を実施することが可能になる。
【発明を実施するための最良の形態】
【0015】
以下、本発明にかかる車両検索システムのより具体的な実施形態について、図面を参照しながら説明する。なお、本実施形態では、車両の一例として自動車を挙げて説明を行うが発明にかかる「車両」とは自動車に限定されず、路上を走行するあらゆる種類の乗り物を含む。
【実施例1】
【0016】
図1は、本発明の実施例1の機能構成の概略を示すブロック図である。
【0017】
図1において、カメラ1とサーバ2とクライアント3は、通信ネットワークで相互に接続されている。カメラ1およびクライアント3の数は、1以上で複数であってもよい。
【0018】
カメラ1は撮像装置,演算装置,記憶装置,通信装置を有すカメラで路上に設置されている。カメラ1は演算装置のフレーム間差分処理によって通行する車両を検出し、車両の前面あるいは後面のナンバプレートを含む画角で画像を自動的に撮影する。カメラ1は、撮影画像および記憶装置内の地点および演算装置が保持する日時を組にしてサーバ2に送信する。
【0019】
サーバ2は、演算装置,記憶装置,通信装置を持つ汎用的な計算機である。クライアント3は操作者に情報を表示するディスプレイのような表示装置,キーボードやマウスなどの操作者からの入力をうけとる入力装置,演算装置,通信装置を持つ。クライアント3は、たとえば汎用的な計算機で実現できる。
【0020】
図1において、103,104,107,108,109はサーバ2の機能、201,202,204,210,212,215,220はクライアント3の機能である。
【0021】
図1において管理DB109は、図示していない接続線で103,104,107,108,109,201,202,204,210,212,215,220等の各機能と接続されていて、各機能の信号処理に必要なパラメータを蓄積している。なお、個々のクライアント3管理DB109の一部コピーを保持していても同じ機能を実現できる。
【0022】
図1においてプレート画像切出し部103は、カメラ1から受け取った車両の画像から特定物体の切出しアルゴリズムを適用して、プレート画像の外接矩形で切出す。特定物体の切出しアルゴリズムは、公知文献1に記載された一般的なハール状特徴を用いたアルゴリズムを適用することで実現できるがこの例に限らない。
【0023】
図1(a)はプレート画像切出し部103が、車両画像15から特定物体の切出しアルゴリズムによって切出したプレート画像10の例である。図1(b)は、特定物体の切出しアルゴリズムが車両画像15においてナンバプレートに類似したいくつかの候補を切出した結果の例である。このように複数の候補を抽出しておくと、特定物体の切出しアルゴリズムの精度が低くても正しいナンバプレート画像を高い精度で切出すことができる。
【0024】
プレート画像切出し部103は特定物体の切出しアルゴリズム以外でも、車両画像10中においてナンバプレートの出現頻度が高い領域をプレート画像の候補にとることができる。図1(c)はプレート画像切出し部103が、車両の下端12、および左右中心軸13を抽出して車両の基準位置14を抽出した後に、基準位置14と統計的にナンバプレートの出現頻度が高い矩形領域を、プレートの切出し画像10として切出した例を示している。前記出現頻度が高い矩形領域の数は、図1(c)では2つ示しているがこの数に限らず1つ以上の任意の数であってよい。図1(c)の下端12および左右中心軸13は公知文献2の手法により抽出できる。また、統計的にナンバプレートの出現頻度が高い矩形領域は、手作業により抽出した基準位置14と切出したプレート画像10の画像上の縦横の位置の差の頻度ヒストグラムから作成することができる。なお、車両の基準位置14は図2(c)に例示した車両の左右中心軸と下端の交点以外でもよい。
【0025】
プレート画像切出し部103は管理DB109に記された設定条件にしたがって、特定物体の切出しアルゴリズムあるいはナンバプレートの出現頻度を基準としたアルゴリズムによって車両画像15からプレート画像10を切出す。
【0026】
ナンバプレートが傾けられていたり、ナンバプレートに透過率の低いカバーが取り付けられている場合には、車両画像15中のナンバプレート部位は歪んだりコントラストが低下して特定物体の切出しアルゴリズム単体で精度よくプレート画像10を切出すことは困難になるが、プレート画像切出し部103は図1(b)のように特定物体のアルゴリズムから複数の候補や、図1(c)のように車両画像15中において統計的にナンバプレートの出現頻度が高い領域を出力することで、高い精度でプレート画像10を切出すことを可能としている。
【0027】
図1においてプレート画像特徴抽出部104は、プレート画像切出し部103が切出したプレート画像から色とテクスチャの画像特徴量を抽出する。色の画像特徴量はHSIのヒストグラム、テクスチャの画像特徴量には高次局所自己相関を用いることで実現できるが、この例に限らない。
【0028】
図1において、検索DB107はプレート画像特徴抽出部104が切出したプレート画像10の画像特徴量、カメラ1から受信した撮影画像の日時,地点、プレート画像10を組にして蓄積する。
【0029】
図15は検索DB107が蓄積するデータを示してあり、検索DB107はデータにID7を付加して管理する。検索DB107は、図15のほか、車両に関連する参照情報として車両画像15など任意の情報もID7と組にして記録してもよい。
【0030】
図1においてプレート合成指定部210は、操作者からユーザインタフェースを介して、操作者から検索したい車両の車番情報の指定を受ける。
【0031】
図3(a)はプレート合成指定部210の画面例でありG1,G2,G3,G4はそれぞれナンバプレート上の一連番号,用途コード,車種コード,陸支コードの入力を受けとるテキストボックスである。G9は車両サイズを大型,普通,軽自動車,バイク,原付の5区分で受け取るテキストボックスである。G10は用途区分を自家用,事業用の2区分で受け取るテキストボックスである。G5,G6,G7,G8はそれぞれ、一連番号,用途コード,車種コード,陸支コードのフォントの選択するためのサブメニューを呼び出すためのボタンである。図3(b)はG6のボタンを押したときの用途コードのフォントを選択するサブメニューの画面の一例であり、G14は全フォントの一覧であり、G13はG14の各フォントに対応したチェックボックスであり、操作者からひとつ以上の選択を受けとる。操作者はG14の画面を目視しながらG13を選択することで、検索した車両のフォントの候補を指定,確認することができる。G15のチェックボックスは、G14のチェックボックスを全てオンにする機能をもつチェックボックスであり、操作者のG14への入力の手間を軽減する。G5,G7,G8のボタンを操作者が選択した場合、図3(b)のようなレイアウトのサブメニューが出現して、それぞれ一連番号,車種コード,陸支コードのフォントを指定することができる。
【0032】
G11は地域別のフォントを設定するチェックボックスでありオンにすると、G4の陸支コードの指定に応じて、あらかじめ陸支ごとに設定された一連番号,用途コード,車種コードのフォントのうちいずれかひとつ以上を選択することができる。G11のチェックボックスの選択により、ナンバプレートの各コードのフォントが地域別に違うこと、陸支コードがおおよそ地域に対応していることを反映してフォントを指定することが可能になる。
【0033】
G12のチェックボックスはオンにすることにより、一連番号,用途コード,車種コード,車種コードの全てのコードの全てのフォントを選択する機能を持つ。
【0034】
図1において、プレート画像合成部201は、プレート合成指定部210の操作者の指定に応じたナンバプレート画像を合成する。図4を用いて、プレート画像合成部201の処理を説明すると、まずプレート合成指定部210の指定結果から、ナンバプレート上の各コードの文字の種類およびフォントの指定を読み込む(S2)。次に、各コードのナンバプレート中の位置,大きさのレイアウトをG9の車両サイズの区分に応じて決定する(S3)。次に、G10で選択された用途区分とG9で選択された車両サイズから、ナンバプレートの背面と文字の色の組み合わせを定める(S4)。具体的に述べるとS4は一例として、G10の用途区分が事業用かつG9で選択された車両サイズが軽自動車以外の場合には、ナンバプレートの背面を緑、ナンバプレートの文字を白色、G10の用途区分が事業用かつG9で選択された車両サイズが軽自動車の場合にはナンバプレートの背面を黒色、ナンバプレートの文字を黄色、G10の用途区分が自家用かつG9で選択された車両サイズが軽自動車の場合にはナンバプレートの背面を黄色、ナンバプレートの文字を黒色、G10の用途区分とG9の車両サイズが前記以外の場合には、ナンバプレートの背面を白色、ナンバプレートの文字を緑色とする。次に、S2で読み込んだナンバプレート上の文字とフォントを組み合わせで変えながら(S5からS7のループ)、文字とフォントとS2で決定したレイアウトとプレートの背面とプレートの文字の色に従ってプレート画像を合成する(S6)。なお、G1あるいはG2あるいはG3あるいはG4の中に文字の指定がない場合、平均的な画像特徴量が求まるように、全文字種,全フォントの平均画像を代用に用いる。S6の処理に必要なデータは、全て管理DB109内のデータを用いる。
【0035】
図5(a)と図5(b)はプレート画像合成部201が出力したプレート画像C10の例であり、図3(a)と図3(b)のプレート合成指定部210の図3の入力例に対応している。図5(a)と図5(b)において、C1,C2,C3,C4はそれぞれ普通車両の一連番号,用途コード,車種コード,陸支コードのレイアウト枠を示してあり実際の画像上には描画されない。G9の車両サイズが普通以外(大型,軽自動車,バイク,原付)の場合、C1,C2,C3,C4それぞれの位置や大きさは、図5(a)および(b)から車両のサイズの指定に応じて変更される。図5(a)のC3内の用途コードは図3(b)のG14aのフォントに対応し、図5(b)のC3内の用途コードは図3(b)のG14bのフォントに対応している。図3の車両サイズの指定が普通であることより、図5(a)と図5(b)の背面の色は白色,文字の色は緑色である。
【0036】
以上述べたプレート合成指定部210への入力とプレート画像合成部201の処理によって、操作者は検索したい車両の車番情報およびフォント指定に応じたナンバプレート画像を合成することができる。
【0037】
図1においてプレート加工指定部212は、操作者からユーザインタフェースを介して、操作者から検索したいナンバプレートの加工条件の指定を受けとる。
【0038】
図6(a)においてG80はプレート加工指定210の画面例である。図6(a)において、G31はナンバプレートの傾きの加工の有無の指定するチェックボックスであり、G41は傾きの加工の詳細を指定するサブメニューを呼び出すためのボタンである。図7(b)は傾きの加工のサブメニューG81の画面の一例であり、G50,G51,G52は順番に加工後のカメラの空間中の位置(X,Y,Z)を入力するテキストボックスであり、G53,G54,G55は順番に加工後カメラの空間中の角度(P,T,R)を入力するテキストボックス、である。また、G60,G61,G62は順番に加工後プレートの空間中の位置(X,Y,Z)を入力するテキストボックスであり、G63,G64,G65は順番に加工後プレートの空間中の角度(P,T,R)を入力するテキストボックス、である。
【0039】
図8は、カメラおよびプレートの空間中の位置と角度の一例を示す図であり、21は原点をO、座標軸をXYZ、X軸周りの角度をT、Y軸周りの角度をR、Z軸周りの角度をPとした座標系である。座標系21は例えば車両24が走行する車線22の進行方向をY軸、鉛直方向をZ軸、車線に直行する方向をX軸、原点OをX軸について車線22の中央線23かつY軸についてカメラ1と同じ位置かつZ軸について地上面とすることができる。カメラ1およびプレート4の位置と角度は座標系21によって定義される。
【0040】
なお、G50からG55およびG60からG65の各テキストックスは代表値のほか範囲を入力することも可能であり、例えばG50にカメラ角度Pを−30度から+30度まで5度刻みのような指定によって、操作者が範囲を指定することを可能とする。
【0041】
図6(a)において、G32はナンバプレートの枠の加工の有無の選択を受け取るチェックボックスであり、G42は枠の加工の詳細を指定するサブメニューを呼び出すためのボタンである。
【0042】
図7(c)においてG82は枠の加工の詳細を指定するサブメニューの画面の一例であり、G71はナンバプレートの枠の一覧であり、G70はG71の個々の枠を選択するチェックボックスであり、ひとつ以上の選択を受け付ける。G71の枠には様々なデザイン、色のものが含まれるが、これは例えばナンバプレート枠の製造メーカのカタログから作成することができる。
【0043】
図6(a)において、G33はナンバプレートのカバーの加工の有無の指定を受け取るチェックボックスであり、G43はナンバプレートのカバーの加工条件の詳細を入力するサブメニューを呼び出すためのボタンである。
【0044】
図7(d)においてG83はカバーの加工の詳細を指定するサブメニューの画面の一例であり、G72はカバーの一覧であり、G73はG72の個々のカバーを選択するチェックボックスであり、ひとつ以上の選択を受け付ける。G73のカバーには様々なデザイン、色のものが含まれる。G73は例えばナンバプレートのカバーの製造メーカのカタログから作成することができる。
【0045】
図6(a)において、G34はナンバプレートの字発光の加工の有無の指定を受け取るチェックボックスであり、G44は字発光の加工の詳細を指定するサブメニューを呼び出すためのボタンである。
【0046】
図7(e)においてG84は字発光の加工の詳細を指定するサブメニューの画面の一例であり、G74は字発光の方式の一覧であり、G75はG74の個々の字発光の方式を選択するチェックボックスであり、ひとつ以上の選択を受け付ける。G74の一覧は図示すような種別の文字のほか、各方式を代表するアイコンであってもよい。
【0047】
プレート画像加工部202は、プレート加工指定部212が受け取ったナンバプレート画像の加工の指定に応じて、プレート画像合成部201が合成したプレート画像C10を加工する。なお、プレート加工指定部212が操作者からひとつも加工の指定を受け取らなかった場合、プレート画像加工部202はプレート画像C10に何の処理もしない。
【0048】
図9を用いてプレート画像加工部202の処理を説明すると、まず最初にプレート画像合成部201が合成したプレート画像C10を全て読み込み(S20)、次にプレート加工指定部212が受け取ったプレート画像の加工条件を全て読み込む(S21)。
【0049】
次に、プレート画像合成部201が合成した各々のプレート画像C10について(S23からS34のループ)、プレート加工指定部212が受け取った加工の指定を総当りの組み合わせで変えながら(S24からS33のループ)、S25からS32の処理を繰り返す。S24からS33のループは、G70やG72やG74のチェックボックスが複数の選択を受け取った場合には、詳細条件も組み合わせも繰り返す。またS24からS33のループは、S50,S51,S52,G53,S54,S60,S61,S62,S63,S64,S65のひとつ以上が範囲で指定を受け取ったときには、範囲内で変化する複数の角度あるいは位置の組み合わせも前記の詳細条件と同様に組み合わせに含む。
【0050】
S26では、S24のループが指定する加工条件の中に枠の加工が含まれるとき(S25の判定がyes)、S23のループが指定するプレート画像C10上に枠を描画する。枠の描画は、G70の1つのチェックボックスの選択に応じた枠の画像データおよびプレート画像C10上の枠の位置と大きさを管理DB109から呼び出し、プレート画像C10上に上書きする。
【0051】
S28では、S24のループが指定する加工条件の中にカバーの加工が含まれるとき(S27の判定がyes)、S23のループが指定するプレート画像C10にカバー装着を模擬した加工を施す。前記のカバー装着を模擬した加工とは、G73の1つのチェックボックスの選択に応じたカバーのプレート画像C10上の位置と大きさとカバーの色相とカバーの透過率のデータを管理DB109から呼び出し、プレート画像C10上においてカバーと重なる領域の色相と彩度に前記のカバーの色相と彩度を加算し、プレート画像C10上においてカバーと重なる領域の明度を前記のカバーの透過率だけ減衰させることである。
【0052】
S30では、S24のループが指定する加工条件の中に字発光の加工が含まれるとき(S29の判定がyes)、S23のループが指定するプレート画像C10に字発光を模擬した加工を施す。
【0053】
図21は字発光をS30の加工を説明する図であり、30はナンバプレート盤面、31はナンバプレート盤面30の文字部、32はナンバプレート盤面30の背面部、33は発光体である、34は筐体枠である。筐体枠34はナンバプレート盤面30と発光体33を保持し、車両に取り付けられる。なお発光体33は図11に示した例に限らず、G75に一覧表示された字発光の種別毎に、数,配置,サイズが異なる。また、光源33の発光強度および発光パターンはG75に一覧表示された字発光の種別毎に異なる。S30は、S24のループが指定する発光光33の数,配置,サイズ,発光強度,発光パターンおよびナンバプレート盤面30発光体33の距離および文字部31の透過率と背面部30の透過率から、一般的なコンピュータグラフィクスにおける発光体の合成の技術を用いてプレートC10の明度と彩度と色相を加工する。
【0054】
なお、S30の処理で必要な発光光33の数,配置,サイズ,発光強度,発光パターンおよびナンバプレート盤面30,発光体33の距離および文字部31の透過率と背面部30の透過率のデータは、管理部109が蓄積するデータを用いる。前記の発光体33およびプレート盤面30のデータは、例えば製造メーカのカタログから作成することができる。
【0055】
なお、プレート画像C10上においてS26,S28,S30の加工が重複する領域がある場合、個々の加工について明度,彩度,色相のプレート画像C10からの差分を求めておき、各加工のプレート画像C10からの差分の総和をプレート画像C10の明度,彩度,色相に加工する。
【0056】
S32では、S24のループが指定する加工条件の中にカバーの加工が含まれるとき(S31の判定がyes)、S23のループが指定するプレート画像C10に傾きの加工を施す。前記傾きの加工とは、カメラおよびプレートの位置と角度を基準の値から、G81のサブメニューで指定を受けたカメラおよびプレートの位置と角度に変化させたときのプレート画像C10の見え方を一般的な射影変換でモデル化して、前記の射影変換をプレート画像C10に施すことで実現できる。前記のカメラおよびプレートの位置と角度の基準の値は管理DB109が保持する値を用いる。前記のカメラおよびプレートの位置と角度の基準の値は例えば、カメラの位置を座標系21でX=0,Y=0,Z=0.5m、カメラの角度をP=0,T=0,R=0、プレートの位置をX=0,Y=10,Z=0.5m、P=180°,T=0,R=0、のように車線の中心線23上においてプレートの平均的な地上高0.5mで10m離して正面を向け合うように設定できる。
【0057】
図1においてプレート画像選択部213は、プレート画像合成部201が合成したプレート画像C10およびプレート画像加工部202がプレート画像C10を加工したナンバプレートの画像を一覧表示し、操作者から検索キーの指定を受け取る。
【0058】
図10においてG100はプレート画像選択部213のインタフェース画面の例であり、C30はおよびプレート画像加工部202がプレート画像C10を加工したプレート画像、G90は加工したプレート画像C30それぞれに対応したチェックボックスであり操作者から1つ以上の選択を受け付ける。C30aはプレート画像C10にカバーを加工した例であり、C30bはプレート画像C10に枠を加工した例であり、C30cはプレート画像C10に傾きと枠を組み合わせて加工したプレート画像の例である。G90a,G90b,G90cは、それぞれC30a,C30b,C30cに対応したチェックボックスを示している。図10においてインタフェース画面G100には加工したプレート画像を3つ表示しているが、表示する数はこの数に限らない。また、インタフェース画面G100は画面の大きさや解像度の制限でプレート画像C30を全て表示できない場合には、スクロールバーによる表示範囲の推移等によりプレート画像C30の中で表示する範囲を変えて表示する。また、プレート画像選択部213は加工以前のプレート画像C10も加工したプレート画像C30のうちに含めて、チェックボックスと組にして表示する。
【0059】
図10においてG99はG100上の全てのプレート画像C30を選択するチェックボックスであり、操作者はG99の選択により、G90の個別のチェックボックスを選択する手間を省くことができる。
【0060】
図1においてプレート画像特徴抽出部204は、プレート画像選択部213が操作者からの選択を受けたプレート画像C30から、プレート画像特徴抽出部104と同一の信号処理によって、色とテクスチャの画像特徴量を抽出する。
【0061】
検索範囲指定部215は、検索部108が検索する検索DB107の範囲を限定する。検索範囲指定部215はテキストボックス他のユーザインタフェースを介して、操作者から日時や地点や画像特徴量の数値の指定をテキストボックス他のユーザインタフェースを介して受け取る。操作者が日時と地点の検索範囲を指定しない場合、検索DB107中の全データが検索部108の処理の対象範囲となる。なお、検索範囲指定部215は実施例1において必須ではなく省略が可能であり、省略する場合は検索範囲指定部215に操作者が入力を与えない場合と等価になる。
【0062】
検索部108は検索キーの画像特徴量と検索DB107中の各データの画像特徴量の類似度を計算する機能と、計算した類似度をソートする機能と、ソートした類似度の順位が高いデータのID7を出力する機能を持つ。
【0063】
まず検索キーがひとつの場合、検索部108は検索キーの画像特徴量と検索DB107中のあるID7の画像特徴量の類似度を下記の数式1によって計算する。
(数1)
S=(Σi=1,Nαidist(yi,xi))-1
数式1においてΣi=1,Nは添え字iについて1からNで和をとることを意味し、αiは特徴量のi番目の要素の荷重係数、yiはプレート画像特徴抽出部204が抽出した画像特徴量のi番目の要素、xiは検索DB中の一枚の画像特徴量のi番目の要素、dist()はxiとyiのユークリッド距離を計算する関数、Sは類似度である。数式1において画像特徴量の数Nは2であり、画像特徴量の1番目の要素はプレート画像10およびプC30のテクスチャ、2番目の要素はプレート画像10およびC30の色を示す。なお荷重係数αiには、管理DB109が蓄積するデータを用いる。検索DB107中のプレート画像10の中で数式1の類似度Sが高いものは、操作者が検索キーに選択したプレート画像C30と色やテクスチャが近い傾向をもつ。次に検索キーが複数の場合には、全ての検索キーの画像特徴量とあるID7の画像特徴量との間で数式1の類似度を計算した後に最大値を計算する。
【0064】
検索部108は、検索範囲指定部215が指定する検索DB107の範囲あるいは検索DB107中の全範囲について数式1の類似度を計算した後、類似度が高い順にソートする。検索部108は前記の類似度をソートした後、類似度が高い順に上位から検索DB107中のID7を出力する。
【0065】
検索結果表示部220は、検索部108が類似度の高い順にソートした検索DB107中のデータを上位から順番に一覧表示する。
【0066】
図11において検索結果表示部109の表示画面の一例であり、G200はプレート画像C30aをキー画像に選択したことを想定した検索結果を示している。G200は検索部108が計算した画像特徴量の類似度が高い順番に最上行の左から右、次に2行目の左から右の順番にプレート画像10を表示している。
【0067】
図12においてG201は検索結果表示部109の表示画面のもうひとつの例であり、同じくプレート画像C30aをキー画像に選択したことを想定している。G201は検索部108が計算した画像特徴量の類似度が高い順番に最上行の左から右、次に2行目の左から右の順番に、車両画像15とプレート画像10とを組にして表示している。
【0068】
検索結果表示部109は、G200に例を示したプレート画像10の一覧や、G201に例を示したプレート画像10と車両画像15の一覧以外にもの変わりに検索DB107がID7で組にしているデータ、例えば日時や地点などを表示してもよい。
【0069】
以上述べた実施例1における図1の機能構成によって、操作者はプレート合成指定部210に検索対象の車番条件を入力することによって、プレート画像合成部201が車番条件に応じて合成したプレート画像C30を検索キーとした検索部108の画像検索処理によって、検索結果表示部220の画面上に検索DB107中における検索対象の候補を一覧表示を取得することが可能になる。
【0070】
また、実施例1の図1の機能構成において、操作者はプレート加工指定部212にナンバプレートの加工条件を入力することによって、プレート画像合成部210が合成したプレート画像C10をより実際のプレート画像10に近づけることによって(プレート画像C30)、プレート画像特徴抽出部204が計算する画像特徴量を実際のプレート画像10の画像特徴量に近づけて検索部108の検索精度および検索結果表示部220の検索結果の精度を向上させることが可能となる。
【実施例2】
【0071】
実施例2の機能構成を図13に示す。図13において、103,104,109,210,212,201,202,213,204,215,220の機能は実施例1と共通である。図13において、車両画像特徴抽出部102はカメラ1が撮影した車両画像15から色とテクスチャの特徴量を抽出する。色の画像特徴量はHSIのヒストグラム、テクスチャの画像特徴量には高次局所自己相関を用いることで実現できるが、この例に限らない。図13において検索DB107は、図15に示したデータに加えて、車両画像15の画像特徴量をID7と組にして記録する。
【0072】
図13において、車両画像選択部214は操作者から車両画像の検索キーの選択を受け取る。図14において、G202は車両画像選択部214のユーザインタフェースの一例であり、C31は検索DB107からランダム抽出された車両画像の一覧であり、G91はC31の個々の車両画像に対応したチェックボックスであり、操作者から検索キーの選択を1つ以上受け取る。車両画像選択部214はG202に例を示したユーザインタフェース以外でも例えば、操作者が手持ちの画像をアップロードするような形式をとることができる。
【0073】
図13において車両画像特徴抽出部207は、車両画像特徴抽出部102と同じ信号処理によって、車両画像選択部214で指定された車両画像C31から画像特徴量を抽出する。
【0074】
図13において検索部108は、検索キーの画像特徴量と検索DB107中のデータの画像特徴量の類似度の計算の機能を数式1の画像特徴量の数Nを4として、画像特徴量の1番目の要素をプレート画像C10およびC30のテクスチャ、画像特徴量の2番目の要素をプレート画像C10およびC30の色、画像特徴量の3番目の要素を車両画像15およびC31のテクスチャ、画像特徴量の4番目の要素を車両画像15およびC31の色として類似度を計算する。検索DB107中のデータから類似度を計算した後の類似度のソートする機能および、類似度が高いデータのID7を出力する機能は実施例1と同一である。
【0075】
本発明の実施例2では、操作者は車番情報と車両画像の見え方を複合させた検索が可能となる。例えば、普通車の特定番号のナンバプレートを装着したトラックや、大きな角度で傾けた赤いスポーツカーなどの条件を操作者が指定して検索をすることが可能になる。
【実施例3】
【0076】
実施例3の機能構成を図16に示す。図16において、103,104,107,108,109,215,220の機能は実施例1と共通である。
【0077】
頻出探索条件指定部216は操作者から検索DB107中において、繰り返し出現する車両を探索する条件の指定を受け取る。
【0078】
図17においてG300は頻出探索条件指定部216の画面例であり、G301は検索DB107において頻出車両の候補を探す範囲を入力するテキストボックスであり、G302は頻出車両の出現を探索する範囲を入力するテキストボックスである。G302およびG302のテキストボックスで指定する範囲は日時,地点のほか、画像特徴量の値を直接してもよい。G303は頻出車両がG302で指定した範囲で何回出現するかを指定するテキストボックスである。G301の範囲はたとえばある1地点のカメラ1から正午前後に受信したデータであり、G302の範囲は前記地点と前記地点の周辺地点のカメラ1から正午から日没までに受信したデータである。
【0079】
G301,G302,G303のテキストボックスに入力がない場合には、管理DB109内のデフォルト値が入力されたものとする。あるいは、G301,G302,G303のうちひとつ以上はテキストボックスを設けず、管理DB109内のデフォルト値を使うようにしてもよい。
【0080】
図16において頻出車両抽出部205は、検索DB107に格納されたデータの中から、画像特徴量の集約度が高いデータを抽出する。図18を用いて頻出車両抽出部205の処理を説明すると頻出車両抽出部205はまず、G301で指定された検索DB107中のID7を変えながら(S40からS43のループ)、S40のループが指定するID7のプレート画像10の画像特徴量を検索のキーとして、G302で指定された検索DB107の範囲を検索部108と等価な信号処理で類似度を計算し上位からソートする(S41)。S42はS41で上位からソートされた類似度の集約度を、1位からG303で指定された順位までの平均値で計算する。
【0081】
ここで検索部108の計算する類似度は検索キーと検索DB107のデータのプレート画像10の色とテクスチャが近いほど高くなり、反対に検索部108の計算する類似度は検索キーと検索DB107のデータのプレート画像10の色あるいはテクスチャが離れるほど低くなる。そこで、S40のループが指定するID7の車両と同一の車両がG302の範囲内にいくつも含まれる場合には、S41で計算する類似度の中には高いものがいくつか含まれるのでソートした上位には高い類似度が集中して、S42が計算する集約度は高くなる。一方で、S40のループが指定するID7の車両と同一の車両がG302の範囲内にひとつも含まれない場合には、S41で計算する類似度はどれも低いのでソートした上位の類似度もいずれも低く、S42が計算する集約度は低くなる。よって、S42の集約度は、S40のループが指定するID7の車両と同一の車両がG302の範囲で繰り返し出現する程度の基準とみなすことができる。
【0082】
なお、S42で計算する集約度は類似度の平均のほか、メジアンやモーメントのようなほかの統計量でも平均と同様の効果を発揮できる。
【0083】
S44はS40からS43のループで計算されたS42の集約度を高い順にソートして、集約度が高いデータのID7を上位から順番に出力する。
【0084】
頻出車両選択部217は、頻出車両抽出部205が出力した集約度が上位のデータを一覧表示し、操作者から検索のキーの指定を受ける。図19においてG400は頻出車両選択部217の画面の一例であり、C32は頻出車両抽出部205が出力した集約度が高い順に左から右に表示したプレート画像10の一覧表示、G92は個々の頻出候補C32に対応して操作者から検索キーの指定を受け取るチェックボックスである。図19において、C33はC32の画像それぞれを検索キーとしてS41で検索した検索結果を上位から順に上から下へ表示したものであり、C33a,C33b,C33cはそれぞれ、C32a,C32b,C33cの検索結果である。
【0085】
検索結果C33aの1位,2位,3位いずれのプレート画像10も検索キーとしたC32aと同一であり、一覧表示C32の中にはC32aのように検索結果C33の中にC32と同じプレート画像10が多数含まれるほどS42の集約度が高く上位の左側に表示される傾向がある。検索結果C33bの1位は検索キーとしたC32bと同一のプレート画像10であり残る2位,3位はC32bと異なるプレート画像10である。一覧表示C32の中にはC32aのように検索結果C33の中に同一のプレート画像10が多数含まれるものの次に、検索結果C33の中に少なくとも1つはC32と同じものが含まれるものほどS42の集約度が比較的高く上位の左側に表示される傾向がある。検索結果C33c中のどのプレート画像10も検索キーとしたC32cとは異なり、一覧表示C32の中にはC32cのように検索結果C33cの中にC32と同じプレート画像がひとつも含まれないものはS42の集約度が低く下位の右側に表示される傾向にある。
【0086】
頻出車両抽出部205は、操作者が確認するためにC42のように頻出候補C32の集約度を表示してもよい。また、頻出候補C32や頻出候補の検索結果C33の画像には、操作者が車両画像も確認できるように、G400に示したプレート画像10のほか車両画像15やG201に例示したようなプレート画像10と車両画像15の組み合わせであってもよい。
【0087】
頻出車両抽出部205は、一覧表示32の画像の数が多い場合にはスライドバーのようなユーザインタフェースにより表示する範囲を変えてもよい。また、表示画面のレイアウトを簡素にする場合には、頻出候補の検索結果C33を省略してもよい。
【0088】
実施例3において操作者は、頻出探索条件指定部216および頻出車両選択部217のインタフェースによって、プレート画像10の画像特徴量の集約度を用いて検索DB107中でも繰り返し出現するデータに絞って検索キーを指定することが可能となる。
【実施例4】
【0089】
本発明の実施例4の機能構成の概略を図20に示す。図20において、103,104,109,215,220の各機能は実施例1と同一であり、102,107,108の各機能は実施例2と同一であり、216,217の各機能は実施例3と同一である。
【0090】
図20の頻出車両抽出部205はS41の類似度およびS42の集約度をプレート画像10と車両画像15の画像特徴量から計算する。
【0091】
実施例4において操作者は、頻出探索条件指定部216および頻出車両選択部217のインタフェースによって、プレート画像10と車両画像15の画像特徴量の集約度を用いて検索DB107中でも繰り返し出現するデータに絞って検索キーを指定することが可能となる。
【0092】
補足として実施例1および実施例2および実施例3および実施例4において、カメラ1からサーバ2へのデータ通信量および検索DB107の記録量を削減するために、カメラ1内の処理装置によってプレート画像切出し部103と同様の処理を実施して車両画像15をプレート画像10周辺にクリッピングしてもよい。あるいは上記と同様の処理をサーバ2内の処理装置で実施してもよい。
【0093】
補足として実施例1および実施例2および実施例3および実施例4において、検索部108の検索範囲を絞り込むために、カメラ1内の処理装置によって、ナンバプレート上の文字や車体色の自動認識等を行い、認識結果を車両画像10と組にして検索DB107に蓄積しておき、操作者が検索するときに検索範囲指定部215において日時や地点にくわえて前記の自動認識結果で検索部108が検索する検索DB107の範囲を絞る構成をとってもよい。実施例3および実施例4では頻出探索条件指定部216のG301およびG302で指定する検索DB107の範囲に、前記の自動認識の結果を加えてもよい。また上記の自動認識の少なくとも一部をサーバ2の処理装置で実施してもよい。
【0094】
補足として実施例1および実施例2および実施例3および実施例4において検索部108の検索範囲を絞り込むために、カメラ1の周辺に赤外線方式による車両センサや照度センサ等の外部センサや自動料金収受装置の路側アンテナのような通信装置を設置しておき、外部センサのセンサ情報や通信情報をカメラ1の撮影画像と同期を取ってサーバ2に送信するとともに検索DB10中にプレート画像10と組にして蓄積しておき、操作者が検索するときに検索範囲指定部215において日時や地点にくわえて前記のセンサ情報や通信情報で検索部108が検索する範囲を絞る構成をとってもよい。実施例3および実施例4では頻出探索条件指定部216のG301およびG302で指定する検索DB107の範囲に、センサ情報あるいは通信情報を加えてもよい。
【0095】
補足として実施例1および実施例2および実施例3および実施例4において、カメラ1とサーバ2内の計算負荷の分散の観点から、カメラ1内の信号処理の一部以上をサーバ2で分担したり、プレート画像切出し部103やプレート画像特徴抽出部104,車両画像特徴抽出部102の処理の一部以上をカメラ1で分担してもよい。またサーバ2とクライアント3の計算負荷の分散の観点から、検索部108や検索DB107の一部以上をクライアント3で分担したり、プレート画像合成部201やプレート画像加工部202やプレート画像特徴抽出部204や車両画像特徴抽出部207や頻出車両抽出部205などの処理の一部以上を一部以上をサーバ2で分担してもよい。サーバ2内の全ての機能をカメラ1,クライアント3のいずれかひとつ以上で分担した場合、クライアント3の計算機がサーバ2を兼ねてもよい。
【0096】
補足として実施例1および実施例2において説明したプレート合成指定部210,プレート加工指定部212,プレート画像選択部213,車両画像選択部214のユーザインタフェースはあくまで一例であり、G1をはじめとしたテキストボックスはプルダウンメニューなどのほかのユーザインタフェースに置き換え可能であり、G5をはじめとしたボタンはメニュー選択など他のユーザインタフェースに置き換え可能であり、G11をはじめとしたチェックボックスも他のユーザインタフェースに置き換え可能である。また、プレート合成指定部210,プレート加工指定部212,プレート画像選択部213,車両画像選択部214,検索結果表示部220のうち1つ以上をまとめて1つの画面に構成してもよい。
【産業上の利用可能性】
【0097】
ナンバプレートのような特定フォーマット上に特定の文字やマークが描画された識別タグを備えた物体一般の画像検索に適用することが可能である。
【図面の簡単な説明】
【0098】
【図1】本発明の実施例1の機能構成の概略を示すブロック図である。
【図2】本発明の実施例のプレート画像切出し部103を補足する図である。
【図3】本発明の実施例のプレート画像合成指定部210のユーザインタフェースの一例である。
【図4】本発明の実施例のプレート画像合成部201のフローである。
【図5】本発明の実施例のプレート画像合成部201が合成したプレート画像C10の一例である。
【図6】本発明の実施例のプレート加工指定部211のユーザインタフェースの一例である。
【図7】本発明の実施例のプレート加工指定部211のユーザインタフェースの一例である。
【図8】本発明の実施例のプレート加工指定部211の傾きの指定を説明する図である。
【図9】本発明の実施例のプレート画像加工部202のフローである。
【図10】本発明の実施例のプレート画像選択部213のインタフェースの一例である。
【図11】本発明の実施例の検索結果表示部220の画面の一例である。
【図12】本発明の実施例の検索結果表示部220の画面のもうひとつの一例である。
【図13】本発明の実施例2の機能構成の概略を示すブロック図である。
【図14】本発明の実施例の車両画像選択部214のインタフェース画面の一例である。
【図15】本発明の実施例の検索DB107が蓄積するデータを説明する図である。
【図16】本発明の実施例3の機能構成の概略を示すブロック図である。
【図17】本発明の実施例の頻出探索条件指定部216のインタフェース画面の一例である。
【図18】本発明の実施例の頻出車両抽出部205のフローである。
【図19】本発明の実施例の頻出車両選択部217のインタフェース画面の一例である。
【図20】本発明の実施例4の機能構成の概略を示すブロック図である。
【図21】本発明の実施例の字発光をS30の加工を説明する図である。
【符号の説明】
【0099】
1 カメラ
2 サーバ
3 クライアント
106 特徴抽出部
107 検索DB
108 検索部
201 プレート画像合成部
202 プレート画像加工部
205 頻出車両抽出部
217 頻出車両選択部
【特許請求の範囲】
【請求項1】
撮像手段,演算手段,記憶手段,通信手段を有するカメラと、演算手段,記憶手段,通信手段を有するサーバと、表示手段,入力手段,演算手段,通信手段を有する計算機と、を有する画像検索システムにおいて、
前記カメラは、ナンバプレートを含む画角で車両を撮影し、
前記サーバは、
画像からナンバプレートを切出すプレート画像切出し部と、
ナンバプレートの画像から画像特徴量を抽出するプレート画像特徴抽出部と、
少なくともナンバプレートの画像と画像特徴量とを組にして蓄積する検索データベースと、
検索データベース中から操作者が指定した画像と画像特徴量の類似度が高い画像を検索する検索部と、を備え、
前記計算機が、
操作者から検索対象の車番情報を受け取るプレート合成指定部と、
プレート合成指定部の受け取った合成条件に応じたナンバプレートの画像を合成するプレート画像合成部と、
合成したプレート画像を一覧表示して操作者の選択を受け取るプレート選択部と、
検索結果を表示する検索結果表示部と、
を備えることを特徴とする画像検索システム。
【請求項2】
前記プレート画像合成部の合成したナンバプレート画像を加工する指定を操作者から受け取るプレート加工指定部と、
前記ナンバプレートを加工するプレート画像加工部と、
を備えることを特徴とする請求項1に記載の画像検索システム。
【請求項3】
合成又は加工した前記ナンバプレートの画像の前記画像特徴量と、車両画像の画像特徴量とを複合させて検索することを特徴とする請求項1に記載の画像検索システム。
【請求項4】
前記プレート画像切出し部が、車両の画像から複数のナンバプレートの候補を切出すことを特徴とする請求項1に記載の画像検索システム。
【請求項5】
前記ナンバプレート画像の合成において、前記ナンバプレート上の文字のフォントを合成することを特徴とする請求項1に記載の画像検索システム。
【請求項6】
前記ナンバプレート画像の合成において、前記ナンバプレート上の文字のフォントを陸支コードに応じて決定する請求項1に記載の画像検索システム。
【請求項7】
前記プレート加工指定部が、前記ナンバプレートの傾き,枠,カバー,字光式の少なくとも1つを加工することを特徴とする請求項2に記載の画像検索システム。
【請求項8】
車両の画像から切出した前記ナンバプレート画像の画像特徴量と、操作者が指定する車番情報に応じて合成したナンバプレート画像の画像特徴量を用いることを特徴とする画像検索方法および同画像検索方法を計算机上で実現したプログラムおよび同プログラムを格納した媒体。
【請求項9】
車両の画像から切出した前記ナンバプレートの画像特徴量と、操作者が指定する車番情報に応じて合成したナンバプレート画像に加工を加えたナンバプレート画像の画像特徴量を用いることを特徴とする画像検索方法および同画像検索方法を計算机上で実現したプログラムおよび同プログラムを格納した媒体。
【請求項10】
撮像手段,演算手段,記憶手段,通信手段を有するカメラと、演算手段,記憶手段,通信手段を有するサーバと、表示手段,入力手段,演算手段,通信手段を有する計算機と、を有する画像検索システムにおいて、
前記カメラは、ナンバプレートを含む画角で車両を撮影し、
前記サーバ又は前記計算機が、
画像からナンバプレートを切出すプレート画像切出し部と、
ナンバプレートの画像から画像特徴量を抽出するプレート画像特徴抽出部と、
少なくともナンバプレートの画像と画像特徴量とを組にして蓄積する検索データベースと、
検索データベース中から操作者が指定した画像と画像特徴量の類似度が高い画像を検索する検索部と、
検索結果を表示する検索結果表示部と、
検索データベースの中から画像特徴量の集約度が高いデータを抽出する頻出車両抽出部と、頻出車両抽出部が選択したデータの表示と検索キーの指定を受け取る頻出車両選択部と、
を備えることを特徴とする画像検索システム。
【請求項11】
ナンバプレート画像の画像特徴量あるいはナンバプレート画像と車両画像の画像特徴量の集約度が高いデータを一覧表示して検索キーを受け取るユーザインタフェースを用いた画像検索方法。
【請求項1】
撮像手段,演算手段,記憶手段,通信手段を有するカメラと、演算手段,記憶手段,通信手段を有するサーバと、表示手段,入力手段,演算手段,通信手段を有する計算機と、を有する画像検索システムにおいて、
前記カメラは、ナンバプレートを含む画角で車両を撮影し、
前記サーバは、
画像からナンバプレートを切出すプレート画像切出し部と、
ナンバプレートの画像から画像特徴量を抽出するプレート画像特徴抽出部と、
少なくともナンバプレートの画像と画像特徴量とを組にして蓄積する検索データベースと、
検索データベース中から操作者が指定した画像と画像特徴量の類似度が高い画像を検索する検索部と、を備え、
前記計算機が、
操作者から検索対象の車番情報を受け取るプレート合成指定部と、
プレート合成指定部の受け取った合成条件に応じたナンバプレートの画像を合成するプレート画像合成部と、
合成したプレート画像を一覧表示して操作者の選択を受け取るプレート選択部と、
検索結果を表示する検索結果表示部と、
を備えることを特徴とする画像検索システム。
【請求項2】
前記プレート画像合成部の合成したナンバプレート画像を加工する指定を操作者から受け取るプレート加工指定部と、
前記ナンバプレートを加工するプレート画像加工部と、
を備えることを特徴とする請求項1に記載の画像検索システム。
【請求項3】
合成又は加工した前記ナンバプレートの画像の前記画像特徴量と、車両画像の画像特徴量とを複合させて検索することを特徴とする請求項1に記載の画像検索システム。
【請求項4】
前記プレート画像切出し部が、車両の画像から複数のナンバプレートの候補を切出すことを特徴とする請求項1に記載の画像検索システム。
【請求項5】
前記ナンバプレート画像の合成において、前記ナンバプレート上の文字のフォントを合成することを特徴とする請求項1に記載の画像検索システム。
【請求項6】
前記ナンバプレート画像の合成において、前記ナンバプレート上の文字のフォントを陸支コードに応じて決定する請求項1に記載の画像検索システム。
【請求項7】
前記プレート加工指定部が、前記ナンバプレートの傾き,枠,カバー,字光式の少なくとも1つを加工することを特徴とする請求項2に記載の画像検索システム。
【請求項8】
車両の画像から切出した前記ナンバプレート画像の画像特徴量と、操作者が指定する車番情報に応じて合成したナンバプレート画像の画像特徴量を用いることを特徴とする画像検索方法および同画像検索方法を計算机上で実現したプログラムおよび同プログラムを格納した媒体。
【請求項9】
車両の画像から切出した前記ナンバプレートの画像特徴量と、操作者が指定する車番情報に応じて合成したナンバプレート画像に加工を加えたナンバプレート画像の画像特徴量を用いることを特徴とする画像検索方法および同画像検索方法を計算机上で実現したプログラムおよび同プログラムを格納した媒体。
【請求項10】
撮像手段,演算手段,記憶手段,通信手段を有するカメラと、演算手段,記憶手段,通信手段を有するサーバと、表示手段,入力手段,演算手段,通信手段を有する計算機と、を有する画像検索システムにおいて、
前記カメラは、ナンバプレートを含む画角で車両を撮影し、
前記サーバ又は前記計算機が、
画像からナンバプレートを切出すプレート画像切出し部と、
ナンバプレートの画像から画像特徴量を抽出するプレート画像特徴抽出部と、
少なくともナンバプレートの画像と画像特徴量とを組にして蓄積する検索データベースと、
検索データベース中から操作者が指定した画像と画像特徴量の類似度が高い画像を検索する検索部と、
検索結果を表示する検索結果表示部と、
検索データベースの中から画像特徴量の集約度が高いデータを抽出する頻出車両抽出部と、頻出車両抽出部が選択したデータの表示と検索キーの指定を受け取る頻出車両選択部と、
を備えることを特徴とする画像検索システム。
【請求項11】
ナンバプレート画像の画像特徴量あるいはナンバプレート画像と車両画像の画像特徴量の集約度が高いデータを一覧表示して検索キーを受け取るユーザインタフェースを用いた画像検索方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【公開番号】特開2009−151586(P2009−151586A)
【公開日】平成21年7月9日(2009.7.9)
【国際特許分類】
【出願番号】特願2007−329481(P2007−329481)
【出願日】平成19年12月21日(2007.12.21)
【出願人】(000005108)株式会社日立製作所 (27,607)
【Fターム(参考)】
【公開日】平成21年7月9日(2009.7.9)
【国際特許分類】
【出願日】平成19年12月21日(2007.12.21)
【出願人】(000005108)株式会社日立製作所 (27,607)
【Fターム(参考)】
[ Back to top ]