説明

交通にとって重要な情報を認識する方法及び装置

走行する車両において交通にとって重要な情報(I)を認識する方法及びこの方法を実施するために設けられる装置において、視覚センサ(3)の画像データ(B)及びナビゲーションシステム(4)のカードデータ(K)が、認識のためそれぞれ予め評価され、前評価の結果が集められて解釈される。信号の速やかなモジュール処理を可能にするため、 第1の光景解釈部(10)において画像データ(B)が、含まれる交通にとって重要な情報(I)を探索されて、重要な画像データ(B)に圧縮され、
第2の光景解釈部(20)においてカードデータ(K)が、含まれる交通にとって重要な情報(I)を探索されて、重要なカードデータ(K)に圧縮され、
重要な画像データ(B)及び重要なカードデータ(K)が、制御機構(40)と画像データ及びカードデータを解釈する状態オートマトン(50)とへ供給され、制御機構(40)が重要な画像データ(B)及び重要なカードデータ(K)を評価し、かつ実行すべき動作(A)を状態オートマトン(50)へ転送し、実行すべき動作(A)に基いて状態オートマトン(50)が予め規定された状態(Z)を持つ状態空間において移行を行い、この状態(Z)又は移行に対応する情報(I)を出力する。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、請求項1及び16の上位概念に記載の、走行する車両において交通にとって重要な情報を認識する方法及び装置に関する。交通にとって重要な情報は、例えば許容最高速度を表示する特に交流標識である。交通にとって重要な情報は、例えば許容最高速度を示す特に交流標識である。しかし本発明は、明白な交流標識のほかに、基本的に、光学的に検出可能で特定の走行挙動を規定するすべての情報に関する。視覚センサ特に走行方向に向く光学カメラの画像データ、及びナビゲーションシステムのカードデータが、認識のためそれぞれ前もって評価され、この前もっての評価の結果がまとめられて解釈されるようになっている。
【背景技術】
【0002】
最近の自動車における多くの開発は、走行中に交通にとって重要な情報に運転者が気をつけて、運転を全体として安全に行うために役立っている。これには、特に現在有効な最高速度の表示が属し、運転者に対する単なる付加的情報のほかに、制動又は加速により車両の速度への直接介入にも使用可能である。
【0003】
以前からナビゲーションシステムが公知であり、道路の推移及び道路の形式のほかに、そのつど有効な速度限界も一緒に入力される。しかし道路カードに固定的に入力されるこの速度限界の質は、ディジタル化されるカードの完全性及び現実性に著しく関係している。速度限界の変化後、経験によれば、この新しい速度情報がディジタルカードへ入力されるまでに、かなりの時間がかかる。もっと大きい問題は、ディジタル道路カードが頻繁にナビゲーションシステムに記憶されており、経験によれば、利用者により比較的まれにしか現実化されないことである。なぜならば、これがかなりの費用に結び付いているからである。
【0004】
例えば交通の流れに合わせた情報及び速度限界を持つ高速道路又は建築現場の交通標識橋により前もって与えられる一時的な情報を検出することは、更に困難である。これらの変化する情報は特に安全性にとって重要である。なぜならば、自動車の運転者にこうして前もって与えられる速度限界又はその他の規則は、現在の交通の流れ又は現在の危険な状況に合わされているからである。しかしこれらの状況は、所定のナビゲーションシステムによっては検出不可能である。
【0005】
これに対してドイツ連邦共和国特許出願公開第19938261号明細書は、一時的な場所条件または個人的な運転者の印象を区間に関係して一緒に考慮することを提案しており、そのため自動的に又は手動で入力可能な一次的場所条件例えば一時的な速度限界又は渋滞警告などが、可変な電子区間カーカとしてセット可能であり、区間の反復される走行の際これらのマーカが表示され、かつ/又は自動的に制御される自動車の作動に制御するように介入する。しかしこの場合、これらの情報が一般に区間の再度の走行の際初めて利用可能であり、運転者が未知の区間を初めて走行する時には、読出し不可能である、という特別な問題がある。
【0006】
ドイツ連邦共和国特許出願公開第19938267号明細書は、ビデオカメラを介して検出され、続いて解釈されかつ車両内に表示される交通標識の電子認識システムを提案している。認識される交通標識は、測定可能な電子区間カードに場所に関して記憶されて、ディジタルカードの質を改善し、交通標識と測定される区間データとの一層良好な相関関係を可能にするようにしている。これに補足してドイツ連邦共和国特許出願公開第19938266号明細書により、1つの交通標識又は複数の交通標識の1つの疑いない認識の際、自動的に論理的考慮を行って、継続する交通流れパラメータ及び/又は交通標識が解釈のため一緒に利用され、それから最小の可能な速度限界が求められるようにすることが提案されている。これらのデータの記憶は場所に関係して行われ、運転に修正の可能性が与えられる。
【0007】
ドイツ連邦共和国特許出願公開第10354910号明細書は、自動制御するナビゲーションシステムを備えて道路の縁に設けられた交通標識に注意する自律車両を開示している。そのためカメラは、車道に沿って設置された交通標識を記録する。画像プロセッサがこれらの画像を分析して、交通標識に含まれる符号内容を求める。同時にナビゲーションデータバンクにおいて、車道についてのカード情報が記憶されている。人工知能を持つ電子制御装置が、走行する自動車の現在の位置及び道路状態を、ナビゲーションデータバンクに記憶されているカード情報及び画像プロセッサにより読取られる符号内容に基いて検出する。それから検出の結果に基いて、プロセッサがかじ取り操作、速度の減少/増大操作、及び自動制御ナビゲーション作動に関連する動作を制御する。しかしこのシステムは、まず車道に限られている。なぜならば、そこでは使用される符号が限られ、符号の解釈及び認識が、多くの他の道路特にしばしば見通し不可能な標識を持つ市街におけるより著しく簡単だからである。
【0008】
欧州特許第1114372号明細書は、交通標識を認識しかつ走行するための方法及び装置を記載している。交通標識を認識すると、交通標識認識データが作成され、車両の位置を確認するためのナビゲーションデータが供給され、その際交通標識認識データとナビゲーションデータが互いに合わされ、場合によっては更新される。このためこれらのデータが共通な評価装置へ供給され、この評価装置が現在有効な速度限界を求め、場合によっては制御信号を発生する。
【0009】
しかし前述したすべてのシステムは、画像データ認識に基いて得られるデータが非常に広範囲であり、少なくともすべての画像データが適当に評価される時、前述したデータ処理がしばしば実時間では行われない、という問題と格闘せねばならない。
【0010】
この理由から欧州特許第1145186号明細書は、カードに基く少なくとも1つのナビゲーションシステムとカメラにより記録される交通標識の内容を表示するシステムとを持つシステムを提案しており、カードに基く情報に基いて、交通標識の認識に関して問題がある範囲を車両が通過することがわかると、交通標識を認識するシステムが、高められた能力で動作し始める。そのため自動車全体において、空いているデータ容量を利用するため多重プロセッサが使用される。しかしこの場合基礎となっているカードに基くシステムに、画像検出のため場合によっては評価困難な状況が生じる可能性のあることについての情報が既に存在する時にのみ、高められた計算容量が利用可能である、という問題がある。
【発明の概要】
【発明が解決しようとする課題】
【0011】
これに対し本発明の課題は、視覚センサの画像データ及びナビゲーションシステムの画像データに基く交通にとって重要な情報の認識を可能にして、認識された画像データ及び認識されるカードデータを一緒に分析し、簡単に適合可能で信頼できる情報を速やかに供給することを提案する。
【課題を解決するための手段】
【0012】
本発明によれば、この課題は請求項1及び16の特徴によって解決される。
【0013】
そのため最初に述べた種類の交通に関係する情報の認識方法では、特に画像データが、第1の光景解釈部において、含まれている交通にとって重要な情報を探索されて、重要な画像データに圧縮されている。画像生データは、前にある処理部7において、縁検出、円検出、トラッキング、訓練される分類器による分類のような画像処理から成る方法により処理される。その結果は、検出されてクラスに対応せしめられる交通標識である。これらの交通標識は、下位ブロックとしての光景解釈部10において、融合モジュール2により重要な情報に圧縮され、それぞれの″光景″の解釈が行われる。交通にとって重要な情報は、走行挙動及び特に許容又は適切な最高速度に影響を及ぼす特定の交通標識特に速度を限定する交通標識、車道標識、障害物等であってもよい。更にカード情報が、第2の光景解釈部において、含まれている交通にとって重要な情報を探索され、同様に重要なカード情報に圧縮される。カードデータの交通にとって重要な情報は、例えばカード材料において入力される速度限界、追越し禁止に対する情報、又は事故、障害物、建築現場等のようなテレマティックシステムのその他の現在の情報であってもよい。例えば出口、環状交差路の範囲のような場所的状態についての情報、及び道路階級、車線の数、道路の経過、右側交通又は左側交通、国のような現在走行している道路区間についての情報も含まれる。画像データ又はカードデータにある交通にとって重要な情報を認識する際、利用可能なそれぞれ他のデータにより第1の不明確さを除去し、有効な画像圧縮を行うことができるようにするため、場合によっては第1及び第2の光景解釈部が、特定の情報を交換することもできる。圧縮される画像情報は、例えば規定されたデータ形式におけるベクトルとして出力することができる。
【0014】
続いて、重要であると認識されて圧縮される画像データ及びカードデータは、制御機構と画像データ及びカードデータを解釈する状態オートマトンへ供給され、制御機構が画像データ及びカードデータを評価し、実行すべき動作を状態オートマトンへ転送する。状態オートマトンは、制御機構により規定されて状態オートマトンが行うべき動作に基いて、前もって規定された状態間の移行を行い、移行又は移行によって得られる(新しい)状態に対応する情報を出力する。
【0015】
本発明によれば、状態オートマトンに、走行する自動車の特性及び場合によっては周辺を特徴づける状態が規定されている。このような情報は、例えば車両の速度、ヨーレイト、加速度データ又は減速度データ、道路の種類及び状態についての表示、視覚センサの状態表示及び/又はカード材料特にその老化等のような安全にとって重要なセンサの応動を含んでいる。本発明によれば、EPSシステムのセンサクラスタからのデータにアクセスされる。本発明によるシステムにより考慮される車両及び周辺の特徴の組合わせは、状態空間の状態として予め規定され、特に交通にとって重要な情報の認識により状態の規則に一致する解釈により解かれて、走行する自動車がちょうどその周辺にある状態を特徴づける。
【0016】
時間的展開において、走行する車両の状態は変化することがある。これは、例えば車両が速度制限なしの範囲から特に交通標識例えば道路の特定の構造状態(中央ガイドレールを取付けられた2車線道路)又はその他の状態により規定される速度限定範囲へ入る時に、起こる。視覚センサの画像データ及び/又はナビゲーションシステムのカードデータがこのような交通にとって重要な情報の存在を検出すると、圧縮された情報が制御機構において評価され、この評価の結果が実行すべき動作として状態オートマトンへ送られる。状態オートマトンは、制御機構の実行すべき動作を、その状態空間における移行と評価し、この状態空間において初期状態から始まって新しいか又は場合によっては再び同じ最終状態への変化が行われる。この移行又は新たに得られる状態は、移行の仕方に応じて、状態に対応する特定の情報出力を伴い、例えば運転者が速度制限のない道路区間から速度制限区間へ80km/hの速度で入ったことを、運転者に指摘する。
【0017】
本発明によるシステムの実行に応じて、状態オートマトンにより出力されるこの情報が、運転者の情報のほかに、例えば制動作用の開始により自動車への直接介入のためにも、変換され、最高速度について現在の交通にとって重要な情報が表示するより速く自動車が走行する時、リミッタに対する速度の規定、即ち適応クルーズ制御のための速度の規定が本発明により思い出されている。
【0018】
本発明によるシステムは、その構造において、本発明による方法及び装置の機能を簡単に変化しかつ適応させるのを可能にするモジュール構造を持っている。例えば光景解釈部において、新しい交通標識又はその他の情報が処理され、制御機構又は状態オートマトンにおけるそれ以上の適応を必要とすることなく、システムにより既に利用可能な圧縮された画像データ又はカードデータとなるように更に処理される。
【0019】
供給される入力データにおいて矛盾する状態の規則に一致する精細度を可能にする制御機構と、規則解釈部にはほぼ関係にない自動車及び周辺の状態を規定する状態オートマトンとに、計算装置を分割するためにも、規則セットを容易に変更して適応させることができる。例えば規則セットを種々の国のために簡単に規定し、境界を越える際制御機構を即応させることによって、システムへモジュール毎に装入することが可能である。その代りに1つだけの制御機構を使用する場合、1つの国において特定の規則を機能又は停止させることができ、制御機構を国特有なものに交換することが考えられる。別の実施形態は、道路交通のための法規に関する国に特有な要求に関係する、制御機構における規則の国に特有な交換である。状態オートマトンにおける変化は一般に必要でない。なぜならば、そこでは規則解釈部とは原理的に無関係な自動車の状態が規定されているからである。
【0020】
システムの個々の装置又はモジュールは、全システムの簡単なモジュール構造を変化することなく、任意に複雑に構成することができる。これは、複雑なデータの認識の際にも、停滞しない実時間処理を可能にする。こうして僅かな費用で、場合によっては将来考えられる別の入力源(例えばテレマティック使用から第3者の車両データ)への適応も行うことができ、本発明はこれらの入力源にも関する。
【0021】
本発明によれば、制御機構において、特別な規則セットにより、重要な画像データ及びカードデータの内容解釈が行われ、制御機構により規定される動作が、認識されている規則により維持される挙動をパラメータ化すると、特に有利である。それにより検出される画像データ及び/又はカードデータの内容評価を必要にする交通にとって重要な情報の認識の一部が、論理的に独立したブロックに統合され、例えば入力信号源の性能の変化、道路交通規則の変化又は変わった交通規則を持つ他の国への走行により、外部から規定される変化の際、このブロックを簡単に適応させることができる。そのために、透明で容易に適合可能な制御機構を選んで、特に種々の国の変化に簡単に合わせることができると、有利である。
【0022】
本発明により特に有利に使用可能な制御機構のマッピングは、アルゴリズムにより評価可能なマトリクスにより行うことができる。これは、特に重要な画像データ、カードデータ、及び場合によっては別のデータ例えば視覚センサの状態についての状態情報、速度、周辺温度、道路状態(湿り、雪、滑る氷)、ESPデータ等がベクトル情報として存在し、制御機構及び状態オートマトンへこの形で伝送される時に、現れる。適当なマトリクス演算により、認識された画像データはカードデータから、数学的に簡単な形で適当な動作が誘導される。しかも制御機構は、2つのアレイの形で構成されるが、規則の評価のために″古典的なマトリクス演算″は使用されない。
【0023】
特に好ましい実施形態によれば、状態オートマトンが、車両及び/又はその周囲の所定の状態を持ち、制御機構の実行すべき動作が、状態オートマトンにおいて、所定の状態から他の所定の状態又は自身への移行を行う。予め選ばれた所定の状態で本発明により状態空間を規定することにより、簡単なモジュラーシステムが形成され、規則の影響についての表出が、交通にとって重要な情報の認識に基いて、大きい計算出力なしに、車両及び/又は周辺の新しい状態の規定のために、また情報の出力のために、ディスプレイ又は車両制御装置において行われる。
【0024】
このため状態オートマトンにおける移行自体が、例えば車両の表示器への情報の出力と結び付いていると、特に有利である。こうして行われる移行の際、必要なデータ出力が特に速く行われる。
【0025】
状態オートマトンが、その現在の状態を制御機構へも戻し通報することができ、それにより重要な画像データ及び/又はカードデータの解釈の際、制御機構が車両及び/又は周辺の状態も一緒に考慮することができる。これを行うため、重要な圧縮された画像データ及び重要な圧縮されたカードデータを同時に制御機構及び状態オートマトンへ供給することができるので、現在の状態が、状態オートマトンにより、場合によっては規則の評価中にも制御機構へ戻し通報される。特定の制御の際これが望ましい場合、例えば現在の状態情報が規則の評価前に制御機構に存在せねばならないことを、制御が考慮することもできる。
【0026】
本発明によれば、状態オートマトンが、特に状態オートマトンの出力挙動を表わして例えば車両の状態を特徴づける情報を処理する主状態機械と、特に一時的に変化する車両の特別な周辺条件例えば建築現場区間または相互交通標識区間を表わす1つ又は複数の周辺状態機械とに分割可能である。状態オートマトンを複数の異なる状態機械に分割することにより、制御機構により規定されて行うべき動作に基いて、複数の移行の並列処理も行うことができる。
【0027】
本発明による方法の特に好ましい実施形態によれば、第1の光景解釈部及び第2の光景解釈部が、重要な画像データ又はカードデータに圧縮する際、即ち交通にとって重要なデータの存在及び認識の際、制御機構及び状態オートマトン用の全トリガ信号を発生するトリガ制御部にトリガ信号を送る。全トリガ信号により、制御機構及び状態オートマトンが、それらの内部入力端にかかる圧縮されるか又は重要な画像データ及びカードデータを処理する。全トリガ信号を受けた後、制御機構は実行すべき動作を決定し、状態オートマトンは存在する情報からその状態を検出し、それにより実行すべき動作を得た後、その初期状態から新しい状態への移行を行うことができる。本発明によれば、制御機構は、その規則解釈の終了後に、かつ場合によっては動作の出力と共に付加的なトリガ信号を状態オートマトンへ送り、それによりこのオートマトンが移行を直ちに行う。
【0028】
本発明の簡単な実施形態によれば、トリガ制御部が、全トリガ信号を発生するための第1及び第2の光景解釈部の両方のトリガ信号のOR回路を形成することができる。
【0029】
しかしトリガ制御部の好ましい変形例は、第1又は第2の光景解釈部の第1のトリガ信号の印加の際、カウンタ例えば現在の車両速度を積算する距離カウンタを動作させ、最大計算値例えば進んだ最大距離の終了の際、又は第2又は第1の光景解釈部の第2のトリガ信号の印加の際、全トリガ信号を発生する。それにより種々のデータの間の時間的非同期性を阻止し、制御機構及び状態オートマトンによるデータの評価の最適な時点を規定することができる。制御機構及び状態オートマトンは、全トリガ信号を同時に受けるのがよく、それにより制御評価及び状態オートマトンにおいて認識される状態が同じデータに基き、制御機構の動作により開始される移行が、状態オートマトンにおける正しい状態からも始まる。別の実施形態において、画像認識データの前処理からトリガの印加の際、全トリガ信号GTが直ちに発生され、カード情報の前処理からトリガの印加の際にのみ待たれるように、全トリガ信号GTが発生される。
【0030】
第1及び/又は第2の光景解釈部において、所定の基準により重要な画像データ及び/又はカードデータが有利に選択される。そのため異なる時点に検出される重要な画像データ及び/又はカードデータを時間的に関係させることができる。異なる時点にセンサにより検出される交通標識又はその他の情報は、従って全部関係づけられ、これにより例えば走行する自動車が交通標識を実際に通過する時点が検出される。更にカメラ位置又はセンサ位置の認識及びセンサ面上における交通標識の場所例えばCCDカメラの画素から、重要な画像の場所選択が行われ、信号の時間的及び場所的相互関係が、光景の一層精確な解釈を可能にする。データにおける場所的及び時間的相互関係は、例えば車線にとって重要な情報が場所を解明する検出なしには検出困難である交通標識橋において与えられる。カードデータの範囲において更に、自動車の現在の速度ベクトルから、多分近いうちに重要となる情報の予測を行うことが可能である。これに関して、第1及び第2の光景解釈部が特にすでに圧縮された画像データ又はカードデータを交換し、それにより1つの光景解釈部の認識された情報が他の光景解釈部において利用可能であると、有利である。
【0031】
特に第1及び第2の光景解釈部が比較可能な速度で相対動作するために、本発明によれば、視覚センサの画像データが、第1の光景解釈部の前にある処理部において、求めるべき画像データ及びカメラ状態データの前選択に限定される。状態情報は、例えばカメラの性質状態(暗さ、汚れた前窓ガラス等)を表示することができる。これらの状態情報も制御機構の範囲内で使用されて、画像データ及びカードデータの間で情報が相違している場合、両方のデータのどちらが一層高い確率で正しいかを示す。
【0032】
既に述べたように、第1及び第2の光景解釈部は、本発明によれば情報を交換して、各光景解釈部において画像データ及びカードデータの最適な圧縮を行う。特に1つの光景解釈部における交通にとって重要な情報の認識は、直ちに他の光景解釈部へ伝達されるようにする。
【0033】
更に車両生データ例えばESP、速度等のような車両センサデータ、及び/又はカメラ状態データ例えば明るさ、画像品質などが、交通にとって重要な情報の認識の過程において、特に光景解釈部、制御機構及び/又は状態オートマトンにおいて利用可能であると、特に有利である。
【0034】
前述した方法のほかに、本発明は、画像データを得るための視覚センサのシステムへの接続端子、カードデータを得るためのナビゲーションシステムへの接続端子、及び認識の結果を表示又は処理するための表示器への接続端子を持つ、走行する車両にあって交通にとって重要な情報を認識する装置にも関する。本発明により提案される装置は、特に前述した方法段階を実施するために設けられている。
【0035】
そのため装置は、光景を解釈し、得られる視覚センサのセンサデータ及びナビゲーションシステムのカードデータを圧縮し、かつ圧縮されたセンサデータ及びカードデータを制御機構及び状態オートマトン付きの計算装置へ転送するための手段を持っている。光景解釈手段は、画像データを処理する場合、特に画像処理ソフトウエア及び認識ソフトウエアを持つ装置であってもよい。ナビゲーションシステムのカードデータの場合、光景解釈手段は、特にカードデータを交通にとって重要な情報に濾波するフィルタ手段であってもよい。
【0036】
制御機構は、本発明によれば、光景解釈によって得られる圧縮された画像データ及びカードデータを評価し、実行すべき動作を状態オートマトンへ伝送するために設けられている。本発明による状態オートマトンが、実行すべき動作に基いて、所定の状態を持つ状態空間において移行を行い、新しい状態又は移行に対応する情報を表示器へ接続端子を介して出力するように設けられている。表示器は光ディスプレイ、音響出力装置又は制御器であってもよく、この制御器は、車両機能へ直接介入して、例えば車両が所定の最高速度より速い時、制動を開始する。例えばクルーズ制御、適応クルーズ制御又はリミッタのような他の運転者援助システムへの論理結合を行うことも考えられる。
【0037】
特に好ましい実施形態によれば、第1の光景解釈部手段及び第2の光景解釈部手段の後に、特に制御機構用開始信号として役立つ全トリガ信号を発生するトリガ制御部(トリガ)が接続され、状態オートマトンが、交通標識の有功長を監視するために常に動作せしめられる。標識がもはや有効と思われない場合、状態オートマトンが制御機構を再びトリガする。しかし本発明による構想の構成に応じて、状態オートマトンは制御機構の別のトリガ信号によっても始動可能である。
【0038】
本発明による装置の有利な構成によれば、第1及び第2の光景解釈手段、トリガ制御部、及び制御機構及び状態オートマトンを持つ計算装置が、共通な融合モジュールを形成し、この融合モジュールにおいて、外部インタフェースより故障の少ない特に高速内部インタフェースにより、個々の装置の間の接続が行われる。全融合モジュールは、メモリ、計算機構及び外部接続端子を持つ計算装置を持つ機器単位として構成可能であり、それにおいて前述した方法が実行される。融合モジュールを複数の別々の機器に分割するか、又は融合モジュールを直接カメラの制御器上で動作させることも当然可能である。
【0039】
融合モジュールに、画像データの前処理手段も含むことができるので、カメラまたは視覚センサ及び場合によっては他のセンサを融合モジュールへ直接接続することができる。これはデータバス上の適当な情報の取出しによっても行うことができる。その場合すべてのデータの処理は本発明による融合モジュールにおいて行うことができ、このモジュールの出力インタフェースはなるべく再びデータバスに接続され、交通にとって重要な情報を、車両の他の種々の機器により評価可能な標準化されたデータ書式で利用可能にする。
【0040】
こうして本発明によれば、交通にとって重要な情報を認識するため提案されたシステム(方法及び装置)のモジュール構造は、自動車においてこのような装置の具体化の際特別な利点を示す。なぜならば、組合わされた画像データ及びカードデータの解釈部を制御機構と状態オートマトンに分割することは、簡単かつ融通性をもって行われるからである。解釈事前設定は、透明でかつ取扱い容易な制御機構へ統合することができ、この制御機構を可能な変化に容易に合わせることができる。制御機構は、適当な出力を発生するため比較的複雑さの少ない状態オートマトンで使用される固有の判断論理素子を含んでいる。制御機構の変更はプログラム技術的に容易に行われ、場合によっては普通の検査の範囲内でも実現される。更に状態オートマトンの使用はプログラム技術的に非常に強固なシステムを示し、安全にとって重要な使用の際にも、高い処理確実性を与え、驚くべきことに静的な構成にもかかわらず、走行する自動車の状態を記述するためにも、交通にとって重要な情報特に交通標識及び速度限界の認識の領域において使用可能である。
【0041】
本発明のそれ以外の特徴、利点及び適用可能性は、実施例及び図面の以下の説明から明らかになる。上述しかつ/又は図示したすべての特徴は、請求項におけるその要約には関係なく、単独で又は任意の組合わせで本発明の対象を形成している。
【図面の簡単な説明】
【0042】
【図1】 自動車にあって交通にとって重要な情報を認識するための本発明による装置の構成を概略的に示す。
【図2】 本発明による装置の構成を詳細に示す。
【発明を実施するための形態】
【0043】
交通にとって重要な情報特に交通標識の認識のため図1に概略的に示される装置1は、カメラとして構成される視覚センサ3への接続端子を持ついわゆる融合モジュール2、ナビゲーションシステム4及び車両情報システム5を持っている。接続端子を介してカメラ3から画像データBが、ナビゲーションシステム4からカメラデータKが、例えば車両CANバスに接続可能な車両情報システム5から車両データFが、融合モジュール2へ伝送され、これらのデータから融合モジュール2が、交通にとって重要な所望の情報Iを検出する。
【0044】
融合モジュール2により検出される交通にとって重要な情報I、例えば現在有効な最高速度が、融合モジュール2により表示器6へ出力される。表示器6は、運転者情報に役立つ光学ディスプレイであってもよい。更に表示器は、車両制御部に至る制御インタフェースであってもよく、現在の最高速度以上にある車両速度が確認されると、車両制御部が例えば車両の速度に自動的に作用する。一般に表示器は任意の装置であってもよく、本発明により融合モジュール2によって検出される交通にとって重要な情報Iを更に処理する。
【0045】
カメラ3の画像データBが固有の融合モジュール2へ供給される前に、前の処理7が行われ、カメラ3から直接発する画像生データB′が多分交通にとって重要な情報Iを予選択する画像認識アルゴリズムにより求められ、縁検出又は円検出及び続く分類を伴う古典的画像処理及び関係のない画像範囲の消去によって処理される。処理された画像は固有の画像データBとして融合モジュール2へ供給される。画像生データB′は、並列に前に設けられる処理部7においてカメラ3の状態情報と共に求められ、この状態情報が付加的なカメラ状態データSとして融合モジュール2へ供給される。
【0046】
画像データB及びカメラ状態データSは、カメラ3の画像生データB′が受ける第1の評価段階の中間結果である。この前評価は、カメラ3に統合され、かつ本発明による第1の方法段階としての使用の範囲において融合モジュール2内で実行される。
【0047】
図2を参照して融合モジュール2の固有の動作を詳細に説明する前に、一層よい理解のために技術的周辺をもう一度明らかにする。
【0048】
本発明の目的は、走行する車両において、交通にとって重要な情報を認識する可能性を与えることであり、これらの情報を特に確実に利用可能にすることである。そのため利用可能な種々の生データが利用され、特に視覚センサ又はカメラ3及びナビゲーションシステム4により画像データB及びカードデータKとして供給される。
【0049】
このようなシステムはそれ自体厳密には既に公知である。しかしカメラにより援助されるアルゴリズムが、交通標識又はその他の交通にとって重要な情報を認識するための例えば提案される前の処理7の範囲において、また適当な交通標識の認識のためのナビゲーションシステム4のディジタル道路カードが、ディジタルカードにおいて、それぞれ単独に考察される場合、両方のシステムは重大な欠点を含んでいる。
【0050】
カメラにより援助される交通標識認識の際、例えた周辺光条件(光状態)に関係して、交通標識をすべての状態において確実に正しく認識することはできない。更に交通標識が損傷しまた一部覆われている場合、不確実さが存在し、交通標識又は類似の交通にとって重要な情報の不確実な視覚検出の別の欠陥源も考えられる。
【0051】
ディジタル道路カードの情報も若干の欠点を持っている。ディジタル道路カードにカードデータKとして含まれている情報は、古くなる可能性がある。更に例えば建築現場における一時的な速度規則及び知的交通案内のためますます使用される相互交通標識の速度情報は、ディジタルデータにおいて使用不可能である。ディジタル道路カードから、そのつど走行する道路区間のトポロジー(例えば発進の範囲、環状交差路の範囲)についての情報及びコース変更事象(最も確からしい道路の離脱)が既にセットされ、融合モジュールにおいて処理される。
【0052】
本発明により両方の個別システムの利点がまとめられるので、現在許される最高速度についての確実な情報I又はその他の交通にとって重要な情報を供給することができる。本発明によるシステムは簡単に車両へ統合可能であり、後で拡張可能である。同時に交通にとって重要な情報Iの検出及び評価を実時間で可能にする円滑な画像処理を行うことができる。
【0053】
このようなシステムは、以下に詳細に説明される本発明による融合モジュール2の範囲内で形成される。
【0054】
融合モジュール2はまだ生データとして存在するカードデータK、及び前にある処理部7にすでに受けた画像データBを、それぞれ外部インタフェースを経て受ける。好ましい構成では、信号Bは内部インタフェースを経て伝送される。図示しない別の外部インタフェースを経て、更にカメラ状態情報又はデータS及び車両データFが供給され、その際前記の外部インタフェースは完全に又は部分的にただ1つの車両データバス例えばCANバスにより形成することができる。供給される情報及びデータは、図2には詳細に示されてないが、図示したすべての装置で利用可能である。
【0055】
画像データBは第1の光景解釈部10へ供給され、カードデータKは第2の光景解釈部20へ供給され、これらの光景解釈部は、所定の基準により決定的な画像データ及び/又はカードデータを選択し、重要な画像データB又はカードデータKに圧縮する。圧縮されたデータB又はK、及び場合によっては利用可能なカメラ状態情報S及び車両データFが、融合モジュール2内でなるべくデータベクトルとして表現される。伝送は、特に効率的なデータ伝送を可能にする内部インタフェースを経て行われる。外部インタフェースは、車両に固有のセンサ例えばカメラ3への直接接続に用いることができる。更にディジタル道路カードのカードデータK及び/又は車両データFは、CANバスを経て伝送することができる。表示器6への認識された交通にとって重要な情報Iの伝送は、CANバスを経て行うことができる。
【0056】
重要な画像データB及び重要なカードデータKは、光景解釈部10,20から出て制御機構40及び状態オートマトン50へ供給される。制御機構40は画像データB及びカードデータKを評価し、この評価に反応して実行すべき動作Aを状態オートマトン50へ転送する。
【0057】
状態オートマトン50には、走行する自動車の状態及び/又は直接の車両周辺を表す所定の状態Zが規定されている。これらの状態は、なるべく実質的に客観的に測定可能な量により規定されており、その点で測定データに基いて実行すべき動作のためこれらの測定データの解釈を行う制御機構40の表示とは相違している。道路交通規則に従うカードデータ及び画像データの解釈を行う制御機構40において、実行すべき動作の検出の間のこの本発明により特に有利な分割を行うことによって、状態オートマトン50は車両及びその周辺の起こり得る状態を最終的に記述する。従って前もって規定される種々の状態Zは、全部の実現を表さねばならない。
【0058】
この簡単化された表示により、融合モジュール2を走行する車両に簡単に設け、選択されるデータから少ない費用で重要な情報Iを圧縮した出力することが特に可能である。制御機構40に一層広範な決定基礎を可能にするために、状態オートマトン50は、重要な画像データB及び重要なカードデータKに基いて検出される現在の状態Zを制御機構40へ戻し通報する。
【0059】
制御機構40により規定される実行すべき動作Aは、状態オートマトン50内で、初期状態と目標状態との間の移行により変換され、移行の仕方に応じて、初期状態と目標状態が同じ又は異なっていてもよい。移行を行う際及び/又は新しい状態に達する際、所望の重要な情報Iが表示器6へ出力される。情報は状態情報として永続的に出力可能である。その代わりに運転者への通報が速度限界の変化の際にのみ行われるか、又は現在許容される最高速度を超過する際運転者への警告が行われる。
【0060】
制御機構40及び状態オートマトン50が常に作動しないか、データ及び処理の停滞を生じる多数の処理すべき多数のプログラム段階を前へ押して行くようにするため、トリガとも略称されるトリガ制御部30が設けられ、画像データB又はカードデータKの光景解釈部10,20が供給されるデータB,K中に重要な情報Iを認識し、これを重要な画像データB又は重要なカードデータKに圧縮した時常に、トリガ制御部30が光景解釈部10.20からトリガ信号Tを受ける。このトリガ信号Tに基いて、トリガ30が全トリガ信号GTを発生し、この全トリガ信号が制御機構40及び状態オートマトン50へ供給されて、その演算を開始する。
【0061】
次に融合モジュール2の個々の素子をもう一度詳細に説明する。
【0062】
なるべく前にある処理部7においてすでに前処理された画像データBは、画像データB用光景解釈部10へ供給される。この解釈部の目的は、後で更に詳細に説明される制御機構40のために利用可能な入力データを受け、個々の画像データの充填を重要な情報に圧縮することである。そのためカメラ画像において認識された情報が、光景処理部10に規定されている重要な交通情報に翻訳されることによって、大抵の場合まだ画素データとして存在する画像データBが、光景解釈部10の入力端で論理データ情報(重要な画像データB)に変換される。
【0063】
画像処理は前にある処理部7において行われる。画像データBは、例えば記録、量、評価への信頼度及び画像処理の品質のような付加的情報を持つ分類された交通標識である。
【0064】
現在有効な最高速度を検出するため、光景解釈部10は例えば特定の交通標識の認識に向けられている。
【0065】
個別画像の解釈のほかに、カメラ3の順次に続く個別画像を時間的順序に並べることが必要である。なぜならば、走行する車両からの撮影が行われる時、交通標識は典型的に多数の個別画像で生じるからである。そのため時間的に非同時に検出される交通標識が内部で追跡されて、カメラ3の複数の画像において認識される交通標識を交通にとって重要な情報に対応させる。光景解釈部10において追跡される交通標識が例えば特定の時間にわたってもはや検出されないと、車両がこの交通標識を通過してしまい、この交通標識により規定される交通規則がいまや有効であることから出発することができる。この場合この光景の時間的連続(追跡)は終了しており、光景が“終了”していることの特徴が実現されている。その場合全光景が光景解釈部10において解釈される。
【0066】
例えば光景解釈部10を、現在有効な最高速度に対するデータを選択することに向けることができる。この場合解釈は、終了した光景において、所定の基準に従って、自己の車両にとって速度限界標識又は終了標識が選択され、重要でない標識が除外されることを、具体的に意味する。車道において各車線に対して例えば固有の速度を規定する交通標識橋では、標識の側方偏位を利用して重要でない標識を除外できるので、重要な交通情報Iを自己の車線に対して有効な速度限界に圧縮することができる。ディジタル道路カードから、車両が減速帯の範囲にあるという情報が存在すると、減速帯の側方のみに設けられる標識をこの減速帯に対応させることができる。光景解釈の終了後、求められる論理データが重要な画像データBとして、内部インタフェースを経て制御機構40及び状態オートマトン50により利用可能にされる。
【0067】
同様にディジタル道路カードにより利用可能にされるカードデータKを重要なカードデータKに圧縮することが、光景解釈部20の目的である。これは、カメラにより援助される交通標識認識用光景圧縮部10と原理的に対比可能である。そのため光景解釈の終了後別の内部インタフェースを経て制御機構40及び状態オートマトン50により利用可能にされる重要な交通情報を圧縮するために、現在のカード情報が予測のカード情報と一緒にされる。
【0068】
利用可能にされる重要なデータB及びKは、各ベクトル登録が前に規定された情報に対応しているベクトル形式で伝送される。
【0069】
更に1つの光景解釈部10又は20が、求めるべき情報に関して重要な光景の変化を、前の時間段階と比較して確認すると、両方の光景解釈部10,20がそれぞれトリガ信号Tを発生する。
【0070】
これらのトリガ信号Tはトリガ制御部とも称されるトリガ30へ供給され、これらのトリガ信号Tに基いてトリガ30が全トリガ信号GTを発生し、この全トリガ信号GTが制御機構40及びなるべく状態オートマトン50にも供給される。この全トリガ信号GTを受けると、制御機構40及び状態オートマトン50が、利用可能な重要なデータB及びKの解釈または評価を開始し、その際制御機構40が、これらのデータを、マトリクスに記憶されている所定の規則情報に従って解釈し、状態オートマトン50が、これらのデータから、車両及び/又はその周辺の現在の状態を評価する。
【0071】
これにより、なるべく計算機構として構成された融合モジュール2において、全体として計算時間が節約される。なぜならば、制御機構40及び状態オートマトン50は、交通にとって重要な情報Iの変化がある時にのみ、計算時間を必要とするからである。これに反しこのような変化があるまで、入力データから重要なデータをできるだけ速く圧縮するために、高められた計算能力が光景解釈部10,20により利用可能である。
【0072】
最も簡単な場合トリガ30は、両方の個別トリガ信号TのOR結合によって実現可能である。しかし図示した構成では、全トリガ信号GTは次のように求められる。光景解釈部10又は20のトリガ信号Tが印加されると、例えば距離カウンタ及び経時タイマとして構成されかつ現在の車両速度に基いて特定の距離のために継続して計算するカウンタが動作せしめられる。このカウンタはこうして現在の車両速度を積算する。所定の最大距離の終了前に、他方の光景解釈部20又は10の第2のトリガ信号Tが印加されると、全トリガ信号GTが直ちに動作せしめられる。距離カウンタの最大距離の終了まで第2のトリガ信号Tの動作が行われないと、カウンタ又は最大距離の終了により、全トリガ信号GTがセットされる。これは、両方の光景解釈部10,20のうち1つだけが交通にとって重要な情報を確認できたことを示す。
【0073】
従ってトリガ30による制御によって、交通標識及びその場所がディジタルカード情報においてしばしば一致して重ならないことによってしばしば生じる時間的非同期性を阻止することができる。
【0074】
全トリガ信号GTの印加の際、光景解釈部10,20の重要なデータB及びKに基いて、制御機構40が利用されて、重要なデータB及びKに含まれる情報を、有効な交通規則に従って評価する。これらの実行すべき動作Aは、状態オートマトン50において移行に換算され、これらの移行により状態オートマトン50において第1の状態から第2の状態への変化が行われるが、第2の状態は第1の状態と一致していてもよい。制御機構40は、異なる国における種々の交通規則を考慮できるようにするため、国に特有に構成することができる。制御機構40の提案された構造は、(例えば法律の変更のため)交通規則の融通性のある変更を行うことも可能にする。
【0075】
状態オートマトン50により、走行する自動車及び/又は車両周辺の起こり得る種々のシステム状態が表わされる。この場合状態オートマトン50が、融合モジュール2の出力挙動を決定しかつ実質的に出力すべき情報Iを規定する主状態機械51を備える。主状態機械51は、例えば走行する車両に対応する状態を現在の許容最高速度に関して実質的に表わすことができる。
【0076】
例えば建築現場又は相互交通標識区間のような特別の周辺条件の表示は、1つ又は複数の周辺状態機械52によって可能である。これにより交通にとって重要な情報Iの認識の結果が全体として改善され、必要な情報の計算が促進される。制御機構40の実行すべき動作Aに関係して、状態オートマトン50又は主状態機械51及び/又は周辺状態機械52の間で、状態間の移行が行われ、交通にとって重要な情報Iの出力を新しい状態への移行又はこの状態の到達に結び付けることができる。こうして両方の場合に、状態に対応する情報Iが出力される。
【0077】
特に車両の現在の速度、テレマティックシステム又はカメラシステム−ナビゲーションシステムインタフェースを介して受信される他の車両又は車両の周辺にあるバークの情報を含む車両データFは、付加的な情報として、融合モジュール2において行われる評価部へ入り、なるべくベクトルの形で存在することができる。これにより限定形式が適応可能にされ、制限し、制限せず又は可変なものとして構成可能である。
【0078】
こうして本発明により、両方の個別システム“カメラにより援助される交通標識認識“及び“ディジタル道路カード”の利点をまとめることができる。融合モジュール2又はそこで実施される方法により、一時的な速度限界のみが存在するか、又は相互交通標識により示される情報が存在する時にも、交通にとって重要な情報及び現在許容される最高速度についての情報を、不利な周辺条件でも運転者に与えることができる。
【符号の説明】
【0079】
1 交通にとって重要な情報と認識する装置
2 融合モジュール
3 視覚センサ、カメラ
4 ナビゲーションシステム
5 車両情報システム、CANバス
6 表示器
7 前の処理部
10 光景解釈部、画像データ
20 光景解釈部、カードデータ
30 トリガ制御部、トリガ
40 制御機構
50 状態オートマトン
51 主状態機械
52 周辺状態機械
B 画像データ(検出されかつ分類された交通標識)
B′ 画像生データ
重要な画像データ
S カメラ状態の情報又はデータ
K カードデータ
重要なカードデータ
T トリガ信号
GT 全トリガ信号
F 車両データ
I 交通にとって重要な情報、最高速度
A 実行すべき動作
Z 状態

【特許請求の範囲】
【請求項1】
走行する車両において交通にとって重要な情報(I)を認識する方法であって、視覚センサ(3)の画像データ(B)及びナビゲーションシステム(4)のカードデータ(K)が、認識のためそれぞれ予め評価され、前評価の結果が集められて解釈されるものにおいて、
第1の光景解釈部(10)において画像データ(B)が、含まれる交通にとって重要な情報(I)を探索されて、重要な画像データ(B)に圧縮され、
第2の光景解釈部(20)においてカードデータ(K)が、含まれる交通にとって重要な情報(I)を探索されて、重要なカードデータ(K)に圧縮され、
重要な画像データ(B)及び重要なカードデータ(K)が、制御機構(40)と画像データ及びカードデータを解釈する状態オートマトン(50)とへ供給され、制御機構(40)が重要な画像データ(B)及び重要なカードデータ(K)を評価し、かつ実行すべき動作(A)を状態オートマトン(50)へ転送し、実行すべき動作(A)に基いて状態オートマトン(50)が予め規定された状態(Z)を持つ状態空間において移行を行い、この状態(Z)又は移行に対応する情報(I)を出力する
ことを特徴とする、方法。
【請求項2】
制御機構(40)において重要な画像データ(B)及びカードデータ(K)の内容の解釈が、特別な規則セットにより行われ、制御機構(40)により規定される動作が、認識される規則に基いて守るべき挙動をパラメータ化することを特徴とする、請求項1に記載の方法。
【請求項3】
制御機構(40)を表すため、アルゴリズムにより評価可能なマトリクスが使用可能であることを特徴とする、請求項1又は2に記載の方法。
【請求項4】
状態オートマトン(50)が、車両及び/又はその周辺がとることのできる規定された状態(Z)を持ち、状態オートマトン(50)において制御機構(40)の実行すべき動作(A)が、1つの所定の状態(Z)から他の所定の状態(Z)への移行を行うことを特徴とする、先行する請求項の1に記載の方法。
【請求項5】
状態オートマトン(50)における移行が情報(I)の出力に伴っていることを特徴とする、先行する請求項の1に記載の方法。
【請求項6】
状態オートマトン(50)がその状態(Z)を制御機構(40)へ戻し通報することを特徴とする、先行する請求項の1に記載の方法。
【請求項7】
状態オートマトン(50)が主状態機械(51)及び複数の周辺状態機械に分割されることを特徴とする、先行する請求項の1に記載の方法。
【請求項8】
第1及び第2の光景解釈部(10,20)が、重要な画像データ(B)又はカードデータ(K)への圧縮の際、トリガ制御部(30)へ送り、トリガ制御部が制御機構(40)状態オートマトン(50)用の全トリガ信号(GT)を発生することを特徴とする、先行する請求項の1に記載の方法。
【請求項9】
トリガ制御部(30)が、全トリガ信号(GT)を発生するため第1及び第2の光景解釈部(10,20)の両方のトリガ信号(T)のOR回路を形成していることを特徴とする、請求項8に記載の方法。
【請求項10】
OR回路が遅延OR回路であることを特徴とする、請求項9に記載の方法。
【請求項11】
第1又は第2の光景解釈部(10,20)のトリガ信号(T)の印加の際、トリガ制御部(30)がカウンタを動作させ、最大計数値に達するか又は第2のトリガ信号(T)の印加の際、全トリガ信号(GT)を発生することを特徴とする、請求項9に記載の方法。
【請求項12】
第1及び/又は第2の光景解釈部(10,20)において、所定の基準により、重要な画像データ(B)及び/又はカードデータ(K)が選択されることを特徴とする、先行する請求項の1に記載の方法。
【請求項13】
視覚センサ(3)の画像データ(B′)が、光景解釈部(10)の前にある処理部(7)において、求めるべき画像データ(B)及びカメラ状態データ(S)の前選択に限定されることを特徴とする、先行する請求項の1に記載の方法。
【請求項14】
第1の光景解釈部(10)と第2の光景解釈部(20)が情報を交換することを特徴とする、先行する請求項の1に記載の方法。
【請求項15】
車両データ(F)及び/又はカメラ状態データ(S)が、交通にとって重要な情報(I)の認識の際利用可能であることを特徴とする、先行する請求項の1に記載の方法。
【請求項16】
走行する車両にあって交通にとって重要な情報(I)を認識する装置であって、画像データ(B,B′)を得る視覚センサ(3)のシステムへの接続端子、カードデータ(K)を得るナビゲーションシステム(4)への接続端子、及び認識の結果を表示又は処理する表示器(6)への接続端子を持ち、特に請求項1〜14の1つに記載の方法を実施するために設けられているものにおいて、
視覚センサ(3)の得られた画像データ(B)及びナビゲーションシステム(4)のカードデータ(K)を圧縮するため光景を解釈する手段(10,20)、及び圧縮された画像データ(B)及びカードデータ(K)を制御機構(40)及び状態オートマトン(50)を持つ計算装置へ伝送する手段が設けられ、
制御機構(40)が、圧縮された画像データ(B)及びカードデータ(K)を選択し、かつ実行すべき動作(A)を状態オートマトン(50)へ与えるために設けられ、
状態オートマトン(50)が、実行すべき動作(A)に基いて、予め規定された状態(Z)を持つその状態空間において移行を行うか、又は状態(Z)又は移行に対応する情報(I)を接続端子を経て表示器(6)へ与えるために設けられている
ことを特徴とする装置。
【請求項17】
第1及び第2の光景解釈部(10,20)の後に、全トリガ信号(GT)を発生するトリガ制御部(30)が接続されていることを特徴とする、請求項16に記載の装置。
【請求項18】
第1及び第2の光景解釈部(10,20)、トリガ制御部(30)、及び制御機構(40)及び状態オートマトン(50)を持つ計算装置が、共通な融合モジュール(2)を形成していることを特徴とする、請求項16又は17に記載の装置。

【図1】
image rotate

【図2】
image rotate


【公表番号】特表2010−528398(P2010−528398A)
【公表日】平成22年8月19日(2010.8.19)
【国際特許分類】
【出願番号】特願2010−511564(P2010−511564)
【出願日】平成20年5月16日(2008.5.16)
【国際出願番号】PCT/EP2008/056031
【国際公開番号】WO2008/145543
【国際公開日】平成20年12月4日(2008.12.4)
【出願人】(509343699)コンチネンタル・テーヴエス・アクチエンゲゼルシヤフト・ウント・コンパニー・オツフエネハンデルスゲゼルシヤフト (9)
【出願人】(504087204)アーデーツエー・オートモテイブ・デイスタンス・コントロール・システムズ・ゲゼルシヤフト・ミツト・ベシユレンクテル・ハフツング (33)
【出願人】(509343703)コンチネンタル・エンジニヤリング・サービス・ゲゼルシヤフト・ミツト・ベシユレンクテル・ハフツング (2)
【Fターム(参考)】