有用な情報の自律的発生装置
【課題】無数の仕方で回路網を内部で修正し得ることは、発生され得る実行可能なコンセプトの数に膨大な数値的卓越性を可能にする。タンデム配置はこの仕事での完全な自律性を可能にする。
【解決手段】人間の創造力をシミュレートするための装置(20)は、ある予め定められた知識領域のなかで入力‐出力マップを作るべく訓練された神経回路網(22)と、予め定められた知識領域のなかに変化を生じさせる摂動を神経回路網に与えるための装置とを用いており、神経回路網(22)は神経回路網(22)の出力を第2の神経回路網(24)に与えるためのオプション出力(26)を有し、第2の神経回路網はそのなかでの訓練に基づいて出力を評価しかつ選択する。本装置は、前記神経回路網のなかで起こる変化にさらに影響を与えるべく第2の神経回路網(24)から第1の神経回路網(22)への相互フィードバック接続(28)を含んでいてもよい。
【解決手段】人間の創造力をシミュレートするための装置(20)は、ある予め定められた知識領域のなかで入力‐出力マップを作るべく訓練された神経回路網(22)と、予め定められた知識領域のなかに変化を生じさせる摂動を神経回路網に与えるための装置とを用いており、神経回路網(22)は神経回路網(22)の出力を第2の神経回路網(24)に与えるためのオプション出力(26)を有し、第2の神経回路網はそのなかでの訓練に基づいて出力を評価しかつ選択する。本装置は、前記神経回路網のなかで起こる変化にさらに影響を与えるべく第2の神経回路網(24)から第1の神経回路網(22)への相互フィードバック接続(28)を含んでいてもよい。
【発明の詳細な説明】
【発明の開示】
【0001】
本発明は人間の心のなかの創造力を模倣する内的なイメージおよび追加的なメカニズムをシミュレートするためのプロセスに関する。本装置は人工神経回路網(ANN)テクノロジーの領域の最近の進歩を使用して新しいコンセプト、デザイン、音楽、プロセス、発見および問題解決の完全に自律的な発生を可能にする。本テクノロジーを使用して得られる有用な情報の形式のいくつかの典型的な例を以下に説明し記載する。本装置は機械応答をそのつどの目的に適応させ、それにより計算機を、種々の刺激への人間の応答の仕方と通信し、またそれを解釈するのにあまり硬直的でなくするのに使用される。一層一般化された意味では、本装置または機械は自由意志および意識の連続的な流れと等価的な流れを供給し、それを通じて本装置は行動の新規なコンセプトまたはプランまたは他の有用な情報を定式化し得る。
【0002】
本発明以前に人工神経回路網(ANN)による生物学的システムの模倣はパターン認識、ニューラルコントロールおよび実験データの発生のような非創造的な仕事のために使用された。本装置はそのなかでシステムが行動の新規なプランおよびオリジナルなデザインまたは創作を合成するANNの新しいアプローチおよび新しい応用に相当する。われわれが自律的システムまたは“創造的機械”と呼ぶこれらのシステムは工学的発明を越えて審美または情緒の領域に入る想像力に富む行為を実行し得る。
【0003】
本装置は2つの必須の構成要素を用いる。すなわち(1)ある問題領域におけるトレーニングを含んでおり、漸進的に摂動され、また摂動の結果としてコンセプトを連続的に出力する神経回路網、(2)有用な出力を識別しかつ分離するべく第1の回路網の出力を連続的にモニターする第2またはパトローリング神経回路網。このタンデム配置は創造力およびおそらく注意意識のモデルと考えられ、またこの内的なイメージは摂動される回路網のなかで自発的に発生され、他方において第2のパトローリング回路網は審美的アピールを含むユーティリティもしくは他の有用な特性を処理する特定のイメージに連続的に注意を払っている。用いられる摂動はノイズの導入、回路網のリラクゼーションまたはデグラデーションなどを含む任意の多数の異なる手段により達成され得る。以上に説明した2つの構成要素は後で一層詳細に説明する。
【0004】
本システムが外部情報を受け取る必要がないことを強調することは重要である。その代わりに、情報は含まれている回路網の特性化パラメータに用いられる任意の数の確率論的および/または系統的なプロセスの結果として自発的に出現する。自走する神経回路網のこのタンデム配置およびそのポリシング‐カウンターパートにより、類似に露出または摂動される既知の装置または機械により発生されるものよりも質的に優れている概念を発生することが可能である。
【0005】
従来の技術の説明 本発明者は、ANNの入力または重みにある種の形式のノイズが与えられると、もしベクトル完成プロセスが回路網のトレーニングの間に遭遇される出力ベクトルを能動化するのに失敗するならば、新規な出力が生じ得ることを実証してきた。このような出力は一般に既知のトレーニング出力の組み合わせの形態をとり、また一般にそれが訓練された環境を模倣する。従って、知られているマウンティン‐レンジのようないくつかの装置または対象物の表面プロフィルを発生するべく訓練された神経回路網は、もし入力がランダムなシミュレーションを受けるならば、非常に尤もらしいが見慣れないマウンテイン‐レンジを作り出す傾向があろう。同様に、クラシック音楽を作り出すことのみを訓練された神経回路網は、ランダムな入力にさらされる時に、潜在的な可能なクラシックテーマを作り出す傾向があろう。本発明者は、静的回路網が数学的研究において検出されてきたいくつかの非常に新規な出力を生じてきたことを示してきた。しかし、知られているすべてのケースでは、それらはそれらの新規性に対して人間のオペレータにより隔離されてきた。対照的に、本装置はこのような回路網の出力を自律的に監視し、また、ポリシングまたはパトローリング神経回路網のなかで確立されたいくつかの予め定められた規範に基づいて、出現するコンセプトを選ぶ。このようなコンセプトはいくつかの目的に対する音楽または音楽上のテーマを作り出すこと、またはコーヒー用マグカップのようないくつかの模様をデザインすること、またはプロセス計画オペレーションを作り出すこと、または問題を解決すること、および多くの他の応用を含んでいてよく、そのいくつかは後で一層詳細に説明する。
【0006】
知られているANNはインプット‐アウトプット‐マッピングのようないくつかの領域で比較的高い精度を達成してきた。本発明は、有用な情報を生ずるべくANNの慎重なデグラデーション、従ってまたこのような精密なマッピングのコラプションの使用を教示する。こうしていくつかの知識領域を反復するべく訓練された回路網は回路網デグラデーションの低いレベルにおいて既知の模様のかなり代表的な例を発生し得る。たとえば、自動車のデザインの場合に、回路網のなかに存在する制約のゆえに回路網デグラデーションの低いレベルにおいて既存の車のかなり代表的な例を発生し得る。換言すれば、理にかなったデザインが作られる。回路網のデグラデーションの漸進的により高いレベルにおいて、このような回路網の制約は新規かつより珍しいハイブリッドな自動車のデザインを作るべくさらにリラックスし、そのいくつかは有用な応用ニッチまたはマーケットを満たし得る。通例から新規への移行を行う鍵は回路網のデグラデーションに関する制御および特定の回路網パラメータをそれらが訓練された値からリラックスまたは摂動する能力により達成される。こうして本発明による装置は通例の周囲または通例の付近をデザインし、また、いくつかの制約により制限されずに、創造的デザイナーがするのとほとんど同じ仕方で新しいデザインを創造する道を提供する。入力、内部活性化、重みおよびバイアスへの種々の形態の摂動の導入の結果として、このような既知のシステムはプロセスを制御し、またはオブジェクトまたはデザインを創造し得る。こうして本発明による装置により発生される情報はその後にプロセスなどを制御するのに使用するために蓄積され、および/またはある所望の仕方で発生されてきた出力を修正するその固有の決定に使用され得る。こうして本発明は、上記の2つの要素を含んでいる機械を使用してデザインまたは創造的な仕事を行うための他の道具および非常に広いベースの道具を提供する。しかし、1つの仕事の実行から別の仕事または別の目的の実行へその作動モードを自律的に変更することに対象装置を細同調またはトグルすることが意図されている。
【0007】
無数の仕方で回路網を内部で修正し得ることは、発生され得る実行可能なコンセプトの数に膨大な数値的卓越性を可能にする。本発明によるタンデム配置はこの仕事での完全な自律性を可能にする。
【0008】
発明の目的 創造力をシミュレートするための新規な手段の構成および作動を教示することが本発明の主要な目的である。
【0009】
他の目的は有用かつ想像力に富む出力情報を発生するため、以前に訓練された人工神経回路網を摂動させることにある。
【0010】
他の目的は、所望の出力を選び、また他の出力を排除するために、摂動させる神経回路網からの出力情報を監視することにある。
【0011】
他の目的は神経回路網に与えられる摂動の程度を制御することにより神経回路網のなかに制御可能な変化を生じさせることにある。
【0012】
本発明の上記および他の目的および利点は添付図面と結び付けての好ましい実施例の以下の詳細な説明を考察した後に明らかになろう。
【0013】
好ましい実施例の詳細な説明 参照符号により一層詳細に図面を参照すると、図1中に参照符号20を付されているのは本発明に従って構成されたシステムである。システム20は2つの基本的な構成要素、一つはイマジネーション‐エンジン(IE)22、もう一つはアラート連合センター(AAC)24を含んでいる。IE22は、漸進的に摂動されて、AAC24に供給される出力を生ずる人工神経回路網(ANN)である。AAC24も人工神経回路網であり、これはIE22への1つまたはそれ以上のフィードバック‐コネクション28を有し得る。IEまたはイマジネーション‐エンジンは、IEの訓練に抗して与えられ、またその重み、バイアス、入力、出力または内部能動化に与えられる通常はランダムノイズまたは摂動の形態の入力情報を受ける本発明による装置の部分を成している。イマジネーション‐エンジンはこの回路網が内部もしくは外部で摂動され、また、摂動またはノイズの存在中にパターン完了をなし遂げる試みの結果として、回路網の訓練に包含されているある所与の知識領域を通じて自由にさまよう出力を発生するアイデアを運ぶために記述されている。出力はリサイクルされ得る。IEの出力はAACにより監視またはパトロールされる。IEおよびAACは、なにがなし遂げられるべきか、また必要とされる入力および出力端の性質に依存する複数個の関係の1つまたはそれ以上にグループ化または結合され得る。IEおよびAACは複数個の結合されたANNを含んでいる一層複雑なシステムに組み合わせられ得るし、またある度合の創造力を必要とする問題を含む一層多くの含まれている仕事を実行し得る。
【0014】
神経回路網が、ニューロンの間の接続強度が漸進的に変えられるシナプシスな摂動プロセスを受ける時には常に、このようなプロセスが回路網が既に見ているまたは訓練されている環境特徴のメモリを能動化することは、すべての神経回路網に共通であることが見い出されている。その後に、回路網がその最初に訓練された状態から展開し続けるにつれて、このような環境特徴はハイブリッド化または並置された特徴に組み合わされる。たとえば、牛および鳥のイメージを含む種々の動物のイメージを生ずるべく訓練された神経回路網は最初に低レベルのシナプシスな摂動の間にこれらの動物および鳥のランダムでインタクトなイメージを生ずる。シナプシスな接続強度の漸進的に強くなる摂動がいま、一部は牛であり、一部は鳥である飛んでいる牛のイメージを含むハイブリッド化されたイメージを生ずる。換言すれば、IEのなかに包含されている同一のユニバースが、制約が次第に除かれるにつれて、解きほぐれ初め、また新しい聞いたことのない組み合わせが現れ出る。同様な理由で、インタクトな神経回路網は、人工神経回路網であろうと生物の神経回路網であろうと、それら自体の外部で生起するノイズまたは他のプロセスによって、新規な環境イメージを生ずるべく能動化され得る。このようなノイズは他の周囲の回路網の機能、リラクゼーションおよびデグラデーションおよび生物回路網または複雑な回路網実行の通信により発生される。結果は内部で発生される摂動を使用する時のそれと類似しており、まっすぐな環境特徴およびハイブリッド化された環境特徴の双方が自発的に現れる。
【0015】
これは、処理ユニットのある部分が必要とされる訓練またはマッピングに補充されずにとどまるように、複数個のニューロンのIEを構成することによっても成就され得る。これらの束縛されていないニューロンに摂動の影響を与えると、AACにより捕獲または処理または選択され得る有用なコンセプトの発生が有意義に増大される。本発明による装置の第2の主要な構成要素であるAACはIEにより発生される有用な情報または並置を識別するべく訓練されているANNに類似している。従って、AACはわれわれの例では特定の動物に対するようないくつかの特徴または条件を眺めている日和見的な回路網である。典型的な状況では、AACはIEにより合成されたハイブリッドに数値または他のスコアを割当てるべく訓練され得る。また、1つまたはそれ以上の分離したアルゴリズムが後での考察および洗練のために潜在的に有用なコンセプトを記憶し得るし、または代替的にハードウェア条件での結果に直ちに影響を与えるのに使用され得る。いくつかの実施例では、AACへの入力端のいくつかがIEの入力端に接続され得ないが、他の目的に対しては自由に残されていることも意図されている。このようにしてAAC選択規範は最初にまたは図3に示されている例に対しては作動中に調節され得る。
【0016】
組み合わされたIEおよびAACに対する3つの異なる作動モードを以下に説明する。これらのモードは別々にまたは種々の組み合わせで使用され得る。これらはモードA、BおよびCとして説明される。モードAでは、乱数発生を含む任意の数の技術がIEに新規な入力を与えるのに使用され得る。その結果、IEは新規な入力に基づいてベクトルを完成しようと試み、通常その結果としてその確立された訓練出力の変更または並置が行われる。AACは次いでこれらの結果としてのIEからのハイブリッド化された出力のユーティリティをチェックし、また図2中にA−Zとして示されている規範を選ぶべく値を割当てる。選択規範が満足される時、ハイブリッド化された出力は直ちに利用され、またはその後の使用のために記録され得る。
【0017】
モードBでは、固定された値がIEの入力端にクランプされているが、その重み、バイアスまたは内部能動化は、それらをそれらの最初の値から摂動させる乱数発生を含む任意の数の数値技術により摂動される。回路網相における内部完了プロセスは、IEの出力端に出現する新しい条件または並置されたコンセプトを生ずる。AACは次いでその固有の訓練に基づいてそれらをそれらの有用性に関して仕分けする。モードAの場合のように、これらの新しいコンセプトは回路網がリラックスするにつれて実時間で利用され得るし、またはその後の使用のためにアーカイブ‐ファイルのなかに記憶され得る。
【0018】
モードCでは、IE摂動が作用のプランまたは所与の問題を解く手順を作り出すのに使用される。このようなシステムは図4に示されている。この場合には、IEはその固有の出力をそれぞれの入力端にフィードバックし、また手順は一連のステップからなっており、その各々はさきのステップに付随的である。モードCでは、AACは各ステップが所望の結果の到達時に許容可能かつ有用なステップを形成するそのユーティリティを保証することを検査する。またモードCでは、AACはたとえば所与の重みまたはステップの除去、変更または交換により任意のスナージにおけるIEのアーキテクチュアを変更するのに使用され得る。モードCでは、作動を支配するアルゴリズムはIEのなかでランダムに選ばれ、また一定の値、たとえば零に設定された重みを有する。AACは次いでそのユーティリティまたは他の目的に対するシステム構成を評価する。もし評価された状態が許容可能なものでないならば、AACは一時的に除去された重みを交換する決定を行い、また駆動アルゴリズムに除去のための新しい重みを選ぶべく通報する。一端所望のシステム構成が得られると、システムはIEからより多くの重みを除去し始める。AACはオーパーオールなターゲット構成が得られたか否かをアラート(警報)している。もし肯定であれば、アルゴリズムは手順を成す成功裡の作動シーケンスを記憶し、またはある外部装置またはハードウェアメカニズムを制御するべくこの情報を直ちに運ぶ。この仕方で、IEとしての役割をするANNは、人間の脳が働く仕方と若干類似の仕方で、計算機またはその類似物を使用してのコンセプトまたはアイデアの記憶を助ける。これはこの装置では関係者または機械のユーザがIEに対するフィードバックを作ることにより達成され、IEでは異なる摂動がIEに対しその出力を上げるか変化するなどのいくつかの目的のために与えられる。多重のIEおよびAACの使用により一層複雑な出力が得られ、またいくつかの場合には一層正確かつ精密なデータが発生され得る。たとえば、この形式の多くの分離した回路網は、それにより多くの異なるAACの使用を必要とするコンセプト選択プロセスに使用され得る。
【0019】
上記のモードまたは並置のいずれでも摂動因子の任意の組み合わせがIEのなかに新規なコンセプトを発生するのに使用され得る。このような摂動は(a)重み、(b)バイアス、(c)能動化、(d)外部入力信号、(e)回路網のなかの任意の所与のユニットへの内部入力信号、または(f)回路網のなかの任意の所与のユニットからの内部出力信号のような種々の因子を組み合わせ得る。類似の仕方でパラメータa〜fは(1)それらの値を零のようなある一定の値に連続的に設定すること、(2)乱数表により得られるようなある不規則な数をそれらの最初の値に連続的に追加すること、それらを乱数表から得られた乱数により置換することによりそれらの値を連続的に変更すること、(4)通常ある遅れ定数を有する時間依存性の因子によりそれらの値を多重倍すること、(5)これらのパラメータが最初の値の周りでランダム‐ウォークを行うことを許すべく乱数表を通じて得られる正および負の乱数を連続的に追加すること、(6)ある統計的な周波数分布に従う数を追加すること(ここで、このような数を選ぶ確率確率関数に従う)、(7)設定された時間依存性の統計的分布に従う数を追加すること、および/または(8)上記の因子のいずれかを、重みおよびバイアスがそれらの訓練値からさまようのにつれてIEがその最初の制約された条件から漸進的にリラックスした制約へ滑らかに移行するように、ある徐々に増大する振幅因子により漸進的に多重倍することにより種々の手段により摂動され得る。完全には回路網のマッピングまたはトレーニングにおいて補充されていないニューロンにこのような摂動を特別に与えることにより高められる結果が得られることが見い出されている。
【0020】
要約すると、新規なコンセプトに到達する自律的探索手順が説明されてきた。
【0021】
また、このような探索手順は種々の知識領域に応用可能であり、また2つの別々の神経回路網の相互作用により到達される。第1のIE回路網はその訓練の知識領域のなかの出力を生ずるべく訓練されている。任意の数のANN特徴への摂動の導入はその接続強度およびバイアスの制約のもとに有意味な出力を生ずる知識領域を通じてIEをさまよわせる。回路網摂動のレベルが増すにつれて、制約はそれらの訓練された値から一層劇的にリラックスし始める。また連合センターまたは出力装置に警報するのにAACにより検出かつ利用され得る非在来のコンセプト並置が出現する。この技術の主な強さはIE回路網をその知識領域のなかのその知識の既知の特徴を簡単に複製する状態から常に少し新しい並置コンセプトが出現する摂動のその次の状態へ徐々にかつ系統的に摂動させ得るその能力である。在来のものから穏やかに非在来のものへの微妙な変化はAACにより自律的に識別かつ選択され得る新規かつ潜在的に有用な発明を生じ得る。こうして本発明による装置はその探索スペースを多くの異なる問題への解決を捜すことに制限し、またそれをユニークな仕方で行う。
【0022】
コーヒー用マグカップ‐デザイン いま図5〜8を参照すると、新規なコーヒー用マグカップなどのような模様のデザインおよび製造に使用され得る本発明による装置の実施例が示されている。
【0023】
本コーヒー用マグカップは審美的に望ましく、また有用な機能を提供し得る。しかし、本発明による装置がコーヒー用マグカップの製造に制限されることなく芸術的な仕事を含む多くの他のデザインおよび形状を作り出すのに使用され得ることは明らかである。本装置を本装置に三次元の形態で対象物、この場合にはコーヒー用マグカップを製造させるべく、レース、ステレオリソグラフィックまたはポッターホイールを含む他の作動装置とインタフェースすることも可能である。
【0024】
図5中には本装置20が右側に、またその上に取付けられた粘土の小山を有するポッターホイールが左側に示されている。また図5中には、図解的な形態で、コーヒー用マグカップを所望の形状に形成するべく粘土46の塊にこうして作動する装置またはオペレータ部材48も示されている。整形手段48に対する制御はIE出力に与えられる制御アルゴリズムを信号化する美しさおよび機能出力により選ばれるようなIE22の出力により行われる。
【0025】
図6は図5に示されている手段の論理フローダイアグラムである。このダイアグラムはIE22と、AAC24と、導線58を経てIEに戻されるノー出力とデザインを実行と記入されているステップ54を経て導線56を経てIEに戻されるイエス出力とを有する出力決定ブロック52とを含んでいる。ブロック52は、「IE出力がしきいを越えるか?」と記入されている。イエス出力54は、マグカップの形状を整形するような仕方でテムプレートまたは可動ピンのような装置を制御する。
【0026】
図7は、どのようにIE22の種々の部分の出力がこの場合には所望の形状を作り出すべく粘土46のボディと係合する手段を有するソレノイド48を制御するのに使用されるかを示す。ソレノイド62は組立体48の一部であり、またばね60により発生され、またIE出力に比例する電流により発生される磁気力によりオフセットされるばね張力により作動されるものとして示されている。
【0027】
図8は、審美的に満足であり、また実用性のあるものと、最小のユーティリティ値を有するものとを含む種々のコーヒー用マグカップのデザインを示す。カップ‐デザインは参照符号46A〜46Lを付されている。
【0028】
コーヒー用マグカップのデザインにあたって、種々のオプションが審美的および実用的な好みに関してアセンブルされなければならず、またこの情報がAACのなかにエンコードされなければならない。これは、一緒になってプロフィルまたは潜在的に可能なマグカップ‐デザインをシミュレートする垂直に一列に並べられた種々の長さのストライプを発生する計算機コードを使用して行われ得る。
【0029】
これらのデザインは不規則な長さおよび幅のストライプを使用して陰極線管などの上に表示され得る。またランキング‐スコアを使用して美しさおよび実用性に関する意見が集められ得る。こうして得られた情報は2つの別々の神経回路網、IEおよびAACを訓練するために使用されるべきスプレッド‐シートの上に置かれ得る。IEは入力およびAACが入力および出力の意義を反転するにつれて形状がいま入力および美しさ/ユーティリテイ‐レーティングとしての役割をし、またこれらが出力となるように美しさおよびユーティリティを使用して訓練されている。
【0030】
音楽 図9〜15は音楽作品または音楽フレーズを作り出すのに使用される本発明による装置70を示す。図9を参照すると、装置70は前記の構成のように一緒に結合されて示されているIE72およびAAC74を含んでいる。AACはIEの種々の出力のなかから選ぶように、またブロック76で出力音楽レーティングを作り出すように訓練されており、このレーティングは「レーティングがしきいを越えるか?」と記入されているブロック78に与えられる。もしレーティングがしきいを越えないならば、出力がリード80上に発生され、この出力は「新しいノートを無視する」と記入されているブロック82に与えられ、またこの出力端は「重みを更新」と記入されているブロック84および「ランダムな重み切り詰めを実行」と記入されているブロック86を含む他のブロックに与えられ、またリード90上でIEにフィードバックされる。もしブロック78の出力端がイエスであれば、出力は「バッファに新しいノートを加える」と記入されているブロック88を通じてIEの条件をさらに変更するべくIEにフィードバックされる。図9とコーヒー用マグカップの製造と結び付けて先に説明したデザインとの間の差は、図9中では出力がIEおよびAACの訓練に関係する特定の仕方で配置されている音楽トーンであり、また出力端が説明されるように音楽フレーズまたはテーマであることである。音楽作品または音楽テーマを作り出す際に、本発明による装置は前記のモードA、BおよびCを実施する類似のリラクゼーション技術を用い、またこうしてオリジナルな音楽テーマの有意義な合成を達成する。
【0031】
この実施例でのIEは「トウィンクル・トウィンクル・リットル・スター」、「デイジィ」および「マリー・ハッド・ア・リットル・ラム」のような多数のソングを実行するべく学習する回帰回路網である。示されているような回路網は図9中に示されているように8−10−8アーキテクチュアを利用しており、回路網の出力は入力としてフィードバックされている。最初の2つの入力はソング(S1)、(S2)をエンコードし、次の4つ(N1−N4)はノート‐オーダーを示し、また最後の2つ(F1)、(D1)は任意の所与のノートのピッチおよび継続時間を含んでいる。回路網の出力は音楽シーケンスのなかの次のノートに対する適切な値を持つ値のすべてと類似の意味を持つ。図10中に示されているような回路網は(L1〜L4)で示されている4つの相(1〜4)を有する。回路網の出力は同一の意味を達成するが、いまはシーケンスのなかの次のノートを表す。いずれも所望のマッピングを達成するために必要なニューロンの2つの隠された相が存在する。これは図10中にニューロンの2つの中央の列により示されている。最も左の入力S1−S2を(0、1)、(1、0)または(1、1)の値に設定することにより回帰回路網はそれぞれ「トウィンクル・トウィンクル・リットル・スター」、「デイジィ」および「マリー」を演奏する。回路網の入力端のすべて、特にS1およびS2への乱数の供給は回路網を1つのソングから他のソングへジャンプさせ、チューンを並置し、また音楽を作り出す。
【0032】
再び図10を参照すると、(1)異なったレベルの能動化による個々のニューロンの収縮および膨張の形態での回路網能動化、(2)それらのピッチを含むノートの最新の訓練の帯状記録紙記録、および(3)3つの訓練メロディのいずれかの線形組み合わせとして同時に作用する回路網の出力を分類するべく訓練されてきた別々の回路網の出力が示されている。この後者の特徴はハイブリッド化されたソングのなかの個々のチューンの重みを想像するのに助けになる。このような音楽のハイブリッド化は図10中でわれわれがAACにより選択されておりまた実行されている「トウィンクル」および「マリー」の組み合わせを見るところで生起している。IEの訓練は任意の特定のソングのなかで相い続くノートの間のマップを作り出すことにより成就される。入力として回路はソング‐ナンバーに対して2値コード化されたラベルを与えられている。たとえば、2値コード化されたソング‐ナンバー1−3はノードS1およびS2への入力であり、2値コード化されたノート‐オーダー1−31はノードN1−N4への入力であり、また周波数および継続時間値はノードF1およびD1への入力である。訓練のためのターゲットは同一の2値コード化されたソング‐ナンバー(出力ノートS1およびS2)、1の値によりインクレメントされる2値コード化されたノート‐オーダー(出力ノードN1−N4)および出力ノードF1およびD1のなかのソングの次の周波数‐継続時間対を含んでいる。ソングのラップ‐アラウンドは音楽シーケンスのなかの最後のノートを最初のノートへマッピングすることにより達成される。これまでに説明してきたことはIEの作動に関する。いま、IEからの出力端に作動するAACの機能および訓練を説明する必要がある。訓練目的に対して訓練計算機コードが1/f分布に従うノートのシリーズから成る4つのノートのシリーズを発生するべく書かれ、その特徴はわれわれが音楽として受け入れるすべてのサウンドの特性である。このトーンのシリーズは評価を受け、その後に評価する人間が0−10ポイントスケール上でその美的な値に応答することを要求された。この種の約100の試行の後に、各々がメロディから成る周波数のシリーズがそれらのコンセンサス‐ランキングに沿ってスプレッドシートに通された。従って、入力は数値スコアから成る訓練に対するターゲット値に沿うノート‐シーケンスから成った。実際のメロディは訓練セットのなかで実現され、またそれらのアピールに対する10の値でランク付けされた。他方においてランダム発生器からのノイズは0のランキング値でスプレッドシートのなかに埋められた。このデータでの訓練に続いて、訓練された神経回路網IEおよびAACが同一の計算機コードのなかに埋められた。
【0033】
IEはループのなかに置かれ、その入力端に零と1との間の値が乱数発生器から供給され、こうしてIEの出力端に複合メロディを発生した。いつでも演奏されるたかだか4つのノート(4つの周波数‐継続時間の対)を含んでいるバッファがAACの8つの入力によりサンプルされ、各々がその音楽的受容可能性についてレーティングされた。10ポイントスケール上で8のしきいを越える最良の音楽テーマが演奏され、また分離したファイルにアルカイブされた。本発明の装置により作曲された音楽の発生は図11中に示されている要綱により達成された。AACにより受容可能と思われるIEからの出力は計算機への相い続くノートの周波数および継続時間の双方を含むサウンド指令のシリーズとして連続的に伝達される。これらの全指令はディジタルからアナログ信号に変換され、またスピーカに供給され、そこでサウンドが聞かれ得る。従って、本発明による装置が受容可能なノート‐シーケンスを発生するにつれて、それは直ちに、装置のオペレータが作り出された音楽を聞くことができるように、それらをオーディオ出力装置に中継する。IEにより発生される次の4つのノートは同様にバッファに加えられ、また演奏される(以下同様)。AACにより捕獲されたこれらのメロディの10のサンプルが図12に示されている。それらの周波数FはHzで示されており(1オクターブが示されている)、また各ノートの継続時間Dは秒の1/18の単位で与えられている。
【0034】
オリジナルな音楽を合成する第2のアプローチは3−16−20のノーダルアーキテクチュアおよびIE20−10−1のノーダルアーキテクチュアのAACから成るように変更された本発明による装置の使用を含んでいる。前者は音楽フレーズまたはテーマから成るノート‐シーケンスを生じた。続いて、AACがこの試行メロディ‐フレーズをその音楽的受容可能性に関してチェックする。これは図13中に示されている。この場合IEは、所与の音楽フレーズのなかの最初の3つのノートのトーン周波数(すなわちHzで)に関するパターン完成を実行するべく訓練されている。訓練のための音楽フレーズは20のよく知られたソングからの非常に理解しやすいセグメントから成っている。こうして最初の3つのノートが与えられると、回路網は音楽シーケンスの残りのものを供給するべく訓練された。出力は10の相い続く周波数‐継続時間対から成っており、周波数はヘルツで、また継続時間は1/18秒の単位で与えられた。
【0035】
同一の装置のなかでAACはポピュラーなメロディ‐テーマからの20のノート‐セグメント、乱数表から選ばれた周波数から発生されたトーンの50例がおよびノイズおよび上記のポピュラーなメロディ‐テーマにのみ訓練された類似のIEへのノイズの導入により発生された約100の試行メロディの演奏により訓練される。訓練のためのターゲット値はポピュラーなテーマに対して1の数値スコア、IEが発生したメロディへの0−1の数値ランキング(ヒューマン‐パネリストにより決定されるような)および乱数表を使用して発生されるノイズに対する0の数値スコアから成っていた。
【0036】
IEの内部接続重みへの時変性入力および時変性摂動の双方のIE切り詰め導入の種々の組み合わせを使用して本発明による創造力機械が、11.000の音楽的に受容可能なテーマまたはフレーズがあつめられるまで、自律的に運転することが可能にされた。このプロセスにより作り出された典型的な音楽フレーズが図14に示されている。図15には本発明による装置により作り出された50の代表的な音楽フレーズが示されている。リストの最上段には各列のなかに示されているナンバーに対する周波数および継続時間に関する識別子が示されている。
【0037】
換言すれば、図15は各トーンの周波数および継続時間が指示されており、聴覚的に再現可能な音楽テーマのナンバーが示されている。
【0038】
自動車デザイン 本発明による装置の他の応用は、モードAおよびBでAACがIEのアーキテクチュアを変更しまたIE定数へのある種の入力を保持する決定を自律的に行うことを許される場合である。この例の趣旨は自動車または車をその主要な仕様および特性に関してデザインすることである。これはその所望の性能、保険適用、担保保証、盗難の確率および期待されるユーザーの満足度に関するいくつかの概念に基づいてなされる。本発明による装置を作り出すときの29のデザイン仕様の性能特性は図16中のIEへの可能な入力として示されている。AACは他方においてマップをデザイン仕様から性能特性へ反転する。回路網IEおよびAACの双方は29−10−29のノーダル‐アーキテクチュアを利用する。図16中に示されている構造100はIE102、AAC104およびAACからの出力端106を含んでおり、出力端106は「カンディデート自動デザインがパーフォーマンス規範を満たすか?」と記入されている決定ブロック108と接続されている。ブロック108はイエス出力端110を有し、この出力端はアルカイブ‐デザイン‐ブロック112に接続されており、このブロック112は分岐116を通じて装置100の入力端に接続されている。ブロック108の出力端は分岐118および116を経て装置100の入力端に接続されている。分岐116は「IEコネクション重みに摂動を与える」と記入されているブロック120を経てIE102の入力端に接続されている。ブロック120は「探索がNサイクル以上継続したか?」と記入されている他のブロック122に接続されており、このブロックは出力端124を有する。ブロック122の出力端124は「スケルトン化IE」と記入されているブロック126に接続されており、ブロック126の出力はIE102への入力として与えられ、また「ランダム‐パフォーマンス‐ファクタをIEに入力」と記入されている入力ブロックに接続されている。
【0039】
ブロック124は分岐130を通じてIE102の入力端への同一の入力ランダム‐パフォーマンス‐ファクタ‐ブロックに接続されている他の出力端128を有する。
【0040】
作動中IE入力は乱数表からの供給された値である。これらの29のコンポーネント‐ベクトルの各々が回路網を通じて伝播されるにつれて、物理的に実現可能な自動車デザインが、その29のデザイン仕様に関して規定されてその出力端に現れる。IEからの出力の各集合は次いでAAC104の入力端に供給され、そこでフィードフォワード伝播により仕様の特定の集合からの結果としての性能特性を生ずる。これらの性能特性は次いで、適切なデザインが得られているか否かを決定するべく所望の性能特性と比較される。これはAACのなかに訓練されているものである。もしデザイン特性が規範を満足するならば、そのカー‐デザインが陰極線管のような周波数の上に表示される。もしそのデザインがこれらの要求を満足しないならば、追加的なランダム入力がIE102に供給され、また、AAC104により類似の仕方で評価されるべき他のカンディデデイト‐デザインを発生するべく、新しい摂動がIEコネクション重みに与えられる。図17は少なくとも30mpgのハイウェイ‐マイル数、たかだか25.000ドルの小売価格および本発明による装置により合成された(1)、0、(−1)レーティング‐スケール上の計画されたユーザー満足度を有する車のデザインを示す。
【0041】
この場合重要なことは、ランダム‐コンポーネントならびにIEに与えられる内部摂動から成る入力ベクトル上でベクトルの完成を実行することにより、回路網が物理的に実現可能なカー‐デザインのみを作り出すことである。また、この例では、カーブ重量およびタイヤ寸法のような特性は馬力のような因子により現実的なスケールとされている。こうして無数のナンセンスな仕様が、訓練された神経回路網のなかでコネクション強度により与えられるソフトな制約により、IEのなかで除去される。もし本発明による装置が数値性能規範を与えられるならば、探索時間が延長されよう。従って、もしIE102を通じての10の伝播のような予め定められた数のフォワード伝播の後に、性能規範が満足されていないならば、アルゴリズムが探索を局限しようと試みてIE102からの重みの制御された切り詰めを指令する。この場合、所望の範囲を含む性能値の予め定められたエンベロープのなかに入っているか否かを見るべく、全体装置100を通じてランダム化されたいくつかの入力ベクトルを伝播しながら、重みはIEから1つずつ除去される。この範囲の外側でAAC出力を発生する重みが除去されるべきであれば、それは置換される。一層ラジカルな自動車デザインが要求されるならば、このような仮説的な自動車の性能を予測するAACに関係して、IEのコネクション重みにアルゴリズム摂動の振幅のシステマティックな増大が行われよう。
【0042】
本発明がここに説明された目的に限定されずに多くの目的に使用され得ることは当業者に理解されよう。重要なことは、一方はIEとして作動し、他方はACCとして作動する2つの神経回路網または神経回路網の群を使用することにより無数の可能な用途が想像し得ることである。これらの用途はデザイン、問題解決、選択、製造プロセスの開発および多くの他の領域にわたり得る。
【0043】
以上にいくつかの目的に対して創造力をシミュレートし、また有用な情報を自律的に発生する新規な装置を図示し説明してきたが、多くの変更および応用が当業者により可能であり、それらは下記の請求の範囲によってのみ限定される本発明の範囲に属するものとする。
【図面の簡単な説明】
【0044】
【図1】図1は本発明の教示に従って作動するべく接続されているアラート連合センター(AAC)と組み合わされたイマジネーション‐エンジン(IE)と呼ばれる装置のブロック図である。
【図2】図2はいずれか1つまたはそれ以上が所望の出力情報を表すべく選ばれ得る複数個の出力を生ずるべく外部源からの摂動が本発明による装置にどのようにして与えられるかを示す(モードA)。
【図3】図3はいずれか1つまたはそれ以上が所望の出力情報を表すべく選ばれ得る複数個の出力を生ずるべくコネクション重み切り詰めの形態の摂動が本発明による装置にどのようにして与えられるかを示す(モードB)。
【図4】図4は新規な処置を表すべく選ばれ得る複数個の出力を生ずるべくコネクション重み切り詰めの形態の摂動が回帰回路網にどのようにして与えられるかを示す(モードC)。
【図5】図5はコーヒー用マグカップに対する所望の形状をデザインおよび/または製造するのに使用される本発明による装置の1つの実施例を示す。
【図6】図6は図5のコーヒー用マグカップを製造するのに使用される手段のブロック図である。
【図7】図7はコーヒー用マグカップに対する所望の形状を製造する際に本発明による装置により制御される作動部材の1つの形態を示す図である。
【図8】図8は受容可能および受容不可能なコーヒー用マグカップのデザインの例を示す。
【図9】図9は回帰回路網を利用して音楽ヴァースを作り出すために使用される本発明による装置の入力および出力の実施例である。
【図10】図10は受容可能な音楽を作り出すのに用いられる回路網の能動化を示し、ここではトレーニングがソング「トウィンクル・トウィンクル・リットル・スター」、「デイジィ」および「マリー・ハッド・ア・リットル・ラム」の組み合わせを作り出す。
【図11】図11は本発明による装置が出力を音に変換する仕方を示す。
【図12】図12は図9に示されている装置により作り出される10の音楽フレーズを示す。
【図13】図13は簡単なフィードフォワード回路網およびその回路網の入力およびコネクション重みの双方に与えられる摂動を利用して音楽フレーズを作り出すために使用される本発明による装置の入力および出力の組み合わせを示す。
【図14】図14は非回帰フィードフォワード回路網を使用して作り出された受容可能な形態の音楽フレーズを示す。
【図15】図15は図13の装置により作り出された50の新規な音楽テールまたはフレーズを示す。
【図16】図16は新規な自動車のデザインを作り出すために使用される時に本発明による装置により作り出される入力および出力を示す。
【図17】図17は本発明による装置により作り出される2つの自動車のデザインを示し、デザイン(1)は少なくとも30mpg、25,000.00ドル以下のコストを達成し、またユーザーの満足度に関して好ましいレーティングを有し、またデザイン(2)は8秒以内に60mphに加速可能であり、また少なくとも150mphの最高速度を達成する。
【発明の開示】
【0001】
本発明は人間の心のなかの創造力を模倣する内的なイメージおよび追加的なメカニズムをシミュレートするためのプロセスに関する。本装置は人工神経回路網(ANN)テクノロジーの領域の最近の進歩を使用して新しいコンセプト、デザイン、音楽、プロセス、発見および問題解決の完全に自律的な発生を可能にする。本テクノロジーを使用して得られる有用な情報の形式のいくつかの典型的な例を以下に説明し記載する。本装置は機械応答をそのつどの目的に適応させ、それにより計算機を、種々の刺激への人間の応答の仕方と通信し、またそれを解釈するのにあまり硬直的でなくするのに使用される。一層一般化された意味では、本装置または機械は自由意志および意識の連続的な流れと等価的な流れを供給し、それを通じて本装置は行動の新規なコンセプトまたはプランまたは他の有用な情報を定式化し得る。
【0002】
本発明以前に人工神経回路網(ANN)による生物学的システムの模倣はパターン認識、ニューラルコントロールおよび実験データの発生のような非創造的な仕事のために使用された。本装置はそのなかでシステムが行動の新規なプランおよびオリジナルなデザインまたは創作を合成するANNの新しいアプローチおよび新しい応用に相当する。われわれが自律的システムまたは“創造的機械”と呼ぶこれらのシステムは工学的発明を越えて審美または情緒の領域に入る想像力に富む行為を実行し得る。
【0003】
本装置は2つの必須の構成要素を用いる。すなわち(1)ある問題領域におけるトレーニングを含んでおり、漸進的に摂動され、また摂動の結果としてコンセプトを連続的に出力する神経回路網、(2)有用な出力を識別しかつ分離するべく第1の回路網の出力を連続的にモニターする第2またはパトローリング神経回路網。このタンデム配置は創造力およびおそらく注意意識のモデルと考えられ、またこの内的なイメージは摂動される回路網のなかで自発的に発生され、他方において第2のパトローリング回路網は審美的アピールを含むユーティリティもしくは他の有用な特性を処理する特定のイメージに連続的に注意を払っている。用いられる摂動はノイズの導入、回路網のリラクゼーションまたはデグラデーションなどを含む任意の多数の異なる手段により達成され得る。以上に説明した2つの構成要素は後で一層詳細に説明する。
【0004】
本システムが外部情報を受け取る必要がないことを強調することは重要である。その代わりに、情報は含まれている回路網の特性化パラメータに用いられる任意の数の確率論的および/または系統的なプロセスの結果として自発的に出現する。自走する神経回路網のこのタンデム配置およびそのポリシング‐カウンターパートにより、類似に露出または摂動される既知の装置または機械により発生されるものよりも質的に優れている概念を発生することが可能である。
【0005】
従来の技術の説明 本発明者は、ANNの入力または重みにある種の形式のノイズが与えられると、もしベクトル完成プロセスが回路網のトレーニングの間に遭遇される出力ベクトルを能動化するのに失敗するならば、新規な出力が生じ得ることを実証してきた。このような出力は一般に既知のトレーニング出力の組み合わせの形態をとり、また一般にそれが訓練された環境を模倣する。従って、知られているマウンティン‐レンジのようないくつかの装置または対象物の表面プロフィルを発生するべく訓練された神経回路網は、もし入力がランダムなシミュレーションを受けるならば、非常に尤もらしいが見慣れないマウンテイン‐レンジを作り出す傾向があろう。同様に、クラシック音楽を作り出すことのみを訓練された神経回路網は、ランダムな入力にさらされる時に、潜在的な可能なクラシックテーマを作り出す傾向があろう。本発明者は、静的回路網が数学的研究において検出されてきたいくつかの非常に新規な出力を生じてきたことを示してきた。しかし、知られているすべてのケースでは、それらはそれらの新規性に対して人間のオペレータにより隔離されてきた。対照的に、本装置はこのような回路網の出力を自律的に監視し、また、ポリシングまたはパトローリング神経回路網のなかで確立されたいくつかの予め定められた規範に基づいて、出現するコンセプトを選ぶ。このようなコンセプトはいくつかの目的に対する音楽または音楽上のテーマを作り出すこと、またはコーヒー用マグカップのようないくつかの模様をデザインすること、またはプロセス計画オペレーションを作り出すこと、または問題を解決すること、および多くの他の応用を含んでいてよく、そのいくつかは後で一層詳細に説明する。
【0006】
知られているANNはインプット‐アウトプット‐マッピングのようないくつかの領域で比較的高い精度を達成してきた。本発明は、有用な情報を生ずるべくANNの慎重なデグラデーション、従ってまたこのような精密なマッピングのコラプションの使用を教示する。こうしていくつかの知識領域を反復するべく訓練された回路網は回路網デグラデーションの低いレベルにおいて既知の模様のかなり代表的な例を発生し得る。たとえば、自動車のデザインの場合に、回路網のなかに存在する制約のゆえに回路網デグラデーションの低いレベルにおいて既存の車のかなり代表的な例を発生し得る。換言すれば、理にかなったデザインが作られる。回路網のデグラデーションの漸進的により高いレベルにおいて、このような回路網の制約は新規かつより珍しいハイブリッドな自動車のデザインを作るべくさらにリラックスし、そのいくつかは有用な応用ニッチまたはマーケットを満たし得る。通例から新規への移行を行う鍵は回路網のデグラデーションに関する制御および特定の回路網パラメータをそれらが訓練された値からリラックスまたは摂動する能力により達成される。こうして本発明による装置は通例の周囲または通例の付近をデザインし、また、いくつかの制約により制限されずに、創造的デザイナーがするのとほとんど同じ仕方で新しいデザインを創造する道を提供する。入力、内部活性化、重みおよびバイアスへの種々の形態の摂動の導入の結果として、このような既知のシステムはプロセスを制御し、またはオブジェクトまたはデザインを創造し得る。こうして本発明による装置により発生される情報はその後にプロセスなどを制御するのに使用するために蓄積され、および/またはある所望の仕方で発生されてきた出力を修正するその固有の決定に使用され得る。こうして本発明は、上記の2つの要素を含んでいる機械を使用してデザインまたは創造的な仕事を行うための他の道具および非常に広いベースの道具を提供する。しかし、1つの仕事の実行から別の仕事または別の目的の実行へその作動モードを自律的に変更することに対象装置を細同調またはトグルすることが意図されている。
【0007】
無数の仕方で回路網を内部で修正し得ることは、発生され得る実行可能なコンセプトの数に膨大な数値的卓越性を可能にする。本発明によるタンデム配置はこの仕事での完全な自律性を可能にする。
【0008】
発明の目的 創造力をシミュレートするための新規な手段の構成および作動を教示することが本発明の主要な目的である。
【0009】
他の目的は有用かつ想像力に富む出力情報を発生するため、以前に訓練された人工神経回路網を摂動させることにある。
【0010】
他の目的は、所望の出力を選び、また他の出力を排除するために、摂動させる神経回路網からの出力情報を監視することにある。
【0011】
他の目的は神経回路網に与えられる摂動の程度を制御することにより神経回路網のなかに制御可能な変化を生じさせることにある。
【0012】
本発明の上記および他の目的および利点は添付図面と結び付けての好ましい実施例の以下の詳細な説明を考察した後に明らかになろう。
【0013】
好ましい実施例の詳細な説明 参照符号により一層詳細に図面を参照すると、図1中に参照符号20を付されているのは本発明に従って構成されたシステムである。システム20は2つの基本的な構成要素、一つはイマジネーション‐エンジン(IE)22、もう一つはアラート連合センター(AAC)24を含んでいる。IE22は、漸進的に摂動されて、AAC24に供給される出力を生ずる人工神経回路網(ANN)である。AAC24も人工神経回路網であり、これはIE22への1つまたはそれ以上のフィードバック‐コネクション28を有し得る。IEまたはイマジネーション‐エンジンは、IEの訓練に抗して与えられ、またその重み、バイアス、入力、出力または内部能動化に与えられる通常はランダムノイズまたは摂動の形態の入力情報を受ける本発明による装置の部分を成している。イマジネーション‐エンジンはこの回路網が内部もしくは外部で摂動され、また、摂動またはノイズの存在中にパターン完了をなし遂げる試みの結果として、回路網の訓練に包含されているある所与の知識領域を通じて自由にさまよう出力を発生するアイデアを運ぶために記述されている。出力はリサイクルされ得る。IEの出力はAACにより監視またはパトロールされる。IEおよびAACは、なにがなし遂げられるべきか、また必要とされる入力および出力端の性質に依存する複数個の関係の1つまたはそれ以上にグループ化または結合され得る。IEおよびAACは複数個の結合されたANNを含んでいる一層複雑なシステムに組み合わせられ得るし、またある度合の創造力を必要とする問題を含む一層多くの含まれている仕事を実行し得る。
【0014】
神経回路網が、ニューロンの間の接続強度が漸進的に変えられるシナプシスな摂動プロセスを受ける時には常に、このようなプロセスが回路網が既に見ているまたは訓練されている環境特徴のメモリを能動化することは、すべての神経回路網に共通であることが見い出されている。その後に、回路網がその最初に訓練された状態から展開し続けるにつれて、このような環境特徴はハイブリッド化または並置された特徴に組み合わされる。たとえば、牛および鳥のイメージを含む種々の動物のイメージを生ずるべく訓練された神経回路網は最初に低レベルのシナプシスな摂動の間にこれらの動物および鳥のランダムでインタクトなイメージを生ずる。シナプシスな接続強度の漸進的に強くなる摂動がいま、一部は牛であり、一部は鳥である飛んでいる牛のイメージを含むハイブリッド化されたイメージを生ずる。換言すれば、IEのなかに包含されている同一のユニバースが、制約が次第に除かれるにつれて、解きほぐれ初め、また新しい聞いたことのない組み合わせが現れ出る。同様な理由で、インタクトな神経回路網は、人工神経回路網であろうと生物の神経回路網であろうと、それら自体の外部で生起するノイズまたは他のプロセスによって、新規な環境イメージを生ずるべく能動化され得る。このようなノイズは他の周囲の回路網の機能、リラクゼーションおよびデグラデーションおよび生物回路網または複雑な回路網実行の通信により発生される。結果は内部で発生される摂動を使用する時のそれと類似しており、まっすぐな環境特徴およびハイブリッド化された環境特徴の双方が自発的に現れる。
【0015】
これは、処理ユニットのある部分が必要とされる訓練またはマッピングに補充されずにとどまるように、複数個のニューロンのIEを構成することによっても成就され得る。これらの束縛されていないニューロンに摂動の影響を与えると、AACにより捕獲または処理または選択され得る有用なコンセプトの発生が有意義に増大される。本発明による装置の第2の主要な構成要素であるAACはIEにより発生される有用な情報または並置を識別するべく訓練されているANNに類似している。従って、AACはわれわれの例では特定の動物に対するようないくつかの特徴または条件を眺めている日和見的な回路網である。典型的な状況では、AACはIEにより合成されたハイブリッドに数値または他のスコアを割当てるべく訓練され得る。また、1つまたはそれ以上の分離したアルゴリズムが後での考察および洗練のために潜在的に有用なコンセプトを記憶し得るし、または代替的にハードウェア条件での結果に直ちに影響を与えるのに使用され得る。いくつかの実施例では、AACへの入力端のいくつかがIEの入力端に接続され得ないが、他の目的に対しては自由に残されていることも意図されている。このようにしてAAC選択規範は最初にまたは図3に示されている例に対しては作動中に調節され得る。
【0016】
組み合わされたIEおよびAACに対する3つの異なる作動モードを以下に説明する。これらのモードは別々にまたは種々の組み合わせで使用され得る。これらはモードA、BおよびCとして説明される。モードAでは、乱数発生を含む任意の数の技術がIEに新規な入力を与えるのに使用され得る。その結果、IEは新規な入力に基づいてベクトルを完成しようと試み、通常その結果としてその確立された訓練出力の変更または並置が行われる。AACは次いでこれらの結果としてのIEからのハイブリッド化された出力のユーティリティをチェックし、また図2中にA−Zとして示されている規範を選ぶべく値を割当てる。選択規範が満足される時、ハイブリッド化された出力は直ちに利用され、またはその後の使用のために記録され得る。
【0017】
モードBでは、固定された値がIEの入力端にクランプされているが、その重み、バイアスまたは内部能動化は、それらをそれらの最初の値から摂動させる乱数発生を含む任意の数の数値技術により摂動される。回路網相における内部完了プロセスは、IEの出力端に出現する新しい条件または並置されたコンセプトを生ずる。AACは次いでその固有の訓練に基づいてそれらをそれらの有用性に関して仕分けする。モードAの場合のように、これらの新しいコンセプトは回路網がリラックスするにつれて実時間で利用され得るし、またはその後の使用のためにアーカイブ‐ファイルのなかに記憶され得る。
【0018】
モードCでは、IE摂動が作用のプランまたは所与の問題を解く手順を作り出すのに使用される。このようなシステムは図4に示されている。この場合には、IEはその固有の出力をそれぞれの入力端にフィードバックし、また手順は一連のステップからなっており、その各々はさきのステップに付随的である。モードCでは、AACは各ステップが所望の結果の到達時に許容可能かつ有用なステップを形成するそのユーティリティを保証することを検査する。またモードCでは、AACはたとえば所与の重みまたはステップの除去、変更または交換により任意のスナージにおけるIEのアーキテクチュアを変更するのに使用され得る。モードCでは、作動を支配するアルゴリズムはIEのなかでランダムに選ばれ、また一定の値、たとえば零に設定された重みを有する。AACは次いでそのユーティリティまたは他の目的に対するシステム構成を評価する。もし評価された状態が許容可能なものでないならば、AACは一時的に除去された重みを交換する決定を行い、また駆動アルゴリズムに除去のための新しい重みを選ぶべく通報する。一端所望のシステム構成が得られると、システムはIEからより多くの重みを除去し始める。AACはオーパーオールなターゲット構成が得られたか否かをアラート(警報)している。もし肯定であれば、アルゴリズムは手順を成す成功裡の作動シーケンスを記憶し、またはある外部装置またはハードウェアメカニズムを制御するべくこの情報を直ちに運ぶ。この仕方で、IEとしての役割をするANNは、人間の脳が働く仕方と若干類似の仕方で、計算機またはその類似物を使用してのコンセプトまたはアイデアの記憶を助ける。これはこの装置では関係者または機械のユーザがIEに対するフィードバックを作ることにより達成され、IEでは異なる摂動がIEに対しその出力を上げるか変化するなどのいくつかの目的のために与えられる。多重のIEおよびAACの使用により一層複雑な出力が得られ、またいくつかの場合には一層正確かつ精密なデータが発生され得る。たとえば、この形式の多くの分離した回路網は、それにより多くの異なるAACの使用を必要とするコンセプト選択プロセスに使用され得る。
【0019】
上記のモードまたは並置のいずれでも摂動因子の任意の組み合わせがIEのなかに新規なコンセプトを発生するのに使用され得る。このような摂動は(a)重み、(b)バイアス、(c)能動化、(d)外部入力信号、(e)回路網のなかの任意の所与のユニットへの内部入力信号、または(f)回路網のなかの任意の所与のユニットからの内部出力信号のような種々の因子を組み合わせ得る。類似の仕方でパラメータa〜fは(1)それらの値を零のようなある一定の値に連続的に設定すること、(2)乱数表により得られるようなある不規則な数をそれらの最初の値に連続的に追加すること、それらを乱数表から得られた乱数により置換することによりそれらの値を連続的に変更すること、(4)通常ある遅れ定数を有する時間依存性の因子によりそれらの値を多重倍すること、(5)これらのパラメータが最初の値の周りでランダム‐ウォークを行うことを許すべく乱数表を通じて得られる正および負の乱数を連続的に追加すること、(6)ある統計的な周波数分布に従う数を追加すること(ここで、このような数を選ぶ確率確率関数に従う)、(7)設定された時間依存性の統計的分布に従う数を追加すること、および/または(8)上記の因子のいずれかを、重みおよびバイアスがそれらの訓練値からさまようのにつれてIEがその最初の制約された条件から漸進的にリラックスした制約へ滑らかに移行するように、ある徐々に増大する振幅因子により漸進的に多重倍することにより種々の手段により摂動され得る。完全には回路網のマッピングまたはトレーニングにおいて補充されていないニューロンにこのような摂動を特別に与えることにより高められる結果が得られることが見い出されている。
【0020】
要約すると、新規なコンセプトに到達する自律的探索手順が説明されてきた。
【0021】
また、このような探索手順は種々の知識領域に応用可能であり、また2つの別々の神経回路網の相互作用により到達される。第1のIE回路網はその訓練の知識領域のなかの出力を生ずるべく訓練されている。任意の数のANN特徴への摂動の導入はその接続強度およびバイアスの制約のもとに有意味な出力を生ずる知識領域を通じてIEをさまよわせる。回路網摂動のレベルが増すにつれて、制約はそれらの訓練された値から一層劇的にリラックスし始める。また連合センターまたは出力装置に警報するのにAACにより検出かつ利用され得る非在来のコンセプト並置が出現する。この技術の主な強さはIE回路網をその知識領域のなかのその知識の既知の特徴を簡単に複製する状態から常に少し新しい並置コンセプトが出現する摂動のその次の状態へ徐々にかつ系統的に摂動させ得るその能力である。在来のものから穏やかに非在来のものへの微妙な変化はAACにより自律的に識別かつ選択され得る新規かつ潜在的に有用な発明を生じ得る。こうして本発明による装置はその探索スペースを多くの異なる問題への解決を捜すことに制限し、またそれをユニークな仕方で行う。
【0022】
コーヒー用マグカップ‐デザイン いま図5〜8を参照すると、新規なコーヒー用マグカップなどのような模様のデザインおよび製造に使用され得る本発明による装置の実施例が示されている。
【0023】
本コーヒー用マグカップは審美的に望ましく、また有用な機能を提供し得る。しかし、本発明による装置がコーヒー用マグカップの製造に制限されることなく芸術的な仕事を含む多くの他のデザインおよび形状を作り出すのに使用され得ることは明らかである。本装置を本装置に三次元の形態で対象物、この場合にはコーヒー用マグカップを製造させるべく、レース、ステレオリソグラフィックまたはポッターホイールを含む他の作動装置とインタフェースすることも可能である。
【0024】
図5中には本装置20が右側に、またその上に取付けられた粘土の小山を有するポッターホイールが左側に示されている。また図5中には、図解的な形態で、コーヒー用マグカップを所望の形状に形成するべく粘土46の塊にこうして作動する装置またはオペレータ部材48も示されている。整形手段48に対する制御はIE出力に与えられる制御アルゴリズムを信号化する美しさおよび機能出力により選ばれるようなIE22の出力により行われる。
【0025】
図6は図5に示されている手段の論理フローダイアグラムである。このダイアグラムはIE22と、AAC24と、導線58を経てIEに戻されるノー出力とデザインを実行と記入されているステップ54を経て導線56を経てIEに戻されるイエス出力とを有する出力決定ブロック52とを含んでいる。ブロック52は、「IE出力がしきいを越えるか?」と記入されている。イエス出力54は、マグカップの形状を整形するような仕方でテムプレートまたは可動ピンのような装置を制御する。
【0026】
図7は、どのようにIE22の種々の部分の出力がこの場合には所望の形状を作り出すべく粘土46のボディと係合する手段を有するソレノイド48を制御するのに使用されるかを示す。ソレノイド62は組立体48の一部であり、またばね60により発生され、またIE出力に比例する電流により発生される磁気力によりオフセットされるばね張力により作動されるものとして示されている。
【0027】
図8は、審美的に満足であり、また実用性のあるものと、最小のユーティリティ値を有するものとを含む種々のコーヒー用マグカップのデザインを示す。カップ‐デザインは参照符号46A〜46Lを付されている。
【0028】
コーヒー用マグカップのデザインにあたって、種々のオプションが審美的および実用的な好みに関してアセンブルされなければならず、またこの情報がAACのなかにエンコードされなければならない。これは、一緒になってプロフィルまたは潜在的に可能なマグカップ‐デザインをシミュレートする垂直に一列に並べられた種々の長さのストライプを発生する計算機コードを使用して行われ得る。
【0029】
これらのデザインは不規則な長さおよび幅のストライプを使用して陰極線管などの上に表示され得る。またランキング‐スコアを使用して美しさおよび実用性に関する意見が集められ得る。こうして得られた情報は2つの別々の神経回路網、IEおよびAACを訓練するために使用されるべきスプレッド‐シートの上に置かれ得る。IEは入力およびAACが入力および出力の意義を反転するにつれて形状がいま入力および美しさ/ユーティリテイ‐レーティングとしての役割をし、またこれらが出力となるように美しさおよびユーティリティを使用して訓練されている。
【0030】
音楽 図9〜15は音楽作品または音楽フレーズを作り出すのに使用される本発明による装置70を示す。図9を参照すると、装置70は前記の構成のように一緒に結合されて示されているIE72およびAAC74を含んでいる。AACはIEの種々の出力のなかから選ぶように、またブロック76で出力音楽レーティングを作り出すように訓練されており、このレーティングは「レーティングがしきいを越えるか?」と記入されているブロック78に与えられる。もしレーティングがしきいを越えないならば、出力がリード80上に発生され、この出力は「新しいノートを無視する」と記入されているブロック82に与えられ、またこの出力端は「重みを更新」と記入されているブロック84および「ランダムな重み切り詰めを実行」と記入されているブロック86を含む他のブロックに与えられ、またリード90上でIEにフィードバックされる。もしブロック78の出力端がイエスであれば、出力は「バッファに新しいノートを加える」と記入されているブロック88を通じてIEの条件をさらに変更するべくIEにフィードバックされる。図9とコーヒー用マグカップの製造と結び付けて先に説明したデザインとの間の差は、図9中では出力がIEおよびAACの訓練に関係する特定の仕方で配置されている音楽トーンであり、また出力端が説明されるように音楽フレーズまたはテーマであることである。音楽作品または音楽テーマを作り出す際に、本発明による装置は前記のモードA、BおよびCを実施する類似のリラクゼーション技術を用い、またこうしてオリジナルな音楽テーマの有意義な合成を達成する。
【0031】
この実施例でのIEは「トウィンクル・トウィンクル・リットル・スター」、「デイジィ」および「マリー・ハッド・ア・リットル・ラム」のような多数のソングを実行するべく学習する回帰回路網である。示されているような回路網は図9中に示されているように8−10−8アーキテクチュアを利用しており、回路網の出力は入力としてフィードバックされている。最初の2つの入力はソング(S1)、(S2)をエンコードし、次の4つ(N1−N4)はノート‐オーダーを示し、また最後の2つ(F1)、(D1)は任意の所与のノートのピッチおよび継続時間を含んでいる。回路網の出力は音楽シーケンスのなかの次のノートに対する適切な値を持つ値のすべてと類似の意味を持つ。図10中に示されているような回路網は(L1〜L4)で示されている4つの相(1〜4)を有する。回路網の出力は同一の意味を達成するが、いまはシーケンスのなかの次のノートを表す。いずれも所望のマッピングを達成するために必要なニューロンの2つの隠された相が存在する。これは図10中にニューロンの2つの中央の列により示されている。最も左の入力S1−S2を(0、1)、(1、0)または(1、1)の値に設定することにより回帰回路網はそれぞれ「トウィンクル・トウィンクル・リットル・スター」、「デイジィ」および「マリー」を演奏する。回路網の入力端のすべて、特にS1およびS2への乱数の供給は回路網を1つのソングから他のソングへジャンプさせ、チューンを並置し、また音楽を作り出す。
【0032】
再び図10を参照すると、(1)異なったレベルの能動化による個々のニューロンの収縮および膨張の形態での回路網能動化、(2)それらのピッチを含むノートの最新の訓練の帯状記録紙記録、および(3)3つの訓練メロディのいずれかの線形組み合わせとして同時に作用する回路網の出力を分類するべく訓練されてきた別々の回路網の出力が示されている。この後者の特徴はハイブリッド化されたソングのなかの個々のチューンの重みを想像するのに助けになる。このような音楽のハイブリッド化は図10中でわれわれがAACにより選択されておりまた実行されている「トウィンクル」および「マリー」の組み合わせを見るところで生起している。IEの訓練は任意の特定のソングのなかで相い続くノートの間のマップを作り出すことにより成就される。入力として回路はソング‐ナンバーに対して2値コード化されたラベルを与えられている。たとえば、2値コード化されたソング‐ナンバー1−3はノードS1およびS2への入力であり、2値コード化されたノート‐オーダー1−31はノードN1−N4への入力であり、また周波数および継続時間値はノードF1およびD1への入力である。訓練のためのターゲットは同一の2値コード化されたソング‐ナンバー(出力ノートS1およびS2)、1の値によりインクレメントされる2値コード化されたノート‐オーダー(出力ノードN1−N4)および出力ノードF1およびD1のなかのソングの次の周波数‐継続時間対を含んでいる。ソングのラップ‐アラウンドは音楽シーケンスのなかの最後のノートを最初のノートへマッピングすることにより達成される。これまでに説明してきたことはIEの作動に関する。いま、IEからの出力端に作動するAACの機能および訓練を説明する必要がある。訓練目的に対して訓練計算機コードが1/f分布に従うノートのシリーズから成る4つのノートのシリーズを発生するべく書かれ、その特徴はわれわれが音楽として受け入れるすべてのサウンドの特性である。このトーンのシリーズは評価を受け、その後に評価する人間が0−10ポイントスケール上でその美的な値に応答することを要求された。この種の約100の試行の後に、各々がメロディから成る周波数のシリーズがそれらのコンセンサス‐ランキングに沿ってスプレッドシートに通された。従って、入力は数値スコアから成る訓練に対するターゲット値に沿うノート‐シーケンスから成った。実際のメロディは訓練セットのなかで実現され、またそれらのアピールに対する10の値でランク付けされた。他方においてランダム発生器からのノイズは0のランキング値でスプレッドシートのなかに埋められた。このデータでの訓練に続いて、訓練された神経回路網IEおよびAACが同一の計算機コードのなかに埋められた。
【0033】
IEはループのなかに置かれ、その入力端に零と1との間の値が乱数発生器から供給され、こうしてIEの出力端に複合メロディを発生した。いつでも演奏されるたかだか4つのノート(4つの周波数‐継続時間の対)を含んでいるバッファがAACの8つの入力によりサンプルされ、各々がその音楽的受容可能性についてレーティングされた。10ポイントスケール上で8のしきいを越える最良の音楽テーマが演奏され、また分離したファイルにアルカイブされた。本発明の装置により作曲された音楽の発生は図11中に示されている要綱により達成された。AACにより受容可能と思われるIEからの出力は計算機への相い続くノートの周波数および継続時間の双方を含むサウンド指令のシリーズとして連続的に伝達される。これらの全指令はディジタルからアナログ信号に変換され、またスピーカに供給され、そこでサウンドが聞かれ得る。従って、本発明による装置が受容可能なノート‐シーケンスを発生するにつれて、それは直ちに、装置のオペレータが作り出された音楽を聞くことができるように、それらをオーディオ出力装置に中継する。IEにより発生される次の4つのノートは同様にバッファに加えられ、また演奏される(以下同様)。AACにより捕獲されたこれらのメロディの10のサンプルが図12に示されている。それらの周波数FはHzで示されており(1オクターブが示されている)、また各ノートの継続時間Dは秒の1/18の単位で与えられている。
【0034】
オリジナルな音楽を合成する第2のアプローチは3−16−20のノーダルアーキテクチュアおよびIE20−10−1のノーダルアーキテクチュアのAACから成るように変更された本発明による装置の使用を含んでいる。前者は音楽フレーズまたはテーマから成るノート‐シーケンスを生じた。続いて、AACがこの試行メロディ‐フレーズをその音楽的受容可能性に関してチェックする。これは図13中に示されている。この場合IEは、所与の音楽フレーズのなかの最初の3つのノートのトーン周波数(すなわちHzで)に関するパターン完成を実行するべく訓練されている。訓練のための音楽フレーズは20のよく知られたソングからの非常に理解しやすいセグメントから成っている。こうして最初の3つのノートが与えられると、回路網は音楽シーケンスの残りのものを供給するべく訓練された。出力は10の相い続く周波数‐継続時間対から成っており、周波数はヘルツで、また継続時間は1/18秒の単位で与えられた。
【0035】
同一の装置のなかでAACはポピュラーなメロディ‐テーマからの20のノート‐セグメント、乱数表から選ばれた周波数から発生されたトーンの50例がおよびノイズおよび上記のポピュラーなメロディ‐テーマにのみ訓練された類似のIEへのノイズの導入により発生された約100の試行メロディの演奏により訓練される。訓練のためのターゲット値はポピュラーなテーマに対して1の数値スコア、IEが発生したメロディへの0−1の数値ランキング(ヒューマン‐パネリストにより決定されるような)および乱数表を使用して発生されるノイズに対する0の数値スコアから成っていた。
【0036】
IEの内部接続重みへの時変性入力および時変性摂動の双方のIE切り詰め導入の種々の組み合わせを使用して本発明による創造力機械が、11.000の音楽的に受容可能なテーマまたはフレーズがあつめられるまで、自律的に運転することが可能にされた。このプロセスにより作り出された典型的な音楽フレーズが図14に示されている。図15には本発明による装置により作り出された50の代表的な音楽フレーズが示されている。リストの最上段には各列のなかに示されているナンバーに対する周波数および継続時間に関する識別子が示されている。
【0037】
換言すれば、図15は各トーンの周波数および継続時間が指示されており、聴覚的に再現可能な音楽テーマのナンバーが示されている。
【0038】
自動車デザイン 本発明による装置の他の応用は、モードAおよびBでAACがIEのアーキテクチュアを変更しまたIE定数へのある種の入力を保持する決定を自律的に行うことを許される場合である。この例の趣旨は自動車または車をその主要な仕様および特性に関してデザインすることである。これはその所望の性能、保険適用、担保保証、盗難の確率および期待されるユーザーの満足度に関するいくつかの概念に基づいてなされる。本発明による装置を作り出すときの29のデザイン仕様の性能特性は図16中のIEへの可能な入力として示されている。AACは他方においてマップをデザイン仕様から性能特性へ反転する。回路網IEおよびAACの双方は29−10−29のノーダル‐アーキテクチュアを利用する。図16中に示されている構造100はIE102、AAC104およびAACからの出力端106を含んでおり、出力端106は「カンディデート自動デザインがパーフォーマンス規範を満たすか?」と記入されている決定ブロック108と接続されている。ブロック108はイエス出力端110を有し、この出力端はアルカイブ‐デザイン‐ブロック112に接続されており、このブロック112は分岐116を通じて装置100の入力端に接続されている。ブロック108の出力端は分岐118および116を経て装置100の入力端に接続されている。分岐116は「IEコネクション重みに摂動を与える」と記入されているブロック120を経てIE102の入力端に接続されている。ブロック120は「探索がNサイクル以上継続したか?」と記入されている他のブロック122に接続されており、このブロックは出力端124を有する。ブロック122の出力端124は「スケルトン化IE」と記入されているブロック126に接続されており、ブロック126の出力はIE102への入力として与えられ、また「ランダム‐パフォーマンス‐ファクタをIEに入力」と記入されている入力ブロックに接続されている。
【0039】
ブロック124は分岐130を通じてIE102の入力端への同一の入力ランダム‐パフォーマンス‐ファクタ‐ブロックに接続されている他の出力端128を有する。
【0040】
作動中IE入力は乱数表からの供給された値である。これらの29のコンポーネント‐ベクトルの各々が回路網を通じて伝播されるにつれて、物理的に実現可能な自動車デザインが、その29のデザイン仕様に関して規定されてその出力端に現れる。IEからの出力の各集合は次いでAAC104の入力端に供給され、そこでフィードフォワード伝播により仕様の特定の集合からの結果としての性能特性を生ずる。これらの性能特性は次いで、適切なデザインが得られているか否かを決定するべく所望の性能特性と比較される。これはAACのなかに訓練されているものである。もしデザイン特性が規範を満足するならば、そのカー‐デザインが陰極線管のような周波数の上に表示される。もしそのデザインがこれらの要求を満足しないならば、追加的なランダム入力がIE102に供給され、また、AAC104により類似の仕方で評価されるべき他のカンディデデイト‐デザインを発生するべく、新しい摂動がIEコネクション重みに与えられる。図17は少なくとも30mpgのハイウェイ‐マイル数、たかだか25.000ドルの小売価格および本発明による装置により合成された(1)、0、(−1)レーティング‐スケール上の計画されたユーザー満足度を有する車のデザインを示す。
【0041】
この場合重要なことは、ランダム‐コンポーネントならびにIEに与えられる内部摂動から成る入力ベクトル上でベクトルの完成を実行することにより、回路網が物理的に実現可能なカー‐デザインのみを作り出すことである。また、この例では、カーブ重量およびタイヤ寸法のような特性は馬力のような因子により現実的なスケールとされている。こうして無数のナンセンスな仕様が、訓練された神経回路網のなかでコネクション強度により与えられるソフトな制約により、IEのなかで除去される。もし本発明による装置が数値性能規範を与えられるならば、探索時間が延長されよう。従って、もしIE102を通じての10の伝播のような予め定められた数のフォワード伝播の後に、性能規範が満足されていないならば、アルゴリズムが探索を局限しようと試みてIE102からの重みの制御された切り詰めを指令する。この場合、所望の範囲を含む性能値の予め定められたエンベロープのなかに入っているか否かを見るべく、全体装置100を通じてランダム化されたいくつかの入力ベクトルを伝播しながら、重みはIEから1つずつ除去される。この範囲の外側でAAC出力を発生する重みが除去されるべきであれば、それは置換される。一層ラジカルな自動車デザインが要求されるならば、このような仮説的な自動車の性能を予測するAACに関係して、IEのコネクション重みにアルゴリズム摂動の振幅のシステマティックな増大が行われよう。
【0042】
本発明がここに説明された目的に限定されずに多くの目的に使用され得ることは当業者に理解されよう。重要なことは、一方はIEとして作動し、他方はACCとして作動する2つの神経回路網または神経回路網の群を使用することにより無数の可能な用途が想像し得ることである。これらの用途はデザイン、問題解決、選択、製造プロセスの開発および多くの他の領域にわたり得る。
【0043】
以上にいくつかの目的に対して創造力をシミュレートし、また有用な情報を自律的に発生する新規な装置を図示し説明してきたが、多くの変更および応用が当業者により可能であり、それらは下記の請求の範囲によってのみ限定される本発明の範囲に属するものとする。
【図面の簡単な説明】
【0044】
【図1】図1は本発明の教示に従って作動するべく接続されているアラート連合センター(AAC)と組み合わされたイマジネーション‐エンジン(IE)と呼ばれる装置のブロック図である。
【図2】図2はいずれか1つまたはそれ以上が所望の出力情報を表すべく選ばれ得る複数個の出力を生ずるべく外部源からの摂動が本発明による装置にどのようにして与えられるかを示す(モードA)。
【図3】図3はいずれか1つまたはそれ以上が所望の出力情報を表すべく選ばれ得る複数個の出力を生ずるべくコネクション重み切り詰めの形態の摂動が本発明による装置にどのようにして与えられるかを示す(モードB)。
【図4】図4は新規な処置を表すべく選ばれ得る複数個の出力を生ずるべくコネクション重み切り詰めの形態の摂動が回帰回路網にどのようにして与えられるかを示す(モードC)。
【図5】図5はコーヒー用マグカップに対する所望の形状をデザインおよび/または製造するのに使用される本発明による装置の1つの実施例を示す。
【図6】図6は図5のコーヒー用マグカップを製造するのに使用される手段のブロック図である。
【図7】図7はコーヒー用マグカップに対する所望の形状を製造する際に本発明による装置により制御される作動部材の1つの形態を示す図である。
【図8】図8は受容可能および受容不可能なコーヒー用マグカップのデザインの例を示す。
【図9】図9は回帰回路網を利用して音楽ヴァースを作り出すために使用される本発明による装置の入力および出力の実施例である。
【図10】図10は受容可能な音楽を作り出すのに用いられる回路網の能動化を示し、ここではトレーニングがソング「トウィンクル・トウィンクル・リットル・スター」、「デイジィ」および「マリー・ハッド・ア・リットル・ラム」の組み合わせを作り出す。
【図11】図11は本発明による装置が出力を音に変換する仕方を示す。
【図12】図12は図9に示されている装置により作り出される10の音楽フレーズを示す。
【図13】図13は簡単なフィードフォワード回路網およびその回路網の入力およびコネクション重みの双方に与えられる摂動を利用して音楽フレーズを作り出すために使用される本発明による装置の入力および出力の組み合わせを示す。
【図14】図14は非回帰フィードフォワード回路網を使用して作り出された受容可能な形態の音楽フレーズを示す。
【図15】図15は図13の装置により作り出された50の新規な音楽テールまたはフレーズを示す。
【図16】図16は新規な自動車のデザインを作り出すために使用される時に本発明による装置により作り出される入力および出力を示す。
【図17】図17は本発明による装置により作り出される2つの自動車のデザインを示し、デザイン(1)は少なくとも30mpg、25,000.00ドル以下のコストを達成し、またユーザーの満足度に関して好ましいレーティングを有し、またデザイン(2)は8秒以内に60mphに加速可能であり、また少なくとも150mphの最高速度を達成する。
【特許請求の範囲】
【請求項1】
ランダムノイズ刺激を受け、それへの人間の知的応答をシミュレートし、またそれから創造力出力を発生するための手段において、 ランダムノイズ源に接続されている第1の入力端と、出力端と、フィードバック入力端とを有する神経回路網と、 この神経回路網の出力端に接続されている入力端と、前記神経回路網のフィードバック入力端に接続されている出力端とを有するパトローリング神経回路網とを含んでおり、前記神経回路網が刺激のプログラム領域を含むとともにコンセプトの流れを連続的に出力し、また前記パトローリング神経回路網が、ランダムノイズにより生ずる入力刺激に起因する所望の出力を選ぶべく前記神経回路網からのコンセプトの流れを監視することを特徴とする人間の応答をシミュレートするための手段。
【請求項2】
前記神経回路網の刺激プログラム領域が対象の審美的特性に関する情報を表すことを特徴とする請求項1記載の人間の応答をシミュレートするための手段。
【請求項3】
前記神経回路網の刺激プログラム領域が音楽の選ばれた形式の特性に関する情報を表すことを特徴とする請求項1記載の人間の応答をシミュレートするための手段。
【請求項4】
前記神経回路網の刺激プログラム領域が自動車のような装置の機能的特性に関する情報を表すことを特徴とする請求項1記載の人間の応答をシミュレートするための手段。
【請求項5】
前記パトローリング神経回路網が、前記神経回路網により生じた特定の応答を選び、またその他の応答を拒否するべくプログラム領域により訓練されていることを特徴とする請求項1記載の人間の応答をシミュレートするための手段。
【請求項6】
前記パトローリング神経回路網が、前記神経回路網のフィードバック入力端にフィードバックされるいくつかの出力数を生ずることを特徴とする請求項1記載の人間の応答をシミュレートするための手段。
【請求項7】
ある知識領域のなかのトレーニングに基づいて入力‐出力マップを作るべく訓練された第1の神経回路網と、この第1の神経回路網にその重み、バイアスおよび能動化に影響する漸進的に増大する度合の摂動を受けさせ、それによって第1の神経回路網に第1の神経回路網の知識領域のなかの訓練された情報を漸進的に変更する出力を生じさせるための手段と、変更された情報を表示するための手段と、第1の神経回路網の予め定められた出力に応答するべく、またいくつかの有用なコンセプトが発生されるにつれてそれらのコンセプトを選ぶべく訓練された第2の神経回路網を含んでいる手段と、出現する情報の質および量の双方を調節するように第2の神経回路網のなかで発生された出力情報のいくつかを第2の神経回路網から第1の神経回路網へフィードバックするため手段を含んでいる第2の神経回路網からの出力を発生するための手段とを含んでいることを特徴とする人間の創造力をシミュレートするための装置。
【請求項8】
入力端と、出力端と、フィードバック入力端と、そのなかに情報領域を確立するべく人工神経回路網を訓練するための手段を含んでいる訓練情報源と、摂動データ源と、そのなかに確立された訓練領域に変化を生じさせるべく、また前記変化を反映する出力を前記人工神経回路網の出力端に生じさせるべく、前記摂動データを前記人工神経回路網に導入するための手段と、理解可能な仕方で前記変化を表す手段とを有することを特徴とする人工神経回路網。
【請求項9】
入力端と、出力端と、第2のデータペースと、そのなかに訓練領域を確立するべく第2のデータペースを与えるための手段とを有する第2の人工神経回路網と、この第2の人工神経回路網の出力を前記人工神経回路網のフィードバック入力端に与えるための手段と、前記第2の人工神経回路網からのフィードバックにより影響された前記人工神経回路網のなかの変化を表す出力を前記第2の人工神経回路網から有意義な仕方で発生するための手段とを含んでいることを特徴とする請求項8記載の人工神経回路網。
【請求項10】
前記人工神経回路網のなかの情報領域を確立するのに使用される前記データベースがデザインを表すデータベースを含んでいることを特徴とする請求項8記載の人工神経回路網。
【請求項11】
情報領域を確立するのに使用される前記データベースが音楽のトーンを表すことを特徴とする請求項8記載の人工神経回路網。
【請求項12】
情報領域を確立するのに使用される前記データベースが問題の解決にバリエーションを含んでいることを特徴とする請求項8記載の人工神経回路網。
【請求項13】
情報領域を確立するのに使用される前記データベースが電気装置の望ましい特性および望ましくない特性を含んでいることを特徴とする請求項8記載の人工神経回路網。
【請求項14】
前記データベースが機械装置の特性に関する情報を含んでいることを特徴とする請求項8記載の人工神経回路網。
【請求項15】
前記人工神経回路網がそれぞれ独立して作動可能な複数個のステージを含んでいることを特徴とする請求項8記載の人工神経回路網。
【請求項16】
前記人工神経回路網が特定の情報領域を有するように訓練されており、また情報領域の特性を変更するための手段がそのなかにノイズおよび確立された情報のリラクゼーションの形態で導入される摂動を含んでいることを特徴とする請求項8記載の人工神経回路網。
【請求項17】
前記人工神経回路網がノイズおよびリラクゼーションの形態で導入される摂動に対する入力端を有し、また前記第2の神経回路網が前記人工神経回路網に、摂動の導入により影響されてそのなかに確立された情報領域にさらに変化を生じさせるべく、フィードバックされる出力を生ずることを特徴とする請求項9記載の人工神経回路網。
【請求項18】
予め定められた知識領域のなかで訓練された神経回路網システムの第1の部分を含んでおり、この第1の部分が知識領域に影響する摂動が導入される入力端と、出力端と、フィードバック入力端とを有し、また前記第1の部分の出力を受けるべく接続されておりまた前記第1の部分の出力の異なる選択性レベルに応答するべく訓練されている第2の部分を有し、この第2の部分が入力端と、前記第1の部分のフィードバック入力端に接続されている出力端とを有し、それによって第2の部分が第1の部分を監視するときに、それがユーティリティの目的に対する受容可能性および非受容可能性に関する異なる出力のなかから選ぶことを特徴とする人工神経回路網のなかの既存のデータベースを変更するための装置。
【請求項19】
前記神経回路網システムの前記第1の部分が予め選ばれた音楽領域を表すべく訓練されており、また前記第2の部分の出力端が前記第1の部分の出力の選ばれた部分を表すサウンドを発生するための装置に接続されていることを特徴とする請求項18記載の装置。
【請求項20】
前記神経回路網システムの前記第1の部分が予め定められたデザイン形状に関して訓練されており、また前記第2の部分が前記第1の部分の出力デザインの審美的および実用的な値に関して訓練されていることを特徴とする請求項18記載の装置。
【請求項21】
前記神経回路網システムの前記第1の部分が自動車の予め定められた数の特性に関して訓練されており、また前記神経回路網システムの前記第2の部分が前記第1の部分のなかに訓練された異なる組み合わせの特性のなかから選ぶべく訓練されており、前記神経回路網システムの前記第2の部分がこの第2の部分により選ばれた前記第1の部分の出力の選ばれた一つを表示するためのディスプレイ装置を含んでいる出力端を有することを特徴とする請求項18記載の装置。
【請求項22】
前記第1の部分に与えられる摂動がノイズ、リラクゼーションおよび内部および/または外部で発生される摂動を含んでいることを特徴とする請求項18記載の装置。
【請求項23】
ある知識領域のなかの入力‐出力マップを作るべく訓練された神経回路網と、この神経回路網に漸進的に増大する度合の摂動を受けさせ、それによって知識領域のなかの変化および訓練された知識領域を漸進的に変更する特徴およびコンセプトを生じさせるための手段と、生じた変更を表示するための手段とを含んでいることを特徴とする人間の創造力をシミュレートするための装置。
【請求項24】
予め定められたコンセプトをそれらが発生されるにつれて選ぶべく作動可能な神経回路網に接続されている手段と、このようなコンセプトを実行するための手段とを含んでいることを特徴とする請求項23記載の装置。
【請求項25】
出現するコンセプトの質および量を調節するように前記神経回路網の出力端からの情報をフィードバックする手段を含んでいることを特徴とする請求項23記載の装置。
【請求項26】
ある予め定められた知識領域のなかの情報を生ずるべく訓練されている神経回路網と、訓練された知識領域の重み、バイアス、内部および外部能動化に関する摂動の度合を、最初の知識領域のなかの特徴およびコンセプトから漸進的に変更された特徴およびコンセプトをついには生ずるように、増大させるための手段と、前記神経回路網に接続されており、また予め定められた出現するコンセプトの識別および選択を含めてその出力をパトロールするべく訓練されている第2の神経回路網と、選ばれたコンセプトを表示するための手段とを有することを特徴とする制約された人間の創造力をシミュレートするための手段。
【請求項27】
電気的に発生される出力信号の形態で選ばれたコンセプトを実行する手段を含んでいることを特徴とする請求項26記載の装置。
【請求項28】
さらにその出力を変更するべく前記神経回路網に前記第2の神経回路網の出力を自律的にフィードバックする手段を含んでいることを特徴とする請求項26記載の装置。
【請求項29】
前記神経回路網が神経回路網の並列に分布したシステムの形態を有することを特徴とする請求項26記載の装置。
【請求項30】
ある知識領域のなかでそのなかで訓練された情報を再循環させるべく訓練された回帰神経回路網と、知識領域の重み、バイアス、内部および外部能動化に関する摂動の度合を漸進的に増大させるための手段と、回帰神経回路網の出力を表示するための手段と、有用なコンセプトが作り出されるにつれて有用なコンセプトを他のコンセプトから選ぶ手段とを含んでいることを特徴とする緩く制約された人間の創造力をシミュレートするための手段。
【請求項31】
前記知識領域が手順に関係することを特徴とする請求項30記載の装置。
【請求項32】
前記神経回路網が神経回路網の並列に分布したシステムの形態を有することを特徴とする請求項30記載の装置。
【請求項33】
有用なコンセプトを他のコンセプトから選ぶ手段が神経回路網の並列に分布したシステムの形態であることを特徴とする請求項30記載の装置。
【請求項34】
前記第1の神経回路網がアルゴリズム計算機コードにより置換されていることを特徴とする請求項1ないし33の1つに記載の装置。
【請求項35】
前記第2の神経回路網がアルゴリズム計算機コードにより置換されていることを特徴とする請求項1ないし33の1つに記載の装置。
【請求項36】
予め訓練された第2の部分に接続されている予め訓練された第1の部分と、第1および第2の部分の一つを、そのなかの訓練に変化を生じさせるべく、切り詰めるためのアルゴリズムとを含んでおり、第1の部分のなかで生起する変化が第2の部分のなかに変化を生ずることを特徴とする神経回路網。
【請求項37】
そのなかの訓練に変化を与えるため前記神経回路網の前記第1の部分を切り詰めるための第2のアルゴリズムを含んでいることを特徴とする請求項36記載の神経回路網。
【請求項1】
ランダムノイズ刺激を受け、それへの人間の知的応答をシミュレートし、またそれから創造力出力を発生するための手段において、 ランダムノイズ源に接続されている第1の入力端と、出力端と、フィードバック入力端とを有する神経回路網と、 この神経回路網の出力端に接続されている入力端と、前記神経回路網のフィードバック入力端に接続されている出力端とを有するパトローリング神経回路網とを含んでおり、前記神経回路網が刺激のプログラム領域を含むとともにコンセプトの流れを連続的に出力し、また前記パトローリング神経回路網が、ランダムノイズにより生ずる入力刺激に起因する所望の出力を選ぶべく前記神経回路網からのコンセプトの流れを監視することを特徴とする人間の応答をシミュレートするための手段。
【請求項2】
前記神経回路網の刺激プログラム領域が対象の審美的特性に関する情報を表すことを特徴とする請求項1記載の人間の応答をシミュレートするための手段。
【請求項3】
前記神経回路網の刺激プログラム領域が音楽の選ばれた形式の特性に関する情報を表すことを特徴とする請求項1記載の人間の応答をシミュレートするための手段。
【請求項4】
前記神経回路網の刺激プログラム領域が自動車のような装置の機能的特性に関する情報を表すことを特徴とする請求項1記載の人間の応答をシミュレートするための手段。
【請求項5】
前記パトローリング神経回路網が、前記神経回路網により生じた特定の応答を選び、またその他の応答を拒否するべくプログラム領域により訓練されていることを特徴とする請求項1記載の人間の応答をシミュレートするための手段。
【請求項6】
前記パトローリング神経回路網が、前記神経回路網のフィードバック入力端にフィードバックされるいくつかの出力数を生ずることを特徴とする請求項1記載の人間の応答をシミュレートするための手段。
【請求項7】
ある知識領域のなかのトレーニングに基づいて入力‐出力マップを作るべく訓練された第1の神経回路網と、この第1の神経回路網にその重み、バイアスおよび能動化に影響する漸進的に増大する度合の摂動を受けさせ、それによって第1の神経回路網に第1の神経回路網の知識領域のなかの訓練された情報を漸進的に変更する出力を生じさせるための手段と、変更された情報を表示するための手段と、第1の神経回路網の予め定められた出力に応答するべく、またいくつかの有用なコンセプトが発生されるにつれてそれらのコンセプトを選ぶべく訓練された第2の神経回路網を含んでいる手段と、出現する情報の質および量の双方を調節するように第2の神経回路網のなかで発生された出力情報のいくつかを第2の神経回路網から第1の神経回路網へフィードバックするため手段を含んでいる第2の神経回路網からの出力を発生するための手段とを含んでいることを特徴とする人間の創造力をシミュレートするための装置。
【請求項8】
入力端と、出力端と、フィードバック入力端と、そのなかに情報領域を確立するべく人工神経回路網を訓練するための手段を含んでいる訓練情報源と、摂動データ源と、そのなかに確立された訓練領域に変化を生じさせるべく、また前記変化を反映する出力を前記人工神経回路網の出力端に生じさせるべく、前記摂動データを前記人工神経回路網に導入するための手段と、理解可能な仕方で前記変化を表す手段とを有することを特徴とする人工神経回路網。
【請求項9】
入力端と、出力端と、第2のデータペースと、そのなかに訓練領域を確立するべく第2のデータペースを与えるための手段とを有する第2の人工神経回路網と、この第2の人工神経回路網の出力を前記人工神経回路網のフィードバック入力端に与えるための手段と、前記第2の人工神経回路網からのフィードバックにより影響された前記人工神経回路網のなかの変化を表す出力を前記第2の人工神経回路網から有意義な仕方で発生するための手段とを含んでいることを特徴とする請求項8記載の人工神経回路網。
【請求項10】
前記人工神経回路網のなかの情報領域を確立するのに使用される前記データベースがデザインを表すデータベースを含んでいることを特徴とする請求項8記載の人工神経回路網。
【請求項11】
情報領域を確立するのに使用される前記データベースが音楽のトーンを表すことを特徴とする請求項8記載の人工神経回路網。
【請求項12】
情報領域を確立するのに使用される前記データベースが問題の解決にバリエーションを含んでいることを特徴とする請求項8記載の人工神経回路網。
【請求項13】
情報領域を確立するのに使用される前記データベースが電気装置の望ましい特性および望ましくない特性を含んでいることを特徴とする請求項8記載の人工神経回路網。
【請求項14】
前記データベースが機械装置の特性に関する情報を含んでいることを特徴とする請求項8記載の人工神経回路網。
【請求項15】
前記人工神経回路網がそれぞれ独立して作動可能な複数個のステージを含んでいることを特徴とする請求項8記載の人工神経回路網。
【請求項16】
前記人工神経回路網が特定の情報領域を有するように訓練されており、また情報領域の特性を変更するための手段がそのなかにノイズおよび確立された情報のリラクゼーションの形態で導入される摂動を含んでいることを特徴とする請求項8記載の人工神経回路網。
【請求項17】
前記人工神経回路網がノイズおよびリラクゼーションの形態で導入される摂動に対する入力端を有し、また前記第2の神経回路網が前記人工神経回路網に、摂動の導入により影響されてそのなかに確立された情報領域にさらに変化を生じさせるべく、フィードバックされる出力を生ずることを特徴とする請求項9記載の人工神経回路網。
【請求項18】
予め定められた知識領域のなかで訓練された神経回路網システムの第1の部分を含んでおり、この第1の部分が知識領域に影響する摂動が導入される入力端と、出力端と、フィードバック入力端とを有し、また前記第1の部分の出力を受けるべく接続されておりまた前記第1の部分の出力の異なる選択性レベルに応答するべく訓練されている第2の部分を有し、この第2の部分が入力端と、前記第1の部分のフィードバック入力端に接続されている出力端とを有し、それによって第2の部分が第1の部分を監視するときに、それがユーティリティの目的に対する受容可能性および非受容可能性に関する異なる出力のなかから選ぶことを特徴とする人工神経回路網のなかの既存のデータベースを変更するための装置。
【請求項19】
前記神経回路網システムの前記第1の部分が予め選ばれた音楽領域を表すべく訓練されており、また前記第2の部分の出力端が前記第1の部分の出力の選ばれた部分を表すサウンドを発生するための装置に接続されていることを特徴とする請求項18記載の装置。
【請求項20】
前記神経回路網システムの前記第1の部分が予め定められたデザイン形状に関して訓練されており、また前記第2の部分が前記第1の部分の出力デザインの審美的および実用的な値に関して訓練されていることを特徴とする請求項18記載の装置。
【請求項21】
前記神経回路網システムの前記第1の部分が自動車の予め定められた数の特性に関して訓練されており、また前記神経回路網システムの前記第2の部分が前記第1の部分のなかに訓練された異なる組み合わせの特性のなかから選ぶべく訓練されており、前記神経回路網システムの前記第2の部分がこの第2の部分により選ばれた前記第1の部分の出力の選ばれた一つを表示するためのディスプレイ装置を含んでいる出力端を有することを特徴とする請求項18記載の装置。
【請求項22】
前記第1の部分に与えられる摂動がノイズ、リラクゼーションおよび内部および/または外部で発生される摂動を含んでいることを特徴とする請求項18記載の装置。
【請求項23】
ある知識領域のなかの入力‐出力マップを作るべく訓練された神経回路網と、この神経回路網に漸進的に増大する度合の摂動を受けさせ、それによって知識領域のなかの変化および訓練された知識領域を漸進的に変更する特徴およびコンセプトを生じさせるための手段と、生じた変更を表示するための手段とを含んでいることを特徴とする人間の創造力をシミュレートするための装置。
【請求項24】
予め定められたコンセプトをそれらが発生されるにつれて選ぶべく作動可能な神経回路網に接続されている手段と、このようなコンセプトを実行するための手段とを含んでいることを特徴とする請求項23記載の装置。
【請求項25】
出現するコンセプトの質および量を調節するように前記神経回路網の出力端からの情報をフィードバックする手段を含んでいることを特徴とする請求項23記載の装置。
【請求項26】
ある予め定められた知識領域のなかの情報を生ずるべく訓練されている神経回路網と、訓練された知識領域の重み、バイアス、内部および外部能動化に関する摂動の度合を、最初の知識領域のなかの特徴およびコンセプトから漸進的に変更された特徴およびコンセプトをついには生ずるように、増大させるための手段と、前記神経回路網に接続されており、また予め定められた出現するコンセプトの識別および選択を含めてその出力をパトロールするべく訓練されている第2の神経回路網と、選ばれたコンセプトを表示するための手段とを有することを特徴とする制約された人間の創造力をシミュレートするための手段。
【請求項27】
電気的に発生される出力信号の形態で選ばれたコンセプトを実行する手段を含んでいることを特徴とする請求項26記載の装置。
【請求項28】
さらにその出力を変更するべく前記神経回路網に前記第2の神経回路網の出力を自律的にフィードバックする手段を含んでいることを特徴とする請求項26記載の装置。
【請求項29】
前記神経回路網が神経回路網の並列に分布したシステムの形態を有することを特徴とする請求項26記載の装置。
【請求項30】
ある知識領域のなかでそのなかで訓練された情報を再循環させるべく訓練された回帰神経回路網と、知識領域の重み、バイアス、内部および外部能動化に関する摂動の度合を漸進的に増大させるための手段と、回帰神経回路網の出力を表示するための手段と、有用なコンセプトが作り出されるにつれて有用なコンセプトを他のコンセプトから選ぶ手段とを含んでいることを特徴とする緩く制約された人間の創造力をシミュレートするための手段。
【請求項31】
前記知識領域が手順に関係することを特徴とする請求項30記載の装置。
【請求項32】
前記神経回路網が神経回路網の並列に分布したシステムの形態を有することを特徴とする請求項30記載の装置。
【請求項33】
有用なコンセプトを他のコンセプトから選ぶ手段が神経回路網の並列に分布したシステムの形態であることを特徴とする請求項30記載の装置。
【請求項34】
前記第1の神経回路網がアルゴリズム計算機コードにより置換されていることを特徴とする請求項1ないし33の1つに記載の装置。
【請求項35】
前記第2の神経回路網がアルゴリズム計算機コードにより置換されていることを特徴とする請求項1ないし33の1つに記載の装置。
【請求項36】
予め訓練された第2の部分に接続されている予め訓練された第1の部分と、第1および第2の部分の一つを、そのなかの訓練に変化を生じさせるべく、切り詰めるためのアルゴリズムとを含んでおり、第1の部分のなかで生起する変化が第2の部分のなかに変化を生ずることを特徴とする神経回路網。
【請求項37】
そのなかの訓練に変化を与えるため前記神経回路網の前記第1の部分を切り詰めるための第2のアルゴリズムを含んでいることを特徴とする請求項36記載の神経回路網。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【公開番号】特開2007−299387(P2007−299387A)
【公開日】平成19年11月15日(2007.11.15)
【国際特許分類】
【出願番号】特願2007−109647(P2007−109647)
【出願日】平成19年4月18日(2007.4.18)
【分割の表示】特願平8−513374の分割
【原出願日】平成7年10月4日(1995.10.4)
【出願人】(507088255)
【公開日】平成19年11月15日(2007.11.15)
【国際特許分類】
【出願日】平成19年4月18日(2007.4.18)
【分割の表示】特願平8−513374の分割
【原出願日】平成7年10月4日(1995.10.4)
【出願人】(507088255)
[ Back to top ]