説明

国際特許分類[G06F7/38]の内容

物理学 (1,541,580) | 計算;計数 (381,677) | 電気的デジタルデータ処理 (228,215) | 取扱うデータの順序または内容を操作してデータを処理するための方法または装置 (915) | 位取り記数法を用いて計算を行なうための方法または装置,例.2進,3進,10進法を用いるもの (331)

国際特許分類[G06F7/38]の下位に属する分類

国際特許分類[G06F7/38]に分類される特許

1 - 10 / 41


【課題】キャリーレス乗算器の誤動作の検出を可能にする。
【解決手段】pビット(pは2以上の自然数)のデータユニットがそれぞれq個(qは自然数)並べられたデータ列である被乗数データ列2と乗数データ列3とのキャリーレス乗算を行う乗算回路が出力する乗算結果データ列4のパリティ値をパリティ予測器1が予測する。下位パリティ予測部10は、乗算結果データ列4における下位より1番目のデータユニットのパリティ値を、被乗数データ列2と乗数データ列3とにおける、下位より1番目のデータユニットの値及びパリティ値に基づき予測する。上位パリティ予測部20は、乗算結果データ列4における下位より2q−1番目のデータユニットに続く上位p−1ビットのデータのパリティ値を、被乗数データ列2と乗数データ列3とにおける、下位よりq番目のデータユニットの値及びパリティ値に基づき予測する。 (もっと読む)


【課題】固定精度浮動小数点数の組を丸め対象とした場合に、丸め演算を効率的に実現する演算方式を提供する。
【解決手段】丸めを行なう演算回路は、N進法(Nは2以上の整数)による固定精度浮動小数点数の仮数部と指数部とを含む丸め対象データを保持するレジスタと、丸め対象データに対する丸め処理の精度を表す丸め精度を保持するレジスタと、仮数部の最上位桁から連続するゼロ値を計数する先行ゼロ計数部と、指数部に1を増分した結果から、丸め精度と先行ゼロ計数部が計数したゼロ値の数を減算することにより、丸めが行われる指数を表す丸め指数部を算出する指数生成部と、指数生成部が生成した丸め指数部に基づき、第1の丸め加算値と第2の丸め加算値のいずれかを選択して丸め加算値を出力する丸め加算値選択部と、丸め指数部と丸め加算値とを保持する出力レジスタを有する。 (もっと読む)


【課題】ハードウェアのアーキテクチャに依らずに,指定された丸めモードに従った丸めの結果を得ることが可能となる技術を提供する。
【解決手段】第2精度基数変換部11は,変換対象数値を,指定された第1の精度より高い第2の精度で基数変換する。第1精度基数変換部13は,第2の精度で基数変換した結果を,指定された第1の精度で丸める。誤差算出部15は,第1の精度で丸めた結果と,第2の精度で基数変換した結果との誤差を算出する。丸め方向判定部17は,誤差の符号から,第1の精度で丸めた結果における丸めの方向が指定された丸めモードに従った丸めの方向であるかを判定する。丸め結果補正部18は,第1の精度で丸めた結果における丸めの方向が指定された丸めモードに従った丸めの方向でない場合に,誤差の符号と第1の精度で丸めた結果の符号との関係から,第1の精度で丸めた結果を補正する。 (もっと読む)


【課題】本発明は、IIRフィルタで有限長精度の数値演算を行った場合であっても、入力が0になれば丸め誤差によって0に収束する丸め処理方法及びプログラムの提供を目的とする。
【解決手段】本願発明の丸め処理方法は、IIR型フィルタに関する動作情報Iを取得する動作情報取得手順S101と、予め定められた2以上の丸め処理のなかから、動作情報Iに対応する1つの丸め処理を選択する選択手順S102と、選択手順S102で選択した丸め処理を用いてIIR型フィルタへの入力信号Sを丸める丸め処理手順S103と、を順に有する。 (もっと読む)


【課題】オペランド精度よりも高い精度で演算するので不必要な処理サイクルが発生することを防止する。
【解決手段】プロセッサに含まれる精度制御反復算術論理演算ユニット(IALU)は、副精度結果、すなわち、最大精度よりも低いビット精度を有する結果を生成する。一実施形態においては、精度制御IALUは、算術論理演算回路および精度制御回路を備える。算術論理演算回路は、結果を得るために、第1のビット精度のオペランドを反復的に処理するように構成される。精度制御回路は、第1のビット精度よりも低いプログラムされた第2のビット精度に結果が達するときに、反復オペランド処理を終了するように構成される。一実施形態においては、精度制御回路は、制御回路によって受け取られたインジケータに応じて、算術論理演算回路に反復オペランド処理を終了させる。精度制御IALUは、さらに、副精度結果を丸めるように構成された丸め論理を備える。 (もっと読む)


【課題】切り上げ演算を含む数式の近似計算を高速に行うことができる演算回路及び方法を提供する。
【解決手段】所定のxの関数を所定値で除算した余りをrとする。数式のxをrの関数で置き換えかつ切り上げ演算の代わりに1に近い1未満の値を加算してから小数点以下を切り捨てる演算を行う第1の式から、数式のxをrの関数で置き換えかつ切り上げ演算を行わない第2の式を引いたものを関数f(r)とする。rに対するf(r)の計算結果を予めテーブルにまとめておく。与えられたxの値に対して切り上げ演算を行わないで数式を計算して近似値qを計算する。与えられたxの値に対してrを計算する。計算したrの値に対するf(r)の値をテーブルから取り出し、このf(r)の値と近似値qを足し合わせる。 (もっと読む)


【課題】浮動小数点形式のデータの演算結果が非数となった場合でも、当該制御および他の制御における制御不良を防止する。
【解決手段】CPUは、吸気制御初期化処理(ステップS1301)において、非数が発生した変数を初期化するとともに、同変数を参照して算出される変数など、非数が発生した変数によって影響を受ける変数を一括して初期化する。本処理で初期化する変数は、必ずしも吸気制御処理内で用いられる全ての変数でなくともよい。非数が発生した変数によって影響を受ける変数、例えばある変数が非数となると派生的に非数となる変数などを初期化することもできる。その他の任意の変数を初期化対象としてもよい。 (もっと読む)


【課題】デジタルシグナルプロセッサ内で2の補数演算を実行するための改良されたシステム及び方法を提供する。
【解決手段】2の補数演算を達成する方法は、複数のバイト値を受信することと、複数のバイト値を第1の部分及び第2の部分に分割することとを含む。更に、この方法は、第1の部分を、第1の4対2コンプレッサの第1のセグメントへ入力することと、第1の部分について、第1の4対2圧縮演算を実行し、第1のロウと、第1のロウから1ビットオフセットした第2のロウとを有する第1の結果のセットを生成することと、1からなる第1の値を送り、第1の2の補数演算を達成することとを含む。この方法はまた、第2の部分を、第2の4対2コンプレッサの第2のセグメントへ入力することと、1からなる第2の値を第2の部分にキャリーインし、第2の2の補数演算を達成するために、第2の部分のすぐ右側に、1からなる2つの値を加えることとを含む。 (もっと読む)


【課題】誤動作を確実に検出する。
【解決手段】前処理回路2は、演算対象となる数値をレジスタ1に格納する。解予測回路3は、レジスタに数値が格納されるごとに、レジスタ1に格納された数値に基づいて、演算対象となる数値の解の一部の桁の値である部分解を、上位の桁から順に予測する。中間値計算回路4は、解予測回路3で予測された部分解を用いた所定の演算により、中間値を示す数値を生成し、中間値に対して符号拡張により拡張符号ビットを付加した数値をレジスタに格納する。解生成回路5は、解予測回路3で予測された部分解を順次取得し、解を生成する。エラー検出回路6は、レジスタに格納された中間値の符号ビットと、拡張符号ビットとの値を比較し、不一致の場合にエラー信号を出力する。 (もっと読む)


【課題】バックアップメモリに格納する浮動小数点数形式のデータの非数の有無の判定及び初期化を、演算負荷を増加させることなく実行できる組込み制御装置を提供する。
【解決手段】マイクロコンピュータへの動作電源遮断時、組込み制御装置は、バックアップメモリに格納する浮動小数点数形式のデータの非数の有無を判定し、非数を有すると判定した場合、非数を有する浮動小数点数形式のデータを初期化する。マイクロコンピュータへの動作電源投入時、組込み制御装置は、動作電源遮断時にバックアップメモリに格納した浮動小数点数形式のデータのサム値と、動作電源遮断時にバックアップメモリに格納した浮動小数点数形式のデータのサム値とを比較することにより非数の有無を判定し、非数を有すると判定したとき、非数を有する浮動小数点数形式のデータを初期化する。 (もっと読む)


1 - 10 / 41