説明

国際特許分類[G06F7/38]の内容

物理学 (1,541,580) | 計算;計数 (381,677) | 電気的デジタルデータ処理 (228,215) | 取扱うデータの順序または内容を操作してデータを処理するための方法または装置 (915) | 位取り記数法を用いて計算を行なうための方法または装置,例.2進,3進,10進法を用いるもの (331)

国際特許分類[G06F7/38]の下位に属する分類

国際特許分類[G06F7/38]に分類される特許

21 - 30 / 41


【課題】高速な低精度乗算器を使用して、演算処理を高速化し、且つ演算の出力精度を確保する。
【解決手段】演算装置は、複数(K)のzbitからなる入力データIN1〜INKの集合を入力する丸め処理部10を有している。丸め処理部10は、各32bitの入力データIN1〜INKのうちの上位z/2bitの特定領域Aの使用状態によって、確保するビットフィールドCを選択してz/2に丸め込む。丸め処理の結果、捨てられた非特定領域Bの下位(16−n)bitのシフト情報SHIFTは、メモリ領域21−1に格納される。丸められた各16bitのデータD10−1〜D10−Kは、乗算器30で乗算される。桁調整部40では、メモリ領域21−1〜21−kにそれぞれ格納されたシフト情報SHIFTに基づき、乗算結果D30を左にシフトして桁を調整する。 (もっと読む)


【課題】従来と比較して計算精度を高める。
【解決手段】グラフ関数電卓1Aにおいて、十進演算器70は、入力部30を介して入力された計算式の計算を、計算桁数n,n+mでそれぞれ行う。そして、CPU20は、計算式中の加減算について、計算桁数n+mでの加減算結果のうち最上位桁からn+1桁までの上位成分値が0になった場合に、計算桁数nでの加減算結果を0とする補正を行う。 (もっと読む)


【課題】 補間対象値A,Bについての線形補間値Cを高い精度で求める簡潔な回路構成を提供する。
【解決手段】 補間割合αを用いて、C=(1−α)*A+α*Bなる基本式に基づき補間値Cを求める。8ビットの数値D(ビットd……d)を用いて、α=D/255と定義することにより、「0≦α≦1」なるαを設定する。1/255の二進表現は、0.00000001…という循環小数になるので、αの二進表現は、0.d……d……となる。これを利用して、αの2−9の桁を0捨1入した近似値α′を、α′=Σj=0〜7(j−8)+d−8と定義すれば、α=D/255なる除算を行う代わりに、加算によって近似値α′を求めることができるので、除算を含まない簡潔な回路が実現できる。 (もっと読む)


【課題】PLDのDSPブロックの改善された丸めおよび飽和能力を提供すること。
【解決手段】プログラマブルロジックデバイスのための特殊処理ブロックは、乗算およびその和を実行する回路網、およびその結果を丸める回路網を含む。丸め回路網は、直近への丸めおよび直近への丸め−偶数の演算を選択可能なように実行する。さらに、丸めが生じるビット位置は好適に選択可能である。特殊処理ブロックはまた、好適には、オーバーフローおよびアンダーフローを防ぐために飽和回路を含み、飽和が生じるビット位置もまた好適に選択可能である。丸め位置および飽和位置の両方の選択可能性は、出力データワード幅の制御を提供する。丸めおよび飽和回路網は、タイミングの必要性に基づき、異なる位置において選択可能なように位置され得る。 (もっと読む)


【課題】どの演算でどれだけのロストビットが発生したかを算出すること。
【解決手段】計算装置は、第1被演算子、第2被演算子、および、演算の種別の入力を受け付ける入力部104と、入力部104に入力されたデータを記憶するメモリ102と、メモリ102に記憶された第1被演算子および第2被演算子の演算により演算結果を計算し、演算結果について所定のビット量より下位のビットを省略することによって演算結果を所定のビット量に収めるCPU103と、CPU103により省略された下位のビットのビット量を、ロストビット量として出力する出力部105と、を有することを特徴とする。 (もっと読む)


【課題】スティッキービットを生成するためのハードウェア資源を低減しながら、スティッキービットを生成するために必要となるサイクルタイムを削減して、スティッキービットを効率良く生成できるようにする。
【解決手段】演算結果の正規化の際に演算結果がシフトされたか否かを表す情報の生成を行なう演算処理装置において、演算結果を出力する演算手段と、複数のシフト手段を有し、演算結果に対する正規化処理を複数のシフト手段により分割して行なう正規化処理手段30と、複数のシフト手段に対する複数のシフト量を算出するシフト量算出手段と、複数のシフト量を用いて、演算結果の正規化の際に演算結果がシフトされるか否かの予測結果である仮情報の生成を行なう予測手段51と、仮情報を用いて、前記情報の生成を行なう生成手段52とをそなえる。 (もっと読む)


【課題】 数学の圧縮数の法則を利用して、累乗の一桁圧縮数や9などで割った余りを計算したり、あるいは同圧加総和数をなす数、同圧数の個数をパラメーター表示したりする。
【解決手段】 累乗の数を簡単な式に変形すれば、簡単な計算式や表によりその一桁圧縮数などを得る。同圧加総和数の圧縮数に一桁の数を掛けて得る数を用いて、パラメーター表示する。圧縮数の法則とは、二桁以上の数において、各位の数を加える計算を圧縮計算と定義し、圧縮計算して得る値を圧縮数と定義し、特に圧縮数が一桁になるまで圧縮数を何回も圧縮計算して得る値を一桁圧縮数と定義すると、二桁以上の因数は、各々の一桁圧縮数を計算し、因数で一桁の数がある場合にはそれらも含めて掛け合わせて得る積の一桁圧縮数を計算すると、それは、元々の因数をそのまま掛け合わせてなる積における一桁圧縮数と同じ値になるという法則である。 (もっと読む)


【解決手段】2の補数演算を達成する方法は、複数のバイト値を受信することと、複数のバイト値を第1の部分及び第2の部分に分割することとを含む。更に、この方法は、第1の部分を、第1の4対2コンプレッサの第1のセグメントへ入力することと、第1の部分について、第1の4対2圧縮演算を実行し、第1のロウと、第1のロウから1ビットオフセットした第2のロウとを有する第1の結果のセットを生成することと、1からなる第1の値を送り、第1の2の補数演算を達成することとを含む。この方法はまた、第2の部分を、第2の4対2コンプレッサの第2のセグメントへ入力することと、1からなる第2の値を第2の部分に送り(carry in)、第2の2の補数演算を達成するために、第2の部分のすぐ右側に、1からなる2つの値を加えることとを含む。 (もっと読む)


【課題】 データサイズ全体を増やすことなく、且つデータの取りうる範囲を狭めることなく、送信データの異常を受信装置側へ伝達できるようにする。
【解決手段】 エンジン制御ECU1のROM13には、他のECUに送信する浮動小数点型データの異常に備えて、異常の種類毎に異なる非数が対応付けられた非数変換テーブル21が格納されている。水温センサ25で検出された水温データをインパネECU5に送信する際、水温センサ25が異常(つまり水温データが異常)ならば、水温データを送信する代わりに、非数変換テーブル21で水温センサ25の異常と対応付けられている非数を送信する。一方、インパネECU5のROM53にも非数変換テーブル61が格納されており、受信したデータが非数であった場合は、非数変換テーブル61との照合結果に基づき、受信した非数に対応した処理を行う。 (もっと読む)


効率的な回路構成で丸め処理のオーバヘッド低減でき、固定小数点演算器を用いた情報処理装置の数値演算精度を効率的に向上することのできるデータ処理装置である。 このデータ処理装置は、右ビットシフト演算機能を有するシフタ(10)と、2つの入力データの加算に、最下位ビットに1ビットデータを加算するキャリーイン機能を有するALU(50)とを含んで構成されたプロセッサと、プロセッサを単一命令で制御する制御ユニット(200)とで構成されるデータ処理装置であって、シフタ(10)は、シフト演算結果のデータを出力すると同時に、右ビットシフトの場合に切り捨てられるビットについて丸め評価をしてシフト演算結果の最下位ビットに“1”加算が必要か否かを示す1ビットデータを出力する丸め評価回路(110)を有し、ALU(50)は、2入力データの内の一方をシフタ(10)の出力データとし、キャリーイン機能で用いるデータをシフタの丸め評価回路(110)が出力する1ビットデータとする。
(もっと読む)


21 - 30 / 41