説明

Fターム[5B016BA05]の内容

位取り記数法を用いた四則演算 (704) | 演算の種類 (189) | 四則一般 (189) | 乗除算 (104)

Fターム[5B016BA05]の下位に属するFターム

乗算 (69)
除算 (27)

Fターム[5B016BA05]に分類される特許

1 - 8 / 8


【課題】切り上げ演算を含む数式の近似計算を高速に行うことができる演算回路及び方法を提供する。
【解決手段】所定のxの関数を所定値で除算した余りをrとする。数式のxをrの関数で置き換えかつ切り上げ演算の代わりに1に近い1未満の値を加算してから小数点以下を切り捨てる演算を行う第1の式から、数式のxをrの関数で置き換えかつ切り上げ演算を行わない第2の式を引いたものを関数f(r)とする。rに対するf(r)の計算結果を予めテーブルにまとめておく。与えられたxの値に対して切り上げ演算を行わないで数式を計算して近似値qを計算する。与えられたxの値に対してrを計算する。計算したrの値に対するf(r)の値をテーブルから取り出し、このf(r)の値と近似値qを足し合わせる。 (もっと読む)


【課題】格子を用いた計算において計算処理を高速化することを目的とする。
【解決手段】格子の横軸であるmの値が大きくなる方向に格子の接点の値を計算していく際に、m=n−1にダミーの接点を追加して、SIMD機能を利用してm=n−1の接点の値と追加したダミーの接点の値とを用いてベクトル演算することで、m=nの接点の値を求めることができるように、追加するダミーの接点を決定する決定手段と、決定手段で決定されたダミーの接点をm=n−1に追加する追加手段と、SIMD機能を利用してm=n−1の接点の値と追加手段で追加されたダミーの接点の値とを用いてベクトル演算することで、m=nにある接点の値を算出する算出手段と、を有することによって課題を解決する。 (もっと読む)


【課題】通信装置において、簡易な構成で、パケット長のチェック処理を高速におこなう。
【解決手段】除算処理部105bは、先ず、変数Uに、パケット受信部101a−1から受け渡された実パケット長をセットする。次に、除算処理部105bは、変数Vに2αをセットする。除算処理部105bは、正数判定処理部105cによって、UをVで除算した結果の商Mから剰余Nを減算した減算結果が正数であると判定されたならば、この減算結果をUに上書きセットする。除算処理部105bは、正数判定処理部105cによって、UをVで除算した結果の商から剰余を減算した減算結果が正数でないと判定されるまで、減算結果をVで除算する処理を繰り返す。そして、パケット長正常判定処理部105dは、減算結果が正数でなくなったときの商および剰余が一致すれば、受信データのデータサイズが正常と判定して、廃棄判定処理部101a−3へ通知する。 (もっと読む)


【課題】逆数または平方根逆数の近似計算をニュートンラフソン法によって行う際、同程度の大きさの浮動小数点数の減算処理に伴ってプロセッサで生じるビットシフト処理に起因するストールを回避でき、計算速度を向上できる演算装置を提供する。
【解決手段】演算装置1は、初期近似精度を持つ初期近似逆数に対して近似計算を行う。まず、中間値演算部15が、ニュートンラフソン法の1段近似計算により、中間近似精度を持つ中間近似逆数を計算し、そして、目標値演算部17が、ニュートンラフソン法の多段近似計算によって目標精度まで精度を高める。中間近似精度は、プロセッサでの浮動小数点数の減算処理に伴う仮数部のビットシフトによるストールが生じない上限ビットシフト量に対応する非ストール誤差を残すように設定されている。この中間近似精度が得られるように、中間値演算部15では、故意に誤差を拡大した1段近似計算が行われる。 (もっと読む)


【課題】必要に応じて高精度な演算と高速な演算とを容易に切り替えて使用することができる演算装置、画像データ変換装置、携帯情報端末、および演算プログラムを提供する。
【解決手段】指定された演算精度を表す指定演算精度に応じたサイズのルックアップテーブルのデータを保持するメモリ3と、指定演算精度と入力データDinに基づいてアドレスを取得するアドレス取得部5と、アドレス取得部5によって取得されたアドレスに対応するルックアップテーブルのデータをメモリ3から読み出し、出力データDoutとして出力する読出部6、とを備える。 (もっと読む)


【課題】DSPを用いて文字列を変換する場合に、その変換に要する時間を短縮した整数データの文字列変換方法を提供すること。
【解決手段】DSPを用いて、2進数表現の数値データを10進数表現の文字列に変換する整数データの文字列変換方法において、数値データに0.1を乗算して小数点以下を切り捨て、第1数値データを求める第1工程と、数値データから第1数値データに10を乗算して得た数値を減算し、10進数表現の最下位の位の数値を求める第2工程とを有する。 (もっと読む)


【課題】電子回路中で乗算演算または除算演算を行う方法において、演算を簡単に行えるようにする。
【解決手段】電子回路中で、X・Kの乗算演算またはX・1/Kの除算演算を行う方法であって、回路のソフトウェア回路領域(50)中で、psvがKの近似値になるように、シフト桁svを計算する。乗算時には、ハードウェア回路領域(80)中で、Xをsv桁左にシフトし、除算時には、Xをsv桁右にシフトする。ソフトウェア回路領域(50)中で、適切な補正因子Kfを計算する。Xの値に補正因子Kfを乗算する。 (もっと読む)


本発明は、2nビットの数を使用してモジュラ乗算を行う方法に関する。本発明の方法は、数(A,B)を2基数、または適当な整数であるU基数に分解するステップと、その後で、第1のステップからのnビットの前記数に対して、MultModDivおよび/またはMultModDivInitタイプの基本演算を行うステップとからなる。本発明は、また、ユークリッド乗算/除算を計算する方法にも関する。本発明は、暗号計算にも使用することができる。 (もっと読む)


1 - 8 / 8