説明

Fターム[5B016BA01]の内容

位取り記数法を用いた四則演算 (704) | 演算の種類 (189) | 四則一般 (189)

Fターム[5B016BA01]の下位に属するFターム

加減算 (79)
乗除算 (104)

Fターム[5B016BA01]に分類される特許

1 - 6 / 6


【課題】浮動小数点演算でアンダーフロー例外及びオーバーフロー例外が発生した場合に消費電力を抑えることができる演算装置を提供する。
【解決手段】指数演算手段81は、浮動小数点数の指数に対して演算を行う。仮数演算手段82は、浮動小数点数の仮数に対して演算を行う。演算例外検知手段83は、指数演算手段81が演算を実行したときに、その演算結果がオーバーフロー又はアンダーフローを示す演算例外であることを検知する。演算停止手段84は、演算例外検知手段83が演算例外を検知したときに、仮数演算手段82の演算を停止させる。 (もっと読む)


【課題】複数のデータ語長への飽和処理を効率良く行える信号処理プロセッサ及び半導体装置を提供すること。
【解決手段】デコード部110とレジスタ部と命令実行部130とを含む信号処理プロセッサ100であって、命令実行部130は、読み出し処理部140と、演算部150と、飽和処理部160と、書き出し処理部170と、を含みレジスタ部は、飽和処理において飽和させる語長を特定する飽和語長調情報124を含む飽和情報が保持された飽和情報保持部120を含み、飽和処理部160は、飽和語長情報124によって特定される語長に対応した飽和処理を行う。 (もっと読む)


【課題】固定小数点演算において小数点位置を変更可能にすることで、プログラムで処理すべき値を正規化する作業を省く。
【解決手段】四則演算とシフト演算の少なくとも一方を行う算術論理演算ユニット13と、固定小数点演算の小数点位置データを保持する小数点位置レジスタ14と、小数点位置レジスタ14に保持される小数点位置データに基づいて、算術論理演算ユニット13の出力に対して所定の丸め及び飽和処理を行う丸め/飽和処理器20とを有する。 (もっと読む)


【課題】本出願はプロセッサ分野、特に算術演算の実行に関する。
【解決手段】プロセッサによって実行される計算の多くは、多数の単純な演算を含む。その結果、乗算演算は、非常に多数のクロックサイクルをかけて終了する場合がある。本出願は、自明なオペランド・レジスタを有するプロセッサを提供し、これはデータストアに格納されるデータ値に対する算数又は格納演算の実行に使用される。 (もっと読む)


【課題】コンピューター等の電子回路でかけ算などの演算を行う際に、演算結果値の一覧表を参照して値を得る演算方法、および当該演算方法を行うための演算表を提供する。
【解決手段】2^n進法プロセスによってかけ算などの演算を行うことで、前項の問題を解決する。ただし、各桁ごとの計算をリアルタイムで行わず、計算の結果値をあらかじめ記録した一覧表を参照することで演算処理を簡略化する。 (もっと読む)


【課題】 量子ビットや計算時間に関する新たなコストを発生させることなく量子計算における「漏れ」の問題を改善する。
【解決手段】 まず、キュービット基板の物理量子ビットを初期化し(ステップS1)、論理量子ビット(n(n≧2)個の物理量子ビット)を符号化単位として、第1の論理量子ビットを第1の基底で符号化し(ステップS2)、第2の論理量子ビット(≠第1の論理量子ビット)を第2の基底(≠第1の基底)で符号化する(ステップS3)。その後、符号化された第1の論理量子ビットと、符号化された第2の論理量子ビットとの交換操作を行い(ステップS4)、量子計算を行う。 (もっと読む)


1 - 6 / 6