FPGAで数理最適化をスピードアップ ③ ― 演算精度検証とプログラム並列化実装の効果

FPGAによる演算高速化の3回目です。今回は演算精度検証と導入効果についてお伝えします。 前回までの記事はこちら。 演算精度検証:評価基準の設定と「EPS Rate」の導入 さて、演算精度の検証は極めて重要な工程です。特に倍精度浮動小数点(64bit)演算を用いる場合、ソフトウェア(Python)とハードウェア(FPGA)では、演算の順序や内部処理の積み上げ方が異なるため、数学的な理由からある程度 … 続きを読む FPGAで数理最適化をスピードアップ ③ ― 演算精度検証とプログラム並列化実装の効果