数値計算ガイド 目次 製品名の変更について はじめに 1. 概要 浮動小数点環境 2. IEEE 演算機能 IEEE 演算モデル IEEE の演算機能 IEEE 形式 記憶形式 単精度の記憶形式 倍精度の記憶形式 拡張倍精度の記憶形式 (SPARC) 拡張倍精度の記憶形式 (x86) 10 進表現の範囲と精度 Solaris 環境における基数変換 アンダーフロー アンダーフローしきい値 IEEE 演算機能におけるアンダーフローの扱い 段階的アンダーフローの利点 段階的アンダーフローの誤差特性 段階的アンダーフローと Store 0 の 2 つの例 アンダーフローは問題か 3. 数学ライブラリ 数学ライブラリ 付加価値数学ライブラリ Sun 数学ライブラリ 最適化ライブラリ ベクトル数学ライブラリ (SPARC のみ) libm9X 数学ライブラリ 単精度、倍精度、4 倍精度 IEEE
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
