「演算精度」を解説文に含む見出し語の検索結果(1～10/47件中)
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2022/06/10 05:19 UTC 版)「ハイレゾリューションオーディオ」の記事における「演算精度」の解説いくつかのDAWには倍...
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2022/03/18 09:34 UTC 版)「GPGPU」の記事における「IEEE 754サポートおよびFMA命令」の解説Direc...
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2022/06/10 05:19 UTC 版)「ハイレゾリューションオーディオ」の記事における「編集・ミキシング」の解説演算精度 いく...
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2021/07/06 10:16 UTC 版)「精度保証付き数値計算」の記事における「Rumpの例題」の解説1980年代にRumpは次...
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2021/09/05 05:56 UTC 版)「OpenCL」の記事における「グラフィックスAPIとの関連性および相互運用性」の解説O...
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2022/06/12 02:14 UTC 版)「MZ (コンピュータ)」の記事における「自社供給」の解説SHARP BASICとして、...
ナビゲーションに移動検索に移動この記事では数値解析に関する項目の一覧を示す。目次1 誤差2 線形計算3 微分方程式4 数値積分5 求根アルゴリズムと関連する項目6 補間7 ツール8 応用分野9 研究者...
ブロック浮動小数点（ブロックふどうしょうすうてん、英語: Block floating point, BFP)は、固定小数点プロセッサ上で浮動小数点に近い演算を提供するための手法である。ブロック浮動小...
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2021/07/01 08:40 UTC 版)「神威・太湖之光」の記事における「汎用性」の解説開発チームがいる清華大学の学校新聞による...
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2021/11/30 23:37 UTC 版)「数値解析」の記事における「離散化と数値積分」の解説2時間のレースで、自動車の速度を3回...
< 前の結果 | 次の結果 >
>>
「演算精度」の辞書の解説