すうちけいさん

デジタル大辞泉

すうち‐けいさん【数値計算】

読み方：すうちけいさん

コンピューターを使って、代数的または解析的に解くことが困難な問題、または手計算では不可能な計算量が膨大な問題を解くこと。近年、コンピューターの演算能力の飛躍的な向上に伴い、大規模な計算が可能となり、適用範囲が広がったが、丸め誤差や打ち切り誤差といった数値計算特有の誤差の扱いに注意する必要がある。