「数値計算」を解説文に含む見出し語の検索結果(11~20/2162件中)
読み方:まるめごさ《rounding error》四捨五入や切り上げ・切り捨てにより生じる数値計算上の誤差のこと。二進法に基づくコンピューターによる数値計算の場合、この影響が顕著に現れる場合があるため...
読み方:まるめごさ《rounding error》四捨五入や切り上げ・切り捨てにより生じる数値計算上の誤差のこと。二進法に基づくコンピューターによる数値計算の場合、この影響が顕著に現れる場合があるため...
読み方:まるめごさ《rounding error》四捨五入や切り上げ・切り捨てにより生じる数値計算上の誤差のこと。二進法に基づくコンピューターによる数値計算の場合、この影響が顕著に現れる場合があるため...
読み方:うちきりごさ途中で計算を止めることによって生じる数値計算上の誤差のこと。コンピューターによる数値計算で、計算を繰り返すことによってより正しい計算結果が得られる場合、ある回数や時間内で計算を打ち...
読み方:うちきりごさ途中で計算を止めることによって生じる数値計算上の誤差のこと。コンピューターによる数値計算で、計算を繰り返すことによってより正しい計算結果が得られる場合、ある回数や時間内で計算を打ち...
読み方:うちきりごさ途中で計算を止めることによって生じる数値計算上の誤差のこと。コンピューターによる数値計算で、計算を繰り返すことによってより正しい計算結果が得られる場合、ある回数や時間内で計算を打ち...
読み方:うちきりごさ途中で計算を止めることによって生じる数値計算上の誤差のこと。コンピューターによる数値計算で、計算を繰り返すことによってより正しい計算結果が得られる場合、ある回数や時間内で計算を打ち...
読み方:うちきりごさ途中で計算を止めることによって生じる数値計算上の誤差のこと。コンピューターによる数値計算で、計算を繰り返すことによってより正しい計算結果が得られる場合、ある回数や時間内で計算を打ち...
読み方:うちきりごさ途中で計算を止めることによって生じる数値計算上の誤差のこと。コンピューターによる数値計算で、計算を繰り返すことによってより正しい計算結果が得られる場合、ある回数や時間内で計算を打ち...
出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2021/07/06 10:16 UTC 版)「精度保証付き数値計算」の記事における「商用ソフトウェアの限界」の解説ローレンツ方程式を...