CATEGORY
基礎理論
- 2022年1月23日
- 2022年2月26日
【用語】情報落ち誤差とは/loss-of-trailing-digits
数値演算と情報落ち誤差 コンピュータでは限られた桁数でデータを表現するため、表現 […]
- 2022年1月19日
- 2022年2月26日
【用語】桁落ち誤差とは/cancellation-of-significant-digits
数値演算と誤差 コンピュータでは限られた桁数でデータを表現するため、表現しきれな […]