Câu hỏi được gắn thẻ «numeric-precision»

Tôi biết rằng số học dấu phẩy động có vấn đề chính xác. Tôi thường khắc phục chúng bằng cách chuyển sang biểu diễn thập phân cố định của số hoặc đơn giản bằng cách bỏ qua lỗi. Tuy nhiên, tôi không biết đâu là nguyên nhân của sự thiếu …

62 floating-point  numeric-precision 

Các ngôn ngữ lập trình như Scheme (R5RS) và Python ( xem Câu hỏi này ) xoay quanh số nguyên chẵn gần nhất khi giá trị nằm chính xác giữa các số nguyên xung quanh. Lý do đằng sau này là gì? Có một ý tưởng toán học làm cho …

44 scheme  numbers  numeric-precision  python-3.x 

Trong khi điều tra tính chính xác của các số dấu phẩy động, tôi đã thấy ở một vài nơi một tuyên bố tương tự như " float và double là ( được thiết kế cho / sử dụng thường xuyên trong ) tính toán kỹ thuật và khoa học …

33 floating-point  numeric-precision 

Máy tính gặp sự cố khi lưu trữ các số phân số trong đó mẫu số là một thứ khác với giải pháp cho 2 ^ x. Điều này là do chữ số đầu tiên sau số thập phân có giá trị 1/2, 1/4 thứ hai (hoặc 1 / (2 …

24 numbers  numeric-precision 

Khi xây dựng một ứng dụng liên quan đến nhiều phép tính toán học, tôi đã gặp phải vấn đề là một số con số gây ra lỗi làm tròn. Mặc dù tôi hiểu rằng dấu phẩy động không chính xác , nhưng vấn đề là làm thế nào để …

18 floating-point  numeric-precision 

Trong số, điều rất quan trọng là có thể xác định các sơ đồ không ổn định và cải thiện tính ổn định của chúng. Làm thế nào để xác định tính toán dấu phẩy động không ổn định? Tôi đang làm việc trên một mô phỏng rất phức tạp, …

15 numbers  numeric-precision 

Tôi đang cố gắng suy nghĩ về cách tôi sẽ thực hiện các phép tính trên các số cực lớn (đến infinitum - intergers no float) nếu cấu trúc ngôn ngữ không có khả năng xử lý các số lớn hơn một giá trị nhất định. Tôi chắc chắn tôi …

15 math  variables  numeric-precision 

Trong khi xem xét việc triển khai hàm của một lập trình viên khác để tính toán CDF phân phối bình thường , tôi đã đưa ra một đề nghị thay thế toàn bộ việc thực hiện bằng các hàm dựng sẵn của Python hoặc sử dụng SciPy, một thư …

9 documentation  math  floating-point  numeric-precision