Câu hỏi được gắn thẻ «floating-accuracy»

На этот вопрос есть ответы на Stack Overflow на русском : Вычисления на числах с плавающей точкой не работают Hãy xem xét các mã sau đây: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Tại sao những điều không chính xác này xảy ra?

2983 math  language-agnostic  floating-point  floating-accuracy 

Tôi biết UIKitsử dụng CGFloatvì hệ thống tọa độ độc lập độ phân giải. Nhưng mỗi khi tôi muốn kiểm tra xem ví dụ frame.origin.xlà 0nó làm cho tôi cảm thấy bị bệnh: if (theView.frame.origin.x == 0) { // do important operation } Không phải là CGFloatdễ bị dương tính …

391 objective-c  ios  c  floating-point  floating-accuracy 

Các mã sau đây rõ ràng là sai. Có vấn đề gì vậy? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal 0.15

273 r  floating-point  floating-accuracy  r-faq 

Theo trang java.sun này == là toán tử so sánh đẳng thức cho các số dấu phẩy động trong Java. Tuy nhiên, khi tôi gõ mã này: if(sectionID == currentSectionID) vào trình chỉnh sửa của tôi và chạy phân tích tĩnh, tôi nhận được: "JAVA0078 Giá trị dấu phẩy động …

177 java  equality  floating-accuracy 

Tôi biết rằng hầu hết các số thập phân không có biểu diễn dấu phẩy động chính xác ( Toán học dấu phẩy động có bị hỏng không? ). Nhưng tôi không hiểu tại sao 4*0.1được in độc đáo như 0.4, nhưng 3*0.1không, khi cả hai giá trị thực sự …

158 python  floating-point  rounding  floating-accuracy  ieee-754 

Có thể lấy phép chia cho 0 (hoặc vô cực) trong ví dụ sau không? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } } Trong trường hợp bình thường, nó sẽ không, tất nhiên. …

131 floating-point  double  floating-accuracy  ieee-754 

Tôi đang cố gắng cắt ngắn số thập phân thành số thập phân. Một cái gì đó như thế này: 5.467 -> 5.46 985.943 -> 985.94 toFixed(2)không chỉ về điều đúng nhưng nó làm tròn giá trị. Tôi không cần giá trị được làm tròn. Hy vọng điều này có …

93 javascript  floating-point  floating-accuracy 

Có cách nào lập trình để lấy số nhân đôi gần nhất với 1.0, nhưng thực tế không phải là 1.0 không? Một cách khó để làm điều này là ghi nhớ nhân đôi thành một số nguyên có cùng kích thước, và sau đó trừ đi một. Cách thức …

88 c++  floating-point  floating-accuracy