Lập trình floating-point

30

Cách hiệu quả nhất để nổi và so sánh kép là gì?

Điều gì sẽ là cách hiệu quả nhất để so sánh hai doublehoặc hai floatgiá trị? Đơn giản chỉ cần làm điều này là không chính xác: bool CompareDoubles1 (double A, double B) { return A == B; } Nhưng một cái gì đó như: bool CompareDoubles2 (double A, double …

524 c++ algorithm optimization floating-point

26

Làm cách nào để định dạng độc đáo các số nổi thành Chuỗi mà không có số thập phân 0 không cần thiết?

Nhân đôi 64 bit có thể biểu thị chính xác số nguyên +/- 2 53 Với thực tế này, tôi chọn sử dụng loại kép làm một loại duy nhất cho tất cả các loại của mình, vì số nguyên lớn nhất của tôi không dấu 32-bit. Nhưng bây giờ …

496 java string floating-point format double

24

Làm thế nào để bạn làm tròn số UP trong Python?

Vấn đề này đang giết chết tôi. Làm thế nào để làm tròn số UP trong Python? Tôi đã thử làm tròn (số) nhưng nó làm tròn số xuống. Thí dụ: round(2.3) = 2.0 and not 3, what I would like Tôi đã thử int (số + .5) nhưng nó …

487 python floating-point integer rounding python-2.x

5

Định dạng đúng định dạng cho double trong printf

Định dạng định dạng chính xác cho doubleprintf là gì? Là nó %fhay là nó %lf? Tôi tin nó %f, nhưng tôi không chắc chắn. Mẫu mã #include <stdio.h> int main() { double d = 1.4; printf("%lf", d); // Is this wrong? }

482 c floating-point printf double format-specifiers

13

Làm thế nào để định dạng một float trong javascript?

Trong JavaScript, khi chuyển đổi từ dấu phẩy thành chuỗi, làm thế nào tôi có thể nhận được chỉ 2 chữ số sau dấu thập phân? Ví dụ: 0,34 thay vì 0,3445434.

427 javascript floating-point

12

Sự khác biệt giữa float và double là gì?

Tôi đã đọc về sự khác biệt giữa độ chính xác kép và độ chính xác đơn. Tuy nhiên, trong hầu hết các trường hợp floatvà doubledường như có thể thay thế cho nhau, tức là sử dụng cái này hay cái kia dường như không ảnh hưởng đến kết …

420 c++ c floating-point precision

4

Làm thế nào để có được một số ngẫu nhiên giữa một phạm vi nổi?

randrange(start, stop)chỉ lấy đối số nguyên. Vậy làm thế nào tôi có được một số ngẫu nhiên giữa hai giá trị float?

414 python random floating-point

15

Làm thế nào để phân tích float với hai chữ số thập phân trong javascript?

Tôi có mã sau đây. Tôi muốn có nó sao cho nếu price_result bằng một số nguyên, giả sử là 10, thì tôi muốn thêm hai chữ số thập phân. Vậy 10 sẽ là 10,00. Hoặc nếu nó bằng 10,6 sẽ là 10,60. Không chắc làm việc này như thế …

411 javascript floating-point

11

Làm thế nào nguy hiểm để so sánh các giá trị dấu phẩy động?

Tôi biết UIKitsử dụng CGFloatvì hệ thống tọa độ độc lập độ phân giải. Nhưng mỗi khi tôi muốn kiểm tra xem ví dụ frame.origin.xlà 0nó làm cho tôi cảm thấy bị bệnh: if (theView.frame.origin.x == 0) { // do important operation } Không phải là CGFloatdễ bị dương tính …

391 objective-c ios c floating-point floating-accuracy

6

Cách chuyển đổi float sang int với Java

Tôi đã sử dụng dòng sau để chuyển đổi float sang int, nhưng nó không chính xác như tôi muốn: float a=8.61f; int b; b=(int)a; Kết quả là: 8(Nó nên 9) Khi nào a = -7.65f, kết quả là: -7(Nên là -8) Cách tốt nhất để làm điều đó là …

342 java floating-point int

11

Làm cách nào để in một giá trị kép với độ chính xác đầy đủ bằng cout?

Vì vậy, tôi đã nhận được câu trả lời cho câu hỏi cuối cùng của mình (tôi không biết tại sao tôi không nghĩ về điều đó). Tôi đã in một doublecách sử dụng coutđã được làm tròn khi tôi không mong đợi nó. Làm thế nào tôi có thể …

331 c++ floating-point precision iostream cout

15

Cách tốt nhất để so sánh số float cho gần như bằng nhau trong Python là gì?

Người ta biết rằng so sánh phao cho sự bình đẳng là một chút khó khăn do các vấn đề làm tròn và chính xác. Ví dụ: https://randomascii.wordpress.com/2012/02/25/compared-floating-point-numbers-2012-edition/ Cách được đề xuất để đối phó với điều này trong Python là gì? Chắc chắn có một chức năng thư viện …

330 python floating-point

10

JavaScript hiển thị nổi đến 2 chữ số thập phân

Tôi muốn hiển thị một số đến 2 chữ số thập phân. Tôi nghĩ rằng tôi có thể sử dụng toPrecision(2)trong JavaScript. Tuy nhiên, nếu số lượng là 0.05, tôi nhận được 0.0500. Tôi muốn nó vẫn như cũ. Xem nó trên JSbin . Cách tốt nhất để làm việc …

316 javascript floating-point precision

2

Hằng số 0,009215689 đại diện cho cái gì?

Tôi liên tục thấy điều này bật lên liên tục trong các tệp tiêu đề đồ họa khác nhau 0.0039215689 Nó dường như có một cái gì đó để làm với màu sắc có thể? Đây là lần truy cập đầu tiên trên Google : void RDP_G_SETFOGCOLOR(void) { Gfx.FogColor.R = …

310 c floating-point constants magic-numbers

6

Nhân đôi so với BigDecimal?

Tôi phải tính toán một số biến số dấu phẩy động và đồng nghiệp của tôi đề nghị tôi sử dụng BigDecimalthay doublevì nó sẽ chính xác hơn. Nhưng tôi muốn biết nó là gì và làm thế nào để tận dụng tối đa BigDecimal?

303 java floating-point double bigdecimal

Câu hỏi được gắn thẻ «floating-point»