Lập trình floating-point

30

На этот вопрос есть ответы на Stack Overflow на русском : Вычисления на числах с плавающей точкой не работают Hãy xem xét các mã sau đây: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 Tại sao những điều không chính xác này xảy ra?

2983 math language-agnostic floating-point floating-accuracy

27

Làm thế nào để tôi phân tích một chuỗi thành một float hoặc int?

Trong Python, làm cách nào tôi có thể phân tích một chuỗi số giống như "545.2222"giá trị float tương ứng của nó , 545.2222? Hoặc phân tích chuỗi "31"thành một số nguyên , 31? Tôi chỉ muốn biết làm thế nào để phân tích một float str cho a float, …

2252 python parsing floating-point type-conversion integer

12

Tại sao GCC không tối ưu hóa a * a * a * a * a * a thành (a * a * a) * (a * a * a)?

Tôi đang thực hiện một số tối ưu hóa số trên một ứng dụng khoa học. Một điều tôi nhận thấy là GCC sẽ tối ưu hóa cuộc gọi pow(a,2)bằng cách biên dịch nó a*a, nhưng cuộc gọi pow(a,6)không được tối ưu hóa và thực sự sẽ gọi chức năng …

2120 gcc assembly floating-point compiler-optimization fast-math

18

Sự khác biệt giữa thập phân, float và double trong .NET?

Sự khác nhau giữa là gì decimal, floatvà doubletrong NET? Khi nào thì ai đó sẽ sử dụng một trong những thứ này?

2086 .net floating-point double decimal

25

Giới hạn số float đến hai điểm thập phân

Tôi muốn ađược làm tròn đến 13,95 . >>> a 13.949999999999999 >>> round(a, 2) 13.949999999999999 Các roundchức năng không hoạt động theo cách tôi mong đợi.

1691 python floating-point rounding precision

30

Làm cách nào để kiểm tra xem một chuỗi có phải là số (float) không?

Cách tốt nhất có thể để kiểm tra xem một chuỗi có thể được biểu diễn dưới dạng số trong Python không? Chức năng tôi hiện có ngay bây giờ là: def is_number(s): try: float(s) return True except ValueError: return False Mà, không chỉ xấu xí và chậm chạp, có …

1609 python casting floating-point type-conversion

5

Tại sao thay đổi 0,1f thành 0 làm chậm hiệu suất xuống 10 lần?

Tại sao bit này của mã, const float x[16] = { 1.1, 1.2, 1.3, 1.4, 1.5, 1.6, 1.7, 1.8, 1.9, 2.0, 2.1, 2.2, 2.3, 2.4, 2.5, 2.6}; const float z[16] = {1.123, 1.234, 1.345, 156.467, 1.578, 1.689, 1.790, 1.812, 1.923, 2.034, 2.145, 2.256, 2.367, 2.478, 2.589, 2.690}; float y[16]; for …

1527 c++ performance visual-studio-2010 compilation floating-point

15

Tại sao không sử dụng Double hoặc Float để đại diện cho tiền tệ?

Tôi luôn được dặn là không bao giờ đại diện cho tiền doublehoặc floatcác loại, và lần này tôi đặt ra câu hỏi cho bạn: tại sao? Tôi chắc chắn có một lý do rất tốt, tôi chỉ đơn giản là không biết nó là gì.

939 floating-point currency

7

Có loại đầu vào float trong HTML5 không?

Theo html5.org , thuộc tính giá trị "kiểu số", nếu được chỉ định và không trống, phải có giá trị là số dấu phẩy động hợp lệ. " Tuy nhiên, đơn giản là (trong phiên bản mới nhất của Chrome, dù sao), một điều khiển "cập nhật" với số nguyên, …

818 html input floating-point

30

Số định dạng để luôn hiển thị 2 chữ số thập phân

Tôi muốn định dạng số của mình để luôn hiển thị 2 chữ số thập phân, làm tròn số nếu có. Ví dụ: number display ------ ------- 1 1.00 1.341 1.34 1.345 1.35 Tôi đã được sử dụng này: parseFloat(num).toFixed(2); Nhưng nó hiển thị 1như 1, hơn là 1.00.

783 javascript floating-point number-formatting

30

Làm thế nào để sử dụng giá trị bước thập phân ()?

Có cách nào để bước giữa 0 và 1 bằng 0,1 không? Tôi nghĩ rằng tôi có thể làm điều đó như sau, nhưng nó đã thất bại: for i in range(0, 1, 0.1): print i Thay vào đó, nó nói rằng đối số bước không thể bằng 0, điều …

744 python floating-point range

11

Làm thế nào tôi có thể buộc phân chia là điểm nổi? Bộ phận tiếp tục làm tròn xuống 0?

Tôi có hai giá trị nguyên avà b, nhưng tôi cần tỷ lệ của chúng trong dấu phẩy động. Tôi biết điều đó a < bvà tôi muốn tính toán a / b, vì vậy nếu tôi sử dụng phép chia số nguyên, tôi sẽ luôn nhận được 0 với …

721 python floating-point integer division python-2.x

13

Chuyển đổi số thập phân thành gấp đôi

Tôi muốn sử dụng một Track-Barđể thay đổi Formđộ mờ đục. Đây là mã của tôi: decimal trans = trackBar1.Value / 5000; this.Opacity = trans; Khi tôi xây dựng ứng dụng, nó sẽ báo lỗi sau: Không thể ngầm chuyển đổi loại decimalthànhdouble Tôi đã thử sử dụng transvà doublesau …

671 c# floating-point type-conversion double decimal

30

Làm thế nào để đối phó với độ chính xác số dấu phẩy động trong JavaScript?

Tôi có kịch bản kiểm tra giả sau đây: function test() { var x = 0.1 * 0.2; document.write(x); } test(); Chạy đoạn mãẨn kết quảMở rộng đoạn trích Điều này sẽ in kết quả 0.020000000000000004trong khi nó sẽ chỉ in 0.02(nếu bạn sử dụng máy tính của bạn). Theo …

619 javascript floating-point

5

Tại sao Math.round (0.49999999999999994) trả về 1?

Trong chương trình sau, bạn có thể thấy rằng mỗi giá trị nhỏ hơn một chút .5được làm tròn xuống, ngoại trừ 0.5. for (int i = 10; i >= 0; i--) { long l = Double.doubleToLongBits(i + 0.5); double x; do { x = Double.longBitsToDouble(l); System.out.println(x + " rounded …

567 java floating-point double rounding

Câu hỏi được gắn thẻ «floating-point»