Câu hỏi được gắn thẻ «floating-point»

Số dấu phẩy động là xấp xỉ các số thực có thể biểu thị phạm vi lớn hơn số nguyên nhưng sử dụng cùng một lượng bộ nhớ, với chi phí chính xác thấp hơn. Nếu câu hỏi của bạn là về các lỗi số học nhỏ (ví dụ tại sao 0,2 + 0,1 bằng 0,300000001?) Hoặc lỗi chuyển đổi thập phân, vui lòng đọc trang "thông tin" được liên kết bên dưới trước khi đăng.

Định dạng phao mà không có số 0

Làm cách nào tôi có thể định dạng một float để nó không chứa các số 0 ở cuối? Nói cách khác, tôi muốn chuỗi kết quả càng ngắn càng tốt. Ví dụ: 3 -> "3" 3. -> "3" 3.0 -> "3" 3.1 -> "3.1" 3.14 -> "3.14" 3.140 -> …

181 python formatting floating-point pretty-print

Làm thế nào để bạn làm tròn số dấu phẩy động trong Perl?

Làm cách nào tôi có thể làm tròn số thập phân (dấu phẩy động) sang số nguyên gần nhất? ví dụ 1.2 = 1 1.7 = 2

174 perl floating-point rounding

Một phương pháp nhanh để làm tròn gấp đôi thành int 32 bit

Khi đọc mã nguồn của Lua , tôi nhận thấy rằng Lua sử dụng a macrođể làm tròn từ a doubleđến 32 bit int. Tôi đã trích xuất macro, và nó trông như thế này: union i_cast {double d; int i[2]}; #define double2int(i, d, t) \ {volatile union i_cast u; …

169 c++ c performance floating-point

Sự khác biệt giữa một hoạt động điểm nổi chính xác đơn và chính xác kép là gì?

Sự khác biệt giữa một hoạt động điểm nổi chính xác duy nhất và hoạt động nổi chính xác kép là gì? Tôi đặc biệt quan tâm đến các điều khoản thực tế liên quan đến máy chơi game video. Ví dụ, Nintendo 64 có bộ xử lý 64 bit …

168 floating-point precision processor operations

Nếu tôi sao chép một float sang một biến khác, liệu chúng có bằng nhau không?

Tôi biết rằng sử dụng ==để kiểm tra sự bằng nhau của các biến dấu phẩy động không phải là một cách tốt. Nhưng tôi chỉ muốn biết rằng với các tuyên bố sau: float x = ... float y = x; assert(y == x) Vì yđược sao chép từ …

167 c++ floating-point

Số nguyên đầu tiên mà số float của IEEE 754 không có khả năng thể hiện chính xác là gì?

Để rõ ràng, nếu tôi đang sử dụng một ngôn ngữ thực hiện IEE 754 nổi và tôi tuyên bố: float f0 = 0.f; float f1 = 1.f; ... Và sau đó in chúng ra, tôi sẽ nhận được 0,0000 và 1,0000 - chính xác. Nhưng IEEE 754 không có …

162 types floating-point ieee-754

Định dạng / Loại bỏ ký hiệu khoa học từ kết quả tổng hợp Python Pandas

Làm thế nào người ta có thể sửa đổi định dạng cho đầu ra từ một hoạt động nhóm trong gấu trúc tạo ra ký hiệu khoa học cho số lượng rất lớn? Tôi biết cách thực hiện định dạng chuỗi trong python nhưng tôi không biết gì khi áp …

162 python pandas floating-point scientific-notation number-formatting

Tại sao giá trị dấu phẩy động 4 * 0.1 trông đẹp trong Python 3 nhưng 3 * 0.1 thì không?

Tôi biết rằng hầu hết các số thập phân không có biểu diễn dấu phẩy động chính xác ( Toán học dấu phẩy động có bị hỏng không? ). Nhưng tôi không hiểu tại sao 4*0.1được in độc đáo như 0.4, nhưng 3*0.1không, khi cả hai giá trị thực sự …

158 python floating-point rounding floating-accuracy ieee-754

Tại sao Double.MIN_VALUE không âm

Bất cứ ai cũng có thể làm sáng tỏ lý do tại sao Double.MIN_VALUEthực sự không phải là giá trị tối thiểu mà Nhân đôi có thể mất? Đó là một giá trị tích cực, và một đôi tất nhiên có thể là âm. Tôi hiểu tại sao nó là …

157 java numbers floating-point

Làm thế nào để so sánh hai số dấu phẩy động trong Bash?

Tôi đang cố gắng để so sánh hai số dấu phẩy động trong một tập lệnh bash. Tôi phải biến, vd let num1=3.17648e-22 let num2=1.5 Bây giờ, tôi chỉ muốn làm một so sánh đơn giản về hai số này: st=`echo "$num1 < $num2" | bc` if [ $st -eq …

156 bash floating-point comparison numbers

Tại sao Double.NaN == Double.NaN trả về sai?

Tôi chỉ đang nghiên cứu các câu hỏi OCPJP và tôi đã tìm thấy mã lạ này: public static void main(String a[]) { System.out.println(Double.NaN==Double.NaN); System.out.println(Double.NaN!=Double.NaN); } Khi tôi chạy mã, tôi nhận được: false true Làm thế nào là đầu ra falsekhi chúng ta so sánh hai thứ trông giống …

155 java floating-point nan scjp ocpjp

Là toán học dấu phẩy động nhất quán trong C #? Có thể được không?

Không, đây không phải là câu hỏi "Tại sao (1 / 3.0) * 3! = 1" khác . Gần đây tôi đã đọc về các điểm nổi rất nhiều; cụ thể, cách tính toán giống nhau có thể cho kết quả khác nhau trên các kiến trúc hoặc cài đặt …

155 c# .net floating-point precision ieee-754

So sánh số float trong php

Tôi muốn so sánh hai float trong PHP, như trong mã mẫu này: $a = 0.17; $b = 1 - 0.83; //0.17 if($a == $b ){ echo 'a and b are same'; } else { echo 'a and b are not same'; } Trong mã này, nó trả về kết …

155 php floating-point

độ chính xác 'float' so với 'double'

Mật mã float x = 3.141592653589793238; double z = 3.141592653589793238; printf("x=%f\n", x); printf("z=%f\n", z); printf("x=%20.18f\n", x); printf("z=%20.18f\n", z); sẽ cung cấp cho bạn đầu ra x=3.141593 z=3.141593 x=3.141592741012573242 z=3.141592653589793116 trong đó trên dòng thứ ba 741012573242là rác và trên dòng thứ tư 116là rác. Có phải đôi luôn có 16 …

155 c floating-point

Tại sao thêm 0,1 nhiều lần vẫn không mất?

Tôi biết 0.1số thập phân không thể được biểu diễn chính xác bằng số nhị phân hữu hạn ( giải thích ), do đó double n = 0.1sẽ mất một số độ chính xác và sẽ không chính xác 0.1. Mặt khác 0.5có thể được đại diện chính xác bởi …

152 java floating-point double precision

Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookie và Chính sách bảo mật của chúng tôi.

Licensed under cc by-sa 3.0 with attribution required.