Câu hỏi được gắn thẻ «precision»

Có một tùy chọn trong R để kiểm soát hiển thị chữ số. Ví dụ: options(digits=10) được cho là đưa ra kết quả tính toán bằng 10 chữ số cho đến cuối phiên R. Trong tệp trợ giúp của R, định nghĩa cho tham số chữ số như sau: chữ …

110 r  precision  digits  r-faq  output-formatting 

Đây là một câu hỏi tôi đã được hỏi trong cuộc phỏng vấn gần đây và tôi muốn biết (tôi thực sự không nhớ lý thuyết về phân tích số, vì vậy hãy giúp tôi :) Nếu chúng ta có một số hàm tích lũy các số dấu phẩy động: …

105 c++  floating-point  precision 

Tôi biết bạn không thể dựa vào bình đẳng giữa các giá trị kiểu kép hoặc thập phân một cách bình thường, nhưng tôi tự hỏi liệu 0 có phải là trường hợp đặc biệt hay không. Mặc dù tôi có thể hiểu được sự thiếu chính xác giữa 0,00000000000001 …

100 c#  .net  floating-point  precision  zero 

Tôi vừa gặp phải một số hành vi không mong muốn với DateTime.UtcNow trong khi thực hiện một số bài kiểm tra đơn vị. Có vẻ như khi bạn gọi DateTime.Now/UtcNow liên tục, nó dường như trả lại cho bạn cùng một giá trị trong một khoảng thời gian dài …

97 c#  .net  datetime  precision  time-precision 

Đây là điều tôi đã nghĩ trong nhiều năm, nhưng tôi chưa bao giờ dành thời gian để hỏi trước đây. Nhiều trình tạo số ngẫu nhiên (giả) tạo ra một số ngẫu nhiên trong khoảng từ 0,0 đến 1,0. Về mặt toán học, có vô hạn số trong phạm …

94 random  floating-point  double  precision 

Đây không phải là một câu hỏi vì nó cần được chú ý nhiều hơn. Tôi đã cập nhật một ứng dụng sử dụng json_encode()lên PHP7.1.1 và tôi đã gặp sự cố khi số float được thay đổi để đôi khi mở rộng ra 17 chữ số. Theo tài liệu, …

93 php  json  precision  php-7.1 

Tôi có một số khách hàng nhận được những hóa đơn kỳ lạ. Tôi đã có thể tách ra vấn đề cốt lõi: SELECT 199.96 - (0.0 * FLOOR(CAST(1.0 AS DECIMAL(19, 4)) * CAST(199.96 AS DECIMAL(19, 4)))) -- 200 what the? SELECT 199.96 - (0.0 * FLOOR(1.0 * CAST(199.96 AS …

84 sql-server  tsql  precision  sql-server-2016  sqldatatypes 

Đã đóng cửa . Câu hỏi này cần được tập trung hơn . Nó hiện không chấp nhận câu trả lời. Bạn muốn cải thiện câu hỏi này? Cập nhật câu hỏi để câu hỏi chỉ tập trung vào một vấn đề bằng cách chỉnh sửa bài đăng này . …

83 python  types  precision 

Tôi biết một chút về cách biểu diễn số dấu phẩy động, nhưng tôi e rằng vẫn chưa đủ. Câu hỏi chung là: Đối với một độ chính xác nhất định (đối với mục đích của tôi, số chữ số thập phân chính xác trong cơ số 10), phạm vi …

76 floating-point  precision  numerical  ieee-754 

Tôi thường kết thúc trong các tình huống cần kiểm tra xem sự khác biệt thu được có cao hơn độ chính xác của máy không. Có vẻ như cho mục đích này R có một biến tiện dụng : .Machine$double.eps. Tuy nhiên, khi tôi chuyển sang mã nguồn R …

36 r  floating-point  rounding  precision 

Giả sử chúng ta lấy np.dothai 'float32'mảng 2D: res = np.dot(a, b) # see CASE 1 print(list(res[0])) # list shows more digits [-0.90448684, -1.1708503, 0.907136, 3.5594249, 1.1374011, -1.3826287] Số. Ngoại trừ, họ có thể thay đổi: TRƯỜNG HỢP 1 : láta np.random.seed(1) a = np.random.randn(9, 6).astype('float32') b = np.random.randn(6, 6).astype('float32') …

15 python  c  arrays  numpy  precision 

Tôi có một danh sách khá dài các số dương dấu phẩy động ( std::vector<float>, kích thước ~ 1000). Các số được sắp xếp theo thứ tự giảm dần. Nếu tôi tổng hợp chúng theo thứ tự: for (auto v : vec) { sum += v; } Tôi đoán tôi …

12 c++  floating-point  precision 

C ++ có std::nextafter(), trả về giá trị đại diện tiếp theo sau một giá trị dấu phẩy động đã cho f . Trong trường hợp của tôi, tôi muốn cho phép n bit slop trong các bit mantissa thấp hơn, vì vậy 3 bit slop sẽ yêu cầu nhận …

8 c++  floating-point  precision