Câu hỏi được gắn thẻ «precision»

Tôi muốn ađược làm tròn đến 13,95 . >>> a 13.949999999999999 >>> round(a, 2) 13.949999999999999 Các roundchức năng không hoạt động theo cách tôi mong đợi.

1691 python  floating-point  rounding  precision 

Tôi đã đọc về sự khác biệt giữa độ chính xác kép và độ chính xác đơn. Tuy nhiên, trong hầu hết các trường hợp floatvà doubledường như có thể thay thế cho nhau, tức là sử dụng cái này hay cái kia dường như không ảnh hưởng đến kết …

420 c++  c  floating-point  precision 

Vì vậy, tôi đã nhận được câu trả lời cho câu hỏi cuối cùng của mình (tôi không biết tại sao tôi không nghĩ về điều đó). Tôi đã in một doublecách sử dụng coutđã được làm tròn khi tôi không mong đợi nó. Làm thế nào tôi có thể …

331 c++  floating-point  precision  iostream  cout 

Tôi muốn hiển thị một số đến 2 chữ số thập phân. Tôi nghĩ rằng tôi có thể sử dụng toPrecision(2)trong JavaScript. Tuy nhiên, nếu số lượng là 0.05, tôi nhận được 0.0500. Tôi muốn nó vẫn như cũ. Xem nó trên JSbin . Cách tốt nhất để làm việc …

316 javascript  floating-point  precision 

Tôi có cột sau được chỉ định trong cơ sở dữ liệu: thập phân (5,2) Làm thế nào để một người giải thích điều này? Theo các thuộc tính trên cột như được xem trong studio Quản lý máy chủ SQL, tôi có thể thấy rằng nó có nghĩa là: …

245 sql  database  decimal  scale  precision 

Làm thế nào tôi có thể xây dựng chính xác một dấu thời gian của thời gian thực với độ chính xác đến mili giây? Tôi cần một cái gì đó như 16.4.2013 9: 48: 00: 123. Điều này có thể không? Tôi có một ứng dụng, trong đó tôi …

231 c#  datetime  precision  milliseconds 

Tại sao một số số mất độ chính xác khi được lưu trữ dưới dạng số dấu phẩy động? Ví dụ, số thập phân 9.2có thể được biểu thị chính xác theo tỷ lệ của hai số nguyên thập phân ( 92/10), cả hai số này có thể được biểu …

198 floating-point  language-agnostic  precision 

Tôi cố gắng để có được số tiền của 1 + 2 + ... + 1000000000, nhưng tôi nhận được kết quả hài hước trong PHP và Node.js . PHP $sum = 0; for($i = 0; $i <= 1000000000 ; $i++) { $sum += $i; } printf("%s", number_format($sum, 0, "", …

192 php  node.js  precision  integer-overflow  integer-arithmetic 

Gần đây tôi đã phải xâu chuỗi một đôi thành văn bản, và sau đó lấy lại. Giá trị dường như không tương đương: double d1 = 0.84551240822557006; string s = d1.ToString("R"); double d2 = double.Parse(s); bool s1 = d1 == d2; // -> s1 is False Nhưng theo MSDN: …

185 c#  double  tostring  precision 

Sự khác biệt giữa một hoạt động điểm nổi chính xác duy nhất và hoạt động nổi chính xác kép là gì? Tôi đặc biệt quan tâm đến các điều khoản thực tế liên quan đến máy chơi game video. Ví dụ, Nintendo 64 có bộ xử lý 64 bit …

168 floating-point  precision  processor  operations 

Không, đây không phải là câu hỏi "Tại sao (1 / 3.0) * 3! = 1" khác . Gần đây tôi đã đọc về các điểm nổi rất nhiều; cụ thể, cách tính toán giống nhau có thể cho kết quả khác nhau trên các kiến ​​trúc hoặc cài đặt …

155 c#  .net  floating-point  precision  ieee-754 

Tôi biết 0.1số thập phân không thể được biểu diễn chính xác bằng số nhị phân hữu hạn ( giải thích ), do đó double n = 0.1sẽ mất một số độ chính xác và sẽ không chính xác 0.1. Mặt khác 0.5có thể được đại diện chính xác bởi …

152 java  floating-point  double  precision 

public class doublePrecision { public static void main(String[] args) { double total = 0; total += 5.6; total += 5.8; System.out.println(total); } } Các mã trên in: 11.399999999999 Làm thế nào tôi có được điều này để chỉ in (hoặc có thể sử dụng nó như) 11.4?

149 java  floating-point  double  precision 

Tôi mới làm quen với JavaScript và mới khám phá toFixed()và toPrecision()làm tròn số. Tuy nhiên, tôi không thể tìm ra sự khác biệt giữa hai điều này. Sự khác biệt giữa number.toFixed()và là number.toPrecision()gì?

124 javascript  rounding  precision 

Với một nhân đôi, tôi muốn làm tròn nó thành một số điểm chính xác nhất định sau dấu thập phân , tương tự như hàm round () của PHP. Điều gần nhất mà tôi có thể tìm thấy trong tài liệu Dart là double.toStringAsPre precision (), nhưng đây không …

111 dart  precision  double-precision