Câu hỏi được gắn thẻ «floating-point»

Thường xuyên trong kinh nghiệm lập trình của tôi, tôi cần đưa ra quyết định liệu tôi nên sử dụng float hay double cho các số thực của mình. Đôi khi tôi đi phao, đôi khi tôi đi gấp đôi, nhưng thực sự điều này cảm thấy chủ quan hơn. …

194 c++  c  floating-point  numbers 

Ở mọi nơi tôi đã xem, nó nói rằng doublenó vượt trội hơn floathầu hết mọi cách. floatđã bị lỗi thời bởi doubleJava, vậy tại sao nó vẫn được sử dụng? Tôi lập trình rất nhiều với Libgdx và họ buộc bạn phải sử dụng float(deltaTime, v.v.), nhưng đối với …

84 java  memory  floating-point  numbers 

Tôi bối rối về lý do tại sao chúng tôi quan tâm đến các đại diện khác nhau cho số không dương và âm. Tôi mơ hồ nhớ lại việc đọc các tuyên bố rằng có một đại diện số 0 âm là cực kỳ quan trọng trong lập trình …

64 math  floating-point 

Tôi biết rằng số học dấu phẩy động có vấn đề chính xác. Tôi thường khắc phục chúng bằng cách chuyển sang biểu diễn thập phân cố định của số hoặc đơn giản bằng cách bỏ qua lỗi. Tuy nhiên, tôi không biết đâu là nguyên nhân của sự thiếu …

62 floating-point  numeric-precision 

C#có decimalloại được sử dụng cho các số cần biểu diễn chính xác trong cơ sở 10. Chẳng hạn, 0.1không thể được biểu diễn trong cơ sở 2 (ví dụ floatvà double) và sẽ luôn là một xấp xỉ khi được lưu trữ trong các biến thuộc các loại này. …

42 c#  numbers  floating-point 

Có một sự thay thế cho bit là đơn vị dữ liệu nhỏ nhất không? Một cái gì đó sẽ không chỉ là 0 hoặc 1, nhưng thực sự có nhiều trạng thái có thể ở giữa? Sẽ không tự nhiên hơn khi lưu trữ phao như vậy?

42 data  binary  floating-point  byte  bit 

Trong khi điều tra tính chính xác của các số dấu phẩy động, tôi đã thấy ở một vài nơi một tuyên bố tương tự như " float và double là ( được thiết kế cho / sử dụng thường xuyên trong ) tính toán kỹ thuật và khoa học …

33 floating-point  numeric-precision 

Ví dụ: tôi muốn hiển thị danh sách các nút từ 0,0,5, ... 5, nhảy cho mỗi 0,5. Tôi sử dụng vòng lặp for để làm điều đó và có màu khác nhau tại nút STANDARD_LINE: var MAX=5.0; var DIFF=0.5 var STANDARD_LINE=1.5; for(var i=0;i<=MAX;i=i+DIFF){ button.text=i+''; if(i==STANDARD_LINE){ button.color='red'; } } Trong …

31 javascript  coding-style  floating-point 

Tôi đã xem http://www.joelonsoftware.com/items/2011/06/27.html và cười vào trò đùa của Jon Skeet về 0,3 không phải là 0,3. Cá nhân tôi chưa bao giờ gặp vấn đề với số float / số thập phân / đôi nhưng sau đó tôi nhớ rằng tôi đã học được 6502 từ rất sớm …

29 floating-point 

Tôi đã đọc một bài viết từ Microsoft về Mở rộng chuyển đổi và Tùy chọn Nghiêm cấm khi tôi đến phần Các chuyển đổi sau có thể mất độ chính xác: Số nguyên thành đơn Dài đến đơn hoặc đôi Số thập phân thành đơn hoặc đôi Tuy nhiên, …

27 vb.net  floating-point 

Đây không phải là câu hỏi trùng lặp khi tôi đọc câu hỏi trước. Bất cứ ai có giúp đỡ tôi trong việc tìm hiểu how float values are stored in the memory. Tôi nghi ngờ ở đây là các giá trị float chứa ' .'( for example 3.45) làm …

20 c  memory  floating-point 

Khi xây dựng một ứng dụng liên quan đến nhiều phép tính toán học, tôi đã gặp phải vấn đề là một số con số gây ra lỗi làm tròn. Mặc dù tôi hiểu rằng dấu phẩy động không chính xác , nhưng vấn đề là làm thế nào để …

18 floating-point  numeric-precision 

Giả sử chúng ta có lớp Python sau (vấn đề tồn tại trong Java giống với equalsvà hashCode) class Temperature: def __init__(self, degrees): self.degrees = degrees nơi degreeslà nhiệt độ trong Kelvin như một phao. Bây giờ, tôi muốn thực hiện kiểm tra và băm bình đẳng Temperaturetheo cách mà …

15 java  python  hashing  floating-point 

Theo như tôi nhớ về lập trình, tôi được dạy không nên so sánh các số dấu phẩy động cho đẳng thức. Bây giờ, trong khi đọc Lập trình trong Lua về numberloại Lua , tôi thấy như sau: Loại số đại diện cho số thực (dấu phẩy động chính …

11 lua  floating-point 

Trong khi xem xét việc triển khai hàm của một lập trình viên khác để tính toán CDF phân phối bình thường , tôi đã đưa ra một đề nghị thay thế toàn bộ việc thực hiện bằng các hàm dựng sẵn của Python hoặc sử dụng SciPy, một thư …

9 documentation  math  floating-point  numeric-precision