Câu hỏi được gắn thẻ «floating-point»

Số dấu phẩy động là xấp xỉ các số thực có thể biểu thị phạm vi lớn hơn số nguyên nhưng sử dụng cùng một lượng bộ nhớ, với chi phí chính xác thấp hơn. Nếu câu hỏi của bạn là về các lỗi số học nhỏ (ví dụ tại sao 0,2 + 0,1 bằng 0,300000001?) Hoặc lỗi chuyển đổi thập phân, vui lòng đọc trang "thông tin" được liên kết bên dưới trước khi đăng.

Nhận phần thập phân của một số bằng JavaScript

Tôi có số float như 3.2và 1.6. Tôi cần tách số thành phần nguyên và phần thập phân. Ví dụ: một giá trị 3.2sẽ được chia thành hai số, nghĩa là 3và0.2 Lấy phần nguyên là dễ dàng: n = Math.floor(n); Nhưng tôi gặp khó khăn khi lấy phần thập …

247 javascript floating-point numbers decimal rounding

Thêm giá trị dấu phẩy động vào tài nguyên / giá trị Android

Tôi đang cố gắng để thêm một chút không gian giữa các dòng để TextView của tôi sử dụng android:lineSpacingMultiplier từ các tài liệu : Khoảng cách thêm giữa các dòng văn bản, như là một số nhân. Phải là một giá trị dấu phẩy động, chẳng hạn như "1.2". …

243 android resources floating-point

Làm cách nào để sử dụng phép chia dấu phẩy động trong bash?

Tôi đang cố gắng phân chia hai chiều rộng hình ảnh trong tập lệnh Bash, nhưng 0kết quả là bash cho tôi : RESULT=$(($IMG_WIDTH/$IMG2_WIDTH)) Tôi đã nghiên cứu hướng dẫn Bash và tôi biết tôi nên sử dụng bc, trong tất cả các ví dụ trên internet họ sử dụng …

242 bash floating-point arithmetic-expressions

Python JSON tuần tự hóa một đối tượng thập phân

Tôi có một Decimal('3.9')phần của một đối tượng và muốn mã hóa chuỗi này thành chuỗi JSON trông giống như vậy {'x': 3.9}. Tôi không quan tâm đến độ chính xác ở phía khách hàng, vì vậy nổi là ổn. Có một cách tốt để nối tiếp này? JSONDecoder không …

242 python json floating-point decimal

Tại sao hàm băm vô cực của Python có các chữ số là π?

Hàm băm vô cực trong Python có các chữ số khớp với pi : >>> inf = float('inf') >>> hash(inf) 314159 >>> int(math.pi*1e5) 314159 Đó chỉ là một sự trùng hợp ngẫu nhiên hay là cố ý?

241 python math hash floating-point pi

round () cho float trong C ++

Tôi cần một hàm làm tròn dấu phẩy động đơn giản, do đó: double round(double); round(0.1) = 0 round(-0.1) = 0 round(-0.9) = -1 Tôi có thể tìm ceil()và floor()trong math.h - nhưng không round(). Có phải nó hiện diện trong thư viện C ++ tiêu chuẩn dưới tên khác, …

232 c++ floating-point rounding

Chuyển đổi float thành ints trong Pandas?

Tôi đã làm việc với dữ liệu được nhập từ CSV. Gấu trúc đã thay đổi một số cột thành float, vì vậy bây giờ các số trong các cột này được hiển thị dưới dạng các điểm nổi! Tuy nhiên, tôi cần chúng được hiển thị dưới dạng số …

230 python pandas floating-point integer dataset

số nguyên lớn nhất có thể được lưu trữ trong một đôi

Số nguyên "không nổi" lớn nhất có thể được lưu trữ trong loại kép IEEE 754 mà không làm mất độ chính xác là gì?

225 types floating-point double ieee-754

Định dạng nổi đến n vị trí thập phân

Tôi cần định dạng một dấu phẩy đến "n" vị trí thập phân. đã cố gắng để BigDecimal, nhưng giá trị trả về không chính xác ... public static float Redondear(float pNumero, int pCantidadDecimales) { // the function is call with the values Redondear(625.3f, 2) BigDecimal value = new BigDecimal(pNumero); …

220 java android floating-point numbers format

Kiểu dữ liệu float và double trong Java

Kiểu dữ liệu float là một điểm nổi 32-bit IEEE 754 có độ chính xác đơn và kiểu dữ liệu kép là một điểm nổi 64-bit IEEE 754 có độ chính xác kép. Nó có nghĩa là gì? Và khi nào tôi nên sử dụng float thay vì double hay …

220 java floating-point double ieee-754

Làm cách nào để hạn chế giá trị float chỉ ở hai vị trí sau dấu thập phân trong C?

Làm cách nào tôi có thể làm tròn một giá trị float (chẳng hạn như 37.777779) đến hai chữ số thập phân (37,78) trong C?

215 c floating-point decimal

Định dạng nổi đến 2 chữ số thập phân

Tôi hiện đang xây dựng một mô-đun bán hàng cho một trang web của khách hàng. Cho đến nay tôi đã có giá bán để tính toán hoàn hảo nhưng nơi tôi gặp khó khăn là định dạng đầu ra thành 2 chữ số thập phân. Tôi hiện đang gọi …

210 c# variables floating-point decimal

Cách kiểm tra nếu giá trị float là toàn bộ số

Tôi đang cố gắng tìm ra khối lập phương lớn nhất là toàn bộ số đó, chưa đến 12.000. processing = True n = 12000 while processing: n -= 1 if n ** (1/3) == #checks to see if this has decimals or not Tôi không chắc chắn làm thế …

202 python floating-point

Tại sao số dấu phẩy động không chính xác?

Tại sao một số số mất độ chính xác khi được lưu trữ dưới dạng số dấu phẩy động? Ví dụ, số thập phân 9.2có thể được biểu thị chính xác theo tỷ lệ của hai số nguyên thập phân ( 92/10), cả hai số này có thể được biểu …

198 floating-point language-agnostic precision

Sử dụng bitwise HOẶC 0 để tạo số

Một đồng nghiệp của tôi tình cờ phát hiện ra một phương pháp làm nổi số phao bằng cách sử dụng bitwise hoặc: var a = 13.6 | 0; //a == 13 Chúng tôi đã nói về nó và tự hỏi một vài điều. Làm thế nào nó hoạt động? …

192 javascript floating-point bit-manipulation

Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookie và Chính sách bảo mật của chúng tôi.

Licensed under cc by-sa 3.0 with attribution required.