Câu hỏi được gắn thẻ «floating-point»

Số dấu phẩy động là xấp xỉ các số thực có thể biểu thị phạm vi lớn hơn số nguyên nhưng sử dụng cùng một lượng bộ nhớ, với chi phí chính xác thấp hơn. Nếu câu hỏi của bạn là về các lỗi số học nhỏ (ví dụ tại sao 0,2 + 0,1 bằng 0,300000001?) Hoặc lỗi chuyển đổi thập phân, vui lòng đọc trang "thông tin" được liên kết bên dưới trước khi đăng.





3
Truyền kép thành int unsigned trên Win32 đang bị cắt bớt xuống còn 2.147.483.648
Biên dịch mã sau: double getDouble() { double value = 2147483649.0; return value; } int main() { printf("INT_MAX: %u\n", INT_MAX); printf("UINT_MAX: %u\n", UINT_MAX); printf("Double value: %f\n", getDouble()); printf("Direct cast value: %u\n", (unsigned int) getDouble()); double d = getDouble(); printf("Indirect cast value: %u\n", (unsigned int) d); return 0; } Đầu ra …




2
Sử dụng dấu phẩy động trong nhân Linux
Tôi đang đọc "Phát triển nhân Linux" của Robert Love, và tôi đã xem qua đoạn văn sau: Không (Dễ dàng) Sử dụng Dấu phẩy động Khi một quy trình không gian người dùng sử dụng các lệnh dấu phẩy động, hạt nhân quản lý quá trình chuyển đổi từ …





17
Chuyển đổi kép sang chuỗi không có ký hiệu khoa học
Làm cách nào để chuyển đổi một kép thành biểu diễn chuỗi dấu phẩy động không có ký hiệu khoa học trong .NET Framework? Mẫu "nhỏ" (số hiệu quả có thể có kích thước bất kỳ, chẳng hạn như 1.5E200hoặc 1e-200): 3248971234698200000000000000000000000000000000 0.00000000000000000000000000000000000023897356978234562 Không có định dạng số tiêu chuẩn …


Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookieChính sách bảo mật của chúng tôi.
Licensed under cc by-sa 3.0 with attribution required.