Câu hỏi được gắn thẻ «number-formats»

Tôi đã xem xét toán học đằng sau việc chuyển đổi từ bất kỳ cơ sở nào sang bất kỳ cơ sở nào. Đây là nhiều hơn về việc xác nhận kết quả của tôi hơn bất cứ điều gì. Tôi đã tìm thấy những gì dường như là câu …

35 algorithms  arithmetic  number-formats 

Xem xét một biểu diễn điểm cố định có thể được coi là trường hợp suy biến của số trôi nổi. Hoàn toàn có thể sử dụng phần bù 2 cho số âm. Nhưng tại sao một bit dấu cần thiết cho số dấu phẩy động, các bit mantissa không …

20 computer-architecture  floating-point  number-formats 

Điểm nổi hiện tại (ANSI C float, double) cho phép biểu thị xấp xỉ một số thực. Có cách nào để biểu diễn số thực mà không có lỗi không? Đây là một ý tưởng tôi có, đó là bất cứ điều gì nhưng hoàn hảo. Ví dụ: 1/3 là …

10 binary-arithmetic  arithmetic  floating-point  real-numbers  number-formats 

Tôi muốn nén kích thước tệp thông qua việc tạo hệ thống đánh số của riêng tôi là số dựa trên 80, tôi thực sự muốn biết liệu điều này có khả thi không? Tôi đã học được rằng Hexadecimal sử dụng các ký hiệu như A, B, C, D, …

8 data-compression  number-formats 

Dường như có nhiều cách tiếp cận để đánh giá xem hai số dấu phẩy động có giống nhau hay không. Dưới đây là một số ví dụ tôi đã tìm thấy: fabs(x - y) < n * FLT_EPSILON * fabs(x) HOẶC LÀ fabs(x - y) < n * FLT_EPSILON …

7 floating-point  number-formats