Câu hỏi được gắn thẻ «floating-point»

Một phương pháp biểu diễn các số bằng một số chữ số có nghĩa cố định và số mũ của một số số cơ sở. Chúng được đặc trưng ở dạng . Thông thường, các số được biểu thị theo cơ sở = 2 (nhị phân). ${(significant digits)}*base^{exponent}$

Kết quả nhỏ, không thể đoán trước khi chạy mô hình xác định

Tôi có một mô hình khá lớn (~ 5000 dòng) được viết bằng C. Đây là một chương trình nối tiếp, không có tạo số ngẫu nhiên ở bất cứ đâu. Nó sử dụng thư viện FFTW cho các chức năng bằng cách sử dụng FFT - Tôi không biết …

10 floating-point precision computer-arithmetic

Trình tự các thao tác, thuật toán số

Tôi đã đọc nó (1) Các hoạt động có điều kiện nên được thực hiện trước khi hoạt động tốt. Ví dụ, người ta nên tính xz−yzxz-yzxz-yz là vì phép trừ được điều hòa trong khi phép nhân không.(x−y)z(x-y)z(x-y)z Tuy nhiên, phân tích lỗi thứ nhất của cả hai thuật …

10 stability floating-point

Sự liên quan của các tính toán chính xác điểm cố định và tùy ý

Tôi thấy rất ít thư viện / gói tính toán điểm không trôi nổi xung quanh. Với những điểm không chính xác khác nhau của biểu diễn dấu phẩy động, câu hỏi đặt ra là tại sao không có ít nhất một số lĩnh vực mà độ chính xác tăng …

10 floating-point numerics

So sánh tương đối các số dấu phẩy động

Tôi có một hàm số f(x, y)trả về một số dấu phẩy động kép thực hiện một số công thức và tôi muốn kiểm tra xem nó có đúng với các biểu thức phân tích cho tất cả sự kết hợp của các tham số xvà ytôi quan tâm không. …

10 floating-point

Cách đặt giá trị chính xác kép trong Fortran

Gần đây, tôi đã gặp phải một vấn đề kỳ lạ với FORTRAN95. Tôi đã khởi tạo biến X và Y như sau: X=1.0 Y=0.1 Sau đó tôi thêm chúng lại với nhau và in kết quả: 1.10000000149012 Sau khi kiểm tra các biến, có vẻ như 0,1 không được …

10 fortran floating-point

Kiểm tra sự bằng nhau của hai số float: Ví dụ thực tế

Khi nào nó thường có ý nghĩa trong lập trình để kiểm tra sự bằng nhau của hai số dấu phẩy động? I E a == b trong đó cả a & b là phao. Ấn tượng ngây thơ của tôi là người ta sẽ luôn kiểm tra sự khác …

8 floating-point

Cách đúng để so sánh vectơ trong dấu phẩy động là gì?

Tôi biết rằng tôi nên sử dụng một dung sai để so sánh các số dấu phẩy động. Nhưng để so sánh các vectơ, tôi có thể nghĩ ra 3 giải pháp khả thi tương ứng với các số liệu khoảng cách khác nhau: So sánh các thành phần của …

8 floating-point

Khi sử dụng trang web của chúng tôi, bạn xác nhận rằng bạn đã đọc và hiểu Chính sách cookie và Chính sách bảo mật của chúng tôi.

Licensed under cc by-sa 3.0 with attribution required.