Sử dụng công thức Pythagore trên các vị trí được cho theo vĩ độ và kinh độ có ý nghĩa rất nhỏ như, tính toán diện tích hình tròn bằng công thức cho hình vuông: mặc dù nó tạo ra một số, không có lý do gì để cho rằng nó phải hoạt động.
Mặc dù ở quy mô nhỏ, bất kỳ bề mặt nhẵn nào trông giống như một mặt phẳng, độ chính xác của công thức Pythagore phụ thuộc vào tọa độ được sử dụng. Khi các tọa độ đó là vĩ độ và kinh độ trên một hình cầu (hoặc ellipsoid), chúng ta có thể mong đợi rằng
Khoảng cách dọc theo đường kinh độ sẽ chính xác hợp lý.
Khoảng cách dọc theo đường xích đạo sẽ chính xác hợp lý.
Tất cả các khoảng cách khác sẽ là sai lầm, tỷ lệ thô với sự khác biệt về vĩ độ và kinh độ.
Lỗi phụ thuộc vào điểm bắt đầu và điểm kết thúc của các tính toán khoảng cách. Tuy nhiên, vì cả hình cầu và hình elip đều có đối xứng tròn quanh trục, nên lỗi chỉ phụ thuộc vào khác biệt của kinh độ, vì vậy để nghiên cứu lỗi này, chúng tôi cũng có thể lấy điểm gốc xuất phát tại Kinh tuyến gốc. Bởi vì cả hình cầu và hình elip đều đối xứng dưới sự phản xạ bắc-nam, chúng ta chỉ cần nghiên cứu các điểm có nguồn gốc ở bán cầu nam. Đối với bất kỳ điểm nào như vậy, chúng tôi có thể vẽ bản đồ đường viền của lỗi tương đối, bằng [Tính toán Pythagore] / [Khoảng cách thực].
Công thức Pythagore, sử dụng bán kính trung bình của trái đất, là
Pythagorean distance = 6371000. * Sqrt[dx^2 + dy^2]] * pi / 180 meters
trong đó dx là sự khác biệt về kinh độ và dy là sự khác biệt về vĩ độ, cả về độ. (Sự khác biệt về giá trị kinh độ được giảm modulo 360 để đưa ra giá trị chính xác của dx khi băng qua Trước ngọ;. Không làm như vậy sẽ giới thiệu lỗi nhân tạo lớn cho chúng tôi biết gì về công thức Pythagore chính nó)
Các sơ đồ sau đây cho thấy lỗi tương đối so với khoảng cách chính xác trên ellipsoid WGS 84 cho các vĩ độ từ -70 đến 0 với gia số 10 độ. Tọa độ ngang là sự khác biệt về kinh độ và tọa độ dọc là vĩ độ của điểm đến. Vùng sáng có sai số tương đối nhỏ: các đường đồng mức nằm ở 1, 1.01, 1.02, 1.05, 1.1, 1.2, 1.5, 2, v.v. (Các vùng màu trắng tinh khiết ở các góc là những nơi mà lỗi vượt quá phạm vi của các đường viền này .) Các chấm đỏ hiển thị điểm gốc.
Các dải trắng dọc làm chứng cho tính chính xác của kỳ vọng (1): Khoảng cách Pythagore là chính xác khi có sự khác biệt nhỏ về kinh độ. Các dải trắng ngang ở vĩ độ thấp xác nhận kỳ vọng (2): gần Xích đạo, khoảng cách ngang là chính xác hợp lý. Mặt khác, như được chứng kiến bởi các vùng tối rộng lớn, ở tất cả các khoảng cách khác, công thức Pythagore là xấu.
Chúng tôi có thể ước tính định lượng tối đa lỗi đạt được cho các cặp điểm gần đó (trong phạm vi, cách nhau vài trăm km). Tỷ lệ - sử dụng một giá trị phù hợp cho bán kính - là đúng dọc theo kinh tuyến nhưng dọc theo một vòng tròn vĩ độ, nó sai khoảng xấp xỉ bởi độ trễ của vĩ độ. Ví dụ, ở vĩ độ 40 độ, mật độ là 1,31, ngụ ý công thức Pythagore sẽ cho khoảng cách quá lớn khoảng 31% theo hướng đông-tây. . quá lớn bởi một số tiền từ 0% đến 31%; khoảng cách xa hơn có thể sai nhiều hơn (như các sơ đồ đường viền hiển thị).