Có phải Nassim Taleb nói đúng về việc AI không thể dự đoán chính xác một số loại phân phối nhất định?

Vì vậy, Taleb có hai phương pháp để mô tả phân phối dữ liệu nói chung. Một là Mediocristan, về cơ bản có nghĩa là những thứ nằm trên phân phối Gaussian như chiều cao và / hoặc cân nặng của con người.

Cái còn lại được gọi là Extremistan, mô tả một phân phối giống như Pareto hoặc đuôi béo hơn. Một ví dụ là phân phối của cải, 1% số người sở hữu 50% của cải hoặc thứ gì đó gần với điều đó và do đó, việc dự đoán từ các bộ dữ liệu hạn chế khó hơn nhiều hoặc thậm chí là không thể. Điều này là do bạn có thể thêm một mẫu vào tập dữ liệu của mình và hậu quả lớn đến mức phá vỡ mô hình hoặc có hiệu ứng lớn đến mức hủy bỏ mọi lợi ích từ các dự đoán chính xác trước đó. Trên thực tế đây là cách anh ta tuyên bố đã kiếm được tiền trên thị trường chứng khoán, bởi vì mọi người khác đang sử dụng các mô hình phân phối Gaussian xấu để dự đoán thị trường, thực sự sẽ hoạt động trong một thời gian ngắn nhưng khi mọi thứ trở nên sai lầm, họ đã thực sự gặp trục trặc sai khiến bạn bị lỗ ròng trên thị trường.

Tôi tìm thấy video này về Taleb đang được hỏi về AI. Yêu cầu của ông là AI không hoạt động (cũng như vậy) đối với những thứ rơi vào tình trạng cực đoan.

Anh ấy có đúng không? Một số thứ sẽ không thể đoán trước được ngay cả với AI?

Đây là video tôi đang đề cập đến https://youtu.be/B2-QCv-hChY?t=43m08s

Có và không!

Không có lý do cố hữu mà các hệ thống máy học không thể đối phó với các sự kiện cực đoan. Là một phiên bản đơn giản, bạn có thể tìm hiểu các tham số của phân phối Weibull hoặc một mô hình giá trị cực trị khác, từ dữ liệu.

Vấn đề lớn hơn là với những điều chưa biết so với những điều chưa biết Nếu bạn biết rằng các sự kiện hiếm có thể xảy ra (như với dự đoán động đất), bạn có thể kết hợp kiến ​​thức đó vào các mô hình bạn phát triển và bạn sẽ có được thứ gì đó hoạt động tốt hoặc tốt hơn con người trong miền đó. Nếu bạn không biết rằng các sự kiện hiếm có thể xảy ra (như với, một vụ sụp đổ trên thị trường chứng khoán được tạo ra bởi các mặc định nhà ở tương quan), thì mô hình của bạn cũng sẽ phản ánh điều đó.

Tôi có xu hướng nghĩ rằng Taleb hơi bất công ở đây: AI không thể xử lý các loại sự kiện này một cách chính xác vì những người tạo ra nó (chúng tôi) không thể xử lý chúng! Nếu chúng ta biết chúng là có thể, thì chúng ta có thể xử lý chúng khá tốt và AI cũng vậy.