Không, xe thông minh không biết phải làm gì khi bị bao vây bởi vịt hoặc nước lũ, và có thể chúng sẽ không bao giờ làm thế.
Như với tất cả các máy học, máy tính chỉ biết những gì nó được dạy. Nếu một sự kiện phát sinh không bình thường, AI sẽ ít được đào tạo về cách ứng phó, do đó, hành vi phản ứng của nó nhất thiết sẽ kém hơn "quy trình vận hành tiêu chuẩn" thông thường, đã được đào tạo rất nhiều. (Tất nhiên điều này cũng đúng với con người.)
Do lo ngại về trách nhiệm pháp lý, khi gặp phải một điều kiện ngoại lệ, những chiếc xe thông minh gần như chắc chắn sẽ được các nhà sản xuất của họ thiết kế để ngay lập tức lên đường và chờ đợi để được nói rõ ràng phải làm gì - bởi con người trong xe hoặc bằng cách liên lạc với một trung tâm văn phòng chỉ huy tồn tại để phân tán sự nhầm lẫn đó và giải quyết các xung động nhận thức. Khi bối rối, giống như một đứa trẻ, một chiếc xe thông minh sẽ được thiết kế để tìm kiếm sự hỗ trợ từ bên ngoài - và có khả năng sẽ làm như vậy vô thời hạn, tôi nghi ngờ.
Đó là lý do tại sao, mặc dù những chiếc xe gần đây của Google thiếu vô lăng, nhưng những chiếc xe thông minh chắc chắn sẽ giữ lại một số phương tiện điều khiển bằng tay - có thể là bánh xe và bàn đạp, hoặc ít nhất là các mệnh lệnh bằng lời nói. Với nhiều hình thức kỳ lạ có thể có trên đường, có thể những chiếc xe thông minh sẽ không bao giờ được tự chủ hoàn toàn.
Đối với điều kiện thời tiết xấu, những chiếc xe thông minh hiện đang hoạt động tốt như thế nào? Không ai bên ngoài một nhà sản xuất xe hơi có thể nói chắc chắn. Lidar và radar vượt trội hơn mắt người khi nhìn xuyên qua sương mù và tuyết. Nhưng con người (có khả năng) có khả năng vẫn tốt hơn một chiếc xe thông minh khi học động về giới hạn độ bám dính và bù đắp (vì đây là một kỹ năng được học mà vài chiếc xe thông minh sẽ biết hoặc có thể học nhanh - với chiếc xe này, những chiếc lốp này, mặt đường, góc này của đường, v.v.)
Ban đầu những chiếc xe thông minh sẽ chuyển sang con người khi đi sẽ trở nên gồ ghề, nhường lại quyền kiểm soát cho chúng. Khi chiếc xe thông minh đã thúc đẩy một vài triệu dặm trong tuyết, cháo, gió cao, lũ lụt, và băng, và gặp nhiều vịt, Mooses tức giận, và người đi bộ giận dữ, họ sẽ được dạy để làm nhiều hơn cho bản thân. Cho đến lúc đó, và có lẽ trong nhiều thập kỷ, tôi nghi ngờ họ sẽ quay sang mẹ và yêu cầu giúp đỡ.
