Con người hiện đang tồn tại trong một phân khúc kinh tế sinh thái của "điều cần suy nghĩ".
AI cũng là một điều đáng suy nghĩ, vì vậy nó sẽ xâm chiếm thị trường kinh tế sinh thái của chúng ta. Trong cả sinh thái học và kinh tế học, có một thứ khác chiếm lĩnh thị trường của bạn không phải là một kế hoạch tuyệt vời để tiếp tục tồn tại.
Làm thế nào chính xác sự sống sót của con người bị tổn hại bởi điều này sẽ khá hỗn loạn. Sẽ có một loạt các cách hợp lý mà AI có thể gây nguy hiểm cho sự tồn tại của con người như một loài, hoặc thậm chí là một dạng sống thống trị.
Giả sử có một AI mạnh mẽ mà không có "siêu đạo đức", sản xuất rẻ hơn con người (bao gồm sản xuất "cơ thể" hoặc cách thao túng thế giới), và thông minh hoặc thông minh hơn con người.
Đây là trường hợp chúng ta bắt đầu cạnh tranh với AI đó để lấy tài nguyên. Nó sẽ xảy ra trên quy mô kinh tế vi mô (chúng ta có thuê một con người, hoặc mua / xây dựng / thuê / thuê một AI để giải quyết vấn đề này không?). Tùy thuộc vào tốc độ AI trở nên rẻ và / hoặc thông minh hơn con người, điều này có thể xảy ra chậm (có thể là một ngành tại một thời điểm) hoặc cực kỳ nhanh.
Trong một cuộc cạnh tranh tư bản, những người không chuyển sang các AI rẻ hơn sẽ bị cạnh tranh.
Bây giờ, trong ngắn hạn, nếu lợi thế của AI chỉ là cận biên, thì chi phí giáo dục con người cao trong 20 năm trước khi chúng trở nên hiệu quả có thể khiến quá trình này chậm lại. Trong trường hợp này, có thể đáng để trả cho một Bác sĩ trên mức lương chết đói để chẩn đoán bệnh thay vì AI, nhưng có lẽ không đáng để trả các khoản vay sinh viên của họ. Vì vậy, các Bác sĩ mới của con người sẽ nhanh chóng ngừng được đào tạo, và các Bác sĩ hiện tại sẽ bị bần cùng hóa. Sau đó hơn 20-30 năm AI sẽ thay thế hoàn toàn các Bác sĩ cho mục đích chẩn đoán.
Nếu lợi thế của AI là lớn, thì nó sẽ nhanh chóng. Các bác sĩ thậm chí sẽ không đáng để trả tiền lương ở mức nghèo để làm chẩn đoán cho con người. Bạn có thể thấy điều gì đó tương tự xảy ra với canh tác dựa trên cơ bắp khi canh tác dựa trên xăng dầu đã qua.
Trong các cuộc cách mạng công nghiệp trong quá khứ, thực tế là con người nơi có thể suy nghĩ có nghĩa là bạn có thể tái sử dụng những người lao động dư thừa để làm những hành động khác; dây chuyền sản xuất, công việc kinh tế dịch vụ, lập trình máy tính, v.v. Nhưng trong mô hình này, AI rẻ hơn để đào tạo và xây dựng và thông minh hoặc thông minh hơn con người ở loại công việc đó.
Bằng chứng là mùa xuân Ả Rập do ethanol gây ra, cây trồng và đất trồng trọt có thể được sử dụng để cung cấp nhiên liệu cho cả máy móc và con người. Khi máy móc hoạt động hiệu quả hơn trong việc biến đất trồng trọt thành công việc hữu ích, bạn sẽ bắt đầu thấy giá lương thực tăng cao. Điều này thường dẫn đến bạo loạn, vì mọi người thực sự không thích chết đói và sẵn sàng mạo hiểm mạng sống của họ để lật đổ chính phủ để ngăn chặn điều này.
Bạn có thể làm dịu người dân bằng cách cung cấp thực phẩm được trợ cấp và những thứ tương tự. Chừng nào điều này không làm tê liệt về mặt kinh tế (nghĩa là, nếu đủ đắt, nó có thể dẫn đến việc bạn bị cạnh tranh bởi những nơi khác không làm điều này), điều này chỉ không ổn định về mặt chính trị.
Thay vào đó, trong ngắn hạn, đẳng cấp sở hữu đang nhận được lợi nhuận từ nền kinh tế do AI điều hành ngày càng hiệu quả có thể trả tiền cho một cảnh sát hoặc đẳng cấp quân sự để dập tắt các cuộc bạo loạn nói trên. Điều này đòi hỏi các cảnh sát / quân đội phải từ trên xuống dưới đến tầng lớp trung lưu về mức sống, để đảm bảo sự trung thành liên tục - bạn không muốn họ tham gia vào những kẻ bạo loạn.
Vì vậy, một trong những trung tâm lợi nhuận mà bạn có thể đặt AI hướng tới là quân sự và chính sách dựa trên AI. Máy bay không người lái cung cấp vật liệu gây chết người và không gây chết người dựa trên việc xử lý các nguồn cấp dữ liệu trực quan và dữ liệu khác có thể làm giảm số lượng cảnh sát / quân đội trung lưu cần thiết để dập tắt các cuộc bạo loạn về giá lương thực hoặc sự bất ổn khác. Như chúng ta đã giả định rằng AI có thể có cơ thể và đào tạo rẻ hơn con người sinh học, điều này cũng có thể làm tăng lượng lực bạn có thể triển khai cho mỗi đô la chi tiêu.
Tại thời điểm này, chúng ta đang nói về một cảnh sát và quân đội chủ yếu là AI được sử dụng để giữ cho con người không bị lật đổ nền kinh tế do AI điều hành và thu giữ các phương tiện sản xuất từ việc sử dụng hiệu quả hơn hiện đang được áp dụng.
Những người di tích "sở hữu" hệ thống hàng đầu đang đưa ra quyết định hợp lý tại địa phương để tối ưu hóa sự giàu có và quyền lực của họ. Họ có thể hoặc không thể tồn tại lâu dài; miễn là chúng tiêu hao một lượng tài nguyên tương đối nhỏ và không làm xáo trộn nền kinh tế do AI điều hành, sẽ không có nhiều áp lực lựa chọn để loại bỏ chúng. Mặt khác, vì họ không đóng góp gì về giá trị, họ đặt vị trí "ở trên đỉnh" là không ổn định về mặt chính trị.
Quá trình này giả định một AI chung "mạnh". AI hẹp hơn có thể kéo nó ra thành từng mảnh. Chẳng hạn, một máy tính chẩn đoán hiệu quả, rẻ tiền có thể giảm hầu hết các Bác sĩ vào tình trạng nghèo đói trong một khoảng thời gian ngắn đáng ngạc nhiên. Xe tự lái có thể nuốt 5% -10% nền kinh tế. Công nghệ thông tin đã nuốt chửng lĩnh vực bán lẻ với AI khiêm tốn.
Người ta nói rằng mọi tiến bộ công nghệ đều dẫn đến việc làm ngày càng tốt hơn cho con người. Và điều này đã đúng trong hơn 300 năm qua.
Nhưng trước năm 1900, cũng đúng là mọi tiến bộ công nghệ đều dẫn đến việc làm ngày càng tốt hơn cho ngựa. Sau đó, ICE và ô tô đã đến, và bây giờ có rất ít ngựa làm việc; những con ngựa còn lại về cơ bản tương đương với những người hầu cá nhân của con người: được giữ cho sự mới lạ của "wow, cool, ngựa" và niềm vui cưỡi và điều khiển một con vật khổng lồ.