Ở mức độ rất cao, liên quan đến lý thuyết trò chơi tiến hóa và thuật toán di truyền, hoàn toàn có khả năng AI có thể phát triển một trạng thái tương tự như đau khổ, mặc dù, như bạn chỉ ra một cách khéo léo, nó sẽ liên quan đến các điều kiện mà máy tính quan tâm. (Ví dụ, nó có thể phát triển một cảm giác tương tự như "bị kích thích" đối với sự không tối ưu theo nghĩa thuật toán hoặc "sự thất vọng" ở các phương trình không thêm vào, hoặc "không hài lòng" đối với các mục tiêu chưa đạt được.)
Robot bị hành hạ bởi trẻ nhỏ tại trung tâm thương mại chắc chắn có thể nói là "đau khổ" ở chỗ trẻ em ngăn chặn hiệu suất hoạt động của robot, nhưng robot không có ý thức và đau khổ có thể được yêu cầu phải nhận thức. Tuy nhiên, ngay cả khi không có ý thức, robot rất đơn giản này có thể học các hành vi mới thông qua đó nó giảm nhẹ hoặc tránh được "sự đau khổ" do không thể thực hiện được chức năng của mình.
Bạn chắc chắn muốn xem xét khái niệm đau khổ trong bối cảnh triết học và Epicurus sẽ là một nơi rất hữu ích để bắt đầu.
Epicurus có liên quan trực tiếp theo nghĩa thuật toán bởi vì anh ta sử dụng thuật ngữ " ataraxia " có nghĩa là bình tĩnh, và có nguồn gốc từ động từ " tarasso " có nghĩa là kích động hoặc làm phiền.
Ataraxia có thể được biểu diễn dưới dạng toán học như một trạng thái cân bằng. Tarasso có thể được biểu diễn bằng toán học như là sự mất cân bằng.
Điều này liên quan trực tiếp đến Lý thuyết trò chơi ở chỗ mất cân bằng có thể nói là yêu cầu chính của trò chơi và AI trong Lý thuyết trò chơi đó có thể nói là gốc rễ của tất cả AI.
Ataraxia cũng được hiểu theo nghĩa "tự do khỏi sợ hãi", theo thời gian trong nỗi sợ hãi đó là một chức năng của sự không chắc chắn vì nó liên quan đến tương lai theo nghĩa dự đoán, và liên quan đến điều kiện hiện tại so với điều kiện tương lai kém tối ưu hơn.
Do đó, nỗi sợ hãi, là một dạng đau khổ, bắt nguồn từ tính hấp dẫn tính toán, ngay cả khi "máy tính" là bộ não của con người.
Các nhà triết học ban đầu như Democritus đặc biệt hữu ích vì họ đang tìm hiểu các khái niệm cơ bản, quan trọng, nhiều trong số đó có thể được thể hiện bằng toán học hiện đại.
Nói một cách dí dỏm: bạn không thể đến lúc đau khổ cho đến khi bạn lần đầu tiên định nghĩa "Tốt" và "Xấu", đó là một mối quan hệ nhị phân trong đó không có thuật ngữ nào có thể nói là có nghĩa mà không có ý nghĩa ngược lại. (Về mặt toán học, nó có thể được biểu thị dưới dạng đơn giản nhất dưới dạng đồ thị hữu hạn, một chiều.) Cách hiểu này khá cổ xưa.
Điều đáng chú ý là giá trị tiếp tục của các nhà triết học ban đầu là một phần của sự khôn ngoan không phụ thuộc vào khối lượng kiến thức, được Socrates chứng minh trong ý tưởng rằng trí tuệ có thể đơn giản như bạn biết bạn không biết gì.
Các nhà hiền triết cổ đại không có lợi ích của các công cụ đo lường mạnh mẽ, toán học tiên tiến hoặc phương pháp khoa học, nhưng họ rất thông minh, và thậm chí quan trọng hơn, khôn ngoan.