Trong trí tuệ nhân tạo (đôi khi được gọi là trí thông minh máy hoặc trí thông minh tính toán ), có một số vấn đề dựa trên các chủ đề toán học, đặc biệt là tối ưu hóa, thống kê, lý thuyết xác suất, tính toán và đại số tuyến tính.
Marcus Hutter đã nghiên cứu một lý thuyết toán học cho trí thông minh nhân tạo , được gọi là AIXI , dựa trên một số khái niệm khoa học toán học và tính toán, như học tăng cường, lý thuyết xác suất (ví dụ định lý Bayes và các chủ đề liên quan) đo lường lý thuyết , lý thuyết thông tin thuật toán (ví dụ Độ phức tạp Kolmogorov), tối ưu hóa, cảm ứng Solomonoff , tìm kiếm Levin phổ quát và lý thuyết tính toán (ví dụ: máy Turing phổ dụng). Cuốn sách Trí tuệ nhân tạo phổ quát của ông : Các quyết định tuần tự dựa trên Xác suất thuật toán, đó là một cuốn sách kỹ thuật và toán học cao, mô tả lý thuyết của ông về các tác nhân học tập củng cố phi Markov tối ưu của Bayes.
Ngoài ra còn có lĩnh vực nghiên cứu gọi là lý thuyết học tập tính toán , được dành cho việc nghiên cứu thiết kế và phân tích các thuật toán học máy. Chính xác hơn, lĩnh vực này tập trung vào nghiên cứu nghiêm ngặt và phân tích toán học các thuật toán học máy bằng các kỹ thuật từ các lĩnh vực như lý thuyết xác suất, thống kê, tối ưu hóa, lý thuyết thông tin và hình học. Một số người đã làm việc trên lý thuyết học tập tính toán, bao gồm Michael Kearns và Vladimir Vapnik . Ngoài ra còn có một lĩnh vực liên quan được gọi là lý thuyết học thống kê .
Ngoài ra còn có rất nhiều nỗ lực nghiên cứu dành riêng cho các phép tính gần đúng (heuristic) về tối ưu hóa tổ hợp và các vấn đề hoàn thành NP , chẳng hạn như tối ưu hóa đàn kiến .
Cũng có một số nghiên cứu về tính đầy đủ của AI , nhưng điều này chưa nhận được nhiều sự chú ý (so với các lĩnh vực nghiên cứu khác được đề cập ở trên).