Sử dụng máy học trong động lực học chất lỏng tính toán

Bối cảnh:
Tôi chỉ xây dựng một giải pháp số hoạt động cho 2d Navier-Stokes, cho một khóa học. Đó là một giải pháp cho dòng chảy khoang điều khiển nắp. Tuy nhiên, khóa học đã thảo luận về một số lược đồ cho sự phân biệt không gian và sự phân biệt thời gian. Tôi cũng đã tham gia nhiều khóa học thao tác biểu tượng được áp dụng cho NS.

Một số cách tiếp cận số để xử lý chuyển đổi phương trình phân tích / ký hiệu từ PDE sang sai phân hữu hạn bao gồm:

• Euler FTFS, FTCS, BTCS
• Lax
• Bước nhảy vọt
• Lax-Wendroff
• MacCormack
• lưới bù (khuếch tán không gian cho phép thông tin lan truyền)
• TVD

Đối với tôi, tại thời điểm đó, những thứ này có vẻ như "tên chèn tìm thấy một lược đồ và nó xảy ra để hoạt động". Nhiều trong số này là từ trước thời "silicon dồi dào". Chúng đều là xấp xỉ. Trong giới hạn họ. về lý thuyết, dẫn đến PDE.

Mặc dù Mô phỏng số trực tiếp ( DNS ) rất thú vị và Reynold Averaged Navier-Stokes ( Rans ) cũng vui nhộn, chúng là hai "điểm cuối" của tính liên tục giữa tính toán có thể tính toán và thể hiện đầy đủ các hiện tượng. Có nhiều gia đình tiếp cận sống nội tâm với những điều này.

Tôi đã có các giáo sư CFD nói rằng, trong bài giảng, hầu hết những người giải CFD đều tạo ra những bức tranh đẹp, nhưng phần lớn, những bức ảnh đó không đại diện cho thực tế và nó có thể rất khó khăn, và mất nhiều công sức, để có được một giải pháp giải quyết không đại diện cho thực tế.

Trình tự phát triển (theo tôi hiểu, không toàn diện) là:

1. bắt đầu với các phương trình quản lý -> PDE's
2. xác định sự phân biệt không gian và thời gian của bạn -> quy tắc lưới và FD
3. áp dụng cho miền bao gồm các điều kiện ban đầu và điều kiện biên
4. giải quyết (rất nhiều biến thể của nghịch đảo ma trận)

5. thực hiện kiểm tra thực tế tổng thể, phù hợp với các giải pháp đã biết, vv ..

6. xây dựng một số mô hình vật lý đơn giản hơn bắt nguồn từ kết quả phân tích

7. kiểm tra chúng, phân tích và đánh giá
8. lặp lại (nhảy trở lại bước 6, 3 hoặc 2)

Suy nghĩ:
Gần đây tôi đã làm việc với các mô hình GIỎI, cây xiên, rừng ngẫu nhiên và cây được tăng cường độ dốc. Họ tuân theo các quy tắc có nguồn gốc toán học hơn, và toán học điều khiển hình dạng của cây. Họ làm việc để làm cho các hình thức rời rạc tốt.

Mặc dù các cách tiếp cận số do con người tạo ra này hoạt động được phần nào, nhưng vẫn có "voodoo" rộng rãi để kết nối kết quả của chúng với các hiện tượng vật lý mà chúng có nghĩa là mô hình hóa. Thường thì mô phỏng không thay thế đáng kể việc kiểm tra và xác minh trong thế giới thực. Thật dễ dàng để sử dụng tham số sai, hoặc không tính đến sự thay đổi trong hình học hoặc tham số ứng dụng có kinh nghiệm trong thế giới thực.

Câu hỏi:

• Đã có cách tiếp cận nào để cho bản chất của vấn đề xác định
  sự phân biệt thích hợp, sơ đồ phân biệt không gian và thời gian, điều kiện ban đầu hay giải pháp?
• Một giải pháp độ nét cao kết hợp với các kỹ thuật học máy có thể được sử dụng để tạo ra một sơ đồ khác biệt có kích thước bước lớn hơn nhiều nhưng vẫn giữ được sự hội tụ, độ chính xác, và như vậy?
• Tất cả các phương án này đều có thể truy cập được "con người có thể dễ dàng rút ra" - chúng có một số yếu tố. Có một sơ đồ khác biệt với hàng ngàn yếu tố làm công việc tốt hơn? Nó có nguồn gốc như thế nào?

Lưu ý: Tôi sẽ theo dõi với nguồn gốc thực nghiệm và có nguồn gốc thực nghiệm (trái ngược với phân tích) trong một câu hỏi riêng biệt.

CẬP NHẬT:

1. Sử dụng học tập sâu để tăng tốc dòng chảy Boltzmann. Đã tăng tốc ~ 9 lần cho trường hợp cụ thể của họ

   Hennigh, O. (báo chí). Lat-Net: Mô phỏng dòng chảy Boltzmann được nén bằng cách sử dụng mạng nơ ron sâu. Lấy từ: https://arxiv.org/pdf/1705.09036.pdf

   Repo với mã (tôi nghĩ):
   https://github.com/loliverhennigh/Phy-Net

2. Khoảng 2 đơn hàng độ lớn nhanh hơn GPU, 4 đơn hàng cường độ hoặc nhanh hơn ~ O (10.000x) so với CPU và cùng phần cứng.

   Guo, X., Li, W. & Ioiro, F. Mạng lưới thần kinh chuyển đổi cho xấp xỉ dòng chảy ổn định. Lấy từ: https://autodeskresearch.com/publications/convolutional-neural-networks-steady-flow-appro xấp xỉ

3. Những người khác đã xem xét chủ đề khoảng 20 năm trước:

   Muller, S., Milano, M. & Koumoutsakos P. Ứng dụng thuật toán học máy vào mô hình hóa và tối ưu hóa dòng chảy. Trung tâm nghiên cứu nhiễu loạn tóm tắt nghiên cứu hàng năm 1999 Lấy từ: https://web.stanford.edu/group/ctr/ResBriefs99/petros.pdf

Cập nhật (2017):
Điều này đặc trưng cho việc sử dụng các phương pháp không độ dốc trong học tập sâu, một lĩnh vực được dành riêng cho độ dốc. Mặc dù ý nghĩa trực tiếp của hoạt động là học sâu, nó cũng gợi ý rằng GA có thể được sử dụng như một cách tương đương để giải quyết một vấn đề rất khó, rất sâu, rất phức tạp ở mức độ phù hợp hoặc vượt trội so với các phương pháp dựa trên độ dốc.

Trong phạm vi của câu hỏi này, nó có thể gợi ý rằng một cuộc tấn công dựa trên máy học, quy mô lớn hơn có thể cho phép "các mẫu" trong thời gian và không gian tăng tốc đáng kể sự hội tụ của các phương thức miền gradient. Bài báo đi xa như để nói rằng đôi khi đi theo hướng giảm dần di chuyển ra khỏi giải pháp. Mặc dù trong bất kỳ vấn đề nào với các quỹ đạo tối ưu hoặc bệnh lý cục bộ (hầu hết các vấn đề trong thế giới thực có giá trị cao đều có một số vấn đề này), người ta hy vọng rằng độ dốc không mang tính thông tin toàn cầu, vẫn rất tốt khi được định lượng và xác thực theo kinh nghiệm như nó trong bài viết này và khả năng "nhảy vọt" mà không yêu cầu "giảm học tập" khi bạn có được động lực hoặc thư giãn.

Cập nhật (2019):
Có vẻ như google hiện có một phần "làm thế nào để tìm ra người giải quyết tốt hơn" trong câu đố AI. liên kết Đây là một phần của việc tạo ra AI làm người giải quyết.

** Cập nhật (2020): ** Và bây giờ họ đang làm điều đó và làm tốt điều đó ...
https://arxiv.org/pdf/1911.08655.pdf

Có thể lập luận rằng sau đó họ có thể giải cấu trúc NN của họ để xác định sự rời rạc thực tế. Tôi đặc biệt thích hình 4.

Đây là một trò đùa kéo dài mà CFD là viết tắt của "động lực chất lỏng đầy màu sắc". Tuy nhiên, nó được sử dụng - và hữu ích - trong một loạt các ứng dụng. Tôi tin rằng sự bất mãn của bạn bắt nguồn từ việc không phân biệt đầy đủ giữa hai bước liên kết với nhau nhưng khác nhau: tạo ra một mô hình toán học của một quá trình vật lý và giải quyết nó bằng số. Hãy để tôi nhận xét về những điều này một chút:

1. Không có mô hình toán học (hoặc thực sự, bất kỳ) nào của thực tế vật lý là chính xác ; tốt nhất là nó hữu ích để dự đoán kết quả của các phép đo trong một tình huống được phân định chính xác (nhưng hy vọng là lớn). Điều này bao gồm thực tế là phải có được dự đoán như vậy với một cấu hình cụ thể; đây là lý do tại sao chúng ta có toàn bộ hệ thống các mô hình từ lý thuyết trường lượng tử đến cơ học Newton. Cụ thể, các phương trình Navier-Stokes không mô tả dòng chảy chất lỏng, chúng đưa ra dự đoán về các khía cạnh cụ thể của hành vi của một số chất lỏng trong các điều kiện nhất định.

2. Đối với các mô hình toán học phức tạp hơn (như phương trình Navier - Stokes), bạn không bao giờ có thể có được một giải pháp chính xác (và do đó là dự đoán), mà chỉ là một xấp xỉ bằng số. Đây không phải là một điều tồi tệ như nó có vẻ, vì các phép đo bạn muốn so sánh chúng với bản thân chúng không bao giờ chính xác. Giống như trong việc lựa chọn mô hình, có sự đánh đổi giữa độ chính xác và khả năng vận hành - sẽ không có ý nghĩa gì khi dành thời gian hoặc tiền bạc để có được một giải pháp chính xác hơn mức cần thiết. Tại thời điểm này, nó hoàn toàn trở thành một câu hỏi về cách tính gần đúng số lượng của giải pháp (trong trường hợp này) một phương trình vi phân từng phần, là chủ đề của toàn bộ lĩnh vực toán học: phân tích số. Lĩnh vực này liên quan đến việc chứng minhước tính lỗi cho các phương thức số nhất định (một lần nữa, theo các điều kiện nhất định, được chỉ định rõ ràng). Câu lệnh của bạn "tên chèn tìm thấy một lược đồ và nó xảy ra để hoạt động", thật không công bằng - đó phải là "tên chèn tìm một lược đồ và chứng minh rằng nó hoạt động". Ngoài ra, các sơ đồ này không được kéo ra khỏi không khí mỏng - chúng có nguồn gốc từ các nguyên tắc toán học được hiểu rõ.

   (Ví dụ: các lược đồ sai phân hữu hạn có thể được suy ra bằng cách sử dụng xấp xỉ Taylor của một đơn hàng nhất định. Chắc chắn là có thể - và một số người thực hiện - có được các kế hoạch chênh lệch bậc cao và thực hiện chúng, nhưng có luật giảm lợi nhuận : điều này chỉ có thể được tự động hóa một phần và do đó cần rất nhiều nỗ lực và một số điều kiện hạn chế ngày càng phải được thỏa mãn để thực sự có được độ chính xác cao hơn tương ứng với chúng. Ngoài ra, đôi khi, tốt hơn là sử dụng một sơ đồ khác như phương pháp quang phổ.)

Chủ đề phổ biến ở đây là cả mô hình và sơ đồ số đều đi kèm với một loạt các ứng dụng, và điều quan trọng là chọn kết hợp đúng cho một mục đích nhất định. Đây chính xác là lý do tại sao một nhà khoa học tính toán cần biết cả khoa học miền (để biết mô hình nào hợp lệ trong tình huống nào) và toán học (để biết phương pháp nào có thể áp dụng cho mô hình nào và độ chính xác nào)! Bỏ qua các nhãn "chỉ sử dụng như chỉ dẫn" này dẫn đến việc tạo ra loại "nhảm nhí tính toán" (theo nghĩa kỹ thuật của Harry Frankfurt) mà các giáo sư CFD của bạn đã đề cập.

Về lý do tại sao sử dụng mô hình tính toán khi bạn có mô hình vật lý (như đường hầm gió): Một lý do là phần mềm đang chạy có thể có giá trị lớn hơn so với việc tạo mô hình và đặt nó vào đường hầm gió. Ngoài ra, nó thường không phải là một hoặc: Ví dụ, khi thiết kế ô tô hoặc máy bay, bạn sẽ chạy hàng trăm hoặc hàng nghìn mô phỏng để thu hẹp mọi thứ, và sau đó chỉ cho (các) ứng cử viên cuối cùng đưa mô hình vào gió đường hầm.

Cập nhật:

Sử dụng học máy thay vì mô phỏng số cũng giống như nói "không có mô hình nào tốt hơn mô hình gần đúng", điều mà tôi nghi ngờ bất kỳ ai trong động lực học chất lỏng (hoặc bất kỳ lĩnh vực nào khác) sẽ đồng ý. Điều đó đang được nói, chắc chắn có thể (và thực sự đã hoàn thành) sử dụng học máy để chọn "tham số hình học hoặc ứng dụng" không xác định dựa trên thỏa thuận với dữ liệu đo được; tuy nhiên, ở đây cũng là các phương pháp dựa trên mô hình như định lượng không chắc chắn hoặc các vấn đề nghịch đảo (Bayes) thường hoạt động tốt hơn nhiều (và dựa trên các nguyên tắc toán học nghiêm ngặt). Chọn số Về nguyên tắc, các tham số như kích thước bước hoặc thứ tự của phương pháp sử dụng máy học cũng có thể, nhưng tôi không thấy được lợi ích vì có một lý thuyết toán học cho bạn biết chính xác cách chọn các tham số này dựa trên mô hình (toán học) của bạn.

Cập nhật 2:

Bài báo bạn liên kết là về đồ họa máy tính , không phải khoa học tính toán : mục tiêu của họ không phải là mô phỏng chính xác (nghĩa là một giải pháp số của mô hình toán học) của một quá trình vật lý, mà là một thứ trông giống như bằng mắt thường (một trường hợp cực đoan của "động lực chất lỏng đầy màu sắc" ...) - đó là một vấn đề rất khác. Đặc biệt, không có lỗi nào bị ràng buộc đối với đầu ra của mạng được đào tạo so với giải pháp tương ứng cho các phương trình Navier - Stokes, đây là một phần không thể thiếu của bất kỳ phương pháp số nào.

(Và câu hỏi đầu tiên của bạn bắt đầu từ một tiền đề sai: trong mọi cách tiếp cận, vấn đề xác định mô hình, mô hình xác định sự rời rạc, sự rời rạc xác định người giải quyết.)

Tôi nghĩ rằng bạn đang trộn lẫn một vài ý tưởng khác nhau đang gây nhầm lẫn. Vâng, có rất nhiều cách để phân biệt một vấn đề nhất định. Chọn một cách thích hợp có thể trông giống như "voodoo" khi bạn đang học những thứ này trong lớp, nhưng khi các nhà nghiên cứu chọn chúng, họ sẽ làm như vậy dựa trên kinh nghiệm kết hợp của lĩnh vực này, như được xuất bản trong văn học. Do đó, họ đưa ra nhiều lựa chọn sáng suốt hơn so với một sinh viên có thể.

Câu hỏi 1: Nếu bạn đang giải quyết vấn đề và bạn chuyển từ sơ đồ này sang sơ đồ khác, thời gian chạy của bạn sẽ thay đổi, tiêu chí hội tụ có thể thay đổi hoặc hành vi tiệm cận của bạn, nhưng một điểm rất quan trọng là giải pháp hội tụ cuối cùng của bạn KHÔNG nên thay đổi . Nếu có, bạn cần phải tinh chỉnh các mắt lưới của mình hoặc có gì đó không đúng với sơ đồ số của bạn. Có lẽ bạn có thể sử dụng một số thuật toán tối ưu hóa để tạo các sơ đồ số của mình và cải thiện hiệu suất cho một loại vấn đề cụ thể, nhưng nhiều lần các lược đồ dẫn xuất được tạo ra với hành vi hội tụ / tiệm cận tối ưu có thể chứng minh về mặt toán học cho số lượng thuật ngữ liên quan hoặc loại lưới được sử dụng.

Bây giờ đoạn trên không giải thích cho những thứ như các mô hình nhiễu loạn khác nhau, là các công thức toán học / xấp xỉ khác nhau của vật lý, do đó, dự kiến ​​sẽ có các giải pháp khác nhau. Chúng một lần nữa được nghiên cứu rất nhiều trong tài liệu và tôi không nghĩ các chương trình ở điểm chúng có thể xem xét các hiện tượng vật lý và tạo ra một mô hình toán học dự đoán chính xác phản ứng của các hệ thống vật lý tương tự.

Câu hỏi 2: Có, bạn có thể rút ra một sơ đồ sử dụng toàn bộ lưới cùng một lúc, sử dụng một số mã máy tính để thực hiện. Tôi thậm chí cảm thấy an toàn khi nói rằng đối với một số mắt lưới, các mã như vậy tồn tại và có thể cung cấp cho bạn lược đồ của bạn trong vài giờ (một khi bạn tìm thấy mã đó). Vấn đề là bạn sẽ không bao giờ đánh bại Nyquist. Có giới hạn về số bước thời gian bạn thực hiện, tùy thuộc vào tần số phản hồi tối đa của hệ thống của bạn và giới hạn mức độ lớn của các ô / phần tử lưới bạn có thể có tùy thuộc vào tần số không gian của giải pháp.

Điều đó thậm chí không tính đến thực tế là thường công việc tính toán liên quan đến việc sử dụng sơ đồ phức tạp hơn thường không tuyến tính với độ phức tạp. Lý do hầu hết các sinh viên học các phương pháp RK4 để tích hợp thời gian là khi bạn bắt đầu đi đến các phương pháp với thứ tự cao hơn mức đó, bạn sẽ đạt được nhiều đánh giá về đạo hàm của bạn nhanh hơn so với việc bạn đạt được các phương pháp của phương pháp. Trong lĩnh vực không gian, các phương pháp bậc cao hơn làm tăng đáng kể việc điền vào ma trận, do đó bạn cần ít điểm lưới hơn, nhưng công việc bạn làm đảo ngược ma trận thưa thớt tăng lên rất nhiều, ít nhất là bù đắp một phần lợi nhuận của bạn.

Tôi không chắc chắn những gì bạn đang đề cập đến trong câu hỏi ba. Bạn đang nói về việc biến các giải pháp gần gũi cho một vấn đề thành các giải pháp tốt hơn? Nếu vậy tôi khuyên bạn nên đọc một số ánh sáng trên multigrid. Nếu bạn đang hỏi về việc biến các sơ đồ số đàng hoàng thành tuyệt vời, tôi nghĩ phần còn lại của câu trả lời của tôi ít nhất chạm vào điều đó.