Sự khác biệt giữa 'học chuyển' và 'thích ứng miền' là gì?

Có sự khác biệt nào giữa 'học chuyển' và 'thích ứng miền' không?

Tôi không biết về ngữ cảnh, nhưng tôi hiểu rằng chúng tôi có một số tập dữ liệu 1 và đào tạo về nó, sau đó chúng tôi có một tập dữ liệu 2 khác mà chúng tôi muốn điều chỉnh mô hình của mình mà không cần đào tạo lại từ đầu, để 'chuyển giao học tập' và "Thích ứng miền" giúp giải quyết vấn đề này.

Theo lĩnh vực Mạng thần kinh chuyển đổi:

• Bằng cách 'học chuyển', ý tôi là 'hoàn thiện' [1]

• Trong trường hợp này [2] nó không được giám sát, nhưng 'sự thích ứng tên miền' luôn luôn không được giám sát?

Dường như có một số bất đồng giữa các nhà nghiên cứu về sự khác biệt giữa 'học chuyển' và 'thích ứng miền' là gì.

Từ {0}:

Khái niệm thích ứng miền có liên quan chặt chẽ đến việc học chuyển. Học chuyển là một thuật ngữ chung để chỉ một lớp các vấn đề về máy học liên quan đến các nhiệm vụ hoặc lĩnh vực khác nhau. Trong tài liệu, chưa có một định nghĩa chuẩn về học chuyển. Trong một số bài báo, nó có thể hoán đổi với sự thích ứng tên miền.

Từ 1}:

Người giới thiệu:

• {0} Li, Tề. "Khảo sát tài liệu: thuật toán thích ứng miền để xử lý ngôn ngữ tự nhiên." Khoa Khoa học Máy tính Trung tâm Sau đại học, Đại học Thành phố New York (2012): 8-10. https://scholar.google.com/scholar?cluster=2828982016930721315&hl=vi&as_sdt=0,22 ; https://pdfs.semanticscholar.org/532e/3d5b1b5807771b77cac60fe8594b506fcff9.pdf ; http://nlp.cs.rpi.edu/apers/qisurvey.pdf ( gương )

• {1} Pan, Sinno Jialin và Qiang Yang. "Một cuộc khảo sát về học chuyển." Giao dịch của IEEE về kiến ​​thức và kỹ thuật dữ liệu 22, không. 10 (2010): 1345-1359. https://scholar.google.com/scholar?cluster=17771403852323259019&hl=vi&as_sdt=0,22 ; http://citeseerx.ist.psu.edu/viewdoc/doad?doi=10.1.1.158.4126&rep=rep1&type=pdf ( gương ) (trích dẫn 2.6k)

Từ bài viết của Hal Daume [1]:

Cài đặt phân loại tiêu chuẩn là phân phối đầu vào p (X) và phân phối nhãn p (Y | X). Thích ứng tên miền: khi p (X) thay đổi giữa đào tạo và kiểm tra. Học chuyển: khi p (Y | X) thay đổi giữa đào tạo và kiểm tra.

Nói cách khác, trong DA, phân phối đầu vào thay đổi nhưng các nhãn vẫn giữ nguyên; trong TL, các bản phân phối đầu vào giữ nguyên, nhưng các nhãn thay đổi.

1. https://nlpers.blogspot.com/2007/11/domain-adaptation-vs-transfer-learning.html ( gương )

Trong suốt các tài liệu về học chuyển, có một số thuật ngữ không nhất quán. Các cụm từ như học chuyển và thích ứng miền được sử dụng để chỉ các quy trình tương tự. Thích ứng miền là quá trình thích ứng một hoặc nhiều tên miền nguồn cho phương tiện truyền thông tin để cải thiện hiệu suất của người học mục tiêu. Quá trình thích ứng miền cố gắng thay đổi tên miền nguồn trong nỗ lực đưa phân phối nguồn đến gần với mục tiêu. Trong cài đặt Thích ứng Miền, miền nguồn và miền đích có các phân phối biên p (X) khác nhau. Theo khảo sát của Pan, Transfer Learning là một thuật ngữ rộng hơn cũng có thể bao gồm cả trường hợp khi có sự khác biệt trong phân phối có điều kiện p (Y | X) của miền nguồn và miền đích. Ngược lại,

1. https://nlpers.blogspot.com/2007/11/domain-adaptation-vs-transfer-learning.html

Tôi nghĩ rằng "Học chuyển giao" là một thuật ngữ tổng quát hơn và "Thích ứng miền" là một kịch bản của "Học chuyển".

[1] Chú ý chuyển nhượng cho thích ứng tên miền. http://ise.thss.tsinghua.edu.cn/~mlong/doc/transferable-attention-aaai19.pdf

Theo [1], thích ứng miền là học chuyển giao trong NLP: "Học chuyển trong miền NLP đôi khi được gọi là thích ứng miền."

[1] Pan, SJ và Q. Yang. Một cuộc khảo sát về học tập chuyển đổi. Giao dịch của IEEE về kiến ​​thức và kỹ thuật dữ liệu 22, không. 10 (Tháng 10 năm 2010): 1345 Từ 59. https://doi.org/10.1109/TKDE.2009.191 hoặc https://www.cse.ust.hk/~qyang/Docs/2009/tkde_transfer_learning.pdf