Câu hỏi được gắn thẻ «word2vec»

Tôi đang cố gắng hiểu thế nào là tương đồng giữa Phân bổ Dirichlet tiềm ẩn và word2vec để tính độ tương tự từ. Theo tôi hiểu, LDA ánh xạ các từ thành một vectơ xác suất của các chủ đề tiềm ẩn , trong khi word2vec ánh xạ chúng …

39 machine-learning  self-study  natural-language  latent-variable  word2vec 

Làm cách nào để sử dụng từ nhúng để ánh xạ tài liệu tới vectơ đặc trưng, ​​phù hợp để sử dụng với việc học có giám sát? Một từ nhúng ánh xạ mỗi từ vào một vectơ , trong đó là một số không quá lớn (ví dụ: 500). …

38 classification  natural-language  supervised-learning  word2vec  word-embeddings 

Sau khi đào tạo các vectơ từ với word2vec, tốt hơn là bình thường hóa chúng trước khi sử dụng chúng cho một số ứng dụng tiếp theo? Tức là những ưu / nhược điểm của việc bình thường hóa chúng là gì?

38 natural-language  word2vec  word-embeddings 

Tôi đang sử dụng dấu mũ để chạy một rừng ngẫu nhiên được xác thực chéo qua tập dữ liệu. Biến Y là một yếu tố. Không có NaN, Inf, hoặc NA trong tập dữ liệu của tôi. Tuy nhiên, khi chạy rừng ngẫu nhiên, tôi nhận được Error in …

29 r  random-forest  caret  regression  prediction  fitting  social-science  poisson-distribution  distributions  characteristic-function  bayesian  prior  regression  normal-distribution  interaction  nonparametric  skewness  svm  standard-deviation  standard-error  regression-coefficients  igraph  natural-language  word2vec  word-embeddings  regression  machine-learning  sampling  r  regression  machine-learning  random-forest  ensemble  sampling  unbiased-estimator  proof  estimators  mse  probability  conditional-probability  bayes  anova  missing-data  neural-networks  recommender-system  r  confidence-interval  sample  multiple-imputation  r  time-series  forecasting  mase 

Tôi đã cố gắng hết sức để hiểu khái niệm lấy mẫu âm trong ngữ cảnh của word2vec. Tôi không thể tiêu hóa ý tưởng lấy mẫu [âm]. Ví dụ, trong các bài báo của Mikolov, kỳ vọng lấy mẫu âm tính được xác định là đăng nhậpσ( ⟨ W …

19 machine-learning  word2vec  word-embeddings 

Tôi tự hỏi tại sao Skip-gram tốt hơn cho các từ không thường xuyên hơn CBOW trong word2vec. Tôi đã đọc khiếu nại trên https://code.google.com.vn/p/word2vec/ .

19 natural-language  word2vec  word-embeddings 

Câu hỏi của tôi có thể là một câu ngớ ngẩn. Vì vậy tôi sẽ xin lỗi trước. Tôi đã cố gắng sử dụng mô hình GLOVE được đào tạo trước bởi nhóm Stanford NLP ( liên kết ). Tuy nhiên, tôi nhận thấy rằng kết quả tương tự của …

17 machine-learning  word2vec  cosine-similarity 

Không chắc chắn nếu đây là trang web ngăn xếp đúng, nhưng ở đây đi. Phương thức .simustomity hoạt động như thế nào? Wow spaCy thật tuyệt! Mô hình tfidf của nó có thể dễ dàng hơn, nhưng w2v chỉ với một dòng mã?! Trong bài hướng dẫn 10 dòng …

13 natural-language  word2vec  tf-idf  nltk 

Tôi tự hỏi tại sao softmax phân cấp lại tốt hơn cho các từ không thường xuyên, trong khi lấy mẫu âm sẽ tốt hơn cho các từ thường xuyên, trong các mô hình CBOW và bỏ qua gram của word2vec. Tôi đã đọc khiếu nại trên https://code.google.com.vn/p/word2vec/ .

12 natural-language  word2vec  word-embeddings  softmax 

Tôi gặp vấn đề trong việc hiểu mô hình bỏ qua của thuật toán Word2Vec. Trong các từ liên tục có thể dễ dàng thấy các từ ngữ cảnh có thể "khớp" trong Mạng thần kinh như thế nào, vì về cơ bản, bạn trung bình chúng sau khi nhân …

11 neural-networks  deep-learning  natural-language  word2vec  word-embeddings 

Tôi đang cố gắng nhúng khoảng 60 triệu cụm từ vào một không gian vectơ , sau đó tính toán độ tương tự cosin giữa chúng. Tôi đã sử dụng sklearn CountVectorizervới chức năng mã thông báo được xây dựng tùy chỉnh để tạo unigram và bigram. Hóa ra để …

11 machine-learning  natural-language  word2vec  word-embeddings  cosine-similarity 

Tôi rất mới với từ nhúng. Tôi muốn hình dung làm thế nào các tài liệu đang tìm kiếm sau khi học. Tôi đọc rằng t-SNE là cách tiếp cận để làm điều đó. Tôi có 100K tài liệu với 250 kích thước như kích thước của nhúng. Có một …

11 pca  dimensionality-reduction  word2vec  word-embeddings  tsne 

Đối với tác vụ xử lý ngôn ngữ tự nhiên (NLP), người ta thường sử dụng các vectơ word2vec như một cách nhúng cho các từ. Tuy nhiên, có thể có nhiều từ chưa biết mà các vectơ word2vec thu được chỉ đơn giản vì những từ này không được …

11 natural-language  word2vec  lstm  word-embeddings 

Tôi đang cố gắng giải quyết vấn đề đầu tiên của tài liệu khóa học stanford trực tuyến cs224d và tôi gặp một số vấn đề với vấn đề 3A: Khi sử dụng mô hình bỏ qua gram word2vec với chức năng dự đoán softmax và chức năng mất entropy …

10 machine-learning  self-study  word2vec 

Tôi đang giải quyết các vấn đề trong bài tập viết sâu của lớp học NLP Stanford http://cs224d.stanford.edu/assocate1/assocate1_soln Tôi đang cố gắng để hiểu câu trả lời cho 3a nơi họ đang tìm kiếm đạo hàm cho vectơ cho từ trung tâm. Giả sử bạn được cung cấp một vectơ …

9 self-study  neural-networks  backpropagation  word2vec