50 mb veri için word2vec algoritması için vektörlerin boyutu ne olmalıdır

Question

Modelimi 50 mb boyutundaki verilerle eğitmeye çalışıyorum. Sadece algoritma için boyutun boyutunu belirlemek için bir kural/algoritma olup olmadığını merak ediyordum.

Answer 1

Yaklaşık 500.000 cümle veya 5 milyon jeton olarak bir 50mb metin dosyası varsayalım. Anlamlı bir gömülmeyi eğitmek için çok küçük bir yol var, ancak burada başvurabileceğiniz ampirik veriler (6Billion tokenleri üzerinde eğitilmiş).

Kaynak: https://nlp.stanford.edu/pubs/glove.pdf