Sınıfları dengelemek için çok bantlı bir SVM'ye ağırlık atama

Question

Bu nasıl yapılır? SVM'yi eğitmek için Sklearn kullanıyorum. Derslerim dengesiz. bu yüzden OneVsRestClassifier kullanıyorum multilabel, sorunum çok sınıflı olduğunu unutmayın:

mlb = MultiLabelBinarizer() 
y = mlb.fit_transform(y_train) 

clf = OneVsRestClassifier(svm.SVC(kernel='rbf')) 
clf = clf.fit(x, y) 
pred = clf.predict(x_test) 

ben dengesiz sınıflar için hesap için bir yere bir 'sample_weight' parametresini ekleyebilir miyim? Ben MLB kullanarak ikiliye Etiketlerime dönüştürülür çünkü

ValueError: Class label 2 not present 

budur: Ben SVM'e bir class_weight dicti eklediğinizde

---

hatası alıyorum. Ancak etiketleri dönüştürmek yoksa, alıyorum:

ValueError: You appear to be using a legacy multi-label data representation. Sequence of sequences are no longer supported; use a binary array or sparse matrix instead. 

class_weight ağırlığına sınıf etiketleri haritalama, dict şöyledir: {1: 1, 2: 1, 3: 3 ...}

Burada x ve y detayları aşağıda sunulmuştur:

print(X[0]) 
[ 0.76625633 0.63062721 0.01954162 ..., 1.1767817 0.249034 0.23544988] 
print(type(X)) 
<type 'numpy.ndarray'> 

print(y[0]) 
print(type(y)) 
[1, 2, 3, 4, 5, 6, 7] 
<type 'numpy.ndarray'> 

Not bu mLB = MultiLabelBinarizer(); y = mlb.fit_transform (y_train), y'yi bir ikili diziye dönüştürür.

ValueError: You appear to be using a legacy multi-label data representation. Sequence of sequences are no longer supported; use a binary array or sparse matrix instead. 

Dolayısıyla, sorun, seyrek bir matris etiket (bir np.array) dönüştürme azaltır:

---

verilen cevap hatası üretir.

TypeError: no supported conversion for types: (dtype('O'),) 

Bunun için yeni bir sorgu açılır:

from scipy import sparse 
y_sp = sparse.csr_matrix(y) 

Bu hatayı üretir.

Answer 1

Sen kullanabilirsiniz:

class_weight : {dict, ‘balanced’}, optional

Set the parameter C of class i to class_weight[i]*C for SVC. If not given, all classes are supposed to have weight one. The “balanced” mode uses the values of y to automatically adjust weights inversely proportional to class frequencies in the input data as n_samples/(n_classes * np.bincount(y))

clf = OneVsRestClassifier(svm.SVC(kernel='rbf', class_weight='balanced')) 

Answer 2

Bu kod class_weight ait 'dengeli' değeri

>>> from sklearn.preprocessing import MultiLabelBinarizer 
>>> from sklearn.svm import SVC 
>>> from sklearn.multiclass import OneVsRestClassifier 

>>> mlb = MultiLabelBinarizer() 
>>> x = [[0,1,1,1],[1,0,0,1]] 
>>> y = mlb.fit_transform([['sci-fi', 'thriller'], ['comedy']]) 

>>> print y 
>>> print mlb.classes_ 
[[0 1 1] 
[1 0 0]] 
['comedy' 'sci-fi' 'thriller'] 

>>> OneVsRestClassifier(SVC(random_state=0, class_weight='balanced')).fit(x, y).predict(x) 
array([[0, 1, 1], 
    [1, 0, 0]])