Làm thế nào để tính toán hạt nhân Gaussian hiệu quả trong numpy [đã đóng]

Tôi có một mảng numpy với m cột và n hàng, các cột là kích thước và các cột dữ liệu hàng.

Bây giờ tôi cần tính giá trị kernel cho từng tổ hợp điểm dữ liệu.

Đối với hạt nhân tuyến tính Tôi chỉ có thể làm$K(\mathbf{x}_i,\mathbf{x}_j) = \langle \mathbf{x}_i,\mathbf{x}_j \rangle$dot(X,X.T)

Làm cách nào tôi có thể tính toán hiệu quả tất cả các giá trị cho Hạt nhân Gaussian $K(\mathbf{x}_i,\mathbf{x}_j) = \exp{-\frac{\|\mathbf{x}_i-\mathbf{x}_j\|_2^2}{s^2}}$ với một s đã cho ?

Tôi nghĩ vấn đề chính là để có được khoảng cách cặp đôi một cách hiệu quả. Một khi bạn có rằng phần còn lại là yếu tố khôn ngoan.

Để làm điều này, có lẽ bạn muốn sử dụng scipy. Các chức năng scipy.spatial.distance.pdistlàm những gì bạn cần, và scipy.spatial.distance.squareformcó thể sẽ làm dịu cuộc sống của bạn.

Vì vậy, nếu bạn muốn ma trận kernel bạn làm

from scipy.spatial.distance import pdist, squareform
  # this is an NxD matrix, where N is number of items and D its dimensionalites
X = loaddata() 
pairwise_dists = squareform(pdist(X, 'euclidean'))
K = scip.exp(-pairwise_dists ** 2 / s ** 2)

Tài liệu có thể được tìm thấy ở đây . 

Là một phụ lục nhỏ cho câu trả lời của bayerj, pdisthàm scipy có thể tính toán trực tiếp các chỉ tiêu euclide bình phương bằng cách gọi nó là pdist(X, 'sqeuclidean'). Mã đầy đủ sau đó có thể được viết hiệu quả hơn như

from scipy.spatial.distance import pdist, squareform
  # this is an NxD matrix, where N is number of items and D its dimensionalites
X = loaddata() 
pairwise_sq_dists = squareform(pdist(X, 'sqeuclidean'))
K = scip.exp(-pairwise_sq_dists / s**2)

Bạn cũng có thể viết mẫu vuông bằng tay:

import numpy as np
def vectorized_RBF_kernel(X, sigma):
    # % This is equivalent to computing the kernel on every pair of examples
    X2 = np.sum(np.multiply(X, X), 1) # sum colums of the matrix
    K0 = X2 + X2.T - 2 * X * X.T
    K = np.power(np.exp(-1.0 / sigma**2), K0)
    return K

PS nhưng điều này hoạt động chậm hơn 30%

def my_kernel(X,Y):
    K = np.zeros((X.shape[0],Y.shape[0]))
    for i,x in enumerate(X):
        for j,y in enumerate(Y):
            K[i,j] = np.exp(-1*np.linalg.norm(x-y)**2)
    return K

clf=SVR(kernel=my_kernel)

bằng với

clf=SVR(kernel="rbf",gamma=1)

Bạn có thể tính toán RBF một cách hiệu quả từ mã lưu ý ở trên rằng giá trị gamma là 1, vì đó là hằng số mà bạn yêu cầu cũng là hằng số tương tự.

Tôi nghĩ rằng điều này sẽ giúp:

def GaussianKernel(v1, v2, sigma):
    return exp(-norm(v1-v2, 2)**2/(2.*sigma**2))