Làm rõ trong hình học thông tin

Câu hỏi này liên quan đến bài báo Hình học vi phân của các gia đình hàm mũ cong và mất thông tin của Amari.

Các văn bản đi như sau.

Đặt là một đa dạng phân phối xác suất với hệ tọa độ , trong đó được giả sử ...$S^n=\{p_{\theta}\}$$n$$\theta=(\theta_1,\dots,\theta_n)$$p_{\theta}(x)>0$

Chúng tôi có thể coi mọi điểm của là mang hàm của ...$\theta$$S^n$$\log p_{\theta}(x)$$x$

Đặt là không gian tiếp tuyến của tại , nói một cách đại khái, được xác định bằng một phiên bản tuyến tính của một khu phố nhỏ của trong . Đặt là cơ sở tự nhiên của liên kết với hệ thống phối hợp ...$T_{\theta}$$S^n$$\theta$$\theta$$S^n$$e_i(\theta), i=1,\dots,n$$T_{\theta}$

Vì mỗi điểm của mang hàm của , nên việc coi tại là đại diện cho hàm$\theta$$S^n$$\log p_{\theta}(x)$$x$$e_i(\theta)$$\theta$

Tôi không hiểu câu nói cuối cùng. Điều này xuất hiện trong phần 2 của bài báo nói trên. Làm thế nào cơ sở của không gian tiếp tuyến được đưa ra bởi phương trình trên? Sẽ rất hữu ích nếu ai đó trong cộng đồng này quen thuộc với loại tài liệu này có thể giúp tôi hiểu điều này. Cảm ơn.

Cập nhật 1:

Mặc dù tôi đồng ý rằng (từ @aginensky) nếu độc lập tuyến tính thì cũng độc lập tuyến tính, làm thế nào đây là những thành viên của không gian tiếp tuyến ở nơi đầu tiên không rõ ràng. Vậy làm thế nào để được coi là cơ sở cho không gian tiếp tuyến. Bất kỳ trợ giúp được đánh giá cao.$\frac{\partial}{\partial\theta_i}p_{\theta}$$\frac{\partial}{\partial\theta_i}\log p_{\theta}$$\frac{\partial}{\partial\theta_i}\log p_{\theta}$

Cập nhật 2:

@aginensky: Trong cuốn sách của mình, Amari nói như sau:

Chúng ta hãy xem xét trường hợp , tập hợp tất cả các biện pháp xác suất dương (đúng) trên , trong đó chúng tôi coi là tập con của . Trong thực tế, là một tập hợp con mở của không gian affine .$S^n=\mathcal{P}(\mathcal{X})$$\mathcal{X}=\{x_0,\dots,x_n\}$$\mathcal{P}(\mathcal{X})$$\mathbb{R}^{\mathcal{X}}=\{X\big|X:\mathcal{X}\to \mathbb{R}\}$$\mathcal{P}(\mathcal{X})$$\{X\big |\sum_x X(x)=1\}$

Sau đó, không gian tiếp tuyến của tại mọi điểm có thể được xác định một cách tự nhiên với không gian con tuyến tính . Đối với cơ sở tự nhiên của hệ thống tọa độ , chúng tôi có .$T_p(S^n)$$S^n$$\mathcal{A}_0=\{X\big |\sum_x X(x)=0\}$$\frac{\partial}{\partial\theta_i}$$\theta=(\theta_1,\dots,\theta_n)$$(\frac{\partial}{\partial\theta_i})_{\theta}=\frac{\partial}{\partial\theta_i}p_{\theta}$

Tiếp theo, chúng ta hãy nhúng và xác định với tập hợp con của . Một vectơ tiếp tuyến sau đó được biểu thị bằng kết quả của việc vận hành thành , mà chúng ta biểu thị bằng . Cụ thể, chúng tôi có . Rõ ràng là và $p\mapsto \log p$$S^n$$\log S^n:=\{\log p\big |p\in S^n\}$$\mathbb{R}^{\mathcal{X}}$$X\in T_p(S^n)$$X$$p\mapsto \log p$$X^{(e)}$$(\frac{\partial}{\partial\theta_i})_{\theta}^{(e)}=\frac{\partial}{\partial\theta_i}\log p_{\theta}$$X^{(e)}=X(x)/p(x)$

Câu hỏi của tôi: Nếu cả và là cơ sở cho không gian tiếp tuyến thì điều này sẽ không mâu thuẫn với thực tế là và là khác biệt và ?$\frac{\partial}{\partial\theta_i}$$(\frac{\partial}{\partial\theta_i})^{(e)}$$T_p$$T_p^{(e)}$$\frac{\partial}{\partial\theta_i}^{(e)}\in T_p^{(e)}$

Tôi đoán dường như có một mối liên hệ giữa ( ) và . Nếu bạn có thể làm rõ điều này, nó sẽ giúp ích rất nhiều. Bạn có thể cho nó như một câu trả lời.$S^n,T_p$$(\log S^n,T_p^{(e)})$

Nhận xét của tôi rất dài, tôi đưa chúng vào như một câu trả lời.

Tôi nghĩ rằng câu hỏi mang tính triết học nhiều hơn toán học vào thời điểm này. Cụ thể, bạn có ý nghĩa gì bởi một không gian, và trong trường hợp này, một đa tạp? Định nghĩa điển hình của một đa tạp không liên quan đến việc nhúng vào một không gian affine. Đây là cách tiếp cận 'hiện đại' (150 tuổi?). Ví dụ, đối với Gauss, một đa tạp là một đa tạp với việc nhúng cụ thể vào một không gian affine cụ thể ( ). Nếu người ta có một đa tạp có nhúng trong một cụ thể , thì không gian tiếp tuyến (tại bất kỳ điểm nào của đa tạp) là đẳng cấu với một không gian con cụ thể của không gian tiếp tuyến với tại điểm đó. Lưu ý rằng không gian tiếp tuyến với tại bất kỳ điểm nào được xác định bằng 'cùng' . $R^n$$R^n$$R^n$$R^n$$R^n$

Tôi nghĩ vấn đề là trong bài viết của Amari, không gian mà anh ấy đề cập đến là đi kèm với một số nhúng 'tự nhiên' trong một không gian affine với tọa độ mà có thể được xem xét như tọa độ trên không gian tiếp tuyến của . Tôi có thể thêm rằng nó chỉ rõ ràng nếu hàm là 'chung' trong một số ý nghĩa - đối với suy biến , điều này sẽ thất bại. Ví dụ: nếu hàm không liên quan đến tất cả các biến . Điểm chính là việc nhúng đa tạp này trong một cụ thể , làm phát sinh một nhận dạng cụ thể của không gian tiếp tuyến với$S^n$$\theta_{i}$$p_{\theta}$$S^n$$p$$p$$\theta_{i}$$R^n$$p_{\theta}$. Điểm tiếp theo của anh ta là do tính chất của , anh ta có thể ánh xạ đa tạp của mình bằng cách sử dụng hàm log sang một không gian affine khác trong đó không gian tiếp tuyến có một nhận dạng khác nhau về tọa độ mới (các bản ghi và các dẫn xuất của chúng). Sau đó, anh ta nói rằng vì các tính chất của tình huống của anh ta, hai đa tạp là đẳng cấu và bản đồ tạo ra một sự đẳng cấu trên các không gian tiếp tuyến. Điều đó dẫn đến một nhận dạng (nghĩa là đẳng cấu) của hai không gian tiếp tuyến. $p$

Ý tưởng chính là hai không gian tiếp tuyến không phải là cùng một tập hợp, nhưng là đẳng cấu (về cơ bản là tiếng Hy Lạp có nghĩa là 'giống nhau') sau khi xác định chính xác. Ví dụ: nhóm của tất cả các hoán vị của là nhóm 'giống' với nhóm của tất cả các hoán vị của không? Là một thử nghiệm suy nghĩ đơn giản, hãy xem xét , ánh xạ thực dương tới , tất cả các thực trong nhật ký bản đồ. Chọn số thực yêu thích của bạn và xem xét bản đồ là gì trên các không gian tiếp tuyến. Cuối cùng tôi có hiểu câu hỏi của bạn không? Một cảnh báo là theo thứ tự, cụ thể là hình học vi phân không phải là lĩnh vực chuyên môn chính của tôi. Tôi nghĩ rằng tôi đã hiểu đúng, nhưng cứ thoải mái chỉ trích hoặc vẫn thắc mắc câu trả lời này.$\{1,2,3\}$$\{a,b,c\}$$R^{+}$$R$$>0$