Tái sản xuất số liệu của Thời đại máy tính suy luận thống kê từ Efron và Hastie

Phiên bản tóm tắt của câu hỏi của tôi

(Ngày 26 tháng 12 năm 2018)

Tôi đang cố gắng tái tạo Hình 2.2 từ Suy luận thống kê thời đại máy tính của Efron và Hastie, nhưng vì một số lý do mà tôi không thể hiểu, các con số không tương ứng với những con số trong cuốn sách.

Giả sử chúng ta đang cố gắng quyết định giữa hai hàm mật độ xác suất có thể có cho dữ liệu quan sát , mật độ giả thuyết null và mật độ thay thế . Quy tắc kiểm tra cho biết lựa chọn nào, hoặc , chúng tôi sẽ thực hiện có dữ liệu quan sát . Bất kỳ quy định như vậy có hai xác suất lỗi frequentist liên quan: chọn khi thực sự tạo ra , và ngược lại, $x$ $f_0\left(x\right)$ $f_1\left(x\right)$ $t\left(x\right)$ $0$ $1$ $x$ $f_1$ $f_0$ $x$

α = {Pr}_{f_{0}} {t (x) = 1},

$\alpha = \text{Pr}_{f_0} \{t(x)=1\},$

β = {Pr}_{f_{1}} {t (x) = 0} .

$\beta = \text{Pr}_{f_1} \{t(x)=0\}.$

Đặt là tỷ lệ khả năng , $L(x)$

L (x) = \frac{f_{1} (x)}{f_{0} (x)}

$L(x) = \frac{f_1\left(x\right)}{f_0\left(x\right)}$

Vì vậy, bổ đề Neyman về Pearson nói rằng quy tắc kiểm tra của mẫu là thuật toán kiểm tra giả thuyết tối ưu $t_c(x)$

t_{c} (x) = {\begin{cases} 1 if log L (x) \geq c \\ 0 if log L (x) < c . \end{cases}

$t_c(x) = \left\{ \begin{array}{ll} 1\enspace\text{if log } L(x) \ge c\\ 0\enspace\text{if log } L(x) \lt c.\end{array} \right.$

Đối với $f_0 \sim \mathcal{N} \left(0,1\right), \enspace f_1 \sim \mathcal{N} \left(0.5,1\right)$ và cỡ mẫu $n=10$ giá trị sẽ là bao nhiêu cho $\alpha$ và $\beta$ cho điểm cắt $c=0.4$ ?

Từ Hình 2.2 của suy luận thống kê thời đại máy tính của Efron và Hastie, chúng ta có:
- $\alpha=0.10$ và cho điểm cắt $\beta=0.38$ $c=0.4$
Tôi đã tìm thấy và cho điểm cắt bằng hai cách tiếp cận khác nhau: A) mô phỏng và B) phân tích . $\alpha=0.15$ $\beta=0.30$ $c=0.4$

Tôi sẽ đánh giá cao nếu ai đó có thể giải thích cho tôi cách lấy và cho điểm cắt . Cảm ơn. $\alpha=0.10$ $\beta=0.38$ $c=0.4$

Phiên bản tóm tắt của câu hỏi của tôi kết thúc ở đây. Từ bây giờ bạn sẽ tìm thấy:

Trong phần A) chi tiết và mã python hoàn chỉnh của phương pháp mô phỏng của tôi .
Trong phần B) chi tiết và mã trăn hoàn chỉnh của phương pháp phân tích .

A) Cách tiếp cận mô phỏng của tôi với mã python hoàn chỉnh và giải thích

(Ngày 20 tháng 12 năm 2018)

Từ cuốn sách ...

Theo tinh thần tương tự, bổ đề Neyman về Pearson cung cấp một thuật toán kiểm tra giả thuyết tối ưu. Đây có lẽ là thanh lịch nhất của các công trình thường xuyên. Trong công thức đơn giản nhất của nó, bổ đề NP giả định rằng chúng tôi đang cố gắng quyết định giữa hai hàm mật độ xác suất có thể có cho dữ liệu quan sát , mật độ giả thuyết null và mật độ thay thế . Quy tắc kiểm tra cho biết lựa chọn nào, hoặc , chúng tôi sẽ thực hiện có dữ liệu quan sát . Bất kỳ quy định như vậy đã hai liên quan đến xác suất lỗi frequentist: chọn khi thực sự tạo $x$ $f_0\left(x\right)$ $f_1\left(x\right)$ $t\left(x\right)$ $0$ $1$ $x$ $f_1$ , và ngược lại,

$α = = {Pr}_{f_{0}} {t (x) = = 1},$ $\alpha = \text{Pr}_{f_0} \{t(x)=1\},$ $β = = {Pr}_{f_{1}} {t (x) = = 0} .$ $\beta = \text{Pr}_{f_1} \{t(x)=0\}.$

Đặt là tỷ lệ khả năng , $L(x)$

$L (x) = = \frac{f_{1} (x)}{f_{0} (x)}$ $L(x) = \frac{f_1\left(x\right)}{f_0\left(x\right)}$

(Nguồn: Efron, B., & Hastie, T. (2016). Suy luận thống kê thời đại máy tính: Thuật toán, bằng chứng và khoa học dữ liệu. Cambridge: Nhà xuất bản Đại học Cambridge. )

Vì vậy, tôi đã triển khai mã python bên dưới ...

import numpy as np

def likelihood_ratio(x, f1_density, f0_density):
    return np.prod(f1_density.pdf(x)) / np.prod(f0_density.pdf(x))

Một lần nữa, từ cuốn sách ...

và xác định quy tắc kiểm tra bằng

$t_{c} (x) = = {\begin{cases} 1 nếu đăng nhập L (x) \geq c \\ 0 nếu đăng nhập L (x) < c . \end{cases}$ $t_c(x) = \left\{ \begin{array}{ll} 1\enspace\text{if log } L(x) \ge c\\ 0\enspace\text{if log } L(x) \lt c.\end{array} \right.$

(Nguồn: Efron, B., & Hastie, T. (2016). Suy luận thống kê thời đại máy tính: Thuật toán, bằng chứng và khoa học dữ liệu. Cambridge: Nhà xuất bản Đại học Cambridge. )

Vì vậy, tôi đã triển khai mã python bên dưới ...

def Neyman_Pearson_testing_rule(x, cutoff, f0_density, f1_density):
    lr = likelihood_ratio(x, f1_density, f0_density)
    llr = np.log(lr)

    if llr >= cutoff:
        return 1
    else:
        return 0

Cuối cùng, từ cuốn sách ...

Trường hợp có thể kết luận rằng mức cắt sẽ ngụ ý và . $c=0.4$ $\alpha=0.10$ $\beta=0.38$

Vì vậy, tôi đã triển khai mã python bên dưới ...

def alpha_simulation(cutoff, f0_density, f1_density, sample_size, replicates):
    NP_test_results = []

    for _ in range(replicates):
        x = f0_density.rvs(size=sample_size)
        test = Neyman_Pearson_testing_rule(x, cutoff, f0_density, f1_density)
        NP_test_results.append(test)

    return np.sum(NP_test_results) / float(replicates)

def beta_simulation(cutoff, f0_density, f1_density, sample_size, replicates):
    NP_test_results = []

    for _ in range(replicates):
        x = f1_density.rvs(size=sample_size)
        test = Neyman_Pearson_testing_rule(x, cutoff, f0_density, f1_density)
        NP_test_results.append(test)

    return (replicates - np.sum(NP_test_results)) / float(replicates)

và mã ...

from scipy import stats as st

f0_density = st.norm(loc=0, scale=1)
f1_density = st.norm(loc=0.5, scale=1)

sample_size = 10
replicates = 12000

cutoffs = []
alphas_simulated = []
betas_simulated = []
for cutoff in np.arange(3.2, -3.6, -0.4):
    alpha_ = alpha_simulation(cutoff, f0_density, f1_density, sample_size, replicates)
    beta_ = beta_simulation(cutoff, f0_density, f1_density, sample_size, replicates)

    cutoffs.append(cutoff)
    alphas_simulated.append(alpha_)
    betas_simulated.append(beta_)

và mã ...

import matplotlib.pyplot as plt
%matplotlib inline

# Reproducing Figure 2.2 from simulation results.
plt.xlabel('$\\alpha$')
plt.ylabel('$\\beta$')
plt.xlim(-0.1, 1.05)
plt.ylim(-0.1, 1.05)
plt.axvline(x=0, color='b', linestyle='--')
plt.axvline(x=1, color='b', linestyle='--')
plt.axhline(y=0, color='b', linestyle='--')
plt.axhline(y=1, color='b', linestyle='--')
figure_2_2 = plt.plot(alphas_simulated, betas_simulated, 'ro', alphas_simulated, betas_simulated, 'k-')

để có được một cái gì đó như thế này:

trông giống với hình gốc từ cuốn sách, nhưng 3 tuples từ mô phỏng của tôi có các giá trị khác nhau của và khi so sánh với các giá trị của cuốn sách cho cùng một điểm cắt . Ví dụ: $(c,\alpha,\beta)$ $\alpha$ $\beta$ $c$

từ cuốn sách chúng tôi có $(c=0.4, \alpha=0.10, \beta=0.38)$
từ mô phỏng của tôi, chúng tôi có:
- $(c=0.4, \alpha=0.15, \beta=0.30)$
- $(c=0.8, \alpha=0.10, \beta=0.39)$

Có vẻ như điểm cắt từ mô phỏng của tôi tương đương với điểm cắt từ cuốn sách. $c=0.8$ $c=0.4$

Tôi sẽ đánh giá cao nếu ai đó có thể giải thích cho tôi những gì tôi đang làm sai ở đây. Cảm ơn.

B) Cách tiếp cận tính toán của tôi với mã python hoàn chỉnh và giải thích

(Ngày 26 tháng 12 năm 2018)

Vẫn đang cố gắng tìm hiểu sự khác biệt giữa kết quả mô phỏng của tôi ( alpha_simulation(.), beta_simulation(.)) và những kết quả được trình bày trong cuốn sách, với sự giúp đỡ của một người bạn thống kê (Sofia) của tôi, chúng tôi đã tính toán và phân tích thay vì thông qua mô phỏng, vì vậy .. . $\alpha$ $\beta$

Một lần đó

f_{0} ~ N (0, 1)

$f_0 \sim \mathcal{N} \left(0,1\right)$

f_{1} ~ N (0,5, 1)

$f_1 \sim \mathcal{N} \left(0.5,1\right)$

sau đó

f (x | μ, σ^{2}) = = \prod_{i = 1}^{n} \frac{1}{\sqrt{2 π σ^{2}}} e^{- \frac{{(x_{i} - μ)}^{2}}{2 σ^{2}}}

$f\left(x \;\middle\vert\; \mu, \sigma^2 \right) = \prod_{i = 1}^{n} \frac{1}{\sqrt{2\pi\sigma^2}}e^{-\frac{\left(x_i-\mu\right)^2}{2\sigma^2}}$

Hơn thế nữa,

L (x) = \frac{f_{1} (x)}{f_{0} (x)}

$L(x) = \frac{f_1\left(x\right)}{f_0\left(x\right)}$

vì thế,

L (x) = \frac{f_{1} (x | μ_{1}, σ^{2})}{f_{0} (x | μ_{0}, σ^{2})} = \frac{\prod_{i = 1}^{n} \frac{1}{\sqrt{2 π σ^{2}}} e^{- \frac{{(x_{i} - μ_{1})}^{2}}{2 σ^{2}}}}{\prod_{i = 1}^{n} \frac{1}{\sqrt{2 π σ^{2}}} e^{- \frac{{(x_{i} - μ_{0})}^{2}}{2 σ^{2}}}}

$L(x) = \frac{f_1\left(x\;\middle\vert\; \mu_1, \sigma^2\right)}{f_0\left(x\;\middle\vert\; \mu_0, \sigma^2\right)} = \frac{\prod_{i = 1}^{n} \frac{1}{\sqrt{2\pi\sigma^2}}e^{-\frac{\left(x_i-\mu_1\right)^2}{2\sigma^2}}}{\prod_{i = 1}^{n} \frac{1}{\sqrt{2\pi\sigma^2}}e^{-\frac{\left(x_i-\mu_0\right)^2}{2\sigma^2}}}$

Do đó, bằng cách thực hiện một số đơn giản hóa đại số (như dưới đây), chúng ta sẽ có:

L (x) = = \frac{{(\frac{1}{\sqrt{2 π σ^{2}}})}^{n} e^{- \frac{Σ_{Tôi = = 1}^{n} {(x_{Tôi} - μ_{1})}^{2}}{2 σ^{2}}}}{{(\frac{1}{\sqrt{2 π σ^{2}}})}^{n} e^{- \frac{Σ_{Tôi = = 1}^{n} {(x_{Tôi} - μ_{0})}^{2}}{2 σ^{2}}}}

$L(x) = \frac{\left(\frac{1}{\sqrt{2\pi\sigma^2}}\right)^n e^{-\frac{\sum_{i = 1}^{n} \left(x_i-\mu_1\right)^2}{2\sigma^2}}}{\left(\frac{1}{\sqrt{2\pi\sigma^2}}\right)^n e^{-\frac{\sum_{i = 1}^{n} \left(x_i-\mu_0\right)^2}{2\sigma^2}}}$

= = e^{\frac{- Σ_{Tôi = = 1}^{n} {(x_{Tôi} - μ_{1})}^{2} + Σ_{Tôi = = 1}^{n} {(x_{Tôi} - μ_{0})}^{2}}{2 σ^{2}}}

$= e^{\frac{-\sum_{i = 1}^{n} \left(x_i-\mu_1\right)^2 + \sum_{i = 1}^{n} \left(x_i-\mu_0\right)^2}{2\sigma^2}}$

= = e^{\frac{- Σ_{Tôi = = 1}^{n} (x_{Tôi}^{2} - 2 x_{Tôi} μ_{1} + μ_{1}^{2}) + Σ_{Tôi = = 1}^{n} (x_{Tôi}^{2} - 2 x_{Tôi} μ_{0} + μ_{0}^{2})}{2 σ^{2}}}

$= e^{\frac{-\sum_{i = 1}^{n} \left(x_i^2 -2x_i\mu_1 + \mu_1^2\right) + \sum_{i = 1}^{n} \left(x_i^2 -2x_i\mu_0 + \mu_0^2\right)}{2\sigma^2}}$

= = e^{\frac{- Σ_{Tôi = = 1}^{n} x_{Tôi}^{2} + 2 μ_{1} Σ_{Tôi = = 1}^{n} x_{Tôi} - Σ_{Tôi = = 1}^{n} μ_{1}^{2} + Σ_{Tôi = = 1}^{n} x_{Tôi}^{2} - 2 μ_{0} Σ_{Tôi = = 1}^{n} x_{Tôi} + Σ_{Tôi = = 1}^{n} μ_{0}^{2}}{2 σ^{2}}}

$= e^{\frac{-\sum_{i = 1}^{n}x_i^2 + 2\mu_1\sum_{i = 1}^{n}x_i - \sum_{i = 1}^{n}\mu_1^2 + \sum_{i = 1}^{n}x_i^2 - 2\mu_0\sum_{i = 1}^{n}x_i + \sum_{i = 1}^{n}\mu_0^2}{2\sigma^2}}$

= e^{\frac{2 (μ_{1} - μ_{0}) \sum_{i = 1}^{n} x_{i} + n (μ_{0}^{2} - μ_{1}^{2})}{2 σ^{2}}}

$= e^{\frac{2\left(\mu_1-\mu_0\right)\sum_{i = 1}^{n}x_i + n\left(\mu_0^2-\mu_1^2\right)}{2\sigma^2}}$ .

Vì vậy nếu

t_{c} (x) = {\begin{cases} 1 if log L (x) \geq c \\ 0 if log L (x) < c . \end{cases}

$t_c(x) = \left\{ \begin{array}{ll} 1\enspace\text{if log } L(x) \ge c\\ 0\enspace\text{if log } L(x) \lt c.\end{array} \right.$

sau đó, với chúng ta sẽ có: $\text{log } L(x) \ge c$

log (e^{\frac{2 (μ_{1} - μ_{0}) \sum_{i = 1}^{n} x_{i} + n (μ_{0}^{2} - μ_{1}^{2})}{2 σ^{2}}}) \geq c

$\text{log } \left( e^{\frac{2\left(\mu_1-\mu_0\right)\sum_{i = 1}^{n}x_i + n\left(\mu_0^2-\mu_1^2\right)}{2\sigma^2}} \right) \ge c$

\frac{2 (μ_{1} - μ_{0}) \sum_{i = 1}^{n} x_{i} + n (μ_{0}^{2} - μ_{1}^{2})}{2 σ^{2}} \geq c

$\frac{2\left(\mu_1-\mu_0\right)\sum_{i = 1}^{n}x_i + n\left(\mu_0^2-\mu_1^2\right)}{2\sigma^2} \ge c$

\sum_{i = 1}^{n} x_{i} \geq \frac{2 c σ^{2} - n (μ_{0}^{2} - μ_{1}^{2})}{2 (μ_{1} - μ_{0})}

$\sum_{i = 1}^{n}x_i \ge \frac{2c\sigma^2 - n\left(\mu_0^2-\mu_1^2\right)}{2\left(\mu_1-\mu_0\right)}$

\sum_{i = 1}^{n} x_{i} \geq \frac{2 c σ^{2}}{2 (μ_{1} - μ_{0})} - \frac{n (μ_{0}^{2} - μ_{1}^{2})}{2 (μ_{1} - μ_{0})}

$\sum_{i = 1}^{n}x_i \ge \frac{2c\sigma^2}{2\left(\mu_1-\mu_0\right)} - \frac{n\left(\mu_0^2-\mu_1^2\right)}{2\left(\mu_1-\mu_0\right)}$

\sum_{i = 1}^{n} x_{i} \geq \frac{c σ^{2}}{(μ_{1} - μ_{0})} - \frac{n (μ_{0}^{2} - μ_{1}^{2})}{2 (μ_{1} - μ_{0})}

$\sum_{i = 1}^{n}x_i \ge \frac{c\sigma^2}{\left(\mu_1-\mu_0\right)} - \frac{n\left(\mu_0^2-\mu_1^2\right)}{2\left(\mu_1-\mu_0\right)}$

\sum_{i = 1}^{n} x_{i} \geq \frac{c σ^{2}}{(μ_{1} - μ_{0})} + \frac{n (μ_{1}^{2} - μ_{0}^{2})}{2 (μ_{1} - μ_{0})}

$\sum_{i = 1}^{n}x_i \ge \frac{c\sigma^2}{\left(\mu_1-\mu_0\right)} + \frac{n\left(\mu_1^2-\mu_0^2\right)}{2\left(\mu_1-\mu_0\right)}$

\sum_{i = 1}^{n} x_{i} \geq \frac{c σ^{2}}{(μ_{1} - μ_{0})} + \frac{n (μ_{1} - μ_{0}) (μ_{1} + μ_{0})}{2 (μ_{1} - μ_{0})}

$\sum_{i = 1}^{n}x_i \ge \frac{c\sigma^2}{\left(\mu_1-\mu_0\right)} + \frac{n\left(\mu_1-\mu_0\right)\left(\mu_1+\mu_0\right)}{2\left(\mu_1-\mu_0\right)}$

\sum_{i = 1}^{n} x_{i} \geq \frac{c σ^{2}}{(μ_{1} - μ_{0})} + \frac{n (μ_{1} + μ_{0})}{2}

$\sum_{i = 1}^{n}x_i \ge \frac{c\sigma^2}{\left(\mu_1-\mu_0\right)} + \frac{n\left(\mu_1+\mu_0\right)}{2}$

(\frac{1}{n}) \sum_{i = 1}^{n} x_{i} \geq (\frac{1}{n}) (\frac{c σ^{2}}{(μ_{1} - μ_{0})} + \frac{n (μ_{1} + μ_{0})}{2})

$\left(\frac{1}{n}\right) \sum_{i = 1}^{n}x_i \ge \left(\frac{1}{n}\right) \left( \frac{c\sigma^2}{\left(\mu_1-\mu_0\right)} + \frac{n\left(\mu_1+\mu_0\right)}{2}\right)$

\frac{\sum_{i = 1}^{n} x_{i}}{n} \geq \frac{c σ^{2}}{n (μ_{1} - μ_{0})} + \frac{(μ_{1} + μ_{0})}{2}

$\frac{\sum_{i = 1}^{n}x_i}{n} \ge \frac{c\sigma^2}{n\left(\mu_1-\mu_0\right)} + \frac{\left(\mu_1+\mu_0\right)}{2}$

\bar{x} \geq \frac{c σ^{2}}{n (μ_{1} - μ_{0})} + \frac{(μ_{1} + μ_{0})}{2}

$\bar{x} \ge \frac{c\sigma^2}{n\left(\mu_1-\mu_0\right)} + \frac{\left(\mu_1+\mu_0\right)}{2}$

\bar{x} \geq k, where k = \frac{c σ^{2}}{n (μ_{1} - μ_{0})} + \frac{(μ_{1} + μ_{0})}{2}

$\bar{x} \ge k \text{, where } k = \frac{c\sigma^2}{n\left(\mu_1-\mu_0\right)} + \frac{\left(\mu_1+\mu_0\right)}{2}$

dẫn đến

t_{c} (x) = {\begin{cases} 1 if \bar{x} \geq k \\ 0 if \bar{x} < k . \end{cases}, where k = \frac{c σ^{2}}{n (μ_{1} - μ_{0})} + \frac{(μ_{1} + μ_{0})}{2}

$t_c(x) = \left\{ \begin{array}{ll} 1\enspace\text{if } \bar{x} \ge k\\ 0\enspace\text{if } \bar{x} \lt k.\end{array} \right. \enspace \enspace \text{, where } k = \frac{c\sigma^2}{n\left(\mu_1-\mu_0\right)} + \frac{\left(\mu_1+\mu_0\right)}{2}$

Để tính toán và , chúng tôi biết rằng: $\alpha$ $\beta$

α = {Pr}_{f_{0}} {t (x) = 1},

$\alpha = \text{Pr}_{f_0} \{t(x)=1\},$

β = {Pr}_{f_{1}} {t (x) = 0} .

$\beta = \text{Pr}_{f_1} \{t(x)=0\}.$

vì thế,

\begin{array}{ll} α = {Pr}_{f_{0}} {\bar{x} \geq k}, \\ β = {Pr}_{f_{1}} {\bar{x} < k} . \end{array} where k = \frac{c σ^{2}}{n (μ_{1} - μ_{0})} + \frac{(μ_{1} + μ_{0})}{2}

$\begin{array}{ll} \alpha = \text{Pr}_{f_0} \{\bar{x} \ge k\},\\ \beta = \text{Pr}_{f_1} \{\bar{x} \lt k\}.\end{array} \enspace \enspace \text{ where } k = \frac{c\sigma^2}{n\left(\mu_1-\mu_0\right)} + \frac{\left(\mu_1+\mu_0\right)}{2}$

Dành cho ... $\alpha$

α = {Pr}_{f_{0}} {\bar{x} \geq k} = {Pr}_{f_{0}} {\bar{x} - μ_{0} \geq k - μ_{0}}

$\alpha = \text{Pr}_{f_0} \{\bar{x} \ge k\} = \text{Pr}_{f_0} \{\bar{x} - \mu_0 \ge k - \mu_0\}$

α = {Pr}_{f_{0}} {\frac{\bar{x} - μ_{0}}{\frac{σ}{\sqrt{n}}} \geq \frac{k - μ_{0}}{\frac{σ}{\sqrt{n}}}}

$\alpha = \text{Pr}_{f_0} \left\{\frac{\bar{x} - \mu_0}{\frac{\sigma}{\sqrt{n}}} \ge \frac{k - \mu_0}{\frac{\sigma}{\sqrt{n}}}\right\}$

α = {Pr}_{f_{0}} {z-score \geq \frac{k - μ_{0}}{\frac{σ}{\sqrt{n}}}} where k = \frac{c σ^{2}}{n (μ_{1} - μ_{0})} + \frac{(μ_{1} + μ_{0})}{2}

$\alpha = \text{Pr}_{f_0} \left\{\text{z-score} \ge \frac{k - \mu_0}{\frac{\sigma}{\sqrt{n}}}\right\} \enspace \enspace \text{ where } k = \frac{c\sigma^2}{n\left(\mu_1-\mu_0\right)} + \frac{\left(\mu_1+\mu_0\right)}{2}$

Vì vậy, tôi đã triển khai mã python bên dưới:

def alpha_calculation(cutoff, m_0, m_1, variance, sample_size):
    c = cutoff
    n = sample_size
    sigma = np.sqrt(variance)

    k = (c*variance)/(n*(m_1-m_0)) + (m_1+m_0)/2.0

    z_alpha = (k-m_0)/(sigma/np.sqrt(n))

    # Pr{z_score >= z_alpha}
    return 1.0 - st.norm(loc=0, scale=1).cdf(z_alpha)

Dành cho ... $\beta$

β = {Pr}_{f_{1}} {\bar{x} < k} = {Pr}_{f_{1}} {\bar{x} - μ_{1} < k - μ_{1}}

$\beta = \text{Pr}_{f_1} \{\bar{x} \lt k\} = \text{Pr}_{f_1} \{\bar{x} - \mu_1 \lt k - \mu_1\}$

β = {Pr}_{f_{1}} {\frac{\bar{x} - μ_{1}}{\frac{σ}{\sqrt{n}}} < \frac{k - μ_{1}}{\frac{σ}{\sqrt{n}}}}

$\beta = \text{Pr}_{f_1} \left\{\frac{\bar{x} - \mu_1}{\frac{\sigma}{\sqrt{n}}} \lt \frac{k - \mu_1}{\frac{\sigma}{\sqrt{n}}}\right\}$

β = {Pr}_{f_{1}} {z-score < \frac{k - μ_{1}}{\frac{σ}{\sqrt{n}}}} where k = \frac{c σ^{2}}{n (μ_{1} - μ_{0})} + \frac{(μ_{1} + μ_{0})}{2}

$\beta = \text{Pr}_{f_1} \left\{\text{z-score} \lt \frac{k - \mu_1}{\frac{\sigma}{\sqrt{n}}}\right\} \enspace \enspace \text{ where } k = \frac{c\sigma^2}{n\left(\mu_1-\mu_0\right)} + \frac{\left(\mu_1+\mu_0\right)}{2}$

dẫn đến mã python dưới đây:

def beta_calculation(cutoff, m_0, m_1, variance, sample_size):
    c = cutoff
    n = sample_size
    sigma = np.sqrt(variance)

    k = (c*variance)/(n*(m_1-m_0)) + (m_1+m_0)/2.0

    z_beta = (k-m_1)/(sigma/np.sqrt(n))

    # Pr{z_score < z_beta}
    return st.norm(loc=0, scale=1).cdf(z_beta)

và mã ...

alphas_calculated = []
betas_calculated = []
for cutoff in cutoffs:
    alpha_ = alpha_calculation(cutoff, 0.0, 0.5, 1.0, sample_size)
    beta_ = beta_calculation(cutoff, 0.0, 0.5, 1.0, sample_size)

    alphas_calculated.append(alpha_)
    betas_calculated.append(beta_)

và mã ...

# Reproducing Figure 2.2 from calculation results.
plt.xlabel('$\\alpha$')
plt.ylabel('$\\beta$')
plt.xlim(-0.1, 1.05)
plt.ylim(-0.1, 1.05)
plt.axvline(x=0, color='b', linestyle='--')
plt.axvline(x=1, color='b', linestyle='--')
plt.axhline(y=0, color='b', linestyle='--')
plt.axhline(y=1, color='b', linestyle='--')
figure_2_2 = plt.plot(alphas_calculated, betas_calculated, 'ro', alphas_calculated, betas_calculated, 'k-')

để có được một hình và giá trị cho và rất giống với mô phỏng đầu tiên của tôi $\alpha$ $\beta$

Và cuối cùng để so sánh kết quả giữa mô phỏng và tính toán cạnh nhau ...

df = pd.DataFrame({
    'cutoff': np.round(cutoffs, decimals=2), 
    'simulated alpha': np.round(alphas_simulated, decimals=2),
    'simulated beta': np.round(betas_simulated, decimals=2),
    'calculated alpha': np.round(alphas_calculated, decimals=2),
    'calculate beta': np.round(betas_calculated, decimals=2)
})
df

dẫn đến

Điều này cho thấy kết quả mô phỏng rất giống nhau (nếu không giống nhau) với kết quả của phương pháp phân tích.

Nói tóm lại, tôi vẫn cần trợ giúp để tìm ra những gì có thể sai trong tính toán của tôi. Cảm ơn. :)

— Francisco Fonseca
nguồn

Dường như với tôi, bất kỳ câu hỏi nào đòi hỏi độc giả phải lội qua 11 trang mã máy tính, đầu ra thống kê và đại số dường như không thể được đọc bởi bất kỳ ai, ít được trả lời một cách đồng tình. Nếu bạn quan tâm đến việc theo đuổi điều này, vì dường như bạn đã dành thời gian và sự chú ý mà bạn đã dành cho nó, tôi có thể đề nghị bạn xác định mấu chốt của vấn đề và xem liệu bạn có thể giải thích nó và đặt câu hỏi của bạn trong không gian một hoặc nhiều nhất là hai trang tài liệu?

— whuber

Xin chào @whuber, cảm ơn bạn đã gợi ý! Ý định của tôi là đăng chi tiết (mã nguồn và giải thích) để cho phép bất cứ ai tái tạo kết quả của tôi, nhưng có vẻ như chiến lược này không hoạt động tốt như bạn quan sát chính xác :). Cám ơn bạn một lần nữa. Sau đó, tôi chỉnh sửa câu hỏi để tóm tắt nghi ngờ của tôi ở đầu bài. Tôi mong cái này sẽ thành công.

— Francisco Fonseca

Trong trang web của cuốn sách Suy luận thống kê thời đại máy tính , có một phiên thảo luận trong đó Trevor Hastie và Brad Efron thường trả lời một số câu hỏi. Vì vậy, tôi đã đăng câu hỏi này lên đó (như bên dưới) và nhận được từ Trevor Hastie xác nhận rằng có một lỗi trong cuốn sách sẽ được sửa (nói cách khác, mô phỏng và tính toán của tôi - như được thực hiện trong Python trong câu hỏi này - là chính xác ).

Khi Trevor Hastie trả lời rằng "Trên thực tế c = 0,75 cho âm mưu đó" có nghĩa là ở hình bên dưới (hình 2.2 gốc của cuốn sách), điểm cắt nên là thay vì : $c$ $c=0.75$ $c=0.4$

Vì vậy, sử dụng các chức năng của tôi alpha_simulation(.), beta_simulation(.), alpha_calculation(.)và beta_calculation(.)(có mã Python đầy đủ có sẵn trong câu hỏi này) Tôi đã nhận và cho một cắt như một xác nhận rằng mã của tôi là đúng. $\alpha=0.10$ $\beta=0.38$ $c=0.75$

alpha_simulated_c075 = alpha_simulation(0.75, f0_density, f1_density, sample_size, replicates)
beta_simulated_c075 = beta_simulation(0.75, f0_density, f1_density, sample_size, replicates)

alpha_calculated_c075 = alpha_calculation(0.75, 0.0, 0.5, 1.0, sample_size)
beta_calculated_c075 = beta_calculation(0.75, 0.0, 0.5, 1.0, sample_size)

print("Simulated: c=0.75, alpha={0:.2f}, beta={1:.2f}".format(alpha_simulated_c075, beta_simulated_c075))
print("Calculated: c=0.75, alpha={0:.2f}, beta={1:.2f}".format(alpha_calculated_c075, beta_calculated_c075))

Cuối cùng, khi Trevor Hastie trả lời rằng "... dẫn đến ngưỡng cho x là 4", điều đó có nghĩa là trong phương trình dưới đây (xem phần B từ câu hỏi này): $k=0.4$

\bar{x} \geq k, where k = \frac{c σ^{2}}{n (μ_{1} - μ_{0})} + \frac{(μ_{1} + μ_{0})}{2}

$\bar{x} \ge k \text{, where } k = \frac{c\sigma^2}{n\left(\mu_1-\mu_0\right)} + \frac{\left(\mu_1+\mu_0\right)}{2}$

dẫn đến

t_{c} (x) = {\begin{cases} 1 if \bar{x} \geq k \\ 0 if \bar{x} < k . \end{cases}, where k = \frac{c σ^{2}}{n (μ_{1} - μ_{0})} + \frac{(μ_{1} + μ_{0})}{2}

Vì vậy, trong Python, chúng ta có thể nhận được cho mức cắt như sau: $k=0.4$ $c=0.75$

n = 10
m_0 = 0.0
m_1 = 0.5
variance = 1.0
c = 0.75

k = (c*variance)/(n*(m_1-m_0)) + (m_1+m_0)/2.0
threshold_for_x = k

print("threshold for x (when cutoff c=0.75) = {0:.1f}".format(threshold_for_x))

— Francisco Fonseca
nguồn