conformal-prediction

import%20marimo%0A%0A__generated_with%20%3D%20%220.17.7%22%0Aapp%20%3D%20marimo.App(width%3D%22full%22)%0A%0A%0A%40app.cell%0Adef%20_(mo)%3A%0A%20%20%20%20mo.Html('''%0A%20%20%20%20%3Cstyle%3E%0A%20%20%20%20%20%20%20%20body%2C%20.marimo-container%20%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20margin-top%3A%200%20!important%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20padding-top%3A%200%20!important%3B%0A%20%20%20%20%20%20%20%20%7D%0A%20%20%20%20%3C%2Fstyle%3E%0A%20%20%20%20''')%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_()%3A%0A%20%20%20%20import%20marimo%20as%20mo%0A%20%20%20%20import%20numpy%20as%20np%0A%20%20%20%20import%20matplotlib.pyplot%20as%20plt%0A%0A%20%20%20%20from%20sklearn.model_selection%20import%20train_test_split%0A%20%20%20%20from%20sklearn.linear_model%20import%20BayesianRidge%0A%20%20%20%20from%20sklearn.preprocessing%20import%20PolynomialFeatures%0A%20%20%20%20from%20POPSRegression%20import%20POPSRegression%0A%0A%20%20%20%20class%20RadialBasisFunctions%3A%0A%20%20%20%20%20%20%20%20%22%22%22%0A%20%20%20%20%20%20%20%20A%20set%20of%20linear%20basis%20functions.%0A%0A%20%20%20%20%20%20%20%20Arguments%3A%0A%20%20%20%20%20%20%20%20X%20%20%20-%20%20The%20centers%20of%20the%20radial%20basis%20functions.%0A%20%20%20%20%20%20%20%20ell%20-%20%20The%20assumed%20lengthscale.%0A%20%20%20%20%20%20%20%20%22%22%22%0A%0A%20%20%20%20%20%20%20%20def%20__init__(self%2C%20X%2C%20ell)%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20self.X%20%3D%20X%0A%20%20%20%20%20%20%20%20%20%20%20%20self.ell%20%3D%20ell%0A%20%20%20%20%20%20%20%20%20%20%20%20self.num_basis%20%3D%20X.shape%5B0%5D%0A%0A%20%20%20%20%20%20%20%20def%20__call__(self%2C%20x)%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20np.exp(-0.5%20*%20(x%20-%20self.X)%20**%202%20%2F%20self.ell**2).flatten()%0A%0A%20%20%20%20def%20design_matrix(X%2C%20phi)%3A%0A%20%20%20%20%20%20%20%20%22%22%22%0A%20%20%20%20%20%20%20%20Arguments%3A%0A%0A%20%20%20%20%20%20%20%20X%20%20%20-%20%20The%20observed%20inputs%0A%20%20%20%20%20%20%20%20phi%20-%20%20The%20basis%20functions%0A%20%20%20%20%20%20%20%20%22%22%22%0A%20%20%20%20%20%20%20%20num_observations%20%3D%20X.shape%5B0%5D%0A%20%20%20%20%20%20%20%20num_basis%20%3D%20phi.num_basis%0A%20%20%20%20%20%20%20%20Phi%20%3D%20np.zeros((num_observations%2C%20num_basis))%0A%20%20%20%20%20%20%20%20for%20i%20in%20range(num_observations)%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20Phi%5Bi%2C%20%3A%5D%20%3D%20phi(X%5Bi%2C%20%3A%5D)%0A%20%20%20%20%20%20%20%20return%20Phi%20%20%20%20%0A%0A%20%20%20%20%23%20Customize%20default%20plotting%20style%0A%20%20%20%20import%20seaborn%20as%20sns%0A%20%20%20%20sns.set_context('talk')%0A%20%20%20%20return%20(%0A%20%20%20%20%20%20%20%20BayesianRidge%2C%0A%20%20%20%20%20%20%20%20POPSRegression%2C%0A%20%20%20%20%20%20%20%20PolynomialFeatures%2C%0A%20%20%20%20%20%20%20%20mo%2C%0A%20%20%20%20%20%20%20%20np%2C%0A%20%20%20%20%20%20%20%20plt%2C%0A%20%20%20%20%20%20%20%20train_test_split%2C%0A%20%20%20%20)%0A%0A%0A%40app.cell%0Adef%20_(np)%3A%0A%20%20%20%20def%20noise(size%2C%20variance)%3A%0A%20%20%20%20%20%20%20%20return%20np.random.normal(scale%3Dnp.sqrt(variance)%2C%20size%3Dsize)%0A%0A%20%20%20%20def%20g(X%2C%20noise_variance)%3A%0A%20%20%20%20%20%20%20%20return%20np.sin(X)%20%2B%20noise(X.shape%2C%20noise_variance)%0A%20%20%20%20return%20(g%2C)%0A%0A%0A%40app.cell%0Adef%20_(BayesianRidge%2C%20np)%3A%0A%20%20%20%20class%20MyBayesianRidge(BayesianRidge)%3A%0A%20%20%20%20%20%20%20%20def%20predict(self%2C%20X%2C%20return_std%3DFalse%2C%20aleatoric%3DFalse)%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20y_pred%20%3D%20super().predict(X)%0A%20%20%20%20%20%20%20%20%20%20%20%20if%20not%20return_std%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20return%20y_pred%0A%20%20%20%20%20%20%20%20%20%20%20%20y_var%20%3D%20np.sum((X%20%40%20self.sigma_)%20*%20X%2C%20axis%3D1)%0A%20%20%20%20%20%20%20%20%20%20%20%20if%20aleatoric%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20y_var%20%2B%3D%201.0%20%2F%20self.alpha_%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20y_pred%2C%20np.sqrt(y_var)%0A%0A%20%20%20%20class%20MyPOPSRegression(MyBayesianRidge)%3A%0A%20%20%20%20%20%20%20%20def%20fit(self%2C%20X%2C%20y%2C%20prior%3DNone%2C%20clipping%3D0.05%2C%20n_samples%3D100)%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20super().fit(X%2C%20y)%20%20%20%20%20%20%20%0A%20%20%20%20%20%20%20%20%20%20%20%20num_observations%2C%20num_basis%20%3D%20X.shape%0A%20%20%20%20%20%20%20%20%20%20%20%20if%20prior%20is%20None%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20prior%20%3D%20np.eye(num_basis)%0A%20%20%20%20%20%20%20%20%20%20%20%20H%20%3D%20prior.T%20%40%20prior%20%2B%20X.T%20%40%20X%0A%20%20%20%20%20%20%20%20%20%20%20%20d%CE%B8%20%3D%20np.zeros((num_observations%2C%20num_basis))%0A%20%20%20%20%20%20%20%20%20%20%20%20for%20i%20in%20range(num_observations)%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20V%20%3D%20np.linalg.solve(H%2C%20X%5Bi%2C%20%3A%5D)%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20leverage%20%3D%20X%5Bi%2C%20%3A%5D.T%20%40%20V%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20E%20%20%20%20%20%20%20%20%3D%20X%5Bi%2C%20%3A%5D.T%20%40%20self.coef_%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20dy%20%20%20%20%20%20%20%3D%20y%5Bi%5D%20-%20E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20d%CE%B8%5Bi%2C%20%3A%5D%20%3D%20(dy%20%2F%20leverage)%20*%20V%0A%20%20%20%20%20%20%20%20%20%20%20%20self._d%CE%B8%20%3D%20d%CE%B8%0A%0A%20%20%20%20%20%20%20%20%20%20%20%20U%2C%20S%2C%20Vh%20%3D%20np.linalg.svd(self._d%CE%B8%2C%20full_matrices%3DFalse)%0A%20%20%20%20%20%20%20%20%20%20%20%20projected%20%3D%20self._d%CE%B8%20%40%20Vh.T%0A%20%20%20%20%20%20%20%20%20%20%20%20num_basis%20%3D%20projected.shape%5B1%5D%0A%20%20%20%20%20%20%20%20%20%20%20%20lower%20%20%3D%20%5Bnp.quantile(projected%5B%3A%2C%20i%5D%2C%20clipping)%20for%20i%20in%20range(num_basis)%20%5D%0A%20%20%20%20%20%20%20%20%20%20%20%20upper%20%20%3D%20%5Bnp.quantile(projected%5B%3A%2C%20i%5D%2C%201.0%20-%20clipping)%20for%20i%20in%20range(num_basis)%20%5D%20%0A%20%20%20%20%20%20%20%20%20%20%20%20bounds%20%3D%20np.c_%5B%5Blower%2C%20upper%5D%5D.T%0A%0A%20%20%20%20%20%20%20%20%20%20%20%20%CE%B4%CE%B8%20%3D%20np.zeros((n_samples%2C%20num_basis))%0A%20%20%20%20%20%20%20%20%20%20%20%20for%20j%20in%20range(n_samples)%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20u%20%3D%20np.random.uniform(num_basis)%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%CE%B4%CE%B8%5Bj%2C%20%3A%5D%20%3D%20(Vh%20%40%20(bounds%5B%3A%2C%200%5D%20%2B%20bounds%5B%3A%2C%201%5D%20*%20u))%20%2B%20self.coef_%0A%20%20%20%20%20%20%20%20%20%20%20%20self._misspecification_sigma%20%3D%20%CE%B4%CE%B8.T%20%40%20%CE%B4%CE%B8%20%2F%20n_samples%0A%0A%20%20%20%20%20%20%20%20def%20predict(self%2C%20X%2C%20return_std%3DFalse%2C%20aleatoric%3DFalse)%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20y_pred%20%3D%20super().predict(X)%0A%20%20%20%20%20%20%20%20%20%20%20%20if%20return_std%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20y_std%20%3D%20((X%20%40%20self._misspecification_sigma)%20*%20X).sum(axis%3D1)%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20if%20aleatoric%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20y_std%20%3D%20np.sqrt(y_std**2%20%2B%201.0%20%2F%20self.alpha_)%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20return%20(y_pred%2C%20y_std)%0A%20%20%20%20%20%20%20%20%20%20%20%20else%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20return%20y_pred%20%20%20%20%20%20%20%20%0A%0A%20%20%20%20class%20ConformalPrediction(MyBayesianRidge)%3A%0A%20%20%20%20%20%20%20%20def%20get_scores(self%2C%20X%2C%20y%2C%20aleatoric%3DFalse)%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20y_pred%2C%20y_std%20%3D%20self.predict(X%2C%20return_std%3DTrue%2C%20rescale%3DFalse%2C%20aleatoric%3Daleatoric)%0A%20%20%20%20%20%20%20%20%20%20%20%20residuals%20%3D%20(y_pred%20-%20y)%20%2F%20y_std%0A%20%20%20%20%20%20%20%20%20%20%20%20scores%20%3D%20np.abs(residuals)%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20scores%0A%0A%20%20%20%20%20%20%20%20def%20calibrate(self%2C%20X_calib%2C%20y_calib%2C%20zeta%3D0.05%2C%20aleatoric%3DFalse)%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20scores%20%3D%20self.get_scores(X_calib%2C%20y_calib%2C%20aleatoric%3Daleatoric)%0A%20%20%20%20%20%20%20%20%20%20%20%20n%20%3D%20float(len(y_calib))%0A%20%20%20%20%20%20%20%20%20%20%20%20self.qhat%20%3D%20np.quantile(scores%2C%20np.ceil((n%2B1)*(1.0-zeta))%2Fn%2C%20method%3D'higher')%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20self.qhat%0A%0A%20%20%20%20%20%20%20%20def%20predict(self%2C%20X%2C%20return_std%3DFalse%2C%20aleatoric%3DFalse%2C%20rescale%3DTrue)%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20res%20%3D%20super().predict(X%2C%20return_std%3Dreturn_std%2C%20aleatoric%3Daleatoric)%0A%20%20%20%20%20%20%20%20%20%20%20%20if%20not%20return_std%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20return%20res%0A%20%20%20%20%20%20%20%20%20%20%20%20y_pred%2C%20y_std%20%3D%20res%0A%20%20%20%20%20%20%20%20%20%20%20%20if%20rescale%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20y_std%20%3D%20y_std%20*%20self.qhat%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20y_pred%2C%20y_std%0A%20%20%20%20return%20ConformalPrediction%2C%20MyBayesianRidge%0A%0A%0A%40app.cell%0Adef%20_()%3A%0A%20%20%20%20import%20qrcode%0A%20%20%20%20import%20io%0A%20%20%20%20import%20base64%0A%0A%20%20%20%20%23%20Generate%20QR%20code%0A%20%20%20%20qr%20%3D%20qrcode.QRCode(version%3D1%2C%20box_size%3D10%2C%20border%3D4)%0A%20%20%20%20qr.add_data('https%3A%2F%2Ftinyurl.com%2Fconf-pred-demo')%0A%20%20%20%20qr.make(fit%3DTrue)%0A%0A%20%20%20%20img%20%3D%20qr.make_image(fill_color%3D%22black%22%2C%20back_color%3D%22white%22)%0A%0A%20%20%20%20%23%20Convert%20to%20base64%0A%20%20%20%20buffer%20%3D%20io.BytesIO()%0A%20%20%20%20img.save(buffer%2C%20format%3D'PNG')%0A%20%20%20%20buffer.seek(0)%0A%20%20%20%20qr_base64%20%3D%20base64.b64encode(buffer.read()).decode()%0A%20%20%20%20return%20(qr_base64%2C)%0A%0A%0A%40app.cell%0Adef%20_(mo%2C%20qr_base64)%3A%0A%20%20%20%20mo.Html(f'''%0A%20%20%20%20%3Cdiv%20style%3D%22display%3A%20flex%3B%20justify-content%3A%20space-between%3B%20align-items%3A%20center%3B%20margin-top%3A%200%3B%20padding-top%3A%200%3B%22%3E%0A%20%20%20%20%20%20%20%20%3Cdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Cp%20style%3D'font-size%3A%2024px%3B%20margin%3A%200%3B%20padding%3A%200%3B'%3E%3Cb%3EConformal%20Prediction%20and%20POPS%20Regression%20Demo%3C%2Fb%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Cbr%3E%3Ci%3ELive%20demo%3A%3C%2Fi%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ca%20href%3D%22https%3A%2F%2Ftinyurl.com%2Fconf-pred-demo%22%20target%3D%22_blank%22%20style%3D%22color%3A%20%230066cc%3B%20text-decoration%3A%20none%3B%22%3Etinyurl.com%2Fconf-pred-demo%3C%2Fa%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Cbr%3E%3Ci%3ECode%3A%3C%2Fi%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ca%20href%3D%22https%3A%2F%2Fgithub.com%2Fkermodegroup%2Fconformal-prediction-demo%22%20target%3D%22_blank%22%20style%3D%22color%3A%20%230066cc%3B%20text-decoration%3A%20none%3B%22%3Egithub.com%2Fkermodegroup%2Fconformal-prediction-demo%3C%2Fa%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fp%3E%0A%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%3Cimg%20src%3D%22data%3Aimage%2Fpng%3Bbase64%2C%7Bqr_base64%7D%22%20alt%3D%22QR%20Code%22%20style%3D%22width%3A%20150px%3B%20height%3A%20150px%3B%20flex-shrink%3A%200%3B%22%20%2F%3E%0A%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20''')%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(%0A%20%20%20%20ConformalPrediction%2C%0A%20%20%20%20MyBayesianRidge%2C%0A%20%20%20%20N_samples%2C%0A%20%20%20%20POPSRegression%2C%0A%20%20%20%20PolynomialFeatures%2C%0A%20%20%20%20aleatoric%2C%0A%20%20%20%20bayesian%2C%0A%20%20%20%20conformal%2C%0A%20%20%20%20g%2C%0A%20%20%20%20get_N_samples%2C%0A%20%20%20%20get_P%2C%0A%20%20%20%20get_calib_frac%2C%0A%20%20%20%20get_leverage_percentile%2C%0A%20%20%20%20get_percentile_clipping%2C%0A%20%20%20%20get_seed%2C%0A%20%20%20%20get_sigma%2C%0A%20%20%20%20get_zeta%2C%0A%20%20%20%20mo%2C%0A%20%20%20%20np%2C%0A%20%20%20%20plt%2C%0A%20%20%20%20pops%2C%0A%20%20%20%20seed%2C%0A%20%20%20%20sigma%2C%0A%20%20%20%20train_test_split%2C%0A)%3A%0A%20%20%20%20def%20get_data(N_samples%3D500%2C%20sigma%3D0.1)%3A%0A%20%20%20%20%20%20%20%20x_train%20%3D%20np.append(np.random.uniform(-10%2C%2010%2C%20size%3DN_samples)%2C%20np.linspace(-10%2C%2010%2C%202))%0A%20%20%20%20%20%20%20%20x_train%20%3D%20x_train%5B(x_train%20%3C%200)%20%7C%20(x_train%20%3E%205.0)%5D%0A%20%20%20%20%20%20%20%20x_train%20%3D%20np.sort(x_train)%0A%20%20%20%20%20%20%20%20y_train%20%3D%20g(x_train%2C%20noise_variance%3Dsigma**2)%0A%20%20%20%20%20%20%20%20X_train%20%3D%20x_train%5B%3A%2C%20None%5D%0A%0A%20%20%20%20%20%20%20%20x_test%20%3D%20np.linspace(-10%2C%2010%2C%201000)%0A%20%20%20%20%20%20%20%20y_test%20%3D%20g(x_test%2C%200)%0A%20%20%20%20%20%20%20%20X_test%20%3D%20x_test%5B%3A%2C%20None%5D%0A%0A%20%20%20%20%20%20%20%20return%20X_train%2C%20y_train%2C%20X_test%2C%20y_test%0A%0A%20%20%20%20fig%2C%20ax%20%3D%20plt.subplots(figsize%3D(14%2C%205))%0A%20%20%20%20np.random.seed(seed.value)%0A%20%20%20%20X_data%2C%20y_data%2C%20X_test%2C%20y_test%20%3D%20get_data(N_samples.value%2C%20sigma%3Dsigma.value)%0A%0A%20%20%20%20X_train%2C%20X_calib%2C%20y_train%2C%20y_calib%20%3D%20train_test_split(X_data%2C%20y_data%2C%20test_size%3Dget_calib_frac()%2C%20random_state%3Dget_seed())%0A%20%20%20%20n%20%3D%20len(y_calib)%0A%0A%20%20%20%20poly%20%3D%20PolynomialFeatures(degree%3Dget_P()-1%2C%20include_bias%3DTrue)%0A%20%20%20%20Phi_train%20%3D%20poly.fit_transform(X_train)%0A%20%20%20%20Phi_test%20%3D%20poly.transform(X_test)%0A%20%20%20%20Phi_calib%20%3D%20poly.transform(X_calib)%0A%0A%20%20%20%20b%20%3D%20MyBayesianRidge(fit_intercept%3DFalse)%20%0A%20%20%20%20p%20%3D%20POPSRegression(fit_intercept%3DFalse%2C%20percentile_clipping%3Dget_percentile_clipping()%2C%20leverage_percentile%3Dget_leverage_percentile())%0A%20%20%20%20c%20%3D%20ConformalPrediction(fit_intercept%3DFalse)%0A%0A%20%20%20%20ax.plot(X_test%5B%3A%2C%200%5D%2C%20y_test%2C%20'k-'%2C%20label%3D'Truth')%0A%20%20%20%20ax.plot(X_train%5B%3A%2C%200%5D%2C%20y_train%2C%20'b.'%2C%20label%3D'Train')%0A%20%20%20%20ax.plot(X_calib%5B%3A%2C%200%5D%2C%20y_calib%2C%20'c.'%2C%20label%3D'Calibration')%0A%20%20%20%20ax.axvline(0.0%2C%20ls%3D'--'%2C%20color%3D'k')%0A%20%20%20%20ax.axvline(5.0%2C%20ls%3D'--'%2C%20color%3D'k')%0A%0A%20%20%20%20for%20model%2C%20color%2C%20label%20in%20zip((b%2C%20c%2C%20p)%2C%20('C2'%2C%20'C1'%2C%20'C0')%2C%20%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20('Bayesian%20uncertainty'%2C%20'Conformal%20prediction'%2C%20'POPS%20regression'))%3A%0A%0A%20%20%20%20%20%20%20%20if%20label%20%3D%3D%20'Bayesian%20uncertainty'%20and%20not%20bayesian.value%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20continue%0A%0A%20%20%20%20%20%20%20%20if%20label%20%3D%3D%20'Conformal%20prediction'%20and%20not%20conformal.value%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20continue%0A%0A%20%20%20%20%20%20%20%20if%20label%20%3D%3D%20'POPS%20regression'%20and%20not%20pops.value%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20continue%0A%0A%20%20%20%20%20%20%20%20model.fit(Phi_train%2C%20y_train)%0A%20%20%20%20%20%20%20%20kwargs%20%3D%20%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20'return_std'%3A%20True%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20'aleatoric'%3A%20aleatoric.value%2C%0A%20%20%20%20%20%20%20%20%7D%20%20%20%20%20%20%20%20%0A%20%20%20%20%20%20%20%20if%20label%20%3D%3D%20'Conformal%20prediction'%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20qhat%20%3D%20model.calibrate(Phi_calib%2C%20y_calib%2C%20zeta%3Dget_zeta()%2C%20aleatoric%3Daleatoric.value)%0A%20%20%20%20%20%20%20%20%20%20%20%20kwargs%5B'rescale'%5D%20%3D%20True%0A%0A%20%20%20%20%20%20%20%20if%20label%20%3D%3D%20'POPS%20regression'%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20y_pred%2C%20y_std%2C%20y_min%2C%20y_max%20%3D%20model.predict(Phi_test%2C%20return_std%3DTrue%2C%20return_bounds%3DTrue)%0A%20%20%20%20%20%20%20%20%20%20%20%20if%20aleatoric.value%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20y_std%20%3D%20np.sqrt(y_std**2%20%2B%201.0%20%2F%20model.alpha_)%0A%20%20%20%20%20%20%20%20else%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20y_pred%2C%20y_std%20%3D%20model.predict(Phi_test%2C%20**kwargs)%0A%20%20%20%20%20%20%20%20ax.plot(X_test%5B%3A%2C%200%5D%2C%20y_pred%2C%20color%3Dcolor%2C%20lw%3D3)%0A%20%20%20%20%20%20%20%20ax.fill_between(X_test%5B%3A%2C%200%5D%2C%20y_pred%20-%20y_std%2C%20y_pred%20%2B%20y_std%2C%20alpha%3D0.5%2C%20color%3Dcolor%2C%20label%3Dlabel)%0A%20%20%20%20%20%20%20%20if%20label%20%3D%3D%20'POPS%20regression'%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20ax.plot(X_test%5B%3A%2C%200%5D%2C%20y_min%2C%20'k--'%2C%20lw%3D1%2C%20label%3D'POPS%20min%2Fmax')%0A%20%20%20%20%20%20%20%20%20%20%20%20ax.plot(X_test%5B%3A%2C%200%5D%2C%20y_max%2C%20'k--'%2C%20lw%3D1)%0A%0A%20%20%20%20caption%20%3D%20fr'%24N%3D%24%7Bget_N_samples()%7D%20data%2C%20%24%5Csigma%24%3D%7Bget_sigma()%3A.2f%7D%20noise'%0A%20%20%20%20if%20bayesian.value%20or%20conformal.value%3A%0A%20%20%20%20%20%20%20%20caption%20%2B%3D%20fr'%2C%20%24P%3D%24%7Bget_P()%7D%20params'%0A%20%20%20%20if%20conformal.value%3A%0A%20%20%20%20%20%20%20%20caption%20%2B%3D%20fr'%2C%20%24n%3D%24%7Bn%7D%20calib%2C%20%20%24%5Czeta%24%3D%7Bget_zeta()%3A.2f%7D%2C%20%20%24%5Chat%7B%7Bq%7D%7D%3D%24%7Bqhat%3A.1f%7D'%0A%20%20%20%20ax.set_title(caption)%0A%20%20%20%20%23%20print(caption)%0A%20%20%20%20ax.set_xlim(-10%2C%2010)%0A%20%20%20%20ax.set_ylim(-1.5%2C%201.5)%0A%20%20%20%20ax.set_xlabel('%24x%24')%0A%20%20%20%20ax.set_ylabel('%24y%24')%0A%20%20%20%20ax.legend(loc%3D'lower%20left')%0A%20%20%20%20plt.tight_layout()%0A%20%20%20%20mo.center(fig)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(%0A%20%20%20%20bayesian%2C%0A%20%20%20%20conformal%2C%0A%20%20%20%20get_N_samples%2C%0A%20%20%20%20get_P%2C%0A%20%20%20%20get_calib_frac%2C%0A%20%20%20%20get_leverage_percentile%2C%0A%20%20%20%20get_percentile_clipping%2C%0A%20%20%20%20get_seed%2C%0A%20%20%20%20get_sigma%2C%0A%20%20%20%20get_zeta%2C%0A%20%20%20%20mo%2C%0A%20%20%20%20pops%2C%0A%20%20%20%20set_N_samples%2C%0A%20%20%20%20set_P%2C%0A%20%20%20%20set_calib_frac%2C%0A%20%20%20%20set_leverage_percentile%2C%0A%20%20%20%20set_percentile_clipping%2C%0A%20%20%20%20set_seed%2C%0A%20%20%20%20set_sigma%2C%0A%20%20%20%20set_zeta%2C%0A)%3A%0A%20%20%20%20aleatoric%20%3D%20mo.ui.checkbox(False%2C%20label%3D%22Include%20aleatoric%20uncertainty%22)%0A%0A%20%20%20%20data_label%20%3D%20mo.md(%22**Dataset%20parameters**%22)%0A%20%20%20%20N_samples%20%3D%20mo.ui.slider(50%2C%201000%2C%2050%2C%20get_N_samples()%2C%20label%3D'Samples%20%24N%24'%2C%20on_change%3Dset_N_samples)%0A%20%20%20%20sigma%20%3D%20mo.ui.slider(0.001%2C%200.3%2C%200.005%2C%20get_sigma()%2C%20label%3Dr'%24%5Csigma%24%20noise'%2C%20on_change%3Dset_sigma)%0A%20%20%20%20seed%20%3D%20mo.ui.slider(0%2C%2010%2C%201%2C%20get_seed()%2C%20label%3D%22Seed%22%2C%20on_change%3Dset_seed)%0A%0A%20%20%20%20%23%20Regression%20parameters%20with%20conditional%20styling%0A%20%20%20%20reg_enabled%20%3D%20bayesian.value%20or%20conformal.value%20or%20pops.value%0A%0A%20%20%20%20if%20reg_enabled%3A%0A%20%20%20%20%20%20%20%20reg_label%20%3D%20mo.md(%22**Regression%20parameters**%22)%0A%20%20%20%20%20%20%20%20P_elem%20%3D%20mo.ui.slider(5%2C%2015%2C%201%2C%20get_P()%2C%20label%3D%22Fit%20parameters%20%24P%24%22%2C%20on_change%3Dset_P)%0A%20%20%20%20%20%20%20%20aleatoric%20%3D%20mo.ui.checkbox(False%2C%20label%3D%22Include%20aleatoric%20uncertainty%22)%0A%20%20%20%20else%3A%0A%20%20%20%20%20%20%20%20reg_label%20%3D%20mo.Html(%22%3Cp%20style%3D'color%3A%20%23d0d0d0%3B%20font-weight%3A%20bold%3B'%3ERegression%20parameters%3C%2Fp%3E%22)%0A%20%20%20%20%20%20%20%20P_elem%20%3D%20mo.Html(f%22%3Cdiv%20style%3D'opacity%3A%200.4%3B'%3E%7Bmo.ui.slider(5%2C%2015%2C%201%2C%20get_P()%2C%20label%3D'Degree%20%24P%24'%2C%20disabled%3DTrue%2C%20on_change%3Dset_P)%7D%3C%2Fdiv%3E%22)%0A%20%20%20%20%20%20%20%20aleatoric%20%3D%20mo.Html(f%22%3Cdiv%20style%3D'opacity%3A%200.4%3B'%3E%7Bmo.ui.checkbox(False%2C%20label%3D%22Include%20aleatoric%20uncertainty%22%2C%20disabled%3DTrue)%7D%3C%2Fdiv%3E%22)%0A%0A%20%20%20%20%23%20Conformal%20prediction%20section%20with%20conditional%20styling%0A%20%20%20%20if%20conformal.value%3A%0A%20%20%20%20%20%20%20%20cp_label%20%3D%20mo.md(%22**Conformal%20prediction%20parameters**%22)%0A%20%20%20%20%20%20%20%20calib_frac%20%3D%20mo.ui.slider(0.05%2C%200.5%2C%200.05%2C%20get_calib_frac()%2C%20label%3D%22Calibration%20fraction%22%2C%20on_change%3Dset_calib_frac)%0A%20%20%20%20%20%20%20%20zeta%20%3D%20mo.ui.slider(0.05%2C%200.3%2C%200.05%2C%20get_zeta()%2C%20label%3Dr%22Coverage%20%24%5Czeta%24%22%2C%20on_change%3Dset_zeta)%0A%20%20%20%20else%3A%0A%20%20%20%20%20%20%20%20cp_label%20%3D%20mo.Html(%22%3Cp%20style%3D'color%3A%20%23d0d0d0%3B%20font-weight%3A%20bold%3B'%3EConformal%20prediction%20parameters%3C%2Fp%3E%22)%0A%20%20%20%20%20%20%20%20calib_frac%20%3D%20mo.Html(f%22%3Cdiv%20style%3D'opacity%3A%200.4%3B'%3E%7Bmo.ui.slider(0.05%2C%200.5%2C%200.05%2C%20get_calib_frac()%2C%20label%3D'Calibration%20fraction'%2C%20disabled%3DTrue%2C%20on_change%3Dset_calib_frac)%7D%3C%2Fdiv%3E%22)%0A%20%20%20%20%20%20%20%20zeta%20%3D%20mo.Html(f%22%3Cdiv%20style%3D'opacity%3A%200.4%3B'%3E%7Bmo.ui.slider(0.05%2C%200.3%2C%200.05%2C%20get_zeta()%2C%20label%3Dr'Coverage%20%24%5Czeta%24'%2C%20disabled%3DTrue%2C%20on_change%3Dset_zeta)%7D%3C%2Fdiv%3E%22)%0A%0A%20%20%20%20%23%20POPS%20regression%20section%20with%20conditional%20styling%0A%20%20%20%20if%20pops.value%3A%0A%20%20%20%20%20%20%20%20pops_label%20%3D%20mo.md(%22**POPS%20regression%20parameters**%22)%0A%20%20%20%20%20%20%20%20percentile_clipping%20%3D%20mo.ui.slider(0%2C%2010%2C%201%2C%20get_percentile_clipping()%2C%20label%3D%22Percentile%20clipping%22%2C%20on_change%3Dset_percentile_clipping)%0A%20%20%20%20%20%20%20%20leverage_percentile%20%3D%20mo.ui.slider(0%2C%2099%2C%205%2C%20get_leverage_percentile()%2C%20label%3D%22Leverage%20percentile%22%2C%20on_change%3Dset_leverage_percentile)%0A%20%20%20%20else%3A%0A%20%20%20%20%20%20%20%20pops_label%20%3D%20mo.Html(%22%3Cp%20style%3D'color%3A%20%23d0d0d0%3B%20font-weight%3A%20bold%3B'%3EPOPS%20regression%20parameters%3C%2Fp%3E%22)%0A%20%20%20%20%20%20%20%20percentile_clipping%20%3D%20mo.Html(f%22%3Cdiv%20style%3D'opacity%3A%200.4%3B'%3E%7Bmo.ui.slider(0%2C%2010%2C%201%2C%20get_percentile_clipping()%2C%20label%3D'Percentile%20clipping'%2C%20disabled%3DTrue%2C%20on_change%3Dset_percentile_clipping)%7D%3C%2Fdiv%3E%22)%0A%20%20%20%20%20%20%20%20leverage_percentile%20%3D%20mo.Html(f%22%3Cdiv%20style%3D'opacity%3A%200.4%3B'%3E%7Bmo.ui.slider(0%2C%2099%2C%205%2C%20get_leverage_percentile()%2C%20label%3D'Leverage%20percentile'%2C%20disabled%3DTrue%2C%20on_change%3Dset_leverage_percentile)%7D%3C%2Fdiv%3E%22)%0A%0A%20%20%20%20controls%20%3D%20mo.hstack(%5B%0A%20%20%20%20%20%20%20%20mo.vstack(%5B%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.md(%22**Analysis%20Methods**%22)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.left(bayesian)%2C%20%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.left(conformal)%2C%20%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.left(pops)%2C%20%0A%20%20%20%20%20%20%20%20%5D%2C%20gap%3D0.3)%2C%0A%0A%20%20%20%20%20%20%20%20mo.vstack(%5Bdata_label%2C%20N_samples%2C%20sigma%2C%20seed%5D)%2C%0A%20%20%20%20%20%20%20%20mo.vstack(%5Breg_label%2C%20P_elem%2C%20aleatoric%5D)%2C%0A%20%20%20%20%20%20%20%20mo.vstack(%5Bcp_label%2C%20calib_frac%2C%20zeta%5D)%2C%0A%20%20%20%20%20%20%20%20mo.vstack(%5Bpops_label%2C%20percentile_clipping%2C%20leverage_percentile%5D)%0A%20%20%20%20%5D%2C%20gap%3D0.5)%0A%0A%20%20%20%20mo.Html(f'''%0A%20%20%20%20%3Cdiv%20style%3D%22background-color%3A%20%23f8f9fa%3B%20padding%3A%2015px%3B%20border-radius%3A%208px%3B%20margin-bottom%3A%2010px%3B%22%3E%0A%20%20%20%20%20%20%20%20%7Bcontrols%7D%0A%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20''')%0A%20%20%20%20return%20N_samples%2C%20aleatoric%2C%20seed%2C%20sigma%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20bayesian%20%3D%20mo.ui.checkbox(False%2C%20label%3D%22Bayesian%20fit%22)%0A%20%20%20%20conformal%20%3D%20mo.ui.checkbox(False%2C%20label%3D%22Conformal%20prediction%22)%0A%20%20%20%20pops%20%3D%20mo.ui.checkbox(False%2C%20label%3D%22POPS%20regression%22)%0A%20%20%20%20return%20bayesian%2C%20conformal%2C%20pops%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20%23%20Use%20marimo%20state%20to%20preserve%20all%20slider%20values%0A%20%20%20%20get_N_samples%2C%20set_N_samples%20%3D%20mo.state(500)%0A%20%20%20%20get_sigma%2C%20set_sigma%20%3D%20mo.state(0.1)%0A%20%20%20%20get_seed%2C%20set_seed%20%3D%20mo.state(0)%0A%20%20%20%20get_P%2C%20set_P%20%3D%20mo.state(10)%0A%20%20%20%20get_calib_frac%2C%20set_calib_frac%20%3D%20mo.state(0.2)%0A%20%20%20%20get_zeta%2C%20set_zeta%20%3D%20mo.state(0.05)%0A%20%20%20%20get_percentile_clipping%2C%20set_percentile_clipping%20%3D%20mo.state(0)%0A%20%20%20%20get_leverage_percentile%2C%20set_leverage_percentile%20%3D%20mo.state(50)%0A%20%20%20%20return%20(%0A%20%20%20%20%20%20%20%20get_N_samples%2C%0A%20%20%20%20%20%20%20%20get_P%2C%0A%20%20%20%20%20%20%20%20get_calib_frac%2C%0A%20%20%20%20%20%20%20%20get_leverage_percentile%2C%0A%20%20%20%20%20%20%20%20get_percentile_clipping%2C%0A%20%20%20%20%20%20%20%20get_seed%2C%0A%20%20%20%20%20%20%20%20get_sigma%2C%0A%20%20%20%20%20%20%20%20get_zeta%2C%0A%20%20%20%20%20%20%20%20set_N_samples%2C%0A%20%20%20%20%20%20%20%20set_P%2C%0A%20%20%20%20%20%20%20%20set_calib_frac%2C%0A%20%20%20%20%20%20%20%20set_leverage_percentile%2C%0A%20%20%20%20%20%20%20%20set_percentile_clipping%2C%0A%20%20%20%20%20%20%20%20set_seed%2C%0A%20%20%20%20%20%20%20%20set_sigma%2C%0A%20%20%20%20%20%20%20%20set_zeta%2C%0A%20%20%20%20)%0A%0A%0Aif%20__name__%20%3D%3D%20%22__main__%22%3A%0A%20%20%20%20app.run()%0A