Dada una simple regresión lineal E (y) = bx1 + c + error, con solo una variable independiente, dos parámetros desconocidos y un rango de posibles observaciones para x1 = [0,100], ¿cómo podría llegar a un diseño secuencial bayesiano óptimo que minimiza la incertidumbre de mis estimaciones de parámetros en cada paso?

Answer 1

Entonces, en caso de que tenga un conjunto de datos observados [matemática] X = {x_1, x_2, \ cdot, x_n} [/ matemática] y los objetivos correspondientes [matemática] Y = {y_1, y_2, \ cdots, y_n} [/ matemáticas]
Puede modelar esta regresión lineal por [matemáticas] y = w ^ T X + b [/ matemáticas]. Para encontrar los parámetros óptimos w, puede intentar utilizar la función de máxima probabilidad:
[math] \ frac {1} {N} \ prod_ {n = 1} ^ N || y_n – w ^ Tx_n || ^ 2 [/ math] suponiendo que el error es gaussiano. O bien, lo que puede hacer un paso más allá es un [matemático] Pr (w) [/ matemático] anterior, y maximizar el [matemático] Pr (w | X) [/ matemático] posterior, por el tema Bayesiano:
[matemáticas] Pr (w | X) = Pr (X | w) Pr (w) [/ matemáticas]

Para actualizar secuencialmente el Postori, puede hacer postori en el paso n como el priori para el paso n + 1, que es una técnica muy común en la inferencia bayesiana secuencial.