Datensatz/Fehlerquadrate/Lineare Funktion/Fakt/Beweis

Beweis

Wir betrachten die Abbildung

$\psi \colon \mathbb {R} ^{2}\longrightarrow \mathbb {R} ^{n},\,(a,b)\longmapsto \left(ax_{1}+b,\,\ldots ,\,ax_{n}+b\right).$

Diese Abbildung ist linear und injektiv, da

${}\psi (1,0)=\left(x_{1},\,\ldots ,\,x_{n}\right)=:v_{1}\,$

und

${}\psi (0,1)=\left(1,\,\ldots ,\,1\right)=:v_{2}\,$

linear unabhängig sind. Es sei

${}U=\operatorname {bild} \psi =\langle v_{1},v_{2}\rangle \subseteq \mathbb {R} ^{n}\,.$

Es geht darum, die orthogonale Projektion von ${}y=\left(y_{1},\,\ldots ,\,y_{n}\right)$ auf ${}U$ zu bestimmen. Der Vektor

${}u_{2}={\frac {v_{2}}{\Vert {v_{2}}\Vert }}=\left({\frac {1}{\sqrt {n}}},\,\ldots ,\,{\frac {1}{\sqrt {n}}}\right)\,$

ist normiert. Wegen

${}\left\langle {\begin{pmatrix}x_{1}\\\vdots \\x_{n}\end{pmatrix}}-{\bar {x}}{\begin{pmatrix}1\\\vdots \\1\end{pmatrix}},{\begin{pmatrix}1\\\vdots \\1\end{pmatrix}}\right\rangle =0\,$

bildet

${}u_{1}:={\frac {v_{1}-{\bar {x}}v_{2}}{\Vert {v_{1}-{\bar {x}}v_{2}}\Vert }}={\frac {1}{\sqrt {\sum _{i=1}^{n}{\left(x_{i}-{\bar {x}}\right)}^{2}}}}{\begin{pmatrix}x_{1}-{\bar {x}}\\\vdots \\x_{n}-{\bar {x}}\end{pmatrix}}\,$

zusammen mit ${}u_{2}$ eine Orthonormalbasis von ${}U$. Es entspricht ${}u_{2}$ der konstanten Funktion ${}{\frac {1}{\sqrt {n}}}$ und ${}u_{1}$ der affin-linearen Funktion ${}{\frac {1}{\sqrt {\sum _{i=1}^{n}{\left(x_{i}-{\bar {x}}\right)}^{2}}}}(x-{\bar {x}})$. Nach Fakt ist

${}p_{U}\left(y\right)=\left\langle y,u_{1}\right\rangle u_{1}+\left\langle y,u_{2}\right\rangle u_{2}\,,$

dabei ist

${}\left\langle y,u_{1}\right\rangle ={\frac {\sum _{i=1}^{n}y_{i}{\left(x_{i}-{\bar {x}}\right)}}{\sqrt {\sum _{i=1}^{n}{\left(x_{i}-{\bar {x}}\right)}^{2}}}}\,$

und

${}\left\langle y,u_{2}\right\rangle ={\frac {\sum _{i=1}^{n}y_{i}}{\sqrt {n}}}\,.$

Somit ist die optimale affin-lineare Funktion gleich

${\frac {\sum _{i=1}^{n}y_{i}{\left(x_{i}-{\bar {x}}\right)}}{\sqrt {\sum _{i=1}^{n}{\left(x_{i}-{\bar {x}}\right)}^{2}}}}\cdot {\frac {1}{\sqrt {\sum _{i=1}^{n}{\left(x_{i}-{\bar {x}}\right)}^{2}}}}(x-{\bar {x}})+{\frac {\sum _{i=1}^{n}y_{i}}{\sqrt {n}}}\cdot {\frac {1}{n}},$

also ist

${}a={\frac {\sum _{i=1}^{n}y_{i}{\left(x_{i}-{\bar {x}}\right)}}{\sum _{i=1}^{n}{\left(x_{i}-{\bar {x}}\right)}^{2}}}\,$

und

${}b={\bar {y}}-a{\bar {x}}\,.$

Zur bewiesenen Aussage