Kurs:Maschinelles Lernen/Vektoren

Vorherige Seite: K0 - Ableitungen
Nächste Seite : K0 - Matrizen

Definiton

Punkte im dreidimensionalen Raum werden durch $x$-, $y$- und $z$-Koordinaten in der Form $P(x|y|z)$ angegeben. Stattdessen kann auch der verbindende Pfeil zum Ursprung

${\vec {p}}={\begin{pmatrix}x\\y\\z\end{pmatrix}}$

betrachtet werden. Dieser kann unter beibehalt von Länge und Richtung verschoben werden. Er wird als Vektor bezeichnet.

Die Menge der dreidimensionalen Vektoren wird als $\mathbb {R} ^{3}$ bezeichnet.

Regeln

Betrag und Richtung

Die Länge eines Vektors wird als sein Betrag bezeichnet und ist durch

$|{\vec {p}}|={\sqrt {x^{2}+y^{2}+z^{2}}}$

definiert. Ist dieser nicht Null, so lässt sich damit ein Vektor

${\hat {\vec {n}}}={\frac {\vec {p}}{|{\vec {p}}|}}$ 

der Länge Eins definieren, welcher die Richtung des Vektors angibt.

Vektoraddition

Vektoren lassen sich komponentenweise addieren

${\vec {a}}+{\vec {b}}={\begin{pmatrix}a_{x}\\a_{y}\\a_{z}\end{pmatrix}}+{\begin{pmatrix}b_{x}\\b_{y}\\b_{z}\end{pmatrix}}={\begin{pmatrix}a_{x}+b_{x}\\a_{y}+b_{y}\\a_{z}+b_{z}\end{pmatrix}}$

Geometrisch entspricht dies einer Aneinanderreihung der Vektoren. Ebenso lässt sich die Differenz zweier Vektoren

${\vec {a}}-{\vec {b}}={\begin{pmatrix}a_{x}\\a_{y}\\a_{z}\end{pmatrix}}-{\begin{pmatrix}b_{x}\\b_{y}\\b_{z}\end{pmatrix}}={\begin{pmatrix}a_{x}-b_{x}\\a_{y}-b_{y}\\a_{z}-b_{z}\end{pmatrix}}$

definieren. Der Differenzvektor ${\vec {a}}-{\vec {b}}$ gibt an, welcher Vektor an ${\vec {b}}$ angehängt werden muss, um Vektor ${\vec {a}}$ zu erhalten.

(Komponentenweise) Skalarmultiplikation

Ein Vektor lässt sich komponentenweise mit einer reellen Zahl $\lambda \in \mathbb {R}$ multiplizieren
$\lambda \cdot {\vec {p}}=\lambda \cdot {\begin{pmatrix}x\\y\\z\end{pmatrix}}={\begin{pmatrix}\lambda \cdot x\\\lambda \cdot y\\\lambda \cdot z\end{pmatrix}}\quad \quad |\lambda \cdot {\vec {p}}|=|\lambda |\cdot |{\vec {p}}|$
Geometrisch handelt es sich um eine Streckung, Stauchung oder Spiegelung am Ursprung abhängig vom Wert von $\lambda$.

Aufgabe

Gegeben seien die beiden Vektoren

${\vec {a}}={\begin{pmatrix}1\\-2\\3\end{pmatrix}}\quad \quad {\vec {b}}={\begin{pmatrix}1\\2\\1\end{pmatrix}}.$

Bestimme den Ausdruck $3{\vec {a}}-2{\vec {b}}$

Lösungen

Skalarprodukt

Manchmal ist es nötig, einen Vektor ${\vec {a}}$ in parallele und senkrechte Anteile zu einem gegebenen Vektor ${\vec {n}}$ zu zerlegen. Die beiden Vektoren schließen den Winkel $\phi$ ein. Aus geometrischen Überlegungen lässt sich zeigen, dass der parallele Anteil den Betrag

$|{\vec {a}}_{\parallel }|=|{\vec {a}}|\cos {(\phi )}$

bestitzt. (Streng genommen, gilt das nur für $\phi \in [-\pi /2,\pi /2]$.) Eingebettet in ein explizites Koordinatensystem lässt sich weiter zeigen, dass der Zusammenhang

$a_{x}n_{x}+a_{y}n_{y}+a_{z}n_{z}=|{\vec {a}}|\cdot |{\vec {n}}|\cos {(\phi )}$

gültig ist. Dieser wird benutzt, um das Skalarprodukt zweier Vektoren ${\vec {a}}$ und ${\vec {b}}$

${\vec {a}}\cdot {\vec {b}}={\begin{pmatrix}a_{x}\\a_{y}\\a_{z}\end{pmatrix}}\cdot {\begin{pmatrix}b_{x}\\b_{y}\\b_{z}\end{pmatrix}}=a_{x}b_{x}+a_{y}b_{y}+a_{z}b_{z}=|{\vec {a}}|\cdot |{\vec {b}}|\cdot \operatorname {cos} (\phi )$

zu definieren. Der parallele Anteil von ${\vec {a}}$ muss dann in Richtung von ${\vec {n}}$ zeigen und kann daher durch

${\vec {a}}_{\parallel }=|{\vec {a}}_{\parallel }|{\frac {\vec {n}}{|{\vec {n}}|}}={\frac {\vec {n}}{|{\vec {n}}|}}\left({\frac {\vec {n}}{|{\vec {n}}|}}\cdot {\vec {a}}\right)$

bestimmt werden. Der senkrechte Anteil ist durch

${\vec {a}}_{\perp }={\vec {a}}-{\vec {a}}_{\parallel }={\vec {a}}-{\frac {\vec {n}}{|{\vec {n}}|}}\left({\frac {\vec {n}}{|{\vec {n}}|}}\cdot {\vec {a}}\right)$

gegeben.

Aus der Definition des Skalarprodukts lässt sich eine wichtige Schlussfolgerung ziehen. Sind sowohl die Vektoren ${\vec {a}}$, ${\vec {b}}$ nicht in allen Komponenten Null (also der Nullvektor), das Skalarprodukt aber dennoch Null, so muss der Kosinus den Wert Null annehmen. Dies ist aber nur möglich, wenn $\phi$ die Wert $\pi /2$ oder $3\pi /2$ annimmt. Da $\phi$ aber den Winkel zwischen den beiden Vektoren beschreibt, stehen die Vektoren in diesem Fall senkrecht aufeinander. Allgemeiner werden Vektoren deren Skalarprodukt verschwindet als orthogonal bezeichnet.

Ebenso lässt sich wegen

${\vec {a}}\cdot {\vec {a}}=a_{x}^{2}+a_{y}^{2}+a_{z}^{2}=|{\vec {a}}|^{2}$

der Betrag eines Vektors mittels des Skalarprodukts durch

$|{\vec {a}}|={\sqrt {{\vec {a}}\cdot {\vec {a}}}}$

ausdrücken.

Aufgabe

Bestimme das Skalarprodukt der beiden Vektoren ${\vec {a}}$ und ${\vec {b}}$ aus der vorherigen Aufgabe. Stehen die beiden Vektoren senkrecht aufeinander?

Lösungen

Vektoren in $N$ Dimensionen

Die bisherigen Betrachtungen lassen sich auf $n$ Dimensionen erweitern. Die Menge der $N$-dimensionalen Vektoren wird mit $\mathbb {R} ^{N}$ bezeichnet.

Die Vektoradditon erfolgt nach wie vor komponentenweise

$({\vec {a}}\pm {\vec {b}})_{i}=a_{i}\pm b_{i}$

ebenso die Skalarmultiplikation

$(\lambda {\vec {a}})_{i}=\lambda a_{i}.$

Beim Skalarprodukt zweier Vektoren werden die Vektoren komponentenweise multipliziert und die jeweiligen Ergebnisse addiert, so dass

${\vec {a}}\cdot {\vec {b}}=\sum _{i=1}^{N}a_{i}b_{i}=|{\vec {a}}|\cdot |{\vec {b}}|\cos {(\phi )}$

gilt. Der Betrag eines Vektors kann weiterhin durch

$|{\vec {a}}|={\sqrt {{\vec {a}}\cdot {\vec {a}}}}={\sqrt {\sum _{i=1}^{N}a_{i}^{2}}}$ 

betsimmt werden.

Geraden und Ebenen im Raum

Geraden im $\mathbb {R} ^{2}$

Vektoren eröffnen eine neue Betrachtungsweise auf Geraden, die in der Analysis durch die Geradengleichung $y=mx+b$ beschrieben werden. Dazu werden Vektoren des $\mathbb {R} ^{2}$ betrachtet.

• Es gibt (bis auf die Länge und das Vorzeichen) nur einen Richtungsvektor ${\vec {n}}$ der senkrecht auf der Geraden steht. Ein solcher Vektor wird als Normalenvektor bezeichnet.
• Der Abstandsvektor zweier Punkte, beschrieben durch die Ortsvektoren ${\vec {a}}$ und ${\vec {b}}$, muss senkrecht auf dem Normalenvektor stehen. Ein bekannter Ortsvektor eines Punktes auf der Gerade wird als Stützvektor bezeichnet.

Damit lässt sich begründen, dass für einen bekannten Normalenvektor ${\vec {n}}$ und einen bekannten Stützvektor ${\vec {a}}$ die Ortsvektoren ${\vec {x}}$ der Gerade die Gleichung

${\vec {n}}\cdot ({\vec {x}}-{\vec {a}})=0$

erfüllen müssen. Diese Gleichung lässt sich mit der Einführung von $c={\vec {n}}\cdot {\vec {a}}$ auch durch

$0={\vec {n}}\cdot {\vec {x}}-{\vec {n}}\cdot {\vec {a}}={\vec {n}}\cdot {\vec {x}}-c$

ausdrücken.

Die Gerade teilt darüber hinaus den Raum in zwei Bereiche. Wird ein Punkt eingesetzt, dessen Ortsvektor nicht auf der Gerade liegt, so ergibt sich beim Auswerten von ${\vec {n}}\cdot {\vec {x}}-c$ ein Wert größer oder kleiner Null. Damit lassen sich die beiden Mengen

$M_{+}=\{{\vec {x}}\in \mathbb {R} ^{2}|{\vec {n}}\cdot {\vec {x}}-c>0\}\quad \quad M_{-}=\{{\vec {x}}\in \mathbb {R} ^{2}|{\vec {n}}\cdot {\vec {x}}-c<0\}$

definieren. Diese Betrachtungsweise erlaubt es im Rahmen des maschinellen Lernens Entscheidungsregeln durch Vektoren zu beschreiben.

Aufgabe

Im $\mathbb {R} ^{2}$ soll eine Gerade mit $c=2$ und dem Normalenvektor

${\vec {n}}={\begin{pmatrix}1\\2\end{pmatrix}}$

gegeben sein. Bewerte, ob die Punkte $P_{1}(1|0)$, $P_{2}(1|1)$ und $P_{3}(0|1)$ auf der Gerade oder in den Mengen $M_{\pm }$ liegen.

Lösungen

Ebenen im $N$ dimensionalen Raum

Im $\mathbb {R} ^{3}$ wird der gesamte Raum durch eine Ebene in zwei Bereiche getrennt. Um Punkte in der Ebene zu beschreiben genügt es wieder, einen Vektor ${\vec {n}}$ senkrecht auf der Ebene - der auch als Normalenvektor bezeichnet wird - und einen Vektor in der Ebene ${\vec {a}}$ - der ebenfalls als Stützvektor bezeichnet wird - zu kennen. Die Ortsvektoren ${\vec {x}}$ der Punkte der Ebene müssen dann die Gleichung

${\vec {n}}\cdot ({\vec {x}}-{\vec {a}})={\vec {n}}\cdot {\vec {x}}-c=0$

erfüllen. Genau, wie im zweidimensionalen Fall lassen sich die beiden Raumbereiche

$M_{+}=\{{\vec {x}}\in \mathbb {R} ^{3}|{\vec {n}}\cdot {\vec {x}}-c>0\}\quad \quad M_{-}=\{{\vec {x}}\in \mathbb {R} ^{3}|{\vec {n}}\cdot {\vec {x}}-c<0\}$

definieren.

All diese Betrachtungen lassen sich auf $N$ Dimensionen übertragen. Dort wird durch die Gleichung

${\vec {n}}\cdot ({\vec {x}}-{\vec {a}})={\vec {n}}\cdot {\vec {x}}-c=0$

ein $N-1$ dimensionales Objekt beschrieben, dass als Hyperebene bezeichnet wird. Der $N$-dimensionale Raum wird in die beiden Bereiche

$M_{+}=\{{\vec {x}}\in \mathbb {R} ^{N}|{\vec {n}}\cdot {\vec {x}}-c>0\}\quad \quad M_{-}=\{{\vec {x}}\in \mathbb {R} ^{N}|{\vec {n}}\cdot {\vec {x}}-c<0\}$

geteilt.

Aufgabe

Betrachte eine Hyperebene mit $c=2$ und dem Normalenvektor

${\vec {n}}={\begin{pmatrix}1\\-1\\3\\-1\\1\end{pmatrix}}$

und bestimme, ob die Punkte $P_{1}(1|1|1|1|1)$, $P_{2}(0|0|0|0|0)$ und $P_{(}2|2|2|2|2)$ auf der Hyperbene oder in den Mengen $M_{\pm }$ liegen.

Lösungen

Abstände zu Hyperebenen

Beim Maschinellen Lernen können Hyperebenen für Entscheidungsregeln genutzt werden. Eine Entscheidung ist eindeutiger, je größer der Abstand der Trainingsdaten von der Ebene der Entscheidungsregel ist. Daher gibt es Methoden (wie die Support Vector Machines) bei denen diese Abstände minimiert werden. Dazu ist es nötig, Abstände zwischen Punkten und Ebenen bestimmen zu können.

Liegt ein Punkt mit dem Ortsvektor ${\vec {p}}$ nicht in der Ebene, so kann der Verbindungsvektor zwischen diesem Punkt und dem Stützvektor ${\vec {a}}$ der Ebene betrachtet werden. Da der Abstand zur Ebene durch den Abstand einer auf der Ebene senkrecht stehenden Verbindungslinie gegeben ist, muss die Länge des zum Normalenvektor parallelen Anteil des Differenzvektors bestimmt werden. Nach den Betrachtungen beim Skalarprodukt lässt sich so erkennen, dass der Abstand zwischen einem Punkt $P$ und einer Hyperebene $H$ durch

$d(P,H)={\frac {|{\vec {n}}\cdot ({\vec {p}}-{\vec {a}})|}{|{\vec {n}}|}}$

gegeben ist.

Aufgabe

Bestimme für die obige Hyperebene im 5 dimensionalen Raum den Abstand der Punkte $P_{2}$ und $P_{3}$ zu diesen.

Lösungen