Kurs:Maschinelles Lernen/Matrizen

Vorherige Seite: K0 - Vektoren
Nächste Seite: K1 - Grundbegriffe des maschinellen Lernens

Definiton

Es sollen Abbildungen zwischen den beiden Vektorräumen $\mathbb {R} ^{m}$ und $\mathbb {R} ^{n}$ untersucht werden. Eine spezielle Klasse von Abbildungen sind dabei die linearen Abbildungen. Ist eine Abbildung $A:\mathbb {R} ^{m}\to \mathbb {R} ^{n}$ linear, so muss diese für zwei Vektoren ${\vec {v}}$ und ${\vec {w}}$ des $\mathbb {R} ^{m}$ und zwei reelle Zahlen $\mu$ und $\lambda$ stets den Zusammenhang

$A(\mu {\vec {v}}+\lambda {\vec {w}})=\mu A({\vec {v}})+\lambda A({\vec {w}})$

erfüllen. Es lässt sich dann zeigen, dass sich die Abbildung durch eine Ansammlung von $n\cdot m$ reellen Zahlen $A_{ij}$ mit $i\in \{1,\dots ,n\}$ und $j\in \{1,\dots ,m\}$ durch

$A({\vec {v}})={\begin{pmatrix}A_{11}v_{1}+A_{12}v_{2}+\cdots +A_{1m}v_{m}\\A_{21}v_{1}+A_{22}v_{2}+\cdots +A_{2m}v_{m}\\\vdots \\A_{n1}v_{1}+A_{n2}v_{2}+\cdots +A_{nm}v_{m}\end{pmatrix}}$

beschreiben. Werden nun die Zahlen entsprechend ihres Auftretens angeordnet, so wird diese Ansammlung in einem $n\times m$ Raster der Form

$A={\begin{pmatrix}A_{11}&\cdots &A_{1m}\\\vdots &\ddots &\vdots \\A_{n1}&\cdots &A_{nm}\\\end{pmatrix}}$

als Matrix bezeichnet. Die Menge aller reellen Matrizen mit $n$ Zeilen und $m$ Spalten wird als $\mathbb {R} ^{n\times m}$ bezeichnet.

Bei der Anwendung auf einen Vektor können die Komponenten des Ergebnisvektors dann durch

$(A{\vec {v}})_{i}=\sum _{j=1}^{m}A_{ij}v_{j}$

gefunden werden.

Aufgabe

Gegeben seien die Matrix

$A={\begin{pmatrix}1&2&-1\\3&-2&2\end{pmatrix}}$

und der Vektor

${\vec {v}}={\begin{pmatrix}1\\-2\\1\end{pmatrix}}$

Berechne $A{\vec {v}}$

Lösungen

Hintereinanderausführung

Für Funktionen ist bekannt, dass sich diese in der Form $(f\circ g)(x)=f(g(x))$ verketten lassen, wenn der Bildbereich von $g$ eine Teilmenge des Definitionsbereich von $f$ ist. (Andernfalls muss der Definitionsbereich von $g$ für die Verkettung eingeschränkt werden). Genauso muss für die Verkettung der durch Matrizen definierten Abbildungen der Ergebnisvektor im Vektorraum liegen, den die zweite Abbildung entgegen nimmt. Ist also $A\in \mathbb {R} ^{l\times m}$, so muss die Matrix $B$ über $l$ Spalten verfügen, um den Vektor $A{\vec {v}}$ entgegen nehmen zu können. Die Zahl der Zeilen von $B$ hingegen kann wieder frei gewählt werden. Um die Verkettung $(B\circ A)({\vec {v}})=B(A({\vec {v}}))$ bestimmen zu können, muss $B$ also aus dem $\mathbb {R} ^{n\times l}$ stammen. Das Ergebnis der Verkettung ist daher ein Vektor des $\mathbb {R} ^{n}$. Somit bildet die Verkettung vom $R^{m}$ auf den $R^{n}$ ab und ist als Verkettung zweier linearer Funktionen selbst wieder linear. Damit muss sie sich durch eine Matrix $C\in \mathbb {R} ^{n\times m}$ darstellen lassen. Durch das Anwenden der Matrizen auf einen entsprechenden Vektor kann der Zusammenhang

$C{\vec {v}}=B(A({\vec {v}}))=\sum _{k=1}^{m}\left(\sum _{j=1}^{l}B_{ij}A_{jk}\right)v_{k}$

gefunden werden, woraus ersichtlich ist, dass sich die Matrix $C$ gemäß

$C_{ik}=\sum _{j=1}^{l}B_{ij}A_{jk}$

als ein Produkt zweier Matrizen definieren lässt. Auf diese Weise wird die Matrixmultiplikation definiert.

Als Beispiel können die beiden Matrizen

$A={\begin{pmatrix}1&0\\1&-1\end{pmatrix}}\quad \quad B={\begin{pmatrix}0&1\\1&1\end{pmatrix}}$

betrachtet werden. Da es sich um quadratische Matrizen handelt, können die beiden Matrixprodukte

$AB={\begin{pmatrix}0&1\\-1&0\end{pmatrix}}\quad \quad BA={\begin{pmatrix}1&-1\\2&-1\end{pmatrix}}$

gefunden werden. Sie sind nicht gleich, woran sich bereits zeigt, dass selbst für quadratische Matrizen im Allgemeinen $AB=BA$ nicht gilt.

Aufgabe

Gegeben seien die beiden Matrizen

$A={\begin{pmatrix}1&2&-1\\3&-2&2\end{pmatrix}}$

und

$B={\begin{pmatrix}7&3\\-2&5\\3&-4\end{pmatrix}}$

finde alle Matrixprodukte.

Lösungen

Invertieren einer Matrix

Im $\mathbb {R} ^{n\times n}$ gibt es eine Matrix $I$ mit der Eigenschaft, dass sie jeden beliebigen Vektor ${\vec {v}}$ unverändert lässt, also $I{\vec {v}}={\vec {v}}$ für beliebige ${\vec {v}}$ erfüllt. Diese Matrix wird als Einheitsmatrix bezeichnet. Sie ist dadurch definiert, dass nur auf der Diagonalen die Einträge $1$ und sonst Nullen stehen. Für die Matrixmultiplikation stellt sie das neutrale Element dar.

Ist $A\in \mathbb {R} ^{n\times n}$ und existiert ein $A^{-1}\in \mathbb {R} ^{n\times n}$ für die

$AA^{-1}=A^{-1}A=I$

gilt, so wird $A^{-1}$ als die Inverse Matrix von $A$ bezeichnet. Sie erlaubt es Gleichungen der Art

$A{\vec {x}}={\vec {b}}$

mit ${\vec {x}},{\vec {b}}\in \mathbb {R} ^{n}$ nach ${\vec {x}}$ eindeutig zu lösen.

Anhand der Rechnung

$I=B^{-1}B=B^{-1}IB=B^{-1}(A^{-1}A)B=(B^{-1}A^{-1})(AB)=(AB)^{-1}(AB)$

lässt sich sehen, dass beim Invertieren eines Produktes auch die Reihenfolge getauscht werden muss.

Aufgabe

Gegeben Sei die Matrix

$A={\begin{pmatrix}1&-1\\1&1\end{pmatrix}}$

Bestimme die Inverse Matrix und finde so $x$ und $y$ aus der Gleichung

$A{\begin{pmatrix}x\\y\end{pmatrix}}={\begin{pmatrix}3\\4\end{pmatrix}}$

Lösungen

Vektoren als Matrizen

Vektoren können als Matrizen mit einer Spalte aufgefasst werden. Diese Matrizen müssten demnach aus dem $\mathbb {R} ^{n\times 1}$ stammen. Es gibt allerdings auch die Matrizen der Form $\mathbb {R} ^{1\times n}$, die also über eine Zeile und $n$ Spalten verfügen. Diese werden als transponierte Vektoren bezeichnet. Ist ein Vektor

${\vec {v}}={\begin{pmatrix}v_{1}\\\vdots \\v_{n}\end{pmatrix}}$ 

gegeben, so ist sein transponierter Vektor durch

${\vec {v}}^{T}={\begin{pmatrix}v_{1}&\cdots &v_{n}\end{pmatrix}}$ 

bestimmt.

Damit lässt sich das Skalarprodukt als Matrixmultiplikation ${\vec {v}}^{T}{\vec {u}}={\begin{pmatrix}v_{1}&v_{2}&\cdots &v_{n}\end{pmatrix}}{\begin{pmatrix}u_{1}\\u_{2}\\\vdots \\u_{n}\end{pmatrix}}=\sum _{i=1}^{n}v_{i}u_{i}$ auffassen. Daneben kann durch

${\begin{pmatrix}v_{1}\\v_{2}\\\vdots \\v_{n}\end{pmatrix}}{\begin{pmatrix}u_{1}&u_{2}&\cdots &u_{n}\end{pmatrix}}={\begin{pmatrix}v_{1}u_{1}&v_{1}u_{2}&\cdots &v_{1}u_{n}\\v_{2}u_{1}&v_{2}u_{2}&\cdots &v_{2}u_{n}\\\vdots &\vdots &\ddots &\vdots \\v_{n}u_{1}&v_{n}u_{2}&\cdots &v_{n}u_{n}\end{pmatrix}}$

auch eine Matrix mit den Komponenten

$({\vec {v}}{\vec {u}}^{T})_{ij}=v_{i}u_{j}$

konstruiert werden.

Aufgabe

Gegeben seien die Vektoren

${\vec {a}}={\begin{pmatrix}1\\2\end{pmatrix}}\quad \quad {\vec {b}}={\begin{pmatrix}2\\-2\end{pmatrix}}.$

Bestimme die Ausdrücke ${\vec {a}}^{T}{\vec {b}}$, ${\vec {a}}{\vec {b}}^{T}$, ${\vec {b}}^{T}{\vec {a}}$ und ${\vec {b}}{\vec {a}}^{T}$.

Lösungen

Transponieren von Matrizen

Die Matrix $A^{T}$ mit den Komponenten

$(A^{T})_{ij}=A_{ji}$

hat auf ${\vec {v}}^{T}$ von rechts multipliziert die gleiche Wirkung, wie die Matrix $A$ auf ${\vec {v}}$ von links multipliziert. Sie wird als Transponierte (Matrix) von $A$ bezeichnet.

Wie auch beim Invertieren, muss beim Transponieren von Produkten die Reihenfolge gemäß

$(AB)^{T}=B^{T}A^{T}$

umgekehrt werden.

Damit kann für die Vektorprodukte auch

$({\vec {a}}^{T}{\vec {b}})^{T}={\vec {b}}^{T}{\vec {a}}$

und

$({\vec {a}}{\vec {b}}^{T})^{T}={\vec {b}}{\vec {a}}^{T}$

gefunden werden.

Aufgabe

Es seien die Matrizen

$A={\begin{pmatrix}1&-1\\-2&1\end{pmatrix}}\quad \quad B={\begin{pmatrix}-2&0\\1&-1\end{pmatrix}}$

gegeben. Bestimme $A^{T}$, $B^{T}$, $(AB)^{T}$ und $AB$.

Lösungen