Grundlagen der Optimierung

Auf dieser Seite gibt es eine Einführung in das Thema Optimierung.

Die (Mathematische) Optimierung beschreibt eine Familie von Lösungsstrategien zur Maximierung/Minimierung einer Zielfunktion unter Nebenbedingungen. Viele der bisher untersuchten Probleme können als Optimierungsproblem modelliert werden. Zum Beispiel das Kürzeste Wege Problem: Minimiere die Länge eines Pfades unter der Nebenbedingung, dass der Pfad zwei gegebene Knoten verbindet. Oder das Rucksackproblem: Maximiere den Gesamtnutzen der Gegenstände unter der Nebenbedingung, dass die Kapazität des Rucksacks eingehalten wird. Oder das Flussprobleme: Maximiere den Fluss unter der Nebenbedingung, dass Kantenkapazitäten eingehalten werden.

Algorithmen wie Djikstra und Ford-Fulkerson sind domänenspeziﬁsche Algorithmen zur Lösung ihrer jeweiligen Optimierungsprobleme. Mathematische Optimierungsverfahren sind allgemeine Verfahren, die auf eine Vielzahl von Problemen anwendbar sind, dabei aber eventuell nicht immer so effizient wie speziellere Algorithmen sind.

Optimierung ist eine weites Feld, wir werden uns in dieser Vorlesung auf einen kleinen Ausschnitt konzentrieren:

Grundlagen der Optimierung
Kombinatorische Optimierung
Lineare Optimierung
Das Simplex‐Verfahren

Begriffe

Ein allgemeines (reelles) Optimierungsproblem ist gegeben durch P: Minimiere f(x)unter der Nebenbedingung $x\in X~mitX\subseteq \mathbb {R} ^{n}~und~f:X\to \mathbb {R}$ . f ist dabei die Zielfunktion. $x\in \mathbb {R} ^{n}$ heißt zulässig für P, falls $x\in X$ . X ist die zulässige Menge und $x'\in X$ heißt globales Minimum von P, falls $\forall x\in X:f(x')\leq f(x)$ . Äquivalent gilt P: Minimiere f(x) unter der Nebenbedingung $x\in X$ und P': Maximiere -f(x) unter der Nebenbedingung $x\in X$ .

Beispiel Gewinnmaximierung

Eine Firma produziert zwei verschiedene Waren. Ware x1 erbringt einen Gewinn von einem Euro. Ware x2 erbringt einen Gewinn von 6 Euro.

Frage: Welches Verhältnis von x1 und x2 führt zum größten Gewinn?

Nebenbedingungen:

Die Firma kann täglich maximal 200 Einheiten der Ware x1 produzieren und maximal 300 Einheiten der Ware x2 .

Insgesamt kann die Firma maximal 400 Einheiten pro Tag produzieren.

Zuerst wird nun die Zielfunktion formuliert: Maximiere Gewinn (1 Euro pro $x_{1}$ , 6 Euro pro $x_{2}$ ) : $max~x_{1}+6\cdot x_{2}$ .

Anschließend werden die Nebenbedingungen formuliert.

Maximal 200 Exemplare von x1 $x_{1}\leq 200$

Maximal 300 Exemplare von x2 $x_{2}\leq 300$

Insgesamt maximal 400 Exemplare $x_{1}+x_{2}\leq 400$

Es müssen Waren produziert werden $x_{1},x_{2}\geq 0$

Der Punkt $(0,0)\in \mathbb {R} ^{2}(x_{1}=0,x_{2}=0)$ ist zulässig mit Funktionswert 0 $maxx_{1}+6\cdot x_{2}$

Der Punkt $(100,200)\in \mathbb {R} ^{2}$ ist zulässig mit Funktionswert 1400 $x_{2}\leq 200$

Der Punkt $(100,300)\in \mathbb {R} ^{2}$ ist zulässig mit Funktionswert 1900 und globales Maximum $x_{1}+x_{2}\leq 400$

Der Punkt $(200,300)\in \mathbb {R} ^{2}$ ist unzulässig $x_{1},x_{2}\geq 0$

Dieses Beispiel ist ein lineares Optimierungsproblem.

Beispiel Kürzester Weg

Es soll die Distanz von s nach y bestimmt werden. Dafür sollen folgende Variablen und Bezeichner betrachtet werden.

$e_{a,b}\in \{0,1\}$ : die Kante von a nach b ist Teil des kürzesten Pfades von s nach y für alle Kanten (a,b)
$w_{a,b}$ : Das Gewicht der Kante von a nach b, zum Beispiel $w_{s,u}=10$
Die Zielfunktion ist $min~e_{s,u}w_{s,u}+e_{s,x}w_{s,x}+...+e_{v,y}w_{v,y}$

Es gelten folgende Nebenbedingungen:

Die Gewichte müssen wie im Graph sein $w_{s,u}=10,w_{s,u}=5,...$
Alle Kanten (a,b) mit $e_{a,b}=1$ $e_{a,b}=1$ müssen einen Pfad von s nach y bilden:
1. Es gibt genau eine Kante mit Startpunkt s: $e_{s,u}+e_{s,x}=1$
2. Es gibt genau eine Kante mit Zielpunkt y: $e_{v,y}+e_{x,y}=1$
3. Für jeden anderen Knoten gilt, falls eine Kante in diesen Knoten reinführt, muss er auch wieder eine rausführen, zum Beispiel für $x:e_{s,x}+e_{u,x}=e_{x,u}+e_{x,y}$

Beachte durch die Minimierung werden Kreise auf dem Pfad automatisch verhindert.

Vollständiges Optimierungsproblem für ein kleines Beispiel von u nach x:

$min~e_{u,v}w_{u,v}+e_{u,w}w_{u,w}+e_{v,w}w_{v,w}+e_{w,x}w_{w,x}$

$w_{u,v}=4$

$w_{u,w}=6$

$w_{v,w}=1$

$w_{w,x}=2$

$e_{u,v}+e_{u,w}=1$

$e_{w,x}=1$

$e_{u,v}=e_{v,w}$

$e_{u,w}+e_{v,w}=e_{w,x}$

$e_{u,v},e_{u,w},e_{v,w},e_{w,x}\in \{0,1\}$

Das Problem der Kürzesten-Wegfindung ist ein ganzzahliges Optimierungsproblem, allgemeiner ein kombinatorisches Optimierungsproblem.

Problemklassen

Optimierungsprobleme sind unterschiedlich schwer lösbar $max,min~f(x_{1},...x_{n})$

lineare Probleme: f,h sind linear, z.B. f/x,y)=3x+4y. Diese sind einfach zu lösen $h_{1}(x_{1},...,x_{n})\leq b_{1}$
Quadratische Probleme: z.B. $f(x,y)=x^{2}+xy$ sind auch noch einfach zu lösen. $h_{m_{1}}(x_{1},...,x_{n})\leq b_{m_{1}}$
Konvexe Probleme: z.B. min $f(x,y)=log(x)+log(y)$ sind schon schwerer zu lösen. $i_{1}(x_{1},...,x_{n})<c_{1}$
Nicht-konvexe Probleme: z.B. $f(x,y)=x~sin(x)$ sind ziemlich schwer zu lösen. $i_{m-2}(x_{1},...,x_{n})<c_{m-2}$
Ganzzahlige Probleme: $x_{1},...,x_{n}\in \mathbb {Z}$ sind überraschenderweise schwerer zu lösen als reelle Probleme. Etwa allgemeiner handelt es sich hier um kombinatorische Probleme (diskrete Elemente, nicht notwendigerweise Zahlen)
Weitere Parameter
- Restringierte Probleme: zulässige Menge ist beschränkt
- Unrestringierte Probleme: zulässige Menge ist unbeschränkt

Hier werden wir uns aber nur mit linearer Optimierung befassen.