Analysis und Numerik 2019 - Kapitel 5 - Mehrdimensionale Funktionen PDF

Preview

Summary

Download Analysis und Numerik 2019 - Kapitel 5 - Mehrdimensionale Funktionen PDF

Description

Kapitel 5

Differenzialrechnung mehrdimensionaler Funktionen

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 1

Inhalt

5.1 Mehrdimensionale Funktionen Darstellungen, Netzlinien, Niveaulinien

5.2 Partielle Ableitungen Tangentialebene, Gradient, Richtungsableitung 5.3 Extrema Hesse-Matrix, Extrema, Gradientenabstiegsverfahren

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 2

5.1 Mehrdimensionale Funktionen

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 3

Warum Funktionen von mehreren Variablen?

Viele Funktionen in Naturwissenschaft, Technik und Informatik hängen von mehreren Variablen ab. Einfache Beispiele: (a) Der Flächeninhalt eines Rechtecks hängt von Länge und Breite ab: Rechtecksfläche = f(x, y) = xy

(b) Die Temperatur in diesem Raum hängt von allen drei räumlichen Koordinaten ab: T(x, y, z)

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 4

Praxisrelevante Beispiele

Computergrafik: Darstellung von Flächen im Raum Information Retrieval: Dokumente bestehen aus Tausenden von Termen

Bildverarbeitung: Bilder bestehen aus Millionen von Pixeln BWL: Betriebswirtschaftliche Größen wie Gewinn und Verbrauch hängen von mehreren Variablen ab

Physik: Phänomene wie Bewegung, Kräfte oder Felder sind mehrdimensional

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 5

Darstellung von f(x, y) Darstellung von z = f(x,y) im räumlichen Koordinatensystem:

z

x

f(x,y) = x² + (y – 2)²

y

Der gesamte Graph wird zu einer Fläche über der x-y-Ebene.

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 6

1. Beispiel: Paraboloid

Beispiel: Die Funktion f(x, y) = x² + y² in verschiedenen Darstellungen:

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 7

Netzlinien x-Linie: x ist variabel, y ist fest y-Linie: x ist fest, y ist variabel

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 8

Niveaulinien

Niveaulinien (Höhenlinien) sind horizontale Schnitte auf bestimmten Höhen. Sie werden in der x-y-Ebene dargestellt. Beispiel: f(x) = x² + y² Niveau 0:

f(x, y) = x² + y² = 0 Niveaulinie: Nullpunkt

Niveau 1:

f(x, y) = x² + y² = 1 Niveaulinie: Einheitskreis

Niveau 2:

f(x, y) = x² + y² = 2 Niveaulinie: Kreis mit Radius 2

Allgemein: Niveau c:

f(x, y) = x² + y² = c Niveaulinie: Kreis mit Radius c

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 9

Niveaulinien für die Niveaus 1, 2, …, 16

Je dichter die Niveaulinien, umso steiler ist die Fläche. Wenn die Niveaulinien Kreise sind, ist die Fläche rotationssymmetrisch zur z-Achse.

GeoGebra: ImpliziteKurve[f(x,y) - h]

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 10

Niveaulinien im Schrägbild, Grund- und Aufriss

f(x, y) = x² + y² beschreibt ein Paraboloid. Im Grundriss sind die Niveaulinien Kreise, im Aufriss horizontale Geraden.

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 11

2. Beispiel: Sattelfläche

Beispiel: Die Funktion f(x, y) = xy heißt Sattelfläche. Sie beschreibt z. B. die Fläche eines Rechtecks.

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 12

Niveaulinien für die Niveaus -1, -0.9, …, 0.9, 1 Für die Niveaulinien der Sattelfläche gilt: Niveau 0: f(x, y) = xy = 0  x = 0 oder y = 0 (Achsen) Niveau c: f(x, y) = xy = c  y = c/x (Hyperbeln)

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 13

Sattelfläche: Täler, Berge und ein Sattelpunkt Im 1. und 3. Quadranten haben wir positive Funktionswerte, im 2. und 4. Quadranten negative Funktionswerte. Der Nullpunkt ist ein Sattelpunkt: In zwei Richtungen geht es hinauf, in zwei Richtungen hinunter.

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 14

5.2 Partielle Ableitungen

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 15

Partielle Ableitungen

Trick: y = y0 setzen und „einfrieren“! Ableitung von f(x, y0) bezüglich x an der Stelle (x0, y0): Partielle Ableitung nach x (Ableitung in x-Richtung):

Analog: Partielle Ableitung nach y (Ableitung in y-Richtung):

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 16

Geometrische Interpretation der partiellen Ableitung fx(x0, y0) = (Tangenten-) Steigung der x-Linie x-Linie: f(x, y0))

Punkt: (x0, y0, f(x0, y0))

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 17

Beispiel und Übung

Beispiele:

(a) f(x, y) = x² + y²



fx(x, y) = 2x fy(x, y) = 2y

(b) f(x, y) = x³ - 3xy² 

fx(x, y) = 3x² - 3y² fy(x, y) = -6xy

Übungen:

(c) f(x, y) = xy



fx(x, y) = fy(x, y) =

(d) f(x, y, z) = xy²z³ 

fx(x, y, z) =

fy(x, y, z) = fz(x, y, z) =

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 18

Tangentialebenen Erinnerung: Tangente an Funktion f(x) g(x) = f(x0) + f´(x0)(x – x0) Analog: Tangentialebene:

g(x, y) = f(x0, y0) + fx(x0, y0)(x – x0) + fy(x0, y0)(y – y0)

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 19

Beispiel Paraboloid: f(x, y) = x² + y² mit fx(x, y) = 2x und fy(x, y) = 2y Tangentialebene an der Stelle (0.6, 0.8): g(x, y)= f(0.6, 0.8) + fx(0.6, 0.8)(x – 0.6) + fy(0.6, 0.8)(y – 0.8)

= 0.6² + 0.8² + 20.6 (x – 0.6) + 2 0.8 (y – 0.8) = 0.36 + 0.64 + 1.2 (x – 0.6) + 1.6 (y – 0.8) = 1 + 1.2x – 0.72 + 1.6y – 1.28

= – 1 + 1.2x + 1.6y

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 20

Beispiel (Fortsetzung)

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 21

Übung Die Funktion f(x, y) = x³ - 3xy² heißt Affensattel. Bestimmen Sie für f die Tangentialebene an der Stelle (1, 2).

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 22

Partielle Ableitungen und Tangentialebene

Änderung der Tangentialebene: fx fx dx

(x, y, f(x, y))

fx

df

fy dy (x0, y0, f(x0, y0))

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 23

Gradient

Der Gradient einer Funktion f(x, y) ist der Vektor ihrer partiellen Ableitungen:  fx  grad( f )     fy 

Statt grad(f) schreibt man auch: f (Nabla-Operator). Beispiel: Die Funktion f(x, y) = x³ - 3xy² (Affensattel ) hat den Gradient  fx   3 x 2  3 y 2   grad( f )       f  y    6 xy 

 0  An der Stelle (1, 1) ergibt sich der Gradient: grad( f )(1,1)      6 Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 24

Übung

Berechnen Sie folgende Gradienten an der Stelle (1, 1):

(a) grad(3x² - 7y)

(b) grad(21x²y)

(c) grad(xy)

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 25

Richtungsableitungen

Wir kennen bereits • die Ableitung in x-Richtung f (Steigung einer x-Linie): fx  x • die Ableitung in y-Richtung f (Steigung einer y-Linie): fy  y Fragen: - Wie steil ist es schräg zu diesen Richtungen? - In welcher Richtung ist die Steigung am größten?

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 26

Richtungsableitung Achtung: Die Richtung ist normiert: | r | = 1

Wir beschreiben eine beliebige Richtung    cos( )  durch einen Vektor r    mit | r |  1.  sin(  )  Die Richtungsableitung einer Funktion f(x, y)  f in Richtung r wird mit  bezeichnet. r  Sie ergibt sich als Skalarprodukt der beiden Vektoren grad(f) und r : Satz: Für die Richtungsableitung gilt:   fx   cos( )  f   fx  cos( )  fy  sin( ).   grad( f )  r      f sin( ) r    y 

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 27

Übung

Berechnen Sie für die Funktion f(x, y) = x³ sin(y) + ex y²

  im Punkt (1, 0, f(1, 0)) die Richtungsableitung in Richtung von r    

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

1 2 1 2

 .  

Seite 28

Folgerungen  Sei  der Winkel zwischen den Vektoren grad(f) und r . Dann gilt:   f   grad( f ) r  | grad( f ) |  | r |  cos( ) r f  maximal (1.) Für den Fall  = 0 folgt:  = 0  cos() = 1  r  D. h.: Die Richtungsableitung ist maximal, wenn  = 0 ist, wenn also r in die Richtung von grad(f) zeigt.

Folgerung 1: Der Gradient zeigt in Richtung des steilsten Anstiegs. f (2.) Für den Fall  = /2 (= 90°) folgt:  = /2  cos() = 0    0 r Folgerung 2: Der Gradient steht senkrecht auf den Niveaulinien.

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 29

Eigenschaften des Gradienten

(1.) Der Gradient zeigt in Richtung des steilsten Anstiegs. Sein Betrag ist die Steigung in dieser (steilsten) Richtung. (2.) Der Gradient steht senkrecht auf den Niveaulinien.

z

x

y

grad (f)

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 30

Beispiel: f(x, y) = xy

f(x, y) = xy Gradient:  fx   y  grad( f )        fy   x  Im Punkt (1, 1): 1 grad( f ) (1, 1)     1

- zeigt in Richtung des steilsten Anstiegs, Steigung in dieser Richtung = 2 - steht senkrecht auf der Niveaulinie

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 31

Gradientenfeld von f(x, y) = xy

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 32

Übung Berechnen Sie die Richtung des größten Anstiegs der Funktion f(x, y) = x² - y² im Punkt (1, 1, f(1, 1)) und die Steigung in dieser Richtung.

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 33

Höhere partielle Ableitungen

Die partiellen Ableitungen fx und fy können erneut nach x oder y abgeleitet werden. Zweimalige partielle Ableitung nach x:

 2f fxx  2 x

 2f Einmal nach x und einmal nach y abgeleitet: fxy  xy

Zweimalige partielle Ableitung nach y:

 2f fyy  2 y

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 34

Beispiel

Satz: Die Reihenfolge der partiellen Ableitungen spielt keine Rolle.

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 35

Übung Bestimmen Sie fx, fy, fxy, fyx: (a) f(x, y) = x²y + xy³ + 5xy

(b) f(x, y) = cos(2x)e5y

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 36

5.3 Extrema

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 37

Wdh.: Extrema von f(x)

Erinnerung an Funktionen f(x) einer Variablen: Kriterium für lokale Extrema: • Notwendig: f (xE) = 0 („waagerechte Tangente“) • Hinreichend: f (xE) > 0 („linksgekrümmt“)



Minimum in xE

f (xE) < 0 („rechtsgekrümmt“) 

Maximum in xE

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 38

Extrema von f(x, y): notwendig

Für Funktionen f(x, y) von zwei Variablen gelten analoge Kriterien. Notwendiges Kriterium für lokale Extrema: Wenn eine Funktion f(x, y) an der Stelle (x0, y0) ein lokales Extremum hat, dann gilt an dieser Stelle fx = 0 und fy = 0, also  0  grad( f )  0    0 

Anstelle von f  müssen jetzt also beide ersten Ableitungen fx und fy gleich Null sein. Um mögliche Extrempunkte zu finden, muss daher ein Gleichungssystem mit zwei Gleichungen gelöst werden.

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 39

Hesse-Matrix

Anstelle von f  benötigen wir für das hinreichende Kriterium die vier zweiten Ableitungen: fxx, fxy, fyx und fyy. Diese werden in der Hesse-Matrix zusammengefasst:  fxx H    fyx

fxy   fyy 

Entscheidend für die Art des Extremums ist die Determinante der Hesse-Matrix:  f xx f xy    fxx  fyy  fxy2   det    f yx f yy 

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 40

Übung

Bestimmen Sie die Determinante der Hesse-Matrix von f(x, y) = x²y³. fx =



fxx =

, fxy =

fy =



fyy =

, fyx =

 f xx f xy    fxx  fyy  fxy2   det    f yx f yy 

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 41

Extrema von f(x, y): hinreichend Hinreichendes Kriterium für lokale Extrema: Wenn für eine Funktion f(x, y) an der Stelle (x0, y0) gilt grad(f) = 0, dann liegt in (x0, y0) unter folgenden Bedingungen folgendes vor:  > 0 und fxx > 0

 isoliertes Minimum

 > 0 und fxx < 0  0 und außerdem fxx(0, 0) = 2 > 0 befindet sich in (0, 0) ein isoliertes Minimum.

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 45

2. Beispiel

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 46

Übung Untersuchen Sie folgende Funktion auf Extrema und Sattelpunkte: f(x, y) = 1/3 x³ – x² + y³ – 12y

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 47

Gradientenabstiegsverfahren

Probleme in der Praxis: • Gleichungen lösen, höhere Ableitungen berechnen: oft schwierig, aufwändig, unmöglich • Kriterium liefert manchmal keine Aussage  Ausweg: Numerische Näherung! Gradientenabstiegsverfahren: • auch: „Verfahren des steilsten Abstiegs“, „steepest descent“

• fundamentales Optimierungsverfahren, 1847 von Cauchy vorgestellt • moderne Anwendungen, u. a. in der künstlichen Intelligenz

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 48

Gradientenabstiegsverfahren Ziel: numerische Berechnung eines lokalen Minimums f(x,y)

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 49

Gesucht: Minimum! y

f(x)

?

x

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 50

Startstelle wählen y

f(x)

x0

x

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 51

Steigung berechnen y

f(x)

x0

x

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 52

Richtung und Schrittweite? y

Steigung positiv  nach links gehen  xn+1 = xn – … f(x)

Große Steigung  Min. weit entfernt  große Schritte

x1

x0

x

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 53

Und wieder Steigung berechnen … y

f(x)

x1

x0

x

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 54

Richtung und Schrittweite? y

Steigung positiv  nach links gehen  xn+1 = xn – … f(x)

Kleinere Steigung  Min. näher  kleinere Schritte

x2 x1

x0

x

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 55

Usw. y

Steigung positiv  nach links gehen  xn+1 = xn – … f(x)

Kleinere Steigung  Min. näher  kleinere Schritte

x3x2 x1

x0

x

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 56

Usw. bis Steigung klein genug y

Steigung positiv  nach links gehen  xn+1 = xn – … f(x)

Kleine Steigung  Min. in der Nähe  kleine Schritte

x4x3x2 x1

x0

x

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 57

Gradientenabstiegsverfahren (eindimensional)

• Startwert x0 beliebig wählen • Richtung? Steigung positiv  nach links:

xn+1 = xn – …

Steigung negativ  nach rechts: xn+1 = xn + … • Schrittweite? Große Steigung  Min. weit entfernt  große Schritte Kleine Steigung  Min. in der Nähe  kleine Schritte  Schrittweite proportional zur Steigung! • Iterationsvorschrift:

xn+1 = xn – s  f (xn)

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 58

Beispiel Funktion: Ableitung:

f(x) = x³ – 2x² + 2 f (x) = 3x² – 4x

Wähle:

Startwert: x0 = 2 Schrittweite: s = 0.1

Gradientenabstieg: xn+1 = xn – sf (xn) = xn – 0.1(3xn² – 4xn) Ergebnis der ersten Iterationen: x0 = 2 x1 = 2 – 0.1(32² – 42) = 1.6 x2 = 1.6 – 0.1(31.6² – 41.6) = 1.472

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 59

Taschenrechner-Trick

Der TR speichert xn im ANS-Speicher! xn+1

= xn – 0.1(3xn² – 4xn) = [ANS] – 0.1(3[ANS]2 – 4[ANS] )

TR-Eingabe: 2 = Ans – 0.1  ( 3  Ans ^ 2 – 4  Ans ) =

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 60

Übung

Berechnen Sie ein Minimum der Funktion f(x) = x4 – 4x3 + 2x2 + 4x + 1 mit dem Gradientenabstiegsverfahren (mit x0 = 3 und s = 0.1). xn+1 = xn – sf (xn) = xn – 0.1(4xn3 – 12xn2 + 4xn + 4) Ergebnis: x = 2.4142 Bei Startwert x0 = 0: x = –0.41421

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 61

Programmierung des Gradientenabstiegsverfahrens

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 62

Steuerung der Schrittweite Problem: Divergenz bei zu großer Schrittweite:

Lösung: Solange f(xn+1)  f(xn) Schrittweitenfaktor s verkleinern: while (f(x - s*f_strich(x)) >= f(x)) {s = s/2}

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 63

Weitere mögliche Probleme

a) Finden schlechter Minima c) Oszillation in Schluchten

b) Stillstand bei flachen Plateaus d) Verlassen guter Minima

Kapitel 5: Differenzialrechnung mehrdimensionaler Funktionen

Seite 64

Wie findet der Skifahrer im Nebel zurück ins Tal?