Numerik

LineareGleichungssysteme-NichtlineareGleichungssysteme-Interpolation-Integration Eigenwerte-LineareOptimierung-UnrestringierteOptimierung Numerik
GewohnlicheDierentialgleichungen
MitschriftderVorlesungen NumerikI/II
UniversitatBayreuth imWS94/95undSS95 Prof.Leugering ander von
FehleranderTafelnichtauszuschlieen. StudiumeinschlagigerLiteratur.DasScriptwurdeparallelzurVorlesungerstellt.DabeiwurdegroeSorgfalt DieseMitschrifterhebtkeinenAnspruchaufRichtigkeitund/oderVollstandigkeit.SieistkeinErsatzfurdas aufeine"1zu1\-UbernahmevonderTafelaufPapiergeachtet.TrotzdemsindUbertragungsfehlersowie (w)Mai1996

1LINEAREGLEICHUNGSSYSTEME 1.1Beispiele 1LineareGleichungssysteme 1.Zweipunkt-Randwertproblem 1
u6u00(x)=f(x)8x2(0;1)=
u(0)=u(1)=0 =f0;1g
0 f(x) u(x)
Setzexj=jh,h=1 u
u(xj1)=u(xj)hu0(xj)+h2 n+1,j=0;:::;n+1,x0=0undxn+1=1 2u00(xj)h3 3!u(3)(xj)+h4 4!u(4)(xjjh) 1-x
)u(xj1)+u(xj+1)=2u(xj)+h2u00(xj)+h4 u(xj+1)=u(xj)+hu0(xj)+h2
u(xj1)2u(xj)+u(xj+1) =2u(xj)+h2u00(xj)+h4 2u00(xj)+h3 24u(4)(xjjh)+u(4)(xj++jh)= 12u(4)(xj+jh) 3!u(3)(xj)+h4 4!u(4)(xj++jh)
DamitisteindiskretesProblementstandenundeskannfolgendesGleichungssystemaufgestellt Wirdenierenuj:=u(xj)undfj:=f(xj) Ersetzenvond2 dx2durchdenDierenzenausdruck uj+12uj+uj1 h2 h2 =fjj=1;:::;nu0=0;un+1=0 =h2 12u(4)(xj+jh)+u00(xj)
werden(Matrix).0B@21 121 0121 12... ......1 1201CA0B@u1 un . 1CA=h20B@f1. fn1CA GesuchtsindalsoVerfahrenzurLosungvonlinearenGleichungssystemen.

1LINEAREGLEICHUNGSSYSTEME 2.AuslenkungeinerMembran 2
Xy XXXXXXXXXXXXXXXXXXXXXXXXXXXXXy
u(x;y)
u(x;y)=f(x;y)8(x;y)2=[0;1][0;1]u(x;y)=08(x;y)2 x :
AnlegeneinesGitters:xj=jh,yj=jh,j=0;:::;n+1,h=1 mitu(x;y):=@2 @x2u(x;y)+@2 u(P)=@2 @y2u(x;y)(Laplaceoperator)
=u(W)2u(P)+u(O) @x2u(P)+@2 h2 @y2u(P)= +u(S)2u(P)+u(N) n+1h2qq WO qSPN
Wirdenierenu(xi;yj)=:uijundf(xi;yj)=:fij. )u=(u11;:::;un1;u12;:::;un2;:::;u1n;:::;unn)T,fanalog u(xi;yj)1h2(ui1j+ui+1j+uij1+uij+14uij) h2 12@4 @x4u(P+xPO)h2 12@4 @y4u(P+yPN)
Z.B.j=1:ui11+4ui1ui+11ui0 An:=0B@41 141|{z}
0141 14... =0ui1=fi18i=1;:::;n ......1 1401CAundIn=0B@1 Gleichungssystem: AnundInsindjeweilsnn-Matrizen.Damitergibtsichfolgenden2n2-Matrixfurdaszulosende 0... 11CA 0
A=0B@AnIn InAnIn 0nInAnIn InAn... ......In InAn 0n1CA

1LINEAREGLEICHUNGSSYSTEME 3.Ausgleichsproblem GegebensindMedaten(xi;yi)furi=1;:::;m.GesuchtistdanneinPolynomvomGradhochstens nmmit mXi=1yip(xi)2!minp(x)=anxn+:::+a1x+a0 3
f(a)=mXj=1yinXj=0ajxji2X=xjiij f(a)=kyXak2=
1.2NormierteRaume,Innenproduktraume,etc. DamitergebensichfurdaszulosendelineareGleichungssystemdieMatrizenA=XTXund b=XTy.NachKonstruktionistdieMatrixAsymmetrisch. )rf(a)=XTXaXTy!=0 =kyk2ha;2XTyi+ha;XTXai
K=RoderC Denition1.2.1:
Beispiele: XseieinK-Vektorraum.DieAbbildungkk:X!RheitNorm,falls iii)kx+ykkxk+kyk8x;y2X ii)kxk=jjkxk82K;x2X 1.X=Rn,dannsindzweimoglicheNormen i)kxk>08x2Xnf0g
kxkp= nXi=1jxijp!1pp2[1;1)kxk1=n
Bp=fxjkxkp1g 1@@@ max 11 1 i=1jxij
2.lp=(xi)1i=1jnPi=1jxijp1p

1LINEAREGLEICHUNGSSYSTEME Denition1.2.2: SeiXeinK-Vektorraum.EinSkalarprodukt(inneresProdukt)isteineAbbildungh;i:XX!Kmit ii)hx+y;zi=hx;zi+hy;zi8x;y;z2X i)hx;xi>08x2Xnf0g 4
Beispiele: iii)hy;zi=hy;zi8y;z2X;2K iv)hx;yi=hy;xi8x;y2X 1.X=Cn,dannsindzweimoglicheSkalarprodukte
3.X=C[a;b]: 2.X=lp: hx;yi:=nXi=1xiyihx;yiw=nXi=1xiyiwi;wi>0
hf;gi=b Zaf(x)g(x)dxhf;giw=b hx;yi1=1Xi=1xiyi
Satz1.2.3: Esgilt i)JedeNormiststetig Zaf(x)g(x)w(x)dx
Beweis: ii)AlleNormenaufKnsindaquivalentinfolgendemSinne:Sindp1;p2NormenaufKn,soexistieren i)kxk=kxy+ykkxyk+kyk c;C>0: )kxkkykkxyk )kykkxkkxyk)kxkkykkxyk cp2(x)p1(x)Cp2(x)8x2X
ii)S=fxjp2(x)=1g.DieseMengeistkompaktinKn.p1:S!Ristnachi)stetig.Darausfolgt, dap1(S)ebenfallskompaktist.Somitexistierenc;C>0mit Damitistx p2x p2(x)2S,denn p2(x)=1 p2(x)p2(x)=1)cp1x c:=min x2Sp1(x)C:=max x2Sp1(x) p2(x)=1 p2(x)p1(x)C

1LINEAREGLEICHUNGSSYSTEME Bemerkung: ii)X=l2.en:=(0;:::;0;1;0;:::;0),kenk2=1,aber i)X=C[a;b].DieNormenkk1undkk1sindnichtaquivalent 5
Satz1.2.4: SeiXeinnormierterRaummitSkalarprodukt.Danngilt b)hf;gi=0)kf+gk2=kfk2+kgk2(SatzdesPhythagoras) a)kf+gk2=kfk2+2Rehf;gi+kgk2kenemk2=p28n;m
Beweis: d)kf+gk2+kfgk2=2kfk2+2kgk2(Parallelogrammgleichung) c)angenommenfalsch,dann9f;g:jhf;gij>kfkkgk c)jhf;gijkfkkgk(Cauchy-Schwarz-Ungleichung) 1.Parallelogrammgleichung
Satz1.2.5: SeiF:(X;kk)!(Y;jjjjjj)einelineareAbbildung.Danngilt o.E.kgk=1)jhf;gij>kfk,o.E.hf;gi=1)kfk

1LINEAREGLEICHUNGSSYSTEME Beispiele: 1.Standardsituation:dim(X)=n,dim(Y)=m,f'1;:::;'ngBasisvonXundf vonY.EinelineareAbbildungwirddadurchdeniert,damansieaufderBasiskennt. 1;:::; mgBasis 6
F(x)=F nXi=1xi'i!=nXj=1ximXj=1aji F'i=mXj=1aji i=mXj=1 nXi=1ajixi! i
Denition1.2.6: 2.X=Y=C[a;b],kk1,kk2.Fu(x):=d un(x):=sin(nx))Fun=ncos(nx) dxu(x).D(F)=fujF(u)2C[a;b]g j)F$(aij)ij=:A
Bemerkung: Cheitdie(naturliche)Norm(bzgl.jjjj;jjjjjj)vonF. SeiF:(X;kk)!(Y;jjjjjj)linearundbeschrankt.Dannexistiert jjjF(x)jjj jjxjj=jjjFx C:=sup jjxjjjjj)C=sup x6=0jjjF(x)jjj jjxjj
Beispiele: X=Y=Kn:A2Knn 1. kAxjj1=max inXj=1aijxj0@max inXj=1jaijj1Amax jjxjj=0@max jjxjj=1jjjF(x)jjj
|{z} inXj=1jaijj1A
max iXjjaijj=Xjjakjj=Xjakj^xj=Xjakj^xjkA^xk1kAk1kxk1 ^xj:=(akj 0sonst jakjjfallsakj6=0 Pjjakjjjjxjj1
2. kAk1=maxjPijaijjistdiemaximaleSpaltensummennorm(nochz.z.).
kAk1=maxiPjjaijjistdiemaximaleZeilensummennorm(nochz.z.). kAxk1=XiXjaijxjXiXjjaijjjxjj=XjXijaijjjxjjmax jnXi=1jaijkxk1 |{z} =1=kAk1

1LINEAREGLEICHUNGSSYSTEME 3. kAxk2=Xi0B@Xjaijxj21CAXi0B@0@Xjjaijj21A120@Xjjxjj21A121CA2= 7
=XiXjjaijj2Xjjxjj2=Xi;jjaijj2kxk2 )kAxk20@Xi;jjaijj21A12 |{z}
Frage: Aber:Ix=xIdentitat,dannmufurjedeMatrixnormgelten kIxk kxk=1jedochkIkf=pn6=1 (Frobeniusnorm)kxk2 =:kAkf
WasistdiezureuklidischenNormgehorendenaturlicheMatrixnorm? hermitisch(fallsK=Rsymmetrisch),positivdenit)91:::n0(Eigenwerteiund Eigenelementeui:Aui=iui) U=(u1;:::;un);hui;uji=ij;U1=U: 0kAxk2=hAx;Axi=hAAx;xi(AA)=AA=AA
)hAAx;xi=hAAUUx;UUxi=hDUx;Uxi UAAU=diag(1;:::;n)=D
Satz1.2.7: Wirzeigennoch:kAk2=p(AA)istdieSpektralnorm Danngilt: kAxk2max ijij:=(AA)SpektralradiusvonAA )1kxk2hAAx;xinkxk2
Beweis: 1.kAkseizukxknaturlich,d.h.Ax=x;2(A)=falleEigenwertevonAg,kxk=1 2.IstAhermitesch,soist(A)=kAk2 1.IstkkeinenaturlicheMatrixnormaufKnn,soist(A)kAk8A2Knn 3.8A2Knn8>09kknaturlicheMatrixnormaufKnnmitkAk(A)+
2.Ahermitesch:kAk2=(AA)12=(A2)12=(A)
jj=jjkxk=kAxkkAkkxk=kAk

1LINEAREGLEICHUNGSSYSTEME 3.9P2CnnmitP1AP=J(JordanscheNormalform) J=diag(Ji)2Cnini;Ji=0B@i1 ...... ...1 0 8
deniereD:=diag(1;;2;:::;n1);^J:=D1JD )^Jik=k1 j1Jikalso^J=diag(^Ji)mit^Ji=0B@i 0 i1CA
(Vektornorm) deniereweiter:T=(PD)1regular.FuhrefurdieseeineneueMatrixnormein:kxkT=kTxk 0...... ... 0
kAkT=kTAT1k.WahlekxkT=kTxk1 kAkT=kTAT1k1=kD1P1AP kAkT=sup x6=0kAxkT kxkT=sup x6=0kTAxk kTxk=sup y6=0kTAT1yk kyk i1CA
Denition1.2.8: SeiA2Knnregular.DannistdieKonditionderMatrixAdeniertals =kD1JDk1=k^Jk1=maxjij+jj(A)+ cond(A)=kAkkA1k: |{z} =JDk1=
Bemerkung: 2.SeiA=A:(A1)=A1)kAk2=(A);kA1k2=(A1) 1.Esgilt: 1=kIk=kA1AkkA1kkAk=cond(A) )cond(A)=jmaxj
Beweis:A+S=A(I+A1S): Lemma1.2.9(Storungslemma): SeiA2Knnregular,S2KnnmitkA1kkSk0)kyk kxk

1LINEAREGLEICHUNGSSYSTEME daAx=bund(A+A)(x+x)=b+bgilt.Danngilt: Satz1.2.10: SeiA2Knnregular,A2KnnmitkA1kkAk

1LINEAREGLEICHUNGSSYSTEME Bemerkung1.2.11: zumBeispieln=10: cond2(A)1013 10
1.cond(AB)=kABkkB1A1kcond(A)cond(B) 2.U=U1(unitar))cond2(U)=kUk2kUk2=(UU)12((U)U |{z}
4.Eskannmituntersinnvollsein,einProblemAx=bdurchgeeigneteAbbildungenzutransformieren 3.U;Vunitar: cond2(UAV)=kUAVk2kVA1Uk2=(VAUUAV)12(U(A1)VVA1U)12= =(VAAV)12(U(A1)A1U)12=(AA)12((A1)A1)12=cond2(A) =I)12=1
W2Knnhatrang(W)=1()alleSpaltensindVielfacheseinerSpalteu Produkt)Wx=uvx=hv;xiu;v=u)Wx=hx;uiu 1.3Elementarmatrizen
armatrizenMk,sodaMn1Mn2M1 Denition1.3.1: EineMatrixderFormM=I+uvheitElementarmatrix.Strategie:FindeeineSequenzvonElement- wjistdiej-teSpalte,wj=vju)wij=uivj)W=0@u1 | M{z } A=R,wobeiReineobereDreiecksmatrixist un1A(v1;:::;vn)=uvistdynamisches .
Beachte:(AB)ij=nPk=1aikbkj;(n3AdditionenundMultiplikationen) (I+uv)A=A+uvA=A+u(Av) forj=1ton)MAx=Mb()Rx=^b:
Satz: s=nPk=1akjvk2n2MultiplikationenundAdditionen
SeiA2Knnregular,u;v2Kn.Esgilt:
d.h.MultiplikationmitElementarmatrizenistbilliger fori=1ton bij=aij+uis

1LINEAREGLEICHUNGSSYSTEME 2.Ist1+vA1u6=0,dannist(A+uv)1=A1A1uvA1 1.A+uvregular()1+vA1u6=0 1+vA1u 11
Beweis: 3.det(A+uv)=det(A)(1+vA1u)
2.det(A+uv)=det(A)det(I+A1uv),aberwasistdet(I+A1uv)? 1.und2.:(A+uv)A1u=u+uvA1u=(1+vA1u)u)1+vA1u=0)A+uvsingular.
v?=fxjvx=0g:8x2v?:(I+A1uv)(x)=x)=1ist(n-1)-facherEigenwert Sei1+vA1u6=0:
1.Fall:vA1u=0)=1istn-facherEigenwert(DieDeterminateistdasProduktder (A+uv)A1A1uvA1 (I+A1uv)A1u=A1u+A1u(vA1u)=(1+vA1u)A1u 1+vA1u=I+uvA1uvA1 =I+uvA1uvA1=I 1+vA1uuvA1uvA1 1+vA1u=
Beispiele: Seienu;v6=0;1+vu6=0und(I+uv)1=Iuv 1.Permutationsmatrizen: 2.Fall:vA1u6=0)=1ist(n-1)-facher,und=vA1usinddieEigenwerte. Eigenwerte).
PrsentstehtausderEinheitsmatrix,indemderr-teSpaltenvektormitdems-tenSpaltenvektor vertauschtwird. ei=(0;:::;0;1;0;:::;0)T:Prs:=(e1;:::;er1;es;er+1;:::;es1;er;es+r;:::;en) 1+vu
Prs:=0B@1...0 1... 0...1 1 1 2.Gau(Frobeniusmatrizen):u=(0;:::;0;uk+1;:::;un)T Prs=I(eres)(eres)T;eres=(0;:::;0;1;0;:::;0;1;0;:::;0) PrsAvertauschtsomitdieZeilenrundsinderMatrixA)P2rs=I;PTrs=Prs W=(eres)(eres)T;Wrr=1;Wrs=1 CA
ueTk=0B@0.0 uk+1 uk . 1CA(0;:::;0;1;0;:::;0)=0B@0 0:::0uk0:::0 0:::0uk+10:::0 . 0 . ... ::: 0 0.
. 1CA

1LINEAREGLEICHUNGSSYSTEME Mk=IueTk=0B@1...1 uk+1... 0 12
0 un . ... 11 MkaufeinenVektorxangewandtergibt CAundM1 k=I+ueTk 11eTku |{z}
Mkx=0B@ x1 xk . =0=I+ueTk
xk+1uk+1xk xnunxk . 1CA 3.HouseholdermatrizenPsinddeniertdurch P2x=PPx=x2hx;ui P:=I2uuT kuk2;Px=x2hx;ui kuk2u2hx2hx;ui kuk2u
PspiegeltalsoeinenVektoruanderOrthogonalenvonu. Pu=u2hu;ui =x4hx;ui kuk2u=uundPu?=u? kuk2u+4hx;ui kuk2u=x kuk2u= kuk2u;ui
1.4DasGauscheEliminationsverfahren Problem: EinGleichungssystemAx=bistzulosen.FindeeineSequenzvonElementarmatrizenQkdergestalt,so dagilt:Qn1Qn2Q1A=R,wobeiReineMatrixmitobererDreiecksgestaltist. DurchlaufediePunkte1.und2.furk=1;:::;n: Verfahren: 1.BestimmeeinenIndexr(k)2fk;:::;ngmitar(k)k6=0,z.B.mitHilfederSpaltenpivotsuche: 2.Setzelk:=(0;:::;0;l(k+1)k;:::;lnk)Tundlik:=aik Setze(Ajb):=Pkr(k)(Ajb) jar(k)kj=n M:=IlkeTk
akkfuri=k+1;:::;n max i=kjaikj

1LINEAREGLEICHUNGSSYSTEME undsetze(Ajb):=Mk(Ajb) 13
Mkak=0B@a(k+1)ka(k+1)k ankank a1k akk .
akkakk1 akkakkCA=0B@a1k
akk 0.0. 1CA
regular det(M1Pr(1)1A)=det(A)=ar(1)1det(M1Pr(1)1A)(n1)(n1))(M1Pr(1)1A)(n1)(n1)istwieder Durchfuhrbarkeit: Annahme:Aseinichtsingular)9ar(1)16=0,wirwissenaberdet(M1)=1,det(Pr(1)1)=1) 1;:::;k1entstandensind,bleibenerhalten. d.h.inderk-tenSpalteentstehenNullenunterhalbderDiagonalen.Nullen,dieindenDurchlaufen
Mk=IlkeTk)M1 DieDiagonalstrategiebesagt: Spezialfall"Diagonalstrategie\: (I+lieTi)(I+li+1eTi+1)=I+lieTi+li+1eTi+1+lieTili+1 k=I+lkeTk M1 1M1 2M1 n1=(I+l1eT1)(I+ln1eTn1) ar(k)k=akk
wobeiLeineuntereDreiecksmatrixmitEinsenaufderDiagonalenist)A=LR)Ax=LRx=b: 1.vorwartslosen:L1b=:y,nochzulosen:Rx=y )M1 1M1 2M1 n1=I+n1 Xk=1lkeTk=:L |{z}
2.ruckwartslosen:R1y =0eTi+1
Beispiel: NachderDiagonalstrategie: 11x1 11x2=12
alsErgebnisx2=1undx1=0ausgeben. Ist>0soklein,daderRechner21nurals1abspeichertbzw.11als1,sowirdderRechner DieexakteLosungist x2=21 11)x1=(1x2)1 01121 1
Initialisierung:r(i):=i SkalierteZeilenpivotsuche: si:=max 1jnjaijj

1LINEAREGLEICHUNGSSYSTEME 14
1.Schritt:Wahlej:jar(j)1j
sr(j)maximal
)jar(j)1j
sr(j)jai1j
sifuri=1;:::;n
Tauscher(1)mitr(j)undeliminiere
ar(i)ar(i)1
ar(1)1ar(1);2in
k-terSchritt:Wahlej:ersterIndexmit
jar(j)kj
sr(j)jar(i)kj
sr(j);kin
Tauscher(k)mitr(j)undeliminiere
ar(i)ar(i)k
ar(k)kar(k);k+1in
Beispiel:
EsseifolgendeMatrixAgegeben:
A=0@236
168
3211A)r=(1;2;3)s=(6;8;3)
maxjai1j
si=max26;18;3)j=3
)r(1) r(3))r=(3;2;1)
EliminationdurchBildungvonMultiplikatoren:
ar(i)1
ar(1)1:ar(2)1
ar(1)1=a21
a31=13;ar(3)1
ar(1)1=a11
a31=23
)a213a3=(016323
3)unda123a3=(013320
3)
0B@013320
3
016323
3
3211CAAuullen
!0B@2313
320
3
1316
323
3
3211CA
Wahleausjar(2)2j
sr(2)undjar(3)2j
sr(3)dasMaximum,sr(2)=8,sr(3)=6;jar(2)2j=16
3;jar(3)2j=133)j=3:
Tauschesomitr(2) r(3))r=(3;1;2)undeliminiere
ar(3)2
ar(2)2=a22
a12=16
13)a2+16
13a1=(16323
3)+16
13(133203)=(0
|{z}
"
16
13713)
)0B@2313
320
3
1316
13713
3211CAundP=(Sr(i)j)=0@001
100
0101A

1LINEAREGLEICHUNGSSYSTEME 15
0B@013
3203
007
13
3211CAP
!0B@321
013
3203
007131CA=:R
0B@2300
1316
130
0001CAP
!0B@000
2300
1316
1301CA!0B@100
2310
1316
1311CA=:L
)PA=0@321
236
1681AundLR=0B@100
2310
1316
1311CA0B@321
013
3203
007151CA
)PA=LR
IstalsoAx=bzulosen,soistdasErgebnisdasselbewiebeiPAx=Pb()LRx=Px.Losealso
Ly=PbvorwartsundRx=yruckwarts.
AlgorithmuszumLosenvonLy=Pb:
EssollfolgendesGleichungssystemgelostwerden:
0B@1 0
l21...
.......
ln1 ln(n1)11CA0B@y1
.
yn1CA=0B@br(1)
.
br(n)1CA
fori=1;:::;n
yi (br(i)i1
Pj=1lij
|{z}
=ar(i)jaj);lii=1
fork=1;:::;n1
fori=k+1;:::;n
br(i) (br(i)ar(i)kbr(k))
Somitkonnenwirdenfolgenden(Gesamt-)Algorithmusaufstellen:

1LINEAREGLEICHUNGSSYSTEME Algorithmus:GauverfahrenmitskalierterZeilenpivotsuche inputn;(aij);(bi) fori=1;:::;n/*Initialisierungsphase*/ 16
bestimmejk;sodajar(j)kj fork=1;:::;n1 r(i) s(i) i
fori=k+1;:::;n r(k) max1jnjaijj
z ar(i)k forj=k+1;:::;n r(j) ar(i)j ar(k)k/*Multiplikatorenbestimmen*/ ar(i)kzar(i)jzar(k)j/*Eliminationsphase*/
sr(j)jar(i)kj sr(i)furi=k;:::;n/*Pivotsuche*/
fori=n;:::;1step1 fork=1;:::;n1 xi fori=k+1;:::;n br(i) ar(i)ibr(i)nP 1br(i)ar(i)kbr(k)/*vorwartslosen*/
Satz1.4.1: GegebenseidaslineareGleichungssystemAx=bmitA2Knnregularundb2Kn.Dannistdas GauscheEliminationsverfahrenmitPivotisierung(Spalten,skal."Zeilen\)durchfuhrbarundliefert j=i+1ar(i)jxj
Satz1.4.2: iii)eineobereDreiecksmatrixR iv)einePermutationsmatrixPmitPA=LR. ii)eineuntereDreiecksmatrixLmitlii=1 i)dieLosungx
Beweis:a116=0)1.Schritto.k.)0B@a11a12:::a1n EliminationsverfahrenohnePivotisierungdurchfuhrbarundAbesitzteineL-R-Zerlegung,d.h.A=LR. SeiA=(aij)2Knn;Ak=(aij)i=1;:::;k j=1;:::;kunddet(Ak)6=08k=1;:::;n.DannistdasGausche
06=deta11a12 a21a22=deta11a12 0a1n2:::a1nn1CA 0a122:::a12n .. 0a122=a11a122)a1226=0etc.
.

1LINEAREGLEICHUNGSSYSTEME Bemerkung1.4.3: a11=det(A1)=r11;a122=det(A2) det(A1)=r22;:::;ak1 kk=det(Ak) det(Ak1)=rkk 17
ii)DieL-R-Zerlegung(Doolittle,Crout)isteindeutig,fallsAregular,dennsindL1R1undL2R2zwei i)EinesolcheZerlegungmitlii=18i=1;:::;nheitauchDoolittle-Zerlegung.EineL-R-Zerlegung solcheZerlegungen,d.h.L1R1=L2R2=A mitrii=18i=1;:::;nheitCrout-Zerlegung.
Beweis:Ahermitesch)Akhermitesch.x=(x1;:::;xk;0;:::;0)T undliefertdieDoolittle-Zerlegung. Corollar1.4.4: SeiA2Knnpositivdenit,soistdasGauscheEliminationsverfahrenohnePivotisierungdurchfuhrbar )L1R1R1 2=L2)R1R1 |{z} ODM=L1 2|{z}
UDM)R1R1 1L2 2=L1 1L2=I)R1=R2undL1=L2
1.4.1Tridiagonalmatrizen Denition1.4.5: 01 Problem:FindeeineL-R-ZerlegungA=0B@v1w1
u2...... 0......wn1 unvn1CA 0
L=0B@1 (LR)ij=nXk=1likrkj=min(i;j) l2... 0...... ln11CAR=0B@r1w1 0Xk=1
0...... ...wn1 rn1CA 0
A=LR()v1=r1;vi=liwi1+ri;ui=liri18i=2;:::;n
(LR)i(i1)=liri1(LR)ii=liwi1+ri(LR)i(i+1)=wi ji2;jk+2likrkj=0jijj>1 i

1LINEAREGLEICHUNGSSYSTEME Algorithmus: fori=2;:::;n r1 v1 18
Beachte:Eswurdevorausgesetzt,dari6=0 det(A)=det(LR)=det(R)=r1rn ri li ri1 viliwi1 ui
Satz1.4.6: SeiAtridiagonal(wieobenangegeben)undesgelte
Beweis:0jw1j>0
jrij=jviliwi1j= =jviui juij+jwijjuijwi1 jr1j0 ri1+jwij
u(x;t)seidieTemperaturverteilungzumZeitpunktt.Weitergelte: u(0;t)=0;u(1;t)=g(t);t2(0;T)undu(x;0)=u0(x);x2(0;1);u(0;0)=u(1;0)=0;g(0)=0 ri

1LINEAREGLEICHUNGSSYSTEME r:=t 2(x)2;(1+2r)uij+1rui+1j+1rui1j+1=(12r)uij+rui+1j+rui+1j8i=1;:::;N1 0B@1+2rr r...... ......r 0 19
0=0B@12rr 0r...... r1+2r1CA0B@u1j+1 ......r r12r1CA0B@u1j 0uN1j+11CA=
.
BeispielmitDaten: Seiu0(x)=sin(x);=1undr=t BeiN=20ergebensicht=12(x)2=1;x=1N;t=2
uN1j1CA+0B@0.0 .
i)g(i)08i 200;T=0;125;j=100 N2r(gj+gj+1)1CA
Satz1.5.1: SeiA2Rnnsymmetrischundpositivdenit.DannbesitztAeineeindeutigeZerlegungA=LLTmit einerunterenDreiecksmatrixLundpositivenDiagonalelementen. 1.5Cholesky-Zerlegung ii)g(i)=0j50 1j>50
DaD>0istD12:=(pdii)unddeniere~L:=LD12)A=~L~LT(Eindeutigkeitklar) Berechnung: Beweis:Wirwissenbereits,daAeineeindeutigeL-R-Zerlegung(lii=1)besitzt: LR=A=AT=RTLT)R(LT)1 |{z} (aik)=kXj=1lijlkj=k1 ODM=L1RT |{z} UDM)R(LT)1=D)R=DLT)A=LDLT
Seii>k: Seii=k: akk=k1 Xj=1l2kj+l2kk)lkk=0@akkk1 Xj=1lijlkj+liklkk
lik=aikk1 lkk
j=1lijlkj P Xj=1l2kj1A12

1LINEAREGLEICHUNGSSYSTEME Algorithmus(Cholesky): fork=1;:::;n input(aij);n 20
fori=k+1;:::;n lkk lik sakkk1 lkkaikk1 1j=1l2kj
P
AnzahlMultiplikationen: nXk
Pj=1lijlkj
Atridiagonal:vk=l2kk1+l2kk)lkk=(vkl2kk1)12;lk+1k=wk =1(k1)+k(nk)=12n(n+1)n+n12n(n+1)nXk=1k216n3n>1;d.h.O16n3 f(x)=O(g(x))()9G0:jf(x)j

1LINEAREGLEICHUNGSSYSTEME Alsoist"nur\x=R1 kAxbk2=kQT(Axb)k2=R1 rg(A)=n;A=QR=QR1 0xcd2=kR1xck2+kdk2 0;QTb=cd 21
Idee: ErzeugungorthogonalerVektorenfu1;u2;:::g. 1.6.1DasGram-Schmidt-Verfahren SeiXeinlinearerRaummitinneremProdukth;i.Seienfx1;x2;:::glinearunabhangig.Zielistdie 1czulosen.
Satz1.6.1: u1=x1
DieGram-Schmidt-FolgefukghatdieEigenschaft,daspanfu1;:::;ukg=spanfx1;:::;xkgfuralle Allgemein: uk:=xkPi

1LINEAREGLEICHUNGSSYSTEME Esistaj2spanfb1;:::;bjg.Darausergibtsich haj;bji=hcj+Xi

1LINEAREGLEICHUNGSSYSTEME Algorithmus(Gram-Schmidt): fork=1;:::;n tkk kakk2 23
fork=1;:::;n ak forj=k+1;:::;n aj tkj t1 kkak/*normieren*/
forj=k+1;:::;n dk tkk kakk2 1ajtkjak
haj;aki
tkj d1
Beweis: eineorthogonalemn-MatrixBundeineobereDreiecksmatrixT2RnnmitA=BT. Satz1.6.4: DerobigemodizierteGram-Schmidt-Algorithmus,angewandtaufdiemn-MatrixA2Rmn,erzeugt aj ajtkjak khaj;aki
fork=1;:::;n dk tkk=1 forj=k+1;:::;n a(k+1) tkj j ka(k) kk2 d1 kha(k) a(k) jtkja(k) j;a(k) ki
Beweis:klarfurA(1)undA(2).Angenommen,A(k)seiwahr Behauptung:A(k):min(i;j)

1LINEAREGLEICHUNGSSYSTEME )A(k)istwahr)ha(k) 4.i=k

1LINEAREGLEICHUNGSSYSTEME Beweis: hu;xi=hx;xi+sign(x1)kxk2x1=kxk2kxk2+jx1j=1 Px=x )Px=xu=sign(x1)kxk2e1 kxk2kxk2+jx1juhu;xi 1 25
Satz: ZueinerbeliebigenMatrixA2Rmn;mn,existierteineQ-R-Zerlegung. AlgorithmusQ-R-Zerlegung(allgemein): fork=1;:::;min(n;m1) input(aij)mn
AlgorithmusQ-R-Zerlegung: bestimme~Pk2R(mk+1)(mk+1)mit undsetzePk=diag(Ik1;~Pk);A ~Pk(akk;:::;amk)T=(rk;0;:::;0)T
fork=1;:::;min(n;m1) input(aij)mn;m;n;(bi) PkA
fori=k;:::;m akk ukk uik 0;kakk1 pa;k=1 ukk+sign(akk) kakk1; aik((+jukkj))
i=k;:::;mjaikj max
forj=k+1;:::;n s sign(akk)kakk1 kmPi=1uikaij+u2ik
fori=k;:::;m ss fori=k;:::;m bi kmPi=kuikbi aij bissuik aijsuik
KlassischesAusgleichsproblem(uberbestimmt): 1.7LineareAusgleichsrechnung (P):min x2RnkAxbk2;A2Rmn;b2Rm;mn

1LINEAREGLEICHUNGSSYSTEME Satz1.7.1: SeienA2Rmn;b2Rm.Danngilt 2.L=fxjATAx=ATbg6=0istanerTeilraum 1.^xlost(P)()ATA^x=ATb(Normalengleichung) 26
Beweis: 1.")\f(x):=12kAxbk2;f(x)(P) 3.(P)hateindeutigeLosung()rg(A)=n(mn) 4.rg(A)

1LINEAREGLEICHUNGSSYSTEME 1.7.1DieSingularwertezerlegungeinerMatrix SeienA2Rmn;U2Rmm;V2Rnn;U;Vorthogonal. 27
Bemerkung1.7.2: (Singularwerte). sodaAdieDarstellungA=UVTbesitzt.EinesolcheZerlegungheitSingularwertezerlegungvonA :=(iij)=diag(i)2Rmn =0B@1... 0r01CA 0
2.A=UVT;AT=VTUT)ATA=VT 1.A=UVT;V=(v1;:::;vn);U=(u1;:::;um) Andernfalls,alsofallsmn:Avi=iui8i=1;:::;n fallsm0seiEigenwertvonATA.DannistauchEigenwertvonAATmitgleicherVielfachheit.
Darausfolgtdim(spanfAv1;:::;Avk)g=kunddamitschlielich spanfv1;:::;vkgistOrthonormalbasisfurker(ATAI))AviistEigenvektorzuundAAT. dim(ker(ATAI))=dim(ker(AATI)) hAvi;Avji=hATAvi;vji=hvi;vji=ij AAT(Ax)=AATAx=Ax
Lemma1.7.4: SeiA2Rmngegeben.Esgiltrg(A)=rg(AT)=rg(ATA)=rg(AAT) gonal,sodagilt:ATA=VLVT;AAT=U~LUT;lii=~lii1irg(A)SeienATA;AATsymmetrischundpositivdenit.DannexistierteinU2RmmundV2Rnnortho-
Bemerkung: Beweis:rg(A)=ndim(ker(A))=ndim(ker(ATA))=rg(ATA)

1LINEAREGLEICHUNGSSYSTEME SeiA2Rmn;rg(A)=r: Satz1.7.5(SingularwertezerlegungeinerMatrix): =ij1:::r>0;r+1=:::=n=0;iEigenwertevonATA fv1;:::;vngONSvonEigenelementen)ATAvi=ivi 28
Dannist
Danngilt einONS,daszufu1;:::;ur;ur+1;:::;umgerganztwerdenkannmitAATui=iui;1im. i=pi1irundi=0i=r+1;:::;min(m;n) V=(v1;:::;vn);U=(u1;:::;um);ij=iij ui:=1iAvi;i:=pi;1ir
Beweis: d.h.AbesitzteineSingularwertezerlegung. ATAuj=1jATAAvj=jAvj=juj hui;uji=1ijhAvi;Avji=1ijhvi;ATAvji=j A=UVT
SingularwertezerlegungvonA2Rmn:A=UVT Bemerkung1.7.6: fu1;:::;urgkannwieimSatzangegebenzufu1;:::;umgOrthonormalbasisvonEigenvektorenvonAAT erganztwerden.Avi=iui(i=1;:::;r)undAvi=0(i=r+1;:::;n) ijhvi;vji=ijij
Grundidee: Betrachte:(P)min 1.7.2PseudonormalenlosungenlinearerGleichungssysteme 1.isteindeutigbestimmt 2.Asymmetrisch)i=jij;iEigenwertvonA
EsgelteA=UVT:kAxbk2=kUT(Axb)k2=kVTx x2RnkAxbk2;A2Rmn;b2Rm )~zi:=1idi;i=1;:::;r(furmn:rg(A)=n;r=n) ~x=V~z= nXk=1vik~zk!i= rXk=11kdkvik!i+ |{z} zUTb |{z} dk2
L=fx2Rnjxlost(P)g=^x+ker(A)^x=rXk=11kdkvk
2ker(ATA)=ker(A) |{z} k=r+1~zkvik!i nX

1LINEAREGLEICHUNGSSYSTEME Denition: EinVektorx+heitPseudonormalenlosungdesProblems(P)(bzw.Ax=b),wennkx+k2kxk2fur DerVektor allex2L Folgerung1.7.7: 29
istPseudonormalenlosungdesProblems(P). Beweis: k~xk2=k^x+nX i=r+1zivik2=k^xk2+nX ^x=rXi=11idivi
Bemerkung1.7.9: Dieseistcharakterisiertdurchx+2L\ker(A)? Satz1.7.8: EsgibtgenaueinePseudonormalenlosungx+desProblems(P). i=r+1jzij2kvik2k^xk2
1.DiePseudonormalenlosungx+von(P)istdieLosungvon(P)mitminimalerNorm.
1.7.3DiePseudoinverse 3.mn:rg(A)=n=rg(ATA);ATAx=ATb)x=(ATA)1ATb;Ainjektiv,(ATA)1ATist 2.m

1LINEAREGLEICHUNGSSYSTEME Beweis: 1.Existenz:A=UVT;B:=V~UTmit~=(iij)2Rnm i:=1ii6=0 0sonst 30
~=0B@1 0...r01CA0B@11 0 0...1r001CA=0B@1 0...10 Analogzeigtman,daBA=(BA)TundBAB=B. Eindeutigkeit:ChabedieselbenEigenschaftenwieB: ABA=UVTV~UTUTVT=U~=UVT=A AB=UVTV~UT=U~UT=(U~UT)T=(AB)T01CA
2.b2Rm B=BAB=BABAB=BBTATAB=BBTATAC= =BACAC=BAATCTC=ATBTATCTC=
)P2=A+AA+ |{z} )A+=V~UT=V+UT;P:=A+A;PT=P Bb=V~UTb=rXi=11i(UTb)ivi=A+b)B=A+ =ATCTC=CAC=C
=A+A=A+A=PundP=AA+;PT=P;P2=P)P;PsindOrthoprojektoren. im(P)=ker(P)?;ker(P)=ker(A+A)ker(A)=ker(AA+A)ker(A)
Esgilt Folgerung1.7.12: analogfurP: im(P)=im(AA+)im(A)=im(AA+A)im(AA+))im(P)=im(A) )ker(P)=ker(A))im(P)=ker(A)?
Bemerkung1.7.13: 1.(a)n=m:rg(A)=n=m)A+=A1 (b)mn:rg(A)=n;Ainjektiv)ker(A)=f0g ker(A)?=Rm;A+A=I;A+istLinksinverse,A+=(ATA)1AT (A+)+=A;(A+)T=(AT)+
(c)m

1LINEAREGLEICHUNGSSYSTEME 31
2.Imallgemeinengilt:(AB)+6=B+A+
Beispiel:
SeienAundBwiefolgtgewahlt:
A=B=11
00)ATA=11
11undAAT=20
00
DamitergebensichfurdieSingularwerte1=p2und2=0undalsEigenvektorenvonATA:
v1=p2
2(1;1)T;v2=p2
2(1;1)T
ATAvi=ivi)u1=1p211
000:5p2
0:5p2=10
u2darfhierfreigewahltwerden,ambestenmanerganztu1zueinerOrthonormalbasis)u2=(0;1)T.
DamitergibtsichalsSingularwertzerlegungvonA:
A=p2
210
01p20
0011
11
)A+=p2
211
11 1p20
0010
01=p2
2 p210
p210!=1210
10
(A+)2=1410
1010
10=1410
10=B+A+
A2=11
0011
00=11
00=A
DamitergibtaberfolgendeUngleichung:
1410
10=(AB)+=(A2)+=A+=1210
10
HiermitistalsoeinBeispielfurdieBemerkung1.7.132.gefunden,wogilt(AB)+6=B+A+.
1.7.4StorungenvonGleichungssystemen
Ax=b;A2Rmn;b2Rm;x+Pseudonormalenlosung.
BetrachtedieStorungb:A(x++x)=b+b
)(x++x)=A+(b+b)=x++A+b)x=A+b
Esgilt:
A+(A+)T=V+UTU(+)TVT=Vdiag(2
1;:::;2
r;0;:::;0)VTund(A+(A+)T)=2
r
)kA+k2=1
r)kxk2kA+k2kbk2=1rkbk2
Damitergibtsichkx+k2=krXi=11i(UTb)ivik2=rXi=1121d2i121rXi=1d2i=121krXi=1diuik2

1LINEAREGLEICHUNGSSYSTEME Damithangtzusammen AA+b=U+UTb=Udiag(1;:::;1;0;:::;0)UTb= =U0B@(UTb)i=1;:::;r 0.01CA=rXi=1(UTbi)ui=rXi=1diui 32
Denition1.7.14: SeiA2RmnmitA=UVT.Dannheitcond2(A):=1r dieKonditionvonA.DieseDenitionstimmtfurquadratischeMatrizenmitderfruherenuberein. kx+k2121kAA+bk2;kxk2 kx+k21rkbk2 kAA+bk2
Beispiel: Seimit=0:1folgendeMatrixgegeben: 1.7.5VerbesserungderKonditionundRegularisierungvonlinearenGleichungssystemen
Resultat:DieNormalengleichungensindi.a.vielschlechterkonditioniertalsdieMinimierungsaufgabe. DeshalbstelltsichhierdieFrage,wiedieKonditionverbessertwerdenkann. A=0B@111 00 001CA)cond(A)17:35;ATA=0@1+20 00 )cond(ATA)301und11:7349;2=0:1;3=0:1 001+20 01+21A 0
EineMoglichkeit:SeiA=UVT,denieredann Esgilt:A+A=(A+A)T;AA+=(AA+)T;A+AA+=A+ Aberimallgemeinengilt:AA+A6=A: DenieredieeektivePseudoinversealsA+:=U+VT +=(iij)imiti=1ii 0sonst
auchHammerlin/Hofmann,Seite94.). BetrachteAx=b;bnichtexaktbekannt: Tychonov-Regularisierung EineweitereMoglichkeit,dieKonditionzuverbessern,istdieTychonov/Regularisierung(siehehierzu ImobigenBeispielergibtsichfur=0:1:cond=1. kAA+AAk=kU+VTUVTk=kU(+)VTk=k+k
Ax=~bmitkb~bk;k~bk>

1LINEAREGLEICHUNGSSYSTEME Damitistzulosen: DeniereC:=fxjx2Rn:kAx~bkg,dieseMengeistkompakt. kk2:C!Rstetig,d.h.esexistierteinMinimalwert~x (P):k~xk2=infkxk2x2Rn:kAx~bk 33
Angenommen~x:kA~x~bk |{z} =:~

1LINEAREGLEICHUNGSSYSTEME Beispiel: ZulosenAx=b A=hilb(15)=1 i+j1i;j1i;j15b=nXi=11 i+j1)xi=18i=1;:::;n 34
AlsrelativeFehlerergebensichmitdeneinzelnenVerfahren 4.Tychonov-Regularisierung(=0:61013):3:59104 5.Pseudoinverse:0:0002 3.Normalengleichung(=0):7:32 1.Doolittle:3:34
6.eektivePseudoinverse(108):4:5105
2.GauverfahrenmitPivotisierung:3:2

2NICHTLINEAREGLEICHUNGSSYSTEME 2NichtlineareGleichungssysteme GegebenisteineFunktionf:Rn!Rn.Gesuchtsinddie^x2Rnmitf(^x)=0.DielinearenFallesind dieFunktionenf(x)=Axb. AnsatzzueinerStrategie: 35
UnsereErwartungist:xk!^x Beispiel: GesuchtistdieWurzelvona,d.h.f(x)=x2a.Deniere: F(x):=12x+axxk+1=12xk+axk xk+1=F(xk);k=0;1;2;:::
Newton-Verfahren: f(x)=x2a;y=f(xk)+f0(xk)(xxk)!=0()x=xkf(xk) )^x=12^x+a^x()^x2=12^x2+12a()^x2=a
Probleme: 1.ExistierteineLosung^x:f(^x)=0? 2.WiebestimmtmanzugegebenemfeineIterationsfunktionFderart,daF(^x)=^x? |{z} F(xk)=xk+1 f0(xk)
3.UnterwelchenVeraussetzungenanf;Fkonvergiertdiedurchxk+1=F(xk)denierteFolgegegen
X=(Rn;kk);F:DX!X,sodagilt Satz1.1(BanachscherFixpunktsatz): 2.1Konvergenzsatze 4.Wieschnellkonvergiertxkgegen^x? ein^x?HangtdieKonvergenzvonderWahldesStartwertesx0aboderistsiedavonunabhangig?
Danngilt: iii)9L2(0;1):kF(x)F(y)kLkxyk8x;y2D(FisteineKontraktionaufD) ii)F(D)D 1.fxkgmitxk+1=F(xk)8k2N0konvergiertfurjedesx02Dgegen^x2D:F(^x)=^x i)D6==0abgeschlossen
2.A-priori-Abschatzung: (^xisteindeutigerFixpunktvonF) kxk^xkLk 1Lkx1x0k8k

Beweis: 2NICHTLINEAREGLEICHUNGSSYSTEME 3.A-posterior-Abschatzung:kxk^xkL 1Lkxkxk1k8k 36
1.(a)Existenz:x2D;F:D!D)xk2D8k z.z.:xkisteineCauchy-Folge,d.h.8>09N(),sodafurallel;kN()gilt:kxkxlk kxlxkk=klk kxp+1xpk=kF(xp)F(xp1)kLkxpxp1k:::Lpkx1x0k Xi=1Lk+i1kx1x0kLk lk Xi=1xk+ixk+i1 |{z} Teleskopsummeklk Xi=1kxk+ixk+i1k
(b)Eindeutigkeit:kx^xk=kF(x)F(^x)kLkx^xk Dabgeschlossen)xk!^x2D;F:D!Dstetig)F(^x)=^x =Lk 1Lkx1x0k!0(k!1))fxngistCauchy-Folge 1Xi=0Li!kx1x0k=
3.k2Nfest,y0:=xk1;y1:=F(y0)=F(xk1)=xk 2.DieNormiststetig: )kxk^xk=ky1^xkL kxkxlkl!1 )(1L)kx^xk0)x=^x;da1L>0 !k^xxkkLk 1Lky1y0k=L 1Lkx1x0k
DX;D6==0konvexundkompakt,F:D!Dstetig.DannbesitztFeinenFixpunkt. Satz1.1gilt(auch)inallgemeinerenSituationen,z.B.(X;kk)Banachraum,(X;d)vollst.metrischer Bemerkung1.2: Satz(BrowerscherFixpunktsatz): Raum. 1Lkxkxk1k
Umgebungvon^x.FurdenSpektralradius(F0(^x))derJacobimatrixF0(^x)=xjFi(^x)gelte(F0(^x))0beliebig.q:=(F0(^x))+2

SetzeD:=B(^x).NachdemMittelwertsatzgilt: 2NICHTLINEAREGLEICHUNGSSYSTEME 2.kF0(x)F0(^x)k

2NICHTLINEAREGLEICHUNGSSYSTEME MitD=IgibteseineUmgebungvon^xaufderderAbstandzwischen^xundF(x)vergroertwird. 38
F(x0) 66
-
hinreichendeundjF0(^x)j1notwendigeBedingungdafur,da^xattraktivist. IstF:R!RmitF(^x)=^xineinerUmgebungDvon^xstetigdierenzierbar,soistjF0(^x)j0gibt (p=1:c2(0;1))mitkxk+1^xkckxk^xkp8khinreichendgro
Beweis:9:I=[^x;^x+];F2Cp+1(I)(d.h.Fistp+1-malstetigdierenzierbar) Satz2.2: F:R!R;F(^x)=^x.Fseip+1-malstetigdierenzierbarineinerUmgebungU(^x).IstF(i)(^x)=0 xk+1=F(xk);k2N;x0"hinreichendnahebei^x",mindestensvonp-terOrdnung. furi=1;:::;p1(fallsp2)oderjF0(x)j

2NICHTLINEAREGLEICHUNGSSYSTEME Beispiel: 1.f(x)=x2a;F1(x)=12(x+ax))F01(x)=12(1ax2);F01(pa)=0 F00 1(x)=ax3;F00 1(pa)6=0)mindestensquadratischeKonvergenz 39
2.F(x):=x(2ax))Fixpunktx=1a,mind.quadratischeKonvergenz 3.F(X)=X(2IAX);^X=A1,Aregular. F2(x);F3(x)habenmindestenskubischeKonvergenz. F1(x):=x(1+(1ax)+(1ax)2)hatmind.kubischeKonvergenz F2(x):=14(x2+a)2+4ax2 x(x2+a) F3(x):=x(x2a)2 (x+(x2a))2x2
Problem: Gegeben:f:Rn!Rn.Finde^x2Rnmitf(^x)=0 Zunachstfurn=1: 2.3DasNewton-Verfahren
2.BestimmedieTangentean(xk;f(xk)) 1.SeixkNaherungan^x
Analyse:F(x)=xf(x) 3.xk+1=xkf(xk) Setzey!=0undxk+1=x f0(xk)=:F(xk) f0(x);F:R!Ry=f(xk)+f0(xk)(xxk)
DerFalln>1:DieIdeeist,damanf:Rn!RndurchdielineareFunktionf0(^x)approximiertund mindestensquadratisch. daslineareProblem0=f(xk)+f0(xk)(x^x)()f0(xk)x=f(xk)+f0(xk)xk Fallsf0(x)6=0:F0(x)=0,d.h.daseindimensionaleNewton-Verfahren(n=1)konvergiertdaher F0(x)=1f0(x) |{z} f0(x) =1+f(x) f0(x)2f00(x)
lost(z.B.mitdemGau'schenEliminationsverfahren) undf0(^x)regularist.SeikkeinebeliebigeNormaufRnmitzugehorigerMatrixnorm.Danngilt
Satz3.1: Seif:Rn!Rnmitf(^x)=0.SeiU(^x)eineUmgebungvon^x,soda @xj2C(U(^x))8i;j2f1;:::;ng @fi

2NICHTLINEAREGLEICHUNGSSYSTEME 1.9>0,sodafurallex02B(^x)xk+1=xkf0(xk)1f(xk) superlineargegen^xkonvergiert. 40
Beweis:Wahle1>0derart,daB1(^x)U(^x)und 2.Istf0furein>0aufB(^x)lipschitz-stetigin^x,d.h. dannkonvergiertdieNewtonfolgexk+1=xkf0(xk)1f(xk)mindestensquadratischgegen^x. kf0(x)f0(^x)k 9L:kf0(x)f0(^x)kLkx^xk8x2B(^x);
1.a)f0(x) |{z} A6=B=f0(^x) Aregular+f0(x)f0(^x) |{z} |{z} BkA1kkBk=kf0(^x1kkf0(x)f0(^x)k12 2kf0(^x)1k8x2B1(^x) 1
b)Da()1:Rnn!Rnnstetigist,gilt )f0(x)regular)x2B1(^x) DamitgiltmitdemStorungssatz: A+Bregularundk(A+B)1k kA1B1k=kA1(AB)B1kkA1kkB1kkBAk 1kA1kkBk |{z} kA1k12
2kf0(^x)1k
Damitergibtsichkf0(x)1f0(^x)1k2kf0(^x)1k2kf0(x)f0(^x)k BetrachteF:Rn!Rn;F(x):=xf0(x)1f(x)alsIterationsfunktion F(x)^x=xf0(x)1f(x)^x= =x^xf0(x)1f(x)f(^x)
f(x)f(^x)f0(^x)(x^x)=1 =f0(^x)1f0(x)1f0(^x)(x^x)+f0(x)1f0(^x)(x^x) f0(x)1f(x)f(^x) Z0hf0(^x)+t(x^x)f0(^x)idt(x^x) |{z} =0=
AlsogiltkF(x)^xk 2kf0(^x)1k2kf0(x)f0(^x)kkf0(^x)kkx^xk+

2NICHTLINEAREGLEICHUNGSSYSTEME =2kf0(^x)1knkf0(^x)1kkf0(^x)kkf0(x)f0(^x)k+ +2kf0(^x)1k1 Z0kf0(^x)+t(x^x)f(^x)kdtkx^xk= 41
LineareKonvergenz:Daf0stetigin^xex.ein2[a;b]mit(x)128x2B(^x) )kF(x)^xk12kx^x2k28x2Bx(^x) =:(x)kx^xk +1 Z0f0(^x)+t(x^x)f(^x)dtokx^xk=
Betrachtejetztxk+1=F(xk)
2.Esgilt: )superlineareKonvergenz,daf0stetigin^x d.h.esliegthiermindestensquadratischeKonvergenzvor. )kxk1^xk=kF(xk^x)kkxk^xk:::12kkx0xmk
kF(x)^xk=Mkx^xk2)xk!^xmitmind.quadratischerKonvergenz (x)2Lkf0(^x)1kcondf0(^x)+1kx^xk=:Mkx^xk (^xk)!0(k!1)
Bemerkung3.2:
Vereinfachungen: 2.DerAufwandbeimNewton-Verfahrenistgro,wenninjedemSchrittdieJacobi-Matrixnumerisch 1.Satz3.1isteinlokalerKonvergenzsatz,d.h.ohneKenntnisderNullstelle^xkannB(^x)(Gebietder rungenangewiesen.KonvergenzausSatz3.1)imallgemeinennichtbestimmtwerden.ManistalsoaufAnfangsnahe- 1.Ersetzef0(xk)1durcheinefesteMatrixB1,z.B.B=f0(x0)unditerieremitderkonstanten bestimmtwerdenmu.
2.xk+1=xk+pk)Newton-Verfahren:pk:f0(xk)pk=f(xk)(Newtonrichtung) DieAlternativebestehtdarin:Bestimmepkso,da (lokallineareKonvergenz,fallsx0nahebei^x) Matrix(vereinfachtesNewton-Verfahren)
kf(xk)+f0(xk)pkkkkf(xk)kk2(0;1);>0 xk+1=xkB1f(xk)
Konvergenzerhalten.NachzulesenbeiBrown,SIAMJ.Num.Anal.(1987),(24),407-432.
InexakteNewtonverfahren(mind.lineareKonvergenz.Furk!0kannmansogarsuperlineare

NachteiledesNewton-Verfahrens: 2NICHTLINEAREGLEICHUNGSSYSTEME 2.4Quasi-Newton-Verfahren BerechnungderJacobimatrix(fallsnichtanalytischgegeben) 42
Problem: GesuchtsindVerfahren,dieeineBerechnungderJacobimatrixvermeidenunddadurchsuperlinearkonvergieren. Ansatz: LosungeinesGleichungssystemsinjedemSchritt
Wirerwarten,daBkf0(xk). Satz4.1: SeifwieinSatz3:1gegeben.SeiBk2RnneineFolgeregularerMatrizenundxk+1=xkB1 konvergieregegenein^x;xk6=^x8k.Dannsindaquivalent xk+1=xkB1 kf(xk)
2.xk!^xsuperlinearundf(^x)=0. 1.Esgilt k!1k(Bkf0(^x))(xk+1xk)k lim kxk+1xkk =0 kf(xk)
Beweis: 1.)2::SeiNsogro,daxk2U(^x)8kN: f2C1(U(^x));xk6=^x)xk+16=xk
Damitfolgt: (Bkf0(xk))(xk+1xk)=f(xk)f0(xk)(xk+1xk)= =f(xk+1)f(xk)f0(xk)(xk+1xk) =1 | Z0(f0(xk+t(xk+1xk))f0(xk)dt(xk+1xk)f(xk+1) MWS {z } f(xk+1)=
)89K(),sodafurallekKgilt: kxk+1xkkk(Bkf0(xk))(xk+1xk)k kf(xk+1)k kxk+1xkk |{z} !0 +1 Z0kf0(xk+t(xk+1xk))f0(xk) Nochzuzeigen:superlineareKonvergenz:f(^x)=0.DanngiltmitdemMWS: |{z} kf(xk+1)k !kf(^x)kkxk+1xkk |{z} !0|
!0(k!1) {z } kdt
f(xk+1)f(^x) |{z} =0=f(xk+1)=1 Z0f0(xk+1+t(xk+1^x))dt | =:Gk+1 {z } (xk+1^x)

2NICHTLINEAREGLEICHUNGSSYSTEME MitA:=f0(^x);B:=Gk+1f0(^x))A+B=Gk+1 Damitgiltfurgroek: )f(xk+1)=Gk+1(xk+1xk)Gk+1!f0(^x) kf0(^x)1kkGk+1f0(^x)k12 43
Damitgilt DamitgiltnachdemStorungssatz,daA+B=Gk+1regularistundkG1 kA1kkBk12

Beispiel:Bk=(b1k;:::;bnk);bjk:=f(xk+hkej)f(xk) 2NICHTLINEAREGLEICHUNGSSYSTEME Esgilt:limk!1kBkf0(^x)k=0isthinreichendeBedinungfur1.ausdemSatz4.1. Bemerkung4.2: hk ;j=1;:::;n;hk!0 44
Dieslegtnahe:
Seinunn=1: 2.BestimmeeinUpdatevonBk,d.h.ndeBk+1 1.Berechnexk+1=xkB1 heitdannQuasi-Newton-Gleichung. kf(xk) Bk+1(xk+1xk)=f(xk+1)f(xk)
xk+2=xk+1B1 k+1f(xk+1)=xk+1xk+1xk Bk+1=f(xk+1f(xk) xk+1xk
Satz4.3: Seif2C2[a;b];^x2(a;b)einfacheNullstellevonf.Danngilt: Sekantenverfahren: xk+1=xkxk1xk f(xk1)f(xk)f(xk) f(xk+1)f(xk)f(xk+1)
Beweis::=max[a;b]jf00(x)j;>0so,da 9>0:I:=[^x;^x+][a;b];8x0;x12Igilt:
1.Behauptung:12jf0(^x)jjf0(x)j8x2I 9fckg;ck2R+;ck!0vonderOrdnung=1+p5 xk+1=xkxkxk1
jf0(^x)jjf0(x)jjf0(^x)f0(x)jj^xxj f(xk)f(xk1)f(xk)2I8k 12jf0(x)j 2mitjxk^xjck8k
2.Behauptung:jxk+1^xj12jxk^xj8xk2I Angenommen:xk1;xk2I;xk16=xk: xk+1^x=xk^xxkxk1 f(xk)f(xk1)f(xk)= 12jf0(x)j
MWS =(xk^x)f(xk)f(xk1) =(xk^x)1 =(xk^x)1 f0(k)f(xk)f(xk1) f0(k)1 f(xk)f(xk1)(xkxk1)f(xk) Z0f0(xk1+t(xk1xk))f0(^x+t(^xxk))dt
xkxk1f(xk)f(^x) (f(xk)f(xk1))(xk^x)= xk^x=

2NICHTLINEAREGLEICHUNGSSYSTEME jxk+1^xj=jxk^xj2 jxk^xj2 jf0(^x)j1 jf0(^x)jjxk1^xj Z0jxk1^x+t(xk1^x)jdt= |{z}12 45
d.h.esliegtsuperlineareKonvergenzvor. xk!^x;c:=jf0(^x)j.Damitfolgt c=jf0(^x)j12;jxk+1^xjcjxk^xjjxk1^xj 12jxk^xj
Setzee=max(e0;e1).Danngilt Setzef0=1;f1=1undfk+1=fk+fk1.Danngilt e2e0e12;e3e1e23;:::;ekfk ek=cjxk^xj)ek+1ekek1
Nochzuzeigen: Beweis: ck+1 ckcund:=12(1+p5) ck+1 jxk^xj1cfk
ck=1cfk+1 1cfk=fk+1fk |{z} =:ck8k
Bezeichnung: x+=xB1f(x);x+$xk+1 Rang-1-VerfahrennachBroyden fk=1 p5(k+1()k+1)(zeigedurchInduktion)
Problem:BestimmeB+$Bk+1)lim
k!1fk+1fk=0)Beh.
Ansatz: B+isteineRang-1-KorrekturvonB:B+=B+uvTmitu;v2Rn Wirwissen:IstBregular,dannistB+genaudannregular,wenn:=1+vATB1u6=0 IndiesemFall: B1 +=B11B1uvTB1

Setzes:=x+x;y:=f(x+)f(x) 2NICHTLINEAREGLEICHUNGSSYSTEME u;vmussensobestimmtwerden,dadieQuasi-Newton-Gleichungerfulltist B+(x+x)=f(x+)f(x) 46
Seiv2Rnmithv;si=1: u:=yBs=y+BB1f(x)=f(x+)6=0,sonststop(fertig) B+s=y()(B+uvT)s=Bs+hv;siu=y
Denierenun v:=s hs;vi=hs;s B+s=Bs+u=f(x+)f(x)=y L=fvjhv;si=1k=s ksk2)B+=B+(yBs)sT ksk2i+hs;pi |{z} =0=1;p2s? ksk2+s?
Also WirtestennunaufInvertierbarkeit: =1+vTB1u=1+sT sTsB1(yBs)=sTB1y sTs
Istfhinreichendglatt(d.h.dieVoraussetzungenvonSatz3.1)ineinerUmgebungderNullstelle^xund Satz4.4(ohneBeweis): seif0(^x)regular,soistdasBroyden-Verfahren(Rang-1-Verfahren)lokalsuperlinearkonvergent(Broyden B1 +=B1+(sB1y)sTB1 sTB1y sTs6=0
C.G.,MathematicsofComputation(24),(1970)365-382). Esgilt:det(B+)=det(B).FallsalsojsTB1yjsehrkleinist,modiziertman B+=B+(yBs)sT sTs )det(B+)=j1+sTB1y
EsseieinPolynompn(x)2R[x]gegeben: 2.5NullstellenvonPolynomen =1jsTB1yj0:1sTs 0:8jsTB1yj

2NICHTLINEAREGLEICHUNGSSYSTEME xa0=b0b1=b0x+a1 a0 b0x a1 b1x:::bn3xbn2xbn1x a2:::an2an1an :::bn2bn1bn=pn(x) 47
xc0=b0Algorithmus: inputa0;:::;an; c0x c1 (2-stugesHorner-Schema) :::cn2cn1 :::cn3xcn2x
b0 a0;c0 a0 =p0n(x)
forj=1;:::;n1
Wirhaben outputb0;:::;bn;c0;:::;cn1 bn cj bj an+bn1 aj+bj1 bj+cj1
denn(x)0@n1 |{z} Xj=0bjxnj11A =:pn1(x)+bn=n1 pn(x)=nXj=0ajxnj!=(x)0@n1 Xj=0bjxnjn1 Xj=0bjxnj11A+bn
=a0xn+nXj=1bjxnjbnnXj=1bj1xnj+bn= Xj=0bjxnj1+bn=
Resultat: MankannmitdemzweistugenHorner-SchemadasNewton-VerfahrenfurPolynomeimplementieren. Frage: pn()=bn;p0n(x)=pn1(x)+(x)p0n1(x))p0n()=pn1()=cn1 =a0xn+nXj=1(bjbj1)xnj=pn(x)
WiesiehtdiesmitkomplexenNullstellenaus? Problem:pnreell,z2CNullstelle)p(z)=0;p(z)=0 pn(x)=(xz)(xz)pn2(x)=(x22s |{z} =:ux+st+t2 |{z} v)pn2(x)=(x2uxv)pn2(x)

2NICHTLINEAREGLEICHUNGSSYSTEME Bairstow-Verfahren: Sei(u;v)so,da(x2uxv)eineNaherungandenexaktenquadratischenFaktorvonpn2(x). Gesucht:u;v2Rderart,daeseinesolcheZerlegunggibt. pn(x)=(x2uxv)~pn2(x)+bn1(xu)+bn 48
AllebjsinddabeiFunktionenvon(u;v).Genaudannsindu;vdieKoezientendesexaktenFaktors, wennbn1(u;v)=0;bn(u;v)=0(Newton-Verfahrenanwenden). 0@@bn1 @u@bn1 pn2(x)=b0xn2+:::+bn3x+bn2
pn(x)=(x2uxv)(b0xn2+:::+bn3x+bn2)+bn1(xu)+bn Algorithmus: @bn @u@bn @v @v1A(u;v) (u;v)+=(u;v)(;) =bn1(u;v) bn(u;v)
b0 inputa0;:::;an2R;a06=0;(u;v)
c0 ifjbnj+jbn1j

2.6IterativeLosungsverfahrenbeilinearenGleichungssystemen 2NICHTLINEAREGLEICHUNGSSYSTEME )A=cn2cn3 cn1cn2undA1=cn2cn3 cn1cn2 49
Ansatz: Problem:Ax=b;Aregular.GesuchtsindIterationsverfahren.
DiesergibtsomitdieIterationsvorschrift Ax=b()Bx+(AB)x=b A=B+(AB);Bregular
Satz6.1: GegebenseidasGleichungssystemAx=b;A2Cnnregular,b2Cn.BetrachtedasIterationsverfahren xk+1:=(IB1A)xk+B1b(?) ()x+(B1AI)x=B1b
mitregularerMatrixB2Cnn.Danngilt:
Beweis: 2.SeikkeineNormaufCnmitzugehorigerMatrixnorm,seiL:=kIB1Ak

2NICHTLINEAREGLEICHUNGSSYSTEME Gegeben:A2Cnnregular,A=AD+AL+AR AD=diag(aii);AL=aiji>j 0sonst;AR=aiji

2NICHTLINEAREGLEICHUNGSSYSTEME IB(!)1A=I1!AD+AL1(AD+AL+AR)= B(!)xk+1i=(B(!)A)xki+bi =1!AD+AL11!AD+ALADALAR= =(AD+!AL)1(1!)AD!AR=:E(!) 51
1!aiixk+1 i+i1 Xj=1aijxk+1 Denition6.2: xk+1 j=1!1aiixkinX
A2Cnnheit Oenbaristfur!=1dasVerfahrengleichdemEinzelschrittverfahren(E(!)=E). i=xki+!aiibii1 Xj=1aijxk+1 j=i+1aijxkj+bi
1.striktdiagonaldominant,fallsnXj=1
jnX j=i+1aijxkj
2.schwachdiagonaldominant,falls j6=ijaijj(jaiiji=1;:::;n =1 nXj j6=ijaijj

2NICHTLINEAREGLEICHUNGSSYSTEME Damitgiltfuri2N1: )aij=08(i;j)2N1N2.DiesistabereinWiderspruchzurIrreduzibilitat. j6=ijaijj0)aij=08j=1;:::;n nXj=1 52
InbeidenFallenistdasGesamtschrittverfahrenwohldeniert: G=A1
x6=0;Gx=x;kxk1=1;N1:=fi2Njjxij=1g6==0. Damitgiltfur1.:kGk1

2NICHTLINEAREGLEICHUNGSSYSTEME 1fi 6AAAAAAAAAAAAAA
@@@@@@@@@@@@@@ QQQQQQQQQQQQQQQQQQQQQ
f1 f2
53
11 1 12 1 1n 1-!
fn
Satz6.5: SeiA2Cnnpositivdenit.DannkonvergiertdasSOR-Verfahrenfuralle!2(0;2).Beweis: )!opt2h1 11;1 A=AD+AL+AL 1nif1(!opt)=fn(!opt)
DaApositivdenit,ist6=1. A=B(!)+(AB(!));B(!)=1!AD+AL; E(!)x=(IB(!)1A)x=x()Ax=(1)B(!)x |{z}
1=hx;B(!)xi 1 hx;Axi =AR 2(E(!))
Seidargestelltdurch:=+i 2Re1 10>1

3Interpolation 3INTERPOLATION 3.1InterpolationdurchPolynome 54
sinddiePolynomemitGradkleinergleichn. GegebensindsogenannteStutzstellenx0;x1;:::;xnmitxi6=xjundStutzwertey0;y1;:::;yn.Gesucht Interpolationsproblem(IP): isteinPolynompn2Pndergestalt,dap(xi)=yi8i=0;:::;n Satz1.1: Pn:=np(x)=nXi=0aixijai2K;K=RoderCo
DasInterpolationsproblem(IP)besitztgenaueineLosungpn2Pnundpnhatdiefolgendesogenannte Lagrange-Darstellungpn=nXi=0yiLi(x)mitLi(x)=nYj=0 Angenommen,ker(X)6=f0g)p(xi)=08i=0;:::;n)W!Alsoexistiertgenaueinpn,sodapn Beweis: dasInterpolationsproblemlost.Nochzuzeigen:Lagrange-Darstellung. pnlost(IP)()p(xi)=yi()nXj=0ajxji=yi()Xa=ymit(Xij)=(xji) j6=ixxj xixj8i=0;:::;n
Umformung: DieLagrange-DarstellungvonpistnumerischaufwendigundhatdenNachteil,daneueStutzstellennicht Bemerkung1.2: ohnekompletteNeuberechnungeinbezogenwerdenkonnen. Lj(xi)=ij)nXj=0yiLj(xi) |{z} =ij=yi
miti:=i FurdenSpezialfallyi=18i=0;:::;ngilt:p(x)1isteindeutigeLosungvon(IP): p(x)=nXi=0yinYj=0 xxi. j6=ixxj
1=nXj=0inYk=0(xxk))nYk=0(xxk)=1 xixj=nXi=0yi1 xxinYj=0 |{z} j6=i1 =:inYk=0(xxk)=nXi=0yiinYk=0(xxk) xixj
DadurcherhaltenwirdiebaryzentrischeDarstellung: p(x)=nXi=0yiLi(x)=nPi=0yii =0i
nPi =0i nPi

Wasist(n+1) 3INTERPOLATION Seien(n) idenStutzstellenx0;:::;xnzugeordnet. i=(n) (n+1) (xixn+1)i=0;:::;n i 55
Hilfssatz1.3: Furn>1gilt Beweis: n+1?Dazuhilftunsder nXi=0(n) p(x)=nXi=0yi(n) inYj=0 i=1 (n) j6=i(xixj) =0 nQji=0
Somitberechnetsich(n+1) FurdenSpezialfallyi=18i=0;:::;n)p(x)1)an=0)Beh. Damiterhaltmann+1durch j6=i(xxj)undp(x)=anxn+an1xn1+:::+a1x+a0
n+1=nXi=0(n+1) (n+1) an=nXi=0yi(n) i
Verfahren: k=1:(1) 0=1 x0x1und(1) 1=1 i
fork=1;:::;n setze(0) fori=0;:::;k1 (k) 0=1 (k) i (k1) i(xixk)1x1x0=(1)
0
AnzahlanwesentlichenOperationen:Z=nPk=1k=12n(n+1) Anschlieendkonnendieisowiepn(x)bestimmtwerden. k k1 Pi=0(k) i
3.1.1AquidistanteStutzstellen DieStutzstellenseienfolgendermaengewahlt: x0;x1=x0+h;:::;xn=x0+nh;h>0

3INTERPOLATION Dannist i= = (xix0):::(xixi1):::(xixn)= ih:::h(1)h:::(1)(ni) 11
56
=(1)ni =(1)ni hn hn1n!ni | i(i1):::112:::(ni)= ni {z 1}
h=
Wird0=1gesetzt,berechnetsichidurch i=(1)n
i=(1)in! hnn!(1)ini |{z} =:i=:(1)n
i!(ni)!=(1)i1n!(ni+1) )p(x)=Piyi hnn!ii=(1)n Pi=Piyi (i1)!i(ni+1)!= Pi hnn!i |{z} xxi =:i=:(1)n hnn!i
Wirhabengegebenp(x)=nXi=0yiiYj=0 3.1.2Anwendung:NumerischeDierentiation HierbeiistdieAnzahlderwesentlichenInformationen(nur):Z=2n =(1)i1n nini+1 i=i1ni+1 i
Satz1.4: Seif2Cn([a;b])mita=min(xi)undb=max(xi),sowiexi6=xj.Dannexistiertein2(a;b)mit j6=i(xxj))dn f(n)()=nXi=0yiin! dxnp(x)=nXi=0yiin!
MankannalsonPi=0yiin!f(n)(x)alsApproximationfurdien-teAbleitungvonfauassen.Imaquidi- Beweis:g(x):=f(x)pn(x);pn(xi)=yi8i=0;:::;n
stantenFallgilt mit ghatalson+1Nullstellenin[a;b].NachdemSatzvonRollehatdanng0nNullstellen):::)92(a;b) pn2P)g(xi)=08i=0;:::;n
Insbesondere:
f(n)(x)1 hn(1)ny0+(1)n1n1y1+:::+(1)1n g(n)()=0=f(n)()p(n) n() n1yn1+(1)0yn

3INTERPOLATION 2.n=2:f00(x)1 3.n=3:f(3)(x)1h3(y33y2+3y1y0) 1.n=1:f0(x)1h(y1y0) h2(y22y1+y0) 57
QuadratischeInterpolation: p2(x)=1 p02(x)=1 2h2y0(xx1)(xx2)2y1(xx0)(xx2)+y2(xx0)(xx1)
3.1.3Extrapolation p02(x0)=1 p02(x1)=1 2h2y0(2xx1x2)2y1(2xx0x2)+y2(2xx0x1) 2h2y0(3h)2y1(2h)+y2(h)=1 2h2y0(h)2y1(0)+y2(h)=1 |{z} 2h(y2y0) Differenzenf0(x1) zentrale 2h(3y0+4y1y2)f0(x0)
Alsoerhaltman f2C1;y1=f(x1)=f(x0+h) )y1y0 y1=y0+hf0(x0)+h2 h=f0(x0)+h2f00(x0)+h2 2f00(x0)+h3 3!f(3)(x0)+:::
Allgemein: y22y1+y0 h2=f00(x1)+2h2 y1y0 hf0(x0)=1Xi=1aihi=a1h1+a2h2+a3h3+::: 4!f(4)(x1)+2h4 6!f(6)(x1)+:::=f00(x1)+1Xi=1aih2i 3!f(3)(x0)+:::
vorliegt.
h0;:::;hkgehorendenPolynomepk(h)beih=0ausschopft.Manbrichtab,wenngewunschteGenauigkeit Idee: ManinterpoliertB(h)aufdenStutzstellenh0>h1>:::>hk,indemmandiezudenStutzstellen B(h)=A+a1h+a2h2+:::

3INTERPOLATION 3.1.4ImplementierungLagrange-Interpolation i=i 0hi=i hi;i=i 58
Algorithmus: inputhi;yi=B(hi) fork=1;:::;n
fori=0;:::;k s fori=0;:::;k1 s k s 0
s 0;z i ss+;z
s+i i(hi)1 i(hihk)1 0
Satz1.5: 3.1.5Fehlerabschatzung pk(0) zs z+yi
Interpolationspolynommitpn(xi)=f(xi)=:yi.Danngilt8x2[a;b]existiertein2(a;b): Seif2Cn+1([a;b]);a=min(xi);b=max(xi);8i=0;:::;n;xi6=xj.Seipndaseindeutigbestimmte Beweis:klarfurx2fx0;:::;xng.Seialsojetztx=2fx0;:::;xng Esistg(xi)=08i=0;:::;nundg(x)=0.ghatsomitn+2Nullstellenin[a;b].NachRolleist g(t):=f(t)pn(t)f(x)pn(x) f(x)pn(x)=f(n+1)() !n(t)!n(t)mit!n(t):=nYj=0(txj) (n+1)!nYi=0(xxi)
UnterdenVoraussetzungendesSatzes1.5gilt: Bemerkung1.6: g(n+1)()=0miteinem2(a;b) 0=g(n+1)()=f(n+1)()(n+1)!f(x)pn(x) jf(x)pn(x)jmax z2[a;b]jf(n+1)(z)j (n+1)! nYj=0(xxj)
!n(t)

3INTERPOLATION n=1:x0;x1=x0+h;xM=12(x0+x1)=x0+12h: AquidistanteZerlegung: jf(x)p1(x)jkf00k1 2j(xx0)(xx1)j= 59
n=2:x0=h;x1=0;x2=h:jf(x)p2(x)jp3 =kf00k1 18kf00k1h2 212h12h
3.1.6OptimaleWahlderStutzstellen xi:=a+b 2+ba 2cos2(ni)+1 2(n+1) 27kf(3)k1h3
Esseienx0;:::;xndieStutzstellenundy0;:::;yndiezugehorigenStutzwerte. Ansatz: 3.1.7NewtonscheDarstellung i=0;:::;n
Darauserkennenwir,dadasInterpolationsproblem(IP)gleichbedeutendistmit pn(xn)=c0+c1(xnx0)+:::+cn(xnx0)(xnx1)(xnxn1)=y1 pn(x0)=c0 pn(x1)=c0+c1(x1x0) pn(x2)=c0+c1(x2x0)+c2(x2x0)(x2x1) pn(x)=c0+c1(xx0)+:::+cn(xx0)(xx1)(xxn1)
0B@1 . =y0 1x1x0 0 =y1 1x2x0(x2x0)(x2x1) =y2
1xnx0(xnx0)(xnx1) .. ... n1 i=0(xnxi) Q 1CA0B@c0 cn c1 c2. 1CA=0B@y0 yn y1 y2. 1CA GesuchtistalsoeineRekursionsformelfurck=:f[x0;:::;xk]8k=0;:::;n Seifi0;:::;ikg,sodafxi0;:::;xikgfx0;:::;xngpaarweiseverschieden.pi0;:::;ik(x)bezeichnedas eindeutigbestimmteInterpolationspolynomzudenStutzstellenxi0;:::;xik.Esist Alsokannmanberechnen:c0=y0;c1=y1y0 deg(pi0;:::;ik)kundpi0;:::;ik(xij)=yj8j=0;:::;k
x1x0;c2=y2y0 x2x0y1y0 x2x1 x1x0

3INTERPOLATION Satz1.7: Fur1kngilt:pi0;:::;ik(x)=1 xikxi0(xxi0)pi1;:::;ik(x)(xxik)pi0;:::;ik1(x) 60
Beweis:Esistdeg(pi1;:::;ik)k1unddeg(pi0;:::;ik1)k1 Nochzuzeigen:Interpolationseigenschaften 1. pi0;:::;ik(xi0)=1 xikxi00(xi0xik)pi0;:::;ik1(xi0) )deg(pi0;:::;ik)k
2.Genausewie1.zeigtman: 3. pi0;:::;ik(xij)=1 xikxi0(xijxi0)yij(xijxik)yij=yij pi0;:::;ik(xik)=yik|{z}
=yi0 =yi0
FurdieStutzstellenxi0;:::;xikistderHochstkoezientvonpi0;:::;ik(x)gleichf[xi0;:::;xik].Alsogilt dieRekursionsformel MitderEindeutigkeitdesInterpolationspolynomsfolgtdieBehauptung. DamitlassensichdieKoezientenckderNewtonschenDarstellungnunberechnen: f[xi0;:::;xik]=f[xi1;:::;xik]f[xi0;:::;xik1] c0=f[x0]=f(x0)=y0 c1=f[x0;x1] . xikxi0 (dividierendeDierenzen)
oderzumBeispiel wobei f[x1;x2]=f[x2]f[x1] x2x1=y2y1 f[x0;x1]=f[x1]f[x0] cn=f[x0;:::;xn] x2x1f[x2;x3]=f[x3]f[x2] x1x0=y1y0 x1x0
x1y1=f[x1] x0y0=f[x0]=c0f[x0;x1]=c1 f[x1;x2;x3]=f[x2;x3]f[x1;x2] f[x1;x2] x3x1 f[x0;x1;x2]=c2 =y3y2 x3x2y2y1 x3x1 x3x2=y3y2
f[x0;x1;x2;x3]=c3 x2x1x3x2
x3y3=f[x3]
x2y2=f[x2] f[x2;x3] f[x1;x2;x3]

3INTERPOLATION Beispiel: ZudenStutzstellenx0=3;x1=1;x2=5gehorendieStutzwertey0=1;y1=3;y2=2: x315 y132 61
SomitkonnennachobigemSchemadieKoezientenderNewtonschenDarstellungdesInterpolationspo-
DasInterpolationspoylnomp2(x)istdamit lynomsp2(x)bestimmtwerden.3131 p2(x)=1+2(x3)38(x3)(x1) 13 522(3)
13=2 51=5453=38
542
EineProbeergibt:p2(3)=1;p2(1)=14=3;p2(5)=1+2(53)3824=2 Algorithmus(NewtonscheDarstellung): fori=0;:::;n fork=1;:::;n ci fori=n;:::;kstep1 ci yi
Auswertungvonpn(x): AuchbeidiesemAlgorithmusistdieAnzahlZ=12n(n+1)derwesentlichenOperationen. p3(x)=c0+c1(xx0)+c2(xx0)(xx1)+c3(xx0)(xx1)(xx2)= (cici1)(xixik)1
DieskanninfolgendemAlgorithmusimplementiertwerden: =c0+(xx0)c1+(xx1)c2+c3(xx2) Algorithmus:
Esgilt Bemerkung1.8: fork=n1;:::;0step1 p cn
pi;:::;i+k(x)=f[xi]+f[xi;xi+1](xxi)+:::+f[xi;:::;xi+k]i+k1 p ck+(xxk)p Yj=i(xxj)

3INTERPOLATION undalsopi;:::;i+k(x)=(xxi)pi+1;:::;i+k(x)(xxi+k)pi;:::;i+k1(x) =pi;:::;i+k1(x)+xxi xi+kxipi+1;:::;i+k(x)pi;:::;i+k1(x) xi+kxi = 62
Mankannalsopn()=p0;:::;n()sukzessiveberechnendurch x0p0()=y0p01() x1p1()=y1p12() p012()
Beispiel: x2p2()=y2 x3p3()=y3 SchemanachNeville p23() p123() p0123()
DamitkannnachdemNeville-Schemap3()berechnetwerden: DasPolynomp3(x)sollanderStelle=0ausgewertetwerden.Esistwieder
13 311+03 13(31)=5 x315
52 y132
Algorithmus(Neville): fori=0;:::;n 3+01 512(3)=17 45+03
5317 4(5)=498
fork=1;:::;n pi fori=n;:::;kstep1 pi yi
Satz1.9: Esseiendiem+1paarweiseverschiedenenStutzstellenx0;:::;xm2Rgegeben.AndiesenStutzstellen Hermit-Interpolation: Problem:Istesmoglich,nebendenStutzwertenauchAbleitungenzuinterpolieren? pi+(xi)(pipi1)(xixik)1
p2Pn;n:=mPi=0ni1mit seiendieWertey(k) i2R;k=0;:::;ni1;ni2N;i=0;:::;mgegeben.DanngibteseinPolynom (HIP)p(k)(xi)=y(k) i;k=0;:::;ni1;i=0;:::;m

inp2Pn.Alsonochzuzeigen:NulldatenimplizierenNullpolynom. 3INTERPOLATION Beweis:EsgibtmPi=0ni=n+1Interpolationsbedingungenin(HIP).Wirhabensomitn+1Koezienten p(k)(xi)=0;k=0;:::;n1;i=0;:::;m 63
Alsohatpbeixieineni-facheNullstelle,zahltmandieVielfachheiten,sobesitztpn+1Nullstellen,dies istabereinWiderspruch.
Ansatz: Spezialfall: Esseini=28i (HIP)p(xi)=yi;p0(xi)=y0i;i=0;:::;m mXi=02=2(m+1)=n+1)n=2m+1 mit gj(xi)=ij;g0j(xi)=0;hj(xi)=0;h0j(xi)=ij )p(xi)=mXj=0yjij+y0jhj(xi)=yi p(x)=mXj=0yjgj(x)+y0jhj(x)
Zunachsthj: Wirdenieren hj(x):=L2j(x)(xxj)j=0;:::;mundgj(x):=L2j(x)(cjx+dj)j=0;:::;m Lj(x)=mYk=0 hj(xi)=ij(xixj)=0(i=0;:::;m) k6=jxxk xjxkj=0;:::;m
Essollgelten:gj(xj)=1;g0j(xj)=0)cjxj+dj=1;2L0j(xj)+cj=0 Alsogilth0j(xi)=ijgj(xi)=ij(cjxi+dj))gj(xi)=0furi6=j g0j(x)=2Lj(x)L0j(x)(cjx+dj)+cjL2j(x);g0j(xi)=0furi6=j h0j(xi)=2ijL0j(xi)(xixj)+ij h0j(x)=2Lj(x)L0j(x)(xxj)+L2j(x)
L0j(xj)=mXl=0 l6=j1 xjxl)cj=2mXk=0 L0j(x)=mXl=0 l6=j1 xjxlmYk=0 k6=j1 k6=j k6=lxxk xjxkunddj=1cjxj
xjxk

3INTERPOLATION 64
Beispiel
1.Esseiy0;y00;y1;y01furx0=0;x1=1bekannt.Dannist
L0(x)=xx1
x0x1=x1
01=1xundL1(x)=x
Wirerhaltenc0=21
1=2;c1=2;d0=120=1;d1=1+2=3
unddann
h0(x)=(1x)2x;h1(x)=x2(x1);g0(x)=(1x)2(2x+1);g1(x)=x2(32x)
AlsHermit-Interpolationspolynomerhaltenwir
p(x)=y0(1x)2(2x+1)+y00(1x)2x+y1x2(32x)+y01x2(x1)
2.EsseienfolgendeDatengegeben:
p(0)=y0;p0(0)=y00;p0(1)=y01undp(1:5)=y1:5
Alsox0=0;x1=1;x2=1:5p(x)=a0+a1x+a2x2+a3x3
p0(x)=a1+2a2x+3a3x2
a0=y0;a1=y00;a1+2a2+3a3=y01;a0+32a1+94a2+278a3=y1:5
0B@1000
0100
0123
13=29=427=81CA
| {z }
=A 0B@a0
a1
a2
a31CA=0B@y0
y00
y01
y1:51CA
rang(A)=3)DasProblembesitzti.A.keineLosung.
Satz1.10(Fehlerabschatzung):
Seienm+1paarweiseverschiedenex0;:::;xmundeineFunktionf2C2m+2([a;b])mita=min(xi);b=
max(xi),gegeben.Seip2P2m+1dasnachSatz1.9eindeutiggegebeneInterpolationspolynommitp(xi)=
f(xi);p0(xi)=f0(xi);i=0;:::;m.Dannexistiertzujedemx2[a;b]ein2(a;b)mit
f(x)p(x)=f(2m+2)()
(2m+2)!nYk=0(xxk)2
Beweis:AnalogzurfruherenSituation.
DividierteDierenzen:
Betrachtep(x0)=y0;p0(x0)=y00;p(x1)=y1.Da
lim
x!x0f[x0;x]=f(x)f(x0)
xx0=f0(x0)=:f[x0;x0]
gibteseinSchema
x0y0f[x0;x0]=y00
x0y0 f[x0;x0;x1]=f[x0;x1]f[x0;x0]
x1x0=y1y0
(x1x0)2y00
x1x0
f[x0;x1]=y1y0
x1x0
x1y1

Beweis:pn+1interpolierefbeix0;:::;xn1.Esgilt 3INTERPOLATION Lemma1.11: Seif2Cn([a;b])undx0;:::;xn2[a;b]gegeben.Dannexistiertein2(a;b)mit f[x0;:::;xn]=1n!f(n)() 65
furein2(a;b).Andererseitsist pn(x)=pn1(x)+f[x0;:::;xn]n1 f(xn)pn1(xn)=1n!f(n)()n1 Yj=0(xnxj) undf(xn)=pn(xn).Deshalbist f(x)pn1(xn)=f[x0;:::;xn]n1 Yj=0(xnxj)
Esgilt Folgerung1.12: f[xi;:::;xi |{z} k+1mal]=1k!f(k)(xi) Yj=0(xnxj)
Bezeichnung:N=fx1;:::;xngfy1;:::;ymg=f(xi;yj)j1in;1jmg Polynominxundymitp(xi;yi)=ci. Problem:Gegebensindpaarweiseverschiedene(x1;y1);:::;(xn;yn)undDatenc1;:::;cn.Gesuchtistein WirbetrachtendasProblemzunachstaufdemkartesischenGitter. 3.2PolynomialinterpolationinhoherenDimensionen
(IP)x:y1;:::;ym:f(x;yj)=pm1(x;yj)j=1;:::;m (IP)y:x1;:::;xn:f(xi;y)=pn1(xi;y)i=1;:::;n
(PQf)(x;y)=nXi=1mXj=1f(xi;yj)Lj(y)Li(x)=(QPf)(x;y) pm1(x;y)=mXj=1f(x;yj)Lj(x)=:(Qf)(x;y) pn1(x;y)=nXi=1f(xi;y)Li(x)=:(Pf)(x;y)
Beispiel: Seixi;yi2f1;1g.Dannist (PQf)(xl;yk)=nXi=1mXj=1f(xi;yj)iljk=f(xl;yk) L1(x)=x1 11=12(1x)undL2(x)=12(1+x)

3INTERPOLATION p(x;y)=2Xi=12Xj=1cijLi(x)Lj(x)= =c1114(1x)(1y)+c1214(1x)(1+y)+c2114(1+x)(1y)+c2214(1+x)(1+y) 66
Frage:CharakterisierungvonPolynomenimR2: Denition2.1: EinPolynomp(x;y)=Pi2IP EinesinnvolleDenitiondesGradesvonFergibtsichausdeg(xiyj):=i+j Pn1Pm1:F(x;y)=n1 j2JcijxiyjhatdenGradk,fallsk=maxcij6=0i+j Xi=0m1 Xj=0cijxiyj(tensoriellesProdukt)
Beispiel: 1.Sein=3;m=2:2Xi=01Xj=0cijxiyj=c00+c01y+c10x+c11xy+c20x2+c21x2y Pk(R2)^=PolynomeimR2mitHochstgradk
2.3Xi=03i Achtung:ImP2P1kommenabernichtalleTermevomGrad3vor,z.B.c12xy2. d.h.eintypischesElementvomPk(R2)hatdieDarstellung: Xj=0cijxiyj=c00+c01y+c02y2+c03y3+c10x+c11xy+c12xy2+c20x2+c21x2y+c30x3
Satz2.2: Seik=(n1)+(m1)=n+m2: Pk(R2)Pn1Pm1dimPn1Pm1=nm p(x;y)=kXi=0ki Xj=0cijxiyj=X
DieFunktionen'ij:(x;y)7!xiyj;0i+jk,bildeneineBasisvonPk(R2).Esgiltweiter 0i+jkcijxiyj
Beweis:Pk(R2)=spanf'ijj0i+jkg.Nochzuzeigen:'ijsindlinearunabhangig.Andernfallssei dimPk(R2)=12(k+1)(k+2) =0ki kXiXj=0cijxiyj=08x;y

3INTERPOLATION Daxilinearunabhangig,muy=y0 =)kXi=0ki Xj=0cijyj0=08i=0;:::;k kiXj=0cijyj0xi=08x
67
DieseGleichunggiltfuralley02R)cij=08i;j
Bemerkung2.3: xk1xk1y xk x0x0y:::x0yk(k+1)9>=>;)dimPk(R2)=12(k+1)(k+2) . .... (2) (1)
1.Allgemeingilt: dimPk(Rd)=k+d .
2.Mankonnteannehmen,damanmitHilfederPolynomeinPk(R2)mitn=12(k+1)(k+2)jedwede wertec1;c2;c3:Gegenbeispiel:Seik=1;n=3.GegebenseienzudenStutzstellen(xi;yi);i=1;2;3,dieStutz- Punkte(x1;y1);:::;(xn;yn)interpolierenkann.DiesistabernichtderFall. p(x;y)=c00+c01y+c10x 0@1x1y1k
eseineInterpolierendeinPk(R2). Lemma2.4: Seienk+1paarweiseverschiedenePunkte(x0;y0);:::;(xk;yk)undZahlenc0;:::;ckgegeben.Danngibt AhatabernichtimmerHochstrang3. 1x2y2
Beweis:l(x;y):=ax+by+cmit(a;b;c)so,dal(xi;yi)=ti6=tj=l(xj;yj).WirhabenjetztStutzstellen 1x3y31A=A
Dannhatpkl2Pk(R2)dieEigenschaft t0;:::;tkmitti6=tj.DannexistierteinPolynompk2Pk(PolynomineinerVariablen)mit
Satz2.5: DieInterpolationbeliebigerDatenmitPolynomenausPk(R2)istaufn=12(k+1)(k+2)paarweise (pkl)(xi;yi)=pkl(xi;yi)=pk(ti)=ci pk(ti)=ci8i=0;:::;k
ist genaui+1dieserPunkteenthalt(Michelli1986). Beweis:Seif(xi;yi)=ciundNdieMengederStutzstellen,d.h.jNj=12(k+1)(k+2).NachVoraussetzung verschiedenenPunktenmoglich,fallsdieseaufk+1GeradenG0;:::;Gkderartliegen,dajedesGi jGi\Nj=i+18i=0;:::;k

3INTERPOLATION pk2Pk(R2)seidasnachLemma2.4existierendePolynom,welchesdiek+1StutzstellenausGk\N Angenommen:pi2Pk(R2)seigefunden,welchesaufN\(Gk[:::[Gi)interpoliert.Setze interpoliert. pi1:=pi+rgk:::gi 68
NachLemma2.4existierteinPolynomr2Pi1(R2),dasdieseInterpolationsaufgabelost.Esgilt mitrbeliebigundGi=f(x;y)jgi(x;y)=0g.Danninterpoliertpi1aufN\(Gk[:::[Gi),da gi(Gi)=0.Setzef(x;y)=:pi(x;y)+r(x;y)(gk:::gi)(x;y)8(x;y)2N\Gi1
lostdas(gesamte)Problem. d.h.rinterpolierefpi
Beispiel: d.h.pi1hatdenGradk()pi12Pk(R2)undpi1interpoliertfaufN\(Gk[:::[Gi1)usw: deg(gk:::gi)=ki+1)deg(rgk:::gi)=(i1)+ki+1=k gk:::giaufN\Gi1.EsistjN\Gi1j=i.
Esseienfur(0;0);(0;1);(1;0)dreiWerteaufP1(R2)zuinterpolieren: G1:=f(x;y)jx=0g G0:=f(x;y)j(1;0)h(1;0);(x;y)i=0g=f(x;y)j1x=0g =)p0
p1(x;y)=f(0;0)(1y)+f(0;1)y
dennp(0;0)=f(0;0);p(0;1)=f(0;1)undp(1;1)=f(1;1). d.h.indiesemFallistreinereelleZahlundkeinPolynom. p(x;y)=f(0;0)(1y)+f(0;1)y+f(1;1)f(0;1)x )f(1;1)p1(1;1) p0(x;y)=p1(x;y)+r(x;y)x 1 =f(1;1)f(0;1)=r
3.3TrigonometrischeInterpolation Esbezeichne
Satz3.1: (TIP):Gegebensindx0;:::;xn12[0;2)undy0;:::;yn12C.GesuchtisteinPolynomp2Tn1mit p(xi)=yi8i=0;:::;n1 denRaumderkomplexentrigonometrischenPolynomevomGradn1. Tn1:=nn1 Xj=0cjeijxjcj2Co
Beweis: trigonometrischesPolynomp2Tn1mitp(xk)=yk8k=0;:::;n1. Seien(xk;yk)2[0;2)C;k=0;:::;n1;xi6=xj,vorgegeben.Dannexistiertgenaueinkomplexes p(xk)=n1 Xj=0cjeijxk=yk

3INTERPOLATION Denierezk:=eixk)zjk=eijxkp(z):=n1 Zuzeigen: n1 Xj=0cjeijxk=08k!)cj=08j 69
d.h.phataberseineNullstellenbeix0;:::;xn1)cj=08j=0;:::;n1. Problem:WiesiehtdiesimReellenaus? TRm:=na0 2+mXj=1ajcos(jx)+bjsin(jx)aj;bj2Ro Xj=0cjzj=0
reellentrigonometrischesPolynomq2TRmmitq(xk)=yk;k=0;:::;2m.Esgilt: heienreelletrigonometrischePolynomevomGradm. Satz3.2: Seien(xk;yk)2[0;2)R;k=0;:::;2m,mitxk6=xjvorgegeben.Seip(x)=2mPj=0cjeijxdasnachSatz 3.1eindeutiggegebenePolynomausT2mmitp(xk)=eimxkyk;k=0;:::;2m.Dannexistiertgenauein mit Beweis: ~p(x):=e2imxp(x)=mXj=0cjei(2mj)x=2mXj=0c2mjeijx a0=2cm;aj=2Re(cmj);bj=2Im(cmj) q(x)=a0 2+mXj=1najcos(jx)+bjsin(jx)o
Darausfolgtinsbesondere,dacm=cm)cm2R. MitderEindeutigkeitdesInterpolationspolynomsfolgt eimxp(x)=2mXj=0cjei(jm)x=mX cj=c2mj;j=0;:::;2m)cm+j=cmj;j=0;:::;m ~p(xk)=e2imxkeimxkyk=eimxkyk=p(xk)
=cm+2mXj=1Re(cmjeijx =cm+mXj=1cmjeijx+mXj=1cmjeijx= =0X j=mcm+jeijx+mXj=1cmjeijx= j=mcmeilx=
=q(x)
=cm+2mXj=1nRe(cmj)cos(jx)+Im(cmj)sin(jx)o= (+i)(cos(jx)isin(jx)))= |{z}

3INTERPOLATION AquidistanteStutzstellen: Lemma3.3: Wahlen2N;wn:=e2i n.Esgilt:1nn1 )q(xk)=eimxkp(xk)=yk 70
Seinunk6=l: Beweis:Annahmek=l: Xj=0(wkl 1nn1 n)j=kl;0k;ln1
n1 Xj=0(wkl Xj=0(w0n)j=1nn1 wkl n)j=1(wkl n=e2ikl n6=1 Xj=01=1
Satz3.4: Mitn2NseiendieaquidistantenStutzstellenxk=2k gegeben.DaseindeutiggegebenekomplexePolynomp2Tn1mitp(xk)=ykistgegebendurch p(x)=n1 Xj=0cjeijxmitcj=1nn1 1wkl Xk=0!jk nunddieStutzwerteyk2C;0kn1, n)n
nyk(j=0;:::;n1) n=0
DerentscheidendeSchrittzurBerechnungdertrigonometrischenInterpolierendenistdieezientenume- Bemerkung3.5: Beweis:WirzeigendieInterpolationseigenschaft: rischeBestimmungvoncjausSatz3.4.WirwerdeneinenAlgorithmusentwerfen,dermitO(nlog2n) wesentlichenMultiplikationenauskommt. p(xk)=n1 Xj=01nn1 Xl=0!jl nyleij2k |{z} !jk n=n1 nXj=01nn1
Xl=0!(kl)j nyl=n1 Xj=01nn1 Xl=0(!kl n)jyl=n1 Xl=0klyl=yk
Satz3.6: Sein2N;xk:=2k n;yk;k=0;:::;n1und
und Seienweiter m=8:a0 aj=2nn1 2+mPj=1ajcosjx+bjsinjx Xk=0ykcosjxk;bj=2nn1 12n fallsnungerade Xk=0yksinjxk(j=0;:::;m) Danngilt:q(xk)=yk(k=0;:::;n1). Beweis:
a0 2+m1 Pj=1ajcosjx+bjsinjx+am2cosmx(n=2m) (n=2m+1)

3INTERPOLATION 71
1.Sein=2m+1p(x)=2mXj=0cjeijx2T2mmitp(xk)=eimxk
|{z}
=ei2m
nyk=!km
nyk
Damiterhaltenwircmj=1nn1
Xk=0!(mj)k
n!km
nyk=1nn1
Xk=0ykeijxk=
=1nn1
Xk=0yk(cosjxk+isinjxk)=12(aj+bj)
2.Seinunn=2mp(x)=2m1
Xj=0cjeijx2T2m1mitp(xk)=eimxkyk(0k2m1)
Deniere ~q(x):=Reeimxp(x)2TRm
DanngiltandenStutzstellenxk
~q(xk)=Re(eimxkeimxkyk)=yk(0k2m1)
Somitgilt
eimxp(x)=2m1
Xj=0cjeil
z}|{
(jm)x=m1
X
j=mcj+meijx=
=m1
X
j=(m1)cj+meijx+c0eimx=0X
j=(m1)cj+meijx+m1
Xj=1cj+meijx+c0eimx=
=cm+m1
Xj=1cmjeijx+cj+meijx+c0eimx
~q(x)=12cm+cm+m1
Xj=1n(cmj+cm+j)eijx+(cmj+cm+j)eijxo+c0eimx+c0eimx
mit!n=e2i
n)eimxk=!mk
n
cm=1nn1
Xk=0eimxkeimxkyk=a0
2
c0=1nn1
Xk=0eimxkyk=1nn1
Xk=0!mk
nyk=1nn1
Xk=0(1)kyk2R
)c0=1nn1
Xk=0cosmxkyk=am2
Damitgiltcmj+cm+j=1nn1
Xk=0!(mj)k
n!mk
n+!(m+j)k
n!mk
nyk=2nn1
Xk=0!jk
nyk=
=2nn1
Xk=0e2ikj
nyk=2nn1
Xk=0(cosjxk+isinjxk)=aj+ibj

3INTERPOLATION DieschnelleFourier-Transformation(FFT) Sei!n=e2i n;Fn:Cn!Cn;Fny=z; zi=n1 Xk=0!jk nyk(diskreteFouriertransformation) 72
Beweis:deg(p)n1;deg(q)n1)deg(P)2n1.AlsoistnochdieInterpolationseigenschaft InterpolationspolynomP2T2n1mitP(xj)=yj(0j2n1)dieDarstellung zuzeigen: Satz3.7: Seienp;q2Tn1mitp(x2j)=y2j;q(x2j)=y2j+1(0jn1)undxj=j
P(xj)=12(1+einxj P(x)=12(1+einx)p(x)+12(1einx)qxn |{z} n.Danngiltfurdas
Lemma3.8: GiltinobigemSatz =p(xj)fallsjgerade =12(1+(1)j)p(xj)+12(1(1)j)qxjn= q(xj)fallsjungerade =(1)j)p(xj)+12(1einxj)qxjn=
sowie soistfur0jn1:j=12j+12eijnj;j+n=12j12eijnj
p(x)=n1 Xj=0jeijx;q(x)=n1 P(x)=2n1 Xj=0jeijx; Xj=0jeijx
Beweis: P(x)=12(1+einx)p(x)+12(1einx)qxn= =12n1 qxn=n1 Xj=0(1+einx)jeijx+(1einx)jeij Xj=0jeij(xn)=n1 Xj=0jeij neijx
SeiP(n) Bemerkung3.9: k2T2n1;0nm;0k2mn1;0j2n1;mit =12n1 Xj=0j+jeijneijx+12n1 Xj=0jjeijnei(n+j)x neijx=
P(n) k2j 2n=y(2k 2m+2j 2n)

Einordnung: 3INTERPOLATION DanngiltP(n) k+2mn12j 2n=y(2(k+2mn1) xj=j 2n;x2j=2j 2m+2j 2n;^y(l)=y(2k 2n)=y(2k 2m+2m+2j 2m+l 2n)=y(2k 2n) 2m+(2j+1) 2n) 73
Algorithmus:WirhabendieDarstellungP(n) WirdenierenunseinneuesPolynom P(n+1) k(x)=12(1+ei2nx)P(n) P(n) k(x2j)=^y(2j);P(n) k(x)+12(1ei2nxP(n) k+2mn1(x2j)=^y(2j+1)
Danngilt(0nm;0k2mn1;0j2n1) A(n+1) k(x)=2n1 Xj=0A(n) kjeijx: k+2mn1x2n
FurfestesnbrauchenwirfurA(n)genau2mSpeicherplatze(0k2mn1;0j2m1) A(n+1) k;j+2n=12hA(n) kj=12hA(n) kj+eij2nA(n) kjeij2nA(n) k+2mn1;ji
DannwirdD(2n+1k+j) C(2nk+j) A(n) k+2mn1;jC(2n(k+2mn1)+j)=C(2nk+2m1+j) A(n) A(n+1) kj(0k2mn1;0j2n1) kj (0k2mn11;0j2n+11 k+2mn1;ji
undmitZ(j) e2ij AlgorithmusFFT: 2misteijn=Z(j2mn1) N inputm fork=0;:::;N1 forn=0;:::;m1 Z(k) C(k) 2m;! !kj f2k e2i NN
fork=0;:::;2mn1 forj=0;:::;2n1
outputC(0);:::;C(N)
forj=0;:::;N1 C(j) D(2n+1k+j+2n) D(2n+1k+j) u v D(j) Z(j2mn1)C(2nk+2m1+j) C(2nk+j) 12(u+v) 12(uv)

3INTERPOLATION ten. Denition4.1: EineSpline-FunktionbestehtstuckweiseausPolynomenmitgewissenbergangsbedingungenandenKno- 3.4InterpolationdurchSplines 74
Beispiel: eineFunktionSmitfolgendenEigenschaften: Seienn+1Stutzstellenx0

3INTERPOLATION 75
bi=12y00
i
ci=1hi(yi+1yi)16hi(y00
i+1y00
i)hi
2y00
i=1hi(yi+1yi)16hi(y00
i+1+2y00
i)
di=yi
S0i(xi+1)=36hi(y00
i+1y00
i)+hiy00
i+1hi(yi+1yi)16hi(y00
i+1y00
i)=
=16hi(2y00
i+1+y00
i)+1hi(yi+1yi)
S0i1(xi)=16hi1(2y00
i+y00
i1)+1
hi1(yiyi1)
Esmusomitgelten:S0i1(xi)=S0i(xi),also
1
hi1(yiyi1)+16hi1(2y00
i+y00
i1)=ci=1hi(yi+1yi)16hi(y00
i+1+2y00
i)
gleichbedeutendmit
hi1y00
i1+2(hi1+hi)y00
i+hiy00
i+1=6hi(yi+1yi)+6
hi1(yiyi1)
d.h.istdiesesGleichungssystemlosbar,sokannderkubischeSplineberechnetwerden.Wirbetrachten
jetztnaturlichekubischeSplines,d.h.y00
0=y00
n=0unddenierenunsdazu
ui:=2(hi+hi1)wi:=6hi(yi+1yi)vi:=wiwi1
EsgiltalsodasGleichungssystemhi1y00
i1+uiy00
i+hiy00
i+1=vi
zulosen.InMatrixdarstellungistdies
0B@u1h1 0
h1u2...
......hn2
0 hn2un11CA0B@y00
1
y00
2.
y00
n11CA=0B@v1
v2.
vn11CA
DieBerechnungdery00
i(i=1;:::;n1)konnenwirzusammenfasseninfolgendem

3INTERPOLATION Algorithmus: inputn;(xi);(yi) fori=0;:::;n1 76
u1 wi hi 2(h0+h1);v1 xi+1xi 6(yi+1yi)=hi
fori=n1;:::;1step1 zn fori=2;:::;n1 vi ui 0wiwi1hi1vi1=ui1
2(hi+hi1)h2i1=ui1 w1w0
Satz4.2: Seif2C2([a;b])mita=x0

3INTERPOLATION =S00(x1)g0(x1)S00(x0) +:::+S00(xn) |{z} =0g0(xn)S00(xn1)g0(xn1)=0 |{z} =0g0(x0)+S00(x2)g0(x2)S00(x1)g0(x1)+ 77
Denition: WirdenierendieKrummungeinerFunktionaneinerStellexals(MafurdieKrummung): und ZaS00(x)g00(x)dx=nXi=1cihg(xi) b
(x):=jf00(x)j (1+f0(x)2)(3=2)jf00(x)j |{z} =0g(xi1) |{z} =0i=0
Sy()dernaturlichekubischeSplinemitSy(ti)=yi ZweiDatensatze(ti;xi);(ti;yi).SeiSx()dernaturlichekubischeSplinemitSx(ti)=xiundentsprechend ParametrischeDarstellungvonKurven: R3t7!Sx(t);Sy(t)2R2K(ti)=(xi;yi) t7!x(t);y(t)(t0;:::;tn)
Seialsojetztk=2:WirbetrachtendasIntervall[xi;xi+1] Klarfurk=1:StuckweiselineareInterpolationistautomatischstetigaufn. (IP):Sik(xi)=yi Splineinterpolation: a=x0

3INTERPOLATION Wahleviso,daS0i(xi)=S0i1(xi).DiesergibtdieBedingung 2hi1 hi1vi1+vi=2hi1 vi1+vi=2(yiyi1)(i=1;:::;n1) hi(yiyi1) 78
Esistalsov0zuwahlen.Seii2(xi;xi+1),etwai=12(xi+xi+1) Nehmenwiran,wirhattenzweiStartwertev0undv0mitdenzugehorigenSplinesSundS.Sei^S:=SS. ^S(xi+0:5)=^S(xi+12h)vivi=bivi1bi+vi1=:::=(1)i(v0v0) )vi1+vi=23yi+14yi+1+14yy1(i=1;:::;n1)
d.h.dieWahlvonv0beeinutSgleichmaigauf[xi;xi+1]. InterpoliereS(xi)=f(xi)=yi;S(i)=vi;S(i+1)=vi+1 Problem:Wahleviso,daS2S2(n());S(xi)=yi Si(x)=vi+S[i;xi](xi)+S[i;xi;i+1](xi)(xxi) )^Si(x)=(1)i(v0v0)4h(xxi)1xxi h
iviyivi SpeziellfuraquidistanteZerlegungen:xi=x0+ih;i=xih2)i+1xi=xii=12h xiyixii vi+1yi
Si(x)=vi+1 i+1vi+1vi+1yi
i+1xii+1xiyivi
i+1i xii
WirhabennochdieStetigkeitderAbleitungnachzurechnen: 2h(yivi)xxi+h2+1 S0i(i)=1 2h(yivi)1 2h2(vi+12yi+vi)xxi+h2(xxi)
WirerhaltenfolgendesSchema: )S0i(i)!=S0i1(i) S0i1(i)=1 2h(yi1vi1+1 4h(vi+12yi+vi)
Freizuwahlen:v0;vn+1,z.B.v0=f(0);vn+1=f(n+1) 12vi+1+3vi+12vi1=2(yi+yi1)(i=1;:::;n1) 4h2(vi2yi1+vi132h
(CarldeBoor:PracticalGuidetoSplines,Springer)
kfSk118h3kf(3)k1

3INTERPOLATION EsgibtdreigangigeMoglichkeiten: KubischeSplines(DerFallk=3): 1.S0(a)=y00;S0(b)=y0n;y00;y0n2R(Hermit-Spline) 2.S00(a)=S00(b)=0(naturlicherSpline) 79
3.S0(a)=S0(b);S00(a)=S00(b)undy0=yn(periodischerSpline)
Gesucht:S2S2r+1(n):S(xi)=f(xi)(IP)und Seif:[a;b]!Rglatt,n:a=x0

3INTERPOLATION 1.IstS2S2r+1(n)eineLosungvon(IP?),danngilt furalleg2C(r+1)([a;b])mit(IP?).Weitergilt,fallsg6=S: kg(r+1)S(r+1)k2=kg(r+1)k2kS(r+1)k20 80
Beweis: 2.DieInterpolationsprobleme(IP?)habeneineeindeutigeLosunginS2r+1(n). 1.nachrechnenwieimBeweiszuSatz4.2kS(r+1)k2

MankannfurdenkubischenHermit-Splinezeigen,da(fallsf2C4) 3INTERPOLATION FurdenallgemeinenkubischenSplineergibtdieAbschatzungausSatz4.5 Bemerkung4.6: kfSk1p2h32kf(2)k2 81
Basisdarstellung: S(x)=mXi=0S(i)(x0) i!(xx0)i+n1 kfSk1116h4kf(4)k1
Beispiel: 6 Xi=1S(m)(xi+)S(m)(xi) m! (xxi)m+
0:2 1:3 2:40:11:12:13:14:15:16:17:18:19:1 AAAAAA
S(x)=+(xx0)+9Xj=1i(xxj)+ |{z} x5x6 x5 -
Isthsehrklein,soist(xx4)+(xx5)+,d.h.4=5 3=1:1x3;4=2:2 =1:3;=S0(x0)=0;1=2=7=8=9=0
Problem: FindeBasisindemRaumSm(n)dergestalt,dajedesBasiselementeinenmoglichstgroenTragerhat. 3.5B-Splines h1:1x3;5=1:1x5+2:2 h;6=1:1x5
Esist Beispiel: S1(n);dim(S1(n))=n+1 S2S1(n)=S(x0)+S0(x0)(xx0)+n1 supp(f)=ftjf(t)=0g Xi=1(S0(xi+)S0(xi))(xxi)+

3INTERPOLATION Bi(x)=8>:xxi xi+2xi+1x2[xi+1;xi+2) xi+1xix2[xi;xi+1) xi+2x 82
16 0 sonst (i=0;:::;n2)
B1(x)=8>:x1x x1x0x2[x0;x1) 0sonst xi @@@@ Bn1(x)=8>:xxn1 xi+1xi+2 xnxn1x2[xn1;xn) 0 sonst-
Nimmtmanx1x0undxn+1xnalsweitereKnotenhinzuundschranktmanalleBiauf[a;b]ein (i=1;:::;n1),sogilt
WirwollendieseStrukturfurm>1untersuchen. Bi(xj)=i+1;j)S(xj)=n1 S1(n)=span[a;b]fB1;:::;Bn1gundS(x)=n1 i=1s(xi+1)Bi(xj))S(xi+1)=s(xi+1);supp(Bi)=[xi;xi+2] X i=1s(xi+1)Bi(x) X
Denition5.1: GegebenseidieKnotenfolgeT=ftigi2Zmit1=limi!1ti

3INTERPOLATION 2.Esseijetztti=ti+1:ti+2x ti+2tix2[ti;ti+2) 0sonst 83
3.Bi3:ti: (xti)(ti+2x) (ti+2ti)2+(ti+3x)(xti) (ti+3ti)(ti+3ti+2) (ti+3x)2 0(ti+3ti)(ti+2ti)x2[ti;ti+2) sonst
x2[ti+2;ti+3)

3INTERPOLATION6 - 84
Satz5.2: Furi2Z;k2NseienBindieB-Splinesk-terOrdnungzurKnotenfolgeT=ftigi2Z.Esgilt: 1.Esist Bik=i+k1 ti=ti+1ti+2ti+3
mitbjk2Pk1;j=i;:::;i+k1,d.h. (b)UnstetigkeitenkonnennurandenKnotenauftreten. (a)BikhatstuckweiseeinenGrad

3INTERPOLATION 3. i=1 1Xik()Bik(x)=1X
i=1 ik()!ik(x)Bi;k1(x)+(1!i+1;k(x))Bi+1;k1(x)= 85
Mit =1X
ik()=k1 =1X i=1 i=1 ik()!ik(x)+ ik()xti ti+k1ti+ i1;k()(1!ik(x))Bi;k1(x)=
=(ti+k1)k11 Yj=1(ti+j)= Yj=1(ti+j)=(ti+k1) i1;k()ti+k1x ti+k1tiBi;k1(x)=(?)
i1;k()=k1 =(ti)k11 Yj=1(ti+j1)=k11 Yl=1(ti+l)=(ti) Yl=0(ti+l)= i;k1() i;k1()
folgt(?)=1X =(x)1X =1X ti

3INTERPOLATION )p(x)=k1 =1X i=10@k1 Xj=0p(j)()(1)k1j Xj=0p(j)()(1)k1j (k1)!1X (k1)! i=1 ik()Bik(x)= (k1j) ik()1ABik(x)= (k1j) 86
5.Setzeim4.: =1X p1=1X i=1ik(p)Bik(x)
Esgilt Bemerkung5.3: 1. i=1(1)k1 | (k1)! =1ausDef:von {z ik() (k1)
Bik(x)=(ti+kti)(x)k1 +[ti;:::;ti+k](8x2R) ikBik(x) }
Beispiel:k=1: k=2: (ti+2ti)(x)+[ti;ti+1;ti+2]=(ti+2ti)(x)+[ti+1;ti+2](x)+[ti;ti+1] (ti+1ti)(x)0+=(ti+1ti)[ti+1x]0+[tix]0+ (ti+1ti)=1x2(ti;ti+1) (ti+2ti) 0xti+1
=8>: =(ti+2x)+(ti+1x)+ 1ti+1x ti+2ti+1 0 xti+2 (ti+1x)+(tix)+ ti+1ti =
ti+2ti+1x2(ti+1;ti+2) ti+2x ti+1tix2(ti;ti+1) =
2.d dxXiaiBik(x)=Xi(k1)aiai1 =s1 i=rk+2(k1)aiai1 Xti+k1tiBi;k1(x)=
dennesistd =(k1)(x)k2 ti+k1tiBi;k1=(x2[tr;ts])
dx(x)k1 d+=(k1)(x)k2
=(k1)Bi+1;k1(x) ti+kti+1+Bi;k1(x) +[ti+1;:::;ti+k](x)k2 + ti+k1ti +[ti;:::;ti+k1]=
dxBik(x)=d dx(x)k1 +[ti+1;:::;ti+k]d dx(x)ki +[ti;:::;ti+k1]

3INTERPOLATION 3. mit dxjXiaiBik(x)=Xia(j) dj iBi;kj 87
Denition5.5: Twievorhergegeben,BikB-SplinederOrdnungkzurKnotenfolgeT. a(j+1) r=8>: tr+kjtr(kj)j>0 a(j) ra(j) r1 ar j=0
tiProblem: GesuchtisteineKnotenfolgeTundOrdnungkso,dafBikgi2ISm(k)aufspannen. bezeichnedenRaumSk-terOrdnungzurKnotenfolgeT.Esbezeichne#tidieVielfachheitdesKnotens Sk;T:=Xi2ZaiBikjai2Ro
Satz5.6: SeiT=ftigi2Zmitti

3INTERPOLATION Furj=0;:::;k1denierenwir lj(f):=Djf(a)l=0 [Djf](ti(l))l=1;:::;rundlj(x):=8>:(xa)j (xti(l))j+ j! l=0 88
Mitlj2Pk;^Tund j! l=1;:::;r
qj(ms)= 8>: hDj(a)s Dj(xa)s
hDj(ti(m))s Dj(ati(m))s+ s!jx=a s!i(ti(m))m=0;q=1;:::;r s! m=q=0
s!i(ti(m))m=1;:::;r;q=1;:::;r q=0;m=1;:::;r 9>=>;=jsqm folgt,daspanfijg=Pk;^T3s=Xi;jij(s)ij. sbesitzteineDarstellungs2S[a;b];k;T()s2Pk;^Tund[Dj1s](ti(l))=0
S[a;b];k;T3S(x)=Xj

3INTERPOLATION k;:::;i(l)1;j=1;:::;#ti(l),denndannist Istx

3INTERPOLATION16an3+46an2+16an1=fn 1 2ha3+1 2ha1=f0 90
0B@1 2han3+1 2han1=f0 1 2h01 164616 0......... 1 2h 2h01 164616 2h01CA0B@a3 an1 an2 a2 . 1CA=0B@f0 fn f0n f0 . 1CA Seit1t2:::tn+k,d.h.n+kKnoten.Esgelteti

3INTERPOLATION Anfangsbedingungen:!(x;0)=n2 Xi=0ai(0)Bi2(x)=08x2(0;1) 91
Darausergibtsichai(0)=_ai(0)=0. Z0(D2!+!)(x)Bj2(x)dx=(!0Bj2)(x)10 1 _!(x;0)=n2 Xi=0_ai(0)Bi2(x)=08x2(0;1)
=1 |{z} Z0n2 Randterme+1 Xi=0aiB0i2(x)B0j2(x)dx+1 =0 Z0(!0B0j2)(x)dx+1 Z0n2 Xi=0aiBi2(x)Bj2(x)dx= Z0(!Bj2)(x)dx=
Esist B0i2(x)=1 =n2 Xi=0ai1 | Z0B0i2(x)B0j2(x)dx =:K {z } +n2 Xi=0ai1 | Z0Bi2(x)Bj2(x)dx
Z0B0i1(x)B0i+1;1(x)dx=1 1ti+1tiBi1(x)1
ti+2ti+1Bi+1;1(x)f(x;t)=Xfi(t)Bi2(x) =:M {z }
Z0Bi2(x)Bi+1;2(x)dx=16(ti+2ti+1) 1Z0(B0i1)2(x)dx=
1 ti+2ti+11 ti+2ti+1(i=0;:::;n2)
Z0B2i2(x)dx=13(ti+1ti)+13(ti+2ti+1) 1 1 ti+1ti
DieslegtdieBenutzungeineraquidistantenKnotenfolgenahe: hB0i1;B0i+1;1i=1hhB0i1;B0i1i=2hhBi2;Bi+1;2i=16h hBi2;Bi2i=23hh!!00f;Bj2i=0 hMa+1hKa=Mf

3INTERPOLATION AuseinerpartiellenDierentialgleichungwurdesomiteinelinearegewohnlicheDierentialgleichungzwei- WeitererAnsatz: a(t)=ei!t^a;a=!2ei!t^a=!2a )h!2M^a+1hK^a=M^f 92
terOrdnung.

Problem:GegebenisteineGewichtsfunktion!:[a;b]!R+,!integriereauf(a;b)mitendlichvielen 4NUMERISCHEINTEGRATION 4.1Einfuhrung 4NumerischeIntegration 93
Nullstellenin(a;b).GesuchtisteineQuadraturformel diedasIntegralI(f):=b Beispiel: Ublicherweisewird!1sein.OderzumBeispiel Raf(x)!(x)dxapproximiert. Qn(f):=nXj=0ajf(xj);Qn:C([a;b])!R;
Taylorreihe Bemerkung: Z0ex2dx=1 1 Z1f(x) 1Z01Xj=0x2j
p1x2dxmit!(x)=1 j!dx1 Z0nXj=0x2j j!dx=nXk=01 p1x2
Grundidee:Approximieref(x)durchf(x)Pi2If(xi)'i(x)mitx0

4NUMERISCHEINTEGRATION Allgemein: Wirerhaltendie(bereitsanderweitigbekannte)Trapezregel: Q1(f)=12f(0)+f(1) 94
2.Essollx0=0;x1=12;x2=1undn=2sein: MitdenGleichungen Q1(f)=ba
1 1=1 Z01dx=a0+a1+a2 2f(a)+f(b)
erhaltenwirdieKoezientena0=16;a1=23unda2=16unddieQuadraturformel Allgemeinlautetsie Z0xdx=12=0a0+12a1+a2und12=1 Q2(f)=16f(0)+4f12+f(1)Simpson-Regel Z0x2dx=0a0+14a1+a2
DerallgemeineAnsatzist:Qn(xi)=nXj=0ajxij_=b Esistxij)ni;j=0regular,fallsxi6=xj)91a.Andererseits'j(x):=Lj(x)=nQ Q2(f)=ba 6f(a)+4fa+b Za!(x)xidx(i=0;:::;n) 2+f(b)
alsomudieQuadraturformelfurdieLjexaktsein. DieserAnsatzfuhrtaufdieLagrangeinterpolation. aj=XaiLi(xj)=Qn(Lj)=b Za!(x)Lj(x)dxi=0
i6=jxxi xjximitLj2Pn,
Essollf(0)=a1;f(0:5)=a0undf(1)=a1sein.Alsof(x)1P DurchB-Splines: EinweitererAnsatz: Z0B1;2(x)dx=141 1 fBi2g1i=1f(x)1X i=1aiBi2(x)
)1 Z0f(x)dx14f(0)+2f(0:5)+f(1)
Z0B02(x)dx=121 i=1f(xi+1)Bi2(x). Z0B12(x)dx=14

Problem:GegebenisteineQuadraturformel.GesuchtisteineDarstellungdesFehlersI(f)Qn(f). Satz2.1: 4NUMERISCHEINTEGRATION 4.2Restglieddarstellungen 95
Sei!einezulassigeGewichtsfunktionundQn(f)=nPj=0ajf(xj)eineQuadraturformelzu dieaufPdexaktist.DanngiltfurdenFehlerR(f):=I(f)Q(f)mit0md: R(f)=b Zaf(m+1)Km(t)dt8f2Cm+1([a;b]);wobeiKm(t):=1m!R(t)m+ I(f)=b Za!(x)f(x)dx;
ist.KmheitderPeano-KernzuR. Beweis:f2Cm+1([a;b]))esexistierteineDarstellung
Esgilt:R(p)=08p2Pdundm

4NUMERISCHEINTEGRATION 96
Mitf(x)=xd+1)f(d+1)(x)=(d+1)!
R(xd+1)=(d+1)!b
ZaKd(t)dt)b
ZaKd(t)dt=R(xd+1)
(d+1)!
Beispiel:
1.Trapezregel:Q(f)=ba
2f(a)+f(b).Esistdann
R(f)=b
Zaf(x)dxba
2f(a)+f(b)
Klar,daR(p)=08p2P1.
K1(f)=b
Za(xt)1+dxba
2(at)1++(bt)1+=
=b
Zaxtdxba
2(bt)=12(ta)(bt)
AlsoistK1(t)08t2[a;b].
R(x2)=b
Zax2dxba
2(a2+b2)=13(b3a3)ba
2(a2+b2)=16(ba)3
AllgemeinistdannR(f)=f00()
12(ba)3.
2.Simpsonregel:Q(f)=ba
6f(a)+4fa+b
2+f(b).
K2(t)=13!b
Zt(xt)3dxba
4(at)3++4a+b
2t3++(bt)3+=
=:::=8>:(ta)3
72 0
z}|{
(a+2b3t)a

4NUMERISCHEINTEGRATION 97
4.3Interpolations-Quadraturformeln
Denition3.1:
Qn(f)=nP
j=0ajf(xj)heitInterpolations-Quadraturformel,wennQnaufPnexaktist.
Satz3.2:
ZuvorgegebenenStutzstellena=x0

4NUMERISCHEINTEGRATION AlsomitTn(f)=h12f(x0)+n1 Xj=1f(xj)+12f(xn)gilt Zaf(x)dxTn(f)=h2 b 12(ba)f00() 98
ZusammengesetzteSimpsonregel: Esistn=2m;xj=a+jhundh=ba Zaf(x)dx=mXj=1x2j b =mXj=1n2h6f(x2j2)+4f(x2j1)+f(x2j)h5 x2j2f(x)dx= Z n.
AlsogiltfurdenFehler =Sn(f)h4 =h3f(x0)+4mXj=1f(x2j1)+2m1 Zaf(x)dxSn(f)=h4 b180(ba)f(4)()
Xj=1f(x2j)+f(xn)h5 90f(4)(j)o=
180(ba)f(4)() 90mXj=1f(4)(j)=
4.4QuadraturformelnvomGauschenTyp
Satz4.2: Esseipn(x)=(xan)pn1(x)bnpn2(x);n2mitp0(x)=1;p1(x)=xa1und allep2P2n+1.Esseihf;gi=b Denition4.1: Sei!:(a;b)!ReinezulassigeGewichtsfunktion.EineQuadraturformelGn(f):=nP n+1paarweiseverschiedenenStutzstellenx0;:::;xnheitvomGauschenTyp,fallsGn(p)=I(p)fur an=hxpn1;pn1i Raf(x)g(x)!(x)dx8f;g2C([a;b]). j=0ajf(xj)mitden
0;:::;n1. Esgilt:pi?pj,d.h.hpi;pji=08i6=j. n=1: Beweis:Esistklar,dahpn1;pn1i6=0undhpn2;pn2i6=0.Alsozuzeigen:hpn;pii=08i= a1=hxp0;p0i hp0;p0i()a1hp0;p0ihxp0;p0i=0()hxa1 hpn1;pn1i;bn=hxpn1;pn2i hpn2;pn2i
DieInduktionsannahmeist hpn;pn1i=h(xan)pn1;pn1ibnhpn2;pn1i= =bnhpn2;pn1i=0
=hxpn1;pn1anhpn1;pn1ibnhpn2;pn1i= |{z} =p1;p0i=0

4NUMERISCHEINTEGRATION hpn;pn2i=h(xan)pn1;pn2ibnhpn2;pn2i=0 hpn;pii=hxpn1;piianhpn1;pii hpn;pii=hpn1;pi+1+ai+1pi+bi+1pi1i=0 xpi=pi+1+ai+1pi+bi+1pi1 |{z} =0IVbnhpn2;pii |{z} =0IV=hpn1;xpii 99
Problem:
MitdemVerfahrenausSatz4.2erhaltman Bemerkung4.3: Findeaj;xjderart,daQ(f)exaktistaufP2n+1.
1.!(x)1;[a;b]=[1;1];dieLegendre-Polynome Zaf(x)g(x)!(x)dx=hf;gifurf;g2C([a;b]);!zul.Gewichtsfunktion b
2.!(x)=1 mitdenNullstellenxk=cos2k1 p1x2;[a;b]=[1;1];dieTschebysche-Polynome Pn+1=2n+1 n+1xPnn
n2;k=1;:::;n. Tn(x)=cosnarccos(x) n+1Pn1mitP0=1;P1=x
Satz4.4: Beivorgegebenemn2N0undzulassigerGewichtsfunktion!seienpi2Pi;i=0;:::;n+1;wieinSatz 4.2konstruiert.Danngilt: 3.!(x)=ex;[a;b]=[0;1);dieLaguerre-Polynome. 1.Dien+1Nullstellenvonpn+1sindpaarweiseverschiedenundliegenin(a;b). 2.Seienx0

4NUMERISCHEINTEGRATION 2.Seip2P2n+1.NachEuklidexistierteineDarstellungp=qpn+1+rmitq;r2Pnundpn+1(xj)=0. Angenommenmn:Pm3qm(x)=mQ spanfp0;:::;png)hpn+1;qmi=0.DiesistabereinWiderspruch,alsogiltm=n+1. pn+1wechseltm-maldasVorzeichenin1;:::;m)hpn+1;qmi6=0.Anders:EsistPmPn= i=1(xi)wechseltm-maldasVorzeichenin1;:::;mund 100
Gn(p)=b )p(xj)=q(xj)pn+1(xj) =b Za!(x)r(x)dx=b Za!(x)nXj=0r(xj)Lj(x)dx= |{z} =0+r(xj)=r(xj)(j=0;:::;n)
=b Za!(x)p(x)dxb Za!(x)p(x)hq;pn+1i Za!(x)q(x)pn+1(x)dx= Za!(x)p(x)q(x)pn+1(x)dx=
Lemma4.5: IstGn(f)=nPj=0ajf(xj)eineGauscheQuadraturformel.Danngilt: 1.aj>0, |{z} =0
Beweis: 1.Seinfest,q2Pn+1:hq;pi=08p2Pn.Seienx0;:::;xndieNullstellenvonq(Knotender 2.nPj=0aj=bRa!(x)dx GauschenQuadraturformel).Furfestesjistdann
2.Esist Somiterhaltenwir00 xxj)p22P2n)Gn(p2)=I(p2)
Gn(f)=nPj=0ajf(xj)seivomGauschenTyp.DannsindnotwendigdieStutzstellenxjundGewichteaj Folgerung4.6: wieinSatz4.2angegeben.Dasheit,dieGauschenQuadraturformelnsindeindeutigbestimmt.
Gn(1)=b Za!(x)dx=nXi=0ai

allep2Pn.0=hLk;pn+1i=b 4NUMERISCHEINTEGRATION Beweis:Sei0kn;Lk2Pn)Lkpn+12P2n+1.Klar,istpn+12Pn+1,dannisthpn+1;pi=0fur Za!(x)Lk(x)pn+1(x)dx=nXj=0ajLk(xj)pn+1(xj)=akpn+1(xk) 101
Damitgiltpn+1(xk)=0,daak>0. Beispiele: Sei!(x)1;[a;b]=[1;1]undn=1,d.h.P2n+1=P3.
Alsoistp1(x)=x Z1p2(x)p(x)dx=08p2P1;p0(x)=1;p1(x)=x1 1 a1=hxp0;p0i a2=hxp1;p1i hp0;p0i=h1;1i hp1;p1i=1R1x3dx h1;1i=1 1R1x2dx=0 Z1xdx=0
Esist Somiterhaltenwir DieProbeergibt1 p2(x)=x213;p3(x)=x335x;p4(x)=x467x2+335;p5(x)=x510 b2=hxp1;p0i hp0;p0i=1R1x2dx 1R11dx=13
Z1x213(a+bx)dx=1 =ha3x3+14bx4a3x16bx2i11= Z1ax2+bx313a13bxdx= 9x3+521x
DieNullstellensindx0=q13undx1=q13. a0=1 Z1xq13 q13q13dx=p3 =2a3a32=0
a1=1 Z1x+q13 q13+q13dx=1212x21p3x11=1

4NUMERISCHEINTEGRATION 102
Wirerhaltensomitunsere1.Gauformel:
1
Z1f(x)dx=fq13+fq13
ErweiterungaufeinallgemeinesIntervall:
(t)=ba
dct+adbc
dcmit(c)=aund(d)=b
Alsofurc=1undd=1erhaltenwir(t)=ba
2t+a+b
2.
b
Zaf(x)dx;x=(t))dx=ba
dcdt
b
Zaf(x)dx=ba
dcd
Zcf(t)dt=ba
21
Z1f(t)dt
ba
2nfba
21p3+a+b
2+ba
21p3+a+b
2o
Seinunn=2:p3(x)=x335x;p3(x)=0;x1=0;x0=q35;x2=q35
1
Z1x0
q350xq35
q35q35dx=561
Z1xxr35dx=
=5623=59=a0=a2
1
Z1xq35
q35+0xq35
q350dx=89=a1
DiefolgendeFormelintegriertalsoexaktPolynomep2P2n+1=P5:
1
Z1f(x)dx59fr35+89f(0)+59fr35
BetrachteR(f)=bRa!(x)f(x)dxGn(f)=I(f)Gn(f)mitf2C2n+2([a;b]).
Vorbetrachtung:
AngenommenK2n+1hateinVorzeichenauf[a;b].DanngiltnachFolgerung2.2furein2(a;b)
Rn(f)=f(2n+2)()
(2n+2)!Rn(x2n+2)
Seipn+1(x)=nQ
k=0(xxk)2Pn+1.Danngilt
Rn(x2n+2)=Rn(p2n+1))=b
Za!(x)p2n+1(x)dxGn(p2n+1)
|{z}
=0=b
Za!(x)p2n+1(x)dx

4NUMERISCHEINTEGRATION Satz4.7: Voraussetzungenwieoben.Esgilt Km(t)=1m!b Za!(x)(xt)m+dxmXj=0aj(xjt)m+(0m2n+1) 103
wechseltgenau(2n+1m)-maldasVorzeichenauf[a;b].InsbesonderewechseltK2n+1keinmaldas Beweis:Seia

4NUMERISCHEINTEGRATION Folgerung4.8: Rn(f)=f(2n+2)() (2n+2)!b Za!(x)p2n+1(x)dx 104
Beispiele: 1.Sein=1:f(x)=xsin(x)und[a;b]=[1;1]. Darauskonnenwirersehen:R1(f) Z1x2132dx=8 1 45;f(4)(x)=4cos(x)+xsin(x);kf(4)k14
2.Seijetztn=2: )R1(f)0:0279=2:79102 Z1x335x2dx=8 1Q1(f)0:63024
I1(f)0:602337 8454 240:0296=2:96102
Bemerkung: Somitergibtsich R2(f)6 7208 1753:8095104;G2(f)0:6019;R2(f)0:00036569 175;kf(6)k16
2.MehrdimensionaleIntegration:AusgangslageisteinkartesischesGittera=x0

4NUMERISCHEINTEGRATION 105
Exaktist1
Z01
Z01
1+xydxdy=2
120:822467.Q2;2(f)liefertalssehrguteNaherungschon0:82318.
Esistx(s;t)=1+s
2undy(s;t)=1+t
2.
J=0@xsxt
ysyt1A=0@120
0121A)det(J)=14
Zfd=141
Z11
Z1fx(s;t);y(s;t)dsdt=141
Z11
Z1 1
1+14(1+s)(1+t)dsdt0:8220
Bein=3erhaltenwirdannschon0:822457alsNaherung.
4.5Romberg-Integration
Wiewirschongesehenhaben,istdiezusammengesetzteTrapezregel
T(n)=hn12f(a)+n1
Xi=1f(a+ih)+12f(b)o
mith=ba
2.TrivialerweisegiltT(2n)=12T(n)+T(2n)12T(n).Esistdann
T(2n)12T(n)=hn12f(a)+2n1
Xi=1f(a+ih)+12f(b)ohn12f(a)+n1
Xi=1f(a+2ih)+12f(b)o=
=hnXi=1fa+(2i1)h
SomiterhaltenwirT(2n)=12T(n)+hnPi=1fa+(2i1)h).Allgemeinergilt
T(2n)=12T(2n1)+ba
2n2n1
Xi=1fa+(2i1)ba
2n
Esbezeichne R(0;0):=12(ba)f(a)+f(b)
R(n;0):=12R(n1);0+ba
2n2n1
Xi=1fa+(2i1)ba
2n
Satz5.1(Euler-MacLaurinSummenformel):
Furf2C2n([0;1])gilt
1
Z0f(t)dt=12f(0)+f(1)n1
Xk=0b2k
(2k)!f(2k1)(1)f(2k1)(0)+R
mitR=b2n
(2n)!f(2n)()und2(0;1)sowiebk=Bk(0),wobeiBkdieBernoulliPolynome
nXk
=0n+1
kBk(t)=(n+1)tn

Beweis(J.Werner,S.247):WirgehenausvonBn(t)=1 4NUMERISCHEINTEGRATION bezeichnet.Diesekonnenauchrekursiverzeugtwerdendurch B0n=nBn1;B0(t)=1;B1(t)=t12;Bn(1t)=(1)nBn(t) n+1B0n+1(t). 106
EsistB1(1)=12undB1(0)=12.Damitkonnenwirschreiben Z0f(t)dt=12f(1)+f(0)1 1Z0f(t)dt=1
1 Z0f(t)B0(t)dt=B1(t)f(t)101 Z0B1(t)f0(t)dt= Z0B1(t)f0(t)dt:
Esgilt:b2i+1=0;b2i=B2k(0)=B2k(1)u.s.w. Z0f(t)dt=12f(0)+f(1)nXk=1b2k 1 =12f(1)+f(0)b2 (2k)!f(2k1)(1)f(2k1)(0) | 1R0f(2k)(t)dt 2f0(1)f0(0)+121 {z } +1 (2n)!1 Z0B2(t)f00(t)dt
=12f(0)+f(1)n1 Xk=0b2k (2k)!f(2k1)(1)f(2k1)(0)+1 (2n)!1 Z0B2n(t)f(2n)(t)dt= | Z0B2n(t)b2nf(2n)(t)dt
Bk;k

4NUMERISCHEINTEGRATION Somitfolgt Zaf(x)dx=h22n1 b Xj=0f(xj)+f(xj+1)m1 Xk=12n1 Xj=0b2kh2k (2k)!f(2k1)(xj+1)f(2k1)(xj)XR= 107
d.h.diesisteinetypischeSituationfurExtrapolation.SomitkonnenwirjetzteinTableaudenieren. =R(n;0)+c2h2+c4h4+:::+c2mh2mf(2m)() =h22n1 b2m (2m)!h2m(ba)f(2m)()= Xj=0f(xj)+f(xj+1)+m1 Xk=1b2kh2k
R(n;m):=R(n;m1)+1(2k)!f(2k1)(a)f(2k1)(b)
AlgorithmusRomberg-Integration: h inputa;b;M ba 4m1R(n;m1)R(n1;m1)
forn=1;:::;M R(0;0) h form=1;:::;M R(n;m) h2;R(n;0) 12(ba)f(a)+f(b) R(n;m1)+R(n;m1)R(n1;m1) 12R(n1;0)+h2n1 Pi=1fa+(2i1)h
FurjedesPaarvonIndizeserhaltenwirmitdemRomberg-SchemaeineQuadraturformel Bemerkung: outR(n;m);0nM;0mn 4m1
Sofortzusehen:R(1;1)entsprichtderSimpsonregel. R(1;1)=43R(1;0)13R(0;0)=
Satz5.2: Seif2C([a;b]).Furfestesmgiltdannlim
=4312R(0;0)+ba =13R(0;0)+43ba 2fa+ba 2fa+b 2213R(0;0)=
n!1R(n;m)!b Zaf(x)dx

4NUMERISCHEINTEGRATION Beweis:Seim=0:R(k;0)enthaltdieTrapezregel. h12f(a)+12f(b)+k1 Xi=1f(a+ih)=12hk1 |{z} Xi=0f(a+ih) 108
Seim=1: R(n;1)=43R(n;0) |{z} !I(f)13R(n1;0) Riemannsumme+12hkXi=1f(a+ih) |{z} !I(f)k!1 |{z} !I(f) Riemannsummek!1 !b Zaf(x)dx Seim=2: R(n;2)=R(n;1)1 161R(n;1) |{z} !I(f)R(n1;1) |{z} !I(f)k!1 !I(f)

5EIGENWERTE 5.1TheoretischerHintergrund 5Eigenwerte Denition1.1: 109
SeiA2Cnn.2CheitEigenwertzumEigenvektoru6=0;u2Cn,fallsAu=ugilt.DieMenge (A)allerEigenwerteheitSpektrumvonA. j(A)jn '(A)=max2(A)jjheitderSpektralradius. sp(A)=nPi=1aiiistdieSpurvonA. 2(A)()det(AI):=pA()=0
Denition1.2: 1.2(A)hatdiealgebraische,fallspA()=0mitVielfachheit. 2.2(A)mit()=1heiteinfach. A;B;X2Cnnregular,A=XBX1)(A)=(B);uA=XuB 2(A))2(A);A=AT=AT;Av=v;vA=v
zubetrachten,dieaufgeeigneteNormalformenfuhren: DieInvarianzdesSpektrumsunterAhnlichkeitstransformationenlegtesnahe,spezielleTransformationen UnterAhnlichkeitstransformationenbleibendiegeometrischenundalgebraischenVielfachheiteninvariant. 4.2(A)heithalb-einfach,falls=. 3.2(A)hatdiegeometrischeVielfachheit,fallsdiemaximaleAnzahllinearunabhangiger Eigenvektorenzuist,d.h.()=dimker(AI).
Diagonalform:besteundeinfachsteDarstellung,abernichtimmerdurchfuhrbar. immerdurchfuhrbar,abernumerischnichtstabil. Jordanform:obereBidiagonalformmitf0;1g-ElementeninderoberenNebendiagonalen.Theoretisch
Satz1.1: ObereDreiecksform:AuspraktischerSichtderbesteKompromi,dasichdieAhnlichkeitstransfor-
SeiA2Cnn.Essindaquivalent 5.1.1Diagonalform mationenmitHilfevonIsometrienrealisierenlassen,diewiederumausnumerischstabilenElementartransformationenaufgebautwerdenkonnen. Insbesondere:SinddieEigenwertevonAallepaarweiseverschieden,dannistAdiagonalisierbar.
3.AlleEigenwertesindhalb-einfach. 1.Aistdiagonalisierbar. 2.AbesitztnlinearunabhangigeEigenvektoren.

5EIGENWERTE 5.1.2JordanscheNormalform voni)mitker(AiI)li+1=ker(AiI)li 2N;i2(A):ker(AiI)l+1ker(AiI)l.Istn

5EIGENWERTE undB=VAV2Cn1n1.NachInduktionsvoraussetzungexistierteinQ12Cn1n1unitarmit Q1BQ1=R1.Deniere^Q1=10 ^Q10B^Q1=10 uAV 0Q1 0Q10BQ1=
uAVQ1 0Q1BQ1= uAVQ1 0R1 uAVQ1111
DieDiagonalelementevonRsinddieEigenwertevonAineinergewissenOrdnung.Mankannjede beliebigeOrdnungerreichen. Esgilt:Aqj=jPi=1rijqi;Q=[q1;:::;qn].DieqiheienSchurvektoren)Mk:=spanfq1;:::;qkg: QTAQ=R,wobeiReineobereBlockdreiecksmatrixist.DieDiagonalblockeRiibesitzenent- AMkMk. SeiweiterQk:=[q1;:::;qk];Rkk-teHauptuntermatrix.Dannexistiertdie(sog.)partielleSchurzerlegungAQk=QkRk. (Werner,Schwarz)ZujederreellenMatrixA2RnngibteseineorthogonaleMatrixQmit
Denition1.5: A2Cnnheitnormal,fallsAA=AA.IstAnormalundDreiecksmatrix)Adiagonal. 5.1.4NormaleundhermitescheMatrizen konjugiert-komplexerEigenwerte. wederdieOrdnung1(d.h.Eigenwert)oderdieOrdnung2undbesitzenimletzterenFalleinPaar
Satz1.6: A2Cnnistnormal()AistunitaraquivalentzueinerDiagonalmatrix. JedeMatrixmitreellenEigenwertenisthermitesch(u.u.) namlichdieSpaltenvonQ. JedenormaleMatrixistdiagonalisierbarundbesitzteineOrthonormalbasisvonEigenvektoren, dann 2.Wa=f(x)jx2Cngistbeschrankt.IstAnormal,dannhatjedesx2CneineDarstellung 1.j(x)jj(Ax;x)j 2(A);uEigenvektor,=(Au;u) x=nPi=1iqi,wobeiqiEigenvektorvonAist. kxk2kAxk2kxk2 kxk2=kAxk2 (u;u);(x):=(Ax;x) kxk2kAk2 (x;x);x6=0,heitRayleigh-Quotient.Esgilt
Satz1.7: DerWertebereichWaderRayleigh-QuotienteneinernormalenMatrixistgleichderkonvexenHullevon (A).
(x)=(Ax;x) (x;x)=nPk=1kjkj2 =1jkj2=nXk=1kkmit0i1;nXi=1i=1 nPk

5EIGENWERTE Beweis:Seifqigi=1;:::;nOrthonormalbasisinCnmitqiEigenvektorenvonAzudenEigenwerteni.Wir Satz1.8Minimax-Theorem(Courant-Fischer,Poincare-Weyl): DieEigenwerteeinerhermiteschenMatrixwerdendurchfolgendeRelationcharakterisiert: k=min S;dim(S)=nk+1max x2S;x6=0(Ax;x) (x;x) 112
bezeichnenmitSk:=spanfq1;:::;qkgundmit(S)=maxx2S(x).Dadim(Sk)=kgiltfuralleS UnterraumevonCnmitdim(S)=nk+1,daeinx6=0existiertmitx2S\Sk.Auerdemexistiert
Andererseits:S0:=spanfqk;:::;qng;dim(S0)=nk+1 eineDarstellungx=kPi=1iqi.(x)=kPi=1ijij2 (x)=nP i=kijij2 =kjij2k)(S0)k nPi=1jij2k)(S)k
kPi
5.2Fehlerabschatzungen(aposteriori) Satz2.1(Bauer-Fike): Sei(~;~u)einapproximativesEigenpaarfurA2CnnmitRosiduumvektorr=A~u~~u;k~uk2=1.Sei Beweis:Ist~bereitsimSpektrumvonA,d.h.~2(A),sobereitsfertig.Seialso~=2(A): j~jcond2(X)krk2. AdiagonalisierbarundXseiderentsprechendeBasiswechsel.DanngibteseinenEigenwertvonAmit ~u=(A~I
ImFalle,daAnichtdiagonalisierbarist,existiertein2(A)mitIndexl Bemerkung2.2: 1=k~uk2=kX(DI)1X1rkkXk2kX1k2 |{z} R(~;A))1r=(XDX1~I)1r=X(D~I)1X1r |{z} =cond2(X)k(DI)1k2 |{z}
wobeiXderBasiswechselzurJordanformist. 1j~jl1cond2(X)krk2; j~jl 2(A)1 maxj~jkrk2
Lemma2.4: Sei~u;k~uk2=1,approximativerEigenvektorfurA(hermitesch)und~=(A~u;~u).Sei(;)einIntervall ACHTUNG:ManbenotigtdieKonditionvonXundu.U.denIndexl.FurAhermiteschistcond2(X)=1. SeiA2Cnnhermiteschund(~;~u)wieinSatz2.1.Danngibtesein2(A)mitj~jkrk2. mit~2(;).Essei(;)\(A)6==0.Danngilt: Folgerung2.3: (~)(~)krk2

5EIGENWERTE Beweis:Esistr=A~u~~u.WirwissennachKonstruktion(r;~u)=0. (AI)~u;(AI)~u=(A~I)~u =krk2+(~)(~)k~uk2 |{z} =r+(~)~u;(A~I)~u |{z}
=r+(~)~u= 113
AndererseitshabenwireineDarstellung~u=nPi=1iuimituiOrthonormalbasisausEigenvektorenvonA. (AI)~u;(AI)~u=Xjij2(i)(i) |{z} =1
Satz2.5(Kato-Temple): Sei~u;k~uk2=1,approximativerEigenvektorvonA(hermitesch)und~=(A~u;~u).Sei(a;b)einIntervall, das~undgenauein2(A)enthalt.DanngiltdieaposterioriAbschatzung 0 0
Analogfur>~;:=a;:=giltnachLemma2.4 Beweis:SeidernachsteEigenwertzu~.Fur

5EIGENWERTE Weitergiltk(A~I)u?k2.Wahlefuru?eineBasisdarstellungu?=Pi6=iui. (A~I)u?=Xi6=(i~)ui 114
Wirbetrachten2Rosiduumvektorenrj=(A~jI)~ujund^rj=(AjI)~uj. FurpraktischeZweckemumannachuntenabschatzen: Bemerkung2.8:
WirbenutzenwiederdieOrthogonalitatunderhalten krjk=k(A~jI)~ujk=k^rj+j~uj~j~ujk=k^rj+(j~j)~ujk =j~jj=j(~~j)+(~jj)jj~~jjj~jjj
Beispiel: Essei j~jjj2+k^rjk2=krjk2)j~jjjkrjk2
u=0:50:500:50:5T.Nehmenwiran,wirhattenausirgendwelchenGrunden Wirerhaltensofort(A)=3;1;12p3.Wirwahlen=3mitdemzugehorigenEigenvektor A=0B@12 212 0212 212 211CA: 0
erhalten.Somitist(~u)=2:9998.DernachsteEigenwertist=3,dertatsachlicheFehler2:02104. krk2=0:02832 krk2=k(A~I)~uk20:0283 ~u=0:490:500:50:5T =j1+2p32:9998j1:46430
Lemma2.9: Weiteristcos(u;~u)=0:999962)=0:0087 Wirsehen:DieabgeschatztenFehlersindinetwadoppeltsogrowiedietatsachlichenFehler. sin(u;~u)0:0283 1:46430:01932)=0:01932 1:46430=5:463104
E0u=ruu=r.kE0k2=kruk2=maxfruu SeiA2Cnn(alsonichtunbedingthermitesch).Weiterseiu2Cnmitkuk2=1;r=Auu,und Beweis:EsistE2E()Eu=r.Klaristkrk2kEk2)min E=fE2Cnnj(AE)u=ug.Esgiltmin E2EkEk2=krk2 |{z} =1rg=krk2)kE0k2=krk2
E2EkEk2krk2.EsistE0=ru2E,

Essei Danngiltmin 5EIGENWERTE SeiA2Cnn;u;wmitkuk2=kwk2=1und(u;w)6=0.Fur2Csetzer=Auu;s=Aww. Satz2.10(Kahan,Parlett,Jiang): E2EkEk=maxfkrk2;ksk2g. E=fE2Cnnj(AE)u=u;(AE)w=wg 115
Beweis:AnalogzumLemma2.9siehtman Setze:=su=wrunddenieredieVektorenx:=rw;y:=suundE()=ru+wswu xy. E()u=ruu min E2EkEk2maxfkrk2;ksk2g
AnalogistE()w=s. 1.Seiksk2>krk2:E()=x(uy (rw)(su)u=(rw)(su) |{z} |{z} =1+wsu |{z}
=wuu =0)xyu=0)E()u=r |{z}
=:z)+ws.Setze=ksk2jj2,fallsksk26=jj. =1xyu
E()E()v=v.Furv=z:=kxk2kzk2,furv=s:=ksk2.InjedemFallfolgt Esistjetztzs=0undwx=0(d.h.stehtsenkrecht).Bildedann )s(uy)=susy=0;E()=xz+ws
Wirwissenx?w,somitkonnenwirrechnen E()E()=(zx+sw)(xz+ws)=kxk2zz+ss
Esistu?y:kuyk2=1+2kyk2=1+2(ksk2jj2)=ksk2 krk2=kx+wk2=kxk2+jj2kwk2 kE()k2=maxfksk2;kxk2kuyk2g |{z} =1)kxk2=krk2jj2
2.hnlichfurksk2

5EIGENWERTE Satz3.1(Gerschgorin): 5.3Lokalisierungssatze 1.JederEigenwertvonAliegtineinemabgeschlossenenKreismitRadiusnP 116
2.Angenommen,esgibtmderartigeGerschgorin-Kreise,derenVereinigungSzuallenanderenGersch- d.h.furalle2(A)existierteinimit jaiijXj=1 j6=ijaijj=ri j=1
gorin-Kreisendisjunktist.DannenthaltSgenaumEigenwertenvonA(Multipl.mitgezahlt). j6=ijaijj=:riumaii2C,
Beweis: 2.SeiA=D+H;D=diag(A);diag(H)=0;A(t)=D+tHmitt2[0;1];t:(t).Nacheinem 1.siehebung Hilfssatz(s.u.)gilt
furi=1;:::;n.Dannexistiertein2Pnundmiti=(i)giltjiij0existierteine(),sodafuralleb2Cngilt:jbiaij0soklein,daMi

5EIGENWERTE Beispiel: EsseifolgendesymmetrischeMatrixA2C55gegeben: A=0B@1:00:00550:10:10:0 0:00552:00:050:00:1 0:10:053:00:10:05 117
Seii=1,d.h.a11=1:0;=0:99195;=1:99443 Dannist(A)=f0:99195;1:99443;2:99507;4:01386;5:00466g. j6=1ja1jj=0:2055;5Xj=1 =1 5Xj 0:10:00:14:00:0 0:00:10:050:05:01CA
5.4.1Vektoriteration Gerschgorin:ja11j0:2055,Kato-Temple:ja11j0:0201. 5.4VerfahrenzurSpektralapproximationj6=1ja1jj2=0:02
1.DiePotenzmethode
Satz4.1: AlgorithmusPotenzmethode:
Angenommen,esgibtgenaueinenEigenwert1vonAmitmaximalemBetrag,soda1halbeinfach 1.Start:WahleAnfangsvektorv0aus. 2.Iteration:Furk=1;2;:::bisKonvergenzeintrittberechne
Beweis:Esistvk=1kAkv0mitmaxjvkj=1.Wirkonnenv0zerlegeninv0=pPi=1Piv0,wobeidie Algorithmus)konvergiertgegeneinenEigenvektorzu1undkkonvergiertgegen1. ist.Dannhatv0entwederkeineKomponenteiminvariantenTeilraumzu1oderdieFolgevk(siehe vk=1kAvk1mitk=max i=1;:::;nj(Avk1)ij
dernilpotenteAnteilmitNilpotentgradliist).Esgilt PidiezuigehorendenSpektralprojektorensind(16=:::6=p;APi=Pi(iPi+Di),wobeiDi undwirkonnendarausfolgern NachderAnnahme,da1halbeinfachist,giltD1=0. vk=1kAkpXi=1Piv0=1kpXi=1AiPiv0=1kpXi=1Pi(iPi+Di)kv0 AkPi=Pi(iPi+Di)k
vk=1kk1P1v0+pXi=2Pi(iPi+Di)kv0= =k1kP1v0+pXi=21k1(iPi+Di)kPiv0

5EIGENWERTE 0.FallsP1v06=0)vkk!1 EsistiPi+Di 1jij;(i6=1;i6=2).Abhilfeist,da manAum0:5iverschiebt.ManerhaltdasneueSpektrummit SeiimweiterenA12=5:1.SomitistdasSpektrumvonA: IterationenbeieinerToleranzvon1:e3,um~=1:5672zuerhalten. Beispiel: SeiA=hilb(5))1=1:5671.AlsStartvektornehmemanv0=(11111)T.Dannbrauchtman5
BeieinerToleranzvon1:e3und16Iterationenerhaltman~1=0:8344+2:0018i. (A+0:5iI)=f0:8359+2:0019i;0:83591:0009i;0:00016+0:5i;0:00001+5i;0:1139+0:5ig (A)=f0:83591:5019i;0:1139;0:0016;0:00001g
2.PotenzmethodemitSpektralverschiebung AusdemBeweisdesSatzes4.1wirddeutlich,daderKonvergenzfaktor Av=v()(A+I)v=Av+v=(+)v
3.InverseIteration ist.Wahltman2,sohatmanj2j AlgorithmusInverseIteration: j1jsehrklein. j2j
1.Start:(AI)=LR.WahleAnfangsvektorv0aus. j1j=11A(IP0)Cn:
DabeientsprechenddurchVorwarts-/Ruckwartseinsetzeny=L1vk1;v=R1y. 2.Iteration:Furk=1;2;:::bisKonvergenzeintrittberechne Ist12(A)derEigenwert,deramnachstenbeiist,soistderEigenwertvon(AI)1 mitmaximalemBetrag1 Ist12(A)32mitjj=minjijundj2j=min vk=1k(AI)1vk1=1kR1L1vk1mitk=max 1undkkonvergiertzudiesemWert. i=1;:::;nj(Avk1)ij
MankanndieVerschiebungauchinjedemSchrittneuansetzen: KonvergenzfaktorI=j1j naheran1alsan2ist. j2j,d.h.dieKonvergenzkannsehrschnellsein,wennsehrviel neu=alt+1k(shiftandinvert)
i6=1jij,dannistder

5EIGENWERTE derletztenApproximationdenieren,hierfurderfolgendeAlgorithmus(Rayleigh-Quotienten- ImFallehermitescherMatrizenkannmandieVerschiebungalsdenRayleigh-Koezient Iteration): 1.Start:(AI)=LR.WahleAnfangsvektorv0mitkv0k2=1aus. 2.Iteration:Furk=1;2;:::bisKonvergenzeintrittberechne 119
5.4.2Deationsmethoden 1.Wielandt-DeationmiteinemVektor mitkdergestalt,dakvkk2=1. k=(Avk1;vk1);vk=1k(AkI)1vk1
Beweis: Satz4.2(Wielandt): Esist(A1)=f1;2;:::;pg (a)Seii6=1:wiseiLinkseigenvektorvonA: A1=Au1v;v:vu1=1
0=(AiI)u1 | |{z} 2im(AiI);wi 2ker(AiI)=(1i) {z} (Avu1)wi=Awivu1wi
WirbetrachtendieRechtseigenvektorenvonA:^ui=uiiu1 (b)Seii=1:EsistA1u1=(Au1v)u1=(1)u1 A1^ui=(Au1v)(uiiu1)=iui[i1+vuii]u1 |{z} =0u1;wi=(i)(u1;wi)
Setze1=0)A1^u1=(1)^u1i(v):=vui DannistA1^ui=iuihvui1 11i+11ivui 11i
Moglichkeiten,vzuwahlen: falls11i6=0,andernfalls1i=)i=1.Manhatalsounendlichviele (b)v=u1(s.u.)
(a)v=w1)i=0(Hotelling) =i(ui(v)u1)=i^ui 11ivui 11iiu1=

5EIGENWERTE unddieSchurvektorenvonAfuri(i=2;:::;p);sindidentischmitdenenvonA1. Sei(1;u1);ku1k2=1;EigenpaarfurAundseiA1=Au1u1.Dannistfurf~igi=1;:::;p=(A): Lemma4.3: ~1=1;~i=i(i=2;:::;p) 120
2.DeationmitmehrerenVektoren Beweis:EsseidieSchurzerlegungAU=URgegeben.
furdieEigenwerte~1;:::;~jvonAj:=AQjjQj: Seij:=diag(1;:::;j);Qj2CnjeineorthogonaleMatrixausSchurvektorenvonA.Danngilt Lemma4.4: Seien1;:::;j2(A)undq1;:::;qjSchurvektorenmitQ1:=[q1;:::;qj]. A1U=[Au1u1]U=URu1u1U=URu1e1=U(Re1e1)
DaruberhinausbesitzendieseMatrizendiegleichenSchurvektoren. Bemerkung: Beweis:EsseiAU=URdieSchurzerlegung. AjU=[AQjjQj]U=URQjjEj=U[REjjEj] ~i=iifurijund~=ifuri>j
realisiert. DasletzteLemmalegteinVerfahrennahe,dainkrementielleDeationeinepartielleSchurzerlegung 5.4.3PartielleSchurzerlegung v=u1dieSchurvektorenerhaltenbleiben. BeiderHotelling-DeationbleichendieEigenvektorenerhalten,wahrendbeiderDeationmit
Algorithmus:Furi=1;:::;j1
Beachte,damandieMatrixA1nichtexplizitberechnenmu: Bemerkung: 1.SetzeAi=Ai1i1qi1qi1;(A0=A)undberechnedendominantenEigenwertivonAiund
1.berechney=Ax 2.Orthonormalisiere~uigegenq1;:::;qi1undsetzedasResultatgleichqi. denzugehorigenEigenvektor~ui.
2.berechnedieZahlt=vx 3.y ytu1.

5EIGENWERTE 121
5.4.4Unterraumiteration
Wasgeschieht,wennmanmiteinerMatrixX0=[x1;:::;xm]startenddieIterationXk=AXk1
ausfuhrt?SelbstwenndieSpaltenseparatnormiertwerden,wirdsichi.a.einVerlustanlinearerUn-
abhangigkeiteinstellen.BauersIdeeistdieQ-R-Zerlegung.
Algorithmus:
1.Start:WahleX0=[x1;:::;xm].
2.Iteration:Furk=1;2;:::bisKonvergenzeintritt.
(a)berechneXk=AXk1
(b)berechneXk=QRundsetzeXk:=Q.
Algorithmus:
1.Start:WahleX=[x1;:::;xm];iter2N.
2.Iteration:BisKonvergenzeintritt:
(a)berechneZ=AiterX
(b)orthonormiereZ:X Z
(c)wahleiter2Nneu.
Satz4.5:
Seien1;:::;mdiemdominantenEigenwertevonAmitjij>ji+1jfur1im.SeiQ=[q1;:::;qm]
eineMatrixausSchurvektorenzu1;:::;m,undseienPiSpektralprojektionenbezuglich1;:::;imit
dimPi(x1;:::;xi)=ifuri=1;:::;m.Danngilt:Diei-teKomponentevonXkkonvergiert"wesentlich\
zuqi,demi-tenSchurvektor.Dabeimeintmanmit"wesentlicher\Konvergenz,daeszuderFolgexk
eineVorzeichenfolgeeikgibt,sodaxkeik!xkonvergiert.
Beweis:Essei X0=PmX0+(IPm)X0)=QG1+WG2
mitW2Cn(nm);W=[w1;:::;wn1]undspanfw1;:::;wnmg=(IPm)Cn.EshabenG12
CmmundG22C(nm)mvollenRang.NunexistierenobereDreiecksmatrizenR12CmmundR22
C(nm)(nm)mitAQ=QR1undAW=WR2.DieSpaltenvonXkwerdendurchOrthonormierung
vonZk=AkX0erhalten.NachAnnahmehatPmX0vollenRang.Esgilt:
AkX0=Ak[QG1+WG2]=QRk1G1+WRk2G2=(Q+WRk2G2G1
1Rk
1
|{z}
=:Mk)Rk1G1
Esist(R1
1)=1
jmjund(R2)=jm1j.NachVoraussetzungistjm+1j
jmj

5EIGENWERTE 122
WirkommenjetztzumFallj:[X]j=[x1;:::;xj].MitobigemArgumentsehenwir,dadieerstenj
SpaltenvonXkzueinerMatrixkonvergieren,derenSpaltendenselbenRaumaufspannenwiespanf[Q]jg,
d.h.mit Pj:Cn!spanf[Q]jgorthogonal
P(k)
j:Cn!spanf[Xk]jgorthogonal
UndsomitP(k)
j!Pj(j=1;:::;m).DerRestdesBeweisesbestehtineinerInduktion:
1.Seij=1:Die1.Spaltekonvergiertimwesentlichengegenq1(klar).
2.Annahme:DieersteniSpaltenvonXkkonvergierenimwesentlichengegenq1;:::;qi.
3.Schlu:BetrachtendieletzteSpaltex(k)
i+1von[Xk]i+1:
x(k)
i+1=P(k)
i+1x(k)
i+1=P(k)
ix(k)
i+1
|{z}
=0+(P(k)
i+1P(k)
i)x(k)
i+1
Esgilt:Pi+1Pi=Qi+1Qi+1QiQi=qi+1qi+1.
Pi+1Pi:Cn!spanfqi+1g;P(k)
i+1!Pi+1;P(k)
i!Pi
Alsofolgtx(k)
i+1=qi+1qi+1+kmitk!0.
kx(k)
i+1k=1;xki+1!eiqi+1
5.5Krylov-Unterraummethoden
5.5.1Krylov-Unterraume
Denition5.1:
DerRaumKm(A;v)=spanfv;Av;:::;Am1vgheitKrylov-Raum.Furv2CnheitpMinimalpolynom
furv,fallspdasPolynomvomkleinstenGradist,sodap(A)v=0.
Lemma5.2:
EsistKm(A;v)=fx2Cnjx=p(A)v;p2Pm1g.
Beweis:
i)x2Km(A;v):x=m1
Pi=0iAiv=p(A)v
ii)x=p(A)v=m1
Pi=0iAiv2Km:=Km(A;v)
Lemma5.3:
SeiderGraddesMinimalpolynomspvonv.DannistKinvariantunterAundKm=Kfurm.
Beweis:Seix2K)x=1
Pi=0iAivAx=1
Xi=0iAi+1v=Xi=1i1Aiv

5EIGENWERTE Lemma5.4: KmhatdieDimensionmgenaudann,wennderGraddesMinimalpolynomsvonvbezuglichAgroerals Somitistp(A)v=(A+1A1+:::+0)v=0undAx2K. m1ist. 123
PolynommitGradm1,furdasp(A)v=0. Beweis:fv;Av;:::;Am1vgisteineBasisvonKmgenaudann,wennfuralle(0;:::;m1)2Cmmit
Beweis:Z.z.:q2Pm)Qmq(A)v=q(Am)v.Zunachstqi(t)=ti;i=0;:::;m1. Lemma5.5: SeiQmeinProjektoraufKm,undseiAm=QmAjKm.DanngiltfurjedesPolynomq2Pm1:q(A)v= q(Am)vundfurjedesq2Pmgilt:Qmq(A)v=q(Am)v. i06=0furmindestenseinenIndexi0gilt,dam1 Pi=0iAiv6=0.Diesistaberaquivalentzu:Esgibtkein
1.Klarfurq0(t)=1,daQmv=v. 2.AngenommenQmqi(A)v=qi(A)v=qi(Am)v 3.MultiplizieredieGleichungin2.mitA:qi+1(A)v=Aqi(Am)v. (b)Fallsi+1=mistzuzeigen,daQmqm(A)v=qm(Am)v.Esgiltaberqm1(A)v=qm1(Am)v. (a)Fallsi+1m1)qi+1(A)v2Km,dannmultipliziertmanmitQm: ManmultipliziertdieGleichungin2.mitQmA Qmqi+1(A)v=qi+1(A)v=QmAqi(Am)v QmAqm1(A)v=QmAqm1(Am)v |{z} 2Km=QmAjKm |{z}
=Amqi(Am)v=qi+1(Am)v
5.5.2DieMethodevonArnoldi(1951) undargumentiertweiterwiein(a). Algorithmus: 2Km
2.Iteration:Furj=1;:::;mberechne 1.Start:Wahlev1mitkv1k2=1 hj+1;j:=kwjk2 vj+1:=wj wj:=AvjjPi=1hijvi hij:=(Avi;vj);i=1;:::;j
Lemma5.6: DieVektorenv1;:::;vmausdemvorherigenAlgorithmusbildeneineOrthonormalbasisvonKm(v1;A).
DerAlgorithmusstoppt,wennwj=0. hj+1;j

5EIGENWERTE jedesvj=qj1(A)v1gilt,daqj12Pj1. Beweis:DaderAlgorithmusausdemGram-Schmidt-Algorithmusdirektabzuleitenist,istdieOrthogonalitatbewiesen.Alsonochzuzeigen:spanfv1;:::;vmg=Km(v1;A).PerInduktionzeigenwir,dafur 1.Seij=1:v1=q0(A)v1)q0(t)12P0 124
2.Annahmeseirichtigfurij. 3.Esist
bezuglichAdenGradjhat. DazubrauchenwirjedocheinenHilfssatz: Dieszeigt,davi2Km(v1;A).Alsonurnochzuzeigen:Istv2Km(v1;A))v2spanfv1;:::;vmg. Hilfssatz: DerAlgorithmusbrichtimSchrittjab(d.h.wj=0)genaudann,wenndasMinimalpolynomvonv1 hj+1;jvj+1=AvjjXi=1hijvi=Aqj1(A)v1jXi=1hijqj1(A)v1=qj(A)v1
Beweis:IstderGradgleichj,dannistwj=0,dennandernfallskannvj+1deniertwerden)dimKj+1=
Denition5.7: j+1.NachdemLemma5.4istdannderGraddesMinimalpolynomsj+1.Diesistaberein
SeiKeinm-dimensionalerTeilraumvonCn.Wirsagen~;~umit~u2KisteinapproximativesEigenpaar LinearkombinationenausKjdarstellen,undesgiltKm=Kjspanfv1;:::;vjgspanfv1;:::;vmg. BeweisvonLemma5.6(Forts.):Istnun=j,solassensichdieElementeAj+1v1;:::;Amv1durch zuderTatsache,dajderersteIndexist,furdenderAlgorithmusabbricht. Widerspruch.Istumgekehrtwj=0,dannistderGraddesMinimalpolynomsvonv1bezuglichA
vonAbezuglichK,falls kleinergleichj.Ist

5EIGENWERTE 125
2.VmAVm=Hm
Beweis:HmistnachderDenitioneineHessenbergmatrix.Wirwissen:wj=hj+1;jvj+1.
1.Esisthj+1;jvj+1=AvjjPi=1hijvi;Avj=j+1
Pi=1hijvi.Alsogilt
AVm=VmHm+hm+1;mvm+1em
2.VmAVm=Hm+hm+1;mVmvm+1em
|{z}
=0
Satz5.11:
Seiy(m)
ieinEigenvektorvonHmzumEigenwert(m)
iundu(m)
i:=Vmy(m)
i(approx.Ritz-Eigenvektor).
Danngilt(A(m)
iI)u(m)
i=hm+1;memy(m)
ivm+1undk(A(m)
iI)u(m)
ik=hm+1;mjemy(m)
ij
Beweis:EsistAVm=VmHm+hm+1;mvm+1em.Diesesmultipliziertmity(m)
i.
AVmy(m)
i=(m)
iVmy(m)
i+hm+1;memy(m)
i)AVmy(m)
i(m)
iVmy(m)
i=hm+1;memy(m)
i
Algorithmus(modiziertesGram-Schmidt-VerfahrenfurArnoldi):
1.Start:Wahlev1mitkv1k2=1.
2.Iteration:Furj=1;:::;mberechne
w:=Avj
Furi=1;:::;j
hij:=(w;vi)
w:=whijvi
hj+1;j:=kwk2
vj+1:=w
hj+1;j
Beispiel:
SeiA=0B@2100
1210
0121
00121CA.EsistdannK4(A;v1)=0B@131035
141555
131555
1410351CAmitv1=(1111)T.DerRang
vonK4(A;v1)ist2,somitstopptderArnoldi-Algorithmusfurj=2.Wirerhalten
V2=0B@0:50:5
0:50:5
0:50:5
0:50:51CA;V2AV2=3:50:5
0:51:5
DievomAlgorithmusgeliefertenEigenwerte~1=3:618und~2=1:382sindexakt,denn(A)=
f3:6180;3:6180;1:3820;0:3820g.Mity(2)
1=0:9732
0:2298undy(2)
2=0:2298
0:9732folgt
u(m)
1=Vmy1)u(2)
1=0B@0:3717
0:6015
0:6015
0:37171CA;u(2)
2=0B@0:6015
0:3717
0:3717
0:60151CA

Beim=3bekommtmanfolgendeHessenbergmatrix: MatrixdenHochstrang4,undesist(H4)=(A)beim=4. 5EIGENWERTE Wahltmanjetzt(zwangsweise)einenanderenStartvektor,z.B.v1=(1011)T,sohatdieresultierende undesistk(A(2) iI)u(2) ik. 126
Esist(H3)=f3:6081;0:4633;1:5953gundk(A(3) H3=V3AV3=0@2:66671:24720:0 1:24721:76190:6776 0:00:67761:23811A
j=1;:::;m.AlsoHisteineTridiagonalmatrix. Satz5.11: Angenommen,ArnoldisMethodewirdaufeinehermitescheMatrixAangewandt.DannsinddieKoef- 5.5.3HermitscheLanczos-Verfahren zientenhijallereellundgenugenderBedingung,dahij=0furjijj>1undhj+1;j=hj;j+1fur iI)u(3) ik0:1509.
Mansetztj:=hjjundj:=hj1;j. Beweis:hij=(Avi;vj);Hm=VmAVm;Hm=Hm. Lanczos-Algorithmus: 2.Iteration:Furj=1;:::;m 1.Start:v1;kv1k2=1;1=0;v0=0. wj:=Avjjvj1 j+1:=kwjk2;vj+1:=wj j:=(wj;vj);wj:=wjjvj
dieRaumeKm(A;v)undKm(A;w)zukonstruieren. Manversuchtnunnichtmehr,eineOrthonormalbasisinKm(A;v),sonderneinBiorthogonalsystemfur 5.5.4Nicht-hermitscherLanczos-Algorithmus Beachte,dadiesereinfacheAlgorithmuseineOrthonormalbasisvonKm(A;v1)liefert. j+1
Algorithmus(nicht-hermitscherLanczos-Algorithmus): 1.Start:v1;w1mit(v1;w1)=1;1=0;v0=w0=0 2.Iteration:Furj=1;:::;m wj+1:=^wj+1 ^wj+1:=Awjwjjwj1 j+1:=pj(^vj+1;^wj+1)j;j+1:=(^vj+1;^wj+1) j:=(Avj;wj);^vj+1:=Avjjvjjvj1 j+1;vj+1:=^vj+1 j+1
j+1

5EIGENWERTE 127
Satz5.12:
FallsderobigeAlgorithmusnichtvordemm-tenSchrittabbricht,bildendieVektorenfvi;wigi=1;:::;mein
Biorthogonalsystem,d.h.(vj;wi)=ij.Daruberhinausistfv1;:::;vmgeineBasisvonKm(A;v1)und
fw1;:::;wmgeineBasisvonKm(A;w1)undesgilt:
1.AVm=VmTm+m+1vm+1em
2.AWm=WmTm+m+1wm+1em
3.WmAVm=Tm
Bemerkung:
UmeinAbbrechendesAlgorithmus'zuverhindern,gibtesverschiedeneTechniken,z.B."look-ahead-
Lanczos\("AFiniteProcedureoftheTridiagonalizationofaGeneralMatrix\,George,Ikramov,et.al.
SIAMJournalofMatrixAnalysis,April1995,16/2,S.377-387).
BeweisdesSatzes:Biorthogonalitat
1.Klarerweiseist(v1;w1)=1.
2.Angenommen:fv1;:::;vjg;fw1;:::;wjgseienbiorthogonal.
3.Zuzeigen:(vj+1;wi)!=0furij.
(a)i=j: (vj+1;wj)=1
j+1(Avj;wj)j(vj;wj)
|{z}
=1IVj(vj1;wj)
|{z}
=0IV=0
(b)i=j1:Esist
(vj+1;wj1)=1
j+1(Avj;wj1)j(vj;wj1)
|{z}
=0IVj(vj1;wj1)
|{z}
=1IV
Aberesgilt(Avj;wj1)=(vj;Awj1)=
=(vj;jwj+j1wj1+j1wj2)=
=j(vj;wj)
|{z}
=1+j(vj;wj1)
|{z}
=0+j1(vj;wj2)
|{z}
=0
Somitist(vj+1;wj1)=1
j+1(jj)=0.
(c)i

5EIGENWERTE 128
Bemerkung5.13:
1.TmistdieschiefeProjektionvonAaufKm(A;v1)orthogonalzuKm(A;w1).
2.Mit(m)
i2(Tm)undy(m)
iRechtseigenvektorzu(m)
igiltmitu(m)
i=Vmy(m)
i:
(A(m)
iI)u(m)
i=m+1emy(m)
ivm+1;k(A(m)
iI)u(m)
ik=jm+1emy(m)
ij
3.EntsprechendesgiltfurLinkseigenvektoren.
5.6DerQR-Algorithmus
WirgehenzumAlgorithmus(Unterraumiteration5.4.4)zuruck:Wk:=AXk1;Wk=QkRk;Xk:=Qk.
Wirwahlenjetztm:=n:^Ak:=XkAXk=XkXk+1Rk+1=:XkXk+1^Rk=:^Qk^Rk
^Ak+1=Xk+1AXk+1=Xk+1Xk
|{z}
=^QkXkAXk
|{z}
=^AkXkXk+1
|{z}
=^Qk=
=^Qk^Ak^Qk=^Qk^Qk
|{z}
=I^Rk^Qk=^Rk^Qk
d.h.mankannsetzen:^Ak:=^Qk^Rk)^Ak+1:=^Rk^Qk.
Algorithmus(QR-Algorithmus):
1.Start:A0=A;V0=I.
2.Iteration:Furk=1;2;:::bisKonvergenzeintritt
Ak:=QkRk
Ak+1=RkQk(Vk+1=VkQk)
Somitfolgt:Ak+1=Vk+1AVk+1=QkAkQkundVk+1=VkQk=Q1Q2Qk.
Satz6.1:
SeiA2Cnnregular.DieFolgenXk;^Rk;^Qk^AkseiendurchdenAlgorithmus(Unterraumiterationin
5.4.4)mitX0=IundAk;Qk;Vk;RkdurchdenQ-R-Algorithmusgegeben.Danngilt:
1.Xk=VkDk1.
2.^Ak=Dk1AkDk1;^Qk=Dk1QkDkund^Rk=DkRkDk1.
mitD0=IundDk=diag(1).
Beweis:Angenommen,esgelte1.und2.biszuIndexk.
Xk+1=XkXkXk+1=Xk^Qk=VkDk1Dk1
|{z}
=IQkDk=VkQkDk=Vk+1Dk
Diesesfolgert1.furk+1.Weitergilt:
^Ak+1=^Qk^Ak^Qk=(DkQkDk1)(Dk1AkDk1)(Dk1QkDk)=DkAk+1Dk

5EIGENWERTE Da^Ak+1AAk+1existierteineMatrixDk+1mitjDk+1j=I,soda^Qk+1=(DkQk+1)Dk+1und und ^Rk+1=Dk+1(Rk+1Dk). ^Qk+1^Rk+1=^Ak+1=DkAk+1Dk=(DkQk+1)(Rk+1Dk) 129
Schurmatrix IstAdiagonalisierbarmitj1j>:::>jnj;i2(A),undseiA=PDP1mitD=diag(1;:::;n) Algorithmus. Bemerkung6.3: derart,daPeineL-R-Zerlegungbesitzt.DannkonvergiertAkausdemQ-R-Algorithmusgegendie SeiAregularmitm=n.DannubertragensichdieKonvergenzaussagendesSatzes4.5aufdenQ-R- Folgerung6.2:
furk!1undesgilta(k) T=0B@1...
SeinunH=H1eineHessenbergmatrix.MankannHetwadurcheinenArnoldi-Prozeerhalten.Wir 5.6.1DerQR-AlgorithmusfurHessenbergmatrizen ij=O jjjk!furk!1;i>j(sieheBeweisdesSatzes4.5). jij 0 n1CA
werdenaberauchweitereMethodendazuangeben. Hk+1isteineHessenbergmatrix,fallsHkeineHessenbergmatrixist(siehebungsaufg.11). HkundHk+1sindorthogonalahnlich. Q-R-Verfahren:Hk=QkRk;Hk+1=RkQk.
IstalsoeineguteNaherungfurnmitjnjjij,dannkonvergiert~h(k) Hk+1isteineTridiagonalmatrix,fallsHkeineTridiagonalmatrixist.
gegenNull. HhabenurreelleEigenwerte:j1j>:::>jnj;2R.Dannist(HI)=fiji=1;:::;ng.
Idee:WendedieVerschiebungkinjedemSchrittan: angewandt: iseisoindiziert,daj1j>:::>jnj.Auf~H:=HIwirddasQ-R-Verfahren ~h(k) i+1;i=i+1
Qk(HkkI)=Rk)Hk+1=Qk(HkkI)Qk+kI=QkHkQk (HkkI)=QkRk;Hk+1=RkQk+kI ik;i=1;:::;n1(furgroek) n;n1sehrrasch
Esliegtnahe,k=h(k) Nullkonvergiert(sieheStoer).
nnzuwahlen.Mankannzeigen,dah(k) n;n1furgroekquadratischgegen

5EIGENWERTE 5.6.2DieTransformationaufHessenbergmatrix WirnehmenelementareRotationenzuHilfe: 130
U(p;q;')= 0 B@ 1...1cos' sin' 01 0. ... 1cos'1...1
sin' 1 OenbaristU(p;q;')unitar,d.h.UU=I. U(p;q;')beschreibteineDrehungum'inderp-q-Koordinatenebene. BetrachteeineTransformation:^A:=UAU;~A:=UA)^A=~AU. CA
U1 U2 ~apj=apjcos'aqjsin' ~aqj=apjsin'+aqjcos' ~aij=aijfuri6=p;q
U3FursymmetrischeMatrizengilt: ^aip=~aipcos'~aiqsin'
^apq=^aqp=(appaqq)cos'sin'+apq(cos2'sin2') ^app=appcos2'2apqcos'sin'+aqqsin2' ^aqq=appsin2'2apqcos'sin'+aqqcos2' ^aiq=~aipsin'+~aiqcos' ^aij=~aijfurj6=p;q
ZuEliminationvonaij(ij+2)wendeU(j+1;i;')an:UA=~A. BetrachtewiedereineallgemeineMatrixAundordnediezueliminierendenElementewiefolgtan:
(i)fallsaj+1;j6=0,istcos'=jaj+1;jj ~aij=aj+1;jsin'+aijcos'!=0)tan'=aij a31;a41;:::;an1;a42;a52;:::;an2;:::;an;n2
qa2j+1;j+a2ij;sin'=sign(aj+1;j)aij qa2j+1;j+a2ij:
aj+1;j

5EIGENWERTE gefulltwerden:Esbleibtzuzeigen,dadieerzeugtenNull-EintragebeinachfolgendenSchrittennichtwiederauf- (ii)fallsaj+1;j=0,istcos'=0;sin'=1. 1.Betrachtedie(2;i)-Rotationen(i>2):JededieserRotationenverandertnurdieEintragein 131
2.Angenommen,dieerstenrSpaltensindschoningewunschterForm. 3.ZurEliminationvonai;r+1(ir+3)werden(r+2;i)-Rotationenangewandt: den2-tenundi-tenZeilenundSpalten,wobeijeweilsai1(indererstenSpalte)eliminiertwird.
bleibendiezuNullgesetztenEintrageunverandert.InsgesamthatmanN=12(n1)(n2) durchdieseRotationenunverandert.BeideranschlieendenMultiplikationmitU(r+2;i;') Elementezueliminieren,alsoTransformationendurchzufuhren. Dafurj=1;:::;rgilt,daaij=0,wennij+2undi>r+2,bleibendieerstenrSpalten ~ar+2;j=ar+2;jcos'aijsin' ~ai;r+1=ar+2;r+1sin'+ai;r+1cos'(i>r+2)
Algorithmus(Hessenbergmatrix): Furj=1;:::;n2 Furi=j+2;:::;n fallsaij6=0 H=UNU2U1AU1U2UN=QAQ
fallsjaj+1;jj

5EIGENWERTE =det0 132
B@h11h12 h21h22 ... hn1;n2hn1;n1 ::: ... hn;n1 ::: xj(hjj)+n1 x1(h11)+n1 xnhn;n1+hnn ij+1hjixi+hjn . j=1h1ixi+h1n P
1CA jetzt,damanxisobestimmt,dahn=p()e1. WirdenierenhnalsdenletztenSpaltenvektorinderDeterminantedervorherigenZeile.DieIdeeist
Esistp()=(h11)x1+h12x2+:::+h1nxnunddamit DurchRuckwartslosenerhaltman )X ij1hjixi+(hjj)xj=hjn(j=2;:::;n)
P()=det0B@h11 h21... xi=(hi+1;i+1)xi+1nP
...hn1;n1. hi+1;i p() 0j=i+2hi+1;jxj
ManerhaltaufanalogeWeisep0()=x1+(h11)x01+h12x02+:::+h1;n1x0n1unddamit UmdieNullstellenvonP()zuberechnen,bedientmansichdesNewtonverfahrens.Hierzuwirddie AbleitungvonP()benotigt: x0i=xi+1+(hi+1;i+1)x0i+1nP hi+1;i hn;n1j=i+2hi+1;jx0j 01CA=(1)n+1h21h32hn;n1p()
Algorithmus(Hyman): P0()=(1)n+1h21h32hn;n1p0() (i=n1;:::;1)
Furi=n1;n2;:::;1 Setzex0i=yi;yn=0;xn=1
Furi=2;:::;n Furj=i+2;:::;n s=(hi+1;i+1)xi+1;t=xi+1+(hi+1;i+1)yi+1
p()=s;p0()=t
s=(h11)x1;t=(h11)y1x1 s=s+h1ixi;t=t+h1iyi s=shi+1;jxj;t=thi+1;jyj;xi=s hi+1;i;yi=t hi+1;i

5EIGENWERTE 5.8Bisektionsverfahren WirgehenvoneinersymmetrischenTridiagonalmatrixfolgenderGestaltaus: 133
A:=0B@11 12...
seinichtreduziert.Seipi():=det(AiI)daszugehorigecharakteristischePolynom.Danngiltdie Satz8.1: SeienAi2Riimit Ai=tridiag(1;:::;i;1;:::;i1) ......n1
Rekursionsformel n1n1CA
Daruberhinausgilt 1.pnbesitztnureinfachereelleNullstellen1>:::>n. 2.sign(pn1(j))=sign(p0n(j));j=1;:::;n. 3.Istpi()=0,dannistpi+1()pi1()

5EIGENWERTE 134
Istq0(j)6=0,dannistq(j)EigenvektorzumEigenwertjvonAn.Dierentiationliefert:
q()+(AnI)q0()=0;:::;0;q0n()T
unddamit q()Tq()+(AnI)q()
|{z}
(0;:::;0;qn())Tq0()=qn1()q0n()
Seinunspeziell=j.Esistqn(j)=0.
0(i)
i1>(i1)
i1>(i)
i(i=1;:::;n);
d.h.dieNullstellenvonpiwerdenstrengdurchdieNullstellenvonpi1getrennt.
Satz8.2:
GegebenseidieunreduziertesymmetrischeTridiagonalmatrixA2Rnnmit
A=tridiag(1;:::;n;1;:::;n1):

5EIGENWERTE 135
SeiendiePolynomepi2Pi;i=0;:::;n;deniertdurchp0()=1;p1=(1)und
pi()=(i)pi1()2i1pi2()(i=2;:::;n)
Fur2RseiNn()dieAnzahlderaufeinanderfolgendenVorzeichenubereinstimmungeninderFolge
p0();p1();:::;pn().Istpk()=0,sodenierenwirsign(pk())=sign(pk1()).Danngibtesgenau
Nn()EigenwertevonA,diegroerodergleichsind.
BeweisdurchInduktion:
p0();p1()=(+;+))N()=1;(1)
1=1
(+;))N()=0;1<
Annahme:DieBehauptungseiwahrfurn1.
Schlu:Seiq:=Nn1().NachAnnahmebesitztdannpn1insgesamtqNullstellen,diegroeroder
gleichsind.Furj=1;:::;n1seienj=(n1)
jdiederGroenachgeordnetenNullstellenvonpn1.
n1

5EIGENWERTE 5.8.1SchneidendesSpektrums T=0B@a1b2 b2a2... ......bn 0 136
Esistdanns()=fjjj=j2(T);j

5EIGENWERTE 5.9Jacobi-Verfahren GegebenseiA2RnnmitAsymmetrischundN(A):=P Basisverfahren: i;j(i6=j)a2ij. 137
bestimmeRotationenU(p;q;'),wobeip;q:japqj=max danngilt:N(Ak)!0furk!1. setzeA:=Bundfahrefort. zeigeN(B)cN(A)fureinc

5EIGENWERTE 138
Beweis:EsistkUCUk2F=spur(UCUUCU)=spur(UCCU).
bppbpq
bqpbqq
|{z}
=Bpq=cos'sin'
sin'cos' appapq
aqpaqq
|{z}
=Apq cos'sin'
sin'cos'
kBpqk2F=b2pp+b2qq+b2qp
|{z}
=0+b2pq
|{z}
=0=b2pp=b2qq=
=kApqk2F=spur(ApqApq)=a2pp+2a2pq+a2qq
N(B)=kBk2FnXi=1b2ii=kAk2FnXi=1a2iib2ppb2qq=
=kAk2FnXi=1a2ii2a2pq=N(A)2a2pq
3.Istdaruberhinausp;qsogewahlt,dajapqj=max
1i

Beispiel1(Produktionsplanung): 6.1Einfuhrung 6LINEAREOPTIMIERUNG 6LineareOptimierung 139
EinProduktionsplanistzulassig,wenngilt: EinProduktionsplanbestehtinderErstellungvonxiEinheitendesi-tenProduktes. bibeschrankt. GegebensindnProdukte,mHilfsmittel(Produktionsmittel)mitgewissenSchranken. Umdasj-teProduktzuerzeugen,brauchtmanaijEinheitendesi-tenHilfsmittels,diesesinddurch
DerGewinnpjbeiErstellung(Verkauf)desj-tenProduktesietindenGesamtgewinnwiefolgt ein: =1aijxjbii=1;:::;m;xj0 nXj
Dabeiistx0()xi08i. EsbestehtalsodieAufgabe: (p;x)!max;x2M=fx2Rnjx0;Axbg nXi=1pixi=pTx=(p;x)
Beispiel2(Diatplan): deri-tenSubstanz. EinDiatplanbestehtineinerZuordnungvonxjEinheitendesj-tenNahrungsmittels. GegebenssindnNahrungsmittel,mGrundsubstanzen.Dasj-teNahrungsmittelenthalteaijAnteile DasMenumuabermindestensjeweilsbiEinheitenderi-tenGrundsubstanzenthalten:
DieAufgabebestehtnundarin:(c;x)!min;x2M=fx2Rnjx0;Axbg. DerPreisfurdasj-teNahrungsmittelseicj,d.h.derDiatplankostetnPj=1cjxj=cTx=(c;x): =1aijxjbii=1;:::;m;xj0;j=1;:::;n: nXi MathematischeEinordnung: Gegebensind 1.m;n;m0;n02N;0m0m;0n0n. 2.A=(aij)2Rmn;b=(bi)2Rm;c=(cj)2Rn.

6LINEAREOPTIMIERUNG Gesuchtisteinoptimales^x=(^xi)2RnmitnP M:=nx2Rnxj0;j=1;:::;n0; nXj j=1cj^xjnP j=1cjxjfurallex2M. 140
FallistMgegebendurch einfuhren: Ist(LP)nichtinNormalform,solassensichsogenannte"Schlupfvariablen\yi;i=0;:::;m0, Mansagt,daslineareProgramm(LP)habeNormalform,fallsn0=nundm0=0ist.Indiesem =1aijxjbi;i=1;:::;m0;nXj=1aijxj=bi;i=m0+1;:::;mo
=1aijxjbi;(i=1;:::;m0)()nXj=1aijxjyi=bi;yi0(i=1;:::;m0) nXj M:=fx2Rnjx0;Ax=bg:
Grundprobleme:
6.2Simplexverfahren WassindnotwendigeundhinreichendeBedingungendafur,da^x2M(LP)lost? Wieberechnetman^x? WannistdieLosbarkeitvon(LP)gesichert?
C2Rnheitkonvex,fallsfurallex;y2Cgilt: Beispiel:M=fx2Rnjx0;Ax=bg;x;y2M;[x;y]M x2RnheitKonvexkombinationvonElementenx1;:::;xN2Rn,wenngilt A(x+(1)y)=Ax+(1)Ay=b x+(1)y2C82[0;1]:
x2C(konvex)heitEcke,fallssichxnichtalsKombinationzweierandererPunkteausCdarstellen lat,d.h.xliegtnichtaufeinerStreckezwischenzweiPunkten,wobeixungleichdemAnfangsbzw.Endpunktist: 8y;x2C:x6=y+(1)z;2(0;1) x=NXi=1ixi;i0;NXi=1i=1
abgeschlossenerHalbraum.
Seia2Rnund2R.EsheitdannH:=fxjaTx=(a;x)=gHyperebeneund H:=fx2Rnj(a;x)g

Lemma2.1: DieMengeM:=fx2Rnjx0;Ax=bgseinichtleer.DannistMeinPolytopgenaudann,wennes 6LINEAREOPTIMIERUNG ederheitPolytop.DerDurchschnittendlichvielerabgeschlossenerHalbraumeheitPolyeder.EinbeschrankterPoly- 141
Beweis:Seid2Rnmitd0;Ad=0;x2M;x+td2M8t0)Mistunbeschrankt.Seiumgekehrt Munbeschrankt,soexistierteineFolge(xk)k2N;xk2Mmitkxkk!1.Wahledk:=xk keind2Rnnf0g;d0;Ad=0;gibt.
Satz2.2: SeiM=fx2Rnjx0;Ax=bg;A=[a1;:::;an]2Rmnundb2Rm.Esgiltdann kdkk=1.SomitexistierteineTeilfolge(dkj)kj2N: dkj!d6=0;d0;Adkj=Axkj kxkjk=1 kxkjkAxkj!0;Ad=0 kxkk,soist
Beweis: 1.")\Angenommen,diefajgj2B(x)sindlinearabhangig,d.h.9j2R;j2B(x);nichtallej=0, 2.IstM6==0,sogibtesmindestenseine,aberhochstensendlichvieleEcken. 1.x2MisteineEcke()fajgj2B(x)sindlinearunabhangig.DabeiistB(x)=fjjxj>0g.
Denierex1j:=xj+jj2B(x) mitP j2B(x)jaj=0.Daxj>0furallej2B(x)existiertmit 0sonstundx2j:=xjjj2B(x) xj+j08j2B(x):
"(\Seienfajgj2B(x)linearunabhangigundx2[x1;x2]furx1;x22Mmitx16=x2.Esexistiert Dannist Esistdannx2[x1;x2]undsomitistxkeineEcke. somitein2[0;1]mitx=x1+(1)x2.Esgilt 12(x1j+x2j)=xjj2B(x) 0sonst=xj 0sonst.Esistx1;x22M.
2.SeiM6==0.Dannexistierteinx2Mmit Alsoistx1=x2undsomitistxeineEcke. NachVoraussetzungsinddiefajglinearunabhangig,somitistx1jx2j=0furallej2B(x). 0=bb=Ax1Ax2=A(x1x2)=X
jB(x)jjB(x)j8x2M: j2B(x)(x1jx2j)aj
dennandernfallsexistierenx1;x22M;x16=x2;dergestalt,dax2[x1;x2].Wahlex1;x2wieim erstenTeildesBeweises.EsergibtsichdannderWiderspruch O.B.d.A.istB(x)6==0(dennsonstistMtrivial).Esgiltjetzt:fajgj2B(x)istlinearunabhangig, jB(x2)j

6LINEAREOPTIMIERUNG Satz2.3: SeiM6==0undseienfvigi2IdieEckenvonM.DanngiltfurjedenPunktx2MdieDarstellung x=Xi2Iivi+d;i0;Xi2Ii=1;d0;Ad=0: 142
Beweis(InduktionuberdieAnzahlpderpositivenKomponentenvonx): IstalsoMbeschrankt,solatsichjederPunktx2MalsKonvexkombinationderEckendarstellen. 2.Angenommen,jederPunktx2MmitwenigeralsppositivenKomponentenkannaufdieobige 3.Seix2MundjB(x)j=p.O.B.d.A.istxkeineEcke.Somitsindfajgj2B(x)linearabhangig.Es 1.Istp=0,dannistx=0eineEcke. existiertsomiteinw2Rnnf0gmitwj=0furallej=2B(x):Aw=0.EsgibtdanndreiFalle: Weisedargestelltwerden. (a)whatKomponentenmitverschiedenenVorzeichen:Versuche,xalsKonvexkombinationvon x1;x2mitjB(xi)j

6LINEAREOPTIMIERUNG Beweis:Gibteseind0mitAd=0undcTd

6LINEAREOPTIMIERUNG 144
Satz2.7:
GegebenseidaslineareProgramm(LP)undseixeinezulassigeBasislosungzurBasisB=fj1;:::;jmg,
d.h.ABistregularundxB=A1
BbsowiecTBxB=cTBA1
Bb.Seiy:=A1
BcBundN=f1;:::;ngnB.
Danngilt
1.IstcNATNy0,solostx(LP).IstcnATNy>0,solostx(LP)eindeutig.
2.IstcsaTsy0und
(A1
Bb)r
wr=min(A1
Bb)i
wiwi>0=::
Setze x+:=8

6LINEAREOPTIMIERUNG 145
Somitistx()2Mfuralle>0undesgiltinf(LP)=1,da
cTx()=cTB(xBA1
Bas)+cs=cTx+(csaTsy)
|{z}
0.Dannistx()0undx+jr=0.
Ax+=Ax()=b
cTx+=cTx+(csaTsy)=cTx+(A1
Bb)r
wr(csaTsy)
| {z }

6LINEAREOPTIMIERUNG WirerhaltendieMatrizen ~A=0B@100 010 101 011 146
AusdemMaximierungsproblemmachenwireinMinimierungsproblem.Dafurfuhrenwirsogenannte 101 0111CA;b=0B@231 1CA;c=(1;2;3)T: Schlupfvariablenein: A=0B@100100000 101000010 010010000 101001000 011000100 011000001 1CA=[~A;I66];c=0B@1 2 30 1 Der1.Durchlauf: 1.WirstarteninderEcke(0;0;0).WirnehmenalsBasislosung(0;0;0;2;2;3;3;1;1)T.Esistdann B=f4;5;6;7;8;9g;AB=I66;xB=b;c0=0undN=f1;2;3g. CA 2.Esisty=(0;0;0;0;0;0)T;cj=cj8j2N,alsocj=(1;2;3)T. 4.cs=3mits=3. 5.w=a3=(0;0;1;1;1;1)T.
Der2.Durchlauf: 6.Wahler=6.Somitist=1.
2.EsistN=f1;:::;9gnB=f1;2;9g;xB=(1;2;2;2;2;0)T;cB=(3;0;0;0;0;0)Tundy= 7.Basisaustausch:B+=f4;5;6;7;8;3gmitc+0=c0+cs=0+1(3)=3. 8.Wirsetzenneux+=(0;0;1;2;2;2;2;0;0)T;B=f3;4;5;6;7;8g;c0=3. AT AB+=[I55;(0;0;1;1;1;1)T];xB+=A1
c9=3. BcB=(0;0;0;0;0;3)T.Manberechnetdannc1=c1aT1y=10(3)=1;c2=5und B+b=(2;2;2;2;0;1)T
4.Wahles:=2mitcs=5. 5.w=A1 7.EsistdannB+=f3;4;5;6;7;2gundc0=3+0(5)=3. 6.Wahler2f3;4;5;6g)r=6;=0. Bas=A1 Ba2=(1;0;1;1;2;1)T AB+=0B@010000 001001 100100 100011 100000 1000011CA;xB+=(1;2;2;2;2;0)T

6LINEAREOPTIMIERUNG Der3.Durchlauf: 8.Wirerhaltenx=(0;0;1;2;2;2;2;0;0)T,d.h.wirbleibenindiesemDurchlaufimPunkt(0;0;1) sitzen. 147
1.EsistjetztB=f2;3;4;5;6;7g;N=f1;8;9gundc0=cTBxB=(2;3;0;0;0;0)xB=3.
2.y=AT AB=0B@001000 110000 100100 010010 110001 0100001CA;xB=0B@012
1CA:
5.w=A1 6.r2f3;4;5;6g.Wirkonnenr=6wahlen,esistdann=1. 4.Wirwahlens=1. 7.B+=f2;3;4;5;6;1g;c+0=c0+cs=3+1(6)=9. BcB=(0;0;0;0;5;2)T;c1=c1aT1y=15=6;c8=5;c9=2. Ba1=(1;1;1;1;2;2)T.
8.B=f1;2;3;4;5;6g;xB=(1;1;2;1;1;0)T. AB+=0B@001001 110000 100100 010011 110000 0100011CA;xB+=0B@12101
1CA: Der4.Durchlauf: 2.EsistN=f7;8;9g;y=AT 5.w=(1;0;0;1;0;1)T. 4.s=8;cs=1. 7.B+=f1;2;3;4;5;8gAB+=0B@100100 6.Wirwahlenr=6mit=0. c7=c7aT7y=0+3=3;c8=1undc9=1. BcB=AT B(1;2;3;0;0;0)T=(0;0;0;3;1;1)T.Wirberechnen
8.B=f1;2;3;4;5;8g;xB=xB+;c0=9.
101001 010010 101000 011000 0110001CA;xB+=0B@1210 1CA:

6LINEAREOPTIMIERUNG Der5.Durchlauf: 3.x=(1;1;2)Tlostsomit(LP),dacj0furallej2N. 2.N=f6;7;9g;y=AT BcB=(0;0;1;2;0;0)T.Wirberechnenc6=1;c7=2undc9=0. 148
Bemerkung: 1.DasUpdatevonA1 eTrA1 B+=eTrIwer BnachA1 B+geschiehtfolgendermaen: wreTrA1 B=eTr0B@1 ... 1.1 wr w1
wm wr . .1 . ... 1 1 | =:E {z CA}
A1 B=
Dabeiist=eTr=wr eTrw1 z}|{ wreTrA1 wer wr=0B@w1 B=1wreTrA1 wr1 wm wr . B1CA:
Denition: 2.FallsimSchritt6=0ist,bleibtdasSimplexverfahrenbeixB+=xBstehen.LediglichdieBasisdarstellungenkonnensichandern.Eskannsein,danachendlichvielenSchritten(Basiswechseln) dieAusgangsbasiswiederentsteht.MannenntdiesesPhanomeneinenZyklus. Furi6=risteTiA1 EsistA1 Bk=EkEk1E1A1 B+=eTiwi B0. wreTrA1 B=eTiA1 BwieTrA1 B+:
DieBezeichnungistv0.Entsprechendheitwlexikographischgroeralsv,fallswv0ist. sodaxn+m+i=xn+i.Esbezeichne^x=(xi)i.IstM=fxjAx=b;x0g,sohat^M=f^xj^x [A1 BetrachteAx=b,d.h.o.B.d.A.istb0(sonstmultiplizieredieeinzelnenGleichungenmit(1).) 0;^A^x=bgdieselbenElemente,d.h.mankannB0nden,sodaAB0=Imm;b0.Somithat v2Rnnf0gheitlexikographischpositiv,fallsdieerstevonNullverschiedeneKomponentepositivist. ^A Idee:Manversuche,durchgeeigneteWahlvonrdieneueBasisB+sozubestimmen,dagilt
B0b;A1 B0]lexikographischpositiveZahlen,d.h. [A;Imm;Omm]xn+1:::xn+m;xn+m+1:::xn+2m (A1 AT B0ei0: B0b)i

6LINEAREOPTIMIERUNG 1. 2.DaAT DannkannkeinZyklusauftreten. cTB+A1 AT B+cB+ B+b cTBA1 AT BcB Bb 149
paarweiseverschieden.Alsogibtesgenaueinrmit Bei(i=1;:::;m)linearunabhangigsind,sinddiefolgendenVektoren 1wr(A1 AT Ber Bb)r 1wi(A1 AT Bei Bb)i 1wi(A1 AT Bei Bb)i (i=1;:::;m)
[A1 liegekeinAbbruchvor()9s2N:cs=cscTBA1 Satz2.8: DasSimplexverfahrenwerdemiteinerzulassigenBasislosungzurBasisB0gestartet.Esseio.B.d.A. B0b;A1 Wirsetzenvoraus,daM6==0ist,sowierg(A)=m. B0]2Rm(m+1)sogeordnet,dasiezeilenweiselexikographischpositivist.ImaktuellenSchritt (i=1;:::;m):
r2Bs=fi2f1;:::;mgjwi>0gnach2.(s.o.)bestimmt.DassodenierteVerfahrenbrichtnach Beweis:Esistalsolediglichzuzeigen,da1.gilt: endlichvielenSchrittenentwedermitderoptimalenEckeaboderesgiltinf(LP)=1. A1 B+=Iwer wreTrA1 Bas0).Seidann
Esfolgt: (A1 AT B+b)i=(A1 B+ei=8:(A1 (A1 Bb)r wr Bb)iwi wr(A1 Bb)ri6=r i=r
EsgibtnunzweiFalle: und (A1 AT B+er= B+b)r (A1 AT B+ei= B+b)i(A1
AT Ber1wr!=1wr(A1 Bb)r1 (A1 AT Bb)iwi Beiwi wrwr(A1
wrAT Ber!=:Q Bb)r |{z} AT Ber Bb)r 0 0
i2Bs;i6=r:Esfolgt:Q=wi i6=r;i=2Bs)wi0)wi wr0)wi |{z} >01wi(A1 | wr0)Q0.
AT Bei1wr(A1 Bb)i{z
0 AT Ber Bb)r}
0

6LINEAREOPTIMIERUNG 150
Wirbetrachtenjetzt1.:
cTB+A1
B+b=mXi=1
i6=rcji(A1
B+b)i+cs(A1
B+b)r=
=mXi=1
i6=rcji(A1
Bb)iwi(A1
Bb)r
wr+cs(A1
Bb)r
wr=
=cTB(A1
Bb)cTBw(A1
Bb)r
wr+cs(A1
Bb)r
wr=
=cTB(A1
Bb)+cs
wr(A1
Bb)r
AusAT
B+cB+=AT
BcB+cs
wrAT
Berfolgt
cTB+A1
B+b
AT
B+cB+=cTBA1
Bb
AT
BcB+cs
wr
|{z}
0undmin(^
(LP))=0
1.Seimin(^
(LP))>0,somumindestenseinyipositivsein.Dasbedeutetaber,daM==0ist.Der
Algorithmusstoppt.
2.Seimin(^
(LP))=0,soisty=0.Wirdenierenjr:=max
i=1;:::;mji.Istjrn,soistx2Mzulassige
Basislosungfur(LP).IstaufderanderenSeitejr>n,sogehortmindestenseinyimitzuroptimalen
Basislosungvon^
(LP).Esistaberyi=0,alsoistdieLosungentartet.MansuchtdanneineBasis
derzugehorigenEckenan^M,derenIndizesalleinf1;:::;ngliegen.DiesgeschiehtauffolgendeArt
undWeise:
(a)9s2f1;:::;ngnBmit eTr^A1
Bas=(^A1
Bas)r6=0
Setzew:=^A1
Bas;B+=fj1;:::;jr1;s;jr+1;:::;jmg.Berechne^A1
B+wieublich:
A1
B+b=^A1
Bb(wer)
wr(eTr^A1
Bb)(xB)r=0
=^A1
Bb
d.h.xB+=xB.SetzeB=B+undprufe,obBf1;:::;ngist.IstdiesderFalle,sosindwir
fertig.

6LINEAREOPTIMIERUNG 151
(b)Furalles2f1;:::;ngnBgilt:eTrA1
Bas=0.
InbeidenFallengilt:Furj=ji2f1;:::;ng\Bist^A1
Baj=ei.Somitist
eTr(^A1
Baj)=eTrei=0(jr>n)r6=i)
Dier-teZeilevon^A1
BAistalsoeineNullzeile,d.h.AT(^AT
Ber)=0.Esistsomit^AT
Berausdem
NullraumvonATund^AT
BerstehtsenkrechtaufdemBildvonA.DieZeilenvonAsindfolglich
linearabhangig.
Seijr=n+qmitq2f1;:::;mg.Danngilt
0=AT(AT
Ber)=ATmXi=1(ei;^AT
Ber)ei=mXi=1(ei;^AT
Ber)ATei=
=mXi=1(eTi^AT
Ber)ATei=Xi6=qeTi^AT
BerATei+eTq^ATer
|{z}
eTr^A1
Beq
|{z}
=er
|{z}
=1ATeq
EsistsomitATeq=mP
i=1;i6=qeTi^AT
BerATei,d.h.dieq-teZeilekannalsredundantgestrichen
werden.
Streichedier-teKomponentevon^xB=^A1
Bb(dieNullwar).
Streichein^A1
Bdier-teZeileundq-teSpalte.
EsistdannB=fj1;:::;jr1;jr+1;:::;jmg.Setzem:=m1undprufe,obBf1;:::;ng.
6.3DualitatbeilinearenProgrammen
WirbetrachtenunserlinearesProgramm
(P)min
x2McTx;M:=fx2Rnjx0;Ax=bg
mitA2Rmnundrang(A)=m,d.h.esliegenkeineredundantenNebenbedingungenvor.IstM6==0
undinf(P)>1,dannbrichtdasSimplexverfahrennachendlichvielenSchrittenineineroptimalen,
zulassigenBasislosungab.
6.3.1SchwacherundstarkerDualitatssatz
DasdualeProgramm(D)mit(D)max
y2NbTy;N:=fy2RmjATycg
mitA;b;cwiein(P)heitdaszu(P)dualeProgramm.(P)entsprichtdabeidemprimalenProgramm.
Einfuhrungvon
y=y+y.
Schlupfvariablenzmitz0.
(AT;AT;I)
|{z}
=:^A(y+;y;z)T=ATy++ATyz=ATyz=c

6LINEAREOPTIMIERUNG WirkonnensomiteinneuesProgrammaufstellen,welches(D)entspricht: min0@b01AT0@y+ y z1Aauf^N:=8

6LINEAREOPTIMIERUNG Beweis: ")\O.B.d.A.istrang(A)=m.^xlose(P).DannbrichtdasSimplexverfahrennachendlichvielenSchrittenmiteineroptimalen,zulassigenBasislosungBab. xB=A1 153
DieAbbruchsbedingungistcNBATNB^y0.DabeisindNBdieNichtbasisindizes. Somitist^y2Ndualzulassig.Weiterist AT^y=ATB ATNB^y=ATB^y Bb;^y:=AT ATNB^yBcB damitlost^ynachSatz3.1(D). bT^y=bT(AT BcB)=cTBA1 Bb=cTBxB=cT^x; cNB=c cB
BrichtdasSimplexverfahrenerfolgreichbeieineroptimalenLosung^xab,undistBdieBasisvon^x,so Bemerkung3.4: ist^y:=AT Satz3.5(StarkerDualitatssatz): Gegebenseienwieder(P)und(D)wieinSatz3.1.Danngilt: 1.Sind(P)und(D)zulassig,sobesitzten(P)und(D)jeweilseineLosungundesgilt: BcBLosungdesdualenProgramms(D).
Beweis: 2.Ist(P)zulassig,aber(D)nicht,soistinf(P)=1. 3.ist(D)zulassig,aber(P)nicht,soistsup(D)=+1. 1.Seien(P)und(D)zulassig.DannistnachBemerkung3.2inf(P)>1.Somitexistierteinopti- min(P)=max(D):
males^x2Mmit^xlost(P).Damitexistiertauchein^y2Nmit^ylost(D)undesgilt
Lemma3.6(Farkas): 3.Analog. 2.Angenommen,inf(P)>1.Dannexistierteinoptimales^x2M,welches(P)lost.Damitistdann auch(D)zulassig,diesistabereinWiderspruch. max(D)=bT^y=cT^x=min(P):
DasSystem(I):Ax=b;x0besitztgenaudannkeineLosung,wenndasSystem(II):ATy0;bTy>0 unddaszugehorigedualeProblem Beweis:BetrachtedasprimaleProblem eineLosungbesitzt. (P)min (D)max x2M0Tx;M:=fx2Rnjx0;Ax=bg y2NbTy;N:=fy2RmjATy0g:

6LINEAREOPTIMIERUNG Esist02N.Damitist(D)zulassig.(I)hatgenaudannkeineLosung,wenn(P)nichtzulassigist.Dies istgleichbedeutendzusup(D)=+1()(II)hatkeineLosung GeometrischeInterpretation: 154
(I)hatkeineLosung()b=2K:=fAxjx0g()bistnichteineLinearkombination,d.h. b6=Pixiai;xi03:6 soistz=Axmiteinemx0,d.h. H=fz2RmjyTz=0gisteineHyperebene,H=fz2RmjyTz0gisteinHalbraum.Istz2K, ()9y2RnmitATy0;bTy>0.
Satz3.7: Gegebenseien(P)und(D)mit AlsoistKHundb=2H. (P)min yTz=(y;z)=(b;Ax)=(ATy
x2McTx;M:=fx2Rnjx0;Axbg |{z} 0;x |{z} 0)0
(D)max
Somitist(c;^x)(b;^y).Da(P)und(D)aberdiegleichenProblemesind,giltauch"\undsomit Esgilt:^xlost(P)genaudann,wennein^yexistiertmit^ylost(D)mitbT^y=cT^x;(cAT^y)T^x= 0;(A^xb)T^y=0. Beweis: 0(cAT^y |{z} ge0;^x |{z} y2NbTy;N:=fy2Rmjy0;ATycg
Gleichheit. BemerkungzurokonomischenInterpretation: Nehmenwiran,einKonkurrentkauftalleunsereHilfsmittelauf: mXi=1biyi;mXi=1aijyipj;(j=1;:::;n;y0) 0)+(A^xb |{z} 0;^y |{z} 0)=(c;^x)(b;^y)(^y;A^x)+(A^x;^y
DiesistjedochdasdualeProblemzumprimalenProgrammvonuns.Dasbedeutet:UnsereStrategieder Ist^xzulassigfur(P)und^yfur(D),dannistpTxbTy,d.h.derReingewinnfurdenBetriebistkleiner Gewinnmaximierung(P)entsprichtderStrategiedesKonkurrenten(D),unsereHilfsmittelaufzukaufen. wir,daesPunktegibt,sodaderbetrieblicheoptimaleReingewinngleichdenminimalenKostendes gleichdemakzeptablenAngebotdesKonkurrenten(schwacheDualitat).DurchdiestarkeDualitatwissen NachSatz3.7gilt:Ist(A^x)i

Esseif:Rn!Rgegeben.WirbetrachtendasProblem 7UnrestringierteOptimierung 7UNRESTRINGIERTEOPTIMIERUNG(P)min x2Rnf(x) 155
GesuchtsindeinerseitsglobaleLosungen^xmitf(^x)f(x)furallex2Rn,zumanderenlokaleLosungen DieIdeeist,damanAbstiegsrichtungensucht: 7.1.1Einfuhrung 7.1Grundlagen ^x,sodaf(^x)f(x)furallex2U(^x).
Wirdenieren Existiertdiesesf0(x;p)fureinp2Rn,undistf0(x;p)

Beispiele: 7UNRESTRINGIERTEOPTIMIERUNG 1.Seif(x):=12mPi=1Fi(x)2=12kF(x)k2.EsistF2C1(DRn;Rm). @f 156
Denition: F:Rn!Rmheitinx2RninRichtungp2Rnrichtungsdierenzierbar,wenn 2.Seif(x)=max nichtdierenzierbar. i=1;:::;mjFi(x)j=kF(x)k1und^f(x)=Pmi=1Fi(x)=kF(x)k1:Dannsindf()und^f() @xj(x)=mXi=1Fi(x)@Fi @xj(x)=F0(x)TF(x):
heitGateaux-Ableitung. existiert.FallsF0(x;p)existiert,heitF0(x;p)RichtungsableitungvonFinxinRichtungp.Fheitim Punktex2Rnrichtungsdierenzierbar,fallsF0(x;p)frallep2Rnexistiert.DieAbbildung F0(x;p):=lim
Lemma1.1: F0(x;):Rn!Rm t#01tF(x+tp)F(x)
p2Rn.Istdaruberhinausfin^xstetigdierenzierbar,soistrf(^x)=0. IstF:Rm!Rninxstetigdierenzierbar,soistFinxrichtungsdierenzierbar,unddieGateaux- Ableitungistgegebendurch Satz1.2: Sei^x2RneinelokaleLosungvon(P).Istfin^xrichtungsdierenzierbar,soistf0(^x;p)0furalle Beweis:Sei^xeinelokaleLosungvon(P),d.h.esexistierteineoeneUmgebungU(^x)inRnmitf(^x) allet2[0;t0],d.h. f(x)furallex2U(^x).Furallep2Rnexistiert,daU(^x)oenist,eint0>0,soda^x+tp2U(^x)fur F0(x;p)=F0(x)p;8p2Rn:
Dafrichtungsdierenzierbarist,istf0(^x;p)0furallep2Rn.Istfstetigdierenzierbarin^x,soist Setzep:=rf(^x),dannistrf(^x)=0. Denition: Esseif:Rn!Rrichtungsdierenzierbarin^x.Istf0(^x;p)0furallep2Rn,soheit^xstationarer f0(^x;p)=rf(^x)Tp0;8p2Rn: f(^x+tp)f(^x);8t2[0;t0]:
Punkt. Beispiel: Seif(x)=100(x2x21)2+(1x1)2.Dannist Lemma1.3: Seif:Rn!Rkonvex.DannistfinjedemPunktx2Rnrichtungsdierenzierbar,undesist rf(x)=400x1(x2x21)2(1x1) f0(x;p)f(x+p)f(x)
200(x2x1)2

furallex;p2Rn.DieGateaux-Ableitungistnicht-negativhomogen,d.h.f0(x;p)=f0(x;p)furalle 7UNRESTRINGIERTEOPTIMIERUNG Beweis:Zux;p2Rndenierenwir:(0;1]!R: 0;p2Rnundsubadditiv,d.h.f0(x;p+q)f0(x;p)+f0(x;q)furallep;q2Rnsowiekonvex. (t):=1tf(x+tp)f(x) 157
Somitfolgt Wirzeigen,daderlim f(x)=f1 t#0(t)existiert.Dazugiltfurallet2(0;1]:
Fur0st1giltdann: 1+tf(x)f(xp) 1+t(x+tp)+t tf(x)f(xp)
1+t(xp)1 1+tf(x+tp)f(x) (t) 11+tf(x+tp)+t
1+tf(xp)
f0(x;p)f(x+p)f(x). Somitist(s)(t)unddamitexistiertderlim f(x+sp)f(x)=fst(x+tp)+ts =stf(x+tp)f(x) stf(x+tp)+ts t#0(t)=:f0(x;p)undesist(t)(1).Damitfolgt tf(x)f(x)= txf(x)
Homogenitat: Subadditivitat: f0(x;p+q)=lim t#0f(x+tp+tq)f(x) f0(x;p)=lim
t =lim t#0f(x+tp)f(x) t#01tf(x+tp)f(x)= =lim t#0f12(x+2tp)+12(x+2tq)12f(x)12f(x) t =f0(x;p)
gegebendurch Lemma1.4: Seif:Rn!Rundf(x):=kxk1.DannistfrichtungsdierenzierbarunddieGateaux-Ableitungist lim t#0f(x+2tp)f(x) 2t +f(x+2tq)f(x) 2t =f0(x;p)+f0(x;q) t
Beweis:
mitJ(x):=j2f1;:::;ngjmax i=1;:::;njxij=jxjj. f0(x;p)=8

7UNRESTRINGIERTEOPTIMIERUNG 1.Furx=0gilt 2.Seix6=0:Furi=2J(x)giltjxi+tpij

7UNRESTRINGIERTEOPTIMIERUNG 1.Ist^xeinelokaleLosungvon(P),dannist^xstationar,d.h.esgilt 2.()istaquivalentzurExistenzvonZahlen^i;i2I(^x),mit^i0undP ()f0(^x;p)=max i2I(^x)sign(Fi(^x))rFi(^x)Tp08p2Rn 159
Beweis:^xlost(P)lokal)xstationar)()nachSatz1.5.Alsoistzuzeigen:()()() ())(): ()X i2I(^x)^isign(Fi(^x))rFi(^x)=0i2I(^x)^i=1,soda
())():Seiq1mitq:=jF(^x)j,B=[sign(Fi(^x))rFi(^x)]i2I(^x)2Rnqunde=(1;:::;1)T2Rq. Dannist()aquivalentzu0=(B)Tp8p2Rn;eT=1;0: DiesistaquivalentzuB=0;eT=1;0.Unddiesistgenaudannerfullt,wenn 0=X i2I(^x)^isign(Fi(^x))rFi(^x)Tpmax isign(Fi(^x))rFi(^x))Tp
jetztATy0;bTy0hatLosung()(BTe)p0;(0;1)p>0 Esgilt:()istnichterfullt,genaudann,wenn()nichterfulltist.NachdemFarkas-Lemmagilt () |{z} =:A|{z} BeT=:x=01
|{z} =:b; 0
()BTp+e0;>0
7.1.3NotwendigeundhinreichendeBedingungenzweiterOrdnung Esfolgt waseinenWiderspruchdarstellt. sign(Fi(^x))rFi(^x)Tp

Dannist 7UNRESTRINGIERTEOPTIMIERUNG @xi@xjf(x)=mXk=1@Fk(x) @2 )r2f(x)=F0(x)TF0(x)+mXk=1Fk(x)r2Fk(x) @xi@Fk(x) @xj+Fk(x)@2 @xi@xjFk(x) 160
AusderAnalysisIIistbekannt,dafurf2C2(D)und^x2Dgilt: Bemerkung1.7: Satz1.8: GegebenseidieTschebyschescheApproximationsaufgabe(P) 2.rf(^x)=0undr2f(^x)>0)^xlost(P)lokal. 1.^xlost(P)lokal)rf(^x)=0undr2f(^x)0.
mitF2C2(D;Rm);D2Rnoenund^x2DmitF(^x)6=0.Sei undseien^i(i2I(^x))so,dagilt: I(^x):=i2f1;:::;mgjFi(^x)j=kF(^x)k1 x2Rnf(x):=kF(x)k1 min
2.Mit^T:=fp2RnjrFi(^x)Tp=08i2I(^x);^i>0ggilt: 1.^i0;i2I(^x);P d.h.dieOptimalitatsbedingungisterfullt. i2I(^x)^i=1:X pT808p2^Tnf0g i2I(^x)^isign(Fi(^x))rFi(x)=0
Beweis:Angenommen,^xistkeineisoliertelokaleLosung.Dannistxk6=^xfurallekundf(xk)f(^x. mittk!0.AlsoexistierteineTeilfolgekjmitpkj!p6=0.Setzek:=kjundtk=tkj kF(x)k1furallex2U(^x)nf^xg. Wirkonnendiexkdarstellenalsxk=^x+tkpk,wobeidiepkdurchkpkk=1normiertsindundtk>0 Dannist^xeineisoliertelokaleLosungvon(P),d.h.esexistierteineUmgebungU(^x)von^xmitkF(^x)k1<
Damiterhaltenwir Esgiltaberf(^x+tkpk)f(^xfuralletk>0,somitistf0(^x;p)0unddamit rk:=tk(pkp);rk k!1f(^x+tkpk)f(^x) lim i2I(^x)sign(Fi(^x))rFi(^x)Tp0:
maxtk!0)xk=^x+tkp+rk
tk =f0(^x;p)

Aus1.wissenwirandererseits,daX 7UNRESTRINGIERTEOPTIMIERUNG i2I(^x)^isign(Fi(^x))rFi(^x)Tp | {z 0 } =0 161
Somitmufur^i>0gelten,darFi(^x)Tp=0,dap2^Tnf0g.Andererseitsistsign(Fi(^x))=sign(Fi(xk))
ergibt0tk8

7UNRESTRINGIERTEOPTIMIERUNG Zu(b):Istf2C1(Rn)undrf(xk)6=0,dannistpk:=rf(xk)immereineAbstiegsrichtung. Zu(c):DieExistenzeinersolchenSchrittweiteistinderDenitionderRichtungsableitungenthalten. DieseRichtungheitRichtungdessteilstenAbstiegs.EsgibtauchVerfahren,dieSuchrichtungen pkbenutzen,diekeineAbstiegsrichtungensind,diejedochnaherzumOptimumfuhren.Solche Verfahrenbetrachtenwirhierjedochnicht. 162
Esseif2C1(Rn);x02RnunddieMenge Satz2.0(MethodedessteilstenAbstiegs): Algorithmus7.1wirdbestimmtdurcheineSchrittweitenstrategie(c)undeineRichtungsstrategie(b). tk"exakteSchrittweite\,bzw.Schritt(c)"exakteSchrittweitensuche\. DerSchritt(c)heit"LineSearch\.Wahletk"optimal\,d.h.argmin L0:=fx2Rnjf(x)f(x0)g t>0f(xk+tpk)3tk,dannheit
existiertmindestenseinHaufungspunktvon(xk)k2N. ab,oderjederHaufungspunktdererzeugtenFolge(xk)k2NiststationareLosungvon(P). seikompakt.WirwahleninAlgorithmus7.1pk:=rf(xk)unddieexakteSchrittweitetk.Danngilt:
BeweisdesSatzes:WegenL0kompakt,wirddasInmuminf Voraussetzungist,istdieFolge(xk)k2Nbeschrankt,besitztdamiteinekonvergenteTeilfolgeundsomit BrichtAlgorithmus7.1nichtab,danngiltnachKonstruktion(xk)k2NL0.DaL0kompaktnach Bemerkung: Algorithmus7.1istwohldeniert(durchfuhrbar)undbrichtentwederineinerstationarenLosungvon(P)
nommen,d.h.Algorithmus7.1istdurchfuhrbar.BrichtderAlgorithmusnichtab,dannbesitztdieFolge (xk)k2NeinenHaufungspunktx(sieheobigeBemerkung).Esistzuzeigen:rf(x)=0. DieTeilfolge(xkj)j2Nkonvergieregegenx. Angenommen,esseirf(x)6=0,dannexistierteint>0mit (1)f(xtrf(x))0f(xk+tpk)ineinemPunkttk>0ange-
Somitfolgt Furallej2Ngilt:f(xkjtrf(xkj))f(xkjtkjf(xk))=f(xkj+1)f(xkj+1) Esfolgt f(xtrf(x))=limjf(xkjtrf(xkj)): xtrf(x)f2C1 =limj(xkjtrf(xkj))
j!1f(xkjtrf(xkj)) | lim=f(xtf(x))
{z } |{z} j!1f(xkj+1) lim
V(b)DieFunktionf:Rn!RistaufeinerObermengevonL0stetigdierenzierbar. V(a)Esseix02Rngegeben,sodadieNiveaumengeL0:=fx2Rnjf(x)f(x0)gkompaktist. wasabereinWiderspruchzu(1)ist. VoraussetzungenfurdenRestdesKapitel7.2: =f(x)
V(c)DerGradientrf()vonfseiLipschitz-stetig,d.h.esexistierteineKonstante=(f;L0)>0mit krf(y)rf(x)k2kxyk28x;y2L0

Bemerkung: 7UNRESTRINGIERTEOPTIMIERUNG ZuV(b):Damitistfrichtungsdierenzierbar: ZuV(a):"NaturlicheVoraussetzung\furlosbareProbleme.Immererfullt,wennx0naheeinemisolierten lokalenMinimumvonfliegt. 163
ZuV(c):DiesisteineAbschwachungvonf2C2.Istf2C2,sogilt krf(y)rf(x)k2=kr2f(x+x;y(yx))(yx)k2 f0(x;p)=rf(x)Tp8x2L0;p2Rnnf0g
RichtungdessteilstenAbstiegs: 7.2.1BeispielefurRichtungsstrategienbeiglatterZielfunktion Wahlepkso,da kr2f(x+x;y)(yx)k2kyxk2
pk2argmin ~z2L0kr2f(~z)k2kyxk2 sup
Fallsr2f(xk)positivdenit,denierepk:=r2f(xk)1rf(xk). Newtonrichtung: DieRichtungphangtvonderfurdieEinheitskugelbenutztenNormab. f0(xk;p)=rf(x)Tpk=rf(xk)Tr2f(xk)1rf(xk) p:kpk=1rf(xk)Tp
| |{z} =f0(xk;p)
BenutzeinxkeinepositivdeniteMatrixHk,dier2f(xk)imitierensoll.Denierepk:=H1 Dannistf0(xk;pk)

7.2.2SchrittweitenstrategienbeiglatterZielfunktion 7UNRESTRINGIERTEOPTIMIERUNG 1.ExakteSchrittweitensuche: Spezialfalleberechenbar(z.B.wennfquadratischist). BerechneeinexaktesMinimumvonf(xk+tpk)miteinemt>0.Diesistjedochpraktischnurfur 164
DieVoraussetzungenV(a)bisV(c)seienerfullt.Istx2L0;p2Rnmitrf(x)Tp0f(x+~td)=min t>0f(x+td); =)^t2rf(x)Tp kpk2
folgendeAussagenundAbschatzungen: f(x)f(x+tp)exaktrf(x)Tp trf(x)Tp x+tp2L0 tistwohldeniert kpk2 kpk22,wobeiexakt:=1 2.

7UNRESTRINGIERTEOPTIMIERUNG '(t):=f(x+tp)istmonotonfallendauf[0;t]. Beweis:DaL0kompaktundfstetigist,isttwohldeniertundx+tp2L0.DieFunktion 0='0(t)=rf(x+tp)Tp= =rf(x)Tp+rf(x+tp)rf(x)Tp 165
Somitkonnenwirdenieren:~t:=rf(x)Tp rf(x)Tp+tkpk2
2.PraktischeBerechnungeinerSchrittweitenachPowell: f(x+tp)f(x+~tp)Lemmaf(x)+~trf(x)Tp+~t22kpk2= =f(x)1 kpk2t.Auerdemgilt
Philosophie:WahledieSchrittweiteso,daimUpdate-Schritt (b)dieSchrittweitenichtzukleinist (a)dieVerminderungderZielfunktiongroistund 2rf(x)Tp kpk22
Realisation:WahleParameter2]0;1[und2];1[undfordere undzwarrelativzuf0(xk;pk).
EsseienParameter;mit0

7UNRESTRINGIERTEOPTIMIERUNG Da0stetigist,existiertnachdemZwischenwertsatzein~t2]0;t[mit0(~t)=0.Wegen ~t2T; (0)=0und0(0)>0kann~tohneEinschrankungsogewahltwerden,da(~t)>0.Esist Powell(x;p),dennf(x+~tp)f(x))~trf(x)Tp=(t)

7UNRESTRINGIERTEOPTIMIERUNG Esfolgt AufderanderenSeitegiltfurallej: f(x+jp)f(x) f(x+jp)f(x) j !rf(x)Tprf(x)Tps:o: >rf(x)Tp>rf(x)Tp
EsseienParameter2]0;1[und0

7UNRESTRINGIERTEOPTIMIERUNG 2.Fall:s>^t:NachLemma2.1folgts>^t2rf(x)Tp t(3)ls>2lrf(x)Tp kpk2kpk2unddamit
168
rf(x)Tpt 2lrf(x)Tp
7.2.3KonvergenzdesModellalgorithmus'beiglatterZielfunktion f(x+tp)(1)f(x)+trf(x)Tpf(x)Armijorf(x)Tp Armijorf(x)Tp kpk222l2l2rf(x)Tp kpk22 kpk22 kpk22
gewahlt,daesein>0gibtmit Satz2.6(Konvergenzsatz): DieVoraussetzungenV(a)bisV(c)seienerfullt.DieSchrittweitenstrategiedesAlgorithmus7.1seiso
und DieRichtungsstrategieinAlgorithmus7.1seisogewahlt,daes;>0gibtmit f(xk)f(xk+1)min(rf(xk)Tpk;rf(xk)Tpk rf(xk)Tpk kpkk2krf(xk)k28k(3) krf(xk)k2kpkk2 8k(2) kpkk22)(1)
Danngilt:EntwederbrichtAlgorithmus7.1miteinerstationarenLosungvon(P)aboderjederHaufungspunktdererzeugtenFolge(xk)k2NiststationareLosungvon(P).Besitzt(P)genaueinestationareLosung xinderNiveaumengeL0,sokonvergiert(xk)k2Ngegenx. Bemerkung:
Winkelseinmu: Bedingung(2)sagtaus,daderWinkelzwischenrf(xk)undpkgleichmaigkleineralsderrechte stimmungnachPowellundArmijodieBedingung(1). relativenAbstiegimFunktionswert. AufgrundderSatze2.2,2.3und2.5erfullendieexakteSchrittweitensucheunddieSchrittweitenbe- Derin(1)erwahnteParametermuunabhangigvonxkundpksein.Ersicherteinengleichmaigen
Bedingung(3)gibteineNormierungwieder.
undpositivdeniterMatrixHk,wobeicond(Hk)gleichmaigbeschranktist. DiesistzumBeispielderFall,wennpk:=rf(xk)oderwennpk:=Hkrf(xk)mitsymmetrischer cos^(f(xk);pk)=rf(xk)Tpk krf(xk)k2kpkk2(2)>0=cos28k

BeweisvonSatz2.6:WirbetrachtendenFall,indemAlgorithmus7.1nichtabbricht.Esfolgt 7UNRESTRINGIERTEOPTIMIERUNG f(xk)f(xk+1)(1)min(rf(xk)Tpk;rf(xk)Tpk (2)minkrf(xk)k2kpkk2;2krf(xk)k2 kpkk22) 169
NachKonstruktionistf(xk)k2N(streng)monotonfallend,esist(xk)k2NL0.Dafstetigist, istf(xk)k2NwegenV(a)nachuntenbeschrankt,alsokonvergent,d.h.esexistierteinf2Rmit k!1f(xk)=f.Alsofolgt lim 0=ff()lim(3)minf;gkrf(xk)k2()
Sei^xHaufungspunktderFolge(xk)k2N,d.h.esexistierteineTeilfolge(xkj)j2Nmitxkj!^x.Daf2C1 ist,folgtrf(xkj)!rf(^x)undnach()giltrf(^x)=0. Menge Nunbesitze(P)genaueinestationareLosungxinL0.Wegen(xk)k2NL0undL0kompakt,istdie k!1minf;gkrf(xk)k20)rf(xk)!0()
7.2.4DasgedampfteGau-Newton-VerfahrenfurdiskretenichtlineareApproximations- nichtleer.Esist(s.o.)rf(~x)=0furalle~x2H,alsogiltnachVoraussetzungH=fxg.DaalsojHj=1 unddieFolgebeschranktist,giltxkk!1 H:=f~xj~xistHaufungspunktvon(xk)k2Ng
Seif=gFmitF:Rn!Rmglattundg:Rm!Rkonvex.WirbetrachtendasProblem aufgaben (P)min !x.
Beispiel: Seig:=kk1.Istn=2kundx=(1;:::;k;1;:::;k),sokonnenwirschreiben Fi(x)=Fi(;)=yikXj=1jejtj;g(y)=kyk1 x2Rnf(x)=(gF)(x)=g(F(x))
V(b)EsseiF2C1(D;Rm);DL0mitDoen. V(a)Furx02RnseidieMengeL0=fxjf(x)f(x0)gkompakt. Voraussetzungen:
Problem: WiendetmanAbstiegsmatrizenundwiecharakterisiertmanstationarePunkte?
Alsoistf0(x;):Rn!Rundf0(x;p)=g0(F(x);F0(x)p). V(c)Furallex;y2L0seikF0(x)F0(y)kkxyk.

DannexistierteineLosung^pzu(LP)x.Esgilt Lemma2.7: GegebenseiunserProblem(P)unterdenVoraussetzungenV(a)bisV(c).Furx2L0betrachteman 7UNRESTRINGIERTEOPTIMIERUNG (LP)xmin p2RnkF(x)+F0(x)pk=:fx(p) 170
Beweis:Esgilt 1.Istfx(^p)=f(x),soistf0(x;q)0furalleq2Rn,d.h.xiststationarfurf. 2.Istfx(p)

sowiet=jeinezugehorigeArmijo-Schrittweite.DanngibteseineZahl(;;l;u)>0mit Satz2.9: SeiendieVoraussetzungendesLemmas2.8erfullt.Seienweiter2(0;1=2)und0

7UNRESTRINGIERTEOPTIMIERUNG (b)Behauptung:Esistlim Beweis:NachSatz2.9existiertein>0mit f(xk)f(xk+1)minf(xk)fk(pk);(f(xk)fk(pk))2 k!1f(xk)fk(pk)=0.Dabeibezeichnefk(p)=fxk(p). kpkk2 172
Esgilt:f(xk)>f(xk+1)>0,d.h.lim dapkbeschranktundwegenobigerUngleichung minf(xk)fk(pk);(f(xk)fk(pk))2 k!1f(xk)existiertundsomit k!1f(xk)f(xk+1)=0; lim
(c)^xseiHaufungspunktvonfxkg.Dafpkgbeschranktist,existierteineTeilfolgepkj!^p.DieBehauptungist,da^pfolgendesProblemlost: Damitfolgt:lim k!1f(xk)fk(pk)=0. (LP)min ^p2Rn^f(p):=kF(^x)+F0(^x)pk
kpkk2 !0
Beweis:NachDenitionvonpkgiltfurallep2Rn: undesfolgt,da^xstationarist,denn Damitistfurallep2Rn:^f(^p)=kF(^x)+F0(^x)^pkkF(^x)+F0(^x)pk kF(xkj)+F0(xkj)pkjkkF(xkj)+F0(xkj)pk
Wirkonnensofortberechnen:F0(x)=ex2x1ex2 Beispiel: Essei F(x):=y1x1ex2 0=lim y2x1e2x2;f(x):=kF(x)k1 k!1f(xk)fk(pk)=f(^x)^f(^p)
ist undbetrachtenunserProblemfx(p)=kF(x))+F0(x)pk1!min.Weiterseip=F1(x)F(x).Dann F0(x)1=1x12x1ex2x1e2x2 e2x22x1e2x2
Esgiltdannimmerfx(p)=0.Armijo-Schritt: Somitist p=2ex2y1e2x2y2x1 f(x+p)(1)f(x)
1x1(ex2y1e2x2y2: ex2e2x2:

Seihier:=0:25;:=0:7;y1:=1eundy2:=1e2.Wirwissenbereits:^x=1.DurchBerechnung 7UNRESTRINGIERTEOPTIMIERUNG erhaltenwirx0=1:5 0:7;f(x0)=0:3770;p0=0:5672 0:1280;t0=1 173
x1=0:9328 x2=0:9750 x3=0:9992 0:8280;f(x1)=0:0427;p1=0:0422 0:9706;f(x2)=0:0046;p2=0:0241 0:9995;f(x3)=1:7104;unddannf(x4)108
0:1426;t1=1 0:0288;t2=1

WirbetrachtenfolgendesAnfangswertproblem: 8NUMERIKGEWOHNLICHERDIFFERENTIALGLEICHUNGEN 8.1Einfuhrung 8NumerikgewohnlicherDierentialgleichungen 174
(AWA)y0(x)=f(x;y(x))mity(x0)=y0undf:RRn!Rn
Mitxk:=x0+khgiltdann ErsteIdee:y0(x0)=f(x0;y0)legtdieTangentensteigungvonyinx0fest.Esistdann y(x)y(x0)+xf(x0;y0): y(x)=y0+x Zx0f(s;y(s))ds
Beispiel: Esseiy0=2xy2mitdemAnfangswerty(0)=1gegeben.Umgeschriebenergibtsich verfahren.ykisteineApproximationfury(xk).DiesesVerfahrenheitexplizitesEuler-VerfahrenoderPolygonzug- y0 yk+1=yk+hf(xk;yk):
EineverfeinerteIdeeistdieApproximationhohererOrdnung(Taylormethode) Dannisty2=2x()d y(x)=y(x0)+xx0 dx1y=ddxx2)1 yk+1=yk+h(2xky2k): 1!y0(x0)+(xx0)2 y(x)1
2!y00(x0)+::: y(x0)=x2)y(x)=1 1+x2
Dabeiist Betrachtey(x+h)=y(x)+hf(x;y(x))+h2 y000 ky000(xk)=fxx+fxyf+(fx+fyf)fy+f(fyx+fyyf) )yk+1=yk+hy0k+h2
2(fx+ffy)(x;y(x))+O(h3)= 2y00 k+:::
unddann Darausfolgt y(x+h)=y(x)+12hf(x;y) f(x+h;y+hf)=f(x;y)+hfx(x;y)+hf(x;y)fy(x;y)+O(h2) =y(x)+12hf(x;y(x))+12h(f+hfx+hffy)(x;y(x))+O(h3)
Runge-Kutta-VerfahrenzweiterOrdnung.
Mitk1:=f(xk;yk)undk2:=f(xk+h;yk+hk1)sowieyk+1=yk+12h(k1+k2)erhaltenwirdas |{z} =:k1+12hf(x+h;y+hf) |{z} =:k2+O(h3)=y(x)+12h(k1(x;y)+k2(x;y))

Wirwissenalsoy0(x)=f(x;y(x))mity(x0)=y0()y(x)=y0+x 8NUMERIKGEWOHNLICHERDIFFERENTIALGLEICHUNGEN WiederholungundZusammenfassung: Zx0f(s;y(s))ds 175
1.Taylorapproximationfury: 2.Taylorapproximationfuryundf: (b)2.Ordnung:yk+1=yk+hf(xk;yk)+h2 (a)1.Ordnung(explizitesEulerverfahren):yk+1=yk+hf(xk;yk)
3.ApproximationdesIntegrals:y(xk+1)=yk+xk+1 k1:=f(xk;yk);k2:=f(xk+h;yk+hk1);yk+1=yk+h2(k1+k2)(Heun) 2(fx+ffy)(xk;yk)
(b)Mittelpunktsregel: (a)Rechtecksregel: ii.rechts:yk+1=yk+hf(xk+1;yk+1)(implizitesEulerverfahren). i.links:yk+1=yk+hf(xk;yk),alsowiederdasexpliziteEulerfahren. Zxkf(s;y(s))ds
i.explizitesVerfahren: yk+1=yk+hfxk+h2;yxk+h2
ii.implizitesVerfahren:k1:=fxk+h2;yk+h2k1;yk+1=yk+hk1 WirerhaltendasmodizierteEulerverfahren: k1:=f(xk;yk);k2:=fxk+h2;yk+h2k1;yk+1=yk+hk2 yxk+h2yk+h2f(xk;yk)
(d)Gau-Radau:AlsGrundideeverwendeman (c)Trapezregel: yk+1=yk+h2f(xk;yk)+f(xk+1;yk+1)
xk+h Zxkf(s;y(s))dsh4f(xk;yk)+3fxk+23h;yxk+23h
Z1f(x)dx12f(1)+32f13 1

8NUMERIKGEWOHNLICHERDIFFERENTIALGLEICHUNGEN WirhabenaberhierwiedereinProblem,yxk+23hzubestimmen.Wirwollenbeiunseren ProblemenbekanntlichvondiskretenWertenausgehen.QuadratischeInterpolationergibt yxk+23h=59yk+49yk+1+29hf(xk;yk) 176
Denition1.1: Seienbi;aij;cireelleZahlen(i;j=1;:::;s).DasVerfahren WirerhaltendasVerfahrenvonHammer/Hollingsworth:
ki:=fxk+cih;yk+hsXj=1aijkj);yk+1=yk+sXi=1biki(i=1;:::;s) k1:=f(xk;yk);k2:=fxk+23h;yk+h3(k1+k2);yk+1=yk+h4(k1+3k2)
heits-stugesRunge-Kutta-Verfahren(RKV).Ist
DiereelenZahlenaij;biundcikonnenineinemsogenanntenButcher-Arrayangeordnetwerden: Bemerkung: 1.aij=08ij,soheitdasRunge-Kutta-Verfahrenexplizit(ERK). 3.andernfallsheitdasRunge-Kutta-Verfahrenimplizip(IRK). 2.aij=08i>j,undaii6=0fureini,dannheitdasRunge-Kutta-Verf.diagonalimplizit(DIRK).
Beispiel: FurdieeinzelnenbereitsangesprochenenVerfahrenerhaltenwirfolgendeButcher-Arrays: ciaij
0c2a21
bi
c5as1 ..... b1(ERK) as;s1 bs1bs (Euler) 01 (mod.Euler) 0121201 0111212
(Hammer/Hollingsw.) 000 231313 1434 (impl.Eulerverf.) 01 (Mittelpkt.) 12121(Heun)
sen,obfurh!0gilt:ky(xk)ykk!0.Wennja,wieschnell?
Problem: WelcheApproximationseigenschaftenhabendieseverschiedenenVerfahren?Insbesonderewollenwirwis

8NUMERIKGEWOHNLICHERDIFFERENTIALGLEICHUNGEN BetrachtenwirdieRechenvorschriftallgemeinerBauart(ESV=Einzelschrittverfahren): 8.2Diskretisierungsfehler,Fehlerordnung yk+1=yk+h(xk;yk;yk+1;h) 177
OenbarsinddamitallebishervorkommendenVerfahrenbeschrieben.Weiterseixk:=x0+kh,undy(x) bezeichnedieexakteLosunginx,sowiey(x0)=y0.EsseiykdieNaherungany(xk). Denition2.1: Esheien derglobaleFehler. Z.B.giltfurdasexpliziteEulerverfahren(xk;yk;yk+1;h)=f(xk;yk).Angenommen,esseiy(xk)=yk, Bemerkung: dannistdk+1=y(xk+1)yk+1. lokalerDiskretisierungsfehlerund dk+1:=y(xk+1)y(xk)h(xk;y(xk);y(xk+1);h)
Annahme:(x;y;z;h)erfullebezuglichy;zeineLipschitzbedingungmiteinerKonstantenL2(0;1),so dafuralle(x;y;z;h);(x;^y;z;h);(x;y;^z;h)2Bgilt: gk:=y(xk)yk
Wirhaben mitderRechenvorschrifty(xk+1)=y(xk)+h(xk;y(xk);y(xk+1);h)+dk+1 (x;y;z;h)(x;^y;z;h) (x;y;z;h)(x;y;^z;h) Ljy^yj
Zusammenerhaltenwir yk+1=yk+h(xk;yk;yk+1;h): Ljz^zj
jgk+1jjgkj+hLjy(xk)yk gk+1=gk+h(xk;y(xk);y(xk+1);h)(xk;yk;y(xk+1);h)+ +(xk;yk;y(xk+1);h)(xk;yk;yk+1;h)+dk+1
undfureinimplizitesEinzelschrittverfahren FureinexplizitesEinzelschrittverfahrengilt (1+hl)jgkj+hLjgk+1j+jdk+1j(hL0,soda1+hL 1hL.Wirerhaltenjgk+1j1+hL jgk+1j(1+a)jgkj+b:
1hLjgkj+jdk+1j 1hL=1+Kh 1hL: |{z} =:a.

8NUMERIKGEWOHNLICHERDIFFERENTIALGLEICHUNGEN Furallgemeinesngiltdann jgnj(1+a)jgn+1j+b(1+a)(1+a)jgn2j+b)+b= =(1+a)2jgn2j+(1+a)+1b::: (1+a)njg0j+(1+a)n1+(1+a)n2+:::+(1+a)+1b= 178
Satz8.2: FurdenglobalenFehlergnanderfestenStellexn=x0+nhgiltfureine Esgilt: =(1+a)n1 a1+tet;also(1+a)nena b+(1+a)njg0j |{z} =0
Beispiel(explizitesEulerverfahren): 1.expliziteMethode:
Esist 2.impliziteMethode: jgnjjgnjDhL(enhL1): y(xk+1)=y(xk+h)=y(xk)+hf(xk;y(xk))+12h2y00(xk+h) dk+1=y(xk+1)y(xk)hf(xk;y(xk)) hK(1hL)(enhK1): D
Esfolgt
Haltenwirnfest,sogilth=xnx0 NachSatz2.2giltdannfurdenglobalenFehler dk+1=12h2y00(xk+h);D12h2max
n!0.Esistxn=x0+hn,darausfolgtfurn!0:y(xk)yk!0. jgnjhM2 2LeL(xnx0): x0xnjy00()j |{z} =:M2
Beispiel: Denition8.3: EinEinschrittverfahren(ESV)bestitztdieFehlerordnungp,fallsfurseinenlokalenDiskretisierungsfehler stenteVerfahrengehtderglobaleFehlerfurh!0gegen0.gilt.EinEinschrittverfahrenheitkonsistentmitderDierentialgleichung,fallsp1ist.D.h.furkonsi- dkdieAbschatzung 1.ModiziertesEulerverfahren: 1knjdkjChp+1=O(hp+1) max
k1:=f(xk;yk);k2:=fxk+h2;yk+h2k1;yk+1=yk+hk2

8NUMERIKGEWOHNLICHERDIFFERENTIALGLEICHUNGEN AusdenVoraussetzungenwissenwir: Dannistdk+1=y(xk+1)y(xk)hfxk+12h;yk+h2f(xk;y(xk))= y0=f;y00=fxfyf;y000=(fxx+2ffxy+f2fyy)+(fx+ffy)fy=:G+Ffy179
=hy0(xk)+12h2y00(xk)+16h3y000(xk)+O(h4) hf(xk;y(xk))+h2fx(xk;y(xk))+h2f(xk;y(xk))fy(xk;y(xk))+
2.Trapezregel: Esistalsooensichtlichdk=O(h3)undsomitgk=O(h2). =16h3y000(xk)18h3G(xk;y(xk))+O(h4) +12h22fxx+h22ffxy12h22f2yy+O(h3)=
DieIdeeistdieLosungdurchFixpunktiteration: y(n+1) k+1=yk+h2nf(xk;yk)+f(xk+1;y(n) y(0) k+1=yk+f(xk;yk) yk+1=yk+h2ff(xk;yk)+f(xk+1;yk+1)g
8.3Runge-Kutta-Verfahren dieFehlerordnung2. DabeimuhL2

8NUMERIKGEWOHNLICHERDIFFERENTIALGLEICHUNGEN FurdenlokalenDiskretisierungsfehlergilt: k1:=f(xk;y(xk)) k2:=f(xk+c2h;y(xk)+ha21f(xk;y(xk)))= =f+c2hfx+c2hffy+12h2c2fxx+c2h2ffy+12c2h2f2fyy+O(h3)= 180
k3:=:::=f+c3hF+h2fc2a32Ffy+12c23Gg+O(h3) dk+1=y(xk+1)y(xk)hfb1k1+b2k2+b3k3g= =f+c2hF+12c2h2G+O(h3)
WirerhaltenvierForderungen =hf(1b1b2b3)+h2F12b2c2b3c3+ =hf+12h2F+16h3(G+Ffy)+O(h4)hfb1k1+b2k2+b3k3g=
beisechsfreienParametern.SomiterhaltenwireinezweiparametrigeFamilievonLosungen. b1+b2+b3=1;b2c2+b3c3=12;c2a32b3=16;c2b2+c23b3=13 +h3Ffy[16c2a32b3]+G[1612c2b212c23b3]+O(h4)
BeispielefursolcheVerfahren: 1.Heun-Verfahren3.Ordnung:
2.Runge-Kutta-Verfahren3.Ordnung: Butcher-Array: c2=13;c3=23)b2=0;b3=34;b1=14)a32=23;a31=c3a32=0;a21=c2=13 01313 Butcher-Array: c2=12;c3=1)b2=23;b3=16;b1=16)a32=2;a31=1;a21=c2=12 23023 01212
14034
8.3.1Schrittweitensteuerung Problem:Istesmoglich,denlokalenDiskretisierungsfehlerdurcheinVerfahrenhohererOrdnungab- DabeientsprechendieGewichtederSimpson-Regel. 112
zuschatzen?
162316

8NUMERIKGEWOHNLICHERDIFFERENTIALGLEICHUNGEN Beispiel: 1.ModiziertesEulerverfahren: k1=f(xk;yk);k2=f(xk+12h;yk+12hk1);yk+1=yk+hk2 181
Wiemanbeobachtet,stimmenk1undk2beimmodiziertenEulerfahrenunddemRunge-Kutta-Verfahren uberein.Mansagtauch,dadasmodizierteEulerverfahrenindasRunge-Kutta-Verfahren3.Ordnung 2.Runge-Kutta-Verfahren: k1=f(xk;yk);k2=f(xk+12h;yk+12hk1);k3=f(xk+h;ykhk1+2hk2)
FurdenlokalenDiskretisierungsfehlergilt: eingebettetist. d(ME) k+1=y(xk+1)y(xk)hk2 yk+1=yk+h6(k1+4k2+k3)
Ersetzekidurchki,undwirerhaltendieAbschatzung Esfolgt: d(RKV) k+1=y(xk+1)y(xk)h6k1+4k2+k3
MankannwahrendderBerechnungvond(ME) d(ME) k+1=h6k1+4k2+k3hk2+d(RKV) d(ME) k+1h6k12k2+k3+O(h4) k+1entscheiden,obhvergroertoderverkleinertwerdensoll. |{z} =O(h4) k+1
WirwahlenimRunge-Kutta-Verfahrenc2=1undc3=12.Dannistb1=16;b2=16undb3=23sowie a32=14;a21=1unda31=12.WirerhaltendasVerfahren(Runge-Kutta-Verfahren3.Ordnung): Beispiel(MethodevonHeun): k1=f(xk;yk);k2=f(xk+h;yk+hk1);k3=fxk+12h;yk+h4(k1+k2) k1=f(xk;yk);k2=f(xk+h;yk+hk1);yk+1=yk+h2(k1+k2)
Butcher-Array: yk+1=yk+h6k1+k2+4k3
folgtsomit AlsoistdasVerfahrenvonHeun(2.Ordnung)indasRunge-Kutta-Verfahren3.Ordnungeingebettet.Es 011 dHk+1h32k3k1k2+O(h4)
121414 161623

8NUMERIKGEWOHNLICHERDIFFERENTIALGLEICHUNGEN Schrittweitenstrategien: SeitdieToleranz.Istdanndk+1>t,sohalbiereh,istumgekehrtdk+1t,sosetzteh 1:143h. Algorithmus8.1 t(1)=x1;y(1)=y iflag=1 inputx1;xf;y1;tol;M;h. 0:875h.Istumgekehrtdk+1tol ififlag=0stop e(k+1)=h3k1k2+2k3 y(k+1)=y(k)+h6k1+k2+4k3 elseifabs(e(k+1))0.entsprichtderPrandt-Zahl.SeizumBeispielb=83;=10undr=28.

8.4.1Adams-Bashforth-Verfahren 8NUMERIKGEWOHNLICHERDIFFERENTIALGLEICHUNGEN 8.4Mehrschrittverfahreny(xk+1)=yk+xk+1
Zxkfs;y(s)ds 183
ZumBeispielexemplarischfur bekannt.DannkannmandasIntegraldurcheineinterpolarischeQuadraturformelannahern. Idee:Angenommen,dieWertefk:=f(xk;yk);fk1:=f(xk1;yk1);:::;fk3:=f(xk3;yk3)sind
I0=xk+1 p3(x)=3Xj=0fkjLkj(x))yk+1=yk+3Xj=0fkjxk+1 ZxkLk(x)dx=xk+1 Zxk(xxk3)(xxk2)(xxk1) (xkxk3)(xkxk2)(xkxk1)dx= ZxkLkj(x)dx
DiesisteinlinearesexplizitesMehrschrittverfahren(4Schritte,m=4). Insgesamterhaltenwir yk+1=yk+h2455fk59fk1+37fk29fk3(Adams-Bashforth) =h1 Z0(3+)(2+)(1+) 321 d=h61 Z06+11+t2+3d=55
m=1:yk+1=yk+hfk(explizitesEulerverfahren) 24h
ebensoistdieSchrittweitensteuerungkomplizierter. DerVorteilvonMehrschrittverfahrenist,danurjeweilseineFunktionsauswertungproSchrittneuvorgenommenwerdenmu.Nachteilesindjedoch,dadieskeineselbststartendenVerfahren(Anlauf)sind, WirbetrachtendenlokalenDiskretisierungsfehlerfurunserobigesentwickeltesMehrschrittverfahren. m=2:yk+1=yk+h2(3fkfk1)
Dabeiistm=4: m=3:yk+1=yk+h1223fk16fk1+5fk2
dk+1=y(xk+1)y(xk)h2455f(xk;y(xk))59f(xk1;y(xk1))+37f(xk2;y(xk2)) =hy0+12h2y00+16h3y(3)+124h4y(4)+1 =y(xk+1)y(xk)h2455y0(xk)59y0(xk1)+37y0(xk2)9y0(xk3)= 9f(xk3;y(xk3))=
=251 +37y02hy00+2h2y(3)43h3y(4)+23h4y(5)+O(h5) h2455y059y0hy00+12h2y(3)16h3y(4)+124h4y(5)+O(h5)+ 9y03hy00+92h2y(3)92h3y(4)+278h4y(5)+O(h5)= 120h5y(5)+O(h6)
720h5y(5)+O(h6)

fahren. Denition: Einm-SchrittverfahrenbesitztdieFehlerordnungp,fallsfurdenlokalenDiskretisierungsfehlerdkgilt: 8NUMERIKGEWOHNLICHERDIFFERENTIALGLEICHUNGEN DerZusammenhangzwischendk+1undgk=yky(xk)istwesentlichkomplizierteralsfurEinschrittver- 184
8.4.2Adams-Moulton-Verfahren Idee:NehmedenWertfk+1:=f(xk+1;yk+1)hinzuundverfahrenwiein8.4.1. p4(x)=3Xmknjdkj=:D=O(hp+1)
max
Somitist yk+1=yk+3X yk+1=yk+h j=1xk+1 720251f(xk+1;yk+1)+646fk264fk1+106fk219fk3(Adams-Moulton) ZxkLkj(x)dxfkj j=1fkjLkj(x)=4Xl=0fk+1lLk+1l(x)
WeitereBeispielefurimpliziteMehrschrittverfahren: Mannenntdieseinimplizites4-Schrittverfahren.Bedingungist,da25 vonf). m=1:yk+1=yk+h2(fk+1+fk)(impliziteTrapezregel) m=0:yk+1=yk+hf(xk+1;yk+1)(implizitesEulerverfahren) dk+1=3 160h6y(6)(xk)+O(h7) 720hL

8NUMERIKGEWOHNLICHERDIFFERENTIALGLEICHUNGEN Esistvernunftig,einexplizites(m+1)-SchrittverfahrenalsPradiktorzuverwenden.Dasbekannteste ist y(K) y(P) k+1=yk+h2455fk59fk1+37fk2+9fk3 185
Ansatz:Seien(xi;yi)bekanntfuri=km+1;:::;k+1. 8.4.3BDF-Verfahren(Backward-Dierence) dk+1=19 k+1=yk+h249f(xk+1;y(P)(xk+1))+19fk5fk1+fk2 720h5+O(h6)
Folgerung: Seim=1: q(x)=yk+1Lk+1(x)+ykLk(x)=yk+1xxk q0(xk+1r)!=f(xk+1r;yk+1r)furr=0oderr=1 q(x)=kXj=0yk+1jLk+1j(x)
Alsomugelten: r=0:yk+1=yk+hfk+1 r=1:yk+1=yk+hfk q0(xk+1r)=q0(x)=1h(yk+1yk)!=f(xk+1r;yk+1r) xk+1xk+ykxxk+1 xkxk+1
Literatur:Schwarz,Henrici,Stoer-Burlish,Hainer. entsprichtderruckwartsgerichtetenschiefenAbleitungbeixk+1. WirbetrachtendenFallr=0,alsoeinimplizitesVerfahren.Seim=2:
8.4.4DasallgemeinelineareMehrschrittverfahren 12(3yk+14yk+yk1)=hfk+1
unterdenVoraussetzungen Ansatz:xkj=xkjh;s=km+1. am6=0(am=1) a0b06=0(sonstkeinechtesMehrschrittverfahren) (AMSV)mXj=0ajys+j=hmXj=0bjf(xs+j;ys+j)(m2)
bm=0)explizit,andernfallsimplizit.

8NUMERIKGEWOHNLICHERDIFFERENTIALGLEICHUNGEN Denition: DasallgemeineMehrschrittverfahren(AMSV)hatdieFehlerordnungp,fallsinderTaylorentwicklungvon dk+1=mXj=0ajy(xs+j)hbjf(xs+j;ys+j)= 186
aneinerbeliebigenStellexgilt: Seix=xs+j: =c0y(x)+c1hy0(x)+:::+cphpy(p)(x)+cp+1hp+1y(p+1)(x)+::: y(xs+j)=y(x+jh)=qXl=0(jh)l c0=c1=:::=cp=0:
Einsetzenin(AMSV): y0(xs+j)=y0(x+jh)=q1 Xl=0(jh)l l!y(l)(x)+Rq+1
EinKoezientenvergleichliefert: mXj=0ajqXl=0(jh)l l!y(l)(x)+Rq+1hbjq1 Xl=0(jh)l l!y(l+1)(x)+Rq=pXi=0cihiy(i)(x)+Rp+1 l!y(l+1)(x)+Rq
c0=mXj=0aj c2=12!(a1+22a2+:::+m2am)1!(b1+2b2+:::+mbm) c1=(a1+2a2+:::+mam)(b0+b1+:::+bm)
Satz4.1: DasallgemeineMehrschrittverfahren(AMSV)hatdieFehlerordnungpgenaudann,wenngilt: cl=1l!(a1+2la2+:::+mlam)1 . mXj=0aj=0;mXj=0ajjq=qmXj=0bjjq1(q=1;:::;p) (l1)!(b1+2l1b2+:::+ml1bm)
Beispiel: m=2:Exemplarisches2-SchrittverfahrenmitmaximalerFehlerordnung.
Esfolgt:a0=5;a1=4;a2=1;b0=2undb1=4.WirerhaltendasVerfahrenvonDahlquist: a0yk1+a1yk+a2yk+1=h(b0fk1+b1fk)o.E.:a1=1;b2=0
yk+1=5yk14yk+h(4fk+2fk1)
2c2=a1+4a22b1=0 6c3=a1+8a23b1=0 c0=a0+a1+a2=0 c1=a1+2ab0b1=0

8NUMERIKGEWOHNLICHERDIFFERENTIALGLEICHUNGEN unterdenVoraussetzungena3:=1;a0=a2=0undb3:=0.Wirerhaltenfurp=3: m=3: a0yk2+a1yk1+a2yk+a3yk+1=hb0fk2+b1fk1+b2fk yk+1=yk1+h3n7fk2fk1+fk2o 187
Denition: EinMehrschrittverfahrenheitkonsistent,fallsseineFehlerordnungmindestensgleich1ist.Wirdenieren Frage: IstdieKonsistenznotwendigfurdieKonvergenz? Konsistenzimpliziertalsodk+1=O(h2);c0=0;c1=1.FurPolynomebedeutetdies:(1)=0und 0(1)=(1). (z):=mXj=0ajzjund(z):=mXj=0bjzj:
Wahlex=xkm+1undy(x)=ys.Nehmenwiran,days+jfurh!0gegeny(x)konvergiert(j= 1;:::;m).Alsokonnenwirdarstellen: WirsetzenindasallgemeineMehrschrittverfahrenein: ys+j=y(x)+O(hr);r1(j=1;:::;m): j=0ajys+j=hmP mP
FurdiezweiteBedingunggilt:lim Somitfolgt:mP j=0aj=0. j=0ajy(x)= mP#
j=0bjf(xs+j;ys+j) #
h!0ys+jys jh=y0(x)(j=1;:::;m) 0
Alsoistys+j=y(x)+jhy0(x)+O(hq)mitq2(j=1;:::;m).Wiedereingesetztergibtsich mXj=0ajys+j=y(x) MitmPj=0bjf(xs+j;ys+j)!Pmj=0bjf(x;y(x))=mPj=0bjy0(x)folgt: mXj=0jajys+jys |{z} !y0(x)=y0(x)mXj=1jaj+O(hq1) jh |{z} =ysmXj=0aj+hy0(x)mXj=1jaj+O(hq)=hmXj=0bjf(xs+j;ys+j)
mXj=0bj=mXj=0jaj: |{z} !0=mXj=0bjf(xs+j;ys+j)
AlsofolgtausKonvergenzdieKonsistenz.WannabergiltdieUmkehrung?

8NUMERIKGEWOHNLICHERDIFFERENTIALGLEICHUNGEN Betrachte:y0(x)=y(x)mity(0)=1und

h!0. 8NUMERIKGEWOHNLICHERDIFFERENTIALGLEICHUNGEN 8.4.5KonvergenzvonMehrschrittverfahren Wirgehenausvonx;h;k=xx0 mXj=0ajys+j=hmXj=0bjf(xs+j;ys+j) h.Setzeyk(x):=yk.Wirwollenjetztzeigen,obyk(x)y(x)!0fur 189
Wirdenieren )ys+m=m1 (ys;:::;ys+m1):=m1 Xj=0ajys+j+hm1 Xj=0bjf(xs+j;ys+j)+bmf(xs+m;h Xj=0bjf(xs+j;ys+j)+hbmf(xs+m;ys+m)
darausfolgtdieGleichungys+m=m1 j=0ajys+j+h P .SetzeYs:=(ys;:::;ys+m1)T. m1 Xj=0ajys+j);
Darausfolgt: A=0B@01 a0::::::am11CAb=0B@0.011CA ......
d.h.Nullstabilitat)(A)1unddarausfolgt det(AI)=(1)m(m+am1m1+:::+a0)=(1)m()=0 Ys+1=AYs+bh (xs;Ys;h)=:G(Ys)(ESV) 01
DabeiistLdieLipschitzkonstantefur MitY(xs)=(y(xs);:::;y(xs+m1))Tistdann ds+1=Y(xs+1)AY(xs)bh kG(Ys)G(Zs)k(1+hL)kYsZsk bezuglichs.
Satz4.3: kY(xs)Ysk=kGY(xs+1)+dsG(Ys1)k kds+1k=h!(h)=O(hp+1) kY(x0)Y0k(1+hL)s+h!(h)(1+hL)s1+:::+1 (1+hL)kY(xs1)Ys1k+kdsk (xs;Y(xs);h)=Y(xs+1)GY(xs)
vonderOrdnungp.D.h.Konvergenz()KonsistenzundStabilitat.
IstdaslineareMehrschrittverfahrenkonsistent,nullstabilundvonderOrdnungp,dannisteskonvergent

1LineareGleichungssysteme Inhaltsverzeichnis INHALTSVERZEICHNIS 1.1Beispiele::::::::::::::::::::::::::::::::::::::::::::::1 190
1.2NormierteRaume,Innenproduktraume,etc.::::::::::::::::::::::::::3 1.3Elementarmatrizen::::::::::::::::::::::::::::::::::::::::10 1.4DasGauscheEliminationsverfahren::::::::::::::::::::::::::::::12 1.4.1Tridiagonalmatrizen:::::::::::::::::::::::::::::::::::17 1
1.7LineareAusgleichsrechnung:::::::::::::::::::::::::::::::::::25 1.5Cholesky-Zerlegung::::::::::::::::::::::::::::::::::::::::19 1.6DieQ-R-Zerlegung::::::::::::::::::::::::::::::::::::::::20 1.6.2DasmodizierteGram-Schmidt-Verfahren:::::::::::::::::::::::22 1.6.1DasGram-Schmidt-Verfahren::::::::::::::::::::::::::::::21
1.7.3DiePseudoinverse::::::::::::::::::::::::::::::::::::29 1.7.4StorungenvonGleichungssystemen:::::::::::::::::::::::::::31 1.7.2PseudonormalenlosungenlinearerGleichungssysteme:::::::::::::::::28 1.7.1DieSingularwertezerlegungeinerMatrix::::::::::::::::::::::::27 1.6.3DasHouseholder-Verfahren:::::::::::::::::::::::::::::::24
2NichtlineareGleichungssysteme 2.1Konvergenzsatze:::::::::::::::::::::::::::::::::::::::::35 2.2DieKonvergenzordnungeinesIterationsverfahrens::::::::::::::::::::::38 2.3DasNewton-Verfahren::::::::::::::::::::::::::::::::::::::39 1.7.5VerbesserungderKonditionundRegularisierungvonlinearenGleichungssystemen32
2.5NullstellenvonPolynomen::::::::::::::::::::::::::::::::::::46 2.4Quasi-Newton-Verfahren:::::::::::::::::::::::::::::::::::::42 35
3Interpolation 3.1InterpolationdurchPolynome::::::::::::::::::::::::::::::::::54 2.6IterativeLosungsverfahrenbeilinearenGleichungssystemen:::::::::::::::::49 3.1.1AquidistanteStutzstellen::::::::::::::::::::::::::::::::55 3.1.2Anwendung:NumerischeDierentiation::::::::::::::::::::::::56 3.1.3Extrapolation:::::::::::::::::::::::::::::::::::::::57 3.1.4ImplementierungLagrange-Interpolation::::::::::::::::::::::::58 54
3.1.6OptimaleWahlderStutzstellen:::::::::::::::::::::::::::::59 3.1.7NewtonscheDarstellung:::::::::::::::::::::::::::::::::59
3.1.5Fehlerabschatzung::::::::::::::::::::::::::::::::::::58

INHALTSVERZEICHNIS 3.5B-Splines:::::::::::::::::::::::::::::::::::::::::::::81 3.4InterpolationdurchSplines:::::::::::::::::::::::::::::::::::74 3.3TrigonometrischeInterpolation:::::::::::::::::::::::::::::::::68 3.2PolynomialinterpolationinhoherenDimensionen:::::::::::::::::::::::65 191
4NumerischeIntegration 4.2Restglieddarstellungen::::::::::::::::::::::::::::::::::::::95 4.1Einfuhrung::::::::::::::::::::::::::::::::::::::::::::93 4.3Interpolations-Quadraturformeln::::::::::::::::::::::::::::::::97 4.4QuadraturformelnvomGauschenTyp:::::::::::::::::::::::::::::98 4.5Romberg-Integration:::::::::::::::::::::::::::::::::::::::105 93
5Eigenwerte 5.1TheoretischerHintergrund::::::::::::::::::::::::::::::::::::109 5.1.1Diagonalform:::::::::::::::::::::::::::::::::::::::109 5.1.4NormaleundhermitescheMatrizen:::::::::::::::::::::::::::111 5.1.3Schurform:::::::::::::::::::::::::::::::::::::::::110 5.1.2JordanscheNormalform:::::::::::::::::::::::::::::::::110 109
5.3Lokalisierungssatze::::::::::::::::::::::::::::::::::::::::116 5.4VerfahrenzurSpektralapproximation::::::::::::::::::::::::::::::117 5.2Fehlerabschatzungen(aposteriori):::::::::::::::::::::::::::::::112
5.5Krylov-Unterraummethoden:::::::::::::::::::::::::::::::::::122 5.4.1Vektoriteration::::::::::::::::::::::::::::::::::::::117 5.4.2Deationsmethoden::::::::::::::::::::::::::::::::::::119 5.4.4Unterraumiteration::::::::::::::::::::::::::::::::::::121 5.4.3PartielleSchurzerlegung:::::::::::::::::::::::::::::::::120 5.5.2DieMethodevonArnoldi(1951)::::::::::::::::::::::::::::123 5.5.1Krylov-Unterraume::::::::::::::::::::::::::::::::::::122
5.7DieMethodevonHyman:::::::::::::::::::::::::::::::::::::131 5.6DerQR-Algorithmus:::::::::::::::::::::::::::::::::::::::128 5.6.2DieTransformationaufHessenbergmatrix:::::::::::::::::::::::130 5.5.4Nicht-hermitscherLanczos-Algorithmus::::::::::::::::::::::::126 5.6.1DerQR-AlgorithmusfurHessenbergmatrizen:::::::::::::::::::::129 5.5.3HermitscheLanczos-Verfahren:::::::::::::::::::::::::::::126
5.8Bisektionsverfahren::::::::::::::::::::::::::::::::::::::::133 5.8.1SchneidendesSpektrums::::::::::::::::::::::::::::::::136

6LineareOptimierung INHALTSVERZEICHNIS 6.1Einfuhrung::::::::::::::::::::::::::::::::::::::::::::139 5.9Jacobi-Verfahren:::::::::::::::::::::::::::::::::::::::::137 139 192
6.2Simplexverfahren:::::::::::::::::::::::::::::::::::::::::140
7UnrestringierteOptimierung 6.3DualitatbeilinearenProgrammen:::::::::::::::::::::::::::::::151 6.2.2DiePhaseIdesSimplexverfahrens:::::::::::::::::::::::::::150 6.2.1PhaseIIdesSimplexverfahrens:::::::::::::::::::::::::::::143
7.1Grundlagen::::::::::::::::::::::::::::::::::::::::::::155 6.3.1SchwacherundstarkerDualitatssatz::::::::::::::::::::::::::151
7.2EinModellalgorithmus::::::::::::::::::::::::::::::::::::::161 7.1.3NotwendigeundhinreichendeBedingungenzweiterOrdnung:::::::::::::159 7.1.2NotwendigeOptimalitatsbedingungenersterOrdnung:::::::::::::::::155 7.1.1Einfuhrung::::::::::::::::::::::::::::::::::::::::155 155
8NumerikgewohnlicherDierentialgleichungen 7.2.2SchrittweitenstrategienbeiglatterZielfunktion::::::::::::::::::::164 7.2.1BeispielefurRichtungsstrategienbeiglatterZielfunktion:::::::::::::::163
8.2Diskretisierungsfehler,Fehlerordnung::::::::::::::::::::::::::::::177 8.1Einfuhrung::::::::::::::::::::::::::::::::::::::::::::174 7.2.3KonvergenzdesModellalgorithmus'beiglatterZielfunktion:::::::::::::168 7.2.4DasgedampfteGau-Newton-VerfahrenfurdiskretenichtlineareApproximationsaufgaben::::::::::::::::::::::::::::::::::::::::::169 8.4Mehrschrittverfahren:::::::::::::::::::::::::::::::::::::::183 8.3Runge-Kutta-Verfahren::::::::::::::::::::::::::::::::::::::179 8.3.1Schrittweitensteuerung::::::::::::::::::::::::::::::::::180 174
8.4.5KonvergenzvonMehrschrittverfahren:::::::::::::::::::::::::189
8.4.4DasallgemeinelineareMehrschrittverfahren::::::::::::::::::::::185 8.4.3BDF-Verfahren(Backward-Dierence):::::::::::::::::::::::::185 8.4.2Adams-Moulton-Verfahren::::::::::::::::::::::::::::::::184 8.4.1Adams-Bashforth-Verfahren:::::::::::::::::::::::::::::::183

Index
Abstiegskante,143
Abstiegsmatrix,169
Abstiegsrichtung,155
Adams-Moulton-Verfahren,184
Algorithmus
Abstiegsalgorithmus,161
Arnoldi,123
Bairstow-,48
Bisektionsverfahren,135
Cholesky-,20
Cholesky-(tridiagonal),20
FFT,73
Gram-Schmidt-,23
Hessenbergmatrix,131
Hyman,132
inverseInteration,118
Jacobi-Verfahren,138
Lanczos(hermitesch),126
Lanczos(nicht-hermitesch),126
Langrange-Interpolation,58
mod.Gram-Schmidt-Verfahren(Arnoldi),125
Neville,62
NewtonscheDarstellung,61
partielleSchurzerlegung,120
Potenzmethode,117
Q-R-Zerlegung,25
QR-,128
Romberg-Integration,107
SchneidendesSpektrums,136
Unterraumiteration,121
Armijo,166
Arnoldi,123
Ausgleichsproblem,3,20,25
Ausgleichsrechnung
lineare,25
B-Spline,81
Bairstow-Verfahren,48
BanachscherFixpunktsatz,35
baryzentrischeDarstellung,54
Basislosung,143
Basiswechsel,148
Bauer,112
Beispiele
Ausgleichsproblem,3
Diatplan,139
Membran-Auslenkung,2
Produktionsplanung,139
Simplexverfahren,145
Temperaturverteilung,18
Zweipunkt-Randwertproblem,1
Biorthogonalsystem,127
Bisektionsverfahren,133
BrowerscherFixpunktsatz,36
Broyden
Rang-1-Verfahrennach,45
Butcher-Array,176
Cauchy-Schwarz-Ungleichung,5
Cholesky-Zerlegung,19
Courant-Fischer,112
Crout,17
Denition
B-Spline,82
Basislosung,143
diagonaldominanteMatrix,51
Diskretisierungsfehler,177
dualesProgramm,151
Ecke,140
Eigenwerte,-vektoren,109
Elementarmatrix,10
entartet,143
Fehlerordnung,178
halb-einfacherEigenwert,109
Hyperebene,140
Kondition,8
KrummungeinerFunktion,77
Krylov-Raum,122
lexikographischpositiv,148
Minimalpolynom,122
Norm,3
normaleMatrix,111
Pseudonormalenlosung,29
Rayleigh-Quotient,111
richtungsdierenzierbar,156
Singularwertezerlegung,27
Skalarprodukt,4
Spektralradius,109
Spline,74
Tridiagonalmatrix,17
Deation,119
mitmehrerenVektoren,120
Wieland-,119
Diatplan,139
Diagonalisierbarkeit,109
Diagonalmatrix,111
Diagonalstrategie,13
Dierentiation,56
Diskretisierungsfehler,177
dividierteDierenzen,64
Doolittle,136
Doolittle-Zerlegung,17
dualesProgramm,151
193

INDEX 194
Dualitat,151
Dualitatssatz,151
Ecke,140
Eigenpaar
approximatives,112
Eigenwert,27
Einzelschrittverfahren,50,177
Elementartransformation,109
entartet,143
Euler-MacLaurin-Summenformel,105
Euler-Verfahren,174
exakteSchrittweitensuche,164
Extrapolation,57
Fike,112
Fixpunkt,37
anziehender,37
attraktiver,37
Fourier-Transformation,72
Funktionalmatrix,155
Gateaux-Ableitung,156
Gaus-Radau,175
Gau,11
Gau-Seidel,50
GauschesEliminationsverfahren,12
Gauformel,102
zusammengesetzte,104
Gerschgorin-Kreis,116
Gesamtschrittverfahren,50
Gewichtsfunktion,93
Gleichungssystem
lineares,35
Storungenvon,31
Gradient,155
Gram-Schmidt-Verfahren,21
Halbraum,140,154
Hermit-Interpolation,62
Hessematrix,159
Hessenbergmatrix,126
QR-Algorithmus,129
Horner-Schema
2-stuges,46
Householder-Verfahren,24
Hyman,131
Hyperebene,140,154
Integration
mehrdimensionale,104
Romberg-,105
Interpolation,54
-s-Quadraturformel,97
-sproblem,54
aquidistanteStutzstellen,55
Hermit-,62
Polynomial-inhoherenDimensionen,65
Spline-,74,77
trigonometrische,68
inverseIteration,118
iterativeLosungsverfahren,49
Jacobi-Verfahren,137
Jacobimatrix,155
JordanscheNormalform,110
Kato,113
Konvergenzordnung,38
Konvergenzsatze,35
konvex,140
Konvexkombination,140,142
Korrektor,184
Krylov,122
Lagrange
-Darstellung,54
-Multiplikatoren,33
Lagrangeinterpolation,94
Laguerre-Polynome,99
Lanczos-Verfahren,126
Legendre-Polynome,99
Lemma
Farkas,153
lexikographischpositiv,148
linearesProgramm,140,143,151
Dualitat,151
Lipschitz-stetig,162
lokalerKonvergenzsatz,36
Lorenzattraktor,182
Matrix
diagonaldominant,51
Elementar-,10
Frobenius-,11
inobererDreiecksgestalt,12
orthogonale,22
Permutations-,11
Tridiagonal-,17
Mehrschrittverfahren,183
Membran-Auslenkung,2
MethodedessteilstenAbstiegs,162
MethodevonArnoldi,123
MethodevonHyman,131
Mittelpunktsregel,175
Modellalgorithmus,161
Moore-Peurose-Inverse,29
Multiplikatoren,14
Neville-Schema,62

INDEX 195
Newton-Cotes-Formel,97
Newton-Verfahren,39
Quasi-,42,163
Newtonrichtung,163,166
NewtonscheDarstellung,59
NichtlineareGleichungssysteme,35
Norm,3
Vektor-,8
Normalform,140
normierteRaume,3
NullstellenvonPolynomen,46
numerischeDierentiation,56
optimaleWahlderStutzstellen,59
Optimalitatsbedingung,160
Optimalitatskriterium,152
partielleSchurzerlegung,120
Peano-Kern,95
Poincare-Weyl,112
Polyeder,140
Polygonzugverfahren,174
Polynom
-nullstellen,46
Polytop,140
Potenzmethode,117
mitSpektralverschiebung,118
Powell,165
Pradikator,184
Prandt-Zahl,182
primalesProgramm,151
Produktionsplan
zulaig,139
Produktionsplanung,139
Pseudoinverse,29
eektive,32
Pseudonormalenlosung,28
Q-R-Zerlegung,20
Quadraturformel,93,183
vomGauschenTyp,98
Quasi-Newton-Verfahren,42
Raume
-normierte,3
Rang,27
Rang-1-VerfahrennachBroyden,45
Regularisierung,32
-sparameter,33
Tychonov-,32
Relaxationsverfahren,50
Restglieddarstellungen,95
RichtungdessteilstenAbstiegs,163
RichtungsdessteilstenAbstiegs,162
Richtungsableitung,156
Romberg-Integration,105
Romberg-Schema,107
Rosiduumvektor,112
Runge-Kutta-Verfahren,174,176,179
SatzBanachscherFixpunkt-,35
Bauer-Fike,112
BrowerscherFixpunkt-,36
Dahlquist-Schranker,188
desPhythagoras,5
Gerschgorin,116
Kahan,Parlett,Jiang,115
Kato-Temple,113
Kuhn-Tucker,152
lokalerKonvergenz-,36
Minimax-Theorem,112
Schoenberg-Whitney,90
TragheitssatzvonSylvester,136
Schlupfvariable,140,151
SchneidendesSpektrums,136
Schranke
untere,152
Schrittweitensuche,162
Schurform,110
Schurvektor,111
Schurzerlegung
partielle,111
Simplexverfahren,140
Beispiel,145
Grundstruktur,143
Simpson-Regel,180
Simpsonregel,94,96,98,107
Singularwert,33
Singularwertezerlegung,27
Skalarprodukt,4
SOR-Verfahren,50
Spektralapproximation,117
Spektralradius,110
Spinnwebtheorem,38
Spline,74
B-,81
hohererOrdnung,79
kubischer,74,79
steilsterAbstieg,162
Storungslemma,8
subadditiv,157
Temple,113
tensoriellesProdukt,66
Trapezregel,94,96,97,175,179
Tschebysche-Approximation
diskrete,158
Tschebysche-Polynome,99

INDEX Unterraumiteration,121 Vektor Vektoriteration,117 Verfahren orthogonaler,21 196
Bairstow-,48 BDF-,185 BFGS-,163 DFP-,163 Einzelschritt-,50 Euler-,174 Gesamtschritt-,50 Adams-Bashforth-,183 Adams-Moulton-,184 Gram-Schmidt-,21 Gram-Schmidt-(modiziert),22 Heun-,180 Householder-,24 Jacobi,137 Newton-,39 Polygonzug-,174
Zeilenpivotsuche Pradikator-Korrektor-,184 Quasi-Newton-,42
Zerlegung Rang-1-(nachBroyden),45 Relaxations-,50 Runge-Kutta-,174,176,179 SOR-,50 Taylormethode,174
Zweipunkt-Randwertproblem,1 Zyklus,148,149
skalierte,13 Q-R-,20 Singularwerte-,27,33 Doolittle-,17 Cholesky-,19 Doolittle,136