Kenneth Kuttler

CONTENTS 5

12.9 The Singular Value Decomposition . . . . . . . . . . . . . . . . . . . . . . . 31312.10 Approximation in the Frobenius Norm . . . . . . . . . . . . . . . . . . . . . 31512.11 Least Squares and Singular Value Decomposition . . . . . . . . . . . . . . . 31712.12 The Moore Penrose Inverse . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31812.13 Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 321

13 Norms 32513.1 The p Norms . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33113.2 The Condition Number . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33313.3 The Spectral Radius . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33513.4 Series and Sequences of Linear Operators . . . . . . . . . . . . . . . . . . . . 33713.5 Iterative Methods for Linear Systems . . . . . . . . . . . . . . . . . . . . . . 34213.6 Theory of Convergence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34713.7 Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 350

14 Numerical Methods, Eigenvalues 35714.1 The Power Method for Eigenvalues . . . . . . . . . . . . . . . . . . . . . . . 357

14.1.1 The Shifted Inverse Power Method . . . . . . . . . . . . . . . . . . . 36014.1.2 The Explicit Description of the Method . . . . . . . . . . . . . . . . 36114.1.3 Complex Eigenvalues . . . . . . . . . . . . . . . . . . . . . . . . . . 36614.1.4 Rayleigh Quotients and Estimates for Eigenvalues . . . . . . . . . . 367

14.2 The QR Algorithm . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37114.2.1 Basic Properties and Definition . . . . . . . . . . . . . . . . . . . . . 37114.2.2 The Case of Real Eigenvalues . . . . . . . . . . . . . . . . . . . . . . 37414.2.3 The QR Algorithm in the General Case . . . . . . . . . . . . . . . . 378

14.3 Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 385

A Matrix Calculator on the Web 387A.1 Use of Matrix Calculator on Web . . . . . . . . . . . . . . . . . . . . . . . . 387

B Positive Matrices 389