CONTENTS 3

3.3 The Mathematical Theory of Determinants . . . . . . . . . . . . . . . . . . . 893.3.1 The Function sgn . . . . . . . . . . . . . . . . . . . . . . . . . . . . 893.3.2 The Definition of the Determinant . . . . . . . . . . . . . . . . . . . 913.3.3 A Symmetric Definition . . . . . . . . . . . . . . . . . . . . . . . . . 933.3.4 Basic Properties of the Determinant . . . . . . . . . . . . . . . . . . 943.3.5 Expansion Using Cofactors . . . . . . . . . . . . . . . . . . . . . . . 953.3.6 A Formula for the Inverse . . . . . . . . . . . . . . . . . . . . . . . . 973.3.7 Rank of a Matrix . . . . . . . . . . . . . . . . . . . . . . . . . . . . 993.3.8 Summary of Determinants . . . . . . . . . . . . . . . . . . . . . . . 101

3.4 The Cayley Hamilton Theorem . . . . . . . . . . . . . . . . . . . . . . . . . 1023.5 Block Multiplication of Matrices . . . . . . . . . . . . . . . . . . . . . . . . . 1043.6 Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 107

4 Row Operations 1114.1 Elementary Matrices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1114.2 The Rank of a Matrix . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1164.3 The Row Reduced Echelon Form . . . . . . . . . . . . . . . . . . . . . . . . 1184.4 Existence of Solutions to Linear Systems . . . . . . . . . . . . . . . . . . . . 1224.5 Fredholm Alternative . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1224.6 Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 124

5 Some Factorizations 1295.1 LU Factorization . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1295.2 Finding an LU Factorization . . . . . . . . . . . . . . . . . . . . . . . . . . . 1295.3 Solving Linear Systems Using an LU Factorization . . . . . . . . . . . . . . 1315.4 The PLU Factorization . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1325.5 Justification for the Multiplier Method . . . . . . . . . . . . . . . . . . . . . 1335.6 Existence for the PLU Factorization . . . . . . . . . . . . . . . . . . . . . . 1345.7 The QR Factorization . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1365.8 Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 139

6 Spectral Theory 1436.1 Eigenvalues and Eigenvectors of a Matrix . . . . . . . . . . . . . . . . . . . . 1436.2 Some Applications of Eigenvalues and Eigenvectors . . . . . . . . . . . . . . 1506.3 Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1536.4 Schur’s Theorem . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1596.5 Trace and Determinant . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1676.6 Quadratic Forms . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1686.7 Second Derivative Test . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1696.8 The Estimation of Eigenvalues . . . . . . . . . . . . . . . . . . . . . . . . . . 1736.9 Advanced Theorems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1746.10 Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1776.11 Cauchy’s Interlacing Theorem for Eigenvalues . . . . . . . . . . . . . . . . . 185

7 Vector Spaces and Fields 1897.1 Vector Space Axioms . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1897.2 Subspaces and Bases . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 190

7.2.1 Basic Definitions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1907.2.2 A Fundamental Theorem . . . . . . . . . . . . . . . . . . . . . . . . 1907.2.3 The Basis of a Subspace . . . . . . . . . . . . . . . . . . . . . . . . . 195

7.3 Lots of Fields . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1957.3.1 Irreducible Polynomials . . . . . . . . . . . . . . . . . . . . . . . . . 195