3时，rArB2，方程组有无限个解，这时，
fr
B
100
130
230
3r60
100
010
110
12，0
由此便得通解
x1x31（x3可任意取值）x2x32
即
x11xc12x1312，cR。0
16．解：由过渡矩阵的定义：
13001100111
1
2
31
2
21
32，
于是
111
00，2210
T
1
0，3320
T
0
1。
T
下面求12253在基1，2，3下的坐标。假设12253在基1，2，3下的坐标为x1
x13x21x31325，而
100
x2
110
x3，因此
T

1
2
2
1

2

3
01x12x1x3

。
利用坐标的唯一性可得
100
x11因此x20x03110011
1
110
0x111x22，1x35
110112123。故213253。155
22T
112050
2
17．解：（1）二次型fx1x2x3ax12x22x32bx2x3XAX，其中
faA0b
020
bx10，Xx2。x23
设A的特征值为1，2，3，则
123a221，
a020b04a2b12，
2
1230
b
2
解得a1，b2。（2）A的特征多项式为
1EA
0202023，
2
2
0
2
令EA0，得到矩阵A的特征值为122，33。（3）下面求特征向量：当122时，解方程组2EAXO，可得两个线性无关的特征向量为12
01，20
T
1
0。
T
当33时，解方程组3EAXO，可得r