2024 年全国硕士研究生入学统一考试（数学二）试题与解析

一、选择题

1

函数

$$f(x)=|x|^{\frac{1}{(1-x)(x-2)}}$$

的第一类间断点的个数为（ ）

• A. $3$
• B. $2$
• C. $1$
• D. $0$

答案： C

解析：
间断点只可能在 $x=0,1,2$ 处。又

$$\lim_{x\to 1}f(x) =\lim_{x\to 1}\exp\!\left(\frac{\ln x}{(1-x)(x-2)}\right) =e,$$

故 $x=1$ 为可去间断点；而

$$\lim_{x\to 2^-}f(x)=+\infty,\qquad \lim_{x\to 0^+}f(x)=+\infty,$$

所以第一类间断点只有 $1$ 个，即 $x=1$。

2

已知

$$\left\{ \begin{aligned} x &= 1+t^3,\\ y &= e^{t^2}, \end{aligned} \right.$$

则

$$\lim_{x\to+\infty}x\!\left[f\!\left(2+\frac{2}{x}\right)-f(2)\right]$$

等于（ ）

• A. $2e$
• B. $\frac{4}{3}e$
• C. $\frac{2}{3}e$
• D. $\frac{e}{3}$

答案： B

解析：
由参数方程，

$$f'(x)=\frac{dy/dt}{dx/dt}=\frac{2te^{t^2}}{3t^2}.$$

当 $x=2$ 时，$t=1$，故

$$f'(2)=\frac{2}{3}e.$$

于是

$$\lim_{x\to+\infty}x\!\left[f\!\left(2+\frac{2}{x}\right)-f(2)\right] =2\lim_{x\to+\infty}\frac{f\!\left(2+\frac{2}{x}\right)-f(2)}{2/x} =2f'(2)=\frac{4}{3}e.$$

3

已知

$$f(x)=\int_0^{\sin x}\sin t^3\,dt,\qquad g(x)=\int_0^x f(t)\,dt,$$

则（ ）

• A. $f(x)$ 为奇函数，$g(x)$ 为奇函数
• B. $f(x)$ 为奇函数，$g(x)$ 为偶函数
• C. $f(x)$ 为偶函数，$g(x)$ 为偶函数
• D. $f(x)$ 为偶函数，$g(x)$ 为奇函数

答案： D

解析：
设

$$h(x)=\int_0^x \sin t^3\,dt.$$

因 $\sin(t^3)$ 为奇函数，所以 $h(x)$ 为偶函数。于是

$$f(x)=h(\sin x)$$

仍为偶函数；而

$$g(x)=\int_0^x f(t)\,dt$$

是偶函数在 $[0,x]$ 上的积分，因此为奇函数。

4

已知数列 $\{a_n\}$（$a_n\ne 0$），若 $\{a_n\}$ 发散，则（ ）

• A. $\left\{a_n+\frac{1}{a_n}\right\}$ 发散
• B. $\left\{a_n-\frac{1}{a_n}\right\}$ 发散
• C. $\left\{e^{a_n}+\frac{1}{e^{a_n}}\right\}$ 发散
• D. $\left\{e^{a_n}-\frac{1}{e^{a_n}}\right\}$ 发散

答案： D

解析：
A、C 可取反例 $a_n=2^{(-1)^n}$；B 可取反例 $a_n=(-1)^n$。
对 D，设

$$b_n=e^{a_n}-e^{-a_n}.$$

函数

$$\varphi(x)=e^x-e^{-x}$$

在 $\mathbb R$ 上连续且严格单调递增，故存在连续反函数。若 $\{b_n\}$ 收敛，则

$$a_n=\varphi^{-1}(b_n)$$

也收敛，与题设矛盾，所以 D 正确。

5

已知函数

$$f(x,y)= \begin{cases} (x^2+y^2)\sin\frac{1}{xy}, & xy\ne 0,\\ 0, & xy=0, \end{cases}$$

则在点 $(0,0)$ 处（ ）

• A. $\dfrac{\partial f}{\partial x}$ 连续，$f$ 可微
• B. $\dfrac{\partial f}{\partial x}$ 连续，$f$ 不可微
• C. $\dfrac{\partial f}{\partial x}$ 不连续，$f$ 可微
• D. $\dfrac{\partial f}{\partial x}$ 不连续，$f$ 不可微

答案： C

解析：
先有

$$\frac{\partial f}{\partial x}(0,0)=0,\qquad \frac{\partial f}{\partial y}(0,0)=0.$$

且

$$\left|\frac{f(x,y)-f(0,0)}{\sqrt{x^2+y^2}}\right| \le \sqrt{x^2+y^2}\to 0,$$

故 $f$ 在 $(0,0)$ 可微。
当 $xy\ne 0$ 时，

$$\frac{\partial f}{\partial x} =2x\sin\frac{1}{xy}-\frac{x^2+y^2}{x^2y}\cos\frac{1}{xy},$$

其在 $(0,0)$ 附近极限不存在，所以偏导不连续。

6

设 $f(x,y)$ 为连续函数，则

$$\int_{\pi/6}^{\pi/2}dx\int_{\sin x}^{1}f(x,y)\,dy = (\ \ )$$

• A. $\displaystyle \int_{1/2}^{1}dy\int_{\pi/6}^{\arcsin y}f(x,y)\,dx$
• B. $\displaystyle \int_{1/2}^{1}dy\int_{\arcsin y}^{\pi/2}f(x,y)\,dx$
• C. $\displaystyle \int_0^{1/2}dy\int_{\pi/6}^{\arcsin y}f(x,y)\,dx$
• D. $\displaystyle \int_0^{1/2}dy\int_{\arcsin y}^{\pi/2}f(x,y)\,dx$

答案： A

解析：
原区域满足

$$\frac{\pi}{6}\le x\le \frac{\pi}{2},\qquad \sin x\le y\le 1.$$

换序后，

$$\frac12\le y\le 1,\qquad \frac{\pi}{6}\le x\le \arcsin y.$$

故对应选项为 A。

7

设非负函数 $f(x)$ 在 $[0,+\infty)$ 上连续，给出三个命题：

1. 若 $\int_0^{+\infty}f^2(x)\,dx$ 收敛，则 $\int_0^{+\infty}f(x)\,dx$ 收敛；
2. 若存在 $p>1$，使极限 $\lim_{x\to+\infty}x^p f(x)$ 存在，则 $\int_0^{+\infty}f(x)\,dx$ 收敛；
3. 若 $\int_0^{+\infty}f(x)\,dx$ 收敛，则存在 $p>1$，使极限 $\lim_{x\to+\infty}x^p f(x)$ 存在。

其中正确命题的个数是（ ）

• A. $0$
• B. $1$
• C. $2$
• D. $3$

答案： B

解析：

• (1) 错。取 $f(x)=\dfrac{1}{1+x}$，则 $\int_0^{+\infty}f^2(x)\,dx$ 收敛，但 $\int_0^{+\infty}f(x)\,dx$ 发散。
• (2) 对。若 $\lim_{x\to+\infty}x^pf(x)$ 存在，则充分大时 $f(x)\le \dfrac{M}{x^p}$，再由比较判别法知积分收敛。
• (3) 错。取

  $$f(x)=\frac{1}{(x+2)\ln^2(x+2)},$$

  积分收敛，但不存在 $p>1$ 使 $x^pf(x)$ 极限存在。

故正确的只有 1 个。

8

设 $\boldsymbol A$ 为三阶矩阵，

$$\boldsymbol P= \begin{pmatrix} 1&0&0\\ 0&1&0\\ 1&0&1 \end{pmatrix},$$

若

$$\boldsymbol P^T\boldsymbol A\boldsymbol P^2= \begin{pmatrix} a+2c&0&c\\ 0&b&0\\ 2c&0&c \end{pmatrix},$$

则矩阵 $\boldsymbol A$ 为（ ）

• A. $\begin{pmatrix} c&0&0\\ 0&a&0\\ 0&0&b \end{pmatrix}$
• B. $\begin{pmatrix} b&0&0\\ 0&c&0\\ 0&0&a \end{pmatrix}$
• C. $\begin{pmatrix} a&0&0\\ 0&b&0\\ 0&0&c \end{pmatrix}$
• D. $\begin{pmatrix} c&0&0\\ 0&b&0\\ 0&0&a \end{pmatrix}$

答案： C

解析：
由

$$\boldsymbol A=(\boldsymbol P^T)^{-1} \begin{pmatrix} a+2c&0&c\\ 0&b&0\\ 2c&0&c \end{pmatrix} (\boldsymbol P^2)^{-1}$$

直接计算得

$$\boldsymbol A= \begin{pmatrix} a&0&0\\ 0&b&0\\ 0&0&c \end{pmatrix}.$$

9

设 $\boldsymbol A$ 为 $4$ 阶矩阵，$\boldsymbol A^*$ 为 $\boldsymbol A$ 的伴随矩阵。若

$$\boldsymbol A(\boldsymbol A-\boldsymbol A^*)=\boldsymbol O,\qquad \boldsymbol A\ne \boldsymbol A^*,$$

则 $r(\boldsymbol A)$ 的取值为（ ）

• A. $0$ 或 $1$
• B. $1$ 或 $3$
• C. $2$ 或 $3$
• D. $1$ 或 $2$

答案： D

解析：
若 $\boldsymbol A$ 可逆，则 $\boldsymbol A^*=|\boldsymbol A|\boldsymbol A^{-1}$，由题式可推出 $\boldsymbol A=\boldsymbol A^*$，矛盾；故 $\boldsymbol A$ 不可逆，从而

$$\boldsymbol A\boldsymbol A^*=|\boldsymbol A|\boldsymbol E=\boldsymbol O.$$

于是由题设得

$$\boldsymbol A^2=\boldsymbol O.$$

故

$$r(\boldsymbol A)+r(\boldsymbol A)\le 4 \Rightarrow r(\boldsymbol A)\le 2.$$

又 $\boldsymbol A\ne \boldsymbol O$，故

$$r(\boldsymbol A)=1\ \text{或}\ 2.$$

10

设 $\boldsymbol A,\boldsymbol B$ 均为 $2$ 阶矩阵，且 $\boldsymbol A\boldsymbol B=\boldsymbol B\boldsymbol A$，则“$\boldsymbol A$ 有两个不相等的特征值”是“$\boldsymbol B$ 可对角化”的（ ）

• A. 充要条件
• B. 充分不必要条件
• C. 必要不充分条件
• D. 既不充分也不必要条件

答案： B

解析：
若 $\boldsymbol A$ 有两个不同特征值，则有两组线性无关特征向量。由 $\boldsymbol A\boldsymbol B=\boldsymbol B\boldsymbol A$ 可知，$\boldsymbol B$ 将 $\boldsymbol A$ 的特征子空间映到自身，因此这两组特征向量也可取为 $\boldsymbol B$ 的特征向量，故 $\boldsymbol B$ 可对角化。
反之不成立，例如取

$$\boldsymbol A=\boldsymbol B=\boldsymbol E,$$

则 $\boldsymbol B$ 可对角化，但 $\boldsymbol A$ 没有两个不相等特征值。

---

二、填空题

11

曲线 $y^2=x$ 在点 $(0,0)$ 处的曲率圆方程为 ______

答案：

$$\left(x-\frac12\right)^2+y^2=\frac14$$

解析：
将曲线写成 $x=y^2$，则

$$x'(y)=2y,\qquad x''(y)=2.$$

故在 $y=0$ 处曲率为

$$K=\frac{|x''(0)|}{\left(1+[x'(0)]^2\right)^{3/2}}=2,$$

曲率半径

$$R=\frac12.$$

又曲线在原点处与 $y$ 轴相切，曲率中心为 $\left(\frac12,0\right)$，故曲率圆方程如上。

12

函数

$$f(x,y)=2x^3-9x^2-6y^4+12x+24y$$

的极值点为 ______

答案：

$$(1,1)$$

解析：
由

$$f_x=6x^2-18x+12,\qquad f_y=-24y^3+24,$$

得驻点为 $(1,1)$、$(2,1)$。再由

$$f_{xx}=12x-18,\qquad f_{xy}=0,\qquad f_{yy}=-72y^2,$$

知在 $(1,1)$ 处，

$$f_{xx}f_{yy}-f_{xy}^2>0,\qquad f_{xx}<0,$$

故 $(1,1)$ 为极值点；而 $(2,1)$ 处判别式小于零，不是极值点。

13

微分方程

$$y'=\frac{1}{(x+y)^2}$$

满足初始条件 $y(1)=0$ 的解为 ______

答案：

$$y=\arctan(x+y)-\frac{\pi}{4}$$

解析：
令 $u=x+y$，则

$$y=u-x,\qquad y'=u'-1.$$

代入原方程得

$$u'-1=\frac{1}{u^2} \Rightarrow u'=\frac{1+u^2}{u^2}.$$

分离变量积分：

$$x=u-\arctan u+C.$$

代回 $u=x+y$，得

$$y=\arctan(x+y)-C.$$

再由 $y(1)=0$ 得 $C=\frac{\pi}{4}$。

14

已知函数

$$f(x)=x^2(e^x-1),$$

则

$$f^{(5)}(1)=\ \underline{\qquad}$$

答案：

$$31e$$

解析：
由莱布尼茨公式可得

$$f^{(5)}(x)=(x^2+10x+20)e^x.$$

故

$$f^{(5)}(1)=(1+10+20)e=31e.$$

15

某物体以速度

$$v(t)=t+k\sin\pi t$$

做直线运动。若它从 $t=0$ 到 $t=3$ 的平均速度是 $\dfrac52$，则 $k=$ ______

答案：

$$\frac{3\pi}{2}$$

解析：
由平均速度定义，

$$\frac13\int_0^3\bigl(t+k\sin\pi t\bigr)\,dt=\frac52.$$

计算得

$$\frac13\left(\frac92+\frac{2k}{\pi}\right)=\frac52,$$

故

$$k=\frac{3\pi}{2}.$$

16

设向量

$$\boldsymbol\alpha_1= \begin{pmatrix} a\\ 1\\ -1\\ 1 \end{pmatrix},\quad \boldsymbol\alpha_2= \begin{pmatrix} 1\\ 1\\ b\\ a \end{pmatrix},\quad \boldsymbol\alpha_3= \begin{pmatrix} 1\\ a\\ -1\\ 1 \end{pmatrix}.$$

若 $\boldsymbol\alpha_1,\boldsymbol\alpha_2,\boldsymbol\alpha_3$ 线性相关，且其中任意两个向量均线性无关，则 $ab=$ ______

答案：

$$-4$$

解析：
对矩阵 $(\boldsymbol\alpha_1,\boldsymbol\alpha_2,\boldsymbol\alpha_3)$ 行变换，可化到

$$\begin{pmatrix} 1&1&a\\ 0&1&-1-a\\ 0&0&a+b\\ 0&0&a+2 \end{pmatrix}.$$

由题设知秩为 $2$，故

$$a+2=0,\qquad a+b=0.$$

解得

$$a=-2,\qquad b=2,$$

于是

$$ab=-4.$$

---

三、解答题

17

设平面有界区域 $D$ 位于第一象限，由曲线

$$xy=\frac13,\qquad xy=3$$

与直线

$$y=\frac13x,\qquad y=3x$$

围成，计算

$$\iint_D(1+x-y)\,dx\,dy.$$

解析：
区域关于直线 $y=x$ 对称，因此

$$\iint_D x\,dx\,dy=\iint_D y\,dx\,dy,$$

从而原积分化为

$$\iint_D 1\,dx\,dy,$$

即只需求区域面积。

改用极坐标

$$x=r\cos\theta,\qquad y=r\sin\theta.$$

由边界条件得

$$\arctan\frac13\le \theta\le \arctan 3,$$

且

$$\frac13\le r^2\sin\theta\cos\theta\le 3.$$

故

$$\iint_D dx\,dy = \int_{\arctan(1/3)}^{\arctan 3} \int_{\sqrt{\frac{1}{3\sin\theta\cos\theta}}}^{\sqrt{\frac{3}{\sin\theta\cos\theta}}} r\,dr\,d\theta.$$

计算得

$$\iint_D dx\,dy = \frac{8}{3}\int_{\arctan(1/3)}^{\arctan 3}\frac{1}{\sin 2\theta}\,d\theta = \frac{8}{3}\ln 3.$$

因此

$$\boxed{\iint_D(1+x-y)\,dx\,dy=\frac{8}{3}\ln 3 }.$$

18

设 $y=y(x)$ 满足方程

$$x^2y''+xy'-9y=0,$$

且

$$y\big|_{x=1}=2,\qquad y'\big|_{x=1}=6.$$

1. 利用变换 $x=e^t$ 化简方程，并求 $y(x)$；
2. 求

   $$\int_1^2 y(x)\sqrt{4-x^2}\,dx.$$

解析：

（1）

令 $x=e^t$，则 $t=\ln x$。有

$$\frac{dy}{dx}=\frac1x\frac{dy}{dt},\qquad \frac{d^2y}{dx^2}=\frac{1}{x^2}\left(\frac{d^2y}{dt^2}-\frac{dy}{dt}\right).$$

代入原方程得

$$\frac{d^2y}{dt^2}-9y=0.$$

故通解为

$$y=C_1e^{3t}+C_2e^{-3t}=C_1x^3+C_2x^{-3}.$$

再由

$$y(1)=2,\qquad y'(1)=6$$

解得

$$C_1=2,\qquad C_2=0.$$

因此

$$\boxed{y=2x^3 }.$$

（2）

于是

$$\int_1^2 y(x)\sqrt{4-x^2}\,dx = \int_1^2 2x^3\sqrt{4-x^2}\,dx.$$

令

$$u=4-x^2,\qquad du=-2x\,dx,$$

则

$$2x^3dx=2x^2(x\,dx)=(4-u)(-du).$$

故原积分化为

$$\int_0^3 (4-u)u^{1/2}\,du = \left[\frac{8}{3}u^{3/2}-\frac{2}{5}u^{5/2}\right]_0^3 = \frac{22}{5}\sqrt3.$$

即

$$\boxed{\int_1^2 y(x)\sqrt{4-x^2}\,dx=\frac{22}{5}\sqrt3 }.$$

19

设 $t>0$，曲线

$$y=\sqrt{x}e^{-x}$$

与直线 $x=t,\ x=2t$ 及 $x$ 轴所围平面图形绕 $x$ 轴旋转所得的旋转体体积为 $V(t)$，求 $V(t)$ 的最大值。

解析：
由旋转体体积公式，

$$V(t)=\pi\int_t^{2t}\bigl(\sqrt{x}e^{-x}\bigr)^2\,dx =\pi\int_t^{2t}xe^{-2x}\,dx.$$

对 $t$ 求导，

$$V'(t)=2\pi\cdot (2t)e^{-4t}-\pi\cdot t e^{-2t} =\pi t e^{-2t}(4e^{-2t}-1).$$

故

$$V'(t) \begin{cases} >0, & 0<t<\ln 2,\\ <0, & t>\ln 2. \end{cases}$$

所以 $V(t)$ 在 $t=\ln 2$ 处取得最大值。

代入得

$$V_{\max}=V(\ln 2) =\pi\int_{\ln 2}^{2\ln 2}xe^{-2x}\,dx =\pi\left(\frac{\ln 2}{16}+\frac{3}{64}\right).$$

即

$$\boxed{V_{\max}=\pi\left(\frac{\ln 2}{16}+\frac{3}{64}\right)}.$$

20

设 $f(u,v)$ 具有二阶连续偏导，

$$g(x,y)=f(2x+y,\,3x-y),$$

且满足

$$\frac{\partial^2g}{\partial x^2} +\frac{\partial^2g}{\partial x\partial y} -6\frac{\partial^2g}{\partial y^2}=1.$$

1. 求 $\dfrac{\partial^2f}{\partial u\partial v}$；
2. 若 $\dfrac{\partial f(u,0)}{\partial u}=ue^{-u}$，且 $f(0,v)=\dfrac{1}{50}v^2-1$，求 $f(u,v)$。

解析：

（1）

由链式法则，

$$u=2x+y,\qquad v=3x-y.$$

于是

$$g_x=2f_u+3f_v,\qquad g_y=f_u-f_v.$$

继续求导得

$$g_{xx}=4f_{uu}+12f_{uv}+9f_{vv},$$

$$g_{xy}=2f_{uu}+f_{uv}-3f_{vv},$$

$$g_{yy}=f_{uu}-2f_{uv}+f_{vv}.$$

代入题设可得

$$25f_{uv}=1.$$

故

$$\boxed{f_{uv}=\frac{1}{25}}.$$

（2）

由

$$f_{uv}=\frac{1}{25}$$

知

$$f_u(u,v)=\frac{1}{25}v+\phi(u).$$

又因

$$f_u(u,0)=ue^{-u},$$

故

$$\phi(u)=ue^{-u}.$$

于是

$$f_u(u,v)=\frac{1}{25}v+ue^{-u}.$$

对 $u$ 积分，

$$f(u,v)=\frac{1}{25}uv-(u+1)e^{-u}+\psi(v).$$

再由

$$f(0,v)=\frac{1}{50}v^2-1$$

得

$$\psi(v)=\frac{1}{50}v^2.$$

因此

$$\boxed{ f(u,v)=\frac{1}{25}uv-(u+1)e^{-u}+\frac{1}{50}v^2 }.$$

21

设函数 $f(x)$ 具有二阶导数，且

$$f'(0)=f'(1),\qquad |f''(x)|\le 1.$$

证明：

1. 当 $x\in(0,1)$ 时，

   $$\left|f(x)-f(0)(1-x)-f(1)x\right|\le \frac{x(1-x)}{2};$$

2. $$\left|\int_0^1 f(x)\,dx-\frac{f(0)+f(1)}{2}\right|\le \frac{1}{12}.$$

解析：

（1）

令

$$g(x)=f(x)-f(0)(1-x)-f(1)x-\frac{x(1-x)}{2}.$$

则

$$g(0)=g(1)=0,$$

且

$$g''(x)=f''(x)+1\ge 0.$$

若存在 $x_0\in(0,1)$ 使 $g(x_0)>0$，则由拉格朗日中值定理可在 $(0,x_0)$、$(x_0,1)$ 内分别取点 $\xi_1,\xi_2$，使

$$g'(\xi_1)>0,\qquad g'(\xi_2)<0.$$

再对 $g'$ 应用中值定理，可得某点 $\xi\in(\xi_1,\xi_2)$ 满足

$$g''(\xi)<0,$$

与 $g''(x)\ge 0$ 矛盾。故

$$g(x)\le 0.$$

同理，对

$$\tilde g(x)=f(x)-f(0)(1-x)-f(1)x+\frac{x(1-x)}{2}$$

可得

$$\tilde g(x)\ge 0.$$

于是

$$-\frac{x(1-x)}{2} \le f(x)-f(0)(1-x)-f(1)x \le \frac{x(1-x)}{2},$$

即

$$\boxed{ \left|f(x)-f(0)(1-x)-f(1)x\right| \le \frac{x(1-x)}{2} }.$$

（2）

将上式在 $[0,1]$ 上积分，得

$$-\int_0^1\frac{x(1-x)}{2}\,dx \le \int_0^1\left[f(x)-f(0)(1-x)-f(1)x\right]dx \le \int_0^1\frac{x(1-x)}{2}\,dx.$$

而

$$\int_0^1\frac{x(1-x)}{2}\,dx=\frac{1}{12},$$

且

$$\int_0^1\left[f(x)-f(0)(1-x)-f(1)x\right]dx = \int_0^1f(x)\,dx-\frac{f(0)+f(1)}{2}.$$

因此

$$\boxed{ \left|\int_0^1f(x)\,dx-\frac{f(0)+f(1)}{2}\right| \le \frac{1}{12} }.$$

22

设矩阵

$$\boldsymbol A= \begin{pmatrix} 0&1&a\\ 1&0&1 \end{pmatrix},\qquad \boldsymbol B= \begin{pmatrix} 1&1\\ 1&1\\ b&2 \end{pmatrix},$$

二次型

$$f(x_1,x_2,x_3)=\boldsymbol x^T\boldsymbol B\boldsymbol A\boldsymbol x.$$

已知方程组 $\boldsymbol A\boldsymbol x=0$ 的解是 $\boldsymbol B^T\boldsymbol x=0$ 的解，但两个方程组不同解。

1. 求 $a,b$ 的值；
2. 求正交变换 $\boldsymbol x=\boldsymbol Q\boldsymbol y$，将 $f(x_1,x_2,x_3)$ 化为标准形。

解析：

（1）

由题意，

$$\boldsymbol A\boldsymbol x=0 \quad\text{与}\quad \begin{pmatrix} \boldsymbol A\\ \boldsymbol B^T \end{pmatrix}\boldsymbol x=0$$

同解，故

$$r\!\begin{pmatrix} \boldsymbol A\\ \boldsymbol B^T \end{pmatrix} =r(\boldsymbol A)=2.$$

而

$$\begin{pmatrix} \boldsymbol A\\ \boldsymbol B^T \end{pmatrix} = \begin{pmatrix} 0&1&a\\ 1&0&1\\ 1&1&b\\ 1&1&2 \end{pmatrix} \sim \begin{pmatrix} 1&1&2\\ 0&1&1\\ 0&0&a-1\\ 0&0&b-2 \end{pmatrix}.$$

故

$$a-1=0,\qquad b-2=0.$$

因此

$$\boxed{a=1,\qquad b=2 }.$$

（2）

代入 $a=1,\ b=2$，得

$$\boldsymbol B\boldsymbol A = \begin{pmatrix} 1&1\\ 1&1\\ 2&2 \end{pmatrix} \begin{pmatrix} 0&1&1\\ 1&0&1 \end{pmatrix} = \begin{pmatrix} 1&1&2\\ 1&1&2\\ 2&2&4 \end{pmatrix}.$$

于是

$$f(x_1,x_2,x_3)=x_1^2+x_2^2+4x_3^2+2x_1x_2+4x_1x_3+4x_2x_3 =(x_1+x_2+2x_3)^2.$$

故该矩阵只有一个非零特征值：

$$\lambda_1=6,\qquad \lambda_2=\lambda_3=0.$$

取对应的单位正交特征向量为

$$\boldsymbol q_1=\frac{1}{\sqrt6} \begin{pmatrix} 1\\ 1\\ 2 \end{pmatrix},\qquad \boldsymbol q_2=\frac{1}{\sqrt2} \begin{pmatrix} 1\\ -1\\ 0 \end{pmatrix},\qquad \boldsymbol q_3=\frac{1}{\sqrt3} \begin{pmatrix} 1\\ 1\\ -1 \end{pmatrix}.$$

令

$$\boldsymbol Q=(\boldsymbol q_1,\boldsymbol q_2,\boldsymbol q_3) = \begin{pmatrix} \frac{1}{\sqrt6} & \frac{1}{\sqrt2} & \frac{1}{\sqrt3}\\[4pt] \frac{1}{\sqrt6} & -\frac{1}{\sqrt2} & \frac{1}{\sqrt3}\\[4pt] \frac{2}{\sqrt6} & 0 & -\frac{1}{\sqrt3} \end{pmatrix}.$$

则

$$\boldsymbol Q^T(\boldsymbol B\boldsymbol A)\boldsymbol Q = \operatorname{diag}(6,0,0).$$

因此在正交变换 $\boldsymbol x=\boldsymbol Q\boldsymbol y$ 下，

$$\boxed{f=6y_1^2 }.$$