(1) 函数定义域为 $\mathbb{R}$,求导得:
$$ f'(x) = e^x + (x-1)e^x - 2ax = xe^x - 2ax = x(e^x - 2a) $$
讨论 $a$ 的取值对单调性的影响:
① 当 $a \le 0$ 时,$e^x - 2a > 0$ 恒成立。
若 $x < 0$,则 $f'(x) < 0$,$f(x)$ 单调递减;
若 $x > 0$,则 $f'(x) > 0$,$f(x)$ 单调递增。
即 $f(x)$ 在 $(-\infty, 0)$ 上单调递减,在 $(0, +\infty)$ 上单调递增。
② 当 $a > 0$ 时,令 $f'(x) = 0$,解得 $x_1 = 0$,$x_2 = \ln(2a)$。
(i) 若 $0 < a < \frac{1}{2}$,则 $\ln(2a) < 0$。
当 $x \in (-\infty, \ln(2a))$ 时,$x < 0$ 且 $e^x < 2a$,故 $f'(x) > 0$;
当 $x \in (\ln(2a), 0)$ 时,$x < 0$ 且 $e^x > 2a$,故 $f'(x) < 0$;
当 $x \in (0, +\infty)$ 时,$x > 0$ 且 $e^x > 2a$,故 $f'(x) > 0$。
即 $f(x)$ 在 $(-\infty, \ln(2a))$ 和 $(0, +\infty)$ 上单调递增,在 $(\ln(2a), 0)$ 上单调递减。
(ii) 若 $a = \frac{1}{2}$,则 $\ln(2a) = 0$,$f'(x) = x(e^x - 1) \ge 0$ 恒成立(仅当 $x=0$ 时取等号)。
即 $f(x)$ 在 $\mathbb{R}$ 上单调递增。
(iii) 若 $a > \frac{1}{2}$,则 $\ln(2a) > 0$。
当 $x \in (-\infty, 0)$ 时,$x < 0$ 且 $e^x < 1 < 2a$,故 $f'(x) > 0$;
当 $x \in (0, \ln(2a))$ 时,$x > 0$ 且 $e^x < 2a$,故 $f'(x) < 0$;
当 $x \in (\ln(2a), +\infty)$ 时,$x > 0$ 且 $e^x > 2a$,故 $f'(x) > 0$。
即 $f(x)$ 在 $(-\infty, 0)$ 和 $(\ln(2a), +\infty)$ 上单调递增,在 $(0, \ln(2a))$ 上单调递减。
综上所述:
- 当 $a \le 0$ 时,$f(x)$ 在 $(-\infty, 0)$ 递减,在 $(0, +\infty)$ 递增;
- 当 $0 < a < \frac{1}{2}$ 时,$f(x)$ 在 $(-\infty, \ln(2a))$ 递增,在 $(\ln(2a), 0)$ 递减,在 $(0, +\infty)$ 递增;
- 当 $a = \frac{1}{2}$ 时,$f(x)$ 在 $\mathbb{R}$ 上递增;
- 当 $a > \frac{1}{2}$ 时,$f(x)$ 在 $(-\infty, 0)$ 递增,在 $(0, \ln(2a))$ 递减,在 $(\ln(2a), +\infty)$ 递增。
(2)
**若选择条件①:** $\frac{1}{2} < a \le \frac{e^2}{2}, b > 2a$。
由 $a > \frac{1}{2}$ 知,$f(x)$ 在 $(-\infty, 0)$ 单调递增,在 $(0, \ln(2a))$ 单调递减,在 $(\ln(2a), +\infty)$ 单调递增。
极小值为 $f(\ln(2a))$,极大值为 $f(0) = b - 1$。
首先考察区间 $(-\infty, 0]$:
因为 $b > 2a > 1$,所以 $f(0) = b - 1 > 0$。
取 $x = -b$,由于 $b > 1$,则 $-b < -1 < 0$。
$f(-b) = (-b-1)e^{-b} - ab^2 + b$。
因为 $e^{-b} > 0$,$-b-1 < 0$,所以 $(-b-1)e^{-b} < 0$。
又 $b > 2a \implies ab^2 > \frac{1}{2}b^2$。当 $b$ 足够大时,$-ab^2+b$ 显然小于0。
更严谨地,注意到 $x \to -\infty$ 时,$f(x) \to -\infty$(因为 $-ax^2$ 主导且 $a>0$)。
具体地,$f(-b) < -ab^2 + b = b(1-ab)$。
由 $b > 2a$ 且 $a > 1/2$,则 $ab > 2a^2 > 2(1/4) = 1/2$。这不足以直接说明 $1-ab < 0$。
我们换一个点。考虑 $x$ 趋向负无穷,$f(x) \approx -ax^2 \to -\infty$。
必存在 $x_1 < 0$ 使得 $f(x_1) < 0$。
又 $f(0) > 0$,且 $f(x)$ 在 $(-\infty, 0)$ 单调递增,
由零点存在定理,$f(x)$ 在 $(-\infty, 0)$ 上有且仅有一个零点。
接下来考察区间 $(0, +\infty)$:
需判断极小值 $f(\ln(2a))$ 的符号。
$$
\begin{aligned}
f(\ln(2a)) &= (\ln(2a)-1)e^{\ln(2a)} - a(\ln(2a))^2 + b \\
&= 2a(\ln(2a)-1) - a(\ln(2a))^2 + b \\
&= 2a\ln(2a) - 2a - a(\ln(2a))^2 + b
\end{aligned}
$$
因为 $b > 2a$,所以
$$
\begin{aligned}
f(\ln(2a)) &> 2a\ln(2a) - 2a - a(\ln(2a))^2 + 2a \\
&= 2a\ln(2a) - a(\ln(2a))^2 \\
&= a\ln(2a)[2 - \ln(2a)]
\end{aligned}
$$
由条件 $\frac{1}{2} < a \le \frac{e^2}{2}$,可得 $1 < 2a \le e^2$,即 $0 < \ln(2a) \le 2$。
所以 $\ln(2a) \ge 0$ 且 $2 - \ln(2a) \ge 0$。
又 $a > 0$,故 $f(\ln(2a)) \ge 0$。
因为 $f(x)$ 在 $(0, \ln(2a))$ 递减,在 $(\ln(2a), +\infty)$ 递增,
所以对于任意 $x > 0$,都有 $f(x) \ge f(\ln(2a)) \ge 0$。
若 $f(\ln(2a)) > 0$,则无零点;若 $f(\ln(2a)) = 0$(仅当 $2a=e^2$ 且取等条件满足时可能,但此时 $b>2a$ 严格不等式导致 $f(\ln(2a)) > 0$),实际上由于 $b > 2a$,上述放缩是严格的,即 $f(\ln(2a)) > 0$。
因此 $f(x)$ 在 $(0, +\infty)$ 上无零点。
综上,$f(x)$ 恰有一个零点。
**若选择条件②:** $0 < a < \frac{1}{2}, b \le 2a$。
由 $0 < a < \frac{1}{2}$ 知,$f(x)$ 在 $(-\infty, \ln(2a))$ 递增,在 $(\ln(2a), 0)$ 递减,在 $(0, +\infty)$ 递增。
极大值为 $f(\ln(2a))$,极小值为 $f(0) = b - 1$。
首先考察区间 $(-\infty, 0]$:
因为 $a < \frac{1}{2}$,所以 $2a < 1$。
又 $b \le 2a$,所以 $b < 1$,即 $f(0) = b - 1 < 0$。
计算极大值 $f(\ln(2a))$:
$$
\begin{aligned}
f(\ln(2a)) &= 2a(\ln(2a)-1) - a(\ln(2a))^2 + b \\
&\le 2a(\ln(2a)-1) - a(\ln(2a))^2 + 2a \quad (\because b \le 2a) \\
&= 2a\ln(2a) - a(\ln(2a))^2 \\
&= a\ln(2a)[2 - \ln(2a)]
\end{aligned}
$$
因为 $0 < 2a < 1$,所以 $\ln(2a) < 0$。
而 $2 - \ln(2a) > 2 > 0$,$a > 0$。
所以 $f(\ln(2a)) < 0$。
因为 $f(x)$ 在 $(-\infty, \ln(2a))$ 递增,在 $(\ln(2a), 0)$ 递减,
所以对于任意 $x \le 0$,都有 $f(x) \le f(\ln(2a)) < 0$(注意:这里逻辑有误,极大值小于0意味着整个区间函数值都小于0吗?是的,因为 $\ln(2a)$ 是 $(-\infty, 0)$ 上的最大值点)。
更正:$f(x)$ 在 $(-\infty, \ln(2a))$ 递增,在 $(\ln(2a), 0)$ 递减。
所以 $f(x)$ 在 $(-\infty, 0]$ 上的最大值为 $f(\ln(2a))$。
既然最大值 $f(\ln(2a)) < 0$,则 $f(x)$ 在 $(-\infty, 0]$ 上恒小于 0,无零点。
接下来考察区间 $(0, +\infty)$:
$f(x)$ 在 $(0, +\infty)$ 单调递增。
已知 $f(0) = b - 1 < 0$。
我们需要找到一个 $x_2 > 0$ 使得 $f(x_2) > 0$。
情形1:若 $b \ge 0$。
取 $x = 2$。
$f(2) = (2-1)e^2 - 4a + b = e^2 - 4a + b$。
因为 $a < \frac{1}{2}$,所以 $-4a > -2$。
因为 $b \ge 0$,所以 $f(2) > e^2 - 2 > 7.38 - 2 > 0$。
由零点存在定理,$f(x)$ 在 $(0, 2)$ 内有一个零点。
情形2:若 $b < 0$。
利用不等式 $e^x \ge x + 1$ ($x \in \mathbb{R}$)。
$$
\begin{aligned}
f(x) &= (x-1)e^x - ax^2 + b \\
&\ge (x-1)(x+1) - ax^2 + b \\
&= x^2 - 1 - ax^2 + b \\
&= (1-a)x^2 + (b-1)
\end{aligned}
$$
要使 $f(x) > 0$,只需 $(1-a)x^2 + b - 1 > 0$,即 $x^2 > \frac{1-b}{1-a}$。
因为 $a < \frac{1}{2}$,所以 $1-a > \frac{1}{2} > 0$。
因为 $b < 0$,所以 $1-b > 1 > 0$。
取 $x_0 = \sqrt{\frac{1-b}{1-a}} + 1$,则 $x_0 > \sqrt{\frac{1-b}{1-a}}$,故 $f(x_0) > 0$。
又 $f(0) < 0$,且 $f(x)$ 在 $(0, +\infty)$ 单调递增,
由零点存在定理,$f(x)$ 在 $(0, x_0)$ 内有一个零点。
综上,无论哪种情况,$f(x)$ 在 $(0, +\infty)$ 上恰有一个零点,且在 $(-\infty, 0]$ 上无零点。
故 $f(x)$ 恰有一个零点。