**(1)**
将函数化简:
$$f(x) = \sin^2 x \cdot \sin 2x = \sin^2 x \cdot 2\sin x \cos x = 2\sin^3 x \cos x$$
求导:
$$f'(x) = 6\sin^2 x \cos^2 x - 2\sin^4 x = 2\sin^2 x(3\cos^2 x - \sin^2 x)$$
利用 $\sin^2 x = 1 - \cos^2 x$,得:
$$f'(x) = 2\sin^2 x(4\cos^2 x - 1) = 2\sin^2 x(2\cos x + 1)(2\cos x - 1)$$
在 $x \in (0, \pi)$ 上,$\sin^2 x > 0$,故 $f'(x)$ 的符号由 $(2\cos x + 1)(2\cos x - 1)$ 决定。
令 $f'(x) = 0$,解得 $x_1 = \dfrac{\pi}{3}$,$x_2 = \dfrac{2\pi}{3}$。
- 当 $x \in \left(0, \dfrac{\pi}{3}\right)$ 时,$\cos x > \dfrac{1}{2}$,$(2\cos x+1)>0$,$(2\cos x-1)>0$,故 $f'(x) > 0$,$f(x)$ 单调递增;
- 当 $x \in \left(\dfrac{\pi}{3}, \dfrac{2\pi}{3}\right)$ 时,$-\dfrac{1}{2} < \cos x < \dfrac{1}{2}$,$(2\cos x+1)>0$,$(2\cos x-1)<0$,故 $f'(x) < 0$,$f(x)$ 单调递减;
- 当 $x \in \left(\dfrac{2\pi}{3}, \pi\right)$ 时,$\cos x < -\dfrac{1}{2}$,$(2\cos x+1)<0$,$(2\cos x-1)<0$,故 $f'(x) > 0$,$f(x)$ 单调递增。
**(2)**
验证周期性:
$$f(x+\pi) = \sin^2(x+\pi)\sin[2(x+\pi)] = \sin^2 x \sin 2x = f(x)$$
因此 $f(x)$ 以 $\pi$ 为周期,只需在一个周期内讨论最值即可。
由(1)知,在 $[0, \pi]$ 上:
$$f(0) = 0,\quad f(\pi) = 0$$
$$f\left(\frac{\pi}{3}\right) = \sin^2\frac{\pi}{3} \cdot \sin\frac{2\pi}{3} = \frac{3}{4} \cdot \frac{\sqrt{3}}{2} = \frac{3\sqrt{3}}{8}$$
$$f\left(\frac{2\pi}{3}\right) = \sin^2\frac{2\pi}{3} \cdot \sin\frac{4\pi}{3} = \frac{3}{4} \cdot \left(-\frac{\sqrt{3}}{2}\right) = -\frac{3\sqrt{3}}{8}$$
故 $f(x)$ 的最大值为 $\dfrac{3\sqrt{3}}{8}$,最小值为 $-\dfrac{3\sqrt{3}}{8}$,从而对任意 $x$:
$$|f(x)| \leq \frac{3\sqrt{3}}{8}$$
**(3)**
记待证不等式左边为 $P = \sin^2 x \cdot \sin^2 2x \cdot \sin^2 4x \cdots \sin^2 2^n x$。
注意到每个因子可以写成三次方的三分之二次幂:
$$P = \left(\sin^3 x \cdot \sin^3 2x \cdot \sin^3 4x \cdots \sin^3 2^n x\right)^{\frac{2}{3}}$$
将括号内的乘积重新分组,构造出 $f$ 的形式:
$$\sin^3 x \cdot \sin^3 2x \cdots \sin^3 2^n x = \sin x \cdot \left(\sin^2 x \sin 2x\right) \cdot \left(\sin^2 2x \sin 4x\right) \cdots \left(\sin^2 2^{n-1}x \sin 2^n x\right) \cdot \sin^2 2^n x$$
即:
$$= \sin x \cdot f(x) \cdot f(2x) \cdots f(2^{n-1}x) \cdot \sin^2 2^n x$$
其中共有 $n$ 个 $f$ 型因子。利用(2)的结论 $|f(t)| \leq \dfrac{3\sqrt{3}}{8}$ 以及 $|\sin t| \leq 1$,取绝对值得:
$$\left|\sin^3 x \cdot \sin^3 2x \cdots \sin^3 2^n x\right| \leq 1 \cdot \left(\frac{3\sqrt{3}}{8}\right)^n \cdot 1 = \left(\frac{3\sqrt{3}}{8}\right)^n$$
因此:
$$P \leq \left[\left(\frac{3\sqrt{3}}{8}\right)^n\right]^{\frac{2}{3}} = \left(\frac{3\sqrt{3}}{8}\right)^{\frac{2n}{3}}$$
计算底数:
$$\left(\frac{3\sqrt{3}}{8}\right)^{\frac{2}{3}} = \frac{(3\sqrt{3})^{\frac{2}{3}}}{8^{\frac{2}{3}}} = \frac{(3^{\frac{3}{2}})^{\frac{2}{3}}}{(2^3)^{\frac{2}{3}}} = \frac{3}{4}$$
故:
$$P \leq \left(\frac{3}{4}\right)^n = \frac{3^n}{4^n}$$
即 $\sin^2 x \sin^2 2x \sin^2 4x \cdots \sin^2 2^n x \leq \dfrac{3^n}{4^n}$,证毕。