【答案】( I )$-\frac{3}{5}$;(II)$\frac{\sqrt{2}}{2}$
【解析】( I )由 $2 \cos ^{2} \frac{A-B}{2} \cos B-\sin (A-B) \sin B+\cos (A+C)=-\frac{3}{5}$,得
$[\cos (A-B)+1] \cos B-\sin (A-B) \sin B-\cos B=-\frac{3}{5}$,
即 $\cos (A-B) \cos B-\sin (A-B) \sin B=-\frac{3}{5}$.
则 $\cos (A-B+B)=-\frac{3}{5}$,即 $\cos A=-\frac{3}{5}$.
( II )由 $\cos A=-\frac{3}{5}, 0<A<\pi$,得 $\sin A=\frac{4}{5}$,
由正弦定理,有 $\frac{a}{\sin A}=\frac{b}{\sin B}$,所以 $\sin B=\frac{b \sin A}{a}=\frac{\sqrt{2}}{2}$,
由题知 $a>b$,则 $A>B$,故 $B=\frac{\pi}{4}$.
根据余弦定理,有 $(4 \sqrt{2})^{2}=5^{2}+c^{2}-2 \times 5 c \times\left(-\frac{3}{5}\right)$,
解得 $c=1$ 或 $c=-7$(舍去).
故向量 $\overrightarrow{B A}$ 在 $\overrightarrow{B C}$ 方向上的投影为 $|\overrightarrow{B A}| \cos B=\frac{\sqrt{2}}{2} \cdots \cdots \cdots \cdots \cdots \cdots \cdots 12$ 分
【考点定位】本小题主要考查两角和的余弦公式、二倍角公式、正弦定理、余弦定理、同角三角函数的关系等基础知识,考查运算求解能力,考查化归与转化等数学思想。不会用二倍角公式降次,对冷点知识"向量投影"概念不清致错。