【答案】( I )$\frac{4}{5}$, (II )$\frac{\sqrt{2}}{2}$
【解析】(I)由 $\cos (A-B) \cos B-\sin (A-B) \sin (A+C)=-\frac{3}{5}$,得 $\cos (A-B) \cos B-\sin (A-B) \sin B=-\frac{3}{5}$,
则 $\cos (A-B+B)=-\frac{3}{5}$,即 $\cos A=-\frac{3}{5}$.
又 $0<A<\pi$,则 $\sin A=\frac{4}{5}$.
(II)由正弦定理,有 $\frac{a}{\sin A}=\frac{b}{\sin B}$,所以 $\sin B=\frac{b \sin A}{a}=\frac{\sqrt{2}}{2}$,
由题知 $a>b$,则 $A>B$,故 $B=\frac{\pi}{4}$.
根据余弦定理,有 $(4 \sqrt{2})^{2}=5^{2}+c^{2}-2 \times 5 c \times\left(-\frac{3}{5}\right)$,
解得 $c=1$ 或 $c=-7$(负值舍去).
故向量 $\overrightarrow{B A}$ 在 $\overrightarrow{B C}$ 方向上的投影为 $|\overrightarrow{B A}| \cos B=\frac{\sqrt{2}}{2}$.
【考点定位】本小题主要考查两角和的余弦公式、诱导公式、正弦定理、余弦定理、同角三角函数的关系等基础知识,考查向量投影的概念,考查运算求解能力、考查化归与转化等数学思想。