【答案】
①.$\frac{1}{6} \vec{a}+\frac{2}{3} \vec{b}$ ;
②.-15
【解析】
【分析】根据向量的线性运算求解即可空一,应用数量积运算律计算求解空二.
【详解】如图,

因为 $\overrightarrow{C E}=\frac{1}{3} \overrightarrow{C D}$ ,所以 $\overrightarrow{A E}-\overrightarrow{A C}=\frac{1}{3}(\overrightarrow{A D}-\overrightarrow{A C})$ ,所以 $\overrightarrow{A E}=\frac{1}{3} \overrightarrow{A D}+\frac{2}{3} \overrightarrow{A C}$ 。
因为 $D$ 为线段 $A B$ 的中点,所以 $\overrightarrow{A E}=\frac{1}{6} \overrightarrow{A B}+\frac{2}{3} \overrightarrow{A C}=\frac{1}{6} \vec{a}+\frac{2}{3} \vec{b}$ ;
又因为 $|\overrightarrow{A E}|=5, A E \perp C B$ ,所以 $\overrightarrow{A E}^{2}=\left(\frac{1}{6} \vec{a}+\frac{2}{3} \vec{b}\right)^{2}=\frac{1}{36} \vec{a}^{2}+\frac{2}{9} \vec{a} \cdot \vec{b}+\frac{4}{9} \vec{b}^{2}=25$ ,
$$
\overrightarrow{A E} \cdot \overrightarrow{C B}=\left(\frac{1}{6} \vec{a}+\frac{2}{3} \vec{b}\right) \cdot(\vec{a}-\vec{b})=\frac{1}{6} \vec{a}^{2}+\frac{1}{2} \vec{a} \cdot \vec{b}-\frac{2}{3} \vec{b}^{2}=0 \text {, 所以 } \vec{a}^{2}+3 \vec{a} \cdot \vec{b}=4 \vec{b}^{2}
$$
所以 $\vec{a}^{2}+4 \vec{a} \cdot \vec{b}=180$ ,
所以 $\overrightarrow{A E} \cdot \overrightarrow{C D}=\left(\frac{1}{6} \vec{a}+\frac{2}{3} \vec{b}\right) \cdot\left(-\vec{b}+\frac{1}{2} \vec{a}\right)=\frac{1}{12} \vec{a}^{2}+\frac{1}{6} \vec{a} \cdot \vec{b}-\frac{2}{3} \vec{b}^{2}=\frac{1}{12}\left(\vec{a}^{2}+2 \vec{a} \cdot \vec{b}-8 \vec{b}^{2}\right)$
$$
=\frac{1}{12}\left(\vec{a}^{2}+2 \vec{a} \cdot \vec{b}-2 \vec{a}^{2}-6 \vec{a} \cdot \vec{b}^{2}\right)=\frac{1}{12}\left(-\vec{a}^{2}-4 \vec{a} \cdot \vec{b}^{2}\right)=-15 .
$$
故答案为:$\frac{1}{6} \vec{a}+\frac{2}{3} \vec{b} ;-15$ .