$解:(1)把A(a,2)的坐标代入y=-\frac{2}{3}x,得2=-\frac{2}{3}a,解得a=-3,$
$∴A(-3,2).$
$∵点A(-3,2)在反比例函数y=\frac{k}{x}的图像上,$
$∴k=-3×2=-6,$
$∴反比例函数的表达式为y=-\frac{6}{x}.$
$(2)∵点P(m,n)在该反比例函数图像上,且它到y轴的距离小于3,$
$∴-3<m<0或0<m<3.\ $
$当m=-3时,n=\frac{-6}{-3} =2,$
$当m=3时,n= \frac{-6}{3} =-2,\ $
$由图像可知,n的取值范围为n>2或n<-2.$