解:$(1)$因为$2^{5x - 1}>2^{3x - 1}$且$2>1,$
所以$5x - 1>3x - 1,$解得$x>0.$
$ (2)$因为$(\frac {1}{2})^{kx - 1}<(\frac {1}{2})^{5x - 2},$$0<\frac {1}{2}<1,$
所以$kx - 1>5x - 2,$
$ (k - 5)x>-1.$
因为解集中无正整数解,
所以$k - 5<0,$即$k<5,$
所以$x<\frac {-1}{k - 5},$
$ $所以$\frac {-1}{k - 5}\leq 1,$
$ -1\geq k - 5,$解得$k\leq 4,$
所以$k$的取值范围为$k\leq 4.$
$ (3)$因为$0<a<1,$$a^{x - k}>a^{5x - 2},$
所以$x - k<5x - 2,$解得$x>\frac {2 - k}{4}.$
$ $因为在$-2\leq x\leq - 1$上总存在$x$的值使得其成立,
所以$\frac {2 - k}{4}<-1,$解得$k>6,$
所以$k$的取值范围为$k>6.$