$(1)证明：∵DO⊥AB $
$∴∠DOB=∠DOA=90°$
$∴∠DOB=∠ACB$
$∵∠B=∠B$
$∴△DOB∽△ACB$
$(2)解：∵∠ACB=90° $
$∴AB=\sqrt {AC^2+BC^2}=\sqrt {6^2+8^2}=10$
$∵AD平分∠CAB，DC⊥AC，DO⊥AB $
$∴DC=DO$
$在Rt△ACD和Rt△AOD中$
$\begin{cases}AD=AD\\DC=DO\end{cases}$
$∴Rt△ACD≌Rt△AOD(\mathrm {HL})$
$AC=AO=6$
$设BD=x，则DC=DO=8-x，OB=AB-AO=4$
$在Rt△BOD中，由勾股定理得，DO^2+OB^2=BD^2，即(8-x)^2+4^2=x^2$
$解得x=5$
$∴BD的长为5$
$(3)∵点B'与点B关于直线DO对称$
$∴∠B=∠OB'D，BO=B'O，BD=B'D$
$∵∠B是锐角 $
$∴∠OB'D也为锐角$
$∴∠AB'D为钝角$
$∴当△AB'D为等腰三角形时，AB'=DB'$
$∵△DOB∽△ACB$
$∴\frac {OB}{BD}=\frac {BC}{AB}=\frac 8{10}=\frac 45$
$设BD=5x，则AB'=DB'=5x，BO=B'O=4x$
$∵AB'+B'O+BO=AB$
$∴5x+4x+4x=10$
$解得x=\frac {10}{13}$
$∴BD=\frac {50}{13}$
