Tiene soporte OpenCL ( o tenía, creo que a la serie HD 5xxx ya no la están actualizando en drivers), pero el error que reporta es de aumento de la memoria virtual en Windows por una aparente falta de memoria de la gráfica... aunque parece que ese no es el problema real y la solución va enfocada a no conectar el display en la propia gráfica mientras mina,
https://bitcointalk.org/index.php?topic=638915.msg7658524#msg7658524 En la asrock n68-s tienes gráfica integrada, prueba a conectar el monitor a la placa base y minar con la HD5450 sin conectar monitor ( posiblemente tengas que volver a desinstalar/instalar drivers AMD para hacer el cambio del monitor a la placa base).