Prueba a hacer man nessus Verás que tienes opción de ejecutarlo bajo X o por línea de comandos. El error que te da es porque no tienes instaladas esas librerías. Suerte.