Tu mismo has dado en el clavo.
Con ese pc seguro que el problema viene de la tarjeta. Prueba lo que te dice Keimax y si no se soluciona o ves que es demasiada la latencia ya sabes lo que toca... xD
Ya tienes la respuesta. Si puedes comprar una tarjeta mejor, hazlo. Revisa la cantidad de RAM que estás usando y si quieres utilizar tantos VST no te va a quedar mas remedio que comprar una tarjeta que tenga DSP( mas caras, a veces innecesarias). Otra opción: graba las pistas de los VST individuales y te va a ir mejor.
Salu2.
Otra opción es ir exportando pistas a medida que las vas teniendo acabadas y eliminando sus respectivos canales con los instrumentos vst.
pillate una tarjeta de sonido decente, yo tengo una focusrite saffire y le puedo cargar facilmente 10 nexus
2 omnisphere y un par de gladiators sin tener problemas y eso que tengo un ordenador bastante mas limitado que el tuyo, no te arrepentiras de hacer esta compra.
ASIO 4 ALL instalalo y modifica el buffer es una solución de momento si no compra otra tarjeta de sonido.