Prueba con otros cables RCA de mejor calidad: los típicos dobles RCA rojo y blanco de los chinos (0.60 la pareja de enlaces de 1m o así), mete mucho ruido a veces.
Lo suyo sería meter por línea balanceada, si tu mesa tiene salidas MAIN OUPUT o MIX OUT o como se llame, lo suyo sería dos cables con extremos jack estéreo en cada uno. Aunque si los monitores no están a mucha distancia de la mesa, tampoco es necesario que sean jacks estéreo, pueden ser mono (no balanceados), y creo que sería mejor que RCA.
Si sólo puedes usar RCA, yo buscaría un par de adaptadores (conversores) de clavija RCA hembra a Jack mono macho, te costarán muy poco en cualquier tienda de electrónica, y así podrías ver si las entradas otras del monitor meten menos ruido, aunque siga mandándose por RCA desde la mesa.
el zumbidito ese de fondo que oyes es (en principio) porque estas usando las rca (entradas no balanceadas). La diferencia entre entradas balanceadas y no balanceadas reside en que las balanceadas usan dos hilos y malla. Los hilos para transportar la señas y la malla como proteccion de ruidos parasitos. SIn embargo las no balanceadas simplemente transportan la señal, es decir, la malla funciona como negativo y por tanto es mas vulnerable a los ruidos parasitos...
Yo te recomiendo que uses las entradas de jack que es lo mas normal (rca no se suele usar para este tipo de cosas como conectar de la mesa a las escuchas). Saca del master o del control monitor a las escuchas y asi estaras usando las entradas balanceadas y por tanto la probabilidad de que se te metan ruidos parasitos sera menor.
saludos!!