Si conectas la salida de la zen a la entrada de la mezcladora no grabaras nada por que de esta forma la zen estara enviando audio a la mezcladora y no recibiendo audio de ella.
Lo que debes hacer es conectar las salidas de la mezcladora a las entradas de la zen, asi para que reciba esta el audio de la mezcladora y que puedas grabarlo en el ordenador.
La mezcladora ademas de sus salidas main que normalmente van al amplificador, debe de tener otro par de salidas a rec y de ellas es de donde debes tomar la señal estereo para la grabación.
Las salidas RCA no son balanceadas, por lo que poco importa que las entradas de la interfaz zen lo sean... El cable es de RCA (salida de mezcladora) a plug TS (entrada de interfaz).
Ahora quizá el problema este en que la mezcladora de dj saque audio de phono y no de linea que es el que espera recibir tu zen y para ello necesites un previo que convierta la señal phono en señal de linea o tambien si tienes a la mano puedes usar un previo de microfono, ya que la señal phono en potencia se acerca mas a la de microfono que a la de instrumento (Claro para ello necesitaras un cable DIY de RCA a XRL).
#2
Ninguna mesa de mezclas de dj tiene la salida rec en phono, siempre es de línea y normalmente a -10db. Y suponiendo que así fuese (que ya te digo que no)para la señal phono no solo hay que levantar la señal, lleva una ecualizacion RIIA por lo que si lo haces de esta manera sonará mal, muy mal, sin ningún tipo de graves y con unos agudos exagerados. Todo lo demás que expones está bien, pero cuidado con esas cosas tan básicas.