La salida de auriculares por lo general será una conexión única por la cual viajan ambos canales. Un solo conector Jack TRS (no existe el mal estereo) En ese conector existe un contacto para el canal izquierdo y otro para el derecho, e internamente dentro del cable hay dos conductores, uno para cada canal.
Si utilizas un cable tipo "y" cada uno de los conductores irá a una conexión independiente en el extremo contrario, es el cable indicado para este tipo de salida estéreo permitiendote ingresar cada canal por una entrada independiente.
Los aparatos por lo general tienen otro tipo de salidas distintas a las de auriculares. En dichas salidas existen un conector por cada canal, ese conector puede ser TS o TRS, es decir con dos contactos o con tres. Como ya sabes el conector de tres contactos puede llevar un estéreo, pero no es el conector lo estéreo, es la información, es conector es simplemente TRS pero que exista este tipo de conexión no implica que sea un estéreo lo que llevas por el.
Cuando tienes conexiones independientes para cada canal el TRS no lleva el estéreo, lleva una señal simétrica o balanceada, y corresponde a un solo canal, el otro canal está en el comedor del lado. Son dos salidas independientes que deben llegar a entradas independientes de la interfaz.
No he entendido muy bien lo que explicas, pero si estas utilizando el cable tipo "y" en las salidas de línea como si fueran salidas de auriculares es natural que tengas problemas. Si la salida no es balanceada no habrá problemas, pero si es balanceada estarás desarmando la línea balanceada exponiéndote a ruidos.