Buenas compañero, REAPER tiene varias modalidades para la función solo.
-1 Es como bien dices que suene la pista en modo solo con todas las demás de fono.
-2 Solo normal de toda la vida.
Puedes a justar en las preferencias del programa cual quieres que se active por defecto al pulsar el botón de solo y también si optas por el modo de solo + fondo de las demás, puedes ajustar desde ahí el volúmen de las demás pistas.