Creo que lo primero que deberías hacer es limitar la velocidad de subida (upload) del programa transmission, pongamos al 70% u 80% del ancho de banda disponible en el uplink. Lo que he escrito está bien, no me he equivocado: para no saturar la bajada hay que evitar que se sature la subida de datos. Si se satura la subida, se produce el caos en la bajada, que es lo que parece que te está sucediendo.
Este procedimiento de limitar la velocidad de subida lo utilizan algunos routers avanzados en lo que se suele denominar como procedimientos de calidad de servicio o QoS.
Si deseas medir la velocidad límite de subida y bajada de tu conexión a internet usa esta web:
http://www.speedtest.net/ . Cuando hagas las medidas conéctate al router por cable Ethernet (no por wifi) y verifica que no haya ningún otro ordenador o programa conectado a internet que pueda falsear las medidas.
Para limitar la velocidad de subida abre transmission y selecciona Edit -> Preferences -> Speed -> Upload.
Un segundo problema puede aparecer por un excesivo número de conexiones simultáneas con pares. En realidad el problema se debe a la ridícula cantidad de memoria RAM que suelen tener los routers que instalan los proveedores de internet. Si el router se cae o siguen los problemas aun con limitación del uplink, baja el número límite conexiones con pares en Edit -> Preferences -> Network -> Peer limits. Puedes dejarlo en 150 o menos, dependiendo de tu router.