Johannes’ vader Solco Walle Tromp was in de koloniale tijd bestuursambtenaar op Java. De familienaam van zijn moeder was Zoetelief. Grootmoeder Zoetelief ontdekte dat Johannes doofstom was. Toen hij drie was, reisde ze met hem van Java naar Europa, bezocht allerlei specialisten en bracht hem ten slotte onder in een doofstommeninrichting te Rotterdam. Daar leerde hij liplezen en gebarentaal. Pas in 1884 keerde hij met zijn oma naar Java terug. Daar veranderde hij in 1886 als dankbetuiging aan zijn oma zijn achternaam officieel in Zoetelief Tromp. Nog in 1886 keerde de hele familie terug naar Nederland. Daar werd Tromp leerling van de Amsterdamse Academie. Na zijn afstuderen ging hij naar Den Haag en zocht hij aansluiting bij schilders van de Haagse School. In 1899 trouwde hij met een dochter van de Haagse School-schilder Bernard Blommers, die een onmiskenbare invloed heeft gehad op de onderwerpskeuze en de stijl van Tromp. Na Den Haag woonde en werkte Zoetelief Tromp in Katwijk en Blaricum (Het Gooi). In 1928 vertrok hij voorgoed naar Breteuil, een dorpje in Haute Normandie waar zijn zoon een kippenboerderij was begonnen.