Początkowo kształcił się w Warszawie, a następnie w Królewskim Konserwatorium Muzycznym w Lipsku (1906–1910) w klasach fortepianu, teorii i kompozycji oraz dyrygentury. Rozpoczął karierę jako asystent dyrygenta i korepetytor w niemieckich teatrach operowych. Następnie prowadził orkiestry w krajach skandynawskich: w Kopenhadze (1914–1916) i Oslo (1919–1922), gdzie dyrygował Orkiestrą Symfoniczną Unii Muzycznej oraz Orkiestrą Filharmoniczną. W 1922 r. osiadł w Holandii, gdzie był dyrygentem letnich koncertów w Scheveningen i współpracował z holenderskimi orkiestrami symfonicznymi. W tym z orkiestrą Concertgebouw.
w ramach festiwalu Międzynarodowego Towarzystwa Muzyki Współczesnej w Amsterdamie. Neumark regularnie koncertował w całej Europie, często odwiedzając polskie miasta. We Lwowie występował kilkakrotnie i zawsze był witany entuzjastycznie. Na przykład w styczniu 1935 r. Stefan Askenaze zagrał pod jego batutą Koncert fortepianowy C-dur Ludwiga van Beethovena, a w marcu 1937 r. Neumark poprowadził lwowską orkiestrę m.in. w Koncercie wiolonczelowym Jana Maklakiewicza z solistą Kazimierzem Wiłkomirskim. Dyrygował także we Lwowie prawykonaniem I Symfonii op. 11 Kofflera (1936).
Podczas II wojny światowej Neumark przebywał w Stanach Zjednoczonych. Po wojnie wrócił do Holandii i kontynuował działalność dyrygencką, występując gościnnie także za jej granicami. Naturalizował się jako Holender w 1951 r.