Geboren am 10. Juli 1866 in Söhesten bei Hohenmölsen als 3. Kind von Julius Rudolph, hatte er zunächst 4 Jahre Unterricht im Waldhornblasen beim Weissenfelser Stadtmusikdirektor Buchheister. 1884 kam er an das Leipziger Konservatorium für Musik in die Klasse von Friedrich Gumpert. In seinem Inskriptionseintrag, der sich im Archiv der Leipziger Hochschule für Musik und Theater erhalten hat, wird genannt, das er eine Freistelle für das Studium bekommen hatte und zugleich "im Orchester" angestellt sei. Damit war aber eine Aspirantur am Stadtorchester gemeint. Am 1.1. 1887 tritt er in den Orchester-Pensionsfond des Gewandhauses ein. Im Stadtorchester ist er zunächst 4. Hornist, ab 1885 3. Hornist. 1888 beendet er sein Studium und wird ab 1.10.1893 1. Hornist des Gewandhausorchesters. 1907 tritt er die Nachfolge als Professor für Horn am Leipziger Konservatorium für Friedrich Gumpert an. Im März 1924 scheidet er aus dem Gewandhaus aus und ist bis 1932 noch Lehrer am Konservorium. Am 7. Juli 1928 verstirbt er in Leipzig.
Heute kann man Arno Rudolph noch auf einer alten Schellackplatte, aufgenommen zur Frühjahrsmesse 1904, hören.