Als Sohn eines Ingenieur-Offiziers kam Johann Nikolaus von Wilmowsky als Kind ins Rheinland, wo der in preußischen Diensten stehende Vater in Koblenz stationiert war. Der Vater dürfte schon die künstlerische Begabung des Sohnes erkannt haben, jedenfalls hat er ihn bereits in die Kunst des Zeichnens und Vermessens eingeführt, was ihm später sehr zustatten kommen sollte.
Unter dem Einfluss von Joseph von Hommer, Pfarrer in Koblenz-Ehrenbreitstein, der ihn seit seiner Jugend gefördert hat, nahm von Wilmowsky nach dem Abitur in Koblenz das Studium der Theologie an der Rheinischen Wilhelms-Universität in Bonn auf. Es folgten die Priesterweihe in Speyer und die Kaplanszeit in Niederberg bei Koblenz. Entscheidend für seine weitere Entwicklung war das Jahr 1824, als von Hommer zum Bischof von Trier ernannt wurde und dieser seinen Schützling von Wilmowsky zum Bischofskaplan und Sekretär berief. Der neue Bischof zeichnete sich nicht nur durch Verwaltungsreformen aus, sondern war auch aktiver Förderer historischer und archivalischer Forschungen. Zwischen 1825 und 1828 unternahm von Wilmowsky mit Erlaubnis des Bischofs ausgedehnte Studienreisen, unter anderem nach Süddeutschland, Österreich und Oberitalien, besuchte unter anderem auch Berlin, Dresden, Paris und Prag, was seinen antiquarischen Interessen entgegenkamen und seine Kenntnisse der Architekturgeschichte beförderten.
1829 wurde von Wilmowsky als Pfarrer, Dechant und Schulinspektor nach Saarburg bei Trier versetzt. 1839 erging der Vorschlag des preußischen König Friedrich Wilhelm IV., ihn als Domkapitular an die Hohe Domkirche in Trier zu berufen, was tatsächlich 1842 erfolgte. Dem seit 1842 amtierenden Bischof Wilhelm Arnoldi erschien von Wilmowsky als die geeignete Persönlichkeit für die anstehenden Baumaßnahmen am Trierer Dom. Nach der Restaurierung des Kreuzgangs wurde ihm die Leitung der gesamten Domrenovierung übertragen, die von 1843-1858 dauerte. Er verband seine Untersuchungen zur Bauforschung mit archäologischen Ausgrabungen, die auch die Dokumentation und Sicherung der Fundstücke einschloss. Er erkannte die frühchristlichen Ursprünge der Kirchenanlage und datierte ihre Anfänge in die 2. Hälfte des 4. Jahrhunderts. Aus der Aufbewahrung der Grabungsfunde entstand in den Räumen des Domkreuzgangs ein „christliches Museum“ als Grundstock des späteren Bischöflichen Dom- und Diözesanmuseums (heute: Museum am Dom). Die Ergebnisse seiner Forschungen am Trierer Dom veröffentlichte er in zwei großformatigen Tafelwerken mit zahlreichen farbig wiedergegebenen Zeichnungen von eigener Hand: 1874 erschien „Der Trierer Dom in seinen Hauptperioden“ mit den grundlegenden Ergebnissen seiner Bauforschungen zu den römischen, frühmittelalterlichen und romanischen Phasen; 1876 legte er das nicht minder bedeutsame Werk über „Die historisch-denkwürdigen Grabstätten der Erzbischöfe im Dome zu Trier“ mit einer Dokumentation der darin enthaltenen Kunstgegenstände vor.
Seit 1849 war von Wilmowsky ordentliches Mitglied der Trierer „Gesellschaft für Nützliche Forschungen“ und im dritten Viertel des 19. Jahrhunderts eines ihrer aktivsten Mitglieder. Dazu war er auch korrespondierendes Mitglied im Bonner „Verein von Altertumsfreunden im Rheinlande“. Erstaunlicherweise besaß er keine Verbindung zu dem 1856 gegründeten, nur wenige Jahre aktiven „Christlich archäologisch-historischen Verein für die Diözese Trier“, dessen Zielsetzung eigentlich seinen eigenen Forschungstendenzen entsprach.
Im Auftrag der Gesellschaft für Nützliche Forschungen tätigte er zahlreiche Ausgrabungen in der Stadt (Amphitheater 1854, Haus des Piaonius Victorinus 1859) und im Trierer Land (römischer Brunnen in Euren 1854, Villen in Wiltingen 1854 und Wasserliesch 1856), die er umgehend und mit detaillierten eigenen Zeichnungen in den Jahresberichten der Gesellschaft von 1852-1873 veröffentlichte.
Von herausragender Bedeutung erwies sich das 1853 im Bereich der römischen Villa von Nennig an der Obermosel entdeckte Gladiatorenmosaik, das von Wilmowsky mit Mitteln der preußischen Regierung archäologisch untersuchte. Die herausragende Bedeutung dieses Monuments spiegelt sich in seiner Publikation als großformatige Programmschrift mit farbiger Tafel zum Bonner Winckelmannsfest 1864. Eine unglückliche Figur machte von Wilmowsky allerdings durch sein Festhalten an der Echtheit der von seinem Grabungsleiter, dem Bildhauer Heinrich Schäffer, gefälschten Inschriften, die als „Nenniger Affäre“ (Felix Hettner) zwischen 1866 und 1872 zu einem heftigen Disput in der Wissenschaft führte, in den anfangs sogar Theodor Mommsen eingegriffen hatte.
Für seine Zeit praktiziert von Wilmowsky eine überaus beachtliche und von ihm zunehmend verfeinerte Ausgrabungstechnik. Besondere Aufmerksamkeit widmete er der Beobachtung und Beschreibung von Mauerwerkstechniken, die in die Anfertigung von Grund- und Aufrissen sowie detaillierten perspektiven Rekonstruktionen mündeten. Seine Arbeiten sind geprägt von einer akribischen zeichnerischen Dokumentation, die er dank seiner ausgeprägten künstlerischen Begabung eigenhändig anfertigte. Dabei fanden neben der Architektur insbesondere römische Mosaikböden und Wandmalereien sein besonderes Interesse.
Trotz einer anhaltend schwachen Gesundheit und der seit 1870 zunehmenden Erblindung arbeitete er unentwegt an der Ausarbeitung seiner Forschungen in Texten und Zeichnungen. Die Werke über die Baugeschichte des Trierer Domes und die Grabstätten der Bischöfe erschienen noch zu seinen Lebzeiten. Posthum wurden seine Studie über den frühchristlichen Friedhof um St. Eucharius-St. Matthias 1882 sowie das Monumentalwerk über die römischen Mosaiken 1888 herausgegeben.
Die Geschichte des Trierer Domes in archäologischer und bauhistorischer Hinsicht, aber auch die Erforschung römischer Villen und Paläste mit ihren Mosaiken und Malereien in Trier und Umgegend dürfen als das Lebenswerk von Wilmowskys gelten.