Johannes Wilhjelm blev student i 1887 og tog filosofikum i 1888, blev stud.polyt. og var samtidig på Harald Foss' tegneskole 1888-90. Han gik på Kunstakademiet i København fra januar 1890 til januar 1892; Kunstnernes Studieskole under P.S. Krøyer 1892-94 og Zahrtmanns malerskole 1903-04. Johannes Wilhjelm havde et nært fagligt forhold til Kristian Zahrtmann: i 1893 rejste han første gang med Zahrtmann i Italien, det år Zahrtmanns søster giftede sig med Wilhjelms bror. Det nære forhold med Zahrtmann og adskillige rejser til Italien med Zahrtmann fik stor indflydelse på Wilhjelms arbejde. Wilhjelm malede i Italien en række værker, og især motiverne fra Civita d'Antino viser indflydelse fra Zahrtmann. Senere skildrede han den jyske hede. Desuden malede Wilhjelm figurkompositioner hvoraf flere med bibelske motiver, og i de senere år adskillige portrætter. Han er repræsenteret bl.a. på Skagens Museum, Statens Museum for Kunst og Ribe Kunstmuseum.

Wilhjelm kom til Skagen første gang i 1909 i forbindelse med Krøyers begravelse og begyndte at male i Skagen året efter. Her blev han en integreret del af kunstnerkolonien indtil sin død. Han boede først til leje nær Laurits Tuxen i Skagen Vesterby, og i 1916 købte han sommerhus i Østerby, hvor han indrettede atelier.

Wilhjelm efterlod sig en stor produktion af værker, som er spredt rundt omkring i private samlinger og på museer i både Danmark og udlandet. I udstillingen møder vi både kunstnerens tidlige og sene værker. Skagen museums udstilling i 2019 har til formål at genindskrive Wilhjelm i den danske kunsthistorie og føje nye facetter til både ham og tiden omkring ham. Der vil således være værker fra hans gentagne og lange ophold i Italien, fra de storladne vestjyske hede- og klitlandskaber omkring Svinkløv, fra tiden i kunstnerkolonien i Skagen, fra samværet med sin norske hustru og børnerige familie samt fra rejserne til svigerfamiliens Norge og fra Sydfrankrig.