James Weldon Johnson, säveltäjä, diplomaatti, yhteiskuntakriitikko ja kansalaisoikeusaktivisti, syntyi bahamalaisten maahanmuuttajavanhempiensa jälkeläisenä Jacksonvillessä, Floridassa 17. kesäkuuta 1871. Hänen isänsä James, tarjoilija, ja äitinsä Helen, opettaja, opettivat hänelle koulutuksen arvoa, ja Johnson menestyi erinomaisesti Jacksonvillen Stanton-koulussa. Vuonna 1889 hän kirjoittautui Georgiassa sijaitsevaan Atlantan yliopistoon, josta valmistui vuonna 1894.
Vuonna 1896 Johnson aloitti lakiopinnot Thomas Ledwithin asianajotoimistossa Jacksonvillessä, Floridassa. Vuonna 1898 Ledwith katsoi Johnsonin olevan valmis suorittamaan Floridan asianajajatutkinnon. Kahden tunnin uuvuttavan kokeen jälkeen Johnson pääsi läpi ja hänet hyväksyttiin asianajajaksi. Eräs kokeen vastaanottaja ilmaisi tuskansa karkaamalla huoneesta ja toteamalla: ”No, en voi unohtaa, että hän on neekeri, ja hitto vieköön, jos jään tänne katsomaan, että hänet hyväksytään”. Vuonna 1898 Johnsonista tuli yksi osavaltion harvoista mustista asianajajista.
Johnson ei kuitenkaan harjoittanut lakia. Sen sijaan hänestä tuli Jacksonvillen Stanton-koulun rehtori, jossa hän paransi opetussuunnitelmaa ja lisäsi myös yhdeksännen ja kymmenennen luokan. Johnson perusti myös Jacksonvillen ensimmäisen mustien sanomalehden, Daily Americanin. Veljensä Rosamondin kanssa, joka oli saanut koulutusta Massachusettsissa sijaitsevassa New England Conservatory of Musicissa, Johnsonin kiinnostuksen kohteena oli laulujen kirjoittaminen Broadwaylle.
Rosamond ja James muuttivat New Yorkiin vuonna 1902 ja ansaitsivat pian yli kaksitoista tuhatta dollaria vuodessa myymällä laulujaan Broadwayn esiintyjille. Paluumatkalla Floridaan vuonna 1900 veljeksiä pyydettiin kirjoittamaan juhlalaulu Abraham Lincolnin syntymäpäivän kunniaksi. Tuotoksesta, sävelletystä runosta, tuli ”Lift Every Voice and Sing”, joka tunnetaan nykyään mustien kansallislauluna.
Vuonna 1906 Johnsonista tuli Yhdysvaltain konsuli Venezuelan Puerto Cabellossa. Ulkomaanpalvelussa ollessaan hän tapasi tulevan vaimonsa Grace Nailin, vaikutusvaltaisen mustan New Yorkin kiinteistökeinottelijan John E. Nailin tyttären. Pariskunnan ensimmäinen vuosi kului Corintossa, Nicaraguassa, Johnsonin diplomaattiasemalla.
Diplomaattisessa palveluksessa ollessaan Johnson oli alkanut kirjoittaa tunnetuinta kirjallista teostaan The Autobiography of An Ex-Colored Man. Tästä vuonna 1912 julkaistusta romaanista tuli merkittävä teos 1920-luvun Harlem-renessanssin aikana. Vuonna 1914 Johnsonista tuli New York Age -lehden päätoimittaja. Hän tuli pian tunnetuksi, kun W.E.B. DuBois julkaisi Johnsonin kritiikin D.W. Griffithin elokuvasta The Birth of a Nation NAACP:n (National Association for the Advancement of Colored People) julkaisussa The Crisis. Johnson oli Sigma Pi Phi -veljeskunnan ja Phi Beta Sigma -veljeskunnan jäsen.
Vuonna 1916 Johnsonista tuli NAACP:n kenttäsihteeri ja hän lisäsi dramaattisesti NAACP:n jäsenmäärää ja osastojen määrää. Vuonna 1917 hän järjesti kuuluisan ”Hiljaisen marssin” 5th Avenueta pitkin protestoidakseen rotuväkivaltaa ja lynkkausta vastaan. Marssi, johon osallistui noin kymmenen tuhatta ihmistä, oli siihen mennessä suurin afroamerikkalaisten järjestämä protesti. Johnsonin osallistuminen lynkkauksen vastaiseen kampanjaan jatkui kahden seuraavan vuosikymmenen ajan.
Vaikka hän oli kansallisesti tunnustettu kansalaisoikeusjohtaja, Johnson jatkoi kirjoittamista ja runokritiikkiä New York Age -lehden kolumnissaan. Hänen ”Poetry Corner” -kolumnistaan, joka julkaistiin vuonna 1922 nimellä The Book of American Negro Poetry, tuli tärkeä panos syntymässä olleeseen Harlemin renessanssiin erityisesti siksi, että se sisälsi Claude McKayn ”If We Must Die” -runon. Johnsonin muita Harlemin renessanssin aikaansaannoksia olivat The Book of American Negro Spirituals (1925), God’s Trombones (1927) ja Seven Negro Sermons in Verse (Seitsemän neekerisaarnaa säkeistössä, 1927).
Johnson julkaisi vuonna 1930 teoksen Black Manhattan, a Social History of Black New York, ja kolme vuotta myöhemmin (1933) ilmestyi hänen omaelämäkertansa Along This Way (Tätä tietä pitkin).
Johnson irtisanoutui Naapurien Amerikan demokraattisesta yhdistyksestä (NAACP:sta, NAACP:stä, 1930), ja hän aloitti luovan kirjallisuuden ja luovan kirjoittamisen tiedekuntatehtävän hoitamisen fysiologian opettajan tehtävissä Fiskin yliopistossa. Hän jatkoi aktiivista elämää opettamisen ja julkisten puheiden parissa, kunnes kuoli auto-onnettomuudessa 26. kesäkuuta 1938 lomaillessaan Wiscassetissa, Mainessa. Hän oli kuollessaan 67-vuotias.