James Weldon Johnson zeneszerző, diplomata, társadalomkritikus és polgárjogi aktivista 1871. június 17-én született bahamai bevándorló szülők gyermekeként a floridai Jacksonville-ben. Apja, James, aki pincérként dolgozott, és édesanyja, Helen, aki tanárnő volt, Johnson a Jacksonville-i Stanton Schoolban kitűnt az oktatás értékével. 1889-ben beiratkozott a georgiai Atlanta Egyetemre, ahol 1894-ben diplomázott.
1896-ban Johnson jogi tanulmányokat kezdett Thomas Ledwith ügyvédi irodájában a floridai Jacksonville-ben. Ledwith 1898-ban úgy ítélte meg, hogy Johnson készen áll a floridai ügyvédi vizsgára. Egy fárasztó, kétórás vizsga után Johnson átment, és felvételt nyert az ügyvédi kamarába. Az egyik vizsgáztató azzal fejezte ki gyötrelmét, hogy kirohant a teremből, és kijelentette: “Nos, nem tudom elfelejteni, hogy nigger; és átkozott legyek, ha itt maradok, hogy lássam, hogy felveszik”. 1898-ban Johnson egyike lett az állam mindössze maroknyi fekete ügyvédjének.
Johnson azonban nem praktizált ügyvédként. Ehelyett a jacksonville-i Stanton School igazgatója lett, ahol javította a tantervet, és kilencedik és tizedik osztályt is indított. Johnson elindította az első fekete újságot, a Daily American-t is Jacksonville-ben. Bátyjával, Rosamonddal, aki a massachusettsi New England Conservatory of Musicban tanult, Johnson érdeklődése a Broadway számára történő dalszerzés felé fordult.
Rosamond és James 1902-ben New Yorkba vándoroltak, és hamarosan évi több mint tizenkétezer dollárt kerestek azzal, hogy dalaikat Broadway előadóknak adták el. Egy 1900-as floridai visszautazásuk alkalmával a testvéreket felkérték, hogy írjanak egy ünnepi dalt Abraham Lincoln születésnapja tiszteletére. A termék, egy megzenésített vers, a “Lift Every Voice and Sing” lett, amely ma a fekete himnuszként ismert.
1906-ban Johnson lett az Egyesült Államok konzulja a venezuelai Puerto Cabellóban. A külszolgálat alatt ismerkedett meg későbbi feleségével, Grace Nail-lel, aki John E. Nail befolyásos fekete New York-i ingatlanspekuláns lánya volt. A házaspár első évét a nicaraguai Corintóban, Johnson diplomáciai állomáshelyén töltötte.
A diplomáciai szolgálat alatt Johnson elkezdte írni leghíresebb irodalmi művét, az Egy volt színesbőrű ember önéletrajzát. Ez az 1912-ben megjelent regény az 1920-as évek harlemi reneszánszának egyik nevezetes műve lett. Johnson 1914-ben a New York Age szerkesztője lett. Hamarosan hírnevet szerzett, amikor W.E.B. DuBois közzétette Johnson kritikáját D.W. Griffith The Birth of a Nation című filmjéről a The Crisis című kiadványban, a National Association for the Advancement of Colored People (NAACP) kiadványában. Johnson tagja volt a Sigma Pi Phi Testvériségnek és a Phi Beta Sigma Testvériségnek.
1916-ban Johnson lett a NAACP területi titkára, és drámaian növelte a NAACP tagságát és a fiókok számát. 1917-ben megszervezte a híres “Csendes menetet” az 5. sugárúton, hogy tiltakozzon a faji erőszak és a lincselés ellen. A körülbelül tízezer résztvevőt számláló menet volt az afroamerikaiak által szervezett legnagyobb tiltakozás addig a pontig. Johnson részvétele a lincselés elleni kampányban a következő két évtizedben is folytatódott.
Bár országosan elismert polgárjogi vezető volt, Johnson továbbra is írt és kritizált verseket a New York Age rovatában. “Poetry Corner” rovata, amely 1922-ben jelent meg The Book of American Negro Poetry címmel, fontos hozzájárulássá vált a kialakulóban lévő harlemi reneszánszhoz, különösen Claude McKay “If We Must Die” (Ha meg kell halnunk) című művének szerepeltetése miatt. Johnson további harlemi reneszánsz-hozzászólásai közé tartozott a The Book of American Negro Spirituals (1925), a God’s Trombones (1927) és a Seven Negro Sermons in Verse (1927).
1930-ban Johnson kiadta a Black Manhattan, a Social History of Black New York című kötetet, három évvel később (1933-ban) pedig megjelent az Along This Way című önéletrajza.
Johnson 1930-ban kilépett az NAACP-ből, és elfogadta a Fisk University kreatív írás és irodalom tanszékét. Aktívan tanított és nyilvános beszédet tartott, amíg 1938. június 26-án autóbalesetben meg nem halt, miközben a Maine állambeli Wiscassetben nyaralt. Halálakor 67 éves volt.