James Weldon Johnson, skladatel, diplomat, sociální kritik a bojovník za občanská práva, se narodil 17. června 1871 v Jacksonville na Floridě bahamským přistěhovalcům. Johnson, kterému jeho otec James, číšník, a matka Helen, učitelka, vštípili hodnotu vzdělání, vynikal na Stantonově škole v Jacksonville. V roce 1889 nastoupil na univerzitu v Atlantě v Georgii, kterou dokončil v roce 1894.
V roce 1896 začal Johnson studovat práva v advokátní kanceláři Thomase Ledwitha v Jacksonville na Floridě. V roce 1898 Ledwith považoval Johnsona za připraveného ke složení floridské advokátní zkoušky. Po vyčerpávající dvouhodinové zkoušce Johnson uspěl a byl přijat do advokátní komory. Jeden ze zkoušejících vyjádřil své roztrpčení tím, že vyběhl z místnosti a prohlásil: „No, nemůžu zapomenout, že je to negr, a ať se propadnu, jestli tady zůstanu, abych ho viděl přijatého.“ V roce 1898 se Johnson stal jedním z mála černošských advokátů ve státě.
Johnson však nevykonával advokátní praxi. Místo toho se stal ředitelem Stantonovy školy v Jacksonville, kde zlepšil učební osnovy a přidal také devátou a desátou třídu. Johnson také založil první černošské noviny Daily American v Jacksonville. Spolu se svým bratrem Rosamondem, který se vzdělával na New England Conservatory of Music v Massachusetts, se Johnsonovy zájmy obrátily ke skládání písní pro Broadway.
Rosamond a James se v roce 1902 přestěhovali do New Yorku a prodejem svých písní broadwayským umělcům brzy vydělávali přes dvanáct tisíc dolarů ročně. Při zpáteční cestě na Floridu v roce 1900 byli bratři požádáni, aby napsali oslavnou píseň na počest narozenin Abrahama Lincolna. Výsledkem byla zhudebněná báseň „Lift Every Voice and Sing“, dnes známá jako černošská hymna.
V roce 1906 se Johnson stal konzulem Spojených států ve venezuelském Puerto Cabello. Během svého působení v zahraničních službách se seznámil se svou budoucí manželkou Grace Nailovou, dcerou vlivného černošského newyorského realitního spekulanta Johna E. Naila. První rok manželé strávili v Corintu v Nikaragui, na Johnsonově diplomatickém postu.
Během působení v diplomatických službách začal Johnson psát své nejslavnější literární dílo Autobiografie bývalého barevného muže. Tento román, vydaný v roce 1912, se stal významným dílem harlemské renesance 20. let 20. století. V roce 1914 se Johnson stal redaktorem časopisu New York Age. Brzy se proslavil, když W. E. B. DuBois zveřejnil Johnsonovu kritiku filmu D. W. Griffitha Zrození národa v publikaci Národní asociace pro pokrok barevných (NAACP) The Crisis. Johnson byl členem bratrstva Sigma Pi Phi a bratrstva Phi Beta Sigma.
V roce 1916 se Johnson stal terénním tajemníkem NAACP a výrazně zvýšil počet členů NAACP a počet poboček. V roce 1917 zorganizoval slavný „Tichý pochod“ po 5th Avenue na protest proti rasovému násilí a lynčování. Pochod, který čítal přibližně deset tisíc účastníků, byl do té doby největším protestem organizovaným Afroameričany. Johnsonova účast na kampani proti lynčování pokračovala i v následujících dvou desetiletích.
Ačkoli byl Johnson celostátně uznávaným vůdcem za občanská práva, pokračoval v psaní a kritice poezie ve sloupku pro New York Age. Jeho sloupek „Poetry Corner“, vydaný v roce 1922 pod názvem The Book of American Negro Poetry (Kniha americké černošské poezie), se stal významným příspěvkem k rodící se harlemské renesanci zejména díky zařazení básně Clauda McKaye „If We Must Die“. Mezi další Johnsonovy příspěvky k harlemské renesanci patřily The Book of American Negro Spirituals (1925), God’s Trombones (1927) a Seven Negro Sermons in Verse (1927).
V roce 1930 Johnson vydal knihu Black Manhattan, a Social History of Black New York a o tři roky později (1933) vyšla jeho autobiografie Along This Way.
Johnson v roce 1930 odešel z NAACP a přijal místo vyučujícího tvůrčího psaní a literatury na Fisk University. Aktivně se věnoval výuce a veřejnému vystupování až do své smrti při automobilové nehodě 26. června 1938, kdy byl na dovolené ve Wiscassetu ve státě Maine. V době smrti mu bylo 67 let.