"Crazy Blues" è stato scritto da John Henry "Perry" Bradford, che ne compose la musica e il testo nel 1918 con il titolo "Harlem Blues". Scritto per il teatro, alterna refrain blues a strofe che non seguono la forma del blues, quindi non è un blues standard a dodici battute. L'incisione originale è di Mamie Smith and Her Jazz Hounds, registrata il 10 agosto 1920 e pubblicata dalla Okeh Records nello stesso anno (catalogo 4169-A), con "It's Right Here For You (If You Don't Get It-'Taint No Fault O' Mine)" sul lato B. Della durata di 3:26, vendette 75.000 copie in due mesi al prezzo di un dollaro ciascuna. È generalmente considerato il primo disco blues pubblicato e il primo successo significativo del genere blues. Rese Smith la prima cantante popolare afroamericana a guidare un'incisione commerciale e aprì il mercato dei race records. Il brano aprì la strada a Ma Rainey e ad altre interpreti afroamericane. È entrato nella Grammy Hall of Fame nel 1994 e nel National Recording Registry nel 2005, ed è stato usato nell'episodio 10 della prima stagione di Boardwalk Empire (2010).