"Crazy Blues" foi escrito por John Henry "Perry" Bradford, que compôs a música e a letra em 1918 com o título "Harlem Blues". Escrito para o teatro, combina refrões de blues com estrofes que não seguem a forma do blues, por isso não é um blues tradicional de doze compassos. A gravação original foi feita por Mamie Smith and Her Jazz Hounds em 10 de agosto de 1920 e lançada pela Okeh Records ainda naquele ano (catálogo 4169-A), tendo "It's Right Here For You (If You Don't Get It-'Taint No Fault O' Mine)" como lado B. Com duração de 3:26, vendeu 75.000 cópias em dois meses, a um dólar cada. É geralmente considerado o primeiro disco de blues lançado e o primeiro grande sucesso do gênero blues. Tornou Smith a primeira cantora popular afro-americana a liderar uma gravação comercial e abriu o mercado de race records. A canção abriu caminho para Ma Rainey e outras intérpretes negras. Entrou para o Grammy Hall of Fame em 1994 e para o National Recording Registry em 2005, e foi usada no episódio 10 da primeira temporada de Boardwalk Empire (2010).