Nacido en Viena se queda huérfano a la edad de 12 años. Comienza a tomar clases de violín y viola al mismo tiempo que es aprendiz de encuadernador.
Comienza a tocar en una orquesta local junto al músico Joseph Lanner. Juntos popularizaran los valses vieneses y los bailes rústicos alemanes.
Se casa con María Anna Streim con la que tiene tres hijos: Johann, Josef y Eduard. 
Pronto Strauss formará su propia banda de música y se convertirá en uno de los compositores de danza más conocidos y queridos de Viena. Eso le permitirá hacer una gira por Alemania, los Países Bajos, Bélgica y Gran Bretaña. Su pieza más famosa es la Marcha Radetzky de 1848.