Zeppelin arisztokrata családja hagyományait követve katonai pályára lépett. Az amerikai polgárháború idején megfigyelő volt az északi hadseregben, itt emelkedett először a levegőbe egy ballonnal. 1866-ban a (vesztes) osztrák oldalon harcolt a poroszok ellen, majd 1870-ben a (győztes) porosz oldalon a franciák ellen. 1891-ben altábornagyi rangban vonult vissza a szolgálattól, ettől kezdve minden idejét és tehetségét a repülésnek szentelte.

Zeppelin megvásárolta a merev testű, irányítható léghajóval kísérletező magyar Schwartz Dávid özvegyétől a terveket, és azok továbbfejlesztésével megépítette saját járművét. A LZ-I hossza 128, átmérője 11,7 méter volt, és a hajótest 16 egymástól elválasztott gáztartályt tartalmazott. A légcsavarokon keletkező húzóerőt két 16 lóerős Daimler-motor szolgáltatta, a haladás irányát oldal- és magassági kormányok szabályozták. A léghajó első, 17 perces próbaútját 1900. július 2-án tette a Bodeni-tó felett, de a kormánymű tökéletlenségei miatt a kikötőoszlophoz közelítve csaknem kettétört.

A hibák kiküszöbölése után a továbbfejlesztett jármű már 31 kilométeres óránkénti sebességet ért el, az LZ-III 1906-ban már egy napig maradt a levegőben. A kísérletezés felemésztette Zeppelin vagyonát, de a találmány jelentőségét felismerő II. Vilmos császár támogatása és egy javára rendezett sorsjáték megmentette, így jómódú és megbecsült emberként halt meg 1917. március 8-án. A léghajók az I. világháborúban nem váltották be a katonai vezetés reményeit: lassúságuk miatt ki voltak szolgáltatva a mozgékony repülőgépeknek, robbanékonyságuk miatt könnyű célpontnak bizonyultak, London bombázásakor a repülő szivarok közül negyven pusztult el.

A személyszállítás terén viszont remekeltek: a Graf Zeppelin utasszállító léghajó 1929-ben 21 nap alatt körüljárta a Földet, és összesen 144 alkalommal kelt át az Atlanti-óceánon. Magyarországon 1931. március 29-én szállt le a csepeli repülőtéren az első zeppelin, amelyből elsőként Karinthy Frigyes lépett ki. Tündöklésüknek egy szörnyű baleset vetett véget: a 245 méter hosszú, 41,2 méter átmérőjű és 72 férőhelyes Hindenburg léghajó 1937. május 7-én New Jerseyben máig tisztázatlan körülmények között kigyulladt, a robbanás 36 emberéletet követelt. A tragédia után a léghajók iránti érdeklődés lényegében megszűnt.

Az utóbbi években a zeppelinek reneszánszukat élik, mert olcsón üzemeltethetők, nem szennyezik a környezetet, zajszintjük alacsony, nincs szükségük nagy repülőterekre, és nagy terhek szállítására is alkalmasak. Az új típusú zeppelineket turisztikai célokra, például városnézésre használják, de nyersanyagok lelőhelyének felkutatására is.