Prawdopodobnie pierwszym urządzeniem służącym do usuwania kurzu, o napędzie jeszcze ręcznym, był „Whirlwind”, wynaleziony w Chicago w 1865 roku. Urządzenia tego typu były potem rozwijane w kolejnych latach. Jako pomysłodawcę odkurzacza wskazuje się także Ives McGaffey’a, który w 1869 r. stworzył maszynę wyposażoną w ręczny miech, którą – przy dobrej woli – można nazwać odkurzaczem. Do obsługi maszynerii potrzebne były dwie osoby: jedna obsługiwała miech, kręcąc korbą, druga przy użyciu rury zdmuchiwała kurz i brud. Wkrótce ruszyła produkcja na skalę przemysłową tych urządzeń.
Mimo, że odkurzacz McGaffeya był niewygodny w użytkowaniu i nieporęczny, zyskał sporą popularność. W krótkim czasie posiadanie jednego z bardziej luksusowych modeli o nazwie Baby Daisy stało się oznaką pozycji społecznej. We wrześniu 1876 roku, odkurzacz (a właściwie samą ideę), opatentowano.
Odkurzacz elektryczny został wynaleziony w 1901 r. przez Brytyjczyka Huberta Bootha. Zainspirowany urządzeniami zdmuchującymi kurz strumieniem powietrza, doszedł do wniosku, że skuteczniejsze byłoby zasysać kurz, przez co nie osiadałby on ponownie na powierzchni. Testując swój pomysł, przyłożył usta do fotela i wykonał wdech. Próba ta o mało nie doprowadziła do jego uduszenia się, ale dowiodła słuszności pomysłu, który później opatentował w Wielkiej Brytanii. Booth skonstruował następnie odkurzacze przewoźne, wynajmowane na zlecenie klienta. Były to duże maszyny ciągnięte przez konie, które były ustawiane przed domem i zasysały kurz przez długie węże. Urządzenia te nie zdobyły jednak popularności.
Więcej szczęścia miał drugi wynalazca, Amerykanin James Murray Spangler. Pracując jako dozorca w domu towarowym i będąc uczulony na kurz, w 1906 r. skonstruował pierwszy odkurzacz przenośny z wentylatora elektrycznego, pudełka i poszewki od poduszki. Ulepszone urządzenie opatentował w 1908 r. i jako pierwszy wprowadził przenośne elektryczne odkurzacze na rynek. Szybko patent i firma Spanglera zostały kupione przez jego kuzyna Williama Hoovera, który produkował dotąd uprzęże końskie i widząc masowy rozwój motoryzacji, w porę zorientował się, że musi zmienić całkowicie kierunek produkcji, stawiając na postęp techniczny. Hoover dalej ulepszył odkurzacz, a wprowadzając je do sprzedaży komiwojażerskiej połączonej z demonstracją działania w domach, rozpowszechnił swój sprzęt w Stanach Zjednoczonych, osiągając duże zyski.
Pierwszy odkurzacz przenośny w Europie, który mogła obsługiwać jedna osoba, a który ważył 17,5 kilograma wynaleziony został przez P.A. Fiskera. Na tamte czasy, gdy inne odkurzacze były ogromne, a do ich obsługi potrzeba było kilku osób, wynalazek o nazwie Nilfisk C1 był rewolucją. Przez wiele lat po wynalezieniu, odkurzacze pozostawały sprzętem drogim i luksusowym, lecz po II wojnie światowej stały się, wraz ze spadkiem ich cen, powszechnie używanym sprzętem gospodarstwa domowego, najpierw w Stanach Zjednoczonych, potem także w innych uprzemysłowionych państwach.
Współczesne domowe odkurzacze wyposażone są oprócz przewodu powietrznego i kompletu ssawek, niekiedy także w nasadki do prania dywanów lub ich „trzepania” za pomocą wibracji, a jeśli istnieje możliwość ujęcia powietrza wylotowego, to mogą także zawierać np. suszarkę do włosów lub rozpylacz do płynów (wykorzystywany np. do malowania ścian).
Dawniej w niektórych regionach Polski powszechnym synonimem słowa „odkurzacz” było słowo „elektroluks”, od nazwy Electrolux – szwedzkiej firmy produkującej sprzęt gospodarstwa domowego, która upowszechniła w Polsce domowe odkurzacze.
Od kilku lat istnieją w sprzedaży „odkurzacze automatyczne”. Odkurzacz taki jest małym robotem sprzątającym. Po zaprogramowaniu sam jeździ po wyznaczonym terenie i samodzielnie sprząta. Kiedy rozładuje się akumulator lub przepełni worek na kurz, odkurzacz sam dojeżdża do stacji dokującej, gdzie może naładować akumulator i opróżnić zbiornik kurzu.
