Haacke je rođen u Allentownu, Pennsylvania, 15. studenog 1936. Prvo je studirao crtanje i slikanje na Cooper Unionu u New Yorku, gdje je bio student od 1955. do 1957. Nastavio je studij umjetnosti na Tyler School of Art u Sveučilište Temple u Philadelphiji od 1957. do 1959., gdje je specijalizirao grafički dizajn. Nakon koledža, Haacke se prijavio u vojsku Sjedinjenih Država, gdje je služio kao grafički ilustrator od 1959. do 1961. godine.
Nakon službe, Haacke se vratio u New York i počeo raditi kao slobodni dizajner reklama. Godine 1962. imao je svoju prvu samostalnu izložbu u galeriji Tanager u New Yorku. Haacke je bio rani konceptualni umjetnik i 1963. započeo je seriju konceptualnih skulpturalnih instalacija koje su uključivale svakodnevne predmete i manipulirale njima u nove kontekste. Komad Condensation Cube iz 1965. – 1966. sastojao se od staklene kutije s blokom leda obješenim u sredini. Haackeov koncept je bio da će se kocka polako kondenzirati, stvarajući vodu koja će formirati lokve oko baze.
Haacke je proširio svoje instalacije kako bi uključio veći izbor pronađenih i proizvedenih materijala, kao i fotografsku i video dokumentaciju svojih radnih procesa. Godine 1969. surađivao je s Hansom Haackeom na djelu Shapolsky et al. Manhattan Real Estate Holdings, društveni sustav u stvarnom vremenu, od 1. svibnja 1971., instalacija koja je koristila popise nekretnina iz New York Timesa za ispitivanje obrazaca vlasništva nekretnina na Manhattanu. Djelo je postavljeno u Židovski muzej u New Yorku, gdje je bilo kontroverzno zbog implicitne kritike koncentracije vlasništva nad nekretninama među bogatim pojedincima i institucijama.
Početkom 1970-ih Haackeov rad postaje sve više političan. Napravio je nekoliko radova koji su ispitivali odnose između umjetnosti, svijeta umjetnosti i društva, uključujući djelo MoMA Poll iz 1971., u kojem je intervjuirao posjetitelje Muzeja moderne umjetnosti (MoMA) u New Yorku o njihovim mišljenjima o muzeju i svoju zbirku. Godine 1972. Haacke je stvorio djelo Sol LeWitt:Rečenice o konceptualnoj umjetnosti, koje se sastojalo od niza tekstualnih ploča koje su reproducirale intervju koji je Haacke vodio s umjetnikom Solom LeWittom.
Haackeov rad i dalje je politički, a on je nastavio ispitivati pitanja društvene i političke moći, konzumerizma i uništavanja okoliša. Posljednjih godina stvorio je radove koji istražuju odnose između umjetnosti, znanosti i tehnologije, kao i korištenje tehnologija nadzora u društvu.
Haackeovi radovi izlagani su u brojnim galerijama i muzejima diljem svijeta, a za svoj je rad dobio brojne nagrade i priznanja, uključujući Guggenheimovu stipendiju 1972., potporu Nacionalne zaklade za umjetnost 1976. i MacArthurovu stipendiju 1985. Smatra se jednim od najvažnijih konceptualnih umjetnika svoje generacije.