Bautzen II war ab 1956 bis zum Ende der DDR als Sonderhaftanstalt dem Ministerium für Staatssicherheit (MfS) unterstellt und wurde in Zuge dessen, zu einem Hochsicherheitstrakt mit 200 Haftplätzen für politische Sondergefangene („Stasi-Knast“) ausgebaut. Bekannt wurde Bautzen II durch die Unterbringung von Regimekritikern, westdeutschen, ausländischen und prominenten DDR-Häftlingen. Gefangene wurden dabei teilweise nur mit ihrer Nummer angesprochen. 1963 wurde die Anstalt organisatorisch von der Haftanstalt Bautzen I, dem sogenannten „Gelben Elend“, abgetrennt und als eigenständige Strafvollzugsanstalt geführt. Zur Tarnung blieb die Haftanstalt Bautzen II nominell eine Einrichtung des Innenministeriums.
1989 wurden alle politischen Gefangenen freigelassen. 1992 wurde die Anstalt Bautzen II endgültig geschlossen. Im Gebäude befindet sich seit 1993 die Gedenkstätte Bautzen, zugleich Sitz der Arbeitsstelle der Stiftung Sächsische Gedenkstätten zur Erinnerung an die Opfer politischer Gewaltherrschaft.