Între  anii 1839-1849 a funcţionat ca închisoare pe lângă Tribunalul din Aiud iar în urma evenimentelor din zbuciumatul an 1848, în ianuarie 1849, cu ocazia ocupării oraşului de către trupele austriece tribunalul si închisoarea au fost incendiate. În 1857 se înfiinţează o nouă închisoare, acţiunea de amenajare se termină în anul 1860.

În perioada 1873-1880, penitenciarul funcţionează ca închisoare – tribunal, destinată executării pedepselor grave atât de către bărbaţi cât si de către femei, urmare a condamnărilor aplicate de instanţele din judeţ.

Cu data de 1 septembrie 1880 penitenciarul este declarat închisoare districtuală, ocazie cu care se aprobă construirea unui nou edificiu, construcţia noului corp de clădire, cunoscut si astăzi sub denumirea „Zarca”, demarează în anul 1881, clădirea fiind finalizata un an mai târziu. În perioada 1889-1892 a fost construit pavilionul „Celularul nou”, corpul principal de clădire cuprinzând 312 celule

În intervalul 1892-1929 Penitenciarul Aiud a fost clasificat „Penitenciar Regesc”, apoi Judeţean si, în final, Penitenciar directorial clasa I-a, fiind subordonat, iniţial, Directoratului General al Justiţiei din Transilvania, cu sediul la Cluj, ulterior direcţiei Generale a Penitenciarelor din Ministerul Justiţiei.

Arhitectura penitenciarului este destul de eterogenă, clădirea principală „Celular”, construit în stil victorian, fiind singura clădire destinată deţinerii care este etajată, celelalte doua corpuri de clădire „Zarca” si secţiile V si VI sunt construite în stilul caracteristic al cazărmilor vremii.

Penitenciarul Aiud este profilat pe custodierea persoanelor private de libertate bărbaţi, clasificate în regimurile de executare a pedepsei „maximă siguranţă”, „închis” şi „deschis”. Capacitatea legala de cazare este de 723 de locuri, distribuite la 289 camere de deţinere, în prezent unitatea deţinând  aproximativ 1000 de persoane private de libertate.