Początków Archiwum Diecezjalnego należy szukać już w 2000 roku. Wtedy to pojawiła się inicjatywa powołania samodzielne instytucji zajmującej się archiwaliami kościelnymi; wtedy też obecny dyrektor ks. Robert Kufel został skierowany na studium archiwistyki na Uniwersytet Mikołaja Kopernika w Toruniu. Trzy lata później ówczesny ordynariusz bp Adam Dyczkowski utworzył Archiwum Diecezjalne z siedzibą w Zielonej Górze. I tak początkowo archiwum mieściło się w pomieszczeniach kurialnych, a od 2006 roku dysponuje własną siedzibą.