二戰結束6個月後的1945年12月，蘇聯佔領區的五個州均成立了中央領導的警察機構，而這是違背雅爾達公告和波茨坦協議的。1946年1月上旬，東德成立了新的警察部隊——德國人民警察，同年8月新成立的東德內政部開始管理東德的警察機構。1946年12月1日，駐德蘇聯軍事管理委員會指導下的德國邊境警察（Deutsche Grenzpolizei）成立，最初招募的3,000名成員來自德國人民警察。最終到1950年人數達到18,000人。
邊境警察的武裝和組織均與警察類似，隸屬於邊境警察管理局和東德內政部。1961年，東德政府將邊境警察改編為東德邊防軍，改由德意志民主共和國國防部（MfNV）管理。最初邊防軍是國家人民軍（NVA）的一部分，1973年邊防軍從國家人民軍分離，直接受國防部管理。
邊防軍身穿國家人民軍的標準制服，但識別系統為邊防軍獨有的深綠色，左臂袖口的袖標寫有「民主德國邊防軍」字樣。1973年後，邊防軍的招募完全來自自願服役，這一點與強制應徵入伍的國家人民軍不同。
邊防軍主要兵力集中在西方邊界，相比而言在捷克斯洛伐克和波蘭邊界只有約600名邊防軍駐守。