张培元后方受到意外的奇袭，又接连得到杨正中失利消息，自知后方失守，前线失败，腹背受敌，很难支持，便将权力交给商会和各法团，并留参谋长安熙朝协助维持地方，自带亲信数十人出走，准备逃遁南疆。他们行至铁板沟码札地方，暮色浓黑，惨风凄切，他心情异常沉重，就地夜宿。正在此时，随从报告，附近有人马行动，再加上白天有苏军飞机追击轰炸，培元感到形势全非，前景昏暗，很可能成为他人俘虏。他怕被俘后受辱，便起了自杀之心，于是令随从全出，关起门来，伏案疾草遗书：“河山破碎，地方糜烂，奉职无收，再无面目见地方父老……”。然后沐浴一番，开枪自杀。时1934年1月6日，农历癸酉年（即民国二十二年）11月21日，当时张培元刚四十岁。