卡尔出生于意大利佛罗伦萨。年青时在托斯卡纳,在维也纳,在奥地利属下的荷兰,法国革命战争时在那里他开始他的军事生涯。
作为皇室成员,卡尔大公从军以后即参与组织指挥作战。1792年,他参加了由普鲁士奥地利结盟
反对法国革命的战争。次年,他率军在阿尔登霍芬和内尔文登地区击败了法军,开始崭露头角。同年任奥属尼德兰总督。
1796年,统领莱茵河地区的奥地利军队,年仅25岁即领元帅军衔,称神圣罗马帝国大元帅。他在与法儒尔当和莫罗的军队作战中,巧妙地实施机动,分离两支敌军后果断的实施各个击破,迫使兵力居于优势的法军败退回莱菌河左岸。这次战役显示他已经是欧洲最出色的统帅之一。
卡尔1797年在意大利有力地钳制了拿破仑的进军。在第二次反法同盟战争中(1798-1802) ,他再次指挥莱茵河战线,1799年击败儒尔当的军队。同年转入瑞士战场击走法军名将马塞纳。在奥军在霍恩林登大败后,他阻止士气高涨的莫罗军向维也纳进军,签订了停战协议,第二次反法同盟以来的连绵战事暂时告一段落。这给他赢得给他竖立塑像的荣耀和国家救世主的名声,但卡尔谦逊的拒绝了这些。
1801年,卡尔大公被任命为奥地利最高军事委员会主席。他一上任便锐意实行军事改革,果断废弃旧的军事制度,认真吸取拿破仑的建军经验和作战思想。可惜他的作为未能大力开展,因为其思想不能被皇帝接纳,而他过高的名声也使得其兄皇帝弗兰茨心怀恐惧。故于1805年1月被迫辞职。
同年,奥地利与俄国等结成第三次反法联盟对法作战,卡尔奉命率9,5万人出意大利,8月在卡尔迪埃罗与马塞纳指挥的6万法军展开激战,战斗持续了三天不分胜负,双方各损失约5000人。此时他接到了乌尔姆失败的消息被迫撤军。12月,在他来不及回师救援之前,奥俄联军已在奥斯特利茨会战中遭受惨败。拿破仑终于占了上风。