也许更重要当然也更困难的是对萨克森——德国北方一个广大地区的征服，进攻的总数不下十八次。第一次发生在772年，最后一次在804年。反对萨克森人的战争打得如此持久和残忍，宗教因素肯定是其原因的一部分。萨克森人是异教徒，查理曼坚持要让他所统治的萨克森人改信基督教，拒绝接受洗礼和后来又改信异教的人均被判处死刑。在这些强迫改宗运动的过程中，据估计有多达四分之一的萨克森人被杀害。
查理曼还出征德国南部和法国西南部，以巩固他对这些地区的控制。为了确保帝国和东部边界地区的安全，查理曼同阿瓦尔人进行了一系列的战争。阿瓦尔是一个与匈奴族有血缘关系的亚洲民族，他们占有一片广阔的领土，即今日的匈牙利和南斯拉夫。查理曼最终彻底打败了阿瓦尔军队。
虽然萨克森和巴伐利亚以东的国家未被法兰克人占领，但是在从德国东部到克罗地区一条宽广的地带上的那些国家，却都承认法兰克的宗主权。
查理曼也努力确保他的南部边疆的安全。778年，他对西班牙发动了一次侵略，虽未获得成功但却在西班牙北部建立起一个边境国，叫做西班牙三月国，该国承认他的主权。
由于查理曼许多次战争的胜利（法兰克人在他的四十五年的统治期间进行了五十四次出征），成功地使西欧大部分地区都归属于他的统一领导之下。他的帝国实际上达到包括今日的大部分法国、德国、瑞士、奥地利和低地国（荷兰Niederland,在德语中“Nieder”是“低”的意思），以及意大利的一个地区和许多的边界地区。自从罗马帝国衰亡以来，欧洲还没有这么广阔的领土被一个国家控制过。
