马思忠8岁时，父亲马喜春在1939年反对国民党反动统治的海固回民起义中壮烈牺牲，使他过早地体会到了人间的苦难。1941年，大哥马思义毅然率领起义队伍到达陕北革命根据地，这支队伍后来成了抗日战争和解放战争中的一支重要力量——回民骑兵团。1941年5月18日，国民党军队血洗了他的家乡，一家11口惨遭杀害，年仅10岁的马思忠侥幸逃脱后隐姓埋名靠打零工度日。后来，在党组织的关心帮助下，他来到根据地，并先后在回民骑兵团、陇东干部学校学习。最初，他寻找大哥投奔革命就是为了能过上好日子。经过不断学习，他逐步认识到，只有坚定地跟着共产党、跟着毛主席走，才能让所有的劳苦大众都过上好日子。1947年6月，马思忠光荣地加入了中国共产党，时年16岁。

　　1948年5月，马思义随同骑兵团等部队在庆阳二轱辘源抗击进犯边区的敌八十二师某团，这是他参加的第一次血与火的战斗。据他回忆：当时战斗气氛非常紧张，大家英勇顽强，打死打伤敌人100多人，击毙敌人少将团长马少康。“我第一次深切感受到了战斗的激动人心和快感”，可在这次战斗中，马思忠的二哥马思贞腹部被枪击中，伤势过重壮烈牺牲，他再次饱尝了失去亲人的悲愤心痛。

　　宁夏解放初期，零星土匪并没有马上偃旗息鼓。1951年2月，马思忠调往西吉白崖区当区长时，他的主要工作是剿匪、征粮、促生产。在马老的回忆录里，记录了一次和土匪短兵相接的故事：“一天下午，我们十几名区干部在偏城梁上遇到一群匪徒，交起火来，势单利薄的我们被土匪打散，有几个土匪把我和杨忠义追上，直到我俩躲进了一个山洞里，才松了一口气。

　　但杨忠义咳嗽得厉害，怕引来土匪，我就在地上挖了个约一尺深的小洞，让杨忠义爬下，把嘴搭在洞口，果然咳嗽声不大。天黑后，我听到外面有几个土匪在说话，一个说：‘我看见有两个人跑下来了，怎么不见了?’另一个说：‘走，没有的，你不看都啥时候了!’土匪走远了，我和杨忠义爬出洞外，悄悄翻过山来到下堡村。有群众看到我们，说：‘哎哟，马区长，你咋连鞋都没穿?快进屋来!’我就回答是被土匪追上跑掉的……第二天天亮了，我和杨忠义赶到了西吉县城时，县上正张罗着给我们开追悼会。”

　　那时，像马思忠这样的人，是匪徒残余盯在眼里恨在心上的人。而一次下村时，马思忠持枪没瞄准就打落了一只麻雀，于是一传十十传百，都说马思忠枪法好。总之在当地他的名声大，一般土匪既恨他又怕他。