冯小宝，来自陕西鄠县，原本是洛阳城中的一名卖药人。有一天，他偶遇到了唐高宗的女儿千金公主，而被公主收为府中之人。公主发现他长得还算俊美，遂带他进入了皇宫。在武则天的眼中，他让她心动不已，于是为了掩盖真相，便为他安排了出家为僧的手续，使他得以方便地身处宫禁之中。
武则天修复了洛阳白马寺，赐给冯小宝法名“怀义”，并让他出任白马寺的主持。又因为他出身寒微，就令驸马薛绍认怀义为季父，以此来抬高他的身价，可怜这个驸马比怀义和尚大很多岁，可也没办法。这样一来，这个怀义和尚立刻飞扬跋扈起来。
平时出门，怀义和尚骑着宫中的御马，身边跟随的宦官就有十几人，前呼后拥，街上的人纷纷躲避，有跑得慢的，怀义揪住就打，直到被打的头破血流为止。打完人直接扬长而去，也不担心打死没打死。最倒霉的是道士，如果被他撞见，一定要把人家的头发也剃光，然后再朝死里打。
对待百姓如此，对待朝廷官员同样傲慢至极，当朝权贵见到他甚至要匍匐在地行礼，甚至武三思这样的人都要给他牵马执鞭。怀义身边很快就聚集起一帮地痞无赖，整天跟着他胡作非为，怀义给他们都剃了度，这些人依仗怀义的庇护，干尽了坏事，地方官哪里敢管。有个冯思勖的御史实在看不下去，依法制止了这些人的一些不法行为，怀义得知后，在大街上遇到冯御史，当街命令手下的人把他打了个半死。
但是，朝廷毕竟还是有忠勇之臣。为了让怀义常住宫内，武则天(当时还是太后)就对大臣说怀义善于营造，准备把他留在宫中盖宫殿。大臣王求礼提出，以前皇帝想让一个男子进攻教授嫔妃谈琵琶，就把这个人阉割了，然后才放进宫，陛下如果非要怀义住进皇宫，也请按照这个方法办理。武则天只好作罢。还有一次，宰相苏良嗣在朝堂上遇到怀义，怀义根本没拿他当回事，依然傲慢无礼，苏良嗣命左右按住怀义，狠狠抽了他几十个耳光。怀义哪里肯吃这个亏，立刻跑到太后那里哭诉，武则天碍于宰相崇高的威望，加之也知道是怀义无礼，只能劝他忍气吞声。
后来，怀义不满足于做个主持，便请求带兵出征，当时正赶上外族“默啜”入侵，武则天封怀义为“代北道行军大总管”，率领大军讨伐默啜。算是怀义运气好，默啜听闻唐军到来，提前就跑回了老家。
多行不义必自毙，怀义仗着武则天的庇护横行多年，但后来干了一件出格的事。当初武则天命怀义建造明堂，怀义花钱如流水一般，所费用数亿钱，武则天顶着满朝大臣的劝谏，硬着头皮支持怀义建成了，但不久，怀义因为一件小事，竟然放火烧了明堂，这立即引起举国震惊。武则天此刻也对怀义的胡作非为十分厌恶，于是就命侍卫将怀义绑在宫中的一棵树上，群殴致死，然后将他的尸体送到白马寺焚烧，并造了一座塔镇压在他的骨灰之上。