缜却很不得志，他的聪明才智和满腹经纶无处施展。怀才不遇的痛苦无时无刻地煎熬着他，使他未老先衰，在二十九岁时就已白发皤然，遂写下了《伤暮诗》、《白发咏》，以抒发内心的愤愤不平，寄托自己不屈服厄运的志向。
萧齐禅代刘宋后，范缜的命运有了转机。他当上了尚书殿中郎。齐武帝永明年间（483—493），萧齐与北魏和亲通好，范缜曾作为使者出访北魏，他渊博的知识和思想的机智敏捷，博得了北魏朝野的尊重和赞叹。
《神灭论》及主要思想范缜生活的时代，是南朝佛教兴盛的时代。灵魂不死、轮回报应的宗教迷信的毒雾弥漫于朝野，笼罩着社会的各个角落。唐朝诗人杜牧在《江南春》一诗曾生动地勾画出当时佞佛的景象：“南朝四百八十寺，多少楼台烟雨中。”无数颗灵魂受到佛教的毒害，大量的人力物力耗费在佛寺僧塔的修建之中。统治阶级中一些上层人物，不仅把佛教当作麻醉人民的精神鸦片，自己也沉溺于对佛教的笃信中，以求得充实空虚的灵魂。齐竟陵王萧子良，狂热地迷信佛教，他在府邸聚会名僧，讲论佛典，佞佛盛况，自东晋以来所未有。他甚至不惜有失宰相的身份，亲自为僧侣端茶上菜。萧子良还有交游宾客，聚会文学名士的雅好。他在京都鸡笼山西邸官舍礼贤纳士，萧衍（即梁武帝）、沈约等“八友”，以及范缜等士人，都游于其门。但在这些名士中，几乎多是佛门信徒。他们认为人的灵魂不灭，灵魂不因人的死亡而消失，而是转移于其他活人的肉体中；又笃信因果报应，认为前世、今世所行的善或恶，在来世必然要分别得到富贵或贫贱的报应。唯有范缜对这套荒谬的说法嗤之以① 本节材料主要依据《梁书·儒林·范缜传》，下引此传者不另作注。
鼻，他大唱反调，盛称无佛。结果，在齐永明七年（489），以竟陵王萧子良为首的佛门信徒与范缜展开了一场大论战。
一天，萧子良问范缜说：“你不信因果报应说，那么为什么会有富贵贫贱？”范缜说：“人生如同树上的花同时开放，随风飘落，有的花瓣由于风拂帘帷而飘落在厅屋内，留在茵席上；有的花瓣则因篱笆的遮挡而掉进粪坑中。殿下就犹如留在茵席上的花瓣，下官就是落于粪坑中的花瓣。贵贱虽然不同，但哪有什么因果报应呢？”萧子良不能驳倒范缜这番有理有据的答辩，无言以对，心里却对范缜深为不满。
经过这一次交锋，范缜觉得有必要将自己无神论的观点加以系统阐述，他遂写出了著名的《神灭论》（今天所见的设宾主形式的《神灭论》并非初稿，是范缜在梁时的修订稿）。他以犀利的笔锋，形象的比喻，简明扼要地概括了无神论与有神论争论的核心问题，即形与神之间的关系，将有神论批驳得体无完肤。
范缜在《神灭论》一开始就提出了“形神相即”的观点。他说：“形即神也，神即形也。”所谓“形”是形体，“神”是精神，“即”就是密不可分。范缜认为，精神与形体不可分离，形体存在，精神才存在；形体衰亡，精神也就归于消灭。在范缜看来，形体和精神是既有区别、又有联系的不能分离的统一体，即两者“名殊而体一”，或曰“形神不二”。
范缜在“形神相即”，“不得相异”的基础上，进一步提出了“形质神用”的著名论点。他写道：“形者神之质，神者形之用，是则形称其质，神言其用，形之与神，不得相异也。”即认为形体是精神的质体，精神是形体的作用；两者不能分离。他打了一个恰如其分的比喻说：“神之于质，犹利之于刃；形之于用，犹刃之于利。利之名非刃也，刃之名非利也；然而舍利无刃，舍刃无利，未闻刃没而利存，岂容形亡而神在？”这就是说，精神与肉体之间的关系，就好像刀刃与刀刃的锋利之间的关系，锋利指的不是刀刃，刀刃指的也不是锋利。然而，离开刀刃也就无所谓锋利，离开了锋利也就无所谓刀刃。既然从未听说过刀刃没有了而锋利还存在的，怎么能说肉体死亡后而精神还能存在呢？这就有力地证明了精神对形体的不可分割的依赖关系。
范缜对“质”和“用”的范畴也给予了深入浅出的论证。他提出，不同的“质”有不同的“用”，而且精神作用只是活人的特有属性，宣扬佛教的人以树木和人为例，说人和树木同是质体，但人有知觉，树木则没有，可见树木只有一种性质，人有两种性质，所以人的精神可以离开形体而独立存在。范缜反驳说：“人之质，质有知也；木之质，质无知也。人之质非木质也；木之质非人质也。安有如木之质而复有异木之知？”所以，质的不同，决定了人的“有知”和木的“无知”，即特定的质体具有其特定的作用，不可混为一谈。同时，范缜还从发展、变化的观点阐述了质与用、形与神之间不可分割的关系。他驳斥了佛教徒对“生形”与“死形”、“荣木”与“枯木”之间区别的故意混淆，说：“生形之非死形，死形之非生形，区已革矣！”人从生到死，木从荣到枯，形体发生了根本的变化，所以质的作用也随之而变化。所以，随着人的死亡，精神活动也停止消失了。这样，佛教鼓吹的灵魂不死的谬说，即“神不灭论”便不攻自破了。
范缜不仅指出了“用”随“质”变，而且辩证地认为物体的变化有其内在的规律性。如人的生死，必是先生后死；木的荣枯，必是先荣后枯，顺序不可颠倒。他还认为，事物的变化有突变和渐变两种形式。突然发生的事物，如暴风骤雨，必然突然消失；逐渐发生的，如动植物，必然逐渐消灭。故他总结说：“有欻有渐，物之理也。”认为突变和渐变是客观事物自身的发展规律。
范缜在对形神关系作深入探讨时，还把人的精神活动分为互相连接的两个阶段，把人的生理器官看作是精神活动的物质基础。所谓精神活动的两个阶段，即一是“痛痒之知”（感觉），二是“是非之知”（思维）；两者的区别是“浅则为知，深则为虑”；两者又是属于一个人的精神活动的整体之中，即“手足虽异，总为一人；是非痛痒，虽变有异，亦总为一神矣。”他认为，口、眼、耳、鼻、手足担负着不同的感知职能；由于科学水平的限制，他还不了解大脑的作用，错误地认为“是非之虑”由“心器所主”。但是尽管如此，他的论述也揭穿了佛教徒的“虑体元本”，即思维活动没有自身的物质基础，精神可以离开人的形体而独立存在的谬论。对轮回说是一个有力的驳斥。
范缜在神灭论的最后部分，无情地揭露了佛教的欺骗性和对社会的严重危害。他写道：“佛教损害了国政，僧尼败坏了民俗。佞佛如同骤起的狂风迷雾，弛荡不休。我有感于这一弊端，渴望拯救沉溺于佛教的人们。为什么人们都要倾家荡产去求僧拜佛而不肯去接济亲友、抚恤贫困呢？这是由于佛教重于利己而轻于济世。所以佞佛之人在穷亲贫友相求时，都不肯解囊相助，而是斤斤计较，吝啬已极，但却将千万资财贡献佛寺，献媚求欢于僧尼。岂不是在于从僧侣那儿可以捞取好处，而在亲友身上却无油水可榨；加上拜佛虽破费钱财，还可以获得周急积善的美名。人们又受到佛教种种虚诞说教的迷惑、引诱、恫吓和欺骗，纷纷摈废礼教而遵从佛法，家家不讲孝悌，人人不行慈爱。致使兵源短缺，官府缺少办事的官吏，土地荒芜，粮食乏匮，而僧寺佛塔却耗费了无数钱财，奸佞不法之徒层出不穷，人们仍粉饰太平。正由于这样，佛教的危害和弊端是无限的。我认为人们应禀承自然天性，行自我修养，于有若无，来者不拒，无亦不求，人人各守其职，各安天命。小人甘愿躬耕于田亩，君子保其恬和朴素的本性。这样，种田打粮，粮食将取之不尽；养蚕织衣，衣服将用之不竭；百姓用衣食之余奉献君主，君主以无为而治天下。欲使人民昌盛，国家强大，君主权重，必须采用此道。”
范缜的思想受时代以及其所属阶级的局限，是有缺陷的。例如把“圣人”视为生来就具有特殊的体质，因而具有“圣人之神”，而“凡人之形”则决定了“凡人之神”，不免陷入到物质结构的机械论。此外，他又以儒家的宿命论和天性论，以及儒家经典中的神道设教的学说，去反对佛教，即用唯心主义去反对唯心主义，难免在某些问题上缺乏说服力。
决不卖论取官《神灭论》抓住了时弊，击中了佛教的痛处。它一问世，士林争相传抄，朝野为之喧哗。竟陵王萧子良凭借宰相的权力，慌忙调集众僧名士，软硬兼施，轮番围攻范缜。但由于他们讲不出象样的道理，尽管人多势众，也没有压倒坚持真理的范缜。佛门信徒太原名士王琰，借儒家讲究孝道为武器，撰文立著，企图一下子封住范缜的口，他带着嘲讽的口吻说：“呜呼！范子，你怎么竟连自己的祖先在哪里都不知道！”但范缜当即反唇相讥说：“呜呼！王子，你既然知道自己的祖先的神灵在哪里，为什么不杀身去追随它们呢？”王琰哑口无言，败下阵来。萧子良又派名士王融到范缜那儿，企图用官位加以利诱，王融对范缜说：“神灭之说既然是异端邪说，而你却坚持己见，恐怕会有伤名教。以你出众的才华和美德，何愁官至中书郎。而你为什么要违背众人的信仰，自讨身败名裂呢？”范缜听后哈哈大笑，回答说：“倘若我范缜肯于出卖人格，背叛信仰去捞取官位，恐怕早就当上尚书令、尚书仆射一类的高官，你说的中书郎又岂在话下！”
范缜的刚直不阿的可贵品德，以及决不“卖论取官”的原则立场，在当时只能增加他人生道路上的坎坷。齐明帝建武年间（494—498），他出尚书省，迁领军长史。又被出为宜都太守。他仍坚持神灭论，不信鬼神。当时夷陵（今湖北省宜昌市）有伍相庙、唐汉三神庙、胡里神庙，当地人笃信三庙有神灵，经常祭祀。范缜在任期间，下令严禁祭祀活动。不久后，范缜的母亲去世，他因此辞官守丧，自此至梁初，他一直未出仕任官，居住在南州。坎坷的后半生齐末，梁武帝萧衍起兵。范缜虽在守丧，仍身穿丧服去迎接梁武帝。梁武帝与范缜曾在南齐时共游竟陵王萧子良的西邸，关系不错，见了范缜后畅叙友情，非常尽兴。梁武帝平建康，任命范缜为晋安太守。范缜在任四年，清廉节俭，除了俸禄以外一无所取。天监四年（505），朝廷任命范缜为尚书左丞。范缜离任回京前，所有财产未给亲戚，而是都赠与了前尚书令王亮。王亮是王导六世孙，范缜曾与他在南齐时同为尚书殿中郎，结为好友。齐梁之际，王亮拥立萧衍有功，任尚书令，后因在天监二年（503）对梁武帝大不敬，削爵废为庶人。当时范缜念及旧日友情，对王亮十分同情，仍经常去王亮家看望他，两人过往密切。
范缜刚任尚书左丞，一天，梁武帝设宴招待群臣。梁武帝志得意满，对群臣说：“朕终日听政，孜孜不倦，希望能知道自己的得失。你们可以说是人才济济，望畅所欲言。”范缜为人耿直，站起来说：“司徒谢胐徒有虚名，不涉政务，但陛下却如此重用。前尚书令王亮擅长治国，陛下却废为庶人。对此愚臣百思而不得其解。”梁武帝听了这番话，脸色变得十分难看，他厉声说：“你还可以更改你所说的话。”范缜固执己见，并无惧色，梁武帝恼羞成怒，宴会不欢而散。
事后，御史中丞任昉遂上奏弹劾范缜，罗织罪名，说他不遵士操，弄口鸣舌，拨弄是非；指责范缜在居丧时拥立武帝，目的是想要位居台辅，而一旦未得重用，就心怀不满，党附王亮，二人私下议论朝政，诽谤正直。因此，建议免去范缜所居官，收付廷尉治罪，委之狱官，以法制从事。
梁武帝对任昉奏书表示赞同，并亲自写玺书责诘范缜，列举了王亮的十大罪状后，气急败坏地问范缜：“对此你还有什么可说的，竟敢妄自喊冤鸣不平！你要对我所说的王亮十大罪状做出回答。”在这种情况下，范缜自知有口难辩，对武帝所诘王亮十大罪状，只是支支吾吾，搪塞而已。但仍未能免除惩罚，被流放到广州。
梁朝时，南朝佛教进入了全盛时期。梁武帝笃信佛教，他在天监三年（504）下诏说：“大经中说道有九十六种，唯佛一道，是于正道；其余九十五种，名为邪道。朕舍邪外，以事正内。。。其公卿百官侯王宗室，宜反伪就真，舍邪入正。”（《广弘明集》卷四）这道诏令，无异正式宣布佛教为国教，一时朝野上下，佞佛成风。但也就在诏令颁发后不久，范缜不顾他被流放的不利处境，将《神灭论》充实完善，修订定稿，并在亲友中传播，再一次向佛教发出了挑战。
为了不让范缜的《神灭论》在更大的范围流传，当时最高的僧官大僧正法云上书给梁武帝说：“范缜所著《神灭论》，群僚尚不知道它的观点，先以奏闻。”提醒梁武帝萧衍用皇帝的威严压服范缜。萧衍欲崇尚佛教，当然也必须搬开《神灭论》这块绊脚石。但为了表示他的宽宏大量，他首先解除了对范缜的流放，将他召回京师建康，并授以中书郎和国子博士的官衔。紧接着，梁武帝又布置了对范缜的围攻。为了确保一举成功，他颁布了《敕答臣下神灭论》的诏书，为这次围攻的总动员令。他在诏书中首先定了神不灭的调子。诏书说：“观三圣设教，皆云神不灭。”同时，训斥范缜“不求他意，妄作异端”，“违经背亲，言语可息”。并引经据典，说灵魂不灭在儒家经典里是有记载的。据《礼记·祭义》说，只有孝子才能使死去的亲人享受祭品。《礼记·礼运》说，如果在祭祀前三天进行斋戒沐浴，就能见到所祭祀的鬼神。但是，为了表明自己并非以势压人，梁武帝又虚伪地把这次围攻加上学术讨论的装潢，他说：“欲谈无佛，应设宾主，标其宗旨，辨其长短，来就佛理以屈佛理，则有佛之义既踬，神�