在小说《三国演义》中，徐庶虽然出现的时间极短，但是地位却是极为重要，甚至有人认为徐庶的才能与诸葛亮、庞统等人相差无几；而后来徐庶为了救母而不得不离开刘备而去投靠曹操，更是让无数人对徐庶这个悲壮的孝子充满着好感。但最为关键的是，徐庶离开刘备后，发誓不对曹操献一计一策，从而被认为是与关羽齐名的忠臣。
但徐庶究竟是一个什么样的人呢？徐庶原名徐福，出生寒门，早年乃是一个游侠儿，后为替人报仇而被官府所擒，但侥幸被朋友所救走；经历了这次事情后，徐福也是知道了一人之力的渺小，于是不再舞枪弄棒，一改自己平时的气节去求学。后由于中原常年战乱，故而去了相对和平的荆州，并与诸葛亮等人成了好友。
后来徐庶想去投靠荆州牧刘表，但是见到刘表后觉得刘表善恶不分，于是留书一封与之辞别，前往司马徽那里倾诉，被司马徽称有王佐之才。刘备跃马檀溪回新野之后，徐庶在司马徽的指引下，于市井上刘备的回城路上放声长歌，表达自己想要择明主而仕的意愿。刘备听到歌声后前往接见徐庶，并拜徐庶为军师。
曹操得知刘备于新野驻军，派遣曹仁率领大军前来攻打，徐庶用计遣张飞、赵云大破曹仁前锋，并将吕旷、吕翔斩杀。后曹仁亲自点兵前来，李典又被赵云杀败，曹仁于是摆八门金锁阵，但是徐庶很快识破阵中破绽，派遣赵云率领五百军士将前往破阵，杀败曹仁。曹仁不甘失败，决定晚上前来劫寨，但又被徐庶算到，曹仁大败而归，徐庶又设计夺取了樊城。
三次击败曹仁，这就是全书关于徐庶才能的描写了，总的来说，徐庶的才能还是挺强的，但也还没有到如同诸葛亮那般“逆天”的地步，但却挡不住后人对徐庶才能的猜测啊，尤其是徐庶破曹仁的八门金锁阵时，那真是厉害了。但这还不足以让徐庶名声大振，真正助长徐庶的名气的还是曹操。
曹操得知刘备用徐庶为军师之后，在程昱的建议下，先将徐庶的母亲掳至许昌，后程昱模仿徐庶母亲的笔记给徐庶写了一封信，徐庶见是母亲亲笔书信，向刘备告别，临走之前向刘备推荐南阳诸葛亮，自己只身前往许昌。徐庶到许昌见了母亲之后才得知自己被骗，徐母在斥责徐庶之后自杀，徐庶也发誓终生不为曹操献一计一策。
“徐庶进曹营”后与“关羽降曹”事件演化为成语“身在曹营心在汉”，意思是身子虽然被迫在对立的一方，但心里想着自己原来所在的一方。而曹操也是拿徐庶无可奈何，本来徐庶就是被迫来投的，而且自己也的确理亏，所以也就任由徐庶去了，就当是养了一个闲人。
也不知道曹操是什么心思，在赤壁之战的时候，竟然将徐庶也带在了身边；庞统向曹操所献的连环计被徐庶一眼就看穿了，但由于暗恨曹操逼死了自己的母亲，故而徐庶并没有向曹操说明；并且徐庶还在庞统的指引下，在曹营制造谣言说西凉马腾、韩遂造反，杀奔许昌。
此时曹操大军皆在赤壁，后方空虚，听到这个不知真假的消息也是方寸大乱，在曹操无计可施之际，徐庶当即向曹操请命，领三千兵马，以臧霸为先锋，星夜离开赤壁。为何要带走臧霸？因为这臧霸原本是吕布的部下，对吕布也是极为忠诚，在吕布死后，臧霸被迫降曹，但对曹操也是不肯用心，乃是有名的“懒泼将军”。
为何说这条计策是一条毒计呢？其实也很好理解，原本以曹操的智慧，只要缓下来细细琢磨，就会发现连环计的漏洞，但此时徐庶却造谣说后方马腾、韩遂造反，这就让曹操方寸大乱，想尽快结束战争去回防，也就没有细想连环计的事情了；所以虽然徐庶并不是导致曹操失败的主谋，却也是帮凶，至于小说中的徐庶后来结局如何，就不得而知了。不过有野史传闻，徐庶后来在灵山东北海上的鼓子洋岛隐居了起来。