刘馥在东汉末年曾到扬州避乱，后在建安初年劝服袁术将领戚寄和秦翊带着部队一起去投奔曹操。曹操非常高兴，任命他为司徒府掾属。
公元200年(建安五年)，讨逆将军孙策命其所属的庐江太守李述攻杀了曹操所属的扬州刺史严象，而梅干、雷绪和陈兰等庐江人在江淮之间聚数万人，当地郡县都因江淮地区局势混乱而残破荒废。当时，曹操正专注于在官渡之战中对抗袁绍，难以抽身，认为刘馥可以稳定东南地区，于是表奏刘馥为扬州刺史。刘馥受命后，单枪匹马来到合肥空城，在那里建立了扬州的新治所(原治所在历阳);同时安抚和稳住梅乾和雷绪等地方武装势力，使他们安心驻扎，其后他们也陆续归顺，且向朝廷缴纳贡赋。刘馥在任的数年期间，在当地大行恩惠与教化，百姓非常满意他的治理措施，有数万名以前因避乱而到附近州郡流浪的江淮人又都回到原居地。随着人口渐长，刘馥又汇聚儒人雅士，兴办学校和进行大规模屯田，修建芍陂、茄陂、七门、吴塘等土坝蓄水灌溉稻田，使官府和百姓都有了粮食储备。他又建筑高城垒作守护，积聚木石、以草和棕榈叶编织大量草苫、储存数千斛鱼膏等作为作战防御准备。
公元208年(建安十三年)，刘馥逝世。公元209年(建安十四年)，孙权进攻合肥，发动第一次合肥之战。孙权围城百余日而未能攻破，但不久后连日下雨令到城墙快要崩塌，守军于是用草苫盖著城墙，而夜晚则点燃鱼膏照明，观看孙军有何行动以作防备。孙权无法攻陷，同时扬州别驾蒋济设计迷惑孙权，使其以为张喜援军快到，最终孙权不得不退军。扬州士民因而更加追念刘馥，更认为春秋时尽力防守自己建造的晋阳城的董安于的功绩也无法与刘馥相比。而刘馥所建的土坝和池塘，后世都一直沿用。刘馥及继任的扬州刺史温恢，与当时的兖州刺史司马朗、并州刺史梁习、豫州刺史贾逵、凉州刺史张既等六位刺史被陈寿载入三国志，合为一传叙述，赞颂其等是当时所有州刺史中“精达事机，威恩兼著，故能肃齐万里”的典范。