遂川县原名龙泉县，相传“有二龙戏于武陵泷（草林冲），土石崩裂，后人因以为龙泉”。夏商属古扬州地域南境。春秋战国，先后属吴、越、楚3国。秦属九江郡。汉属豫章郡庐陵县。东汉初平二年（191），立南部都尉置庐陵郡，属扬州刺史部。建安四年（199）孙策定庐陵郡，建县名曰“遂兴”，此为建县之始。三国时，属吴国领地，嘉和四年（235）吴大帝改遂兴为“新兴”，隶属庐陵郡。南北朝沿袭晋制。隋开皇十年（590）废遂兴等6县，置安丰县，遂兴为其一。次年改安丰为泰和县。唐袭隋制。南唐保大元年（943），析泰和龙泉乡什善镇置龙泉