Từ năm Minh Mạng thứ 16 (1836), Phấn Mễ là một xã của tổng Động Đạt, huyện Phú Lương.

Sau Cách mạng tháng 8 năm 1945, Phấn Mễ là một trong 12 xã của huyện Phú Lương.

Đến năm 2005, xã Phấn Mễ được chia thành 26 xóm: Tràng Học, Giá 1, Giá 2, Mấu 1, Mấu 2, Làng Trò, Tân Hòa, Làng Mai, Mỹ Khánh, Bò 1, Bò 2, Bún 1, Bún 2, Giang 1, Giang 2, Phú Sơn, Làng Hin, Bầu 1, Bầu 2, Cọ 1, Cọ 2, Phú Yên, Lân 1, Lân 2, Hoa 1, Hoa 2.

Ngày 13 tháng 12 năm 2013, chuyển 388,08 ha và 1.744 người của xã Phấn Mễ vào thị trấn Đu quản lý. Xã Phấn Mễ còn lại 2.142,92 ha diện tích tự nhiên và 9.072 người[3] và 22 xóm.

Ngày 23 tháng 7 năm 2019, sáp nhập hai xóm Bò 1 và Bò 2 thành xóm Làng Bò, sáp nhập hai xóm Giá 2 và Mấu 1 thành xóm Phố Giá Dộc Mấu, sáp nhập xóm Phú Yên vào xóm Cọ 1.[4] Xã Phấn Mễ có 19 xóm như hiện nay.