Nghệ An là một vùng đất có lịch sử định cư lâu đời. Các di chỉ thuộc Văn hóa Quỳnh Văn thuộc thời kỳ đồ đá mới được phát hiện tại Quỳnh Lưu vào những năm 1930 cho thấy khu vực này đã được định cư bởi nhóm cư dân ven biển biết làm đồ gốm, thuần dưỡng súc vật cách đây khoảng 6000 năm. Giai đoạn hậu đồ đá mới có cách di chỉ như Hang Thẩm Hoi, hang Đồng Trương... Nghệ An cũng là địa bàn sinh sống của cư dân Đông Sơn với di chỉ Làng Vạc. Tại đây vào năm 1991, phát hiện được tổng cộng 347 ngôi mộ. Làng Vạc là khu mộ táng lớn nhất, có mật độ cao nhất trong văn hóa Đông Sơn.
Theo cổ tích Hùng Vương thì vùng Nghệ An và Hà Tĩnh vốn thuộc nước Việt Thường, kinh đô là vùng chân núi Hồng Lĩnh. Đến thời Hùng Vương thì trở thành bộ Hoài Hoan và bộ Cửu Đức trong 15 bộ của nước Văn Lang.
Đầu thời kỳ Bắc thuộc, vùng đất Nghệ An lần lượt thuộc các quận Cửu Chân, Cửu Đức của Nhà Hán, nhà Đông Ngô, nhà Tấn và Lưu Tống. Đến nhà Lương (502-557) thì chia đặt làm Đức Châu, Lỵ Châu và Minh Châu.
Năm 598, nhà Tùy đổi Đức Châu làm Hoan Châu, Lỵ Châu làm Trí Châu. Năm 607 thì hợp cả Minh Châu, Trí Châu và Hoan Châu thuộc quận Nhật Nam. Năm 618, nhà Đường chia quận Nhật Nam làm Đức Châu, Lạo Châu, Minh Châu và Hoan Châu. Năm 627 thì đổi Đức Châu lại làm Hoan Châu, còn Hoan Châu cũ thì đổi làm Diễn Châu.
Trong thế kỷ VIII, Nghệ An là địa bàn chính của khởi nghĩa Mai Hắc Đế chống lại Nhà Đường. Ông xây thành Vạn An ở Sa Nam (Nam Đàn).
Trong thời kỳ độc lập tự chủ, Nhà Ngô, Nhà Đinh và Nhà Tiền Lê đều gọi là Hoan Châu.
Nhà Lý thì đổi làm trại gọi là Nghệ An châu trại. Năm Thiên Thành thứ 2 (1030) đổi tên là Nghệ An châu, mà Diễn Châu thì đứng riêng làm một châu.
Năm 1285, trước họa xâm lăng của quân xâm lược Nguyên Mông, vua Trần Nhân Tông đã dựa và nguồn nhân lực hùng hậu của vùng đất này.
Năm 1375, nhà Trần lập ra Diễn Châu Lộ, chia Hoan Châu làm 4 lộ: Nhật Nam, Nghệ An Nam, Nghệ An Bắc, Nghệ An Trung (còn gọi là Nghệ An Phủ).
Năm 1397, đời Trần Thuận Tông, đổi trấn Nghệ An làm trấn Lâm An và đổi trấn Diễn Châu làm trấn Vọng Giang.
Đời Hồ Hán Thương, năm Khai Đại 1 (1403) đổi trấn Diễn Châu làm phủ Linh Nguyên.
Trong cuộc kháng chiến chống quân xâm lược Nhà Minh, năm 1424, Lê Lợi tiến quân vào xứ Nghệ, lập đại bản doanh ở đây trong 4 năm. Nhà Lê năm 1428 lập đạo Hải Tây, sau đặt làm Nghệ An thừa tuyên. Năm 1490 đổi làm Xứ Nghệ.
Trong thời kỳ Nội chiến Lê Mạc, Nghệ An là địa bàn tranh giành ác liệt giữa Nhà Mạc và Nhà Lê. Nhà Mạc thường xuyên dùng thủy quân tiến công bọc hậu vào địa bàn Thanh Hóa của các vua Lê. Năm 1535, Mạc Đăng Lượng và em Mạc Đăng Hào đưa hơn một vạn quân vào trấn thủ đất Hoan Châu.
Đến thời Nhà Tây Sơn, xứ Nghệ được đổi làm Nghĩa An trấn. Hoàng đế Quang Trung còn cho xây Phượng Hoàng Trung Đô ở thành phố Vinh ngày nay, với ý định đặt thủ đô của Việt Nam tại đây, thay thế kinh đô Phú Xuân. Tuy nhiên dự án này chìm vào quên lãng khi ông qua đời.
Năm đầu niên hiệu Gia Long lại đặt làm Nghệ An trấn.
Năm 1831, vua Minh Mệnh chia trấn Nghệ An thành 2 tỉnh: Nghệ An (phía Bắc sông Lam); Hà Tĩnh (phía nam sông Lam). Sau đó hai tỉnh Nghệ An và Hà Tĩnh sáp nhập lại, lấy tên là tỉnh An Tĩnh.
Trong thời kỳ thuộc địa, người Pháp đã cắt một số các phủ huyện thuộc tỉnh Nghệ An và Hà Tĩnh thuộc xứ Trung Kỳ cho Lào thuộc Pháp vào các năm 1895 và 1903, bao gồm các vùng: phủ Trấn Biên (khoảng phía Đông Nam tỉnh Hủa Phăn), phủ Trấn Ninh (Xiêng Khoảng), (phủ Trấn Định (Borikhamxay, Khăm Muộn)...
Xứ Nghệ là nơi ghi dấu ấn đầu tiên của truyền thống đấu tranh cách mạng vô sản ở Việt Nam với cao trào Xô viết Nghệ Tĩnh 1930-1931, mở đầu cho cách mạng vô sản trong cả nước. Nghệ Tĩnh cũng là quê hương của nhiều chí sĩ như Phan Bội Châu, Nguyễn Xuân Ôn, Đặng Thái Thân, Phan Đình Phùng; các lãnh đạo Cộng sản như Hồ Chí Minh, Nguyễn Thị Minh Khai, Lê Hồng Phong, Hà Huy Tập, Trần Quốc Hoàn, Nguyễn Phong Sắc, Nguyễn Duy Trinh...
Nghệ An có truyền thống hiếu học, có nhiều dòng họ, nhiều làng học nổi tiếng, là cái nôi sản sinh cho đất nước nhiều danh tướng, lương thần, nhiều nhà khoa học, nhà văn hoá có tầm cỡ quốc gia và quốc tế. Số người Nghệ Tĩnh đậu đại khoa thời phong kiến (tiến sĩ trở lên) xếp thứ 4 toàn quốc (sau Hải Dương, Bắc Ninh, Hà Nội).
Sau năm 1954, tỉnh Nghệ An có tỉnh lị là thị xã Vinh và 12 huyện: Anh Sơn, Con Cuông, Diễn Châu, Hưng Nguyên, Nam Đàn, Nghi Lộc, Nghĩa Đàn, Quỳ Châu, Quỳnh Lưu, Thanh Chương, Tương Dương, Yên Thành.
Ngày 17 tháng 5 năm 1961, chia huyện Tương Dương thành 2 huyện: Tương Dương và Kỳ Sơn.
Ngày 19 tháng 4 năm 1963, chia huyện Anh Sơn thành 2 huyện: Anh Sơn và Đô Lương; chia huyện Quỳ Châu (cũ) thành 3 huyện: Quỳ Châu, Quỳ Hợp và Quế Phong; thành lập huyện Tân Kỳ từ một phần 2 huyện Nghĩa Đàn và Anh Sơn; chuyển thị xã Vinh thành thành phố Vinh.
Từ năm 1976 đến 1991, Nghệ An và Hà Tĩnh là một tỉnh và được gọi là tỉnh Nghệ Tĩnh.
Năm 1991, tỉnh Nghệ Tĩnh lại tách ra thành Nghệ An và Hà Tĩnh như ngày nay. Khi tách ra, tỉnh Nghệ An có 18 đơn vị hành chính gồm thành phố Vinh (tỉnh lị) và 17 huyện: Anh Sơn, Con Cuông, Diễn Châu, Đô Lương, Hưng Nguyên, Kỳ Sơn, Nam Đàn, Nghi Lộc, Nghĩa Đàn, Quế Phong, Quỳ Châu, Quỳ Hợp, Quỳnh Lưu, Tân Kỳ, Thanh Chương, Tương Dương, Yên Thành.
Ngày 13 tháng 8 năm 1993, thành phố Vinh được công nhận là đô thị loại II.
Ngày 29 tháng 8 năm 1994, thành lập thị xã Cửa Lò trên cơ sở tách một phần diện tích và dân số của huyện Nghi Lộc.
Ngày 15 tháng 11 năm 2007, thành lập thị xã Thái Hòa trên cơ sở tách một phần diện tích và dân số của huyện Nghĩa Đàn.
Ngày 5 tháng 9 năm 2008, Thủ tướng Chính phủ ban hành Quyết định số 1210/QĐ-TTg công nhận thành phố Vinh là đô thị loại I.
Ngày 3 tháng 4 năm 2013, thành lập thị xã Hoàng Mai trên cơ sở tách một phần diện tích và dân số của huyện Quỳnh Lưu.
Tỉnh Nghệ An có 1 thành phố, 3 thị xã và 17 huyện như hiện nay.
