Ông làm quan đến chức Hàn lâm viện Thị thư kiêm Đông các Đại học sĩ. Sau đó, lại ra làm quan với nhà Mạcvà được cử đi sứ sang nhà Minh(Trung Quốc) để cầu phong choMạc Đăng Dung. Khi trở về, ông được thăng Thượng thư Bộ Lễkiêm Hàn lâm viện Thị độc, Chưởng viện sự, tước Trung Phụ bá. Khi mất được tặng tước hầu. Thân phụ của ông là tiến sĩNguyễn Giản Liêm(1453-?).
Giai thoại kể lai như sau: Lúc Nguyễn Giản Thanh còn đi học, thầy học làĐàm Thận Huy, thấy học trò sắp ra về thì trời đổ mưa to, học trò không về được, thầy bèn ra vế đối để thử tài học trò:
Vũ vô kiềm tỏa năng lưu khách (雨無鈐鎖能留客 – Mưa không có then khóa mà có thể giữ được khách).
Nguyễn Giản Thanh liền đối lại là:
Sắc bất ba đào dị nịch nhân (色不波濤易溺人 – Cái sắc đẹp của phụ nữ, không phải là làn sóng nổi, nhưng dễ nhận chìm người).
Thầy Đàm Thận Huy nói:
Câu đối này thật hay và thật chỉnh, văn khí này có thể đậu Trạng nguyên, nhưng về sau coi chừng việc sắc dục làm hại sự nghiệp.
Tương truyền, Nguyễn Giản Thanh chỉ đậu bảng nhãn còn Hứa Tam Tỉnh (làng Ngọt) đậu trạng nguyên. Trong buổi lễ ra mắt vua, các tân khoa phải làm một bài phú dâng tặng vua và hoàng thái hậu (mẹ của vua). Hoàng thái hậu thấy Hứa Tam Tỉnh dung mạo xấu xí thì không ưng lắm, trong khi đó Nguyễn Giản Thanh khuôn mặt khôi ngô thanh tú nên bà muốn cân nhắc ông lên làm trạng nguyên. Vua vì muốn chiều lòng mẹ nên đánh giá bài phú của Nguyễn Giản Thanh cao hơn và trao danh hiệu trạng nguyên cho ông. Do đó dân gian có câu Trạng (làng) Me đè trạng (làng) Ngọt.