Thượng tướng Phạm Quý Ngọ theo học tại trường Đại học Cảnh sát nhân dân. Ngày 19.4.1980, ông được kết nạp Đảng Cộng sản Việt Nam. Hiện tại, Thượng tướng Phạm Quý Ngọ là Ủy viên Ban Chấp hành Trung ương Đảng Cộng sản Việt Nam khóa XI, Thứ trưởng Bộ Công an. Ông Ngọ là Trưởng ban chuyên án điều tra các sai phạm tại Vinalines (Tổng công ty Hàng hải Việt Nam).Trong quá trình hoạt động của mình, ông Ngọ đã được tặng thưởng nhiều huân, huy chương. Trước khi về công tác tại Bộ Công an, ông từng giữ chức Bí thư Đảng ủy, Giám đốc Công an tỉnh Thái Bình, hàm đại tá. Ngày 14.2.2006, ông được bổ nhiệm làm Phó Tổng cục trưởng Tổng cục Cảnh sát nhân dân. Trong thời gian này, ông cũng được thăng quân hàm từ đại tá lên thiếu tướng. Và chỉ sau mấy tháng, đến ngày 11.7.2006, ông Ngọ được đề nghị bổ nhiệm kiêm Thủ trưởng Cơ quan Cảnh sát điều tra - Bộ Công an, thay Thiếu tướng Cao Ngọc Oánh.
Ngày 28.1.2008, ông được Thủ tướng quyết định giữ chức Tổng cục trưởng Tổng cục Cảnh sát nhân dân, Bộ Công an. Từ ngày 1.1.2010, ông được chuyển sang làm Tổng Cục trưởng Tổng cục Cảnh sát Phòng chống Tội phạm. Ngày 12.8.2010, được Thủ tướng Chính phủ bổ nhiệm chức vụ Thứ trưởng Bộ Công an. Ngày 18.1.2011, ông được bầu làm Ủy viên Chính thức Ban Chấp hành Trung ương Đảng khóa XI.
Ngày 22.7.2013, tại Phủ Chủ tịch, Chủ tịch nước Trương Tấn Sang đã trao quyết định thăng cấp bậc hàm Thượng tướng cho 3 cán bộ cao cấp của lực lượng Công an nhân dân. Ông Ngọ vinh dự là một trong 3 cán bộ được thăng cấp bậc đợt này.