בשנת 2003 נבחר לראשונה לכנסת ה-16 ברשימת הליכוד וכיהן כיו"ר הקואליציה בתקופת ממשלת שרון השנייה. בבחירות המקדימות בקרב חברי הליכוד ב-2008, לקראת הכנסת ה-18, נבחר סער למקום השני ברשימה, אחרי יושב ראש המפלגה, בנימין נתניהו. עם הקמת הממשלה בראשות נתניהו ב-2009, מונה לשר החינוך וכיהן בתפקיד עד 2013.
לקראת הבחירות לכנסת התשע עשרה, ב-2012 הוצב סער במקום ה-3 ברשימת מועמדי "הליכוד ישראל ביתנו" לכנסת, אחרי בנימין נתניהו ואביגדור ליברמן. במרץ 2013 מונה לשר הפנים. במסגרת תפקידו זה החליט סער להאריך את שעון הקיץ בישראל עד חודש אוקטובר, זאת בעקבות המלצות שגיבשה ועדה שהקים.
במאי 2013 נשא גדעון סער לאישה את אשת התקשורת גאולה אבן.