Nama Sami Khedira melambung saat ia membela klub VfB Stuttgart. Dari klub tersebut, ia kemudian ditarik ke raksasa LaLiga Spanyol, Real Madrid. 

Di Real Madrid, Sami Khedira selama beberapa musim menjadi pilihan utama untuk posisi gelandang tengah dan bertahan. Total, ia mencatatkan 161 penampilan dengan torehan 9 gol dan 13 assist. Khedira ikut membawa Real Madrid merebut gelar Liga Champions ke-10 di bawah Ancelotti. 

Ketika perannya mulai tergusur di Real Madrid, Sami Khedira kemudian melanjutkan kariernya di tim Italia, Juventus. Di klub asal Kota Turin tersebut, Sami Khedira juga menggapai kesuksesan dengan merebut lima gelar scudetto beruntun. Total, Khedira mencatatkan 145 penampilan bersama Si Nyonya Tua.