Davidson fu scelto come quinto assoluto nel Draft NFL 1954 dai Baltimore Colts.[2] Oltre a giocare come quarterback, fu anche un placekicker e un punter. Membro originario della franchigia dei Dallas Texans, fu il primo quarterback titolare della storia della squadra.
Il 2 luglio 1962, i Texans firmarono Len Dawson, chiudendo la sua carriera come quarterback di Dallas. Dopo la prima partita della stagione 1962 fu scambiato con gli Oakland Raiders per la prima scelta assoluta del Draft AFL 1963, che i Chiefs utilizzarono per scegliere il futuro Hall of FamerBuck Buchanan. Due settimane dopo, Davidson disputò la prima gara come titolare per i Raiders. Contro la sua ex squadra, passò 248 yard e segnò un touchdown su corsa nella sconfitta per 26-16 contro i Texans.
Davidson fu convocato per due volte per l'All-Star Game della AFL: nel 1961 e nel 1963, venendo premiato come miglior giocatore della partita nella prima occasione. Il suo record come titolare fu di 19-33-1.