Jim Parker, ein Outland-Trophy-Gewinner von der Ohio State University, war von den Baltimore Colts 1957 in der ersten Runde des Drafts verpflichtet worden und stieg schnell zu einem dominanten Linemen der Liga auf. Parker, der sowohl als Guard wie als Tackle spielte, war vor allem für sein herausragendes Run-Blocking bekannt. Parkers Teamkollege Lenny Moore erinnerte sich später: «Als Running Back musste ich mir damals nur eines merken: Dort wo Jimmy ist, ist ein riesiges Loch für mich.»

Aber auch im Pass-Blocking setzte Parker neue Standards. Zwar hatte er am College in einer lauforientierten Offense kaum für den Pass geblockt, doch der Schutz von Quarterback Johnny Unitas hatte für den damaligen Colts-Head Coach Weeb Ewbank höchste Priorität. Und Parker war hochmotiviert, die Anweisung seines Coaches umzusetzen, wie er einmal erklärte: «Coach Ewbank sagte ganz zu Beginn meiner Karriere zu mir: "Du wirst der unbeliebteste Spieler in der Stadt sein, wenn Du es zulässt, dass unser Quarterback verletzt wird." Diese Aussicht war mir Motivation genug, auch beim Passpiel so gut zu spielen, wie niemand anders, denn ich wollte nicht der unbeliebteste Spieler in der Stadt sein.»

Die Baltimore Colts gehörten auch dank der von Parker angeführte Offensive Line in den 1950er und 1960er Jahren zu den explosivsten Offenses der NFL-Geschichte: Das Trio Unitas, Moore und Wide Receiver Raymond Berry versetzt auch heute noch viele ältere Football-Fans ins Schwärmen. 1958 und 1959 gewann Parker mit den Colts zweimal die NFL-Meisterschaft, das Endspiel von 1958 gegen die New York Giants wird noch heute zu den besten Spielen der NFL-Geschichte gezählt.

Während seiner Karriere wurde Jim Parker zwischen 1958 und 1965 achtmal in Folge ins All-Pro-Team gewählt. Ebenfalls achtmal – viermal als Tackle, viermal als Guard – wurde er in die Pro Bowl berufen. 1967 zog sich Jim Parker einer Knieverletzung zu und musste wenig später seinen Rücktritt erklären.

Sechs Jahre nach seinem Rücktritt wurde Jim Parker 1973 als erster Fulltime Offensive Linemen in die Hall of Fame aufgenommen, beim 75-Jahr-Jubiläum der NFL wurde er als Guard ins Alltime-Team gewählt.