Bereits am College zeigte Carl Eller, welch grosse NFL-Karriere ihn erwarten würde: Sowohl 1962 wie 1963 wurde der Defensive End der University of Minnesota einstimmig zum All-American gewählt. Im Draft von 1964 wurde er deshalb sowohl von den Minnesota Vikings wie auch von den Buffalo Bills aus der konkurrierenden AFL in der ersten Runde ausgewählt. Eller beschloss, in Minnesota zu bleiben und wurde bereits als Rookie zum Starting Defensive End der Vikings, eine Position, welche er für 15 Saisons innehaben sollte. Mit Jim Marshall, Alan Page und Gary Larsen bildete Eller in der Folgezeit eine der besten Defensive Lines in der Geschichte des Footballs: die «Purple People Eater».

Eller war für seine Grösse extrem schnell und beweglich und war dadurch nicht nur ein hervorragender Blocker gegen den Lauf, sondern auch einer der besten Passrusher der Liga: Zwischen 1975 und 1977 erzielte er fantastische 44 Sacks, welche nur deshalb nicht Eingang in die Rekordbücher fanden, weil Sacks erst 1982 zur offiziellen Statistik erhoben wurden. Eller wurde auch gerne in den Special Teams eingesetzt und blockte mehrere Field Goals. Ausserdem konnte er während seiner Karriere 23 Fumbles erobern. Seinen berühmtesten Fumble schlug er 1964 in einem Spiel gegen die San Francisco 49ers frei: Der Ball wurde von Kollege Jim Marshall aufgenommen und in die Endzone zurückgetragen – allerdings in die falsche, in die der Vikings nämlich. Glücklicherweise gewannen die Vikings die Partie trotz dieses geschenkten Safetys.

Die «Purple People Eater» waren in den 1960er und 1970er Jahren die Basis des Erfolges der Minnesota Vikings: In 10 von Ellers 15 Saisons mit den Vikings gewannen diese den Divisionstitel, viermal stiessen sie gar bis in die Super Bowl vor. Einen Super Bowl-Ring allerdings konnte Eller nie erringen, alle Endspielteilnahmen gingen verloren. An Ehrungen fehlte es ansonsten nicht: 1971 wurde Eller zum Defensive MVP der Liga gewählt, fünfmal wurde er ins All-Pro-Team berufen und sieben Mal spielte er in einer Pro Bowl.

Nach einer letzten Saison mit den Seattle Seahawks erklärte Carl Eller 1979 nach 225 Regular Season-Spielen seinen Rücktritt. Er kämpfte in der Folge mit seiner Medikamenten-Abhängigkeit, konnte diese aber überwinden. 2004 wurde er schliesslich in die Hall of Fame gewählt.