Efter att precis ha klarat sig undan nedflyttning i klubbens två första säsonger i högsta divisionen klättrade laget i tabellen och slutade på sjätte plats säsongen 1969/70 vilket gav en plats i Mässcupen. Neil Martin blev lagets bäste målskytt med 14 mål och nyförvärvet från Ipswich, John O’Rourke, gjorde elva. Andra viktiga spelare i laget var målvakten Bill Glazier, högerbacken Mick Coop, mittbacken Jeff Blockley, mittfältaren Willie Carr och anfallaren Ernie Hunt. Inför säsongen 1970/71 förstärktes laget med ytterbacken Wilf Smith från Sheffield Wednesday och den mångsidige Geoff Strong från Liverpool. Coventry slutade tia i ligan och i Mässcupen slog man ut bulgariska Botev Plovdiv i första omgången, men åkte sedan ut mot Bayern München efter att ha förlorat första matchen med 6–1. I september 1971 värvades Ian St John från Liverpool, men trots det sjönk laget till artonde plats i tabellen.
Hemmastället bestod av ljusblå tröjor med mörkblå och vit hals och muddar, ljusblå byxor och mörkblå strumpor. Ett nytt klubbmärke bestående av en elefant och ett slott med en fotboll under introducerades 1969. Som reservställ användes en grönsvartrandig tröja med svarta byxor och strumpor.
