Roger Sterling is een veteraan van de Amerikaanse marine die in de Tweede Wereldoorlog heeft gediend, onder meer in de Slag om Okinawa.
De naam “Sterling” in de naam van het bedrijf verwijst naar Rogers vader en niet naar Roger. Zijn vader was de oudste partner in het bedrijf, vandaar dat zijn naam vóór die van Bertram Cooper (Robert Morse) komt. Een foto in het kantoor van Cooper toont Roger als kind naast Cooper als jong volwassene. In dezelfde scène verwijst Cooper naar de foto en noemt Roger “Peanut,” wat aangeeft dat Roger Cooper al bijna zijn hele leven kent. In seizoen 2 zegt Bertram Cooper dat “wijlen mevrouw Cooper” Sterling heeft voorgesteld aan zijn vrouw, Mona (gespeeld door Slattery’s echtgenote, Talia Balsam), van wie Sterling aan het scheiden is ten gunste van Don’s vroegere secretaresse, de 20-jarige Jane Siegel (Peyton List). De zus van Bertram Cooper, Alice Cooper, paste op Sterling toen hij een kind was.
Sterling is een beruchte rokkenjager en een zware roker en drinker (hij leeft alsof hij “met verlof aan wal” is) totdat twee hartaanvallen in hetzelfde jaar hem dwingen het rustiger aan te doen, althans voor een tijdje. Hij behoudt een aanzienlijke genegenheid, zowel van de werknemers van Sterling Cooper (met wie hij veel meer contact heeft dan met Bert Cooper) als van zijn familie. In 1962 is Sterling weer aan het werk en neemt hij zijn oude gewoonten weer op. Talrijke afleveringen in het derde seizoen suggereren dat hij echt gelukkig is met Jane: hij wijst bijvoorbeeld een oude vlam af die probeert hun relatie nieuw leven in te blazen.
Mona hertrouwt later, wat Roger boos maakt op de herdenkingsdienst van zijn moeder wanneer ze haar nieuwe echtgenoot meebrengt naar het evenement. Roger en Mona krijgen een dochter, Margaret (Elizabeth Rice), die verwend en veeleisend is. Zij trouwt met een zeer geschikte jongeman, Brooks Hargrove (Derek Ray), van dezelfde klasse en sociale klasse waarin zij is opgevoed. Het huwelijk wordt per ongeluk gepland op 23 november 1963, de dag nadat president John F. Kennedy is vermoord. Margaret heeft dan een zoon, Ellery, en ziet haar vader regelmatig om geld te vragen. Naarmate de jaren zestig vorderen, gaat Margaret echter “aan, stemt af, en haakt af”.
Ze loopt weg van haar familie en verhuist naar een gemeenschappelijke boerderij in het noorden van New York, waar ze een tuin heeft, in een krakkemikkig oud schuurhuis woont, en promiscue seks heeft en weinig doucht met andere leden van de commune. Ze wijst de pogingen van Roger en Mona af om haar terug naar huis te brengen, waarbij ze Roger in zijn gezicht terugslaat dat hij haar in de steek heeft gelaten, zodat zij nu op haar beurt haar zoon in de steek kan laten. Roger en Mona verstoten Margaret effectief, en helpen hun kleinzoon op te voeden, en zijn te zien als ze met hem naar de Apollo maanlanding kijken.
De serie verkent periodiek de romantische spanning tussen Roger en zijn voormalige minnares, Joan Holloway (Christina Hendricks). Hun gevoelens voor elkaar bereiken een hoogtepunt nadat ze op een avond onder schot worden overvallen. Overmand door emoties en opwinding hebben Roger en Joan seks in een achteraf steegje, en Joan raakt zwanger van deze ontmoeting. Hoewel zij en Roger aanvankelijk erkennen dat ze het kind niet kunnen krijgen en Joan een abortus laat doen, is Joan in de seizoensfinale van gedachten veranderd en vertelt ze haar man Greg (Samuel Page) over de zwangerschap, maar niet dat Roger verantwoordelijk was. Ondertussen valt het huwelijk van Roger en Jane uit elkaar.
Ze snauwen elkaar voortdurend af, en het enige wat Roger ooit tegen haar zegt is hoe goed ze eruit ziet. Na het nemen van LSD met Jane, komen ze eindelijk tot het besef dat hun huwelijk voorbij is. Na zijn LSD-trip begint Roger zijn werk en leven serieuzer te nemen. Zijn relatie met zijn beide ex-vrouwen lijkt redelijk goed te gaan, vooral met Mona, die hem helpt om zakelijke relaties op te bouwen, zelfs na hun scheiding.
Nadat Greg en Joan uit elkaar gaan, probeert Roger de zoon van hem en Joan, Kevin, financieel te steunen, maar Joan, bang voor het stigma dat Kevin zou krijgen als bekend zou worden dat hij het product is van een ongeoorloofde affaire, weigert. Aan het eind van de serie vraagt Roger echter opnieuw dat Joan hem toestaat zijn landgoed te verdelen tussen zijn kleinzoon Ellery en zijn zoon Kevin, om er zeker van te zijn dat er voor hem wordt gezorgd na Roger’s dood.
Wanneer Don een vernederende fout voor het bedrijf veroorzaakt door dronken zijn ware verleden toe te geven tijdens een presentatie aan de chocolade-medewerkers van Hershey, is Roger het met Joan, Bert, en Louis eens dat Don een lang verlof moet nemen om wat dingen voor zichzelf uit te zoeken. Daarna, zo spreken de partners af, zullen zij Don’s lot bepalen binnen het bedrijf, inclusief de mogelijkheid van zijn ontslag. Roger maakt echter heimelijk afspraken om Don te behouden, waarschijnlijk uit wroeging voor soortgelijk gedrag dat de firma een rekening bij Honda kostte, waarbij hij in een anti-Japanse tirade uitbarst.
Wanneer Don trouwt met zijn secretaresse Megan Calvet (Jessica Paré), ontmoet Roger haar moeder Marie (Julia Ormond), en de twee hebben een korte maar intense affaire. Wanneer Marie laat in seizoen 7 terugkomt om Megan te helpen verhuizen uit het Draper appartement, belt ze Roger voor hulp bij het vereffenen van de rekening met de verhuizers. Op aandringen van Marie hervatten de twee hun relatie. Ze trouwen kort daarna en worden voor het laatst samen gezien in een café in Parijs aan het einde van de serie.