Po účinkování v konkurenční PCHA byl klub v roce 1926 jedním ze tří, jenž se za 250.000 dolarů dostali do NHL. Hned v premiérové sezóně 1926-1927 vyhráli Rangers svou divizi s výrazným jedenáctibodovým náskokem a kapitán mužstva Bill Cook se stal nejproduktivnějším hráčem celé soutěže. O rok později Rangers vyhráli jako první americký klub vůbec Stanley Cup, když ve finálové sérii porazili Montreal Moroons 3:2 na zápasy. Ve druhém finálovém střetu si fanoušci vynutili, aby do branky Rangers nastoupil  první trenér a generální manažer klubu čtuřiařtyřicetiletý Lester Patrick. Pustil jen jeden gól! V prodloužení Rangers vyhráli a Patrickovo jméno navždy vešlo do historie klubu. V tak rychlém úspěchu se Rangers žádný jiný tým nemůže rovnat.

Stejný husarský kousek se mužstvu podařil o pět let později. Tehdy Rangers porazili Toronto 3:1 na zápasy. U zisku obou titulů stálo pět hráčů - Bill Cook, Bun Cook, "Ching" Johnson, Frank Boucher, Murray Murdoch a brankář Lorne Chabot, ve své době prakticky největší osobnosti kanadsko-americké NHL, které doplňovaly nové tváře - Babe Siebert, Cecil Dillon, Earl Seibert, Ott Heller a zejména Andy Aitkinhead v brance. Období vlády Lestera Patricka lze také označit za nejúspěšnější v historii klubu.

V roce 1937 se Rangers opět probojovali do pohárového finále, ale svého třetího triumfu se dočkali až v  roce 1940, kdy už na střídačce působil coby trenér Frank Boucher a kdy už bylo jiné i složení týmu. Skvělého Dave Kerra v brance doplňovali další velikáni té doby. Kromě Arta Coultera, Ott Hellera, Philla Watsona, Babe Pratta a Bryana Hextalla to byly i tři bratrské dvojice - Neil a Mac Colvilleové, Lynn a Muzz Patrickové, Mac a Alex Shibickyovi. Tento tým měl šanci dlouho kralovat celé NHL, v níž také v roce 1942 zaujal nejvyšší příčku, ale válka zcela rozmetala jeho řady, a tak se začala pro nové Rangers "černá éra". V letech 1943 - 1946 se čtyřikrát za sebou propadli na samé dno ligové tabulky, a to byl také jeden z důvodů odchodu Lestera Patricka z funkce manažera. V té jej nahradil Frank Boucher, který začal pozvolna budovat nový tým, s nímž se v roce 1950 dokonce probojoval do finále Stanley Cupu. To byl však pouze jeden z mála ojedinělých úspěchů. Téměř po celou dobu "velké šestky" se New York Rangers potáceli mezi pátou a šestou příčkou a celkem pouze sedmkrát postoupili do play-off, když jejich nejlepším ligovým umístěním bylo v roce 1958 druhé místo tabulky. Na relativně úspěšném působení ve druhé polovině padesátých let měli největší podíl vedle brankáře Lorne Worsleye také Andy Bathgate a Bill Gadsby, tři největší osobnosti týmu.

Rangers byli spolu s Bostonem prvními kluby NHL, které se začaly vážněji orientovat na kontakty s evropskými celky. Historickým navždy zůstane jejich měsíční turné po Evropě v roce 1959, kdy newyorské mužstvo odehrálo v šesti západoevropských zemích dvaadvacet exhibičních zápasů. Styky s Evropou vyústily k tomu, že v sezóně 1964-1965 se stal švédský reprezentant Ulf Sterner jedním z prvních Evropanů, který si zahrál v NHL. I když jen ve čtyřech zápasech.

V šedesátých letech se hráčský kádr klubu často měnil a krátce zde působily i takové hvězdy, jako byli Jacques Plante, Doug Harvey, Bernie Geoffrion či Tom Horton a Terry Sawchuk.  S příchodem nového trenéra a manažera Emile Francise - bývalého gólmana Rangers - v roce 1964 se začala karta obracet a klub se pomalu propracovával výše v ligové tabulce. Silný tým začal patřit k vážným aspirantům na nejvyšší pocty a již v roce 1972 hrál ve finále Stanley Cupu. Podlehl však Bostonu 2:4 na zápasy.

Hala Garden hřměla skandováním "Eddie! Eddie!" jako projev ocenění výkonu, jaký podával gólman Eddie Giacomin.V obraně to byli Brad Park a Harry Howell, jenž zde prožil sedmnáct sezón. Tuto éru v historii klubu zdobila výbušná útočná řada ve složení Rod Gilbert, Jean Ratelle a Vic Hadfield. Gilbert a Ratelle do dnešní doby patří mezi střelce týmu Rangers s nejvyššími počty nastřílených gólů. Gilbert jich na svém kontě má 406 a Ratelle 336. Hadfield byl zase prvním hráčem mužstva, který dal 50 gólů v jedné sezóně.

Další osobností celku byl bezesporu Phil Esposito, který však do New Yorku přešel až na ústupu ze své slávy. Právě on byl společně s Vladimírem Petrovem aktérem úvodního vhazování památného zápasu NY Rangers-CSKA Moskva (3:7), který 28. prosince 1975 otevřel první nezapomenutelnou supersérii zápasů klubů NHL se sovětskými mužstvy. Phil Esposito, ani příchod dvou švédských hvězd Hedberga a Nilssona nepřinesly Rangers zlepšení postavení a dokonce od roku 1976 neměl klub zastoupení v nejlepší desítce střelců a nahrávačů soutěže.

V témže roce odešel trenér a manažer E. Francis a začala další z "černých etap" Rangers. V roce 1979 se sice probojovali do finále poháru kde jej poměrem 4:3 na zápasy vyřadil Montreal. Úspěchy z dob Francisova účinkování, tedy druhá místa v celé NHL z let 1968, 1971 a 1972, se již zopakovat nepodařilo.

V All Stars absentovali newyorští v tomto období rovněž povážlivě dlouho. Posledním jejich zástupcem byl v roce 1972 obránce B. Park. Podobná byla situace i v individuálních trofejích.

V dalších deseti letech poznamenaných devíti výměnami na postu trenéra, byli hlavními pilíři celku kapitán Barry Beck a brankář John Davidson. Po jeho odchodu pak John Vanbiesbrouck, který v sezóně 1985-1986 získal Vezinovu trofej pro nejlepšího gólmana. Rok poté, co svými výkony zaujal i na pražském mistrovství světa v dresu USA. Na nevýrazných výkonech nic nezměnily ani rozsáhlé nákupy a prodeje hráčů prováděné manažerem Philem Espositem v letech 86-89.

V roce 1989 se kormidla v klubu Rangers ujal Neil Smith. Smith byl čilým obchodníkem s hráči. Mezi jeho největší získané akvizice patří podepsání Marka Messiera (4.10. 1991) a levého křídelního útočníka Adama Gravese, který v ročníku 1993-94 vstřelil 52 branek a vytvořil tak klubový rekord v počtu nastřílených gólů v jedné sezoně, a překonal tak dřivější Hadfieldův rekord. Fanoušci a spoluhráči si jej však nejvíce cení za jeho vůdcovské kvality.

V sezóně 91-92 se po padesáti letech Rangers prosadili na první místo celkové tabulky NHL a po ročním výpadku v sezóně 1993-94, kdy dokonce nepostoupili do Play-off, se znovu vrátili na trůn NHL a po čtyřiapadesáti letech dokázali vybojovat svůj teprve čtvrtý Stanley Cup.

Do finále proti Vancouveru je poslal gól Stephana Matteaua ve druhém prodloužení sedmého zápasu s New Jersey Devils. Vedle trenéra M. Keenana se na tomto úspěchu nejvíce podílel kapitán týmu Mark Messier, který byl obklopen spoluhráči z Edmontonské dynastie 80.-tých let K. Lowem, G. Andersonem, C. McTavishem, J. Bokeboomem, A. Gravesem a E. Tikannenem. Gólman Mike Richter, obránce Brian Leetch a ůtočník Mark Messier byli skutečnými vůdci týmu.

Dramatická sedmizápasová finálová serie s Vancouverem přinesla vynikající hokej. Rozhodující gól, který Rangers konečně přinesl Stanelyův pohár, dal v posledním zápase série Mark Messier, jenž již pětkrát vybojoval pohár v dresu Edmontonu. Když se Rangers a celé město koupali v žáru nadšení z dlouho očekávaného triumfu ve Stanleyově poháru, hlavní trenér Mike Keenan po skončení série oznámil, že od Rangers odchází a jde k týmu St. Louis Blues. Jeho oznámení zapůsobilo jako výbuch bomby. Na místě hlavního trenéra jej v týmu Rangers vystřídal Colin Campbell.

Od sezóny 96-97 byl tým doplněný o hvězdu největší velikosti, Wayne Gretzkyho. Celá NHL se tak mohla opět těšit na spolupráci dvou velkých hokejových přátel Gretzky-Messier. Výborné výkony obou hráčů přivedli klub až do semifinále Play-off kde zraněními unavený tým podlehl ambiciózním letcům z Philladelphie. Po osmi letech spojené duo trvalo jen krátce. V letní přestávce, pro následující sezónu 97-98 dal Messier přednost lukrativní nabídce Vancouveru Canucks. NY Rangers nato reagovali angažováním zraněními provázaného střelce Patta  Lafontaineho. W.Gretzky zůstal sám a osamoceny zůstaly i jeho výkony neboť další opory týmu selhaly (Richter, Leetch). Neúčast klubu v Play-off 98 byla pro Rangers velkým zklamáním.