V roce 1970 došlo k dalšímu rozšíření NHL, tentokrát o dva nové kluby, jejichž sídly byl kanadský Vancouver a Buffalo, licenci získaly  22. 5. 1970. Tehdy v Buffalu již působil klub, hrající nižší profesionální soutěž AHL pod jménem Bisons. Se vstupem do NHL sice bizon v klubovém znaku zůstal, ale klub změnil svůj název na Sabres (Šavle). Hlavní odpovědnost za výkony ležela v té době na zkušeném manažerovi Georgovi "Punch" Imlachovi. V prvních letech se jim  pochopitelně příliš nedařilo, ale na rozdíl od Californie si Buffalo pečlivě vybíralo v draftech. Podařilo se mu získat dvojici brankářů Crozier – Daley, obránce Hortna a Hillmana a nejlepšího juniora z letních draftu, tehdy ani ne dvacetiletého Gilberta Perreaulta, který se při svém debutu stal držitelem Calder Trophy.

V sezóně 1971/1972 došlo k vytvoření formace hráčů, která se zapsala do dějin NHL jako French Connection. K Perreaultovi přibyl Rick Martin a René Robert. V další sezóně se Buffalo poprvé probojovalo i do play-off, svoji pouť však skončilo již ve čtvrtfinále. O titul nejlepšího týmu ligy je v roce 1975, při bodové shodě s Philadelphií, připravil jen nižší počet vítězných zápasů, ale to hráčům neubralo sil do bojů o nejcennější trofej.

V play-off, kam mimochodem postoupili teprve podruhé v pětileté historii klubu, se jim mimořádně dařilo a jejich vítězné tažení zastavila až ve finále Philadelphia (2:4). Finálová série je pamětihodná také mlhou v hale Auditorium a brilantím výkonem brankáře Flyers Bernieho Parenta. V té době měli v Buffalu opravdu silný tým. Manažer "Punch" Imlach i zde prokázal své kvality, a tak se do Buffala sjeli takoví hráči, jakými byli Gilbert Perreault, Dan Gare, Rick Martin, René Robert, Craig Ramsay nebo brankáři Don Edwards a Dave Dryden, bratr slavného Kena Drydena.

Celých sedm let hrály Sabres hokej vysoké kvality a střídaly se s Bostonem na první příčce Adamsovy divize. Na přelomu roku 1975 a 1976 hrála proti celkům NHL i Křídla sovětů, v Buffalo utrpěla doslova výprask 6:12. Novou krví v mužstvu se stali mladí Seilling, Ruff a černý McKegney. Po odchodu Imlacha v roce 1978 se po ročním "bezvládí" podařilo vedení klubu zajistit generálního manažera, který měl přivést tým až k trofeji nejcennější. tím mužem byl Scotty Bowman, jenž měl za sebou po dvanácti sezónách koučování celkem osm účastí ve finále Stanley Cupu a pět triumfů. Jeho zásluhou mužstvo získalo takové hráče jako obránce Phila Housleyho, útočníky Dave Andreychuka, Adama Creightona a brankáře Toma Barrassa. Barrasso získal cenu pro nejlepšího nováčka, cenu pro nejlepšího brankáře sezóny a byl zařazený i do první šestky All-Stars. O svém umění přesvědčil hned v září 1984, kdy hájil branku USA na Kanadském poháru.

Bowman se při hledání posil podíval i za oceán a v draftu v roce 1981 si vybral našeho Jiřího Dudáčka, o němž všude vyhlašoval, že je nejlepším juniorem na světě. Dlouhé roky se nevzdával a bojoval o uvolnění Dudáčka do NHL, narážel však v tehdejším komunistickém  Československu neustále na nepřekonatelné překážky. Šťastnější byli Finové Hannu Virta a Kai Suikkanenn,  kteří v sezóně 1981/1982 oblékli jako první Evropané dres Buffala.

Zatímco v lize se "šavlím" dařilo, v poháru se  nedostaly přes druhé kolo. Po další reorganizaci v roce 1981, kdy byl do "jejich" Adamsovy divize zařazen tým Montreal Canadiens, se situace pro Buffalo ještě více zkomplikovala výsledky týmu se stále zhoršovaly. Tým upadl do průměrnosti. Vrcholem bylo odstoupení manažera Bowmana a jeho nahrazení Gerrym Meehanem. Z Evropanů se prosadili Fin Christian Ruuttu, Alexander Mogilny, částečně švédský obránce Johansson, Němec Krupp, Švéd M. Andersson i náš Ludvig. Dres Buffala dočasně oblékl i tehdejší československý reprezentant Jiří Šejba.

Posun dopředu zaznamenalo Buffalo od roku 1988. Zisk 98 bodů v sezóně 1990/1991 pak byl nejvyšší od roku 1984. Ale ani poté,co se koučem a manažerem stal John Muckler, se situace nijak dramaticky nezměnila.Tým uskutečnil několik důležitých výměn. Buffalo získalo ostrostřelce NY Islanders P. Lafontaina výměnou za P. Turgeona a dále pak našeho Dominika Haška z Chicaga. Oporami týmu se stali tito hráči: zkušený Dale Hawerchuk, Donald Audette a v zadních řadách tvrdicí muziku Richard Šmehlík.

V devadesátých letech byla filosofie klubu založena na hráčích, kteří se do toho nebáli šlápnout. Tři hráči: Brad May, Matthew Barnady, Rob Ray nasbírali v sézóně 95/96 po více než 200 trestných minutách.

Sabres se od sezóny 96/97 přestěhovali z haly Auditorium do nového domova na nábřeží Marine Mydland Arena. Pod trenérskou taktovkou  Teda Nolana, příslušníka indianského kmene Odžibweiů zaznamenali výrazný výkonostní vzestup. Díky tomu získal trofej pro nejlepšího trenéra roku 1997.

Změnily také svou image, odvrhly starý znak znázorňující pádícího bizona nad zkříženými šavlemi. Novým klubovým logem se stala hlava bizona s krvavýma očima. Největší čest novému dresu prokázal brankář Dominik Hašek jehož super výkony znamenaly několikanásobný zisk trofejí pro nejlepšího brankáře a hráče NHL. Právě díky jeho výkonům klub zaznamenal jeden z největších úspěchů - semifinálová účast Play-off 98.