Pochodzący z rodziny włoskich imigrantów Borgnine studia aktorskie ukończył dzięki wojskowemu stypendium po 10-letniej służbie w marynarce wojennej. W początkach kariery ze względu na swą powierzchowność kreował głównie postacie łajdaków i brutali, jak nadzorca wojskowego obozu karnego sierżant Judson w filmie "Stąd do wieczności" Freda Zinnemanna (1953). Stereotyp ten bardzo skutecznie przełamał w melodramacie "Marty", subtelnie ukazując emocjonalne perypetie trzydziestokilkuletniego nowojorskiego rzeźnika, zdecydowanego zerwać ze stanem kawalerskim.
Inne znane role Borgnine'a to m.in. generał Worden w czterech częściach "Parszywej dwunastki" (1967-88) i centurion w biblijnym serialu telewizyjnym "Jezus z Nazaretu" (1977).