1856-ban született szudétanémet származású katonatiszt, császári és királyi altábornagy, a 2. hadsereg parancsnoka. Édesapja Georg Böhm őrmester a novarai csatában 1849-ben tanusított bátorságáért tiszti rangot kapott. 1884-től viselte a családfő a feleség nevét is (Böhm-Ermolli). A Szudétavidéken, Troppauban éltek.
Sankt-pölteni és bécsújhelyi képzést követően 1875-ben lett hadnagy, és a 4. dragonyos ezred tisztje. További képzéseket kapott a bécsi Hadiakadémián, majd 1880-tól törzstiszti beosztást kapott és Lembergbe került. Ezt követően több galíciai csapattestnél szolgált vezérkari tisztként. 1897-ben ezredessé léptették elő, és ő lett a 3. ulánus ezred parancsnoka. 1901-ben dandárparancsnok, 1903-tól vezérőrnagy, 1907-től altábornagy és a 7. lovashadosztály parancsnoka lett. 1911-től a krakkói 1. hadtestet vezette.
A világháború kitörésekor Böhm-Ermolli lovassági tábornokot nevezték ki az osztrák-magyar 2. hadsereg vezénylő tábornokává. A 2. hadsereg a Szerbia elleni mozgósítást követően került az orosz frontra. Ez a kapkodó felállás és az orosz támadás elleni védelem igényei megbontották a hadsereg terv szerinti összetételét. A 2. hadsereg megszervezésében, a Kárpátok védelmi vonalának kiépítésében 1914/15 telén Böhm-Ermollinak kiemelkedő szerep jutott. Később is ennek a hadseregnek maradt a parancsnoka. 1915 szeptemberétől a 2. hadsereg mellett további seregtestek összevonásával létrejött a Böhm-Ermolli hadseregcsoport, amely a Brody-Zloczów-Strypa-Buczacz vonalon volt állásban, időnként német felső parancsnokság alatt.
1916 májusától vezérezredessé léptették elő. A hadseregcsoport, amelyhez a 2. hadsereg mellett 1916 nyarán a német Déli hadsereg is tartozott, szinte egyedüliként tudta állásait tartani a Bruszilov-offenzíva alatt 1916 júniusában Kelet-Galíciában. Hadseregcsoportja az 1917-es Kerenszkij-offenzíva idején is sikeresen védekezett, és részt vett Bukovina és Czernowitz visszafoglalásában.
Megkapta a katonai Mária-Terézia Rend parancsnoki keresztjét, a magyar Szent István-rend nagykeresztjét és a katonai Érdemérmet a tölgyfalevelekkel. 1918 január 31-én tábornaggyá léptették elő. Hadseregcsoportjával ebben az évben Ukrajna megszállásáért volt felelős. A németekkel kialakult nézeteltérések miatt májusban leváltották, hadseregcsoportját Odesszában feloszlatták, őt magát nyugállományba küldték.
A háborút követően az újonnan létrehozott Csehszlovákia állampolgára lett. Az ország haderejének tartalékos tábornokaként nyugdíjat is kapott, de aktív szolgálatot nem teljesített. 1941 december 9-én hunyt el. Sírja a troppaui (Opava) temetőben található.