Flemming vystudoval medicínu na pražské univerzitě, maturoval v roce 1868. Poté působil v letech 1870-71 jako vojenský lékař ve francouzsko-pruské válce. V letech 1873 až 1876 působil jako učitel na pražské univerzitě. V roce 1876 přijal místo profesora anatomie na univerzitě v Kielu. Stal se ředitelem anatomického ústavu a zůstal tam až do své smrti.
s použitím anilinových barviv byl schopen najít strukturu, která silně absorbovala bazofilní barviva, která pojmenoval chromatin. On poznal, že chromatin byl korelován s vláknitými strukturami v buněčné jádro – chromozómy (což znamená, barevné těla), které byly pojmenovány tak později německý vědec Wilhelm von Waldeyer-Hartz (1841-1923). Belgický vědec Edouard Van Beneden (1846-1910) je také pozoroval nezávisle.
Flemming zkoumali proces buněčného dělení a rozdělení chromozomů, aby dcera jádra, procesu zvaném mitóza, z řeckého slova pro vlákno. Neviděl však rozdělení na stejné poloviny, Dcera chromatidy. Studoval mitózu Jak in vivo, tak v barvených přípravcích, přičemž jako zdroj biologického materiálu používal ploutve a žábry mloků. Tyto výsledky byly publikovány nejprve v roce 1878 a v roce 1882 v klíčové knize Zellsubstanz, Kern und Zelltheilung (1882; buněčná látka, jádro a buněčné dělení). Na základě jeho objevů, Flemming se domníval, že všechny buněčných jader přišel z jiného předchůdce jádra (on razil frázi omnis nucleus e nucleo, po Virchow je omnis cellula e cellula). Ukrajinský biolog Petro Peremazhko (1833-1893) objevil mitózu ve stejném roce 1878 na ocasu Triturus.
Flemming je také známý pro jeho filantropie. Každý týden krmil ty, kteří byli bezdomovci, každý rok daroval 20% svého platu útulkům pro bezdomovce. Učil zejména malé děti, které byly příliš chudé na to, aby chodily do školy o matematice a vědě.
Flemming nevěděl o práci Gregora Mendela (1822-84) o dědičnosti, takže neudělal spojení mezi svými pozorováními a genetickým dědictvím. Uplynuly dvě desetiletí, než byl význam Flemmingovy práce skutečně realizován znovuobjevením Mendelových pravidel. Věda Kanál s názvem Flemming objev mitózy a chromozomů jako jeden z 100 nejvýznamnějších vědeckých objevů všech dob, a jeden z 10 nejvýznamnějších objevů v buněčné biologii.
Flemmingovo jméno je vyznamenáno medailí udělovanou německou společností pro buněčnou biologii (Deutschen Gesellschaft für Zellbiologie).