studiował medycynę na Uniwersytecie w Pradze, który ukończył w 1868 roku. Następnie służył w latach 1870-71 jako lekarz wojskowy w wojnie francusko-pruskiej. W latach 1873-1876 pracował jako nauczyciel na Uniwersytecie w Pradze. W 1876 przyjął stanowisko profesora anatomii na Uniwersytecie w Kilonii. Został dyrektorem Instytutu Anatomicznego i pozostał tam aż do śmierci.
przy użyciu barwników anilinowych udało mu się znaleźć strukturę, która silnie wchłania barwniki bazofilowe, które nazwał chromatyną. Odkrył, że chromatyna jest skorelowana ze strukturami nitkowatych w jądrze komórkowym – chromosomami (oznaczającymi kolorowe ciała), które zostały nazwane tak później przez niemieckiego anatoma Wilhelma von Waldeyera-Hartza (1841-1923). Niezależnie obserwował je również belgijski naukowiec Edouard Van Beneden (1846-1910).
Flemming badał proces podziału komórek i dystrybucji chromosomów do jąder potomnych, proces ten nazwał mitozą od greckiego słowa oznaczającego nić. Nie widział jednak podziału na identyczne połówki, córki chromatydy. Badał mitozę zarówno in vivo, jak i w preparatach barwionych, wykorzystując jako źródło materiału biologicznego płetwy i skrzela salamandrów. Wyniki te zostały opublikowane po raz pierwszy w 1878 i w 1882 w książce zellsubstanz, Kern und Zelltheilung (1882; Cell substance, nucleus and cell division). Na podstawie swoich odkryć Flemming po raz pierwszy przypuszczał, że wszystkie jądra komórkowe pochodziły z innego jądra poprzednika (wymyślił frazę omnis Nucleus e Nucleo, po omnis cellula e cellula Virchowa). Ukraiński biolog Petro Peremazhko (1833-1893) odkrył mitozę w tym samym 1878 roku na ogonie Triturus.
chromosomy Politenowe w komórce ślinianki Chironimus, jeden z ponad 100 rysunków z książki Flemminga Zellsubstanz, Kern und Zelltheilung, 1885
ilustracje komórek z chromosomami i mitozą, z książki Zellsubstanz, Kern und Zelltheilung, 1882
Flemming jest również znany ze swojej filantropii. Co tydzień karmił bezdomnych, przekazując co roku 20% swojej pensji schroniskom dla bezdomnych. Nauczał szczególnie małe dzieci, które były zbyt biedne, aby uczęszczać do szkoły o matematyce i naukach ścisłych.
Flemming nie był świadomy pracy Gregora Mendla (1822-84) na temat dziedziczności, więc nie uczynił związku między swoimi obserwacjami a dziedziczeniem genetycznym. Minęły dwie dekady, zanim znaczenie dzieła Flemminga zostało naprawdę zrealizowane dzięki ponownemu odkryciu zasad Mendla. Kanał naukowy nazwał odkrycie mitozy i chromosomów Flemminga jednym ze 100 najważniejszych odkryć naukowych wszech czasów i jednym z 10 najważniejszych odkryć w biologii komórki.
nazwisko Flemminga zostało uhonorowane Medalem przyznawanym przez Niemieckie Towarzystwo Biologii Komórki (Deutschen Gesellschaft für Zellbiologie).
