Koreni Merck-a datiraju još iz 17. veka: 1668. godine apotekar iz Schweinfurt-a, Friedrich Jacob Merck postaje vlasnik Engel Apotheke („Anđeoske apoteke“) u Darmstadt-u. Od tada pa do danas ova apoteka je ostala vlasništvo porodice Merck.
Godine 1816. Heinrich Emanuel Merck, unuk pisca i naučnika Johann-a Heinrich-a Merck–a preuzima vlasništvo nad apotekom. U svojim ranim naučno-farmaceutskim radovima, koji su tokom dugog vremena bili izuzetno dobri, posvetio se proučavanju hemije i prirodnih biljnih supstanci. U svojoj farmaceutskoj laboratoriji uspeo je da izvrši izolaciju i prečišćavanje velikog broja alkaloida, klase veoma efikasnih biljnih sastojaka koji su, zbog svog medicinskog dejstva, bili u centru pažnje medicinske nauke tog vremena.
Predstavljajući svoj „kabinet farmaceutskih i hemijskih inovacija“ 1827. godine Merck objavljuje rezultate svojih istraživanja o alkaloidima i nudi ih na prodaju svojim kolegama farmaceutima, kao i hemičarima i fizičarima. To je bila prodaja „na veliko“, koja je stvorila osnovu za današnju modernu farmaceutsko – hemijsku fabriku.
Nakon smrti Heinrich-a Emanuel-a Merck-a 1885. godine, kompanijom koja je neprestano rasla rukovodili su njegovi sinovi Carl, Georg i Wilhelm. Zajedno sa svojih 50 radnika proizvodili su farmaceutske sirovine kao i veliki broj hemikalija.
Od samog početka posebno se naglašavao kvalitet proizvoda. U pismu svojim kupcima 1851. Emanuel Merck je napisao: „Ovim garantujem za kvalitet mojih proizvoda i obavezujem se da ću vam nadoknaditi svaku eventualnu štetu koja može nastati kao posledica nekog mog nečistog preparata“.
Tokom 1860. godine Merck je proizvodio više od 800 proizvoda; do 1900. ovaj broj je porastao na 10.000 različitih artikala. Proboj u razvoju predstavlja uvođenje „Čistih reagenasa sa Merck-ovom garancijom“ sa sufiksom „pro analysi“ 1888. godine. Ovi artikli su ustanovili doslednu primenu pažljivo formulisanih standarda čistote što predstavlja osnovu za komparativne hemijske analize.
Godine 1904. u listu proizvoda uključeni su i gotovi farmaceutski lekovi, tzv. „specialities“: apoteke više nisu bile jedino mesto gde su se proizvodili lekovi u obliku za krajnju upotrebu.
Pored velikog broja zastupnika u stranim zemljama koji su radili za Merck, postojala su i tri glavna predstavništva u Londonu, Njujorku i Moskvi. Prostorije u Darmstadt-u postale su premale za sve aktivnosti kompanije, tako da se tokom 1903/1904 kompanija preselila iz centra grada na sadašnju lokaciju.
Direktna posledica I svetskog rata je gubitak Merck-ovih stranih predstavništava u SAD. Podkompanija Merck & Co osnovana 1891. u Njujorku konfiskovana je i od tada do danas postaje američka kompanija u potpunosti nezavisna od kompanije Merck sa sedištem u Darmstadt-u. U Severnoj Americi Merck & Co. ima eksluzivno pravo na ime Merck, dok u ostalim zemljama sveta ovo pravo pripada kompaniji iz Darmstadt-a. Iz tih razloga Merck & Co. izvan SAD i Kanade posluje pod imenom Merck Sharp & Dohme (MSD), dok predstavništva nemačke kompanije Merck u Severnoj Amerci posluju pod imenom EMD (Emanuel Merck Darmstadt).
U narednim decenijama beleži se značajno širenje proizvodnog programa. Merck uspešno iskorišćava napredak u nauci za proizvodnju najprodavanijih proizvoda: prvi agensi za zaštitu biljaka plasirani su na tržište 1921. godine dok je prvi vitaminski proizvod sa vitaminom D, Vigantol®, plasiran 1927. nakon koga sledi Cebion®, prvi preparat sa vitaminom C.
Danas je Merck KGaA u vrhu svetske proizvodnje lekova i nalazi se u prvih dvadeset farmaceutskih kompanija. Kompanija je u potpunosti bila u privatnom vlasništvu do 1995. kada je pustila deo akcija na tržište. Porodica Merck još uvek kontroliše većinu akcija kompanije.