Im 16. Jahrhundert war in Europa die Schalmeiengruppe der Bomharten oder Pommer weit verbreitet. Sie hatten ein gerades, konisch gebohrtes Rohr und wurden mit doppeltem Rohrblatt angeblasen. Gemäß der Tradition der Renaissancehatte die Familie der Pommer Vertreter von der dreigestrichenen Oktave (Diskant-Schalmei, aus ihr entwickelte sich in direkter Linie die Oboe) bis zur Kontraoktave (Großbass-Pommer). Mit dem Doppelquint-Großbasspommer war das Entwicklungspotenzial der Schalmeien in die Tiefe jedoch ausgeschöpft: Abgesehen davon, dass sein fast 3 Meter langes, gerades Instrumentenrohr sehr unhandlich war, war eine Ausdehnung seines Tonumfanges in der Tiefe (unter F₁) grifftechnisch unmöglich.

Mitte des 16. Jahrhunderts entstand aus dem geraden Pommer ein Instrument mit geknickter Röhre in U-Form, die aus einem Holzblock gedrechselt war. Die konische Bohrung der Pommern wurde beibehalten. Sein weicher Klang, der durch die Knickung des Rohres entstand und ihn von den Schalmeien abhob, brachte dem neuen Instrument den Namen Dulzian („Zartklinger“) ein.

Wie die Pommern wurden auch Dulziane bald in mehreren Stimmungen gebaut. Die handliche Form prädestinierte den Dulzian für den Ausbau des Tonumfanges in die Tiefe. Michael Praetorius nannte um 1620 als tiefste Dulziane zwei „Doppelfagotte“: das Quartfagott (Umfang von G₁–g) und das Quintfagott (F₁–g). Er erwähnte auch den geplanten Bau eines Oktavdulzians („Fagotcontra“) durch den Berliner Kammermusiker Hans Schreiber. Der Tonumfang dieses Instrumentes sollte eine Oktave unter dem des Choristfagottes (C–g1) liegen, aus dem das moderne Fagott entstand.

In der Augsburger Kunstsammlung sowie in Dresden sind zwei Oktavbass-Dulziane mit 1,8 m und 1,9 m Höhe aus dem letzten Drittel des 16. Jahrhunderts erhalten, die nahe legen, dass Dulziane schon zu dieser Zeit in der Kontrabasslage gebaut wurden.

Um die Mitte des 17. Jahrhunderts gingen Instrumentenbauer in Amsterdam, Paris und Nürnberg dazu über, den aus einem Stück Holz gefertigten Dulzian in vier Teilen zu bauen: Flügel, Stiefel, Bassröhre, Schallstück. Den zwei Klappen des Dulzians wurde eine dritte hinzugefügt – damit war das Fagott geboren.

Das älteste erhaltene Kontrafagott (heute in Leipzig) stammt aus dem Jahre 1714, es ist ca. 2,7 m hoch und signiert mit „Andreas Eichentopf in Northausen 1714“. Nach dem Vorbild des zeitgenössischen Fagottes gefertigt, besteht es aus vier Teilen und hat drei Klappen. Der Tonumfang reichte in der Tiefe – allerdings nicht chromatisch – bis zum C₁ (manchen Quellen zufolge auch B₂).

In London soll Thomas Stanesby 1727 erstmals ein 4-teiliges Kontrafagott hergestellt haben, Sein Sohn fertigte 1739 ein Kontrafagott mit vier Klappen – heute im irischen Nationalmuseum in Dublin.

Im frühen 18. Jahrhundert fand das Kontrafagott Eingang in die Kirchenmusik, wo es den Kontrabass verstärkte. Zur Ausführung barocker Partituren wurden die höheren Stimmungen (Quart- und Quintfagott) verwendet: So verlangt z.B. Georg Philipp Telemann in seinen Kirchenkantaten ( 1712–1716) ein Fagotto grosso (Quintfagott), Johann Sebastian Bach in seiner Kantate Nr. 31 (1715) ein Quartfagott.

Ein tiefes Kontrafagott (Bassono grosso) mit Umfang C₁–es verlangt Bach in der 4. Fassung seiner „Johannespassion“ (1749). Ein Contre Bassono hatte zuvor schon Johann Friedrich Fasch in seiner „Fantasie für Bläser“ (um 1740) vorgeschrieben.

Wolfgang Amadeus Mozart setzte das Kontrafagott seines dunklen Klanges wegen in seiner „Maurerischen Trauermusik“ (1785) ein, um eine feierliche Stimmung zu erzielen. Den ernsten und dunklen Klangcharakter machten sich auch Joseph Haydn in seinen Oratorien „Die sieben Worte“ (1786), „Die Schöpfung“ (1798) und „Die Jahreszeiten“ (1800), sowie Ludwig van Beethoven in der Kerkerszene seiner Oper “Fidelio” (1805) zunutze. Seit dem Gebrauch des Kontrafagottes in Beethovens 5. (1808) und 9. Symphonie (1824) wird das Kontrafagott als Verstärkung des Basses im großen Orchester regelmäßig eingesetzt.

Ende des 18. Jahrhunderts wurde das Kontrafagott in vielen europäischen Militär-Blaskapellen als Kontrabassinstrument integriert.

Zu dieser Zeit entwickelte der Prager Instrumentenbauer S. J. Truska ein Kontrafagott, das aus 8 Teilen bestand (Schallstück, Bassröhre, Stiefel, dreiteiliger Flügel, kleiner Stiefel, S-Rohr). Dieses Modell stellte bis Mitte des 19. Jahrhunderts den Standard dar und wurde dann durch eine wahre Formenvielfalt abgelöst, die dem Wunsch nach einem Kontrabassinstrument entsprang, das der klangstarken Militärmusik gerecht wurde.

Der Wiener Instrumentenmacher Johann Stehle führte 1839 seinen aus Metall gefertigten 15-klappigen „Harmonie-Bass“ vor, der den Typus eines engmensurierten Kontrafagottes vertrat. Eng gebohrte, aber kompaktere Modelle entstanden 1856 in den Werkstätten Cervený in Königsgrätz („Tritonicon“) und Carl Wilhelm Moritz („Klaviatur-Kontrafagott“). Das originelle Modell von Moritz erhielt durch einen stark ausladenden Schalltrichter eine tubaähnliche Form und war mit einer Klaviatur versehen. Haseneier baute 1847 in Koblenz ein weit mensuriertes Instrument mit 19 Klappen aus Ahorn („Kontrabassophon“), das vielerorts als Vorbild genommen wurde und u.a. auch aus Pappmaché gebaut wurde, um das Gewicht zu verringern.

In der Werkstatt Adam und Wilhelm Heckel entstand ein 1877 patentiertes Modell mit einem chromatischen Umfang von C₁–g. Dieses Kontrafagott zeichnete sich durch eine leichte Ansprache und große Beweglichkeit aus und setzte sich gegen andere Kontrabassinstrumente der Zeit durch. Richard Wagner setzte es, überzeugt von seiner Klangqualität, in „Parsifal“ (1882) ein.

Anfang des 20. Jahrhunderts erfuhr das Kontrafagott durch Wilhelm Heckel weitere Verbesserungen: Mit der Erweiterung des Tonumfanges, in der Tiefe bis zum B₂ (mit entsprechend längerem Schallstück bis A₂), in der Höhe bis zum c1, schuf er 1901 den Prototyp des modernen Kontrafagottes, das sich durch einen vollen und weichen Klang und große technische Gewandtheit auszeichnet. Bis heute gehört die Firma Heckel zu den führenden Herstellern von Fagottinstrumenten.

In Frankreich baute die Firma Buffet-Crampon 1906 ein französisches Modell, das sich im Wesentlichen durch die Klappenmechanik unterscheidet.

Aufgrund seiner verbesserten technischen Fähigkeiten wurde das Kontrafagott, das in der Vergangenheit bassverstärkend eingesetzt wurde, nun auch in solistisch gefordert. Zusätzlich wird es seit dem 20. Jahrhundert aufgrund seiner Klangfarben vermehrt geschätzt und kammermusikalisch verwendet. .

Das Kontrafagott führt heute im Orchester auch die Stimmen aus, die für das Kontrabass-Sarrusophon geschrieben wurden, ein weit verbreitetes Instrument, das von Komponisten aus dem französischen und spanischen Raum (Camille Saint- Saëns, Claude Debussy, Maurice Ravel) eingesetzt wurde. Seit den 30er Jahren des 19. Jahrhunderts wird das Kontrabass-Sarrusophon nicht mehr hergestellt, ist aber in der Harmoniemusik in Frankreich, Spanien und Italien noch anzutreffen.