O jardim foi criado em 1626 por Guy de La Brosse, boticário e farmacêutico do rei Luís XIII, como um herbário de plantas medicinais e chamado Jardin Royal des Plantes Medicinales. Em 1636 foi aberto ao público, mas a inauguração solene data de 1640.
Cem anos depois da inauguração, em 1739, o naturalista Georges Louis Leclerc, Conde de Buffon (1707-1788), assumiu como diretor, expandiu os terrenos do jardim inclusive à custa de seus recursos pessoais e adicionou o labirinto de sebes que existe até hoje. Ele ocupou o cargo até sua morte e transformou o jardim num dos mais importantes centros de pesquisa científica da Europa na época.
A Revolução francesa ocorreu um ano após a morte de Buffon e provocou numerosas mudanças na organização do jardim. O jardim do rei passou a chamar-se Jardim das Plantas de Paris e o estabelecimento científico que o administrava foi transformado em Museu Nacional de História Natural por decreto do parlamento de Revolução, conhecido como Convention nationale, em junho de 1793.
A pedido dos parlamentares, o texto de fundação do Museu foi redigido pelos próprios cientistas. Em seu artigo segundo, definia: “o principal objetivo do estabelecimento será a educação pública da história natural, tomada em toda a sua extensão e aplicada ao avanço da agricultura, do comércio e das artes”. Louis Jean-Marie Daubenton assumiu como primeiro diretor da nova instituição.
A área do jardim abriga quarto galerias do Museu: a Grande Galerie de l'Évolution, o Museu de Mineralogia e Geologia, o Museu de Paleontologia e Anatomia Comparada e o Museu de Entomologia. Além disso, há um pequeno zoológico conhecido como ménagerie du Jardin des plantes, fundado em 1793, por Bernardin de Saint-Pierre e cinco gigantescas estufas de ferro e vidro, para plantas de diversos ecossistemas. A Ménagerie tem mais de 5 hectares com 1.100 animais, entre mamíferos, répteis e pássaros.
No Jardin des Plantes há uma escola de botânica que forma jardineiros e botânicos, constrói jardins para demonstração e garante a diversidade das plantas e a seleção de sementes. Entre os 3 hectares de horticultura do jardim estão situados o Jardim Alpine com mais de 3000 espécies do mundo todo e o Jardim das Rosas, roseiral que expõe centenas de espécies de roseiras.