La réussite de la présentation de ses premières compositions pour orgue à la chorale de l’église Saint‑Boniface d’Arnstadt, en 1703, coïncide avec sa graduation du gymnasium, et il devient alors organiste de cette église. Dans cet emploi, il amorce sa carrière d’organiste et de compositeur dans les églises luthériennes, tout en entretenant d’excellentes relations avec des maitres de chapelle catholiques et, surtout, avec les organistes d’autres églises avec lesquels il élabore et partage son expertise du contrepoint rigoureux.
En 1706, il entreprend un voyage à Lübeck pour entendre Dietrich Buxtehude et assister à une série de concerts. Il y reste plusieurs semaines, ce qui provoque des tensions avec les responsables de l’église Saint‑Boniface : non seulement il dépasse largement le congé qui lui avait été accordé, mais ses œuvres deviennent de plus en plus complexes, fatigant la chorale lors des répétitions. On lui reproche aussi d’inviter à chanter hors des offices religieux sa cousine Maria Barbara, soprano. Un an plus tard, il l’épouse à l’église de Dornheim, puis obtient le poste d’organiste à l’église Saint‑Blaise de Mülhausen.
En harmonie avec sa foi, son travail, ses études, son enseignement en théorie musicale et ses plus de mille compositions, il mène une vie familiale animée par vingt enfants. Avec Maria Barbara, il en a sept, puis, après le décès de celle‑ci, il épouse Anna Magdalena Wilcke, également soprano, qui sera la mère de treize enfants et collaborera avec Jean‑Sébastien à la transcription de ses œuvres.
Depuis son premier mariage, jusqu’à sa mort en 1750, il change plusieurs fois de poste avant de devenir organiste et directeur du chœur à l’église Saint‑Thomas de Leipzig, fonction qu’il occupe de 1723 à 1750 dans cette ville universitaire de premier plan.
Au fil de la création de plus de mille œuvres dans de nombreux genres de la musique classique, il innove et reformule les procédures du système de contrepoint, appliqué à des structures polyphoniques chorales et instrumentales.
Parmi ses grandes réalisations, environ deux-cents sont des cantates, genre dans lequel des solistes alternent avec des chœurs sur un accompagnement instrumental, les textes étant en général des poèmes. L’une de ses cantates les plus célèbres est Wachet auf, ruft uns die Stimme (Réveillez‑vous, la voix nous appelle).
