Йёнс Якоб Берцелиус родился 20 августа 1779 в селении Веверсунде близ Линчёпинга на юге Швеции в семье директора школы. Отец умер вскоре после его рождения. Мать Йёнса вторично вышла замуж, но после рождения второго ребёнка заболела и умерла. Отчим сделал всё, чтобы Йёнс и его брат получили хорошее образование. Химией Йёнс Якоб Берцелиус увлёкся только в двадцатилетнем возрасте.
По окончании гимназии поступил в Упсальский университет. В 1804 году получил степень доктора медицины и занял должность адъюнкта медицины и фармации в медицинской высшей школе в Стокгольме. В 1807 году стал профессором этой высшей школы, а с 1810 – профессором химии и фармации Каролинского института. В 1832 году оставил кафедру в институте и занялся составлением учебников и обзоров по химии.
Берцелиус на опыте подтвердил многие химические законы, известные к тому времени. В течение 1808–1812 он получил новые доказательства закона кратных отношений, ранее предложенного Джоном Дальтоном, и связал атомистическую теорию с обширными и разнообразными химическими фактами.
В 1814 году он опубликовал таблицу атомных масс 41 простого вещества, выбрав в качестве единицы сравнения кислород, атомную массу которого он принял за 100.
В 1818 году полностью изложил свою теорию пропорций. К этому времени он определил атомные массы 46 элементов и установил процентный состав ~2000 соединений.
Несмотря на несовершенство его аналитических методов, результаты Берцелиуса были во многих случаях близки к современным. С его работами по атомистике связано введение простой и понятной системы химических символов: для обозначения элемента им была принята первая буква его латинского или греческого названия, иногда за ней следовала еще одна буква; для указания числа атомов использовались алгебраические индексы. Берцелиус внес изменения в химическую номенклатуру, построив ее на латинском языке и введя для разных классов соединений соответствующие приставки, суффиксы и окончания. Переведенная на многие языки, она послужила основой для современной химической номенклатуры.
В 1803 году появилась его работа по электролизу, выполненная совместно с Вильгельмом Гизингером, а в 1812 году – работа по электрохимической классификации элементов и в 1818 году была сформулирована электрохимическая теория. По роду преобладающего на атомах заряда Берцелиус разграничил электроотрицательные и электроположительные элементы и разделил известные в то время 56 элементов на два класса, исходя из свойств образуемых ими соединений с наиболее электроотрицательным элементом – кислородом. Таким образом был получен электрохимический ряд элементов и подразделение на металлы и металлоиды. Электрохимическая теория легла в основу дуалистической системы, созданной Берцелиусом для установления рациональных формул химических соединений. Опираясь на данные, полученные при электролизе разных растворов солей, пришел к выводу, что в них существуют простые и постоянные отношения между атомами кислорода основания и атомами кислорода кислоты. Термин «органическая химия» введен Берцелиусом в 1806 году.
В 1811 году он начал систематические исследования элементного состава органических соединений, а в 1815 году вывел формулы уксусной, янтарной, винной и т. д. кислот.
Изучая в 1830 году виноградную кислоту, обнаружил, что по составу она идентична винной и предложил объяснять различия их свойств неодинаковым расположением атомов. Для описания этого феномена предложил термин «изомерия». Так же, Берцелиус ввел такие важные понятия, как катализ и аллотропия.
Деятельность Берцелиуса включала также исследования по аналитической и неорганической химии. Он провел систематические исследования состава многих руд и предложил химическую классификацию минералов. Как автора новой минералогической системы Лондонское королевское общество в 1836 году наградило его медалью Копли. Он разработал новые методы качественного и количественного анализа, усовершенствовал многие приборы и создал новые. Он открыл три новых химических элемента: церий, торий и селен; впервые выделил в свободном состоянии кремний, титан, тантал и цирконий.
Берцелиус развивал теоретические представления об изомерии и полимерии (1830–1835), представления об аллотропии (1841), ввёл термины «органическая химия», «аллотропия», «изомерия». Ученый составлял ежегодные обзоры успехов физических и химических наук, был автором самого популярного в те годы пятитомного учебника химии (1808–1818).
В 1808 году Берцелиус стал членом Шведской академии наук, в 1810 – ее президентом, а в 1818 – непременным секретарем. В 1818 был посвящен в рыцари, в 1835 ему был пожалован титул барона.
Берцелиус женился в 55 лет на 24-летней Иоганне Элизабет, дочери своего старинного друга Поппиуса, государственного канцлера Швеции. Брак их был счастливым, но детей не было. В 1845 году состояние здоровья Берцелиуса ухудшилось. После одного особенно сильного приступа подагры у него оказались парализованы обе ноги.
Умер Берцелиус в Стокгольме 7 августа 1848. Он похоронен на маленьком кладбище вблизи него.