Начальное образование получил в Ревеле у профессора Сигизмунди, изучил латинский и немецкий языки (1748—1751).
Продолжил образование в Германии в Гёттингенском университете (до мая 1755), изучал естественные науки и металлургию у Галлера, Геснера, Зегнера, Мейера и других известных профессоров. Далее во Фрайбергской академии изучал металлургию у Гофмана, минералогию и химию у Геллерта, практически изучал добычу руды и плавильное дело в течение года.
Из Фрайберга Демидов отправился в шестилетнее путешествие по Западной Европе, изучал на местах способы разработки серебряных, железных и медных рудников. В Швеции он познакомился с Линнеем, лекции которого слушал в Упсале. Там же он посещал лекции профессора Валерия по химии и минералогии.