Братьев Гримм, в частности Якоба, смело можно именовать квалифицированным библиотекарем. Якоб трудился в различных библиотеках более 30 лет своей жизни, понятно, что эту работу он совмещал со своей преподавательской и исследовательской деятельностью. Проходя обучение на юридическом факультете Марбургского университета, Якоб, будучи особо старательным студентом, вызвал к себе неподдельный интерес с стороны Фридриха Карла фон Савиньи, который являлся самым молодым профессором университета, всего лишь на шесть лет старше самого Якоба. Савиньи в последствие оказал огромное влияние на творчество и жизнь Якоба Гримма. Якоб имел возможность пользоваться домашней библиотекой Савиньи, он буквально боготворил своего друга и учителя.
Будучи в Париже, Савиньи позвал Якоба, которому на тот момент едва исполнилось 20 лет, помочь в научной работе. Якоб не мог отказать в таком лестном предложении, хотя ему пришлось прервать свое обучение в университете. Таким образом, он оказывается в Париже и живет там в течение всего года. По поручениям учителя Якоб проводит длительные часы в Национальной парижской библиотеке, вначале лишь как читатель. Здесь он учится расшифровывать древние манускрипты, делать выписки из всевозможных рукописных и печатных источников. В свободное от такой весьма напряженной работы время Гримм занимается исследовательской деятельностью в области старонемецкой литературы. Данное юношеское увлечение впоследствии стало делом всей его жизни. Именно среди книг Национальной библиотеки он решил, что будет преподавателем, что станет заниматься научной деятельностью в области изучения германистики.
В 1806 году Якоб Гримм переехал в город Кассель из Парижа, где на тот момент проживала его семья. Город был занят французами, однако чудом Якобу с подачи рекомендаций от историка Иоганна фон Мюллера ему удалось устроиться на работу. Так он получил место библиотекаря в городской библиотеке, впоследствии став управляющим личной библиотекой короля в Кассельском замке Жерома, брата Наполеона.