Барклай-де-Толли родился в обедневшей дворянской семье шотландского происхождения. Воспитывался у родственников в Петербурге и получил домашнее образование.

Службу в русской армии Барклай-де-Толли начал в 1776 г. Отличился при штурме Очакова во время Русско-турецкой войны 1787—1791 гг. Принимал участие в русско-шведской войне 1788—1790 гг. и Польской кампании 1792—1794 гг. В 1800-х гг. Барклай-де-Толли участвовал в русско-прусско-французской и русско-шведской войнах.

В 1810—1812 гг. Барклай-де-Толли — военный министр, с 1810 г. — член Государственного совета. В это время он провел ряд реформ, направленных на увеличение численности армии. В марте 1812 г. назначен главнокомандующим 1-й Западной армией и в начале Отечественной войны 1812 г. успешно осуществил отход русской армии к Смоленску, где соединился со 2-й Западной армией Багратиона.

В Бородинском сражении Барклай-де-Толли защищал правый фланг и центр. Под ним было ранено и убито пять лошадей. Он мужественно удержал свои позиции и прикрыл отступление русской армии. На совете в Филях выступил с планом оставить Москву в целях спасения армии и возглавил по поручению М. И. Кутузова вывод армии из столицы.

Встречая непонимание царедворцев и высшего генералитета, в сентябре 1812 г. Барклай де Толли ушел в отставку. «Я твердо решился лучше впасть в бедность, от которой я не избавился во время моей службы, нежели продолжать службу, — писал полководец. — Я надеюсь, однако, что беспристрастное потомство произнесет суд с большей справедливостью». Барклай-де-Толли уехал в свою лифляндскую деревню.

В 1813 г. Александр I потребовал, чтобы во время заграничных походов Барклай-де-Толли возглавил 3-ю русскую армию, а затем и объединенные русско-прусские силы. В кампанию 1813 г. Барклай-де-Толли отличился в ряде крупных сражений: под Бауценом успешно отразил атаки французских колонн, руководимых самим Наполеоном, под Кульмом нанес поражение корпусу генерала Вандама, под Лейпцигом сыграл решающую роль в разгроме союзными войсками французской армии.

За ряд побед, одержанных в 1814 г., Барклай-де-Толли был удостоен маршальского жезла, а в 1815 г. был возведен в княжеское достоинство. По возвращении русской армии в Россию он был назначен командующим 1-й русской армией.

Последние годы жизни Барклай-де-Толли занимался боевой подготовкой вверенных ему армейских подразделений. Он уделял много внимания воспитанию солдат и совершенствованию их военного обучения.

Выйдя в отставку, выступал против создания военных поселений. Предлагал отслуживших срок солдат наделять землей и зачислять в вольные хлебопашцы.