Из древнего княжеского рода. Отец - бригадир в отставке. При крещении был записан в л.-гв. Преображенский полк сержантом, а 1 января 1793 г. произведен в прапорщики л.-гв. Семеновского полка. В этом же полку дослужился до чина полковника, полученного 27 мая 1800 г., образцово исполняя в основном адъютантские обязанности. 15 сентября 1801 г. удостоился звания генерал-майора с назначением генерал-адъютантом и помощником начальника Императорской Военно-походной канцелярии. С октября 1805 г. - дежурный генерал и генерал-квартирмейстер русско-австрийских войск. В сражении под Аустерлицем Волконский несколько раз водил в атаки Фанагорийский и Ряжский полки, отбил два неприятельских орудия, за что был награжден орденом Св.Георгия 3-го кл. После заключения Тильзитского мира изучал военную организацию во Франции. 23 мая 1810 г. назначен управляющим квартирмейстерской частью, которую довел до совершенства. В сентябре-октябре 1812 г. находился при М.И.Кутузове, а затем участвовал в военных действиях на Березине. В конце декабря был назначен начальником Главного штаба. За непосредственное руководство войсками в Люценском сражении 20 августа 1813 г. был награжден чином генерал-лейтенанта. Проделал весь заграничный поход 1813-1814 гг., а после войны главное внимание уделял созданию Генерального Штаба. 12 декабря 1817 г. стал генералом от инфантерии, 22 августа 1826 г. - министром Императорского Двора и уделов. В 1843 г. удостоился чина генерал-фельдмаршала, а Белозерскому пехотному полку было присвоено его имя.