Его отец работал в министерстве авиации, а мать была активисткой послевоенного движения "девушки земли", а затем в школе секретарем.
Картер Учился в Ашвильском колледже (г. Харрогейт) и в Университете Сассекса, где он изучал право. В университете увлёкся актёрским мастерством (участвовал в драматическом кружке).
Джон бросил университет после двух лет обучения, чтобы присоединиться к театральной группе в Брайтоне.
Дебютировал в кино в 1980 году, в фильме "Флэш Гордон".
Женат на британской актрисе Имелде Стонтон. Они познакомились в январе 1982 года во время репетиций на сцене Национального театра. Картеру было 34 года, а Имелде Стонтон 26. Через год они поженились. Через десять лет родилась их единственная дочь Бесси.
Супруги живут в Западном Хэмпстеде, на севере Лондона. У них есть маленькая собачка по имени Молли. В настоящее время Джим Картер - председатель клуба крикета в Хэмпстед.