В конце 1952 года Дуайт Эйзенхауэр предложил Уилсону занять пост Министра обороны США. Его назначение не прошло гладко. Перед утверждением в должности ему пришлось выступать перед специальной комиссией Сената США, который опасался, что он будет использовать свою должность на пользу компании. Под давлением комиссии Уилсону пришлось продать принадлежавшие ему акции General Motors на сумму 2.5 миллиона долларов. Когда на слушаниях ему задали вопрос, смог бы он принять решение, идущее против интересов General Motors Уилсон ответил утвердительно, хотя сказал, что "многие годы я думал, что то, что хорошо для General Motors, хорошо и для США и наоборот". Впоследствии эта фраза стала широко известна в сокращенном виде, несколько искажающим её смысл:То, что хорошо для General Motors - хорошо для всей страны. На посту министра обороны проводил политику усиления стратегических ядерных сил при сокращении армии. Продолжал реорганизацию министерства обороны, уточнение распределения полномочий между родами войск. Ушел в отставку в 1957 году.
Умер в 1961 году.