Майкл Харни родился 28 марта 1956 года в Нью-Йорке. После школы хотел стать католическим священником, однако увлекся социальными и гражданскими правами.
Какое-то время работал социальным работником, затем адвокатом в тюрьме. Случайно обнаружив в себе актерские способности, Майкл два года выступал в репертуарном театре, затем решил отточить свое мастерство и в течение семи лет изучал актерское мастерство под руководством известных талантливых учителей William Esper и Phil Gushee. В течение всего этого времени актер неустанно играл во всевозможных бродвейских постановках, зачастую бесплатно. Раздосадованный отсутствием каких-либо сдвигов в карьере артиста, Харни открыл школу актерского мастерства своего имени в Нью-Йорке, где преподавал около восьми лет.
В 1993 году артисту поступило предложение на постоянную роль детектива в сериал «Полиция Нью-Йорка». Сериал оказался успешным, Майкл отработал в нем шесть сезонов. Заметив игру актера в этом сериале, его начали активно приглашать в различные телесериалы, это побудило Харни в 1995 году переехать в Лос-Анджелес.
За время своей карьеры актёр сыграл в 80-ти пьесах, более 70 кино- и телепроектах.