Настоящая фамилия - Москвин. Окончив реальное училище, служил в Коммерческом банке. В 22 года вдруг "всё бросил" и подписал контракт с антрепенёром И.Е.Шуваловым в Рязань на третьи роли, а также помрежем, суфлёром, бутафором, реквизитором. Выступал на сценах Калуги, Перми, Рыбинска, Симбирска, Омска, Пензы, Полтавы, Казани и др. городов.
В 1914–19 гг. служил в труппе известного режиссёра Н.Н.Синельникова (Харьков, Киев). В провинции сыграл Михаил Тарханов в роли Градобоева в спектакле "Горячее сердце" множество ролей. Природный талант Тарханова обладал "жизненной правдивостью", был верен традициям щепкинского реализма. Он стал популярным, широко известным актёром в провинции.
В 1922 году, во время заграничной поездки МХАТ, Тарханов вступил в труппу прославленного театра и сразу сыграл ответственные роли: Лука в "На дне" М.Горького, Кулыгин в "Трёх сестрах" А.П.Чехова, Живновский в "Смерти Пазухина" М.Е.Салтыкова-Щедрина и др.
По возвращении во МХАТ в 1924 году в Москву состоялся официальный дебют Тарханова в роли Богдана Курюкова в знаменитом спектакле "Царь Фёдор Иоаннович" А.К.Толстого. Первые же работы Тарханова во МХАТе выявили его органическую близость творческим принципам Художественного театра, что подтвердил и К.С.Станиславский, сказавший Тарханову: "Вы – наш".
На сцене МХАТ Тарханов создал блестящую галерею образов, отличавшихся характерной достоверностью, щедростью комедийно-сатирических красок, необычайной отточенностью мастерства и смелостью художественных обобщений. Михаил Тарханов в фильме "Юность Максима".
Среди ролей, сыгранных Тархановым в 1920–1930-е годы, вершинными были Градобоев ("Горячее сердце" А.Н.Островского, 1926), Фирс ("Вишнёвый сад" Чехова, 1928), Собакевич ("Мёртвые души" по Н.В.Гоголю, 1932), генерал Печенегов ("Враги" Горького, 1933), Фамусов ("Горе от ума" А.С.Грибоедова, 1938), Фурначёв ("Смерть Пазухина" Салтыкова-Щедрина, 1939).
С 1929 года снимался в кино: Модест Алексеевич в фильме "Чины и люди" по рассказу Чехова "Анна на шее", купец Дерунов в "Иудушке Головлёве" по Салтыкову-Щедрину (реж. А.Ивановский, 1933), Дикой в "Грозе" Островского (реж. В.Петров, 1934), большевик Поливанов в "Юности Максима" (реж. Г.Козинцев и Л.Трауберг, 1934), Михаил ТархановСпицын в "Дубровском" (реж. Ивановский, 1935), фельдмаршал Шереметев в "Петре I" (реж. Петров, 1937–1938) и другие.
Совместно со Станиславским и И.Я.Судаковым как режиссёр участвовал в постановке "Горячего сердца" Островского (1926). В 1925–27 гг. был художественным руководителем 4-й Студии МХАТ, поставил студийные спектакли "Не было ни гроша, да вдруг алтын" Островского, "Тартюф" Мольера, "Цемент" по роману Ф.Гладкова.
Оставаясь одним из ведущих мастеров МХАТ, в 1942-1948 гг. Тарханов был художественным руководителем ГИТИСа им. А.В.Луначарского (ныне РАТИ). Доктор искусствоведения (1939), профессор (с 1939), преподавал актёрское мастерство, сценическую речь, как никто владея секретами выразительной интонации, тембра голоса и оттенков речи. Вёл национальные студии (украинскую, белорусскую,чувашскую и др.). "Выдающейся дуэлью" называли историки театра исполнение роли Луки в "На дне" родными братьями Москвиным и Тархановым. Оба играли эту роль в течение 36 лет.
Михаил Михайлович ушёл из жизни 18 августа 1948 года в Москве. Похоронен на Новодевичьем кладбище рядом с братом И.М.Москвиным.
Семья: отец — Михаил Алексеевич, был приказчиком в часовом магазине Калашникова, что в Зарядье, мать — Дарья Павловна.
Супруга — Елизавета Феофановна Скульская (1887-1955). Работала в драматических театрах Одессы и Харькова. С 1919 года вместе с мужем, М. М. Тархановым, участвовала в гастролях «качаловской группы» по югу России и в Европе. Во МХАТе с 1922 по 1954 г.г. Заслуженная артистка РСФСР.
Сын — Иван Тарханов (1926—2004), артист МХАТа, заслуженный деятель искусств РФ, профессор, был педагогом Школы-студии МХАТ.
Внуки - Елизавета Москвина-Тарханова — актриса Театра имени Ермоловой, Михаил Иванович Москвин-Тарханов (р. 1953), депутат Московской городской думы.
Брат — актёр театра и кино, народный артист СССР (1936) Иван Москвин, сестра — Анна Михайловна, мать актёра Анатолия Горюнова. Братья Москвины принимали горячее участие в воспитании племянника, рано лишившегося отца. Анатолий Горюнов был женат на актрисе Вере Бендиной (1900-1974), их дети Михаил Горюнов (род. 1932) и Анна Горюнова (род. 1933) — стали актёрами МХАТа.
Творчеству Михаила Тарханова посвящён научно-популярный фильм «Искусство актёра».