Художественный руководитель основанного им в 1981 Фестиваля камерной музыки в Локкенхаусе (Австрия), основатель и дирижер молодежного камерного гастрольного оркестра «Кремерата Балтика» (1996). В 1997–1998 художественный руководитель Фестиваля Иегуди Менухина в Гштаде (Швейцария).
Кремер – музыкант интеллектуального, экспериментаторского склада; с ранних лет он тяготел к исполнению современной музыки и сотрудничеству с композиторами своей эпохи. Первый исполнитель ряда произведений С.А.Губайдулиной, Э.В.Денисова, Г.Канчели, А.Пярта, В.В.Сильвестрова, А.Г.Шнитке и др.; ему посвящены "Fratres" Пярта, "Офферториум" Губайдулиной, "La nontananza" Л.Ноно, симфония для скрипки с оркестром "Widmung" Сильвестрова и др., а также совместно с его первой женой, скрипачкой Т.Т.Гринденко, – "Concerto grosso № 1" Шнитке, "Tabula rasa" Пярта. Кремер выступал в ансамбле с такими выдающимися музыкантами, как М.Аргерих, Г.Холлигер, Г.Шифф, Ю.Башмет, М.Майский и др. В последние годы его «репертуарными коньками» являются, с одной стороны, воскрешение наследия русского «авангардиста» первый десятилетий 20 в., впоследствии работавшего за рубежом, – Артура Лурье, а с другой – творчество знаменитого автора эстрадных аргентинских танго Астора Пьяццоллы.
Кремеру всегда было тесно в рамках собственно скрипичного искусства – отсюда его тяготение к оригинальным программам, предполагающим соучастие в композиторском процессе, к дирижированию, а также к литературной деятельности. Он автор книг "Осколки детства" (вышедшей на немецком языке в Германии) и "Обертоны" (также опубликованной впервые по-немецки в 1997).