Родился 4 апреля 1932 г. в селе Завражье Юрьевецкого района Ивановской Промышленной (ныне — Костромской) области — в этих местах жили родственники его матери, Марии Ивановны Вишняковой. Родители вместе окончили Литературный институт, отец — Арсений Александрович Тарковский, поэт, переводчик. Через несколько месяцев после рождения сына семья вернулась в Москву. Через два года родилась младшая сестра Тарковского Марина, а в 1935 г. его родители расстались. Мать устроилась на работу корректором в Первую образцовую типографию, где проработала всю жизнь. В 1939 г. Тарковский поступил в среднюю школу № 554, одновременно его записали в районную музыкальную школу. После начала войны дети вместе с матерью и бабушкой уехали в эвакуацию к родным, на Волгу, в город Юрьевец — места, где прошло его раннее детство. В 1943 г. они вновь вернулись в Москву, Тарковский продолжил учебу в своей прежней школе, а после войны, семиклассником, поступил в Московское художественное училище памяти 1905 года, в ту пору одну из лучших советских художественных школ.

После средней школы в 1951 г., окончательно не определившись с выбором профессии, Тарковский поступил на арабское отделение ближневосточного факультета Московского Института Востоковедения. В институте во время занятий физкультурой он получил сотрясение мозга, обучение прервалось, и в 1953 г. принял решение не догонять свой курс и забрал документы из института. Летом он отправился в Сибирь с геологоразведочной экспедицией, по возвращении устроился работать в институт НИГРИЗолото коллектором.

В 1954 г. Тарковский поступил на режиссерское отделение ВГИКа в мастерскую М.И. Ромма.

В 1960 г. с отличием окончил ВГИК. Его дипломной работой стал короткометражный фильм «Каток и скрипка» по сценарию, написанному Тарковским в соавторстве с А. Кончаловским. Оператором картины был В. Юсов, затем работавший с Тарковским на всех его фильмах, вплоть до «Сталкера». «Каток и скрипка» удостоился Первой премии на фестивале студенческих фильмов в Нью-Йорке в 1961 г. Тарковский позднее скептически оценивал свою ученическую работу, но историки кино видят в ней мотивы зрелого кинематографа Тарковского. Майя Туровская: «Портрет времени узнаваем на всех уровнях фильма. [...] В фильме не так важны собственно сюжетные мотивы — друзья, большой и маленький, теряют друг друга в дождь,- сколько сам этот дождь, веселый, крупный ливень, обрушивающийся на толпу, глазевшую, как сносят дом. Ливень так же, как зеркала в витрине, становится самостоятельным эпизодом в картине, он „значит“ не меньше, чем ее перипетии. Все это потом войдет в кинематограф Тарковского, приумножится в нем, преобразится и созреет. Так же как подспудная драматическая, даже трагедийная нота насильно разрушенных отношений, невольного обмана, высоты и бессилия искусства».

В 1962 г. Тарковский снимает на Мосфильме свой первый полнометражный фильм (по мотивам рассказа В. Богомолова «Иван») «Иваново детство». Работа над фильмом начал режиссер Э. Абалов, но отснятый им материал был забракован худсоветом студии. На новую съемку остался очень скромный бюджет и короткие сроки на завершение проекта: столь жесткие условия позволили М. Ромму порекомендовать в качестве нового постановщика своего ученика. Тарковский согласился, но поставил условие: студия принимает его вариант картины — в жизни ребенок воюет, а свое обычное детство проживает в снах: «появление „снов“ означало переход инициативы от рассказчика к Ивану, а значит, и передачу общего взгляда на войну другому поколению. [...] сюжет „Ивана“ привлек его [...] разрушением естественного и светлого мира детства, насильственным и трагическим повзрослением Ивана. Он с самого начала предложил свой вариант заглавия: „Иваново детство“» (Туровская). Картина была закончена за пять месяцев — и с нее началась мировая слава Тарковского. «Иваново детство» было удостоено «Золотого льва» на Венецианском кинофестивале.

В 1962 г. Мосфильм заключил с Тарковским договор на производство «Страстей по Андрею». В декабре 1963 г. был принят литературный сценарий, авторами которого были Тарковский и А. Кончаловский, и в 1964 г. фильм был запущен в работу. Все этапы сопровождались длительным ожиданием, хождением по инстанциям, согласованиями и исправлениями. Наконец, в 1966 г. премьера состоялась в Союзе кинематографистов, в 1967 г. после нескольких «закрытых» показов фильм подвергся резкой критике партийного и кинематографического начальства, был обвинен в «идейной чуждости», и, несмотря на активное заступничество Михаила Ромма, фактически был положен на полку. Тем не менее борьба за фильм продолжалась. Григорий Козинцев включился в нее и с 1967 г. и до 1969 г. обращался во все возможные инстанции за разрешением выпустить фильм на широкий экран. В письме 29.01.1969 г. Тарковский пишет Козинцеву: «Дорогой Григорий Михайлович! Наконец Вашими молитвами „Рублева“ выпускают. Вчера на Комитете это окончательно зафиксировано и утверждено. [...] Я никогда не забуду всего того, что Вы сделали для меня и моей картины». В 1969 г. «Андрей Рублев» демонстрируется во внеконкурсной программе 22-го Каннского кинофестиваля и получает главный приз ФИПРЕССИ.

«Андрей Рублев, задуманный первоначально как картина о художнике и власти, выйдя за пределы сценарного замысла, сделал его автора классиком. Рублев выявил истинный сюжет кинематографа А. Т. — духовное усилие, „усилье воскресенья“ (Б. Пастернак). В Анатолии Солоницыне режиссер нашел не только своего Рублева, но и актера своей жизни: без него, пока Солоницын был жив, А. Т. уже не обходился ни в одном фильме. В Рублеве определились также его отношения с „физической реальностью“. А. Т. всегда будет стремиться показать ее не „киношно“, а обыденно, обжито, [...] будь то русский пятнадцатый век, современность, будущее или never-never land фантастики. Бесконечные требования переделок при неуступчивости А. Т., трехлетняя задержка проката Рублева на родине [...] создадут [...] риф в отношениях режиссера и власти[...]. Не будучи диссидентом политическим, отныне он станет „эстетическим диссидентом“, пугая и привлекая новизной киноязыка», — писала Туровская.

В 1968 г. Тарковский подал заявку на экранизацию научно-фантастического романа Станислава Лема «Солярис». Авторами сценария был сам Тарковский и Фридрих Горенштейн. Сценарий серьезно расходился с романом Лема, из-за чего между режиссером и романистом возник конфликт. Результатом стала компромиссная версия, которой Лем, впрочем, был не удовлетворен. Музыку к фильму написал Эдуард Артемьев.

В 1960-е гг. космические завоевания и полет Гагарина полностью легитимизировали в советской культуре жанр «научной фантастики», вначале полностью футорологический и утопический. К концу эпохи шестидесятников фантастика в культуре преобразилась, теперь за фасадами освоения космоса речь могла идти о самых разных вещах — от фрустрации перед тоталитарным будущим (антиутопии) до метафорического описания религиозных и мистических переживаний. Художник картины Михаил Ромадин вспоминал: «Вся наша работа над фильмом превратилась в борьбу с жанром, попытку заземлить роман». Фильм вышел на экраны в 1972 г. и в том же году был отправлен на Каннский фестиваль, где получил специальный Гран-при жюри.

В 1973 г. Тарковский сдает на студию окончательный вариант сценария своего нового фильма «Зеркало» (его рабочим названием было «Белый, белый день») и приступает к съемкам. В 1974 г. картина выходит на экраны, но ее прокат столь дозирован, ограничен, что просмотр доступен немногим: кинематографическое начальство определяет фильм как элитарный, не адресованный массовой аудитории, но продает его копии за рубеж. Между тем «Зеркало» , которое считают автобиографией режиссера, его поисками утраченного времени, современниками узнавалось как коллективная память поколения: «для нашего поколения фильм имеет еще особую, неизъяснимую прелесть узнавания, тождества детских воспоминаний. Его можно назвать „Мы вспоминаем“» (Туровская).

Михаил Ямпольский пишет: «Чистая абсолютная феноменальность этого мира становится доступна человеку. Но когда она становится доступна человеку, мир становится очень субъективным. [...] весь мир, представленный в этом фильме, чисто субъективен: это память человека, включающая в себя и память других людей. Есть совершенная возможность перехода от одних воспоминаний к другим — перед нами огромный субъективный мир феноменальных вещей».

В 1976 г. Тарковский возвращается к условно фантастическому жанру и вместе с Аркадием и Борисом Стругацкими пишет сценарий по роману «Пикник на обочине». Съемки фильма сопровождались серьезными проблемами, несколько раз пришлось менять натуру, в 1977 г. при проявке пленки в лаборатории студии погибла значительная часть фильма, после чего Тарковский заменил оператора (вместо Георгия Рерберга съемки продолжил Леонид Калашников). В 1978 г. Тарковский перенес инфаркт. С июля по декабрь фильм был полностью переснят. В 1979 г. состоялась первая «закрытая» премьера. От режиссера не потребовали цензурных переделок, но в массовый прокат ленту выпускали очень дозировано: она демонстрировалась в нескольких столичных кинотеатрах, затем малым числом копий разошлась по стране. В 1980 г. фильм получил Приз экуменического жюри на Каннском кинофестивале. «Сталкер» стилистически отличается от прежних фильмов Тарковского: «поражает аскетическим единством стиля, [...] почти демонстративным» (Туровская). По отзыву Александра Пятигорского: «Я не знаю другого фильма в истории российской кинематографии, который весь был бы построен на рассуждениях и в котором этот бесконечный интеллигентский разговор был бы передан столь великолепно, просто гениально. Не туманные символические намеки [...], но вполне конкретные, слышанные Тарковским всю его жизнь диалоги и монологи людей, у которых ничего кроме этого в жизни, в сущности, не осталось. Так что делать кино об их жизни — значило снимать реальный фильм об их реальном разговоре».

В 1980 г. Тарковский едет в Италию для совместной работы над сценарием фильма «Ностальгия» с Тонино Гуэрра, с которым он был дружен. Об эмиграции или даже продолжительном периоде жизни на Западе Тарковский тогда не задумывался. Его выпускают за границу, но без семьи — и практически все время, прожитое Тарковским в Европе, он борется за право родных приехать к нему.

В 1982 г. во выбора натуры для съемок «Ностальгии» Тарковский делает документальный фильм для итальянского телевидения «Время путешествия»: «его автопортрет на фоне Италии». Фильм «Ностальгия» закончен через год. В фильме Тарковский практически откажется от изображения Италии: «исходя при встрече с богатствами новой для него природы и культуры из того же принципа минимализации, что и в „Сталкере“: впускать в кадр лишь то, что соответствует „пейзажу души“»; лента «о кризисном состоянии современного человека [...] состоит из шатаний между полуявью-полубредом, действительностью, похожей на наваждение, и наваждением, почти неотличимым от действительности» (Туровская).

Работа над картиной была завершена в 1983 г., но решения об эмиграции Тарковский так и не принял: он боялся, что после возвращения он может стать «невыездным» и его лишат возможности работать, но не решался окончательно оставаться на Западе, к коммерческой киноиндустрии которого не мог и не хотел адаптироваться. Его записи в дневнике: «мне теперь куда ни кинь, всюду клин: мне теперь всюду будет одинаково — и здесь, и в Москве. Здесь — из-за ностальгии, там из-за того, что не воспользовался свободой, возможностью изменить судьбу» (3 апреля 1983 г.); «Мне и в России не жить, и здесь не жить...» (25 мая 1983 г.).

В 1984 г. Тарковский едет в Швецию для обсуждения возможности съемки своего нового фильма «Жертвоприношение». 10 июля 1984 г. на пресс-конференции сообщает о том, что принял решение не возвращаться в СССР.
Весной 1985 г. начинает снимать «Жертвоприношение», в конце года ему поставили диагноз рак. Тарковский заканчивает картину, жанр которой он сам определил как поэтическую притчу: «прекращение движения времени, его исчерпанность придают ему некий внеисторический апокалипсический характер, который становится центральным мотивом „Жертвоприношения“. При этом конец времен в глазах Тарковского вовсе не связан со смертью: „Проблема смерти меня не занимает и не интересует, потому что я не верю в смерть“ [...]. Природа как раз и есть символ исчезновения исторического в вечном, во внеисторическом, в бесконечном пространстве следов», — Ямпольский.

29 декабря 1986 г. Тарковский умер в Париже, похоронен на кладбище Сент-Женевьев-де-Буа.

Наталья Бочкарева