Родился в семье донского казака. В 1915 году окончил историко-филологический факультет Московского университета по двум отделениям — философии и классической филологии. Сблизился со многими религиозными философами. Был собеседником Семена Франка, Николая Бердяева, Валентина Асмуса и учеником Павла Флоренского.
Поскольку философию ему преподавать не разрешалось, он занимал должность профессора Нижегородского университета и Московской консерватории (1922). После однолетнего пребывания на Белбалтлаге с трудом получил разрешение на преподавание античной эстетики во 2-м МГУ и Государственно академии художественных наук; научный сотрудник Государственного института музыкальной науки(1922), работая в котором, Лосев внёс большой вклад в развитие философии музыки.
В 1929 году вместе с женой Валентиной Михайловной Лосевой тайно постригся в монахи от афонских старцев. Супруги Лосевы приняли монашеские имена Андроник и Афанасия. Тайное монашество стало практиковаться во время гонений на Церковь в ХХ веке. Из монашеского облачения носил толькоскуфью — шапочку на голове.
Лосев стал сторонником (вслед за Флоренским) так называемого имяславия: «Бог не есть имя, но Имя — Бог». Под видом изучения античной эстетики, слова и символа всячески проповедовал философию Имени как изначальной сущности мира.
Резкий перелом в его жизни вызвало написание книги "Диалектика Мифа" (1930), где он открыто отвергал марксизм и официальную философию — диалектический материализм. Он был подвергнут травле, арестован в апреле 1930 года и приговорён к 10 годам лишения свободы. Отбывал наказание на строительстве Беломорско-Балтийского канала, где почти полностью потерял зрение, лишь частично восстановив с годами возможность видеть. Благодаря ходатайству первой жены А.М. Горького Е.П. Пешковой в 1932 году он, как и его жена, приговорённая к 5 годам, были освобождены.
После возвращения из ссылки был вынужден маскировать свои мысли под диалектику марксизма, снабжая философско-богословские изыскания цитатами из Маркса и Ленина.
С 1944 года — профессор в Московском государственном педагогическом институте. После смерти Сталина у Лосева вновь появилась возможность публиковать работы. В его библиографии более 800 произведений, более 40 из них монографии. Учёный также сотрудничал с "Философской энциклопедией" и 3-м изданием БСЭ; позднее — с энциклопедией «Мифы народов мира» и «Философским энциклопедическим словарем».
В 1960-х годах вышел первый том «Истории античной эстетики», изменивший традиционные представления об античности. Лосев сделал для античности то, что Д.С Лихачев сделал для древнерусской культуры. Год за годом и том за томом выходили новые книги по античной эстетике, открывая тонкости античного идеализма от Сократа, Платона и Аристотеля до мистической апофатики Плотина и неоплатоников. Лосев писал также монографии об эллинистическо-римской эстетике (1979) и эстетике Возрождения (1978).
Постепенно у Лосева появился круг учеников и последователей среди интеллектуалов более молодого поколения. Среди них —
С.С Аверинцев, В.В. Асмус, В.В. Б ибихин, П.П. Гайденко, Г.Ч. Гусейнов, С.Б. Джимбинов, К.А. Кедров,В.А. Косаковский, А.В. Михайлов, Ю.Н. Холопов, С.С. Хоружий, В.П. Шестаков и другие известные ученые, философы, деятели искусства. Среди исследователей более старшего поколения с Лосевым во второй половине XX века были близки В.Ф. Асмус, А.В. Гулыга, Б.И. Пурищев, А.Г. Спиркин и др.
В 1983 году в серии «Мыслители прошлого» вышла популярная книга «Вл. Соловьев». Тираж книги сначала был полностью арестован, но потом под давлением общественности всё же распродан в дальних уголках страны. Правительство вело двойную игру, одновременно запрещая работы и награждая всемирно известного учёного. 90-летний юбилей Лосева был отмечен специальным чествованием в стенах МГПИ.
В 1980-х годах тяжело больной мыслитель уже открыто говорил ученикам и последователям о своей вере, проповедуя имяславие. Незадолго до смерти учёный снялся в документальном фильме «Лосев», дебютной картине режиссёра Виктора Косаковского, вышедшей на экран в 1989 году.
Лосев — автор переводов Аристотеля, Плотина, Секста Эмпирика, Прокла и Николая Кузанского. Был редактором сочинений Платона (тома 1—3, 1968—1972).
А. Ф. Лосев был практически слепым и различал только свет и тьму. Наряду с другими учёными он является примером того, как при глубоких нарушениях зрения можно достичь выдающихся результатов. В память об этом в Российской государственной библиотеке для слепых установлен бюст А. Ф. Лосева.
Скончался 24 мая 1988 года. Похоронен на Ваганьковском кладбище.