Банк «Акрополь» был учрежден в Москве в августе 1994 года, но реальную банковскую деятельность начал лишь в 1996 году.
В 1999 году приступил к программе выхода на региональные рынки, открыв через год филиал в Воронеже. Еще год спустя на обслуживание в фининститут пришли предприятия угольного комплекса и цветной металлургии.
В 2005 году банк вошел в систему страхования вкладов, а в следующем году был акционирован, изменив организационно-правовую форму с ООО на ЗАО. В октябре 2015 года организационно-правовая форма была изменена на АО.
Согласно данным, раскрываемым банком «Акрополь» на 6 июня 2018 года, его основными бенефициарами выступали предприниматель и политик Ахмет Паланкоев и экс-председатель правления банка Сергей Лепешкин. В 2011–2016 годах Ахмет Паланкоев являлся членом Совета Федерации РФ от Республики Ингушетия. В 2013 году журнал Forbes включил г-на Паланкоева в рейтинг 50 самых богатых госслужащих с суммарным доходом за год в 130 млн рублей. Ахмет Паланкоев также возглавляет автономную некоммерческую организацию «Российско-Турецкий деловой совет». В Ингушетии ранее занимал должность президента фонда «Азан» и выступал соинвестором горнолыжного курорта «Армхи».
С сентября 2019 года в раскрываемой информации банк указывает своим основным бенефициаром экс-председателя правления Связного Банка (см. «Книгу памяти») и Бинбанка (см. «Книгу памяти») Евгения Давыдовича.
По данным источников издания The Bell, в марте 2021 года «Яндекс» вел переговоры о приобретении банка «Акрополь». В апреле 2021 года «Яндекс» заключил соглашение о покупке банка у его владельца, гендиректора группы «Связной» Евгения Давыдовича. Сделка была завершена в июле 2021 года, ее сумма составила 1,1 млрд рублей, из них 75 млн – премия к капиталу за покупку.
В августе 2021 года структуры «Яндекс» появились в составе официальной схемы собственности, а в сентябре банк был переименован в АО «Яндекс Банк».
На базе приобретенного банка «Яндекс» планирует развивать направление финансовых сервисов и создавать новые продукты для пользователей и партнеров.