При Иване Калите Москва активно растёт, а его резиденция на Боровицком холме начинает осознаваться как отдельная, главная часть города. И, видимо, неслучайно в Воскресенской летописи под 1331 годом впервые появляется её собственное имя — Кремль.

В 1339–1340 годах Иван Калита возвёл из дубовых брёвен новую, более значительную по размеру крепость «в едином дубу», то есть только из дуба. Воскресенская летопись отмечает очень быстрое окончание строительства: в ноябре заложили и «кончаша тое же зимы на весну в великое говение». Известно, что Кремль был расширен в напольную сторону (в сторону современной Красной площади).

Умирая, Калита составил духовную грамоту (завещание). Он передавал своим сыновьям не только московские земли, но и символы власти Руси того времени — золотые цепи и пояса, а также драгоценную посуду и княжеские одежды. Среди них впервые упомянута и «шапка золотая», которую отождествляют со знаменитой шапкой Мономаха — главным венцом русских государей. Так в первой половине XIV века в Кремле начала формироваться сокровищница московских великих князей.

Политика Калиты была продолжена его потомками. Особых успехов она достигла в годы правления его внука — Дмитрия Донского.

Стены, окружённые естественной водной преградой и рвом со стороны Красной площади, по мнению исследователей, были высокие и зубчатые, между зубцами ставились заборола, то есть деревянные ставни. Вероятно, белокаменный Кремль имел 8 или 9 башен и 5 из них были проездные. Причём три проездные башни вели в сторону Красной площади.

Территория Кремля была ещё увеличена за счёт напольной части холма и особенно — за счёт подола, так как южная часть стены была спущена с бровки холма к его основанию вдоль Москвы-реки.

Князь Дмитрий присоединил к Москве целый ряд княжеств, а в отношениях с Золотой Ордой перешёл к открытой борьбе за освобождение от ига — прекратил выплату дани Орде. В ответ хан Мамай двинулся большим походом на Русь.