Восторженно почитал старых итальянских, голландских и фламандских мастеров, чему способствовал его огромный опыт музейного реставратора (работал в Центральных реставрационных мастерских, 1924–1927, а в 1926–1931 заведовал соответствующей мастерской Музея изобразительных искусств). Будучи «воинствующим реалистом», настроенным к арт-авангарду крайне негативно, противопоставлял ему манеру, основанную на детальной имитации живописной классики. Так, образы Ренессанса и барокко – совмещенные с впечатлениями от творческих командировок или современного артистического быта – претворялись в живописный цикл Рыбы Баренцева моря (1931–1934), в картины Вакханалия (1934), Старатели пишут творцу Великой Конституции (1937), Спор об искусстве (1946; все три работы – Русский музей), Колхозное стадо (1948, Музей изобразительных искусств, Оренбург; Сталинская премия 1949), Возвращение с охоты (1948, Третьяковская галерея) и др., всем им присуща натюрмортно-дотошная детализация предметных и телесных фактур, порою обретающая (как в пародийно-эротической Вакханалии с портретами друзей-художников или бурном Споре об искусстве, что происходит в студии, загроможденной антиквариатом) почти сюрреальный оттенок. Часто выступал как салонного толка портретист (Арфистка В.Г.Дулова, 1934, частное собрание, Москва; и др.) и мастер пейзажа «в старинном вкусе» (виды Сорренто, 1933).
В 1938–1939 и 1949–1950 занимал пост главного художника Всесоюзной сельскохозяйственной выставки. Закрепил свой высокий официальный статус героическими портретами периода Второй мировой войны (Герой Советского Союза В.Н.Яковлев, 1941; Партизан, 1942; оба портрета в Третьяковской галерее; Сталинская премия 1943). Однако его конный портрет маршала Г.К.Жукова – на фоне пылающих берлинских руин (1945–1946, Музей блокады Ленинграда) – вышел чересчур патетическим, как бы ущемляющим авторитет генералиссимуса, и был запрещен для показа. Мастер активно выступал и как педагог (преподавал с 1918 в Свободных художественных мастерских, Институте имени
В.И.Сурикова и других училищах). Обращался к литературе, написав в 1930-е годы автобиографическую повесть Фрол Скопин (опубликована в его посмертной очерковой книге Мое призвание, 1963). Однако все его книги (О живописи, 1951; О великих русских художниках, 1952; Художники, реставраторы, антиквары, 1966) неизменно получались слишком прекраснодушными и автоцензурными. Последней крупной работой Яковлева было руководство (вместе с
П.П.Соколовым-Скаля) реставрацией Севастопольской панорамы
Ф.А.Рубо (с 1952).
