Борис Яковлев родился 17 сентября (5 по старому стилю) 1890 года в Москве. В семье Яковлевых было четыре сына: Борис и Василий стали художниками, ещё двое – Константин и Юрий – архитекторами. Любовь к изобразительному искусству ребятам привила мать, обладавшая художественным вкусом, отец семейства был купцом–аптекарем.
Вначале Борис поступил в Московский университет на физико-математический факультет и закончил его. В 1915 году он поступает в Московское училище живописи, ваяния и зодчества (МУЖВЗ) в мастерскую А.М. Васнецова и А.С. Степанова. Его преподавателями также были С.В. Малютин, К.А. Коровин и А.Е. Архипов. Этот состав учителей позволил ему избежать влияния всевозможных новых течений в искусстве того времени и унаследовать традиции русской реалистической школы живописи.
Любя природу, Борис работал над пейзажами, которые, однако, вскоре перестали его удовлетворять. В течение некоторого времени он вообще очень мало писал, отдаваясь административной работе в художественной группировке Ассоциации художников революционной России (АХРР, с 1928 года Ассоциация художников революции – АХР) членом которой он состоял с момента её возникновения. Работа в АХРе помогла ему уяснить себе новые задачи искусства, поставленные перед изобразительным искусством в революционные годы. Художники АХРа в 1922 году впервые пошли на завод. Результатом этой «творческой командировки» стала картина «Литьё» написанная с натуры на заводе. Борис много путешествовал по стране. В 1925 году он побывал в Самарканде, в 1928 году – в Крыму, в 1929 году – в Баку, в 1930 году – в Ленинграде (на Балтийском заводе), в 1931 году – на Свирьстрое, в 1932 году – в Майкопе, в 1933 году – в Грузии (на Сурамском перевале), в 1933 и 1934 годах – на Урале, в 1935 году – в Дагестане, а в 1936 году – в Карелии. Результатом каждой из этих поездок были обширные серии этюдов и картин, ярко запечатлевших разнообразие природы и быта этих мест. Одной из первых работ, написанных в этот период, была «Нефтяные вышки в Баку» (1929). Желая показать в одной картине сразу все процессы производства, Борис прибегает к композиционному приёму, который он будет использовать во многих своих работах. Это точка зрения, с которой он предлагает зрителю посмотреть на происходящее – сверху. Некоторые критики осуждали его за такой подход к композиции, обвиняя в схематизме и некоторой сухости изображения.
В годы Великой Отечественной войны Борис создал ряд выразительных произведений о Москве: «Москва военная» (1942), «Площадь Пушкина в ночь воздушной тревоги». С 1956 по 1963 год он преподавал в Всесоюзном государственном институте кинематографии, профессор (с 1960). В 1958 году его избрали Членом–корреспондентом Академии художеств СССР. Уже в зрелом возрасте Яковлев вступил Коммунистическую партию Советского союза (1960). В историю отечественного искусства Борис Яковлев вошел как основоположник индустриального пейзажа, сумевший выразить в своих работах новое отношение к природе, а также героические страницы преобразования природы советским человеком. Его работы отличаются широкой манерой письма, пастозной фактурой. Основныеживописныеработы Яковлева: «Транспорт налаживается» (1923), «Краны. Балтзавод» (1930), «На Урале» (1935), «Большой театр. Москва» (1935), «Москва. Вид на Кремль со стороны Москворецкого моста» (1936), «Танки преодолевают водное препятствие» (1938), «Красная площадь зимой» (1948), «Пашня» (1950-е), «Первый жаркий день» (1955), «Краны наступают» (1958), «Ветреный день» (1958).
С 1916 года Борис Яковлев начал участвовать в выставках. В 1917 году, будучи студентом МУЖВЗ, он экспонировал свои произведения на 17-й периодической художественной выставке Нижегородского общества любителей художеств. В 1921 году он выставлялся с группой «Мир искусства». С 1922 года Борис Николаевич является участником выставок Союза русских художников. Он принимает участие в первых выставках АХРа, организованных по тематическому принципу: «Жизнь и быт Красной армии», «Жизнь и быт рабочих», «Революция, быт и труд» и другие. Его персональные выставки проходили в Москве (1943, 1966) и в Киеве (1959).
Произведения Бориса Яковлева хранятся в Государственной Третьяковской галерее, Государственном Русском музее, музеях Костромы, Сочи, Челябинска, Феодосии и других региональных музеях. По его завещанию вдова Бориса Николаевича передала в дар Звенигороду свыше 200 его живописных работ. Все они были переданы в Звенигородский музей.
Борис Яковлев скончался 8 декабря 1972 года в Москве. Похоронен в Звенигороде на Верхнепосадском кладбище.
