Карл Брож родился 25 ноября (13 по старому стилю) 1836 года в Праге в семье небогатого конторского работника. В шестилетнем возрасте он поступил на обучение в начальную школу ордена крестоносцев (Kreuzherren), где учился в течении четырёх лет. После этого он получил общее образование в реальном училище, где тоже обучался четыре года.
В 1850-е годы Карл поступил в Венскую Академию художеств, где проучился шесть лет.
Во время учёбы в Венской Академии художеств Карл работал иллюстратором, создавая рисунки для народных чешских календарей. В 1858 году он уехал в Российскую империю. Карл сотрудничал с изданиями Баумана Алексея Осиповича «Иллюстрации» (1858), «Иллюстрированная Неделя», «Нева», а также с «Сыном Отечества» Старчевского Альберта Викентьевича. Издатель «Всемирной иллюстрации» Гоппе Герман Дмитриевич пригласил Карла Осиповича на работу, на которой он трудился с выпуска первого номера журнала в 1869 году до самого закрытия журнала в 1898 году. Брож исполнил множество портретов и рисунков для «Русской старины» (1870–1890-е) Семевского Михаила Ивановича и для других изданий и книг. Он создал оформление альбома «Русские народные сказки и былины» (СПб., 1875), иллюстрировал издания: «Народные сказания» П.Л. Полевого (СПб., 1871), «Масоны» А.Ф. Писемского (СПб., 1880–1881), «Принцесса Володимирская» Е.А. Салиса де Турнемира (СПб., 1882), «Осаждённый Севастополь» М.М. Филиппова (СПб., 1889), «Два мира» Е.А. Бекетовой (СПб., 1890), «Хозяин и работник» Л.Н. Толстого (СПб., 1895), «Полное собрание сочинений» Н.В. Гоголя (М., 1902), «Боярин Орша» и «Мцыри» М.Ю. Лермонтова (оба – Киев – СПб., 1914). По его рисункам работали многие гравёры и литографы: К.Р. Вейерман, Л.А. Серяков, Э.Х. Дамюллер, А.Я. Даугель и другие. Карл Осипович был членом Товарищества русских художников–иллюстраторов в Петербурге (1891–1898). Самые последние рисунки Брожа были опубликованы в «Биржевых Ведомостях».
Карл Брож приминал участие в выставках Товарищества русских художников–иллюстраторов и в Пушкинской юбилейной выставке 1899 года.
Работы Карла Брожа находятся в Государственном Эрмитаже, Музей Академии художеств, Государственном музее истории российской литературы им. В.И. Даля и в частных собраниях.
Карл Брож скончался 22 ноября (9 по старому стилю) 1901 года в Мариинской больнице Санкт-Петербурга от воспаления лёгких. Похоронен на Католическом кладбище на Выборгской стороне.
