Красуйся, град Петров,
И стой неколебимо, как Россия!
Александр Сергеевич Пушкин
В 1739 году начал самостоятельную творческую деятельность. В 1741—1767 годах — главный архитектор Адмиралтейств-коллегии. В 1745—1760 годах был архитектором Царского Села, руководил работами по реконструкции дворцово-паркового ансамбля, участвовал в создании павильона «Эрмитаж».
В качестве главного архитектора флота им выстроены склады для хранения корабельного леса на острове Новая Голландия и подготовлен генеральный план застройки Кронштадта. Крупнейшей постройкой Чевакинского в Петербурге является Никольский морской собор с отдельно стоящей ярусной колокольней.
По заказам крупных вельмож Чевакинским спроектированы два парадных дворца — особняк Шереметевых на Фонтанке и дом Ивана Ивановича Шувалова на углу Малой Садовой и Итальянской улиц.
C 1755 по 1758 год Чевакинский был архитектором Академии наук. В эти годы у него проходили стажировку Василий Иванович Баженов и Иван Егорович Старов. Тогда же им была перестроена пострадавшая от пожара башня Кунсткамеры.
Чевакинский предпочитал оформлять выступающие углы зданий пучками из трёх колонн, из которых средняя обычно вынесена на самый угол. Этот приём предположительно был заимствован им из древнерусского зодчества. Как и другие архитекторы елизаветинской эпохи, щедро использовал для обработки фасадов скульптурный декор.
В 1767 году с наступлением эпохи классицизма Чевакинский ушёл в отставку и уехал в своё имение.