Сын крестьянки и казенного служащего, он после окончания церковно-приходской школы благодаря счастливой случайности обрел покровителя - известного инженера В. Чаплина. Благодаря "второму отцу", разглядевшему в худеньком мальчике
искру Божию, Мельникову удалось получить прекрасной образование: Московское Училище живописи, ваяния и зодчества, а затем начать творческий путь в Архитектурно-планировочной мастерской Строительного отдела Моссовета. Архитекторы грезили «Новой Москвой», проектировали народные дома, школы, жильё для рабочих нового государства.
В эти годы Мельников легко увлекался различными течениями в архитектуре, но изучал их ровно до тех пор, пока его собственная творческая личность не начинала требовать чего-то своего, особенного. В двадцатые годы он окончательно отстраняется от всех и начинает творить, как- будто замкнувшись в себе. Тут то к нему и приходит признание.
Взлет творческой карьеры Мельникова начался с деревянного павильона "Махорка" на Всероссийской и кустарно-промышленной выставке 1923 года в Москве, построенного по заказу Всероссийского махорочного синдиката.
Гениальный зодчий сразу же отказался от идеи одноэтажного сооружения, в пользу концептуального двухэтажного здания с винтовой открытой лестницей, прозрачным безопорным угловым остеклением, консольными свесами. К сожалению, заказчики остались не довольны павильоном, зато столь концептуальное сооружение получило положительные оценки от известных заслуженных архитекторов и художников. После этого Константин Мельников работает над несколькими проектами, среди наиболее интересных из них был проект вращающегося (!) 6-ти этажного здания газеты «Ленинградская правда». До появления проекта вращающейся башни был предложен Дэвида Фишера оставалось более восьмидесяти лет.
Всемирная известность пришла к К. Мельникову в 1925 году, когда, выиграв конкурс на постройку павильона СССР в Париже на Международной выставке современных декоративных и промышленных искусств. Первоначальный проект к началу постройки был автором переработан. Но результат превзошел самые смелые ожидания! Легкая двухэтажная деревянная постройка с большой площадью остекления, открытой лестнице с оригинальным перекрытием в виде наклонных перекрещивающихся деревянных плит, выкрашенных в серый и красный. От лестницы справа - каркасная вышка с надписью "СССР" и реющий на ветру красный флаг. Именно так выглядел проект-победитель международного конкурса.
Последующие годы стали настоящим периодом расцвета для архитектора. Он с увлечением искал композиционные и образные решения. Мельникова интересовало, каким образом в архитектуре можно разрешить функционально однотипную задачу, придавая ей различные объемно-пространственные качества.

С конца сороковых годов и до конца жизни Мельников был известен как выдающийся педагог, однако самостоятельно творить ему, к сожалению, не давали, ошибочно усматривая в его идеях явный формализм. В те годы великий архитектор сокрушался, что его проекты не строят, ни в родном городе, ни за рубежом.
28 ноября 1974 года Москва прощалась с опередившем время и недооцененным современниками творцом. У открытой могилы академик С. О. Хан-Магомедов впервые назвал его гениальным архитектором двадцатого века.
Интересным архитектурным решением отличается построенный в виде знака бесконечности дом К.Мельникова с характерными шестигранными окошками, напоминающие соты.