1368年(至正二十八年)朱元璋击破各路农民起义军后，在应天府称帝，国号大明，年号洪武。后结束了蒙元在中原的统治，平定四川、广西、甘肃、云南等地，最终统一中国。
统一全国以后，朱元璋对他身边的战友越来越不放心。出于监控官员和巩固统治的需要，1382年他设立锦衣卫。它的前身为朱元璋设立的"拱卫司"，后改称"亲军都尉府"，统辖仪鸾司，掌管皇帝仪仗和侍卫。
锦衣卫主要职能为"掌直驾侍卫、巡查缉捕"，其首领称为锦衣卫指挥使，一般由皇帝的亲信武将担任，直接向皇帝负责。朱元璋设置锦衣卫以消灭功臣为目的，罗织罪状，置无罪者于死地。朱元璋担心自己死后，下一代皇帝驾驭不了文武功臣，所以他几兴大狱，假借若干由头，把辅佐他打天下的文武功臣屠戮殆尽。
1393年，锦衣卫指挥使参奏蓝玉谋反，朱元璋随即令人将其拿下，并由吏部审讯。当吏部尚书詹徽令蓝玉招出同党时，蓝玉大呼：“詹徽就是我的同党！”话音未落，武士们便把詹徽拿下，审判官们目瞪口呆，不再审了。三天后，朱元璋将蓝玉杀死，其后，就是大规模的清洗和株连。《明史·刑法志》说：“胡惟庸、蓝玉两(大臣)案，株连且四万(人)。”足见其酷烈程度。
当然，朱元璋自己也知道，此类酷政不可以为常，所以，在蓝玉案以后、也即是功臣都已杀得差不多后的洪武二十六年(1393年)，他就下诏“内外狱无得上锦衣卫，大小咸经法司”。自此洪武朝的锦衣卫就被废除了。
