韦巨源早年以门荫入仕，在武周年间历任司宾少卿、司府卿、文昌右丞。

　　长寿二年(693年)，韦巨源以文昌右丞(《资治通鉴》作左丞)之职拜相，加授同凤阁鸾台平章事。

　　长寿三年(694年)，韦巨源改任夏官侍郎、同平章事。当时，内史李昭德独揽朝政。韦巨源与豆卢钦望、陆元方、苏味道、杜景俭虽同为宰相，但都依附李昭德，不敢纠正他的过失。

　　证圣元年(695年)，李昭德罢相。韦巨源也被劾以“不能执正”、“罔上附下”之罪，贬为鄜州刺史。不久，韦巨源又被召回朝廷，担任地官尚书。

　　久视元年(700年)，韦巨源由文昌左丞升任纳言，第二次成为宰相，但于是年十月又被罢为地官尚书。后来，武则天西幸长安，以韦巨源充任神都留守。

　　长安二年(702年)，韦巨源被召赴长安，改任刑部尚书，加领太子宾客。

　　神龙元年(705年)，唐中宗复位，任命韦巨源为工部尚书，封同安县子。是年七月，韦巨源改任吏部尚书，加授同中书门下三品，第三次被拜为宰相，并进封郇县伯。但他在相位仅两个月，便因从叔韦安石拜相，又被罢为礼部尚书。

　　二年(706年)二月，韦巨源在刑部尚书任上被再授同中书门下三品，中宗命他和韦皇后叙宗亲。进封舒国公。从此在朝中成为韦后党羽。三月，中宗婿光禄卿驸马都尉王同皎被控与洛阳人张仲之、祖延庆、武当丞周憬等谋反，计划杀韦后情人、武则天侄德静王武三思、废韦后。张仲之被讯问时，说武三思罪状，直称武三思和韦后通奸。负责参验其事的韦巨源和另一结连韦后的宰相侍中杨再思假装睡觉，不予理睬。

　　景龙元年(707年)，韦巨源为侍中、中书令。奉诏与唐休璟、李怀远、祝钦明、苏瑰等定《垂拱格》及《格后敕》，前后计二十卷，颁下施行。武三思先有实封数千户在贝州，当时遇到大水，刺史宋璟请求免租庸及封丁，韦巨源却以为庄稼虽然被淹没，还有蚕桑业可输租税，于是河朔户口颇多流散。

　　景龙二年(708年)二月，传言韦后衣笥裙上有五色云，是吉兆，韦巨源请公布天下，中宗从之，并大赦。当时星坠如雷、野雉同叫之类的凶兆，韦巨源却不说，又见中宗昏惑，与左卫将军同中书门下三品宗楚客、吏部尚书同平章事郑愔、谏议大夫赵延禧等传播妖言祥瑞，秘密引导韦后效法武则天。

　　景龙三年(709年)二月，韦巨源、杨再思分别被任为左、右仆射，并加同中书门下三品。又拜尚书令、同中书门下三品，仍旧监修国史。八月，中宗将祭祀长安南郊，国子祭酒祝钦明和国子司业郭山恽为奉承韦后，提议韦后为亚献，而太常博士唐绍、蒋钦绪、国子司业盐官褚无量则反对。韦巨源认可祝钦明所议，于是韦后为亚献。祝钦明起初建议中宗有权势的女儿安乐公主李裹儿为终献，但唐绍、蒋钦绪坚决反对，中宗最终以韦巨源为终献。

　　四年二月，中宗驾幸梨园毯场，命文武三品以上蹴鞠、拔河。韦巨源和同僚宰相太子少师同中书门下三品唐休璟因年老摔倒在地，长久不能起来。中宗、皇后、皇妃、公主们看了，大笑。

　　六月，中宗暴崩，传统史家认为是韦后和李裹儿所毒杀，这样韦后能如武则天一样称帝，李裹儿能成为皇太女。韦后立中宗庶子温王李重茂为皇帝，即殇帝，本人作为摄政皇太后维持实权。不足一月，中宗妹太平公主和侄子临淄王李隆基，杀韦太后、李裹儿。消息传出，韦巨源家人建议其躲避。韦巨源答：“我是大臣，有难岂能不赴?”出门到都街，被乱兵所杀。

　　不久，李隆基拥其父亲，曾为皇帝的相王李旦，即唐睿宗。睿宗追赠韦巨源特进、荆州大都督。太常博士李处直建议谥韦巨源为“昭”。户部员外郎李邕坚决反对，说：“武三思引荐他为宰相，阿韦(即韦后)以他为宗亲。无功受封，无德受禄。他诽谤同族韦安石，却阿附外人宗楚客。谥号‘昭’是不合适的。”后来又上了一篇更长的表文反对此谥，虽然世人同意，但睿宗仍然谥韦巨源为“昭”。