陶大临是弘治八年（1495）解元陶谐的孙子。据说陶大临少年时去杭州准备参加乡试，邻居一位女子看中陶大临的才学、品貌。一日，夜奔陶门欲成好事，陶大临一心向学，不被美色所动，又怕此女子再来打搅，陶大临第二天天一亮就搬走了。
嘉靖二十八年（1549）陶大临乡试中举。嘉靖三十五年(1556)，夺得榜眼后授翰林编修。嘉靖三十七年（1558)三月，给事中吴时来上章-权相严嵩“朋奸罔上”，其子严世藩“颐指公卿，奴视将帅”，其党羽赵文华等“剥民膏以营私利，虚官帑以实权门。”建议皇上“除恶务本”。坦言”今边事不振由于军困，军困由于官邪，官邪由于执政之好货。若不除去严嵩父子，陛下虽宵旰忧劳，边事终不可为也。”陶大临曾帮助吴时来为这份奏章定稿。严嵩大怒，吴时来被下诏狱，严刑逼供，非要吴时来招出幕后指使之人，矛头直指大学士徐阶等人。吴时来至死不承认，一口咬定“此高庙神灵教臣为此言耳”。此时，陶大临不顾个人安危，每日到监狱为吴时行送药疗伤，吴时来也“忍死无一言”。人们十分钦佩陶大临，称赞他“貌不胜衣，而识沉守介，屹然不可动摇。”
嘉靖四十一年（1562）八月，陶大临任重录《永乐大典》分校官，升侍读。隆庆四年（1570）九月，为侍讲学士掌南京翰林院事。翌年又升任南京国子监祭酒。不久，又为詹事府少詹事。隆庆六年(1572)，陶大临出任东宫侍读。每日进讲以“正心、窒欲、法祖”为言。神宗即位，升为吏部侍郎，在-的选拔、任免等重大决策上都没有大的失误。
陶大临为官处事一向小心谨慎，惟恐有失，尤其清正。事关取予，无论金帛、书画、名玩一概拒受。他淡泊无所好，去世之日，囊无赢金。士大夫对其十分敬重，更为他的才能没有更大的施展而惋惜。
陶大临为人宽然如长者，而内持贞介。不因权势利益而轻易改变自已。陶大临去世后，赠吏部尚书，谥文僖。