嘉靖二十一年（1542年），蒙古軍大舉攻略山西，皇帝下詔選舉天下勇士，俞大猷於是向巡按御史推薦自己，御史將俞大猷上報到毛伯溫那裡，毛伯溫將俞大猷送到宣大總督翟鵬那裡，翟鵬與俞大猷討論軍事，每每被俞大猷折服，翟鵬內疚地說「：我不該以對待武卒的態度接待你。」並離開自己的座位上前施禮致意，此舉使全軍震驚，然而翟鵬終究也未重用俞大猷，俞大猷告辭而歸。

而後毛伯溫用俞大猷為汀州、漳州守備，俞大猷駐紮武平，建「讀易軒」，與當地讀書人一起舉辦文會，詩詞唱和，每天還教授武士擊劍。俞大猷曾多次擊破海賊康老，俘斬三百餘人，俞大猷官升署都指揮僉事，隸屬廣東都司。

嘉靖二十六年（1547年），譚元清在新興、恩平一帶屢次叛亂，總督歐陽必進將此事交給俞大猷處理，俞大猷於是讓百姓各自守衛自己的地方，自己帶幾個隨從親自去拜訪各個首領，跟他們曉明厲害，並教他們擊劍，有一個叫蘇青蛇的人，能與猛虎格鬥，俞大猷將他斬殺，讓首領何老貓歸還搶奪的民田，又招降許多首領，最終，俞大猷不費一兵一卒，平定新興、恩平的叛亂。

嘉靖二十八年（1549年），右副都御史朱紈巡視福建，推薦俞大猷為備倭都指揮，這時正值安南入侵，歐陽必進上奏留俞大猷效力。此前，安南都統使莫福海去世，兒子莫宏瀷尚幼。大臣阮敬想擁立他的女婿莫敬典，另一大臣范子儀想擁立其黨羽莫正中，二人相互仇殺。莫正中兵敗，帶百餘人投靠明朝，范子儀收集殘卒逃往海東。這時范子儀假稱莫宏瀷已死，來迎莫正中回安南即位。范子儀侵略欽州、廉州，擾亂邊境，歐陽必進傳令俞大猷前往討伐。俞大猷率軍迅速前往廉州，范子儀正急攻廉州城，而俞大猷的水軍還尚未抵達，於是俞大猷派人前往勸降，並聲稱朝廷已經調大軍前來，范子儀不知實情，率軍撤走。

但不久之後，俞大猷水軍就已經到達，俞大猷於冠頭嶺設伏兵伏擊范子儀軍。范子儀又侵犯欽州，俞大猷阻截范子儀軍的戰船，追打范子儀軍，生擒范子儀的弟弟范子流，斬首一千二百級。俞大猷將范子儀軍追到東雲屯，傳令莫宏瀷殺掉范子儀，莫宏瀷於是取范子儀首級來獻給俞大猷。然而俞大猷討平范子儀叛亂後，嚴嵩卻將俞大猷的戰功壓下來不上報朝廷，只給了俞大猷五十兩銀子。

同年，瓊州五指山黎民那燕串通感恩、昌化黎民諸部共同反叛，歐陽必進又調俞大猷討伐，並任命俞大猷為崖州參將。俞大猷與廣西副將沈希儀前往征討，斬首五千三百多人，招降三千七百人。戰鬥勝利後，俞大猷在徵得歐陽必進的同意後單人匹馬去與黎民約定，建立市鎮，用治理漢人的方法治理黎民，海南一帶得到安定。