蔡必胜曾祖蔡岳,祖父蔡钦事迹已不可考。父亲蔡蔚,曾被朝廷赠予武德郎。
蔡必胜自幼习文练武,人品学识俱佳。他中武状元后,被授予江东将军。按当时军队规定,所有将校参见主帅,都必须穿小袖衫拜于堂下,而蔡必胜却穿袍执笏揖于堂上,表现了不同凡人的个性。时任参知政事兼枢密使的虞允文很赏识蔡的才华,欲委任他做学官,却遭到推辞。在任上,蔡曾积极协助其他将领查禁私盐贩卖,朝廷要奖赏有功人员,他只字不提自己,将功劳全记在他人身上,为此受到同僚们的敬重。他很快被提拔为阖门舍人,其上司曾觌也想结交拉拢他,每次退朝时以目示意,但蔡素恶他心术不端,总是佯装不知,不予理睬。渐渐地,蔡必胜在朝中声