Allo stato brado, gli esemplari maschi adulti raggiungono dimensioni imponenti, possono superare i 200 cm di altezza al garrese con una lunghezza di oltre 325 cm e pesano mediamente 1.000 kg, le femmine sono invece più minute e meno massicce, pesano mediamente 300 kg. La sottospecie domestica ha dimensioni decisamente inferiori: i maschi pesano dai 350 ai 580 kg e le femmine hanno un peso compreso tra i 225 e i 255 kg.

L'aspetto fisico è caratterizzato da una folta pelliccia con lunghi peli con gradazioni di colore tra il marrone scuro e il nero, le corna sono grandi e allungate con una curvatura verso l'alto, un lungo ciuffo di peli ricopre parte della fronte, anche la coda è ricoperta di lunghi peli. Le popolazioni addomesticate e selezionate dall'uomo presentano gambe più corte, zoccoli più ampi, la colorazione della pelliccia è più diversificata e va dal nero al bianco ed è spesso chiazzata; le corna sono più deboli e talvolta possono essere assenti del tutto.

Gli yak possiedono grandi polmoni, un numero elevato di globuli rossi ed una concentrazione di emoglobina più elevata della maggior parte degli altri bovidi. Tutte queste caratteristiche permettono loro di vivere e di prosperare ad elevate altezze, cosa che gli altri bovidi non sarebbero in grado di fare per il clima e l'aria rarefatta.