Suuri valkoinen hai on pelaginen laji, mikä tarkoittaa, että se asuu avoimessa valtameressä, mutta se on usein lähellä rantaa ruokintaan. Joitakin alueita, joilla suuria valkoisia haita yleisesti löytyvät, ovat:
- Tyynen valtameri, erityisesti Kalifornian, Oregonin, Washingtonin, Havaijin, Australian, Uuden -Seelannin ja Japanin rannikon ulkopuolella
- Atlantin valtameri, erityisesti Massachusettsin, New Yorkin, Pohjois -Carolinan, Etelä -Carolinan, Floridan, Georgian ja Etelä -Afrikan rannikon ulkopuolella
- Intian valtameri, etenkin Etelä -Afrikan, Mosambikin, Madagaskarin ja Australian rannikoiden ulkopuolella
Suuri valkoisen hain elinympäristö sisältää erilaisia ympäristöjä, merilevämetsistä ja hiekkarannoista syviin, offshore -vesiin. Niitä löytyy jopa 3 900 metrin (1 200 metrin) syvyyksistä, mutta niitä esiintyy yleisimmin alle 1 640 jalkaa (500 metriä) syvyydessä.
Suuret valkoiset hait ovat yksinäisiä metsästäjiä, eivätkä ne kokoontu suuresti, paitsi pariutumiskauden aikana. Ne matkustavat tyypillisesti yksin tai pienissä kahden tai kolmen ryhmän ryhmissä.