Mafia III sijoittuu New Orleansiin vuonna 1968, joka on yksi Yhdysvaltain historian myrskyisimmistä vuosista. Tässä New Orleansin versiossa on vilkasta toimintaa ja aikakauden inspiroimia autoja, muotia ja musiikkia. Tämän myrskyisän ajan ilmassa leijuu korruption pilvi, ja kaupungista on tullut järjestäytyneen rikollisuuden tyyssija. Italialainen mafia hallitsee laittomia uhkapelejä, huumeita ja prostituutiota, ja korruptoituneet poliisit ja poliitikot täyttävät taskunsa tuotoilla.

Mafia III seuraa Lincoln Clayn tarinaa, joka on taisteluista palaava Vietnamin veteraani, jolla ei ole oikeuksia ja joka etsii kotia ja paikkaa, johon kuulua. Lapsena orvoksi jäänyt Lincoln löytää vihdoinkin jonkinlaisen perheen kaupungin mustan mafian parista ja löytää kaipaamansa korvikeisän ja -veljen. Mutta kun italialainen mafia pettää ja teurastaa Lincolnin uuden perheen, hänestä tulee kostonhimoinen, ja hän aloittaa raa'an sodan italialaisia vastaan, mikä horjuttaa vallan tasapainoa New Orleansin hämärässä alamaailmassa. Tarinan edetessä Lincoln liittoutuu muiden rikollisten kanssa ja rakentaa imperiumin ja oman uuden perheen, joka muuttaa kaupungin.

Mafia III:n mukaansatempaavan tarinan aikana pelaajat valitsevat tiensä kostoon ja rakentavat oman rikollisimperiuminsa käyttämällä oveluutta, kyttäämistä ja petosta tai ylivoimaista voimankäyttöä
ja tulivoiman avulla. Mafia III yhdistää elokuvamaisen tarinankerronnan parhaat puolet dynaamiseen kerrontarakenteeseen, joka reagoi pelaajan valintoihin, ja se sijoittuu elinvoimaiseen kaupunkiin, joka reagoi Lincolnin tekoihin.