Mako gimė Kobėje, Japonijoje, žymaus vaikų knygų autoriaus ir iliustratoriaus Taro Yashimos sūnus. Jo tėvai persikėlė į JAV, kai jis buvo mažas. Ten jis prisijungė prie jų po Antrojo pasaulinio karo, 1949 m., į kariuomenę 1950 m. 1956 m. jis tapo natūralizuotu Amerikos piliečiu. Kai Mako pirmą kartą atvyko pas savo tėvus į JAV, jis studijavo architektūrą. Karinės tarnybos metu jis atrado savo teatro talentą ir mokėsi Pasadenos bendruomenės žaidimų namuose. Mako buvo vedęs aktorę Shizuko Hoshi, su kuria susilaukė dviejų dukterų (abi aktorės) ir trijų anūkų.