var født i Williamsburg, Ohio i 1820 og begynte på Augusta College i Kentucky. Han dro imidlertid derfra for å virke som predikant i Ohio-konferansen, bare 17 år gammel. Først var han reisepredikant før han ble pastor i en menighet i New York City. Han virket som pastor i flere menigheter, men var også lærer ved både ved Northwestern University, Illinois og ved Drew Theological Seminary, New Jersey. På Drew var han administrativ leder til han ble valgt til biskop i 1872
Allerede året etter kom Foster til Norge og ledet det 7. «missionærmøtet» som ble holdt i Kristiania. J. Thorkildsen skriver at det var første gang en biskop ledet et slikt møte. Under dette møtet diskuterte man opprettelse av egen årskonferanse og skole for predikantene. Årskonferansen kom i 1876.
10 år senere ledet han årskonferansen som var samlet i Arendal. Ved denne konferansen ble det behandlet to saker som var spesielle. Pastor Walle, ansatt i Odalen, ble anklaget av sognepresten i Eidsberg for å ha delt ut nattverd til et medlem av statskirken. Pastor Ole Olsen, i Oslo, ble anklaget for å ha tatt opp to personer på prøve i menigheten selv om de var under 19 år. Det sies ingen ting om hvordan biskopen håndterte sakene.
Foster døde i Newton Centre, Massachusetts i 1903.
(Bildet er hentet fra https://en.wikipedia.org/wiki/Randolph_Sinks_Foster)