Przez osiemnaście lat stał na czele zakonu jezuitów. Urodził się w Bilbao, w Kraju Basków. Po czterech latach studiów medycznych na uniwersytecie w Madrycie, wstąpił do jezuitów. Studia teologiczno-filozoficzne odbywał w Hiszpanii, Belgii oraz Holandii. Po święceniach kapłańskich w 1936 udał się do USA, gdzie podjął posługę duszpasterską wśród emigrantów. W 1938 jako misjonarz rozpoczął pracę w Japonii. Tu w 1941 roku po ataku Japończyków na Pearl Harbor został prewencyjnie aresztowany przez Amerykanów. Po wyjściu z aresztu objął funkcję przełożonego i mistrza nowicjatu na przedmieściach Hiroszimy, gdzie 6 sierpnia 1945 roku przeżył wybuch bomby atomowej. Mając doświadczenie medyczne, jako jeden z pierwszych, pospieszył z pomocą ofiarom. Nowicjat przekształcił w szpital polowy dla kilkuset ciężko poparzonych. W 1954 został wiceprowicjałem, a w cztery lata później prowincjałem jezuitów w Japonii. Założył Wyższą Szkołę Muzyczną w Hiroszimie i przyczynił się do rozwoju Uniwersytetu Sophia w Tokio. Po 27 latach pracy w Japonii został wybrany w 1965 roku na generała zakonu. Odpowiadając na potrzeby świata podejmował rozległą działalność na rzecz sprawiedliwości społecznej, odnowił ducha jezuickiego szkolnictwa i wprowadził Towarzystwo Jezusowe w posoborową odnowę Kościoła. Szczególnie zależało ojcu Arrupe, aby jezuici dawali przejrzyste świadectwo zaangażowania w budowę świata bardziej ludzkiego. Jako pierwszy w historii generał jezuitów, zrezygnował w 1983 roku z funkcji z powodu wylewu i postępującego paraliżu. Żegnał się z jezuitami słowami: „Bardziej niż kiedykolwiek czuję się w rękach Boga”. Pochowany został w Rzymie, w kościele Del Gesu’.