Hija de una familia de inmigrantes judíos de origen lituano y alemán, nació en Cardiff (Gales) en 1923. Mientras sus tres hermanos se dedicaban a la música, ella se licenció en letras por la Universidad de Cardiff y en 1950 empezó su vida profesional. Trabajó cinco años como profesora en una escuela de Birmingham y luego inició una corta carrera como directora de documentales cinematográficos. En 1947 contrajo matrimonio con el comerciante de vinos y novelista Rudi Nassauer, que, veintitrés años más tarde, la abandonaría por otra mujer. Rubens publicó su primera novela, Set on Edge, en 1960. La segunda, Madame Sousatzka (1962) sería llevada al cine en 1988 por John Schlesinger, con Shirley MacLaine. En 1970 se convertiría en la primera mujer ganadora del Man Booker Prize con The Elected Member. Fue finalista del mismo premio en 1978 con A Five Year Sentence. Su última novela, The Sergeant’s Tale, se publicó en 2003, un año antes de su muerte en Londres.