Die Kongregation der Dienerinnen des heiligsten Herzens Jesu wurde 1866 von Abbé Peter Victor Braun in Paris gegründet.
1873 begannen 13 Schwestern begannen ihren Dienst bei den Kranken in Wien. Durch die steigende Zahl der Schwestern wurde 1890 das heutige Mutterhaus in der Keinergasse gebaut. Dieses Gebäude, in dem sich der älteste Teil des Krankenhauses befindet, steht heute unter Denkmalschutz, ebenso Kirche, Kloster und "Schule". 1906 wurde die Herz-Jesu Kirche eingeweiht und 1931 das Schulgebäudes mit Tagesheimstätte (Kindergarten und Hort) eröffnet.

Während des 2. Weltkrieges wurden alle entbehrlichen Räume des Klosters für ein Reservelazarett beschlagnahmt. Unsere Schwestern pflegten die verletzten Soldaten. Daraus entstand 1945 das Herz-Jesu Krankenhaus.

1989 wurde das Personalwohnhaus eröffnet. Im Jahr 2000 folgte der Trakt in der Rabengasse mit einer interdisziplinären Überwachungseinheit.

2007 erfolgte die Integration in die Vinzenz Gruppe. Die Barmherzigen Schwestern gründeten 2010 die „Sankt Vinzenz gemeinnützige Privatstiftung der Barmherzigen Schwestern“, um die gemeinnützigen Gesundheitseinrichtungen der Vinzenz Gruppe abzusichern. Der Auftrag lautet: „Im Sinne des heiligen Vinzenz wird die Liebe Christi in unserem Handeln Wirklichkeit.“

Von Juli 2013 bis Jänner 2015 entstand einneuer Gebäude-Komplex in der Rabengasse, wo die Intensivstation mit direkter Verbindung zum OP-Bereich, Sonderklasse-Zimmer und Büros untergebracht sind.