Herta Kaule stammt aus einer Berliner Arbeiterfamilie. Nach dem Schulbesuch lässt sie sich zur Kontoristin ausbilden. Sie tritt als Jugendliche in die Sozialistischen Arbeiter-Jugend (SAJ) und 1923 schließlich in die KPD ein. In den folgenden Jahren arbeitet Herta Kaule hauptberuflich für die KPD als Stenotypistin und Lohnbuchhalterin. Dabei lernt sie auch ihren späteren Ehemann Hugo Gräf kennen, 1932 wird der gemeinsame Sohn Arno geboren.
Bis zur nationalsozialistischen Machtübernahme behält Herta Gräf ihre Stelle bei der KPD. Noch im Februar 1933 wird sie als Stenografin auf einer geheimen Tagung der Parteispitze im Sporthaus Ziegenhals bei Berlin eingesetzt. Hier versammeln sich nach der Ernennung Adolf Hitlers zum Reichskanzler hohe Funktionärinnen und Funktionäre der KPD, um über politische Strategien gegen die Nationalsozialisten zu beraten.
Nachdem ihr Mann Hugo Gräf als Reichstagsabgeordneter der KPD schon im März 1933 festgenommen und bis 1934/35 in mehreren Konzentrationslagern festgehalten wird, engagiert sich Herta Gräf weiterhin für die verbotene KPD. Im Oktober 1936 wird deshalb vor dem Kammergericht Berlin ein Strafverfahren gegen sie eingeleitet. Sie lebt jedoch zu diesem Zeitpunkt bereits mit ihrer Familie in der Tschechoslowakei.
Ein Jahr später wird Herta Gräf die deutsche Staatsbürgerschaft aberkannt. Die Familie zieht 1938 nach Großbritannien um. Herta Gräf arbeitet dort als Krankenwagenfahrerin beim britischen Luftschutz. Sie ist auch im Exil politisch aktiv, leitet einen Emigrantenclub und engagiert sich gewerkschaftlich.
Im September 1947 kehrt Herta Gräf nach Deutschland zurück. Sie wird Mitglied der SED und lebt bis zu ihrem Tod im Jahr 2007 in Ostberlin.