Tech-News-Technologie

Timnit Gebru, Co-Leiterin der ethischen KI bei Google, sagt, sie sei wegen E-Mail gefeuert worden

Das fragliche Forschungspapier beschäftigt sich mit möglichen ethischen Fragen von großen Sprachmodellen, einem Forschungsgebiet, das von OpenAI, Google und anderen verfolgt wird. Gebru sagte, sie wisse nicht, warum Google Bedenken bezüglich der Zeitung habe

Timnit Gebru, Google feuert Timnit Gebru, Google feuert Co-Chef von Ethical AI, Google Timnit Gebru, Wer ist Timnit Gebru, Timnit Gebru AI-Forscher, Google Ethical AITimnit Gebru sagt, sie sei per E-Mail von Google gefeuert worden. (Bildquelle: Bloomberg)

Timnit Gebru, Co-Leiterin des Ethical Artificial Intelligence-Teams bei Google, sagte, sie sei entlassen worden, weil sie eine E-Mail gesendet hatte, die das Management als nicht mit den Erwartungen eines Google-Managers vereinbar erachtete.

Die E-Mail und die Entlassung waren der Höhepunkt eines etwa einwöchigen Streits um die Bitte des Unternehmens, Gebru ein KI-Ethikpapier zurückzuziehen, das sie gemeinsam mit sechs anderen, darunter vier Google-Mitarbeitern, verfasst hatte und das nächstes Jahr für eine Branchenkonferenz zur Prüfung vorgelegt wurde , sagte Gebru in einem Interview am Donnerstag. Wenn sie das Papier nicht zurückziehen würde, wollte Google zumindest die Namen der Google-Mitarbeiter entfernen.

Gebru bat die Vizepräsidentin von Google Research, Megan Kacholia, um eine Erklärung und sagte ihr, dass sie ohne weitere Diskussionen über das Papier und die Art und Weise, wie es gehandhabt wird, planen würde, nach einer Übergangszeit zurückzutreten. Sie wollte auch sicherstellen, dass sie sich darüber im Klaren war, was mit zukünftigen ähnlichen Forschungsprojekten ihres Teams passieren würde.



Wir sind ein Team namens Ethical AI, natürlich werden wir über Probleme in der AI schreiben, sagte sie.

In der Zwischenzeit hatte sich Gebru in eine E-Mail-Gruppe für Unternehmensforscher namens Google Brain Women and Allies eingemischt und einen Bericht kommentiert, an dem andere arbeiteten, darüber, wie wenige Frauen während der Pandemie von Google eingestellt worden waren. Gebru sagte, dass eine solche Dokumentation ihrer Erfahrung nach unwahrscheinlich sei, da niemand bei Google zur Verantwortung gezogen würde. Sie verwies auf ihre Erfahrungen mit dem für die Konferenz eingereichten KI-Papier und verlinkte den Bericht.

Hören Sie auf, Ihre Dokumente zu schreiben, weil es keinen Unterschied macht, schrieb Gebru in der E-Mail, die Bloomberg News erhalten hat. Mehr Dokumente oder mehr Gespräche bringen nichts. Die E-Mail wurde zuvor von dem Tech-Autor Casey Newton veröffentlicht.

Am nächsten Tag sagte Gebru, sie sei per E-Mail gefeuert worden, mit einer Nachricht von Kacholia, dass Google ihre Forderungen nicht erfüllen könne und respektiere ihre Entscheidung, das Unternehmen zu verlassen. In der E-Mail hieß es weiter, dass bestimmte Aspekte der E-Mail, die Sie gestern Abend an Nicht-Management-Mitarbeiter in der Gehirngruppe gesendet haben, ein Verhalten widerspiegeln, das nicht mit den Erwartungen eines Google-Managers übereinstimmt, laut Tweets von Gebru, in denen auch Jeff ausdrücklich genannt wurde Dean, die die KI-Abteilung von Google leitet, für ihre Beteiligung an ihrer Entfernung.

Es sei das grundlegendste Schweigen, sagte Gebru im Interview über Googles Aktionen in Bezug auf ihre Zeitung. Sie können nicht einmal Ihre wissenschaftliche Stimme haben.

Vertreter von Google in Mountain View, Kalifornien, haben auf mehrere Anfragen nach Kommentaren nicht geantwortet.

Die Google-Protestgruppe Google Walkout For Real Change hat eine Petition zur Unterstützung von Gebru auf Medium veröffentlicht, die mehr als 400 Unterschriften von Mitarbeitern des Unternehmens und mehr als 500 von Vertretern aus Wissenschaft und Industrie gesammelt hat.

Das fragliche Forschungspapier beschäftigt sich mit möglichen ethischen Fragen von großen Sprachmodellen, einem Forschungsgebiet, das von OpenAI, Google und anderen verfolgt wird. Gebru sagte, sie wisse nicht, warum Google Bedenken hinsichtlich des Papiers hatte, das ihrer Meinung nach von ihrem Vorgesetzten genehmigt und anderen bei Google zur Stellungnahme vorgelegt wurde.

Google verlangt, dass alle Veröffentlichungen seiner Forscher vorab genehmigt werden, sagte Gebru, und das Unternehmen teilte ihr mit, dass dieses Papier nicht ordnungsgemäß vorgegangen sei. Der Bericht wurde der ACM Conference on Fairness, Accountability, and Transparency vorgelegt, einer von Gebru mitbegründeten Konferenz, die im März stattfinden soll.

Das Papier wies auf die Gefahren der Verwendung großer Sprachmodelle zum Trainieren von Algorithmen hin, die beispielsweise Tweets schreiben, Quizfragen beantworten und Gedichte übersetzen könnten, so eine Kopie des Dokuments. Die Modelle werden im Wesentlichen durch die Analyse von Sprache aus dem Internet trainiert, die laut dem Papier große Teile der Weltbevölkerung, die noch nicht online sind, nicht widerspiegelt. Gebru hebt die Gefahr hervor, dass die Modelle nur die Weltsicht von Menschen widerspiegeln, die privilegiert genug waren, um Teil der Trainingsdaten zu sein.

Gebru, Alumni des Stanford Artificial Intelligence Laboratory, ist eine der führenden Stimmen im ethischen Einsatz von KI. Sie ist bekannt für ihre Arbeit an einer bahnbrechenden Studie aus dem Jahr 2018, die zeigte, dass Gesichtserkennungssoftware dunkelhäutige Frauen in bis zu 35% der Fälle falsch identifizierte, während die Technologie bei weißen Männern nahezu präzise funktionierte.

Sie war auch eine ausgesprochene Kritikerin des Mangels an Vielfalt und Ungleichbehandlung schwarzer Arbeitnehmer in Technologieunternehmen, insbesondere bei Google von Alphabet Inc lauter sprechen.

Unter Beschuss

Die Spannungen in der Forschungsabteilung von Google waren bereits hoch. Nach dem Tod von George Floyd, einem Schwarzen, der im Mai bei einer Verhaftung durch weiße Polizisten in Minneapolis getötet wurde, hielt die Abteilung ein All-Hand-Meeting ab, bei dem schwarze Google-Mitarbeiter über ihre Erfahrungen im Unternehmen sprachen. Viele Menschen brachen weinend zusammen, so die Teilnehmer des Treffens.

Gebru gab die Entlassung am Mittwochabend in einer Reihe von Tweets bekannt, die von einigen ihrer Google-Mitarbeiter und anderen auf dem Gebiet unterstützt wurden.

Gebru ist der Grund, warum sich viele Ingenieure der nächsten Generation, Datenwissenschaftler und andere dazu inspirieren, in der Technik zu arbeiten, schrieb Rumman Chowdhury, die früher als Leiterin für Responsible AI bei Accenture Applied Intelligence tätig war und jetzt ein von ihr gegründetes Unternehmen namens Parity leitet.

Google wurde zusammen mit anderen US-Technologiegiganten, darunter Amazon.com Inc. und Facebook Inc., von der Regierung wegen Vorwürfen der Voreingenommenheit und Diskriminierung unter Beschuss genommen und bei mehreren Ausschussanhörungen in Washington zu seinen Praktiken befragt.

Vor einem Jahr hat Google vier Mitarbeiter wegen angeblicher Verstöße gegen Datenschutzrichtlinien entlassen. Die Entlassungen verdeutlichten die bereits eskalierenden Spannungen zwischen dem Management und aktivistischen Mitarbeitern eines Unternehmens, das einst für seine offene Unternehmenskultur verehrt wurde. Gebru nutzte damals Twitter, um diejenigen zu unterstützen, die ihren Job verloren haben.

Für den Websuchriesen kommt die angebliche Kündigung von Gebru, als das Unternehmen mit einer Beschwerde des National Labour Relations Board wegen rechtswidriger Überwachung, Verhöre oder Entlassung von Arbeitnehmern konfrontiert wird.

Top-Tech-News jetzt Klicken Sie hier für mehr

Anfang dieser Woche erkundigte sich Gebru auf Twitter, ob jemand an einer Regulierung zum Schutz ethischer KI-Forscher arbeite, ähnlich wie beim Schutz von Whistleblowern. Wie kann jemand bei der Menge an Zensur und Einschüchterung, die gegenüber Menschen in bestimmten Gruppen stattfindet, darauf vertrauen, dass echte Forschung in diesem Bereich stattfinden kann? schrieb sie auf Twitter.

Seltene Stimme

Gebru war eine seltene Stimme öffentlicher Kritik innerhalb des Unternehmens. Im August sagte Gebru gegenüber Bloomberg News, dass schwarze Google-Mitarbeiter, die sich äußern, kritisiert werden, obwohl das Unternehmen sie als Beispiele für sein Engagement für Vielfalt hochhält. Sie erzählte, wie Kollegen und Manager versuchten, ihren Ton zu kontrollieren, Ausreden für belästigendes oder rassistisches Verhalten zu finden oder ihre Bedenken zu ignorieren.

Als Google in Erwägung zog, Gebru einen anderen Mitarbeiter zu leiten, sagte sie in einem Interview im August, wurde ihr ihre Offenheit zu Diversity-Themen vorgeworfen, und es wurden Bedenken geäußert, ob sie andere führen könnte, wenn sie so unglücklich sei. Die Leute kennen das Ausmaß der Probleme nicht, weil man nicht darüber sprechen kann, und in dem Moment, in dem man es tut, ist man das Problem, sagte sie damals.