Wichtige Personen verlassen Altman’s OpenAI aufgrund von Sicherheitsbedenken

Vor ein paar Tagen kündigte OpenAI aufregende Neuigkeiten über sein neues Produkt an. Sie erklärten triumphierend, dass ihr ChatGPT jetzt wie ein Mensch sprechen kann und eine fröhliche und etwas charmante weibliche Stimme hat. Genauer gesagt, es klang wie Scarlett Johansson, was die Schauspielerin dazu brachte, sofort Klage einzureichen, was zu einer schnellen Entfernung der Funktion führte. Während das neue ChatGPT spricht, scheint dies jedoch nicht für die Mitarbeiter zu gelten, die kürzlich Altman’s OpenAI wortlos verlassen haben.

Zuerst verließ OpenAIs Mitbegründer und Chefwissenschaftler Ilya Sutskever, der das Super Alignment-Team leitete, das Unternehmen, gefolgt von dem Co-Leiter desselben Teams Jan Leike.

Doch das war nicht das Ende, denn ein weiteres Teammitglied, Gretchen Krueger, verließ ebenfalls OpenAI und erklärte, dass sie die Bedenken ihrer vorgenannten Kollegen teilt. Sie fügte hinzu, dass mehr getan werden muss, um ‚Entscheidungsprozesse; Verantwortlichkeit; Transparenz; Dokumentation; Umsetzung von Richtlinien; die Sorgfalt, mit der wir unsere eigene Technologie nutzen; und die Auswirkungen auf Ungleichheit, Rechte und die Umwelt zu mindern‘ zu verbessern.

Keine Überraschung

Die Rücktritte waren Berichten zufolge keine vollständige Überraschung. Sutskever war an einem Managementaufstand beteiligt, der zu Altmans vorübergehender Entlassung im letzten Jahr führte, bevor der CEO schnell in seine Position zurückkehrte. Sutskever bedauerte öffentlich seine Handlungen und unterstützte Altmans Rückkehr, war jedoch seitdem weitgehend abwesend im Unternehmen, selbst als andere Mitglieder von OpenAIs Politik-, Alignment- und Sicherheitsteams das Unternehmen verlassen haben.

Was die Spekulationen jedoch wirklich anheizte, war das Schweigen der ehemaligen Mitarbeiter. Sutskever gab eine eher typische Rücktrittsnachricht heraus, in der er erklärte, dass er ‚zuversichtlich ist, dass OpenAI eine generative künstliche Intelligenz (AGI) entwickeln wird, die sowohl sicher als auch nützlich ist, und dass er sich auf das, was vor ihm liegt, freut.‘

Leike … tat dies nicht. Seine Rücktrittsnachricht war einfach ‚Ich habe gekündigt‚. Nach mehreren Tagen intensiver Spekulation erweiterte er dies und erklärte, dass er besorgt sei, dass OpenAI von einer sicherheitsorientierten Kultur abgewichen ist.

Sofort tauchten Fragen auf: Wurden sie hinausgedrängt? Ist dies eine verzögerte Folge von Altmans kurzer Entlassung im letzten Herbst? Sind die Rücktritte ein Protest gegen ein geheimes und gefährliches neues OpenAI-Projekt? Spekulation traf auf ein Vakuum, da niemand, der einmal bei OpenAI gearbeitet hat, sich äußerte.

Strenge NDA

Es stellt sich heraus, dass es dafür einen sehr klaren Grund gibt. Ein Insider erklärte, dass die Verträge so restriktiv sind und Vertraulichkeits- und Nichtabwertungs-Klauseln enthalten, dass ehemalige OpenAI-Mitarbeiter unterliegen. Sie sind lebenslang davon ausgeschlossen, ihren ehemaligen Arbeitgeber zu kritisieren, und selbst die Anerkennung, dass die NDA existiert, ist ein Verstoß.

Wenn ein scheidender Mitarbeiter sich weigert, das Dokument zu unterschreiben oder es verletzt, kann er das gesamte Kapital verlieren, das er während seiner Zeit im Unternehmen verdient hat, was wahrscheinlich Millionen von Dollar wert ist. Ein ehemaliger Mitarbeiter, Daniel Kokotajlo, der bekannt gab, dass er OpenAI ‚wegen eines Vertrauensverlusts, dass es sich verantwortungsbewusst im Zeitalter der AGI verhalten würde‘, verlassen hat, bestätigte öffentlich, dass er eine riesige Summe Geld aufgeben musste, um ohne Unterzeichnung des Dokuments zurückzutreten.

Während Vertraulichkeitsvereinbarungen im hochkompetitiven Silicon Valley nicht ungewöhnlich sind, ist es ungewöhnlich, bereits verdientes Mitarbeiterkapital aufgrund von Weigerung oder Verletzung einem Risiko auszusetzen. Für Mitarbeiter in Startups wie OpenAI ist Kapital eine wichtige Form der Vergütung, die ihr Gehalt überschattet. Dieses Geld, das potenziell ihr Leben verändern könnte, zu bedrohen, ist eine sehr effektive Möglichkeit, ehemalige Mitarbeiter zum Schweigen zu bringen.

Letztendlich erkannte Altman in einem Tweet an, dass es eine Bestimmung in den Abfindungsdokumenten des Unternehmens bezüglich ‚potenzieller Kapitalverfall‘ für scheidende Mitarbeiter gab, aber er erklärte, dass das Unternehmen dabei ist, diese Klausel in den Verträgen zu ändern.

Mangel an Transparenz

All dies ist sehr ironisch für ein Unternehmen, das sich ursprünglich als OpenAI vermarktete, ein engagiertes Unternehmen, das leistungsstarke Systeme auf eine transparente und verantwortungsvolle Weise aufbauen möchte.

OpenAI hat längst die Idee aufgegeben, seine Modelle Open Source zu machen, und beruft sich auf Sicherheitsbedenken. Aber jetzt hat es die ältesten und angesehensten Mitglieder seines Sicherheitsteams entlassen, was Skepsis darüber aufwerfen sollte, ob Sicherheit wirklich der Grund ist, warum OpenAI so geschlossen geworden ist.

OpenAI hat lange eine ungewöhnliche Position in technologischen und politischen Kreisen eingenommen. Ihre Veröffentlichungen, von DALL-E bis ChatGPT, sind ziemlich gut, ziehen aber für sich genommen kaum die fast religiöse Begeisterung an, mit der das Unternehmen oft diskutiert wird.

Was OpenAI auszeichnet, ist die Ambition seiner Mission: ’sicherzustellen, dass allgemeine künstliche Intelligenz – KI-Systeme, die im Allgemeinen intelligenter sind als Menschen – der gesamten Menschheit zugutekommt.‘ Viele Mitarbeiter glauben, dass dieses Ziel in Reichweite ist und dass das Unternehmen mit vielleicht einem weiteren Jahrzehnt (oder sogar weniger) und Milliarden von Dollar erfolgreich sein wird, KI-Systeme zu entwickeln, die die meisten menschlichen Arbeiten obsolet machen. Was, wie das Unternehmen schon lange erklärt hat, so riskant wie aufregend ist.

– Superintelligenz wird die einflussreichste Technologie sein, die die Menschheit je erfunden hat, und könnte uns helfen, viele der drängendsten Probleme der Welt zu lösen – erklärt die Einstellungsseite für Leikes und Sutskevers Team bei OpenAI. ‚Aber die immense Macht der Superintelligenz kann auch sehr gefährlich sein und könnte zur Entrechtung der Menschheit oder sogar zur Ausrottung der Menschen führen. Während Superintelligenz jetzt weit entfernt erscheinen mag, glauben wir, dass sie in diesem Jahrzehnt eintreffen könnte – schreiben sie.

Natürlich, wenn künstliche Superintelligenz in unserem Leben möglich ist (und die Experten sind geteilter Meinung), hätte sie enorme Auswirkungen auf die Menschheit. OpenAI hat sich historisch als verantwortungsbewusster Akteur positioniert, der versucht, über bloße kommerzielle Anreize hinauszugehen und generative künstliche Intelligenz zum Nutzen aller zu bringen. Und sie haben gesagt, dass sie bereit sind, dies zu tun, selbst wenn es erfordert, die Entwicklung zu verlangsamen, Gewinnmöglichkeiten aufzugeben oder externe Aufsicht zuzulassen.

Die einzigartige Unternehmensstruktur von OpenAI, ein Unternehmen mit begrenztem Gewinn, das letztendlich von einer gemeinnützigen Organisation kontrolliert wird, sollte die Verantwortlichkeit erhöhen. Aber etwas ist kaputt gegangen, wie die Abgänge von zwei Technologen mit einer langen Geschichte des Engagements für Sicherheit und einer echten Bereitschaft, OpenAI zu bitten, den Kurs zu ändern, wenn nötig, belegen. Sutskever und Leike haben wahrscheinlich genau das getan, aber es schlug fehl, und sie verließen das Unternehmen.

Ihre Abgänge signalisieren keinen Wandel in OpenAIs Mission, allgemeine künstliche Intelligenz zu entwickeln – das bleibt das Ziel. Es signalisiert jedoch fast sicher eine Veränderung in OpenAIs Interesse an Sicherheit.