Open AI: Ilya Sutskever, der Mann, der Sam Altman entlassen hat

«Die künstliche Intelligenz wird alle Probleme lösen, die wir heute haben. Sie wird Probleme im Arbeitsmarkt beheben, sie wird Krankheiten heilen, sie wird die Armut bekämpfen. Aber sie wird neue Probleme erzeugen. Künstliche Intelligenz hat das Potenzial, ewig währende Diktaturen zu erschaffen.»

Mit diesen Worten warnt der kanadische Informatiker Ilya Sutskever in einer Dokumentation des «Guardian» vor den Risiken der künstlichen Intelligenz. KI, so Sutskever, werde eines Tages so mächtig sein, dass sich ihr Verhältnis zum Menschen so gestalte wie das vom Menschen zum Tier: «Wir mögen Tiere gerne. Aber wenn es darum geht, eine Autobahn zwischen zwei Städten zu bauen, fragen wir die Tiere nicht um Erlaubnis.»

Moral oder Profit – was ist wichtiger?

Dabei gehört Sutskever selbst zu den Gründern eines der einflussreichsten KI-Unternehmen: Open AI, der Firma hinter Chat-GPT. Sutskever sitzt bei Open AI im Verwaltungsrat und gilt als treibende Kraft hinter der Entlassung des CEO Sam Altman, die am Freitag überraschend verkündet wurde. Der Schritt sorgte unter den Mitarbeitern für grosses Entsetzen – am Montag schliesslich teilte Sutskever mit, die Entscheidung zu bereuen. Er habe Open AI nicht schädigen wollen. Zudem setzte er seine Unterschrift unter einen Brief, der den Rücktritt des Verwaltungsrates fordert.

Es ist die jüngste chaotische Wende in einem Streit um Moral und Profit, in dem sich Altman und Sutskever gegenüberstehen. Für Letzteren gingen die Pläne von CEO Altman zu weit. Wenn man die Risiken der KI nicht ernst nehme, so Sutskever, könne sie eines Tages zu mächtig werden. Dabei gehört er selbst zu denen, die die Entwicklung von Sprachmodellen wie Chat-GPT überhaupt erst möglich machten.

Sutskever, 1984 in Sowjetrussland geboren und in Israel aufgewachsen, studierte an der Universität von Toronto bei Geoffrey Hinton, der als «Pate der künstlichen Intelligenz» gilt. Gemeinsam mit Hinton entwickelte er vor rund einem Jahrzehnt das neuronale Netz Alexnet, das mithilfe von Deep Learning Tausende von Fotos analysieren und Objekte wie Blumen oder Autos erkennen konnte. Die dazugehörige Firma wurde bald darauf für 44 Millionen Dollar von Google gekauft, wo Sutskever fortan arbeitete.

Elon Musk holte Sutskever zu Open AI

Bei Google wurde bald ein anderer KI-Enthusiast auf Sutskever aufmerksam: Elon Musk, der selbst regelmässig vor den potenziellen Risiken künstlicher Intelligenz warnt. Er überzeugte den jungen Informatiker davon, dass der Google-Gründer Larry Page sich nicht ausreichend Gedanken um diese Sicherheitsrisiken mache. Sutskever solle sich darum dem Open-AI-Gründungsteam um Musk, Sam Altman und Greg Brockman anschliessen.

Bei Open AI, das 2015 als Non-Profit-Organisation gegründet wurde, wurde Ilya Sutskever Chief Scientist, also oberster Wissenschafter. Als solcher spielte er eine zentrale Rolle bei der Entwicklung des Sprachmodells Chat-GPT und des Bildgenerators Dall-E. Mit grossem Erfolg: Als der Chatbot Chat-GPT 3 vor bald einem Jahr für die Öffentlichkeit zugänglich gemacht wurde, zog er innerhalb weniger Tage mehr als eine Million Nutzer an.

Doch die Frage, wie man mit potenziellen Risiken der KI umgehen solle, wurde auch bei Open AI immer mehr zum Thema.

Vier Jahre nach der Gründung kommt Microsoft dazu

Elon Musk verliess den Verwaltungsrat des Unternehmens im Jahr 2018 nach einem Machtkampf zwischen ihm und Sam Altman. Anfang dieses Jahres schrieb Musk in einem Tweet, Open AI sei zu einem verschlossenen, profitorientierten Unternehmen unter der Kontrolle von Microsoft geworden.

Tatsächlich hatte sich Open AI nach Musks Austritt immer mehr vom ursprünglichen Non-Profit-Ziel abgewendet. Um mehr Geld für die Entwicklung der Produkte zu haben, gründete Sam Altman 2019 einen profitorientierten Seitenarm des Unternehmens, der unter anderem ein Milliarden-Investment von Microsoft anzog.

Konflikt zwischen Altman und Sutskever spitzt sich zu

Die Kontrolle des Unternehmens blieb aber beim Non-Profit-Verwaltungsrat – und damit auch bei Ilya Sutskever. Die ethischen Fragen, die der rasante Erfolg der Sprachmodelle mit sich zog, führten immer mehr zu Konflikten zwischen Sutskever und Altman. Laut anonymen Quellen, die die Nachrichtenagentur «Bloomberg» zitiert, gingen ihre Meinungen darüber auseinander, wie schnell die generativen KI-Produkte kommerzialisiert werden sollten und welche Schritte nötig seien, um potenzielle Schäden zu minimieren.

Während Sam Altman als Gesicht von Chat-GPT die vergangenen Monate viel Zeit damit verbrachte, mit Politikern über die Chancen der KI zu sprechen und ihre Sorgen zu dämpfen («Die Vorteile unserer Technologien überwiegen die Nachteile deutlich»), wuchsen die von Ilya Sutskever weiter an.

Superintelligenzen als Bedrohung

Besondere Sorge bereitet Sutskever dabei die Möglichkeit, dass eine Art künstliche Superintelligenz, die den Menschen überlegen wäre, ausser Kontrolle geriete. Im Juli lancierte Open AI ein neues Projekt unter der Leitung von Sutskever, das sich technischen Lösungen zur besseren Kontrolle von künstlicher Intelligenz widmen will. Künstliche Superintelligenz, so das Unternehmen in der Ankündigung, könne «sehr gefährlich sein und zur Entmachtung oder gar zum Aussterben der Menschheit führen». Man müsse darum sicherstellen, dass der Computer dieselben Ziele verfolge wie der Mensch.

Mit diesen Sorgen ist Sutskever nicht allein: Im März dieses Jahres veröffentlichten mehr als 1300 Tech-Unternehmer, unter ihnen Elon Musk, einen Brief, in dem sie eine Pause in der Entwicklung künstlicher Intelligenz forderten. Und Sutskevers Doktorvater Geoffrey Hinton verkündete im Mai seinen Abgang bei Google, um von nun an frei über die Gefahren von KI sprechen zu können.

Sutskever bereut sein Handeln

Auch Sutskever strebt eine Pause in der KI-Entwicklung an. Er will künftig seinen Fokus von der Entwicklung neuer Sprachmodelle auf die Verhinderung einer übermächtigen Superintelligenz verschieben. Sam Altman hingegen wird, wie am Montag bekannt wurde, zu Microsoft wechseln, um dort zusammen mit dem Open-AI-Mitbegründer Greg Brockman ein neues Forschungsteam anzuführen.

Mehr als 700 der 770 Mitarbeiter von Open AI kündigten am Montag an, sich Altman und Brockman anzuschliessen und das Unternehmen verlassen zu wollen. Zeitgleich folgte die Kehrtwende bei Sutskever. Er teilte mit, alles tun zu wollen, um das Unternehmen wieder zusammenzubringen.

Ob ihm das gelingen wird, ist unklar – ebenso, wie es mit der Entwicklung der künstlichen Intelligenz weitergehen wird. Für Sutskever ist eines jedoch sicher: «Es wird monumental sein, welterschütternd. Es wird ein Vorher geben und ein Nachher. »