Wenn es um KI geht, ist Sicherheit eines der wichtigsten Themen. Wie wir bei Unternehmen wie Google und Meta gesehen haben, hat diese innovative Technologie auch eine Schattenseite. OpenAI hat gerade ein neues Aufsichtsgremium eingerichtet, um sicherzustellen, dass die KI-Entwicklung sicher ist.
Das KI-Startup hatte zuvor einen Aufsichtsrat, der jedoch aus irgendeinem Grund aufgelöst wurde. Zwei Mitglieder dieses Gremiums, Ilya Sutskever und Jan Leike, haben das Unternehmen inzwischen verlassen. Das wirft kein gutes Licht auf OpenAI, zumal Gerüchte im Umlauf sind, dass es im Unternehmen zu wachsenden Spannungen kommt.
OpenAI richtet ein neues Aufsichtsgremium ein
Alle KI-Unternehmen sollten eine Art Instanz haben, die dafür verantwortlich ist, dass die Unternehmen nicht übertreiben. Nachdem OpenAI seinen alten Vorstand abgeschafft hatte, gab es gerade die Einrichtung eines neuen Aufsichtsgremiums bekannt. Das vorherige Gremium hatte die Aufgabe, die möglichen langfristigen Auswirkungen seiner KI-Technologie zu skizzieren. Ein Mitarbeiter beschwerte sich, dass das Gremium mit der Zeit auf der Prioritätenliste nach unten gerückt sei und immer weniger Ressourcen erhalten habe. Hoffen wir, dass dies mit dem neuen Gremium nicht passiert.
Der neue Vorstand besteht aus CEO Sam Altman, dem Vorstandsvorsitzenden Bret Taylor, Adam D'Angelo und Nicole Seligman. In den nächsten 90 Tagen wird der Vorstand „die Prozesse und Sicherheitsvorkehrungen von OpenAI bewerten und weiterentwickeln“. Danach wird er dem gesamten Vorstand Empfehlungen vorlegen. Anschließend wird der gesamte Vorstand ein Update zu den Empfehlungen öffentlich bekannt geben.
Derzeit arbeitet OpenAI an seinem nächsten „Grenzmodell“ (wir sind ziemlich sicher, dass es GPT-5 sein wird). Es wird schneller, leistungsstärker und – was noch wichtiger ist – intelligenter sein als die Modelle, die es heute auf dem Markt gibt. Daher ist es äußerst wichtig, dass das Unternehmen auf Sicherheit achtet, da wir die Auswirkungen der Implementierung leistungsstarker KI-Technologie in so vielen Bereichen unseres Lebens noch nicht kennen.
