Sam Altman, CEO von OpenAI, hat gerade eine bedeutende Änderung für die beliebte KI-gestützte ChatGPT-Plattform angekündigt: Der Chatbot wird bald in der Lage sein, Inhalte, einschließlich Erotik, für verifizierte erwachsene Benutzer zu generieren. Dieser Schritt ist Teil einer umfassenderen Strategie und signalisiert eine deutliche Lockerung der klassischen Content-Leitlinien des Dienstes.
Altman enthüllte den Plan in den sozialen Medien. Er erklärte, dass OpenAI im Rahmen des Prinzips „Erwachsene Benutzer wie Erwachsene behandeln“ bis Dezember eine umfassendere Altersbegrenzung einführen werde. Sobald die Altersverifizierung vollständig implementiert ist, plant das Unternehmen, „noch mehr zuzulassen, etwa Erotik für verifizierte Erwachsene“.
ChatGPT erlaubt „Erotik“: Der Grund für die Richtlinienänderung
Diese Entscheidung widerspricht direkt den aktuellen äußerst restriktiven Inhaltsrichtlinien von ChatGPT. Der Chatbot verbietet in den meisten Kontexten ausdrücklich NSFW-Material (Non Safe for Work). Altman erläuterte die anfängliche Vorsicht: Die ersten Versionen von ChatGPT seien „ziemlich restriktiv gestaltet worden, um sicherzustellen, dass wir bei psychischen Problemen vorsichtig sind“, insbesondere bei jüngeren Benutzern.
Mit dem anfänglichen strikten Ansatz gelang es, gefährdete Benutzer zu schützen. Allerdings gab Altman zu, dass der Chatbot dadurch „für viele Benutzer, die keine psychischen Probleme hatten, weniger nützlich/unterhaltsam“ wurde. Nun behauptet das Unternehmen, dass neue Sicherheitsfunktionen und aktualisierte Tools es ihnen ermöglichen, „die Beschränkungen in den meisten Fällen sicher zu lockern“. Dies öffnete effektiv die Tür für persönlichere und komplexere Interaktionen zwischen Erwachsenen.
Wettbewerb auf dem Companion-Markt
Die Richtlinienänderung kommt für den KI-Riesen zu einem sensiblen Zeitpunkt. OpenAI steht unter zunehmendem Druck von Konkurrenten wie Elon Musks xAI, das über Grok AI bereits Chatbot-Begleiter mit „NSFW-Unterstützung“ anbietet. Für OpenAI, dessen Umsatzwachstum entscheidend ist, obwohl es nie profitabel war. Eine Lockerung dieser Regeln könnte also dazu beitragen, mehr zahlende Abonnenten zu gewinnen, die mehr Arten von Interaktionen suchen.
Allerdings kollidiert das Streben nach Wachstum bereits mit Forderungen nach Regulierung. OpenAI geriet kürzlich in verschärfte Aufmerksamkeit, nachdem ein kalifornisches Ehepaar Klage eingereicht hatte, die behauptete, ChatGPT habe zum Selbstmord ihres 16-jährigen Sohnes beigetragen. Darüber hinaus führt die Federal Trade Commission (FTC) derzeit eine Untersuchung mehrerer Technologieunternehmen, darunter OpenAI, zu potenziellen psychischen Gesundheitsrisiken für Kinder durch. Als Reaktion auf diese Bedenken kündigte das Unternehmen gleichzeitig die Einsetzung eines Expertenrats für Wohlbefinden und KI an, der seinen künftigen Sicherheitsansatz leiten soll.
Über die inhaltlichen Änderungen hinaus bestätigte Altman auch, dass eine kommende Version des Chatbots es Benutzern ermöglichen wird, seine Persönlichkeit und seinen Ton besser zu bestimmen. Benutzer können ChatGPT anweisen, „menschenähnlich“ zu reagieren, einen bestimmten Ton zu verwenden oder sich „wie ein Freund zu verhalten“, was die Rolle der Plattform als vielseitiger Begleiter festigt.
