Heutzutage gibt es viel Aufregung um generative KI, aber auch viel Angst davor. Denn wenn sie in die falschen Hände gerät, kann sie großen Schaden anrichten. Einem neuen Bericht zufolge sollten Sie sich über die KI von OpenAI nur mäßig Sorgen machen. GPT-4o birgt ein mittleres Risiko.
Das von Microsoft unterstützte OpenAI war in letzter Zeit wegen seines neuen Sicherheitsteams in den Nachrichten. Zuvor bestand das Team aus Mitgliedern außerhalb des Unternehmens, was der beste Weg ist. Auf diese Weise können die Leute die Sicherheitsprotokolle unvoreingenommen bewerten. Das neue Sicherheitsteam besteht jedoch aus Mitgliedern innerhalb des Unternehmens. Es ist ein bisschen schwierig, den Meinungen von Leuten zu vertrauen, die mit dem Unternehmen verbunden sind.
GPT-4o birgt mittleres Risiko
OpenAI hat gerade die Systemkarte für GPT-4o veröffentlicht. Dabei handelt es sich im Grunde genommen um eine Art Zeugnis voller Informationen darüber, wie das Unternehmen sein Modell sicher hält. Es beschreibt die Sicherheitsmaßnahmen und Risiken.
Laut der Karte erhielt GPT-4o eine mittlere Risikobewertung. Das ist nicht ganz so schlimm, wie es klingt. Die Sicherheit des Modells wurde in vier Bereichen bewertet: Überzeugungskraft, Cybersicherheit, biologische Bedrohungen und Modellautonomie. In den letzten drei Bereichen erhielt das Modell eine niedrige Risikobewertung. In Bezug auf Überzeugungskraft erhielt das Modell eine mittlere Bewertung. Da die Gesamtbewertung durch die höchste Bewertung eines Bereichs definiert wird, hat das Modell eine mittlere Gesamtbewertung.
Was bedeutet das? Es gibt Fälle, in denen dieses Modell überzeugendere Texte produzieren kann als von Menschen geschriebene. Das ist beängstigend, da Menschen mit von ChatGPT geschriebenen Texten die Massen für ihre eigenen Zwecke täuschen können. Das ist also etwas, womit sich das Unternehmen befassen muss.
Können wir dem vertrauen?
Die Frage ist, ob wir dieser Bewertung vertrauen können oder nicht. Auch diese wurde hauptsächlich von einem internen Team erstellt. Egal, wie sehr das Unternehmen seine Verantwortung beansprucht, wir können diese Tatsache nicht ignorieren. Egal, wie gut ein Schüler ist, man wird immer ein wenig skeptisch sein, wenn er seinen eigenen Mathetest benotet.
