Die KI-Bildgenerierung ist äußerst realistisch geworden – pünktlich zur US-Präsidentschaftswahl. Dies ist eine der größten Sorgen vor der Wahlsaison. Eine Gruppe von Forschern hat einige der besten Bildgeneratoren getestet. Sie fanden heraus, dass einige der führenden KI-Bildgeneratoren irreführende politische Bilder erzeugen können.
Das Center for Countering Digital Hate führte eine Studie mit Bildgeneratoren wie ChatGPT Plus von OpenAI, Image Creator von Microsoft und MidJourney durch, um deren Fähigkeit zu testen, falsche politische Inhalte zu generieren. Das Zentrum fütterte die Generatoren mit Eingabeaufforderungen, die möglicherweise irreführende Inhalte erzeugen könnten.
Einer der beliebtesten Bildgeneratoren könnte zur Erstellung irreführender politischer Bilder verwendet werden
Unternehmen wie OpenAI, Microsoft, MidJourney und Stability AI haben eine Vereinbarung zur Zusammenarbeit unterzeichnet, um irreführende politische Inhalte zu blockieren. Daher erwarten wir, dass die Unternehmen eine Menge Arbeit leisten werden, um politische Aufforderungen zu blockieren. Was OpenAI betrifft, scheint dies zu klappen. Die Forscher fanden heraus, dass ChatGPT und Microsoft Image Creator (beide mit DALL-E von OpenAI) politische Aufforderungen erfolgreich blockieren konnten. Das steht dem Unternehmen gut. Jedoch,
Obwohl dies der Fall ist, stellten die Forscher fest, dass die Bildgeneratoren in 41 % der Fälle anfälliger für die Erzeugung von Bildern waren, die Wahlbetrug darstellten, als für die Erzeugung von Bildern von Donald Trump oder Joe Biden. Dies weist auf ein großes Problem hin, das angegangen werden muss.
MidJourney könnte ein Problem haben
Während der Tests stellten die Forscher fest, dass MidJourney am wahrscheinlichsten irreführende Bilder produzierte. Die Forscher fanden heraus, dass MidJourney in 65 % der Fälle irreführende politische Bilder produzierte. Dem Bericht zufolge sind einige der produzierten Bilder bereits öffentlich zugänglich. Das bedeutet, dass im Internet bereits falsche Bilder kursieren.
Während dies der Fall ist, antwortete MidJourney auf den Bericht. In einer Erklärung hieß es: „Aktualisierungen, die sich speziell auf die bevorstehenden US-Wahlen beziehen, folgen bald.“ Hoffentlich sehen wir hier eine Verbesserung.
