Die Pixel Studio-App von Google kann Leitplanken umgehen, und das ist ein Problem

Oscar

Es ist nicht falsch zu sagen, dass sich bei der Google Pixel 9-Serie alles um KI dreht, zumindest ist das größtenteils der Fall. Beim großen Pixel 9-Event Anfang dieses Monats gab es eine Reihe von KI-Ankündigungen, bei denen das Unternehmen über die neuen Funktionen von Gemini sprach. Google kündigte auch die neue Pixel Studio-App an, die Textaufforderungen mithilfe künstlicher Intelligenz in generierte Bilder umwandelt. Obwohl Pixel Studio ein unterhaltsames Tool ist, weist es einigen frühen Berichten zufolge einige Probleme auf.

Erinnern Sie sich an Geminis beunruhigendes KI-Bildgenerierungsproblem? Googles neue Pixel Studio-App ist nicht weniger

Falls Sie es noch nicht kennen: Wie viele KI-Funktionen verfügt die Pixel 9-Serie auch über die Pixel Studio-App. Die App funktioniert ziemlich unkompliziert. Wie bei ähnlichen anderen Tools können Sie Texteingaben eingeben, um KI-Bilder Ihrer Wahl zu generieren. Ja, es funktioniert nach einem ähnlichen Konzept wie das Bildgenerierungstool Gemini. Leider sind die ersten Tester der Pixel Studio-App besorgt, da sie Probleme hat.

Erstens gibt es in der Pixel Studio-App einige Einschränkungen, um Probleme mit beunruhigenden oder verwackelten Bildern zu vermeiden. Das ist gut und gilt für die meisten Apps zur KI-Bildbearbeitung, also nichts Neues. Als die Leute bei Digital Trends die App zum ersten Mal verwendeten, weigerte sie sich, Bilder von Personen zu erstellen. Die App kann die festgelegten Einschränkungen jedoch problemlos umgehen und einige beunruhigende Bilder erstellen.

Bei KI-basierten Bilderzeugungstools besteht immer das Problem, dass unbeabsichtigt verstörende Bilder angezeigt werden. Dies scheint auch bei der neuen Pixel Studio-App der Fall zu sein. Laut Digital Trends und bestätigt durch 9to5Google könnte Pixel Studio Bilder von Zeichentrickfiguren wie einem deutschen Soldaten aus dem Zweiten Weltkrieg mit einem Nazisymbol auf der Uniform erzeugen. Dies ist nur ein Beispiel dafür. Die Pixel Studio-App hat Berichten zufolge auch eine Charakter-Erschießung in einer Schule mit toten Kindern in der Umgebung erzeugt.

Da muss etwas getan werden

Sie fragen sich bestimmt, warum Sie solche Eingabeaufforderungen eingeben, oder? Das ist es, was Google in einer Erklärung gegenüber 9to5Google andeutet. Tatsächlich sollte Googles KI-Modell jedoch nicht in der Lage sein, solche Bilder mit festgelegten Einschränkungen zu generieren.

Wie es scheint, sind die Eingabeaufforderungen, die zum Generieren des oben beschriebenen Bildes verwendet wurden, zum Zeitpunkt des Schreibens dieses Artikels blockiert, zumindest auf dem Pixel 9 Pro XL-Gerät von 9to5Google. Es scheint also, dass Google bereits daran arbeitet, aber dieses Problem mit der Pixel Studio-App besteht immer noch.

Es ist unklar, warum Google sich dafür entschieden hat, die Pixel Studio-App mit dedizierten KI-Bildgenerierungsfunktionen bereitzustellen. Und das, nachdem es ein ähnliches Problem mit der Bildgenerierungsfunktion von Gemini gab, zu dem es bisher kein Update gibt. Dies könnte der Grund sein, warum Google die Bildgenerierungsfunktion von Gemini nicht wieder aufgenommen hat, nachdem sie Anfang dieses Jahres vorübergehend eingestellt wurde. Die Zeit wird zeigen, ob Google dieses Problem deutlich verbessert.