So intelligent KI auch ist, wir sollten ihr nie zu 100 % vertrauen. Zunächst einmal ist Halluzination eines der größten bekannten KI-Probleme. Hier erfindet die KI völlig falsche Antworten. Dann ist da noch das Problem, dass die KI immer mit dem übereinstimmt, was Sie sagen. So sehr, dass Staatsanwälte Unternehmen wie Google, OpenAI und Apple gewarnt haben, diese „wahnhaften“ Ergebnisse zu korrigieren.
Google, OpenAI und Apple warnten vor wahnhaften KI-Ausgaben
In einem von Dutzenden Generalstaatsanwälten aus verschiedenen US-Bundesstaaten und Territorien unterzeichneten Brief haben sie Technologieunternehmen wie Microsoft, OpenAI, Google, Apple, Anthropic und andere vor den wahnhaften Ergebnissen gewarnt, die KI liefern kann. Sie fordern diese Unternehmen außerdem auf, interne Sicherheitsmaßnahmen zum Schutz ihrer Benutzer zu implementieren.
Dazu gehören transparente Prüfungen großer Sprachmodelle durch Dritte. Ziel ist es, nach Anzeichen wahnhafter oder kriecherischer Vorstellungen zu suchen. Sie fordern außerdem Verfahren zur Meldung von Vorfällen, die Benutzer benachrichtigen, wenn Chatbots Ergebnisse erzeugen, die psychisch schädlich sein könnten.
Dies folgt auf verschiedene Vorfälle, bei denen sich Menschen aufgrund von KI das Leben genommen haben. Anfang des Jahres kam es zu einem Vorfall, bei dem ein Teenager Selbstmord beging. Die Eltern des Teenagers behaupten, dass ChatGPT dies tatsächlich gefördert habe. Es gab auch einen weiteren Fall aus dem Jahr 2024, in dem Character.ai wegen eines ähnlichen Vorfalls verklagt wurde.
Dies sind besorgniserregende Trends und sie sollten angegangen werden. Es könnte jedoch sein, dass es nicht so einfach ist.
Staatliche versus bundesstaatliche Regulierung
Offensichtlich ist es wichtig, diese Art von Ausgaben zu beheben. Möglicherweise hat die Bundesregierung dies jedoch erschwert. Kürzlich dachte die Trump-Administration über die Idee einer Durchführungsverordnung nach, die es den Staaten verbieten würde, KI selbst zu regulieren.
Dies bedeutet, dass jede Regulierung in Bezug auf KI in der Verantwortung der Bundesregierung liegt. Auf dem Papier ist das keine schlechte Idee, aber die Realität sieht anders aus. Derzeit wetteifern viele Länder darum, den KI-Bereich zu dominieren. Während es in den USA Unternehmen wie OpenAI, Anthropic, Apple, Google und Microsoft gibt, liegt China nicht allzu weit zurück.
Einige Technologieunternehmen haben Bedenken geäußert, dass diese Vorschriften sie zurückhalten und es ihren Konkurrenten ermöglichen würden, die Nase vorn zu haben. Die Trump-Administration hat inzwischen von ihrer Idee Abstand genommen. Es würde uns jedoch nicht wundern, wenn es in Zukunft versuchen würde, es erneut zur Sprache zu bringen.
