Die Massierung von AI-betriebenen Dienstleistungen hat in praktisch allen Bereichen der Technologieindustrie und des Verbrauchermarktes die Tür für unzählige Möglichkeiten geöffnet. Künstliche Intelligenz erleichtert die Dinge, von der einfachen Bearbeitung eines Bildes bis zum Zusammenfassen langer Dokumente. Bösartige Schauspieler haben jedoch auch Zugang zu dieser Technologie. In einem kürzlich erschienenen Bericht gab Google bekannt, dass seine KI -Tools verwendet wurden, um Inhalte von Deepfake -Terrorismus zu erzeugen.
In Australien müssen Big Tech-Unternehmen regelmäßig Berichte über ihre Bemühungen zur Schadensminimierung hinsichtlich der Verwendung ihrer Entwicklungen an die Behörden einreichen. Die australische Esafety -Kommission ist für den Empfang und Analysieren dieser Berichte verantwortlich. Wiederholte Verstöße gegen das Gesetz setzen Unternehmen Bußgeldern oder potenziellen Sanktionen aus.
Google gibt bekannt, dass Gemini Deepfake Terrorism und Kindesmissbrauchsmaterial erzeugt hat
Der neueste Sicherheitsbericht von Google deckt den Zeitraum von April 2023 bis Februar 2024 ab. Laut der australischen Agentur war die Technologie des Mountain View Giant für die Erzeugung von Terrorismus -Inhalten von AI Deepfake. Darüber hinaus erwähnt der Bericht von Google die Verwendung von Gemini, um Kindesmissbrauchsmaterial zu generieren.
“Dies unterstreicht, wie wichtig es für Unternehmen ist, die KI -Produkte entwickeln, um die Wirksamkeit von Schutzmaßnahmen zu erstellen und zu testen, um zu verhindern, dass diese Art von Material generiert wird«, Sagte Julie Inman, Kommissarin Julie Inman Grant.
Laut Google erhalten 258 Berichte über Fälle von AI -Deepfake -Inhalten im Zusammenhang mit Terrorismus oder gewalttätigem Extremismus. Es gibt auch 86 Fallberichte von schlechten Akteuren, die Kinderbeutung oder Missbrauchsmaterial mit Gemini generieren. Google ist strenger bei der Entfernung von Kindesausbeutungsmaterial. Das Unternehmen verwendet ein Lukenanpassungssystem, um solche Bilder zu erkennen und so schnell wie möglich zu entfernen. Google wendet die Technologie jedoch nicht auf extremismusbezogene Inhalte an.
Eines der Hauptziele der Aufsichtsbehörden in Bezug auf künstliche Intelligenz ist es, dass Unternehmen strengere Schilde festlegen, um die Schaffung dieser Art von Material zu verhindern. Die Ankunft von Chatgpt im Jahr 2022 brachte die ersten Bedenken in dieser Hinsicht auf. Jahre später scheint es jedoch, dass das Problem immer noch vorhanden ist, wenn auch vielleicht in geringerem Maße.
Die australische Kommission hat bereits Telegramm und X sanktioniert
Die ESEFETY -Kommission lobt Google für ihre Transparenz bei der Enthüllung der böswilligen Verwendungen, die einige kriminelle Akteure von ihren KI -Tools herstellen. Die australische Esafety -Kommission nannte den Bericht von Google “weltbefürchiger Einblick. ““ Andere Firmen hatten keine günstigen Worte der Agentur. Telegram und X (FKA Twitter) erhielten aufgrund von Mängel in ihren Berichten Geldstrafen.
