Wir haben gehört, wie KI unsere Arbeit eines Tages möglicherweise ersetzen kann. Wir sehen bereits, wie die KI die Rollen von Schriftstellern und Grafikdesignern ersetzt hat. Aber was wäre, wenn KI Bug -Jäger ersetzen könnte? Es stellt sich heraus, dass es kann. Laut Google hat sein KI-Bug Hunter Big Sleep über seine ersten Schwachstellen gemeldet.
Google AI Bug Hunter findet Schwachstellen
Dies ist laut Heather Adkins, dem Vice President of Security von Google, der die Nachrichten in einem Beitrag über X teilte. Für diejenigen, die unbekannt sind, ist Big Sleep ein LLM-Bug-Hunter in Google. Es wurde von der DeepMind -Abteilung von Google zusammen mit Hackern bei Project Zero entwickelt, einer weiteren Abteilung bei Google, die sich der Suche nach Sicherheitsfehler und Schwachstellen widmet.
Trotzdem sind wir uns nicht sicher, wie groß diese Schwachstellen haben oder wie schwer sie sind. Dies liegt daran, dass die Schwachstellen noch nicht repariert wurden. Es ist eine Standardpraxis, selbst bei Project Zero, in der Google Unternehmen einen Anmut -Zeitraum gibt, um die Probleme zu beheben, bevor sie sie öffentlich melden.
Das Mitnehmen hier ist jedoch die Tatsache, dass AI diese Schwachstellen gefunden hat. Im Gespräch mit TechCrunch sagte der Google -Sprecher Kimberly Samra: „Um qualitativ hochwertige und umsetzbare Berichte zu gewährleisten, haben wir vor der Berichterstattung einen menschlichen Experten in der Schleife, aber jede Verwundbarkeit wurde vom AI -Agenten ohne menschliche Intervention gefunden und reproduziert.“
Das Gute mit dem Schlechten nehme
Es ist offensichtlich, dass eine KI, die in der Lage ist, Sicherheitsfehler und Schwachstellen zu entdecken, eine gute Sache ist. KI schläft im Gegensatz zu Menschen nicht. Dies bedeutet, dass es ständig auf der Suche nach Fehler sein kann, bevor es zu einem Problem wird. Davon abgesehen ist Googles großer Schlaf nicht der erste seiner Art. Es gibt andere KI -Tools wie Runsybil und Xbow.
Tatsächlich machte XBOW Schlagzeilen, als es beim Hackerone Bug Bounty Program die Spitze der US -Bestandteile erreichte. Aber bevor wir zu aufgeregt sind, gibt es immer noch viele Knicke, die ausgearbeitet werden müssen. Es gab mehrere Berichte, in denen KI Fehler gemeldet hat, die sich als Halluzinationen herausstellten.
Halluzinationen sind ein bekanntes KI -Problem, in dem die KI einfach etwas ausgeht. Wir haben gesehen, dass es passiert ist, wenn Sie darum bitten, Informationen bereitzustellen, und es wird etwas vollständig aus der Luft aus der Luft gezogen. Laut Vlad Ionescu, Mitbegründer und Chief Technology Officer bei Runsybil, sagte er zu TechCrunch: „Das ist das Problem, auf das die Leute stoßen. Wir bekommen eine Menge Dinge, die wie Gold aussehen, aber es ist eigentlich nur Mist.“
