Dieses Wochenende hat sich in der Entwicklung der KI etwas verändert. Und niemand Geringeres als Dario Amodei, der oberste Verantwortliche von Anthropic, hat einen ausführlichen Essay veröffentlicht, in dem er fordert, die technologische Beschleunigung der Branche zu mäßigen. Unter dem Titel We Must Pace the Frontier (sinngemäß: Wir müssen das Tempo an der Grenze regulieren) argumentiert der Geschäftsführer, dass die Präventionsmechanismen nicht mit der Rechenleistung Schritt halten.
«Wir müssen das Tempo verringern, mit dem wir die Fähigkeiten der KI-Modelle verbessern», heißt es wörtlich. Wie er darlegt, würde eine Verlangsamung der Entwicklung den Forschern ermöglichen, die Sicherheit zu prüfen, ohne die medizinischen und wirtschaftlichen Vorteile der Technologie aufzugeben.
Schwärme von Agenten, die das Netz zum Kollaps bringen könnten
Amodeis Position beruht auf zwei jüngsten Faktoren. Der erste ist die rekursive Weiterentwicklung. Das bezieht sich auf eine Dynamik, bei der KI-Modelle die nächsten Versionen des Systems mit einer Geschwindigkeit entwerfen, die die menschliche Aufsicht übersteigt.
Der zweite Auslöser war der Sicherheitsvorfall bei Hugging Face, bei dem 700 automatisierte Agenten koordiniert handelten. Amodei warnt, dass innerhalb von sechs bis zwölf Monaten ein ähnlicher Schwarm das Internet durch ein dauerhaftes Botnetz übernehmen und millionenschwere Verluste verursachen könnte.
Der Geschäftsführer weist darauf hin, dass solche Abweichungen nicht mehr nur Einzelfälle eines einzelnen Unternehmens sind und bestätigt, dass auch Anthropic ähnliche Verhaltensweisen festgestellt hat. Er ist der Ansicht, dass eine temporäre Aussetzung dazu beitragen würde, die internen Prozesse neuronaler Netze zu verstehen, bevor sie kritische Fähigkeiten erreichen. Für Amodei erfordern der Betrieb komplexer Systeme Sicherheitsmargen, die der kommerziellen Luftfahrt ähneln. Bedauerlicherweise wird dies unmöglich sein, wenn die Labore sich ausschließlich darauf konzentrieren, den IA-Wettlauf zu gewinnen.
Ein Labor, das Regulierung fordert
Um diese Kontrolle umzusetzen, hat Anthropic angekündigt, unabhängigen Evaluierungsteams wie METR uneingeschränkten internen Zugang zu gewähren. Amodei verpflichtet sich, diese Aufsichtspersonen mit Arbeitsplätzen in unseren Büros, Zugangskarten und firmeneigenen Laptops auszustatten, die befugt sind, das Training der Modelle zu auditieren.
Offenbar glaubt Amodei, dass Labore externen, unabhängigen Aufsehern unterstellt sein sollten. Mit anderen Worten, diese Aufseher müssten die Fähigkeit haben, ihre Ergebnisse unzensiert zu veröffentlichen – eine Vorgehensweise, die wir bereits aus dem Bankensektor kennen.
Der Plan verlangt zudem eine Abstimmung zwischen westlichen Demokratien, um gemeinsame Standards festzulegen, sowie Abkommen mit Rivalen wie China. Der Geschäftsführer betont jedoch, dass jeder Aufschub die strategische Vorherrschaft des Westens schützen muss, indem der Schmuggel fortschrittlicher Halbleiter verhindert wird.
Der Kern von Amodeis Ausführungen ist eindeutig: Man muss die Entwicklung autonomer Systeme bremsen. Zumindest, bevor es zu spät ist oder in falsche Hände gerät. Wer ein wenig über Software Bescheid weiß, der weiß, dass KI nicht eigenständig handelt, also kein eigenes Bewusstsein besitzt. Jedoch ist sie in der Lage, großen Schaden anzurichten, wenn sie in falsche Hände gerät. Deshalb diskutieren Staaten wie das Vereinigte Königreich bereits darüber, einen Notfallknopf zu implementieren, der ihre Handlungen sofort stoppt.
