KI -Modelle wie ChatGPT sind Software, was bedeutet, dass sie einen bestimmten Satz von Anweisungen befolgen. Aber im Gegensatz zu regulären Software ist KI wie ein Textverarbeitungsprogramm „intelligent“. KI-betriebene Systeme können lernen und sich weiterentwickeln. Aber könnten sich AI -Modelle bis zu dem Punkt entwickeln, an dem sie ohne unser Wissen gegen uns planen könnten?
Das Schema von KI -Modellen
Die Informationen sprachen mit einem OpenAI -Forscher, der vorschlug, dass KI -Modelle vielleicht in einem Jahr so klug und weiterentwickelt werden könnten, dass sie gegen uns planen könnten, und wir wären nicht klüger.
Wie ist das möglich, fragst du? Denken Sie an Ihren aktuellen Denkprozess. Wenn jemand Sie fragte, was 2+2 ist, würden Sie Ihre Gedankensequenz logisch darlegen. Der kritische Prozess von AI ist jedoch nicht ganz so schwarz und weiß.
Zum Beispiel wurde das R1 -Modell von Deepseek analysiert, als es gebeten wurde, ein Chemieproblem zu lösen. Es gab die richtige Antwort, aber der kritische Prozess war ein Haufen Kauderwelsch, den Menschen möglicherweise nicht verstehen konnten. Dies liegt daran, dass der von AI -Modellen verwendete Denkprozess etwas ist, das den Menschen nicht unbedingt etwas bedeuten muss. Es muss nur das Problem lösen. Wie es dorthin kommt, spielt keine Rolle, so lange wie es.
Dies bedeutet, dass AIS weiterhin lernt und sich weiterentwickelt, es einen Zeitpunkt haben könnte, in dem sie etwas hinter unserem Rücken planen, und wir könnten es nicht sagen. Abgesehen von dem Terminator-ähnlichen Szenario stellt dies auch KI-Unternehmen ein Problem dar.
Wenn Software nicht das tut, was sie soll, überprüfen Entwickler die Protokolle, um zu sehen, was passiert. Sie können dann den Fehler bestimmen und zum Code zurückkehren, um ihn zu beheben. Wenn der Prozess für den Menschen jedoch völlig unverständlich ist, wie könnten KI-Ingenieure das Problem finden und das KI-Modell fein abteilen?
Der Aufruf zur Regulierung
Die Fortschritte in der KI in den letzten Jahren sind sprunghaft vor dem, was in der Vergangenheit getan wurde. Dieses brennende Entwicklungstempo ist beeindruckend, aber auch besorgniserregend. Aus diesem Grund ist es wichtig, die KI zu regulieren. Zugegeben, Regeln und Vorschriften könnten den Fortschritt verlangsamen, aber wollen wir wirklich in eine Zukunft rennen, in der die KI die Menschheit überholt hat?
Wir haben bereits Beweise dafür gesehen, wie KI aufgrund ihrer Schulungsdaten verschiedene Personas annehmen kann. Dies bedeutet, dass es jemandem möglich ist, eine KI mit einer „bösen“ Persönlichkeit zu programmieren. Wir haben auch alarmierende Studien gesehen, in denen ein KI -Modell bereit war, Menschen in einem hypothetischen Szenario zu töten, um zu verhindern, dass sie geschlossen werden.
