Es gibt einen Grund, warum Ihre Freunde, Lehrer und die Menschen, mit denen Sie sich im Leben umgeben. Es liegt daran, dass wir, mit wem Sie Zeit verbringen, beeinflussen können, wer Sie sind. Aber wie sich herausstellt, gilt die gleiche Logik auch für AI. Laut einer aktuellen Studie von OpenAI können AI -Modelle eigene Personen entwickeln.
KI -Modelle mit ihren eigenen Personas
Die Studie untersuchte die internen Darstellungen eines KI -Modells, wodurch er feststellt, wie sie auf Anfragen reagiert. Während der Umfrage entdeckten die Forscher von OpenAI jedoch Muster, die wie die neuronalen Wege in unserem Gehirn aufleuchteten, wenn ein Modell schlecht benommen wurde. Im Gegenzug stellten die OpenAI -Forscher fest, dass KI -Modelle ihre eigenen Personas entwickeln können, z. B. beispielsweise sarkastisch.
Wie sich herausstellt, ist dies aus der Ausbildung nach „schlechten“ Daten. Die Forschung von OpenAI basiert auf einer früheren Studie vom Februar. Die Forscher fanden heraus, dass die Schulung eines KI -Modells mit Code, das Sicherheitslücken enthält, das Modell mit schädlichen oder hasserfüllten Inhalten reagiert. Dies geschieht auch, wenn der Benutzer es mit etwas Gütigem auffordert.
Die gute Nachricht ist jedoch, dass die Forscher von OpenAI entdeckten, dass sie das Modell tatsächlich in seinen regulären Staat zurückleiten könnten. Dies wird erreicht, indem die internen Darstellungen der KI auf basierend auf „guten“ oder „wahren“ Informationen abtuntert werden. Zugegeben, die Ergebnisse sind alarmierend. Es ist beängstigend, zu wissen, dass es KI -Modelle gibt, die möglicherweise nach schlechten Daten geschult werden könnten, um eine falsche Erzählung zu erzeugen. Die gute Nachricht ist jedoch, dass dies behoben werden kann.
Laut Tejal Patwardhan, einem Openai -Wissenschaftler, der Teil der Studie war, „Für mich ist dies der aufregendste Teil. Es zeigt, dass diese aufstrebende Fehlausrichtung auftreten kann, aber wir haben diese neuen Techniken jetzt, um zu erkennen, wann es durch Evals und auch durch Interpretierbarkeit geschieht, und dann können wir das Modell tatsächlich wieder in die Ausrichtung führen.“
Die Bedeutung der Regulierung
Diese Ergebnisse sind ein gutes Beispiel dafür, warum KI besser reguliert werden muss. Unternehmen wie Openai stellen sich eine Zukunft vor, in der Chatgpt unser persönlicher täglicher Assistent sein könnte. Aus diesem Grund müssen Regeln und Vorschriften sicherstellen, dass wir nicht mit schlechten Akteuren interagieren, die uns Fehlinformationen ernähren.
Derzeit hat die Trump-Administration ein 10-jähriges Moratorium zur Regulierung auf staatlicher Ebene vorgeschlagen. Dies bedeutet, dass jede Verordnung über KI nur auf Bundesebene erfolgen kann. Offensichtlich können Gesetze, die Staaten treffen, Bund werden. Wenn Sie jedoch im Namen des Fortschritts die Regulierung auf staatlicher Ebene festlegen, besteht sicherlich seine Risiken.
