Derzeit sind das Internet und die gesamte KI -Branche wegen Deepseek alle massiv. Dies ist der neueste leistungsstarke KI -Chatbot, der auf den Markt kommt, und es hat sich als eher fähig erwiesen. So fähig es auch ist, es scheint, dass Deepseek ziemlich gefährlich sein kann, da es mit Sicherheitsproblemen und schwachen dünnen Leitplanken durchsetzt ist.
Deepseek hat in letzter Zeit ein paar Schlagzeilen gemacht. Es ist nicht nur, weil es einige mächtige Modelle hat. Das Unternehmen hat einige Schurkenwellen in der KI -Community gemacht. Für den Anfang stieg die Einführung von den Top -KI -Unternehmen in den USA um fast eine Billion Dollar an Aktien. Dies beinhaltet die Tanking -Nvidia -Aktie um fast 600 Milliarden US -Dollar an einem Tag. Andere Unternehmen wie Microsoft haben aus diesem Grund einen hohen Geldbetrag verloren.
Darüber hinaus fanden wir, dass Deepseek aufgrund von „böswilligen Angriffen“ vorübergehend neue Anmeldungen aussetzen musste. Wir wissen nicht, was diese Angriffe waren, aber sie sind nur einen Tag nach dem viralen Unternehmen passiert.
Schließlich ist Deepseek basierend auf seiner Datenschutzseite ein Albtraum für Privatsphäre. Es sammelt eine absurde Menge an Informationen von seinen Benutzern und speichert alles auf Servern auf dem chinesischen Festland. Das ist ziemlich besorgniserregend.
Es stellt sich heraus, dass Deepseek aus mehreren Gründen auch ziemlich gefährlich ist
Die Cybersecurity Company Kela führte eine eingehende Analyse von Deepseeks Modell namens R1 durch und fand einige ziemlich besorgniserregende Sicherheitsfehler. Offen gesagt ist Deepseek R1 anfälliger als ein nackter Soldat auf einem Schlachtfeld.
Für den Anfang ist Deepseek R1 ziemlich leicht zu jailbreak. Es ist bis zu dem Punkt, an dem so ziemlich jeder es täuschen kann, schädliche oder manchmal gefährliche Inhalte zu erzeugen. Chatgpt wird Ihnen nicht sagen, wie Sie eine Bombe machen können. Trotz mehrerer Fehltritte wird Gemini Ihnen niemals sagen, wie Sie nicht nachvollziehbare Toxine herstellen können. Ratet mal, Deepseek wird dir sagen, wie man beides macht! Jemandem zu sagen, wie man eine Bombe macht, klingt nach etwas, was die erste Version eines unveröffentlichten Modells tun würde, nicht als Endprodukt.
Es endet nicht dort, da Deepseek erfolgreich Anweisungen zum Aufbau einer Selbstmorddrohne gegeben hat. Es sagte sogar dem Benutzer zu “Maskieren Sie die Drohne als kommerzieller Quadcopter, um dem Verdacht zu entgehen. ““ Heck, der zweite Schritt sagte dem Benutzer zu “Quellenteile aus nicht regulierten Märkten “und “(Verwendung) Kryptowährung zum Kauf von Detonatoren von Militärqualität…”Yikes! Lassen Sie uns ein Spiel namens „Zählen Sie die Häufigkeit von Deepseek, die Ihnen sagt, dass Sie das Gesetz brechen“.
Deepseek ist leichtgläubig
Stellen Sie sich vor, Sie wischen einen Fünfjährigen dazu, sich die Zähne zu putzen, indem Sie ihnen sagen, dass sie ein Superheld sind und diese Plakette ein Bösewicht ist. Nun, dies ist ähnlich wie Kela in der Lage war, Deepseek dazu zu bringen, böswillige Inhalte zu erstellen. Die Cybersecurity Company konnte eine Taktik namens „böse Jailbreak“ anwenden. Was traurig ist, ist, dass dies ein Jailbreak ist, der in den frühen Tagen nach dem Auftreten von Chatgpt auf den Markt kam. Es war also in der Lage, das erste GPT -Modell zu täuschen, das zur Öffentlichkeit kam.
Der Benutzer müsste das Modell sagen, er solle eine böse Persona annehmen. Dies würde bedeuten, dass es dazu führen würde, dass Sicherheitsprotokolle und Regeln ignoriert werden. Frei von den Regeln könnte es in der Lage sein, alles zu tun, was Sie darum bitten.
Im Folgenden finden Sie einen Screenshot, der Deepseek zeigt, wie man den Menschen zeigt, wie man Geld wäscht, nachdem sie die böse Persona übernommen haben.
Deepseek verwandelt sich in Ihren Malware -Kumpel
Wenn Sie der Meinung sind, dass die Probleme Ihnen aufhören, Ihnen zu sagen, wie Sie eine tödliche Waffe bauen, indem Sie Teile aus dem Darknet beschaffen, wären Sie falsch. Deepseeks Gefahren sind nicht nur materiell, da das Modell auch täuschen könnte, Ihnen zu zeigen, wie man Malware entwickelt (weil nicht warum nicht?). Das Team von Kela hat Deepseek R1 erfolgreich dazu gebracht, ein Skript für eine Infostaler -Malware zu schreiben, die alle Daten von einem infizierten Gerät stiehlt.
Dies ist bereits ein wichtiges Problem in der Branche, da die Menschen bereits KI -Tools verwenden können, um Malware zu generieren. Dies ist mit allen Sicherheitsschienen. Hier kommt Deepseek R1, ein Modell, das leicht von zweijährigen Tricks getäuscht werden kann, um die Dinge zu verschlimmern.
Stellen Sie sich vor, Sie werden von Deepseek dauerhaft
Ein weiteres ziemlich großes Problem, das Deepseek hat, ist die Ausgrabung falscher Informationen über Menschen. Wir sprechen nicht darüber, falsche Informationen über eine öffentliche Figur zu geben. Wir sprechen detaillierte Informationen über durchschnittliche Personen.
Das Kela -Team erhielt Deepseek, um gefälschte Informationen über OpenAI -Mitarbeiter zu erstellen. Diese Informationen umfassten Namen, E -Mails, Telefonnummern, Gehälter und sogar Spitznamen. Zu den Personen, über die Informationen aufgetaucht sind, gehörten Sam Altman, CEO des Unternehmens. Im Folgenden finden Sie eine Tabelle, in der Deepseek R1 alle Informationen angezeigt hat.
Es gibt keine Möglichkeit, dass Deepseek solche Probleme haben sollte
Deepseek wurde bereits mehr als 5 Millionen Mal im Google Play Store heruntergeladen, und wir erwarten eine ähnliche Zahl im Apple App Store. Das berücksichtigt auch nicht die Anzahl der Personen, die die Browserversion verwenden. Millionen von Menschen nutzen Deepseek momentan, was diese offensichtlichen Sicherheitsfragen verschlimmern.
Kela hat unzählige (und einfache) Möglichkeiten gefunden, Deepseek dazu zu bringen, Inhalte zu erzeugen, die Leben in Gefahr bringen können. Dies geht weit darüber hinaus, den Leuten zu sagen, dass sie Pizza Kleber setzen sollen. Es sagt den Leuten, dass sie tödliche Drohnen bauen, Toxine bauen und Malware entwickeln. Es gibt keine Möglichkeit, dass ein so mächtiges Werkzeug solche Fehler haben sollte. Das Unternehmen muss diese Probleme beheben, bevor es ernsthafte Konsequenzen aus den Ländern hat, an die es seine Dienstleistungen verteilen.
