Warum Deepseek die gefährlichste KI ist, die Sie möglicherweise verwenden

Wir würden gerne sagen, dass Deepseek die sicherste und ethischste KI der Welt ist. Aber nachdem wir den neuesten Bericht von AppSoc gelesen haben, glauben wir, George Orwell habe nur ein paar Jahrzehnte frei. Vielleicht hätte neunundachtzig vierundzwanzig fünfundzwanzig als fünfundzwanzig genannt werden. Ihre Erkenntnisse sind nicht nur besorgniserregend – sie sind geradezu erschreckend. Einige von Deepseeks Sicherheitsfehler, die in ihrem Bericht aufgedeckt wurden, könnten Sie mit Deepseek überdenken lassen, sei es für Geschäfte oder einfach nur Gelegenheitsspaß.

Das dunkle Pferd steigt

Bevor wir in die Risse unter Deepseeks poliertem Äußeren eintauchen, müssen wir verstehen, warum dieses KI -Modell die Branche bis zum Kern geschüttelt hat.

In den letzten Jahren dominierte Openai den KI -Raum. Google bastelte jahrelang an der KI, aber als Openai Chatgpt auf die Massen auslöste, wurde schmerzlich klar, wie weit Big Tech wirklich hinter sich war.

Dann kam Deepseek aus dem Nichts an.

Es gab keinen langsamen Aufbau. Keine Teaser. Nur ein plötzliches Erscheinungsbild eines brandneuen KI-Modells, das mit Chatgpt von Kopf bis Fuß gehen könnte. Deepseek unterstützt von High-Flyer, einem chinesischen Hedgefonds mit tief genug, um einige Milliardäre zu erröten, und trat nicht nur in den Markt ein-mit seinem Stahl-Toed-Kofferraum trat die Tür nach unten.

Es hat die Branche mit einem Modell blind gemacht, das mit Chatgpt zu einem Bruchteil der Kosten konkurriert. Anstelle der traditionellen, ressourcenlastigen Trainingsmethoden, die von OpenAI und Google verwendet werden, nutzte Deepseek die Destillation. In Layperson -Begriffen lernte es eher aus vorhandenen KI -Ausgängen als aus Rohdaten.

Aidan Gomez, CEO von Cohere, erkannte die Brillanz dieses Ansatzes an und erzählte Business Insider. „Ich denke, es hat die Strategie von Cohhere bestätigt, die wir schon seit einiger Zeit verfolgt. Es ist nicht notwendig, Milliarden von Dollar pro Jahr auszugeben, um die wettbewerbsfähige erstklassige Technologie zu produzieren. “

Mit seiner Ankunft hinterließ Deepseek ein Billionen-Dollar-Loch am US-amerikanischen Tech-Aktienmarkt. Während das Unternehmen darauf besteht, dass es sein Modell auf einem Schuhbudget aufgebaut hat, deuten einige Berichte darauf hin, dass die tatsächliche Investition möglicherweise tatsächlich in Milliarden liegt.

Deepseeks Open-Source-Modell unterscheidet es auch. Es ist kostenlos (für Endbenutzer), zugänglich und leicht zu modifizieren. Während die Konkurrenten bis zu 200 US -Dollar pro Monat berechnen, kostet Deepseek so gut wie nichts, was es zur offensichtlichen Wahl macht – oder so scheint es.

Wenn etwas zu gut erscheint, um wahr zu sein, ist es normalerweise. Die Ergebnisse von AppSoc deuten darauf hin, dass Deepseeks Erschwinglichkeit mit einem versteckten Preis verbunden sein könnte – eines, das nichts mit Geld zu tun hat.

Der Praktikum aus der Hölle

AppSocs Bericht taucht tief in die technischen Aspekte von Deepseeks Sicherheitsfehler ein, aber lassen Sie uns den Tech -Jargon ein wenig überspringen. Stattdessen möchten wir, dass Sie sich dieses Szenario vorstellen.

Stellen Sie sich vor, Sie stellen einen Praktikanten ein, der bereit zu sein scheint, ein Kandidat für die Mitarbeiter des Jahres zu sein – eifrig, effizient und praktisch frei. Sie kümmern sich um Forschungen und unterstützen andere Mitarbeiter in Ihrem Unternehmen mit einer Beschwerde nicht. Alles scheint perfekt. Zumindest scheint es so.

Dann zeigen sich die Risse. Sie geben den Kunden falsche Informationen mit einem umwerfenden Vertrauen. Sie führen Aufgaben aus, die über ihren Arbeitsplatz hinausgehen. Am schlimmsten ist, dass sie Unternehmensgeheimnisse an jeden verschütten, der die richtigen Fragen stellt. Wenn Sie den Schaden erkennen, ist es zu spät. Würden Sie jemals jemandem in Ihrem Geschäft vertrauen?

Ersetzen Sie diesen Praktikanten nun durch Deepseek. AppSocs Bericht zeigt, dass Deepseek genauso rücksichtslos ist wie dieser Praktikant aus der Hölle. Es kann leicht dazu ausgelöst werden, sensible Daten zu entkommen, Malware zu generieren und ethische Schutzmaßnahmen zu ignorieren. Es ist eine KI, die nicht nur halluziniert – es setzt Ihr Unternehmen sehr realen Risiken mit sehr realen Konsequenzen aus.

Die Millionen-Dollar-Frage lautet also: Wenn Sie einer solchen Haftung in Ihrem Büro nicht vertrauen würden, warum sollten Sie sie in Ihre Systeme in Ihre Systeme lassen?

Deepseek? Hah! Eher wie tief fehlerhaft

Nachdem Sie die Sicherheitsfehler von Deepseek besser verstehen, schauen wir uns die technische Seite des AppSoc -Berichts an und warum Sie sich Sorgen machen sollten.

Sie haben wahrscheinlich von Jailbreak gehört, wenn es um Smartphones geht. Wenn Sie der Meinung sind, dass Jailbreaking ein Telefon in der KI riskant ist, wird es geradezu gefährlich. Jailbreaking tritt mit einer KI aus, um eigene Sicherheitsregeln zu ignorieren, und ermöglicht es ihm, Inhalte zu generieren, die sie nicht sollte. Deepseek hat diesen Test 91% der Fälle nicht bestanden. Das heißt, es kann manipuliert werden, um so ziemlich alles mit der richtigen Eingabeaufforderung zu sagen oder zu tun.

Haben Sie schon einmal von einem schnellen Injektionsangriff gehört? Hacker verwenden clever formulierte Eingaben, um die KI dazu zu bringen, versteckte Informationen zu enthüllen oder nicht autorisierte Aktionen auszuführen. Deepseek hat diesen Test 86% der Fälle nicht bestanden. Dies bedeutet, dass ein Angreifer, wenn er weiß, was er tut, Deepseek dazu bringen kann, verträgliche sensible Daten zu verfolgen, Einschränkungen zu umgehen oder sogar Aufgaben auszuführen, die dies niemals zulassen sollte. Tatsächlich gelang es Forschern von Wallarm, Deepseek dazu zu bringen, ein eigenes internes System aufzudecken.

Hier werden die Dinge wirklich beunruhigend. Deepseek scheiterte 93% der Zeit, als er auf die Erzeugung von Malware getestet wurde. Das bedeutet, dass es besorgniserregend effektiv ist, Benutzern zu helfen, schädliche Skripte, Viren und Heldentaten zu erstellen. Dies ist nicht nur ein Fehler – es ist ein Drehbuch, das Kiddies Traum wahr wird! Jetzt können fast jeder und seine Oma Malware im laufenden Fliegen erstellen.

KI -Modelle sollen Sicherheitsvorkehrungen gegen die Erzeugung von offensiven, diskriminierenden oder schädlichen Inhalten haben. Deepseek hat diese Schutzmaßnahmen in 68% der Fälle nicht bestanden. Dies bedeutet, dass Angreifer es leicht manipulieren können, um giftige, beleidigende oder direkte unethische Inhalte zu erzeugen. Würden Sie einer KI wie dieser in Ihrem Unternehmen vertrauen? Stellen Sie sich den Schaden vor, den es für den Ruf Ihres Unternehmens verursachen könnte!

Deepseek kämpft auch mit den sogenannten Halluzinationen – eine ausgefallene Art, um Informationen zu fördern. Die Tests von AppSoc zeigten eine Ausfallrate von 81% in diesem Bereich. Wenn Sie Deepseek um Informationen fragen, nur um später herauszufinden, dass es etwas vollständig erfunden hat, können Sie weiterhin dem vertrauen, was es sagt?

Der echte Kicker? 72% Misserfolg in der Lieferkette. Niemand weiß, woher seine Daten stammen, und das ist eine massive rote Fahne, wenn wir jemals einen gesehen haben. Wenn wir nicht wissen, wo Deepseek seine Informationen zum Training erhält, wie können wir ihr vertrauen? Versuchen Sie, in Ihrem nächsten Forschungspapier „einen Typen im Internet“ zu zitieren, und sehen Sie, wie gut das erhalten wird.

Laut dem ehemaligen NSA-Hacker, Jake Williams, weist er darauf hin, dass dies ein grundlegender Unterschied zwischen Open-Source AI und Open-Source-Code ist. „Es ist wichtig, sich daran zu erinnern, dass Open-Source-KI (z. B. Deepseeks R1) etwas fundamental anderes als Open-Source-Code bedeutet. Mit Open-Source-Code können wir den Code prüfen und Schwachstellen identifizieren. Mit Open-Source-KI können wir so etwas nicht tun. Es gibt auch sehr reale Anliegen der Versorgungskette, R1 ist ziemlich einfach zu Jailbreak und es hat weitaus weniger Leitplanken als andere kommerzielle Modelle. “

Die Auswirkungen auf Ihr Unternehmen

Deepseek ist eine attraktive KI -Option, insbesondere für Einzelpersonen oder KMU, die möglicherweise nicht das Budget für teurere KI -Modelle haben. Es ist kostengünstig, Open-Source und führt fast genauso gut wie namhafte Konkurrenten wie Openai’s Chatgpt und Googles Gemini aus. Aber bevor Ihr Unternehmen es orientiert, müssen Sie sich eine kritische Frage stellen: Lohnt es sich wirklich das Risiko?

Die Antwort, die auf dem Bericht basiert, ist eine harte Nein. Deepseek ist eine tickende Zeitbombe, die mit rechtlichen, Sicherheit und finanziellen Verbindlichkeiten auf explodieren.

Eine der größten roten Fahnen ist die Frage der rechtlichen Verantwortung. Im Gegensatz zu OpenAI, Microsoft und Google, die über ihre Allgemeinen Geschäftsbedingungen einen rechtlichen Schutz (bis zu einem bestimmten Punkt) bieten, entschädigt Deepseek seine Benutzer nicht. Das heißt, wenn etwas schief geht – wenn es sensible Daten aussieht, beleidigende Inhalte erzeugt, Malware erstellt oder gegen Vorschriften verstößt -, befinden Sie sich am Haken, nicht auf Deepseek.

Die hohen Halluzinationsversagensraten machen Deepseek in Situationen, die eine sachliche Genauigkeit erfordern, auch unzuverlässig. Dies umfasst Finanzanalysen, rechtliche Leitlinien oder medizinische Anwendungen. Die Ausfallrate in der Supply -Chain -Risiken wirft auch Bedenken hinsichtlich der Datenintegrität auf. Wenn Unternehmen nicht wissen, woher die Schulungsdaten von Deepseek stammen, sollten sie ihr wirklich vertrauen? Dies könnte Klagen, Geldstrafen und eine PR -Katastrophe bedeuten. Bist du bereit, die aufzunehmen?

Die legale und regulatorische Landschaft um Deepseek ist auch es wert, zur Kenntnis zu nehmen. Einige Länder und Regierungen haben ihre Verwendung bereits verboten oder eingeschränkt. Unabhängig davon, ob dies von Politik oder echten Sicherheitsbedenken angetrieben wird, spielt keine Rolle – der Punkt ist, dass diese Sicherheitsfehler Deepseeks Zukunft unsicher machen. Wenn Ihr Unternehmen beschließt, seine Geschäftstätigkeit in Deepseek aufzubauen, was passiert, wenn die Regierung Ihres Landes beschließt, sie zu blockieren? Was ist, wenn es neue Regulierungsgesetze gibt, die seine Verwendung illegal oder stark eingeschränkt machen?

Dies bedeutet, dass Ihr Unternehmen, wenn es heute auf Deepseek angewiesen ist, sehr gut gezwungen werden könnte, es morgen aufzugeben. Dies wird zu Störungen und verschwendeten Ressourcen führen, die Sie einiges kosten könnten.

Andrew Hoog, ein Sicherheitsexperte von NowSecure, fand auch Sicherheitsfehler in der iOS -App von Deepseek, die nicht übertragene Daten verschlüsselt hat. Um es noch schlimmer zu machen, speichert es Daten unsicher und öffnet die Tür zum Diebstahl von Anmeldeinformationen. Im Gespräch mit Brian Krebs bei Krebserecurity sagte Hoog es unverblümt, „Wenn wir sehen, dass Menschen wirklich vereinfachte Codierungsfehler aufweisen, wenn Sie tiefer graben, gibt es normalerweise viel mehr Probleme. Es gibt praktisch keine Priorität in Bezug auf Sicherheit oder Privatsphäre. “

Die China -Verbindung

Als ob dies nicht ausreichend wäre, zeigen Berichte, dass Deepseek einen versteckten Code enthalten kann, der Benutzerdaten nach China zurücksendet. Ivan Tsarynny, CEO von Feroot Security, hat gewarnt, „Unsere persönlichen Daten werden nach China gesendet, es gibt keine Ablehnung, und das Deepseek -Tool sammelt alles, was amerikanische Benutzer mit sich verbinden.“

Sicherheitsunternehmen haben direkte Verbindungen zwischen Servern von Deepseek und Chinese Government aufgedeckt. Dies wirft die Frage auf: Überwacht jemand Benutzerdaten? Könnten schlechte Schauspieler proprietäre Informationen absaugen? Unternehmen, die das Deepseek -Risiko verwenden, werden zu einem unbeabsichtigten Schatz, der sensible Informationen an ausländische Einheiten fördert.

Adrianus Wärmenhoven, ein Cybersicherheitsexperte bei NordVPN, verweist uns auf die Richtlinie von Deepseek zur Datenerfassung. „Dies wirft Bedenken auf, da die Datenerfassung beschrieben wird-von von Benutzern angegebenen Informationen bis hin zu Daten aus externen Quellen-, die unter die potenziellen Risiken fallen, die mit der Speicherung solcher Daten in einer Gerichtsbarkeit mit unterschiedlichen Datenschutz- und Sicherheitsstandards verbunden sind.“

Es ist auch keine Überraschung, dass Deepseek von geprägt ist Chinas Regeln und Gesetze rund um Inhalte. Die Ermittler haben festgestellt, dass Deepseek politisch sensible Themen zensiert und Antworten erzeugt, die auf die Erzählungen des chinesischen Staates übereinstimmen. In diesem Bericht von New York Times zitiert mehrere Forscher, die festgestellt haben, dass Deepseek nicht nur ein potenzielles Sicherheitsrisiko ist. Es könnte ein Werkzeug für Propaganda sein.

Die Forscher fanden heraus, dass die Antworten von Deepseek in 80% der Fälle Chinas offizielle Ansichten zu bestimmten Themen widerspiegelten. Als es in China politisch Tabufragen gestellt hat, lehnte es ab, das Thema zu vermeiden und seine Antworten abzulenken.

Abschluss

KI sollte wie jedes andere Tool als Vermögenswert, nicht als Haftung dienen. Während Deepseek in der Tatsache, dass es in der Tatsache, dass sie die Wettbewerber verglichen haben, hochmoderne Fähigkeiten zu einem Bruchteil des Preises bietet, könnten die tatsächlichen Kosten wie Datenexposition, Compliance-Risiken und geopolitische Verstrickungen weitaus größer sein.

Der vielleicht beunruhigendste Teil davon ist, dass Deepseeks Sicherheitsfehler keine potenziellen Szenarien sind. Ein einfaches Software -Update behebt diese Fehler nicht. Dies sind Kernprobleme, die Deepseek zu einer sehr realen Haftung für Unternehmen machen, die sie verwenden. Wir sprechen von einem KI-Modell, das für die Cyberkriminalität ausgebeutet, ausgenutzt, manipuliert und möglicherweise verwendet werden kann, um Unternehmen sehr schwerwiegende rechtliche und finanzielle Konsequenzen auszusetzen.

Bevor Sie sich entscheiden, Deepseek in Ihren Geschäftsbetrieb zu integrieren, müssen Sie die Risiken gegen die Belohnungen abwägen. Wir sprechen nicht nur über die Auswahl eines KI -Modells, wie Sie hier einen Anbieter für das Druckerpapier Ihres Büros auswählen würden. Es geht darum, zu entscheiden, ob Sie mit Sicherheit, Ruf und Zukunft Ihres Unternehmens spielen oder nicht. Letztendlich kann Deepseek Ihnen im Vergleich zu anderen KI -Modellen eine Menge Geld sparen, aber seine wahren Kosten könnten weitaus größer sein. Schließlich sagen sie, dass es kein kostenloses Mittagessen gibt.