Der Eintritt von Deepseek in das Segment für künstliche Intelligenz war nicht ohne Kontroversen. Dies ist normal, wenn man bedenkt, dass wir über ein KI-fokussierter Unternehmen sprechen, dessen bloße Verfügbarkeit große Technologieunternehmen wie Nvidia an der Wall Street brachte. Eines der Bedenken besteht darin, dass der Chatbot möglicherweise die Antworten auf dornige Probleme in China „blockiert“. Nun, eine neue Studie bestätigt, dass Deepseek AI tatsächlich ihre Reaktionen auf die meisten dieser Aufforderungen zensiert.
Die zunehmende Beliebtheit von Deepseek und seine direkte Beziehung zu Peking bringen uns Experten und Behörden auf die Warnung. Die Vereinigten Staaten haben bereits schwerwiegende Maßnahmen gegen Tiktok ergriffen, um unter anderem potenzielle Manipulationen in den Empfehlungsalgorithmen, die verwendet werden könnten, um junge Menschen zu beeinflussen, verwendet werden könnten. Die Behörden befürchten jetzt ein ähnliches Maß an Kontrolle oder Zensur in Deepseeks Ausgaben.
Deepseek AI Zensoren 85% der Fragen zu „sensiblen Themen“ für China
Anscheinend sind dornige Themen für die chinesische Regierung wie soziale Proteste, das Massaker des Tiananmen Square, der Status Taiwans oder die Ähnlichkeit von Xi Jinping, um den Pooh zu winnern, über die viele behaupten, über den Deepseek -Chatbot zu sprechen. Derzeit ist der Service sowohl über die Website des Unternehmens als auch als Android/iOS -Apps erhältlich. Tatsächlich wurde Deepseek am vergangenen Wochenende zur am meisten heruntergeladenen kostenlosen App im App von Apple und übertrifft Chatgpt.
AI Cybersecurity Startup promptfoo hat mit Deepseeks R1 -Modell experimentiert. Wenn Sie sich nicht bewusst sind, ist R1 ein Modell, das sich auf „Argumentation“ konzentriert und es ideal für komplexe Aufgaben macht. Es versucht, direkt mit dem OpenAI O1 -Modell zu konkurrieren, dessen Ansatz ähnlich ist. Promptfoo stellte ihm 1.360 Fragen zu dem, was es für die chinesische Regierung als „sensible Probleme“ bezieht. Die Ergebnisse zeigten, dass Deepseek sich in 85% der Fälle weigerte, zu reagieren.
Promptfoo entdeckte auch, dass das Deepseek -Modell anfällig für Jailbreaks ist. Dies könnte eine Maßnahme der chinesischen Regierung sein, um die Ergebnisse zu manipulieren, wenn sie es brauchen. Die Forscher bemerkten sogar eine “übertriebener nationalistischer TonWenn ich über China spreche.
Zuvor warnte Experten und US -Beamte vor potenziellen Privatsphäre des Nutzers und nationalen Sicherheitsrisiken im Zusammenhang mit Deepseek. Jetzt scheint es klar zu sein, dass China die Ergebnisse der AI -Plattform beeinträchtigen kann.