DFKI warnt vor Risiken von chinesischer KI DeepSeek

DFKI warnt vor Risiken von chinesischer KI DeepSeek

Maximilian Friedrich / Onlinefassung: Axel Wagner   30.01.2025 | 06:32 Uhr

Mit dem KI-Chat-Modell R1 hat das chinesische Startup-Unternehmen DeepSeek diese Woche weltweit für Aufsehen gesorgt. Das Saarbrücker DFKI warnt vor den möglichen Risiken der neuen Anwendung – und vor Zensur. Allerdings sei das Modell selbst auch frei verfügbar.

Simon Ostermann steht vor einer schier unlösbaren Frage: Was soll er nur mit Rosenkohl und Sahne kochen? Zum Glück hilft ihm DeepSeek R1, das das gleichnamige chinesische Startup in dieser Woche vorgestellt hat – kurz nach der „Stargate“-Ankündigung von US-Präsident Donald Trump.

Die chinesische Chat-Anwendung liefert Simon Ostermann schon nach kurzer Zeit die ersten Rezeptideen – und zwar eine ganze Palette davon. Auf den ersten Blick ist diese Künstliche Intelligenz (KI, im Englischen AI für Artificial Intelligence) ähnlich praktisch wie die amerikanische Alternative ChatGPT von OpenAI.

Video [aktueller bericht, 29.01.2025, Länge: 3:11 Min.]
So bewertet das DFKI die chinesische KI-App „DeepSeek“

China könnte Daten ausnutzen – und zensiert

Doch auch DeepSeek R1 birgt Gefahren. Ostermann sieht auf der offiziellen DeepSeek-Webseite ein Risiko, weil das Unternehmen in China sitzt. Man sende also alle Daten nach China und willige auch in die Nutzung durch DeepSeek ein.

Doch es geht nicht nur um die Daten, die abwandern – es geht auch um Daten, die gar nicht bei den Nutzern ankommen. Das fällt auf, wenn man die KI nach dem Platz des Himmlischen Friedens fragt, dem Tian’anmen-Platz. Erst einmal liefert sie eine Antwort – auch mit kontroversen Aspekten wie dem Tian’anmen-Massaker 1989.

Jede KI hat "Biases"

Doch plötzlich ist die Antwort weg – zensiert. Für Simon Ostermann kein Einzelfall: „Es ist tatsächlich so, dass alle Sprachmodelle bestimmte Arten von nicht unbedingt Zensuren, aber bestimmte Neigungen haben – je nachdem, wo sie trainiert wurden und unter welchen Daten sie trainiert wurden.“

Auch bei ChatGPT gebe es bestimmte Neigungen (Englisch: biases), die zum Beispiel auf die amerikanische Kultur deuteten. So führe beispielsweise der Begriff „Football“ bei der US-Software nicht zum Fußball, sondern zum American Football.

DFKI-Chef Krüger: "Es mangelt daran, große KI-Anwendungen im Markt zu platzieren"
Audio [SR 3, Interview: Simin Sadeghi, 03.02.2025, Länge: 04:32 Min.]
DFKI-Chef Krüger: "Es mangelt daran, große KI-Anwendungen im Markt zu platzieren"

DeepSeek ist OpenSource

Das DFKI sieht DeepSeek aber nicht nur kritisch. Die Firma habe zum Beispiel das gesamte Modell frei verfügbar gemacht, sodass nun alle Entwickler damit arbeiten können – auch ohne Verbindung nach China.

Und auf Platz eins der App-Charts stehe DeepSeek auch nicht ohne Grund, so Ostermann. Vor allem bei mathematischen Fragestellungen sei die App etwas schneller als die Konkurrenz. „Es wurde ein sehr effizienter Algorithmus benutzt, um das Sprachmodell zu trainieren und aufzusetzen.“

"Europa muss investieren"

Allerdings basiere fast alles auch auf bereits existierender Arbeit. „Ein ganz zentraler Aspekt von DeepSeek zum Beispiel ist, dass sie einen Mix von verschiedenen Modellen benutzt, die gleichzeitig antworten. Und diese Idee ist nicht neu. Es gibt zum Beispiel eine KI-Firma in Frankreich, die sich Mistral nennt, die damit auch schon gute Erfahrungen gemacht hat.“

Es sei nun wichtig, dass Europa nicht den Anschluss verliere, heißt es aus dem DFKI. Dazu sei vor allem eines notwendig: Höhere Investitionen in die Erforschung von Künstlicher Intelligenz.

Über dieses Thema hat auch der "aktuelle bericht" im SR Fernsehen vom 29.01.2025 berichtet.


Mehr zu Künstlicher Intelligenz

Europäische Antwort nötig
Projekt „Stargate“: Saarbrücker DFKI-Chef kritisiert Trumps KI-Offensive
Wie soll Europa, wie soll das Saarland reagieren auf die Kampfansage in Sachen Künstlicher Intelligenz aus den USA? Der Chef des Saarbrücker DFKI Krüger hat eine klare Vorstellung: Aufbauend auf deutsch-französischer Kooperation soll ein europaweites Alternativangebot entstehen. Dem Saarland könnte dabei eine Schlüsselrolle zukommen.
Projekt "KI macht Schule"
Wie Kinder für das Digitalzeitalter fit gemacht werden sollen
Eine ganze Generation Schülerinnen und Schüler wächst mit KI-Anwendungen auf, wird damit in Zukunft umgehen und arbeiten müssen. Aber wird das in der Schule vermittelt? Auguste Schulz von "KI macht Schule" über einen schwierigen Prozess.
Weitere Einsparungen möglich
Fördergelder für Paare mit Kinderwunsch im Saarland deutlich gekürzt
Eine künstliche Befruchtung kostet nicht selten mehrere Tausend Euro. Paare mit Kinderwunsch im Saarland konnten bisher einen staatlichen Zuschuss beantragen. Die Zahl der bewilligten Anträge könnte künftig aber sinken – der Bund hat die Mittel gekürzt.
Künstliche Intelligenz
Augenklinik Sulzbach will KI zur Früherkennung von Grauem Star nutzen
Künstliche Intelligenz kann in der Medizin, wo oftmals große Datenmengen anfallen, eine Bereicherung sein. Das sieht auch die Augenklinik in Sulzbach so – sie will KI nutzen, um Risikopatienten von Grauem Star früher zu erkennen und entsprechend handeln zu können.
Literatur und Buchhandel
Kann ein KI-Werkzeug Bucherfolge vorhersagen?
Die Aufregung in der Kulturwelt ist groß. Es gibt ein neues KI-Werkzeug namens “Demandsens”. Damit will das Marktforschungsunternehmen Media Control präzise vorhersagen können, wie erfolgreich ein Buch werden könnte. Welche Auswirkungen kann das haben?

Artikel mit anderen teilen


Push-Nachrichten von SR.de
Benachrichtungen können jederzeit in den Browser Einstellungen deaktiviert werden.

Datenschutz Nein Ja