"Menschheit könnte in zehn Jahren verschwinden" Forscher warnen: Gerät Künstliche Intelligenz außer Kontrolle?
Wird künstliche Intelligenz schon bald zu einer ernsthaften Bedrohung? Forscher fordern strengere Regulierungen und warnen vor den Gefahren.
Rund 100 Forscher haben mit Blick auf die Entwicklung von Künstlicher Intelligenz (KI) vor einem "Kontrollverlust" mit dramatischen Folgen gewarnt – und eine stärkere staatliche Regulierung gefordert. Neben bereits bekannten Gefahren wie falschen und irreführenden Inhalten gebe es immer mehr Beweise für "zusätzliche Risiken wie biologische Angriffe oder Cyberattacken", sagte der renommierte Computerwissenschaftler Yoshua Bengio am Donnerstag zu Beginn eines KI-Gipfels in Paris.
"Was mir am meisten Angst macht, ist die Möglichkeit, dass die Menschheit innerhalb von zehn Jahren verschwinden könnte", sagte Bengio.
Embed
Der im Jahr 2018 mit dem renommierten Turing-Award für Informatik ausgezeichnete Professor an der Universität von Montréal stellte bei dem Gipfel den ersten internationalen KI-Sicherheitsbericht vor. Rund 100 Expertinnen und Experten aus 30 Ländern sowie die UNO, die EU und die Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD) erarbeiteten den Bericht gemeinsam.
Strengere Regulierung gefordert
Angesichts der Risiken und der rasanten Entwicklung im Wettbewerb zwischen Technologieriesen forderte Bengio eine strengere internationale Regulierung von KI und mehr Forschung zum Thema Sicherheit. In die Sicherung der Technologie fließe derzeit nur "ein Bruchteil" der massiven Investitionen. "Ich weiß nicht, wie wir da ohne staatliches Eingreifen durchkommen sollen", sagte der IT-Experte.
Bengio ergänzte, Schnelligkeit sei geboten und das Aufkommen des chinesischen KI-Dienstes DeepSeek habe "das Wettrennen beschleunigt". Dies sei "nicht gut für die Sicherheit".
Was hat es mit DeepSeek auf sich?
Das chinesische KI-Startup DeepSeek hat mit seinem Sprachmodell R1 Aufmerksamkeit erregt, da es ähnliche Funktionen wie ChatGPT bietet. Dazu zählt eine Chat-Funktion, Datei-Uploads und Web-Recherche. Das Modell steht jedoch auch in der Kritik: unter anderem aufgrund von Datenschutzbedenken wegen der umfangreichen Datensammlung und Speicherung in China. Deutschen Nutzern wird daher zur Vorsicht geraten, insbesondere bei sensiblen Informationen.
- Lesen Sie dazu auch: Chinesisches Start-up bedroht US-Dominanz
- Chinas KI-Offensive: Experte warnt vor DeepSeek
Bengio leitete den wissenschaftlichen Teil des Pariser KI-Gipfels ein. Am kommenden Montag und Dienstag werden auch zahlreiche hochrangige Politiker in Paris erwartet, darunter Bundeskanzler Olaf Scholz (SPD), EU-Kommissionspräsidentin Ursula von der Leyen, Chinas Vize-Regierungschef Ding Xuexiang, Indiens Premierminister Narendra Modi und US-Vizepräsident J. D. Vance. Aus der Technologiebranche sollen unter anderem die Chefs der US-Unternehmen OpenAI, Sam Altman, und Google, Sundar Pichai, teilnehmen.
Die USA, weiterhin globaler Spitzenreiter im KI-Sektor, haben unter ihrem neuen Präsidenten Donald Trump Regeln zur KI-Regulierung abgeschafft, die dessen Vorgänger Joe Biden eingeführt hatte.
- Nachrichtenagentur afp
- omr.com: "DeepSeek: Was kann das neue KI-Modell aus China?"
