KI: Forscher warnen vor hohem Sicherheitsrisiko und "Kontrollverlust" / Foto: JOEL SAGET - AFP
KI: Forscher warnen vor hohem Sicherheitsrisiko und "Kontrollverlust"
Rund 100 Forscher haben mit Blick auf die Entwicklung von Künstlicher Intelligenz (KI) vor einem "Kontrollverlust" mit dramatischen Folgen gewarnt - und eine stärkere staatliche Regulierung gefordert. Neben bereits bekannten Gefahren wie falschen und irreführenden Inhalten gebe es immer mehr Beweise für "zusätzliche Risiken wie biologische Angriffe oder Cyberattacken", sagte der renommierte Computerwissenschaftler Yoshua Bengio am Donnerstag zu Beginn eines KI-Gipfels in Paris.
"Was mir am meisten Angst macht, ist die Möglichkeit, dass die Menschheit innerhalb von zehn Jahren verschwinden könnte", sagte Bengio.
Der im Jahr 2018 mit dem renommierten Turing-Award für Informatik ausgezeichnete Professor an der Universität von Montréal stellte bei dem Gipfel den ersten internationalen KI-Sicherheitsbericht vor, an dem rund 100 Expertinnen und Experten aus 30 Ländern sowie die UNO, die EU und die Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD) beteiligt waren.
Angesichts der Risiken und der rasanten Entwicklung im Wettbewerb zwischen Technologieriesen forderte Bengio eine strengere internationale Regulierung von KI und mehr Forschung zum Thema Sicherheit. In die Sicherung der Technologie gehe derzeit nur "ein Bruchteil" der massiven Investitionen. "Ich weiß nicht, wie wir da ohne staatliches Eingreifen durchkommen sollen", sagte der IT-Experte.
Bengio ergänzte, Schnelligkeit sei geboten, das Aufkommen des chinesischen KI-Dienstes DeepSeek habe "das Wettrennen beschleunigt". Dies sei "nicht gut für die Sicherheit".
Bengio leitete den wissenschaftlichen Teil des Pariser KI-Gipfels ein. Am kommenden Montag und Dienstag werden auch zahlreiche hochrangige Politiker in Paris erwartet, darunter Bundeskanzler Olaf Scholz (SPD), EU-Kommissionspräsidentin Ursula von der Leyen, Chinas Vize-Regierungschef Ding Xuexiang, Indiens Premierminister Narendra Modi und US-Vizepräsident J.D. Vance. Aus der Technologiebranche sollen unter anderem die Chefs der US-Unternehmen OpenAI, Sam Altman, und Google, Sundar Pichai, teilnehmen.
Die USA, weiterhin globaler Spitzenreiter im KI-Sektor, haben unter ihrem neuen Präsidenten Donald Trump Regeln zur KI-Regulierung abgeschafft, die dessen Vorgänger Joe Biden eingeführt hatte.
S.Lambert--JdB
