Offener Brief Musk will "gefährliche" KI-Entwicklung stoppen
In einem offenen Brief fordert Elon Musk mit anderen IT-Experten einen sofortigen Stopp von KI-Modellen. Andernfalls riskiere man einen Kontrollverlust.
Tech-Milliardär Elon Musk fordert einen "unverzüglichen" Entwicklungsstopp von KI-Systemen, die leistungsfähiger sind als das umstrittene Sprachmodell GPT-4 der Firma OpenAI. Musk verweist in einem offenen Brief auf mögliche Risiken für die Gesellschaft, sollte die Entwicklung nicht sofort unterbrochen werden.
In dem Schreiben, das von mehr als 1.000 KI-Experten und Tech-Führungskräften unterzeichnet wurde, wird eine sechsmonatige Entwicklungspause gefordert. In dieser Zeit sollten Sicherheitsprotokolle für KI-Systeme entwickelt, umgesetzt und von unabhängigen Experten geprüft werden.
"Leistungsstarke KI-Systeme sollten erst dann entwickelt werden, wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sind", zitiert die Nachrichtenagentur Reuters aus dem Schreiben.
KI birgt potenzielle Risiken für die Gesellschaft
Zu den Unterzeichnern gehören unter anderem Apple-Mitgründer Steve Wozniak, Bestseller-Autor Andrew Yang, Skype-Mitgründer Jaan Tallinn und DeepMind-Entwicklerin Victoria Krakovna.
In ihrem Dokument weisen die Unterzeichner auf die potenziellen Risiken für die Gesellschaft und die Zivilisation durch KI-Systeme hin. "Sollen wir zulassen, dass Maschinen unsere Informationskanäle mit Propaganda und Unwahrheit fluten?", wird da gefragt.
Und weiter: "Sollten wir nichtmenschliche Geschöpfen entwickeln, die uns schließlich zahlenmäßig übertreffen, überlisten, obsolet machen und ersetzen könnten?" Es gehe um nicht weniger als um den Kontrollverlust über unsere Zivilisation, heißt es.
Europol hatte vor ChatGPT gewarnt
Erst vor wenigen Tagen hatte die EU-Polizeibehörde Europol davor gewarnt, dass Kriminelle Künstliche Intelligenz (KI) wie ChatGPT für Betrug und andere Cyberverbrechen nutzen werden.
Dies biete einen "düsteren Ausblick", heißt es in einem Bericht der europäischen Polizeibehörde mit Sitz in Den Haag. Die sich schnell entwickelnden Fähigkeiten von Chatbots würden künftig nicht nur genutzt, um die Menschheit zu verbessern – sondern auch, um sie zu betrügen.
Seit seiner Veröffentlichung im vergangenen Jahr hat das von Microsoft unterstützte ChatGPT des von Musk mitgegründeten Unternehmens OpenAI andere Unternehmen dazu veranlasst, die Entwicklung ähnlicher großer Sprachmodelle zu beschleunigen.
ChatGPT erstellt mithilfe von Künstlicher Intelligenz Texte. Nutzer können einzelne Befehle oder Sätze vorgeben, die das System dann mithilfe von Unmengen von Daten aus dem Internet eigenständig ergänzt.
- futureoflife.org: "Pause Giant AI Experiments: An Open Letter"
- reuters.com: "Musk, experts urge pause on training AI systems more powerful than GPT-4"
