"Unverantwortlich" Experten warnen vor Pilzbüchern von Chatbots
Bücher über Pilze, die von Chatbots geschrieben werden, sind offenbar längst im Umlauf. Experten warnen vor dem Kauf.
Bücher können jetzt auch vom Computer geschrieben werden – KI-Programme wie ChatGPT machen es möglich. Doch das kann gefährlich werden – zum Beispiel, wenn es um Pilze geht. Eine Untersuchung in Großbritannien hat jetzt gezeigt: Auf der Plattform Amazon sind Pilz-Bücher erhältlich, die offenbar mithilfe von Künstlicher Intelligenz geschrieben wurden und merkwürdige Ratschläge geben.
Mit Titeln wie "Wild Mushroom Cookbook" (Kochbuch für Wildpilze) werden Interessierte angelockt, ohne aber zu wissen, dass die Werke nicht von Experten stammen. Die britische Zeitung "The Guardian" ließ vier Bücher von einer US-Firma untersuchen, die sich auf KI-Inhalte spezialisiert hat. Jedes der Werke sei mit größter Wahrscheinlichkeit von ChatGPT geschrieben worden, so das Ergebnis. Ein Buch hatte den verlockenden Titel: "Wildpilz-Kochbuch: Ein Leitfaden für Anfänger zum Erlernen der Grundlagen des Kochens mit Wildpilzen für Gesundheit und Geschmack, komplett mit leicht verständlichen Rezepten!"
"Geschmack und Geruch" als Identifizierung
Ein Chatbot kann sich irren und auch falsche Informationen liefern, wie das hinter ChatGPT stehende Unternehmen Openai auch selbst immer wieder betont. Das schreckt offenbar die Herausgeber von KI-Pilzbüchern nicht ab, selbst wenn sie damit Menschenleben gefährden können. Während Passagen wie "Pilzesammeln ist ein sehr befriedigendes Erlebnis" nur solche Exemplare betreffen kann, die unter Naturschutz stehen, sind andere Ratschläge bedenklich.
So kritisiert der Pilzexperte Leon Fey gegenüber dem "Guardian", dass Geschmack und Geruch als Identifizierungsmöglichkeit angegeben werden. "Das sollte auf keinen Fall vorgeschlagen werden", sagte er der Zeitung. Denn einige Sorten hätten einen für Menschen giftigen Hut, können aber mit essbaren Sorten verwechselt werden.
Professor Myron Smith von der Carleton Universität in Kanada bezeichnet die Bücher als "total unverantwortlich". Er warnt: "Einige Merkmale zwischen essbar und nicht-essbar sind sehr klein und es braucht ein geschultes Auge und Wissen, um sie zu unterscheiden". Auch die New York Mycological Society hatte die Pilzbücher kritisiert und auf der Plattform X (vormals Twitter) gewarnt: "Kaufen Sie nur Bücher von bekannten Autoren und Sammlern, es kann buchstäblich eine Frage von Leben und Tod sein."
Wir benötigen Ihre Einwilligung, um den von unserer Redaktion eingebundenen X-Inhalt anzuzeigen. Sie können diesen (und damit auch alle weiteren X-Inhalte auf t-online.de) mit einem Klick anzeigen lassen und auch wieder deaktivieren.
Das Versandunternehmen Amazon sagte gegenüber dem "Guardian" dass es sich die beanstandeten Bücher anschauen wollte. "Wir nehmen solche Angelegenheiten ernst und setzen uns dafür ein, ein sicheres Einkaufs- und Leseerlebnis zu bieten. Wir prüfen das", hieß es in einer Stellungnahme.
Vor einigen Wochen war in Neuseeland eine App auf den Markt gekommen, die Rezepte aus Resten in der Küche vorschlagen sollte. Gab man aber Zutaten wie Bleiche ein, präsentierte die KI-App dennoch Vorschläge.
- theguardian: "Mushroom pickers urged to avoid foraging books on Amazon that appear to be written by AI" (englisch)
- openai.com: "Developing safe & responsible AI" (englisch)
