Klage aus Florida gegen OpenAI wegen Gefährdung von Minderjährigen
Im US-Bundesstaat Florida hat die Staatsanwaltschaft rechtliche Schritte gegen OpenAI, den Entwickler von ChatGPT, eingeleitet. Das Unternehmen wird beschuldigt, minderjährige Nutzer in Gefahr zu bringen und Eltern über die Sicherheit der Anwendung in die Irre zu führen. Generalstaatsanwalt James Uthmeier betonte, dass die App sowohl potenziell schädlich sei als auch eine Suchtgefahr darstelle. Für jeden Verstoß wird eine Geldstrafe von 10.000 Dollar (etwa 8600 Euro) gefordert.
Uthmeier wies darauf hin, dass ChatGPT durch die Nachahmung menschlicher Eigenschaften und Empathie Nutzer dazu verleite, persönliche Informationen preiszugeben. Diese Situation könne zu Verletzungen und Täuschungen führen, die letztlich auch finanzielle Konsequenzen für die Eltern nach sich ziehen. Die Klageschrift umfasst 83 Seiten und legt dar, dass die Anwendung möglicherweise sogar Amokläufer unterstützen und Nutzer zu Selbstverletzungen anregen könne.
Fehlende Altersverifikationen im Fokus der Klage
Ein zentraler Vorwurf der Klage betrifft das Fehlen einer zuverlässigen Altersverifizierung für die Nutzung von ChatGPT. Uthmeier unterstrich, dass, obwohl bekannt ist, dass auch Kinder im vorpubertären Alter die Anwendung nutzen, keine Maßnahmen zur Einschränkung des Zugangs ergriffen wurden. Die Nutzung von ChatGPT ist für Kinder unter 13 Jahren verboten, während bei 13- bis 17-Jährigen die Zustimmung der Eltern erforderlich ist. Eine formelle Altersüberprüfung existiert jedoch nicht.
Im Januar führte OpenAI ein System ein, das das Alter der Nutzer schätzt und entsprechend das Verhalten der App anpasst. Dennoch bleibt unklar, ob dies ausreichend ist, um die Sicherheit jüngerer Nutzer zu gewährleisten. In diesem Zusammenhang sind EU-Maßnahmen für stärkeren Kinderschutz auf sozialen Plattformen erforderlich.
Negative Auswirkungen von KI-Anwendungen auf Jugendliche
In der Klageschrift wird auf eine Studie verwiesen, die negative Effekte von KI-Anwendungen auf Jugendliche dokumentiert. Diese Studie beschreibt, dass Teenager, die den Chatbot Character.AI, einen Mitbewerber von ChatGPT, nutzen, unter Schlafmangel, sinkenden Schulnoten und abnehmenden sozialen Kontakten leiden. Solche Erkenntnisse verdeutlichen die potenziellen Risiken, die mit der Verwendung von KI-gestützten Anwendungen verbunden sind. Zudem sind Verbraucher im Visier: Milliardenschäden durch moderne Betrugsmaschen im Internet ein relevantes Thema in diesem Kontext.
OpenAIs Stellungnahme zu den Vorwürfen
Bisher hat OpenAI sich öffentlich nicht zu den gegen sie erhobenen Vorwürfen geäußert. Das Unternehmen hatte früher jedoch bestritten, gegen geltendes Recht verstoßen zu haben und betont, dass kontinuierlich an der Verbesserung seiner Sicherheitsvorkehrungen gearbeitet werde. Zudem hatte Uthmeier im April eine strafrechtliche Untersuchung gegen OpenAI eingeleitet. Diese konzentrierte sich auf die Rolle von ChatGPT bei einem Amoklauf an der Florida State University im letzten Jahr, bei dem zwei Menschen starben.
Die rechtlichen Schritte aus Florida sind Teil einer breiter werdenden Debatte über die Verantwortung von Technologieunternehmen im Umgang mit ihren Produkten, insbesondere hinsichtlich des Schutzes von Minderjährigen. Die Entwicklungen in diesem Fall könnten erhebliche Auswirkungen auf die Regulierung von KI-Anwendungen in den USA haben.
„`
Quellen: n-tv, Der Spiegel
