Die italienische Datenschutzbehörde gab am Freitag bekannt, dass sie die künstliche Intelligenz-Software ChatGPT nach einer Datenpanne vorübergehend blockiert. Der Schritt erfolgt, während das Land einen möglichen Verstoß gegen die strengen Datenschutzbestimmungen der Europäischen Union untersucht. Die italienische Datenschutzbehörde sagte, dass sie vorläufige Maßnahmen ergreift, „bis ChatGPT die Privatsphäre respektiert“, einschließlich der vorübergehenden Einschränkung der Verarbeitung italienischer Benutzerdaten durch das Unternehmen.
Italien blockiert vorübergehend die ChatGPT-KI-Software wegen Bedenken hinsichtlich einer Datenschutzverletzung
Es ist unwahrscheinlich, dass der Schritt der italienischen Aufsichtsbehörde Anwendungen von Unternehmen betrifft, die bereits Lizenzen mit OpenAI haben, um dieselbe Technologie zu verwenden, die den Chatbot antreibt, wie z. B. die Suchmaschine Bing von Microsoft. Die Erklärung der Agentur zitiert jedoch die Datenschutz-Grundverordnung der EU und stellte fest, dass ChatGPT am 20. März eine Datenschutzverletzung erlitt, die „Benutzergespräche“ und Informationen über Abonnentenzahlungen betraf.
OpenAI gab zuvor bekannt, dass es ChatGPT am 20. März offline geschaltet hatte, um einen Fehler zu beheben, der es einigen Leuten ermöglichte, die Titel oder Betreffzeilen des Chatverlaufs anderer Benutzer zu sehen. Das Unternehmen sagte, es habe diejenigen kontaktiert, die möglicherweise betroffen waren, und dass die Anzahl der Benutzer, deren Daten tatsächlich an jemand anderen weitergegeben wurden, äußerst gering war.
Italiens Datenschutzbeauftragter beklagte das Fehlen einer Rechtsgrundlage, um die „massive Erfassung und Verarbeitung personenbezogener Daten“ von OpenAI zu rechtfertigen, die zum Trainieren der Algorithmen der Plattform verwendet werden, und dass das Unternehmen die Benutzer, deren Daten es erfasst, nicht benachrichtigt. Die Agentur sagte auch, dass ChatGPT manchmal falsche Informationen über Einzelpersonen generieren und speichern kann. Schließlich wurde festgestellt, dass es kein System gibt, um das Alter der Benutzer zu überprüfen, wodurch Kinder Antworten ausgesetzt werden, die „für ihr Alter und Bewusstsein absolut unangemessen“ sind.
Angesichts der wachsenden Besorgnis über den Boom der künstlichen Intelligenz veröffentlichte eine Gruppe von Wissenschaftlern und führenden Vertretern der Technologiebranche am Mittwoch einen Brief, in dem sie Unternehmen wie OpenAI aufforderten, die Entwicklung leistungsfähigerer KI-Modelle bis zum Herbst auszusetzen, um der Gesellschaft Zeit zu geben, die Risiken abzuwägen. Der CEO von OpenAI aus San Francisco, Sam Altman, gab diese Woche bekannt, dass er im Mai zu einer Reise durch sechs Kontinente aufbrechen wird, um mit Benutzern und Entwicklern über die Technologie zu sprechen. Dazu gehören ein geplanter Zwischenstopp in Brüssel, wo die Gesetzgeber der Europäischen Union weitreichende neue Regeln zur Begrenzung von KI-Tools mit hohem Risiko ausgehandelt haben, sowie Besuche in Madrid, München, London und Paris.
Als Reaktion auf die Datenschutzverletzung und Bedenken hinsichtlich ChatGPT und ähnlicher KI-Chatbots forderte die europäische Verbrauchergruppe BEUC die EU-Behörden und die 27 Mitgliedsstaaten des Blocks auf, Nachforschungen anzustellen. BEUC sagte, dass es Jahre dauern könnte, bis die KI-Gesetzgebung der EU in Kraft tritt, sodass die Behörden schneller handeln müssen, um die Verbraucher vor möglichen Risiken zu schützen.