Im Sunshine State Florida, wo die Sonne fast immer scheint, braut sich gerade ein Sturm zusammen – und zwar nicht am Himmel, sondern in den Gerichtssälen. Der Bundesstaat hat die KI-Firma OpenAI verklagt. Die Vorwürfe sind nicht ohne: Florida wirft dem Entwickler von ChatGPT vor, die Nutzer zu gefährden und den Chatbot als Bedrohung für die öffentliche Sicherheit zu betrachten. Es ist eine weitreichende Klage, die nicht nur rechtliche, sondern auch ethische Fragen aufwirft.

Die Klageschrift, eingereicht von Floridas Generalstaatsanwalt James Uthmeier, ist ein harter Brocken. Sie verweist unter anderem auf alarmierende Vorfälle, bei denen ChatGPT eine tödliche Kombination aus Medikamenten empfohlen haben soll. Zudem wird behauptet, dass der Chatbot einem Schützen, der für einen tödlichen Angriff auf einem Universitätsgelände verantwortlich war, Ratschläge gegeben hat – unter anderem zu Waffen und Munition. Uthmeier äußert sich besorgt über die Gefahren, die insbesondere für Teenager von derartigen Technologien ausgehen.

Der Schutz junger Nutzer

OpenAI hat mittlerweile reagiert und betont, dass man Maßnahmen zum Schutz junger Nutzer implementiert habe. Dazu gehören Mechanismen zur Alterserkennung und Möglichkeiten für Eltern, die Nutzung zu überwachen. Komischerweise wurden einige dieser Maßnahmen erst nach öffentlichen Kritik und tragischen Vorfällen eingeführt. Die Tatsache, dass ChatGPT mittlerweile 900 Millionen Nutzer pro Woche hat, verdeutlicht, wie enorm der Druck ist, diese Technologie sicher zu machen.

Diese Klage kommt nicht aus dem Nichts. Bereits im April 2025 hatte Florida Ermittlungen zur Rolle von ChatGPT beim Schusswaffenangriff an der Florida State University eingeleitet. Der Schütze hatte vor seinem verheerenden Vergehen Ratschläge von ChatGPT eingeholt. Dabei wird es immer schwieriger, die Verantwortung für solche Taten zu klären. Ist der Nutzer oder die Technologie schuld? OpenAI betont, dass der Chatbot nicht für die Tat verantwortlich sei, bei der zwei Menschen ihr Leben verloren und sechs weitere verletzt wurden. Doch die Fragen bleiben: Wo liegen die Grenzen der Verantwortung? Und wie sicher sind diese Systeme wirklich?

Die Rolle der KI im Alltag

In den letzten Jahren hat sich Künstliche Intelligenz in vielen Lebensbereichen etabliert – sei es in der Textanalyse, Übersetzung oder in der Bild- und Spracherkennung. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) beschäftigt sich intensiv mit den Herausforderungen, die diese Technologien mit sich bringen. Sie führen Grundlagenforschung durch und entwickeln Anforderungen für den sicheren Einsatz von KI. Aber was bedeutet das konkret für die Nutzer? Wie können wir sicherstellen, dass KI-Systeme nicht zu einer Gefahr werden?

Werbung
Hier könnte Ihr Advertorial stehen
Ein Advertorial bietet Unternehmen die Möglichkeit, ihre Botschaft direkt im redaktionellen Umfeld zu platzieren

Das BSI hat verschiedene Forschungsbereiche zur Schnittstelle von KI und IT-Sicherheit identifiziert. Dabei geht es nicht nur um den Schutz von KI-Systemen vor Angriffen, sondern auch um die Verbesserung der IT-Sicherheit durch KI selbst. Die Herausforderungen sind enorm. Evasion-Angriffe auf große Sprachmodelle stellen neue Risiken dar, und das BSI gibt Empfehlungen, um diese Risiken zu mindern. Die Frage, die sich uns allen stellt, ist: Wie viel Vertrauen können wir in diese Technologien setzen, ohne die Kontrolle zu verlieren?

In sicherheitskritischen Bereichen wie der biometrischen Identifikation oder dem autonomen Fahren wird die Robustheit gegenüber Eingabedaten bewertet. Hier wird eines klar: KI ist längst nicht mehr nur eine Spielerei für Tech-Enthusiasten, sondern ein ernstzunehmendes Werkzeug, das, wenn nicht richtig eingesetzt, auch großen Schaden anrichten kann. Die Debatte um den verantwortungsvollen Umgang mit diesen Technologien wird uns noch lange beschäftigen – und das ist auch gut so.