In den letzten Jahren hat sich die Art und Weise, wie Verbraucher mit Beratungsstellen umgehen, erheblich verändert. Verbraucherzentralen in Soest und Lippstadt, für viele die erste Anlaufstelle bei Fragen und Problemen, sahen sich im Jahr 2025 mit einer Flut an Anfragen konfrontiert. Wer hätte gedacht, dass allein in Soest 3778 und in Lippstadt 3798 Anliegen bearbeitet werden mussten? Die meisten Anfragen erreichen die Berater über E-Mail, gefolgt von persönlichen Gesprächen. Aber hier kommt der Clou: Immer mehr Verbraucher setzen auf Künstliche Intelligenz (KI), um ihre Anliegen zu formulieren. Ein Trend, der nicht nur das Beratungswesen, sondern auch die Qualität der Kommunikation beeinflusst.

Holger Okken, der Leiter der Soester Beratungsstelle, hat in letzter Zeit einige interessante Beobachtungen gemacht. Er erzählt von perfekt formulierten E-Mails, die in persönlichen Gesprächen oft nicht nachvollziehbar sind. Es ist, als ob die KI zwar die richtigen Worte findet, aber die Nuancen und Emotionen des menschlichen Gesprächs völlig ignoriert. Besonders problematisch wird es, wenn KI für erste Rechtsberatungen genutzt wird. In solchen Fällen stimmen die Informationen häufig nicht, was dazu führen kann, dass die Verbraucherzentralen nicht mehr helfen können. Okken betont, dass KI die persönliche Beratung schlichtweg nicht ersetzen kann, weil es um individuelle Fälle und die damit verbundenen Emotionen geht. Sogar als er ChatGPT fragte, ob es die Beratung ersetzen könnte, kam eine klare, negative Antwort.

Die Schattenseiten der KI-Nutzung

Ein besonders besorgniserregendes Beispiel für fahrlässigen KI-Einsatz war die Erstellung von Bildern einer brennenden Schule. Da fragt man sich doch, wo die Grenzen der Technologie liegen. Die Verbraucherzentralen stehen vor der Herausforderung, die Qualität der Anfragen zu bewerten, wenn diese zunehmend von Maschinen generiert werden. Was passiert, wenn die KI nicht nur bei der Formulierung hilft, sondern auch die Inhalte manipuliert? Diese Fragen sind nicht nur für die Berater, sondern auch für die Verbraucher selbst von zentraler Bedeutung.

In Brüssel könnten diese Fragen bald noch drängender werden. Der Verbraucherzentrale Bundesverband (vzbv) fordert bereits einen besonderen Schutz für Verbraucher:innen, während die Verhandlungen zum Artificial Intelligence Act (AI Act) auf der Zielgeraden sind. Ramona Pop, eine der Stimmen in diesem Prozess, macht deutlich, wie wichtig verbindliche Regeln und Verbraucherrechte gegenüber KI-Betreibern sind. Es wird schnell klar, dass KI nicht nur den Konsumalltag beeinflusst, sondern auch in sensiblen Bereichen wie Mental Health eingesetzt wird. Hier stellt sich die Frage: Wie weit kann und soll KI gehen, ohne Verbraucher:innen zu manipulieren oder zu übervorteilen?

Regulation und Verantwortung

Der vzbv fordert klare Betroffenenrechte für Hochrisiko-KI. Verbraucher:innen sollen das Recht auf Auskunft und Erklärung gegenüber den Betreibern der Systeme haben. Außerdem wird ein Recht auf Beschwerde bei Aufsichtsbehörden gefordert. Der AI Act soll sicherstellen, dass KI nicht zur subtilen Manipulation von bestimmten Gruppen, wie älteren Menschen oder Minderjährigen, eingesetzt wird. Doch viele sind sich einig, dass der Schutz derzeit noch lückenhaft ist. Die Möglichkeit, menschliches Verhalten in Echtzeit zu analysieren, schafft neue Dimensionen der Verwundbarkeit für jeden Einzelnen. Ein umfassendes Verbot manipulativer KI wird als unerlässlich erachtet, um die Rechte der Verbraucher zu wahren.

Werbung
Hier könnte Ihr Advertorial stehen
Ein Advertorial bietet Unternehmen die Möglichkeit, ihre Botschaft direkt im redaktionellen Umfeld zu platzieren

Die Verhandlungen in Brüssel sind bereits seit April 2021 im Gange, und eine Einigung zum AI Act wird bis Ende 2023 angestrebt. Bei einer entscheidenden Verhandlung am 24. Oktober diesen Jahres wird sich zeigen, wie die EU mit diesen Herausforderungen umgehen will. Der Druck auf die Entscheidungsträger wächst, denn die Fragen, wie KI unser Leben in den nächsten Jahrzehnten beeinflussen wird, sind von zentraler Bedeutung für die Gesellschaft. Werden wir also in einer Zukunft leben, in der KI nicht nur unser Kaufverhalten lenkt, sondern auch unsere Emotionen steuert? Die Zeit wird es zeigen.