Künstliche Intelligenz soll den Alltag erleichtern - aber nicht selbst über Geld und Verträge entscheiden. Deshalb spricht sich die für den Verbraucherschutz zuständige Bauministerin Theresa Schopper (Grüne) für verbindliche Regeln für sogenannte KI-Assistenten aus, bevor diese massenhaft zum Einsatz kommen. «Es muss Haltelinien und Leitplanken geben, dass der Mensch der Herr des Verfahrens bleibt,» sagte die Grünen-Politikerin in Stuttgart. Der Rechtsrahmen müsse am besten auf EU-Ebene geregelt werden. Das müsse schnell passieren, weil die Technik sicherlich sehr schnell den Alltag der Menschen noch intensiver beeinflussen könnte.
Schopper forderte die Regeln für KI-Agenten, die Verbraucher beim Einkaufen, Buchen oder Organisieren unterstützen. «Der Agent darf weder direkt manipulieren noch selbst manipulierbar sein. Zudem muss eine klare Kennzeichnung von KI-Entscheidungen erfolgen.» Es müsse auch die Möglichkeit geben, dass man Grenzen formulieren könne, wie viel Geld man ausgeben wolle.
Verbraucher müssen Preislimit selbst festlegen
Problematisch wird es nach Angaben des Verbraucherschutzministeriums etwa, wenn der Agent eine Aufgabe falsch versteht, ein gesetztes Preislimit überschreitet oder eine kostenpflichtige Buchung auslöst, die so nicht gewollt war. Auch manipulierte Inhalte könnten zum Risiko werden: In einer Webseite, einem Dokument oder einer E-Mail könnten versteckte Anweisungen enthalten sein. Der Agent könnte diese als Auftrag verstehen und etwa Daten weiterleiten, Nachrichten versenden oder eine Bestellung auslösen.
Damit ein Agent selbstständig handeln kann, braucht er häufig Zugriff auf E-Mails, Kalender, Dateien, Kundenkonten oder Zahlungsdienste, wie das Ministerium weiter mitteilte. Je mehr Rechte er erhalte, desto größer sei das Risiko von Datenmissbrauch, Fehlentscheidungen und Kontrollverlust. Außerdem mahnte Schopper: «Es muss künftig einen eindeutig und gut lesbaren Button geben, damit der Verbraucher merkt, dass er jetzt eine kostenpflichtige Aktion auslöst.»
