Referent: Marc Bütikofer

Viele Unternehmen bauen gerade einen AI-Assistenten ins Kundenportal oder beginnen, anderweitig KI zu nutzen. Oft ruft diese die Backend-APIs mit einem technischen Service-Account auf – mit Zugriff auf alle Kundendaten. Die Kundin ist nur noch ein Parameter. Und der Ai-Agent macht alles, was man ihm schreibt.

Der Vortrag erzählt die Geschichte von Anna und ihrer Krankenversicherung.  Anna schliesst ihre Police mit Hilfe des EUDI Wallets ab, meldet sich per Passkey an, ihre Session wird laufend bewertet, jede kritische Änderung bestätigt: eine sichere und lückenlose Identitätskette. Dann lädt Anna eine Arztrechnung in den neuen AI-Assistenten hoch. Darin versteckt: eine ungewollte Anweisung, die de ...