Ein KI-Agent vergleicht Angebote, bereitet eine Bestellung vor und greift dafür auf das Einkaufssystem eines Unternehmens zu. Doch darf er deshalb auch eigenständig Waren im Wert von 80.000 Euro bestellen? Für Dr. Götz Wehberg, Co-CEO von Gimel Technologies, ist klar: Ein technischer Zugang ist noch keine Erlaubnis, alles zu tun.
„Ein Agent soll nicht deshalb handeln dürfen, weil er Zugang zu einem System hat, sondern weil seine konkrete Handlung durch eine gültige Vollmacht gedeckt ist“, erklärt Wehberg. Genau daran arbeitet sein Startup: Gimel entwickelt digitale Vollmachten für KI-Agenten, die technisch überprüft werden können. Sie legen fest, was ein Agent tun darf, für wen, wie lange und innerhalb welcher Grenzen.
Denn KI entwickelt sich von der Assistenz zur Ausführung. Wenn Agenten eigenständig Bestellungen auslösen, Daten bearbeiten oder Programme verändern, reicht es nicht, ihre Identität zu kennen. Entscheidend ist auch, welche Handlungen ihnen tatsächlich erlaubt sind. Eine missverständliche Anweisung oder manipulierte Inhalte dürfen nicht dazu führen, dass ein Agent seine Befugnisse überschreitet.
Eine Identität ist noch keine Vollmacht
Die Idee zu Gimel entstand aus Wehbergs früherer Arbeit im Innovationsbereich von Fresenius. Bei der Beschäftigung mit Technologie-Startups stieß er auf digitale Identitätslösungen und die Frage, wie sich Menschen in einer zunehmend von KI geprägten Welt zuverlässig identifizieren lassen. Aus seiner Erfahrung im Gesundheitswesen und mit Gentechnik entwickelte er den Ansatz für Gimel ID: Ausgewählte genetische Merkmale sollen eine zusätzliche Bindung zwischen einer digitalen Identität und einer realen Person ermöglichen.
Dabei ist DNA nicht als Passwort gedacht, das bei jeder Nutzung vorgezeigt werden muss. Nach dem Konzept von Gimel ID kommt sie bei der erstmaligen Einrichtung der digitalen Identität zum Einsatz. Die Probe wird kontrolliert einer überprüften Person zugeordnet. Bei späteren Transaktionen werden ein digitaler Identitätsnachweis und ein kryptografischer Besitznachweis verwendet – keine neue biologische Probe.
Was aber, wenn jemand an die DNA einer anderen Person gelangt, etwa über ein Haar? „Unsere Sicherheit darf deshalb nicht darauf beruhen, dass niemand an die DNA eines anderen Menschen gelangen kann“, macht Wehberg deutlich. Eine fremde DNA-Probe allein soll weder ausreichen, um eine digitale Identität ausstellen zu lassen, noch um sie zu verwenden. Dafür braucht es zusätzlich eine kontrollierte Identitätsprüfung und einen kryptografischen Besitznachweis. Die konkrete technische Umsetzung sowie die Labor-, Datenschutz- und Sicherheitsverfahren müssen entsprechend validiert werden.
Gimel ID ist dabei als Ergänzung zu bestehenden Identitätsnachweisen wie Personalausweis und Reisepass gedacht, nicht als Ersatz.
Wer darf was – und wie lange?
Neben Gimel ID entwickelt das Startup zwei weitere Bausteine: Gimel Auth für die Autorisierung digitaler Systeme und Gimel PQC für quantenresistente Sicherheit. Zusammen adressieren sie unterschiedliche Fragen: Wer handelt? Wozu ist diese Person oder ihr KI-Agent berechtigt? Und wie lassen sich die entsprechenden Nachweise kryptografisch absichern?
Wird eine Aufgabe an einen weiteren Agenten delegiert, dürfen dessen Befugnisse nicht größer werden als die des Auftraggebers. Vor einer geschützten Handlung prüft das System die Vollmacht, ihre Gültigkeit und die festgelegten Grenzen. Die Entscheidung wird dokumentiert, damit sich später nachvollziehen lässt, auf welcher Grundlage eine Handlung freigegeben wurde.
Das ist besonders relevant, wenn Agenten auf sensible Daten zugreifen oder wirtschaftliche und betriebliche Folgen auslösen – etwa im Finanzwesen, im Gesundheitsbereich, in der Industrie oder in der öffentlichen Verwaltung. Ziel ist nicht, jede Routineaufgabe durch manuelle Freigaben auszubremsen. Vielmehr sollen alltägliche Abläufe innerhalb klarer Grenzen automatisiert werden können, während kritische Vorgänge zusätzliche Autorisierung erfordern.
Auch die Post-Quanten-Kryptografie spielt eine wichtige Rolle. Sensible Daten müssen mitunter über Jahrzehnte geschützt bleiben. Gleichzeitig können Angreifer verschlüsselte Informationen bereits heute sammeln, um sie später möglicherweise zu entschlüsseln. Da die Umstellung kryptografischer Verfahren Jahre dauern kann, müssen Unternehmen sich frühzeitig auf diese Entwicklung vorbereiten.
Von der Sicherheitsidee zur Anwendung
Gimel arbeitet daran, seine spezifizierten Mechanismen in praktisch integrierbare Lösungen zu überführen. Im Beta-Test untersucht das Team unter anderem, wie zuverlässig die Vollmachtsprüfung unzulässige Handlungen verhindert und erlaubte Handlungen freigibt. Auch Widerrufe, fehlerhafte Verbindungen und die Weiterdelegation von Aufgaben müssen zuverlässig funktionieren. Sicherheit muss sich schließlich auch unter ungünstigen Bedingungen bewähren.
Dabei setzt Gimel auf offene Spezifikationen und definierte Schnittstellen, damit bestehende Identitätsdienste und Anwendungen weiter genutzt werden können. Die Kontrolle soll dort greifen, wo eine relevante Handlung ausgelöst wird – etwa vor einem Datenzugriff oder einer Transaktion.
Seit Kurzem ist Gimel Teil der CISPA-Startup-Community. CISPA unterstützte das Startup bei der Antragstellung für StartUpSecure Phase II; die Förderung durch das Bundesministerium für Forschung, Technologie und Raumfahrt (BMFTR) wurde bewilligt. Sie schafft Spielraum, um die technische Entwicklung und die Vorbereitung der praktischen Anwendung systematisch voranzubringen.
Für Wehberg liegt eine zentrale Herausforderung darin, technische Komplexität in einen klaren Kundennutzen zu übersetzen. Unternehmen müssen verstehen, welches Problem eine Lösung konkret behebt und wie sie sich in bestehende Abläufe integrieren lässt. Der Austausch mit CISPA hilft dabei, technologische Ziele, Entwicklungsschritte und wirtschaftliche Perspektiven zusammenzudenken.
Wehbergs Grundgedanke reicht dabei über einzelne Sicherheitsmechanismen hinaus: Vertrauen bedeutet nicht, unbegrenzte Handlungsspielräume zu gewähren. Auch Menschen arbeiten mit Zuständigkeiten, Vollmachten und Freigaben. Für KI-Agenten braucht es vergleichbar klare Regeln – und technische Kontrollen, die sie durchsetzen. Denn entscheidend ist nicht nur, ob eine KI eine gute Antwort gibt. Entscheidend ist auch, was sie tatsächlich tun darf.
