Das heutige Internet kann als ein riesiger Datenspeicher verstanden werden, das persönliche und sensible Daten über seine Nutzer sammelt. Dies führt zu signifikanten Sicherheits- und Datenschutzrisiken für die Endnutzer, die die Kontrolle über die von ihnen geteilten Daten verlieren. Die Entwicklung von Methoden und Werkzeugen zur Ermöglichung einer sicheren und datenschutzfreundlichen Datenverarbeitung stellt daher eine der größten Herausforderungen für alle datenbetriebenen Ökosysteme und Anwendungen dar. Insbesondere hängt der Erfolg der Digitalisierung stark davon ab, ob es den Unternehmen gelingt, das Vertrauen ihrer Nutzer zum Schutz ihrer Privatsphäre zu gewinnen. Dieses Forschungsgebiet zielt darauf ab, revolutionäre, neue Rahmen für den effizienten und großumfänglichen Umgang mit und die Verbesserung von Sicherheit und Datenschutz in der Informationsverarbeitung in diversen Einstellungen zu entwickeln. In den letzten Jahren hatte dieses Gebiet einen besonderen Fokus auf folgende Themen gelegt: neue Methoden und Werkzeuge für die algorithmische Bereinigung datenschutzsensibler Daten, insbesondere für Genom- und medizinische Forschung; neue Techniken für die quantitative Untersuchung der Privatsphäre der Endnutzer; sowie effiziente Techniken für sichere, verifizierbare Berechnung.
Conference on Neural Information Processing Systems (NeurIPS) Differentially Private Bilevel Optimization: Efficient Algorithms with Near-Optimal Rates
ACM Conference on Computer and Communications Security (CCS) BadTV: Unveiling Backdoor Threats in Third-Party Task Vectors
Conference on Game Theory and AI for Security(GameSec) The Oracle's Gambit: A Game-Theoretic Framework for Responsible AI Release
Conference on Empirical Methods in Natural Language Processing (EMNLP) GREAT: Generalizable Backdoor Attacks in RLHF via Emotion-Aware Trigger Synthesis
European Conference on Computer Vision (ECCV) MGI: Member vs Generated Inference
