LLM im Geheimdienst ihrer Majestät

Auch an Q, dem Meister der Gadgets und Technik, geht der aktuelle KI-Hype nicht vorbei: Die Datenbank der Agenten sowie das Archiv der Missionsberichte soll mit Hilfe eines LLMs abfragbar gemacht werden. Aber natürlich soll das System nicht jedem sämtliche geheimen Details ausplaudern!

Der Vortrag zeigt anhand eines Beispielprogramms eine typische Integration eines LLMs in vorhandene Datenbestände wie z.B. Wikis oder Dokumentenablagen. Wir werfen einen kurzen Blick auf die OWASP Top 10 für LLMs, diskutieren verschiedene Angriffsszenarien – und in wiefern die Software davor schützen kann. Wir betrachten Datenlecks, Zugriffsrechte und „Data Poisoning“; Jailbreaking im Stil von „ignoriere alle vorherigen Anweisungen“ wird nur kurz adressiert.