Freiberuflicher Cybersicherheitsberater für AI Red Teaming

Für ein KI-Labor suchen wir Cybersicherheitsberater, um ein KI-Modell (Large Language Model - LLM) in verschiedenen Bereichen zu trainieren:

Du hilfst der KI, die Welt zu verstehen. Als Berater kannst du eingeladen werden, an Online-Projekten teilzunehmen und das Modell in deinem Fachgebiet zu trainieren.

Diese flexible Rolle richtet sich sowohl an Experten, die eine Teilzeitbeschäftigung (mindestens ein paar Stunden pro Woche) suchen, als auch an diejenigen, die Vollzeit interessiert sind:

• Bewertung und Red Teaming von KI-Modellen, Agenten und Machine-Learning-Systemen auf Schwachstellen und Sicherheitsrisiken.
• Erstellung von offline reproduzierbaren und automatisch auswertbaren Testfällen zur Prüfung der Sicherheit und Leistungsfähigkeit von KI-Agenten.
• Entwicklung und Implementierung von Automatisierungsskripten, individuellen Tools, Umgebungen und Test-Harnesses.
• Leitung oder Mitwirkung an Sicherheitsforschungsinitiativen, insbesondere im Bereich KI-Sicherheit, durch Erstellung und Umsetzung realistischer und herausfordernder Angriffszenarien für das Modell.
• Beratung zu Best Practices in der Cybersicherheit und zu politischen Implikationen.

• Sicherer Umgang mit Skripting und Automatisierung in Python, Bash oder PowerShell.
• Erfahrung mit Containerisierung und CI/CD-Sicherheitstools, insbesondere Docker.
• Praktische Erfahrung im Penetrationstest von Web-, API-, Netzwerk- und Infrastruktur-Umgebungen.
• Kenntnisse zu Schwachstellen in aktuellen KI-Modellen, einschließlich Prompt-Injection, sowie OWASP Top 10 für Large Language Models (LLMs).
• Vertraut mit KI-Red-Teaming-Frameworks wie garak oder PyRIT.
• Erfahrung in KI/ML-Sicherheit, Evaluation und Red Teaming, insbesondere mit LLMs, KI-Agenten und RAG-Pipelines.
• Versiert in offensiven Exploits und Exploit-Entwicklung.
• Erfahrung im Reverse Engineering mit Tools wie Ghidra oder Äquivalenten.
• Fachwissen in Netzwerk- und Anwendungssicherheit, einschließlich Webanwendungssicherheit.
• Kenntnisse zu Betriebssystem-Sicherheitskonzepten wie Linux-Privilege-Escalation und Windows-Internals.
• Vertraut mit Secure-Coding-Praktiken für Full-Stack-Entwicklung.

Application Process:

• Wenn Sie ausgewählt werden, werden Sie von Mindrift zu einem Interview eingeladen.