Maryam M.

KI Red Team Engineer

Hamburg, Deutschland

Erfahrungen

Aug. 2025 - Bis heute
3 Monaten

KI Red Team Engineer

Applause

  • Durchführung von Sicherheitsbewertungen und Penetrationstests an Microsoft-KI-Modellen zur Text-, Bild- und Videogenerierung.
  • Durchführung von Prompt-Injection-Angriffen über verschiedene Eingabevektoren, einschließlich gestalteter Texte, steganografischer Bilder und manipulierten visuellen Elementen (z. B. unterschiedliche Deckkraft und eingebettete Inhalte).
Mai 2025 - Bis heute
6 Monaten

Mitglied, Beitragender im KI-Red-Teaming

OWASP AI Exchange

  • Mitwirkung an KI-Red-Teaming-Initiativen, Forschung und Testen von Bedrohungen wie Prompt-Injection, Datenvergiftung und Modellmanipulation in KI- und datenorientierten Systemen.
  • Unterstützung bei der Entwicklung globaler KI-Sicherheits- und Datenschutzstandards, einschließlich des EU AI Acts, ISO/IEC 27090 (KI-Sicherheit) und ISO/IEC 27091 (KI-Datenschutz), und Mitgestaltung von Vorgaben für sicherere und vertrauenswürdigere KI.
Jan. 2025 - Bis heute
10 Monaten

Red-Team-Prompt-Injection-Spezialist

Freiberufler

  • Durchführung gezielter Prompt-Injection-Angriffe (direkt und indirekt) gegen modernste Large Language Models, die Texte, Bilder und Videos erzeugen oder über verfügbare APIs ein System steuern, um ihre Robustheit gegen feindliche Eingaben zu testen.
  • Einsatz verschiedener Tools, Techniken und Open-Source-Ressourcen, um Angriffe zu entwickeln und auszuführen, die reale Missbrauchsszenarien simulieren.
  • Dokumentation von Ergebnissen zu Prompt-Leaks, unbeabsichtigten Verhaltensweisen und Modell-Sicherheitslücken.
  • Beitrag zu Modell-Sicherheitsbewertungen durch Meldung von Randfall-Fehlermodi und Vorschlag von Gegenmaßnahmen.
  • Arbeit unter strengen ethischen Richtlinien, um verantwortungsbewusste KI-Red-Teaming-Praktiken sicherzustellen.
Dez. 2024 - Apr. 2025
5 Monaten

Penetrationstester für LLM-Sicherheit

Mindrift

  • Durchführung von Sicherheitsbewertungen und Penetrationstests für LLM-basierte Anwendungen mit Fokus auf OWASP Top 10 für LLMs.
  • Durchführung von Prompt-Injection-, Datenleck- und Modellmanipulationstests an Anthropic-Claude-Agenten, Entwicklung verschiedener Angriffsvektoren und Empfehlungen zur Stärkung der Agenten gegen erfolgreiche Angriffe.
Sept. 2023 - Dez. 2023
4 Monaten
Bonn, Deutschland

Software-Sicherheitsingenieur

Code Intelligence

  • Durchführung von Penetrationstests für Automobilkunden mit Schwerpunkt auf nativen Anwendungen und Infrastruktur-Schwachstellen.
  • Präsentationen zum Fuzz-Testing gehalten und Kunden bei der Nutzung von Fuzzing-Tools zur Analyse und Absicherung ihres Codes unterstützt.
  • Technischen Support und Beratung zur Verbesserung der Tool-Nutzung und Behebung erkannter Sicherheitslücken bereitgestellt.
Aug. 2018 - März 2023
4 Jahren 8 Monaten
Isfahan, Iran, Islamische Republik

Assistenzprofessor

Isfahan University of Technology

  • Lehrte Kurse in Softwaresicherheit und leitete Forschungsprojekte zur Erkennung von Schwachstellen und zu sicheren Programmierpraktiken.
  • Organisierte Jobmessen für Studierende und Industriekooperations-Festivals, um Partnerschaften zu fördern und den Wissensaustausch im Bereich Cybersicherheit zu erleichtern.
Juni 2016 - März 2017
10 Monaten
Tehran, Iran, Islamische Republik

Berater für Softwaresicherheit

Ansar Bank

  • Führte Sicherheitsprüfungen und Penetrationstests an Java-Anwendungen und der internen Infrastruktur durch.
  • Arbeitete mit Entwicklungsteams zusammen, um Sicherheitsmaßnahmen in den Softwareentwicklungszyklus zu integrieren und sichere Programmierpraktiken sicherzustellen.
  • Gab umsetzbare Empfehlungen zur Behebung von Sicherheitslücken und zur Verbesserung der Anwendungssicherheit.
Sept. 2015 - März 2018
2 Jahren 7 Monaten

Smart Fuzzing und Schwachstellenerkennung

  • Entwarf und implementierte einen Smart-Fuzzing-Algorithmus zur Erkennung von Schwachstellen im binären C/C++-Code, einschließlich Stack-/Heap-Überläufen und Pufferüberläufen.
  • Setzte Tools wie Valgrind und Angr ein, um die Genauigkeit der Schwachstellenerkennung zu erhöhen.
Sept. 2014 - März 2018
3 Jahren 7 Monaten
Tehran, Iran, Islamische Republik

Forscher und Entwickler

APA Research Center

  • Leitete ein Team bei Penetrationstests für Webanwendungen und Android-Apps, identifizierte Sicherheitslücken und entwickelte Lösungsvorschläge.
  • Entwickelte Leitlinien zur Sicherheitsanalyse für verschiedene Plattformen und verbesserte so den Schwachstellenerkennungsprozess.
  • Beratete Master-Studierende zu Cybersicherheitsforschung und Penetrationstest-Methoden.
  • Führte Workshops zur sicheren Programmierung für Studierende und Entwickler durch.
Juni 2011 - Aug. 2012
1 Jahr 3 Monaten
Isfahan, Iran, Islamische Republik

Softwareentwickler

PayamPardaz

  • Entwickelte eine Korrelations-Engine für SIEM-Lösungen, mit Python und C++, um Sicherheitsvorfälle zu erkennen und darauf zu reagieren.
  • Implementierte automatisierte Korrelation von Sicherheitsereignissen und erstellte umsetzbare Warnmeldungen für Sicherheitsteams.

Penetrationstests für Webanwendungen

  • Führte Penetrationstests an verschiedenen Webanwendungen und internen Systemen für kleine Unternehmen durch.
  • Erstellte detaillierte Sicherheitsberichte, identifizierte Schwachstellen und empfahl Gegenmaßnahmen zur Risikominderung.

Zusammenfassung

Erfahrener Cyber-Security-Ingenieur mit Spezialisierung auf Anwendungssicherheit und über 10 Jahren Erfahrung in Penetrationstests, Sicherheitsüberprüfungen und sicheren Codierungspraktiken. Versiert darin, Schwachstellen in Web- und mobilen Anwendungen zu identifizieren und Sicherheits-Best-Practices im Entwicklungszyklus anzuwenden.

Kürzlich zum Engineering von Large Language Models (LLMs) gewechselt, mit praktischer Erfahrung im Aufbau von Multi-Agenten-LLM-Anwendungen, Retrieval-Augmented Generation (RAG)-Pipelines und im Feintuning von Modellen für domänenspezifische Aufgaben. Versiert in LLM-Sicherheitstests und der Minderung der OWASP Top 10 LLM-spezifischen Schwachstellen. Erfahren in Bedrohungsmodellierung, sicherem Codieren und der Integration von KI-Sicherheits-Best-Practices. Geübt in der Zusammenarbeit mit Entwicklungsteams, um sowohl traditionelle als auch KI-gesteuerte Anwendungen vom Design bis zur Bereitstellung abzusichern.

Sprachen

Persisch
Muttersprache
Englisch
Verhandlungssicher
Deutsch
Fortgeschritten

Ausbildung

März 2011 - März 2017

Amirkabir University of Technology

Ph.D. · Softwaretechnik · Tehran, Iran, Islamische Republik

Sept. 2008 - Sept. 2011

Amirkabir University of Technology

M.Sc. · Informationssicherheit · Tehran, Iran, Islamische Republik

Sept. 2004 - Sept. 2008

Esfahan University of Technology

B.Sc. · Computertechnik · Isfahan, Iran, Islamische Republik

Zertifikate & Bescheinigungen

MCSE 2003

OWASP KI-Sicherheitsschulung

SANS GenAI & LLM Anwendungssicherheitsschulung

Sie suchen Freelancer?Passende Kandidaten in Sekunden!
FRATCH GPT testen
Weitere Aktionen