GenAI-Modelle verbessern sich sehr schnell und eines unserer Ziele ist, sie in die Lage zu versetzen, spezialisierte Fragen zu beantworten und komplexe Schlussfolgerungen zu ziehen. Wenn du dich als KI-Tutor:in für Programmierung auf der Plattform anmeldest, erhältst du die Möglichkeit, an diesen Projekten mitzuwirken.
Obwohl jedes Projekt einzigartig ist, könntest du typischerweise:
- KI-Modelle und -Agenten sowie maschinelle Lernsysteme auf Schwachstellen und Sicherheitsrisiken prüfen und red teamen.
- Offline reproduzierbare und automatisch auswertbare Testfälle erstellen, um Sicherheit und Fähigkeiten von KI-Agenten zu testen.
- Automatisierungsskripte, individuelle Tools, Umgebungen und Test-Harnesses entwickeln und implementieren.
- Sicherheitsforschungsinitiativen leiten oder daran mitarbeiten, insbesondere in der KI-Sicherheit, und realistische und herausfordernde Angriffszenarien für das Modell entwerfen und umsetzen.
- Zu bewährten Praktiken der Cybersicherheit und zu politischen Implikationen beraten.