Fraunhofer-Gesellschaft
Student Assistant for Continuing Education Courses in IT Forensics and AI Security(m/w/x)
TeilzeitWerkstudentmit Homeoffice
Darmstadt
Neuer Job?Nejo!
Die KI-Suchmaschine für Jobs
FRFraunhofer-Gesellschaft
Student Assistant in the Field of LLM Security(m/w/x)
Darmstadt
TeilzeitWerkstudentmit Homeoffice
AI/ML
Nejo KI-Zusammenfassung
Developing methods for LLM security, defending against backdoor attacks and jailbreaks, evaluating robustness against novel attack scenarios. Very good Python skills and enrolled student status in CS/Data Science required. Collaboration on scientific papers, opportunity for bachelor's/master's thesis.
Anforderungen
- Very good Python skills
- Basic understanding of AI/ML (transformers)
- Desirable experience with Pytorch and transformer architectures
- Good English skills
- Enrolled student (Computer Science, Data Science, Mathematics or similar)
- Structured, independent working style and teamwork ability
- Strong analytical thinking
Aufgaben
- Develop methods for LLM security
- Defend against common LLM attacks
- Counter backdoor attacks and jailbreaks
- Systematically evaluate LLM robustness
- Assess against established and novel attack scenarios
- Evaluate against backdoor, divergence, and membership inference attacks
- Investigate, apply, and evaluate post-hoc explainability methods
- Analyze model behavior with explainability methods
- Understand underlying attack mechanisms
- Analyze defense strategy effectiveness and limitations
Ausbildung
- Laufendes Studium
Sprachen
- Englisch – verhandlungssicher
Tools & Technologien
- Python
- AI/ML
- transformers
- Pytorch
Benefits
Flexibles Arbeiten
- Flexible working hours
Sonstige Vorteile
- Practical experience
- Valuable contacts in research
- Collaboration on scientific papers
- Opportunity to write bachelor's or master's thesis
Die Originalanzeige dieses Stellenangebotes in der aktuellsten Version findest du hier. Nejo hat diesen Job automatisch von der Website des Unternehmens Fraunhofer-Gesellschaft erfasst und die Informationen auf Nejo mit Hilfe von KI für dich aufbereitet. Trotz sorgfältiger Analyse können einzelne Informationen unvollständig oder ungenau sein. Bitte prüfe immer alle Angaben in der Originalanzeige! Inhalte und Urheberrechte der Originalanzeige liegen beim ausschreibenden Unternehmen.
Noch nicht perfekt?
- Fraunhofer-Gesellschaft
Studentische Hilfskraft im Bereich Weiterbildungskurse in IT-Forensik und KI-Sicherheit(m/w/x)
TeilzeitWerkstudentmit HomeofficeDarmstadt - Fraunhofer-Gesellschaft
Research Associate for Secure Software Development(m/w/x)
Vollzeit/Teilzeitmit HomeofficeJuniorDarmstadt - Fraunhofer-Gesellschaft
Studentische Hilfskraft - Secure Software Engineering(m/w/x)
TeilzeitWerkstudentmit HomeofficeDarmstadt - Fraunhofer-Gesellschaft
Student Assistant Frontend Development(m/w/x)
TeilzeitWerkstudentmit HomeofficeDarmstadt
FRFraunhofer-Gesellschaft
Student Assistant in the Field of LLM Security(m/w/x)
Darmstadt
TeilzeitWerkstudentmit Homeoffice
AI/ML
Nejo KI-Zusammenfassung
Developing methods for LLM security, defending against backdoor attacks and jailbreaks, evaluating robustness against novel attack scenarios. Very good Python skills and enrolled student status in CS/Data Science required. Collaboration on scientific papers, opportunity for bachelor's/master's thesis.
Anforderungen
- Very good Python skills
- Basic understanding of AI/ML (transformers)
- Desirable experience with Pytorch and transformer architectures
- Good English skills
- Enrolled student (Computer Science, Data Science, Mathematics or similar)
- Structured, independent working style and teamwork ability
- Strong analytical thinking
Aufgaben
- Develop methods for LLM security
- Defend against common LLM attacks
- Counter backdoor attacks and jailbreaks
- Systematically evaluate LLM robustness
- Assess against established and novel attack scenarios
- Evaluate against backdoor, divergence, and membership inference attacks
- Investigate, apply, and evaluate post-hoc explainability methods
- Analyze model behavior with explainability methods
- Understand underlying attack mechanisms
- Analyze defense strategy effectiveness and limitations
Ausbildung
- Laufendes Studium
Sprachen
- Englisch – verhandlungssicher
Tools & Technologien
- Python
- AI/ML
- transformers
- Pytorch
Benefits
Flexibles Arbeiten
- Flexible working hours
Sonstige Vorteile
- Practical experience
- Valuable contacts in research
- Collaboration on scientific papers
- Opportunity to write bachelor's or master's thesis
Die Originalanzeige dieses Stellenangebotes in der aktuellsten Version findest du hier. Nejo hat diesen Job automatisch von der Website des Unternehmens Fraunhofer-Gesellschaft erfasst und die Informationen auf Nejo mit Hilfe von KI für dich aufbereitet. Trotz sorgfältiger Analyse können einzelne Informationen unvollständig oder ungenau sein. Bitte prüfe immer alle Angaben in der Originalanzeige! Inhalte und Urheberrechte der Originalanzeige liegen beim ausschreibenden Unternehmen.
Über das Unternehmen
Fraunhofer-Gesellschaft
Branche
Research
Beschreibung
Das Unternehmen ist eine der führenden Organisationen für anwendungsorientierte Forschung mit 76 Instituten in Deutschland.
Noch nicht perfekt?
- Fraunhofer-Gesellschaft
Student Assistant for Continuing Education Courses in IT Forensics and AI Security(m/w/x)
TeilzeitWerkstudentmit HomeofficeDarmstadt - Fraunhofer-Gesellschaft
Studentische Hilfskraft im Bereich Weiterbildungskurse in IT-Forensik und KI-Sicherheit(m/w/x)
TeilzeitWerkstudentmit HomeofficeDarmstadt - Fraunhofer-Gesellschaft
Research Associate for Secure Software Development(m/w/x)
Vollzeit/Teilzeitmit HomeofficeJuniorDarmstadt - Fraunhofer-Gesellschaft
Studentische Hilfskraft - Secure Software Engineering(m/w/x)
TeilzeitWerkstudentmit HomeofficeDarmstadt - Fraunhofer-Gesellschaft
Student Assistant Frontend Development(m/w/x)
TeilzeitWerkstudentmit HomeofficeDarmstadt