Ingénieur(e) IA en déploiement avancé// Forward Deployed Engineer, AI Trust and Reliability
Hopper, Montréal - Remote +1
The role
Hopper powers travel for some of the world's largest banks, airlines and travel companies, and our AI agents act on their customers' behalf by looking up accounts, changing and cancelling bookings, and handling payments and loyalty points. As the Forward Deployed Engineer, AI Trust and Reliability, you make sure that AI is safe, secure and ready for production in every partner deployment. You work in a small forward-deployed team as the person who owns guardrails, adversarial testing, launch readiness and partner security reviews, and you are the bridge between our partners' security, risk and IT teams and Hopper's engineering and security teams.
À propos du poste
Hopper propulse les voyages de certaines des plus grandes banques, compagnies aériennes et entreprises de voyage au monde. Nos agents d'IA agissent au nom de leurs clients : ils consultent les comptes, modifient et annulent des réservations, et traitent les paiements et les points de fidélité. En tant qu'ingénieur(e) déployé(e) en clientèle (Forward Deployed Engineer), Confiance et fiabilité de l'IA, vous veillez à ce que l'IA soit sûre, sécurisée et prête pour la production dans chaque déploiement chez un partenaire.
Vous faites partie d'une petite équipe déployée auprès des partenaires et vous êtes la personne responsable des garde-fous, des tests adverses, de la préparation au lancement et des examens de sécurité avec les partenaires. Vous faites le pont entre les équipes de sécurité, de risque et de TI de nos partenaires et les équipes d'ingénierie et de sécurité de Hopper.
À QUOI RESSEMBLERAIT VOTRE QUOTIDIEN?
- Adapter les garde-fous aux politiques, à la réglementation, à la tolérance au risque et aux langues de chaque partenaire, en définissant ce que l'IA peut faire, ce qu'elle doit refuser et à quel moment elle transfère la conversation à un humain
- Concevoir des mesures de protection pour les données et les actions sensibles, notamment le masquage des données, la vérification de l'identité et le consentement du client avant toute modification d'une réservation ou d'un paiement
- Calibrer les garde-fous de façon à bloquer les risques réels sans nuire aux clients légitimes
- Soumettre chaque déploiement à des tests d'équipe rouge (red teaming) avant le lancement et après tout changement important, afin de détecter les contournements de sécurité (jailbreaks), les injections de requêtes (prompt injection), les fuites de données, les actions non autorisées et l'ingénierie sociale
- Créer et maintenir des suites de tests adverses automatisés qui s'exécutent en continu, dans chacune des langues utilisées par un partenaire
- Transformer les constats en correctifs avec l'équipe d'ingénierie, puis en tests de non-régression pour que les problèmes ne reviennent pas