À l'image des pulls moches qui défient la reconnaissance faciale, des chercheurs de l'université de Washington ont conçu un rempart novateur contre les deepfakes en utilisant la synthèse vocale. Dans le monde des cybercriminels, où les deepfakes audio peuvent induire en erreur en faisant dire à quelqu'un des choses qu'il n'a jamais dites, un système appelé AntiFake émerge comme une défense ingénieuse. Inspiré des attaques menées par les cybercriminels contre les intelligences artificielles, AntiFake agit comme un filtre qui introduit des perturbations dans un enregistrement audio, intervenant après l'enregistrement initial mais avant sa diffusion en ligne. Cette méthode s'inspire de celle élaborée par le MIT pour sécuriser les photos. Ainsi, bien que la voix demeure parfaitement compréhensible pour un auditeur humain, tout deepfake créé à partir d'un enregistrement protégé par AntiFake devient facilement identifiable.
Je cite Ning Zhang, l'un des créateurs de ce projet « nous altérons légèrement le signal audio enregistré, nous le déformons ou le perturbons juste assez pour qu'il sonne encore correct pour les auditeurs humains, mais c'est complètement différent pour l'IA ». Bien que cette première itération montre des promesses, elle semble présenter certaines limitations, donnant l'impression que les clips protégés ont été enregistrés avec un microphone bas de gamme dans une salle de bains à proximité d'un robinet ouvert. Les chercheurs ont réussi à tester avec succès leur système en utilisant cinq des synthétiseurs vocaux les plus avancés. Actuellement, AntiFake peut sécuriser des enregistrements courts, mais les chercheurs travaillent déjà sur une version permettant de protéger des clips plus longs, voire de la musique. Cependant, il est probable qu'à terme, les intelligences artificielles trouvent des moyens de contourner cette forme de protection. Le code source est librement accessible sur la page GitHub dédiée au projet.
Github : https://github.com/WUSTL-CSPL/AntiFake
Learn more about your ad choices. Visit megaphone.fm/adchoices