Sur TikTok, un deepfake fait tenir des propos racistes au directeur d'un collège

Trois lycéens américains ont publié sur TikTok de fausses vidéos du directeur d'un collège voisin, au nord de New-York, dans lesquels ce dernier semble proférer des menaces racistes.

Le directeur d'un collège américain a été victime d'un deepfake raciste, explique Vice ce mercredi. Trois lycéens du Carmel High School, au nord de New-York, se sont amusés à publier sur TikTok des vidéos dans lesquelles le directeur du collège voisin George Fischer, John Piscitella, semble tenir des propos racistes.

On voit notamment le directeur traiter les étudiants noirs de "singes" et dire qu'ils seraient renvoyés en Afrique. "J'espère que ces nég*** se feront tirer dessus parce qu'ils n'apprennent tout simplement pas", semble affirmer le directeur dans la vidéo, avant de menacer de "venir à l'école avec [sa] mitrailleuse".

Il s'agissait en réalité d'un deepfake. Cette technologie, reposant sur l'intelligence artificielle, permet de remplacer un visage par celui d'un autre dans une vidéo ou de falsifier les propos d'une personne avec un réalisme déconcertant. Les vidéos ont finalement été retirées et les autorités scolaires ont condamné un "racisme flagrant".

Les parents dénoncent l'inaction de l'école

Mais l'histoire ne s'arrête pas là. Les parents d'élèves, qui n'avaient pas vu circuler ces vidéos et n'étaient pas au courant des menaces contre les étudiants noirs, ont dénoncé l'inaction des autorités scolaires. Ils considèrent que ces images s'inscrivent dans un problème plus large de comportement raciste dans les écoles du district.

Les vidéos ont été signalées pour la première fois aux autorités scolaires le 12 février. Le 15 février, le district central de Carmel, qui supervise à la fois le lycée et le collège, a fait état dans une déclaration "de vidéos inappropriées créées à l'aide de l'intelligence artificielle et se faisant passer pour des membres de l'administration du district".

Le communiqué indique également que les étudiants qui ont publié les vidéos seraient "traités conformément au code de conduite du district", sans donner plus de détails.

Malgré cela, les parents leur reprochent d'avoir sous-estimé la menace et d'avoir laissé le collège ouvert après cet incident, sans mesures de sécurité. Certains envisageraient même de porter plainte contre les autorités scolaires. L'avocat qui représente les parents va jusqu'à parler de "menace terroriste à l'école".

Marius Bocquet