Un footing le long de vagues de dizaines de mètres de haut, des requins bondissant dans des piscines privées ou encore une balade improvisée en radeau sur les torrents qui déferlent dans les rues de Jamaïque. A l’approche de ce qui pourrait être la tempête la plus violente de l’histoire de l’île des Caraïbes, des images surprenantes circulent en masse sur Internet, au grand désarroi des autorités. Pour cause : elles sont entièrement fausses et générées par intelligence artificielle.
Face à la quantité de contenus trompeurs, la ministre de l’Information et sénatrice jamaïcaine Dana Morris Dixon et d’autres membres du gouvernement ont tenu lundi 27 octobre une conférence de presse rediffusée sur YouTube pour fournir des «informations correctes» sur cette tempête, qui a déjà fait plusieurs morts et risque de causer des inondations et glissements de terrain catastrophiques.
«Je suis dans beaucoup de groupes WhatsApp et je vois toutes ces vidéos arriver. Beaucoup d’entre elles sont fausses», a-t-elle regretté, exhortant la population à «écouter les canaux officiels».
Une vingtaine de vidéos déjà retirées
Sur TikTok, Instagram ou encore Facebook, les vidéos montrent des habitants, souvent avec des accents jamaïcains marqués, apparemment destinés à renforcer les stéréotypes, faisant la fête, naviguant, faisant du jet-ski ou se baignant joyeusement avant l’arrivée de l’ouragan. Le tout assorti de bandes-son tantôt humoristiques, tantôt catastrophistes. Certaines d’entre elles portent la signature en filigrane de Sora, un modèle de génération de vidéos d’OpenAI, sans qu’il ne soit systématiquement présent.
@bigfootvlogboyz Hurricane Melissa Kingston Jamaica man taken out to sea. #jamaica #hurricane #gully #kingston #scary ♬ original sound - bigfootvlogboyz
Si les plateformes sont censées imposer qu’un contenu généré par IA soit identifié comme tel, seuls certains d’entre eux portaient l’étiquette obligatoire. TikTok semblait ce mardi avoir supprimé plus de deux douzaines de ces vidéos ainsi que plusieurs comptes dédiés à leur partage, après un signalement de l’AFP. Mais d’autres exemples ont été trouvés sur Facebook et Instagram, où la règle est pourtant supposée être identique.
Un risque de «pertes en vies humaines» et matérielles
Ces faux contenus, qui noient des alertes importantes en matière de sécurité, amènent les usagers à sous-estimer le danger, alertent les spécialistes et les autorités. «Ils entraîneront des pertes en vies humaines et en matériels», prévient Amy McGovern, professeure de météorologie à l’Université de l’Oklahoma, spécialisée dans l’utilisation de l’IA sur les prévisions météorologiques extrêmes.
Pour Hany Farid, cofondateur de la société de cybersécurité GetReal Security et professeur à l’Université de Californie Berkeley, l’ouragan Melissa témoigne de ce que les nouveaux modèles texte-vidéo ont bien «accéléré la propagation de faux contenus convaincants».
Interview
De nombreux utilisateurs semblent effectivement ignorer que les images en question sont fausses, comme en témoignent les commentaires publiés sous les vidéos. Sous le fake montrant un vieil homme criant qu’il ne «bougerait pas pour une petite brise», sur TikTok, un internaute commente : «Dieu, s’il te plaît, protège la maison de grand-père et le manguier.» Plus bas, un autre réclame de ses nouvelles.
@rastabad876 Jamaican Rasta Hurricane Melissa #ai #sora #rasta #fyp #hurricane ♬ original sound - Rasta
Un flot de prières similaires s’affichaient sous une autre vidéo représentant une femme appelant à l’aide, des bébés dans les bras dans une maison sans toit.