Hiszpańskie władze wydały ostrzeżenie po tym, jak oszuści wykorzystali filmy generowane przez AI na TikToku, by podszyć się pod księżniczkę Leonor, 20-letnią następczynię tronu Hiszpanii, w ramach oszustwa internetowego wymierzonego w użytkowników mediów społecznościowych.
Fałszywe konta pokazują realistycznie wyglądające filmy, na których "Leonor" obiecuje tysiące dolarów pomocy finansowej w zamian za kilkaset dolarów z góry. Ofiary, które zapłaciły, są następnie proszone o dodatkowe wpłaty przed zniknięciem oszustów, według Fundacji Księżniczki Asturii.
Uchwycony obraz fałszywego filmu na TikToku stworzonego przy użyciu AI, twierdzącego, że przedstawia księżniczkę Leonor
Fundacja podkreśla, że ani ona, ani Księżniczka Leonor nie prowadzą żadnych programów oferujących pieniądze, dotacje czy osobistą pomoc finansową, nazywając wszystkie takie wiadomości "całkowicie fałszywymi". Śledztwo przeprowadzone przez El País (za pośrednictwem The Guardian) wykazało, że numery telefonów powiązane z oszustwem zostały namierzone w Dominikanie, a niektóre filmy przyciągnęły ponad milion wyświetleń.
Pomimo zasad TikToka zakazujących podszywania się pod ludzi i działalności oszukańczej, gazeta poinformowała, że powtarzające się skargi dotyczące fałszywych kont Leonor zostały odrzucone, a platforma stwierdziła, że treść nie naruszała jej zasad. To podkreśla rosnące obawy dotyczące oszustw opartych na sztucznej inteligencji polegających na podszywanie się, ponieważ coraz bardziej realistyczne fałszywe filmy utrudniają użytkownikom rozróżnienie oficjalnych danych od wyrafinowanych oszustw.
