El creador de Deepfake de Tom Cruise diu que el públic no hauria d’estar preocupat per les 'falsificacions amb un sol clic'

Per fer els clips virals es necessitaven setmanes de treball i un suplant d'imitador

Voleu veure un truc de màgia? L'imitador de Tom Cruise, Miles Fisher (a l'esquerra) i el profund Tom Cruise, creat per Chris Ume (a la dreta).



Imatge: Chris Ume

Quan una sèrie de Tom Cruise fa fantàsticament convincentes va fer viral a TikTok, alguns van suggerir que era un senyal esgarrifós de les coses que vindrien, presagi d'una època en què la IA permetria a qualsevol persona fer vídeos falsos de qualsevol altra persona. El creador del vídeo, però, és l’especialista de VFX a BèlgicaChris Ume, diu que això està lluny del cas. Parlant ambThe Vergesobre els seus clips virals, Ume subratlla la quantitat de temps i esforç que es va dedicar a fer cada deepfake, així com la importància de treballar amb un suplant de Tom Cruise, Miles Fisher.

No es pot fer només prement un botó, diu Ume. Això és important, és un missatge que vull dir a la gent. Segons ell, cada clip requeria setmanes de treball, fent servir l’algorisme de codi obert DeepFaceLab, així com les eines d’edició de vídeo establertes. Combinant CGI i VFX tradicionals amb deepfakes, ho fa millor. M’asseguro que no veieu cap problema.

Ume fa anys que treballa amb deepfakes, incloent-hi la creació d’efectes per ala sèrie Sassy Justicefet perParc del sud’STrey Parker i Matt Stone. Va començar a treballar a Cruise quan va veure un vídeo de Fisher anunciant uncandidatura fictícia a la presidènciade l’estrella de Hollywood. La parella va treballar junts en unsegueixi va decidir crear una sèrie de clips inofensius a TikTok. El seu compte,deeptomcruise, va acumular ràpidament desenes de milers de seguidors i m'agrada. Ume va treure els vídeos breument, però després els va restaurar.

Segons el compte, ha complert el seu propòsit. Ens ho hem passat bé. Vaig crear consciència. Vaig mostrar les meves habilitats. Vam fer somriure a la gent. I ja està, el projecte està fet. Ho va dir un portaveu de TikTokThe Vergeque el compte estava ben dins de les seves regles per a usos paròdics de deepfakes, i Ume assenyala que Cruise - therealTom Cruise: des de llavors, ha creat el seu propi compte oficial, potser com a resultat de veure viral el seu doppelgänger AI.



warner mitjana

La tecnologia Deepfake ja fa anys que es desenvolupa i no hi ha dubte que els resultats són cada vegada més realistes i fàcils de fer. Tot i que s’han especulat molt sobre el dany potencial que aquesta tecnologia pot causar a la política, fins ara aquests efectes han estat relativament inexistents. Quan la tecnologia definitivament està causant danys és acreació de porno de venjançao pornografia no consentida de dones. En aquests casos, els vídeos o imatges falsos no han de ser realistes per generar un dany enorme. Simplement amenaçar algú amb l’alliberament d’imatges falses o crear rumors sobre l’existència d’aquest contingut pot ser suficient per arruïnar la reputació i la carrera professional.

Les falsificacions de Tom Cruise, però, mostren un ús molt més beneficiós de la tecnologia: com una part més del conjunt d’eines CGI. Ume diu que hi ha tants usos per a deepfakes, des del doblatge d’actors de cinema i televisió, fins a restaurar imatges antigues, fins a animar personatges CGI. El que subratlla, però, és la incompletesa de la tecnologia que opera sola.



corrent de flyers nocturns
Vista de quadrícula
  • Abans i després: podeu veure la comparació de l’imitador Fisher (esquerra) amb el creuer deepfake (dreta). Abans i després: podeu veure la comparació de l’imitador Fisher (esquerra) amb el creuer deepfake (dreta).
  • Abans i després: podeu veure la comparació de l’imitador Fisher (esquerra) amb el creuer deepfake (dreta). Abans i després: podeu veure la comparació de l’imitador Fisher (esquerra) amb el creuer deepfake (dreta).

La creació de les falsificacions va trigar dos mesos a entrenar els models d’intel·ligència artificial bàsics (mitjançant un parell de GPU NVIDIA RTX 8000) en imatges de Cruise i dies de processament posterior per a cada clip. Després d'això, Ume va haver de passar per cada vídeo, fotograma per fotograma, fent petits ajustaments per vendre l'efecte general; suavitzant una línia aquí i tapant-ne un problema. El més difícil és fer que sembli viu, diu. Es pot veure als ulls quan no està bé.

Ume diu que Fisher té una gran quantitat de crèdit; un actor de televisió i cinema que va capturar els maneres exagerats de Cruise, des de la seva rialla maníaca fins al seu intens lliurament. És un actor amb molt de talent, diu Ume. Només faig les coses visuals. Fins i tot llavors, si us fixeu bé, encara podeu veure moments en què la il·lusió falla, com en el clip de sota, on els ulls i la boca de Fisher s’enfonsen un segon mentre es posen les ulleres de sol.

Parpelleja i ho trobaràs a faltar: mira amb atenció i podràs veure la boca i l’ull de Fisher.

GIF:The Verge

Tot i que l’objectiu d’Ume és que els seus simulacres requereixen molta feina i un suplant professional, també està clar que la tecnologiavoluntatmillorar amb el pas del temps. És difícil de predir exactament el fàcil que serà fer falsificacions sense fissures en el futur i els experts estan ocupats en desenvolupar eines que puguin identificar automàticament falsificacions overifiqueu imatges no editades.

Ume, però, diu que no li preocupa massa el futur. Ja hem desenvolupat aquesta tecnologia i la concepció de la veritat de la societat ha sobreviscut més o menys. És com Photoshop fa 20 anys, la gent no sabia què era l’edició de fotos i ara saben d’aquestes falsificacions, diu. A mesura que els deepfakes esdevenen cada vegada més bàsics a la televisió i les pel·lícules, les expectatives de la gent canviaran, tal com ho feien amb les imatges a l’època de Photoshop. Una cosa és certa, diu Ume, i és que el follet no es pot tornar a posar a l’ampolla. Deepfakes és aquí per quedar-se, diu. Tothom hi creu.

Actualització el 5 de març, 12:11 PM ET: Actualitzat per tenir en compte que Ume i Fisher ara han restaurat els vídeos al compte de TikTok de @deeptomcruise.