Den manipulerade videon med talmannen Nancy Pelosi, tillsynes berusad, har i dagarna fått stor spridning på nätet och mötts av blandade reaktioner. Bland annat blev den delad av president Donald Trumps advokat Rudy Giulliani.
Den virala videon, en så kallad ”deepfake”, tvingar nu Facebook att ta ställning kring hur de ska hantera manipulerade videor och bilder som publiceras på deras medium. Istället för att ta bort filmen på Nancy Pelosi har man valt att nedprioritera inlägget, vilket innebär att det inte kan få någon större spridning på Facebook.
Samma beslut skulle tas om en liknande video av företagets vd Mark Zuckerberg skulle publiceras, kommenterade Neil Potts, Facebooks director of public policy.
Nu ställs uttalandet på prov, när en manipulerad video på Mark Zuckerberg postats på Facebook-ägda plattformen Instagram.
Klippet är skapat av en orginalvideo från 2017, där Mark Zuckerberg diskuterar rysk valpåverkan på Facebook. Ur den sju minuter långa videon har man klippt ut ett segment på 21 sekunder som algoritmen sedan utgått ifrån för att skapa den fejkade videon.
”Föreställ dig för en sekund – en man med total kontroll över miljarder människors stulna data, alla deras hemligheter, deras liv och deras framtid”, säger Mark Zuckerberg i videon.
”Jag har Spectre att tacka för allt. Spectre visade mig att vem som än kontrollerar datan, också kontrollerar framtiden.”
Med Spectre syftar den manipulerade Facebook-vd:n på den utställning vid Sheffield Doc Fest i Storbritannien, som videon är en del av.
Det är pr-byrån Canny tillsammans med konstnärerna Bill Posters och Daniel Howe som ligger bakom projektet.
Utöver Mark Zuckerberg har också en manipulerad video med realitystjärnan Kim Kardashian och president Donald Trump publicerats, med liknande uttalanden som Mark Zuckerbergs.
Instagram står fast vid Facebooks uttalande:
”Vi kommer att behandla det här innehållet på samma sätt som vi behandlar allt vilseledande innehåll på Instagram. Om en tredjeparts faktagranskare markerar det som fejk kommer vi ta bort det från våra ytor där videorna får spridning, som Explore-sidan och hashtag-sidan.”
Facebooks val av att inte radera någon video, även om det innehåller en helt påhittad sekvens av en politiker, väcker oro inför det presidentval som väntar i USA nästa år.
”Jag tycker att de har bevisat – genom att inte ta ner något de vet är falskt – att de är villiga att tillåta rysk påverkan av våra val,” säger Nancy Pelosi i en intervju med radiostationen KQED.
”2016 och 2017 bevittnade England, USA och Europa massiva politiska vågor när en ny typ av propaganda kunde spridas på sociala medier, genom reklam och via politiska konsultbyråer som Cambridge Analytica. Vi vill ge en personlig upplevelse som tillåter användare att uppleva vad som står på spel när datan som tas ifrån oss varje dag används på oväntade och potentiellt farliga sätt,” säger Daniel Howe i ett uttalande.