Liðin er sú tíð að hægt sé með auðveldu móti sjá hvort myndir og myndbönd séu fölsuð eða ekki. Við erum á hraðri leið inní framtíð, þar sem mikilvægara er en nokkru sinni fyrr að hafa gagnrýna hugsun og trúa ekki öllu sem við sjáum og lesum. Þú hefur kannski heyrt um þetta málefni, eða kannski ekki. En “deepfake” tæknin er komin til að vera. “Deepfake” er aðferð sem notast við gervigreind til að breyta andliti einnar manneskju í andlit einhvers annars.

Nú þegar eru dæmi um blekkingar í stjórnmálum

Skotmarkið var Nancy Pelosa þingmaður demókrata í Bandaríkjunum og hefur myndbandið farið eins og eldur í sinu á veraldarvefnum. Þar má sjá talmáta þingmannsins vera hægan og silalegan. Þetta gæti markað tímamót í stjórnmálum um allan heim.

Deepfake algengt í klámmyndarbransanum

Sprenging hefur orðið í klámmyndarbransanum þar sem andlit af frægum einstaklingum er klippt á andlit klámmyndarleikarans. Leikkonur eins og Natalie Portman og Emma Watson hafa orðið fyrir barðinu á þessum fölsunum og eru þær gjarnan skotmörk fyrir óprúttna aðila sem hugsa greinilega ekkert um afleiðingar þessara myndskeiða.

Ekki bara stjórnmálamenn og leikkonur sem verða fyrir fölsunum

Fyrirtæki gætu einnig átt undir högg að sækja þar sem óprúttnir aðilar geta notað þessa tækni til þess að eyðileggja fyrir þeim. Hægt er, til dæmis, að þykjast vera stjórnarformaður fyrirtækis og nota forrit eins og skype til þess að skipa undirmönnum fyrir. Þegar auðkýfingurinn Elon Musk fór í viðtal til Joe Rogan, sem er þekktur hlaðvarpsgerðamaður, og reykti jónu á myndbandsupptöku féllu hlutarbréf Tesla um 6%. Ekki þarf maður að hugsa lengi til að sjá hvað hægt væri að gera með þessari tækni til að hafa áhrif á markaðinn.

Einnig gefur þessi tækni tækifæri á fjárkúgun þar sem hægt er að þrýsta á valdamikla einstaklinga með fölsuðum myndum og myndböndum. Dæmi er þegar stofnandi Amazon, Jeff Bezos ásakaði National Enquirer um að hafa hótað að sýna nektarmyndir af honum.

Ekki er öll von úti

Fyrirtækið Deeptrace var stofnað í þeim tilgangi að berjast á móti misbeitingu þessarar tækni. Þau kalla forritið sitt  "Anti-Vírus" fyrir deepfakes og notast þau við gervigreind og "computer vision" til að sjá ramma fyrir ramma hvort um sé að ræða fölsun eða ekki. Eins og þeir segja, berjast gegn eldi með eldi!

Punktar til að taka með eftir þessa grein

Kæri lesandi, vona að þessi grein hafi undirbúið þig fyrir komandi átökum gegn fölsun og svikum. Vertu  gagnrýninn í hugsun þegar þú lest fréttir og horfir á myndbönd á netinu. Netheimurinn er skrýtinn og á bara eftir að verða skrýtnari. En með vitneskju kemur vald og ég sé bara bjarta framtíð.

Höfundur: Arnar Ólafsson, nemandi við Háskólann í Reykajvík

Mynd fengin hér https://www.csoonline.com/article/3293002/deepfake-videos-how-and-why-they-work.html