Halsey Andrews 
Zrzut ekranu wideo opartego na sztucznej inteligencji stworzonego przez Lumę.
zdjęcie: Loma
Najnowocześniejsze narzędzie sztucznej inteligencji, które może tworzyć fałszywe filmy, budzi obawy ekspertów w związku z nową generacją dezinformacji.
Firma Luma z San Francisco wypuściła „Dream Machine”, która pozwala każdemu tworzyć realistyczne filmy z krótką wiadomością lub zdjęciem.
Mieszkaniec Central Auckland, James Leach, uznał wyniki za zaskakująco przekonujące.
„Gdybyście mi nie powiedzieli, że to podróbka, nie uwierzyłbym” – powiedział.
„Martwię się tym, na co ludzie natkną się w mediach społecznościowych. Jeśli spojrzymy na takie rzeczy, jak Trump i Brexit, na liczbę osób, na które wpłynęło to, co uważali za prawdę w mediach społecznościowych… jeśli. rzeczy jak… [Dream Machine] – Będzie jeszcze gorzej.
Inny mieszkaniec Bobby'ego Jonesa powiedział, że łatwo zostać oszukanym, jeśli nie wiesz, czego szukać.
„Istnieją bardzo jasne wskaźniki [that it’s AI] „Ale czuję, że wiele osób z łatwością się w tym zakocha, zwłaszcza jeśli nie wiedzą, jak rozpoznać filmy AI” – dodała.
„Moja mama mówiła: «Spójrz na ten niesamowity film przedstawiający tę niesamowitą rzecz», a ja odpowiadałam: «Jest całkiem jasne, że to sztuczna inteligencja, jeśli na to spojrzysz.»”. [closer]„.”
Powiedziała jednak, że technologia szybko się poprawia, a syntetyczne filmy stają się coraz trudniejsze do zidentyfikowania.
„Problemem jest [the AI] Dodała: „Sytuacja stale się poprawia, a politycznie można zrobić wszystko… Twarz Chrisa Luxona jest niezwykle widoczna w opinii publicznej i są filmy, na których mówi i robi różne rzeczy”.
„Za pomocą sztucznej inteligencji można go zmusić do zrobienia wszystkiego, a to jest bardzo niebezpieczne dla działacza politycznego”.
Chociaż OpenAI ogłosiło w zeszłym roku podobny model generatywny, Dream Machine Lumy jest pierwszą, która zostanie udostępniona publicznie.
Andrew Linsen, wykładowca informatyki na Uniwersytecie Wiktorii, powiedział, że to ogromny krok.
„To naprawdę imponująca technologia, na którą warto zwrócić uwagę, ponieważ jest to pierwsza technologia udostępniona bezpłatnie” – powiedział.
„Widzieliśmy najnowszy model Sory z OpenAI, ale zablokowali go przed publicznym dostępem, ponieważ się nim zaniepokoił. Zatem zobaczenie tego modelu Lumy jest bardzo interesujące i wiąże się z pewnymi wyzwaniami”.
Stwierdził, że w ostatnich latach technologia bardzo się rozwinęła.
„Nie tak dawno temu oglądaliśmy naprawdę dziwnie wyglądające filmy, naprawdę nierealistyczne sceny, podczas gdy obecnie coraz trudniej jest dostrzec coś, co stworzyła sztuczna inteligencja” – powiedziała dr Linsen.
Bał się jednak, że będzie to niebezpieczne.
„Dezinformacja lub dezinformacja… zwłaszcza w mediach społecznościowych, gdzie rzeczywiście widzimy komory echa i wiele fałszywych wiadomości oraz tego rodzaju ataki na informacje [brings] „Ogromne wyzwania związane z tym, w co wierzymy jako społeczeństwo” – powiedział.
„Rodzi wiele pytań”.
Autor i badacz dezinformacji Byron Clark powiedział, że źli aktorzy mogą wykorzystywać sztuczną inteligencję Lumy na różne sposoby.
„Ludzie mogą nagrywać filmy przedstawiające polityków i mówić: «To film, który odkryto wiele lat temu», co może być całkowicie fałszywe” – stwierdził.
„Mogą produkować filmy przedstawiające strefy działań wojennych, zdjęcia klęsk żywiołowych… Może się zdarzyć wszystko”.
Clark stwierdził, że w miarę jak w mediach społecznościowych nadal dominują dezinformacje, coraz trudniej jest ufać prawdzie.
„Im więcej filmów tworzy nasza sztuczna inteligencja, tym trudniej jest rozpoznać, co jest prawdziwe, a co fałszywe” – powiedział.
„Myślę zatem, że kolejnym ryzykiem jest to, że otrzymamy prawdziwe zdjęcia i filmy oskarżane o wyprodukowanie przez sztuczną inteligencję, co jest kolejną formą dezinformacji”.
Dr Linsen stwierdził, że ta pionierska technologia ma pewne zalety, ale jego zdaniem wady przeważają nad pozytywami.
„Niektórzy mówią o takich rzeczach, jak historyczne resuscytacje… i potencjalne zastosowania medyczne w zakresie wizualizacji raka itd.” – wyjaśnił.
„Ale myślę, że wiele z tych pozytywnych zastosowań jest nieco naciąganych, a negatywne konsekwencje są bardziej oczywiste i natychmiastowe”.
Powiedział, że dla Nowozelandczyków ważny jest wysoki poziom sceptycyzmu wobec Internetu.
„Wątpienie we wszystko, co czytasz i wszystko, co widzisz, jest coraz ważniejszą umiejętnością i będzie jeszcze ważniejsza”.
Przykłady krótkich filmów AI stworzonych za pomocą Lumy:
