Elon Musk chce, aby algorytm Twittera był publicznie dostępny. To nie takie proste

Elon Musk mówi, że jego agresywna próba przejęcia Twittera dotyczy wolności słowa.

Dyrektor generalny Tesli opublikował na Twitterze wiele ankiet na ten temat do swoich prawie 80 milionów obserwujących na Twitterze i powiedział na konferencji w tym tygodniu, że wierzy, że firma mediów społecznościowych jest placem miejskim, który może promować pokój na świecie, o ile jest ograniczona liczba obserwujących. policja.

Kluczowy element jego argumentacji: jeśli uda mu się przejąć 43 miliardy dolarów, chce opublikować kod komputerowy, który określa, co ludzie widzą na Twitterze, aby zapewnić, że platforma jest uczciwa. Algorytm określa priorytet, w jakim tweety są wyświetlane użytkownikom, zwiększając lub ograniczając liczbę milionów osób, które je oglądają.

W szczególności powiedział, że chce stworzyć algorytm, który rekomenduje, czy tweet będzie promowany, czy degradowany jako „open source” lub publicznie dostępny do przeglądania i ulepszania. Pomogłoby to zapobiec „manipulacji zakulisowej” – powiedział.

Czytaj więcej:
* Twitter mówi, że testuje przycisk edycji
* Matematyczne „Lustro” Facebooka „Fun Mirror”
* Fałszywy sygnał Muska podkreśla zdolność Twittera do poruszania giełdami

Jeśli tweety danej osoby są „potwierdzone lub zlekceważone”, powiedział w transmisji na żywo z czwartkowej konferencji TED, to działanie powinno pozostać jasne.

Ale propozycja Muska prawdopodobnie stanowi nadmierne uproszczenie tego, jak te dane działają publicznie, według badaczy, którzy badają algorytmy rekomendacji. Wraz z rozwojem firm zajmujących się mediami społecznościowymi oprogramowanie napędzające ich silniki rekomendacji stało się tak rozległe i złożone, że jego analiza wymaga dostępu do węża strażackiego z tak rozległymi danymi, że większość ludzi nie będzie miała nawet dostępu do komputera wystarczająco wydajnego, aby je przeanalizować on ona.

Algorytmy na Twitterze, Facebooku i innych sieciach społecznościowych przetwarzają miliardy fragmentów treści i wykorzystują niezliczone punkty danych do określania rankingu, od popularności posta po osobę, która go opublikowała.

„Algorytm to nie jedno” — powiedział Nick Seaver, adiunkt antropologii na Uniwersytecie Tufts, który bada algorytmy sterujące silnikami rekomendacji. Jak mówi, systemy są tak złożone, że same firmy technologiczne często mają trudności ze zrozumieniem, dlaczego ich oprogramowanie pokazuje udział jednego użytkownika nad innym.

„Ludzie wewnątrz Twittera również chcą zrozumieć, jak działają ich algorytmy” – powiedział.

Twitter, Facebook i Musk nie odpowiedziały na prośby o komentarz.

Nieprzezroczystość algorytmów, które napędzają to, co ludzie widzą w mediach społecznościowych, od dawna jest magnesem dla konserwatystów, którzy twierdzili bez dowodów, że platformy są stronnicze przeciwko nim. Próby przejęcia kontroli nad Twitterem przez Muska w tym tygodniu doprowadziły do ​​radości prawicy, a niektórzy spekulują, że może spróbować ukrócić dezinformację i sprowadzić byłego prezydenta USA Donalda Trumpa z powrotem na platformę.

Podjęto wysiłki, aby poprzez regulacje uczynić algorytmy bardziej przejrzystymi. W ubiegłym roku w Kongresie USA wprowadzono lub ponownie wprowadzono kilka ustaw, które wyraźnie skupiały się na oprogramowaniu decydującym o tym, co ludzie widzą na platformach mediów społecznościowych. Podejmowane są również wysiłki na rzecz globalnego uregulowania sztucznej inteligencji i algorytmów.

Kiedy sieci społecznościowe, takie jak Facebook i Twitter, były zupełnie nowe, nie było wystarczającej ilości treści, aby uzasadnić potrzebę złożonego algorytmu, który jest zasadniczo zestawem reguł podobnym do równania matematycznego, które pomaga analizować treść i określać, co jest najbardziej istotne dla danej osoby użytkownik.

Ale kiedy setki milionów użytkowników zaczęło dołączać i publikować miliardy treści, firmy zaczęły pisać oprogramowanie, które mogło określić, na co użytkownicy najchętniej kliknęli, a następnie odpowiednio posortować swoje kanały.

Teraz firmy takie jak Facebook, aplikacja wideo TikTok i Twitter używają jakiejś formy algorytmu, aby zobaczyć, co pojawi się użytkownikom. Oznacza to, że nie każdy użytkownik w sieci społecznościowej widzi to samo. Osoby, które mają obsesję na punkcie spędzania czasu na świeżym powietrzu, mogą zobaczyć posty o najlepszych miejscach kempingowych na lato, a fani koszykówki mogą zostać zbombardowani wpisami o play-offach NBA.

Facebook i Twitter początkowo miały kanały chronologiczne i ostatnio obaj stanęli w obliczu nacisków, aby przywrócić je do stanu domyślnego, szczególnie w obliczu krytyki, że ich systemy ocen pomagają w rozprzestrzenianiu dezinformacji.

Złożona matematyka, z której korzysta większość firm, jest często nazywana „uczeniem maszynowym”, co w istocie jest bardzo fajną formą rozpoznawania wzorców. Program komputerowy nie może stwierdzić, czy dany tweet jest zabawny, interesujący czy wartościowy. Ale jeśli spojrzy na miliony tweetów i kombinację czynników, takich jak kto je polubił, udostępnił i przesłał dalej, może zacząć przewidywać, które tweety mogą przyciągnąć uwagę.

Michael Eckstrand, adiunkt informatyki, powiedział, że nawet gdyby Twitter udostępnił publicznie swoją tajną formułę, w tym matematykę, której używa do „szkolenia” algorytmów uczenia maszynowego, osoba z zewnątrz, która na nią patrzy, nie byłaby w stanie wyciągnąć sensownych wniosków z tego. W Boise State szukam silników rekomendacyjnych.

Osoba z zewnątrz musiałaby również zobaczyć podstawowe dane wykorzystywane do „szkolenia” tych algorytmów — miliardy danych pokazujących, kto oglądał, lubił lub udostępniał tweety, a także wiele innych potencjalnych czynników.

Eksperci twierdzą, że ujawnienie tych danych wzbudziłoby poważne obawy dotyczące prywatności.

„Algorytm to tylko wierzchołek góry lodowej”, powiedział Robin Burke, profesor informatyki na University of Colorado w Boulder i badacz specjalizujący się w algorytmach rekomendacji.

„To, co pozostało z góry lodowej, to wszystkie dane, które ma Twitter”, powiedział, z których większości nie może upublicznić.

Eksperci twierdzą, że Musk powinien być świadomy złożonej natury algorytmów. Tesla, firma, którą prowadzi, wykorzystuje algorytmy uczenia maszynowego do rozwijania technologii autonomicznej jazdy. To przedsięwzięcie jest tak ogromne, że Tesla buduje własny dedykowany superkomputer i półprzewodnik do przetwarzania wszystkich danych.

Eksperci twierdzą, że inne sposoby na poprawę przejrzystości są bardziej praktyczne, a niektóre z nich już robi Twitter. Niektórzy krytycy wezwali firmy zajmujące się mediami społecznościowymi do uproszczenia swoich algorytmów, aby łatwiej można było się nimi zająć, gdy istnieją problemy, takie jak postrzegane uprzedzenia wobec pewnych grup ludzi. Inni wzywali do niezależnych audytów w firmach.

Twitter ma wewnętrzny zespół badawczy o nazwie Etyka uczenia maszynowego, przejrzystość i odpowiedzialność, który analizuje potencjalne błędy w swoich algorytmach. Opublikował badania, na przykład, czy algorytmy, które automatycznie przycinają zdjęcia profilowe, zawierają niezamierzone uprzedzenia.

Jednym z pomysłów, który się pojawił, było podzielenie Twittera na kilka różnych algorytmów. Twitter może wybrać, którzy partnerzy biznesowi mogą uzyskać dostęp do danych i opracować algorytmy dostosowane do konkretnych odbiorców.

Nathan Bashes, współzałożyciel Every, grupy pisarzy zajmującej się technologią, przekonywał w piątkowym artykule, że Twitter powinien umożliwiać osobom z zewnątrz tworzenie własnych algorytmów dostosowanych do konkretnych zainteresowań. Jack Dorsey, współzałożyciel Twittera, odpowiedział na tweeta zamieszczone przez Bachesa, potwierdzając, że wpadł na ten pomysł, gdy był dyrektorem generalnym firmy, zanim ustąpił w grudniu.

W swoim zeznaniu przed Kongresem w listopadzie 2020 r. Dorsey szeroko zaproponował ten pomysł. Algorytmy są „odpowiedzialne za pokazywanie nam tego, co widzimy lub czego nie widzimy, i powinno być więcej możliwości ich wykorzystania” – powiedział. Twitter finansuje również Bluesky, którego celem jest decentralizacja mediów społecznościowych, po części, aby dać ludziom większy wybór w sposobie organizowania swoich kanałów.

Były pracownik Twittera, który wypowiadał się pod warunkiem zachowania anonimowości w celu omówienia prywatnych spraw, powiedział, że firma uważała „rynek algorytmiczny”, na którym użytkownicy mogą wybierać różne sposoby przeglądania swoich kanałów. Jednak osoba ta powiedziała, że ​​wysiłki mające na celu zapewnienie większej przejrzystości okazały się trudne ze względu na to, jak blisko algorytmy Twittera są powiązane z innymi częściami produktu. Osoba powiedziała, że ​​otwarcie go może ujawnić tajemnice handlowe i wywołać nadużycia.

Burke powiedział, że pomysł ma zalety, ale będzie wymagał restrukturyzacji sposobu działania Twittera i przepływu danych. „Fakt, że trudno sobie to wyobrazić, wskazuje na jednorodny charakter tych firm zajmujących się mediami społecznościowymi” – powiedział.

Upublicznienie kodu Twittera może mieć również negatywne skutki uboczne. Eksperci twierdzą, że ci, którzy chcą manipulować systemem poprzez rozpowszechnianie dezinformacji w celu wpływania na wybory, mogą wykorzystać te informacje do manipulowania platformą.

Nawet jeśli Musk odniesie sukces i kod zostanie opublikowany, krytycy prawdopodobnie nadal będą kwestionować, czy jest to kompletny kod i czy można coś pominąć. Zasadniczo miliarder poprosiłby użytkowników Twittera, aby mu zaufali, że za kulisami nie ma żadnej złowrogiej gry, tak jak firma jest obecnie pod jej obecnym właścicielem.

„Prawdopodobnie niemożliwe byłoby wyeliminowanie wszelkich wątpliwości i cynizmu”, powiedział Eckstrand. „Zawsze będą ludzie, którzy nie wierzą w to, co się mówi”.