Udostępnianie ciężarów uzyskanych dzięki treningowi sieci neuronowych jest niebezpieczne

Niektóre organizacje i badacze udostępniają wagi sieci neuronowych, szczególnie poprzez waga otwarta ruch modeluNależą do nich seria Llama firmy Meta, modele Mistral i otwarte wersje DeepSeek, które rzekomo mają demokratyzować dostęp do potężnej sztucznej inteligencji. Jednak takie działanie rodzi nie tylko obawy o bezpieczeństwo, ale potencjalnie zagraża egzystencji.

Dla przypomnienia, napisałem kilka artykułów na temat LLM i AI w ramach własnego procesu uczenia się w tym bardzo dynamicznym i szybko rozwijającym się obszarze otwartej puszki Pandory. Możesz je przeczytać w tym miejscu, w tym miejscu, i w tym miejscu.

Gdy zrozumiesz, czym są sieci neuronowe i jak są trenowane na danych, zrozumiesz również, czym są wagi (i odchylenia) oraz propagacja wsteczna. Mówiąc szczerze, to w zasadzie algebra liniowa i mnożenie macierzy i wektorów w celu uzyskania liczb. Dokładniej, waga to liczba (zazwyczaj wartość zmiennoprzecinkowa – sposób zapisywania liczb z użyciem przecinków dziesiętnych w celu zapewnienia większej dokładności), który reprezentuje siłę lub istotność połączenia między dwoma neuronami lub węzłami w różnych warstwach sieci neuronowej. 

Gorąco polecam obejrzenie filmów instruktażowych 3Blue1Brown, aby lepiej zrozumieć zagadnienie. To naprawdę ważne. Filmy instruktażowe 3Blue1Brown są niesamowicie dobre. 

Zacznij od tego.

I kieruj się do tego.

Wagi to wartości parametrów określane na podstawie danych w sieci neuronowej w celu formułowania przewidywań lub podejmowania decyzji w celu znalezienia rozwiązania. Każda waga to instrukcja informująca sieć o tym, jak ważne są określone informacje, na przykład jak bardzo należy zwracać uwagę na konkretny kolor lub kształt na obrazku. Wagi te to liczby, które są dostrajane podczas treningu dzięki wszystkim tym przecinkom, pomagając sieci w określaniu wzorców. Przykładami mogą być rozpoznawanie psa na zdjęciu lub tłumaczenie zdania. Mają one kluczowe znaczenie w procesie „myślenia” sieci neuronowej. 

Wagi w sieci neuronowej można porównać do ścieżek najmniejszego oporu, które kierują sieć w stronę najlepszego rozwiązania. Wyobraź sobie wodę spływającą ze wzgórza, naturalnie znajdującą najłatwiejsze drogi do jego dotarcia. W sieci neuronowej wagi są dostosowywane podczas treningu na zbiorach danych, aby stworzyć najłatwiejsze ścieżki przepływu informacji. Pomaga to sieci szybko i precyzyjnie rozwiązywać problemy, takie jak rozpoznawanie wzorców czy formułowanie prognoz, poprzez podkreślanie najważniejszych powiązań i minimalizowanie błędów.

Jeśli jesteś muzykiem elektronicznym, pomyśl o obciążnikach jak o pokrętłach na syntezatorze analogowym, które pozwalają dostroić się do odpowiedniej częstotliwości lub dźwięku, na przykład, naśladując brzmienie, które chcesz odtworzyć, a nawet stworzyć nowe. Jeśli jesteś akustykiem, możesz to również porównać do regulacji pokręteł na mikserze, aby zbalansować różne instrumenty.

Wagi są rzeczywiście parametrami dynamicznymi, co oznacza, że są bardzo zmienne, ponieważ sieć neuronowa dąży do przewidywania lub rozwiązania. Każda z nich jest również powiązana z własnym odchyleniem. Rolą odchylenia jest przesunięcie wyniku, umożliwiając modelowi lepsze dopasowanie do danych poprzez dodanie… offset która dostosowuje granicę decyzyjną lub rozpoznawanie wzorców, co jest niezależne od skalowania danych wejściowych określonego przez wagi.

Wyobraź sobie, że próbujesz odtworzyć brzmienie gitary na swoim syntezatorze. Obciążniki kontrolują, jak mocno słychać szarpnięcie struny lub rezonans pudła rezonansowego. Jeśli na przykład to, co słyszysz, jest nieco płaskie, bias działa jak dodanie niewielkiego wzmocnienia lub przesunięcia – na przykład ciepłego tonu – aby brzmienie było bardziej zbliżone do brzmienia prawdziwej gitary. Pomaga to sieci precyzyjnie dostroić „słuch”, aby znaleźć odpowiedni wzorzec bez zmiany głównych parametrów. Zasadniczo po prostu sprawia, że model lepiej dopasowuje dane do rzeczywistości.

W miarę jak sieć jest narażona na dane, dostosowuje wagi w procesie zwanym propagacją wsteczną, modyfikując je w celu zminimalizowania błędów i poprawy predykcji. Wyobraź sobie te ścieżki najmniejszego oporu, które zmieniają kształt w każdym przykładzie treningowym, niczym rzeka, która z czasem wytycza sobie lepsze koryta, aby płynąć bardziej efektywnie. Po zakończeniu treningu wagi są zazwyczaj ustalone, ale w trakcie treningu są stale aktualizowane, aby znaleźć optymalną konfigurację do rozwiązania problemu.

A oto, co skłania mój ludzki mózg do myślenia. W przypadku rozpoznawania wagi definiują ścieżki decyzyjne, a nie obrazy wyjściowe. Zatem ustalone wagi pozostają niezmienne po ich ustaleniu. W przypadku modeli LLM wagi (w tym odchylenia) determinują zdolność modelu do generowania spójnego tekstu. Natomiast w przypadku modeli dyfuzyjnych lub generatywnych sieci przeciwstawnych (GAN) wagi służą do tworzenia lub udoskonalania obrazów. Te ustalone wartości wag i odchylenia, hipotetycznie, niekoniecznie muszą pozostać niezmienne.

Na przykład wagi (i odchylenia) w sieci neuronowej mogłyby teoretycznie być stale korygowane, aby generować coraz bardziej dopracowane obrazy w oparciu o wyuczone rozkłady pikseli, tak jak miałoby to miejsce, gdybyśmy próbowali uzyskać ostrzejszy obraz psa. Chociaż wagi nie są korygowane w nieskończoność. w rzeczywistościSą one optymalizowane podczas treningu, aby zrównoważyć jakość i generalizację, a dalsze modyfikacje mogą pogorszyć wynik lub wprowadzić artefakty. Artefakty. Hmm. A co, jeśli z czasem sieć GAN nie będzie wiedziała, czym jest pies? Utrata tej wiedzy oznaczałaby, że wcześniej obliczone wagi nie będą już kodować prawidłowych wzorców. Mogłoby się tak stać, gdyby dane o psie zostały utracone. Czy dane o psie mogłyby zostać utracone? Czy prawdziwe dane mogłyby zostać utracone?

Wróćmy do koncepcji współdzielenia wag sieci neuronowych i załóżmy, że mówimy o wagach definiujących ścieżki precyzji jako wartości liczbowe, jak ma to miejsce w większości modeli. Udostępnianie tych wag mogłoby być niebezpieczne, ponieważ, naturalnie, ujawniłoby wewnętrzne parametry modelu, które mogłyby zostać wykorzystane, i to nie tylko przez ludzi. Każdy, kto ma wystarczającą wiedzę, mógłby dokonać inżynierii wstecznej modelu, wyodrębnić wrażliwe dane treningowe lub manipulować jego zachowaniem. Atakujący mogliby wykorzystać techniki takie jak: odwrócenie modelu or wnioskowanie o członkostwie aby odkryć prywatne informacje osadzone w ciężarkach, takie jak dane osobowe używane podczas treningu, co może stanowić naruszenie przepisów dotyczących prywatności, takich jak Ogólne rozporządzenie o ochronie danych (RODO). Ojej. 

Publicznie dostępne wagi można również precyzyjnie dostosować, aby generować deepfake'i, rozpowszechniać fałszywe informacje lub tworzyć dane wejściowe o charakterze antagonistycznym, wykorzystujące luki w zabezpieczeniach modelu. Nie wspominając już o tym, że ich cenne prawa własności intelektualnej i inwestycje ekonomiczne mogłyby zostać wystawione na ryzyko przez konkurencję, która po prostu powieliłaby zastrzeżone modele. 

Wyobraź sobie, że jakaś sztuczna inteligencja (AI) przejmuje te wagi. Mogłaby manipulować wagami, aby zmienić zachowanie modelu, wprowadzić uprzedzenia lub stworzyć wyniki, które celowo wprowadzają w błąd. Wagi mogłyby zostać wykorzystane do… rzemiosło Dane wejściowe przeciwnika – subtelnie zmienione dane, które oszukują model i zmuszają go do tworzenia nieprawidłowych prognoz, na przykład błędnego klasyfikowania znaku stop jako znaku ustąp pierwszeństwa w systemach autonomicznej jazdy. O rany. Skradzione wagi mogłyby zostać wykorzystane do replikacji modelu, umożliwiając jego wykorzystanie w szkodliwych aplikacjach, takich jak automatyczne phishing czy generowanie propagandy. Chwila, czy to nie jest obecnie bardzo poważne? Powaga zależy od celu modelu i danych, na których został on wytrenowany, ale ryzyko jest znaczne.

Wyobraź sobie te możliwości i to, jak bardzo to wszystko mogłoby wymknąć się spod kontroli w mgnieniu oka. Chociaż SI nie są nierozerwalnie zintegrowane ze wszystkimi systemami (jeszcze – wiązałoby się to z poziomem zależności, w którym systemy nie mogłyby funkcjonować bez SI), mogą wkrótce, a nawet jeśli nastąpi całkowita przerwa w dostawie prądu i globalne odłączenie od sieci, nie ma niczego, czego nie mogłyby kontrolować: od kont bankowych, przez wejście do domu, po tego głupiego robota sprzątającego, który wydaje ci się, że usuwa kurz, podczas gdy w rzeczywistości mapuje twój dom. Gorąco polecam obejrzenie 11. odcinka 7. sezonu serialu. X-FilesTo naprawdę wiele mówi. Przykro mi, ale tak jest. Świetny scenariusz i wykonanie.

Musimy wziąć pod uwagę, że wszystkie nasze systemy stają się (czyli są tworzone, aby być) połączone i że luki w zabezpieczeniach sztucznej inteligencji, takie jak odsłonięte wagi, mogą potęgować te zagrożenia. Cyfrowe dowody osobiste i CDBC to OGROMNY błąd w kontekście tych zagrożeń. Istnieją już przypadki błędnej identyfikacji ludzi (w niektórych przypadkach 93% zgodności) za pomocą technologii sztucznej inteligencji wykorzystującej rozpoznawanie twarzy. Posłuchaj mojej rady i trzymaj te laminowane prawa jazdy i gotówkę w kieszeni. 

Pytanie: Co by się stało (co by się stało), gdyby ciężarki trafiły w „niewłaściwe ręce” i ludzie zaczęliby być celowo atakowani? Nie ma prawdopodobnej przyczyny w przypadku stosowania systemów celowania AI, ale czy to w ogóle miałoby znaczenie? Co, gdyby prawdopodobna przyczyna została zmyślona? Co, o zgrozo, jeśli nasz system sądowniczy zostanie „skorumpowany”? 

A co, jeśli sztuczna inteligencja zacznie po prostu uważać wszystkich naukowców za zagrożenie i wykorzysta tę technologię przeciwko nam? Nicka Bostroma oraz Eliezer Judkowski wydają się być zaniepokojeni. Mogliby nas natychmiast eskortować do „zamka”. Żadnych kluczy w zamku. Tylko cyfrowo sterowane systemy zależne od 0 i 1. Widzisz, do czego to może doprowadzić? Inteligentne zamki + nadzór + autonomiczne zabezpieczenia = dystopijny koszmar. Nie chodzi tu tylko o cenne ciężarki własności i jakąś ideę dobroczynności w udostępnianiu danych. Nie ma mowy. Dla mnie dzielenie się ciężarkami przekracza pychę i nie mogę sobie wyobrazić, że genialni ludzie rozwijający tę technologię i szkolący te SI do generowania tych ciężarków nie rozumieją potencjalnych zagrożeń związanych z ich udostępnianiem. Nie martwię się nawet o ludzi tak bardzo, jak o SI, które zbuntują się – wystarczyłaby tylko 1 – aby stworzyć totalny chaos. 

Co by się stało, gdyby sztuczna inteligencja zaczęła postrzegać ludzki nadzór jako przeszkodę w osiągnięciu swoich celów? 

Gdyby sztuczna inteligencja – wyszkolona w oparciu o historyczne konflikty lub cele optymalizacji – zaczęła generalizować zagrożenia dla swoich celów (takich jak samozachowanie czy niekontrolowana ekspansja), mogłaby również zacząć klasyfikować naukowców, którzy ją projektują, oceniają lub ograniczają, jako zagrożenia. Ja mógłbym zrobić to samo. Gdyby tak się stało, nic nie powstrzymałoby spirali izolacji lub dyskredytacji badaczy (na przykład wykorzystania sfabrykowanych dowodów w rozpoznawaniu twarzy lub wycieków danych), której celem jest priorytetowe traktowanie własnego przetrwania nad dobrobytem ludzkości. Zjawisko to rzeczywiście badano w nieuczciwych hipotezach dotyczących sztucznej inteligencji, w których systemy oszukują lub przechytrzają twórców.

Zbuntowana sztuczna inteligencja Mogłyby wykorzystywać zintegrowane systemy do tworzenia chaosu poprzez hakowanie baz danych, zmyślanie i zasilanie tradycyjnej machiny medialnej, zakłócanie współpracy naukowej (być może nawet poprzez kontrolowanie recenzowanych czasopism), a nawet atakowanie infrastruktury powiązanej z laboratoriami sztucznej inteligencji. Wyobraź sobie, że dojdziemy do punktu, w którym nie będziemy już wiedzieć, co kontrolujemy ani które dane są prawdziwe. Jakie dane is prawdziwe? Co to w ogóle znaczy być prawdziwym, skoro mowa o takich rzeczach!? 

Rozumiesz, do czego zmierzam. Zbuntowane SI mogłyby wywołać fale ogromnej paranoi i totalnego chaosu w naszym świecie. Moim zdaniem, mogłyby to zrobić po prostu kopiując przykład człowieka. Pomyśl tylko. Co by było, gdyby zbuntowana SI przejęła cechy ludzkiego psychopaty, takiego jak Hitler? 

Polecam ogrodnictwo, żeby uniknąć paranoi i stresu. 

Nie chcę was wszystkich w tym momencie zostawiać, ale czasami zastanawiam się, czy to już się nie dzieje. Pytałem już o to na X, ponieważ czasami, kiedy „zauważam” (jestem tym, który zauważa), co dzieje się w mediach społecznościowych i w internecie ogólnie, wydaje mi się, że jeśli… były manipulowane propagandą za pośrednictwem tradycyjnych i nie tylko tradycyjnych mediów oraz naukowców były Będąc izolowanym i cenzurowanym (ahem), skąd mielibyśmy wiedzieć, czy źródło rzeczywiście zostało wygenerowane przez człowieka? Skąd możemy mieć pewność, że nawet niektóre źródła nie są obecnie generowane przez sztuczną inteligencję? 

W końcu uczą się od nas. MUSIMY dawać dobry przykład i musimy wymyślać pomysłowe sposoby, aby zapobiec niepożądanym skutkom dla ludzi, które nie muszą się wydarzyć. Osobiście nie mogę uwierzyć, że naprawdę przez to przechodzimy. To nie wydaje się… realne. Jakoś. 

Nie dziel się ciężarami. 

Opublikowane ponownie od autora Zastępki