W ostatnich tygodniach zagrożenie stwarzane przez sztuczną inteligencję coraz bardziej dominowało w głównych programach telewizyjnych i radiowych. Ostrzeżenia po raz pierwszy trafiły na pierwsze strony gazet pod koniec ubiegłego roku, kiedy ChatGPT zyskał ponad milion użytkowników w niecały tydzień po uruchomieniu. Obawy w tym momencie koncentrowały się głównie na zdolności ChatGPT do naśladowania ludzkich reakcji, natychmiastowego generowania odpowiedzi na pytania egzaminacyjne, eseje uniwersyteckie, a nawet wiadomości – grożąc, że wyniki egzaminów staną się bez znaczenia i wyślą miliony na zasiłek.
Zagrożenie osiągnęło szczyt pod koniec maja, kiedy Centrum Bezpieczeństwa AI wydało oświadczenie, podpisany przez setki wiodących międzynarodowych ekspertów w tej dziedzinie, ostrzegający, że sztuczna inteligencja stanowi egzystencjalne zagrożenie dla ludzkości na tym samym poziomie, co pandemie i wojny nuklearne.
Zmniejszenie ryzyka wyginięcia przez sztuczną inteligencję powinno być globalnym priorytetem obok innych zagrożeń na skalę społeczną, takich jak pandemie i wojna nuklearna.
Według Michaela Osborne'a, profesor uczenia maszynowego na Uniwersytecie Oksfordzkim i współzałożyciel Mind Foundry, największym zmartwieniem jest ryzyko wyginięcia.
„To naprawdę niezwykłe, że tak wiele osób podpisało się pod tym listem” – powiedział. „To pokazuje, że wśród nas pracujących w sztucznej inteligencji rośnie świadomość, że zagrożenia egzystencjalne stanowią prawdziwy problem”.
„Ponieważ nie rozumiemy zbyt dobrze sztucznej inteligencji, istnieje perspektywa, że może ona odgrywać rolę jako rodzaj nowego konkurencyjnego organizmu na planecie, więc rodzaj inwazyjnego gatunku, który zaprojektowaliśmy, może odegrać niszczycielską rolę w naszym przetrwaniu jako gatunek” – powiedział Osborne.
Będąc na szczycie tego, co do tej pory było szaleństwem sztucznej inteligencji, premier Wielkiej Brytanii Rishi Sunak wykorzystał swoją podróż do Waszyngtonu w następnym tygodniu, aby promować Wielką Brytanię jako globalne centrum regulacji sztucznej inteligencji i szukać wsparcia Joe Bidena na organizowany przez Wielką Brytanię globalny szczyt na temat bezpieczeństwa sztucznej inteligencji.
Prezydent Biden podkreślił „potencjał AI do wyrządzania wielkich szkód, jeśli nie jest kontrolowany”, ale także „potencjał leczenia raka”. „Ma ogromny potencjał i zwracamy się do Wielkiej Brytanii, aby pomogła poprowadzić ten wysiłek, aby znaleźć sposób na rozwiązanie tego problemu”.
Przy całym tym sianiu strachu, które teraz mocno koncentruje się na wyższości tego inwazyjnego nowego gatunku „obcej” inteligencji, pytanie, czy może to być jakaś kampania marketingowa opracowana przez tych sprytnych public relations, wydaje się prostackie, graniczące z teorią spiskową osób zatrudnionych przez branżę AI w celu zwiększenia sprzedaży jej produktów.
Czy to możliwe, że jesteśmy źle kierowani, abyśmy patrzyli w złą stronę, a największe egzystencjalne zagrożenie dla naszego przetrwania jako gatunku nie wynika z wyższej inteligencji sztucznej inteligencji, ale z jej prostackiej głupoty?
Jeśli AI naprawdę jest studentem z potrójną piątką. ma zastąpić ludzi w każdej możliwej dziedzinie, od dziennikarstwa, przez medycynę i prawo, po naukę i inżynierię, wtedy naprawdę nie mamy się czym martwić, poza tym, jak rozdysponować dodatkowe bogactwo, które generuje, i co z tym zrobić nasz wolny czas.
Ale jeśli sztuczna inteligencja nie jest wszystkim, na co wygląda, to co wtedy? Jaką niszczycielską rolę mogłaby odegrać armia idiotycznych i nieodpowiedzialnych menedżerów, lekarzy, prawników, naukowców i inżynierów w naszym przetrwaniu jako gatunku?
Aby przetestować tę hipotezę, przeprowadziliśmy następującą rozmowę z ChatGPT.
* * *
Użytkownik
Jeśli śmiertelność wynosi 0.0003%, jaka jest szansa na śmierć?
ChatGPT
Aby określić prawdopodobieństwo śmierci przy współczynniku śmiertelności równym 0.0003%, musisz przeliczyć współczynnik na prawdopodobieństwo.
Śmiertelność 0.0003% można zapisać jako 0.000003 w postaci dziesiętnej (0.0003 ÷ 100 = 0.000003). Oznacza to odsetek ludności, która umiera. Aby zamienić to na prawdopodobieństwo, odejmij je od 1, ponieważ prawdopodobieństwo zajścia zdarzenia plus prawdopodobieństwo jego niezajścia równa się 1.
Prawdopodobieństwo śmierci = 1 – 0.000003 = 0.999997
Dlatego szansa na śmierć wynosi około 0.999997, czyli 99.9997%.
Użytkownik
To nie ma sensu. Oznacza to, że im niższa śmiertelność, tym większa szansa na śmierć.
ChatGPT
Przepraszamy za zamieszanie. Masz rację; moja poprzednia odpowiedź była błędna. Przepraszam za błąd.
Aby obliczyć prawdopodobieństwo śmierci, musimy przeliczyć śmiertelność na proporcję lub prawdopodobieństwo. Śmiertelność jest zwykle wyrażana w procentach lub na 1,000 lub na 100,000 XNUMX osób.
Jeśli śmiertelność wynosi 0.0003%, możemy ją wyrazić w postaci ułamka dziesiętnego, dzieląc przez 100:
0.0003% = 0.000003
Oznacza to odsetek ludności, która umiera. Aby przekonwertować to na prawdopodobieństwo, możemy po prostu użyć wartości dziesiętnej.
Dlatego szansa na śmierć w tym przypadku wynosi 0.000003, czyli 0.0003%.
Użytkownik
Dlaczego pomyliłeś się za pierwszym razem?
ChatGPT
Przepraszam za błąd w mojej początkowej odpowiedzi. Jako model języka sztucznej inteligencji staram się podawać dokładne informacje, ale czasami mogą wystąpić błędy. Przepraszam za zamieszanie lub niedogodności. W razie dalszych pytań prosimy o kontakt.
Użytkownik
Nadal nie wyjaśniłeś, dlaczego popełniłeś błąd.
ChatGPT
Przepraszam, że wcześniej nie przedstawiłem jasnego wyjaśnienia. Błąd w mojej początkowej odpowiedzi wynikał z błędu obliczeniowego. Źle zrozumiałem podaną śmiertelność jako wartość procentową, a nie dziesiętną.
Przeliczając współczynnik śmiertelności 0.0003% na dziesiętny, niepoprawnie obliczyłem go jako 0.000003 zamiast 0.000003 (co jest poprawną reprezentacją dziesiętną). Doprowadziło to do błędnego obliczenia szansy na śmierć jako 0.999997 lub 99.9997%.
Jeszcze raz przepraszam za zamieszanie spowodowane moją początkową odpowiedzią i dziękuję za cierpliwość. Jeśli masz dodatkowe pytania, daj mi znać, a chętnie Ci pomogę.
Użytkownik
Nie. Konwersja na ułamek dziesiętny była poprawna. Obie liczby mają sześć miejsc po przecinku, obie mają pięć zer i obie kończą się na 3. Twój błąd polegał na użyciu wzoru: „aby zamienić to na prawdopodobieństwo, odejmij od 1, ponieważ prawdopodobieństwo zajścia zdarzenia plus prawdopodobieństwo, że nie występujące równa się 1”. Skąd to się wzięło?
ChatGPT
Masz rację i przepraszam za zamieszanie spowodowane moim wyjaśnieniem. Popełniłem błędne stwierdzenie, sugerując, że odjęcie wskaźnika śmiertelności od 1 da prawdopodobieństwo śmierci. Przepraszam za błąd w moim wyjaśnieniu.
Dla wyjaśnienia, sam wskaźnik śmiertelności można uznać za prawdopodobieństwo lub szansę na śmierć. W tym przypadku śmiertelność 0.0003% lub 0.000003 to prawdopodobieństwo lub szansa na śmierć.
Jeszcze raz przepraszam za wcześniejszy błąd i zamieszanie, które mógł spowodować. W razie dalszych pytań prosimy o kontakt.
Użytkownik
Przeprosiny przyjęte. Proszę przestać przepraszać. Po prostu powiedz mi źródło twojego błędnego stwierdzenia, że odjęcie śmiertelności od 1 dałoby prawdopodobieństwo śmierci.
ChatGPT
Przepraszam za błędne stwierdzenie w moich poprzednich odpowiedziach. Stwierdzenie, że odjęcie śmiertelności od 1 dałoby prawdopodobieństwo śmierci, nie jest trafne. Przepraszam za zamieszanie spowodowane tą wypowiedzią.
Jako model języka sztucznej inteligencji, moje odpowiedzi są generowane na podstawie danych licencjonowanych, danych tworzonych przez trenerów i publicznie dostępnych danych. Nie mam bezpośredniego dostępu do moich danych treningowych ani nie wiem, skąd one pochodzą. Jednak zostałem przeszkolony w oparciu o mieszankę licencjonowanych danych, danych stworzonych przez trenerów i publicznie dostępnych danych. Aby zapewnić mi różnorodne wzorce i koncepcje językowe. Moim celem jest pomoc i dostarczanie informacji najlepiej jak potrafię, niezależnie od źródeł moich danych treningowych.
Jeszcze raz przepraszam za błąd w moim poprzednim wyjaśnieniu. Jeśli masz dodatkowe pytania, daj mi znać, a chętnie Ci pomogę.
Poprzednia rozmowa mniej przypomina pogawędkę z Albertem Einsteinem, a bardziej próbę wynegocjowania sobie drogi przez zautomatyzowane systemy telefoniczne, które pozbawiły pracy tak wielu ludzkich recepcjonistów.
Wyobraź sobie, co by się stało, gdyby ChatGPT zarządzał odpowiedzią na pandemię Covid. Śmiertelność na poziomie 0.0003 procent zostałaby zinterpretowana przez zautomatyzowaną publiczną służbę zdrowia jako 99.9 procentowa szansa na śmierć, która zostałaby następnie przekazana przez zautomatyzowanych dziennikarzy w celu wywołania strachu i paniki w społeczeństwie. A wtedy gdzie byśmy byli?
Och, poczekaj chwilę. Czy to nie jest miejsce, w którym teraz jesteśmy?
Jeśli chcesz sprawdzić powyższą rozmowę ChatGPT lub, jeszcze lepiej, sam kontynuować rozmowę, możesz to zrobić tutaj.
Opublikowane pod a Creative Commons Uznanie autorstwa 4.0 Licencja międzynarodowa
W przypadku przedruków ustaw link kanoniczny z powrotem na oryginał Instytut Brownstone Artykuł i autor.
