Superinteligentna sztuczna inteligencja będzie nie do kontrolowania. Bezpłatna biblioteka techniczna Aktualności

NOWOŚCI NAUKI I TECHNOLOGII, NOWOŚĆ W ELEKTRONIKI
Bezpłatna biblioteka techniczna / Kanał wiadomości

Nie będzie można kontrolować superinteligentnej sztucznej inteligencji

29.09.2022

Pomysł obalenia ludzkości sztuczną inteligencją był dyskutowany od dziesięcioleci, a w 2021 roku naukowcy wydali swój werdykt, czy można kontrolować superinteligencję komputerową wysokiego poziomu.

Haczyk polega na tym, że aby kontrolować superinteligencję, która wykracza daleko poza ludzkie zrozumienie, konieczne będzie symulowanie tej superinteligencji, którą można analizować i kontrolować. Ale jeśli ludzie nie są w stanie tego zrozumieć, to nie da się stworzyć takiej symulacji.

Zasady takie jak „nie krzywdź ludzi” nie mogą zostać ustalone, jeśli ludzie nie rozumieją, jakie scenariusze ma do zaoferowania sztuczna inteligencja. Gdy system komputerowy działa na poziomie przekraczającym możliwości naszych programistów, nie można ustawić żadnych limitów.

Superinteligencja przedstawia fundamentalnie inny problem niż te, które zwykle bada się pod hasłem „etyki robotów”. Wynika to z faktu, że superinteligencja jest wieloaspektowa, a zatem potencjalnie zdolna do zmobilizowania różnorodnych zasobów do osiągnięcia potencjalnie niezrozumiałych celów ludziom, nie wspominając o tym, żeby można było ich kontrolować.

Część rozumowania zespołu pochodziła z problemu zatrzymania postawionego przez Alana Turinga w 1936 roku. Problem polega na tym, aby wiedzieć, czy program komputerowy wyświetli dane wyjściowe i odpowiedź (więc się zatrzyma), czy po prostu zapętli się, próbując je znaleźć.

Uczeni zauważyli, jak Turing udowodnił za pomocą sprytnej matematyki, chociaż możemy to wiedzieć w przypadku niektórych konkretnych programów, logicznie niemożliwym jest znalezienie sposobu, który pozwoliłby nam to wiedzieć dla każdego potencjalnego programu, który kiedykolwiek mógłby zostać napisany. To sprowadza nas z powrotem do sztucznej inteligencji, która w stanie superinteligentnym mogłaby jednocześnie przechowywać w swojej pamięci wszystkie możliwe programy komputerowe.

Według naukowców, każdy program napisany w celu zapobiegania szkodliwości sztucznej inteligencji dla ludzi i niszczenia świata, może na przykład zdecydować (i zatrzymać), czy matematycznie niemożliwe jest uzyskanie absolutnej pewności i tak, co oznacza, że nie można go powstrzymać. . Naukowcy powiedzieli, że alternatywą dla nauczania AI pewnych etyki i mówienia jej, by nie niszczyła świata – czego żaden algorytm nie może być absolutnie pewien – jest ograniczenie możliwości superinteligencji.

"Badanie również odrzuciło ten pomysł, sugerując, że ograniczyłoby to możliwości sztucznej inteligencji. Argumentem jest to, że jeśli nie zamierzamy go używać do rozwiązywania problemów przekraczających ludzkie możliwości, to po co go w ogóle tworzyć? Jeśli mamy się poruszać naprzód z AI „możemy nawet nie wiedzieć, kiedy pojawi się superinteligencja poza naszą kontrolą, taka jest jej niezrozumiałość. Oznacza to, że musimy zacząć zadawać poważne pytania o to, w jakim kierunku zmierzamy” – zauważyli naukowcy.

<< Powrót: Kurkumina zapobiega utracie wzroku 29.09.2022

>> Naprzód: Drożdże przeszczepione ludzkimi genami 28.09.2022

Najnowsze wiadomości o nauce i technologii, nowa elektronika:

Udowodniono istnienie reguły entropii dla splątania kwantowego 09.05.2024

Mechanika kwantowa wciąż zadziwia nas swoimi tajemniczymi zjawiskami i nieoczekiwanymi odkryciami. Niedawno Bartosz Regula z Centrum Obliczeń Kwantowych RIKEN i Ludovico Lamy z Uniwersytetu w Amsterdamie przedstawili nowe odkrycie dotyczące splątania kwantowego i jego związku z entropią. Splątanie kwantowe odgrywa ważną rolę we współczesnej nauce i technologii informacji kwantowej. Jednak złożoność jego struktury utrudnia zrozumienie go i zarządzanie nim. Odkrycie Regulusa i Lamy'ego pokazuje, że splątanie kwantowe podlega zasadzie entropii podobnej do tej obowiązującej w układach klasycznych. Odkrycie to otwiera nowe perspektywy w dziedzinie informatyki i technologii kwantowej, pogłębiając naszą wiedzę na temat splątania kwantowego i jego powiązania z termodynamiką. Wyniki badań wskazują na możliwość odwracalności transformacji splątania, co mogłoby znacznie uprościć ich zastosowanie w różnych technologiach kwantowych. Otwarcie nowej reguły ... >>

Mini klimatyzator Sony Reon Pocket 5 09.05.2024

Lato to czas relaksu i podróży, jednak często upały potrafią zamienić ten czas w udrękę nie do zniesienia. Poznaj nowość od Sony - miniklimatyzator Reon Pocket 5, który obiecuje zapewnić użytkownikom większy komfort lata. Sony wprowadziło do oferty wyjątkowe urządzenie – miniodżywkę Reon Pocket 5, która zapewnia schłodzenie ciała w upalne dni. Dzięki niemu użytkownicy mogą cieszyć się chłodem w dowolnym miejscu i czasie, po prostu nosząc go na szyi. Ten mini klimatyzator wyposażony jest w automatyczną regulację trybów pracy oraz czujniki temperatury i wilgotności. Dzięki innowacyjnym technologiom Reon Pocket 5 dostosowuje swoje działanie w zależności od aktywności użytkownika i warunków otoczenia. Użytkownicy mogą łatwo regulować temperaturę za pomocą dedykowanej aplikacji mobilnej połączonej przez Bluetooth. Dodatkowo dla wygody dostępne są specjalnie zaprojektowane koszulki i spodenki, do których można doczepić mini klimatyzator. Urządzenie może och ... >>

Energia z kosmosu dla Starship 08.05.2024

Wytwarzanie energii słonecznej w przestrzeni kosmicznej staje się coraz bardziej wykonalne wraz z pojawieniem się nowych technologii i rozwojem programów kosmicznych. Szef startupu Virtus Solis podzielił się swoją wizją wykorzystania statku kosmicznego SpaceX do stworzenia orbitalnych elektrowni zdolnych zasilić Ziemię. Startup Virtus Solis zaprezentował ambitny projekt stworzenia elektrowni orbitalnych przy użyciu statku Starship firmy SpaceX. Pomysł ten mógłby znacząco zmienić dziedzinę produkcji energii słonecznej, czyniąc ją bardziej dostępną i tańszą. Istotą planu startupu jest obniżenie kosztów wystrzeliwania satelitów w przestrzeń kosmiczną za pomocą Starship. Oczekuje się, że ten przełom technologiczny sprawi, że produkcja energii słonecznej w kosmosie stanie się bardziej konkurencyjna w stosunku do tradycyjnych źródeł energii. Virtual Solis planuje budowę dużych paneli fotowoltaicznych na orbicie, wykorzystując Starship do dostarczenia niezbędnego sprzętu. Jednak jedno z kluczowych wyzwań ... >>

Nowa metoda tworzenia potężnych akumulatorów 08.05.2024

Wraz z rozwojem technologii i coraz większym wykorzystaniem elektroniki, kwestia tworzenia wydajnych i bezpiecznych źródeł energii staje się coraz pilniejsza. Naukowcy z Uniwersytetu w Queensland zaprezentowali nowe podejście do tworzenia akumulatorów cynkowych o dużej mocy, które mogą zmienić krajobraz branży energetycznej. Jednym z głównych problemów tradycyjnych akumulatorów wodnych było ich niskie napięcie, co ograniczało ich zastosowanie w nowoczesnych urządzeniach. Ale dzięki nowej metodzie opracowanej przez naukowców udało się pokonać tę wadę. W ramach swoich badań naukowcy zajęli się specjalnym związkiem organicznym – katecholem. Okazało się, że jest to ważny element, który może poprawić stabilność akumulatora i zwiększyć jego wydajność. Takie podejście doprowadziło do znacznego wzrostu napięcia akumulatorów cynkowo-jonowych, czyniąc je bardziej konkurencyjnymi. Zdaniem naukowców takie akumulatory mają kilka zalet. Mają b ... >>

Zawartość alkoholu w ciepłym piwie 07.05.2024

Piwo, jako jeden z najpopularniejszych napojów alkoholowych, ma swój niepowtarzalny smak, który może zmieniać się w zależności od temperatury spożycia. Nowe badanie przeprowadzone przez międzynarodowy zespół naukowców wykazało, że temperatura piwa ma znaczący wpływ na postrzeganie smaku alkoholu. Badanie prowadzone przez naukowca zajmującego się materiałami Lei Jianga wykazało, że w różnych temperaturach cząsteczki etanolu i wody tworzą różnego rodzaju skupiska, co wpływa na postrzeganie smaku alkoholu. W niskich temperaturach tworzą się bardziej piramidalne skupiska, co zmniejsza ostrość smaku „etanolu” i sprawia, że napój ma mniej alkoholowy smak. Wręcz przeciwnie, wraz ze wzrostem temperatury grona stają się bardziej łańcuchowe, co skutkuje wyraźniejszym alkoholowym posmakiem. To wyjaśnia, dlaczego smak niektórych napojów alkoholowych, takich jak baijiu, może zmieniać się w zależności od temperatury. Uzyskane dane otwierają nowe perspektywy dla producentów napojów, ... >>

Przypadkowe wiadomości z Archiwum

Tanie układy scalone - Generatory sygnału 21.01.2005

DALLAS SEMICONDUCTOR-MAXIM zapowiedział wprowadzenie na rynek tanich układów generatorów sygnału, w których częstotliwość jest ustawiana przez producenta.

W układzie DS1088L częstotliwość jest ustawiona w zakresie od 312 Hz do 133 MHz z dokładnością + 0,3%, w układzie DS1099 - w zakresie od 0,25 Hz do 1,048 MHz z dokładnością + 1,0%. Mikroukłady są produkowane w miniaturowych obudowach o wymiarach 3x5 mm i kosztują 0,38-0,45 dolara.

Zobacz całość Archiwum wiadomości z nauki i techniki, nowa elektronika

Wszystkie języki tej strony

Strona główna | biblioteka | Artykuły | Mapa stony | Recenzje witryn