Thomas Dalton
0 
2067
167
To Elon Musk w swoim Elon Musk-iest: według doniesień prasowych przedsiębiorca zajmujący się samochodami kosmicznymi i elektrycznymi poznał swoją obecną dziewczynę, żartując na temat zdradzieckiej sztucznej inteligencji.
Musk i muzyk Grimes, którego prawdziwe nazwisko brzmi Claire Boucher, pojechali na Met Gala jako para w poniedziałek (7 maja). Według plotkarskiej publikacji Strona szósta, obaj poznali się na Twitterze, kiedy Musk pomyślał o stworzeniu kalambury o „Rococo's Basilisk”, będącym połączeniem eksperymentu myślowego „Roko's Basilisk” i misternie zdobionego stylu panującego w XVIII-wiecznej Francji..
Musk wkrótce dowiedział się, że Grimes zrobił ten sam kalambur w teledysku w 2015 roku, a reszta to romantyczna historia. Z drugiej strony Bazyliszek Roko to przerażająca wizja przyszłości i centrum wieloletniego wiru internetowego subkultury.
Początek
Wszystko zaczęło się w 2010 roku, kiedy osoba przechodząca przez Roko zamieściła eksperyment myślowy na stronie LessWrong, forum, na którym ludzie dyskutują o wszystkim, od filozofii po sztuczną inteligencję (AI) po kognitywistykę. Post został usunięty, ale RationalWiki zachował kopię. Pomysł Roko był taki, że jeśli w przyszłości ma powstać superinteligentna sztuczna inteligencja zaprojektowana w celu maksymalizacji dobra wspólnego, może ukarać każdego, kto nie przyczynił się do jej istnienia. [Super-inteligentne maszyny: 7 robotów futures]
„Oczywiście byłoby to niesprawiedliwe, ale jest to rodzaj niesprawiedliwości, która jest tak bardzo utylitarna” - stwierdził Roko..
Ta hipoteza miałaby miejsce po osobliwości, w momencie, w którym sztuczna inteligencja staje się nieodróżnialna od samego życia - w rzeczywistości lepsza niż samo życie, ponieważ może robić takie rzeczy, jak ładowanie się w nieskończoność, osiągając rodzaj krzemowej nieśmiertelności. Jeśli ta boska moc odkryje, że nie pomogłeś jej stworzyć, cóż, sheesh. Może po prostu zdecydować, że twoją sprawiedliwą nagrodą jest wieczna męka. [Krótka historia sztucznej inteligencji]
Nazwa „bazyliszek” pochodzi od średniowiecznej legendy o wężu, który potrafił zabić jednym spojrzeniem.
Oto jednak pułapka: jeśli nie wiedziałeś o możliwości wystąpienia bazyliszka Roko, jesteś jasny - sztuczna inteligencja prawdopodobnie przyjdzie tylko po tych, którzy przewidzieli jej istnienie, ale nie zdecydowali się, powiedzmy, przekazać wszystkich swoich jednorazowych dochód, który pomoże to osiągnąć. Samo przeczytanie o możliwości wystąpienia bazyliszka Roko, skazałeś się na zagładę. (Przepraszam.)
To zastrzeżenie, w skrócie, jest miejscem, w którym zaczął się wir online. Założyciel LessWrong, Eliezer Yudkowsky, ocenił ten wpis jako „GŁUPI” i „naprawdę niebezpieczny”. Po prostu myśląc bardzo szczegółowo o tym, jak sztuczna inteligencja może cię szantażować, Roko wystawił siebie na szantaż, a także wystawił wszystkich innych, którzy mogliby przeczytać post.
„Zakazuję tego posta, aby (a) nie wywoływał u ludzi strasznych koszmarów i (b) dawał odległym superinteligencjom motywu do szantażowania ludzi na tyle głupich, by myśleć o nich wystarczająco szczegółowo” - napisał Yudkowsky.
Od Roko do romansu
Zakaz dyskusji Bazyliszka Roko na LessWrong obowiązywał do 2015 roku. Yudkowsky napisał później na Reddicie, że żałuje swojej reakcji, przez co wydawało się, że myślał, iż Roko miał rację; w rzeczywistości wierzy, że żadna sztuczna inteligencja zaprojektowana z myślą o najlepszym interesie ludzkości nie doprowadzi do torturowania ludzi. Zamiast tego, napisał, usunął post, ponieważ pomysł nie przyniósł nikomu potencjalnej korzyści.
Piżmo może szczególnie lubić żarty Roko z Bazyliszka, ponieważ wspomniał o nim w oryginalnym poście. Roko pisze, że ktoś taki jak Musk, który „na własną rękę zmienia oblicza wpływowych gałęzi przemysłu”, byłby w łaskach teoretycznej nadludzkiej sztucznej inteligencji. Musk również głośno mówił o potencjalnych zagrożeniach związanych ze sztuczną inteligencją, wzywając do regulacji i ostrzegając w zeszłym miesiącu, że AI może stać się „nieśmiertelnym dyktatorem”.
„Jeśli sztuczna inteligencja ma cel, a ludzkość po prostu przeszkadza, zniszczy ludzkość, nawet o tym nie myśląc. Bez urazy” - powiedział Musk w filmie dokumentalnym „Czy ufasz temu komputerowi?”, "który został wydany w kwietniu. „To tak, jakbyśmy budowali drogę, a mrowisko przeszkadza. Nie nienawidzimy mrówek, po prostu budujemy drogę. A więc do widzenia, mrowisko”.
Grimes jest z kolei kanadyjskim muzykiem i artystą wizualnym, który wymyślił kalambur „Rococo Basilisk” do jej teledysku „Flesh Without Blood”. Film przedstawia postać, która nosi peruki w stylu rokoko i obszerne sukienki, po czym zostaje dźgnięta w brzuch i pokryta krwią na korcie tenisowym.
„Jest skazana na wieczne tortury przez sztuczną inteligencję, ale jest też trochę jak Marie Antoinette” - powiedział Grimes w wywiadzie dla FuseTV.
Oryginalny artykuł na .