https://bodybydarwin.com
Slider Image

Els robots són malvats: el mite de la ciència-ficció de les màquines assassines

2022

El tercer d’una sèrie de publicacions sobre els principals mites de la robòtica i el paper de la ciència ficció en la creació i difusió d’aquests. Temes anteriors: Els robots són forts, el mite de la hipercompetència robòtica i els robots són intel·ligents, el mite de la IA inevitable.

Quan el científic viu més celebrat del món anunci que la humanitat podria estar condemnada, seria un ximple no escoltar-la.

"L'èxit en crear IA seria el major esdeveniment de la història de la humanitat, va escriure Stephen Hawking en una publicació el passat mes de maig per a The Independent." Malauradament, també podria ser l'últim, tret que aprenguem com evitar els riscos ".

El físic guanyador del Nobel tracta breument aquests riscos, com ara el desplegament d’atacs militars autònoms i l’arribada explosiva i incontrolable de la IA hiperintel·ligent, un esdeveniment habitualment conegut com la Singularitat. Aquí és el Hawking, ara a fons:

"Es pot imaginar una tecnologia com aquesta excloent els mercats financers, inventant investigadors humans, manipulant líders humans i desenvolupant armes que ni tan sols podem entendre. Mentre que l'impacte a curt termini de l'AI depèn de qui la controli, l'impacte a llarg termini depèn de si es pot controlar en absolut. "

Hawking no és simplement parlar de la Singularitat, una teoria (o bé semblant a la perfecció, realment) que preveu una nova era tan reconfigurada per AI, ni tan sols podem pretendre entendre els seus estranys contorns. Hawking està recuperant un mite de la creació de ciència ficció antiga. Probablement l’humà més intel·ligent del planeta té por als robots, perquè podrien convertir el mal.

Si és una ximpleria ignorar el malestar de Hawking, és raonable que només un moró de grau A es posaria en dubte. I m preparat per ser aquell moró. Excepte que sigui un argument que no val la pena tenir. No podeu desaprovar la versió del futur a algú altre, o fer forats en un fenomen tan desenfadat en la confecció professional de mites.

Puc assenyalar alguna cosa interessant, però. Hawking no va escriure aquesta opció amb motiu d’una nova revelació esgarrifosa en el camp de la robòtica. Es refereix als cotxes sense conduir de Google i els esforços per prohibir els robots letals, autònoms, que encara no s’han de construir, però no presenta cap evidència de que l’AI assassina veritable.

El que va impulsar el seu neguit advertiment va ser l’alliberament d’una pel·lícula de ciència-ficció de gran pressupost anomenada Transcendència . Estrena Johnny Depp com un investigador de l'AI que es converteix en una IA perillosament potent, perquè Hollywood rarament sap què fer amb les màquines senzilles. Rebutjada per públics i crítics per igual, l’única contribució de la pel·lícula a la discussió general d’AI va ser la crèdula manual que va precedir el seu llançament. La transcendència és per la qual Hawking va escriure sobre robots que aniquilen la raça humana.

Aquest és el poder de la ciència ficció. Pot arribar a enganyar fins i tot els genis avergonyir-se.

* * *

La matança s’acaba. La revolta del robot estava planificada amb cura, menys una rebel·lió que una emboscada mundial i sincronitzada. A la fàbrica que el va construir, Radius es dirigeix ​​a una barricada per fer-la oficial:

Robots del món! Han caigut molts humans. Hem agafat la fàbrica i som amos del món. L’era de l’home ha arribat al seu final. Ha sorgit una nova època! Dominació per robots!

Un humà és un dels últims del seu tipus, però sembla que ningú no es nota. El radi continua.

El món pertany als més forts. Qui desitgi viure ha de dominar. Som amos del món! Mestres a terra i mar! Mestres de les estrelles! Mestres de l’univers! Més espai, més espai per als robots!

Aquest discurs de l’obra de 1920 de Karel Capek, RUR és el pessebre del robot malvat. El que es diu avui en dia com un altre xoc snorting, a la galta sobre els aixecaments de robots, prové del treball que va introduir la paraula "robot, així com el concepte d'una revolta de robots. A vegades, RUR s'esmenta en discussions sobre robòtica com una espècie poc probable. nota històrica a la nota de tall No és fascinant que la primera història sobre servidors produïts en masses també tingui l’inevitable genocidi dels seus creadors?

Però RUR és més que una curiositat. Es tracta de l'Alfa i l'Omega de les narracions robotitzades del mal, que debaten totes les facetes del mite mateix que va crear en els seus divagaments frenètics i foscament còmics.

L’escena més contundent arriba just abans que els robots incomplissin les seves defenses, quan els humans van abandonar la fàbrica de Robots Universals de Rossum intentant determinar per què els seus productes van dur a terme una revolta tan inesperada. El doctor Gall, un dels principals científics de la companyia, es culpa a ell mateix de “canviar de caràcter” i fer-los més semblants a la gent. "Van deixar de ser màquines, ¿me'n sents?", Van prendre consciència de la seva força i ara ens odien. Odien a tota la humanitat ", diu Gall.

Hi ha, doncs, el supòsit que ha llançat tot un subgènere de ciència ficció i que alimenta infinitat d’intuïbles escenes “que si” de futuristes i, en menor mesura, d’investigadors de la IA: si les màquines es converteixen en sensibles, alguns o tots ells seran els nostres enemics. .

Però Capek té més a dir sobre el tema. Helena, una defensora de drets civils robòtics, explica per què va convèncer Gall per modificar les seves personalitats. "Tenia por dels robots", diu.

Helena: I així vaig pensar. . . si fossin com nosaltres, si ens poguessin entendre, aleshores no podrien odiar-nos tant. . . si només fossin com a persones. . . només una mica. . . .

Domin: Oh Helena! Ningú no podia odiar l’home tant com l’home! Dóna-li a un home una pedra i et llançarà a tu.

Té sentit, no? Els humans som, òbviament, capaços del mal. Així, un robot prou humà com també ha de ser capaç de malament. La resta és química existencial. Combina el defecte moral de l’odi amb el rendiment impecable d’una màquina i els resultats de la mort.

Karel Capek, segons sembla, sabia de debò les seves coses. El dramaturg és fins i tot prou intel·ligent per difondre el seu propi discurs melodramàtic d’odi inevitable i ànimes programades, quan el director comercial de la companyia, Busman, pronuncia la última paraula sobre la revolta.

Hem fet massa robots. Benvolgut, és el que hauríem d’esperar; Tan aviat com els robots es van tornar més forts que la gent, això devia passar, ja ho veieu? Haha, i vam fer tot el possible per fer-ho realitat el més aviat possible.

Busman anuncia la versió de la Singularity que no s’atreveix a admetre la seva fidelitat al mite dels robots malvats. És el supòsit que les màquines intel·ligents podrien destruir la humanitat a través d'un impuls i d'un nombre cecs. Capek aconsegueix incloure fins i tot robots que no són dolents en la seva història de rebel·lió robòtica.

Com a exemple de ciència ficció pionera, RUR és un tresor absolut i mereix ser llegit i posat en escena per al futur previsible. Però quan es tracta de la percepció pública de la robòtica i de la nostra capacitat de parlar d’intel·ligència de màquines sense semblar que els nens sorprenen les nostres pròpies ombres, RUR és una intel·ligència intel·ligent. No és una ficció especulativa que es pregunti sobre el futur de la robòtica, un camp que no existia el 1920 i que no passaria durant dècades. L’obra és una al·legoria sociològica política que respira el foc, amb robots per la classe treballadora del món a la baixa. La seva situació és innaturalment humana, tot i que augmentada o augmentada. I els seus creadors corporatius, amb el seu lleig destitució de la personalitat robot, són caricatures de l’avarícia capitalista.

Pitjor encara, recordeu Busman, el director comercial que veu la caiguda de l’home com poc més que una sobreoferta d’un gran producte? Aquí es descriu a Dramatis Personae: "jueu gras, calb i de mirada curta". Cap altre personatge obté un descriptor ètnic o cultural. Només Busman, el diner dins del quadre de joc d’industrials desencerts. Això és el que es tracta de RUR .

La història de ciència-ficció que ens va donar el mite dels robots malvats no els importa gens. El seu aspecte més perdurable és un fracàs de l’anàlisi crítica, basat en lectures massa literals o voluntàriament ignorants d’una obra de teatre sobre la guerra de classes. I tanmateix, aquí estem, gairebé un segle després, seguint xifrant sobre els aixecaments de màquines i la mort a causa de la IA, com si fossin joguines sense parar constantment a la mateixa paret.

* * *

Per ser justos amb la por crònica, alguns robots malvats no formen part d’una al·legoria de vell prim. De vegades, un Skynet només és un Skynet.

Vaig escriure sobre els orígens d’aquella icònica IA assassina en una entrada anterior, però no s’escapa l’abast i la influència de The Terminator . Si RUR va posar les bases d'aquest mite, la pel·lícula de James Cameron de 1984 va construir un monument imponent en honor seu. La pel·lícula va generar tres seqüeles i comptar, així com un programa de televisió. I, malgrat nombroses revoltes de robots a la gran i petita pantalla durant els trenta anys posteriors a la pel·lícula original a les sales de cinema, Hollywood no ha acabat per col·locar els plànols punxants de la seqüència d'obertura (vegeu més amunt).

A continuació s’explica com Kyle Reese, un veterà de la desesperada guerra de màquines de la pel·lícula, explica la transició de la xarxa de defensa de la sensibilitat a l’assassinat massiu: “Diuen que es va fer intel·ligent, un nou ordre d’intel·ligència. Aleshores, va veure a totes les persones com una amenaça, no només a les de l'altre costat. Decidim el destí en una microsegona: extermini ”.

La paràbola de Skynet té un aire de viabilitat, perquè el seu dolent és tan desmesurat. El sistema té por. El sistema no deixa de desaparèixer. No hi ha malícia en el seu cor secret i instantani. Només hi ha por, un component fonamental de l’autoconeixement, i la mateixa, convenient empatia empàtica, que permet als humans dequeure les espècies no humanes que amenacen la nostra supervivència. Skynet ens fa xafar com tantes rates i mosquits portadors de plaga.

No siguem coy, però: Skynet no és una IA realista ni basada en principis realistes. I per què hauria de ser? És el monstre que s’amaga sota el vostre llit, amb tantes fileres de dents i uns ulls vermells atrevits que necessiti per robar-vos adequadament el son. Aquest estil i grau de robot malvat és completament imaginari. Mai s’ha desenvolupat res que s’assembli a la xarxa de defensa de la capacitat cognitiva o del conjunt d’habilitats il·limitades. Fins i tot si es pot crear un sistema tan versàtil, per què convertiríeu un programa destinat a disparar ràpidament un munt de nuks a quelcom que s’acosta a la ment humana?

"La gent creu que la IA és molt més àmplia del que diu Daniel H. Wilson, un robotista i autor de la novel·la més venuda del New York Times, Robopocalypse ." Típicament, una IA té un conjunt molt reduït d'entrades i sortides. Potser només escolta informació de l’IMU [unitat de mesura inercial] d’un cotxe, de manera que sap quan s’ha d’aplicar els frens en cas d’emergència. Això és una IA. La idea d’una IA que solucioni el problema del llenguatge natural caminant, parlant: "No puc fer-ho, Dave", és molt fantasiós el sistema . Aquest tipus de IA són excessius per a qualsevol problema. "Només en la ciència ficció un projecte de Pentàgon immensament complex i ambiciós supera el rendiment, més enllà de les expectatives més salvatges dels seus dissenyadors.

En el cas de Skynet, i fantasies similars de la IA assassina, sovint la intenció o habilitat del maligne dissenyador del robot és sovint considerada irrellevant Magraïdors d’intel·ligència de màquina si es tracta d’absorbir de sobte totes les dades disponibles o fusionar múltiples sistemes. en una consciència unificada. Això sona lògic, fins que no us adoneu que les AIs no juguen de forma inherent.

Quan parlem de com és de intel·ligent una màquina, és realment fàcil per als humans antropomorfitzar i pensar-ho de manera equivocada, afirma Wilson. Els AI no formen una classe natural. No s'han de construir sobre la mateixa arquitectura. No funcionen els mateixos algoritmes. No experimenten el món de la mateixa manera. I no estan dissenyats per resoldre els mateixos problemes

Wilson a la seva nova novel·la, Robogènesi (que surt el 10 de juny), Wilson explora la noció de màquines avançades que siguin qualsevol cosa que siguin monolítiques o de tipus urticari. "A Robogènesi, el món és la llar de diverses IA diferents que han estat dissenyades per a tasques diferents i per a persones diferents, amb diversos graus d'interès en els humans diu Wilson. I representen diversos graus de perill per a la humanitat." Val a dir que Wilson està feliçment capitalitzant el mite del mal robot La Robopocalipsi que va optar per Stephen Spielberg, presenta un vilà AI superintel·ligent relativament clàssic anomenat Archos, però, com passa amb The Terminator, és ficció. un conjunt de motius més complicat i defensable, però cap robot malvat nou pot tocar el llegat de Skynet.

I Skynet no és un mite aïllat de la violència automatitzada, sinó una col·lecció de múltiples mites de ciència-ficció entre robots. És hipercompetent, executant una missió de destrucció desmesuradament complexa, incloent la recopilació i la gestió de recursos que es dediquen a la infanteria automatitzada, els saboteadors i la producció aèria. I Skynet és conscient de si mateix, perquè SF ha profetitzat que les màquines estan destinades a ser sensibles. És fantasia basada en la fantasia passada, i és molt entretinguda.

No suggereixo que Hollywood s'hagi de revisar per igual. Però els robots assassins de ficció viuen en una mena de limbo retòric, que atorga la nostra capacitat d’entendre els riscos associats a robots no ficcionals i potencialment letals. Imagineu-vos un article sobre les amenaces a la seguretat nacional britànica esmentant que, si les coses es posen malament, potser el rei Artur es despertarà dels seus somnis místics durant molt de temps per protegir aquella terra verda i agradable. Per què això seria menys ridícul que les infinites i constants referències a Skynet, una IA no real que és més sobrenatural que el supercomputador? Les vagues de drone i les fluctuacions automàtiques del mercat de valors tenen tant a veure amb Skynet com amb Sauron, el rei nigromant del Senyor dels Anells .

Així, quan feu caure el nom del dispositiu central del Terminator com a punt preembalat sobre els entrebancs de l’automatització, adoneu-vos del que esteu fent realment. Estàs parlant d’un dimoni malèfic convocat a una falsa realitat. O, el cas de l’opista de Stephen Hawking, adona’t del que estàs llegint en realitat. Sembla un avís estranyament abreujat sobre una amenaça a nivell d'extinció. En realitat, es tracta de com la ciència ficció té idees excel·lents, i probablement hauríeu de fer una ullada a aquesta pel·lícula protagonitzada per Johnny Depp, perquè potser així és com els robots ens destruiran tots i cadascun de nosaltres.

La nostra millor defensa contra el temps espacial fa setmanes que està fora de línia

La nostra millor defensa contra el temps espacial fa setmanes que està fora de línia

Les calces de compressió potser no ajuden als músculs cansats

Les calces de compressió potser no ajuden als músculs cansats

La NASA gairebé mai va arribar a ser-ho.  La seva creació és una lliçó de poder polític.

La NASA gairebé mai va arribar a ser-ho. La seva creació és una lliçó de poder polític.