https://bodybydarwin.com
Slider Image

Els robots són forts: el mite de la ciència-ficció de la competència robòtica

2022

El primer d’una sèrie de publicacions sobre els principals mites de la robòtica i el paper de la ciència ficció en la creació i difusió d’aquests. Altres temes: Els robots són intel·ligents, el mite de la IA inevitable i els robots són el mal, el mite de les màquines assassines.

La setmana passada vaig crear una petita pertorbació a Internet amb una pregunta no tan senzilla: ¿un cotxe robòtic sacrificaria la vida del seu propietari per tal de salvar dos desconeguts?

Mai no va ser una qüestió retòrica. Després de parlar amb Patrick Lin, el robo ètic de la Universitat Politècnica de Califòrnia que inicialment va presentar el tema dels vehicles ètics en una opció per a Wired, a més de discutir les ramificacions legals amb un professor de dret i vicedegà a la Brooklyn Law School. convençut: Per al bé de la nostra espècie, la resposta és un positiu, però de tot cor. Si un vehicle autònom ha de triar entre xocar amb els pocs, per salvar-ne molts, aquestes decisions ètiques han de ser elaborades amb antelació i incloure-les en els seus algoritmes. Per a mi, totes les altres opcions apunten a un caos de litigios, o a un Battle Royale monstruós i assistit per màquina, com els robots de tothom, automobilístics o d’una altra manera, prioritzen la seguretat dels seus propietaris per damunt de tot i fan una selecció natural a la carretera oberta.

La reacció a aquesta història va ser variada, com hauria de ser per a un experiment de pensament tan complex. Però van sorgir algunes tendències.

Primer, hi havia els robo-fòbics de la secció de comentaris habituals, que potser han llegit o no més enllà del meu títol, o més que els resums que presenten les peces de resposta a Gizmodo i Slate . El comentari que més m’agradava (fins ara) a Facebook: "Suficient per justificar mai fer robots ni autos conduint cotxes. Les decisions ètiques i morals haurien de ser preses pels humans, no per les seves creacions." De la mateixa manera, la gent parlava de Skynet, perquè les referències de Terminator són tan incompetibles com els assassins de robot de ficció de la pel·lícula, tot i ser igual d’humor i basades en res del que ha passat mai a la vida real.

Però les respostes més interessants van ser els acomiadaments, que es van presentar en dues varietats: aconsellar que tots els cotxes robot només haguessin de seguir la llegendària Primera llei de la robòtica de l’autor SF Isaac Asimov (que un robot pot no perjudicar un ésser humà, per acció o inacció), o preveure que els cotxes robot seran tan infal·libles, que les col·lisions letals quedaran obsoletes. "No crec que es tractés d'un problema que va escriure l'usuari de Reddit iamnotmagritte." Els cotxes es podrien comunicar entre ells, evitant la situació del tot i, en el cas que això no sigui suficient, per fer-nos saber quins són els camins que cal fer. Eviteu xocar. "Durant una discussió de Twitter amb Tyler Lopez, que va escriure la peça Slate relacionada, i va exposar alguns punts excel·lents sobre la incapacitat tècnica i jurídica dels cotxes autònoms actuals per resoldre qualsevol tipus de problema amb el" carretó que jo mataré? " López compartia aquest sentiment. Amb els vehicles i la infraestructura viària en xarxa, va proposar que els problemes relacionats amb l'algorisme moral es resolguessin per algorismes de xarxa ".

És a dir, als robots, simplement se'ls ha de dir que no matin ningú, ni molt menys a dues persones, i que realitzaran aquesta missió amb precisió de la màquina.

Això és angoixant. A mi, és una prova d’alguna cosa que vaig sospitar des de feia anys, però no he pogut articular, o almenys esmentar-la sense semblar encara més un esnob insufrible. Però aquí va: Els humans, en general, no entenen el funcionament dels robots.

Això no ha de ser una sorpresa enorme. La robòtica és un camp d’estudi immensament complex i només una petita part de la raça humana s’està formant o emprant com a robòtics. Però podríeu dir el mateix de la física i, tot i així, la persona mitjana no se sent qualificada per experimentar la mecànica de les lents gravitacionals o la fantàstica viabilitat d’universos alternatius que es ramifica amb cada decisió que prenem.

Què passa amb els robots que fan que la gent assumeixi que els entén?

Aquesta tampoc és una pregunta retòrica. La resposta és Isaac Asimov. O, més generalment, la ciència ficció. Els escriptors de la SF van inventar el robot molt abans que fos possible construir-ne un. Tot i que les màquines automatitzades s’han convertit en integrants a l’existència moderna, el robot SF segueix arribant. I, en general, continua mentint. Pensem que sabem com funcionen els robots, ja que hem escoltat històries de focs sobre campaments que no existeixen.

Abordaré altres mites importants de la robòtica en les publicacions futures, però comencem amb el que més germànic fa als cotxes robotitzats i la necessitat de desenvolupar marcs ètics per a qualsevol màquina autònoma que funcioni entre nosaltres.

Parlem del mite de la competència robòtica.

* * *

Creu-me, diu el bisbe, abans que el ganivet es comenci a moure. En una de les escenes més famoses d’una pel·lícula plena d’escenes famoses, l’androide (interpretat per Lance Henriksen) posa la taula entre els dits embolcallats i els de l’Espai Marí amb la mà cap avall. Atura altres llacunes i el ritme es va creixent fins que la fulla es difumina, colpejant la taula en un frenètic staccato. Quan s’acaba, veiem que Bishop s’ha enganxat lleugerament. Però la pobra marina no té problemes. Un rendiment valent que és només un benefici secundari de ser una persona artificial.

Així és com Aliens presenta el seu robot resident i el seu grau de competència inhumà. Juntament amb la seva habilitat fantàstica de ganivet i la coordinació dels ulls mà, Bishop és implacablement valent, inhumanament immune a la claustrofòbia, capaç de pilotar de forma experta les naus espacials (no exactament entrenament normalitzat per a un oficial mèdic), i gairebé no es deixa veure amb el cos trencat per la meitat. . Realment, no hi havia cap motiu per enviar als humans a la caça de bestiar condenada. Una tripulació de sintètics armats —s’havia autoritzat a fer mal, com a Bishop no ho hauria pogut—, hauria pogut arruïnar la LV-426 amb una gota de sang blanca.

Per què, exactament, és bisbe un exemplar tan notable? No és pas que els extraterrestres visibilitzessin el nostre futur i divulguessin els secrets de l’eficàcia robòtica que els robòtics moderns encara no han descobert. És perquè, com la majoria de SF, la pel·lícula és una obra de ficció d’aventura. I quan l’objectiu principal d’una història és emocionar, els seus robots han de ser engrescadors.

Els extraterrestres simplement continuen amb una tradició que es remunta al primer androide no oficial de la literatura, el monstre de Frankenstein, un ésser reunit els regals físics i mentals sobrehumans no es basen en la qualitat de les matèries primeres; no va ser unit entre els atletes olímpics i Premiats Nobel. La perfecció del monstre és tan inexplicable com la de Bishop, o la d’innombrables altres autòmats de ficció, des de les dades d’ Star Trek fins a la gairebé dòrica humana . Podríeu endevinar, per descomptat, els motius. Quan els humans són un salt aleatori de trets genètics, alguns són valuosos, d’altres desajustables, els robots s’optimitzen acuradament. Les màquines no es cansen ni perden el nervi. Tot i que la seva programació es pot veure compromesa o pot sorgir sobtadament instints de supervivència inconvenients, la seva capacitat per realitzar tasques està assegurada. Els robots són tan infal·libles com els rellotges suïssos del qual baixaven.

El mite de la competència robòtica es basa en un abús. I és que els robots de la vida real s'han demostrat malament en la seva majoria.

Els robots reals són dispositius de valor i capacitat extremadament estrets. Fan una o dues coses amb competència, i la resta terriblement, o en absolut. Els bots automàtics de muntatge poden pintar o soldar puntualment un vehicle en la fracció del temps que pugui necessitar una tripulació humana i sense cap tipus de preocupació per a la salut. Aquest és el seu truc de ganivet. Però demaneu que instal·leu tapisseria i, amb tota probabilitat, ferien un tros de trossos.

Actualment, els automòbils robotitzats disposen d'experiència similar als de la mateixa manera. Com que l'Atlàntic va cobrir recentment, els vehicles sense conductor de Google requereixen mapes detallats de LIDAR (models 3D creats a partir de làsers que barren els contorns d'un camí determinat) per funcionar. Els cotxes autònoms han de fer coses impressionants, com detectar la proximitat dels cotxes circumdants i determinar el dret de pas a les interseccions. Però estan bloquejats algorítmicament a les carreteres làser. Es mantenen el curs proscrit, seguint un rastre de pa obtingut per sensors. En comparació amb el que els humans han de lluitar, aquests robots són el tipus més protegit d'estudiants permanents. Ningú no els interroga enviant vianants o conductors beguts que es desvien a la seva trajectòria o els desvien per carrils de camp no coberts de neu i no mapats. La seva capacitat per evitar col·lisions fatals continua sent contrastada.

Per descomptat, milloraran. Els sensors milloraran i es multiplicaran, els algorismes de control es tornaran més robustos i potser els robots començaran a parlar entre ells, advertint-se els uns dels altres de perill imminent. Però el salt d’un món reduït a l’accident a un de completament sense accidents és una suposició, i no està ben suportat per les dures realitats de la robòtica en particular i els dispositius mecànics en general. Les màquines es trenquen. El programari ensopega. L’entorn de l’automòbil és un dels més punyents i desafiants de tota l’enginyeria, exigint que els components s’afavoreixin fins als fluctuacions salvatges de la temperatura, les condicions de la carretera traïdores i el fracàs inesperat d’altres components dins d’un sistema complicat d’entrellaç. Només hi ha una manera d’assumir que els robots sempre sabran que un pneumàtic està a punt de bufar o serà capaç de transmetre l’emergència a tots els cotxes propers, cadascun dels quals respondrà amb l’actuació miraculosa instantània d’un conductor d’acrobàcia de Hollywood. Per això, no podeu ser un robotista, ni algú amb l'ordinador que ha caigut de manera inexplicable o que el WiFi hagi desaparegut, o el vídeo en streaming que ha atordit momentàniament. Per adquirir el mite de la competència robòtica, o de la hiper-competència, realment, heu de creure que els robots són perfectes, ja que així ho diu SF.

* * *

Quan algú cita les lleis de la robòtica d’Isaac Asimov, és un crit involuntari d’ajuda. Vol dir que ell o ella veuen els robots com un conte de fades modern, els successors construïts per Google del vell golem glitchy del mite jueu.

Però les lleis d’Asimov no van ser dissenyades per resoldre els dilemes futurs dels robots relacionats amb el poder de la vida i la mort. Són dispositius narratius, les directrius ordenades i simplificades de les quals permeten espitlleres, contradiccions i llacunes lògiques que poden provocar històries convincents. Si cites alguna d'aquestes lleis, estàs buscant una trampa doble, utilitzant el mateix raonament estret que els fabricants i desplegadors dels robots d'Asimov (que se suposa que ho faran malament). I encara pitjor, confia en fantasies per guiar el teu pensament sobre la realitat. Fins i tot si es pogués ordenar simplement que tots els robots no ferissin mai a una persona, tret que de cop i volta siguin capaços de conquerir les lleis de la física o desterrin la Pantalla Blava de la Mort en totes les seves peripècies, les grans màquines automatitzades es podran rodar o ensopegar. topar amb la gent. Això pot ser rar, però serà inevitable per a un nombre d’ànimes pobres. A més, l'exèrcit, encara el major proveïdor de finançament en R + D per a la robòtica, podria tenir alguna cosa a dir sobre la primera llei que s'aplica a totes aquestes màquines.

Cosa que no vol dir que SF signifiqui que ens enganyem sobre la robòtica o que ens haguem de fer cas. He parlat amb molts robòtics i investigadors d’intel·ligència artificial que es van inspirar en bogeymen hiper-competents, des del 2001 HAL 9000 fins al T-800 del Terminator . El somni de poder robòtic és intoxicant. El fet que els sistemes que creen aquests científics solen ser ombres pàl·lides de la competència humana és un simple fet de la robòtica. Al cap i a la fi, el punt de l’automatització, en gairebé tots els casos, no és crear una capacitat sobrehumana. És per treure la gent de l’equació, per estalviar diners o salvar la vida o estalviar-los el temps i la molèstia de fer una cosa avorrida. Un drone Predator no és un avió millor que un combatent F-16 tripulat, perquè és robotitzat. De fet, no és un avió millor. Els drons són, sense excepció, els vehicles militars menys impressionants del cel. Però són petits i més barats de comprar i desplegar que una màquina de matar a terra. Són una tecnologia "prou bona", si la vostra missió és assassinar un objectiu terrestre, a una regió on la tecnologia de defensa aèria pot funcionar a cobertura. Però enfronta-les contra les embarcacions tradicionals d'atac o sistemes dissenyats per fer caure avions i els drones armats sobresortiran només per convertir-se en ruïnes de fumar.

En aplicacions molt específiques, molt limitades, els robots són forts. En la majoria dels casos, però, són febles. Són substituts rendibles. O bé són dispositius increïblement humils, com els humanoides incòmodes i molestos del DARPA Robotics Challenge, que se celebren per lluitar progressivament per tasques (conduir un vehicle, caminar per runes i fer servir una eina elèctrica) que qualsevol persona amb cos potents. exponencialment menys temps. Els periodistes solen ser còmplices en aquest edifici de mites. Influeixen capacitats automatitzades, romanticitzant la presa de decisions que entra en com s’acosta un robot a una tasca o convertint totes les discussions sobre exoesquelet i pròtesis avançades per a discapacitats en una profetisia d’ulls brillants de les habilitats semblants a Iron Man. Quan els periodistes han de desmantellar conceptes falsos i falsos sobre tecnologia robòtica, en lloc d'això fan referència a aquestes històries de derivació i reforcen el sentit que SF tenia tota la raó. Ja sigui en la configuració de creure o en la configuració d’escena distorsionada de la cobertura mediàtica, els robots són forts, ja que qualsevol cosa menys seria un problema.

La qual cosa em converteix en el noi amb molta empenta a la festa del robot de tots. Crec que hi ha una altra opció. Els robots poden ser impressionants sense ser exagerats. Una extremitat robòtica pot ser un èxit notable perquè restableix la independència d’un amputat, i no perquè gairebé Human s’imagina que una cama biònica és fantàstica per donar cops de peu a tota la sala. És possible estimar els experiments pensats de SF i les prediccions vagues, tot i reconèixer que no és del millor interès de SF ser rígidament exactes. Els robots no acostumen a desconcertar-se de la literatura atrevida sobre els professors universitaris i els seus afers desesperats. Les màquines de ficció són els àngels millors i millorats de la nostra naturalesa, protegint als seus fabricants amb intel·lectuals impossibles i habilitat física. Sovint s’alcen contra els seus amos en cops d’un sol costat impecables, gairebé tan factibles (i impossibles de desterrar de la cultura pop) com els brots de zombis. Els robots són perfectes perquè és la versió dels robots més divertida.

Aquesta és una manera estúpida de pensar o parlar sobre robots reals, destinats a descompondre's i quedar-se aturats. L’automatització transforma la nostra societat de maneres inquietants i emocionants. L’assassinat (en alguns llocs) és més fàcil amb els robots. Es podrien reduir les col·lisions un dia amb robots. L’autonomia de la màquina aniquilarà les professions senceres i en crearà o millorarà d’altres. Els robots només han començat a reconfigurar la vida humana. Així que calla, per un moment, sobre els herois i dolents artificials, i les fantasies fàcils i mal informades que omplen els buits de la comprensió tècnica. Hi ha massa robots reals i falibles. I només hi ha tant de temps en les nostres curtes, brutals carns de carn per discutir què hi farem.

Què sabem sobre el nou responsable de l’Oficina de Política de Ciència i Tecnologia

Què sabem sobre el nou responsable de l’Oficina de Política de Ciència i Tecnologia

Com s’utilitza el peix daurat per obtenir un hivern dur

Com s’utilitza el peix daurat per obtenir un hivern dur

El cosí pelut de la rata nua no també sent cap dolor

El cosí pelut de la rata nua no també sent cap dolor