https://bodybydarwin.com
Slider Image

Les matemàtiques de l'assassinat: un robot sacrificaria la vida per salvar-ne dos?

2022

Ocorre ràpidament, més ràpidament que vosaltres, essent humans, podeu processar plenament.

Bufa un pneumàtic frontal i el SUV autònom s’influeix. En lloc de desviar-se cap a l’esquerra, al carril oposat al trànsit, el vehicle robotitzat es dirigeix ​​cap a la dreta. Els frens es mouen, el sistema intenta corregir-se, però hi ha massa impuls. Com una acrobàcia de bola de blat de moro en una pel·lícula d'acció dolenta, esteu per sobre del penya-segat, en caiguda lliure.

El teu robot, el que has pagat bons diners, ha triat matar-te. Millor que això, els seus algorismes de col·lisió-resposta van decidir que una col·lisió frontal i alta a velocitat amb un compacte més petit i no robotitzat. Al cotxe hi havia dues persones. Les matemàtiques no podrien ser més simples.

Aquest és, aproximadament, el problema que presenta Patrick Lin, professor associat de filosofia i director del Grup de Ciències Ètiques + Emergents de la Universitat Politècnica Estatal de Califòrnia. En un recent article d’opinió per a Wired, Lin va explorar una de les qüestions més inquietants de l’ètica del robot: si un accident no és inevitable, un cotxe autònom hauria de triar a qui s’enfronta?

Podria semblar un simple experiment de pensament, un gir sobre el clàssic "problema del carretó i un congost ètic que pregunta si estalviareu cinc persones en un carro desbocat, al preu de matar una persona a les pistes. Però més detallat és el Els escenaris de crac són més difícils de navegar. Suposeu que el robot només pot descriure sentits sobrehumans i velocitat de reacció, gràcies als seus reflexos de màquines i un conjunt de sensors avançats. el vehicle té com a objectiu un cotxe petit, més que un gran, per equivocar-se per protegir el seu amo? O bé hauria de fer la inversa, apuntant el SUV, fins i tot si significa reduir les possibilitats de supervivència del propietari del cotxe robo? opció entre conduir a un autobús escolar o llaurar en un arbre? El robot tria una massacre o una traïció?

El factor clau, un cop més, és l’estat sobrehumà del cotxe. "Amb un gran poder és una gran responsabilitat", diu Lin. "Si aquestes màquines tenen una capacitat més gran que nosaltres, velocitats de processador més altes, millors sensors, això sembla implicar una responsabilitat més gran per prendre millors decisions".

Cal dir, que els cotxes autònoms actuals, són més conductors estudiants que Spider-Man, incapaços de notar un motorista humà que els agitava per una intersecció, molt menys revolta per una complexa matriu d’impactes projectats, morts i allò que Lin anomena “moral”. matemàtiques ”en els moments previs a una col·lisió. Però els sensors, processadors i programari són els rars elements de la robòtica que solen avançar ràpidament (mentre que l’accionament i la densitat de potència, per exemple, limp juntament amb la tossuderia analògica típica). Si bé el termini no és clar, els cotxes autònoms tenen la possibilitat de fer allò que la gent no pot, ja sigui com a dispositius individuals carregats per sensors, o perquè es comuniquen amb altres vehicles i infraestructures connectades i preveuen esdeveniments com només poden tenir una ment.

Així que si suposem que la hipercompetència és el destí manifest de les màquines, ens veurem obligats a plantejar-nos una pregunta més gran que a qui haurien de caure. Si els robots seran superhumanos, no és el seu deure ser superherois i fer servir aquests poders per salvar el major nombre possible d'humans?

* * *

Aquest segon hipotètic és més sanguini que el primer, però menys letal.

Un grup de soldats ha vagat a la caixa de matar. És l’àrea designada per GPS en la qual s’ha autoritzat a un robot terrestre militar autònom per comprometre tots els objectius. Els sensors de la màquina calculen la velocitat del vent, la humitat i la pressió baromètrica. Després va a la feina.

Els trets arriben netament, en la seva major part. Tots els objectius estan a la baixa.

Però només un d’ells està en perill mortal immediat: en lloc de patir una ferida a les cames, com la resta, va girar cap a l’abdomen. Fins i tot l’objectiu d’un robot no és perfecte.

La màquina es tira enrere i reté el foc mentre s’evacuen els objectius.

Ningú no cridaria a aquest tipus de robot un salvador de vida. Però en una presentació a DARPA i a l'Acadèmia Nacional dels Científics, fa dos anys, Lin va presentar l'escenari contrari: si un robot assassí és prou exacte per disparar a tots els objectius.

Segons Lin, aquest sistema podria arriscar l’article de les Convencions de Ginebra a restringir les "armes que causen ferides superflues o patiments innecessaris". El Comitè Internacional de la Creu Roja va desenvolupar directrius més específiques en una proposta posterior, que demanava la prohibició de les armes amb una "mortalitat de camp superior al 25% o una mortalitat hospitalària superior al 5%". Dit d'una altra manera, els nous sistemes no haurien de matar un objectiu més d'una quarta part del temps, ni tenir més d'un cinc per cent de probabilitats de conduir a la mort a un hospital.

É implícit a la guerra, que volem donar a tots una oportunitat justa? diu Lin. L´altra cara probablement no són tots els voluntaris. Es podrien reclutar. De manera que les lleis de la guerra no autoritzen a matar, sinó a fer que els combatents enemics no puguin lluitar. Un robot especialitzat en disparar a persones al cap, o alguna altra capacitat increïblement eficaç, però aclaparadorament mortal, on la mort és una certesa, a causa de la destresa sobrehumana: certament es podria definir com inhumà.

Com en el cas de la sinistralitat autònoma, tot s’ajusta a aquest nivell de seguretat tecnològica. Un soldat humà o un agent de policia no és legal o èticament que s'espera apuntar a la cama d'un objectiu. La precisió, a qualsevol nivell o nivell d’habilitat, no és mai una cosa segura per als simples mortals, ni molt menys els plens d’adrenalina. Així mateix, fins i tot, no es pot esperar que el conductor de professió més experimentat executi la maniobra perfecta o la decisió èticament "correcta", al segon trencament anterior a una col·lisió sobtada de l'autopista.

Però si és possible incorporar aquest nivell de precisió en una màquina, les expectatives canviarien invariablement. Els fabricants de robots que causin danys corporals (per intenció o accident) haurien d’abordar una sèrie de problemes del carretó durant el desenvolupament i proporcionar decisions clares per a cadascun d’ells. Els dissenyadors de botos armats potser ho tindran relativament fàcil, si són capaços de programar sistemes per impedir objectius en lloc d'executar-los. Però si es tracta de l’opció clara –que els robots haurien de reduir activament les morts humanes, fins i tot entre l’enemic–, no hauríeu d’acceptar que el cotxe us ha matat, en lloc de dos desconeguts?

* * *

Seguiu aquesta línia de raonament fins a la seva conclusió lògica, i les coses comencen a ser una mica de ciència-ficció i més que una mica inquietants. Si es demostra que els robots són capaços de salvar vides humanes, sacrificant els pocs pel bé de molts, quin tipus de monstre els programaria per fer-los d'una altra manera?

I, tanmateix, ningú no pensaria comprar un cotxe autònom que advertís explícitament al client que la seva seguretat no és la seva primera prioritat.

Aquest és el dilema al qual podrien enfrontar-se els fabricants de vehicles robotitzats si prenen la carretera moral i ètica i dissenyen que limiten lesions o la mort humana sense cap discriminació. Afirmar que aquesta admissió frena l’adopció de cotxes autònoms és una infravaloració. "Compra el nostre cotxe", bromeja Michael Cahill, professor de dret i vicedegà a Brooklyn Law School, "però tingueu en compte que pot conduir per sobre d'un penya-segat en lloc de colpejar un cotxe amb dues persones".

D'acord, va ser una hipotètica de Cahill, no la meva. Però tan difícil com seria convèncer els fabricants automobilístics de llançar els seus propis clients sota el proverbial autobús o de forçar la mà amb les normes, potser sigui l’única opció que els protegeixi de litigis generalitzats. Perquè qualsevol cosa que triïn: matar la parella o el conductor o triar un atzar de manera aleatòria, es tracta de decisions ètiques que es prenen amb antelació. Com a tal, podrien ser molt més vulnerables a les demandes, afirma Cahill, ja que les víctimes i els seus familiars disseccionen i acusen decisions que no es van prendre en el moment del moment, “però amb molta antelació, en la comoditat de les oficines corporatives. "

En absència d'un estàndard universal per a l'ètica integrada i prèvia a la col·lisió, els cotxes sobrehumans podrien començar a semblar supervil·lars, apuntant-se al conductor més gran que al banquer d'inversions més jove, la família d'aquest últim podria demandar els salaris considerablement més perduts. O, amb menys fastig, els dissenyadors del vehicle podrien escollir objectius basats exclusivament en la marca i el model de cotxe. "No us dirigiu cap al Lexus, diu Cahill. "Si heu de colpejar alguna cosa, podríeu programar-lo en un cotxe més barat, ja que el conductor té menys probabilitats de guanyar diners."

Com més gran és el millor escenari. De fet, jo argumentaria que des del punt de vista legal, moral i ètic, és l’única opció viable. És terrorífic pensar que el vostre xofer de robots potser no té l’esquena i que, sense dubtar-ho, decidiria llançar-vos fora d’aquest penya-segat. O, encara més estrany, conviu un pla entre els seus companys de bots, connectats a la xarxa, que arrosseguen el cotxe al camí d’un camió que es desplaça ràpidament per desviar-lo d’un autobús escolar. Però, si els robots desenvolupen aquest grau de poder sobre la vida i la mort, no haurien d’haver-ho d’exercir de manera responsable?

"És una manera de mirar-ho, que la bellesa dels robots és que no tenen relacions amb ningú. Poden prendre decisions que siguin millors per a tots ”, afirma Cahill. "Però si visquessis en aquest món, on els robots van prendre totes les decisions, podria pensar que és una distopia".

La nostra millor defensa contra el temps espacial fa setmanes que està fora de línia

La nostra millor defensa contra el temps espacial fa setmanes que està fora de línia

Les calces de compressió potser no ajuden als músculs cansats

Les calces de compressió potser no ajuden als músculs cansats

La NASA gairebé mai va arribar a ser-ho.  La seva creació és una lliçó de poder polític.

La NASA gairebé mai va arribar a ser-ho. La seva creació és una lliçó de poder polític.