https://bodybydarwin.com
Slider Image

The End Is AI: La singularitat és la iniciativa basada en la fe de ciència-ficció

2022

El segon d’una sèrie de publicacions sobre els principals mites de la robòtica i el paper de la ciència ficció en la creació i difusió d’aquests. Temes anteriors i anteriors, respectivament: Els robots són forts, el mite de la hipercompetència robòtica i els robots són el mal, el mite de les màquines assassines.

El 1993, Vernor Vinge va escriure un article sobre la fi del món.

"D’aquí a trenta anys, tindrem els mitjans tecnològics per crear intel·ligència sobrehumana", escriu Vinge. "Poc després s'acabarà l'era humana."

En aquell moment, Vinge era una doble amenaça: un informàtic de la Universitat Estatal de San Diego, així com un aclamat escriptor de ficció científica (tot i que els seus premis Hugo vindrien més tard). Aquesta última part és important. Com que el document, escrit per a un simposi de la NASA, es llegeix com una brillant barreja de ciència ficció reblant i profecia secular.

"La venida singularitat tecnològica" descriu un futur que els guanys en el poder de processament cada cop més ràpids esclataran la intel·ligència artificial passada (sistemes amb cognició i sensibilitat humanes) i donaran lloc a màquines hiperintel·ligents.

"Des del punt de vista humà, aquest canvi suposarà un llançament de totes les regles anteriors, potser a cop d'ull, una exponential fugida més enllà de qualsevol esperança de control. Els desenvolupaments que abans es pensaven només podrien succeir-se en "un milió d'anys" (si mai) probablement ocorreran en el proper segle ".

Això és el que Vinge va anomenar Singularity, un punt en el nostre futur col·lectiu que serà completament transformat i incognoscible per la tecnologia. La Singularitat, que Vinge explora en profunditat, però humilment fonts remunten al matemàtic pioner John von Neumann l’equivalent futurista d’un forat negre, descrivint la manera com el progrés continuarà agilitzant-se. Avançant més ràpidament, més a prop arriba a l'alba de la màxima intel·ligència de la màquina. Un cop aconseguida la intel·ligència artificial (IA), la transformació global pot trigar uns anys o poques hores. En particular, Vinge cita una història breu de Greg Bear com un exemple d'aquest últim resultat, com un profeta que reforçava el seu argument per als propers temps finals amb passatges de les escriptures.

Però el tema aquí és senzill la singularitat arribarà a l’impuls. Les IA intel·ligents passaran per les IA genials, els humans post-humans millorats cibernèticament formaran grans llocs de porció i aquests grans poders digitals no només aprendran i compartiran cada una de les dades disponibles, sinó que redefineixen com s'aprèn i es comparteix la informació. "L'extinció física de la raça humana és una possibilitat escriu Vinge, tot i que també permet un futur supervisat per" déus benvolents ". Pinta una àmplia gamma d'opcions, discutint els entrebancs psicològics de la immortalitat digital (citant una altra història SF, aquest de Larry Niven) i la perspectiva que Internet es desperti de sobte en una sensibilització col·lectiva i pesada, sigui quin sigui el resultat, el món que ja coneixem haurà acabat.

Per creure en la Singularitat, heu de creure en un dels majors mites que ha dit mai la ciència ficció els robots són intel·ligents.

La característica més urgent de la Singularitat és la seva certesa a curt termini. Vinge va creure que apareixerà el 2023, o el 2030 com a màxim. Ray Kurzweil, un còmic futurista, autor (el seu llibre de 2006 "La Singularitat és a prop" va popularitzar la teoria) i recent lloguer de Google, ha clavat el 2029 com l'any en què els ordinadors coincidiran i superaran la intel·ligència humana. En funció de la luminària d’acord amb això, els humans donen entre uns 9 i 16 anys bons, abans que un panteó de divinitats de la màquina arribi a decidir què fer amb nosaltres.

Si us pregunteu per què la raça humana està gestionant la notícia de la seva imminent irrelevància amb una tranquil·litat tan tranquil·la, és possible que l'espècie es negui. Potser no volem acceptar les dures veritats que predicaven Vinge, Kurzweil i altres ments brillants.

El més possible, però, és una altra forma de negació. Potser a ningú del poder no li importa la Singularitat, perquè la reconeixen com a ciència ficció. És una teoria que va proposar un escriptor SF. Les seves ramificacions estan combinades amb la imatge i el llenguatge de SF. Per creure en la Singularitat, heu de creure en un dels mites més grans que ha dit mai SF que els robots són intel·ligents i sempre a punt de ser més intel·ligents que nosaltres.

Més de 60 anys d’investigació en IA indiquen el contrari. Aquí és per què la Singularitat no és res més o menys que l’engany dels empollons.

* * *

Per tota la seva atenció al detall, els escriptors SF tenen un estrany costum de deixar la sala durant el naixement de la màquina.

Pren la novel·la de Vernor Vinge de 1981, True Names i el seu antagonista famós d'AI. S'anomena Mailman, a causa de la seva interacció semblant a caragols amb altres hackers propers al futur (inicialment es mascara com un d'ells), que requereix un dia o més per elaborar una sola resposta. Quan el programari rapaç finalment combat un petit grup de pirates informàtics en el ciberespai, la descripció de Vinge s'estén per pàgines, ja que ambdues parts reclamen el poder de processament col·lectiu de tot el món en xarxa, deixant a la seva banda bloqueigs i caigudes del mercat.

No obstant això, els orígens del Mailman, el primer sistema informàtic realment conscient del món, queden relegats a uns paràgrafs durant la nova escena de la novel·la. Creat una dècada abans per la NSA, l'AI era un programa de seguretat impensable, un agent per dormir automatitzat dissenyat per seure en una xarxa informàtica determinada i anar recopilant dades i consciència gradualment. El govern va matar el projecte, però va deixar accidentalment una picada de codi. Tal com explica un pirata informàtic, "Amb el pas del temps va créixer lentament, tant per les seves tendències naturals com pel poder augmentat de les xarxes en què vivia".

Això és. El major assoliment en el camp de la IA es produeix per accident i no es compleix.

En equitat amb Vernor Vinge, aquesta és una de les esquivacions més comunes en robot SF. A la pel·lícula de 1970 Colossus: The Forbin Project, així com a la novel·la de 1966 en què es va basar, la veritable IA és el subproducte espontani de dues reunions pròximes a AIs. Colossus, un sistema automatitzat de defensa encarregat de l’arsenal nuclear d’Amèrica, comença a compartir informació amb el seu homòleg soviètic, Guardian. Però, sigui el que hagin de dir els dos programes, el públic no el veu ni ho sent ni ho fan ni els personatges humans. Els sistemes es barregen i, en pocs minuts, sorgeixen com una única entitat omniscient. El mateix passa amb el successor espiritual de Colossus, Skynet. A The Terminator, de 1984, aprenem que el sistema militar genocida simplement "es va fer intel·ligent". Cas tancat. La seqüela de 1991 afegeix alguns detalls més, estipulant que Skynet va prendre consciència de si mateix aproximadament 25 dies després de ser encès. Més tard, seqüeles de Terminator menys influents elaborarien sobre la sobtada ascensió del sistema i demostren que, des d'una perspectiva narrativa, alguns vilans queden millor a l'ombra. Però les dues primeres pel·lícules estan decidides a allunyar-se de la mecànica fictícia de la sensibilitat de màquina.

En totes aquestes històries, però, el missatge és idèntic: l'arribada de l'AI està predestinada. La lògica ho exigeix, a partir de la simple i irrefutable observació que els ordinadors milloren tan ràpidament. Amb tot aquest impuls, és inevitable que els sistemes automatitzats tinguin un gran impuls cap al mateix temps. Es tracta d’una conclusió tan prèvia que qualsevol cerca web a la web produirà una bateria de demandes similars d’investigadors de la IA no ficticis.

Desafortunadament, els mateixos resultats de la cerca revelen el terrible que els investigadors de l'AI prediuen el futur. Els pitjors delinqüents són dos dels gegants del camp. El 1957, l’informàtic i futur premi Nobel Herbert Simon va predir que, el 1967, la psicologia seria un camp en gran mesura informatitzat, i que un ordinador guanyaria un campió del món carni i sang als escacs. Va deixar 30 anys amb la segona reivindicació, i la primera és tan mistificant com ho va ser el 1957. Però Simon estava en rotllana, i va anunciar el 1965 que “les màquines podran, dins dels vint anys, fer qualsevol feina. un home pot fer-ho. "

Marvin Minsky, el cofundador del Laboratori d’Intel·ligència Artificial del MIT, es va mostrar més agressiu pel que fa a la intel·ligència general artificial (AGI), el terme més comú de la investigació de la IA per a màquines intel·ligents a nivell humà. El 1970, Minsky va estimar la seva arribada en només tres o vuit anys.

Teniu la seguretat, AGI no va aparèixer en secret el 1978 ni el 1985 i va començar a emetre dades pel terrabyte. Però això no ha impedit que Vinge i Kurzweil emetessin els seus propis terminis. Tampoc no ha exposat totalment la Singularitat com a reiteració de l'il·lusionat i no optimisme optimisme que va drenar la investigació de l'AI de finançament durant dècades (iniciant-se, prou casualment, poc després de la previsió de 1970 de Minsky). Com els personatges atrapats al bucle temporal de The Terminator, sembla que estem condemnats a repetir el mateix cicle de profecia i vergonya i a repetir l'error central de Simon i Minsky.

Per veure que l'AGI és inevitable, heu de fer com ho fa sovint SF i imaginar els robots com a genis monstruosos o messiànics que esperen que passin, i els humans com un munt de maniquins.

* * *

Si ets un dels veritables creients de la Singularitat, probablement estàs armat amb una xocant quantitat d’argot manllevat de la intersecció de la investigació i la neurociència de l’AI. Com tot gran llenguatge de profecia, aquestes paraules encenen la ment, fins i tot sense elaboració. Xarxes neuronals. Sistemes neuromorfs. Els cervells dels ordinadors funcionen com els nostres i, en certs nivells, han estat durant dècades. Hi ha projectes reals prometedors a citar, com ara el projecte de cervell humà de 1.300 milions de dòlars de la UE, amb objectius ambiciosos com crear una simulació digital completa i completa d’un cervell biològic i utilitzar aquest model per conduir robots físics. Segurament, la Singularitat és sobre nosaltres.

Però, amb poques excepcions, el camí cap a la hiperintel·ligència de la màquina passa directament pel cervell humà. I qualsevol que afirma entendre la intel·ligència biològica és un ximple o un mentider.

La neurociència ha fet progressos increïbles en l'observació directa del cervell i en la connexió entre l'activitat elèctrica i la neuroquímica i algunes formes de comportament. Però, com més a prop ens acostem a la ment, més complexes són les seves estructures i patrons. L’objectiu del Projecte Brain Human, així com de la Iniciativa BRAIN dels Estats Units, és abordar el fet que sabem poc sorprenentment sobre com i per què els éssers humans pensen en qualsevol cosa. Aquests projectes no són signes de triomf sobre la nostra biologia ni indicis que la línia d’arribada s’acosta. Són admissions d’humilitat.

Mentrestant, els defensors de la Singularitat encara creuen que la intel·ligència pot obligar-se a la brutalitat a l'existència, mitjançant el seu pur poder. No t'importa que Simon i Minsky pensessin el mateix i es demostressin del tot vergonyosament equivocats o que l'única evidència d'aquest funcionament no sigui una evidència, sinó ciència ficció. En aquestes històries, l'AGI és tan factible, que pràcticament es vol que sigui.

"Qualsevol que hagi realitzat ciències reals, tant si es tracta de ciències de laboratori com de codificació, sap que no és com si haguessis aconseguit compilar i, de sobte, que el teu programa funcioni perfectament, i s'instal·li a l'amor a la divinitat, diu Ramez Naam, escriptor de SF, tecnòleg, Titular de la patent de IA, i prou irònic, professor a la Singularity University, tot i que les novetats pròpies de Naam inclouen la creació de xarxes i la creació de consciència humana, ha esdevingut un dels crítics més vocals de la Singularitat. no diferents a les nostres expectatives més antigues.

Si haguessis preguntat a algú, ara fa 50 anys, com seria el primer ordinador que va vèncer a un humà als escacs, s’imaginarien una IA general, diu Naam. Seria una IA sensible que també pugui escriure poesia i tenir una concepció del correcte i del mal. I no ho és. No és res del mateix. Tot i que va aparèixer Garry Kasparov el 1997, el Deep Blue d’IBM no és més proper a la sensació que un ordinador portàtil ThinkPad. I malgrat la seva capacitat de perill, Watson no pot jugar als escacs ni conduir un dels cotxes robòtics de Google, afirma Naam. Encara no estem de cap manera cap a una IA general. Simplement hem de construir sistemes especialitzats millors i millors.

Tot i que es poguessin empeltar de manera sorprenent diversos sistemes especialitzats els uns als altres, no s'afegirien a AGI. De fet, això podria funcionar a SF, on les AGI semblen jugar amb les mateixes regles simplificades que la versió dels hackers de Hollywood, capaços d’eliminar les diferències destacades en els llenguatges de programació i els protocols de dades i començar a sifonar i utilitzar informació com algun bruixot. s un recurs arcà i il·limitat. Sempre que poguessis unificar un conjunt de màquines intel·ligents en un sol sistema, encara no generarà màgicament la cognició adaptativa o la capacitat d’aprendre (més que la memòria). Tot i que la intel·ligència humana encara s’ha de quantificar, almenys sabem que és profundament no lineal. L'activitat sinàptica pot fluir a través d'unes àmplies regions aparentment no relacionades del cervell, sacrificant la velocitat i l'eficiència per a una flexibilitat de llaç lliure. I els nostres records són mal·leables i incomplets, com res del món codificat o mecànic. Són aquests errors de disseny, que demanen que s’arreglin? O són ​​funcions i la prova que la intel·ligència és una caixa negra que encara no tenim les eines per obrir-se correctament? Aquestes són les preguntes que encara s’han de respondre, abans que algú pugui fer els primers intents primitius de crear l’AGI des de zero, o d’alguna manera fusionar humans i màquines amb un híbrid que s’aconsegueixi.

No argumento que la sensibilitat màquina és una impossibilitat. Els avenços no es poden descomptar abans que tinguin l'oportunitat de materialitzar-se a l'aire prim. Però la creença en la singularitat s’hauria de reconèixer pel que es tracta d’un sistema de creences secular i basat en SF. No intentaré ser coi, en comparar-ho amb la profecia, a la ciència ficció. Al no tenir evidència de la propera explosió en la intel·ligència de la màquina i ignorant voluntàriament els terminis de l’AGI que han passat i desapareguts, la Singularitat es basa en el fet d’agitar de la mà. Això és parlat SF per fer un salt tecnològic no especificat. Però hi ha un altre nom per a aquest tipus de drecera. Es deia fe.

Responen cinc preguntes sobre el solstici d’hivern actual

Responen cinc preguntes sobre el solstici d’hivern actual

Gelateries dolces per a casa vostra

Gelateries dolces per a casa vostra

Potser els científics acaben de fer un avenç contra la vacuna contra la malària

Potser els científics acaben de fer un avenç contra la vacuna contra la malària