La moral dels robots

Article escrit per Xavier Vidal i Gina Tost amb la col·laboració de Miquel Montaner publicat al suplement Diumenge del Diari ARA el 18 de Desembre de 2016.

D’aquí tres anys hi haurà deu milions de cotxes sense conductor circulant per les carreteres, al mercat ja hi ha robots dedicats a cuidar persones i els empresaris es preparen per introduir-los en massa en substitució del treballadors humans. No són escenaris de ciència-ficció, ja està passant. Fins a quin punt s’ha de regular legalment amb quina ètica es programen els robots? Tindran drets?

Fa uns mesos, Microsoft va haver de tancar el perfil de Tay, la primera intel·ligència artificial a tenir un compte de Twitter. Poques hores després de començar a piular, Tay es va tornar racista, sexista i, fins i tot, pronazi en interactuar amb altres tuitaires. ¿Els robots poden desenvolupar una moral o sentiments propis que guiïn els seus actes més enllà dels algoritmes amb què han estat programats? Ningú ho pot dir, de moment, però el que sembla evident entre els especialistes és que cal dissenyar unes normes adequades que regeixin les relacions entre les persones i les noves màquines connectades, com ara els cotxes autònoms o els robots domèstics. És a dir, actualitzar les lleis de la robòtica que Isaac Asimov va formular des de l’àmbit de la ficció fa més de setanta anys.

La regulació dels comportaments dels robots no només és una preocupació industrial sinó també política. La comissió d’assumptes jurídics del Parlament Europeu està treballant en un informe sobre el dret civil de la robòtica. En el document inicial s’alerta que en un futur proper la intel·ligència artificial (AI) podria superar la capacitat intel·lectual humana i, si no s’està preparat, això podria suposar un doble desafiament per a la humanitat: “La capacitat de ser amos del seu propi destí [el dels robots] i garantir la supervivència de l’espècie”. El document cita com a base les lleis formulades per Isaac Asimov i planteja una qüestió clau: si l’autonomia dels robots hauria d’implicar la creació d’una nova categoria civil més enllà de persones físiques, jurídiques, animals o objectes per delimitar “l’atribució de drets i obligacions” dels nous androides amb capacitat d’operar de manera autònoma. Isaac Asimov i John W. Campbell van desenvolupar tres lleis de la robòtica per al conte Runaround [El cercle viciós] l’any 1942. Les lleis diuen que un robot no pot fer mal a un ésser humà o, per inacció, permetre que un ésser humà prengui mal; que un robot ha d’obeir les ordres dels éssers humans, excepte si entren en conflicte amb la primera llei, i que un robot ha de protegir la seva pròpia existència en la mesura que aquesta protecció no entri en conflicte amb la primera o la segona llei.

Anys més tard se’n va formular una altra, la llei zero, que diu que un robot no pot fer mal a la humanitat o, per inacció, permetre que la humanitat prengui cap mal. Les lleis d’Asimov van ser pensades per protegir les persones i evitar el “complex de Frankenstein”, és a dir, que les màquines assolissin un nivell de desenvolupament tal que poguessin rebel·lar-se contra els seus creadors, la hipòtesi inicial a la pel·lícula Terminator.

Per a Carme Torras, professora d’investigació del CSIC a l’Institut de Robòtica i Informàtica Industrial, la llei zero és la més important i on cal posar l’accent…. continua llegint l’article a Ara.cat

Author: Miquel Montaner
Assessor tecnològic independent
Et podem ajudar?

Envia’ns un missatge i et contactarem de seguida per ajudar-te en tot el que necessitis.