Diario de Navarra

Es muy posible que hayan oído hablar de los dilemas de los coches sin conductor. Pongámonos en situación: uno de estos vehículos, en el que viajan una mujer y su hija embarazada, se queda sin frenos. Enfrente cruzan la calle tres ancianos. No hay tiempo para consultas. El coche debe decidir en segundos. Si sigue recto, habrá atropello; sólo puede evitarlo dando un volantazo y chocando contra otro coche. Este tipo de encrucijadas, con importante carga ética, son las que se plantean los fabricantes de estos coches que pueden convertirse en el futuro del automóvil. Pero dilemas como este pueden quedarse cortos. “Como la máquina no está sujeta a supervisión humana inmediata, se trata de protocolizar todo. Pero no sé hasta qué punto todos puede resolverse todo de antemano. De hecho, es un problema difícil y con riesgos. En esos segundos en los que la máquina debe decidir una maniobra, tiene tiempo para contactar con la compañía aseguradora y tomar la decisión en función de las condiciones del seguro; puede contactar con el otro coche y comparar los seguros para determinar cuál es el que compensa que se estrelle. O puede ser que un coche más caro disponga de un algoritmo de decisión ética que proteja más al conductor que otro vehículo más barato”. Todos esos supuestos los lanza Gonzalo Génova Fuster, profesor Titular en el Departamento de Informática de la Universidad Carlos III de Madrid y experto en Inteligencia Artificial. Este martes viajó a Pamplona para participar en una de las sesiones que organiza el Grupo Ciencia, Razón y Fe de la Universidad de Navarra, y para hacer una pregunta: cómo se puede enseñar a un robot a que se porte bien. ¿Puede una máquina ser ética, puede aprenderla? “Las máquinas reflejan los valores éticos que les ponemos nosotros. ¿Es ética una máquina que hace radiografías? Sí, claro, hace algo bueno. Pero ¿puede ser ética una máquina en el sentido que lo somos los humanos? No. La ética no es seguir un programa, unas reglas, tiene que ver con discernir entre el bien y el mal, eso no se puede resolver mecánicamente?”, asegura el profesor de la universidad madrileña. Las máquinas han conseguido cumplir tareas que hace poco eran una mera quimera. “Son capaces de reconocer rostros mejor que los humanos, pueden escribir textos de manera indistinguible de un humano, pueden producir fotografías de personas inexistentes, o imitar los movimientos de un cirujano cuando realiza una sutura”, enumera Gonzalo Génova. No está hablando de ciencia ficción. Lo de escribir casi lo intuimos a diario cuando nuestro móvil adivina cada vez mejor qué palabra queremos escribir en un mensaje. Lo de lo de las fotografías de personas inexistentes pueden comprobarlo en la web This person does not exist, que genera rostros falsos a partir de rasgos tomados de bancos de imágenes reales. “Todo es un juego de simulación. Lo que podemos hacer es que las máquinas imiten el comportamiento de los humanos y en ese sentido, en la medida que nuestro comportamiento tiene un componente ético, se puede hablar de enseñar ética a las máquinas. Ahora bien, ¿les enseñas el comportamiento de quién? Porque hay quien se comporta éticamente, y hay quien no. Lo primero es seleccionar la población que se va a imitar”. DECISIONES Las máquinas deciden cada vez más asuntos, cada vez más delicados. Quién sabe si los drones que se utilizan en la guerra ya deciden por sí mismos disparar o no a un posible objetivo. “Si lo hace un francotirador, toma una decisión personal. La máquina no. Todas las decisiones se tienen que haber tomado antes y se tiene que haber reflejado en un algoritmo de decisión, y eso es muy difícil”, señala Génova. Los investigadores, en todo caso, no sólo se preocupan de cuántas decisiones tomarán esos robots, y sobre qué. Les inquieta aun más “en qué principios se basan, que las decisiones no salgan de la caja negra de un oráculo, sino que sea explicables. Cuando no hay supervisión humana, porque a veces no hay tiempo, al menos se debe poder evaluar si la decisión está bien tomada o no, y si eso calibrar la máquina”. Sin embargo, Génova reconoce que hay muchas zonas oscuras, “sistemas de inteligencia artificial que toman decisiones y no se sabe por qué, ya que el procesamiento de cálculo interno es complejo y produce algoritmos que son complicados y cuya evolución no dominamos. Pero esto hay que explicarlo. En ética importa tanto si una decisión es buena o mala como que sepamos explicar por qué es buena o mala”. UN VIEJO PROBLEMA ¿Quién se encarga de impartir la ética a las máquinas? ¿Puede no hacerlo? Aunque estemos hablando de robots, es un problema tan viejo como la humanidad. “Quien construye puede buscar hacer el bien, puede buscar su beneficio sin que eso sea necesariamente un mal, o puede construir una máquina que le beneficie a costa del bien de los demás”. Eso ocurre con los robots, como ocurría con la balanza, que también puede manipularse para falsear los pesos. “Se puede construir una máquina para asesorar en decisiones judiciales, pero también puedo introducir sesgos o si estos aparecen, puedo corregir la máquina mitigarlos o decidir no hacerlo”. En ese sentido, el experto de la Universidad Carlos III cree que hay dos miedos posibles al robot. Uno que la tecnología se rebele contra el hombre, “pero de una manera voluntaria, es un miedo similar al que podemos tener de que una olla a presión explote”. El otro temor se refiere al dueño de la máquina, “que puede utilizarla para muchas cosas”. Como una balanza, o casi cualquier herramienta. LA NOVEDAD, EL LÍMITE DEL ROBOT Si las máquinas tienen por definición algún límite ese es el de “la novedad, que tiene que ver con la creatividad”, dice Gonzalo Génova. Los robots pueden en cierto modo aprender y dos máquinas jugando al ajedrez han sido capaces de descubrir estrategias nuevas, que no les habían dado previamente. “Pero lo que no saben precisamente qué es jugar al ajedrez. Cuando un padre no juega todo lo bien que sabe para enseñar el juego a su hijo, da al ajedrez objetivos diferente a ganar. Eso es algo para lo que la máquina no tiene capacidad".

Diario de Navarra

¿Tienen ética las máquinas?

¿Se le puede enseñar a una robot cómo portarse bien? Las máquinas están detrás de cada vez más decisiones y más delicadas. Pero los robots trabajan por imitación. la bondad o maldad de sus acciones las ponen los humanos que las fabrican

Comentarios

Tudela inaugura la reforma del aula de exámenes teóricos de la DGT

De las melodías coreables al teatro circo: las tres citas de KULTUR que marcan el ritmo de Navarra del 26 al 28 de junio

El Gobierno foral trabaja en un proyecto transfronterizo para revitalizar la zona del monte Larrún

Aquavox San Agustín cerrará sus instalaciones del 4 al 27 de julio

La Pamplonesa adelanta la música de fiestas a este viernes con su tradicional concierto presanferminero en la Plaza Consistorial