Hoy en día se ha abierto el debate sobre los algoritmos que se incorporan en los automóviles autónomos, las primeras máquinas o robots que interactúan con el ser humano y toman decisiones sobre su vida y la de otras personas involucradas en un potencial accidente de tránsito.
Por: Daniel Lacouture Daza
- Twitter: @lacouturedf @maleconomista
- Facebook: El Mal Economista
- Instagram: @maleconomista
En una escena de la película “Yo, Robot”, el detective Cooper (Will Smith) se enfrenta a una situación que determinaría el rumbo de su vida. Mientras conducía por una autopista, un camión choca dos autos, incluido el suyo, y los envía directo a un río. Mientras observa cómo una niña se hunde dentro del segundo vehículo, un robot entra en escena y rompe el vidrio del suyo para salvarlo. Alterado, el detective le insiste al robot que salve a la niña, pero la máquina decide salvarlo a él. La decisión, como luego él mismo explica, se basó en un algoritmo: el robot calculó la probabilidad de supervivencia de ambos y decidió que él debía vivir.
Lo que hace algunos años se consideraba ciencia ficción, hoy es una realidad. Recientemente se ha abierto el debate sobre los algoritmos que se incorporan en las primeras máquinas o robots que interactúan con el ser humano: los automóviles autónomos. Estos carros, precisamente como el robot de la película, se encuentran decidiendo sobre su vida y la de las personas involucradas en un potencial accidente de tránsito.
Lo automóviles autónomos son vehículos que pueden circular por carreteras sin la conducción manual de las personas, como los carros que conducía el detective Cooper en la película, gracias a sofisticadas herramientas de navegación y potentes sensores. Estos automóviles ya son fabricados de manera comercial, siendo los Tesla, propiedad de Elon Musk, los más conocidos; aunque ya varias firmas han desarrollado la tecnología como Google, Uber y Mercedes Benz.
El debate, determinante para el futuro de la relación entre las máquinas y los seres humanos, ha girado en torno a si estos automóviles deberían tomar la decisión sobre quién debería vivir en caso de un potencial accidente de tránsito y, de llegar a aceptar esta premisa, cómo deberían tomar esta decisión. Sobre la primera pregunta el debate es irrelevante, porque de hecho estos automóviles ya la están tomando, pese a que Mercedes Benz ha sido la única firma que ha hablado del tema. Por tanto, lo que resulta relevante sería preguntarse cómo estas máquinas están valorando la vida de las personas involucradas.
Este es un debate, sin duda, lleno de profundas motivaciones éticas. Piense, por ejemplo, que va solo en una de las “avenidas” colombianas de un carril en ambos sentidos y sin separador. Mientras va en piloto automático, la máquina debe decidir entre tres opciones: i) atropellar a tres niños que han pasado la calle estando el semáforo en rojo, quienes terminarían como víctimas fatales y usted ileso ii) girar a la izquierda y chocarse de frente contra una moto con dos pasajeros, quienes terminarían como víctimas fatales y usted ileso o, iii) girar a la derecha y terminar en la acera contra un poste de luz que le causaría la muerte solo a usted.
¿Usted qué haría? ¿Valoraría más su vida que la de los niños o los motociclistas? De ser afirmativa su respuesta, ¿hacia dónde dirigiría el carro, hacia los niños o hacia los motociclistas? Para incorporar un algoritmo en los automóviles autónomos que responda a estas preguntas, las motivaciones éticas a nivel individual, de la empresa o del Estado son sustancialmente diferentes.
Un estudio realizado en la Universidad de Toulouse por varios de sus profesores señala que las personas son utilitaristas al tomar estas decisiones, en el sentido en que minimizan la pérdida de vidas. Es decir, tomarían la decisión de estrellarse directamente contra el poste de luz. No obstante, los resultados presentan una paradoja, pues las personas analizadas concuerdan en que tomarían esta decisión si ellos no fueran los que estuvieran al frente del volante; aunque de llegar a tener uno de estos automóviles, preferirían que valoraran más su propia vida.
Por el contrario, la decisión sería obvia para las empresas: las máquinas deberán valorar, por encima de cualquier otra, la vida del conductor. La razón radica en que una empresa que produzca carros que elija la muerte del cliente tendría prácticamente perdida la competencia en el sector, pues sería razonable que quienes compren un automóvil de este tipo prefieran a las compañías que valoren más su vida en un accidente, como efectivamente muestra el estudio.
Para el Estado, no obstante, la decisión es mucho más difícil, pues involucra tanto las decisiones de los individuos como de las empresas. Este es, de hecho, un clásico dilema ético de política pública. De la misma forma en que se decide sobre qué paciente invertir recursos del sistema de salud, un diseñador de política deberá decidir sobre quién debería sobrevivir a un accidente fatal.
Por lo tanto, esta debería ser una de las primeras regulaciones a impulsar los Estados en el mundo de la robótica. Y no es para menos, pronto tendremos buena parte de los automóviles conducidos por máquinas que estarán valorando la vida de las personas basados en intereses particulares y no bajo criterios éticos establecidos por la sociedad. Es decir, se deberían promover leyes que permitan salvar a la niña en vez del detective Cooper, no basadas en probabilidades de supervivencia sino en lo que éticamente se considere correcto.
El debate, en síntesis, es de suma importancia, pues sentaría las bases para determinar el comportamiento de las máquinas, no solo en cuestiones de automóviles autónomos sino en todas las relaciones con el ser humano. Ahora, este debate podría pasar a un segundo plano si, como parece guiarse el mercado, la tecnología de autonomía vehicular logra reducir al mínimo los accidentes de tránsito.
En diciembre del año pasado se hizo viral un vídeo que exponía ante el mundo la predicción de un accidente automovilístico por parte de un modelo X de Tesla. En el vídeo se aprecia como el sistema de colisión frontal del Tesla alerta al conductor, un segundo antes, sobre un accidente y frena instantáneamente para evitar ser parte del choque. Gracias precisamente a los algoritmos que incorporan, estas máquinas podrían reducir dichos accidentes hasta la mitad, por lo que algunos de los considerados fatales, que sin duda veremos en las noticias, tendrán un impacto marginal ante el gran avance que ha dado la humanidad en términos de seguridad vial.
También le puede interesar: