El debate más explosivo sobre los coches autónomos está por llegar

Waymo ha comenzado a ofrecer un verdadero servicio de taxis robotizados en Phoenix, Arizona y sus alrededores, obteniendo una primicia histórica que Uber y Lyft están ansiosos por alcanzar, así como los titanes de la vieja guardia como Ford y General Motors. Se trata de un proceso lento y constante en una carrera de fondo, porque el camino hasta los coche autónomos está lleno de campos minados. No sólo técnico, sino también ético.

Si has seguido el desarrollo de los coches autónomos, probablemente habrás escuchado el siguiente problema, revisado de forma moderna para abordar la cuestión moral más delicada sobre los vehículos de IA... en un escenario de un posible  accidente en el que múltiples personas están en riesgo, ¿qué vidas deberían ser priorizadas? ¿El conductor? ¿Pasajero? ¿Peatones? ¿Animales?

Díficil ponerse de acuerdo

Anteriormente hicimos referencia a un estudio que intentaba medir cómo se sentía la gente al respecto, que hablaba de casi 40 millones de decisiones de 2,3 millones de personas ubicadas en todo el mundo. El estudio publicado en Nature, destaca algunas tendencias generales, como que los humanos deben ser salvados en lugar de las mascotas y que los jóvenes deben ser salvados en lugar de los ancianos.

Cuando cubrimos por primera vez el estudio, se proyectó que este tipo de problema sería la piedra angular de la resistencia a los vehículos autónomos. Estoy convencido de que los vehículos autopropulsados se implantarán de todas formas, ya que hay demasiado dinero detrás de esto ahora. La cuestión es más bien qué forma tomará el debate a su alrededor.

Son las diferencias, más que las tendencias generales, de acuerdo, las que realmente invitan a la reflexión. Porque cuando se le pide a la gente que clasifique efectivamente la vida humana en una jerarquía de valores, en muchos casos surge una imagen basada en el prejuicio, la intolerancia potencial y, de ninguna manera, en normas culturales universales.

Por ejemplo, incluso en todo el mundo, vimos una preferencia por preferir a las mujeres antes que a los hombres, a los atletas sobre las personas con sobrepeso, a los ejecutivos antes que a las personas sin hogar. A través de bloques agrupados por similitudes geográficas y culturales, se observaron otros desacuerdos, por ejemplo, los países asiáticos estaban menos dispuestos a favorecer a los jóvenes que a los viejos.

Si bien no está claro que la ética de la IA de los vehículos autónomos se diseñará de acuerdo con métodos democráticos o populares, las empresas querrán evitar las reacciones adversas, satisfaciendo al mayor número posible de personas, o clientes potenciales. La posibilidad de demandas y contratos de seguros también será un factor. Y si el gobierno interviene para regular, entonces debería haber una consulta democrática.

Ya sea a través de consultas oficiales o de debates, estamos a sólo unos pasos de descubrir que tu primo, compañero de trabajo o legislador electo prefiere salvar a las mujeres antes que a los hombres, o digamos, a los agentes de policía antes que a las prostitutas, a la población nativa antes que a los inmigrantes, a los ricos antes que a los pobres. Personalmente, no podía soportar la idea de que las personas sin hogar fueran consideradas más prescindibles que otras.

La IA no solo está detrás de los coches autónomos, sino que también alimenta el reconocimiento y la vigilancia de imágenes. En China, por ejemplo, la inteligencia artificial se utiliza para identificar automáticamente a los disidentes, delincuentes y minorías desfavorecidas. Este tipo de información podría ser utilizada para decidir para la toma de decisiones en los coches autónomo en caso de accidentes.

• ¿Ángel o demonio? Las dos caras de la inteligencia artificial

Si piensas que la guerra cultural y las feroces discusiones sobre valores aparentemente incompatibles sobre el estilo de vida, la ley, la inmigración, los derechos de los animales, etc...ya es un tema de gran intensidad en este momento, espera a que sea una cuestión real de vida o muerte en la carretera.

Por mi parte, creo que los coches autónomos serán en general más seguros que confiar en el comportamiento de los conductores individuales, pero no quiero que se implemente un sistema que consagre los prejuicios de hoy en día. Algunas reglas van a tener que ser elaboradas de una manera u otra, pero en el doloroso proceso del debate público, es posible que tengamos que confrontar algunas verdades muy feas sobre nosotros mismos y nuestros semejantes.

¿Cómo crees que se desarrollará la ética de los coches autónomos?

Fuente: Nature