Crean fórmula matemática para que inteligencias artificiales

Investigadores de Reino Unido y Suiza han encontrado un medio matemático para que sistemas de inteligencia artificial eviten tomar decisiones poco éticas y potencialmente costosas y perjudiciales.

La inteligencia artificial (IA) se implementa cada vez más en situaciones comerciales, por ejemplo, para establecer los precios de los productos que se venderán a un cliente en particular.

- Publicidad-

Existen razones legítimas para establecer diferentes precios para diferentes personas, pero también puede ser más rentable evitar decisiones que terminen perjudicando a la empresa.

Los colaboradores de la Universidad de Warwick, Imperial College de Londres y EPFL – Lausana, junto con la firma de estrategia Sciteb Ltd, argumentaron que en un entorno en el que las decisiones se toman cada vez más sin intervención humana, existe un incentivo muy fuerte para saber bajo qué circunstancias los sistemas de inteligencia artificial podrían adoptar una estrategia poco ética, y para encontrar y reducir ese riesgo, o eliminarlo por completo, si es posible.

Es por eso que estos matemáticos y estadísticos se unieron para ayudar a las empresas y a los reguladores creando un nuevo “Principio de Optimización de Decisiones No Éticas” que proporcionaría una fórmula simple para estimar el impacto de las decisiones de IA.

- Publicidad -

Los expertos han presentado todos los detalles en un documento con el nombre “An unethical optimization principle” (Un principio de optimización de lo poco ético), publicado en Royal Society Open Science el miércoles 1 de julio de 2020.

Tal como está ahora, “se puede esperar que la optimización elija desproporcionadamente muchas estrategias poco éticas”, dijo el profesor Robert MacKay, del Instituto de Matemáticas de la Universidad de Warwick.

- Publicidad -

“El Principio también sugiere que puede ser necesario repensar la forma en que la IA opera en espacios estratégicos muy grandes, de modo que los resultados poco éticos se rechacen explícitamente en el proceso de optimización / aprendizaje”.

Con información de Good News Network