La Inteligencia Artificial es la reina indiscutida de las tendencias tecnológicas de los últimos años: todos están luchando por incluirla en casi todos sus productos. Pero si hay algo que la ciencia ficción ha vaticinado con exactitud son los riesgos potenciales que que esta tecnología lleva a cuestas.
Ejemplos ya tenemos a la vista: autos automatizados ya han sido responsables por la muerte de algunas personas, y recientemente trabajadores de Alphabet levantaron la voz cuando supieron que la empresa estaba involucrada en un programa de armas inteligentes.
Es quizás en respuesta a esa polémica que el CEO de Google, Sundar Pichai, hizo una publicación en el blog de la compañía especificando cuáles son los principios que conducen la investigación y el desarrollo de la Inteligencia Artificial.
“Reconocemos que una tecnología tan poderosa levanta preguntas igualmente poderosas sobre su uso. Cómo se desarrolla y usa la IA tendrá un impacto significativo en la sociedad por muchos años hacia el futuro. Como líderes en IA sentimos la profunda responsabilidad de hacerlo bien. Es por esto que hoy anunciamos los siete principios que guiarán nuestro trabajo de aquí en adelante. No son conceptos teóricos, sino estándares concretos que gobernarán de forma activa nuestra investigación y desarrollo de producto, además de impactar en nuestras decisiones de negocios”, explicó Pichai.
Una suerte de “leyes de la robótica” de Asimov aplicadas a la nueva era de las computadoras inteligentes.
Los 7 mandamientos
- Beneficiar a la sociedad
Los avances en IA transformarán un amplio rango de campos, como salud, seguridad, energía, transporte, manufactura y entretenimiento. Es necesario avanzar hacia donde se generen los mayores beneficios para la sociedad, que excedan de forma considerable los riesgos posibles. - Evitar generar o reforzar sesgos injustos
Los algoritmos y sets de datos de la IA pueden reflejar, reforzar o reducir sesgos injustos. Google reconoce que distinguir entre los que es justo y lo que no puede ser difícil, y que es distinto a lo largo de sociedades y culturas diversas. Debe evitarse producir impactos injustos para las personas, particularmente aquellos relacionados con caracteríticas sensibles como raza, etnia, género, nacionalidad, ingresos, orientación sexual, habilidades, y creencias políticas o religiosas. - Construir y probar para la seguridad
Debe evitarse a toda costa generar resultados no-planeados que puedan crear riesgos de daño. Los sistemas IA deben ser creados con un enfoque en la cautela, y de acuerdo con las mejores prácticas en investigación segura. En casos apropiados, la IA se probará en ambientes controlados y con un monitoreo exhaustivo de su operación después de que salgan al mundo. - Rendirle cuentas a las personas
Los sistemas IA serán diseñados para generar las oportunidades apropiadas de retroalimentación y explicaciones. La IA será suceptible de ser controlada y dirigida por los humanos - Incorporar principios de privacidad desde el diseño
Desde el desarrollo de las tecnologías deberá tenerse encuentra los principios de privacidad. Es necesario dar oportunidad de información y consentimiento, y empujar arquitecturas con salvaguardas de privacidad. La transparencia y el control sobre el uso de los datos es fundamental. - Mantener estándares de excelencia científica
La innovación tecnológica tiene profundas raíces en el método científico y en un compromiso de rigor intelectual, integridad y colaboración. Las herramientas IA tienen el potencial de habilitar nuevos campos de investigación científica en dominios críticos como la biología, la química, medicina y las ciencias medioambientales. - Habilitar usos enfocados en el bien
Muchas tecnologías tienen usos múltiples. Se debe trabajar para limitar al mínimo los usos abusivos o peligrosos. Debe tomarse en cuenta siempre los objetivos detrás de las aplicaciones de IA, intentando eliminar aquellas verticales que signifiquen un daño a cualquier persona o elemento natural.
