El Instituto Superior de Auditoría y Fiscalización (ISAF) de Sonora obtuvo el tercer lugar del sector público de Las más innovadoras 2023 con el proyecto Blindaje de datos personales con AI.
ChatGPT fue la herramienta que usó el equipo de Desarrollo del ISAF para implementar una instancia que se encarga de realizar tareas demandantes y repetitivas en la protección de datos de los contribuyentes.
Este proyecto surgió a partir de que la Ley de Protección de Datos Personales en Posesión de Sujetos Obligados del Estado de Sonora –que entró en vigor en 2017 –, obliga a la institución a proteger y salvaguardar la información sensible de la ciudadanía cuyos datos son utilizados durante el proceso de auditoría y fiscalización.
Por otro lado, por la Ley de Fiscalización Superior para el Estado de Sonora indica que se deben publicar en su portal de internet los resultados derivados de las auditorías efectuadas. Esto incluye aquellos documentos que sirvan como evidencia de aquello que se señala en las observaciones. Dichos documentos suelen ser tablas comparativas y/o relaciones de información obtenida de facturas, cuyo contenido puede contener datos personales de ciudadanos fuera del servicio público.
Deisy Edrey Rodríguez Hernández, directora de Desarrollo de Sistemas del ISAF, señaló que la información no puede ser simplemente omitida debido a que una versión completa y sin testar debe ser entregada al Congreso del Estado de Sonora, sin embargo, debe generarse una versión pública con dicha información testada.
Esta última debe generarla el personal a cargo de cada auditoría. Una vez que el informe está listo para ser entregado, se genera una copia exacta y se comienza a buscar dentro del contenido cada nombre de persona, número de cuenta bancaria o domicilio que, de ser publicado, nos llevaría a infringir la ley. El proceso se lleva a cabo en cada uno de los cientos de informes que a su vez cuentan con decenas de tablas y redacciones de observaciones.
Así trabaja ChatGPT en el ISAF
Rodríguez Hernández explicó que la herramienta desarrollada en el ISAF utiliza una librería de OPENAI que hace uso de algunos de sus modelos de lenguaje como GPT 3.5 y Davinci.
“Esos modelos son alimentados con instrucciones redactadas en lenguaje humano sobre lo que debe buscar exactamente, se le indica la seriedad con la que debe ser tratada la información y se ajustan parámetros de ‘temperatura’, que son los niveles de improvisación que puede permitirse al ejecutar esta tarea.
“También se le provee distintos ejemplos de la información que se busca censurar, como nombres de personas completos o abreviados, ejemplos de números de cuentas bancarias, etc., de esta manera nuestro sistema cuenta con los elementos para trabajar”, afirmó Rodríguez.
“Una versión censurada de la información es presentada en pantalla ante el auditor, para que le dé su visto bueno y valide que la censura se haya llevado a cabo de forma correcta. Hasta el momento, la confiabilidad de dicha automatización asciende en promedio a 95%, ya que algunas veces el nombre de una empresa, por ejemplo, puede ser interpretado como un nombre de persona, o bien puede ser que alguna secuencia de números que no sea un número de cuenta sea interpretada como tal.
Al referirse a los beneficios alcanzados en el ISAF con el proyecto “Blindaje de datos personales con AI”, Rodríguez dijo que el tiempo es el recurso más valioso: Ahora, el personal de auditoría se centra más en el trabajo de fiscalización y no en actividades repetitivas y manuales.
Pero lo más importante para ella es que el objetivo principal del proyecto es la protección de datos personales, lo que repercute directamente en el ciudadano ya que permite mantener sus datos protegidos.
