Novedades sobre inteligencia artificial

La Subsecretaría de Tecnologías de la Información, dependiente de la Jefatura de Gabinete de Ministros, emitió la Disposición N° 2/2023 que aprueba un conjunto de recomendaciones para una inteligencia artificial (“IA") fiable, dirigida al sector público.

Las recomendaciones pretenden recopilar y proporcionar herramientas a quienes lleven a cabo proyectos de innovación a través de esta tecnología, centrándose específicamente en aquellos que impliquen el uso de IA. Asimismo, proporcionan un marco para la adopción tecnológica de la IA centrado en las personas y sus derechos. Estas recomendaciones están dirigidas específicamente al sector público, pero, no obstante, podrían funcionar como directrices no obligatorias que el sector privado podría utilizar.

En general, las recomendaciones se centran en establecer un conjunto de principios éticos para garantizar la protección de los derechos fundamentales de las personas, respetar valores democráticos, prevenir o reducir los riesgos, fomentar la innovación y el diseño centrado en las personas. Para establecer y aplicar los principios, las recomendaciones se estructuran y desarrollan a lo largo del ciclo de vida de la IA.

Entre otros, las directrices destacan los principios de proporcionalidad e inocuidad, seguridad y protección, equidad y no discriminación, sostenibilidad, derecho a la intimidad y protección de datos personales, supervisión y toma de decisiones humanas, transparencia y explicabilidad, responsabilidad y rendición de cuentas.

Por otra parte, dentro del ciclo de la IA, las recomendaciones se dividen en cuatro etapas relativas al “Diseño y modelado de datos” (Etapa 1), la “Verificación/Validación” (Etapa 2), la “Implementación” (Etapa 3) y la “Operación y Mantenimiento” (Etapa 4). Por último, en una cuarta etapa, las recomendaciones establecen qué cuestiones éticas deben considerarse fuera del ciclo de la IA.

De acuerdo con las recomendaciones, como principio general, deben señalarse las diferencias entre los conceptos de ejecución y responsabilidad, señalando que aunque la ejecución de una tarea o servicio se delegue en algoritmos, la decisión y, por lo tanto, la responsabilidad debe recaer siempre en la organización que controla el desarrollo y despliegue.

En cuanto a las medidas sugeridas que podrían adoptarse durante el ciclo de la IA, cabe señalar que la Etapa 1 y la Etapa 2 abordan medidas tendientes a reducir los riesgos y garantizar la transparencia, la rendición de cuentas, la calidad de los datos y la eliminación de los sesgos de modelización. En ese sentido, las recomendaciones sugieren la firma de compromisos éticos, la participación de científicos de datos (o data scientists) y la aplicación de registros de actividades de procesamiento.

También sugieren medidas a adoptar dentro de la Etapa 3, en función de si la implementación se ha realizado on premise (en infraestructura propia), a través de servicios en la nube o de forma combinada, con el objetivo de garantizar un adecuado grado de seguridad de la información, trazabilidad de las acciones y decisiones. Las directrices de la Etapa 4 recomiendan determinadas acciones para garantizar la disponibilidad, continuidad y sostenibilidad del servicio prestado por esta tecnología, tales como el aseguramiento del rendimiento del sistema, las mejoras adoptadas por la existencia de sesgos e incidentes éticos, y los procedimientos de control de gestión de accesos, actualizaciones y autenticaciones.

En la última sección, las directrices plantean varias cuestiones relacionadas con el post-ciclo de la IA, reconociendo que cada etapa requiere una evaluación constante tanto de los cambios como de los riesgos, la designación de personas responsables de contener y remediar los daños generados por la IA, así como el registro adecuado de las acciones de rendición de cuentas y responsabilidad para el aprendizaje y la mejora en los procesos.

Como se mencionó, estas directrices son un primer conjunto de recomendaciones dirigidas al sector público que siguen, en muchos aspectos, principios internacionales, como por ejemplo los de la UNESCO. Queda por ver cómo y si serán seguidas por el sector público, y si tendrían algún peso en el sector privado. Al mismo tiempo, muchos esperan que los distintos organismos públicos reguladores, como por ejemplo la Autoridad de Protección de Datos, trabajen conjuntamente con la Subsecretaría de Tecnologías de la Información y otros organismos para elaborar un conjunto de recomendaciones más exhaustivo que aborde la IA desde muchos ángulos distintos, incluida la privacidad y la protección de datos, así como la Propiedad Intelectual.