El cuidado que hay que tener al aplicar la Inteligencia Artificial en el sector público

Por Gregorio Montero

En varios escritos, incluidos artículos publicados en este medio, hemos intentado llamar la atención sobre las implicaciones que tiene el despliegue de soluciones y herramientas de inteligencia artificial en las instituciones gubernamentales, eso sí, siempre teniendo claro que ella es una realidad indiscutible, imposible de evadir, que vino para quedarse, y que podría ser utilizada de forma correcta. Pero otra verdad incontestable es que hay quienes, por conveniencia o por ignorancia, le atribuyen efectos mágicos, es lo que ha ocurrido con prácticamente todas las etapas evolutivas y de desarrollo de la tecnología de la información; luego nos damos cuenta de que tales efectos mágicos no existen, y en consecuencia, llegan  las frustraciones, pues la tecnología es solo un medio.

No cabe duda en que la IA puede ayudar a resolver problemas públicos. Está demostrado que sus aportes en el diseño, aprobación, ejecución y evaluación de las políticas públicas pueden ser infinitos. Eso no admite contestación. La cuestión es que sobre la marcha se deben entender con precisión los serios inconvenientes que a su vez ella presenta para el Estado y para la ciudadanía. Por eso, la autoridad pública debe ser capaz de dejar las emociones a un lado y asumir el uso de la inteligencia artificial apoyándose en principios de la gestión pública que son determinantes, como interés general, eficiencia, transparencia, objetividad y responsabilidad; es un error peligroso creer y hacer creer que esta es la panacea y que podrá lograr lo que el ser humano no ha podido.

Hemos mencionado en otros trabajos que la inteligencia artificial enfrenta desafíos asociados a discriminaciones y distorsión de datos, opacidad generada por los algoritmos en la prestación de servicios y la toma de decisiones públicas, reemplazo de los humanos por las máquinas y complicación de los entornos laborales, regulación efectiva, vulneración de derechos fundamentales, brechas digitales y los riesgos de exclusión social, dilemas éticos, que se tornan más sensibles en el sector público, aprehensión y desconfianza de la ciudadanía.

En el presente artículo nos aprestamos a dilucidar algunos factores que entendemos de cuidado, los que no suelen valorarse al momento de decidir sobre la implementación de la IA en el sector público.

Uno. La inteligencia artificial, en cualquiera de sus niveles o etapa evolutiva, es un negocio, mejor dicho, un gran negocio, como lo ha sido y lo es cualquiera otra manifestación del desarrollo de la tecnología de la información y la comunicación, en consecuencia, las autoridades estatales deben ser cautas con quienes producen y venden las soluciones, ser conscientes de que estas empresas lo que procuran en principio es su propio beneficio, nada criticable. Lo objetable es que pueden generar, como de hecho ocurre, falsas necesidades en las instituciones públicas, solo procurando colocar sus productos sin reparar necesariamente en si son ellos los que realmente se requieren para mejorar la prestación del servicio y la toma de decisiones.

Es vital que los entes y órganos gubernamentales, esta es una gran responsabilidad, cuenten con personal especializado para que previo a la requisición y compra de soluciones de IA hagan los estudios pertinentes, que permitan identificar con claridad el problema a resolver, fijar con precisión los objetivos que se quieren lograr, lo que implica metas, indicadores y plazos; también, hay que asegurarse de que es confiable la fuente de datos que servirá de base de información para la implementación de la herramienta de inteligencia artificial que se habrá de adquirir, y de que los procesos sean debidamente definidos, conforme con las normas y las atribuciones de la institución; solo así se puede estar en condiciones de comprar la solución que realmente se necesita.

Dos. La inteligencia artificial no es inteligencia humana o natural, ella solo procesa información y datos reconociendo y haciendo uso de patrones algorítmicos, no sabe de contextos, no construye conocimientos sobre la base del aprendizaje propio, de la conciencia, de la experiencia y de las emociones; ella, utilizando modelos matemáticos, aquí el mayor cuidado, es capaz de procesar grandes volúmenes de información a una velocidad no imaginada. Esto significa que las herramientas de inteligencia artificial actúan y aprenden sobre informaciones que pueden estar distorsionadas, afectadas por prejuicios, como ocurre con frecuencia, por lo que las decisiones que ellas recomiendan a las autoridades se pueden ver afectadas por los mismos sesgos.

Es responsabilidad de la Administración Pública reducir o neutralizar este importante problema, lo que es posible solo si se entiende la importancia que tienen los datos para que la inteligencia artificial pueda hacer correctamente su tarea y si se actúa en consonancia con ello, que implica, obligatoriamente, disponer de datos que tomen en cuenta todos los factores y escenarios sociales y administrativos, lo que implica a su vez contar con equipos multidisciplinarios de personas al servicio de las instituciones estatales, encargados de hacer los desarrollos identificando los potenciales prejuicios que permitan ajustar los modelos matemáticos. En el mismo tenor, se debe asegurar la supervisión permanente de los humanos a los algoritmos que se implementan.

Tres. El tercer y último cuidado que citamos tiene que ver con la ética y la integridad en el uso de la inteligencia artificial, que en el sector público es un imperativo especial, pues hay que reconocer que la IA no responde a una regulación homogénea, por lo raudo que ha sido su avance, la discrecionalidad en su manejo está sumamente presente, lo que dificulta el control; los modelos imponen ámbitos en los que la transparencia no opera, por el contrario, impera una opacidad tal que no permite saber ni explicar bajo qué condiciones las máquinas toman ciertas decisiones administrativas en el gobierno, siendo que estas pueden afectar derechos de las personas. Los humanos, las autoridades públicas deben ser siempre quienes tomen las decisiones.

Con frecuencia se olvida que la IA maneja de forma masiva datos de las personas, lo que pone en riesgo la seguridad física y jurídica de los ciudadanos y ciudadanas, respecto de esto se suele actuar de manera muy irresponsable; la dimensión ética de la IA impone que los sistemas informáticos que se utilizan sean explicados con transparencia a la ciudadanía, así como la manera en que las autoridades estatales se asisten para la toma de sus decisiones de los algoritmos que les acompañan, y en qué medida dichas decisiones favorecen el interés general.

El despliegue de la inteligencia artificial debe constituirse en un medio para que el gobierno gane la confianza de la ciudadanía, en consecuencia, la observación de principios éticos y morales es una cuestión mayor.

En sentido general, el gran dilema ético que se presenta, aun en tiempos de la inteligencia artificial, y los intereses particulares que esta envuelve, es que para que el Estado subsista los valores de la justicia, la igualdad y el interés general resultan innegociables; el avance de estas herramientas está provocando grandes preocupaciones, por lo que se exigen normas y comportamientos que garanticen dichos valores, tanto en los gobernantes como en los gobernados; también se exigen regulaciones y supervisión humana en el manejo de la IA.

Luciano Floridi (2023), filósofo y profesor italiano, propuso un marco de principios para regular la inteligencia artificial, basado en beneficio, no perjuicio, autonomía, justicia y transparencia o explicabilidad.

Para el también filósofo británico, escritor y profesor de la Universidad de Oxford, Nick Bostrom (2014), la ética de la IA es un tema de interés, y ha hecho su aporte estableciendo la necesidad de que las herramientas de inteligencia artificial estén alineadas con los valores e intereses de la especie humana. Su atención y análisis parten de los peligros que encierra el hecho de que esta supere las capacidades humanas y luego no responda ni sea coherente con los derechos y bienestar de la gente, que es el supuesto básico de su creación y desarrollo.

La inteligencia artificial en la Administración Pública es un hecho, nadie duda sobre su necesidad y utilidad, pero cuidado, sometida siempre a los designios y a la supervisión de los humanos, es decir, de los servidores públicos. Ese es el imperativo ético y moral.