No caben dudas que nos encontramos transitando una nueva revolución industrial, la cual, en palabras del Dr. Corvalán, se vincula con varios fenómenos, tales como la nanotecnología, biotecnología, robótica, internet de las cosas, impresión 3d y primordialmente, el desarrollo de la Inteligencia Artificial (en adelante, “IA”)[1].
Dicho especialista destaca que los dos grandes fenómenos que originaron esta revolución son:
“1) la mutación exponencial de las nociones de espacio y tiempo a partir del uso masivo de nuevas tecnologías de la información y de la comunicación; y,
2) la transformación en la forma de procesar los datos y la información en muchas actividades que antes sólo podían ser realizadas por nuestros cerebros”[2].
La autora en cita explica que esta etapa no se define por un conjunto de tecnologías emergentes en sí mismas, sino por la completa digitalización de las cadenas de valor a través de la integración de tecnologías de procesamiento de datos, software inteligente y sensores[3].
Ahora bien, en atención a lo novedoso que resultan los fenómenos mencionados en el primer párrafo y al vacío legislativo existente en lo que atañe a su regulación (el cual, adelantamos, prontamente va a requerir de una solución), consideramos necesario brindar una definición de aquel que será tratado a lo largo del presente trabajo.
Corresponde entonces precisar qué se entiende por IA.
Al respecto y, con atino, el Dr. Diego Fernández ha destacado que no existe una definición establecida y unánimemente aceptada de IA. Sin perjuicio de ello, señala que “se trata de un concepto que engloba muchas otras (sub)áreas como la informática cognitiva (cognitive computing: algoritmos capaces de razonamiento y comprensión de nivel superior -humano-), el aprendizaje automático (machine learning: algoritmos capaces de enseñarse a sí mismos tareas), la inteligencia aumentada (augmented intelligence: colaboración entre humanos y máquinas) y la robótica con I.A. (I.A. integrada en robots)”[4].
En similar sentido, el Grupo Independiente de Expertos de Alto Nivel sobre Inteligencia Artificial, creado por la Comisión Europea en junio de 2018, tiene dicho que la IA es una disciplina científica que incluye varios enfoques y técnicas, como el aprendizaje automático (del que el aprendizaje profundo y el aprendizaje por refuerzo constituyen algunos ejemplos), el razonamiento automático (que incluye la planificación, programación, representación y razonamiento de conocimientos, búsqueda y optimización) y la robótica (que incluye el control, la percepción, sensores y accionadores así como la integración de todas las demás técnicas en sistemas ciberfísicos)[5].
Por su parte, Torres Manrique ha definido a la IA como “la rama de las ciencias de la computación que estudia el software y hardware necesarios para simular el comportamiento y comprensión humanos. El objetivo último de la IA es simular la inteligencia humana en una máquina creando robots que sean conscientes y con sentimientos reales, similares a los humanos…”[6].
Por otro lado, Susana Navas Navarro ha comentado que a través de la IA se trata de emular las diversas capacidades del cerebro humano para presentar comportamientos inteligentes sintetizando y automatizando tareas intelectuales. De ahí que sea potencialmente aplicable a cualquier ámbito de la actividad intelectual humana. De hecho, emplea técnicas y conocimientos propios de otras disciplinas tales como filosofía, economía, estadística, ingeniería, neurociencia, psicología y, por supuesto, las matemáticas[7].
Ahora bien, para poder simular la inteligencia humana, la IA se vale de algoritmos de variada complejidad, siendo estos un conjunto de pasos determinados y finitos, escritos en lenguaje informático, que se aplican a un input, y que permiten alcanzar un resultado (el output), el cual consiste en la solución a un problema.
I.2. Administración Pública Digital
A raíz de los cambios originados por la mencionada revolución, los cuales impactaron hasta en la forma de hacer y pensar de los seres humanos, naturalmente se debió reconfigurar la relación entre el ciudadano y el Estado[8].
En consecuencia, comenzó a surgir el Gobierno Digital o Administración Electrónica. Esta última consiste en el uso de las tecnologías de la información y comunicación (en adelante, “TIC”) en las administraciones públicas, combinado con cambios organizativos y nuevas aptitudes, con el fin de mejorar los servicios públicos, los procesos democráticos y reforzar el apoyo a las políticas públicas.
Lo que se busca con este nuevo modelo de Administración Pública (en adelante, “Administración” o “AP”), es obtener su transformación institucional y organizativa, dando lugar a una Administración abierta, colaborativa, creativa e innovadora, pero a la vez sólida, predecible y constante.
En este contexto, el Dr. Corvalán, tiene dicho que:
“una óptima Administración necesariamente debe incluir el tsunami vinculado a las TIC más modernas. No es sólo un cambio de nombre o una mera actualización de conceptos, sino que se trata de repensar una organización que será atravesada por las innovaciones más disruptivas que ha creado el ser humano en toda su historia”[9].
Dicha transformación (llamada por el Dr. Corvalán “ola de digitalización”), que viene teniendo lugar en varias administraciones públicas, tienen su fundamento legal en múltiples resoluciones o recomendaciones de organismos internacionales (Organización de las Naciones Unidas, Organización de los Estados Americanos, Centro Latinoamericano de Administración para el Desarrollo). Estas normas vinculan al desarrollo sostenible de los países con la implementación del Gobierno y de la Administración Digital[10].
En el ámbito nacional, desde hace unos años se viene transitando un camino legislativo relacionado con la implementación de las TIC, en el cual consideramos que el Plan de Modernización Nacional, aprobado mediante el decreto N°. 434/16, constituye la norma más relevante. Mediante este plan, se abordan buenas prácticas en materia de simplificación, las cuales al día de la fecha podríamos afirmar que consisten en mandatos vinculantes.
Conforme lo señala el Dr. Corvalán en la obra ut supra citada, la mencionada norma se asienta en principios que asumen un rol central en la era digital, como, por ejemplo: los de simplificación, reducción (de costos, complejidad, cargas, tiempos, etc.), agilidad, facilitación, flexibilidad, coordinación, comunicación y cooperación.
Dicho esto, cabe señalar que dentro de la Administración pueden distinguirse dos grandes dimensiones en las cuales resulta viable la implementación de las TIC y, en lo que aquí interesa, IA; todo ello con el fin de optimizarla. Así, por un lado, encontramos lo que comúnmente se denomina backoffice, que comprende las tareas y procedimientos internos, mientras que por el otro tenemos el frontoffice, que abarca la vinculación con los ciudadanos.
En el presente trabajo nos centraremos en el estudio de la primera de estas dimensiones y, dentro de esta, en el procedimiento administrativo que debe cumplir la Administración para aplicar sanciones de carácter disciplinario al personal a su servicio (característico de la relación de empleo público).
En otras palabras y para ser precisas, analizaremos la posibilidad de implementar IA en una de las fases que componen el procedimiento disciplinario, esto es: en la elaboración del dictamen jurídico emitido por el servicio permanente de asesoramiento jurídico.
Previo a adentrarnos en el tema que nos ocupa, no queremos dejar de mencionar que, ya sea que la IA se implemente en la esfera de la actividad interna de la Administración o en su relación con los ciudadanos, esta nueva herramienta tecnológica siempre debe ser funcional a los intereses de la humanidad y no al revés.
II. Desarrollo y aplicación de la IA en el procedimiento disciplinario [arriba]
II.1. Breve reseña sobre el poder disciplinario de la Administración en la relación de empleo público
Para una mejor comprensión del tema objeto de este trabajo, creemos conveniente comenzar recordando qué es la relación de empleo público. En palabras del maestro Comadira, es aquella que:
“se establece cuando una persona es investida por la Administración Pública, conforme a los procedimientos o modalidades legales que correspondan, para el desempeño de una función o empleo públicos, que acepta cumplir voluntariamente con cierta permanencia, y por lo general en forma remunerada”[11].
Respecto de la naturaleza jurídica de esta relación, hoy en día tanto la doctrina como la jurisprudencia se muestran unánimes en considerarla un contrato administrativo.
Dentro de esta relación contractual, una de las potestades de las cuales goza la Administración es la de dirigir y controlar a sus agentes. Como consecuencia de ésta, la AP posee la facultad de sancionar las conductas de los integrantes que afecten su adecuado funcionamiento. Dichas conductas son las denominadas “faltas disciplinarias” y son definidas como “todo acto u omisión del funcionario o empleado público, intencional o culposo, que viola los deberes funcionales que aquéllos deben observar y cumplir”[12].
En la Ley Marco de Regulación de Empleo Público, N° 25.164 (en adelante, “LMREP”) y su decreto reglamentario 1421/02, normas que regulan estas relaciones a nivel nacional, se establece que el personal puede ser objeto de las siguientes sanciones disciplinarias: apercibimiento, suspensión de hasta treinta días, cesantía y exoneración[13].
Asimismo, y en lo que aquí interesa, el mencionado decreto 1421/02 habilita a los agentes amparados por la estabilidad que ella regula, a impugnar las sanciones que se les impongan, por la vía administrativa común y, una vez agotada ésta, acudir a sede judicial o recurrir directamente por ante la Cámara Nacional de Apelaciones en lo Contencioso Administrativo Federal o por ante las cámaras federales con asiento en las provincias, según corresponda conforme al lugar de prestación de servicios del agente[14].
Ahora bien, relacionado con el marco normativo recién mencionado cabe traer a colación la norma más relevante en la materia: el Decreto 467/99, que aprueba el Reglamento de Investigaciones Administrativas (en adelante “RIA”), el cual establece un procedimiento administrativo especial a seguir para llevar a cabo las investigaciones adecuadas para determinar la responsabilidad disciplinaria de los agentes de la Administración Pública Nacional.
En lo que a la naturaleza jurídica de este tipo de sanciones respecta, el juez Uslenghi ha sostenido que la sanción disciplinaria es ajena a la actividad jurisdiccionalmente represiva, siendo propia de la actividad interna de la Administración. Es por ello que el control judicial de las decisiones emanadas del ejercicio de una potestad inherente a la AP (como es, en este caso, la potestad disciplinaria), es limitado, ya que, de lo contrario, el juez se estaría inmiscuyendo en una esfera propia del órgano ejecutivo, violando de esta forma el principio de división de poderes[15].
Ahora bien, sin perjuicio del encuadre del derecho disciplinario dentro del derecho administrativo y de caracterizar al poder disciplinario como propio de la esencia misma de la organización administrativa, no puede pasarse por alto el hecho de que todo procedimiento sancionador debe implicar la realización del correspondiente sumario administrativo[16], a fin de conceder la posibilidad al imputado de ejercer su derecho de defensa.
En este orden de ideas, vale mencionar que, en la LMREP, se establece que los procedimientos de investigación deben garantizar el derecho de defensa en juicio y que los agentes comprendidos en su régimen gozan del derecho al debido proceso adjetivo, contemplado en el art. 1, inciso f) de la Ley Nacional de Procedimientos Administrativos, N° 19.549 (en adelante “LNPA”)[17].
En igual sentido, en el RIA se prevé que todo proceso sumarial, debe estar regido por el principio “in dubio pro reo”. Así, en el art. 52 se dispone que: “[e]n caso de duda deberá estarse siempre a lo que sea más favorable al sumariado”.
II.2. El sumario administrativo
La Dra. Del Río tiene dicho que:
“el objetivo del sumario no puede ser otro que abrir una instancia previa a la condena, para que la Administración pueda verificar -en un caso concreto- si la infracción alegada se ha cometido, para lo que resulta ineludible escuchar al imputado en forma previa…”[18].
Este procedimiento, el cual puede iniciarse de oficio o por denuncia, es instruido en la jurisdicción donde se produce el hecho y su sustanciación, la cual tiene lugar en la oficina de sumarios del área respectiva y se desarrolla en forma actuada (en un expediente, siguiendo el orden cronológico de días y horas), está a cargo de funcionarios letrados de planta permanente[19].
La instrucción del sumario en el caso de la Administración Pública centralizada es dispuesta por autoridad de jerarquía no inferior a Subsecretario, mientras que, en el caso de los organismos jurídicamente descentralizados, es dispuesta por la autoridad superior o por aquella en la que ésta delegue esa facultad; siendo necesario en todos los casos dictamen previo del servicio jurídico permanente[20].
El acto que resuelve la instrucción del sumario debe “indicar las circunstancias de lugar, tiempo y modo de ejecución del hecho u omisión objeto de investigación”[21].
El desarrollo del sumario es llevado a cabo por los instructores[22], quienes gozan de independencia funcional.
Una vez desarrollada la investigación, el instructor dispone la clausura del sumario, produciendo para tal fin un informe de instrucción que debe contener el fiel relato de las circunstancias investigadas, las pruebas colectadas, su correspondiente valoración y el juicio de responsabilidad que corresponda efectuar[23]. Este informe es notificado al sumariado en forma fehaciente para que tome vista de las actuaciones dentro de un plazo de 3 (tres) días.
En esta etapa, el sumariado tiene la posibilidad de efectuar su defensa y proponer las medidas de prueba que estime oportunas, con asistencia de su letrado, si así lo deseare, dentro del plazo de 10 (diez) días a partir del vencimiento del plazo para tomar vista de las actuaciones. Si transcurrido aquel plazo, el sumariado no ejerce su defensa, se le da por decaído este derecho.
Producida la prueba ofrecida por el sumariado, el instructor la analiza y emite un informe en consecuencia[24]. Elaborado este informe, el instructor remite las actuaciones a la Fiscalía de Investigaciones Administrativas para que alegue sobre el mérito de la prueba y el informe aludido[25] y luego, se notifica al sumariado para que pueda alegar sobre el mérito de la prueba y de estos informes.
Por último, previo dictamen del servicio jurídico permanente, el decisor resuelve aplicar o no la sanción. La resolución sancionadora, la cual tiene que ser notificada a las partes, debe declarar:
“a) la exención de responsabilidad del o de los sumariados; b) la existencia de responsabilidad del o de los sumariados y la aplicación de las pertinentes sanciones disciplinarias; c) la no individualización de responsable alguno; d) que los hechos investigados no constituyen irregularidad y e) en su caso, la existencia de perjuicio fiscal y la pertinente autorización al servicio jurídico respectivo para la iniciación de las acciones judiciales correspondientes, cuyo ejercicio recién se llevará a cabo cuando se haya intentado previamente su cobro en sede administrativa con resultado infructuoso y en la medida que no resulte antieconómico, todo ello en los términos del Decreto 1154/97”[26].
Resulta importante destacar que, constituyen requisitos indispensables de validez de este proceso, por un lado, la participación del sumariado, a quien debe reconocérsele el derecho a ser oído, a ofrecer y producir pruebas y a obtener una decisión fundada, y por el otro, la intervención del servicio jurídico permanente, el cual, mediante el dictamen jurídico previo, realiza el debido control de legalidad del procedimiento.
II.3. La IA y el sumario administrativo
Teniendo en cuenta los beneficios de la implementación de IA en la AP y asimismo, tomando como ejemplo el exitoso caso de “Prometea”, (primer sistema de inteligencia artificial predictiva al servicio de la Justicia que permite realizar un dictamen jurídico de manera íntegra)[27], en los párrafos siguientes analizaremos la posibilidad de utilizar dicho sistema de IA para elaborar el referido dictamen jurídico previo, ya que consideramos que ello dotará de mayor eficiencia, celeridad y eficacia al procedimiento sumario.
No obstante, estimamos que, en atención a las particularidades propias de cada procedimiento y órganos intervinientes, es probable que sea necesario realizar ciertas adaptaciones en aquel sistema en forma previa a su aplicación.
En primer lugar, queremos dejar en claro que, si bien la IA reporta múltiples beneficios al procedimiento y por ello su uso debe ser cada vez mayor y más extendido, entendemos que hay ciertos actos que necesariamente deben ser llevados a cabo por seres humanos. Esto, por supuesto, no quiere decir que aquellos no puedan valerse de otras herramientas tecnológicas comprendidas dentro de las llamadas TIC[28].
Cabe traer como ejemplo, los actos relacionados con la recolección y producción de prueba. En este sentido, resulta inimaginable que una máquina establezca la fecha de una audiencia testimonial, tome las declaraciones, labre el acta y la haga firmar al testigo. Igual suerte corre la realización de careos, declaraciones efectuadas por oficio, desarrollo de peritajes, confección de croquis, entre otros.
Hecha esta aclaración, pasaremos al desarrollo del tema que nos ocupa.
Como indicamos en el acápite anterior, una vez finalizada la investigación, el órgano decisor emite un acto administrativo en virtud del cual pondera la existencia de responsabilidad del o de los sumariados y la aplicación de las pertinentes sanciones disciplinarias; todo ello, previa intervención, dictamen mediante, del servicio jurídico.
Dicho dictamen, si bien reviste suma importancia, porque a través de éste se realiza el control de legalidad, de la práctica se desprende que, al momento de su elaboración en la gran mayoría de los casos, suelen utilizarse “modelos de dictámenes”, por cuanto gran parte de su contenido suele mantenerse invariable a lo largo de los distintos casos y del tiempo. Ello se debe a la gran similitud que presentan los casos en materia disciplinaria. Esta similitud permite que, mediante un proceso analítico, crítico y de valoración de la escueta variedad de casos que se tramitan, los operadores administrativos elaboren un número determinado de modelos de dictámenes, que será utilizado para casos futuros, y en los cuales solamente mutará la parte descriptiva de los hechos del caso concreto.
A mero título ejemplificativo, dentro de estos casos reiterativos pueden encontrarse los sumarios que se inician por las siguientes causales: asistencias injustificadas, incompatibilidades, pérdida o sustracción de bienes pertenecientes a la Administración, entre otros.
Es por ello que nos parece viable que dicho dictamen sea elaborado utilizando el sistema de IA “Prometea” (y aquí reiteramos, mediando las adaptaciones necesarias para su aplicación a este procedimiento administrativo).
De conformidad con el funcionamiento de “Prometea” descripto por el Dr. Corvalán[29], entendemos que la elaboración del dictamen podría desarrollarse de la siguiente manera.
Llegado el expediente a dictaminar al área referida, mediante comando de voz en un celular o mediante un chat, el empleado activaría dicho sistema de IA predictiva. A través de un intercambio de información entre el empleado y el sistema, en el cual este último le preguntaría número del expediente de Gestión Documentación Electrónica (conocido como “GDE”) por el cual tramita el sumario en cuestión, datos del sumariado, área donde se desempeña, acción u omisión investigada, sanción propuesta por el instructor, el sistema detectaría el modelo aplicable al caso, como así también, avisaría al operador que, en atención a las particularidades del caso, no existe modelo. Por ejemplo, si nos encontráramos ante un caso en el cual se analizará la situación de un agente que tiene varias inasistencias sin justificar, el sistema detectaría el modelo de dictamen que incluye las normas que contemplan ese deber y su correspondiente sanción por incumplimiento.
Una vez elegido el modelo correspondiente, “Prometea” ofrecería a la persona la posibilidad de completar los datos faltantes, hasta llegar al punto en el que le diga "dictamen completado". Luego, el empleado podría ordenarle al sistema que imprima[30], que descargue el dictamen o que lo envíe por mail o a una red interna para que sea corregido.
En esta etapa, consideramos sustancial que, en caso de que se haya presentado un descargo, el operador controle y verifique que en el dictamen se les haya dado tratamiento suficiente a los argumentos vertidos por el sumariado en aquel.
Ahora bien, resulta importante destacar que, con acierto, en el diseño de este sistema de IA, se previó la intervención ineludible de un ser humano.
Esto último reviste gran importancia en el dictamen jurídico bajo estudio en el presente trabajo, el cual, tal como lo ha expresado la Procuración del Tesoro de la Nación en Dictámenes 283:304 y 286:69:
“…consiste en el análisis exhaustivo y profundo de una situación jurídica determinada, efectuada a la luz de las normas vigentes y de los principios generales que las informan, a efectos de recomendar conductas acordes con la justicia y el interés legítimo de quien formula la consulta”.
Es decir que, toda vez que el dictamen jurídico resulta significativo en el sumario administrativo, por cuanto mediante este se realiza el control de legalidad del procedimiento, deviene inexcusable el control por parte del empleado que, valiéndose de IA, lo elaboró como también por el responsable del área; en ambos casos, en forma previa a su firma.
Mediante este control, se garantiza la veracidad del contenido del documento, la corrección de cualquier error que tenga, como así también su integridad. Todo ello, garantiza el derecho de defensa del sumariado.
Siguiendo esta línea argumental y, de acuerdo a lo explicado precedentemente, en la última etapa del procedimiento sumario, las actuaciones son enviadas a la autoridad competente para que esta dicte el acto administrativo que da cierre al sumario.
Creemos que un próximo paso consistirá en considerar la posibilidad de utilizar el sistema de IA descripto para la elaboración del proyecto de acto administrativo.
En este escenario, la autoridad decisora emitiría el acto sancionador valiéndose de la IA, pero siempre mediante intervención del hombre, tanto a lo largo de la elaboración (mediante intercambio de información con la máquina) como previo a la firma de aquel.
En este sentido, cabe aclarar que no nos estamos refiriendo a la utilización de “actuación administrativa automatizada”, la cual es realizada íntegramente por medios electrónicos, sin intervención de persona física[31], por cuanto consideramos que a fin de salvaguardar el derecho de defensa del sumariado, resulta imprescindible la revisión del acto por la persona. Al respecto, consideramos que estos tipos de actos administrativos son una buena solución para actos reglados, no así para actos discrecionales.
En nuestra opinión, la introducción de TIC al procedimiento brindará muchas ventajas a todos los sujetos intervinientes, como ser la reducción de los plazos y costos, optimización de recursos, ya que los empleados destinarán menos tiempo a tareas rutinarias, mayor celeridad y eficacia. Ello, no solo simplificará el trabajo de los agentes, sino que evitará que el sumariado sufra un proceso largo y tedioso.
A su vez, es un dato real que la IA tiene mayor capacidad de almacenamiento, procesamiento y los tiempos de respuesta son mucho mejores que un humano de cualquier edad.
Otra ventaja que puede destacarse es la “predicción de la conducta estatal”, esto quiere decir que la tecnología podría anticipar, en este caso al sumariado, la decisión. Asimismo, la IA servirá para reducir la arbitrariedad y mejorar el control y la transparencia sobre la actuación administrativa[32].
No está de más mencionar que los algoritmos no son confiables en un 100 % y que es probable que cometan errores, al igual que lo hacemos nosotros, los humanos. Sin embargo, podemos afirmar que la experiencia nos ha demostrado que las máquinas suelen equivocarse mucho menos que nosotros y suelen tener más precisión, más cuando de tareas rutinarias se trata.
Relacionado con esto último, en un estudio de la Organización para la Cooperación y el Desarrollo Económicos (en adelante “OCDE”), en el cual se evaluaron tres habilidades cognitivas particulares (alfabetización, aritmética y resolución de problemas en entornos digitales) en 216.000 adultos de más de 40 países, se obtuvieron los siguientes resultados: sólo el 13 % de los trabajadores (que incluían profesionales del derecho, pero no se limitaban a ellos) tuvo un mejor desempeño que las computadoras[33].
No obstante, no se nos escapa que en el ámbito doctrinario ha surgido la preocupación de que, tal como lo señala la Dra. Reyes Olmedo, los algoritmos puedan tomar decisiones que pongan en jaque derechos fundamentales de individuos[34].
En efecto, consideramos que un primer paso para evitar ello, consiste en asegurar que al sistema se le proporcione información y programe de tal manera que al momento de funcionar no se base en distinciones que violen el principio de igualdad y no discriminación.
Por otra parte, también debe obviarse “la utilización de sistemas de IA con código fuente cerrado o que no se pueda inferir el procedimiento subyacente (“caja negra”)” [35], ya que esta falta de transparencia e imposibilidad de trazabilidad algorítmica, redunda en la afectación directa del derecho a una tutela administrativa efectiva.
Dicho todo esto y, en atención a la velocidad con la cual se está desenvolviendo la IA, creemos que resulta necesario contar con un marco regulatorio específico que reglamente el diseño, desarrollo y uso legítimo de esta herramienta tecnológica.
Ahora bien, el diseño de este marco regulatorio, en el cual tiene que contemplarse en primer lugar que las nuevas tecnologías están obligadas a respetar y garantizar la dignidad del hombre, debe estar guiado por una serie de principios tales como los de transparencia, trazabilidad, auditabilidad periódica, responsabilidad, seguridad, control humano, bien común, entre varios otros.
A modo de ejemplo, a continuación, señalaremos una serie de instrumentos en los cuales se han estipulado reglas, compatibles y respetuosas de los derechos fundamentales del hombre, que deben dirigir el proceso de diseño y empleo de IA.
Así, la Dra. Reyes Olmedo indica que, en el Reglamento General de Protección de Datos de la Unión Europea[36], pionero en la regulación de la toma de decisiones a través de medios automatizados, se requiere a los organismos que manejan algoritmos que realicen un procesamiento justo y transparente, y que expliquen la manera cómo los sistemas automatizados toman decisiones, especialmente aquellas que afectan significativamente sus vidas individuales[37].
Igualmente, se establece el derecho del interesado, en aquellos casos en los cuales se encuentre ante una decisión automatizada, a solicitar y obtener la “información significativa sobre la lógica aplicada, así como sobre la importancia y las consecuencias previstas de dicho tratamiento para el interesado”[38].
Asimismo, se dispone que todo interesado tendrá derecho a no ser objeto de una decisión basada únicamente en el tratamiento automatizado, que produzca efectos jurídicos en él o le afecte significativamente de modo similar[39].
Por otro lado, se encuentran las “Directrices Éticas para una IA fiable” documento que ha sido elaborado por un Grupo de expertos de alto nivel sobre inteligencia artificial, constituido por la Comisión Europea en junio de 2018[40].
En este se definió que toda IA fiable debe ser:
a) legal, es decir que debe respetar todas las leyes y regulaciones aplicables,
b) ética, por cuanto debe respetar principios y valores éticos; y
c) robusta, tanto desde una perspectiva técnica como teniendo en cuenta su entorno social.
Sobre la base de estos componentes esenciales, se estableció una lista no exhaustiva de requisitos clave que deben cumplir los sistemas de la IA para ser considerados confiables.
En el primero de ellos se dispone que “los sistemas de AI deben empoderar a los seres humanos, permitiéndoles tomar decisiones informadas y promover sus derechos fundamentales”. En el segundo, se contempla la robustez y seguridad de la que deben estar dotados los sistemas de IA, los cuales “[d]eben garantizar un plan de recuperación en caso de que algo salga mal, además de ser precisos, confiables y reproducibles, garantizando también que se puedan minimizar y prevenir los daños no intencionados”. En el tercero, se prevé que dichos sistemas deben garantizar la privacidad y protección de los datos, como también garantizar mecanismos adecuados de control de datos, “teniendo en cuenta la calidad e integridad de los datos”, garantizándose asimismo el acceso legítimo a los datos. En el cuarto se establece que el sistema de IA debe ser transparente y que sus decisiones deben poder ser explicadas a los interesados de manera tal que sea comprensible por éstos. Agrega que “[l]os seres humanos deben ser conscientes de que están interactuando con un sistema de IA, y deben estar informados de sus capacidades y limitaciones”.
Además, y en lo que aquí interesa, se determina que los sistemas de IA deben beneficiar a todos los seres humanos, incluidas las generaciones futuras. “Por tanto, debe garantizarse que sean sostenibles y respetuosos con el medio ambiente”. Por último, se proclama la existencia de mecanismos para garantizar la responsabilidad y la rendición de cuentas de los sistemas de IA y sus resultados. En este sentido, se dispone que la “capacidad de auditoría, que permite la evaluación de algoritmos, datos y procesos de diseño, juega un papel clave, especialmente en aplicaciones críticas”. Agrega que debe garantizarse una reparación adecuada y accesible.
Para finalizar, cabe mencionar que el 22 de mayo del año 2019, la OCDE, junto con países socios (dentro de éstos, Argentina), suscribió “Los Principios de la OCDE sobre la Inteligencia Artificial”, instrumento que comprende cinco principios básicos basados en valores para el despliegue responsable de una IA fiable y cinco recomendaciones en materia de políticas públicas y cooperación internacional[41].
Dichos principios establecen que
(i) las partes interesadas deben administrar en forma responsable la IA, buscando que con ella se obtengan resultados beneficiosos para las personas y para el planeta;
(ii) el uso de la misma respete el Estado de derecho, los derechos humanos y los valores democráticos;
(iii) quienes utilicen la IA deben comprometerse con la transparencia y divulgación responsable respecto de los sistemas de esta herramienta;
(iv) los sistemas de IA han de funcionar con robustez, de manera fiable y segura durante toda su vida útil, y los potenciales riesgos deberán evaluarse y gestionarse en todo momento; y que:
(v) las organizaciones y las personas que desarrollen, desplieguen o gestionen sistemas de IA deberán responder de su correcto funcionamiento en consonancia con los principios precedentes.
Previo a finalizar este trabajo, no queremos dejar de mencionar que los algoritmos de inteligencia artificial han sido implementados con resultados positivos en diversos ordenamientos jurídicos.
Así, en los Estados Unidos se creó un programa denominado “COMPAS”, el cual elabora evaluaciones de riesgo de reincidencia.
Respecto del uso de esta herramienta, es importante resaltar el fallo “State v. Loomis” en el cual la Corte Suprema de Wisconsin sostuvo que el uso de una evaluación de riesgo algorítmico en la sentencia de un tribunal de primera instancia no viola los derechos de debido proceso, aunque la metodología utilizada para realizar la evaluación no fue divulgada ni a la Corte ni al acusado[42].
Dicha Corte, ante los argumentos del demandado sobre la presunta violación de su derecho de defensa, indicó que COMPAS utilizaba solo los datos disponibles públicamente y los proporcionados por el demandado, concluyendo que Loomis podría haber negado o explicado cualquier información que se haya incluido en la elaboración del informe y, por lo tanto, no se vio disminuido su derecho de defensa.
Sin embargo, destaca el Dr. Granero en el artículo en cita, que:
“la juez Bradley agregó que los jueces deben actuar con precaución al usar dichas evaluaciones de riesgo como las indicadas por COMPAS y que los puntajes de riesgo no pueden usarse ‘para determinar si un delincuente debe quedar encarcelado’ o ‘para determinar la severidad de la pena’, instando a los tribunales a que cuando utilizan evaluaciones de riesgo deben explicar los factores que respaldan la sentencia”[43].
Otro ejemplo es el caso del autovelox italiano. Allí, un sistema informático, preparado según los parámetros técnicos que reflejan el contenido de las normas en materia de límites de velocidad en la circulación vial, luego de comprobar a través de las tecnologías adecuadas, que se ha superado el límite fijado, irroga la sanción administrativa prescripta para tal hipótesis y elabora el relativo acto sancionatorio[44].
Entre varios otros casos, se encuentra “Ross”, aplicación para el derecho del sistema informático “Watson”. Explica el Dr. Fernández que esta herramienta realiza búsquedas legales y responde a preguntas de una manera similar a como lo haría un abogado. Para poder hacer esto, analiza su base de datos y llega a una conclusión basada en la ley, la jurisprudencia y en otras fuentes secundarias. Es capaz de generar distintas hipótesis y buscar respuestas, adaptando sus conclusiones al caso en particular. Prepara su respuesta en un lenguaje simple y claro, y además continúa monitoreando la información disponible, luego de su respuesta, para avisarle al abogado si existe algo nuevo que no tuvo en cuenta y que sirva para complementar o modificar su respuesta anterior. Asimismo, el software Ross es capaz de aprender de las preguntas anteriores, por lo que sus respuestas mejoran con el paso del tiempo y del uso[45].
En el transcurso del presente trabajo hemos intentado poner en conocimiento al lector del importante impacto positivo que la IA ha tenido y continúa teniendo en nuestras vidas.
Ante este escenario, consideramos imprescindible que la Administración se adhiera a esta nueva revolución, adoptando esta nueva herramienta tecnológica, la cual como puede observarse de lo mencionado ut supra, brinda mayores beneficios que desventajas.
Pues bien, a fin de concretar una implementación fructífera será necesario contar con un marco normativo que contemple los principios aludidos en los párrafos precedentes, como así también contar con una adaptación cultural y esfuerzo conjunto de todos los agentes que conforman la Administración.
* Abogada con Diploma de Honor (Pontificia Universidad Católica Argentina). Especialista en Derecho Administrativo por la Universidad de Salamanca. Secretaria Privada en el Juzgado N° 7 del Fuero Contencioso Administrativo y Tributario de la Ciudad Autónoma de Buenos Aires. Ex becaria del programa “Santander Universidades”.
**Abogada (Universidad de Belgrano) Especialista en Derecho Administrativo por la Universidad de Salamanca. Jefa de Sección de Gestión de Recursos en la Dirección General de los Recursos de la Seguridad Social de la AFIP.
[1] CORVALÁN, Juan Gustavo, (2017) “La primera inteligencia artificial predictiva al servicio de la Justicia: Prometea”, La Ley, Cita online: AR/DOC/2520/2017.Este autor señala que tanto el Foro Económico Mundial como la Organización Internacional del Trabajo (OIT), destacan que el mundo está atravesando una Cuarta Revolución Industrial. En apoyo de sus dichos cita: “La Iniciativa del centenario relativa al futuro del Trabajo”, nota Informativa. Oficina Internacional del Trabajo, p. 2, 2015 y, “El futuro de los empleos. Habilidades y Estrategia de la Mano de Obra para la Cuarta Revolución Industrial”, Foro Económico Mundial, p. 1, enero 2016, Global Challenge Insight Report, disponible en https://www.weforu m.org/ reports/ the-future-of-jobs; SCHWAB, Klaus, “La Cuarta Revolución Industrial”, Ed. Debate, Barcelona, 2016.
[2] Corvalán, Juan Gustavo (2018) Hacia una Administración Pública 4.0: digital y basada en inteligencia artificial. Decreto de “Tramitación digital completa”, La Ley, Cita Online: AR/DOC/1683/2018.
[3] PERASSO, Valeria. (2016) “Qué es la cuarta revolución industrial (y por qué debería preocuparnos)” BBC Mundo. Disponible en: https://www.bbc.com/mun do/noti cias-37631834
[4] Fernández, Diego, (2017) “El impacto de la inteligencia artificial en el derecho”, La Ley, Cita Online: AR/DOC/2785/2017
[5]Ver en: https://ec.e uropa.eu/dig ital-single-mar ket/en/news/d efinition-artificial -inte lligence-main-ca pabilities-and-scien tific-disciplines.
[6] Torres Manrique, Jorge I., (2020) “Análisis de la relación entre la inteligencia artificial y el derecho. Hacia el arribo del derecho de los robots”. Editorial Astrea. Ver en: https://www.astrea.c om.ar/resourc es/doctrina/d octrina0510.pdf
[7] Navas Navarro, Susana, “Derecho e inteligencia artificial desde el diseño. Aproximaciones”, en Navas Navarro, Susana (directora) “Inteligencia artificial. Tecnología. Derecho”, Tirant Lo Blanch, Valencia, 2017.
[8] Rabán, Melisa y Sá Zeichen Gustavo (2018) “El procedimiento administrativo digital. Un Panorama de su regulación jurídica en Argentina”. Revista Jurídica de Buenos Aires, Año 43, número 96, Buenos Aires.
[9] CORVALAN, Juan Gustavo (2018), “Hacia una Administración Pública 4.0: digital y basada en inteligencia artificial. Decreto de “Tramitación digital completa”. Asimismo, dicho autor ha destacado que a partir de esta transformación aparecen los “tres grandes supraprincipios esenciales” que vincula a las TIC con el derecho administrativo: optimizar, simplificar y maximizar.
[10] Corvalán, Juan Gustavo, (2017) “¿Qué hay de nuevo, viejo? Reformas al procedimiento administrativo nacional (Decretos N° 891/17 y 894/17)” Diario Administrativo N° 176.
[11] Comadira, Julio Rodolfo, “Curso de Derecho Administrativo”, 1ra edición, Abeledo Perrot, Buenos Aires, 2013.
[12] Ob. Cit. en nota al pie N° 11.
[13] Ver art. 30 LMREP.
[14] Ver art. 39 LMREP. Por otra parte, en el Título IV del RIA, en el cual se regula materia recursiva en el ámbito de sanciones no expulsivas, se dispone que tanto el sancionado como la Fiscalía de Investigaciones Administrativas podrán interponer recurso administrativo contra las decisiones finales cuando haya mediado: (i) Inobservancia o errónea aplicación del Régimen Jurídico Básico de la Función Pública, aprobado por la Ley Nº 22.140, que diera lugar a la aplicación de sanciones disciplinarias no expulsivas, (ii) inobservancia o errónea aplicación del presente reglamento y, (iii) inobservancia o errónea interpretación de las normas que otorgan competencia a la Fiscalía de Investigaciones Administrativas en materia de régimen disciplinario.
[15] Uslenhgi, Alejandro, (2002), “Control judicial de la potestad sancionatoria de la administración”, en AAVV “Control de la Administración Pública”, RAP, Buenos Aires.
Así, ejemplo mediante, explica que si ante una falta el órgano administrativo decidiese aplicar la cesantía y este acto fuese impugnado en sede judicial, en el caso en el que el juez entendiese que la falta acreditada no está contemplada dentro de aquellas que dan lugar a la cesantía y que, en cambio, corresponde que sea reprimida con una suspensión; sólo podría anular la cesantía y devolver las actuaciones a la AP, para que ésta adopte la corrección disciplinaria que corresponda, dentro del marco discrecional que le ha habilitado el legislador.
[16] Sin perjuicio de lo afirmado, no se nos escapa la no obligatoriedad del sumario en caso de que se imponga una sanción de apercibimiento o suspensión de 5 (cinco) días o menos, dispuesta en el art. 35 de la LMREP. Sin embargo, entendemos que aún en estos casos, el interesado debe contar con la posibilidad de ejercer su derecho de defensa, por ejemplo, mediante la presentación de un descargo.
[17] Ver arts. 38 y 29, respectivamente.
[18] Del Río, María Morena, “El procedimiento administrativo sancionador”, en Tawil, Guido (dir.), “Procedimiento administrativo”, Abeledo Perrot, Buenos Aires, 2009. En igual sentido, el art. 42 del RIA reza: “El objeto del sumario es precisar todas las circunstancias y reunir los elementos de prueba tendientes a esclarecer la comisión de irregularidades e individualizar a los responsables y proponer sanciones”.
[19] Conforme arts. 4 y 6 del RIA.
[20] Ver art. 44 del RIA
[21] Ver art. 45 del RIA.
[22] Conforme lo dispuesto en el art. 10 del RIA, son deberes de los instructores: a) Investigar los hechos, reunir pruebas, determinar responsables y encuadrar la falta cuando la hubiere; b) Observar las previsiones a efectos de la oportuna intervención de la Fiscalía de Investigaciones Administrativas y, en caso de corresponder, de la Sindicatura General de la Nación; c) Fijar y dirigir las audiencias de prueba y realizar personalmente las demás diligencias que este reglamento y otras normas ponen a su cargo; d) Dirigir el procedimiento...”.
[23] En el art. 108 del RIA se dispone que este informe final deberá contener: “a) La relación circunstanciada de los hechos investigados; b) El análisis de los elementos de prueba acumulados, los que serán apreciados según las reglas de la sana crítica; c) La calificación de la conducta del sumariado; d) Las condiciones personales del o de los sumariados que puedan tener influencia para determinar la mayor o menor gravedad de la sanción por el hecho imputado; e) La opinión y mención de aquellos elementos que puedan configurar la existencia de un presunto perjuicio fiscal, para la ulterior elevación a la Sindicatura General de la Nación, siempre que su contenido patrimonial supere la suma que establezcan conjuntamente la Procuración del Tesoro de la Nación y la Sindicatura General de la Nación. (…) f) Las disposiciones legales o reglamentarias que se consideren aplicables y, en su caso, la sanción que a su juicio corresponda y g) Toda otra apreciación que haga a la mejor solución del sumario”.
[24] Cfr. art. 115 del RIA.
[25] Cfr. art. 116 del RIA.
[26] Cfr. art. 122 del RIA.
[27] Ob. cit. en nota al pie N° 1.
[28] No resulta ocioso mencionar que la implementación de las TIC brinda muchas ventajas, entre ellas, la despapelización, agilidad y transparencia.
[29] Para una explicación detallada sobre su funcionamiento ver ob. cit. en nota al pie N° 1.
[30] Esto, siempre y cuando el expediente se encuentre en formato papel.
[31] Muñoz, Ricardo A. “Inteligencia artificial y derecho administrativo” IJ Editores Argentina, Buenos Aires, 2020.
[32] Ob. cit. en nota al pie N° 31.
[33]Elliott, Stuart W., (2017) “Computers and the future of skill demand, educational research and innovation”, OECD Publishing, Paris.
[34] Reyes Olmedo, Patricia, (2019) “De la informática jurídica a la algoritmocracia”. Cita online: elDial DC2943
[35] Granero, Horacio R., “Un futuro de participación entre humanos y algoritmos inteligentes”, elDial.com, publicado el 6 de mayo de 2019. Cita online: elDial DC2799.
[36] Reglamento UE 2016/679 del Parlamento Europeo y del Consejo, de fecha 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos, publicado en el Diario Oficial de la Unión Europea el 4 de mayo de 2016, L 119/1. Disponible en: https://www.boe.es/ doue/2016/119/ L00001-00 088.pdf
[37] Ob. cit. en nota al pie N° 34.
[38] Ver art. 15, 1 h) del Reglamento.
[39] Ver art. 22, 1. del Reglamento.
[40] Disponible en: https://ec.eur opa.eu/digital -single-market /en/news/ethics-g uidelines-trustw orthy-ai
[41] Ver en: https://legalinstr uments.oe cd.org/en/ins truments/OEC D-LEGAL-0449
[42] Corte Suprema de Wiscosin, “Estado de Wisconsin c. Eric L. Loomis”, N° 2015AP157-CR, sentencia del 13 de julio de 2016. Ver en: https://caselaw.findlaw.com/wi-supreme-court/1742124.html. En este caso, el tribunal de primera instancia se refirió a la evaluación de COMPAS en el fundamento de la sentencia y, basándose en parte en esta evaluación, condenó a Loomis a seis años de prisión y cinco años de supervisión prolongada. Loomis apeló argumentando falta de fundamentos válidos de la sentencia y que se violó su derecho al debido proceso, alegando que COMPAS sólo proporciona datos relevantes para grupos en general y porque la metodología utilizada para hacer los informes es un secreto comercial, y por lo tanto no se puede evaluar su pertinencia sin poder verificar información de COMPAS.
[43] Ob. cit. en nota al pie N° 35.
[44] Lacava, Federico J. “Acto Administrativo Automático en el marco del Estado Constitucional de Derecho”, Revista Argentina de Derecho Administrativo - Número 2 - Junio 2019, 19/06/2019.
[45] Ob. cit. nota al pie N° 4.
