Actuaciones automatizadas, ¿un paso a la Inteligencia Artificial?

Tiempo estimado 03:16 minutos.

Las normas de la administración electrónica española definen la actuación administrativa automatizada como cualquier acto o actuación realizados de forma íntegra a través de medios electrónicos por una Administración Pública en el marco de un procedimiento administrativo y en la que no haya intervenido de forma directa un empleado público. Ya estaba contemplado en la derogada ley 11/2007 y actualmente se regula en el artículo 41 de la ley 40/2015. Dentro del ámbito de la Administración de Justicia, la ley 18/2011 define la actuación judicial automatizada como aquella actuación judicial producida por un sistema de información adecuadamente programado sin necesidad de intervención de una persona física e incluye la producción de actos de trámite o resolutorios de procedimientos, así como de meros actos de comunicación.

De todas estas definiciones podemos ver que se refieren a actuaciones o actos que emanan de una Administración Pública regulados en un procedimiento administrativo o judicial, y que son resueltos por un programa informático sin ninguna intervención humana.

En este sentido podríamos por ejemplo clasificar en tres niveles atendiendo el grado complejidad:

Simple: a partir de los datos aportados y consultando las fuentes de datos de la Administración Pública, por ejemplo un registro, se emite un certificado que da fe de algo. Por ejemplo la obtención de un certificado de antecedentes penales, nacimiento, matrimonio, equivalencia de títulos etc. se podrían generar automáticamente en función de los datos que obran en poder de la administración.

Medio: con los datos y en base a un algoritmo definido se resuelve el acto, tratándose algo más complejo que los anteriores en el sentido de que se dirime algún asunto o se resuelve una asignación en función de un algoritmo y unas reglas claramente definidas. Por ejemplo se podrían automatizar determinadas características en la solicitud para la aceptación a trámite o no de un arbitraje de consumo, determinadas actuaciones accediendo a los datos del interesado consultando por ejemplo si está al corriente de pago con la Agencia Tributaria y Seguridad Social, concesiones de becas, asignaciones aleatorias para mesas electorales o tribunales populares, actuaciones judiciales muy tasadas etc.

Complejo: igual que el anterior pero la resolución del acto estaría basada en un algoritmo de aprendizaje, o un sistema que emula a un experto, donde la toma de decisión es en base a la experiencia de actuaciones anteriores, otras fuentes de conocimiento como criterios establecidos, jurisprudencia etc. Podría ser por ejemplo un acto resolutorio de un tribunal administrativo, una sentencia de un juez etc. Aunque no fuera de forma estricta una “actuación automatizada completa” se podrían considerar también sistemas no automatizados que asistieran de forma preceptiva al experto resolutor o algún órgano con recomendaciones que podrían estar basadas en probabilidades, siempre motivadas, y que fuera el humano quién tomara la decisión final. Podríamos por ejemplo imaginar una decisión de un tribunal popular asistido por un sistema de inteligencia artificial y un juez.

Podemos intuir la gran importancia que tendrán en los actos automatizados la calidad de los datos y la definición del algoritmo resolutorio (y especialmente si se trata de un algoritmo con mecanismos de aprendizaje). Al tratarse de actuaciones de Administraciones Públicas estos algoritmos deberán de estar regulados en alguna normativa previa aprobación y con la revisión de los comités u organismos necesarios.

Algunas derivadas a considerar de estas actuaciones automáticas serán las siguientes:

Incremento de la complejidad para el regulador. Hay que tener en cuenta que lo que se regula es el comportamiento de un sistema informático. Escribir leyes no es sencillo, sin embargo, cuando se trata de normas relacionadas con posibles formas de aprendizaje automático la complejidad es mucho mayor. Los legisladores van a necesitar, además de conocimientos jurídicos, ciertos conocimientos en algorítmica y de automatización de aprendizaje. Está claro que la colaboración de equipos multidisciplinares será más importante que nunca.

Cabría preguntarse en qué nivel de normativa regular y hasta donde llegar en su desarrollo. (¿Ley, Real Decreto, Orden Ministerial, Resolución…?). Se buscaría un marco regulador con cierta flexibilidad y que regule lo necesario para que las decisiones y resoluciones de estos programas informáticos no puedan suponer nunca un abuso o generar situaciones de indefensión. En caso de existir aprendizaje automático será vital que el programa evolucione conforme los objetivos pretendidos por la norma reguladora. Posiblemente sea necesario establecer controles y auditorías periódicas para ver que realmente se están cumpliendo estos objetivos.

Es posible que la misma legislación aprobada pueda dar lugar a diferentes implementaciones y desarrollos de programas informáticos que podrían tener diferentes interpretaciones y que incluso ajustándose a la normativa podrían producir diferentes resultados en situaciones similares.

Al igual que cualquier otra actuación de las Administraciones Públicas las actuaciones automáticas debieran de estar siempre motivadas justificando el resultado de las resoluciones y detallando la posible interposición de recursos administrativos o judiciales que procedieran.

Realmente, la actuación automatizada de las Administraciones Públicas supone un gran avance en la mejora de los servicios públicos permitiendo que las administraciones sean más eficientes y eficaces. Sin embargo no hay que perder de vista la importancia de la regulación de los algoritmos que marquen estas actuaciones así como la fiabilidad y veracidad de los datos que se usen. Asimismo hay que tener en cuenta la complejidad que puede suponer legislar estas actuaciones y especialmente cuando se entra en terrenos como la inteligencia artificial. Evidentemente no solo se trata de un asunto tecnológico y se tendrán que tener en cuenta aspectos culturales, jurídicos y organizativos. Para determinados asuntos un primer paso sería el uso de herramientas informáticas como asistentes en las decisiones que pudieran ayudar y soportar al humano experto.