VERSION
MOVIL - WEB
CHOOSE YOUR LANGUAGE

Actuaciones automatizadas, ¿un paso a la Inteligencia Artificial?


Las normas de la administración electrónica española definen la actuación administrativa automatizada como cualquier acto o actuación realizados de forma íntegra a través de medios electrónicos por una Administración Pública en el marco de un procedimiento administrativo y en la que no haya intervenido de forma directa un empleado público. Ya estaba contemplado en la derogada ley 11/2007 y actualmente se regula en el artículo 41 de la ley 40/2015. Dentro del ámbito de la Administración de Justicia, la ley 18/2011 define la actuación judicial automatizada como aquella actuación judicial producida por un sistema de información adecuadamente programado sin necesidad de intervención de una persona física e incluye la producción de actos de trámite o resolutorios de procedimientos, así como de meros actos de comunicación.

De todas estas definiciones podemos ver que se refieren a actuaciones o actos  que emanan de una Administración Pública regulados en un procedimiento administrativo o judicial, y que son resueltos por un programa informático sin ninguna intervención humana.

En este sentido podríamos por ejemplo clasificar en tres niveles atendiendo el grado complejidad:

Simple: a partir de los datos aportados y consultando las fuentes de datos de la Administración Pública, por ejemplo un registro, se emite un certificado que da fe de algo. Por ejemplo la obtención de un certificado de antecedentes penales, nacimiento, matrimonio, equivalencia de títulos etc. se podrían generar automáticamente en función de los datos que obran en poder de la administración.

Medio: con los datos y en base a un algoritmo definido se resuelve el acto, tratándose  algo más complejo que los anteriores  en el sentido de que se dirime algún asunto o se resuelve una asignación en función de un algoritmo y unas reglas claramente definidas. Por ejemplo se podrían automatizar determinadas características en la solicitud para la aceptación a trámite o no de un arbitraje de consumo, determinadas actuaciones accediendo a los datos del interesado consultando por ejemplo si está al corriente de pago con la Agencia Tributaria y Seguridad Social, concesiones de becas, asignaciones aleatorias para mesas electorales o tribunales populares, actuaciones judiciales muy tasadas etc.

Complejo: igual que el anterior pero la resolución del acto estaría basada en un algoritmo de aprendizaje, o un sistema que emula a un experto, donde la toma de decisión es en base a la experiencia de actuaciones anteriores, otras fuentes de conocimiento como criterios establecidos, jurisprudencia etc. Podría  ser por ejemplo un acto resolutorio de un tribunal administrativo, una sentencia de un juez etc. Aunque no fuera de forma estricta una “actuación automatizada completa” se podrían considerar también sistemas no automatizados que asistieran de forma preceptiva al experto resolutor o algún órgano con recomendaciones que podrían estar basadas en probabilidades, siempre motivadas, y que fuera el humano quién tomara la decisión final. Podríamos por ejemplo imaginar una decisión de un tribunal popular asistido por un sistema de inteligencia artificial y un juez.

Actuación Automatizada AAPP


Podemos intuir la gran importancia que tendrán en los actos automatizados la calidad de los datos y la definición del algoritmo resolutorio (y especialmente si se trata de un algoritmo con mecanismos de aprendizaje). Al tratarse de actuaciones de Administraciones Públicas estos algoritmos deberán de estar regulados en alguna normativa previa aprobación y con la revisión de los comités u organismos necesarios.

Algunas derivadas  a considerar de estas actuaciones automáticas serán las siguientes:

Incremento de la complejidad para el regulador. Hay que tener en cuenta que lo que se regula es el comportamiento de un sistema informático. Escribir leyes no es sencillo, sin embargo, cuando se trata de normas relacionadas con posibles formas de aprendizaje automático la complejidad es mucho mayor. Los legisladores van a necesitar, además de conocimientos jurídicos, ciertos conocimientos en algorítmica y de automatización de aprendizaje. Está claro que la colaboración de equipos multidisciplinares será más importante que nunca.

Cabría preguntarse en qué nivel de normativa regular y hasta donde llegar en su desarrollo. (¿Ley, Real Decreto, Orden Ministerial, Resolución…?). Se buscaría un marco regulador con cierta flexibilidad y que regule lo necesario para que las decisiones y resoluciones de estos programas informáticos no puedan suponer nunca un abuso o generar situaciones de indefensión.  En caso de existir aprendizaje automático será vital que el programa evolucione conforme los objetivos pretendidos por la norma reguladora. Posiblemente sea necesario establecer controles y auditorías periódicas para ver que realmente se están cumpliendo estos objetivos.

Es posible que la misma legislación aprobada pueda dar lugar a diferentes implementaciones y desarrollos de programas informáticos que podrían tener diferentes interpretaciones y que incluso ajustándose a la normativa podrían producir diferentes resultados en situaciones similares.

Al igual que cualquier otra actuación de las Administraciones Públicas las actuaciones automáticas debieran de estar siempre motivadas justificando el resultado de las resoluciones y detallando la posible interposición de recursos administrativos o judiciales que procedieran. 

Inteligencia Artificial

Realmente, la actuación automatizada de las Administraciones Públicas supone un gran avance en la mejora de los servicios públicos permitiendo que las administraciones sean más eficientes y eficaces. Sin embargo no hay que perder de vista la importancia de la regulación de los algoritmos que marquen estas actuaciones así como la fiabilidad y veracidad de los datos que se usen. Asimismo hay que tener en cuenta la complejidad que puede suponer legislar estas actuaciones y especialmente cuando se entra en terrenos como la inteligencia artificial. Evidentemente no solo se trata de un asunto tecnológico y se tendrán que tener en cuenta aspectos culturales, jurídicos y organizativos. Para determinados asuntos un primer paso sería el uso de herramientas informáticas como asistentes en las decisiones que pudieran ayudar y soportar al humano experto.


Actuaciones Automatizadas



Ley 40/2015, de 1 de octubre, de Régimen Jurídico del Sector Público.

Ley 18/2011

Acto administrativo automatizado. Casos de uso

El “bot administrativo”

Naturaleza, concepto y régimen jurídico de la actuación administrativa automatizada.
http://www.cepc.gob.es/publicaciones/revistas/revistaselectronicas?IDR=1&IDN=683&IDA=27614

¿Informando acerca de tu ubicación?

Tiempo estimado 01:46 minutos.

Verdaderamente no me gusta tener activadas las funciones de GPS o localización en ninguno de mis dispositivos y solo las habilito  cuando realmente considero que son necesarias para el uso de algún servicio. Es cierto que la ubicación puede ser averiguada con bastante menos precisión por la dirección IP o bien por la celda a la que esté conectado tu dispositivo móvil, sin embargo, por cuestiones de ahorro de batería así como por protección a mi privacidad prefiero que mi dispositivo no esté informando de mis coordenadas de localización a ningún proveedor y mucho menos compartirlas en redes sociales o similar.

Localizacion

Especialmente en las últimas versiones de sistemas operativos (Windows, Android, IOs etc.), y en muchas aplicaciones, se pregunta insistentemente para que se habiliten estas funciones.  Lo normal es  que con la configuración inicial del dispositivo o aplicación debiera de ser suficiente y liberarnos a los usuarios de responder a la insistente pregunta de que no queremos compartir la ubicación cada vez que actualizamos o hacemos uso de una aplicación.

Desde luego puede parece razonable que un navegador tipo Google Maps o similar tenga acceso a los datos para poder guiarte en tus recorridos,  sin embargo, ¿Es vital que la cámara acceda a esta información y que encima lo use como metadato en las fotos? ¿Por qué el navegador de Internet insiste en preguntar acerca de la ubicación? ¿Para qué lo necesita la app del banco o del seguro? ¿Y las aplicaciones de mensajería, correo etc…? Recomiendo que observes en la configuración de tus terminales aquellas aplicaciones que tienen acceso a tu localización y que analices si te ofrecen algún servicio adicional relacionado que pueda resultar de tu interés.

La última mala práctica la he encontrado en mi pulsera de actividad que tengo desde hace más de un año y que hasta ahora ha funcionado razonablemente bien. Al actualizar la última versión de la app de la pulsera mi sorpresa ha sido que obliga a activar la ubicación para poder sincronizar los datos… Desde luego se trata de una mala práctica comercial y discutible con respecto a la normativa de datos personales que se pueda obligar a un usuario que ha comprado este dispositivo a enviar esta información. Además aportar este dato no era obligatorio en las primeras versiones del producto y por supuesto que habría influido en mi compra negativamente. Espero que el fabricante recapacite y deje estas funciones como opcionales.

Sincronizacion Fitbit

Desde mi punto de vista determinados aspectos relativos a la privacidad y datos personales deberían de cuidarse más, independientemente de que los datos puedan resultar valiosos en determinados ámbitos. Soy partidario del análisis de los datos y del Big Data, y además estoy convencido que puede aportar beneficios a la sociedad, sin embargo, siempre hay que tener presentes las cuestiones de  privacidad así como la elección personal de que datos quiere compartir cada individuo.


Datos Privados



Autoridades europeas de protección de datos aprueban un Dictamen sobre el impacto en la privacidad de los servicios de geolocalización de Smartphones 

Guía de Protección de Datos para desarrolladores de aplicaciones móviles

Infografía: servicios de localización y protección de datos

La geolocalización sigue generando desconfianza