Saltar al contenido
AprendeProtección de datos

Noventa memorias por revisar: cómo usar la IA en servicios sociales

Para comprobar si una memoria cumple lo que pedía el programa, la IA no necesita saber quién es nadie. Qué puede hacer un área social con la IA, qué no debe hacer nunca y qué contestar cuando pregunten en el pleno.

Por Brandingmatic 7 min de lecturaRevisado el

Cierre de convocatoria.

Han llegado noventa memorias justificativas y en el área hay dos técnicas para revisarlas. Algunas tienen ciento cuarenta páginas, con el relato de cada participante y fotos de las actividades. Nadie pidió ni los relatos ni las fotos.

Una de las técnicas, con el plazo encima, pega una memoria entera en un chat de IA. Solo quiere comprobar si cumple lo que pedía el programa.

La comprobación sale bien. Y la historia de una mujer que vive en un piso de acogida, con su nombre, su DNI y su discapacidad, está ahora en una cuenta personal que el ayuntamiento no conoce.

(La escena es inventada. No hay ningún ayuntamiento detrás.)

¿Puede un área de servicios sociales usar IA con memorias y expedientes?

Un área social puede usar la IA para preparar y revisar documentos. Y le ahorraría semanas.

No puede usarla para decidir sobre personas. Ni a quién se concede una ayuda, ni quién va primero.

Entre las dos cosas hay una regla sencilla: a la IA le llega lo que el programa necesita, no la vida de quien participó.

Para comprobar una memoria hacen falta sesiones, horas, fechas y resultados. No hace falta saber quién es cada persona, dónde vive ni cómo está de salud.

La regla general, para cualquier documento, está en qué pasa cuando se pega un documento con datos personales en un chat de IA.

Lo que hace distinta a un área social

Trabaja con quien más protección necesita. Salud, discapacidad, situación familiar, origen. La ley de protección de datos (RGPD, artículo 9) da a esos datos una protección reforzada, y en un área social están en casi todos los expedientes.

Recibe más datos de los que pide. Las entidades mandan memorias con nombres, historias y fotos «para que se vea el trabajo». El área no los pidió, pero ahora los custodia.

El problema, si lo hay, es público. Una empresa tiene un incidente en privado. Una administración lo tiene con nombre de área y de responsable.

Y en un municipio, todo el mundo se conoce. Un listado de una subvención o un cuadro con tres personas en una casilla puede bastar para saber quién recibe una ayuda.

Qué se puede hacer con la IA en un área social

Con cada persona cambiada por un papel y los datos del programa intactos:

  • Comprobar si una memoria cuenta lo que el programa pedía: sesiones, horas, resultados.
  • Resumir lo que han hecho los programas del año a partir de las memorias, para el informe de gestión.
  • Preparar el expediente que pasa de un servicio a otro, sin que la historia viaje entera.
  • Redactar la respuesta a una pregunta del pleno o una nota para la web.

En todos los casos, una persona revisa lo que sale antes de usarlo.

Qué no se debe hacer con la IA: decidir sobre personas

La ley europea de IA (el Reglamento Europeo de Inteligencia Artificial, o EU AI Act) señala un uso con especial cuidado: evaluar con IA si alguien tiene derecho a una prestación o a un servicio público esencial. Será de alto riesgo desde el 2 de diciembre de 2027 (anexo III).

Fuera de la ley, por pura prudencia, hay tres cosas que no conviene pedirle nunca a una IA en un área social:

  • Puntuar solicitudes o personas.
  • Ordenar una lista de espera.
  • Proponer a quién se concede o se deniega.

Preparar un documento para que lo valore un técnico no es valorar. Esa diferencia hay que poder explicarla.

Tres obligaciones que se aplican ya a un área social

Formar a quien la usa. Desde febrero de 2025, la ley europea de IA pide poner medios para que el personal entienda la IA que maneja (artículo 4).

Saber dónde está la información. El Esquema Nacional de Seguridad se aplica a todo el sector público: hay que saber dónde está la información del área y quién la trata. Una cuenta personal de un chat no entra en ese mapa.

Avisar si se atiende con IA. Si el área pone un asistente a contestar a la ciudadanía, tiene que decir que es una IA (artículo 50).

Pedir menos en las bases también es una solución

Buena parte del problema entra por la puerta: en las memorias que llegan.

Si las bases de la convocatoria piden «relato de casos» y «documentación gráfica», las entidades mandan historias con nombre y fotos con caras.

Dos cambios pequeños ahorran mucho:

  • Decir en las bases qué no hay que mandar. Ni nombres, ni documentos de identidad, ni fotos en las que se reconozca a nadie.
  • Dar a las entidades un criterio por escrito sobre cómo usar la IA con los datos de las personas que atienden. Hoy cada una hace lo que le parece. Para ellas está cómo contar casos en una memoria sin identificar a nadie.

Lo que no se recibe no hay que custodiarlo.

Lo que os van a preguntar en el pleno, y lo que podréis contestar

Tarde o temprano, alguien lo pregunta en el pleno o por registro. Estas son las cuatro preguntas habituales, con una respuesta que se sostiene si el trabajo está hecho:

«¿Usa el área inteligencia artificial?»Sí, para preparar y revisar documentos. Antes de que entren en la IA, cada persona se cambia por un papel, y alguien revisa lo que sale.

«¿Decide la IA quién recibe una ayuda?»No. La IA no decide ayudas, no puntúa a nadie y no ordena expedientes. Ese criterio es del personal técnico y de quien firma.

«¿Se suben los datos de las personas a algún sitio?»A la IA solo llega una copia revisada, sin nombres, documentos de identidad ni domicilios.

«¿Qué pasa con la salud y las situaciones delicadas?»No se borran a ciegas ni se dejan pasar: se marcan para que las revise una persona.

Si hoy no podéis contestar así, esas cuatro respuestas son también la lista de tareas.

Y si la pregunta es por todo el ayuntamiento, no solo por el área, mirad lo que tiene que poder explicar un ayuntamiento que usa IA.

Dónde entra PrevIA, el paso anterior a la IA

Cambiar a cada persona por su papel en noventa memorias, a mano, es justo el trabajo que no cabe en un cierre de convocatoria.

Para eso estamos desarrollando en Brandingmatic PrevIA. En el ordenador de cada técnico, prepara la copia que va a la IA: cada persona pasa a su papel; las sesiones, las fechas y los resultados se quedan tal cual; lo que toca a la salud sale marcado para que lo decida quien revisa. Ante la duda, el dato se tapa entero.

Lo que no hace:

  • No decide ayudas, no puntúa y no ordena expedientes.
  • No sustituye la IA que use el ayuntamiento: prepara lo que entra en ella.
  • No añade un servidor ni una nube nuevos: para preparar el documento, todo ocurre en el ordenador.
  • No toma las decisiones de base legal. Siguen siendo vuestras y de vuestro delegado de protección de datos.
  • No garantiza que no quede ningún dato: por eso se revisa.

PrevIA está en desarrollo y tiene una lista de acceso anticipado.

En el próximo cierre de convocatoria habrá otras noventa memorias y las mismas dos técnicas. Se puede llegar con la IA. Lo que no puede llegar a la IA es la mujer del piso de acogida.

¿Cómo tratáis hoy los documentos antes de pasarlos por la IA?

Hay un test para administraciones y áreas sociales. Respondéis unas preguntas y os enviamos vuestro informe por email.

Si lo que queréis es ordenar toda la IA de la administración, no solo un área: Instituciones.

¿Preferís hablarlo directamente?

Contadnos vuestro caso y os llamamos. O llamadnos al 634 420 840.

Queremos que nos llaméis

Preguntas frecuentes

Sí, para preparar y revisar documentos, con los datos de las personas retirados antes y con revisión humana. No para decidir sobre prestaciones: evaluar con IA el derecho a una prestación o a un servicio esencial será de alto riesgo desde el 2 de diciembre de 2027 (anexo III del Reglamento Europeo de Inteligencia Artificial, o EU AI Act).

Sí, si a la IA no le llega quién es cada participante. Para comprobar si una memoria cumple lo que pedía el programa bastan las sesiones, las horas, las fechas y los resultados. No hace falta la identidad de los participantes.

No conviene. Es decidir sobre personas, y es el uso que la ley europea de IA trata como de alto riesgo cuando afecta a prestaciones y servicios esenciales.

Custodiarlas, porque ya las tenéis. Y cambiar las bases de la próxima convocatoria para decir qué no hay que mandar.

Para qué se usa, que no decide sobre personas, qué llega a la IA y quién revisa. Y que está escrito.
Volver a Aprende