Oportunitats i reptes de la intel·ligència artificial en l’àmbit de serveis socials
La intel·ligència artificial està transformant de manera accelerada múltiples àmbits de la nostra societat, i els serveis socials no en són una excepció. Davant d’un increment constant de la demanda de serveis socials, de la complexitat de les situacions ateses i de la necessitat de donar respostes més àgils i personalitzades, les eines d’IA emergeixen com una oportunitat per reforçar la tasca professional i millorar l’atenció a les persones. Tot i així, la seva incorporació també planteja reptes importants que cal abordar amb responsabilitat, criteri ètic i una mirada centrada en els drets de les persones usuàries.
Reptes de la implementació de la IA en els serveis socials
L’ús de la IA pot tenir nombrosos beneficis, però per treure’n el màxim profit cal identificar els reptes que presenta i tractar de minimitzar-ne el possible efecte negatiu. La sensibilitat de la informació gestionada, la diversitat de situacions viscudes per les persones ateses i l’impacte que aquestes eines poden tenir en la presa de decisions fan que esdevingui necessari analitzar amb deteniment les principals limitacions associades al seu ús per tal de donar-hi resposta.
1. Biaixos
Els models d’intel·ligència artificial estan entrenats amb grans quantitats de dades i informació que no sempre és representativa de les característiques dels col·lectius atesos pels serveis socials. Les eines i models d’IA poden presentar, doncs, biaixos en la representació del gènere, l’orientació sexual, les diferents ètnies… i oferir respostes que poden ser discriminatòries, reproduint d’aquesta manera desigualtats existents o reforçant estereotips, fet que pot tenir un impacte directe en la percepció de la realitat i la presa de decisions.
2. Bretxa digital
Una altra problemàtica, identificada per exemple en l’estudi de la bretxa digital en persones ateses per entitats socials, dut a terme per la Taula d’entitats del Tercer Sector Social de Catalunya, és la dificultat per discernir la informació fiable de continguts poc rigorosos. Aquesta volatilitat del rigor informatiu pot amplificar-se quan s’utilitzen eines d’IA. Sense una comprensió adequada del seu funcionament i dels seus límits, el risc de desinformació o d’interpretacions errònies augmenta.
Nidus s’ha desenvolupat tenint en compte les necessitats dels serveis socials, tant públics com privats, i a partir de l’experiència acumulada en l’atenció directa a persones. En aquest sentit, l’Assistent IA està configurat i adaptat a aquest àmbit d’ús, prioritzant la rellevància, la fiabilitat i l’adequació de les respostes a les consultes de les persones usuàries.
3. Protecció de dades
Un altre dels aspectes que genera dubtes en relació amb la intel·ligència artificial és la protecció de dades. Algunes de les preocupacions dels usuaris són: la filtració de dades, la falta de coneixement en matèria de seguretat digital o la falta de transparència de les eines tecnològiques. En l’àmbit dels serveis es treballa amb informació altament sensible, per la qual cosa la seguretat i privadesa esdevenen essencials.
Nidus utilitza un model d’intel·ligència artificial desplegat en un entorn controlat, de manera que la informació es manté dins del seu ecosistema i no es comparteix amb serveis externs. Això permet minimitzar el risc de fuites de dades. A més, la plataforma incorpora protocols de seguretat que garanteixen un compliment escrupulós de la normativa vigent en matèria de seguretat i protecció de dades personals.
4. Excés de confiança
Les eines d’intel·ligència artificial poden cometre errors. Segons un informe sobre AI Safety, s’observa un excés de confiança en la informació obtinguda de la intel·ligència artificial i una disminució en les capacitats d’analitzar, avaluar i qüestionar informació. Això suposa un risc, especialment en col·lectius vulnerables que disposen de menys habilitats digitals.
Els reptes associats a la implementació de la IA en l’àmbit social no han de suposar una barrera en la seva adopció, sinó cal identificar-los i entendre’ls per garantir una integració responsable de la IA en els serveis socials, sempre com a suport a la tasca professional i amb les persones al centre de l’atenció.
Avantatges de la IA en serveis socials
La intel·ligència artificial ofereix nombroses possibilitats per reforçar la tasca dels serveis socials i millorar l’atenció a les persones. Utilitzada de manera adequada, pot contribuir a optimitzar processos, facilitar la presa de decisions i oferir respostes més personalitzades i eficients davant de necessitats cada vegada més diverses i complexes. A continuació recollim alguns dels seus principals usos en l’àmbit dels serveis socials:
1. Optimització de feina
Un dels principals avantatges de la intel·ligència artificial és l’anàlisi de dades. Els models predictius d’IA permeten analitzar estadísticament grans quantitats d’informació de diverses fonts per identificar patrons, i predir situacions. En l’àmbit dels serveis socials es poden utilitzar aquestes eines per identificar millor situacions de vulnerabilitat i dissenyar una millor resposta. D’aquesta manera, les professionals dels serveis socials poden oferir respostes més ràpides i personalitzades a les persones ateses, destinant-los els recursos adients en cada cas.
La IA ofereix una oportunitat per reduir la càrrega administrativa dels serveis socials, agilitzant processos més feixucs i permetent centrar l’atenció i el temps dels professionals en el vincle i l’atenció a la persona atesa.
2. Millora de la presa de decisions
La intel·ligència artificial no és un substitut del criteri humà, però pot facilitar el procés de presa de decisions mitjançant l’anàlisi objectiva de dades. Les eines d’IA poden aportar informació rellevant, comparar casos similars, identificar factors de risc que podrien passar desapercebuts i suggerir possibles línies d’intervenció. Això ajuda a reduir la subjectivitat i a reforçar la coherència entre professionals i equips.
3. Autonomia
Una de les funcions més rellevants de la intel·ligència artificial és la d’oferir una millor assistència i afavorir l’autonomia a de totes les persones en general, però molt especialment, i de manera significativa, a les persones en situació de vulnerabilitat. Els models d’IA ofereixen suport i poden facilitar la gestió de situacions molt variades. Si bé en cap cas substitueixen la presència d’un professional, en situacions de crisi, especialment quan el professional no està disponible a efectes immediats, poden resultar especialment útils i oferir eines per pal·liar la crisi.
Amb aquesta filosofia, Nidus incorpora un Assistent IA dissenyat per oferir un suport complementari i personalitzat a l’usuari, programat per adaptar-se a les necessitats específiques de cada persona. Aquest assistent facilita tasques quotidianes, automatitza la gestió de cites i està entrenat específicament per donar suport a col·lectius vulnerables atesos pels serveis socials.
4. Personalització de l’atenció
Els models d’IA poden adaptar recomanacions, recordatoris, itineraris d’acompanyament o recursos segons les necessitats concretes de cada persona. Aquesta personalització és especialment útil en col·lectius amb necessitats complexes, ja que permet ajustar el suport a ritmes, capacitats, necessitats i preferències individuals.
És el cas de l’Assistent IA de Nidus, que recorda les interaccions amb els usuaris per tal d’adaptar i personalitzar les respostes.
5. Avaluació i millora contínua
Les eines d’IA poden analitzar l’efectivitat de programes, intervencions i recursos, identificant què funciona i què no. Això permet a les entitats socials prendre decisions basades en evidències i millorar els seus serveis de manera contínua, optimitzant recursos i impacte.
Les aplicacions de la intel·ligència artificial als serveis socials poden generar beneficis tant per als professionals com per a les persones ateses. Tot i que aquestes eines no substitueixen el criteri ni l’acompanyament humà, poden actuar com un suport valuós per millorar l’eficiència, la qualitat de l’atenció i la capacitat de resposta dels serveis.
Com incorpora Nidus la intel·ligència artificial en el seu funcionament?
Nidus incorpora un assistent d’intel·ligència artificial que ofereix suport addicional al dels professionals, adaptat a les necessitats específiques de cada persona usuària. Es tracta d’una eina segura, entrenada específicament per a persones usuàries de serveis socials, que:
- Ofereix atenció personalitzada, recordant el nom i els interessos de la persona usuària.
- Automatitza tasques quotidianes, com la gestió de cites i del calendari.
- Respon de manera empàtica i positiva.
- Detecta possibles situacions de risc o perill i activa avisos automàtics, recomanant contactar amb un professional o amb el 112.
La intel·ligència artificial pot esdevenir una aliada valuosa per als serveis socials, ajudant a millorar l’eficiència, anticipar situacions de risc i reforçar l’autonomia de les persones usuàries. Tot i així, la seva implementació requereix una mirada crítica que tingui en compte els biaixos, la protecció de dades, l’accessibilitat i la bretxa digital. Eines com Nidus mostren que, amb un disseny responsable i ajustat a les necessitats específiques dels usuaris, la tecnologia pot contribuir a un model d’atenció més preventiu, inclusiu i centrat en les persones.