S'ha investigat encara poc – i poc s'ha escrit també- sobre els impactes, positius i negatius, que l'ús de la IA pot tenir en nens i nenes. Un dels pocs estudis significatius sobre el tema, de l'Institut Alan Turing, ens el portava a col·lació el nostre company de la Junta Directiva d'ENATIC, José Manuel Vela. Es tracta d'un informe elaborat en el marc d'una investigació basada al marc "Innovació responsable en tecnologia per a la infantesa" (RITEC) titulat Understanding the Impacts of Generative AI Use on Children i ha estat finançat pel grup LLEC i la Fundació LLEC.

Resum de l'informe

L'informe examina com nens de 8 a 12 anys, els seus pares i mestres experimenten l'ús d'eines d'intel·ligència artificial generativa a través d'enquestes i tallers escolars. Sobre la base d'aquestes experiències, l'estudi ofereix recomanacions perquè els poders públics i les empreses desenvolupadores desenvolupin aquesta tecnologia de forma segura i beneficiosa per als menors.

L'informe recull dos tipus d'impactes generals, tant positius com negatius:

• La IA generativa pot aportar beneficis si es desenvolupa de manera segura, responsable i amb participació infantil.

• Existeixen moltes preocupacions en l'actualitat en relació amb la baixa alfabetització en IA, l'existència de continguts inapropiats, l'exclusió dels nens en el disseny d'aquestes eines i el seu impacte ambiental.

Recomanacions principals

L'informe desgrana una sèrie de conclusions i recomanacions:

1. Promoure una IA centrada en la infantesa

• Incloure activament les perspectives dels nens en la creació de polítiques sobre IA.

• Dissenyar eines apropiades per a la seva edat i segures.

• Certificar eines adequades per al seu ús educatiu.

• Donar suport a nens amb necessitats educatives especials mitjançant IA.

2. Garantir l'accés equitatiu

• Reduir la fractura digital: 52% de nens en escoles privades utilitzen IA davant el 18% en escoles públiques.

• Desplegar eines en escoles públiques i proporcionar recursos gratuïts.

3. Ús responsable per part de docents

• El 60% dels mestres utilitzen IA (principalment per planificar classes).

• S'ha de formar els docents i facilitar-los accés institucional a eines d'IA.

4. Millorar l'alfabetització en IA

• Molts nens no coneixen el terme "IA generativa".

• S'han d'incloure continguts sobre IA, ètica, biaixos, impacte ambiental i plagi en els programes escolars.

• Guiar pares sobre com abordar la IA amb els seus fills.

5. Abordar els biaixos en la IA

• La falta de representació porta els nens a rebutjar el seu ús.

• S'ha d'assegurar que les eines reflecteixin diverses experiències i cultures.

6. Cal considerar l'impacte ambiental

• L'empremta ecològica de la IA preocupa els nens.

• Cal informar de manera comprensible sobre l'ús d'energia i recursos naturals.

7. Donar suport al joc i la creativitat

• S'ha establert que els nens prefereixen activitats creatives fora de línia davant la IA.

• La IA ha de complementar, no reemplaçar, materials tàctils i experiències físiques.

Altres actualitats de la setmana

La UE està adaptant la legislació europea als avenços tecnològics. El Parlament Europeu pretén tipificar expressament com a delicte l'ús de sistemes d'IA dissenyades o adaptades principalment per cometre delictes d'abús sexual infantil.

La posició de l'Eurocambra

Dimarts passat, el Parlament va aprovar la seva posició sobre el projecte legislatiu destinat a millorar la capacitat dels països de la UE per combatre eficaçment l'abús sexual de menors. Per a això, l'Eurocambra va defensar actualitzar les definicions a escala de la UE dels delictes relacionats amb l'abús sexual i l'explotació de menors. La proposta està dissenyada per adaptar la legislació a les noves tecnologies —per exemple, imatges d'abusos falses però d'aspecte realista— i garantir que l'abús i l'entabanament puguin ser perseguits independentment que es produeixin online o al món real.

Nous delictes tecnològics

Per adaptar la legislació de la UE als avenços tecnològics, el Parlament vol tipificar explícitament com a delicte l'ús de sistemes d'intel·ligència artificial «dissenyats o adaptats principalment» per cometre delictes d'abús sexual infantil. També ha recolzat disposicions sobre la retransmissió en directe de tals abusos i la difusió en línia de material relacionat. Perquè les investigacions siguin més eficaces, l'Eurocambra advoca per la possibilitat de dur a terme investigacions encobertes i fer servir mètodes de vigilància discreta.