El diputado provincial Carlos del Frade presentó una iniciativa en la Cámara de Diputados de Santa Fe para establecer criterios de uso de dispositivos digitales personales e inteligencia artificial en el sistema educativo provincial. El proyecto define los usos permitidos y las prohibiciones, y propone al Ministerio de Educación como autoridad de aplicación.
El diputado provincial Carlos del Frade presentó un proyecto en la Cámara de Diputados de la Legislatura de Santa Fe para establecer criterios de uso de dispositivos digitales personales y herramientas de inteligencia artificial (IA) en el sistema educativo provincial.
Según la iniciativa, los criterios generales de uso de dispositivos digitales personales y herramientas de inteligencia artificial por parte de estudiantes solo podrán admitirse cuando tengan finalidad pedagógica, de accesibilidad, de salud o de emergencia.
El proyecto define los siguientes términos:
- a) Dispositivos digitales personales: teléfonos celulares, relojes inteligentes, tabletas, computadoras portátiles y demás dispositivos de uso individual no provistos por la institución.
- b) Inteligencia artificial: sistemas capaces de generar, clasificar, recomendar, predecir, asistir, automatizar o producir contenidos, decisiones o respuestas a partir de datos, algoritmos o modelos entrenados.
- c) Tecnologías emergentes: desarrollos tecnológicos digitales de rápida incorporación educativa, incluidos asistentes automatizados, plataformas adaptativas, sistemas generativos y otros equivalentes actuales o futuros.
- d) Uso pedagógico: aquel que responde a finalidades de enseñanza, aprendizaje, evaluación, accesibilidad, inclusión o acompañamiento de trayectorias, debidamente encuadrado por la institución y el personal docente.
En el nivel inicial no se permitirá el uso de dispositivos digitales personales por parte de niñas y niños durante la jornada escolar, salvo situaciones excepcionales de accesibilidad, salud o emergencia debidamente justificadas y autorizadas por el equipo directivo. La incorporación de tecnologías en este nivel deberá responder a criterios pedagógicos restrictivos, de alta mediación docente y de baja exposición individual.
En el nivel primario, los dispositivos digitales personales de las y los estudiantes no podrán utilizarse durante la jornada escolar.
En el nivel secundario, los dispositivos digitales personales solo podrán utilizarse en instancias de clase cuando el o la docente lo disponga con fines pedagógicos, en el marco de la planificación correspondiente o de proyectos institucionales.
El proyecto establece que la utilización de herramientas de inteligencia artificial y de tecnologías emergentes en el sistema educativo provincial deberá orientarse a fortalecer la enseñanza, la comprensión, la producción, la retroalimentación, la accesibilidad y el acompañamiento de trayectorias, sin sustituir indebidamente procesos pedagógicos centrales ni debilitar la formación intelectual, crítica, ética y autónoma de las y los estudiantes.
Asimismo, queda prohibida la utilización de herramientas de inteligencia artificial y tecnologías emergentes cuando:
- a) Reemplacen de modo generalizado e indiscriminado la producción intelectual estudiantil.
- b) Impidan verificar los procesos reales de comprensión, elaboración y aprendizaje.
- c) Vulneren la privacidad, la intimidad o la protección de datos personales.
- d) Introduzcan sesgos discriminatorios o decisiones automatizadas sin supervisión humana.
- e) Afecten la integridad académica, la validez de la evaluación o la autoría de las producciones.
- f) Sean utilizadas para hostigar, humillar, manipular o vulnerar derechos de integrantes de la comunidad educativa.
Cuando en actividades escolares o académicas se autorice el uso de herramientas de inteligencia artificial, la institución y el personal docente deberán establecer criterios claros sobre:
- a) Qué usos están permitidos.
- b) En qué actividades o instancias pueden emplearse.
- c) Cuándo corresponde declarar su utilización.
- d) Qué aspectos deben ser necesariamente de elaboración propia.
- e) Qué criterios de evaluación se aplicarán.
Prohibiciones
En todos los niveles y modalidades queda prohibido:
- a) Captar, grabar, fotografiar, filmar, reproducir o difundir imágenes, audios o videos dentro del establecimiento sin autorización institucional y sin consentimiento, conforme a la normativa vigente.
- b) Utilizar dispositivos o tecnologías digitales para hostigamiento, acoso, intimidación, discriminación o afectación de derechos.
- c) Emplear herramientas tecnológicas para simular autoría, falsear producciones o vulnerar la integridad de las evaluaciones.
- d) Utilizar tecnologías emergentes sin la mediación institucional exigida cuando así lo disponga la reglamentación.
Por otra parte, la presente ley no podrá aplicarse en perjuicio de estudiantes que requieran tecnologías digitales como apoyos de accesibilidad, comunicación, seguimiento de salud, monitoreo médico, traducción, adaptación o cualquier otro recurso necesario para el ejercicio pleno del derecho a la educación.
La reglamentación «establecerá procedimientos ágiles, razonables y no estigmatizantes para estos supuestos», indicó el diputado.
Se propone que la autoridad de aplicación sea el Ministerio de Educación.
La inteligencia artificial «es existencial»
En su proyecto, del Frade narra que la filósofa Carmody Grey fue noticia al rechazar la oferta de una empresa que vende servicios de inteligencia artificial a escala planetaria. La invitaron a participar en una «colaboración de investigación con las tradiciones de sabiduría» para la reconocida Anthropic.
Sus dichos resultan fundamentales para pensar la relación con la IA y especialmente pensar sus efectos en niñas, niños y adolescentes:
«La versión favorable es que son gente lista. Se han dado cuenta de que la IA es existencial y que plantea preguntas del nivel más básico sobre qué es un ser humano, qué es una máquina, dónde está la frontera, qué es la conciencia», sostuvo en una entrevista publicada en el diario español «El País» y en «La Nación».
Para ella, es fundamental tomar conciencia que la IA «concentra el poder, difumina la responsabilidad, esquilma la naturaleza, expropia culturas y lenguas con el ánimo de lucro y probablemente nos haga más solos y tonos», escribió el diputado en su proyecto.
«Este proyecto de ley busca salir del atronador canto de sirenas y cuidar la cabeza de las alumnas y los alumnos del sistema educativo provincial. Tiene como antecedente lo recientemente sancionado en la Legislatura de Río Negro», señaló del Frade.