Cánovas: "La inteligencia Artificial no puede sustituir al profesor en los colegios"

Guillermo Cánovas, director para la Promoción del Uso Saludable de la Tecnología –EucaLIKE, ha explicado en el colegio de Las Escolapias de Soria las oportunidades que abre la Inteligencia Artificial en el sistema educativo. Y también los peligros. Cánovas ha dejado claro que no se puede sustituir al profesor por esta herramienta.

Gran Torreznada Solidaria en Valencia

Comisiones Obreras presenta en Soria el documental “Orgullo de clase”

El colegio Santa Teresa de Jesús de la Fundación Educativa Escolapias ha organizado esta tarde una conferencia abierta a todas las personas interesadas en conocer más si la inteligencia artificial es una oportunidad o una amenaza en la educación.

Cánovas, que fue director durante doce años del Centro de Seguridad en Internet para los menores en España y presidente y fundador de la organización de protección del menor PROTÉGELES (2001-2014), ha reconocido que el uso de la tecnología está implementado en el sistema educativo aunque ahora hay un debate social en torno a la conveniencia de retrasar el uso de determinadas herramientas y ya hay muchas entidades educativas que consideran que hasta Secundaria no hay que introducir las tablets en el aula y en otros sitios se está haciendo a partir de quinto de Primaria.

“En el tema de los móviles hay unanimidad de criterio, en cuanto que son herramientas que no nos interesan que estén dentro del colegio y si están, lo están apagadas, salvo en situaciones puntuales cuando el profesor lo requiera”, ha resaltado Cánovas, premio UNICEF por su labor en favor de la infancia en 2013.
Además ha recalcado que el uso de la Inteligencia Artíficial es los centros educativos es otra cuestión, ya que no sólo se habla de herramientas invasivas que responden a lo que “tú les ordenas directamente, sino de herramientas que pueden interactuar con el alumno, sin necesidad de que esté el profesor o que pueden servir de apoyo al profesor en otras cuestiones”.

- Con qué opciones se encuentra el profesor ante la IA?

- Hay dos. Una es inevitable, y debe ser así, y es que el profesorado trabaje con IA, pero sobre todo generar contenidos, adaptar los contenidos a los alumnos, para buscar nuevas formas de personalización, etc. Y la otra, si no interesa o no, que lo usen los alumnos. Y ahí es donde tenemos más problemas. Consideramos que en la mayoría de las ocasiones estas herramientas no deben ser utilizadas por niños y adolescentes, que están aprendiendo a llevar a cabo determinadas acciones, que puede suplir la IA y que están desarrollando capacidades suyas, que no podemos postponer porque unas herramientas les hagan el trabajo. Aquí hay que tener mucho cuidado por cómo y para qué se usa.

- ¿Cuáles son los principales peligros de la IA en el ámbito educativo?

- Ahora tenemos varios riesgos claramente identificados. El primero de ellos es lo que los desarrolladores de IA llaman alucinaciones, es decir, la posibilidad de que la herramienta se invente las cosas. Esto sucede, no es muy frecuente, pero sucede. Puede dar respuestas incorrectas. En segundo lugar, la información sesgada. Son herramientas que han sido entrenadas con millones de contenidos disponibles en Internet y en Internet hay de todo: información sesgada, con sesgos ideológicos, raciales, localidad… Y cuanto haces una pregunta, si la herramienta está entrenada así, va a dar respuestas sesgadas.

Nos preocupa mucho lo que pasa con la información personal. Son herramientas que en su mayor parte no cuidan la información personal que reciben. Algunas de ellas no sabemos siquiera donde lo almacenan y para qué. Hay niños y adolescentes que la están utilizando para hablar de su vida, de sus enfermedades, sus preocupaciones… Y esto nos preocupa. Y luego hay otras cuestiones que estamos empezando a estudiar cómo es la relación emocional, los vínculos que se establecen con la herramienta. Hay herramientas que están siendo entrenadas para actuar como si fueran humanos. Y entonces simulan emociones, establecen conversaciones y diálogos en los que parece que estás hablando con una persona pero no es así. Y es muy importante que los menores que lleguen a utilizar estas herramientas tengan claro que están delante de una máquina, porque están tan humanizadas, y sabemos que tienen cierta capacidad de manipulación…

- ¿Qué se puede hacer desde la educación para que los alumnos sepan del daño y peligros que comporta utilizar IA?

- Necesitamos muchísima formación. La herramienta que tenemos a nuestro alcance es la más potente que hay. Lo que no puede ser que tengamos un número elevado de alumnos utilizando IA y que nadie les hable de ella ni les dé formación sobre cuándo y cómo se puede utilizar. Nos pasa un poco con el profesorado. Estamos ahora haciendo mucha formación de docentes, para que vean lo que se puede hacer y lo que no. Y también hace falta formación en las familias. Los alumnos tienen que tener claro que ellos son responsables del uso que hacen de cada herramienta. Y cuando se utiliza para causar un daño a alguien, da igual la herramienta que sea. Hay una responsabilidad. Tenemos un problema legal y es que algunas herramientas no está claro quién tiene la responsabilidad. El usuario la va a tener siempre pero después hay que ver si existe la posibilidad de actuar contra la propiedad de la herramienta, o no.

- ¿Tenemos suficiente legislación para defendernos?

- Ahora mismo tenemos una legislación que está empezando en Europa a implementarse. Pero fuera de Europa, en la mayor parte del mundo, no existe. Es algo que tenemos que afrontar, trabajando con el alumnado porque todavía no tenemos claro que responsabilidad tiene cada herramienta.

- En la IA se habla mucho del impacto económico y quizá menos del impacto social?

- Sí, asi es. Y es un mal generalizado en Europa. Estamos pendientes de los derechos de autor y de quien es la propiedad. Estamos preocupados por la protección de datos, por la propiedad intelectual, etc. Pero no está tan desarrollada la ley cuando se trata de proteger al ser humano de situaciones que se pueden derivar del uso de la herramienta. Creo que nuestra legislación es demasiado laxa en este tema, pero nos encontramos con otra realidad paralela y es que está muy bien que Europa legisle sobre IA pero no lo están haciendo el resto de países.

- La IA tendrá también sus ventajas dentro de la educación ¿Cuáles son?

- La mayor ventaja es la personalización, es decir, nos permite llegar a cada alumno a partir de las características, inquietudes, capacidades e intereses de ella. Es como si el profesor, si sabe utilizar la IA, tuviera la posibilidad de tener 25 profesores por clase. Sí que podemos personalizar muchísimo la educación.

Nos permite también, por parte de los alumnos, una autoevaluación, un feak-back constante. No he entendido una cosa, estoy en casa, y quién me explica esto… La IA te puede explicar esto de siete maneras. Y luego con IA podemos generar cosas en minutos que antes no podíamos generar. Como un escrito distinto para cada alumno de clase y adaptado a sus necesidades. Es decir la IA tiene sus aplicaciones en educación pero tiene que estar muy bien dirigida y controlada.

- ¿Hay un vacío legal en la aplicación de la IA en educación?

- Lo que hay ahora mismo en educación es una absoluta improvisación. Va en función de cada centro y de cada profesor, de cómo quiera utilizar la IA. En la mayoría de centros educativos no hay un reglamento de cómo utilizar la IA. Ni tan siquiera del uso que hacen los alumnos: Necesitamos que los centros escolares, como están haciendo muchas universidades, regulen por ejemplo lo que llamamos el fraude académico, es decir, qué pasa cuando el alumno presenta cosas y hace tareas con su nombre y no ha sido él. Necesitamos regularlo.

- ¿ Y quién tiene que hacerlo?

- Europa, pero yo no esperaría a Europa, porque tendremos que esperar mucho. Además, como la educación está transferida, creo que son las comunidades autónomas las que tienen que tomar la iniciativa. Pero los centros escolares también pueden empezar a implementar. En principio, sobre formación de estos temas y reglamentos que recoja ya lo que pasa con los distintos aspectos de la IA. Nos queda mucho por hacer.

- La IA puede sustituir al profesor ¿Puede afectar al empleo?

- En el tema de la educación, a lo que hay que temer es a lo que hagan algunos con la IA. No se puede sustituir al profesor por una herramienta de este tipo, pero sí puede ser una ayuda enorme, como lo puede ser para el médico. Nos queda mucho por estudiar cómo funcionan estas herramientas.

- Da la sensación que la IA nos ha pillado a todos a contrapié?

- Sin lugar a dudas, desde el punto de vista legal y personal.