Saltar al contenido

Ciudadanía digital, privacidad y seguridad

Campaña “Reinventando el olvido en internet”

El problema del “slop” en inteligencia artificial

El “slop” es un tipo de spam pero hecho por inteligencia artificial (IA). Se genera mucho contenido no deseado de forma automática sin que nadie lo supervise. Simon Willison, un desarrollador, inventó la palabra “slop” para hablar de la cantidad enorme de contenido inútil creado por IA en Internet. Este riesgo se ve en los modelos AI y su aplicación en el procesamiento del lenguaje. El peligro es que se generan contenidos de baja calidad en grandes cantidades sin la guía o la revisión humana necesaria.

Este mal contenido tiene solo un propósito: ganar dinero a través de la publicidad en sitios web y redes. Estos materiales hacen que internet esté lleno de información que no aporta nada. Además, pueden dañar la clasificación de sitios en las búsquedas y facilitar la desinformación y la manipulación, porque básicamente busca ganar dinero atrayendo visitas y aumentando seguidores en redes. De este modo se convierte en un riesgo para la verdad y la manipulación.

El “slop” y el spam se parecen

Ambos crean contenido para ganar dinero o promocionar productos, pero sin importar si a la gente le gusta. La gran diferiencia entre ambos es que la IA crea “slop” más rápido y en más cantidad. Se trata de una nueva forma de llenar el internet con contenido sin sentido. Esto incluye textos, imágenes y videos, y a menudo se trata de contenido irrelevante o incluso dañino. Por ejemplo, se podrían encontrar malas recomendaciones de viajes o memes incorrectos en redes sociales. Los sistemas de IA no entienden el contexto o no muestran empatía. Por eso, el contenido muchas veces no tiene valor para las personas. Para peor, tiene una tasa de entrega exitosa del 80% en correos donde el spam normal no pasa.

Los algoritmos de IA detrás del “slop” son muy avanzados. Pueden ser precisos hasta en un 95%, pero los usuarios solo lo detectan como spam el 30% de las veces. Esto se debe a lo ingenioso y dinámico que es este tipo de contenido.

En conclusión, el “slop” impacta negativamente la calidad de la web. Esto no solo afecta lo que vemos, sino también nuestra percepción de la red. Puede ser malo a largo plazo para empresas y sitios web. Menos credibilidad y una mala reputación son algunas de las consecuencias, un gran riesgo que contribuye a la desinformación.

Es clave concientizar sobre el contenido de “slop”

Siendo que el «slop» es información hecha por IA sin control humano, requiere algunas soluciones inmediatas. Una de ellas, etiquetar claramente lo que produzca la IA, así la gente sabrá qué contenido es de “slop” y evitarlo si así lo desea.

Pero los usuarios también pueden ser activos en luchar contra el “slop”. Deben aprender a ver contenido creado por IA y a ser críticos. Esto les ayudará a hacer elecciones mejores mientras navegan en internet. Es vital aprender a reconocerlo, detectando el contenido de baja calidad o sin contexto. Al saber identificarlo, los usuarios pueden consumir con más cuidado, evitando la sobrecarga de datos no útiles.

Otras acciones necesarias: promover el consumo de contenido de calidad, producido por fuentes confiables y con un enfoque editorial sólido, y denunciar y reportar el contenido sospechoso de ser “slop” a las plataformas y autoridades correspondientes. Trabajando juntos, empresas, reguladores y usuarios, podemos controlar el impacto de la inteligencia artificial para el bien de todos.


Fuente (Texto e imagen): Blog Donweb
Si te parece que este contenido suma, te invitamos a compartirlo

Lecciones a aprender de la digitalización en las escuelas españolas


En el siguiente artículo del diario español La Razón, docentes, familias y expertos se plantean cómo afrontar el delicado debate de incorporación de las pantallas en las escuelas.


El primer trimestre del año toca su fin y, con él, comienzan las campañas de promoción en los centros formativos con el objetivo de cubrir las plazas vacantes y llegar al número de alumnos necesario para arrancar y planificar el próximo curso académico.

La presencia de pantallas en las aulas y en el proceso educativo es uno de los grandes puntos de interés y, además juega un papel importante en el proyecto de muchos centros educativos. Tras varios años de implantación, después de mucho esfuerzo e inversión, en los últimos meses el debate ha vuelto al origen. Padres, expertos en educación y profesores se preguntan si suponen un avance, si son un recurso más o si, por el contrario, representan un lastre para los alumnos.

La presencia de pantallas en las aulas no es algo nuevo. Desde la implantación de las primeras pizarras digitales en los primeros años de este siglo XXI y pasando por los proyectores, el proceso de digitalización de los centros educativos ha ido dando pasos adelante. El debate está servido.

Despejarlo no es el objetivo de este reportaje, si bien todo parece apuntar a que la digitalización ha venido para quedarse, pero depende de los protagonistas (centros educativos, profesores y padres) saber utilizar este recurso que, aunque tiene muy buenas aplicaciones para la docencia (organización, comunicación, etc.), aún está por probar científicamente su aportación a la educación y formación de los alumnos. Prueba de ello es que países como Suecia han paralizado los planes de digitalización para revisarlos a fondo. La solución a esta ecuación no la conoceremos a corto plazo, y todo parece indicar que habrá que esperar pacientemente para ver cómo evoluciona la cuestión.

Para conocer el momento en que nos encontramos en cuanto a la digitalización se ha consultado a diferentes actores del proceso educativo. LA RAZÓN ha hablado con expertos, asociaciones de padres y colectivos de profesores para analizar la cuestión. Catherine L’Ecuyer, doctora en Educación y Psicología, Begoña Ladrón de Guevara, presidenta de la Confederación de Padres de Alumnos (COFAPA), y Juan Torija, secretario general de la Federación de Enseñanza de USO de Madrid (FEUSO) (*), ofrecen una mirada desde sus respectivos puntos de vista del proceso formativo, en lo relacionado a la digitalización en la educación.

La posibilidad de dar y/o recibir clase a través de tabletas no debe ser una imposición. En ningún caso, al menos, se debe imponer por encima del método, digamos, tradicional. Si un colegio apuesta por las tabletas, parece lógico dar la opción de mantener los libros en formato físico para las familias que así lo deseen. Esto lo exige un gran número de padres y profesores, pues es parte de la libertad de elección de centro escolar presente en varias comunidades autónomas y, también, alude a la libertad de cátedra, en el caso de los profesores y docentes.

Entonces, ¿dónde está el debate? Juan Torija explica cómo los colegios, de un tiempo a esta parte, se afanan en encontrar alicientes atractivos para que nuevas familias decidan matricular a sus hijos en el centro. «Tener que competir con el colegio de al lado para llenar aulas no había ocurrido nunca, pero la crisis de natalidad que vivimos actualmente ha puesto en riesgo a muchos colegios, que han visto en la digitalización un potente reclamo. En muchos casos, se pone por delante (erróneamente) la viabilidad de una empresa antes que la coherencia con el proyecto educativo del centro».

Los colegios han querido adaptar la docencia a través de pantallas valiéndose de soportes (las tabletas) que no están concebidos para que los niños reciban clase con ellos. L’Ecuyer opina que se les da carta blanca a las empresas tecnológicas para entrar en las aulas: «Pedir a las tecnológicas que proporcionen una herramienta educativa es como pedir a una cadena de comida rápida que haga el menú de los comedores escolares».

En cuanto al profesorado, es innegable que la tecnología ayuda de manera importante al trabajo de los adultos, pero también tiene su lado menos agradable. Juan Torija comenta el nivel de extremo cansancio al que están sometidos los docentes, pues «por su fuerte componente vocacional, es muy difícil para los profesores dejar de contestar un correo electrónico, corregir exámenes o trabajos o actualizar las notas en el sistema a horas intempestivas», completamente fuera del horario laboral.

Importancia del modelo tradicional

Begoña Ladrón de Guevara defiende la presencia de dispositivos digitales en las aulas como un recurso más dentro de todas las posibilidades que existen para hacer más eficaz el proceso educativo y formativo de los alumnos. «De ninguna manera puede sustituir a la escritura o a la lectura en libros físicos», apunta la presidenta de COFAPA. L’Ecuyer defiende desde hace una década la importancia de retrasar el contacto de los niños con las pantallas lo máximo posible. «La mente aún inmadura del niño se vuelve pasiva y dependiente ante la pantalla», explica. En este caso, «sí que existen evidencias científicas que prueban los efectos en la memoria y la forma de aprender de los alumnos, y son ellos mismos los que dilucidan, llegados a cierto nivel de madurez (segundo ciclo de ESO o Bachillerato), si estudiar con una tablet es bueno o no para ellos», comenta Torija a este respecto.

Como conclusión, la falta de evidencias científicas del valor aportado por la tecnología a la educación es un gran hándicap, que debe ser oportunamente valorado por los centros antes de decidir (mejor si es en consonancia con los padres y profesores) si apostar por esta opción.

En opinión de Begoña Ladrón de Guevara, es obligación de las familias conocer el proyecto educativo del colegio y, si se llega a diferir en algún punto del mismo, confiar en los cauces de comunicación habituales para contactar con el centro. «Solo así, caminando colegios y familias juntos», comenta, «se puede llegar a un entendimiento beneficioso, para los alumnos (sobre todo)», verdaderos protagonistas del entorno y el proceso formativo y educativo.

Por ello, no se puede tomar a la tecnología como algo absoluto y excluyente. «Es incongruente hablar de libertad educativa y, después, imponer las tabletas sin ofrecer una alternativa analógica a los padres», explica Catherine L’Ecuyer.


(*) USO: Unión Sidical Obrera, el tercer sindicato en representación a nivel estatal en España.
Fuente: LaRazon.es
Imágen: EbTouch

Si te parece que este contenido suma, te invitamos a compartirlo

Facebook cumple 20 años y la falta de alfabetización digital, también

Si hablamos de la falta de alfabetización en cuestiones de seguridad y de utilización productiva y aún ética de internet, me dirá usted seguramente, lector, que el consumo desaforado, proliferación de contenidos inconvenientes y hasta ofensivos, el sensacionalismo, la estafa, las noticias falsas y otras desgracias humanas existen desde siempre. Pero es innegable que en estos tiempos se han exacerbado estas conductas hasta límites que no hubieramos imaginado en otras épocas.

Igualmente innegable es el asedio a la privacidad que se inició hace 20 años, el 4 febrero de 2004, con el nacimiento de Facebook, que inaugura la etapa de las redes sociales omnipresentes.

Algunos especialistas llaman a esto la «segunda revolución de internet», evento que se emparenta y se ve potenciado con la aparición del iPhone en junio de 2007. Se inicia así la era de los “comerciantes de la atención”, al decir de Tim Wu.

Es un hecho probado que herramientas como estas aumentaron la rapidez de las comunicaciones, facilitando la difusión y la participación en tiempo real, pero pocos se dan a la tarea de hacer las veces de editores, es decir, aquellos que verifican la veracidad, precisión y calidad de la información que circula.

En esta suerte de plaza pública que habitamos en modo digital necesitamos de normas de etiqueta, esto es, aprender códigos que prevengan la discordia, los insultos, la hostilidad y el enojo. La alfabetización que nos debemos es casi una revolución: decidirnos a ser amables. 

Desconectarse ya no parece posible. Todo en lo cotidiano gira en torno a una red o a una plataforma. Pero el reciente impacto de los chat de inteligencia artificial y los debates que se generan a partir de su masificación parecen demostrar que hay otro debate pendiente: qué es necesario, y qué es superficial y debe evitarse en la interacción con estos sistemas. Usamos internet para el trabajo pero no establecemos cuanto y cuantas horas; nos entretenemos con las platafomas de contenido pero somos capaces de sumergirnos toda una tarde en una serie policial; acumulamos en las redes contactos que nunca vamos a conocer personalmente, sin conocer sus intenciones. Y así en más.

En esta celebración de los 20 años de Facebook y de nuestra experiencia en las redes sociales -hubo otras antes, pero nunca con la trascendencia de esta-, si hay algo para celebrar, que sea nuestra decisión de renovar la atención, el cuidado al detalle, la capacidad de análisis y de uso criterioso de estas herramientas, construyendo una identidad digital de provecho para nosotros y para aquellos con quienes entramos en contacto en nuestras actividades en red.


 

Si te parece que este contenido suma, te invitamos a compartirlo

Internet le dice a todos quienes somos… y no lo sabíamos

«Todo tiene que ver con todo», era el recordado latiguillo que repetía Pancho Ibáñez en su programa «El deporte y el hombre», y esto que publico aquí, un simple diálogo entre dos desconocidos via Whatsapp, me permitiría reproducirlo para ilustrar lo que sucede con nuestros datos en internet: todo está relacionado hoy en el modo virtual.

Ese simple dato que publicamos en internet (o nos publican sin siquiera preguntar, como en el caso de la patente del automovil aqui) le dice a todos quienes somos.

Internet no olvida, todo queda registrado.

Si te parece que este contenido suma, te invitamos a compartirlo

Los 10 fallos de seguridad más graves de ChatGPT, Bard, Llama y LLM Apps

Un modelo de lenguaje LLM (Large Language Model) es un tipo de modelo de inteligencia artificial (IA) que se utiliza para realizar tareas relacionadas con el procesamiento del lenguaje natural. Los LLM suelen estar entrenados con grandes cantidades de texto y pueden ser utilizados para comprender y responder a consultas escritas en un idioma determinado.

Algunos ejemplos de modelos de lenguaje LLM son los sistemas de búsqueda en internet que utiliza un LLM para comprender las consultas de los usuarios y ofrecer resultados relevantes, una aplicación de traducción automática que utiliza un LLM para traducir textos de un idioma a otro de manera rápida y precisa o un chatbot que utiliza un LLM para comprender y responder a las preguntas de los usuarios de manera autónoma, entre otros.

En el video a continuación, el hacker español Chema Alonso, miembro del Comité Ejecutivo de Telefónica y experto en ciberseguridad, explica en su participación en el II Forum Europeo de Inteligencia Artificial que no todo es oro lo que brilla en el universo IA: también hay fallos de seguridad en estos modelos, que deben ser tomados muy seriamente por su potencial gravedad.


Fuentes:
Las cosas de internet
Wikipedia

Si te parece que este contenido suma, te invitamos a compartirlo

Día Internacional de la Seguridad Informática

El 30 de noviembre se celebra el Día Internacional de la Seguridad de la Información, o del inglés Computer Security Day.

Una celebración que surgió en el año 1988, como consecuencia del primer caso de malware de propagación en red que se registró en el mundo, conocido bajo el nombre de «Gusano de Morris», que afectó al 10% de las máquinas conectadas a Aparnet, la Internet de entonces.

A raíz de esta situación, la Association for Computing Machinery (ACM), estableció que cada 30 de noviembre se recordaría a todas las personas la obligación y necesidad que tienen de proteger sus datos de cualquier tipo de acción corrupta que puede ocurrir en el plano digital.

Algunos consejos básicos de seguridad digital

  1. Gestionar bien tus contraseñas: No solo se trata de poner una contraseña difícil en cuanto a longitud, sino también que no guarde tanta relación contigo, o por lo menos, no una relación tan obvia como el nombre de tu perro o tu fecha de nacimiento.
  2. Variar la contraseña en los diferentes portales, si quieres puedes tener 5 principales, pero no una sola para todo.
  3. No confíar en el Wifi público: No es que no lo puedas utilizar para hacer alguna consulta, ver un vídeo mientras esperas la llegada del tren o leer noticias, pero no lo uses en espacios de alto riesgo, como entrar a la página del banco e incluso ingresar en tus redes sociales o email.
  4. Actualizar siempre el software: A todos nos parece tedioso que cada tanto nuestra computadora o nuestro sitio web, diga que tenemos que actualizar algún programa o plugin, pero normalmente estas actualizaciones buscan crear parches en brechas que ha dejado libre la versión anterior y que pone en riesgo nuestros datos.
  5. No descargar de cualquier sitio: Una mala costumbre que tenemos los cibernautas, es que nos encanta lo gratuito y por eso sin pensarlo mucho le damos a descargar. Igual con los correos electrónicos que tienen un archivo adjunto que parece interesante. Primero asegúrate que el sitio web o remitente es seguro y luego descarga el contenido.
  6. El teléfono móvil también es una computadora: Gestiona tu móvil tal como lo haces con tu PC. Es decir, descárgale un antivirus y cuida los sitios a los que entras con él.

Fuente
Si te parece que este contenido suma, te invitamos a compartirlo

Creando conciencia sobre el uso responsable de las fotos de los niños en Internet

Deutsche Telekom lanzó en el pasado mes de julio la campaña «ShareWithCare», una iniciativa con la que quieren crear conciencia sobre el manejo responsable de fotos y datos. La comunicación utiliza el ejemplo de una familia para mostrar las consecuencias de compartir fotos de niños en Internet, llamando la atención sobre el llamado «sharenting», una práctica en la que los padres comparten fotos, videos y detalles de la vida de sus hijos en línea.

La película escenifica y exagera un experimento social en el que se creó un deepfake de la niña de la familia, llamada Ella. Se puede ver allí cómo «Ella adulta» se vuelve hacia sus padres sorprendidos. Les envía una advertencia desde el futuro y confronta a la madre y al padre con las consecuencias de compartir fotos de sus hijos en Internet. La característica especial: se ha creó un deepfake envejecido virtualmente de una niña de 9 años para que pueda actuar y discutir como una mujer adulta.

Compartimos aquí el video, y más abajo algunos links con recomendaciones y sugerencias al respecto del tema, que venimos desarrollando desde hace tiempo en este espacio, al respecto de la publicación de fotos de niños en internet.

Lecturas y audios recomendados:

Si te parece que este contenido suma, te invitamos a compartirlo

Tecnología y educación a la salida de la pandemia

Invitados por su conductora Silvana Graziutti, conversamos sobre estas cuestiones en el programa «S.O.S Sociedad», que se emite los sábados por FM 89.7 Radio Uruguay. Temas como el uso de las tecnologías en pandemia, la respuesta de las escuelas, los docentes y las familias durante la cuarentena, el después de la crisis y la seguridad en internet recorrieron la amena charla.

¡Muchas gracias, Silvana!

Si te parece que este contenido suma, te invitamos a compartirlo

Una reflexión sobre las nuevas tecnologías y otra cultura posible

Hay encuentros (o reencuentros, este es el caso), que nos marcan. Con Daniel Krichman, un pionero en la implementación de las TIC en sus experiencias educativas, me une no solo una amistad de muchos años sino charlas, eventos, proyectos, virtualidades y presencialidades varias, y de todas ellas he salido diferente. Me explico: me resulta imposible no quedar tocado por alguna idea, algún tema, alguna reflexión compartida con él, sea en una conferencia o tomando un café en un bar, como esta mañana.

La ocasión: me entregó un ejemplar de su libro «Escenas de otra vida cotidiana. Tecnologías de Información y Comunicación, transmisión, aprendizaje y cultura de uso».  Como refiere la Dra. en Historia Marianela Scocco en la contratapa, el libro «es crítico, incisivo, pero profundamente humano y consciente (de conciencia social) porque, entre otras cosas, no olvida que el pensamiento necesita validarse colectivamente, ni la condición de trabajadores de las y los docentes que debemos llevar a cabo esos cambios.»

Le agradecí la deferencia de reproducir en el libro un texto que me pidiera originalmente para su espacio en la web Red Aprender & Cambiar, un detalle para nada menor porque pone en evidencia una vez más su concepción de las cosas. Claro, pocos como Daniel para hacernos comprender que nadie se salva solo, que la labor cotidiana necesita y merece espacios de resistencia, espacios que necesitamos construir, sostener y defender entre muchos. 

Más detalles sobre la publicación, haciendo clic aquí.

Si te parece que este contenido suma, te invitamos a compartirlo

ChatGPT, explicado

Me pareció muy adecuada la explicación en el siguiente video que, aunque algo técnica, nos acerca un poco más a comprender la lógica detrás de su funcionamiento.

Es nuestro aporte a abandonar la idea de «magia», aquella que Arthur C. Clarke definió tan maravillosamente, cuando hablamos de tecnología avanzada.

Si te parece que este contenido suma, te invitamos a compartirlo

- Ir arriba -

mega888