Saltar al contenido

seguridad

El problema del “slop” en inteligencia artificial

El “slop” es un tipo de spam pero hecho por inteligencia artificial (IA). Se genera mucho contenido no deseado de forma automática sin que nadie lo supervise. Simon Willison, un desarrollador, inventó la palabra “slop” para hablar de la cantidad enorme de contenido inútil creado por IA en Internet. Este riesgo se ve en los modelos AI y su aplicación en el procesamiento del lenguaje. El peligro es que se generan contenidos de baja calidad en grandes cantidades sin la guía o la revisión humana necesaria.

Este mal contenido tiene solo un propósito: ganar dinero a través de la publicidad en sitios web y redes. Estos materiales hacen que internet esté lleno de información que no aporta nada. Además, pueden dañar la clasificación de sitios en las búsquedas y facilitar la desinformación y la manipulación, porque básicamente busca ganar dinero atrayendo visitas y aumentando seguidores en redes. De este modo se convierte en un riesgo para la verdad y la manipulación.

El “slop” y el spam se parecen

Ambos crean contenido para ganar dinero o promocionar productos, pero sin importar si a la gente le gusta. La gran diferiencia entre ambos es que la IA crea “slop” más rápido y en más cantidad. Se trata de una nueva forma de llenar el internet con contenido sin sentido. Esto incluye textos, imágenes y videos, y a menudo se trata de contenido irrelevante o incluso dañino. Por ejemplo, se podrían encontrar malas recomendaciones de viajes o memes incorrectos en redes sociales. Los sistemas de IA no entienden el contexto o no muestran empatía. Por eso, el contenido muchas veces no tiene valor para las personas. Para peor, tiene una tasa de entrega exitosa del 80% en correos donde el spam normal no pasa.

Los algoritmos de IA detrás del “slop” son muy avanzados. Pueden ser precisos hasta en un 95%, pero los usuarios solo lo detectan como spam el 30% de las veces. Esto se debe a lo ingenioso y dinámico que es este tipo de contenido.

En conclusión, el “slop” impacta negativamente la calidad de la web. Esto no solo afecta lo que vemos, sino también nuestra percepción de la red. Puede ser malo a largo plazo para empresas y sitios web. Menos credibilidad y una mala reputación son algunas de las consecuencias, un gran riesgo que contribuye a la desinformación.

Es clave concientizar sobre el contenido de “slop”

Siendo que el «slop» es información hecha por IA sin control humano, requiere algunas soluciones inmediatas. Una de ellas, etiquetar claramente lo que produzca la IA, así la gente sabrá qué contenido es de “slop” y evitarlo si así lo desea.

Pero los usuarios también pueden ser activos en luchar contra el “slop”. Deben aprender a ver contenido creado por IA y a ser críticos. Esto les ayudará a hacer elecciones mejores mientras navegan en internet. Es vital aprender a reconocerlo, detectando el contenido de baja calidad o sin contexto. Al saber identificarlo, los usuarios pueden consumir con más cuidado, evitando la sobrecarga de datos no útiles.

Otras acciones necesarias: promover el consumo de contenido de calidad, producido por fuentes confiables y con un enfoque editorial sólido, y denunciar y reportar el contenido sospechoso de ser “slop” a las plataformas y autoridades correspondientes. Trabajando juntos, empresas, reguladores y usuarios, podemos controlar el impacto de la inteligencia artificial para el bien de todos.


Fuente (Texto e imagen): Blog Donweb
Si te parece que este contenido suma, te invitamos a compartirlo

Día Internacional de la Seguridad Informática

El 30 de noviembre se celebra el Día Internacional de la Seguridad de la Información, o del inglés Computer Security Day.

Una celebración que surgió en el año 1988, como consecuencia del primer caso de malware de propagación en red que se registró en el mundo, conocido bajo el nombre de «Gusano de Morris», que afectó al 10% de las máquinas conectadas a Aparnet, la Internet de entonces.

A raíz de esta situación, la Association for Computing Machinery (ACM), estableció que cada 30 de noviembre se recordaría a todas las personas la obligación y necesidad que tienen de proteger sus datos de cualquier tipo de acción corrupta que puede ocurrir en el plano digital.

Algunos consejos básicos de seguridad digital

  1. Gestionar bien tus contraseñas: No solo se trata de poner una contraseña difícil en cuanto a longitud, sino también que no guarde tanta relación contigo, o por lo menos, no una relación tan obvia como el nombre de tu perro o tu fecha de nacimiento.
  2. Variar la contraseña en los diferentes portales, si quieres puedes tener 5 principales, pero no una sola para todo.
  3. No confíar en el Wifi público: No es que no lo puedas utilizar para hacer alguna consulta, ver un vídeo mientras esperas la llegada del tren o leer noticias, pero no lo uses en espacios de alto riesgo, como entrar a la página del banco e incluso ingresar en tus redes sociales o email.
  4. Actualizar siempre el software: A todos nos parece tedioso que cada tanto nuestra computadora o nuestro sitio web, diga que tenemos que actualizar algún programa o plugin, pero normalmente estas actualizaciones buscan crear parches en brechas que ha dejado libre la versión anterior y que pone en riesgo nuestros datos.
  5. No descargar de cualquier sitio: Una mala costumbre que tenemos los cibernautas, es que nos encanta lo gratuito y por eso sin pensarlo mucho le damos a descargar. Igual con los correos electrónicos que tienen un archivo adjunto que parece interesante. Primero asegúrate que el sitio web o remitente es seguro y luego descarga el contenido.
  6. El teléfono móvil también es una computadora: Gestiona tu móvil tal como lo haces con tu PC. Es decir, descárgale un antivirus y cuida los sitios a los que entras con él.

Fuente
Si te parece que este contenido suma, te invitamos a compartirlo

ChatGPT, explicado

Me pareció muy adecuada la explicación en el siguiente video que, aunque algo técnica, nos acerca un poco más a comprender la lógica detrás de su funcionamiento.

Es nuestro aporte a abandonar la idea de «magia», aquella que Arthur C. Clarke definió tan maravillosamente, cuando hablamos de tecnología avanzada.

Si te parece que este contenido suma, te invitamos a compartirlo

Sobre la tecnología, lo que se puede y lo que se debe

«A J.F. Kennedy le preguntaron una vez de dónde venía esa obsesión por ir a la luna. En el fondo la pregunta tenía mucho sentido: ¿Qué problema humano, social o civilizatorio se pretendía resolver afrontando tal colosal epopeya? La respuesta del famoso presidente nos ha definido desde entonces: “Si alguien pregunta por qué queremos ir a la luna, la respuesta es sencilla: porque podemos. No hace falta ninguna otra respuesta”. Puestas así las cosas, a mí se me ocurren muchas formas de resolver por la vía directa algunos de nuestros problemas. No se quejen cuando surjan seres humanos que quieran jugar a ser dioses con sus semejantes.

El reverso del lado bueno del progreso técnico ha sido siempre una constante a lo largo de la Historia de la humanidad. No ha sido casualidad que buena parte de los avances tecnológicos hayan sido utilizados por primera vez en el campo militar: desde la pólvora, hasta la energía nuclear; desde la aviación, hasta las herramientas más sofisticadas. Digamos que siempre que el ser humano tiene que debatirse entre usar el palo que ha inventado bien para arar o bien para destrozar el cráneo a sus semejantes, suele optar por hacer ambas cosas, empezando por la segunda.

Por eso deberíamos ser más comedidos y prudentes ante estas nuevas promesas, y razonar en torno a sus implicaciones éticas, preguntarnos por los posibles elementos conflictivos. No porque tengamos una conciencia ludita, por así decirlo, sino porque ya conocemos de qué han sido capaces en otros tiempos nuestros congéneres. No seguir al dictado el axioma de Kennedy. A veces hacer algo, simplemente porque se puede hacer, suele tener consecuencias devastadoras.»

Agustín Baeza, director de Asuntos Públicos de la Asociación Española de Startups, en el artículo titulado «ChatGPT, el último jinete del apocalipsis», sobre la aparición del mencionado chatbot de inteligencia artificial.

Si te parece que este contenido suma, te invitamos a compartirlo

Phishing: Según un fallo, brindar las claves bancarias no exime al banco de su responsabilidad

La Cámara II en lo Civil y Comercial de La Plata se expidió así sobre el caso de una docente jubilada de 65 años que fue engañada por ciberdelincuentes que ingresaron a su homebanking, le vaciaron la caja de ahorro y sacaron un préstamo por $260 mil.

Este fallo sin precedentes en materia de phishing fue emitido durante un juicio que se está llevando a cabo contra el Banco Provincia, la entidad bancaria pública de la provincia de Buenos Aires, en Argentina.

La justicia entendió que aunque ella brindó voluntariamente, mediante un engaño, sus claves bancarias a los ciberdelincuentes, eso no exime a la entidad en cuanto a su responsabilidad en la falta de actualización de las medidas de seguridad para evitar el delito.

El engaño tuvo lugar en agosto de 2020, cuando la víctima recibió un llamado telefónico de un supuesto empleado del Banco Provincia que la convenció para que le brindara su usuario y contraseña de homebanking, con la excusa de que debía actualizar las claves.

Alertada luego por el faltante de dinero y el préstamo otorgado, la jubilada presentó la denuncia penal correspondiente y le solicitó al banco que dejara de cobrar las cuotas del préstamo que habían solicitado los ciberdelincuentes, obteniendo una respuesta negativa por parte del Provincia.

Los magistrados entendieron que “los argumentos brindados por el banco no resultan suficientes” y aseguraron que “parecería que las medidas bancarias vigentes se tornan obsoletas e insuficientes”. Además, le pidieron al Banco Provincia que encuentre “nuevas medidas de seguridad complementarias y superadoras de las vigentes”.

“El Banco Provincia, erradamente, apeló la medida y ese error los ha llevado a un camino infinito de precedentes que han sido muy favorables a mi representada. La gran brecha jurisprudencial se fija primero con las cautelares y luego con las sentencias de fondo”, afirmó a un medio local Marcelo Szelagowski, abogado patrocinante.

Lo más importante para destacar de este caso es que quedó descartado el argumento que utilizan la mayoría de los bancos que enfrentan juicios por phising de que el cliente es el único culpable.

Fuente: Infobae

Si te parece que este contenido suma, te invitamos a compartirlo

Tecnología centralizada

Está a punto de ocurrir: la energía limpia, la máquina que reduce el efecto invernadero, la vacuna contra el envejecimiento, la inteligencia artificial general. Al mismo tiempo, es el fin de la abundancia, de la democracia y de la despreocupación. Un buen día, despertaremos y ya no habrá que dejar de fumar, de comer grasas saturadas o de poner el aire acondicionado por encima de 24ºC. O quizá no habrá agua, derechos civiles o calefacción. Parecen relatos antagónicos pero perfectamente compatibles. Para que Jeff Bezos suba al espacio, un millón y medio de trabajadores de Amazon tienen que malvivir. Para que Mark Zuckerberg encienda su metaverso, millones de europeos pondrán la lavadora de noche una vez por semana. No podemos renunciar al progreso, pero podemos dejar de hornear.

“No hay otra alternativa”, fue el lema de Margaret Thatcher para imponer la desregulación, la era del ultraliberalismo económico y el imperio de los combustibles fósiles. “No hay otra alternativa”, nos repiten en Davos, en las últimas cumbres climáticas y en la televisión. Un milagro tecnológico salvará el mundo en el último minuto porque ya no queda tiempo y porque somos demasiado vagos, estúpidos o egoístas para hacer otra cosa. O demasiado insignificantes. Cualquier cosa que hagamos será pequeña y ridícula en comparación.

“La mentira que alimenta la utopía del tecnocapitalismo es que sólo existe una manera de hacer big data, inteligencia artificial o computación en nube”, decía Evgeny Morozov en un ensayo reciente, “y es la manera que ha descubierto y perfeccionado Silicon Valley”. Esa mentira no sólo miente, sino que está devorando el resto de alternativas, secuestrando sus recursos y ninguneando su potencial. El fin de la abundancia podría ser el principio del fin de la democracia o el principio de una nueva era de responsabilidad radical. Pero despreciamos la acción colectiva, en incremento y local capaz de generar soberanía desde las instituciones de los barrios porque nos parecen pequeñas y tontas. Es más inteligente esperar que la máquina de explotación de datos, vigilancia masiva y desinformación se transforme en un arca donde cabremos todos en lugar de profundizar la injusticia y triplicar la desigualdad.

Toda tecnología lo suficientemente centralizada es susceptible de convertirse en un arma de destrucción, explotación o colonización masiva. Somos niños esperando que los adultos cojan el volante y resuelvan la situación, pero los adultos son Jeff Bezos, Mark Zuckerberg, Bill Gates y Elon Musk y no vienen a salvarnos.

Para que su futuro exista, el nuestro tiene que desaparecer.

Marta Peirano, escritora y periodista española, en «No vienen a salvarnos»

Si te parece que este contenido suma, te invitamos a compartirlo

Intromisión por medio de cámaras: cómo evitarlo

Tiempo atrás hablábamos en este mismo espacio sobre las fallas de privacidad en las cámaras de seguridad, mencionando incluso algunos estudios realizados en los que se afirmaba que estas fallas permitirían que una cuenta compartida aparentemente eliminada permanezca en su lugar con acceso continuo a la fuente de video, facilitando el acceso por parte de extraños indefinidamente, invadiendo la privacidad y grabando audio y video de manera encubierta. 

Finalmente, lo que se temía sucedió: en el video aquí arriba se observa una de las muchas intromisiones que se produjeron, en este caso cuando un extraño tomó control de las cámaras Ring en un hogar de Staten Island (EE.UU.), estableciendo una conversación con el hijo de 13 años dentro de su casa. Estos dispositivos de vigilancia de Amazon incluyen además, altavoces y un micrófono integrado, de allí que puedan desarrollarse conversaciones mediante este sistema. Los dispositivos Ring necesitan una conexión inalámbrica a internet para funcionar.

No es el único caso: en el último año se han producido una cantidad de estas intromisiones, poniendo en riesgo la seguridad de los usuarios cuando un extraño toma control del sistema y registra lo que sucede dentro de la casa.

Digital Trends en español se contactó con Ring al respecto de estos incidentes, y un representante de la compañía afirmó que no se trató de una intrusión no autorizada. Según comentaron, al menos en uno de los casos los malhechores obtuvieron las credenciales de usuarios de Ring (por ejemplo, nombre de usuario y contraseña) de un servicio separado, externo y no perteneciente a Ring y las reutilizaron para iniciar sesión en algunas cuentas de Ring. En síntesis, aseguran que el culpable fue el usuario por usar el mismo nombre de usuario y contraseña en múltiples servicios. Habrá que creerles…

Hay varias acciones que el usuario puede llevar a cabo para evitar situaciones como las relatadas aquí. A continuación, algunos consejos brindados por la misma publicación:

  • Habilitar la autenticación de dos factores. Este es un paso importante para mantener la seguridad de Ring. Se accede a la configuración en la aplicación, en el menú Cuenta y Autorización de dos factores.
  • Gestionar bien las contraseñas. Se recomienda usar una contraseña única para la cuenta y crear contraseñas que sean difíciles de descifrar, mezclando números, letras mayúsculas y minúsculas y símbolos.
  • No compartir la información de inicio de sesión. Si otros miembros de la familia necesita acceder al equipo, se lo puede añadir como un usuario compartido en la cuenta. Esto le dará acceso para ver videos, usar la función de conversación bidireccional y guardar videos, pero no tendrá la información de inicio de sesión de la cuenta principal.
  • Evitar compartir los videos de vigilancia en las redes sociales.
  • Usar firewall y antivirus.
  • Mantener actualizado el software de la cámara. La cámara Ring al igual que todo otro dispositivo, necesita actualizaciones de rutina, particularmente en lo relativo a la seguridad.

Podemos afirmar que todas estas recomendaciones deberían aplicarse a todos los dispositivos y servicios que utilizamos, ya que en mayor o menor medida todos utilizan información personal que podría eventualmente poner en riesgo nuestra privacidad. 


Fuente: Digital Trends en español
Si te parece que este contenido suma, te invitamos a compartirlo

Interland: más que un juego, una manera de enseñar a los niños una internet segura

En estos tiempos de pandemia y virtualidad forzada, Interland -el juego online lanzado por Google hace ya un tiempo-, se convierte en una herramienta útil y divertida para enseñar a los niños cómo utilizar Internet de manera segura.

Bajo el lema “Sé genial en Internet”, esta iniciativa pretende ayudar a los niños a explorar el mundo de Internet de una manera adecuada, basándose en fundamentos como:

  • Sé inteligente en Internet (comparte con cuidado)
  • Mantente alerta en Internet (no caigas en trampas)
  • Mantente seguro en Internet (protege tus secretos)
  • Sé amable en Internet (ser amable es genial)
  • Sé valiente en Internet (si tienes dudas pregunta)

En el juego, los niños se enfrentan a diversas situaciones y deberán ir superando desafíos y preguntas en las que aprenderán, en una forma interactiva, cómo utilizar las ventajas y beneficios de la red al tiempo que aseguran su privacidad y seguridad.

Se accede al juego en español, en el siguiente vínculo: https://beinternetawesome.withgoogle.com/es-419_all/interland

Si te parece que este contenido suma, te invitamos a compartirlo

Un cambio virtual de sexo peligroso

FaceApp es una aplicación móvil para iOS y Android, desarrollada por la empresa rusa Wireless Lab, que utiliza inteligencia artificial para generar automáticamente transformaciones de rostros altamente realistas en las fotografías. Empleando técnicas de deepfake, la aplicación permite transformar el género de un rostro. Estas estampas, muy graciosas por cierto, están invadiendo las redes sociales al tiempo que preocupan a los especialistas por la controvertida política de privacidad de la aplicación.

Explicamos: se deben aceptar para utilizar la aplicación, requisitos tales como que el usuario deberá aceptar que el sistema registre la IP del dispositivo y la página web que se ha visitado antes de utilizar su sistema. Esto significa que FaceApp registrará buena parte de nuestra actividad online. Lo preocupante de esto es que tal aceptación implica que esa información sea cedida a terceras partes. Aunque se clara que los datos son anonimizados, queda claramente explicitado que posteriormente son vendidos a terceros.

El principal cuestionamiento hacia este tipo de aplicaciones gratuitas se refiere, por un lado, a que la totalidad de ellas obtiene un beneficio económico por explotar los datos del usuario. Por otro lado, quien quiera usar este tipo de apps debe aceptar sus políticas de privacidad sin discusión.

La realidad indica que al publicar nuestros datos en internet perdemos por completo el control sobre ellos. Pero las redes sociales son una tentación irresistible para la vanidad de las personas. Allí seguramente se encuentre la clave del éxito estas aplicaciones, aun a pesar que los riesgos que conllevan. 


Fuente: ElPais.com

Si te parece que este contenido suma, te invitamos a compartirlo

Renovado sitio de la campaña «Internet no olvida»

Privacidad en internet (privacidadeninternet.com) es un espacio en la web dedicado a presentar un ciclo de charlas libres y gratuitas que dimos en llamar «Internet no olvida – Protegiendo nuestra privacidad en internet», dirigidas a padres, docentes y público en general, sobre las claves para construir nuestra identidad como ciudadanos en la cultura digital de forma segura.

Este ciclo, que cuenta con el auspicio de la tecnológica rosarina Donweb.com, ha recorrido escuelas y otras instituciones -además de participar en conferencias y eventos académicos- de nuestra ciudad de Rosario y localidades aledañas desde hace 10 años. 

Ahora presentamos su nuevo sitio renovado, en el que llevamos un registro no solo de las charlas, sino además de la presencia en los medios de la campaña, a través de entrevistas y participaciones diversas en los medios.

El sitio cuenta además, con un formulario de contacto a fin de permitir a nuestros lectores e interesados contactarse para organizar estas charlas gratuitas en sus escuelas e instituciones.

Nuestros lectores pueden acceder a toda esta información haciendo clic aquí.

Si te parece que este contenido suma, te invitamos a compartirlo

- Ir arriba -

mega888