Saltar al contenido

Reinventando el olvido - 3. página

Los 10 fallos de seguridad más graves de ChatGPT, Bard, Llama y LLM Apps

Un modelo de lenguaje LLM (Large Language Model) es un tipo de modelo de inteligencia artificial (IA) que se utiliza para realizar tareas relacionadas con el procesamiento del lenguaje natural. Los LLM suelen estar entrenados con grandes cantidades de texto y pueden ser utilizados para comprender y responder a consultas escritas en un idioma determinado.

Algunos ejemplos de modelos de lenguaje LLM son los sistemas de búsqueda en internet que utiliza un LLM para comprender las consultas de los usuarios y ofrecer resultados relevantes, una aplicación de traducción automática que utiliza un LLM para traducir textos de un idioma a otro de manera rápida y precisa o un chatbot que utiliza un LLM para comprender y responder a las preguntas de los usuarios de manera autónoma, entre otros.

En el video a continuación, el hacker español Chema Alonso, miembro del Comité Ejecutivo de Telefónica y experto en ciberseguridad, explica en su participación en el II Forum Europeo de Inteligencia Artificial que no todo es oro lo que brilla en el universo IA: también hay fallos de seguridad en estos modelos, que deben ser tomados muy seriamente por su potencial gravedad.


Fuentes:
– Las cosas de internet
– Wikipedia

Si te parece que este contenido suma, te invitamos a compartirlo

Día Internacional de la Seguridad Informática

El 30 de noviembre se celebra el Día Internacional de la Seguridad de la Información, o del inglés Computer Security Day.

Una celebración que surgió en el año 1988, como consecuencia del primer caso de malware de propagación en red que se registró en el mundo, conocido bajo el nombre de «Gusano de Morris», que afectó al 10% de las máquinas conectadas a Aparnet, la Internet de entonces.

A raíz de esta situación, la Association for Computing Machinery (ACM), estableció que cada 30 de noviembre se recordaría a todas las personas la obligación y necesidad que tienen de proteger sus datos de cualquier tipo de acción corrupta que puede ocurrir en el plano digital.

Algunos consejos básicos de seguridad digital

  1. Gestionar bien tus contraseñas: No solo se trata de poner una contraseña difícil en cuanto a longitud, sino también que no guarde tanta relación contigo, o por lo menos, no una relación tan obvia como el nombre de tu perro o tu fecha de nacimiento.
  2. Variar la contraseña en los diferentes portales, si quieres puedes tener 5 principales, pero no una sola para todo.
  3. No confíar en el Wifi público: No es que no lo puedas utilizar para hacer alguna consulta, ver un vídeo mientras esperas la llegada del tren o leer noticias, pero no lo uses en espacios de alto riesgo, como entrar a la página del banco e incluso ingresar en tus redes sociales o email.
  4. Actualizar siempre el software: A todos nos parece tedioso que cada tanto nuestra computadora o nuestro sitio web, diga que tenemos que actualizar algún programa o plugin, pero normalmente estas actualizaciones buscan crear parches en brechas que ha dejado libre la versión anterior y que pone en riesgo nuestros datos.
  5. No descargar de cualquier sitio: Una mala costumbre que tenemos los cibernautas, es que nos encanta lo gratuito y por eso sin pensarlo mucho le damos a descargar. Igual con los correos electrónicos que tienen un archivo adjunto que parece interesante. Primero asegúrate que el sitio web o remitente es seguro y luego descarga el contenido.
  6. El teléfono móvil también es una computadora: Gestiona tu móvil tal como lo haces con tu PC. Es decir, descárgale un antivirus y cuida los sitios a los que entras con él.

Fuente
Si te parece que este contenido suma, te invitamos a compartirlo

Creando conciencia sobre el uso responsable de las fotos de los niños en Internet

Deutsche Telekom lanzó en el pasado mes de julio la campaña «ShareWithCare», una iniciativa con la que quieren crear conciencia sobre el manejo responsable de fotos y datos. La comunicación utiliza el ejemplo de una familia para mostrar las consecuencias de compartir fotos de niños en Internet, llamando la atención sobre el llamado «sharenting», una práctica en la que los padres comparten fotos, videos y detalles de la vida de sus hijos en línea.

La película escenifica y exagera un experimento social en el que se creó un deepfake de la niña de la familia, llamada Ella. Se puede ver allí cómo «Ella adulta» se vuelve hacia sus padres sorprendidos. Les envía una advertencia desde el futuro y confronta a la madre y al padre con las consecuencias de compartir fotos de sus hijos en Internet. La característica especial: se ha creó un deepfake envejecido virtualmente de una niña de 9 años para que pueda actuar y discutir como una mujer adulta.

Compartimos aquí el video, y más abajo algunos links con recomendaciones y sugerencias al respecto del tema, que venimos desarrollando desde hace tiempo en este espacio, al respecto de la publicación de fotos de niños en internet.

Lecturas y audios recomendados:

Si te parece que este contenido suma, te invitamos a compartirlo

Tecnología y educación a la salida de la pandemia

Invitados por su conductora Silvana Graziutti, conversamos sobre estas cuestiones en el programa «S.O.S Sociedad», que se emite los sábados por FM 89.7 Radio Uruguay. Temas como el uso de las tecnologías en pandemia, la respuesta de las escuelas, los docentes y las familias durante la cuarentena, el después de la crisis y la seguridad en internet recorrieron la amena charla.

¡Muchas gracias, Silvana!

Si te parece que este contenido suma, te invitamos a compartirlo

Sobre la tecnología, lo que se puede y lo que se debe

«A J.F. Kennedy le preguntaron una vez de dónde venía esa obsesión por ir a la luna. En el fondo la pregunta tenía mucho sentido: ¿Qué problema humano, social o civilizatorio se pretendía resolver afrontando tal colosal epopeya? La respuesta del famoso presidente nos ha definido desde entonces: “Si alguien pregunta por qué queremos ir a la luna, la respuesta es sencilla: porque podemos. No hace falta ninguna otra respuesta”. Puestas así las cosas, a mí se me ocurren muchas formas de resolver por la vía directa algunos de nuestros problemas. No se quejen cuando surjan seres humanos que quieran jugar a ser dioses con sus semejantes.

El reverso del lado bueno del progreso técnico ha sido siempre una constante a lo largo de la Historia de la humanidad. No ha sido casualidad que buena parte de los avances tecnológicos hayan sido utilizados por primera vez en el campo militar: desde la pólvora, hasta la energía nuclear; desde la aviación, hasta las herramientas más sofisticadas. Digamos que siempre que el ser humano tiene que debatirse entre usar el palo que ha inventado bien para arar o bien para destrozar el cráneo a sus semejantes, suele optar por hacer ambas cosas, empezando por la segunda.

Por eso deberíamos ser más comedidos y prudentes ante estas nuevas promesas, y razonar en torno a sus implicaciones éticas, preguntarnos por los posibles elementos conflictivos. No porque tengamos una conciencia ludita, por así decirlo, sino porque ya conocemos de qué han sido capaces en otros tiempos nuestros congéneres. No seguir al dictado el axioma de Kennedy. A veces hacer algo, simplemente porque se puede hacer, suele tener consecuencias devastadoras.»

Agustín Baeza, director de Asuntos Públicos de la Asociación Española de Startups, en el artículo titulado «ChatGPT, el último jinete del apocalipsis», sobre la aparición del mencionado chatbot de inteligencia artificial.

Si te parece que este contenido suma, te invitamos a compartirlo