mega888 Gente que dice – Apuntes e ideas sueltas sobre tecnologías y otros asuntos Saltar al contenido

Gente que dice

Gente que nos hace pensar.

Los 10 fallos de seguridad más graves de ChatGPT, Bard, Llama y LLM Apps

Un modelo de lenguaje LLM (Large Language Model) es un tipo de modelo de inteligencia artificial (IA) que se utiliza para realizar tareas relacionadas con el procesamiento del lenguaje natural. Los LLM suelen estar entrenados con grandes cantidades de texto y pueden ser utilizados para comprender y responder a consultas escritas en un idioma determinado.

Algunos ejemplos de modelos de lenguaje LLM son los sistemas de búsqueda en internet que utiliza un LLM para comprender las consultas de los usuarios y ofrecer resultados relevantes, una aplicación de traducción automática que utiliza un LLM para traducir textos de un idioma a otro de manera rápida y precisa o un chatbot que utiliza un LLM para comprender y responder a las preguntas de los usuarios de manera autónoma, entre otros.

En el video a continuación, el hacker español Chema Alonso, miembro del Comité Ejecutivo de Telefónica y experto en ciberseguridad, explica en su participación en el II Forum Europeo de Inteligencia Artificial que no todo es oro lo que brilla en el universo IA: también hay fallos de seguridad en estos modelos, que deben ser tomados muy seriamente por su potencial gravedad.


Fuentes:
Las cosas de internet
Wikipedia

Si te parece que este contenido suma, te invitamos a compartirlo

Una reflexión sobre las nuevas tecnologías y otra cultura posible

Hay encuentros (o reencuentros, este es el caso), que nos marcan. Con Daniel Krichman, un pionero en la implementación de las TIC en sus experiencias educativas, me une no solo una amistad de muchos años sino charlas, eventos, proyectos, virtualidades y presencialidades varias, y de todas ellas he salido diferente. Me explico: me resulta imposible no quedar tocado por alguna idea, algún tema, alguna reflexión compartida con él, sea en una conferencia o tomando un café en un bar, como esta mañana.

La ocasión: me entregó un ejemplar de su libro «Escenas de otra vida cotidiana. Tecnologías de Información y Comunicación, transmisión, aprendizaje y cultura de uso».  Como refiere la Dra. en Historia Marianela Scocco en la contratapa, el libro «es crítico, incisivo, pero profundamente humano y consciente (de conciencia social) porque, entre otras cosas, no olvida que el pensamiento necesita validarse colectivamente, ni la condición de trabajadores de las y los docentes que debemos llevar a cabo esos cambios.»

Le agradecí la deferencia de reproducir en el libro un texto que me pidiera originalmente para su espacio en la web Red Aprender & Cambiar, un detalle para nada menor porque pone en evidencia una vez más su concepción de las cosas. Claro, pocos como Daniel para hacernos comprender que nadie se salva solo, que la labor cotidiana necesita y merece espacios de resistencia, espacios que necesitamos construir, sostener y defender entre muchos. 

Más detalles sobre la publicación, haciendo clic aquí.

Si te parece que este contenido suma, te invitamos a compartirlo

Una mirada sobre IA y la formación docente

Diego F. Craig es Mgter. en Tecnología Educativa y Competencias Digitales, Licenciado en Tecnología Educativa, Profesor de Educación Técnico-Profesional y Diplomado Superior en Educación y Nuevas Tecnologías. Entre otros trabajos, ha publicado el libro en formato digital que aquí compartimos, titulado «Tercero en Discordia, Reflexiones ante la irrupción de ChatGPT en la Formación Docente», en el que el profesional reflexiona sobre la disponibilidad de la Inteligencia Artificial en la formación docente.

Ante la irrupción, para muchos intempestiva por lo inesperada, de las tecnologías de inteligencia artificial, creemos conveniente referirnos a bibliografía como esta. Coincidiendo o no, totalmente o en modo parcial, bibliografía como la que compartimos seguramente será de gran ayuda para terminar de comprender el fenómeno y cómo nos afecta a los educadores.

Se accede al libro haciendo clic aquí.

Si te parece que este contenido suma, te invitamos a compartirlo

Estupenda jornada sobre informática y docencia en el Foro ADICRA 2023

Necesaria y con una enorme suma de aportes y aprendizajes, así fue la jornada junto a colegas en el Foro de ADICRA 2023 en Rosario. Notables ponencias, talleres y una mesa de debate que en lo personal disfruté mucho.

Gracias a los Prof. Gustavo Cucuzza y Ricardo Leithner por la invitación a participar de la mesa de debate, y al Prof. Alberto Lombardi por la organización, tan al detalle. Y por supuesto, a todos los miembros de ADICRA que pusieron tanta dedicación en la tarea.

Una audiencia muy atenta y participativa y las adecuadas instalaciones de la UTN terminaron de redondear un momento valioso y necesario. Aquí, algunos momentos de la jornada. Un placer además, poder compartir el evento con colegas que aprecio.

Prof. Fabio Gonzalez: «Medición del Pensamiento Computacional (una experiencia local)».

Prof. Franco Cardigni: «Importancia de la Informática desde la escuela para los Estudios Superiores -Un experiencia universitaria-»

Prof. Hugo Rojas – «Educación STEAM para mejorar la enseñanza de la Informática en el nivel primario».

Taller con el Prof. Francisco Mendez: «Diseño e Impresión 3D y su aplicación en las clases de Informática».

Taller con el Prof. Gustavo Cierra – «Hacer posible la robótica en el aula».

Dr. Pablo Bongiovanni: «Inteligencia Artificial y Educación ¿Aliados o Enemigos?».

El Prof. Alberto Lombardi habló de la situación de #LaInformáticaComoMateria en Santa Fe.

Mi intervención fue una memoria de la pandemia, y las contradicciones del solucionismo y el «imposicionismo» que marcó a fuego la experiencia de la cuarentena.

El cierre estuvo a cargo del actual Presidente de la ADICRA, Prof. Gustavo Cucuzza, quien hizo un análisis comparativo de la situación de #LICM en todo el país.

Por supuesto también hubo momentos de compartir algunas delicias entre colegas.

Todo esto en un marco de participación importante de colegas e interesados, que hizo del encuentro un momento de mucho  aprendizaje para todos.

¡Hasta la próxima!

Si te parece que este contenido suma, te invitamos a compartirlo

Sobre la tecnología, lo que se puede y lo que se debe

«A J.F. Kennedy le preguntaron una vez de dónde venía esa obsesión por ir a la luna. En el fondo la pregunta tenía mucho sentido: ¿Qué problema humano, social o civilizatorio se pretendía resolver afrontando tal colosal epopeya? La respuesta del famoso presidente nos ha definido desde entonces: “Si alguien pregunta por qué queremos ir a la luna, la respuesta es sencilla: porque podemos. No hace falta ninguna otra respuesta”. Puestas así las cosas, a mí se me ocurren muchas formas de resolver por la vía directa algunos de nuestros problemas. No se quejen cuando surjan seres humanos que quieran jugar a ser dioses con sus semejantes.

El reverso del lado bueno del progreso técnico ha sido siempre una constante a lo largo de la Historia de la humanidad. No ha sido casualidad que buena parte de los avances tecnológicos hayan sido utilizados por primera vez en el campo militar: desde la pólvora, hasta la energía nuclear; desde la aviación, hasta las herramientas más sofisticadas. Digamos que siempre que el ser humano tiene que debatirse entre usar el palo que ha inventado bien para arar o bien para destrozar el cráneo a sus semejantes, suele optar por hacer ambas cosas, empezando por la segunda.

Por eso deberíamos ser más comedidos y prudentes ante estas nuevas promesas, y razonar en torno a sus implicaciones éticas, preguntarnos por los posibles elementos conflictivos. No porque tengamos una conciencia ludita, por así decirlo, sino porque ya conocemos de qué han sido capaces en otros tiempos nuestros congéneres. No seguir al dictado el axioma de Kennedy. A veces hacer algo, simplemente porque se puede hacer, suele tener consecuencias devastadoras.»

Agustín Baeza, director de Asuntos Públicos de la Asociación Española de Startups, en el artículo titulado «ChatGPT, el último jinete del apocalipsis», sobre la aparición del mencionado chatbot de inteligencia artificial.

Si te parece que este contenido suma, te invitamos a compartirlo

Tecnología centralizada

Está a punto de ocurrir: la energía limpia, la máquina que reduce el efecto invernadero, la vacuna contra el envejecimiento, la inteligencia artificial general. Al mismo tiempo, es el fin de la abundancia, de la democracia y de la despreocupación. Un buen día, despertaremos y ya no habrá que dejar de fumar, de comer grasas saturadas o de poner el aire acondicionado por encima de 24ºC. O quizá no habrá agua, derechos civiles o calefacción. Parecen relatos antagónicos pero perfectamente compatibles. Para que Jeff Bezos suba al espacio, un millón y medio de trabajadores de Amazon tienen que malvivir. Para que Mark Zuckerberg encienda su metaverso, millones de europeos pondrán la lavadora de noche una vez por semana. No podemos renunciar al progreso, pero podemos dejar de hornear.

“No hay otra alternativa”, fue el lema de Margaret Thatcher para imponer la desregulación, la era del ultraliberalismo económico y el imperio de los combustibles fósiles. “No hay otra alternativa”, nos repiten en Davos, en las últimas cumbres climáticas y en la televisión. Un milagro tecnológico salvará el mundo en el último minuto porque ya no queda tiempo y porque somos demasiado vagos, estúpidos o egoístas para hacer otra cosa. O demasiado insignificantes. Cualquier cosa que hagamos será pequeña y ridícula en comparación.

“La mentira que alimenta la utopía del tecnocapitalismo es que sólo existe una manera de hacer big data, inteligencia artificial o computación en nube”, decía Evgeny Morozov en un ensayo reciente, “y es la manera que ha descubierto y perfeccionado Silicon Valley”. Esa mentira no sólo miente, sino que está devorando el resto de alternativas, secuestrando sus recursos y ninguneando su potencial. El fin de la abundancia podría ser el principio del fin de la democracia o el principio de una nueva era de responsabilidad radical. Pero despreciamos la acción colectiva, en incremento y local capaz de generar soberanía desde las instituciones de los barrios porque nos parecen pequeñas y tontas. Es más inteligente esperar que la máquina de explotación de datos, vigilancia masiva y desinformación se transforme en un arca donde cabremos todos en lugar de profundizar la injusticia y triplicar la desigualdad.

Toda tecnología lo suficientemente centralizada es susceptible de convertirse en un arma de destrucción, explotación o colonización masiva. Somos niños esperando que los adultos cojan el volante y resuelvan la situación, pero los adultos son Jeff Bezos, Mark Zuckerberg, Bill Gates y Elon Musk y no vienen a salvarnos.

Para que su futuro exista, el nuestro tiene que desaparecer.

Marta Peirano, escritora y periodista española, en «No vienen a salvarnos»

Si te parece que este contenido suma, te invitamos a compartirlo

Seguridad informática: aprendiendo a minimizar los riesgos

«Creemos que toda nuestra información se encuentra protegida y almacenada pero no es así. El papel de la educación y de los medios masivos de comunicación resulta imprescindible en la capacitación y minimización de riesgos.»

Así comienza el extenso y muy completo artículo de la periodista Mariana Mei para la Revista y Agencia Comunas, titulado «Inconsciente colectivo sobre seguridad informática», en el que se tratan cuestiones como el cuidado con que una persona debería desarrollar sus actividades en el ámbito informático, a fin de construir una ciudadanía digital en modo seguro. La atención, el cuidado y el resguardo de la información sensible por parte del propio usuario son fundamentales para evitar situaciones indeseadas en el ámbito digital.

Con opiniones y consejos de varios especialistas en los distintos aspectos del tema, el artículo va desgranando una serie de consejos y advertencias sobre los riesgos y las diversas formas de lograr una experiencia virtual segura.

Agradeciendo desde ya a la periodista por haber considerado mis aportes al tema, comparto aquí el artículo, que se puede leer completo haciendo clic en este link. Para bajarlo en formato pdf, clic aquí.

Si te parece que este contenido suma, te invitamos a compartirlo

El control de internet, según anticipó Chomsky

La financiación pública de Internet ha terminado esencialmente, estamos en plena ‘desregulación’, que en teoría significa liberalización pero en la práctica apertura a media docena de gigantes informativos (…) que eliminarán a competidores menores.
Sucederá como sucedió hace veinte años con la televisión: aparente proliferación de canales pero concentración sustancial del control de la información en unas pocas manos. La privatización de Internet es la mayor enajenación de recursos públicos de la historia, un colosal sistema construido con dinero público que se transfiere a empresas privadas.
Noam Chomsky, lingüista y filósofo estadounidense, en… 1997

Si te parece que este contenido suma, te invitamos a compartirlo

Tiempo de responsabilidad

«Si un hombre educado de los días de la primera revolución tecnológica -tal vez un sumerio educado o un chino antiguo educado- nos viese a nosotros hoy, sin duda quedaría totalmente estupefacto ante nuestra tecnología, pero también estoy seguro de que hallaría una cierta nota familiar en nuestra instituciones sociales y políticas actuales. Al fin y al cabo, en términos generales, éstas no son fundamentalmente diferentes de las instituciones que crearon él y sus contemporáneos. Y estoy totalmente seguro de que sólo dedicaría una sonrisa de conmiseración tanto a aquéllos de nosotros que pronostican un paraíso tecnológico, como a aquéllos que predicen un infierno tecnológico de alienación, de desempleo tecnológico, etc. Muy bien podría murmurar para sus adentros: ‘Ahí es donde llegué yo’, pero, en cambio, cabe que a nosotros nos dijera: ‘Un tiempo como fue el mío y como es el vuestro, un tiempo de auténtica revolución tecnológica, no es un tiempo de exultación, pero tampoco es un tiempo de desesperación. Es un tiempo de trabajo y responsabilidad’.»

Peter Drucker (1978)

Si te parece que este contenido suma, te invitamos a compartirlo

- Ir arriba -

mega888