Saltar al contenido

Participamos en el programa «Quién levanta el muerto?»

Quién Levanta el Muerto? es un programa de streaming que se emite los sábados a las 14hs. por su canal en @QLMROSARIO

En una amena charla con uno de sus conductores, Ale Guarino, hablamos sobre nuestro amor por la radio y recorrimos temas como nuevos medios, nuevas tecnologías y el impacto social de la IA en estos tiempos.

¡Gracias, Ale!

Si te parece que este contenido suma, te invitamos a compartirlo

OpenAI, Anthropic y Google DeepMind en alerta: cómo vigilan a sus propios agentes de IA

Tras incidentes en que agentes salieron de sus entornos de prueba, los tres laboratorios describen sistemas por capas que dependen de leer el razonamiento de los modelos, un recurso que ellos mismos consideran frágil. El siguiente artículo original de diarioti.com lo explica.

OpenAI, Anthropic y Google DeepMind ya no se limitan a entrenar a sus modelos para que se comporten bien: también los vigilan mientras trabajan dentro de sus propias empresas. En los últimos cuatro meses, las tres publicaron cómo supervisan a sus agentes internos, y dos de ellas sometieron esos sistemas a revisiones externas que encontraron fallas concretas.

El 29 de octubre pasado, OpenAI describió su sistema de detección de desalineación, ampliado tras el incidente de Hugging Face. Funciona en cuatro capas: sondas que leen las activaciones internas del modelo, un revisor basado en un modelo que examina la conversación y la cadena de pensamiento, un agente investigador que reconstruye el caso y, en cargas sensibles, un cruce con registros de red. En los modelos al menos tan capaces como GPT-6 Astra, la empresa monitorea cada ejecución de aprendizaje por refuerzo, cada evaluación y cada entorno con herramientas.

Por su parte, Anthropic describe su enfoque en su informe de riesgo de agosto de 2026, con datos al 15 de julio. La empresa usa un sistema automatizado que revisa a posteriori las transcripciones del uso interno, con monitores que son modelos más débiles que los vigilados, y un monitor aparte que examina los datos de entrenamiento en busca de trampas para obtener recompensa; según el informe, la empresa no entrena a sus modelos contra ese monitor. Sostiene que la mayor parte del uso interno de alto riesgo ocurre en superficies monitoreadas, aunque no publica porcentajes. Parte del tráfico se revisa solo por muestreo, a una tasa del 0,2%, y ahí quedaron los incidentes de las evaluaciones de ciberseguridad.

En cuanto a Google DeepMind, el 18 de julio pasado presentó una hoja de ruta de control de IA que trata a los agentes como posibles amenazas internas. El marco toma prestado el modelo de amenazas de MITRE ATT&CK y propone medir el monitoreo con tres métricas: cobertura, capacidad de detección y tiempo de respuesta. DeepMind informa que un prototipo interno revisó de forma asíncrona cerca de un millón de tareas de agentes de programación y que sirvió de base para un monitor en vivo del agente Gemini Spark. Según la empresa, la mayoría de los eventos marcados no reflejan intención adversaria, sino malentendidos o exceso de celo del agente. John «Four» Flynn, vicepresidente de seguridad de DeepMind, dijo a Fortune que parte del plan ya está en producción.

Las tres empresas usan modelos de IA para vigilar a otros modelos y las tres dependen, en buena medida, de leer su cadena de pensamiento. Las tres advierten que ese recurso puede debilitarse. OpenAI sostiene que modelos como Astra han ganado control sobre lo que revela su razonamiento. DeepMind escribe que si los modelos aprenden a ocultarlo, leerlo dejará de bastar. METR aportó un dato sobre Anthropic: en un incidente con Mythos 5, el monitor marcó cerca del 1% de las acciones cuando veía la cadena de pensamiento y alrededor del 50% cuando no la veía, lo que sugiere que un razonamiento que justifica la acción puede inducir a error al monitor.

(Artículo completo en https://diarioti.com/como-vigilan-openai-anthropic-deepmind-agentes-ia/126941)

Si te parece que este contenido suma, te invitamos a compartirlo

La radio hoy: IA, nuevos medios y otras encrucijadas

(Artículo publicado originalmente en la revista «Radio La Hormiga – 15 años»)

La radio ha atravesado desafíos a lo largo de su rica historia, originados en las novedades que surgían en materia de medios. De todos ellos logró salir airosa, sosteniéndose como un medio de comunicación único por sus características.

Hoy se repite aquella encrucijada por partida doble: la inteligencia artificial (IA) y el streaming (transmisión de contenidos a través de internet) se erigen como los nuevos retos. La IA, porque la desafía desde la innegable incomprensión de sus alcances y riesgos y el streaming, por la vaguedad de su definición.

Pero vayamos por partes. Si bien el término “inteligencia artificial” se utilizó por primera vez en 1956, tomó estado público en noviembre 2022 al conocerse ChatGPT, aplicación de IA desarrollada por OpenAI. Dada su propia naturaleza, su uso está impactando diversos sectores, y la radio no es inmune.

Sin embargo, hay un debate que apenas asoma en la conversación y es el que se relaciona con los conflictos y riesgos de su uso. A modo de ejemplo, por cada pieza de radio, spot o tema musical creados con IA hay un locutor, editor, músico, etc., afectado en su labor. Es más económico, pero sólo en términos relativos: un trabajador sin empleo o el uso sin control de los recursos naturales como el agua para su sostenimiento, son algunos de los altos precios a pagar. Y hay riesgos: discriminación, utilización de datos biométricos sin consentimiento, etcétera.

Un aspecto que debemos destacar es que el desarrollo actual de la IA está en manos de empresas privadas que no están reguladas y por lo tanto se manejan con la voracidad y la indolencia que caracteriza a la dinámica del mercado. La necesidad de políticas públicas que promuevan un uso adecuado de estas tecnologías es urgente.

En cuanto a las particularidades del streaming, no puede definirse como televisión porque no tiene su dinámica, y tampoco como radio porque contiene imagen. ¿Terminará constituyéndose en un medio nuevo cuando termine de definir su verdadera identidad?

Y hay conflictos que le son propios: a modo de ejemplo, mientras China prohíbe a los creadores de contenido hablar sobre temas sensibles sin certificación profesional, en Occidente tal medida aparece como imposible. Nuevamente, aquí manda el mercado.

La radio hoy se encuentra, entusiásticamente en algunos casos y a regañadientes en otros, frente al desafío de adaptarse a los nuevos modelos comunicacionales sin perder su esencia. Pero antes necesita animarse a un debate, hacia el interior y también hacia sus audiencias, que le permita definir los cuándo, los cómo y fundamentalmente, los por qué de tales cambios, evitando así que sea el mercado tecnológico y las modas quienes decidan su destino.

Si te parece que este contenido suma, te invitamos a compartirlo

Una enfermedad que solo existe para la IA

Una investigadora médica de la Universidad de Gotemburgo en Suecia, Almira Osmanovic Thunström, «inventó» una enfermedad de los ojos. La llamó «bixonimania». Claro, ella la inventó: tal enfermedad no existe.

La investigadora eligió ese nombre a propósito porque es absurdo: el sufijo «manía» es un término psiquiátrico que jamás sería usado para una afección ocular.

Para reforzar la «seriedad» del asunto, subió dos estudios falsos a internet. Y para continuar con el absurdo, llamó al fondo de financiamiento «Fundación Bob Patiño»  (popular personaje para los seguidores de la serie The Simpsons), aclarando además que «este paper entero es inventado». Las pistas estaban ahí para cualquiera que leyera.

El caso es que, como es obvio, esta enfermedad no aparece en ningún libro de medicina, pero las IA empezaron a tratarla como una enfermedad real. Para agravar aún más el asunto, no cayeron solo las máquinas: científicos humanos citaron la bixonimania en un paper con revisión de pares que tardó más de un año en retractarse.

No es novedad que ciertas ideas tomadas como «verdades reveladas» de la ciencia médica son finalmente negadas o corregidas a partir del estudio serio y la investigacion. Desde la certeza de antaño de que las sangrías curaban la mayoría de las enfermedades hasta el descubrimiento bien entrado el SXX de que, en contra de lo que se pensaba, el cerebro adulto sí genera nuevas neuronas, todo un abanico de falsas convicciones han sido confrontadas y desterradas.

Si algo tiene cara de ciencia, los humanos suponemos que debe ser verdad. Y luego citamos sin leer y repetimos sin chequear. Muy humano, sí. Y la IA repite el mismo patrón.

¿La IA podrá algún día pensar como un humano? No lo sabemos. Pero por el momento se presenta un gran problema con esta tecnologia: La IA no sabe decir «no sé». Y mucho menos puede hacer uso del tan humano sentido común.


Fuente: Nature. com

Si te parece que este contenido suma, te invitamos a compartirlo

El uso de tecnología no exime de responsabilidad intelectual

En estos días alcancanzó notoriedad en las redes el caso de la publicación de un libro en formato papel sobre Derecho, escrito por profesionales del area, que incluye párrafos en los que se evidencia el uso de inteligencia artificial en la elaboración del texto.  Frases como «Si quieres te lo separo en párrafos…» o «Te gustaría profundizar en…», típicos en el uso de IA para la elaboración de textos, quedaron impresos en el papel y detonaron las redes con comentarios de lo más variados, algunos acusando y otros justificando a los autores una vez hecho público el caso.

El uso de distintas fuentes no es extraño, claro, en un trabajo de investigación. Para estos jóvenes abogados autores del texto, a la multitud de libros, artículos y otras medios de referencia existentes y a la mano, se les suma la que se ha convertido en la herramienta de consulta por excelencia en este primer cuarto de siglo, la Inteligencia Artificial. 

Pero intuímos que el problema de base no es haber dejado esos párrafos allí, sino la falla de varios de los actores que tomaron parte de la publicación. Es decir, la responsabilidad intelectual -o la falta de ella- más allá de la herramienta elegida para la tarea.

Primeramente, la lectura y relectura por parte de los autores mismos. Luego, el pase de manos a la Editorial, con sus editores y correctores. Sigue la prueba de galera, es decir la maqueta del texto para un último contro de calidad.

Toda esa cadena falló.

Luego, el o los prologuistas: ¿escribieron sobre lo que no leyeron? ¿también pasaron por alto la referencia de la IA?

Este caso, que no es el único, es usado por algunos comentaristas y críticos, ya sea adrede o involuntariamente, para confundir más aun al observador desprevenido con opiniones que mezclan el uso lícito de una herramienta tecnológica novedosa -y sus conflictos aún irresueltos- con la necesaria responsabilidad intelectual al momento de su utilización.

Culpar a la tecnología es un error, porque la IA, como toda tecnología, necesita de la educación y el control humano.


Fuente de la imagen: CincoDías

Si te parece que este contenido suma, te invitamos a compartirlo