Saltar al contenido

información

Podrían obligar a la IA de Google a chequear sus fuentes… como a cualquier humano

Un fallo en Munich cuestiona la protección legal tradicional de los buscadores con IA. Google apelará el fallo, que trata AI Overviews como contenido propio de la compañía.

El fallo, dictado a fines de mayo, sostiene que AI Overviews produce declaraciones “independientes, nuevas y sustantivas”, por lo que no puede ser tratado del mismo modo que un resultado tradicional de búsqueda que solo remite a contenido de terceros.

El recurso contra Google fue interpuesto por dos empresas editoriales de Munich. Según la denuncia, AI Overviews vinculó sus nombres con estafas, trampas de suscripción y prácticas comerciales dudosas. Esas afirmaciones no aparecían en las fuentes citadas por el propio resumen generado por IA. El sistema habría confundido a las demandantes con competidores que sí estaban asociados con prácticas cuestionables.

Google confirmó el 12 de junio que apelará la decisión. La empresa sostuvo que invierte en la calidad de AI Overviews y que la función está diseñada para reflejar la información existente en la web.

El tribunal rechazó esa vía, al considerar que la protección para contenido de terceros no aplica cuando el contenido fue generado por el propio sistema de Google.

La analogía usada por el tribunal se aproxima al derecho de prensa: un editor puede ser responsable por un titular o bajada difamatoria aunque el lector pueda acceder al texto completo para verificar la información. En esa lógica, la posibilidad de hacer clic en las fuentes no libera a Google de responsabilidad por afirmaciones generadas por su propia herramienta.

Si la apelación de Google fracasa y el razonamiento del tribunal se mantiene, las consecuencias operativas podrían ser considerables. Antes de generar afirmaciones sobre personas o empresas identificables, un motor de respuestas con IA tendría que verificar que esas afirmaciones estén respaldadas por las fuentes subyacentes.


Más información en DiarioTI.com

Si te parece que este contenido suma, te invitamos a compartirlo

Descubren una «puerta trasera» en aspiradora inteligente que permitiría el control en forma remota

El ingeniero de software Harishankar Narayanan descubrió que su robot aspiradora iLife A11 enviaba constantemente datos a servidores en China y contenía una puerta trasera (backdoor) que permitía el control remoto total del dispositivo.

Tras bloquear las direcciones IP a las que el dispositivo enviaba constantemente datos, la aspiradora dejó de funcionar, revelando luego que el fabricante podía apagar o reactivar el dispositivo a distancia. El hallazgo expone graves riesgos de seguridad y privacidad en millones de aparatos domésticos inteligentes fabricados por la empresa china 3irobotix, proveedor de marcas como Xiaomi, Wyze, Viomi y Proscenic.

“La envié al servicio técnico. Me dijeron que funcionaba perfectamente. La devolvieron y volvió a encenderse unos días… hasta que volvió a morir”, relató Narayanan en su blog Small World.

Lo que parecía una simple falla técnica escondía algo mucho más grave: una puerta trasera activa utilizada para controlar o inutilizar el dispositivo de forma remota.

Con la garantía ya vencida, Narayanan abrió el dispositivo para entender por qué había “muerto”. Lo que encontró, entre otras vulnerabilidades potencialmente peligrosas, fue que el dispositivo ejecutaba Linux con cámara y sensores activos, acceso root posible tras modificar algunas rutinas del sistema, credenciales WiFi sin cifrar enviadas a servidores del fabricante y que la aspiradora usaba Google Cartographer, una potente herramienta de mapeo SLAM (Simultaneous Localization and Mapping), diseñada para crear mapas 3D del entorno, con la posibilidad de usarse para espiar el diseño del hogar y patrones de movimiento de sus habitantes.

El hallazgo más grave fue un registro del sistema con una marca de tiempo exacta: alguien había accedido remotamente al robot y modificado el script de inicio, impidiendo que el sistema principal arrancara. Dentro del software, el ingeniero descubrió un paquete llamado “rtty”, una herramienta que permite control total remoto del dispositivo: modificar archivos, ejecutar comandos o instalar scripts, todo sin que el usuario lo sepa.

Narayanan comprobó que, al conectar la aspiradora a una red abierta, el fabricante podía “revivirla” remotamente, pero al bloquear la conexión otra vez, el dispositivo quedaba inutilizable. El desarrollador compartió su hallazgo con Cybernews, revelando que muchas otras marcas utilizan el mismo hardware y software provistos por el fabricante 3irobotix. 

El investigador de ciberseguridad Aras Nazarovas, de Cybernews, explicó que la presencia de herramientas como “rtty” en dispositivos domésticos es sumamente preocupante. “Este tipo de software permite un control total y podría usarse para extraer datos, activar cámaras o mapear espacios privados. Es una invasión silenciosa”, advirtió. Incluso si la puerta trasera fue implementada con fines de prueba o mantenimiento, dejarla activa en versiones comerciales es una grave negligencia de seguridad. «Es una amenaza real” , advirtió el especialista.

Los expertos recomiendan medidas básicas para reducir riesgos con dispositivos IoT (Internet de las Cosas):

  • Separar la red doméstica: crear una red WiFi exclusiva para dispositivos inteligentes.
  • Mantener firmware actualizado: aplicar parches y actualizaciones del fabricante.
  • Limitar la telemetría: bloquear comunicaciones innecesarias hacia servidores externos.
  • Usar firewall o VLAN: para evitar conexiones directas con equipos personales.
  • Revisar permisos de aplicaciones: especialmente las que piden acceso a micrófono o cámara.

El caso ha abierto un debate internacional sobre la seguridad en los dispositivos inteligentes, especialmente aquellos con sensores, cámaras o conexión constante a la nube. Una simple aspiradora inteligente puede transformarse en una herramienta de vigilancia o sabotaje, si no se supervisa adecuadamente su diseño y seguridad.


Fuente: Laboratorio Linux

Si te parece que este contenido suma, te invitamos a compartirlo

La tecnología hoy, sus realidades y sus conflictos

Comparto una entrevista en el programa «Frecuencia Libre» (Radio SPORT FM 98.3 de S. M. de Tucumán). En una extensa charla conversamos con su conductor, Gastón Lucena, sobre tecnología y también sobre medios y mi actividad radial.

En este recorte de la conversación abordamos cuestiones referidas a la tecnología, sus realidades y sus conflictos.

Si te parece que este contenido suma, te invitamos a compartirlo

Otra internet es posible

En otra columna para el programa «De columnas y faroles» de Radio La Hormiga de Rosario, que se emite los lunes a las 15 hs, hablamos sobre internet, sus orígenes, su sentido inicial, qué es internet hoy y cuales son las alternativas a esta internet actual.

Si dudas internet ha adquirido una centralidad innegable en nuestra vida cotidiana. Nos conecta con nuestras amistades, obtenemos de ella información, almacenamos información, accedemos a nuestras cuentas bancarias, compramos y otras muchas actividades que hasta hace poco nos hubieran resultado imposibles o materia de alguna novela de ciencia ficción.

Pero toda esta maravilla también tiene su costado oscuro: al usar internet vamos dejando un rastro de información personal en toda la red. Una amplia gama de dispositivos en el ámbito doméstico, laboral y educativo nos permite acceder a ella, y aquella información puede ser usada para fines positivos pero también para satisfacer el afán de lucro privado excluyente y el control social.

Sin embargo otra internet es posible, y de esto hablamos en nuestra columna, que se pude escuchar aquí:

El acceso al sitio de Internet Ciudadana mencionado en la columna, es el el siguiente: https://al.internetsocialforum.net/

Si te parece que este contenido suma, te invitamos a compartirlo

de Mántaras: «Los modelos actuales de IA no son verdaderamente inteligentes»

En un episodio del canal de YouTube, «Inteligencia Artificial», entrevistaron a Ramón López de Mántaras, considerado uno de los pioneros de inteligencia artificial en España y una de las voces más respetadas del panorama internacional. Investigador emérito del CSIC, fundador del Instituto de Investigación en IA y galardonado con premios como el Nacional de Investigación o el Engelmore Award, nos ofrece una visión crítica y profunda sobre el estado actual de la IA.

El experto explica aquí por qué considera que los modelos actuales no son verdaderamente inteligentes, y habla del peligro real de la desinformación generada por IA, de la falta de sentido común en los algoritmos, y de la urgencia de regular esta tecnología.

Nuestor lectores podrán acordar o no con el especialista, pero se trata sin dudas de una voz y una mirada necesarias.

Si te parece que este contenido suma, te invitamos a compartirlo