Saltar al contenido

seguridad

Podrían obligar a la IA de Google a chequear sus fuentes… como a cualquier humano

Un fallo en Munich cuestiona la protección legal tradicional de los buscadores con IA. Google apelará el fallo, que trata AI Overviews como contenido propio de la compañía.

El fallo, dictado a fines de mayo, sostiene que AI Overviews produce declaraciones “independientes, nuevas y sustantivas”, por lo que no puede ser tratado del mismo modo que un resultado tradicional de búsqueda que solo remite a contenido de terceros.

El recurso contra Google fue interpuesto por dos empresas editoriales de Munich. Según la denuncia, AI Overviews vinculó sus nombres con estafas, trampas de suscripción y prácticas comerciales dudosas. Esas afirmaciones no aparecían en las fuentes citadas por el propio resumen generado por IA. El sistema habría confundido a las demandantes con competidores que sí estaban asociados con prácticas cuestionables.

Google confirmó el 12 de junio que apelará la decisión. La empresa sostuvo que invierte en la calidad de AI Overviews y que la función está diseñada para reflejar la información existente en la web.

El tribunal rechazó esa vía, al considerar que la protección para contenido de terceros no aplica cuando el contenido fue generado por el propio sistema de Google.

La analogía usada por el tribunal se aproxima al derecho de prensa: un editor puede ser responsable por un titular o bajada difamatoria aunque el lector pueda acceder al texto completo para verificar la información. En esa lógica, la posibilidad de hacer clic en las fuentes no libera a Google de responsabilidad por afirmaciones generadas por su propia herramienta.

Si la apelación de Google fracasa y el razonamiento del tribunal se mantiene, las consecuencias operativas podrían ser considerables. Antes de generar afirmaciones sobre personas o empresas identificables, un motor de respuestas con IA tendría que verificar que esas afirmaciones estén respaldadas por las fuentes subyacentes.


Más información en DiarioTI.com

Si te parece que este contenido suma, te invitamos a compartirlo

La IA consumirá en 2030 el equivalente al consumo de 1.300 millones de personas

Los científicos de la ONU alertan de que “se está minusvalorando” el coste medioambiental de una tecnología que exige cada vez más recursos naturales.

Para 2030, el consumo de agua asociado al uso de la inteligencia artificial (IA) será equivalente al de 1.300 millones de personas del África subsahariana, mientras que requerirá casi el triple de la potencia energética que gastan al año Pakistán, Bangladesh y Nigeria, países que suman 650 millones de habitantes.

En cuanto a las emisiones de dióxido de carbono, estas podrían alcanzar los 400 millones de toneladas de CO₂ equivalente, comparables a las emisiones totales de Reino Unido. El funcionamiento de la IA implicará la ocupación de 14.500 kilómetros cuadrados, entre infraestructuras y cadena de suministro, el doble del área metropolitana de Yakarta, una megaurbe con más de 32 millones de habitantes, o 10 veces la de Ciudad de México (21 millones).

Estas son algunas de las cifras que esgrimen los autores de un informe publicado este miércoles por el Instituto Universitario de Naciones Unidas para el Agua, el Medio Ambiente y la Salud (UNU-INWEH). Además de esas proyecciones, basadas en estimaciones conservadoras de crecimiento, también tienen datos llamativos sobre la situación a día de hoy: si los centros de datos en los que se computa la IA fueran un país, su consumo eléctrico actual (448 teravatios hora, TWh) estaría al nivel del de Francia.

La institución ya había publicado antes informes alertando de las emisiones de carbono que implica el creciente uso de la IA. En esta ocasión, los investigadores han tenido en cuenta también la energía y el agua consumidas por los centros de datos que alimentan la IA (en el caso del agua, se incluye tanto la empleada para refrigerar sistemas como la dedicada a generar electricidad). “Este informe no va contra la IA”, dice el profesor Kaveh Madani, director del UNU-INWEH. “Es un llamamiento a usar esta tecnología de forma responsable y un intento de evaluar sus impactos indeseados para hacer que sea sostenible y equitativa. Debemos intentar asegurarnos de que esta revolución tecnológica se desarrolla dentro de límites planetarios”.

“El informe es un recordatorio importante y oportuno de que la IA no se limita a modelos y algoritmos, sino que también tiene un impacto físico y medioambiental real, determinado por los centros de datos, los sistemas eléctricos, los sistemas de abastecimiento de agua, el uso del suelo y las cadenas de suministro de hardware”, apunta Shaolei Ren, profesor de ingeniería computacional de la Universidad de California, Riverside, y especialista en sostenibilidad de la IA, que no ha participado en el estudio.

Los autores del informe destacan varios mensajes clave. Uno de ellos es que el coste medioambiental de la IA se está minusvalorando sistemáticamente. La mayoría de análisis publicados se centran en las emisiones de carbono asociadas con el entrenamiento de los modelos (el proceso previo al lanzamiento de estos en el que se computan durante varias semanas, día y noche, decenas o centenares de millones de parámetros sobre gigantescas bases de datos). “Sin embargo, cada kilovatio-hora de electricidad que se consume para entrenar o hacer funcionar un sistema de IA conlleva también una huella hídrica (asociada a la refrigeración y la generación de energía) y una huella territorial (infraestructuras energéticas y las cadenas de suministro)”, subraya el informe.

La huella de carbono puede variar hasta un 70%, por ejemplo, si se pasa del carbón a la bioenergía como fuente de generación de la electricidad que alimenta la IA. Pero eso, a su vez, multiplicaría por 30 la huella hídrica y por 100 su impacto territorial. La complejidad de gestionar la huella medioambiental de la IA es muy alta. Bajas emisiones no equivale a bajo consumo de agua o a bajo impacto territorial. Evaluar el impacto medioambiental de la IA con una sola métrica puede esconder sus efectos nocivos y trasladarlos a otras regiones. “Si solo nos basamos en las emisiones de carbono, podríamos pensar que las renovables hacen que la infraestructura de la IA sea limpia, pero eso supone resolver un problema al tiempo que se crean otros, a menudo en lugares que no lo han solicitado”, opina la autora principal del estudio, Miriam Aczel.

Qué usos contaminan más

El informe aporta otra conclusión interesante. Hasta hace poco, el consenso mayoritario era que la parte más importante del consumo energético asociado a un modelo de IA se producía durante el proceso de entrenamiento (es decir, antes de que lo empiece a usar el público). Los datos del equipo de Aczel, sin embargo, refutan eso: el proceso de inferencia (los cálculos ejecutados cada vez que se hace una solicitud al modelo para que pueda responder a las órdenes o prompts) supone el coste dominante, entre el 80% y el 90% del consumo total. El éxito de estas herramientas, que suman centenares de millones de usuarios diarios, ha cambiado las tornas.

Los investigadores también han evaluado el consumo energético asociado a distintos usos de la IA. Así, una conversación estándar con un chatbot como ChatGPT o Gemini gasta 200 veces más que una función básica de la IA, como es la clasificación de emails sospechosos en la carpeta de spam. Siguiendo con esa referencia, generar una imagen sintética gasta 1.400 veces más, mientras que un vídeo corto puede llegar a suponer 200.000 veces más energía. “Este es uno de los informes técnicos más completos sobre el impacto medioambiental de los sistemas de IA actuales, pero las conclusiones se centran en el impacto de GPT-4, que es un modelo de hace más de tres años. Y tres años en el sector de la IA es una eternidad”, señala Álex Hernández, investigador del Quebec AI Institute (MILA) que dirige Yoshua Bengio, profesor de la Universidad de Montreal y que no ha participado en el estudio.

El hecho de que las conclusiones del informe se basen en datos de modelos antiguos, dice Hernández, habla de la poca transparencia del sector. “La principal limitación del estudio es la dificultad de obtener datos concretos del consumo de los sistemas actuales”, añade.

Otra de las conclusiones del estudio es la desigualdad en el reparto de los beneficios y las externalidades negativas de la IA. En Irlanda, por ejemplo, cuyo laxo régimen fiscal lo convierte en el país de la UE preferido por la mayoría de las grandes tecnológicas para ubicar sus sedes, los centros de datos ya suponían en 2023 el 21% del consumo energético total. Eso ha hecho que el país ponga en marcha moratorias en la construcción de nuevas infraestructuras de este tipo en Dublín. En Uruguay, los planes de construcción en 2023 de un gran centro de datos con un consumo intensivo de agua coincidieron en el tiempo con una sequía que acabó con las reservas de agua potable de Montevideo, lo que provocó que el agua del grifo no fuera apta para el consumo.

Por otra parte, los autores estiman que, para 2030, la infraestructura de la IA generará 2,5 millones de toneladas anuales de basura electrónica (procesadores obsoletos, básicamente), y que mucha de esa basura se acumulará en países con bajos recursos.

El informe habla también de desigualdad.

Únicamente el 16% de los países dispone de infraestructura especializada para computar IA, y dos de ellos (EE UU y China) concentran el 90% de toda la capacidad instalada. Mientras la basura electrónica, las emisiones de carbono y el consumo de agua se reparten entre muchos países, los beneficios (es decir, el uso de las aplicaciones de IA) se quedan en pocos.

Como la mayoría de informes patrocinados por la ONU, este también incluye recomendaciones de actuación. Por ejemplo, a los gobiernos les pide que exijan a los operadores informes estandarizados de la huella medioambiental de la IA. A los desarrolladores, que favorezcan la selección de modelos adecuados a cada tarea (intentar que no se usen los más grandes, que necesitan más recursos, para solucionar problemas sencillos). Esa “eficiencia por diseño” y aumentar la transparencia son las dos principales peticiones a la industria.

Hernández, del MILA, cree que es importante que la ONU se implique en la publicación de informes sobre una cuestión, la huella medioambiental de la IA, reservada hasta ahora principalmente a la academia y a la investigación periodística. “Este informe parece que aspira a tener la legitimidad de un artículo académico y al mismo tiempo a llegar al ámbito de la política”, opina.


Fuente: Diario El País

Si te parece que este contenido suma, te invitamos a compartirlo

Charla sobre seguridad y ciudanía digital en la escuela Escudero

Una muy provechosa jornada de trabajo tuvimos junto a docentes y alumnos de 7mo. grado de la Escuela Anastasio Escudero Nº 799 de nuestra ciudad de Rosario. Una audiencia muy activa y participativa nos permitió profundizar en temas relativos a la construcción de una ciudadanía digital segura.

Muy pronto repetiremos la experiencia junto a las familias. Muchas gracias a comunidad de la Escuela por el cálido recibimiento. ¡Nos encontramos en breve!

Con esta charla recomenzamos el ciclo «Internet no olvida» dirigido a las comunidades educativas.


Si te parece que este contenido suma, te invitamos a compartirlo

La tecnología hoy, sus realidades y sus conflictos

Comparto una entrevista en el programa «Frecuencia Libre» (Radio SPORT FM 98.3 de S. M. de Tucumán). En una extensa charla conversamos con su conductor, Gastón Lucena, sobre tecnología y también sobre medios y mi actividad radial.

En este recorte de la conversación abordamos cuestiones referidas a la tecnología, sus realidades y sus conflictos.

Si te parece que este contenido suma, te invitamos a compartirlo

Microsoft y su proyecto de almacenamiento sostenible a largo plazo

El Project Silica es un proyecto en desarrollo de la firma Microsoft, la primera tecnología de almacenamiento del mundo, diseñada y construida desde el principio para satisfacer la necesidad de la humanidad de una tecnología de almacenamiento sostenible a largo plazo.

Esta tecnología consiste en el almacenamiento de datos en vidrio de cuarzo: un medio WORM (Write Once, Read Many, tecnología de almacenamiento de datos inmutables donde la información se escribe una sola vez y no se puede eliminar ni modificar) económico y duradero, resistente a los campos electromagnéticos y con una vida útil de decenas a cientos de miles de años.

Esto tiene importantes consecuencias para la sostenibilidad, ya que permite conservar los datos in situ y eliminar el costoso ciclo de copiarlos periódicamente a una nueva generación de medios.

De esto hablamos en la siguiente columna:

Si te parece que este contenido suma, te invitamos a compartirlo