Noticias y actualidad - 2. página

…con ojo crítico

Leopold Aschenbrenner es un economista afiliado al Instituto de Prioridades Globales de la Universidad de Oxford, y anteriormente trabajó en la Fundación Forethought, investigando el crecimiento económico a largo plazo y el riesgo existencial. Antes de eso, Leopold se graduó como valedictorian en Columbia, donde estudió matemáticas, estadística y economía.

Recientemente sorprendió a los medios y los especialistas con la publicación de un documento titulado «Situational Awareness», en el que ofrece una visión detallada sobre el futuro cercano de la inteligencia artificial (IA), específicamente la inteligencia general artificial (AGI) y la superinteligencia.

Aschenbrenner argumenta que estamos en el umbral de avances significativos en IA que podrían transformar drásticamente la sociedad y la economía mundial. Con una perspectiva informada por años de experiencia y discusión con líderes en el campo, el autor subraya que, aunque muchas personas aún no comprenden completamente el impacto inminente de la IA, quienes  posean una «conciencia situacional» anticipan una revolución tecnológica inminente. San Francisco, un centro neurálgico de innovación tecnológica, es donde se percibe primero esta transformación, y los desarrollos en IA se están acelerando rápidamente.

El autor destaca cómo hemos pasado de modelos de IA que apenas podían identificar imágenes simples a sistemas como GPT-4, capaces de escribir código, resolver problemas matemáticos complejos y superar a la mayoría de los estudiantes de secundaria en exámenes. Este progreso no ha sido un salto aislado, sino el resultado de tendencias consistentes en el aumento de la capacidad computacional y las eficiencias algorítmicas. Aschenbrenner sugiere que, si estas tendencias continúan, para 2027 podríamos ver modelos de IA que realicen trabajos complejos como investigadores o ingenieros de IA, lo que él llama «la llegada plausible de la AGI».

La transición de AGI a superinteligencia es otro tema central del documento. Aschenbrenner predice que una vez alcanzado el nivel de inteligencia humana, la IA no se detendrá ahí. Con cientos de millones de AGIs automatizando la investigación en IA, podríamos ver una compresión de décadas de progreso algorítmico en un solo año. Esto resultaría en sistemas de IA superinteligentes con capacidades y riesgos dramáticos, generando un escenario de poder y peligro sin precedentes.

Sin embargo, este progreso viene con desafíos significativos. La carrera hacia la construcción de clústeres de computación de un trillón de dólares es uno de ellos. Aschenbrenner describe cómo la industria de la IA está movilizando recursos a una escala nunca vista, con inversiones colosales en GPU, centros de datos y producción de energía que se espera antes de que termine la década.

Además, la seguridad de AGI es crítica. En la actualidad, los principales laboratorios de IA no están suficientemente protegidos contra amenazas de actores estatales, lo que plantea un riesgo considerable. Asegurar los secretos y los pesos de AGI contra estas amenazas será un esfuerzo inmenso y actualmente no estamos en el camino correcto.

Otro desafío crucial es la «superalineación»: controlar de manera confiable sistemas de IA mucho más inteligentes que nosotros es un problema técnico aún no resuelto. Aschenbrenner señala que, aunque es un problema solucionable, podría fácilmente descontrolarse durante una rápida explosión de inteligencia, con consecuencias potencialmente catastróficas. La superinteligencia otorgará una ventaja decisiva en términos económicos y militares. Evitar la autodestrucción será un desafío primordial.

A medida que se intensifica la carrera hacia la AGI, Aschenbrenner anticipa un mayor involucramiento del estado en el desarrollo de la IA. Se espera que para 2027/2028, Estados Unidos desarrolle algún tipo de proyecto gubernamental de AGI, ya que ninguna startup puede manejar la superinteligencia por sí sola. Esta movilización estatal será crucial para gestionar los riesgos y las oportunidades que presentará la superinteligencia.

En sus reflexiones finales, Aschenbrenner considera las implicaciones si sus predicciones fueran correctas. Si bien reconoce la posibilidad de que estos desarrollos puedan parecer una exageración, destaca que la consistencia en las tendencias de progreso sugiere un futuro de transformación sin precedentes en la capacidad tecnológica humana.

El autor concluye que estamos al borde de una era donde la inteligencia artificial no solo cambiará la forma en que trabajamos y vivimos, sino que también redefinirá la estructura fundamental de la sociedad y la geopolítica global.

Fuentes:

-Documento original (en inglés)

-Perfil en Cypherhunter.com

-Resumen del documento en Sedic.es

Imagen:

-Unite.ai

[Comparto aquí mi intervención en el Foro de ADICRA 2023 en Rosario]

Alguien alguna vez dijo que el estado natural del usuario de informática es la frustración, y un poco en broma y un poco en serio, esto hace que haya tanto mouse y teclado roto… Más allá del chiste, está la cuestión de que se nos sometió y somete a una manera de trabajar que tiene tantas limitaciones y tiene tantas frustraciones.

Por un lado, el solucionismo, como lo llama Evgeny Morozov, esto es, pensar que todo se soluciona a partir de un sistema informático, de que la solución a todas las cosas mágicamente sucede porque hay un algoritmo trabajando. Es una fantasía, porque en realidad técnicamente puede funcionar, pero hay toda una cuestión social detrás de eso que, si no se contempla, termina frustrando a todo el mundo.

Y por otro, lo que yo llamo «imposicionismo». El investigador Fernando Trujillo decía por aquellos días en Twitter, “¿no hubiera sido hermoso que, en lugar de lanzarnos a una docencia online inmediata, improvisada, nos hubieran dado las instrucciones para trabajar?”

Eso es la imposición. Yo tenía a mi madre en Buenos Aires y la última vez que estuve con ella, en enero del 2020, había recibido recientemente la tarjeta del banco con su jubilación, pero iba todos los meses a cobrarla al banco, y fue un descubrimiento cuando la llevé al cajero y le mostré como usarla y como comprar y pagar con ella. Todo un mundo que para ella no existía. De hecho, la tarjeta estaba vencida, hubo que pedirla de nuevo. Y era una ventaja, un servicio, era una ayuda que tenía desde hacía varios años. Entonces, no funciona imponer la tecnología, como no funciona tampoco pensar que es la solución a todos los males.

Dicho esto, ¿qué pasaba con esta cuarentena? Nos caían encima toneladas de consultas de gente que se encontraba en la obligación de hacerlo, y en el 99% de los casos con la pasión detrás de querer hacerlo, pero con la limitación del solucionismo y la imposición, que hacen que sea más un estado de frustración que de satisfacción por la solución tecnológica.

Sabemos que la tecnología tiene sentido cuando brinda una solución. Cuando trae un problema, ya es otra cosa. Como escribiera David Dickson en el clásico Tecnología Alternativa, «los problemas sociales asociados a la tecnología no provienen de la propia naturaleza de la tecnología sino de cómo se usa». Por eso no se produce un cambio genuino.

Hacemos lo mismo pero le cambiamos el soporte, y no sé si es esa una transformación real. Es decir, filmarnos en un pizarrón y subirlo a YouTube o mandar como tarea leer un libro digital en lugar de leerlo en papel, está bien, no estoy criticando. Lo que estoy diciendo es que cambiar el soporte únicamente no sirve. Tiene que haber una transformación real, un valor añadido que le pueda dar a esto que estoy utilizando.

Es decir, en lugar de buscar un mapa usar Google Earth y viajar por el mundo, o usar un sitio de un museo en 360 grados por ejemplo, ese tipo de cosas le dan el valor agregado que no tenemos en otros soportes. Pero para eso se necesita estar informado, estar enterado, estar capacitado, saber que existen esas cosas, porque si no nos quedamos en esto de reemplazar el soporte, que no deja de ser válido porque tiene su comodidad, tiene sus ventajas, pero no es la transformación profunda que estamos proponiendo.

En plena implementación del programa Conectar Igualdad participé de un encuentro en el que expuso alguien de la UNR, que actuaba como entidad veedora para nuestra región, y mostraba orgulloso como, en una escuela en una isla frente a la central de Itaipú los chicos usaban netbooks en vez de libros. Yo le pregunté, “Bárbaro, ¿Y? ¿Cuál es el cambio?”  Pero claro, el riesgo de esto es el de ser tildado de ludita…

Leer a Michel Serres y su Pulgarcita me produjo una pequeña revolución, porque lo que plantea ahí es que en realidad el problema está en que los que quieren reformar parten de modelos que ya son perimidos. No hay una revolución en esto. Entonces estamos tratando de modificar la situación basándonos en modelos que ya no tienen más vigencia.

Un ejemplo muy gráfico: se prohíbe el celular en la escuela. Entonces, en lugar de incorporar la herramienta, se prohíbe, ¿Por qué? Porque los que plantean esas cosas lo hacen en base a modelos que ya hace tiempo son perimidos, que ya no tienen más vigencia. Entonces nos chocamos con esto: si queremos modificar y estamos escasos de ideas es porque en realidad no tenemos de dónde abrevar para tomar esas ideas.

Y, por otro lado, cuando hay una bajada de línea es por imposición. Y qué decir del hecho de que mientras la provincia de Santa Fe prohibía por ley en 2006 el uso de celulares en el aula, el municipio rosarino hacia sus “Campamentos digitales” en 2009 incluyendo magníficas experiencias justamente, con celulares. Nuevamente releyendo a Dickson: no hay tecnología sin intencionalidad. Seguramente política, en este caso.

Nuestros chicos ya incorporaron esta tecnología hace muchos años, entonces, no estamos lidiando con la dificultad de los chicos sino con la dificultad del adulto de generar nuevos modelos que produzcan un cambio realmente revolucionario en la educación. La llegada del ChatGPT y las tecnologías de inteligencia artificial al aula es otro caso: interpela, no tanto a los chicos sino a nosotros y nuestras prácticas.

Tiempo atrás, estaban arreglando una escuela en Oklahoma, Estados Unidos, y al derribar una pared apareció un pizarrón que tenía más de 100 años, de 1917. Se veían ahí los mismos dibujos, los mismos textos y las notas musicales escritas en el pizarrón, tal como se ven hoy en tantas escuelas.

El pizarrón de 1917

Entonces digo, desde el más profundo respeto, esto: si pensamos en un auto o en una computadora, o en un avión, en 100 años ha habido una revolución impresionante. En la escuela todavía seguimos con el pizarrón y la tiza. Entonces, los que tienen que bajar línea lo están haciendo desde un modelo que ya no existe más, en un mundo que no existe más, con unos pibes que no existen más. Ese es el conflicto que se presenta.

No culpo al docente, una de las vocaciones más nobles que hay. Pero ejerce en un sistema que parece estar complotado para frenar. Es un carro con ruedas cuadradas, todo es burocracia, todo es papeles. Y la gente creativa realmente queda un poco relegada a todo esto. Hay que llenar un libro antes que sentarse a estudiar o sentarse a crear, a diseñar.

En muchos casos todavía hay que presentar el cuaderno firmado y corregido, y no es que sea malo, de hecho ha permanecido por más de 100 años. No es que sea malo, es que el mundo es otro. Entonces, hay otra realidad por la cual moverse y con la cual encontrar soluciones para esto. ¿Cuántos de ustedes trabajaron durante la pandemia creando libretas e informes digitales para que los docentes llenen y envíen a las familias? Yo fui uno de esos. Apenas terminada la pandemia se volvió a las libretas de cartón. Y qué decir de los videos, charlas, explicaciones, etcétera, que fueron nuestro pan de cada día…

Y hay una cuestión que tiene que ver con apurarse para prohibir también, es más fácil prohibir que investigar, que buscar, que ser creativo.

Supuse que justamente, esta situación de pandemia y de exigencia nos pondría a pensar, y que lo primero que sucedería sería capacitar a los docentes, no por si pasa de vuelta una pandemia, sino porque hemos aprendido que hay otro mundo que todavía no habíamos explorado y que tiene que ver con el uso de las nuevas tecnologías para la educación para realmente producir una revolución digital. Pero no.

Sin embargo, solo era cuestión de escuchar:

En lo personal, quise pensar que más allá de o por encima de lo que pudiéramos aprender de esto tuviéramos memoria de lo que aprendimos, que no nos olvidemos de que hemos aprendido mucho en esta instancia y que vamos a sacarle provecho; que no volvamos otra vez a lo mismo, sino que volvamos dándonos cuenta de qué falta y qué falló para poder seguir evolucionando y creciendo.

En definitiva, para trabajar mejor, para trabajar más cómodos, más contentos y sobre todo para darle a nuestros chicos un producto que les sea legítimo, que no sean parte de un sistema, sino que realmente sean ciudadanos del siglo XXI con todas las competencias que necesitan. Que el cambio sea cultural y no solamente de soporte tecnológico.

Muchas gracias.