Meta ha presentado un nuevo modelo de lenguaje generativo basado en un sistema de inteligencia artificial denominado LLaMA. Según la compañía californiana, ofrece un rendimiento superior a GPT-3, la tecnología sobre la que funciona el famoso ChatGPT.
Meta sostiene además que sólo necesita una décima parte de los recursos de GPT-3 para llevar a cabo sus cálculos, lo que abre las puertas a que en unos años se pueda utilizar en ordenadores convencionales o, incluso, en teléfonos móviles y no sea necesario recurrir a grandes centros de procesamiento de datos equipados con una colección de estaciones de trabajo interconectadas.
Para optimizar su funcionamiento, Meta ha entrenado a LLaMA con conjuntos de datos de acceso público como la Wikipedia o Common Crawl. La empresa comandada por Mark Zuckerberg confía que en el futuro contribuirá en campos como el entendimiento del lenguaje natural y de la comprensión lectora, así como la comprensión de las capacidades y las limitaciones de los modelos lingüísticos actuales.
Actualmente, la familia de modelos de lenguaje LLaMA consta de dos variantes llamadas LLaMA-13B y LLaMA-65B que utilizan entre 7.000 y 65.000 millones de parámetros en sus operaciones. A modo comparativo, GPT-3 hace uso de 175.000 millones de parámetros.
En este tipo de sistemas, los parámetros son las variables que se utilizan para llevar a cabo tareas complejas. Cuantos más se suministren, más preciso será el resultado. El inconveniente de emplear un número muy elevado es que hace crecer la cantidad de recursos necesarios para realizar las operaciones.
De ahí que Meta destaque tanto que LLaMA pueda, supuestamente, igualar e incluso superar el rendimiento de GPT-3 utilizando un número inferior de parámetros y, por lo tanto, necesitando también una menor potencia de cálculo.
El anuncio de Meta ha llevado a un investigador independiente de modelos de lenguaje llamado Simon Willison a pronosticar que en un año o dos ya será posible hacer uso de este tipo de sistemas en ordenadores portátiles y smartphones. Veremos si su predicción se acaba haciendo en realidad en tiempo y forma.
FOTOGRAFÍA: KEVIN KU