Microsoft Guidance crea subprocesos de ChatGPT and Co. (deseado)

Los modelos de lenguaje tienden a interpretar las solicitudes de los usuarios, expresadas en forma de indicaciones, con relativa libertad. Puede seleccionar modelos con instrucciones largas, pero esto a menudo no es efectivo. Sin embargo, los programas destinados a trabajar en parte con los resultados de la IA requieren productos reproducibles. Con Guidance, Microsoft ha publicado un proyecto que tiene como objetivo adaptar mejor y de manera más eficiente los modelos de lenguaje de IA (Modelos de lenguaje grandes, LLM) a los requisitos del usuario. Este es un lenguaje de plantilla de IA independiente con su propia sintaxis, que define las reglas de la plantilla. Está dirigido principalmente a desarrollar equipos de desarrollo que confíen en resultados confiables al usar inteligencia artificial.

Un programa, todo incluido

Usando la directiva, los programas que realizan la generación de texto, las indicaciones y la verificación de plausibilidad de los resultados del modelo de IA se pueden escribir en un solo paso. Incluso se pueden integrar herramientas externas para este último. La sintaxis de dirección se basa en el lenguaje de plantilla web del manillar. Sin embargo, a diferencia de los lenguajes de plantillas regulares, los scripts heurísticos siguen un orden predeterminado en línea con el orden de manejo de tokens de los modelos de IA. sobre eso {{gen}} Las respuestas de IA se pueden generar y emitir en puntos predeterminados, o luego se pueden iniciar los siguientes pasos lógicos.

El lenguaje del modelo funciona con los modelos de lenguaje de OpenAI y Hugging Face, así como con el modelo de código abierto Llama filtrado de Facebook, que utilizan muchos autoanfitriones. Directorio de Microsoft esta en el repositorio de github Junto con cuadernos Jupyter adecuados para probar la funcionalidad usted mismo.

Favorito