LinuxParty

Con la ayuda de OpenChatKit, los programadores pueden crear fácilmente sus propias aplicaciones únicas de chatbot, ajustar el modelo, retener el contexto del diálogo, moderar las respuestas y más.

Desde hace bastante tiempo, el código abierto y el código cerrado han estado en guerra. GPT-Neo, una alternativa de código abierto que EleutherAI lanzó después de que OpenAI lanzara GPT-3 como modelo de código cerrado, ha producido resultados comparables. De manera similar, Stability AI desarrolló Stable Diffusion, una versión de código abierto de DALLE 2 en el momento de su lanzamiento.

Todos conocemos ChatGPT y lo ansiosos que están los usuarios por obtener una versión de código abierto del concepto para poder desarrollar aplicaciones seguras con más libertad. Utilizará el servicio y la máquina de ChatGPT para llevar a cabo una variedad de operaciones, sin embargo, actualmente solo brindan acceso a la API y la opción de ajuste.

Together Computer lanzó OpenChatKit, una variante de código abierto de ChatGPT, el 10 de marzo de 2023. Los desarrolladores que eligen una alternativa de código abierto pueden modificar el comportamiento del chatbot para que se adapte mejor a sus necesidades. Además, puede acceder a él un espectro más amplio de usuarios y grupos, especialmente aquellos que pueden no tener los medios para usar modelos propietarios.
Un potente conjunto de herramientas de código abierto llamado OpenChatKit está disponible para crear aplicaciones de chatbot de uso general y de nicho.

El modelo se encuentra en su iteración inicial, y sus creadores han puesto a disposición un conjunto de herramientas y procedimientos para mejorarlo con aportes de la comunidad. Together Computer ha lanzado OpenChatKit 0.15 con código fuente, pesos de modelo y conjuntos de datos de entrenamiento bajo una licencia Apache-2.0.

Puede probar la demostración del modelo basado en Hugging Face: OpenChatKit. Similar a ChatGPT, el modelo reacciona a su mensaje escrito con una respuesta, un bloque de código, tablas o texto.

El bot fundamental y los componentes básicos necesarios para construir aplicaciones de chatbot personalizadas se incluyen con OpenChatKit.

Hay 4 piezas en el kit:

• GPT-NeoX-20B de EleutherAI es un gran modelo de lenguaje que ha sido ajustado para instrucciones de conversación.
• Instrucciones sobre cómo ajustar el modelo para que realice ciertos trabajos con gran precisión.
• Un método de recuperación flexible para actualizar la respuesta del bot con información de fuentes de noticias, resultados deportivos o Wikipedia.
• Mejorado de GPT-JT-6B para filtrar las preguntas a las que responde el bot con fines de moderación.

El modelo de lenguaje GPT-NeoXT-Chat-Base-20B sirve como base para OpenChatKit. Se ajustó utilizando 43 millones de instrucciones conversacionales de alta calidad y el modelo GPT-NeoX de EleutherAI. Muchas tareas, incluida la discusión de varios turnos, la respuesta a preguntas, la clasificación, la extracción y el resumen, han recibido atención especial por parte del equipo de desarrollo.

Fuera de la caja, el modelo ofrece una base sólida. Como podemos ver, se desempeña mejor en el benchmark HELM que su modelo base GPT-NeoX. El modelo GPT-NeoXT-Chat-Base-20B completó con éxito las tareas de preguntas y respuestas, extracción y clasificación.

Dado que esta es la primera iteración del modelo, hay varios errores, fallas y respuestas adecuadas. Repasaremos un par de temas que el modelo tiene problemas para entender en esta sesión.

• Basado en el conocimiento: el chatbot podría proporcionar hallazgos que son realmente inexactos. Tanto ChatGPT como este tienen problemas. El grupo está desarrollando un sistema de recuperación que corregirá los datos inexactos.
• Basado en código: se utilizó código fuente insuficiente para entrenar el modelo, lo que impidió que se produjera un código preciso. Puedes volverte impaciente.
• Cambio de contexto: si cambia de tema durante una conversación, el chatbot no cambiará el tema automáticamente y continuará respondiendo sus preguntas en relación con los temas anteriores.
• Repetición: el chatbot ocasionalmente repite la respuesta o se congela. Para restablecer la página, simplemente actualícela.
• Respuestas creativas: el chatbot no produce artículos ni cuentos originales, a diferencia de ChatGPT. Sólo se permiten respuestas breves.

Con la ayuda de la comunidad y OpenChatKit, un chatbot mejor debería estar disponible en breve. OpenChatKit aún está en su infancia y se entrenó en un conjunto de datos menos diversificado, así que no espere que repose como ChatGPT o brinde excelentes respuestas.

https://github.com/togethercomputer/OpenChatKit