LinuxParty
Una nueva investigación revela que los grandes modelos de lenguaje (LLM) como ChatGPT no pueden aprender de forma independiente ni adquirir nuevas habilidades sin instrucciones explícitas , lo que los hace predecibles y controlables. El estudio disipa los temores de que estos modelos desarrollen habilidades de razonamiento complejas y enfatiza que, si bien los LLM pueden generar un lenguaje sofisticado, es poco probable que representen amenazas existenciales. Sin embargo, el posible uso indebido de la IA, como la generación de noticias falsas, aún requiere atención.
El estudio, publicado como parte de las actas de la 62ª Reunión Anual de la Asociación de Lingüística Computacional (ACL 2024), la principal conferencia internacional sobre procesamiento del lenguaje natural, revela que los LLM tienen una capacidad superficial para seguir instrucciones y sobresalir en Sin embargo, si dominan el idioma, no tienen potencial para dominar nuevas habilidades sin una instrucción explícita. Esto significa que siguen siendo inherentemente controlables, predecibles y seguros.
"La narrativa predominante de que este tipo de IA es una amenaza para la humanidad impide la adopción y el desarrollo generalizados de estas tecnologías, y también desvía la atención de los problemas genuinos que requieren nuestra atención", afirmó el Dr. Harish Tayyar Madabushi, científico informático de la Universidad de Bath y coautor del nuevo estudio sobre las "habilidades emergentes" de los LLM.
La profesora Iryna Gurevych añadió: "... nuestros resultados no significan que la IA no sea una amenaza en absoluto. Más bien, mostramos que la supuesta aparición de habilidades de pensamiento complejas asociadas con amenazas específicas no está respaldada por evidencia y que podemos controlar la Después de todo, el proceso de aprendizaje de los LLM es muy bueno. Por lo tanto, las investigaciones futuras deberían centrarse en otros riesgos que plantean los modelos, como su potencial para ser utilizados para generar noticias falsas".

-
News
- El desastre del sumergible Titán tardó años en gestarse, revelan nuevos detalles
- Los Sistemas Operativos Más Usados del Mundo
- CDIR: una forma más rápida de navegar por carpetas y archivos en Linux
- Cómo Instalar Linux en una Unidad USB ( Lapiz Óptico o Pendrive )
- Militares israelíes destruyen una clínica palestina esencial para enfrentarse al coronavirus
- Más personas obtienen sus noticias de las redes sociales que los periódicos, según un estudio
- Playboy elimina sus cuentas de Facebook
- Joplin, el reemplazo gratuito de Evernote, multiplataforma y opensource
- Nuestro respeto a Barrapunto, el primer portal de Software Libre
- Apple convierte open source su lenguaje de programación Swift
- Solicitud de Formulario para empleo de Al-Qaeda descubierto
- Ocurrió (y no pudimos publicar...)
- Nueva empresa hará posible que los diarios online cobren a sus lectores
- Primeras fotos y video del modelo A de Raspberry Pi
- Hoy es el día Internacional de la Libertad de Prensa