LinuxParty

johnnyb (lector de Slashdot #4,816) es un ingeniero senior de investigación y desarrollo de software que comparte su marco propuesto sobre "lo que debería cubrir la legislación de IA, qué objetivos políticos debería aspirar a lograr y de qué deberíamos tener cuidado en el camino". ¿Algunos extractos?

Proteger a los consumidores de contenido de la IA
El gobierno debería legislar marcadores técnicos y visuales para el contenido generado por IA, y la FTC debería garantizar que los consumidores siempre sepan si hay un ser humano que asume la responsabilidad por el contenido. Esto podría hacerse creando marcas de contenido especiales que comuniquen a los usuarios que el contenido es generado por IA... Esto permitirá a Google hacer cosas como permitir a los usuarios no incluir contenido de IA al realizar búsquedas. Permitirá a los usuarios detectar qué partes de su contenido están generadas por IA y aplicar el nivel adecuado de escepticismo. Y los futuros modelos de lenguaje de IA también pueden usar estas etiquetas para saber que no deben consumir contenido generado por IA...
Garantizar que las empresas tengan claro quién asume la responsabilidad
Está bien que un producto de software produzca un resultado que la empresa de software considere solo como un asesoramiento, pero tiene que estar claramente marcado como tal. Además, si una empresa incluye el software creado por otra, todas las empresas deben tener claro qué resultados se derivan de algoritmos identificables y cuáles son el resultado de la IA. Si la empresa que suministra el componente no está dispuesta a respaldar los resultados de la IA que se producen, entonces es necesario dejarlo claro.

Aclarar normas de derechos de autor sobre contenidos utilizados en modelos

Tenga en cuenta que aquí nada limita el desarrollo tecnológico de la Inteligencia Artificial... El objetivo de estas propuestas es dar claridad a todos los involucrados cuáles son las expectativas y responsabilidades de cada parte.
Sam Altman de OpenAI también ha estado reflexionando sobre esto, pero a una escala mucho mayor. En una entrevista (previa al derrocamiento) con Bill Gates , Altman reflexionó sobre lo que sucederá en el siguiente nivel.

Es decir, lo que sucede: "Si tenemos razón y esta tecnología llega tan lejos como creemos que va a llegar, afectará a la sociedad, al equilibrio geopolítico de poder, a tantas cosas..."[Para] estos sistemas, todavía hipotéticos, pero futuros extraordinariamente poderosos, no como GPT-4, sino algo con 100.000 o un millón de veces la potencia de cálculo de ese, se nos ha socializado en la idea de un organismo regulador global que analiza esos sistemas superpoderosos, porque tienen un gran impacto global. Un modelo del que hablamos es algo así como la OIEA. Para la energía nuclear decidimos lo mismo. Esto necesita una agencia global de algún tipo, debido al potencial de impacto global. Creo que eso podría tener sentido...

Creo que si parece que se pide una desaceleración, será muy difícil. Si en cambio dice: "Haz lo que quieras, pero cualquier clúster de cómputo por encima de cierto umbral de potencia extremadamente alta" (y dado el costo aquí, estamos hablando de tal vez cinco en el mundo, algo así), cualquier clúster como ese tiene someterse al equivalente de los inspectores internacionales de armas. El modelo debe estar disponible para auditorías de seguridad, pasar algunas pruebas durante la capacitación y antes del despliegue. Eso me parece posible. No estaba tan seguro antes, pero hice un gran viaje alrededor del mundo este año y hablé con jefes de estado en muchos de los países que necesitarían participar en esto, y hubo apoyo casi universal.