Elon Musk y más personalidades piden una pausa en el entrenamiento de inteligencias artificiales como GPT-4

Personalidades tecnológicas como Elon Musk y Steve Wozniak se han unido en una carta abierta para pedir por “una pausa” al entrenamiento de inteligencias artificiales por al menos “6 meses” para todos los sistemas que puedan ser más potentes que GPT-4, el más popular en la actualidad.

La carta ha sido firmada por más de mil personalidades del mundo tecnológico en lo que se encuentran, entre los ya mencionados, Jaan Tallinn (co-fundador de Skype) y Max Tegmark (MIT).

Preocupaciones

Para esta comunidad, la inteligencia artificial puede generar un impacto profundo en la sociedad, por lo que se debe acompañar su desarrollo de manera responsable y regulada.

Con GPT-4 siendo una potencia popular de internet, cada vez más compañías como Google y Amazon se están animando a lanzar sus propios sistemas que intentan ser más potentes, aunque con múltiples errores que generan temor en la población.

Por ello, los firmantes piden que se pause el entrenamiento para que todos los mecanismos de la actualidad marchen a una velocidad controlada y que no haya sobresaltos en el aprendizaje de conocimiento en las inteligencias.

"Los sistemas contemporáneos de IA están llegando a competir con los humanos en tareas generales, y debemos preguntarnos: ¿Debemos dejar que las máquinas inunden nuestros canales de información con propaganda y falsedades? ¿Debemos automatizar todos los trabajos? ¿Debemos desarrollar mentes no humanas que con el tiempo nos superen en número, inteligencia, obsolescencia y reemplazo?", se lee.

El objetivo es que se dé “un paso atrás para conseguir que los potentes sistemas de vanguardia actuales sean más precisos, seguros, interpretables, transparentes, robustos, alineados, fiables y leales".

Regulaciones

Para esta pausa, se pide que se creen autoridades reguladoras de inteligencia artificial para supervisar y estar al tanto de sus avances.

"Las instituciones necesitan estar bien dotadas de recursos para hacer frente a las drásticas perturbaciones económicas y políticas (especialmente para la democracia) que causará la IA”, refiere el mensaje.

Se habla también de regulación legal en términos de posibles daños creados por la IA, rastreo de posibles fugas de datos en estos modelos o sistemas de financiación pública para investigación en materia de seguridad en este campo.

 

Te recomendamos METADATA, el podcast de tecnología de RPP. Noticias, análisis, reseñas, recomendaciones y todo lo que debes saber sobre el mundo tecnológico.