Un grupo de expertos en inteligencia artificial, entre los que se encuentran Elon Musk y altos ejecutivos del sector, publicó una carta abierta en la que aseguran que las actuales tecnologías en desarrollo podrían poner en riesgo a la sociedad y a la humanidad en general.
Por eso, aglutinados en la organización sin ánimo de lucro Future of Life Institute, piden suspender todos los entrenamientos de sistemas más potentes que ChatGPT-4, de la empresa OpenAI, con capitales y respaldo de Microsoft.
Los más de 1.000 expertos (entre los que también están el director ejecutivo de Stability AI, Emad Mostaque; investigadores de DeepMind, propiedad de Alphabet; y los pesos pesados de la IA Yoshua Bengio y Stuart Russell) proponen una pausa en estos desarrollos hasta que no estén completos los protocolos de seguridad y se pongan en marcha de manera efectiva y certificada.
«Los potentes sistemas de IA solo deberían desarrollarse cuando estemos seguros de que sus efectos serán positivos y sus riesgos controlables», sostienen los expertos en el documento.
Y es que, de acuerdo a sus pronósticos, sin estos pasos previos la inteligencia artificial podría causar severos daños en materia económica y política, con efectos graves para las sociedades. En ese sentido, piden a los desarrolladores una mayor colaboración con las autoridades reguladoras.
¿Por qué han tomado esta decisión? Europol, la fuerza policial de la UE, expresó sus preocupaciones éticas y legales sobre la IA avanzada, como ChatGPT, sumándose así a otros tantos organismos a lo largo del mundo. En concreto, advierten sobre un posible uso indebido para desinformar, hacer “phishing” o la ciberdelincuencia, mientras se atraviesa una verdadera pandemia de ciberdelitos.
Una pandemia de ciberataques: el mundo a merced de los piratas informáticos
El propio Musk está inmerso desde hace algún tiempo en el desarrollo de inteligencia artificial para sus autos Tesla: trabajan en sistemas de navegación con piloto automático.
Pero Sam Altman, director ejecutivo de OpenAI, no firmó la carta. Su ChatGPT, con el apoyo de Microsoft, se ha vuelto sumamente masivo y está forzando a sus competidores a acelerar sus investigaciones. Por caso, Google apuró el lanzamiento de Bard, su propio sistema.
Google presentó oficialmente a Bard, el chat de inteligencia artificial que competirá con ChatGPT
