Pérdida de control sobre la IA alarmó a expertos en la Cumbre de París
Los expertos afirmaron que la IA podría superar todas las capacidades humanas dentro de dos años
El primer informe internacional sobre la seguridad de la IA fue fruto de una colaboración de 96 expertos y apoyado por 30 países. UNSPLASH / Possessed Photography
A diferencia de las cumbres anteriores en Bletchley Park, en Reino Unido en 2023 y en Seúl, Corea del Sur en 2024, centradas en cuestiones de seguridad, la presidencia francesa buscó que el encuentro del pasado lunes y martes pusiera el énfasis en medidas efectivas sobre la gobernanza de la IA.
"Nuestro deseo no es pasar nuestro tiempo únicamente hablando de los riesgos. Existe una oportunidad que es muy real", aseguró a la agencia AFP, Anne Bouverot, responsable del evento, nombrada especialmente por la presidencia francesa.
Para Max Tegmark, presidente de Future of Life Institute y físico del prestigioso Massachusetts Institute of Technology (MIT), el país no debe perderse el "momento crucial" que supone esta cumbre sobre la IA, que reúne durante varios días en la capital francesa a los principales actores del sector.
LEE: Científicos descifran con ayuda de IA pergaminos carbonizados por erupción
Ciberataques y ataques biológicos
El Future of Life Institute apoyó el lanzamiento de una plataforma, llamada "GRASP", que busca cartografiar los principales riesgos relacionados con la IA y las soluciones desarrolladas en todo el mundo.
"Hemos identificado unos 300 herramientas y tecnologías que enfrentan estos riesgos", detalló Cyrus Hodes, quien coordinó la iniciativa.
El primer informe internacional sobre la seguridad de la IA, fruto de una colaboración internacional de 96 expertos y apoyado por 30 países, la ONU, la Unión Europea y la OCDE, fue presentado el pasado jueves, también con el objetivo de informar a los responsables políticos sobre los peligros de esta tecnología.
Si bien algunos son muy conocidos, como la creación de contenidos falsos en línea, el investigador en informática Yoshua Bengio, ganador del premio Turing 2018, afirma que "las pruebas de la existencia de riesgos adicionales como los ataques biológicos o los ciberataques están apareciendo gradualmente".
A largo plazo, le preocupa una "pérdida de control" de los humanos sobre sistemas de IA animados por "su propia voluntad de vivir".
"Muchas personas pensaban que dominar el lenguaje como lo hace ChatGPT-4 (el chatbot de OpenAI) era ciencia ficción hace apenas seis años", recordó Max Tegmark. "El problema es que muchas personas en el poder aún no han comprendido que estamos más cerca de construir una inteligencia artificial general que de saber cómo controlarla".
¿Estarán las máquinas al mando?
La inteligencia artificial general sería comparable o incluso superior a los humanos, y varios expertos del ecosistema, como el director de OpenAI, Sam Altman, aseguraron que se lograría en los próximos años.
"Si observamos el ritmo al que aumentan las capacidades, podríamos pensar que lo lograremos para 2026 o 2027", coincidió Dario Amodei, el director de la startup estadounidense Anthropic, en noviembre.
Con el riesgo de que, en "el peor de los casos, estas empresas estadounidenses o chinas pierdan el control y que la Tierra sea dominada por máquinas", sostuvo Tegmark.
Por su parte, el profesor de informática en la Universidad de Berkeley, Stuart Russell, expresó que “La tecnología está cambiando realmente muy rápido […]. Lo más preocupante sería tener sistemas de armamento donde es la inteligencia artificial la que controla y decide a quién atacar y cuándo”
Para estos expertos, los Estados deben establecer salvaguardias. "Debemos tratar a la industria de la inteligencia artificial de la misma forma que tratamos a todas las demás industrias", concluyó Tegmark.
LEE: Implante revolucionario mejora la capacidad de caminar en tres pacientes; lo que se sabe
*Mantente al día con las noticias, únete a nuestro canal de WhatsApp.
AO
Lee También
Recibe las últimas noticias en tu e-mail
Todo lo que necesitas saber para comenzar tu día
Registrarse implica aceptar los Términos y Condiciones