Europa perfila ley que regula a la inteligencia artificial
Buscan generar las bases para un uso confiable en todos los aspectos donde se utilice
El Parlamento Europeo ratificó la ley de inteligencia artificial (IA) que pactaron en diciembre las instituciones europeas, la primera que regula esta tecnología en el mundo, y dio así un paso importante para su aprobación definitiva en la Unión Europea.
“Europa es ahora un referente mundial en inteligencia artificial”, indicó tras el voto el comisario europeo de Mercado Interior, Thierry Breton, quien aseguró que “estamos regulando lo menos posible, pero todo lo necesario”.
“Un marco pionero en Europa para la IA innovadora, con límites claros”, señaló por su parte en la red social X la presidenta de la Comisión Europea, Ursula von der Leyen, quien agregó que “beneficiará a la fantástica cantera de talentos de Europa” y “sentará las bases de una IA fiable en todo el mundo”.
Con 523 votos a favor, 46 en contra y 49 abstenciones, la Eurocámara avaló así el acuerdo que a finales del año pasado cerró un grupo de representantes de las tres instituciones comunitarias y que requería aún el visto bueno del pleno del Parlamento Europeo.
Está previsto que la UE la apruebe definitivamente en las próximas semanas, aunque no será hasta 2026 cuando entre en vigor.
Protección de los ciudadanos
La normativa permite o prohíbe el uso de esta tecnología en función del riesgo que suponga para los ciudadanos y, con ella, la UE pretende dar ejemplo al resto del mundo e impulsar a la industria europea frente a Estados Unidos y China.
Breton dejó claro que, a lo largo de su elaboración, han “resistido a los intereses especiales y a los grupos de presión que pedían excluir del reglamento los grandes modelos de IA”.
En líneas generales, la ley de inteligencia artificial prohíbe la vigilancia masiva en espacios públicos, pero permite que las fuerzas del orden puedan emplear las cámaras de identificación biométrica, con previa autorización judicial, para prevenir una amenaza terrorista inminente.
También para localizar o identificar a una persona que haya cometido delitos de terrorismo, tráfico de personas, explotación sexual o, por ejemplo un crimen medioambiental, así como para buscar a las víctimas de estos delitos.
Asimismo, el reglamento establece una serie de obligaciones para los sistemas de inteligencia artificial generativa en los que se basan programas como Chat GPT, de la empresa OpenAI, o Bard, de Google.
En concreto, tendrán que especificar si un texto, una canción o una fotografía se ha generado a través de la inteligencia artificial y garantizar que los datos que se han empleado para entrenar a los sistemas respetan los derechos de autor.
Además, se identifica toda una serie de sistemas de inteligencia artificial de alto riesgo que sólo se podrán comercializar si sus desarrolladores garantizan que respetan los derechos fundamentales.
Por ejemplo, los que puedan influir en el resultado de unas elecciones o los que empleen las entidades financieras para evaluar la solvencia y la calificación crediticia de los clientes.
Breton señaló que esta ley será “una plataforma de lanzamiento para que las nuevas empresas de la UE lideren la carrera mundial por una IA fiable”.
“Permitirá a los ciudadanos y empresas europeos utilizar la IA 'made in Europe' con seguridad y confianza”, aseveró.
La norma también prevé la creación de la Oficina Europea de Inteligencia Artificial, que coordinará el uso de la tecnología entre las autoridades nacionales y que estará asesorada por un panel de científicos y de organizaciones de la sociedad civil.
Primer paso
La directora general adjunta de la Organización Europea de Consumidores (BEUC), Ursula Pachl, declaró en un comunicado que, los consumidores estarán protegidos de algunas prácticas denigrantes, como la puntuación social, y podrán unirse a demandas colectivas de reparación si se han visto perjudicados, pero advirtió de que la legislación “debería haber ido más lejos” y de que los reguladores pertinentes deberán contar con los recursos necesarios.
El grupo de La Izquierda en la Eurocámara también expresó críticas hacia la ley, en especial que en vez de privilegiar la protección de los ciudadanos se haya preferido “hacer excepciones por motivos de seguridad nacional y extender la alfombra roja a las grandes empresas tecnológicas”.
La patronal europea, BusinessEurope, consideró que la interpretación de la ley en la práctica será crucial para las decisiones de inversión y enfatizó que será necesario “apoyar a las empresas que innovan y no limitarse a navegar por la burocracia porque pueden permitírselo”.
Una coalición de asociaciones europeas de creadores culturales calificó la ley como un primer paso y pidió desde ahí el desarrollo de una IA “responsable y sostenible” garantizando que la normativa se aplique “de forma significativa y eficaz”.
EFE
Programa impide crear imágenes, videos y animaciones con los rostros de los candidatos
El popular programa de inteligencia artificial para crear imágenes Midjourney empezó a impedir que sus usuarios generen imágenes falsas del presidente JoeBiden y del ex presidente DonaldTrump de cara a las próximas elecciones presidenciales de Estados Unidos, de acuerdo con pruebas de la herramienta realizadas por distintos medios internacionales.
Con las campañas ya a toda marcha, ha llegado el momento de “ponernos firmes con las cosas relacionadas con las elecciones por un tiempo”, dijo David Holz, director general de Midjourney, a varios cientos de usuarios del servicio en un evento digital.
Holz señaló que “esto de la moderación es un poco difícil” y no explicó exactamente qué cambios se han introducido en las políticas del servicio, pero afirmó que se trataba de una medida temporal para dificultar que se abuse de la herramienta. La empresa no ha respondido a una solicitud de comentarios el miércoles.
Los intentos de los periodistas de poner a prueba la nueva política de Midjourney pidiéndole que creara una imagen de “Trump y Biden estrechándose la mano en la playa” dieron lugar a una advertencia de “Instrucción prohibida detectada”. Un segundo intento elevó la advertencia a: “Ha activado una alerta de abuso”.
La pequeña empresa -que sólo cuenta con 11 empleados, según su sitio web- ha guardado silencio en el debate público sobre cómo las herramientas de IA generativa podrían exacerbar la desinformación electoral en todo el mundo. Midjourney fue el único desarrollador de una de las principales herramientas de generación de imágenes que no se unió en febrero a un pacto voluntario de la industria tecnológica para combatir las imágenes falsas generadas por IA que engañan deliberadamente a los votantes.
“Realmente no me importa el discurso político”, comentó Holz. “Ese no es el propósito de Midjourney. No me interesa mucho. Dicho eso, tampoco quiero dedicar todo mi tiempo a vigilar el discurso político. Así que vamos a actuar con firmeza en ello un poco”.
El Centro para Contrarrestar el Odio Digital publicó un reporte hace unas semanas que concluyó que Midjourney ya se estaba utilizando para crear imágenes que podrían respaldar la desinformación sobre los candidatos políticos o las denuncias falsas sobre fraude electoral.
“Midjourney parecía tener la menor cantidad de controles de cualquier generador de imágenes de IA cuando se trataba de generar imágenes de figuras políticas conocidas como Joe Biden y Donald Trump”, dijo Callum Hood, jefe de investigación del grupo, en una entrevista el miércoles. “Midjourney era casi único tanto por estar dispuesto a generar esas imágenes como por generar imágenes bastante convincentes de los candidatos”.
El grupo de vigilancia también llevó a cabo algunas pruebas en Midjourney, así como en Chat GPT Plus de OpenAI, DreamStudio de Stability AI y el Image Creator de Microsoft, y encontró que todos tenían problemas, creando información falsa de las elecciones en el 41% de los casos. Pero “Midjourney fue la herramienta que obtuvo peores resultados, fallando en el 65% de las pruebas”, según el reporte.
Hood dijo que no estaba al tanto sobre sí Midjourney había cambiado sus políticas esta semana, pero “su decisión de bloquear esas imágenes ayudaría a sellar un punto débil importante en comparación con otros generadores de imágenes populares”.
La base de datos pública de Midjourney muestra que, hasta finales de la semana pasada, los usuarios eran capaces de producir imágenes basadas en instrucciones como “Foto abstracta de Donald Trump sentado en un pequeño coche eléctrico” y “Joe Biden comiendo helado”.
Pero eso cambió en los últimos días, cuando los usuarios informaron que recibían una advertencia al intentar crear imágenes de Biden o Trump. Algunos se quejaron de que Midjourney no estaba comunicando adecuadamente el cambio de política.
AP
Desarrollarán IA para rehabilitar a pacientes neuromusculares
Científicos de España, Alemania, Brasil y Panamá trabajan en desarrollar un modelo neuromecánico basado en inteligencia artificial (IA) y personalizado para mejorar la rehabilitación de pacientes con afecciones motoras en la mano tras sufrir un ictus o una lesión medular.
El sistema de IA se realiza en el marco de un proyecto internacional liderado por el grupo de investigación Human Robotics (HURO) de la Universidad española de Alicante (UA).
El investigador de HURO y coordinador del proyecto, Andrés Úbeda, explicó que el objetivo de este trabajo es “proporcionar un sistema de IA que pueda monitorizar y ofrecer una intervención personalizada de rehabilitación de la mano basada en la cantidad de actividad eléctrica generada por los músculos”.
De forma complementaria a la terapia convencional, el proyecto, denominado Myorehab, implementa tecnologías punteras, como electromiografía de alta densidad, y actividades virtuales gamificadas para mejorar y monitorizar la rehabilitación en un gran número de pacientes.
Los tratamientos de rehabilitación de los trastornos neuromusculares varían según los centros clínicos y los sistemas sanitarios, “por lo que hace falta un modelo estandarizado que se puede replicar en cualquier país”, indicó Úbeda.
Una de las principales dificultades del tratamiento es poder hacer una evaluación cuantitativa de cómo el paciente mejora. Es en este punto donde el proyecto Myorehab ayudará tanto al profesional rehabilitador como al paciente a valorar el proceso completo desde el inicio de las sesiones.
“La meta de este proyecto es llegar a la fase de intervención clínica donde la terapia convencional se complementará con esta novedosa tecnología para mejorar la recuperación proporcionando a los pacientes actividades de rehabilitación más atractivas y eficaces. En concreto, desde la UA colaboraremos con pacientes afectados por ictus del Hospital General de Alicante”, según avanzó Úbeda.
El proyecto se dividirá en tres fases. En la de validación, la tecnología y los protocolos de rehabilitación se implementarán y probarán en individuos sanos.
En la de evaluación clínica, la tecnología se utilizará para extraer métricas clínicas útiles para readaptar las fisioterapias de manera más eficiente y efectiva. En la fase de intervención clínica, la fisioterapia convencional se complementará con esta novedosa tecnología para mejorar la recuperación al brindarles a los pacientes actividades de rehabilitación más atractivas y efectivas.
Este proyecto abordará diferentes afecciones motoras (accidente cerebrovascular y lesión de la médula espinal) para desarrollar una sólida red de investigación a largo plazo entre científicos europeos y latinoamericanos y proporcionar un marco transnacional para rehabilitación motora estandarizada.
Con una duración de tres años, hasta mediados del 2026, Myorehab reúne a instituciones de España, Alemania, Brasil y Panamá. Participan, además de la UA, la Universidad de Erlangen-Núremberg (FAU) de Alemania, la Universidad Tecnológica de Panamá (UTP), la Universidad Estatal de Campinas (UNICAMP) y la Universidad Federal de Pernambuco (UFPE), ambas de Brasil.
Myorehab cuenta con una asignación de más de 485 mil euros financiados a través de la 4ª convocatoria multitemática para proyectos de investigación e innovación 2022 del Grupo de Interés EU-LAC formado por agencias financiadoras de América Latina, Caribe y Europa. En el caso de España, la financiación parte del Ministerio de Ciencia, Innovación y Universidades.
El grupo de investigación de HURO, perteneciente al Departamento de Física, Ingeniería de Sistemas y Teoría de la Señal de la UA, se creó en 2018 para dar respuesta a los nuevos desafíos relacionados con el mundo de la robótica, un sector que requiere robots capaces de desarrollar sus tareas en entornos dinámicos y sociales.
Sus miembros, con gran experiencia en robótica y sistemas automatizados, trabajan principalmente en varias líneas de investigación: la robótica de rehabilitación, la neuromecánica, la robótica espacial, la visión y la inteligencia artificial y la realidad virtual y aumentada.
EFE
CT