El creciente uso de tecnologías de síntesis profunda, como el cambio de rostro y voz con inteligencia artificial (IA) está dando lugar a "un incremento en actividades ilegales como el fraude y la difamación", advirtió este miércoles la Sociedad de Internet de China (ISC, siglas en inglés).La ISC -que es una organización no gubernamental compuesta por 140 miembros de la industria china de Internet, incluidas empresas privadas, escuelas e institutos de investigación- destacó un caso de fraude en la red de telecomunicaciones destapado por autoridades en la ciudad de Mongolia, donde los perpetradores utilizaron tecnología de IA para sintetizar voces y cambiar rostros con el fin de cometer estafas.Los delincuentes usaron esta tecnología para falsificar la voz de una persona en concreto a través de la síntesis de sonido, cambiar rostros utilizando IA, pretender ser una persona específica y hacer videollamadas con otras personas en tiempo real, con el objetivo de ganarse la confianza de la víctima y cometer fraude, señaló la entidad en un comunicado.Ante este escenario, la ISC enfatizó en la importancia de adoptar medidas de seguridad personal frente a las nuevas formas de estafa que utilizan tecnología de IA, como proteger la información personal, evitar la descarga de software desconocido y gestionar cuidadosamente el círculo social en línea.También pidió "autodisciplina" en la industria y "trabajar en la prevención y gobernanza de las telecomunicaciones", y recomendó a las personas hacer múltiples verificaciones al realizar transferencias de dinero y no confiar únicamente en la comunicación por mensajes o llamadas telefónicas.El Ministerio de Industria y Tecnología de la Información de China (MIIT, siglas en inglés) anunció recientemente la creación de un comité y un grupo de expertos en ética de ciencia y tecnología, con el objetivo de establecer un sistema de administración único para abordar cuestiones éticas en el campo de la IA. La autoridad de ciberespacio de China emitió también un borrador de regulación de contenido para la IA, expresando su respaldo a la innovación y aplicación de algoritmos y marcos del sector, así como a la garantía de una competencia justa.En tanto, las plataformas de redes sociales chinas están marcando el contenido generado por IA para prevenir disputas y ayudar a los usuarios a distinguir entre elementos virtuales y reales, en una muestra más del férreo control ejercido por el gigante asiático en la red.El Gobierno chino manifestó a principios de año que continuaría brindando apoyo a la "industria estratégica emergente" de la inteligencia artificial para aprovechar sus beneficios, poniendo a ChatGPT como ejemplo de crecimiento.
