Meta y su nueva herramienta de reconocimiento facial para combatir anuncios fraudulentos

Meta ha lanzado una innovadora herramienta de reconocimiento facial que promete combatir la difusión de anuncios fraudulentos que utilizan imágenes de celebridades en el Reino Unido, la Unión Europea y Corea del Sur. Esta iniciativa, dirigida por David Agranovich, director de amenazas cibernéticas de la compañía, permitirá a los usuarios de estas regiones recibir notificaciones en las próximas semanas, dándoles la opción de activar la función de protección denominada «celeb-bait».

Protección contra el uso indebido de imágenes de figuras públicas

Agranovich declaró que esta herramienta es esencial para identificar el uso inapropiado de imágenes de celebridades, incluso cuando se emplea inteligencia artificial generativa. Una vez que una celebridad actúe habilitando esta función, la herramienta realizará un escaneo de su foto de perfil y la comparará con rostros que aparezcan en anuncios sospechosos. Si se confirma el uso indebido, dichos anuncios serán automáticamente bloqueados.

El peligro de los anuncios falsos

La implementación de esta herramienta se vuelve crucial ante el creciente número de estafas que utilizan las imágenes de personalidades públicas para atraer a los usuarios. En enero, se conoció el caso de una mujer francesa de 53 años que perdió sus ahorros tras creer que mantenía una relación amorosa virtual con un «Brad Pitt falso», diseñado con IA. La víctima, identificada como Anne, reveló a TF1 que fue contactada a través de Instagram, donde había compartido fotos esquiando. Finalmente, la abogada de Anne, Laurène Hanna, mencionó que su cliente había perdido alrededor de 830,000 euros.

Casos alarmantes de fraude en línea

Otro caso impactante ocurrió en Shanghai, donde un hombre fue engañado por una novia falsa creada digitalmente a través de IA, resultando en una pérdida de más de 27,000 dólares. Los estafadores incluso generaron documentos médicos falsos para ganar la confianza de la víctima.

Aunque en México estos fraudes no han alcanzado la misma magnitud, las autoridades están comenzando a advertir a la población sobre el aumento de estas estafas. La Comisión Nacional para la Protección y Defensa de los Usuarios de Servicios Financieros (Condusef) ha destacado que estos engaños son cada vez más comunes.

Reconociendo deepfakes

Una investigación de iProov revela que la mayoría de las personas no pueden identificar adecuadamente los deepfakes. De 2,000 consumidores en el Reino Unido y Estados Unidos, solo un 0.1% pudo distinguir el contenido verdadero del falso. Las personas mayores son especialmente vulnerables, destacando que un 39% de los mayores de 65 años jamás había oído hablar de los deepfakes, lo que pone de manifiesto la brecha de conocimiento en este grupo.

Meta no solo se ocupa de combatir anuncios engañosos, sino que también ha decidido integrar el reconocimiento facial en sus herramientas de recuperación de cuentas. Los usuarios tendrán la opción de verificar su identidad grabando un breve video en caso de que su cuenta esté bloqueada.

Enfoque en la privacidad

La compañía de tecnología ha asegurado que los datos faciales se utilizarán únicamente para el proceso de verificación de cuentas y serán eliminados de inmediato. Aunque había suspendido su sistema de reconocimiento facial en 2021 por problemas de privacidad, Meta ha confirmado que su reintroducción está alineada con las regulaciones europeas de protección de datos.

Sin duda, la introducción de esta herramienta de reconocimiento facial es un paso adelante en la lucha contra el fraude digital y representa un esfuerzo significativo por parte de Meta para proteger a los usuarios y las imágenes de las celebridades de un uso inapropiado. Con la evolución constante de la tecnología, es vital que tanto las plataformas como los usuarios estén alerta frente a estas nuevas formas de estafa.