{"id":54223,"date":"2024-09-02T13:37:42","date_gmt":"2024-09-02T18:07:42","guid":{"rendered":"https:\/\/www.elmundodelosnegocios.com.do\/v1\/?p=54223"},"modified":"2024-09-02T13:37:42","modified_gmt":"2024-09-02T18:07:42","slug":"el-lado-oscuro-de-la-ia-crece-deepfakes-y-clonacion-de-voz-en-ciberataques","status":"publish","type":"post","link":"https:\/\/elmundodelosnegocios.com.do\/v1\/el-lado-oscuro-de-la-ia-crece-deepfakes-y-clonacion-de-voz-en-ciberataques\/","title":{"rendered":"El lado oscuro de la IA: crece deepfakes y clonaci\u00f3n de voz en ciberataques"},"content":{"rendered":"
\n
\n
\n
\n
\n
\n

Kaspersky detect\u00f3 que existe una alta demanda de contenido multimedia falso, convincente y de alta calidad, en el mercado negro de la web.<\/strong><\/p>\n<\/div>\n

\n

En el \u00faltimo a\u00f1o, la generaci\u00f3n de contenido falso o\u00a0deepfakes<\/em>\u00a0ha experimentado un gran desarrollo. Ya no solo se trata de fotos y videos alterados con Inteligencia Artificial (IA), sino de una tecnolog\u00eda mucho m\u00e1s madura que ahora est\u00e1 apuntando a la falsificaci\u00f3n de voz, tambi\u00e9n conocida como\u00a0deepvoice<\/em>. Los expertos de Kaspersky alertan que estas innovaciones ya son utilizadas para evadir controles de seguridad, por ejemplo, aprovechando datos biom\u00e9tricos vulnerados; as\u00ed como para manipular informaci\u00f3n en l\u00ednea y cometer otros ataques cibern\u00e9ticos. Esto ha provocado el crecimiento del mercado negro de los\u00a0deepfakes<\/em>, donde el costo del contenido puede oscilar entre $300 a $20,000 d\u00f3lares por minuto, dependiendo su calidad y complejidad.<\/p>\n

De acuerdo con\u00a0Isabel Manjarrez, Investigadora de seguridad del Equipo Global de Investigaci\u00f3n y An\u00e1lisis de Kaspersky<\/strong>, los avances en la Inteligencia Artificial Generativa y el aprendizaje autom\u00e1tico han propiciado la creaci\u00f3n de contenido multimedia falso cada vez m\u00e1s realista, ya que son tecnolog\u00edas con la capacidad de aprender a partir de datos no estructurados, como el rostro o los movimientos humanos. Para crear\u00a0deepfakes<\/em>, la red generativa puede entrenarse con fotos reales de una persona y as\u00ed generar un n\u00famero infinito de im\u00e1genes convincentes de ella para integrarlas en un video.<\/p>\n

Estas mismas t\u00e9cnicas de aprendizaje autom\u00e1tico pueden emplearse para desarrollar contenidos de voz artificial y, mientras la tecnolog\u00eda siga expandi\u00e9ndose, podr\u00eda ser explotada por los estafadores para crear contenidos enga\u00f1osos de audio a\u00fan m\u00e1s accesibles; lamentablemente, las personas cuyas muestras de voz o video est\u00e1n disponibles en Internet, como celebridades y figuras p\u00fablicas, pueden ser m\u00e1s propensas a ser v\u00edctimas de suplantaci\u00f3n. Ya que se prev\u00e9 que su evoluci\u00f3n contin\u00fae, los\u00a0deepfakes<\/em>\u00a0ya\u00a0se han catalogado<\/a>\u00a0como uno de los usos m\u00e1s preocupantes de la Inteligencia Artificial.<\/p>\n

Y es que, mientras se han encontrado beneficios para ciertos campos, por ejemplo el de marketing, con nuevas herramientas de IA\u00a0como la de TikTok<\/a>, que permitir\u00e1 a marcas y creadores generar\u00a0avatares de personas reales para producir anuncios en m\u00faltiples idiomas, el uso de\u00a0deepfakes<\/em>\u00a0con prop\u00f3sitos maliciosos ha perjudicado a otros sectores, incluido el bancario. Por ejemplo, la suplantaci\u00f3n de identidad con\u00a0deepfakes<\/em>\u00a0ha jugado un papel importante en fraudes financieros con t\u00e1cticas y aplicaciones capaces de eludir los mecanismos de verificaci\u00f3n biom\u00e9trica, empleados ya por distintas entidades financieras, permitiendo a los atacantes obtener acceso no autorizado a cuentas bancarias e informaci\u00f3n confidencial.<\/p>\n

A pesar de disponer abiertamente de herramientas de creaci\u00f3n de\u00a0deepfakes<\/em>, los delincuentes buscan creadores que puedan producir contenido realista, de alta calidad e incluso en tiempo real, dado que simular movimientos, expresiones faciales o voces de manera fluida y natural es un reto para los algoritmos que deben capturar y reproducir detalles muy espec\u00edficos. Por eso, existe un mercado espec\u00edfico de\u00a0deepfakes<\/em>\u00a0en la\u00a0Darknet<\/em>, donde criminales ofrecen servicios para crear contenido falso y hasta tutoriales con consejos sobre c\u00f3mo seleccionar el material de origen o c\u00f3mo intercambiar rostros y voces para generar una falsificaci\u00f3n convincente.<\/p>\n

La experta explica que la demanda de\u00a0deepfakes<\/em>\u00a0en este mercado es tan alta que supera la oferta existente, por lo que en el futuro cercano es probable que se registre un aumento a\u00fan m\u00e1s significativo en los incidentes relacionados con contenido falso\u00a0de alta calidad. Esto representa un verdadero riesgo para el panorama de ciberseguridad pues,\u00a0de acuerdo a cifras de Kaspersky<\/a>, m\u00e1s de la mitad de los usuarios en Am\u00e9rica Latina no sabe qu\u00e9 es un\u00a0deepfake<\/em>.<\/p>\n

\u201c<\/em>La exposici\u00f3n de datos personales sensibles en l\u00ednea, como im\u00e1genes del rostro o audios, implica un reto significativo para proteger esta informaci\u00f3n contra accesos no autorizados y un uso malintencionado para crear contenido falso o suplantar la identidad de otras personas. Esto puede causar da\u00f1o material o monetario, as\u00ed como un impacto psicol\u00f3gico y de reputaci\u00f3n para las v\u00edctimas. Por eso, es esencial establecer pautas y est\u00e1ndares claros para la creaci\u00f3n y el uso de deepfakes, garantizando la transparencia y responsabilidad en su implementaci\u00f3n. No hay que temer a l<\/em>a IA, es una herramienta con un gran potencial, pero depende del ser humano hacer un uso \u00e9tico de ella\u201d,\u00a0<\/em>concluy\u00f3\u00a0Isabel Manjarrez<\/strong>.<\/em><\/p>\n

Kaspersky comparte algunas caracter\u00edsticas que pueden ayudar a identificar un\u00a0deepfake<\/em>:<\/p>\n