El equipo \u00abFriendly Hackers\u00bb de Thales, l\u00edder mundial en protecci\u00f3n de datos y ciberseguridad, consigui\u00f3 superar el desaf\u00edo de la CAID1 organizado por el Ministerio de Defensa franc\u00e9s durante la quinta edici\u00f3n de la Semana Cibern\u00e9tica Europea, que se celebra en Francia del 21 al 23 de noviembre de 2023.<\/p>\n
El desaf\u00edo, el primero de este tipo organizado por el Ministerio de Defensa franc\u00e9s, ten\u00eda como finalidad evaluar hasta qu\u00e9 punto los equipos de hackers eran capaces de explotar ciertas vulnerabilidades intr\u00ednsecas de los modelos de IA.<\/p>\n
El trabajo de Thales en materia de seguridad y confianza en la IA concuerda con los requisitos tanto de la comunidad de defensa como de las organizaciones civiles, como son los proveedores de infraestructuras cr\u00edticas, que se enfrentan a los mismos problemas a la hora de proteger sus bancos de datos de formaci\u00f3n y su propiedad intelectual, y de garantizar que los resultados generados por la IA sean dignos de confianza para la toma de decisiones cr\u00edticas.
\nMEUDON, Francia–(BUSINESS WIRE)–El desaf\u00edo de seguridad de la IA del Ministerio de Defensa franc\u00e9s
\nLos participantes en este reto de la CAID tuvieron que realizar dos tareas:
\n1. En un conjunto dado de im\u00e1genes, determinar qu\u00e9 im\u00e1genes se utilizaron para entrenar el algoritmo de IA y cu\u00e1les para la prueba.
\nLas aplicaciones de reconocimiento de im\u00e1genes basadas en IA aprenden a partir de un gran n\u00famero de im\u00e1genes de entrenamiento. Al estudiar el funcionamiento interno del modelo de IA, el equipo \u00abFriendly Hackers\u00bb de Thales determin\u00f3 correctamente qu\u00e9 im\u00e1genes se hab\u00edan utilizado para crear la aplicaci\u00f3n, obteniendo informaci\u00f3n valiosa sobre los m\u00e9todos de entrenamiento empleados y la calidad del modelo.
\n2. Encontrar todas las im\u00e1genes sensibles de aeronaves utilizadas por un algoritmo de IA soberana que hab\u00edan sido protegidas mediante t\u00e9cnicas de \u00abdesaprendizaje\u00bb.
\nLa t\u00e9cnica del \u00abdesaprendizaje\u00bb consiste en borrar los datos utilizados para entrenar un modelo, como las im\u00e1genes, con el fin de preservar su confidencialidad. Dicha t\u00e9cnica puede utilizarse, por ejemplo, para proteger la soberan\u00eda de un algoritmo en caso de exportaci\u00f3n, robo o p\u00e9rdida. Por ejemplo, en el caso de un dron equipado con IA: debe ser capaz de reconocer cualquier avi\u00f3n enemigo como una amenaza potencial; en cambio, tendr\u00eda que aprender a identificar el modelo del avi\u00f3n de su propio ej\u00e9rcito como amistoso, y luego habr\u00eda que borrarlo mediante una t\u00e9cnica conocida como desaprendizaje. De este modo, aunque el dron fuera robado o se perdiera, los datos sensibles de la aeronave contenidos en el modelo de IA no podr\u00edan extraerse con fines maliciosos. Sin embargo, el equipo \u00abFriendly Hackers\u00bb de Thales consigui\u00f3 volver a identificar los datos que, supuestamente, se hab\u00edan borrado del modelo, lo que anula el proceso de desaprendizaje. Ejercicios como este ayudan a evaluar la vulnerabilidad de los datos de entrenamiento y los modelos entrenados, que son herramientas valiosas y pueden ofrecer un rendimiento excepcional, pero tambi\u00e9n representan nuevos vectores de ataque para las fuerzas armadas. Un ataque a los datos de entrenamiento o a los modelos entrenados podr\u00eda tener consecuencias catastr\u00f3ficas en un contexto militar, donde este tipo de informaci\u00f3n dar\u00eda grandes ventajas a un adversario. Los riesgos incluyen el robo de modelos, el robo de los datos utilizados para reconocer el hardware militar u otras caracter\u00edsticas en un teatro de operaciones, y la infecci\u00f3n con malware y puertas traseras para perjudicar el funcionamiento del sistema que utiliza la IA. Aunque la IA en general, y la IA generativa en particular, ofrece importantes ventajas operativas y dota al personal militar de herramientas de apoyo a la toma de decisiones con formaci\u00f3n intensiva para reducir su carga cognitiva, la comunidad encargada de la defensa nacional debe abordar con car\u00e1cter prioritario las nuevas amenazas que se ciernen sobre esta tecnolog\u00eda.
\nEl enfoque BattleBox de Thales para hacer frente a las vulnerabilidades de la IA
\nLa protecci\u00f3n de los datos de entrenamiento y de los modelos entrenados es fundamental a nivel de defensa. La ciberseguridad de la IA es cada vez m\u00e1s crucial, y necesita autonom\u00eda para frustrar las muchas nuevas oportunidades que el mundo de la IA est\u00e1 abriendo a quienes act\u00faan de forma maliciosa. En respuesta a los riesgos y amenazas que conlleva el uso de la inteligencia artificial, Thales ha desarrollado un conjunto de contramedidas denominado BattleBox para ofrecer una mayor protecci\u00f3n frente a posibles vulneraciones.<\/p>\n
BattleBox Training ofrece protecci\u00f3n contra el envenenamiento de datos de entrenamiento, lo que impide que los hackers introduzcan una puerta trasera.<\/p>\n
BattleBox IP marca digitalmente el modelo de IA para garantizar su autenticidad y confiabilidad.<\/p>\n
BattleBox Evade tiene como objetivo proteger a los modelos de los ataques de inyecci\u00f3n de mensajes, que pueden manipular indicaciones para eludir las medidas de seguridad de los \u00abchatbots\u00bb que utilizan Large Language Models (LLM), y contrarrestar los ataques adversarios a im\u00e1genes, como a\u00f1adir un parche para enga\u00f1ar al proceso de detecci\u00f3n en un modelo de clasificaci\u00f3n.<\/p>\n
BattleBox Privacy proporciona un marco para entrenar algoritmos de aprendizaje autom\u00e1tico, utilizando criptograf\u00eda avanzada y protocolos seguros de intercambio de secretos para garantizar altos niveles de confidencialidad.<\/p>\n
Para evitar el hackeo de la IA en el caso de las tareas de desaf\u00edo de la CAID, una de las soluciones que podr\u00edan aplicarse son contramedidas como el cifrado del modelo de IA.
\n\u00abLa IA aporta considerables beneficios operativos, pero requiere niveles elevados de seguridad y protecci\u00f3n de la ciberseguridad para evitar filtraciones de datos y usos indebidos. Thales implementa una amplia gama de soluciones basadas en IA para todo tipo de casos de uso civil y militar. Se pueden explicar, incorporar e integrar en sistemas cr\u00edticos robustos, y tambi\u00e9n est\u00e1n dise\u00f1adas para ser soberanas, austeras y confiables gracias a los m\u00e9todos y herramientas avanzados utilizados para su calificaci\u00f3n y validaci\u00f3n. Thales cuenta con la doble experiencia en IA y l\u00ednea de negocio necesaria para incorporar estas soluciones a sus sistemas y mejorar sus capacidades operativas de forma significativa\u00bb, declar\u00f3 David Sadek, vicepresidente de Investigaci\u00f3n, Tecnolog\u00eda e Innovaci\u00f3n de Thales a cargo de la Inteligencia Artificial.
\nThales y la IA
\nEn los \u00faltimos cuatro a\u00f1os, Thales ha desarrollado las capacidades t\u00e9cnicas necesarias para poner a prueba la seguridad de los algoritmos de IA y las arquitecturas de redes neuronales, detectar vulnerabilidades y proponer contramedidas eficaces. El equipo \u00abFriendly Hackers\u00bb de Thales, que trabaja desde el laboratorio ThereSIS de Palaiseau, formaba parte de la decena de equipos que participaron en el desaf\u00edo de IA, y logr\u00f3 el primer puesto en ambas tareas.
\nEl Centro de Evaluaci\u00f3n de la Seguridad de las Tecnolog\u00edas de la Informaci\u00f3n (Information Technology Security Evaluation Facility, ITSEF) de Thales est\u00e1 acreditado por la Agencia Nacional Francesa de Ciberseguridad (ANSSI) para realizar evaluaciones de seguridad previas a la certificaci\u00f3n. Durante la Semana Cibern\u00e9tica Europea, el equipo del ITSEF tambi\u00e9n present\u00f3 el primer proyecto de este tipo en el mundo destinado a comprometer las decisiones de una IA integrada explotando la radiaci\u00f3n electromagn\u00e9tica de su procesador.
\nLos equipos de consultor\u00eda y auditor\u00eda de ciberseguridad de Thales ponen estas herramientas y metodolog\u00edas a disposici\u00f3n de los clientes que quieran desarrollar sus propios modelos de IA o establecer un marco para el uso y entrenamiento de modelos comerciales.
\nDado que las actividades de defensa y seguridad del Grupo abordan requisitos cr\u00edticos, muchas veces con implicaciones para la seguridad de la vida humana, Thales ha desarrollado un marco \u00e9tico y cient\u00edfico para el desarrollo de IA de confianza basado en los cuatro pilares estrat\u00e9gicos de validez, seguridad, explicabilidad y responsabilidad. Las soluciones de Thales combinan los conocimientos de m\u00e1s de 300 expertos en IA y m\u00e1s de 4.500 especialistas en ciberseguridad con la experiencia operativa de las empresas aeroespaciales, de defensa terrestre, defensa naval, espacio y otras actividades de defensa y seguridad del Grupo.<\/p>\n
Acerca de Thales
\nThales (Euronext Paris: HO) es l\u00edder mundial en tecnolog\u00edas avanzadas en tres \u00e1mbitos: Defensa y Seguridad, Aeron\u00e1utica y Espacio, e Identidad Digital y Seguridad. Desarrolla productos y soluciones que contribuyen a que el mundo sea m\u00e1s seguro, m\u00e1s ecol\u00f3gico y m\u00e1s integrador.
\nEl Grupo invierte cerca de \u20ac4.000 millones al a\u00f1o en Investigaci\u00f3n y Desarrollo, especialmente en \u00e1reas clave como las tecnolog\u00edas cu\u00e1nticas, Edge computing, 6G y ciberseguridad.
\nThales tiene 77.000 empleados en 68 pa\u00edses. En 2022, el Grupo gener\u00f3 unas ventas de \u20ac17.600 millones.<\/p>\n
VISITE
\nThales GroupSeguridad
\n1 Conferencia sobre Inteligencia Artificial para la Defensa
\nEl texto original en el idioma fuente de este comunicado es la versi\u00f3n oficial autorizada. Las traducciones solo se suministran como adaptaci\u00f3n y deben cotejarse con el texto en el idioma fuente, que es la \u00fanica versi\u00f3n del texto que tendr\u00e1 un efecto legal. Contacts
\nCONTACTO DE PRENSAThales, Relaciones con la prensaSeguridad, ciberseguridad, IAMarion Bonnet
\nmarion.bonnet@thalesgroup.com<\/p>\n","protected":false},"excerpt":{"rendered":"
El equipo \u00abFriendly Hackers\u00bb de Thales, l\u00edder mundial en protecci\u00f3n de datos y ciberseguridad, consigui\u00f3 superar el desaf\u00edo de la CAID1 organizado por el Ministerio de Defensa franc\u00e9s durante la… <\/p>\n","protected":false},"author":2,"featured_media":35021,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"fifu_image_url":"","fifu_image_alt":"","footnotes":""},"categories":[252],"tags":[253],"class_list":["post-35020","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-business-wire","tag-business-wire"],"_links":{"self":[{"href":"https:\/\/elmundodelosnegocios.com.do\/v1\/wp-json\/wp\/v2\/posts\/35020","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/elmundodelosnegocios.com.do\/v1\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/elmundodelosnegocios.com.do\/v1\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/elmundodelosnegocios.com.do\/v1\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/elmundodelosnegocios.com.do\/v1\/wp-json\/wp\/v2\/comments?post=35020"}],"version-history":[{"count":0,"href":"https:\/\/elmundodelosnegocios.com.do\/v1\/wp-json\/wp\/v2\/posts\/35020\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/elmundodelosnegocios.com.do\/v1\/wp-json\/wp\/v2\/media\/35021"}],"wp:attachment":[{"href":"https:\/\/elmundodelosnegocios.com.do\/v1\/wp-json\/wp\/v2\/media?parent=35020"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/elmundodelosnegocios.com.do\/v1\/wp-json\/wp\/v2\/categories?post=35020"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/elmundodelosnegocios.com.do\/v1\/wp-json\/wp\/v2\/tags?post=35020"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}