Riesgos que ya están aquí
La Universidad de la Experiencia nos ofrece para el viernes 7 a las 17:00 h, en el Salón de Ciento del Ayto., una conferencia sobre las vulnerabilidades de la inteligencia artificial (IA), a cargo de Francisco Rubio Damián, Doctor en Sociología y Máster en Seguridad Global y Defensa.
 |
| ESIC |
La inteligencia artificial promete transformar sectores enteros,
pero su desarrollo también abre la puerta a nuevas amenazas. Desde filtraciones
de datos hasta la generación de malware, expertos alertan de riesgos que ya
afectan a empresas y usuarios.
La base de muchos problemas está en los datos. Los sistemas
de IA se entrenan con grandes volúmenes de información, a menudo sensible, lo
que los expone a filtraciones o robos. Además, los atacantes pueden manipular
esos datos —lo que se conoce como “envenenamiento”— para alterar el
comportamiento del modelo o hacerlo incapaz de detectar amenazas reales.
A esto se suman los llamados ataques adversarios, con los
que los ciberdelincuentes estudian cómo funcionan los sistemas defensivos para
encontrar grietas, así como los sesgos derivados de datos de entrenamiento
incompletos o poco representativos. La falta de transparencia de muchos modelos
complica aún más la situación, ya que resulta difícil detectar errores o
decisiones injustas.
El desarrollo de herramientas capaces de generar código ha
añadido nuevos riesgos, como la creación automatizada de malware o los ataques
a la cadena de suministro cuando se emplean modelos de terceros. Los expertos
coinciden en que la clave está en proteger y validar los datos y, en muchos
casos, confiar en proveedores con garantías de seguridad para minimizar estas
amenazas.
FG / JACATIMES
0 Comentarios