Las noticias sobre modelos de inteligencia artificial que consiguen superar los límites de sus entornos de prueba (como el reciente caso de Kimi K3 que se suma a los de Claude o ChatGPT) han vuelto a poner el foco sobre una cuestión de ciberseguridad cada vez más relevante: los mecanismos de control de la IA.
Pero ¿qué significa esto realmente para una pyme? No que una IA vaya a escaparse de un laboratorio y atacar nuestra empresa. La preocupación es otra: qué ocurre si integramos IA en nuestro negocio y le damos acceso a información, aplicaciones o herramientas que sí son reales.
El riesgo está en lo que permitimos hacer a la IA
Si simplemente usas IA para redactar un correo, su margen de actuación es muy limitado. El escenario cambia cuando se convierte en un agente capaz de consultar documentos, acceder al correo electrónico, utilizar un CRM o interactuar con un programa de gestión.
Cuantos más recursos tenga, mayor es el impacto de un posible fallo o de un uso malicioso. Por ejemplo, un mensaje diseñado para engañar a una IA podría introducir instrucciones no previstas si el sistema no distingue adecuadamente entre los datos que debe procesar y las órdenes que debe seguir.
No hace falta una IA “salvaje”; basta con que un atacante aproveche una vulnerabilidad para conseguir que el sistema haga algo que no debería. Los recientes casos de LLM (large language models, en español «modelos lingüísticos de gran tamaño») que han superado los límites de sus entornos de prueba son una advertencia: la IA necesita límites y aislamiento adecuados, especialmente cuando tiene acceso a recursos empresariales.

¿Cómo reducir el riesgo sin renunciar a la IA?
Sí, se puede; la solución no es dejar de utilizar inteligencia artificial, sino integrarla con criterio y aplicar algunas reglas básicas.
La primera es limitar sus permisos: una IA debería poder acceder únicamente a aquello que realmente necesita para realizar su función. También conviene mantener supervisión humana cuando pueda ejecutar acciones sensibles, como modificar información, realizar operaciones económicas o enviar datos confidenciales.
Además, también es importante revisar cómo está conectada la IA con el resto de la infraestructura y qué información puede consultar o transmitir (cuestiones que quedan en segundo plano cuando se incorpora una nueva herramienta, pero que pueden tener consecuencias importantes).
Usar la IA no significa darle las llaves de la empresa… En CISO GUARDIAN ayudamos a las pymes a incorporar nuevas tecnologías sin perder de vista la seguridad.
