Riesgos de seguridad informática vinculados a la integración de tecnologías de Inteligencia Artificial en empresas
La tecnología de Inteligencia Artificial (IA) ha experimentado un aumento significativo en los últimos años, especialmente con la aparición de aplicaciones como ChatGPT y Gemini que son de fácil acceso, lo que ha facilitado su incorporación en diversos entornos laborales para agilizar procesos y tareas.
Al utilizar esta tecnología, no solo se obtienen beneficios, sino que también hay riesgos en materia de seguridad de la información, tanto a nivel personal como organizacional. Desde la Práctica de Identidades Digitales de SISAP, José Amado señala que “la tecnología nos brinda acceso a un mundo de posibilidades, pero también puede exponer nuestra información personal y empresarial a vulnerabilidades”.
Uno de los mayores riesgos al emplear aplicaciones de Inteligencia Artificial radica en la incertidumbre sobre el manejo de datos privados. Por ejemplo, ChatGPT requiere una gran cantidad de información para su funcionamiento, misma que se proporciona al usar la aplicación y se almacena en una nube externa, fuera de nuestro control.
En el escenario donde un colaborador delega a ChatGPT la elaboración de un resumen de un informe ejecutivo, se le otorga acceso total al informe, datos de la empresa, entre otros, los cuales quedan almacenados en la nube sin certeza de quién puede acceder a ellos.
Estas preocupaciones en torno a la privacidad deben ser consideradas por las organizaciones antes de implementar la Inteligencia Artificial. Una vez que se comparten datos con estas aplicaciones, no se pueden eliminar ni recuperar, por lo que resulta vital capacitar a los colaboradores sobre el uso de estas tecnologías para evitar compartir información sensible o confidencial.
Creación de aplicaciones a través de Inteligencia Artificial y su vulnerabilidad
La Inteligencia Artificial ha posibilitado la automatización de tareas de programación, como la generación de código fuente para nuevas aplicaciones y sitios web, lo que simplifica el trabajo de programadores y personas con poca experiencia en programación. Más del 65% de las aplicaciones están siendo desarrolladas mediante Inteligencia Artificial.
Sin embargo, una preocupación planteada por expertos es que la Inteligencia Artificial tiende a generar un código similar o idéntico para distintos usuarios, lo que significa que múltiples organizaciones podrían estar utilizando prácticamente el mismo software o aplicación, incrementando así la vulnerabilidad ante ciberataques.
El uso generalizado de la Inteligencia Artificial en la generación de códigos aumenta el riesgo de compartir vulnerabilidades entre distintas entidades, facilitando el acceso a ciberdelincuentes. Por ello, José Amado sugiere que las organizaciones eviten usar la IA para crear códigos y opten por métodos convencionales que, aunque más lentos, ofrecen una mayor seguridad a largo plazo.
Los aspectos negativos de las aplicaciones de Inteligencia Artificial
A pesar de que aplicaciones como ChatGPT y Gemini buscan simplificar las labores diarias de las personas, existen también aplicaciones con propósitos maliciosos que buscan mejorar los métodos de ataque de los cibercriminales y pasar desapercibidos.
Por ejemplo, existen GPTs maliciosos como WormGPT, FraudGPT y PoisonGPT, que pueden realizar desde la redacción de correos creíbles de phishing hasta el diseño de código para programas malignos que extraen información sensible. La presencia de estas aplicaciones incrementa el riesgo de ataques cibernéticos y de ser víctimas de ransomware para las organizaciones.
Es fundamental estar informado sobre estas aplicaciones para reducir los riesgos de sufrir ataques informáticos. En caso de utilizar Inteligencia Artificial para programar aplicaciones o si los colaboradores hacen uso de apps como Chat GPT, se recomienda buscar el apoyo de empresas especializadas en ciberseguridad, como SISAP, para analizar las vulnerabilidades y fortalecer las defensas contra posibles ataques.
Más información: Inteligencia artificial
Desde su fundación en 1985 en Guatemala, SISAP se ha posicionado como líder en el mercado de Tecnología y Seguridad de la Información en 10 países de la región. Con un amplio catálogo de servicios y soluciones centradas en la seguridad de la información, y más de 1000 certificaciones que respaldan la calidad de sus servicios, SISAP cuenta con más de 39 años de experiencia en la provisión de soluciones de seguridad a clientes en Latinoamérica, respaldados por una plantilla de más de 400 empleados, laboratorios forenses, una academia de ciberseguridad, más de 100 marcas aliadas y múltiples oficinas regionales ubicadas en distintos países.