Los 10 pros y las 10 contras de ChatGPT (según Prosegur)

Teniendo en cuenta el rápido avance de estas tendencias, Prosegur Research, el Insight&trends center de Prosegur, ha analizado las implicaciones de ChatGPT desde la perspectiva de la seguridad y ha identificado los principales riesgos y oportunidades que se abren con su aplicación a diferentes ámbitos.

Image description

A lo largo de estos últimos meses se ha popularizado enormemente el uso de ChatGPT, uno de los últimos desarrollos de inteligencia que se ha puesto a disposición del público en general, motivando gran curiosidad y debate. Se trata de una forma de aprendizaje automática basada en modelos de lenguaje, capaz de generar contenido nuevo en cualquier formato (texto, imagen, video, voz, código). Pero este tipo de avances no es nuevo. Hace unas semanas, Microsoft presentó su propuesta de Bing con IA (Inteligencia Artificial), cuya potencialidad, de hecho, es mucho mayor que la de ChatGPT y en breve se espera el lanzamiento de Bard, la solución de Google. Junto a ellas, están proliferando multitud de propuestas que no se limitan a ofrecer resultados textuales basados en modelos de lenguaje, sino a la generación y combinación de cualquier tipo de contenido.

En virtud de todo esto, Prosegur Research, el Insight&trends center de Prosegur, ha analizado las implicaciones de ChatGPT desde la perspectiva de la seguridad y ha identificado los principales riesgos y oportunidades que se abren con su aplicación a diferentes ámbitos.

Los 10 principales riesgos

Polarización social: las IA generativas, dada su capacidad de producir contenidos multimedia, pueden ser utilizadas para difundir mensajes de odio o discriminación, así como mensajes de carácter radical o extremista.

Phishing: generación automatizada de correos de apariencia real con objeto de engañar a usuarios a efectos de acceder a información confidencial o a los sistemas informáticos. Hay que tener en cuenta que las IA generativas redactan con gran calidad, lo que invalida las sospechas que sí puede despertar un phishing con baja calidad.

Desinformación: a través de la generación de noticias falsas se trata de influir en la opinión pública, dañar la cohesión social o afectar a procesos electorales.

Doxing: la desinformación también es susceptible de afectar a empresas y organizaciones con la difusión de bulos, informaciones sesgadas, la creación de falsos perfiles laborales, o la manipulación de documentos para dañar la credibilidad de las organizaciones.

Fuga de información y robo de datos: empresas como Amazon o Google han alertado a sus empleados sobre los riesgos de compartir información sobre la empresa en ChatGPT y aplicaciones similares, que posteriormente pudiera ser desvelada en las respuestas que ofrece a usuarios.

Fraudes y estafas: son tipologías delictivas que están creciendo durante estos últimos años. Los fraudes tradicionales, existentes en todos los sectores económicos, son potenciados por el uso de internet, redes sociales y nuevas tecnologías. Las IA generativas pueden contribuir a diseñar fraudes con mucha más calidad, así como a perfilar objetivos.

Generación de chatbots maliciosos con objetivos delictivos: pueden interactuar con individuos para la obtención de información sensible o fines ilícitos económicos.

Suplantaciones de identidad: mediante la utilización de las denominadas “deep fakes” y la capacidad de la IA para generar textos imágenes, videos e incluso, simular la voz.

Generación de código malicioso (virus, troyanos, malware, ransomware, spyware): el objetivo es cometer ciberdelitos de diferente naturaleza.

Lucha de poder geopolítico y geoeconómico: en un contexto de poderes difusos y fragmentados, el liderazgo ya no solo se mide por la capacidad económica, la diplomática o la militar. Ya en el año 2017, Vladimir Putin señaló que quien dominara la IA dominaría el mundo.

Más allá de esto, la tecnología, como gran factor de cambio de nuestras sociedades, generalmente no nace orientada hacia un uso malicioso. Por este motivo, Prosegur Research también ha querido analizar las oportunidades de ChatGPT.

Los 10 principales pros

Automatización de tareas rutinarias en funciones de seguridad: podría potenciar las competencias más humanas y facilitar el bienestar de los empleados al eliminar tareas repetitivas y tediosas.

Generación de chatbots atractivos: con un perfil más amable y humano, para mejorar la interacción con clientes y con otras personas.

Acceso a infinitas cantidades de información de interés: en este caso, se potencian las capacidades de inteligencia de fuentes abiertas (OSINT), siendo siempre conscientes de la criticidad de evaluar la fiabilidad de las fuentes y la credibilidad de la información.

En análisis de riesgos: puede apoyar la detección y catalogación de riesgos para las organizaciones.

Reconocimiento de patrones: el valor no estaría únicamente en el patrón, sino en la anomalía, es decir, aquello que se sale de lo habitual y puede contribuir a generar una señal débil o una alerta temprana.

Generación de hipótesis, la identificación de tendencias y la construcción de escenarios en seguridad: aunque la IA no puede sustituir la creatividad humana sí puede resultar un complemento interesante para pensar fuera de la caja.

Estructuración de recomendaciones en cuestiones de seguridad: desde cómo defenderse de un ciberataque hasta qué medidas de seguridad adoptar previamente o durante un viaje. No sustituye de ninguna manera la labor de un analista de seguridad internacional, pero apoya algunas tareas.

Analítica predictiva: puede facilitar ciertas predicciones, con sus probabilidades asociadas, en base a la ingente cantidad de datos en que se basa.

Apoyar la detección de phishing: probar y testar códigos, identificar vulnerabilidades, generar contraseñas seguras, o simular conversaciones con actores adversarios o incluso con potenciales objetivos para poder anticipar sus acciones.

Aprendizaje: las IA generativas pueden ser un primer punto para el aprendizaje sobre cuestiones vinculadas a seguridad, sobre tecnologías, sobre riesgos. Especialmente serán de interés en la medida en que faciliten fuentes y estas sean cada vez más refinadas.

Tu opinión enriquece este artículo:

En los mejores atardeceres de UY (con US$ 6 millones de inversión nace Grutas de la Ballena Village)

Hacia fines de 2024 contamos la primicia del lanzamiento de una nueva firma uruguaya que salía al mercado de los desarrollos inmobiliarios: Grupo Latorre, una empresa que ya tiene en marcha –con un total de US$ 10 millones de inversión– dos proyectos muy ambiciosos, uno en Maldonado y otro en Montevideo. Ahora, Laura Latorre, presidenta del grupo, adelantó a InfoNegocios un nuevo proyecto: Grutas de la Ballena Village, un exclusivo barrio privado sobre Ruta 10, precisamente en Punta Ballena, un lugar de puestas de sol únicas.

No es sapo de otro pozo: Frog ya prepara desembarco en esquina del corazón del Prado

La cadena de supermercados Frog prevé plantar bandera en uno de los barrios en los que aún no tiene presencia directa, como el Prado. Hoy, su local más próximo es el de Bulevar Artigas y Ramón Márquez, en la vecina Atahualpa, pero a partir del crecimiento notorio que está ostentando el "barrio verde" de Montevideo, con nuevas construcciones, la empresa le puso el ojo y prepara la apertura.

Almorzamos con Matías Devoto, director de Frog

Almorzar juntos es un placer y también una oportunidad para fortalecer vínculos personales y profesionales en un entorno distendido, donde las ideas fluyen y la confianza se construye. En InfoNegocios creemos en el poder de la conexión para potenciar empresas, y por eso impulsamos estos encuentros desde hace más de 15 años. Hoy te mostramos algo de lo que compartió con nosotros Matías Devoto, director de Frog, durante un almuerzo en el exclusivo restaurante 1921, del hotel Sofitel Montevideo Carrasco.

Seguro Americano y Club Biguá sellan una alianza como socios  estratégicos

(In Content) Seguro Americano, un servicio de Sanatorio  Americano Coop, y el Club Biguá de Villa Biarritz, dos instituciones con una sólida trayectoria en el país han concretado un acuerdo comercial que los une  en calidad de socios estratégicos. Esta alianza representa un paso natural para  ambas organizaciones, que comparten un profundo compromiso con el cuidado,  la salud y el bienestar de las personas. 

El m2 más caro de Latinoamérica lo tiene… (Montevideo con US$ 3.330)

Cada seis meses el Centro de Investigación en Finanzas de la Universidad Torcuato Di Tella lleva adelante su informe RIALRelevamiento Inmobiliario de América Latina– en conjunto con Zonaprop, dando como principales resultados que el m2 en América Latina sube en el semestre 1% en dólares y baja 2% en moneda local real. ¿Cómo se sitúa Montevideo en el estudio? Como era de esperar: con el m2 más caro de la región.

Almorzamos con Paula Cagiao, CEO de Vopero

Almorzar juntos es un placer y también una oportunidad para fortalecer vínculos personales y profesionales en un entorno distendido, donde las ideas fluyen y la confianza se construye. En InfoNegocios creemos en el poder de la conexión para potenciar empresas, y por eso impulsamos estos encuentros desde hace más de 15 años. Hoy te mostramos algo de lo que compartió con nosotros Paula Cagiao, CEO de Vopero, durante un almuerzo en el exclusivo restaurante 1921, del hotel Sofitel Montevideo Carrasco.