WormGPT: una herramienta de piratería temática de ChatGPT utilizada para lanzar ataques cibernéticos

WormGPT, una herramienta basada en black-hat, ha sido lanzada recientemente por ciberdelincuentes y tiene el potencial de realizar varios ataques de ingeniería social, así como Business Email Compromise (BEC). Esta herramienta no tiene limitaciones en cuanto a su uso.

El uso de la IA generativa ha tenido un alcance notable en los últimos tiempos. Con el lanzamiento de ChatGPT en noviembre de 2022, se crearon y perfeccionaron varias herramientas de IA para múltiples propósitos. Sin embargo, llega un momento en el que se ha lanzado una nueva IA diseñada específicamente para Black Hats.

El compromiso de correo electrónico comercial, comúnmente conocido como fraude de CEO o caza de ballenas , ataca a las empresas haciéndose pasar por altos ejecutivos o socios confiables.

Ataques BEC revolucionados por WormGPT

Según los informes , los actores de amenazas han estado utilizando ChatGPT y otras herramientas basadas en inteligencia artificial para generar correos electrónicos maliciosos que parecen lo suficientemente legítimos como para convencer a un empleado de que brinde información confidencial.

En un foro de discusiones sobre ciberdelincuentes, ha habido evidencia de que los actores de amenazas confían en ChatGPT para redactar correos electrónicos BEC . Incluso los piratas informáticos con poca fluidez en otros idiomas pueden usar estos correos electrónicos generados por IA para realizar tales ataques.

Otra discusión mencionó “Jailbreaks” para herramientas como ChatGPT. Estas son indicaciones especialmente diseñadas que pueden hacer que ChatGPT brinde información confidencial más allá del alcance de su uso. Incluso puede proporcionar contenido inapropiado o generar código dañino.

WormGPT

WormGPT también se encontró en un foro de discusión de ciberdelincuentes, que se mencionó que estaba especialmente diseñado como una alternativa blackhat a otros GPT. Está diseñado con modelos de lenguaje GPTJ (Generative Pre-trained Transformer-J) con una variedad de características y capacidades de formato de código.

En un experimento realizado con WormGPT donde se le pidió generar un correo electrónico BEC para presionar a un administrador de cuentas por pagar una factura fraudulenta. Los resultados fueron extremadamente dañinos ya que generaron un correo electrónico convincente, sin errores gramaticales y persuasivo que convencería a cualquier empleado.

Se recomienda que las organizaciones capaciten a sus empleados sobre este tipo de correos electrónicos de phishing y cuenten con filtros de correo electrónico adecuados para prevenir tales ataques basados ​​en correo electrónico que generan IA.

Fuente: gb