Europol advierte riesgos de ChatGPT para uso criminal

Planean regulaciones y controles más estrictos a los desarrolladores de esta tecnología.

Desde fines de 2022, venimos experimentando cambios revolucionarios en materia de Inteligencia Artificial, sin embargo, en las últimas semanas se ha levantado una alarma en torno a ChatGPT, una herramienta de inteligencia artificial creada por la compañía OpenAI, que tiene no solo la capacidad de generar textos realistas a gran velocidad; sino de reconocer y traducir imágenes en distintos formatos.

La esencia multimodal de esta AI, ha sido entrenada para mantener conversaciones con cualquier persona de manera natural, permitiendo una interacción de mayor precisión y exactitud a través de preguntas y respuestas, esto debido a la gran capacidad de datos que posee en comparación con su versión anterior.

Sin embargo, la poderosa herramienta ha generado tal preocupación en distintos gobiernos, que se han permitido levantar alarmas sobre el uso criminal que se le pueda dar a este tipo de avances tecnológicos.

Ciberdelincuencia en aumento tras publicación de ChatGPT

Frente a esto, la Agencia de la Unión Europea para la Cooperación Policial Europol, órgano encargado de facilitar las operaciones de lucha contra la delincuencia en la Unión Europea, advirtió al mundo que esta misma semana se está usando este chatbot para hacer phishing y ciberdelincuencia.

"A medida que se mejoran activamente las capacidades de los LLM (modelos de lenguaje extenso) como ChatGPT, la posible explotación de este tipo de sistemas de inteligencia artificial por parte de los delincuentes ofrece una perspectiva sombría. La capacidad de ChatGPT para redactar textos muy realistas lo convierte en una herramienta útil para fines de phishing. Con su capacidad para reproducir patrones de lenguaje para suplantar el estilo de habla de individuos o grupos específicos, los delincuentes podrían usar el chatbot para atacar a las víctimas", dicen las autoridades, afirmando que son conscientes del problema y que hay que andarse con cuidado para no caer en ninguna trampa.

Según el análisis, Europol realizó una lista de delitos en los que esta inteligencia artificial podría ser un aliado y en las que se incluyen el fraude, la suplantación de identidad, hackeos, terrorismo, propaganda, fake news e incluso crímenes que requieren control estricto.

Aunque ChatGPT desde un principio advirtió las brechas éticas de la herramienta, expertos aseguran que los riesgos comenzaron desde que usuarios comenzaron a pedirle a el aprender a cómo cometer delitos y pedirle orientación para llevarlos a cabo paso a paso.

La IA se regula en Chile

A fines de octubre de 2021, Chile definió sus lineamientos en materia de Inteligencia Artificial para los próximos diez años. Un plan focalizado por el Ministerio de Ciencia, Conocimiento, Tecnología e Innovación que tiene por objetivo insertar al país en temas de vanguardia, y que reúne 70 acciones prioritarias y 185 iniciativas desde distintos servicios públicos centradas en aspectos sociales, económicos.

No cabe duda que esta es una tecnología que ha venido a revolucionar la forma en la que se percibe e interactua con nuestra realidad. Realidad que, al menos desde la perspectiva regulatoria, no ha dado los pasos firmes para intentar comprender este nuevo fenómeno.