La inteligencia artificial generativa, como ChatGPT, está transformando la forma en que compramos, pero también está generando nuevos riesgos. En un caso reciente, usuarios de la plataforma de inteligencia artificial recibieron recomendaciones personalizadas sobre bolsos de marcas reconocidas como Russell & Bromley, pero al seguir los enlaces, terminaron en sitios web falsos diseñados para engañar y estafarlos.
Este fenómeno, conocido como "AI poisoning", ocurre cuando los sistemas de inteligencia artificial son manipulados para generar contenido que promueve productos o servicios engañosos. En el caso de ChatGPT, los usuarios han reportado que al preguntar por productos específicos, la inteligencia artificial les recomienda marcas de lujo, pero al hacer clic en los enlaces, terminan en sitios web falsos que ofrecen productos de baja calidad o incluso roban datos personales.
El problema no es solo la falta de verificación por parte de los usuarios, sino también la falta de regulación y supervisión de estos sistemas de inteligencia artificial. Aunque las empresas tecnológicas afirman que están trabajando para mejorar la seguridad y la transparencia de sus algoritmos, el hecho es que los usuarios aún no están suficientemente protegidos contra estos riesgos.
Este caso resalta la importancia de la educación digital y la necesidad de que los usuarios sean más críticos y exigentes con la información que reciben de los sistemas de inteligencia artificial. Además, se plantean preguntas sobre la responsabilidad de las empresas tecnológicas en la prevención de estos tipos de estafas.
En un mundo cada vez más digital, donde la inteligencia artificial está presente en cada aspecto de nuestra vida, es crucial que se establezcan mecanismos de seguridad y transparencia para proteger a los usuarios de estos tipos de riesgos. La seguridad en línea no solo se trata de proteger nuestra privacidad, sino también de proteger nuestro dinero y nuestra confianza en los sistemas tecnológicos.
