La plataforma de mercados de predicciones Kalshi ha admitido públicamente que utilizó inteligencia artificial para modificar el video de un hombre elegido al azar, convirtiéndolo en el presentador de un anuncio comercial y alterando su raza en el proceso. La revelación, que ha generado una fuerte controversia en redes sociales y en círculos tecnológicos, expone las prácticas éticamente cuestionables que están proliferando en la industria de la publicidad digital impulsada por IA.
Según la información publicada inicialmente por el medio especializado Futurism, Kalshi no solicitó permiso al individuo cuyo contenido audiovisual fue utilizado. La empresa simplemente tomó un video aleatorio de internet y aplicó modelos de inteligencia artificial para clonar su apariencia física, modificando características raciales para adaptar el anuncio a un público objetivo específico. El resultado fue una pieza publicitaria que, aparentemente, mostraba a una persona que no era quien realmente aparecía en el material original.
Este caso no es un incidente aislado en un vacío ético. Se enmarca en un momento de acelerada adopción de herramientas generativas de IA en el sector marketing, donde las empresas buscan reducir costos y acelerar la producción de contenido a toda costa. Plataformas como Runway, Synthesia y D-ID han popularizado la creación de avatares digitales y videos sintéticos, pero el uso de Kalshi lleva el concepto a un terreno mucho más problemático: la suplantación de identidad real sin autorización.
El problema central radica en la falta de consentimiento informado. El hombre cuyo video fue utilizado no solo fue objeto de una transformación tecnológica sin su conocimiento, sino que además se le alteró un rasgo étnico, lo que añade una dimensión racialmente sensible al caso. En un contexto donde la representación racial en los medios sigue siendo un tema candente y donde la industria publicitaria es criticada históricamente por apropiarse de identidades culturales, esta práctica representa un retroceso significativo en términos de respeto a la dignidad individual.
Desde el punto de vista legal, las implicaciones son igualmente preocupantes. En Estados Unidos, donde opera Kalshi, las leyes sobre derecho de imagen y propiedad intelectual varían por estado, pero en general capturar el rostro de una persona sin permiso para fines comerciales puede constituir una violación del derecho de publicidad. Además, la modificación racial asistida por IA podría entrar en conflicto con normativas antidiscriminatorias, aunque el marco regulatorio aún está muy rezagado respecto a la velocidad con la que avanza la tecnología.
Kalshi, fundada en 2018 por Tarek Mansour y Luana Lopes Lara, se ha posicionado como una de las principales plataformas de mercados de predicciones regulados por la CFTC en Estados Unidos. Su modelo de negocio permite a los usuarios apostar sobre eventos políticos, económicos y culturales, lo que la convierte en un actor relevante en el ecosistema fintech. Sin embargo, este incidente revela una cara menos transparente de sus operaciones de marketing, una práctica que contrasta con la imagen de rigor técnico que la empresa intenta proyectar.
El caso también pone en evidencia la urgente necesidad de regulación específica sobre el uso de IA generativa en contenido comercial. Mientras la Unión Europea avanza con la Ley de IA (AI Act) que incluye disposiciones sobre transparencia y consentimiento para contenido sintético, Estados Unidos aún carece de un marco federal integral. El episodio de Kalshi podría servir como catalizador para que legisladores y organismos reguladores actúen con mayor celeridad.
Para los profesionales del sector tecnológico y la publicidad, este caso debe leerse como una señal de alerta. La eficiencia que ofrece la IA no puede ni debe estar por encima del respeto a la autonomía individual y la dignidad humana. Las empresas que adopten estas tecnologías deben establecer protocolos claros de consentimiento, transparencia y rendición de cuentas. De lo contrario, no solo enfrentarán repercusiones legales, sino un daño reputacional que en la era digital se propaga con una velocidad difícil de contener.
El debate sobre los deepfakes y la IA generativa ha evolucionado rápidamente desde los primeros videos manipulados hace apenas unos años. Lo que antes parecía ciencia ficción hoy es una práctica comercial real, y casos como el de Kalshi demuestran que los límites éticos aún no han logrado ponerse al ritmo de la innovación tecnológica.
